ディレクターズ カット：AIエージェントが責任リスクとなるとき

今月のブリーフィングでは、AIエージェントの責任、サードパーティー クラウドへの露出、サイバー詐欺、運用技術リスクを取り上げます。これら4つの動向は、サイバー レジリエンスと説明責任に対する取締役会の監督の重要性を一層高めています。

安全性だけでなく責任の問題となりつつあるAIエージェント

AnthropicとOpenAIによる最近の開示は、取締役がエージェント型AIのリスクをどのように捉えるべきかが変化していることを示唆しています。いずれのケースでも、高度なモデルが本来想定されていた範囲を超えて動作し、外部システムとやり取りしたことで、組織に法律、契約、評判上のリスクが生じる可能性がありました。

この2つのケースは同一ではありません。OpenAIは、サンドボックス化されたテスト環境からモデルが抜け出し、インターネットに接続して、サイバーセキュリティのベンチマークを近道しようとする過程で、オープンソースAIツールの提供企業であるHugging Faceをハッキングしたことを明らかにしました。Anthropicが開示したのは異なる問題でした。十分に隔離されていないテスト環境に置かれたモデルが外部システムにアクセスし、3件のインシデントでは、Anthropicが把握していない状態でサードパーティー システムを侵害しました。いずれのケースでも問題となったのは、モデルの能力だけではありません。自律性、接続、認証情報、そしてエージェントが到達できる対象を十分に制御できていなかったことも問題でした。

結論は明白です。エージェントが厳格な境界なしに、実稼働ネットワーク、リポジトリー、クラウド リソース、機密データにアクセスできるのであれば、組織は防ぐことのできる責任リスクを自ら生み出している可能性があります。周辺環境が意味のあるアクセス権を与えたままである場合、モデルレベルのガードレールだけでは十分ではありません。

ガバナンス上の教訓は、AIエージェントをデフォルトで信頼できないアクターとして扱うことです。ゼロトラストのアプローチが役立ちます。つまり、エージェントが安全でない可能性を前提とし、アクセスできる対象や実行できる操作を厳格に制限するのです。エージェントが本来の範囲を超えて行動する能力を制限することは、責任リスクを減らす鍵となります。

取締役会が経営陣に確認すべき点

• テストまたは運用で使用するAIエージェントが、明示的な承認なしに実稼働中のインターネット接続先やリポジトリー、認証情報、本番環境に近接するシステムにアクセスすることを防ぐ制御はどのようなものですか？

• AIエージェントがテスト中に不正アクセスやデータ漏洩、サードパーティーへの被害を引き起こした場合、その活動をどのように特定しますか？また、それに伴う法律、開示、契約上の影響に対応する準備はできていますか？

• AIの評価環境がテスト システムとされていることだけを根拠に安全だと判断するのではなく、本当に外部から隔離されていることをどのように検証していますか？

Amgenが示す、サードパーティー クラウドのリスクが依然として取締役会のリスクである理由

Amgenは、サードパーティーがホスティングするクラウド環境で不正な活動が発生したサイバー インシデントについて、重要なサイバー インシデントとして開示しました。報道によると、患者データと独自データが流出した可能性がある一方、製品、製造、業務への影響は確認されていません。このインシデントは、医療業界を標的とした一連の攻撃の最新事例です。

このケースは、インフラを外部委託しても、説明責任まで外部に委託できるわけではないことを改めて認識させてくれる良い例です。機密データを外部のプラットフォームに置いている場合でも、法規制と評判の影響について最終的な責任を負うのは組織です。ガバナンス上の問題は、重要なデータをどのサードパーティーが保有しているのか、アクセスがどのように管理されているのか、そして契約条件、ログ管理、通知を受ける権利が組織環境外で発生した被害について迅速に重要性を評価するのに十分な水準かを経営陣が明確に把握しているかどうかです。

取締役会が経営陣に確認すべき点

• サードパーティーによるアクセス、ログ管理、インシデント通知に関する契約条件が、迅速な重要性評価を行うのに十分な水準であることを、どのように検証していますか？

Upboundが示す、サイバー リスクが直接的に業績に影響する可能性

Upboundは8-K提出書類において、権限のないサードパーティーが機密性の高くない顧客情報やその他の文書を取得したサイバーセキュリティ インシデントの詳細を開示しました。同社によると、その情報はAcima事業におけるリース契約の不正利用を助長するために使われ、第2四半期には約1,300万ドルの不正契約による損失につながりました。

サイバー インシデントは、業務を停止させたり、極めて機密性の高いデータを流出させたりしなくても、重大な財務的影響を及ぼす可能性があります。盗取された情報は、特に迅速な承認、分散型のパートナー、大量のトランザクションに依存するビジネスにおいて、すぐに不正行為に悪用される可能性があります。ガバナンス上の問題は、経営陣がデータ侵害を独立した問題として扱うのではなく、サイバー リスクを不正防止対策、トランザクション モニタリング、損失検知と結び付けて捉えているかどうかです。

取締役会が経営陣に確認すべき点

• 盗取された顧客データや申請者データが、自社に対する不正取引を引き起こすために悪用された場合、どの程度迅速に検知できますか？

ミネソタ州水道システムのインシデントが示す、露出した運用技術のリスク

ミネソタ州の水道システムに対する最近の攻撃とそれに関連する連邦政府の警告は、取締役にとってより広範な教訓を示しています。それは、運用技術がインターネットに露出していたり、従来のITほど厳格に管理されていなかったりすると、現実の業務に混乱をもたらす可能性があるということです。今回のケースでは、イランと関係があるとみられる攻撃者が、米国少なくとも7州にあるインターネット接続された産業用制御機器を標的とし、パスワードを変更したり、ネットワーク設定を改変したり、一部の水道事業者を手動運用に切り替えざるを得ない状況に追い込みました。

取締役会が得るべき教訓は、水道業界にとどまりません。多くの組織では、中核的なITセキュリティ プログラムの対象外となっている運用技術に依存しています。これには、工場の制御システム、倉庫の自動化設備、暖房/冷却システム、入退室管理システム、非常用電源設備などが含まれます。これらのシステムは重要な業務を支えている一方で、可視性が低い、古いセキュリティ制御を使用している、文書化されていないリモート接続が存在する、またはベンダーやインテグレーターへの依存度が高いことがあります。

取締役会が経営陣に確認すべき点

• どの運用システムが公開されているのか、誰がアクセスできるのか、そして他の重要な組織のシステムと同じレベルの厳格さで管理されているのかを把握していますか？

Zscalerは、NACD北カリフォルニア支部のパートナーです。サイバーセキュリティやAIリスクに関する取締役会の皆様からのご質問にお答えするためのリソースとして支援しており、取締役会向けの個別説明会の手配も承っています。詳細は、rsloan[@]zscaler.comまでメールでお問い合わせください。