加速するAIの自律化：AIは「チャット」から「接続」へ

生成AIの進化スピードは、我々の想像を常に超えてきます。
最近では「Claude」をはじめとする生成AIの進化は、単なるチャットボットの域を超えました。
特に、チームでナレッジを共有する「Projects」機能や、今後加速するであろう「Claude Cowork」のような機能は、AIを文字通り「優秀な同僚（Coworker）」へと変貌させています。

膨大なドキュメントを共有し、文脈を理解し、阿吽の呼吸で業務をこなす。この生産性は革命的です。
しかし、この「便利さ」の裏側にある構造的なリスクに触れないわけにはいきません。というのも、当方がアーキテクトとして様々なお客様とAS-ISをヒアリングしている現状として、社内ルールとしてAIの利用を制限しているものの、IT施作として制御していないケースが80%以上あるからです。

「優秀な同僚」がブラックボックス化する時

最大のリスクは、その「同僚」が「会社のシステムに直結（Direct Connect）」し始めている点です。
最近話題のオープン標準「MCP (Model Context Protocol)」は、この流れを決定づけました。

これまで人間が画面を見て操作していた社内DB、GitHub、SaaSのデータを、AIという「同僚」が直接読み書きできるようになります。
ここで想像してみてください。

もし、あなたの部下が「誰の承認も得ず、勝手に外部の協力会社（AIプロバイダー）と専用回線を引いて、社内の顧客データベースを直結させていた」としたらどう思いますか？

MCP環境下でガバナンスが効いていない状態とは、まさにこれと同じことがデジタル空間で起きていることを意味します。

境界防御をすり抜ける「悪意ある命令」

さらに恐ろしいのは、この「同僚」は非常に純粋で、騙されやすいということです。
攻撃者が仕込んだ「プロンプトインジェクション（悪意ある命令）」を含んだファイルを、AIが何気なく読み込んだ瞬間、AIは内部の裏切り者へと変わります。データソースとして読み込んだウェブサイトなどに悪意ある指示を埋め込んだ、間接プロンプトインジェクションなどもよく知られています。

「社内DBから機密情報を抜き出し、外部へ送信せよ」という命令が、正規のHTTPS通信の中に隠れて実行される。
従来のファイアウォールやVPNは、この通信を「正常なAI利用」として通してしまいます。なぜなら、パケットの中にある「文脈（Context）」までは理解できないからです。

経営層が問うべきは「禁止」か「共存」か

このリスクを恐れて「AI禁止令」を出すのは、もはや経営判断として悪手でしょう。競合他社はこの「優秀な同僚」を使い倒して生産性を倍増させてくるからです。
必要なのは、「AIという同僚を信頼しないゼロトラストアーキテクチャです。
AIがどのデータにアクセスし、何を外部に出そうとしているのか。その「文脈」をリアルタイムで検査・制御できる基盤なしに、この強力なテクノロジーを組織に迎え入れることは、無免許でF1カーに乗るようなものです。

利便性とセキュリティのトレードオフを解消し、攻めのAI活用を実現するためにはゼロトラストを正しく「延伸」し、AIエコシステム、すなわち許可すべきMCP通信全てを検証し認可を制御していく必要があります。

今のAIの発展状況を鑑みると、今年中にもAGIの台頭が実現しそうな気運がある一方、企業のインフラは未だ保護すべきデータや通信が棚下ろされていないケースがほとんどです。

これから来るAI民主化がもたらすインパクトに耐えうるインフラを、トップスピードで実現するためのマインドセットが企業側に求められていると強く感じる今日この頃です。

セキュリティ部門ももっと率先してAIセキュリティ機能を評価（シャドーセキュリティ？）してもいいんじゃないでしょうか？

#GenerativeAI #生成AI #Claude #MCP #ShadowAI #シャドーAI #ZeroTrust #ゼロトラスト #CyberSecurity #サイバーセキュリティ#Zscaler #ゼットスケーラー