組織におけるAI利用の最新動向：2025年版 ThreatLabz AIセキュリティレポートの主な調査結果

DEEPEN DESAI, DEEPAK SHANKER, HEATHER BATES

March 20, 2025 - 6 分で読了

コンテンツ

はじめに
5つの主な調査結果：AIの利用と脅威の動向
組織におけるAI関連リスクの増大
AIを活用したAIの安全な導入とAIによる脅威の回避
レポートを入手する
おすすめのブログ

この1年の間に、人工知能(AI)の利用状況は急速に変化しています。AIは単なる流行りものではなく、ビジネスに不可欠な存在になりつつあるのです。AIを活用したソリューションで業界をリードし、世界最大のセキュリティクラウドで組織のAI/MLアクティビティーを追跡しているZscalerでは、その変化が直に見て取れます。

組織がAIを導入して生産性の向上、意思決定の迅速化、ワークフローの自動化などのメリットを享受する一方、攻撃者は同じ技術を悪用してより高度な攻撃を自動化し、より大きな規模で展開しています。非常にリアルなディープフェイクコンテンツや高度なビッシング詐欺など、AIが生み出す脅威によって組織のセキュリティ上のリスクは急速に高まっています。

AIによって事業運営やサイバー攻撃の方法は根本的に変化しているため、組織はAIの利用状況を常に包括的に把握する必要があります。Zscalerは先日、2025年版 ThreatLabz AIセキュリティレポートを公開しました。このレポートは、Zscaler Zero Trust Exchangeの5,365億件のAI/MLトランザクションから得られた分析データを基に、組織におけるAIの利用状況とセキュリティに与える影響について詳細に検討したものです。世界中のさまざまな業界の組織がどのようにAI/MLツールを利用および管理しているかを明らかにするとともに、AIのメリットと利用に伴うセキュリティ上の懸念を示しています。また、AIを武器として利用することによる攻撃の高度化から、オープンソースモデル「DeepSeek」に代表される最近のAIの進歩がセキュリティに与える影響まで、AIに関連して増加するリスクについて精査し、それを軽減するためのベストプラクティスも提供しています。

このブログでは、レポートの主なポイントを抜粋して紹介していきます。分析データとセキュリティガイダンスの詳細は、2025年版 ThreatLabz AIセキュリティレポートをダウンロードしてご確認ください。

5つの主な調査結果：AIの利用と脅威の動向

ThreatLabzの調査チームは、800を超える既知のAI/MLアプリケーションについて、2024年2月から12月のアクティビティーを分析しました。以下の調査結果から、AIの利用に関して注目すべき動向と懸念が明らかになりました。

AI/MLの利用が劇的に増加：ZscalerクラウドにおけるAI/MLトランザクションは、前年比で36倍(3,464.6%増)となり、組織におけるAIの導入が爆発的に増加していることがわかりました。この増加は主にChatGPT、Microsoft Copilot、Grammarlyなどの生成AIツールによるもので、これらのツールが既知のアプリケーションからのAI関連トラフィックの大部分を占めていました。

図1:トランザクションの件数に基づく上位のAIアプリ
組織はAIトランザクションの大部分をブロック：AI/MLトランザクションの59.9%がブロックされており、データセキュリティと管理外でのAIアプリケーションの利用に対する懸念が表れています。AIガバナンスフレームワークの確立にあたって、多くの組織は慎重なアプローチを取り、データ保護に関するポリシーを見直すなかで特定のAIアプリケーションへのアクセスを制限しています。
AI/MLトラフィックが最も多かったのは米国とインド：ZscalerクラウドにおけるAI/MLトランザクションが最も多かった国は、米国とインドでした。組織での導入が活発であり、AIを活用したイノベーションへの注目が高まっていることを示しています。他には、英国、ドイツ、日本が上位に入りました。各国におけるAI/MLアクティビティーのレベルはそれぞれ異なり、セキュリティ、コンプライアンス、各地域での規制上の考慮事項とAIの利用との兼ね合いのために、各国で独自のアプローチが採用されていることがわかりました。
AIの導入が特に活発なのは金融/保険業および製造業：業界別でAI/MLトラフィックが最も多かったのは、金融/保険業(28.4%)および製造業(21.6%)でした。次いで多かったのは、テクノロジー、医療、政府機関で、これらのセクターでは、導入によるメリットと懸念のバランスを検討しながら、異なるペースでAIの導入が進められています。

図2:業界別のAIトランザクションの割合
AIを悪用したサイバーリスクは深刻化：攻撃者は、フィッシングキャンペーンの強化、攻撃の自動化、リアルなディープフェイクコンテンツの生成にAIを悪用しています。例えば、DeepSeekを利用することで、信頼されたブランドのログインページを模したフィッシングページを簡単に生成できることが実証されました。さらに、AIへの関心を悪用したマルウェアキャンペーンも発見されています。このキャンペーンでは、ターゲットに悪意のあるソフトウェアをダウンロードさせるために、攻撃者が偽のAIプラットフォームを作成していました。

組織におけるAI関連リスクの増大

調査結果が示すように、組織は増大する2つの課題に直面しています。(1) AI/MLの不可避かつ急速な導入における安全の確保、(2)高度化が進むAIを悪用したサイバー脅威の防御です。AIによる最新のセキュリティリスクと、それらが組織に及ぼす広範な影響を常に把握しておくことが重要です。

2025年版 AIセキュリティレポートでは、拡大しつつある以下のようなAI関連のリスクについて詳しく説明しています。

シャドーAIとデータ漏洩：機密データの漏洩につながり得るAIツールの無許可での使用を制御するために組織が考慮すべき重要な課題となっています。
AIが生成するフィッシングキャンペーン：ThreatLabzは、DeepSeekを使ってわずか5つのプロンプトでフィッシングページを生成する方法を実証しました。
AIを悪用したソーシャルエンジニアリング：組織を標的としてディープフェイク動画やなりすまし音声を使用する詐欺手法など、ソーシャルエンジニアリングにおけるAIの悪用の増加について概説します。
AIへの関心を悪用するマルウェアキャンペーン：ThreatLabzは、あるマルウェアキャンペーンの調査を通じて、攻撃者が偽のAIプラットフォームでターゲットの関心を引き、情報窃取型マルウェア「Rhadamanthys」を配信する手口を解明しました。
オープンソースAIの危険性：偶発的なデータ漏洩やデータの抜き取りなど、DeepSeekのような制限のないモデルがどのようなセキュリティリスクをもたらすかを解説します。
エージェント型AIの台頭：最小限の人間の監視でタスクを実行できる自律型AIシステムに関連する課題とリスクについて取り上げます。

導入の勢いが増し続け、AIが不可欠なものになっていくなか、組織はセキュリティ態勢をプロアクティブに強化し、AI/MLツールの保護、ガバナンスポリシーの施行、AI関連の脅威からの防御を推進していく必要があります。

AIを活用したAIの安全な導入とAIによる脅威の回避

2025年版 ThreatLabz AIセキュリティレポートでは、リスクの最小化とAIを活用したサイバー脅威の阻止を図りながらAIを安全に導入しようとしている組織に向け、詳細なガイダンスを提供しています。

大まかに言えば、ワークフローにより多くのAIを取り入れるにあたっては、新たな脆弱性や攻撃対象領域の拡大、AIを悪用した攻撃を考慮に入れて、セキュリティ戦略も再考する必要があります。ファイアウォールやVPNに頼る従来のセキュリティアプローチでは、AIを悪用した脅威のスピードや進化に対応することができません。組織は、その基盤としてゼロトラストを採用することで、暗黙の信頼を排除し、最小特権アクセスを適用すると同時に、AIとのやり取りすべてを継続的に検証する必要があります。

Zscalerのゼロトラストアーキテクチャーはゼロトラストをあらゆる場所で提供し、包括的なAI機能を活用してユーザー、ワークロード、IoT/OT通信を保護します。ZscalerのAIモデルは高度な脅威を検出して阻止し、1日あたり数百万件の攻撃をブロックすることで組織のセキュリティの成果を高め、新たなリスクを軽減します。

このレポートでは、ZscalerでAIを悪用した脅威を阻止する方法として、以下のような中核的セキュリティ対策について解説しています。

ゼロトラストアーキテクチャー：アプリケーションとIPアドレスを攻撃者から隠し、最小特権アクセスを適用することで、攻撃対象領域を縮小します。
AI活用型のサイバー脅威対策：AIが生成するフィッシングキャンペーン、敵対的なエクスプロイト、AIを悪用したマルウェアをリアルタイムで検出、ブロックします。
AI活用型のデータ分類とDLP: AIを活用した分類により、Zscalerのデータファブリックで機密データを検出、保護します。
AI活用型のアプリセグメンテーション：ネットワーク内でのラテラルムーブメントを阻止し、攻撃者が権限昇格や重要システムへのアクセスを簡単に行えないようにします。
AI活用型の侵害予測：生成AIと多次元予測モデルにより、潜在的な侵害シナリオを未然に防ぎます。
AIによるリアルタイムのインサイト：予測型AIと生成AIを利用することで、セキュリティ業務とデジタルパフォーマンスを向上させる実用的なインサイトを提供します。
AIの可視化：インタラクティブなダッシュボードを通じて、AIアプリケーションの傾向とやり取りを詳細に把握できます。

組織はAIを悪用した脅威を防ぐだけでなく、AIを安全に導入し、制御する必要があります。Zscalerでは、生成AIの利用状況をアプリ内でのプロンプトやレスポンスも含め完全に可視化できるほか、機密データを分離し、きめ細かな制御を適用して不正アクセスを防止します。リアルタイムの監視、AIガードレール、適応型のセキュリティ制御により、組織は重要なデータの漏洩やリスクの増大を招くことなくAIツールを安全に導入できます。

レポートを入手する

AIによってセキュリティを取り巻く環境がますます変化していくなか、組織はAI導入の動向、そしてAIと共に進化する脅威の両方に先回りで対処していく必要があります。2025年版 ThreatLabz AIセキュリティレポートでは、AIがサイバーセキュリティに与える影響について、データに基づく知見や分析をさらに紹介するとともに、組織がAIを安全に導入し、AIのリスクを軽減するための専門家のガイダンスを提供しています。

レポートでは、以下のような内容についても詳しく取り上げています。ぜひダウンロードしてご確認ください。