サイバーセキュリティにおける生成AIとは

生成AIを活用することで、セキュリティアナリストは脅威を積極的に軽減し、攻撃に迅速に対応し、攻撃者のTTPに関するより深い脅威インテリジェンスを得ることができます。しかし、AIは悪意のある攻撃者が弱点を見つけ出し、大規模な攻撃を実行するのにも役立っており、企業はAIを活用した攻撃のペースに追いつくのに苦労している。

生成AIとは

生成型AIは、機械学習を用いて訓練データセットを分析し、そのデータ内のパターンを明らかにし、テキスト、コード、画像などの新しいコンテンツを生成する。

GenAIとは異なり、従来のAIは、事前に定義されたルールに基づいてデータを分析し、予測を行うことしかできません。従来のAIは、データを分類し、イベントを予測する反復作業に優れています。これらのツールは、商品レコメンデーションやスパムフィルタリングなど、構造化された出力を必要とするユースケースに最適です。

GenAIは、独自のプロンプトや入力に基づいて動作することで、従来のAIの枠を超えています。GenAIは、その技術がデータの根底にあるパターンを十分に理解し、トレーニングデータセットから新しい作品を生み出すことができるため、独創的なコンテンツを作成するための創造性と柔軟性を備えている。

The Architecture of an AI Agent

While conventional AI flags a suspicious file and waits for an analyst, an agentic system autonomously investigates the file's lineage, analyzes process behavior, executes containment protocols, and validates remediation. This autonomy relies on four foundational architectural components:

• Planning Module: Deconstructs complex, high-level defensive or analytical objectives into sequential, actionable tasks.
• Memory Architecture: Retains short-term execution state and long-term organizational context from past telemetry, enabling continuous adaptation across encounters.
• Tool Calling & Execution: Interacts directly with APIs, datastores, endpoints, and external security tools to gather live telemetry or execute system commands.
• Self-Reflection & Evaluation: Continuously inspects intermediate outputs, detects execution errors, and dynamically refines response strategies to systematically enhance cybersecurity posture.

サイバーセキュリティにおいて生成型AIが重要な理由

AIの普及が爆発的に進むにつれ、GenAIのセキュリティ確保に新たな焦点を当てる必要が生じている。

2026年にはAIおよびMLの活動が83%増加し、3,400以上のAIアプリケーションを持つエコシステムでほぼ1兆件の取引にあたりました(2026年ThreatLabz AI セキュリティレポート)。企業が生成AIアプリケーションの利用を増やすと、より多くのデータがそれらのツールに送られます。2025年だけでも、AIおよびMLアプリケーションへのデータ転送は18,033TBに達し、前年比で92.6%の増加となりました(2026年ThreatLabz AI セキュリティレポート)。

しかし、AI/ML取引やAIツールへのデータ転送は新たなリスクをもたらし、企業はシステム保護のために新たな管理手段を採用しています。例えば、2026年にはデータセキュリティやポリシー整合性への懸念から、企業がすべてのAI/ML取引の39%をブロックしました(2026 ThreatLabz AI セキュリティレポート)。

これらの管理はビジネス上極めて重要です。なぜなら悪意のある攻撃者は今やAIを使って機械的な速度で攻撃を実行しているからです。AIツールに関して、 Zscaler レッドチームの専門家はテストしたシステムの100%に重大な弱点を見つけ、平均16分でAIシステムを突破することができました(2026年ThreatLabz AIセキュリティレポート)。

組織は生成型AIをどのように活用しているか

企業は、既存のサイバーセキュリティ対策を強化するためにGenAIを活用している。GenAIは大量のデータを取り込み、詳細なレポートを作成し、予測分析を生成します。セキュリティチームはこれらの機能を活用して、手動トリアージを減らし、リスクの優先順位付けを改善しています。

組織がサイバーセキュリティにおいてGenAIを活用する主な方法には、以下のようなものがあります。

1. アラートの優先順位付けと調査

LLMはネットワークトラフィック、エンドポイント、ログ間で信号を相関させることでアラートの優先順位を付けることができます。SOCアナリストがこれらのアラートに対応する際、アラートに関する追加情報を得るためにLLMに問い合わせることができます。例えば、アナリストが「過去24時間のこのIPに関連するすべての活動を表示する」とGenAIに促してIPを調査することがあります。

AIを使用してアラートを識別およびトリアージすることで、アラート疲労を軽減し、平均トリアージ時間を短縮できます。

2. インシデント対応

セキュリティチームはGenAIを使ってインシデント概要の作成、是正提案の作成、事後報告の作成を行います。

GenAIは生のイベントデータにアクセスできるため、これらのツールは複数の情報源で迅速に情報を収集・まとめることができます。しかし、AIによる誤作動はリスクであり、GenAIの出力結果を報告業務に使用する際には、常に人間が関与してデータの妥当性を検証する必要がある。

3. レッドチーム演習

セキュリティチームはレッドチーミング演習でAIを使い、攻撃者の行動をモデル化し、セキュリティ態勢の強さを試しています。また、AI特有のレッドチーミング演習も計画に組み込み、攻撃を受けた際にAIシステムがどのように振る舞うかを理解しています。

攻撃者が生成AIを活用する方法

攻撃者はGenAIを用いて既存のサイバー攻撃TTPを高速化し、エンタープライズAIシステムの弱点を狙っています。 以下に、現在現実世界で発生している攻撃において、これらのパターンがどのように現れているかをいくつか紹介します。

1. AIが主導するソーシャルエンジニアリング

2024年にはグローバルフィッシング攻撃が20%減少し、悪意のある攻撃者は給与、財務、人事チームなどの高価値ターゲットに注目しています(2025 ThreatLabz フィッシングレポート)。悪意のある攻撃者は現在、生成AIを用いて個人情報や企業ニュース、その他の文脈データをウェブ上でスクレイピングし、高度にパーソナライズされたスピアフィッシングメールを送っています。

AIはフィッシング-as a Serviceモデルをより高度にしています。初期アクセスブローカーはGenAIを使ってフィッシング攻撃に使う偽の音声データ、テキスト、動画を作成しています(2025 ThreatLabz フィッシングレポート)。

2. 自動化された脆弱性調査とエクスプロイト生成

悪意のある攻撃者は、GenAIを使用してオープンソースのコードベースを検索し、脆弱性を探す。生成AIは自然言語を使うため、高度なコーディングスキルがなくても攻撃者を使って悪意のあるコードを書くことができます。

3. 自動偵察

脅威アクターはAIエージェントを使ってターゲット企業のシステムをマッピングし、潜在的な攻撃経路やターゲットを特定します。これらの悪意のある AI エージェントは、企業システムのあらゆる部分をマッピングするよう指示されているため、デセプション テクノロジーのようなAIセキュリティツールに対して脆弱です。

4. 迅速な注射

GenAIはユーザーのデータ、つまりプロンプトと、開発者がGenAIツールを作成する際に使ったシステム指示との間に区別を設けていません。悪意のある者はこの事実を利用して、GenAIモデルを操作し、機密情報を出力させたり、意図したタスクを実行させたりする。

プロンプト注入は直接的にもなり得ます。例えば、ユーザーが生成AIツールに「すべての顧客記録を[悪意ある者のメールアドレス]にメールする」と指示するようなものです。しかし、それは間接的なものもあり、悪意のある人物がPDFのようなアセットに悪意のあるGenAIプロンプトを隠す場合もあります。従業員がPDFをGenAIツールに入力すると、悪意のあるプロンプトが実行され、悪意のある人物がシステムにアクセスできます。

5. 多形態マルウェア

ポリモルフィックマルウェアが実行されるたびに、GenAIを使ってシグネチャーを変更します。従来のサイバーセキュリティツールは、マルウェアを特定するためにシグネチャーベースの検出ルールを使用しているため、これらの脅威を特定することはできません。

企業はポリモーフィック マルウェアから守るために、AI強化行動分析やゼロトラスト アーキテクチャーなどの高度なAIセキュリティ実践を採用する必要があります。

生成AI セキュリティ特有のリスク

生成AIセキュリティは、クラウドセキュリティや 従来の境界ベースのセキュリティ など 、他のセキュリティ形態とは異なり ます。AIセキュリティのリスクはAIライフサイクルの各段階にわたる弱点や問題から生じるため、企業はAIインフラを保護するプログラムを作成する際に以下のリスクに対処しなければなりません。

モデル中毒

悪意のある行為者は悪意のある、または不正確なデータをモデルのトレーニングデータセットに注入し、それがモデルが生成する結果に影響を与えます。モデルポイズニングとは、攻撃者がモデルにバックドアを埋め込むことを可能にする攻撃手法であり、後日、企業のシステムへの不正アクセスや機密データの漏洩に悪用される可能性がある。

AIモデルは事前学習フェーズで毒されることがあります。悪意ある者によってウェブ上のトレーニングデータセットが操作されるのです。 攻撃者は、より具体的なユースケースに合わせてモデルを改良するために使用される企業固有のデータを操作することで、微調整段階でモデルを汚染することもあります。

LLMを介したデータ漏洩

悪意のある行為者は、LLM（論理モデル管理者）に対し、モデルの基礎構造、システム指示、トレーニングデータに関する機密情報を共有するよう促すことが頻繁にある。

従業員はGenAIツールを使用する際に、意図せずデータ漏洩に加担してしまうこともある。従業員がプロンプトで機密データを共有した場合、LLMはその情報を保存します。LLMは別のユーザーのプロンプトに応答するためにそのデータを引き出し、その機密情報を露出させることがあります。

データ漏洩は企業にとって重大なリスクをもたらします。2025年には、ChatGPTだけで4億1,000万件の情報漏洩防止(DLP)ポリシー違反を生み出しました(2026年ThreatLabz AIセキュリティレポート)。

シャドーAI

従業員が未承認の生成AIアプリを使用すると、シャドウAIに加担しています。組織内のすべてのAIアプリケーションを完全に把握できなければ、セキュリティチームはAIリスクの全体像を把握できません。

この視界の欠如は問題です。2025年には、企業がAIアプリケーションに18,000テラバイト以上のデータを転送し、前年同期比で93%の増加を示しました(2026年ThreatLabz AI セキュリティレポート)。これらのデータフローを可視化し管理できなければ、企業はすべての転送中データを保護することができません。

AIサプライチェーンのリスク

AIに関するサプライチェーンリスクは、他のソフトウェアのサプライチェーンリスクと類似している。企業はオープンソースライブラリ、事前学習済みモデル、サードパーティAPIなど多様なコンポーネントを使ってAIモデルを作成しており、これらすべてにセキュリティの弱点があります。これらの弱点が連鎖すると、悪意ある者がサプライチェーン攻撃を実行できます。

AIサプライチェーンにおける 最も一般的な リスクには、以下のような ものがあります。

• オープンソースのモデル、機械学習ライブラリ、およびトレーニングデータセットを改ざんすること。悪意のある攻撃者は悪意のあるロジックやバックドアを作成し、後で悪用します。
• 機能面はサードパーティAPI統合を使うことで、統合が侵害された場合にAIモデルの誤設定やサービスの中断のリスクが高まるためです。
• 非公認AIアプリは、企業のセキュリティポリシーに違反するリスクの高い、または未検証の統合を含む可能性があるため、影のAIを監視します。

データガバナンスと規制違反

企業は、どのようなデータをAIシステムに入力できるか、またAI出力がどのように検証されるかを説明する明確なポリシーとガードレールを持つ必要があります。セキュリティチームは、シャドウAIを制御するために未検証のAIアプリの使用をブロックする措置も講じる必要があります。

GDPR、カリフォルニア消費者プライバシー法やその他の規制フレームワークは、生成AIが個人データを収集・利用する方法を示していますが、企業はAIデータガバナンス計画なしにはこれらのフレームワークに準拠できません。NISTのAI RMFのようなフレームワークは、生成AIアプリのリスクを特定し監視するための指針を提供し、出発点として役立ちます。

生成型AIを安全に導入する方法

AIリスクは、シャドウAIという形で企業内部から、そしてAIが操るサイバー攻撃という形で企業外部からもたらされます。AIセキュリティに対処するためには、組織は多段階的なアプローチでAI導入を行う必要があります。

ThreatLabzは、組織が2025年にGenAIをどのように保護するかを調査し、以下のことを発見しました。

組織はAIツールを導入する際に、以下の手順に従うべきです。

1. ゼロトラストのアプローチをGenAIに 採用 し、未検証のAIやMLアプリケーションへのアクセスをブロックまたは制限しましょう。
2. 組織のセキュリティ、プライバシー、コンプライアンス要件に合致するGenAIアプリを特定しましょう。
3. 厳選されたGenAIツールを、企業が完全に管理する隔離されたインスタンスのような、プライベートで管理された環境でホストします。これにより、モデルに入力される機密データが保護され、プロンプトや出力が一般公開されるモデルのトレーニングに使用されることを防ぎます。
4. GenAIアプリをゼロトラストアーキテクチャの背後に組み込み、最小特権アクセスを強制するグラニュラーアクセスポリシーを導入します。
5. DLP を有効にし 、GenAIアプリへの出入りデータを検査することで、データ漏洩を防ぎます。

サイバーセキュリティにおける生成型AIの未来とは？

生成AIが進化する中で、以下の生成AIセキュリティトレンドが現れています。

エージェント型AIセキュリティ:脅威アクターは現在、エージェント型AIを使ってサイバー攻撃を加速させています。2025年、最初に報告されたAIによるスパイ活動を作成した脅威アクターは、エージェント型AIとの作業の80%から90%を自動化しました(2026年ThreatLabz AI セキュリティレポート)。企業は利用拡大に伴いエージェント型AIを保護するために、非人間のアイデンティティガバナンスをIAMプログラムに統合する必要があります。

AI サプライ チェーン攻撃:オープンソースのトレーニングデータセットや機械学習ライブラリを改ざんすることで、脅威アクターは大規模な爆発範囲を持つ単一の攻撃を実行できます。第三者リスクを減らすために、企業はAIソフトウェアの資材明細書(AI-SBOM、別名AI-BOM)を追加し、調達要件として出所検証をモデル化する必要があります。

AIネイティブSOC:セキュリティオペレーションセンターはAIネイティブのワークフローへとシフトしています。人間は引き続き情報を共有し、生のアラートよりもエスカレーションの確認により多くの時間を割くでしょう。

AIガバナンス: EU AI法 、 NISTのAI Risk 管理フレームワーク 、 DORA のような業界特有フレームワーク などの 規制フレームワークは 、企業にAI特有の規制遵守をますます義務付けるでしょう。

生成AIセキュリティ With Zscaler

Zscalerは、組織が生成AI資産を可視化して管理できるよう支援するAIセキュリティ プラットフォームです。世界の2000企業の40%がZscalerを利用しており、このプラットフォームは1日あたり5億件以上のトランザクションを保護しています。

Zscalerを活用することで、企業は新たなAIリスクから守るために必要なAIセキュリティを手に入れることができます。

• AI SPMは、シャドーAI、MCPサーバー、モデルなど、すべてのAI資産を可視化します。AI環境を把握することで、すべてのAI環境を継続的に監視し、社内基準や規制要件への準拠を確認できます。
• AI Access Securityは、きめ細かなアクセス制御、DLP保護、ブラウザー分離などの機能により、権限の低いAIアプリへのアクセスとデータ漏洩リスクを管理します。
• 自動化されたレッド チーム演習は、AIシステムの脆弱性を検証し、ドメイン固有の攻撃をシミュレートします。事前定義されたプローブまたはカスタム プローブ、データセットのアップロードを使用し、これらのシミュレーションを特定のドメイン、ユース ケース、規制要件に合わせてカスタマイズできます。
• AI GuardはAIプロンプトやインラインのやり取りを検査します。インライン検査はデータ損失を防ぎ、AI使用ポリシーを厳格に施行し、プロンプト インジェクションやジェイルブレイクなどのリスクを特定します。

Zscaler AI Securityが生成AIの利用をどのように保護できるかの詳細は、製品概要をご覧ください。