AIセキュリティとは

AIセキュリティの定義

AIセキュリティとは、1)人工知能(AI)と機械学習(ML)システムを攻撃から保護すること、2) AIを活用して組織全体のセキュリティ態勢を強化することという2つを主な目的とするサイバーセキュリティの分野です。

• プロンプト インジェクション攻撃やデータ ポイズニングなどの脅威から、AIモデル、トレーニング データ、インフラを保護します。
• 予測分析や振る舞い分析などのAIを活用した機能によって、脅威の検知と対応も強化します。

AIシステムは組織の攻撃対象領域を拡大するため、AIセキュリティは極めて重要です。2026年版 ThreatLabz AIセキュリティ レポートによると、2025年には組織におけるAI/MLアクティビティーが前年比で83.3%増加しました。同期間のデータ転送量も92.6%増加しました。

しかし、多くの組織では、AIセキュリティの複雑な性質を管理するために必要な可視性と制御が不足しています。組織のAIシステムに対して敵対的なスキャンを実施した際、Zscalerのレッド チーム演習の専門家は、最初の重大なシステム障害を約16分で発見しました。また、1つのプロンプトによって重大度の高い問題が引き起こされるケースも確認しました(2026年版 ThreatLabz AIセキュリティ レポート)。

AIセキュリティ ツールやベスト プラクティスを導入していない組織は、以下のような重大なAIリスクに直面します。

• シャドーAIとデータ漏洩：従業員は生産性向上のために新しい生成AIを導入していますが、その多くは未承認であったり、セキュリティ レビューを受けていなかったりします。生成AIツールの使用は、コンプライアンス違反や独自開発のコードなどの機密データの漏洩につながる恐れがあります。
• プロンプト インジェクション：攻撃者はAIエージェントが読み取るコンテンツに悪意のある指示を隠すことができます。こうした指示によって、攻撃者は組織環境への足場を築き、それをさらに大規模なサイバー攻撃に悪用できます。
• 安全でない統合とサードパーティーAPI:多くのAIツールは統合やプラグインを使用していますが、これらの接続ポイントはセキュリティが不十分なことが多く、攻撃対象領域の拡大につながります。

AIセキュリティには、従来のサイバーセキュリティ ツールを強化することと、AIシステム自体を保護することの2つの側面があります。

AIを活用することで、従来のサイバーセキュリティ ツールは既存のセキュリティ プロセスを高速化し、パターン認識機能を用いて攻撃を迅速に特定し、対応できるようになります。AIは、アラート疲れ、手作業によるトリアージの必要性、新たなサイバー攻撃のパターンに対する可視性の不足といった、従来のサイバーセキュリティが抱える課題に対応します。

AIを活用したサイバーセキュリティ ソリューションに求められるもの

サイバーセキュリティ ソリューションを評価する際、リーダーは以下のAI機能を提供するベンダーを選ぶ必要があります。

組織はAIライフサイクルの各段階でセキュリティ制御を適用することで、AIシステムを保護します。

ステップ1: AIのトレーニング データを保護する。モデルのトレーニング データは、効果的なAIモデルの基盤です。安全で包括的なデータがなければ、AIモデルは効果を発揮できないだけでなく最悪の場合、セキュリティ上の懸念となります。

組織は導入前にトレーニング データのリネージと移動を追跡し、そのセキュリティを検証します。

ステップ2:導入済みのAIモデルを保護する。AIライフサイクルにおけるこの段階では、セキュリティ部門はクエリーベースの攻撃からAIシステムを保護するための強化に重点を置きます。

AI導入時に実施すべきセキュリティ対策には、以下のようなものがあります。

• 顧客のPIIなどの機密データセットにAPI経由でアクセスするチャットボットに対し、最小特権アクセス制御を施行します。
• モデルがユーザーに機密情報を開示しないよう、モデル出力をフィルタリングします。

ステップ3:ランタイム防御によって、プロンプトに関連する脅威から保護する。生成AIのランタイムとは、AIモデルがクエリーを処理する段階を指します。ユーザーが生成AIモデルに入力するプロンプトは、いずれもリスクを招く可能性があります。組織は、以下のような方法でプロンプトに伴うリスクに対処します。

• モデルが外部コンテンツを処理しないようにするガードレールを確立します。外部コンテンツには、モデルが認証済みユーザーからの正規のプロンプトとして解釈してしまう、悪意のある隠れたプロンプトが含まれている可能性があります。
• セマンティックレベルのプロンプト フィルタリングを有効にします。このフィルタリングでは、クエリーの意図を理解し、攻撃者による悪意のあるプロンプトの送信を防止します。

ステップ4: AIモデルとセキュリティを継続的に監視する。AIモデルの振る舞いのドリフトに対処するため、AI-SPMを採用します。

AIセキュリティとは？

エージェント型AIセキュリティとは、プロンプト インジェクションやデータ漏洩などの攻撃から自律型AIエージェントを保護するための取り組みです。AIエージェントは、人間の介入なしに複数段階からなるタスクを独立して計画および実行できるシステムです。

AIエージェントは通常、ユーザーの認証情報や内部データベースなどの機密情報にアクセスできます。他のエージェント、外部Webサイト、外部データとやり取りするため、特有の侵害リスクにさらされています。

エージェント型AIのリスク

エージェント型AIは、ユーザーの目標を達成するために一連の意思決定を連鎖的に行うため、以下のようなリスクが発生します。

1. 権限昇格：AIエージェントに、割り当てられたタスクの完了に必須の範囲を超えるリソースへのアクセス権が付与されます。
2. メモリー ポイズニング：攻撃者が悪意のある指示をエージェントの永続メモリーに混入させます。正規のユーザーがエージェントとやり取りする際に、意図せずこれらの指示を実行してしまう可能性があります。
3. ゴール ハイジャック：攻撃者がユーザーの指示を乗っ取り、エージェントに機密データを持ち出させます。

エージェント型AIセキュリティのベスト プラクティス

• AI資産の把握：エージェント、モデル、プロンプト、ツール、データ ソース、データ フローをインベントリー化します。
• アクセス権限の制御：最小特権に基づくRBAC、強固な認証、アクセス範囲を限定した有効期間の短い認証情報、厳格に制限されたツールの権限、監査ログを施行します。
• 継続的かつ自動化されたレッド チーム演習の実施：ジェイルブレイク、プロンプト インジェクション、データ漏洩、安全でないツール操作についてテストを繰り返します。
• 厳格なガードレールの施行：ツールの許可リスト、検証、サンドボックス化、送信の制限、PIIのマスキング、ポリシー フィルターを活用し、リスクの高い操作には承認を必須とします。データ ポイズニング攻撃から保護するため、データの完全性を確保し、ガバナンス制御を施行します。

エージェント型AIにゼロトラストを施行することも、ベスト プラクティスの1つです。リアルタイム監視と組み合わせることで、ゼロトラストは、一般的なAI攻撃経路から組織を保護できるようにします。

AIセキュリティ リスクは、以下の3つのカテゴリーに分類されます。

• トレーニング パイプラインやエージェントなど組織のAIシステムに対するリスク
• AIを悪用したサイバー攻撃のリスク
• 規制上のリスク

1) 組織のAIシステムに対するリスク

組織のAIシステムは、機密性の高い業務情報や業務プロセスにアクセスするため、攻撃者にとって価値の高い標的となります。組織のAIシステムには、以下のようなリスクがあります。

• プロンプト インジェクション：攻撃者がAIへの入力やエージェントを操作し、データを外部に持ち出します。
• トレーニング データのポイズニング：組織は顧客との契約書、コール センターの通話記録、人事記録などの内部データを使用してAIモデルを微調整します。攻撃者は悪意のあるデータを混入させてモデルを汚染したり、AIシステムにバックドアを仕掛けたりする可能性があります。
• AIサプライ チェーン攻撃：攻撃者は、組織が事前トレーニング済みAIモデルに活用する公開リポジトリーにマルウェアやバックドアを仕込みます。

2) AIを悪用したサイバー攻撃のリスク

AIは攻撃を増幅させます。ThreatLabzの調査によると、攻撃者はAIを悪用し、既存のTTPを迅速化しています。

攻撃者が活動でAIを悪用している主な手口は以下のとおりです。

• AIを悪用したフィッシングとソーシャル エンジニアリング：攻撃者はAIサイト ビルダーを使用し、精巧なフィッシング サイト、アプリ、誘導用コンテンツを作成します。ThreatLabzが40万件を超えるAI生成サイトの事例を調査したところ、その9%はソーシャル エンジニアリング攻撃に使用された可能性が高いことが判明しました。
• 脆弱性の悪用の高速化：攻撃者はAIスキャン ツールを駆使し、パッチが適用されていない脆弱性を迅速に発見し、悪用します。
• シャドーAI:組織は、従業員がどの生成AIツールを使用しているかを必ずしも把握できているわけではありません。セキュリティ部門は、可視化できていないアプリに制御を施行できません。

3) 規制上のリスク

組織がAIをコンプライアンスに準拠し、倫理的に活用するには、一貫したAIセキュリティのガードレールを適用する必要があります。こうしたガードレールがなければ、組織は以下のようなリスクにさらされます。

• データ プライバシー違反：GDPRやカリフォルニア州消費者プライバシー法などの規制フレームワークでは、AIシステムが機密データをどのように管理すべきかが定められています。AIデータ ガバナンスを施行できていない組織は、こうしたコンプライアンス フレームワークに違反し、高額な罰金を科される恐れがあります。
• 透明性の欠如：多くのAIシステムは、判断基準や判断プロセスを明確に示さずに意思決定を行うため、偏った判断が生じやすく、信頼を損なう恐れがあります。
• 知的財産権の侵害：著作権で保護されたデータを知らずにAIモデルのトレーニングに使用している組織は、知的財産権侵害を理由に訴えられるリスクがあります。

組織はNIST AI RMFなどのフレームワークを活用することで、AIに関する規制やコンプライアンスのリスクを管理できます。このフレームワークは、セキュリティ部門がAIのライフサイクル全体にわたってリスクを特定、測定、管理することを支援します。

AIセキュリティ、従来のサイバーセキュリティ、クラウド セキュリティの比較

AIセキュリティ、従来のサイバーセキュリティ、クラウド セキュリティは、いずれも不正アクセスの防止を共通の目的としていますが、対象範囲は異なります。AIセキュリティは、プロンプト インジェクションなどの脅威からモデル、プロンプト、トレーニング データを保護します。従来のサイバーセキュリティやクラウド セキュリティは、主にネットワーク、アイデンティティー、設定の保護に特化しています。

AIセキュリティ フレームワークとは

AIセキュリティ フレームワークは、人材、プロセス、テクノロジーを整合させ、組織が部門間やベンダー間で一貫した方法でリスクを管理できるようにします。AIガバナンスとセキュリティを実用化するための体系的な手段を提供します。

フレームワークがなければ、AIセキュリティは場当たり的になりがちです。組織内の各部門が異なる基準でリスクを評価し、責任の所在が明確に定義されず、ガバナンスのギャップが発生します。正式なフレームワークを導入することで、責任の所在や共通の目標、AIリスクを特定して対応するための標準化されたプロセスを確立できます。

NIST AI RMF

NISTは2023年にAIリスク管理フレームワーク(AI RMF 1.0)を公開しました。NISTによると、AI RMFは、AIライフサイクル全体にわたってリスクを特定、測定、対応するためのフレームワークです。

NIST AI RMFは、以下の4つの機能を中心に構成されています。

• ガバナンス：AIリスクに関する組織のポリシーと責任体制を確立します。組織のリスク文化を明確にし、リスク許容度を設定します。
• マッピング：組織のAIシステムの用途、ユーザー、潜在的な影響を文書化します。
• 評価：精度、堅牢性、セキュリティ、出力の公平性など、信頼性を示す指標に基づいてAIシステムを評価します。
• 管理：脅威に優先順位を付け、リスクを軽減します。インシデント対応計画と復旧計画を実行します。

このフレームワークでは、定期的な更新が求められます。AIシステムの更新時や新規導入時には、マッピング、評価、管理の各段階を再度実施します。ガバナンスの段階では、新たな脅威を反映するため、継続的に見直します。

組織におけるAIセキュリティ対策は、日常業務で実践できる現実的なものであると同時に、AIセキュリティのリスクを実質的に軽減できるだけの厳格さを備えています。

• 自社環境で使用されているすべての生成AIツールと、AIを活用したSaaSアプリのリストを作成します。シャドーAIの拡大を防ぐため、このリストを継続的に更新してください。
• 大規模言語モデル アプリケーション向けOWASP Top 10に対応するための計画を策定します。
• MITRE ATLASフレームワークを活用することで、一般的な攻撃のTTPを特定し、脅威モデルを更新します。
• SaaSアプリでAIを活用した機能が自動的に使用されないようにします。これにより、セキュリティ部門は、自社のセキュリティ態勢に合わせてこれらの機能を調整できます。
• AIモデルを使用できるすべてのユーザーとシステムに対して、最小特権アクセスを適用します。
• すべてのAI/MLトラフィックに対して、インライン検査を施行します。
• AIモデルを採用する前に、すべてのAIモデルのリネージとサプライ チェーン上の依存関係を評価します。
• 敵対的テストやレッド チーム演習を実施し、脆弱性を予防的に特定します。
• NIST AI RMFなどのAIリスク管理フレームワークを導入します。
• 最新のリスクやコンプライアンスの傾向に対応できるよう、AIガバナンスを頻繁に更新します。

Zscalerが組織のAIを保護する仕組み

Zscalerは、ゼロトラストの原則をAIセキュリティにも適用します。Zscalerを活用することで、組織はシャドーAIを検出し、AIへのアクセスを管理できます。

このプラットフォームは、プロンプト、応答、AIと連携するワークフローなど、機密データが最も漏洩しやすい場面でデータを保護します。

ZscalerはAIガバナンスの運用も支援するとともに、コンプライアンスの運用もサポートします。このプラットフォームは、変化するフレームワークやポリシーにリスクを対応付けることで、担当部門が修復の優先順位を決定し、監査に対応できる状態を維持できるようにします。

ZscalerがAIを保護する方法の詳細は、製品概要をご覧ください。