AIセキュリティ ポスチャー管理(AI-SPM)とは

AI-SPMが重要な理由

AIシステムが意思決定、自動化、顧客対応などの重要なビジネス機能にますます統合されるなか、これらのシステムの保護は最優先事項となっています。クラウド サービス プロバイダーは、Amazon Bedrock、Azure AI Services、Google Vertex AIなどのGenAI as a Service (サービスとしての生成AI)を提供しており、生成AIの導入をさらに加速させています。一方で、機械学習モデル、大規模言語モデル(LLM)、自動意思決定システムを含むAIシステムには、それぞれ特有の脆弱性と攻撃対象領域が存在します。

多くの組織が自社のデータセットをAIアプリケーションに統合するにつれて、機密データがリスクにさらされるケースが増えています。急速な導入に伴い、組織はAIエコシステムを標的とするAI固有の脅威にも直面しています。主な攻撃ベクトルとしては、以下のようなものがあります。

• データ ポイズニング：悪意のある攻撃者がトレーニング データセットに有害なデータを挿入し、モデルが偏った動作や欠陥のある動作をするように仕向けます。
• 敵対的攻撃：入力データにわずかな変更を加えることでAIシステムを誤認識させ、不正確な予測や判断を引き起こし、重大な結果を招く可能性があります。
• モデルの抽出：攻撃者が出力を精査することで内部パラメーターを再構築し、独自のモデルを盗み出します。結果として、知的財産の窃取や悪用につながります。

AI-SPMは、これらの脅威への最適なソリューションです。脆弱性を予測し、設計から展開までAIモデルを保護することで、リスクを軽減し、AI開発のライフサイクル全体にわたってセキュリティとレジリエンスを確保します。

これらの課題に加えて、AIやデータに関するコンプライアンス要件が進化し続けているため、組織は警戒を怠らないようにしなければなりません。こうした規制では、責任あるデータの取り扱いやモデル ガバナンスが義務付けられています。監査、規制フレームワーク、業界標準の適用範囲は拡大を続け、AIを活用したソリューションの利用率の世界的な高まりを反映しています。AIプログラムが組織によるサービス提供に不可欠になるなか、意思決定者には日常業務に堅牢な防御策を組み込む責任があります。このように警戒を継続することで、イノベーションに伴う複雑さが軽減され、長期的に組織の評判を守ることができます。

従来のセキュリティ アプローチとは異なり、AI-SPMにはAIそのものとAI導入がもたらす固有のリスクの両方を深く理解することが求められます。AI-SPMは、機械学習モデル、トレーニング データ、API、AIの展開をサポートするインフラなど、AIエコシステム内のすべての要素を包括的に評価します。この全体像により、データ ポイズニング、モデル回避、改ざんなど、攻撃者によって悪用される可能性のある弱点を検出できます。

But traditional security tools such as data security posture management (DSPM) and cloud security posture management (CSPM) can’t keep up. They don’t provide the visibility or control over AI assets that’s necessary for AI security.

AIがもたらすリスク

AIはセキュリティ ポスチャー管理に強力なメリットをもたらす一方で、新たなリスク領域も生み出すため、リスク管理部門は以下の点に注意する必要があります。

• AI環境の可視性の欠如：セキュリティ部門は、アクティブなAIツールとサービスを十分に把握できていないため、シャドーAIの展開を特定して潜在的なリスクを管理することが難しくなっています。
• シャドーAI:セキュリティ部門は、どのAIモデルが展開されているのか、それが公式に承認されたものか、適切に保守されているのか、現在のセキュリティ基準を満たしているのかどうかを追跡できていません。
• データ ガバナンス：組織は外部と内部のAIサービスと共有される機密データの監視や制限に課題を抱えていることが多く、それによりデータ漏洩のリスクが高まっています。
• 設定ミス：AIサービスの設定が十分に監視されていない場合、機密データが意図せず漏洩したり、不正アクセスが発生したりする可能性があります。その結果、攻撃対象領域が拡大します。
• コンプライアンス違反と法的罰則：AIデータの取り扱いや展開が不適切な場合、GDPRやHIPAAなどの規制違反につながり、高額な罰金や評判低下につながる可能性があります。
• 運用のリスク：AIシステムが誤作動を起こしたり、予期しない結果を出力したりすることがあり、業務が中断される恐れがあります。

AI-SPMの主要な機能

AIを活用したセキュリティ ポスチャー管理は、デジタル脅威に対する組織の防御力を強化するための独自の機能を備えています。

• AI環境の可視化：AI環境を完全に可視化します。
• AIの検出とインベントリー：AIモデルのアクティビティー、データ リネージ、セキュリティ上の問題を自動的に検出し、インベントリーを作成します。
• AIデータ セキュリティ：AIプロジェクトに保存されているすべてのデータと、AIモデルの調整に使用されるデータを分類し、機密データの偶発的誤用や漏洩を防止します。
• AIリネージ：AIモデルとデータとのやり取りを把握し、AIパイプライン間での機密データの流れを可視化します。
• AIリスク管理：AIデータ ストアに関連するリスク(設定ミス、過剰な権限付与、漏洩など)を把握し、優先順位を付けて修復します。
• AIデータ アクセス：きめ細かなアクセス ポリシーを施行することで、不正なAIアクセスを制限し、モデルの誤用を防ぎ、LLMとの安全なやり取りを確保します。
• AIのガバナンスとコンプライアンス：GDPR、HIPAA、NISTのAIリスク管理フレームワークなど業界標準や規制に準拠したポリシーとベスト プラクティスを適用します。

AI-SPMの仕組み

AIセキュリティ ポスチャー管理は、以下の方法でAIのサイバーセキュリティ リスクに対応します。

• AIの検出とインベントリー：Amazon Bedrock、Azure AI Foundry、Google Vertex AIなどの環境をスキャンし、クラウド環境内でトレーニングや調整、展開に関わるすべてのAIモデルおよび関連するリソース、データ ソース、データ パイプラインの完全なインベントリーを作成します。次に、データの分類と検出、データ アクセス パス、AIへの機密データの漏洩の可能性に関するシグナルを相関させ、潜在的な脆弱性や設定ミスを特定し、ユーザーが隠れたAIリスクを迅速に検出できるようにします。
• リスク管理：AI-SPMは、たとえば個人を特定できる情報(PII)などの機密データや規制対象データを特定および分類することで、リスクやコンプライアンス違反の特定、優先順位付け、修復を可能にします。これらのリスクや違反は、データの持ち出し、AIモデルやリソースへの不正アクセスにつながる可能性があります。また、脅威インテリジェンスを活用し、AIモデルの悪意のある呼び出しやAIリソースの潜在的な悪用を検出します。優先度の高いリスクや違反が検出された際にはアラートが生成され、迅速な対応のためのセキュリティに関する推奨事項も提供されます。
• コンプライアンスとセキュリティ ポスチャー管理：データ保護やアクセス制御などのAIモデルの安全な構成を確保します。AIとデータ コンプライアンスの態勢を包括的に可視化し、GDPRやHIPAAなどの規制、NIST AI RMF 600-1などのAI固有の基準に対してセキュリティ態勢を自動的にマッピングします。この仕組みによって、コンプライアンス違反への優先対応が可能となり、法的責任に伴うリスクを最小限に抑えます。

AI-SPM、DSPM、CSPMの違い

AI-SPMは、データの処理と分析を行うAIを安全かつ責任ある形で活用できるようにします。データ セキュリティ ポスチャー管理(DSPM)は、データ保護の基盤を提供し、その機密性、完全性、可用性を確保します。クラウド セキュリティ ポスチャー管理(CSPM)は、設定を継続的に監視し、セキュリティのベスト プラクティスを適用して脆弱性を防ぐことで、クラウド環境を保護します。

これら3つすべてを統合することで、AIシステム、データ資産、クラウド環境を保護し、リスクを最小限に抑え、関連する規制へのデータ コンプライアンスを確保できます。以下の表でこれらの違いを比較しています。

AI-SPMのユース ケース

AIを活用した技術はさまざまな業界に浸透しており、データ分析や自動化、顧客体験のパーソナライズなどに新たな可能性を生み出しています。一方で、これらのAIソリューションのセキュリティと信頼性を確保するには、データ、モデル、インフラを予防的に保護する必要があります。AI-SPMソリューションは、以下の機能を通じてセキュリティと信頼性を強化します。

• 脆弱なポイントの最小化：AIシステム内のすべてのアクセス ポイント、権限、統合を継続的にマッピングおよび監視し、攻撃者の潜在的な侵入口を減らすことで、全体的な攻撃対象領域を制限します。
• AIモデルのライフサイクルの保護：機械学習モデルの開発環境と展開パイプラインに存在する脆弱性を特定します。
• データ プライバシー保護の施行：顧客データや財務データ、専有研究データなどの機密情報は保存中でも転送中でも完全に監視および保護されます。
• 堅牢なインシデント対応の提供：セキュリティ アラートに優先順位を付けることで、潜在的な脅威への対応を迅速化し、侵入による被害を最小限に抑えます。

AIとゼロトラスト アーキテクチャー：セキュリティ態勢の強化

人工知能ツールの基盤はデータにあり、DSPMとAI-SPMの二重のアプローチを使うと両方とも保護できます。ゼロトラスト アーキテクチャーでは、デバイス、ユーザー、サービスのいずれも信頼されることはなく、アクセスのあらゆる段階でコンテキストに基づく検証が行われます。機密データを扱うAIモデルでは、この考え方に基づき、すべてのデータ要求が潜在的に危険なものとして扱われ、危険でないことが証明されるまでは許可されません。これにより、攻撃者が悪用する「開いた窓」を閉じることができます。

AI-SPMはDSPMの一部として、モデリング層にもセキュリティ制御を適用することで、データ中心の防御を拡張します。ゼロトラストの概念はAI-SPMに深く組み込まれており、新たなエンドポイントがいくつ追加されても、アプリケーションやマイクロサービス間の安全な通信を確保します。これにより、リアルタイムの機密情報を扱い、重要なビジネス インサイトを生み出すデータ サイエンティスト、アナリスト、IT部門などがより安全に共同作業できる環境が実現します。

AI環境にゼロトラストの原則を導入する組織は、データの機密性と同様に、モデルの整合性にも重点を置いています。これらのモデルのロジックとそこから導き出される情報を保護することは、意思決定プロセスの一貫性を確保するうえで非常に重要です。組織がAI-SPMを基盤としたゼロトラスト戦略を策定すると、データ、インフラ、業務指示が連携しなくなった際に発生する問題を回避しながら、大規模な運用管理ができるようになります。

How To Build an AI-SPM Program

Building an AI-SPM program helps organizations move from reactive threat detection towards a proactive, governance-led security model. To get started, enterprises should follow these steps and best practices:

Step 1: Establish Governance and Risk Baselines

• Create a cross-functional AI security committee with members across security, legal, and machine learning teams. This establishes AI-SPM program ownership early. 
• Define data classification policies that determine the types of data, such as PII or intellectual property, LLMs can access.
• Classify AI model risks by model type, such as self-trained internal models and public APIs.

Step 2: Define AI Model Adoption and Approval Workflows

• Create a list of all sanctioned AI models, GenAI apps, and other AI tools. Share that list with every employee and contractor in the organization.
• Make it easy for developers to submit new AI models or AI apps for security review and approval.

To get visibility into your current AI usage at this stage, create AI asset registries and dynamic AI-BOMs. 

Step 3: Enforce Zero Trust and Least-Privileged Access Controls

• Define and enforce role-based access control (RBAC) for AI models and GenAI apps.
• Establish non-human identity access controls. These controls prevent agentic AI from executing high-risk actions without human approval.

As you implement zero trust, it’s a best practice to establish user-inherited RAG access policies. These policies prevent AI models from sharing sensitive files with unauthorized users.

Step 4: Adopt AI Threat Detection

• Integrate AI-SPM alerts into your SIEM and SOAR platforms.
• Update incident response playbooks to address AI-specific security weaknesses and attack types.
• Enable your SOC with AI security training.

AI-SPM best practices at this stage include deploying inline inspection proxies into your runtime environments. These proxies detect and block threats such as malicious prompts and suspicious transaction volumes.

Step 5: Run Threat Simulations

• Complete tabletop exercises that simulate common AI attack paths such as RAG data breaches.
• Audit simulations to ensure that regulatory compliance rules work as expected.
• Refine access controls, data classification rules, and runtime threat detection thresholds based on feedback from simulated attacks.

Zscaler AI Security Posture Management

Zscaler AI-SPMは、パブリック クラウドにおける生成AI (GenAI)ワークロードの保護に重点を置き、データの漏洩、誤用、モデル ガバナンスなど、AI特有のリスクに対応します。

Zscaler AI Data Securityプラットフォームの一部として、既存のデータ セキュリティ ポスチャー管理(DSPM)ソリューションと統合されており、AIモデル、機密性の高い推論データ、モデルの展開状況、リスクの相関関係までを包括的に可視化します。また、モデルの構成、データ フロー、システム間のやり取りを監視することで、従来のツールでは見落とされがちなセキュリティとコンプライアンスのリスクを特定します。

• AI環境の可視化：クラウド環境全体で使用されているすべてのAIモデルと、これらのモデルのトレーニング、調整、グラウンディング(AIの出力を正確な情報源と結びつける仕組み)に関連するクラウド リソース、データ ソース、データ パイプラインを検出し、そのインベントリーを保守します。
• データ セキュリティ：AIモデルのトレーニングに使用されるデータ ソースを特定し、汚染されたモデルからの出力やログ、やり取りを通じて漏洩する可能性のある機密データや規制対象データ(個人を特定できる情報(PII)など)を検出し分類します。
• リスク管理：AIの展開に存在する脆弱性、設定ミス、リスクの高い権限を評価し、接続をマッピングして修復を提供します。これにより、攻撃経路、データ侵害、運用上の損害、評判の低下を軽減します。
• ガバナンスとコンプライアンス：AIの展開におけるポリシーの施行、ベスト プラクティスの実施、監査証跡の取得を自動化し、コンプライアンス(GDPR、NISTなど)を確保します。そして、法的リスクを最小限に抑え、規制順守をサポートします。

Zscaler AI Security Posture Managementのデモを依頼して、クラウド内のAIモデルやその関連データ、展開環境を保護する仕組みをご確認ください。