Zscalerのブログ
Zscalerの最新ブログ情報を受信
Zscaler AI GuardとNVIDIA NeMo Guardrailsによる生成AIアプリケーションの保護
組織が生成AIや大規模言語モデルの導入を加速させるにつれ、セキュリティ部門は、大きな影響力を持つこれらのシステムを急速に進化する脅威から保護するという、前例のない課題に直面しています。プロンプト インジェクション攻撃やデータの持ち出しから、悪意のあるコンテンツの生成やジェイルブレイクの試みまで、AI導入に関わるセキュリティ リスクは多岐にわたり、複雑です。組織には、イノベーションやユーザー エクスペリエンスを損なうことなくAIと同じ速度で動作する、堅牢なエンタープライズグレードのセキュリティ制御が必要です。
ZscalerとNVIDIAは、協力してこれらのセキュリティ制御の課題に対処するため、Zscaler AI GuardとNVIDIA NeMo Guardrailsとの統合を通して、生成AIアプリケーションを保護する強力な多層防御アプローチを提供します。この統合により、セキュリティ部門とAIアプリケーション開発者は、設定負荷を最小限に抑え、運用効率を最大限に高めながら、LLMを活用したシステムに包括的な多層保護を展開できるようになります。
生成AIの保護における課題の増大
AIの急速な普及により、組織は運用面、セキュリティ面、コンプライアンス面において全く新しいタイプの課題を抱えています。プロンプト インジェクション攻撃は、AIを操ることで、意図していない動きをさせたり、機密情報を漏洩させたりします。AIとのやり取りを介してデータが漏洩すると、企業秘密、顧客データ、営業秘密がリスクにさらされます。ジェイルブレイクの試みは安全制御の回避を狙うものです。一方、有害な応答や不適切な応答は、ブランドの評判を損ない、顧客の信頼を低下させる恐れがあります。
従来のセキュリティ アプローチは、AIワークロード特有の特性に対応できる設計ではありません。LLMのやり取りは動的で対話的な性質を持つため、低遅延を維持しながら状況に応じて適応できるリアルタイムの検査とポリシー施行が求められます。組織に必要なのは、許容範囲を超えたレイテンシーを発生させたり、ユーザー エクスペリエンスの低下させたりすることなく、AIのコミュニケーション パターンの微妙な違いを理解し、プロンプトと応答をリアルタイムで検査し、セキュリティ ポリシーを施行する、専用のソリューションです。
NVIDIA NeMo Guardrails:プログラム可能なAI安全性確保の基盤
NVIDIA NeMo Guardrailsは、開発者がLLMベースのアプリケーションにプログラム可能なガードレールを追加できるようにする、オープンソースのツールキットです。このフレームワークは、アプリケーション コードと言語モデル間のAIガードレールを定義、調整、施行するための、柔軟で拡張可能なアーキテクチャーを提供します。NeMo Guardrailsを使用すると、開発者は会話の流れの制御、トピックの境界の適用、不適切な脱線の防止といった機能を、外部のセキュリティ サービスと共にAIアプリケーション パイプラインに直接統合することができます。
NeMo Guardrailsは、ユーザー プロンプトがLLMに到達する前に処理する入力レールと、ユーザーに返される前にモデルの応答を分析する出力レールの両方をサポートします。こうした双方向の制御により、AIとのやり取りのライフサイクル全体にわたる包括的な保護が可能になります。フレームワークの拡張可能なアクション システムにより、カスタムPythonアクションを介して外部セキュリティ サービスとシームレスに統合できるようになります。これにより、単一のツールだけでは提供できないエンタープライズグレードの保護を実現する機会が生まれます。
Zscaler AI Guard:エンタープライズグレードのAIランタイム保護
Zscaler AI Guardは、エンド ユーザーとLLMとの間でやり取りされるプロンプトおよび応答に対して組織のAIポリシーを施行することで、AIユーザーとAIアプリケーションに包括的なランタイム保護を提供します。業界で最も実績のあるインライン検査プラットフォーム上に構築されており、生成AIのワークロード専用に設計されたリアルタイムの脅威検出、情報漏洩防止、コンテンツ管理機能を提供します。
AI Guardは、多言語サポートを備えた18を超える特殊な検出機能を備えており、プロンプト インジェクション、ジェイルブレイクの試み、悪意のあるURL、機密漏洩、PII検出、有害性、ブランドや評判のリスク、競合他社への言及などに対応します。このプラットフォームは、AIを活用したエンジンを活用することで、誤検知率を低く抑えつつ高い精度を実現します。これにより、真の脅威をブロックしながら、AIとの正当なやり取りを不必要な摩擦なく進行させることが可能となります。重大度を設定できるため、組織は検出のしきい値を、それぞれのリスク許容度やユース ケースの要件に合わせて微調整できます。
技術の連携：LLMアプリケーションのための多層防御
Zscaler AI GuardとNVIDIA NeMo Guardrailsを組み合わせることで、強力な多層防御戦略を構築できます。NeMo Guardrailsがオーケストレーション フレームワークとパターンベースの防御機能を提供し、そこにAI GuardがZscalerのクラウド型セキュリティ サービスを活用した動的かつリアルタイムな脅威分析機能を加えます。2つのソリューションの組み合わせにより、AIアプリケーション ビルダーは攻撃や悪用のあらゆるシナリオに対する保護を容易に追加できるようになります。
この統合は、NeMo Guardrails内にZscaler AI Guard APIを呼び出すカスタム アクションを実装することで実現できます。ユーザーがプロンプトを送信すると、まずNeMo Guardrailsが、設定済みのガードレールに基づいて入力内容を評価します。プロンプトが初期チェックを通過すると、AI Guardアクションがコンテンツを検査し、脅威、ポリシー違反、機密データの有無を確認します。LLMの応答にも同様のプロセスが適用され、あらゆるAIとのやり取りの両側面を網羅する包括的な検査パイプラインが構築されます。
主なユース ケースとメリット
多層防御セキュリティ：セマンティック ガードレールと独立した脅威検出サービスの組み合わせにより、開発者はプロンプト インジェクション、データ漏洩、悪意のある入力に対する、極めて重要な第2段階の防御線を得ることができます。この多層的なアプローチにより、たとえ1つの制御が回避されたとしても、追加の保護機能が維持され、脅威を捕捉することが保証されます。
シンプルな展開：AI GuardをNeMo Guardrails内のカスタム アクションとして挿入すると、アプリケーション部門とセキュリティ部門がAIセキュリティ ポリシーの施行を一元化できるようになります。このアプローチにより、アプリケーション コードのすべてのインスタンスで制御を実装する必要がなくなり、複雑さが軽減され、すべてのAIアプリケーションにわたって一貫した保護が確保されます。
プロンプト インジェクションの防止：AI Guardの検出機能は、8つの言語にわたる複数のタイプのプロンプト インジェクション攻撃を識別し、NeMo Guardrailsの設定可能なガードレール定義と連携して、悪意のある操作の試みがLLMに到達する前にブロックします。
データ プライバシーの強化：組織は、AI Guardの強力な情報漏洩防止機能を活用して、AIとのやり取りの最中に機密データの漏洩をブロックできます。PII、秘密情報、APIキー、機密情報を識別するための100種類以上の定義済み辞書を備えているため、組織はAIの生産的な活用を実現しながら、GDPRやCCPAなどの規制を順守できます。
コンテンツ モデレーションとブランド保護：AI Guardは、ブランドの評判を損なう恐れのある、有害な内容や不適切な内容、または悪質なコンテンツを監視し、防止します。専用の検出機能により、不適切な応答、競合他社への言及、組織のポリシーに違反するコンテンツが特定されるため、顧客向けAIアプリケーションを安全に展開できるようになります。
必要なステップ
この統合には、NVIDIA NeMo Guardrails 0.18.0以降と、Zscaler AI GuardのサブスクリプションおよびAPIアクセスの有効化が必要です。この実装では、NeMo GuardrailsとAI Guard APIを連携させるカスタム アクションを設定することで、既存のガードレール構成内でプロンプトと応答の両方をシームレスに検査できるようになります。付属のドキュメントとサンプル設定を使用すれば、数分でセットアップを完了できます。
この統合機能は現在、GitHub (github.com/zscaler/aiguard-nemo-guardrails)で利用可能です。このリポジトリーには、NeMo Guardrails環境にAI Guard保護を導入する際に役立つ、ソース コード、設定例、詳細なセットアップ手順が含まれています。
AI導入に対する信頼の構築
組織が、大規模言語モデル、AIアプリケーション、エージェント型ワークフローを活用する新たなイノベーションにより業務効率の向上を模索するなか、堅牢なセキュリティ制御の必要性が最重要になっています。Zscaler AI GuardとNVIDIA NeMo Guardrailsの統合により、開発者とセキュリティ部門は、本番環境にLLMを安心して導入するために必要な多層防御メカニズムを利用できるようになります。
Zscalerは、アプリケーションの構築方法に関係なく、開発者にとって、利用しやすく、柔軟で、簡単なAIセキュリティの提供に取り組んでいます。AI GuardとNeMo Guardrailsの統合により、LLM、エージェント型ワークフロー、その他さまざまなAI活用型ユース ケースを保護するための、高度にカスタマイズ可能で堅牢なセキュリティ ソリューションが実現します。先を見越したパターンベースの防御と動的なリアルタイム分析を組み合わせることで、既知の攻撃を阻止しつつ、AIのランタイム動作を標的とする新たな脅威を軽減する、強力なセキュリティ戦略を確立できます。
生成AIによる変革に取り組む組織が直面する、AIセキュリティの課題を解決するため、今後もNVIDIAとの連携を深めていくことを期待しています。Zscaler AI Guardの詳細や統合については、Zscalerの製品ページをご覧いただくか、GitHubリポジトリーにアクセスして導入方法をご確認ください。
リソース
The Growing Challenge of Securing Generative AI
The proliferation of AI is creating an entirely new category of operational, security, and compliance challenges for enterprises. Prompt injection attacks can manipulate AI systems into performing unintended actions or revealing sensitive information. Data leakage through AI interactions can expose proprietary information, customer data, and trade secrets. Jailbreak attempts seek to bypass safety controls, while toxic or off-topic responses can damage brand reputation and erode customer trust.
Traditional security approaches were not designed for the unique characteristics of AI workloads. The dynamic, conversational nature of LLM interactions requires real-time inspection and policy enforcement that can adapt to context while maintaining low latency. Organizations need purpose-built solutions that understand the nuances of AI communication patterns, can inspect prompts and responses in real-time, and enforce security policies without introducing unacceptable latency or degrading user experience.
NVIDIA NeMo Guardrails: The Foundation for Programmable AI Safety
NVIDIA NeMo Guardrails is an open-source toolkit that enables developers to add programmable guardrails to LLM-based applications. The framework provides a flexible, extensible architecture for defining, orchestrating, and enforcing AI guardrails between application code and language models. Using NeMo Guardrails, developers can control conversation flows, enforce topic boundaries, prevent unwanted digressions, and integrate external security services directly into the AI application pipeline.
NeMo Guardrails supports both input rails, which process user prompts before they reach the LLM, and output rails, which analyze model responses before they are returned to users. This bidirectional control enables comprehensive protection across the entire AI interaction lifecycle. The framework's extensible action system allows seamless integration with external security services through custom Python actions, creating opportunities for enterprise-grade protection that goes beyond what any single tool can provide alone.
Zscaler AI Guard: Enterprise-Grade AI Runtime Protection
Zscaler AI Guard provides comprehensive runtime protection for AI users and applications by enforcing enterprise AI policies on prompts and responses between end entities and LLMs. Built on the industry's most proven inline inspection platform, AI Guard delivers real-time threat detection, data loss prevention, and content moderation capabilities purpose-built for generative AI workloads.
AI Guard features more than 18 specialized detectors with multilingual support, covering prompt injection, jailbreak attempts, malicious URLs, secrets exposure, PII detection, toxicity, brand reputation risks, competition mentions, and more. The platform leverages AI-powered engines to achieve high accuracy with low false positive rates, ensuring legitimate AI interactions proceed without unnecessary friction while blocking genuine threats. Severity settings allow organizations to fine-tune detection thresholds to match their specific risk tolerance and use case requirements.
Bringing It Together: Defense-in-Depth for LLM Applications
The integration between Zscaler AI Guard and NVIDIA NeMo Guardrails creates a powerful layered defense strategy. NeMo Guardrails provides the orchestration framework and pattern-based defenses, while AI Guard adds dynamic, real-time threat analysis powered by Zscaler's cloud-delivered security services. Together, these solutions enable AI application builders to easily add protection against a comprehensive list of attacks and misuse scenarios.
The integration works by implementing a custom action within NeMo Guardrails that calls the Zscaler AI Guard API. When a user submits a prompt, NeMo Guardrails first evaluates the input against its configured guardrails. If the prompt passes initial checks, the AI Guard action inspects the content for threats, policy violations, and sensitive data. The same process applies to LLM responses, creating a comprehensive inspection pipeline that covers both sides of every AI interaction.
Key Use Cases and Benefits
Defense-in-Depth Security: By combining semantic guardrails with an independent threat detection service, developers gain a critical second line of defense against prompt injection, data leakage, and malicious inputs. This layered approach ensures that even if one control is bypassed, additional protections remain in place to catch threats.
Simplified Deployment: Inserting AI Guard as a custom action within NeMo Guardrails enables application and security teams to centralize enforcement of AI security policies. This approach eliminates the need to implement controls across every instance of application code, reducing complexity and ensuring consistent protection across all AI applications.
Preventing Prompt Injections: AI Guard's detection capabilities identify multiple types of prompt injection attacks across eight languages, working in tandem with NeMo Guardrails' configurable guardrail definitions to block malicious manipulation attempts before they reach the LLM.
Enforcing Data Privacy: Organizations can leverage AI Guard's powerful data loss prevention capabilities to block sensitive data leaks during AI interactions. With over 100 predefined dictionaries for identifying PII, secrets, API keys, and confidential information, enterprises can maintain compliance with regulations like GDPR and CCPA while enabling productive AI use.
Content Moderation and Brand Protection: AI Guard monitors and prevents toxic, off-topic, or harmful content that could damage brand reputation. Purpose-built detectors identify inappropriate responses, competitive mentions, and content that violates organizational policies, enabling safe deployment of customer-facing AI applications.
Getting Started
The integration requires NVIDIA NeMo Guardrails 0.18.0 or higher and a Zscaler AI Guard subscription with API access enabled. The implementation involves configuring a custom action that bridges NeMo Guardrails with the AI Guard API, enabling seamless inspection of both prompts and responses within your existing guardrails configuration. The setup can be completed in minutes using the provided documentation and sample configurations.
The integration is available now on GitHub at github.com/zscaler/aiguard-nemo-guardrails. The repository includes source code, configuration examples, and detailed setup instructions to help you deploy AI Guard protection within your NeMo Guardrails environment.
Building Confidence in AI Deployments
As organizations find new and innovative ways to harness the power of large language models, AI applications, and agentic workflows to increase efficiencies, the need for robust security controls becomes paramount. The integration of Zscaler AI Guard with NVIDIA NeMo Guardrails provides developers and security teams with the layered defense mechanisms needed to confidently deploy LLMs in production environments.
Zscaler is committed to making AI security accessible, flexible, and easy for developers to consume regardless of how they build applications. AI Guard and NeMo Guardrails together represent a highly customizable and robust security solution for protecting LLMs, agentic workflows, and a variety of other AI-powered use cases. The combination of proactive, pattern-based defenses with dynamic, real-time analysis establishes an enhanced security strategy that blocks known attacks while mitigating emerging threats targeting AI runtime behavior.
We look forward to our continued collaboration with NVIDIA to solve the AI security challenges organizations face as they embrace generative AI transformation. To learn more about Zscaler AI Guard and explore the integration, visit our product page or check out the GitHub repository to get started today.
Resources:
FAQs
The integration connects Zscaler AI Guard's real-time threat detection with NVIDIA NeMo Guardrails' programmable orchestration framework through a custom action that calls the AI Guard API. When a user submits a prompt, NeMo Guardrails evaluates it against configured rules, then AI Guard inspects it for threats, policy violations, and sensitive data. The same inspection applies to LLM responses, creating bidirectional coverage across the full AI interaction lifecycle.
AI Guard uses more than 18 specialized detectors with multilingual support to identify prompt injection attacks, jailbreak attempts, malicious URLs, exposed secrets and API keys, PII, toxic content, brand reputation risks, and competitive mentions. Detection runs in real time against both prompts and responses. Severity thresholds are configurable, so organizations can tune detection sensitivity to match their specific risk tolerance and use case without generating unnecessary friction for legitimate users.
LLM applications behave differently from traditional software. They process natural language inputs that can be manipulated to change model behavior, generate outputs that may contain sensitive information, and operate across dynamic conversational contexts that static rule sets cannot adequately govern. Standard application security tools were not designed to inspect prompt content, detect jailbreak patterns, or enforce data loss prevention at the semantic level. Purpose-built controls that understand AI communication patterns are required for effective protection.
NVIDIA NeMo Guardrails is an open-source toolkit that allows developers to add programmable safety controls to LLM-based applications. It supports input rails that inspect user prompts before they reach the model and output rails that analyze model responses before they are returned. Developers define guardrails using a flexible configuration framework and can integrate external security services through custom Python actions. This architecture makes it straightforward to add enterprise security capabilities like AI Guard without rewriting application code.
The integration requires NVIDIA NeMo Guardrails version 0.18.0 or higher and a Zscaler AI Guard subscription with API access enabled. Setup involves configuring a custom action that bridges the two platforms, using the documentation and sample configurations available in the GitHub repository at github.com/zscaler/aiguard-nemo-guardrails. Most teams can complete the initial deployment in minutes. The repository includes source code, configuration examples, and step-by-step instructions to reduce setup friction.
免責事項：このブログは、Zscalerが情報提供のみを目的として作成したものであり、「現状のまま」提供されています。記載された内容の正確性、完全性、信頼性については一切保証されません。Zscalerは、ブログ内の情報の誤りや欠如、またはその情報に基づいて行われるいかなる行為に関して一切の責任を負いません。また、ブログ内でリンクされているサードパーティーのWebサイトおよびリソースは、利便性のみを目的として提供されており、その内容や運用についても一切の責任を負いません。すべての内容は予告なく変更される場合があります。このブログにアクセスすることで、これらの条件に同意し、情報の確認および使用は自己責任で行うことを理解したものとみなされます。
