Cos'è la gestione del profilo di sicurezza dell'AI (AI Security Posture Management, o AI-SPM)?

Perché l'AI-SPM è importante?

Dato che i sistemi AI sono sempre più integrati nelle funzioni aziendali critiche, come i processi decisionali, l'automazione e l'interazione con i clienti, la protezione di tali sistemi costituisce una priorità assoluta. Oggi, i provider di servizi cloud forniscono soluzioni di GenAI come servizio, ad esempio Amazon Bedrock, Azure AI Services e Google Vertex AI. Questi servizi contribuiscono ad accelerare ulteriormente l'adozione della GenAI. I sistemi AI, che includono modelli di machine learning, modelli linguistici di grandi dimensioni (LLM) e sistemi decisionali automatizzati, presentano criticità specifiche in termini di vulnerabilità e superfici di attacco. 

Sempre più organizzazioni integrano set di dati aziendali nelle applicazioni AI, esponendo in molti casi i propri dati sensibili. Con la rapida adozione di questa nuova tecnologia, le organizzazioni si trovano a dover affrontare anche le minacce specifiche che interessano l'AI e che ne prendono di mira gli ecosistemi. I principali vettori di attacco includono:

• Avvelenamento dei dati (data poisoning): gli autori degli attacchi iniettano dati dannosi nei set di dati di training, inducendo i modelli ad adottare comportamenti distorti o compromessi.
• Attacchi antagonistici (adversarial attacks): si tratta di subdole manipolazioni nei dati di input che confondono i sistemi AI, dando luogo a previsioni o decisioni imprecise con esiti potenzialmente gravi.
• Estrazione dei modelli: gli aggressori rubano i modelli proprietari per analizzare gli output e ricostruire i parametri interni, al fine di rubare o usare impropriamente la proprietà intellettuale.

L'AI-SPM è la soluzione a tutte queste sfide. Anticipando le vulnerabilità e proteggendo i modelli AI, dalla progettazione all'implementazione, l'AI-SPM riduce i rischi e garantisce che lo sviluppo dell'AI dia priorità alla sicurezza e alla resilienza durante l'intero ciclo di vita.

Oltre a queste sfide, i team devono inoltre rimanere vigili di fronte all'evoluzione dei requisiti di conformità relativi all'AI e ai dati, che impongono responsabilità nella gestione di questi ultimi e nella governance dei modelli. La portata degli audit, dei quadri normativi e degli standard di settore continua ad ampliarsi, riflettendo la crescente dipendenza del mondo dalle soluzioni basate sull'AI. Con i programmi di AI che stanno diventando parte integrante del modo in cui le aziende erogano i propri servizi, spetta ai responsabili decisionali garantire l'integrazione di solide misure difensive nelle operazioni quotidiane. Un tale livello di vigilanza risolve le complessità legate all'innovazione e, nel lungo periodo, tutela la reputazione dell'organizzazione.

L'AI-SPM si differenzia dagli approcci di sicurezza tradizionali che richiedono una conoscenza approfondita sia delle tecnologie AI sia dei rischi specifici che la sua adozione comporta. La gestione del profilo di sicurezza dell'AI implica una valutazione completa di tutti i componenti all'interno dell'ecosistema AI, inclusi i modelli di machine learning, i dati di training, le API e l'infrastruttura che ne supportano l'implementazione. Questa visione olistica consente alle organizzazioni di individuare i punti deboli che potrebbero essere sfruttati dagli aggressori, come l'avvelenamento dei dati, l'elusione dei modelli o la manipolazione.

But traditional security tools such as data security posture management (DSPM) and cloud security posture management (CSPM) can’t keep up. They don’t provide the visibility or control over AI assets that’s necessary for AI security.

Quali rischi introduce l'AI?

Nonostante i significativi vantaggi che l'AI apporta alla gestione della sicurezza, questa tecnologia è caratterizzata anche da alcuni aspetti di cui i team responsabili della gestione del rischio devono essere consapevoli.

• Mancanza di visibilità sul panorama dell'AI: spesso, i team responsabili della sicurezza non hanno una visione approfondita di tutti gli strumenti e servizi AI attivi, e per questo è difficile identificare la distribuzione dell'AI shadow e gestirne i potenziali rischi.
• AI shadow: i team addetti alla sicurezza hanno difficoltà a tenere traccia dei modelli AI implementati e a comprendere se sono stati approvati ufficialmente, se gli interventi di manutenzione sono stati eseguiti adeguatamente e se soddisfano gli attuali standard di sicurezza.
• Governance dei dati: le organizzazioni devono spesso affrontare sfide nel monitoraggio e nella limitazione dell'accesso ai dati sensibili condivisi con servizi AI interni ed esterni, intensificando il rischio di fughe di dati.
• Errori di configurazione: una supervisione inadeguata della configurazione dei servizi AI può comportare l'esposizione accidentale delle informazioni sensibili o l'accesso non autorizzato, estendendo la superficie di attacco.
• Violazioni della conformità e sanzioni legali: la gestione o la distribuzione impropria dei dati relativi all'AI può portare a violazioni di obblighi normativi come RGPD e HIPAA, con conseguenti sanzioni molto onerose e danni alla reputazione.
• Rischi operativi: i sistemi AI possono funzionare male o produrre risultati inattesi, con il rischio di compromettere le operazioni aziendali.

Le principali caratteristiche della gestione del profilo di sicurezza dell'AI (AI-SPM)

Sono diversi gli elementi specifici che caratterizzano la gestione del profilo di sicurezza dell'AI, ognuno dei quali migliora la capacità di un'azienda di combattere gli aggressori digitali:

• Visibilità sull'ecosistema dell'AI: ottieni la massima visibilità su tutti gli ambienti e le risorse AI
• Rilevamento e inventario dell'AI: rileva ed esegui l'inventario automatico dei modelli AI, che include attività, discendenza dei dati e problemi di sicurezza
• Sicurezza dei dati legati all'AI: classifica tutti i dati archiviati nei progetti AI e quelli che perfezionano i modelli e previeni l'utilizzo o l'esposizione accidentale dei dati sensibili
• Discendenza dei dati dell'AI: comprendi il modo in cui i modelli AI interagiscono con i dati e visualizza il modo in cui i dati sensibili attraversano le pipeline AI
• Gestione del rischio dell'AI: comprendi, stabilisci le priorità e correggi i rischi associati agli archivi di dati dell'AI, che includono ad esempio errori di configurazione, autorizzazioni eccessive ed esposizione
• Accesso ai dati AI: applica policy di accesso granulari per limitare l'accesso non autorizzato all'AI, prevenirne l'uso improprio e garantire interazioni LLM sicure
• Governance e conformità dell'AI: applica policy e best practice in linea con gli standard e le normative del settore, come RGPD, HIPAA e il framework di gestione dei rischi dell'AI del NIST (AI Risk Management Framework)

Come funziona l'AI-SPM

La gestione del profilo di sicurezza dell'AI copre i rischi relativi alla sicurezza informatica dell'AI attraverso i seguenti processi: 

• Rilevamento e inventario delle risorse AI: l'AI-SPM analizza gli ambienti, ad esempio Amazon Bedrock, Azure AI Foundry e Google Vertex AI, per generare un inventario completo di tutti i modelli AI e delle risorse associate, le fonti di dati e le pipeline coinvolte nel training, l'ottimizzazione e la distribuzione negli ambienti cloud. L'AI-SPM correla quindi i segnali legati alla classificazione e al rilevamento dei dati, i loro percorsi di accesso e la loro potenziale esposizione all'AI, per identificare le potenziali vulnerabilità e gli errori di configurazione e aiutare gli utenti a individuare rapidamente i rischi nascosti nell'uso di questa tecnologia.
• Gestione del rischio: l'AI-SPM aiuta a identificare, stabilire le priorità e correggere i rischi (attraverso l'identificazione e la classificazione dei dati sensibili o regolamentati, come ad esempio le informazioni personali) e le violazioni della conformità che potrebbero portare all'esfiltrazione dei dati o all'accesso non autorizzato a modelli e risorse AI. Utilizza inoltre l'intelligence sulle minacce per rilevare l'invocazione dannosa dei modelli AI e il potenziale uso improprio delle relative risorse. Quando viene rilevato un rischio o una violazione ad alta priorità, viene inviato un avviso accompagnato da raccomandazioni sulla sicurezza per attuare una risposta rapida.
• Gestione della conformità e del profilo di sicurezza: l'AI-SPM garantisce una configurazione sicura dei modelli AI, con protezione dei dati, controlli dell'accesso e altro. Offre una visibilità completa sul profilo di conformità dei dati e dell'AI confrontando automaticamente il profilo di sicurezza rispetto a normative come l'RGPD o l'HIPAA e a standard specifici relativi all'AI, come il NIST AI RMF 600-1. In questo modo, può dare priorità alle violazioni della conformità e ridurre al minimo il rischio di responsabilità legali.

AI-SPM, DSPM e CSPM a confronto

L'AI-SPM garantisce l'uso sicuro e responsabile delle tecnologie AI che elaborano e analizzano i dati, mentre la gestione del profilo di sicurezza dei dati (Data Security Posture Management, DSPM) fornisce una base per la protezione dei dati, garantendone riservatezza, integrità e disponibilità. La gestione del profilo di sicurezza sul cloud (Cloud Security Posture Management, CSPM), invece, tutela gli ambienti cloud, monitorando costantemente le configurazioni e applicando le best practice di sicurezza per prevenire le vulnerabilità.

L'integrazione di tutte e tre queste soluzioni consente alle organizzazioni di proteggere i propri sistemi AI, i dati e gli ambienti cloud, riducendo al minimo i rischi e garantendo la conformità dei dati alle normative pertinenti. Di seguito, è riportata una tabella che confronta queste soluzioni:

I casi d'uso dell'AI-SPM

I processi basati sull'AI interessano ormai quasi tutti i settori e aprono nuove opportunità per l'analisi dei dati, l'automazione e l'offerta di esperienze personalizzate ai clienti. Tuttavia, per garantire la sicurezza e l'affidabilità di queste soluzioni AI, è necessario adottare un approccio proattivo alla protezione di dati, modelli e infrastrutture. Le soluzioni di AI-SPM rispondono a questa esigenza, offrendo:

• Riduzione massima dei punti di esposizione: l'AI-SPM mappa e monitora costantemente tutti i punti di accesso, i privilegi e le integrazioni all'interno dei sistemi AI, per ridurre le potenziali vie di ingresso sfruttabili dagli aggressori e circoscrivere la superficie di attacco complessiva.
• Protezione dei cicli di sviluppo e utilizzo dei modelli AI: la gestione del profilo di sicurezza identifica le vulnerabilità negli ambienti di sviluppo e nelle pipeline di distribuzione dei modelli di machine learning.
• Applicazione di misure di sicurezza sulla privacy dei dati: le informazioni sensibili, che vanno dai dati dei clienti e quelli finanziari alle ricerche proprietarie, restano completamente monitorate e protette, sia quando sono archiviate che in movimento.
• Risposta efficace agli incidenti: l'AI-SPM assegna la priorità agli avvisi di sicurezza, consentendo reazioni più rapide alle potenziali minacce e riducendo al minimo i danni causati dalle intrusioni.

AI e architettura zero trust: come migliorare il profilo di sicurezza

Le fondamenta degli strumenti di intelligenza artificiale sono costituite dai dati, e il duplice approccio di DSPM ed AI-SPM contribuisce a proteggere sia gli strumenti che i dati. Con un'architettura zero trust, nessun dispositivo, utente o servizio viene ritenuto attendibile automaticamente, e ogni fase dell'accesso prevede una verifica basata sul contesto. Un modello AI che ospita informazioni sensibili trae vantaggio da questo approccio, che prevede la verifica di ogni richiesta relativa ai dati, la quale viene considerata come potenzialmente dannosa fino a prova contraria, chiudendo quella "finestra" che potrebbe altrimenti essere sfruttata dagli aggressori.

L'AI-SPM è una delle funzionalità di una soluzione di DSPM che amplia le difese incentrate sui dati applicando controlli di sicurezza anche a livello di modellazione. I principi dello zero trust sono profondamente integrati nell'AI-SPM per garantire che le applicazioni e i microservizi comunichino in modo sicuro, indipendentemente dal numero di nuovi endpoint aggiunti. Il risultato è una collaborazione più sicura tra data scientist, analisti e team IT, ovvero coloro che gestiscono informazioni preziose, spesso in tempo reale, per ottenere dati aziendali critici.

Le organizzazioni che adottano i principi dello zero trust per i propri ambienti AI attribuiscono all'integrità del modello la stessa importanza che attribuiscono alla riservatezza dei dati. Proteggere la logica di tali modelli e le informazioni che ne derivano è quindi fondamentale per garantire la coerenza dei processi decisionali. Elaborando una strategia zero trust basata sull'AI-SPM, le aziende riescono a gestire le operazioni su larga scala, evitando le insidie che si presentano quando dati, infrastruttura e direttive aziendali non sono sincronizzati.

How To Build an AI-SPM Program

Building an AI-SPM program helps organizations move from reactive threat detection towards a proactive, governance-led security model. To get started, enterprises should follow these steps and best practices:

Step 1: Establish Governance and Risk Baselines

• Create a cross-functional AI security committee with members across security, legal, and machine learning teams. This establishes AI-SPM program ownership early. 
• Define data classification policies that determine the types of data, such as PII or intellectual property, LLMs can access.
• Classify AI model risks by model type, such as self-trained internal models and public APIs.

Step 2: Define AI Model Adoption and Approval Workflows

• Create a list of all sanctioned AI models, GenAI apps, and other AI tools. Share that list with every employee and contractor in the organization.
• Make it easy for developers to submit new AI models or AI apps for security review and approval.

To get visibility into your current AI usage at this stage, create AI asset registries and dynamic AI-BOMs. 

Step 3: Enforce Zero Trust and Least-Privileged Access Controls

• Define and enforce role-based access control (RBAC) for AI models and GenAI apps.
• Establish non-human identity access controls. These controls prevent agentic AI from executing high-risk actions without human approval.

As you implement zero trust, it’s a best practice to establish user-inherited RAG access policies. These policies prevent AI models from sharing sensitive files with unauthorized users.

Step 4: Adopt AI Threat Detection

• Integrate AI-SPM alerts into your SIEM and SOAR platforms.
• Update incident response playbooks to address AI-specific security weaknesses and attack types.
• Enable your SOC with AI security training.

AI-SPM best practices at this stage include deploying inline inspection proxies into your runtime environments. These proxies detect and block threats such as malicious prompts and suspicious transaction volumes.

Step 5: Run Threat Simulations

• Complete tabletop exercises that simulate common AI attack paths such as RAG data breaches.
• Audit simulations to ensure that regulatory compliance rules work as expected.
• Refine access controls, data classification rules, and runtime threat detection thresholds based on feedback from simulated attacks.

Zscaler AI Security Posture Management

Zscaler AI-SPM protegge dai rischi specifici dell'AI, tra cui l'esposizione dei dati, l'uso improprio e la governance dei modelli, con particolare attenzione alla protezione dei workload dell'AI generativa (GenAI) sul cloud pubblico. 

Parte della piattaforma Zscaler AI Data Security e integrata nella nostra soluzione di DSPM esistente, l'AI-SPM offre una visibilità end-to-end su modelli AI, dati di inferenza sensibili, implementazioni dei modelli e correlazione dei rischi. Monitorando la configurazione dei modelli, i flussi di dati e le interazioni del sistema, identifica i rischi di sicurezza e conformità che spesso vengono trascurati dagli strumenti tradizionali, offrendo:

• Visibilità sugli ecosistemi AI: rileva e gestisci un inventario di tutti i modelli AI utilizzati nei relativi ambienti cloud, insieme alle risorse cloud associate, alle fonti di dati e alle pipeline di dati coinvolte nel training, nell'ottimizzazione o nel consolidamento di questi modelli.
• Sicurezza dei dati: identifica le fonti di dati utilizzate per eseguire il training dei modelli di AI al fine di rilevare e classificare i dati sensibili o regolamentati, come le informazioni personali, che potrebbero essere esposti attraverso gli output, i log o le interazioni tra modelli contaminati. 
• Gestione del rischio: valuta le distribuzioni dell'AI per individuare vulnerabilità, errori di configurazione e autorizzazioni rischiose mappando le connessioni e fornendo soluzioni per ridurre i percorsi di attacco, le violazioni dei dati e i danni operativi o reputazionali.
• Governance e conformità: automatizza l'applicazione delle policy, le best practice e i percorsi di controllo per le distribuzioni dell'AI al fine di garantire la conformità alle normative (come RGPD, NIST) e ridurre al minimo i rischi legali e favorendo l'aderenza alle normative.

Guarda Zscaler AI Security Posture Management in azione: richiedi una dimostrazione per scoprire il modo in cui possiamo proteggere i tuoi modelli AI, i tuoi dati e le tue distribuzioni sul cloud.