Qual è il ruolo dell'AI generativa nella sicurezza informatica?

Grazie all'intelligenza artificiale generativa, gli analisti della sicurezza possono mitigare proattivamente le minacce, rispondere più rapidamente agli attacchi e ottenere informazioni più approfondite sulle tattiche, tecniche e procedure (TTP) degli aggressori. Tuttavia, l'intelligenza artificiale aiuta anche gli utenti ostili a individuare le vulnerabilità ed eseguire attacchi su larga scala, e le aziende faticano a tenere il passo con la velocità di questi attacchi. 

Cos'è l'IA generativa?

L'intelligenza artificiale generativa utilizza il machine learning per analizzare i dataset di training, individuare modelli in questi dati e generare nuovi contenuti come testo, codice e immagini. 

A differenza dell'AI generativa, l'AI tradizionale può solo analizzare i dati ed effettuare previsioni basandosi su regole predefinite. L'intelligenza artificiale tradizionale eccelle nei compiti ripetitivi che classificano i dati e prevedono gli eventi. Questi strumenti sono perfetti per casi d'uso che richiedono output strutturati, come i consigli sui prodotti o il filtraggio dello spam.

La GenAI va oltre l'intelligenza artificiale tradizionale lavorando con input e prompt unici. Poiché la sua tecnologia è in grado di comprendere a fondo i modelli sottostanti dei dati, la GenAI possiede la creatività e la flessibilità necessarie per creare contenuti originali a partire dal dataset utilizzato per il training.

Perché l'intelligenza artificiale generativa è importante nella sicurezza informatica

La rapida diffusione dell'intelligenza artificiale richiede una nuova attenzione alla sicurezza della GenAI.

Nel 2026, l'attività AI ed ML è aumentata dell'83%, raggiungendo quasi un bilione di transazioni in un ecosistema con oltre 3.400 applicazioni AI (Report di ThreatLabz sulla sicurezza dell'AI del 2026). Quando le aziende incrementano l'utilizzo di applicazioni GenAI, inviano più dati a questi strumenti. Solo nel 2025, il trasferimento di dati alle applicazioni di AI ed ML ha registrato un volume di 18.033 TB di dati, con un aumento del 92,6% rispetto all'anno precedente (Report di ThreatLabz sulla sicurezza dell'AI del 2026).

Le transazioni AI ed ML e i trasferimenti di dati verso strumenti di intelligenza artificiale introducono però nuovi rischi, spingendo le organizzazioni ad adottare nuovi controlli per proteggere i propri sistemi. Ad esempio, le aziende hanno bloccato il 39% di tutte le transazioni AI/ML a causa di preoccupazioni legate alla sicurezza dei dati e alla conformità alle policy (Report di ThreatLabz sulla sicurezza dell'AI del 2026). 

Questi controlli sono fondamentali per il business, perché i malintenzionati ora utilizzano l'AI per eseguire attacchi alla velocità delle macchine, non degli esseri umani. Grazie agli strumenti AI, gli esperti di red teaming di Zscaler hanno individuato vulnerabilità critiche nel 100% dei sistemi testati e sono stati in grado di violare i sistemi AI in una media di 16 minuti (Report di ThreatLabz sulla sicurezza dell'AI del 2026).

In che modo le organizzazioni utilizzano l'intelligenza artificiale generativa

Le aziende utilizzano la GenAI per potenziare i propri controlli di sicurezza informatica esistenti. La GenAI acquisisce grandi quantità di dati, compila report dettagliati e genera analisi predittive. I team di sicurezza utilizzano queste funzionalità per ridurre le attività di diagnostica manuale e migliorare l'assegnazione della priorità ai rischi. 

Le principali modalità con cui le organizzazioni utilizzano l'AI generativa nella sicurezza informatica includono:

1. Assegnazione delle priorità e indagini sugli avvisi

Gli LLM possono dare priorità agli avvisi correlando i segnali provenienti dal traffico di rete, dagli endpoint e dai log. Quando gli analisti del SOC esaminano tali avvisi, possono richiedere al modello LLM ulteriori informazioni contestuali. Ad esempio, un analista potrebbe esaminare un indirizzo IP chiedendo alla GenAI di "mostrare tutte le attività delle ultime 24 ore collegate all'IP".

L'utilizzo dell'intelligenza artificiale per identificare e classificare gli avvisi riduce il sovraccarico di alert e il tempo necessario alla diagnostica.

2. Risposta agli incidenti

I team di sicurezza utilizzano la GenAI per compilare riepiloghi degli incidenti, generare suggerimenti per la risoluzione dei problemi e creare report post-incidente.

Poiché la GenAI ha accesso ai dati grezzi degli eventi, questi strumenti possono raccogliere e compilare rapidamente informazioni provenienti da diverse fonti. Tuttavia, l'intelligenza artificiale può generare allucinazioni, ed è sempre necessario l'intervento umano per verificare la validità dei dati quando si utilizzano output di GenAI per i report.

3. Red teaming

I team di sicurezza utilizzano l'intelligenza artificiale nelle esercitazioni di red teaming per modellare il comportamento degli aggressori e testare la solidità del proprio profilo di sicurezza. Inoltre, integrano attività di red teaming specifiche per l'AI, al fine di comprendere il modo in cui i loro sistemi di intelligenza artificiale si comporteranno sotto attacco.

In che modo gli aggressori utilizzano l'intelligenza artificiale generativa

Gli aggressori utilizzano la GenAI per accelerare le tattiche, tecniche e procedure (TTP) di attacco esistenti e per sfruttare le vulnerabilità dei sistemi AI aziendali. Ecco alcuni esempi di come questi schemi si manifestano negli attacchi reali:

1. Ingegneria sociale orchestrata dall'intelligenza artificiale

Nel 2024, gli attacchi di phishing a livello globale sono diminuiti del 20%, e gli attori ostili ora concentrano la loro attenzione su pochi obiettivi di alto valore, come i team addetti alle retribuzioni, alla finanza e alle risorse umane (Report di ThreatLabz sul phishing del 2025). I criminali informatici ora inviano email di spear-phishing altamente personalizzate, utilizzando l'intelligenza artificiale generativa per raccogliere informazioni personali, notizie sull'azienda e altri dati contestuali dal web.

L'intelligenza artificiale rende inoltre più avanzato il modello di Phishing as a Service. I broker dell'accesso iniziale utilizzano la GenAI per creare dati vocali, messaggi e video falsi da utilizzare negli attacchi di phishing (Report di ThreatLabz sul phishing del 2025).

2. Ricerca automatizzata delle vulnerabilità e generazione di exploit 

Gli aggressori utilizzano la GenAI per cercare vulnerabilità nei codebase open source. Poiché la GenAI utilizza il linguaggio naturale, anche gli hacker privi di competenze di programmazione avanzate possono utilizzarla per scrivere codice dannoso.

3. Ricognizione automatizzata 

Gli autori delle minacce utilizzano agenti AI per mappare i sistemi di un'azienda target e identificare potenziali percorsi di attacco e obiettivi. Poiché questi agenti AI malevoli sono programmati per mappare ogni parte del sistema aziendale, sono vulnerabili agli strumenti di sicurezza basati sull'AI, come la tecnologia di deception.

4. Iniezione di prompt

La GenAI non fa distinzione tra i dati provenienti dagli utenti, ovvero i prompt, e le istruzioni di sistema utilizzate dagli sviluppatori per creare lo strumento GenAI. Gli aggressori sfruttano questo aspetto per  manipolare i modelli di GenAI al fine di ottenere informazioni sensibili o completare i compiti desiderati. 

L'iniezione di prompt può essere diretta; ad esempio, un utente può chiedere a uno strumento GenAI di "inviare un'email con tutti i record dei clienti a [indirizzo email dell'aggressore]. Tuttavia, può verificarsi anche in modo indiretto, ad esempio nel caso in cui un utente ostile nasconda prompt malevoli di GenAI in un documento, come un PDF. Se un dipendente inserisce il PDF compromesso in uno strumento di GenAI, i comandi dannosi vengono eseguiti e l'aggressore può ottenere l'accesso al sistema.

5. Malware polimorfico

Ogni volta che un malware polimorfico viene eseguito, utilizza la GenAI per modificare la propria firma. Dato che i tradizionali strumenti di sicurezza informatica utilizzano regole di rilevamento basate sulle firme per identificare il malware, non sono in grado di identificare queste minacce.

Per tutelarsi dai malware polimorfici, le imprese devono adottare pratiche avanzate di sicurezza AI, come l'analisi comportamentale potenziata dall'AI e le architetture zero trust.

Rischi specifici per la sicurezza della GenAI

La sicurezza dell'AI generativa si differenzia da altre forme di sicurezza, come la sicurezza del cloud e la sicurezza del perimetro tradizionale. Dato che i rischi per la sicurezza dell'AI derivano da vulnerabilità e problematiche presenti in ogni fase del ciclo di vita dell'AI stessa, le aziende devono considerare i seguenti rischi quando creano programmi volti a proteggere la propria infrastruttura AI:

Avvelenamento del modello

Gli aggressori inseriscono dati dannosi o inaccurati nel dataset di training di un modello, influenzando così qualsiasi risultato prodotto dal modello. L'avvelenamento consente agli aggressori di inserire backdoor nei modelli, le quali possono essere utilizzate in un secondo momento per ottenere l'accesso al sistema di un'azienda o per estrarre dati sensibili. 

I modelli di intelligenza artificiale possono essere compromessi durante la fase di pre-training, quando i malintenzionati manipolano i dataset di training disponibili sul web. Gli attori delle minacce possono anche compromettere i modelli nella fase di fine-tuning, manipolando i dati specifici dell'azienda utilizzati per perfezionare il modello per un caso d'uso più specifico.

Perdita di dati tramite LLM

Spesso, gli aggressori inducono i modelli LLM a condividere informazioni sensibili sulla struttura sottostante dei modelli, sulle istruzioni di sistema e sui dati di training. 

Anche i dipendenti, inconsapevolmente, contribuiscono alla perdita di dati quando utilizzano gli strumenti GenAI. Se un dipendente condivide dati sensibili in una richiesta, l'LLM memorizza tali informazioni. Il modello LLM potrebbe recuperare tali dati per rispondere alla richiesta di un altro utente, esponendo così informazioni sensibili.

La perdita di dati rappresenta un rischio significativo per le aziende. Nel 2025, ChatGPT da solo ha generato 410 milioni di violazioni delle policy DLP, ovvero di prevenzione della perdita di dati (Report di ThreatLabz sulla sicurezza dell'AI del 2026).

Shadow AI

Quando i dipendenti utilizzano app di intelligenza artificiale generativa non approvate, contribuiscono ad ampliare la Shadow AI. Senza una visibilità completa su ogni applicazione AI presente nell'organizzazione, i team di sicurezza non hanno un quadro completo dei rischi legati a questa tecnologia.

Questa mancanza di visibilità rappresenta un problema. Nel 2025, le aziende hanno trasferito oltre 18.000 terabyte di dati ad applicazioni di intelligenza artificiale, con un aumento del 93% rispetto all'anno precedente (Report di ThreatLabz sulla sicurezza dell'AI del 2026). Senza visibilità e controllo su questi flussi di dati, le aziende non sono in grado di proteggere tutti i dati in transito. 

Rischi della catena di approvvigionamento dell'AI

I rischi della catena di approvvigionamento legati all'AI sono simili a quelli presenti nella catena di fornitura di altri software. Le aziende creano modelli AI utilizzando una serie di componenti, come librerie open source, modelli pre-addestrati e API di terze parti, ognuno dei quali può presentare vulnerabilità di sicurezza. Quando queste debolezze si combinano tra loro, gli aggressori possono lanciare attacchi contro la catena di approvvigionamento.

I rischi più comuni nella catena di approvvigionamento dell'AI includono:

• Manomissione di modelli open source, librerie di machine learning e dataset di training. Gli aggressori creano logiche dannose o backdoor per sfruttarle in seguito.
• Utilizzo di integrazioni API di terze parti per le funzionalità, poiché ciò può esporre il modello AI a configurazioni errate e interruzioni del servizio in caso di violazione delle integrazioni.
• Shadow AI, perché le app AI non autorizzate potrebbero avere integrazioni rischiose o non verificate che possono violare le policy di sicurezza aziendali.

Governance dei dati e mancata conformità alle normative

Le aziende devono disporre di policy e linee guida chiare che spieghino quali tipi di dati possono essere inseriti nei sistemi di intelligenza artificiale e come vengono convalidati i risultati dell'AI. I team di sicurezza devono inoltre adottare misure per bloccare l'utilizzo di app di intelligenza artificiale non verificate e ottenere il controllo sulla Shadow AI. 

L'RGPD, il California Consumer Privacy Acte altri quadri normativi definiscono le modalità con cui l'AI generativa può acquisire e utilizzare i dati personali, ma le aziende non sono in grado di conformarsi a tali normative senza un piano di governance dei dati per l'AI. Framework come il NIST AI RMF rappresentano un utile punto di partenza, in quanto forniscono indicazioni su come identificare e monitorare i rischi delle applicazioni GenAI.

Come adottare in modo sicuro l'intelligenza artificiale generativa

I rischi legati all'AI provengono sia dall'interno dell'azienda, sotto forma di Shadow AI, sia dall'esterno, sotto forma di attacchi informatici orchestrati dall'AI. Per mettere in sicurezza l'AI, le organizzazioni devono adottare un approccio graduale alla sua adozione.  

ThreatLabz ha analizzato il modo in cui le organizzazioni hanno protetto la GenAI nel 2025 e ha scoperto che: 

Le organizzazioni dovrebbero seguire questi passaggi nell'adozione di strumenti AI: 

1. Adottare un approccio zero trust alla GenAI e bloccare o limitare l'accesso a tutte le applicazioni AI ed ML non verificate. 
2. Identificare quali app di GenAI sono in linea con i requisiti di sicurezza, privacy e conformità dell'organizzazione.
3. Ospitare strumenti GenAI convalidati in un ambiente privato e controllato, come un'istanza isolata interamente gestita dall'azienda. Questo protegge i dati sensibili inseriti nei modelli e impedisce che eventuali prompt o output vengano utilizzati per addestrare modelli accessibili al pubblico.
4. Implementare un'architettura zero trust per le applicazioni di GenAI, con policy di accesso granulari per garantire il principio del privilegio minimo.
5. Abilitare la DLP (Prevenzione della perdita di dati) e ispezionare i dati in entrata e in uscita dalle app di GenAI, evitando così perdite di dati.

Il futuro dell'AI generativa nella sicurezza informatica

Con l'evoluzione dell'AI generativa, stiamo assistendo all'emergere delle seguenti tendenze nella sicurezza:

Sicurezza dell'intelligenza artificiale agentica (Agentic AI): gli autori delle minacce ora utilizzano l'intelligenza artificiale agentica (Agentic AI) per accelerare gli attacchi informatici. Nel 2025, gli autori della prima campagna di spionaggio orchestrata dall'AI mai segnalata hanno automatizzato tra l'80% e il 90% del loro lavoro con l'intelligenza artificiale agentica (Report di ThreatLabz sulla sicurezza dell'AI del 2026). Le aziende devono integrare la gestione dell'identità non umana nei propri programmi di gestione delle identità e degli accessi (IAM) per proteggere l'intelligenza artificiale agentica all'aumentare del suo utilizzo.

Attacchi alla catena di approvvigionamento basati sull'AI: manomettendo i dataset di training open source e le librerie di machine learning, gli aggressori possono eseguire un singolo attacco con un ampio raggio d'azione. Per ridurre il rischio legato a terze parti, le aziende devono includere le distinte dei componenti software dell'AI (AI SBOM o AI BOM) e la verifica della provenienza dei modelli tra i requisiti di approvvigionamento.

SOC con AI nativa: i centri operativi di sicurezza si stanno orientando verso flussi di lavoro nativi dell'AI. Gli esseri umani saranno comunque coinvolti e dedicheranno più tempo all'analisi delle segnalazioni di problemi piuttosto che alla semplice gestione degli avvisi.

Governance dell'AI: i quadri normativi come la Legge europea sull'intelligenza artificiale, il framework del NIST sulla gestione del rischio AIe i framework specifici di settore come il DORA richiederanno sempre più alle imprese di conformarsi a controlli specifici per l'intelligenza artificiale.

La sicurezza dell'intelligenza artificiale generativa con Zscaler

Zscaler è una piattaforma di sicurezza per l'AI che aiuta le organizzazioni ad avere visibilità e controllo sulle proprie risorse di intelligenza artificiale generativa. Il 40% delle aziende presenti nella classifica Global 2000 utilizza Zscaler, e la piattaforma protegge oltre 500 miliardi di transazioni al giorno.

Con Zscaler, le aziende ottengono la sicurezza necessaria per proteggersi dai rischi emergenti legati all'intelligenza artificiale.

• AI SPM offre visibilità su tutte le risorse AI, tra cui la Shadow AI, i server MCP e i modelli. Una volta compreso il panorama AI dell'organizzazione, è possibile monitorare costantemente tutti gli ambienti per verificarne la conformità agli standard interni e ai requisiti normativi.
• AI Access Security gestisce l'accesso alle applicazioni AI secondo il principio del privilegio minimo e il rischio di perdita di dati grazie a funzionalità come controlli degli accessi granulari, protezione DLP e isolamento del browser
• Il red teaming automatizzato testa i tuoi sistemi di intelligenza artificiale alla ricerca di vulnerabilità e simula attacchi specifici per il dominio. Usa sonde predefinite o personalizzate e upload di dataset per adattare queste simulazioni ai tuoi domini, casi d'uso e requisiti normativi specifici.
• AI Guard analizza i prompt e le interazioni AI in tempo reale. L'analisi in tempo reale previene la perdita di dati, garantisce il rispetto delle policy di utilizzo dell'AI e identifica rischi come l'iniezione di prompt o il jailbreaking

Leggi la panoramica del prodotto per saperne di più su come Zscaler AI Security può aiutarti a tutelare l'utilizzo della GenAI nella tua organizzazione.