Qu’est-ce que l’IA générative en matière de cybersécurité ?

L’IA générative permet aux analystes de sécurité d’anticiper les menaces, de réagir plus rapidement aux attaques et d’approfondir leur connaissance des TTP (tactiques, techniques et procédures) des hackers. Mais elle permet aussi aux hackers d’identifier les vulnérabilités et de mener des attaques à grande échelle, tandis que les entreprises peinent à suivre le rythme des attaques dopées à l’IA.

Qu’est-ce que l’IA générative ?

L’IA générative s’appuie sur l’apprentissage automatique pour analyser les données d’entraînement, en identifier les schémas et générer de nouveaux contenus, tels que du texte, du code ou des images.

À la différence de l’IA générative, l’IA traditionnelle analyse les données et effectue des prédictions à partir de règles prédéfinies. L’IA traditionnelle est particulièrement performante pour les tâches répétitives de classification des données et de prédiction d’événements. Elle convient donc particulièrement aux cas d’usage produisant des résultats structurés, comme la recommandation de produits ou le filtrage des spams.

L’IA générative va plus loin et peut traiter des prompts et des données d’entrée spécifiques. Elle peut ainsi créer des contenus originaux avec une grande souplesse, en s’appuyant sur sa capacité à comprendre les schémas sous-jacents des données d’entraînement.

L’importance de l’IA dans la cybersécurité

L’essor fulgurant de l’IA impose de renforcer la sécurité de l’IA générative.

En 2026, l’activité liée à l’IA et à l’AA a progressé de 83 %, pour atteindre près de mille milliards de transactions au sein d’un écosystème comptant plus de 3 400 applications d’IA (Rapport 2026 de ThreatLabz sur la sécurité de l’IA). Plus les entreprises utilisent les applications d’IA générative, plus elles leur transmettent de données. En 2025, les transferts de données vers les applications d’IA et d’AA ont ainsi représenté 18 033 To, soit une hausse de 92,6 % par rapport à l’année précédente (Rapport 2026 de ThreatLabz sur la sécurité de l’IA).

Mais les transactions d’IA/AA et les transferts de données vers les outils d’IA introduisent de nouveaux risques, auxquels les entreprises répondent en renforçant leurs contrôles de sécurité. Ainsi, en 2026, elles ont bloqué 39 % des transactions d’IA/AA en raison de préoccupations liées à la sécurité des données et au respect des politiques (Rapport 2026 de ThreatLabz sur la sécurité de l’IA).

Ces contrôles sont essentiels pour les entreprises, car les hackers utilisent désormais l’IA pour mener des attaques à la vitesse des machines, et non plus à celle des humains. Lors de tests menés avec des outils d’IA, les experts en red teaming de Zscaler ont identifié des failles critiques dans 100 % des systèmes testés et sont parvenus à compromettre les systèmes d’IA en 16 minutes en moyenne (Rapport 2026 de ThreatLabz sur la sécurité de l’IA).

Comment les entreprises utilisent-elles l’IA générative ?

Les entreprises utilisent l’IA générative pour renforcer leurs dispositifs de cybersécurité existants. L’IA générative analyse de grandes quantités de données, compile des rapports détaillés et produit des analyses prédictives. Les équipes de sécurité s’appuient sur ces capacités pour réduire le triage manuel et mieux prioriser les risques.

Les principaux usages de l’IA générative en cybersécurité sont les suivants :

1. Priorisation et investigation des alertes

Les LLM peuvent prioriser les alertes en corrélant les signaux issus du trafic réseau, des endpoints et des journaux. Lorsqu’ils traitent ces alertes, les analystes SOC peuvent interroger le LLM pour obtenir davantage de contexte. Un analyste peut, par exemple, demander à l’IA générative : « affiche toute l’activité liée à cette adresse IP au cours des dernières 24 heures ».

L’IA permet ainsi d’identifier et de trier les alertes plus efficacement, tout en réduisant la fatigue liée aux alertes et le temps moyen consacré au triage.

2. Réponse aux incidents

Les équipes de sécurité utilisent l’IA générative pour synthétiser les incidents, formuler des recommandations de remédiation et établir des rapports post-incident.

Comme l’IA générative a accès aux données brutes des événements, elle peut rapidement recueillir et compiler des informations provenant de plusieurs sources. Les hallucinations de l’IA constituent toutefois un risque : un humain doit toujours vérifier la validité des données lorsque les résultats de l’IA générative sont utilisés à des fins de reporting.

3. Red Teaming

Les équipes de sécurité utilisent l’IA lors des exercices de red teaming pour simuler le comportement des attaquants et évaluer la solidité de leur posture de sécurité. Elles intègrent également des exercices de red teaming spécifiques à l’IA afin d’évaluer le comportement de leurs systèmes d’IA en situation d’attaque.

Comment les hackers utilisent-ils l’IA générative ?

Les hackers utilisent l’IA générative pour accélérer leurs techniques et tactiques d’attaque existantes et exploiter les faiblesses des systèmes d’IA des entreprises. Voici quelques exemples de ces pratiques dans des attaques réelles :

1. Ingénierie sociale orchestrée par l’IA

Les attaques de phishing dans le monde ont diminué de 20 % en 2024, et les hackers concentrent désormais leurs efforts sur quelques cibles à forte valeur, notamment les équipes chargées de la paie, de la finance et des ressources humaines (Rapport ThreatLabz 2025 sur le phishing). Ils utilisent l’IA générative pour parcourir le Web à la recherche d’informations personnelles, d’actualités sur les entreprises et d’autres données contextuelles, afin de concevoir des e-mails de spear phishing extrêmement personnalisés.

L’IA permet également de perfectionner le modèle du phishing-as-a-service. Les courtiers en accès initial utilisent l’IA générative pour créer de fausses données vocales, des SMS et des vidéos destinés à être utilisés dans des attaques de phishing(Rapport ThreatLabz sur le phishing 2025).

2. Recherche automatisée de vulnérabilités et génération d’exploits

Les hackers utilisent l’IA générative pour rechercher des vulnérabilités dans les bases de code open source. Grâce au langage naturel de l’IA générative, même les hackers qui ne disposent pas de compétences avancées en programmation peuvent créer du code malveillant.

3. Reconnaissance automatisée

Les acteurs malveillants utilisent des agents d’IA pour cartographier les systèmes d’une entreprise ciblée et identifier les voies d’attaque et les cibles potentielles. Ces agents étant programmés pour cartographier l’ensemble du système d’information, des outils de sécurité de l’IA, tels que les technologies de tromperie, peuvent donc les détecter.

4. Injections de prompts

L’IA générative ne fait pas la distinction entre les données fournies par les utilisateurs, c’est-à-dire les prompts, et les instructions système définies par les développeurs pour créer l’outil d’IA générative. Les hackers exploitent cette caractéristique pour manipuler les modèles d’IA générative afin qu’ils divulguent des informations sensibles ou exécutent les tâches demandées. 

L’injection de prompts peut être directe : un utilisateur peut par exemple demander à un outil d’IA générative d’envoyer tous les dossiers clients à l’adresse e-mail d’un hacker. Elle peut également être indirecte : le hacker dissimule alors des prompts malveillants dans un fichier tel qu’un PDF. Lorsqu’un employé fournit ce PDF à un outil d’IA générative, les prompts malveillants s’exécutent et permettent au hacker d’accéder au système.

5. Malwares polymorphes

À chaque exécution d’un malware polymorphe, celui-ci utilise l’IA générative pour modifier sa signature. Les outils de cybersécurité traditionnels s’appuient sur des règles de détection fondées sur les signatures pour identifier les malwares et ne peuvent donc pas détecter ces menaces.

Pour se protéger contre les malwares polymorphes, les entreprises doivent adopter des pratiques avancées de sécurité de l’IA, notamment l’analyse comportementale optimisée par l’IA et les architectures Zero Trust.

Risques propres à la sécurité de l’IA générative

La sécurité de l’IA générative présente des spécificités qui la distinguent d’autres domaines de la sécurité, comme la sécurité du cloud et la sécurité traditionnelle fondée sur le périmètre. Les risques liés à la sécurité de l’IA peuvent apparaître à chaque étape du cycle de vie de l’IA. Les entreprises doivent donc en tenir compte lorsqu’elles mettent en place des dispositifs de protection de leur infrastructure d’IA.

Empoisonnement de modèles

Les hackers injectent des données malveillantes ou inexactes dans les jeux de données utilisés pour entraîner un modèle, ce qui peut fausser les résultats qu’il produit. L’empoisonnement des modèles permet aux acteurs malveillants d’y intégrer des portes dérobées qu’ils pourront exploiter ultérieurement pour accéder au système d’une entreprise ou exfiltrer des données sensibles.

Les modèles d’IA peuvent être empoisonnés dès la phase de pré-entraînement, lorsque des hackers manipulent des jeux de données d’entraînement disponibles sur le Web. Lors du fine-tuning, les acteurs malveillants peuvent également manipuler les données propres à l’entreprise afin de compromettre le modèle et de l’adapter à un usage spécifique.

Fuite de données via les LLM

Les hackers incitent régulièrement les LLM à révéler des informations sensibles concernant leur architecture, leurs instructions système et leurs données d’entraînement.

Les employés peuvent également contribuer involontairement à des fuites de données lorsqu’ils utilisent des outils d’IA générative. À chaque fois qu’un employé partage des données sensibles dans un prompt, le LLM les stocke. Le LLM pourrait ensuite réutiliser ces données pour répondre au prompt d’un autre utilisateur et ainsi exposer les informations sensibles qu’elles contiennent.

Les fuites de données représentent un risque majeur pour les entreprises. En 2025, ChatGPT a généré à lui seul 410 millions de violations des politiques de prévention de la perte de données (DLP) (Rapport 2026 de ThreatLabz sur la sécurité de l’IA).

IA fantôme

Lorsque des employés utilisent des applications d’IA générative non approuvées, ils contribuent à l’IA fantôme. Sans une visibilité complète sur l’ensemble des applications d’IA utilisées dans l’entreprise, les équipes de sécurité ne disposent pas d’une vision complète des risques liés à l’IA. 

Cette absence de visibilité pose un réel problème. En 2025, les entreprises ont transféré plus de 18 000 téraoctets de données vers des applications d’IA, soit une hausse de 93 % sur un an (Rapport 2026 de ThreatLabz sur la sécurité de l’IA). Sans visibilité ni contrôle sur ces flux de données, les entreprises ne peuvent pas sécuriser l’ensemble de leurs données en transit.

Risques liés à la chaîne d’approvisionnement de l’IA

Les risques liés à la chaîne d’approvisionnement de l’IA sont similaires à ceux des autres chaînes d’approvisionnement logicielles. Les entreprises construisent leurs modèles d’IA à partir de nombreux composants, comme des bibliothèques open source, des modèles pré-entraînés et des API tierces, qui peuvent tous présenter des failles de sécurité. Lorsque ces faiblesses se combinent, les hackers peuvent mener des attaques contre la chaîne d’approvisionnement.

Les principaux risques liés à la chaîne d’approvisionnement de l’IA sont notamment les suivants :

• La compromission de modèles open source, de bibliothèques d’apprentissage automatique et de jeux de données d’entraînement. Les hackers y introduisent des mécanismes malveillants ou des portes dérobées qu’ils pourront exploiter ultérieurement.
• Le recours à des intégrations d’API tierces pour ajouter des fonctionnalités, qui peut exposer le modèle d’IA à des erreurs de configuration ou à des interruptions de service en cas de compromission de ces intégrations.
• L’IA fantôme, car les applications d’IA non autorisées peuvent intégrer des composants à risque ou non vérifiés, qui enfreignent les politiques de sécurité de l’entreprise.

Gouvernance des données et non-conformité réglementaire

Les entreprises doivent définir clairement quelles données peuvent être utilisées dans les systèmes d’IA et comment leurs résultats doivent être validés. Les équipes de sécurité doivent également prendre des mesures pour bloquer l’utilisation d’applications d’IA non vérifiées et ainsi reprendre le contrôle de l’IA fantôme.

Le RGPD, le California Consumer Privacy Act et d’autres cadres réglementaires définissent les conditions sous lesquelles l’IA générative peut collecter et utiliser des données personnelles. Les entreprises ne pourront toutefois pas se conformer à ces exigences sans mettre en place un plan de gouvernance des données d’IA. Des référentiels comme le NIST AI RMF constituent un bon point de départ, car ils fournissent des recommandations sur la manière d’identifier et de suivre les risques liés aux applications d’IA générative.

Comment adopter l’IA générative en toute sécurité

Les risques liés à l’IA viennent aussi bien de l’intérieur de l’entreprise, avec l’IA fantôme, que de l’extérieur, avec les cyberattaques orchestrées par l’IA. Pour sécuriser l’IA, les entreprises doivent l’adopter progressivement.

ThreatLabz a étudié la manière dont les entreprises ont sécurisé l’IA générative en 2025 et a constaté que :

Voici les étapes à suivre pour adopter les outils d’IA :

1. Adoptez une approche Zero Trust pour l’IA générative et bloquez ou limitez l’accès à toutes les applications d’IA et d’AA non vérifiées. 
2. Identifiez les applications d’IA générative qui répondent aux exigences de sécurité, de confidentialité et de conformité de l’entreprise.
3. Hébergez les outils d’IA générative vérifiés dans un environnement privé et contrôlé, par exemple dans une instance isolée entièrement gérée par l’entreprise. Cette approche protège les données sensibles fournies aux modèles et empêche l’utilisation des prompts ou des résultats pour entraîner des modèles accessibles au public.
4. Intégrez les applications d’IA générative à une architecture Zero Trust et appliquez des politiques d’accès granulaires fondées sur le principe du moindre privilège.
5. Activez la DLP et inspectez les données entrant dans les applications d’IA générative et en sortant afin de prévenir les fuites de données.

Quel avenir pour l’IA générative dans la cybersécurité ?

À mesure que l’IA générative évolue, plusieurs tendances se dessinent concernant sa sécurité :

Sécurité de l’IA agentique : les acteurs malveillants utilisent désormais l’IA agentique pour accélérer leurs cyberattaques. En 2025, les hackers à l’origine de la première campagne d’espionnage orchestrée par l’IA signalée ont automatisé entre 80 et 90 % de leurs opérations grâce à l’IA agentique (Rapport 2026 de ThreatLabz sur la sécurité de l’IA). À mesure que son utilisation se développe, les entreprises doivent intégrer la gouvernance des identités non humaines à leurs programmes IAM pour sécuriser l’IA agentique.

Attaques contre la chaîne d’approvisionnement de l’IA : en manipulant des jeux de données d’entraînement open source et des bibliothèques d’apprentissge automatique, les acteurs malveillants peuvent mener une simple attaque dont l’impact peut être considérable. Pour réduire les risques liés aux tiers, les entreprises doivent intégrer les AI software bills of materials (AI-SBOM, également appelées AI-BOM) et la vérification de la provenance des modèles à leurs exigences d’approvisionnement.

SOC natifs de l’IA : les centres des opérations de sécurité adoptent progressivement des workflows natifs de l’IA. Les humains continueront d’intervenir, mais consacreront davantage de temps à l’examen des alertes remontées qu’au traitement des alertes brutes.

Gouvernance de l’IA : des cadres réglementaires tels que l’EU AI Act, le NIST AI Risk Management Framework et des référentiels sectoriels comme DORA exigeront de plus en plus des entreprises qu’elles appliquent des contrôles spécifiques à l’IA. 

Sécurité de l’IA générative avec Zscaler

Zscaler est une plateforme de sécurité de l’IA qui permet aux entreprises de bénéficier d’une visibilité complète sur leurs ressources d’IA générative et d’en garder le contrôle. 40 % des entreprises du Global 2000 utilisent Zscaler, et la plateforme sécurise plus de 500 milliards de transactions chaque jour.

Avec Zscaler, les entreprises disposent des moyens nécessaires pour se protéger contre les risques émergents liés à l’IA.

• AI SPM offre une visibilité sur l’ensemble de vos ressources d’IA, notamment l’IA fantôme, les serveurs MCP et les modèles. Une fois votre environnement d’IA identifié, vous pouvez surveiller en continu tous vos environnements d’IA afin de vérifier leur conformité avec les normes internes et les exigences réglementaires.
• AI Access Security gère les accès aux applications d’IA selon le principe du moindre privilège et les risques de fuite de données grâce à des fonctionnalités telles que les contrôles d’accès granulaires, la protection DLP et l’isolation du navigateur.
• Le red teaming automatisé teste la vulnérabilité de vos systèmes d’IA et simule des attaques propres à votre domaine. Vous pouvez utiliser des sondes prédéfinies ou personnalisées et importer vos propres jeux de données pour adapter ces simulations à vos domaines d’activité, cas d’usage et exigences réglementaires.
• AI Guard inspecte inline les prompts et les interactions avec l’IA. Cette inspection prévient les pertes de données, fait respecter les politiques d’utilisation acceptable de l’IA et détecte des risques tels que l’injection de prompts ou le jailbreak.

Consultez la présentation du produit pour découvrir comment Zscaler AI Security peut contribuer à sécuriser votre utilisation de l’IA générative.