Zscaler constate une augmentation de près de 600 % de l’utilisation des outils d’IA/ML par les entreprises au cours de l'année écoulée, allant jusqu’à compromettre leur sécurité

• Les transactions d’IA/ML en entreprises sont passées de 521 millions par mois en avril 2023 à 3,1 milliards par mois en janvier 2024
• Le secteur de l'industrie génère le plus gros trafic de données via les outils d'IA, soit 21 % de toutes les transactions vers l'IA qui transitent par le cloud de sécurité de Zscaler, suivi de la finance et l'assurance (14 %) et des services (13 %)
• Les applications d'IA/ML les plus courantes dans les entreprises en termes de volume d’opérations sont ChatGPT, Drift, OpenAI, Writer et LivePerson
• Les cinq pays qui génèrent le plus de transactions d'IA en entreprise sont les États-Unis, l'Inde, le Royaume-Uni, l'Australie et le Japon

Zscaler, Inc. (NASDAQ : ZS), leader de la sécurité cloud, a publié son rapport 2024 AI Security Report basé sur plus de 18 milliards d’opérations d'IA sur la plateforme de sécurité cloud Zscaler Zero Trust Exchange™ entre avril 2023 et janvier 2024. Les chercheurs du Zscaler ThreatLabz ont analysé la façon dont les entreprises utilisent les outils d'IA/ML pour présenter les tendances selon les secteurs et les zones géographiques. Ils expliquent comment les entreprises s'adaptent à l'évolution du paysage de l'IA et gèrent la sécurité autour de l'utilisation des outils d'IA. Les entreprises doivent sécuriser leur transformation stimulée par l'IA générative (GenAI) de manière bidirectionnelle : elles doivent intégrer en toute sécurité les outils GenAI dans l'entreprise avec un modèle Zero Trust et s'en servir en même temps pour se défendre contre le nouveau paysage des menaces générées par l'IA.

L'IA est désormais pleinement intégrée dans la routine des entreprises. En effet, ces dernières adoptent et intègrent de nouvelles fonctionnalités et de nouveaux outils dans leurs processus de travail habituels, multipliant ainsi le volume des opérations et de données générées. L'augmentation de près de 600 % des opérations ainsi que les 569 téraoctets de données d'entreprise envoyées aux outils d'IA que le ThreatLabz a analysés entre septembre 2023 et janvier 2024 en témoignent.

« Les données sont le nerf de la guerre de toute entreprise et constituent la clé de voûte de cette nouvelle ère de la révolution de l'IA », a déclaré Deepen Desai, Chief Security Officer de Zscaler. « Grâce à la visibilité offerte par près de 500 trillions de signaux quotidiens de Zscaler Zero Trust Exchange combinée à Avalor* Data Fabric, l'entreprise Zscaler est, selon nous, particulièrement bien placée pour combattre l'IA par l'IA et améliorer la sécurité Zero Trust à l'échelle de l'entreprise. »

Les opérations d'IA augmentent de façon exponentielle

Entre avril 2023 et janvier 2024, selon ThreatLabz, les opérations d'IA/ML ont augmenté de près de 600 %. Elles ont atteint plus de 3 milliards de transactions  par mois sur l'ensemble de la plateforme Zero Trust Exchange au mois de janvier. Malgré le risque de sécurité élevé et le nombre croissant d'incidents liés à la protection des données, les entreprises optent massivement pour les outils d'IA.

Les entreprises du secteur de l’industrie, responsables de plus de 21 % des opérations d'IA/ML en entreprise

Le secteur industriel se révèle être le leader des opérations d'IA sur la plateforme Zero Trust Exchange, avec près de 21 % du volume total. Que ce soit pour analyser de grandes quantités de données émanant de machines et de capteurs, pour détecter de manière préventive les pannes techniques ou pour optimiser la gestion de la chaîne d'approvisionnement, les stocks et les opérations logistiques, l'IA joue un rôle déterminant dans l’industrie. Les autres secteurs verticaux les plus importants qui composent le Top 5 sont la finance et l'assurance (14 %), la technologie (14%), les services (10 %) et le commerce de gros et de détail (5 %).

ChatGPT, l’application GenAI la plus utilisée

L'étude révèle que ChatGPT a réalisé plus de la moitié des opérations d'IA en entreprise (52%), tandis que l'application OpenAI arrive en troisième position (8%). Drift, le chatbot le plus couramment utilisé et qui est alimenté par l’IA, contribue à près de 20 % du trafic des entreprises, tandis que LivePerson et BoldChat figurent également dans la liste. Writer est l'outil GenAI privilégié pour générer du contenu d'entreprise écrit.

Les États-Unis sont les premiers à utiliser les outils d'IA en entreprise

A l’échelle mondiale, les tendances en matière d'adoption de l'IA varient en fonction des réglementations, des exigences, de l'infrastructure technologique, des considérations culturelles et d’autres facteurs importants. Les États-Unis dominent avec le pourcentage le plus élevé d’opérations d'IA en entreprise dans le monde, avec un taux de 40 %. L'Inde se classe en deuxième position avec 16 %, poussée par l'engagement soutenu du pays à stimuler l'innovation.

Bien que le Royaume-Uni ne représente que 5,5 % des transactions mondiales vers les applications d'IA en entreprise, il est le premier pays de la région EMEA en termes de trafic avec plus de 20 %. La France (13 %) et l'Allemagne (12 %), comme on pouvait s'y attendre, suivent de près et sont respectivement les deuxième et troisième plus grands générateurs de trafic vers les applications d'IA en entreprise dans la région EMEA. Mais les Émirats arabes unis se distinguent comme un moteur de l'innovation technologique en pleine expansion dans la région, affirmant leur position de leader dans l'adoption de l'IA.

Dans la région APAC, ThreatLabz a observé une croissance spectaculaire de près de 1,3 milliard (soit une augmentation de 135 %) de transactions liées à l'IA par rapport à la région EMEA. Cette augmentation peut être attribuée à l'utilisation et à l'adoption par l'Inde d'outils d'IA dans le secteur de la technologie, et peut suggérer une plus grande concentration d'emplois dans la technologie, une plus grande volonté d'adopter de nouvelles innovations et moins d'obstacles à l'utilisation de ces outils.

Le recours à l'IA par les acteurs de la menace accentue les risques et les problèmes de sécurité pour les entreprises

Les avancées de l'IA offrent de grands avantages pour les entreprises mais sont une arme à double tranchant. Même si l'IA représente un énorme potentiel d'innovation et d'efficacité, elle engendre également un nouvel ensemble de risques que les entreprises doivent appréhender (notamment, les risques associés à l'exploitation des outils GenAI au sein de l'entreprise et un paysage évolutif de menaces assistées par l'IA.)

L'utilisation des outils de GenAI dans les entreprises crée des risques importants que l'on peut classer en trois catégories principales :

1. Protection de la propriété intellectuelle et des informations non publiques : risque de fuite de données.
2. Risques liés à la confidentialité et à la sécurité des données des applications d'IA : surface d'attaque élargie, nouveaux vecteurs de menace et risques accrus pour la chaîne d'approvisionnement.
3. Problèmes de qualité des données : le concept de « à instructions incorrectes, résultats incorrectes » et le risque d'empoisonnement des données.

Par ailleurs, les entreprises sont constamment exposées à un déluge de cybermenaces, dont certaines sont désormais pilotées par l'IA. Pour ce type de menaces, les possibilités sont pratiquement illimitées, car les attaquants savent exploiter l'IA pour orchestrer des campagnes sophistiquées de phishing et d'ingénierie sociale, développer des malwares et des ransomwares très évasifs, exploiter les vulnérabilités des surfaces d'attaque des entreprises et intensifier la rapidité, l'échelle et la diversité des attaques. Pour relever ce défi, les entreprises et les professionnels de la cybersécurité doivent évoluer dans un environnement où l'intelligence artificielle progresse rapidement et ainsi exploiter son potentiel révolutionnaire tout en atténuant les risques et en se défendant contre les attaques alimentées par l'IA.

Sécuriser l'adoption de l'IA par les entreprises avec Zscaler

Forte de sa position de leader, Zscaler permet aux entreprises d'exploiter le potentiel des applications d'IA tout en garantissant que leurs données sont en sécurité et en maintenant un environnement protégé contre les canaux d'exfiltration émergents. Zscaler, grâce à sa plateforme Zero Trust Exchange, offre un éventail complet d'outils nécessaires à ce parcours de transformation avec quatre capacités essentielles :

1. Une visibilité totale sur l'utilisation des outils d'IA
2. La création de politiques d'accès granulaires pour l'IA
3. Une sécurité granulaire des données pour les applications d'IA
4. Des contrôles efficaces avec l'isolation des navigateurs

Grâce aux contrôles de sécurité Zero Trust de Zscaler, les entreprises peuvent se lancer en toute confiance dans leur transformation vers l'IA, exploiter pleinement le potentiel de l'IA générative tout en garantissant un niveau de sécurité optimal. Elles auront à leur disposition les outils nécessaires pour protéger leur entreprise contre les menaces associées à l'IA et bénéficieront des politiques d'IA parfaitement adaptées de Zscaler et des protections de données solides.

Téléchargez dès maintenant la version complète du 2024 AI Security Report pour en savoir plus sur la sécurisation de l'IA.

*Pour en savoir plus sur l'acquisition récente d'Avalor par Zscaler, cliquez ici.

Méthodologie

Analyse de 18,09 milliards d’opérations d'IA entre avril 2023 et janvier 2024 dans le cloud de sécurité Zscaler, le Zero Trust Exchange.