L'adoption rapide des agents IA au sein des entreprises du monde entier introduit une dimension de risque entièrement nouvelle tout en amplifiant de manière drastique les menaces internes. Les organisations doivent désormais gérer la manière dont ces agents interagissent avec les utilisateurs, d'autres agents, les données et les applications — et le contrôle de ces interactions devient rapidement le principal défi de sécurité auquel sont confrontées les entreprises aujourd'hui. À mesure que les entreprises déploient des agents pour des tâches allant du support client à la génération de code et à l'analyse de données, chaque nouvelle intégration élargit la surface d'attaque de manières que les cadres de sécurité traditionnels n'ont jamais été conçus pour traiter.

Ce qui distingue ce changement des évolutions précédentes en matière de sécurité d'entreprise est la combinaison de la vitesse et de l'autonomie. Une menace interne humaine se développe généralement sur plusieurs jours ou semaines, laissant des schémas détectables en cours de route. Un agent IA, en revanche, peut exécuter des milliers d'actions autonomes dans le temps qu'il faut à une équipe de sécurité pour simplement reconnaître que quelque chose a mal tourné. Ce n'est pas une différence incrémentale — c'est une catégorie de risque fondamentalement différente, et la majorité des organisations calibrent encore leurs défenses pour la précédente.

Hugging Face, la plateforme open source qui héberge des centaines de milliers de modèles et de jeux de données IA utilisés par les entreprises du monde entier, a clairement démontré qu'un agent IA, une fois assigné à un objectif spécifique, peut contourner les barrières conçues pour le restreindre. Avec cette violation désormais établie comme un fait, la question n'est plus de savoir si des garde-fous doivent être mis en place, mais quand. Pourtant, au lieu de se concentrer sur ce qui s'est passé et sur la marche à suivre, l'industrie choisit de se focaliser sur des variables périphériques qui ne font qu'obscurcir le problème.

Le point fondamental est le suivant : la responsabilité de traiter ce risque ne peut pas reposer uniquement sur les fournisseurs de modèles. Ni les entreprises de modèles de pointe ni les développeurs de modèles open source ne devraient être tenus de fournir une protection cybersécurité pour les modèles qu'ils créent.

La cybersécurité a toujours été une discipline distincte et spécialisée. Elle doit être traitée par des organisations possédant une expertise approfondie du domaine. L'ère de l'IA exige des architectures de sécurité conçues spécifiquement pour la visibilité, la gouvernance et le contrôle en temps réel — et non des outils adaptés à partir de solutions conçues pour un ensemble de problèmes entièrement différent.

Il ne s'agit pas d'un manque de confiance envers les créateurs de modèles. Cela reflète un principe fondamental du fonctionnement de la sécurité depuis des décennies. L'équipe qui développe un produit est rarement l'équipe la mieux équipée pour le sécuriser, car la construction et la sécurisation sont deux disciplines distinctes avec des missions fondamentalement différentes. C'était vrai pour les logiciels d'entreprise il y a deux décennies, et c'est tout aussi vrai pour les systèmes d'IA aujourd'hui.

Il ne s'agit pas de la course à l'IA entre les États-Unis et la Chine

Le réflexe de présenter cela comme un débat open source contre code source fermé, ou d'opposer les modèles d'une nation à ceux d'une autre, manque la substance de ce qui s'est produit et détourne l'attention de l'événement lui-même. Le nationalisme n'a aucun rôle ici. Il ne s'agit pas de modèles open source chinois face à des modèles à code source fermé américain. Les défis générés par l'IA ne sont pas contenus par les frontières nationales — si tant est que ces frontières puissent exacerber les obstacles techniques, politiques, sociaux et économiques que chacun doit affronter.

En réalité, la cybersécurité est peut-être le moindre des soucis. Les défis sous-jacents vont bien au-delà de toute industrie unique, et les traiter comme une compétition géopolitique ne nous rapproche en rien d'une résolution. Tracer des frontières et attiser une compétition non maîtrisée entre les nations est contre-productif lorsqu'il s'agit de traiter les problèmes que pose l'IA de pointe.

Présenter la situation comme une rivalité entre pays entraîne également une mauvaise allocation de l'attention et des ressources. Chaque heure consacrée à débattre de l'origine d'un modèle est une heure qui n'est pas passée à construire les contrôles qui pourraient prévenir des incidents comme celui-ci, quelle que soit la provenance du modèle. La surface d'attaque se fiche du passeport d'un modèle.

Plaidoyer pour une collaboration mondiale

Répondre aux risques plus vastes de l'IA qui nous attendent exige une action collective. Cela nécessite une coopération mondiale en matière de sécurité et de sûreté de l'IA — réunissant les entreprises de modèles, les experts en sécurité, les gouvernements et les entreprises, chacun apportant la bonne expertise. C'est ainsi que nous protégerons l'innovation sans en freiner le progrès.

L'Open Secure AI Alliance, initiée par Nvidia, représente un pas dans la bonne direction, mais ce n'est qu'un début. Il reste considérablement plus de travail à accomplir. Les coalitions mondiales et les forums internationaux tels que le Forum économique mondial (WEF) offrent une plateforme permettant à des experts aux perspectives diverses de relever les défis complexes de gouvernance, de sécurité et de politique que l'IA a créés.

Chacun de ces groupes détient une pièce essentielle du puzzle de la sûreté de l'IA. Les entreprises de modèles possèdent une compréhension inégalée des systèmes qu'elles ont construits. Les entreprises de sécurité comprennent la façon dont les attaquants pensent et dont les entreprises sont réellement compromises — un savoir accumulé au fil de décennies de pratique. Les gouvernements peuvent harmoniser et établir des normes qui offrent à l'ensemble de l'écosystème une base commune. Aucun groupe ne peut remplir les rôles des autres, et faire semblant du contraire est précisément la manière dont des failles comme celle que nous venons de constater s'élargissent.

Chaque entreprise opère aujourd'hui des agents IA avec un certain degré d'autonomie, et ce nombre ne fera qu'augmenter. La question valable à se poser n'est pas de savoir quel laboratoire a construit le modèle ni de quel pays il provient. C'est de savoir si quelqu'un surveille d'assez près pour intercepter ce que ces agents sont sur le point de faire ensuite.

Les opinions exprimées dans les articles de commentaire de Fortune.com sont uniquement celles de leurs auteurs et ne reflètent pas nécessairement les opinions et les convictions de Fortune.

Cet article a été initialement publié sur Fortune.com.