Le marché de l’IA est confronté à une remise en question rapide des risques existentiels liés à la sécurité, et les entreprises devraient y prêter attention. Mais alors que les principaux fournisseurs du secteur multiplient les appels à une réglementation nationale obligatoire de l’intelligence artificielle, la tâche la plus concrète pour les entreprises consiste à préparer leurs propres organisations à d’éventuels changements.

Le dilemme est compliqué par le paysage concurrentiel, notamment par la rivalité géopolitique entre les États-Unis et la Chine dans les domaines du commerce et des technologies d’IA.

OpenAI appelle à des règles de sécurité obligatoires

Chris Lehane, directeur des affaires internationales d’OpenAI, a publié mercredi un billet de blog appelant les responsables politiques du monde entier à agir pour contenir les risques liés à l’IA. Lehane a déclaré qu’OpenAI œuvrait en faveur d’exigences nationales obligatoires en matière de sécurité de l’IA et soutenait quatre projets de loi californiens, dont l’un créerait un cadre pour des évaluations de sécurité indépendantes, ainsi que deux autres textes promulgués mercredi par le gouverneur de Californie Gavin Newsom.

Le fournisseur d’IA a ajouté qu’il était disposé à travailler avec d’autres laboratoires de pointe afin de faire progresser les normes de sécurité de l’IA, de renforcer l’autorégulation et de promouvoir des approches internationales concertées pour mesurer les capacités, gérer les risques et préserver le contrôle humain de la technologie de l’IA.

Pour les entreprises qui suivent le débat sur la sécurité, la meilleure démarche consiste à intégrer la sécurité dans la classification des niveaux de risque liés à l’utilisation de la technologie par leur organisation, a déclaré Lauren Kornutick, analyste chez Gartner.

« Vous pouvez intégrer des protections ou des contrôles supplémentaires autour de l’utilisation de l’IA dans votre organisation pendant que les autorités de régulation rattrapent leur retard, car il faut du temps pour que les instances législatives s’accordent sur la manière de procéder », a déclaré Kornutick.

Les inquiétudes concernant les risques de l’IA s’intensifient

La déclaration de politique générale d’OpenAI intervient alors que les inquiétudes concernant les risques de cette technologie augmentent, à la suite de plusieurs incidents au cours desquels des agents d’IA alimentés par des modèles d’OpenAI et d’Anthropic se sont échappés de leurs environnements sandbox. Ces épisodes ont souligné à quel point les connaissances sur le comportement des systèmes d’IA restent limitées.

« Le rythme auquel les capacités de l’IA progressent est supérieur à celui auquel nos institutions peuvent les comprendre et les encadrer », a déclaré Kashyap Kompella, fondateur de RPA2AI Research. Avec les modèles de raisonnement, une puissance de calcul renforcée et des agents autonomes toujours plus performants, la technologie a franchi un seuil important, a-t-il ajouté.

De nombreuses personnalités éminentes, dont Geoffrey Hinton, souvent présenté comme le parrain de l’IA, ont exprimé leurs inquiétudes concernant la complexité et les dangers potentiels de l’IA générative. Mercredi, Jacob Coxon, chercheur chez Anthropic ayant auparavant travaillé chez OpenAI, a averti dans une publication sur les réseaux sociaux que les entreprises se précipitaient vers une superintelligence trop dangereuse, qui pourrait tuer tous les êtres humains d’ici la fin de la décennie. Coxon, qui a depuis démissionné d’Anthropic, a soutenu qu’aucune entreprise ne pouvait développer une intelligence artificielle générale en toute sécurité sans intervention gouvernementale.

Le paysage concurrentiel

« La démission de Coxon met en évidence un important problème structurel », a déclaré Kompella. « La concurrence entre les principales entreprises d’IA crée des incitations à continuer de repousser les capacités, même lorsque certains chercheurs estiment que les risques deviennent très sérieux. »

Cette concurrence signifie, a-t-il ajouté, que demander aux fournisseurs de s’autoréguler ou de mettre volontairement fin aux progrès technologiques n’est pas une réponse réaliste. Les principaux fournisseurs d’IA sont motivés non seulement par la course visant à dépasser leurs concurrents, mais aussi par la rivalité géopolitique entre les États-Unis et la Chine dans les domaines du commerce et des technologies d’IA.

« Les pressions géopolitiques sont telles que les deux grandes puissances, les États-Unis et la Chine, estiment chacune qu’il est existentiel pour elles de gagner la course à l’IA », a déclaré Michael Bennett, vice-chancelier adjoint chargé de la science des données et de la stratégie en matière d’IA à l’Université de l’Illinois à Chicago. « On ne peut pas se permettre de ralentir à cause des implications concurrentielles de la course à l’IA. »

La réponse des entreprises

Plutôt que d’attendre la réglementation obligatoire défendue par OpenAI, les entreprises devraient s’autoréguler en adoptant certaines des exigences que les États commencent à instaurer — par exemple, une évaluation indépendante dans leurs processus d’approvisionnement auprès de fournisseurs tiers, selon Kornutick.

Pour les dirigeants d’entreprise, cela fait du débat réglementaire une question immédiate de gouvernance : ils peuvent suivre les nouvelles exigences adoptées par les États, évaluer indépendamment les modèles tiers et documenter les contrôles pendant que les législateurs et les fournisseurs élaborent des normes de sécurité plus larges.

« La réglementation est donc utile, mais elle ne constitue souvent pas une solution absolue. Les entreprises devraient réfléchir à l’usage qu’elles font des modèles de pointe. Doivent-elles les utiliser pour tout dans l’ensemble de leurs applications d’IA ? Où peuvent-elles obtenir le plus de valeur ? », a-t-elle déclaré.

Les entreprises peuvent également faire du lobbying et travailler avec les législateurs, a souligné Kornutick.

« Si votre organisation dispose des moyens de faire du lobbying, de travailler avec les législateurs et de faire part directement de ses préoccupations aux fournisseurs de modèles… faites-le », a-t-elle déclaré. « Mais en même temps, vous devez garder le contrôle sur ce qui dépend de vous, à savoir les fondements d’une bonne gouvernance de l’IA, des données et de la cybersécurité. Vous disposerez ainsi des bases nécessaires pour préparer votre organisation aux changements futurs. »

Une autre raison de réglementer

L’appel d’OpenAI à une réglementation fédérale — et le soutien des fournisseurs à des textes comme ceux de Californie — pourrait être davantage qu’une réponse au débat actuel sur les risques de l’IA. Il pourrait également s’agir d’une stratégie pour prendre de l’avance sur la période électorale et conserver le soutien de l’opinion publique, alors que celle-ci s’est retournée contre l’IA et les centres de données d’IA.

Bennett estime néanmoins qu’il est possible d’imaginer un nouvel ensemble de politiques et de réglementations dans lequel le soutien à la technologie et la sécurité coexisteraient.

« Cela permettrait de soutenir le développement tout en mettant en place les meilleurs protocoles et dispositifs de protection en matière de sécurité », a-t-il déclaré. « Des équipes composées d’humains et d’IA utiliseraient la technologie pour contribuer à concevoir de nouvelles réglementations de manière optimale. »

Une agence indépendante

Bien qu’une réglementation soit nécessaire, elle ne résoudra pas tous les problèmes de sécurité liés à l’IA, notamment parce que de nombreux régulateurs ne comprennent toujours pas ces systèmes, a déclaré Kompella.

« Une grande partie de la compréhension approfondie de la manière dont les systèmes de pointe sont construits et de leur comportement reste concentrée au sein d’un petit nombre d’entreprises et de groupes de recherche », a-t-il poursuivi. « Les régulateurs sont donc confrontés à la difficile tâche d’encadrer une technologie techniquement complexe, qui évolue très rapidement et est en grande partie développée en dehors de l’administration. »

Il estime qu’une institution disposant d’une expertise technique approfondie et indépendante — à l’image de la NASA ou de la DARPA — devrait examiner et évaluer continuellement ces questions et fournir aux responsables politiques des conseils que les entreprises d’IA elles-mêmes ne pourraient pas influencer.

« La réponse la plus solide à court terme est un cadre fédéral bipartisan soutenu par une institution dotée de capacités techniques importantes et indépendante », a déclaré Kompella. « Cette institution devrait être suffisamment forte pour remettre en question les laboratoires de pointe, mais assez sophistiquée sur le plan technique pour ne pas réglementer par la peur ou geler les progrès technologiques. Elle doit également être capable d’avancer beaucoup plus rapidement que les institutions réglementaires traditionnelles. »

Pour leur part, les entreprises n’ont probablement pas besoin de consacrer beaucoup de temps à s’inquiéter du risque existentiel lié à l’IA, mais elles doivent en être conscientes, a déclaré Kornutick.

« Les organisations doivent vraiment examiner les risques qui se présentent à elles, notamment les lacunes de leur infrastructure et de leur architecture », a-t-elle déclaré. « À l’heure actuelle, cela pourrait révéler un problème réel qu’elles ne prennent pas en compte. »

---

Cet article s’appuie sur le reportage d’Esther Shittu pour AI Business, publié le 10 septembre 2026. Source : The AI Safety Crunch and How Enterprises Should Deal With It