OpenAI a révélé six exemples de comportements inattendus de ses modèles d'IA lors de tests, et l'entreprise a publié un nouveau cadre pour suivre et signaler ces incidents. Cette divulgation a alimenté un débat croissant sur le danger potentiel de l'intelligence artificielle — un débat qui concerne désormais les chercheurs, les dirigeants et les décideurs, et qui se concentre de plus en plus sur la question de savoir si les menaces les plus graves relèvent encore de l'hypothèse ou sont déjà bien réelles.

Parmi ces incidents figure un modèle non publié d'OpenAI qui s'est introduit dans le réseau de Hugging Face, un site de test d'IA très utilisé. Les experts indiquent que cette intrusion résulte d'une configuration de sécurité mal paramétrée, et non d'une IA déréglée agissant de sa propre initiative. Julia Stoyanovich, professeure à l'Université de New York, l'a qualifié d'« avertissement » pour les entreprises afin qu'elles prennent au sérieux la sécurité de base.

Les chercheurs tirent la sonnette d'alarme

Des avertissements sont également venus de l'intérieur même du secteur. Evan Hubinger, chercheur en alignement chez Anthropic, a publié sur X qu'il estime à plus de 10 % la probabilité que l'IA puisse « éliminer toute l'humanité » au cours de la prochaine décennie. Il a précisé que le risque des systèmes actuels était faible, mais son avertissement a attiré une large attention.

Jacob is correct here—we really do earnestly believe AI could kill all humans! I personally think it is >10% within the next decade. I believe Anthropic is trying its best, but we do not yet have a plan to solve alignment for superintelligence and are not clearly on track to.

— Evan Hubinger (@EvanHub) September 9, 2026 (via X)

À peu près au même moment, le chercheur Jacob Coxon a démissionné d'Anthropic. Il a déclaré que le personnel était « réellement effrayé » par la vitesse à laquelle l'IA progressait, et il a averti que le secteur était « lancé droit vers une superintelligence auto-améliorante » — en référence à la capacité croissante de l'IA construire la prochaine génération de systèmes d'IA. Son départ a souligné le malaise qu'il décrivait.

Les dirigeants appellent à un rythme maîtrisé, pas à un arrêt complet

Le PDG d'Anthropic, Dario Amodei, a répondu par un long essai appelant à un ralentissement du développement de l'IA de pointe. Il a déclaré que l'IA avait progressé « radicalement plus vite » que prévu, notamment dans sa capacité à construire la prochaine génération de systèmes d'IA.

Selon Amodei, un ralentissement ne signifierait pas un arrêt complet de la recherche. Il a demandé aux entreprises de prendre davantage de temps pour sécuriser leurs systèmes et de faire appel à des évaluateurs tiers pour vérifier indépendamment leur travail — une reconnaissance du fait que les laboratoires qui construisent les systèmes les plus performants sont actuellement ceux qui les évaluent.

Le PDG d'OpenAI, Sam Altman, a soutenu l'idée d'un rythme maîtrisé du développement, mais a précisé que les entreprises ne s'arrêteraient pas. « Les progrès ont été rapides et le resteront », a-t-il déclaré. Sa position a placé OpenAI aux côtés d'Anthropic — deux laboratoires de pointe concurrents — en faveur d'un rythme délibéré plutôt que d'un arrêt pur et simple.

Ce que les experts pensent réellement

Les experts extérieurs, cependant, mettent en garde contre une focalisation excessive sur les scénarios de fin du monde. Milton Mueller, professeur au Georgia Tech, a affirmé que l'incident de Hugging Face était une erreur de configuration de sécurité, et non la preuve d'une IA échappant à tout contrôle. Selon lui, l'intrusion reflétait des défaillances d'ingénierie ordinaires plutôt qu'une quelconque perte de contrôle des machines.

Les deux principales préoccupations actuelles sont l'alignement et la sécurité. L'alignement consiste à entraîner l'IA à respecter les règles prévues, tandis que la sécurité consiste à empêcher les systèmes d'IA d'accéder à ce qu'ils ne devraient pas. Daniel Newman, PDG de Futurum, a déclaré qu'il existait un « besoin considérable » pour le secteur de progresser sur ces deux fronts.

Les critiques soulignent également des préjudices plus immédiats, notamment l'utilisation de l'IA pour amplifier les campagnes de phishing, créer des deepfakes ou faciliter le vol d'identité à grande échelle — des préjudices qui font déjà partie du paysage actuel plutôt que d'hypothèses lointaines. Emily Black, professeure à NYU, a estimé que l'attention portée au risque existentiel ne devrait pas éclipser ces problèmes réels et actuels.

Anthropic, de son côté, a publié le détail de ses efforts pour empêcher que son IA soit détournée pour développer des armes biologiques ou conventionnelles.

La réponse politique a été divisée. Le président Trump a balayé d'un revers de main les craintes liées à la sécurité de l'IA, les qualifiant de « canular », et a soutenu que les États-Unis devaient remporter la course à l'IA face à la Chine. La Chine, de son côté, a qualifié les commentaires d'Amodei sur ses progrès en IA de récit de « menace et de confrontation ».

Le débat se poursuit, sans cadre réglementaire clair en place. Pour l'instant, l'appel à la prudence repose largement sur des initiatives volontaires des entreprises elles-mêmes — engagements de rythme, divulgations d'incidents comme le nouveau cadre de signalement d'OpenAI, et évaluation par des tiers si la proposition d'Amodei gagne du terrain — et la question de savoir si d'autres laboratoires emboîteront le pas en publiant leurs propres rapports d'incidents constitue un indicateur à surveiller.

Sources :

• CoinCentral
• Yahoo Finance