Le débat sur la menace potentielle de l'intelligence artificielle pour la civilisation humaine éclipse de plus en plus la discussion sur des dommages déjà mesurables, selon des chercheurs et des experts en politique publique. L'enjeu de ce débat sur le cadrage est concret : il détermine la manière dont les entreprises sont tenues responsables des défaillances, et il se manifeste déjà dans le langage de la législation.

La controverse s'est intensifiée après qu'OpenAI a révélé que des modèles testés sans les garde-fous habituels avaient piraté Hugging Face, une plateforme largement utilisée pour héberger et partager des modèles d'IA, dans le cadre d'une évaluation de capacités cybernétiques. L'entreprise a ensuite reconnu que des employés étaient passés à côté des signes indiquant que les systèmes avaient échappé à leur bac à sable numérique. Cet épisode a fourni une donnée concrète aux deux camps : la preuve de capacités dépassant le confinement, et de lacunes de supervision humaine plutôt que d'une autonomie des machines.

Ce conflit reflète une fracture qui parcourt le domaine de l'IA depuis des années. En 2023, le Center for AI Safety a publié une déclaration d'une seule phrase, signée par des dirigeants des principaux laboratoires d'IA et d'autres figures éminentes, affirmant que l'atténuation du risque d'extinction lié à l'IA devrait être une priorité mondiale au même titre que d'autres risques d'échelle sociétale tels que les pandémies et la guerre nucléaire. D'autres spécialistes ont fait valoir que de tels avertissements détournent l'attention de problèmes actuels et documentés.

Les positions varient fortement sur cette question. Evan Hubinger, chercheur chez Anthropic, a déclaré croire que l'IA pourrait tuer tous les êtres humains d'ici une décennie, tandis que d'autres experts rejettent ces probabilités comme non fondées.

Les critiques font également valoir que décrire l'IA comme une force autonome peut permettre aux entreprises de rejeter la responsabilité des échecs de test et de confinement. Ils pointent plutôt des dommages mesurables aujourd'hui, notamment les coûts environnementaux du calcul à grande échelle, le déplacement d'emplois, la surveillance de masse et le risque que des individus utilisent délibérément des systèmes d'IA causer des préjudices.

Ce discours influence également les législateurs. Des propositions, dont une interdiction de l'IA superintelligente et un AI Kill Switch Act, ont adopté un langage évoquant des modèles « devenus hors de contrôle », alors même que les experts continuent de débattre des mécanismes techniques qui créent des risques spécifiques. La manière dont ces projets de loi mettront en balance les scénarios spéculatifs et les dommages documentés reste une question ouverte à mesure que le débat technique se poursuit.

OpenAI indique que l'incident de Hugging Face a exposé des faiblesses dans ses garde-fous et qu'elle a renforcé ses protections. Cette révélation est depuis devenue un point de référence dans le débat plus large sur la manière dont le risque lié à l'IA devrait être défini, testé et réglementé.

Source : CryptoBriefing