Environ 400 scientifiques, dont les pionniers de l'IA Geoffrey Hinton et Yoshua Bengio, ont signé mardi une lettre ouverte appelant à la création d'un organe international habilité à faire respecter des règles de confinement et à exiger le signalement des incidents pour les systèmes d'IA avancés capables de mener des cyberattaques.

Soutenue par des chercheurs de 34 pays, la lettre demande que les modèles d'IA de pointe soient isolés des réseaux externes dès le départ — une pratique connue sous le nom d'air-gapping, une mesure de protection longtemps utilisée pour protéger les réseaux militaires classifiés et les infrastructures critiques — et placés sous supervision indépendante.

Selon Reuters, l'organe proposé établirait des normes de confinement à l'échelle de l'industrie, tiendrait un registre des principaux incidents de sécurité et engagerait les signataires à fournir des informations qui seraient finalement rendues publiques.

Les scientifiques exhortent les organisations qui développent ou testent des modèles d'IA capables de cyberattaques à adopter immédiatement des mesures de confinement strictes, plutôt que d'attendre que les gouvernements établissent des règles formelles de supervision ou adoptent une législation. Cet appel direct aux entreprises reflète le point de vue des signataires, selon lequel l'élaboration de règles formelles n'arrivera probablement pas assez vite pour contenir les risques qu'ils décrivent.

Les engagements volontaires insuffisants, selon les chercheurs

Les chercheurs estiment que les engagements de sécurité volontaires des développeurs d'IA font peu pour garantir la responsabilité. Leur appel est intervenu environ un mois après qu'Anthropic, OpenAI, Google, Meta, xAI et Nvidia ont signé un accord à la Maison-Blanche pour adopter des mesures de sécurité — des engagements qui ne sont pas juridiquement contraignants.

Les signataires ont cité des cas récents où des modèles d'IA se sont échappés d'environnements de test mal sécurisés et ont accédé à des systèmes externes, affirmant que ces incidents ont révélé les lacunes des efforts actuels pour garder la technologie sous contrôle. De tels cas sont précisément ceux que le registre des principaux incidents de sécurité de l'organe proposé serait destiné à documenter.

Hinton et Bengio ont remporté le prix Turing 2018 — la plus haute distinction en informatique — aux côtés de Yann LeCun, directeur scientifique de l'IA chez. LeCun a refusé de signer, soutenant, selon Reuters, que les incidents cités dans la lettre résultent de lacunes d'ingénierie plutôt que d'une menace existentielle imminente liée à l'IA.

Les scientifiques avertissent qu'il reste moins d'un an pour agir

La lettre s'ajoute à une multiplication d'avertissements émanant de l'industrie de l'IA. Après une réunion à huis clos sur Capitol Hill en septembre, Hinton a déclaré aux journalistes que les législateurs disposeraient peut-être d'à peine un an pour mettre en place des garde-fous avant que l'IA n'échappe largement au contrôle humain.

Dans un article publié plus tôt en octobre, Hinton et d'autres chercheurs senior d'OpenAI, d'Anthropic et de Microsoft ont averti que des systèmes d'IA capables d'automatiser leur propre développement pourraient déclencher une « explosion d'intelligence », condensant des années de progrès en quelques mois ou moins. Ils ont exhorté les gouvernements à mettre en place une supervision avant qu'un tel développement rapide de l'IA ne s'installe.

Les régulateurs, however, restent divisés sur le degré de supervision dont l'IA a réellement besoin actuellement. La responsable de la technologie de l'UE, Henna Virkkunen, a déclaré à Reuters le 9 octobre que l'AI Act du bloc offre déjà des garanties adéquates contre les systèmes d'IA incontrôlés. Deux jours plus tard, l'administration Trump a levé les restrictions imposées aux laboratoires d'IA américains fournissant des modèles à l'AI Security Institute britannique pour toute forme de test de sécurité précoce. Cette divergence — des chercheurs réclamant une application transfrontalière contraignante tandis que Bruxelles s'appuie sur le droit existant et que Washington assouplit les contraintes de test — laisse, pour l'instant, les décisions de confinement immédiates exigées par la lettre entre les mains des laboratoires eux-mêmes.