Le Haut-Commissaire des Nations Unies aux droits de l'homme, Volker Türk, a averti le 7 septembre que l'intelligence artificielle progressait au point de pouvoir constituer une menace existentielle pour l'humanité, en s'exprimant devant le Conseil des droits de l'homme à Genève.

Türk a pressé les gouvernements d'agir rapidement pour mettre en place des garde-fous et encadrer les laboratoires d'IA engagés dans la course au leadership des systèmes autonomes, estimant que les violations et incidents de sécurité croissants montrent le risque de dérapage incontrôlé du secteur.

La préoccupation centrale du haut fonctionnaire onusien est que la technologie d'IA se développe plus vite que les systèmes de gouvernance censés la suivre. Cet avertissement intervient dans un paysage réglementaire fragmenté : l'Union européenne est allée le plus loin avec son AI Act, entré en vigueur en 2024 et imposant progressivement des obligations pour les systèmes à haut risque, tandis que les États-Unis se sont principalement appuyés sur des règles sectorielles et des engagements volontaires, et que la coordination internationale contraignante reste limitée. Selon Türk, cette croissance incontrôlée a fait passer la menace au-delà de la désinformation et de la destruction d'emplois, vers un terrain existentiel incluant la sécurité, la responsabilité et l'absence de supervision réelle des systèmes hautement autonomes.

Un appel à une action internationale urgente

Türk a fondé son appel à une action internationalement coordonnée sur une fenêtre qui se referme, durant laquelle les capacités de l'IA peuvent encore être contenues. Il a également critiqué le fait que le rythme et la direction du développement du secteur reposent de manière disproportionnée entre les mains d'un petit cercle de dirigeants et d'entreprises technologiques.

Comme remède, Türk a proposé que les pays abritant les principales entreprises d'IA, ainsi que ceux qui contrôlent les chaînes d'approvisionnement critiques — un groupe qui comprend les États-Unis et la Chine, foyers de la majeure partie du développement de l'IA de pointe et de la fabrication de puces avancées — tracent des « lignes rouges » définissant jusqu'où ils acceptent de laisser aller la technologie.

Le Haut-Commissaire revient sur un thème abordé par l'ONU lors du premier Dialogue mondial sur la gouvernance de l'IA, tenu dans la même ville suisse en juillet (déclaration de l'ONU).

Au sommet « AI for Good » de l'UIT, où cette conversation avait commencé, Türk a déclaré : « Nous ne considérons pas les normes de sécurité des médicaments, des voitures ou des avions comme des obstacles au progrès. Elles sont la raison pour laquelle les gens font confiance à ces technologies », selon les images de l'ONU. La supervision humaine, a-t-il ajouté, « ne peut pas être une simple formalité ».

Les éléments présentés à ce sommet comprenaient les conclusions de Sonia Livingstone, du Panel scientifique mondial sur l'IA mandaté par l'ONU. Dans une étude couvrant 11 pays du Sud, au moins un enfant par classe a déclaré avoir été victime de deepfakes sexuellement explicites générés par IA.

La directrice d'ONU Femmes, Sima Bahous, a souligné la dimension de genre du problème. Elle a indiqué qu'environ 88 % des meilleurs chercheurs en IA sont des hommes, et rapporté qu'au moins une activiste ou journaliste sur quatre interrogée par son agence avait subi des abus en ligne assistés par IA.

Laboratoires d'IA et législateurs réagissent

L'ONU n'est pas seule à sonner l'alarme cet été. Le sénateur américain Bernie Sanders a réclamé une pause immédiate du développement de l'IA avancée et une interdiction permanente de la superintelligence, tandis qu'un groupe transpartisan de parlementaires britanniques a plaidé pour des « interrupteurs d'arrêt » légalement obligatoires, après ce qu'ils ont décrit comme une série d'incidents d'IA incontrôlée.

Ces inquiétudes ont suivi l'affirmation d'OpenAI, liée à son modèle GPT-6 Astra, selon laquelle sa technologie aurait atteint l'intelligence artificielle générale, ainsi que l'aveu d'Anthropic que ses propres modèles n'étaient pas « parfaitement alignés » sur les valeurs humaines.

Une partie de la pression vient également de l'intérieur du secteur lui-même. Dans un essai de juin relayé par Axios, le PDG d'Anthropic, Dario Amodei, a soutenu que les gouvernements devraient détenir le pouvoir légal de bloquer ou d'annuler les déploiements dangereux d'IA, et que les modèles de pointe devraient être soumis à des tests obligatoires comparables à ceux appliqués aux voitures, aux avions ou aux nouveaux médicaments.

Dans sa propre mise à jour au Conseil, Türk a étendu son argument au domaine militaire, soutenant les appels à interdire les armes capables de tuer sans intervention humaine — une question que les États membres de l'ONU débattent depuis des années sans conclure de traité juridiquement contraignant sur les armes autonomes.