Le Conseil de sécurité des Nations unies a longtemps servi de cadre aux délibérations sur les menaces existentielles — armes nucléaires, changement climatique, pandémies. Le Conseil est l'organe de l'ONU chargé de la responsabilité principale du maintien de la paix et de la sécurité internationales, ce qui fait de son ordre du jour un baromètre approximatif de la manière dont les gouvernements définissent collectivement le risque mondial. Le 23 septembre 2026, il a ajouté un nouvel élément à cette liste : une intelligence artificielle susceptible d'échapper au contrôle humain.

Sam Altman, directeur général d'OpenAI, et Dario Amodei, directeur général d'Anthropic, se sont présentés devant le Conseil de sécurité lors de la session annuelle de l'Assemblée générale de l'ONU, le rendez-vous de septembre à New York qui réunit chefs d'État et de gouvernement en un même lieu. Tous deux ont exhorté les dirigeants mondiaux à bâtir des cadres coopératifs autour de la sécurité de l'IA avant que la trajectoire de la technologie ne dépasse les institutions censées la régir.

Ce que les dirigeants ont déclaré

Le message d'Altman s'est centré sur les intérêts communs. Il a soutenu que les nations partagent des intérêts communs dans la gestion des nouvelles technologies puissantes, et que ces intérêts partagés — et non la compétition — devraient constituer le fondement de la coordination internationale.

Amodei est allé plus loin, avertissant que l'IA pourrait poser de véritables risques pour l'humanité si le processus de développement manque de garanties adéquates. Sa présence à l'ONU faisait suite à un essai publié le 12 septembre, dans lequel il appelait publiquement à un rythme plus mesuré dans le développement des capacités de l'IA et préconisait d'intégrer des évaluateurs indépendants au sein des laboratoires afin d'assurer une responsabilisation que les équipes internes ne peuvent garantir elles-mêmes.

La session revêtait une importance au-delà de la liste des intervenants. Il s'agissait de la première réunion d'information du Conseil de sécurité de l'ONU consacrée spécifiquement aux risques de sécurité de l'IA de pointe — terme désignant généralement les systèmes d'IA les plus performants à la frontière actuelle du développement — signe que le débat a migré des conférences académiques et des podcasts de la Silicon Valley vers les rouages de la diplomatie internationale formelle.

D'autres voix éminentes se sont jointes à la discussion. Clément Delangue, PDG de Hugging Face, a participé aux côtés de Yoshua Bengio, l'un des chercheurs fondateurs l'apprentissage profond moderne et défenseur constant de la prudence dans le développement de l'IA. Des développeurs chinois d'IA ont également été invités à contribuer — un détail notable compte tenu des tensions géopolitiques qui traversent l'ensemble de la conversation.

Diplomatie, désaccords et auto-amélioration récursive

Le risque spécifique qui a animé une grande partie de la session était l'auto-amélioration récursive : la possibilité que des systèmes d'IA avancés puissent améliorer de manière itérative leurs propres capacités d'une manière qui dépasse toute supervision humaine véritablement effective.

La réunion s'inscrit également dans un moment diplomatique plus large. Le dialogue américano-chinois sur la régulation de l'IA s'est discrètement élargi, et l'inclusion de développeurs chinois dans la session de l'ONU reflétait une tentative de rendre la conversation véritablement mondiale plutôt qu'un exercice de fixation de normes occidentales déguisé en multilatéralisme.

Cette tentative se heurte à un vent politique contraire direct. Le président américain Donald Trump a publiquement rejeté ce qu'il a qualifié de projet globaliste visant à contrôler l'IA, une lecture qui présente la coordination internationale comme une menace pour le leadership technologique américain plutôt que comme un mécanisme de gestion d'un risque partagé.

La présence de Bengio ajoutait une dimension différente. Il évolue en dehors de l'écosystème commercial de l'IA et n'a aucune feuille de route produit à protéger. Sa participation aux côtés des PDG d'OpenAI et d'Anthropic signale une convergence rare entre chercheurs académiques en sécurité et leaders de l'industrie sur la nécessité de mécanismes internationaux.

La suite, et pourquoi c'est important

La session du Conseil de sécurité n'a produit aucun accord contraignant ni résolution formelle. Cette distinction compte : en vertu de la Charte des Nations unies, les résolutions du Conseil de sécurité peuvent avoir une force contraignante pour les États membres, ce qui fait d'une action formelle du Conseil l'un des leviers les plus puissants disponibles en matière de gouvernance internationale.

Pour OpenAI et Anthropic spécifiquement, le plaidoyer en faveur de normes mondiales est une arme à double tranchant. D'un côté, les entreprises alignées sur l'industrie qui aident à façonner les cadres internationaux aboutissent souvent à des normes reflétant leurs pratiques existantes, ce qui constitue un avantage concurrentiel. De l'autre, tout régime multilatéral sérieux apporterait probablement le type d'évaluation et de surveillance indépendantes qu'Amodei a décrites dans son essai du 12 septembre, ce qui crée des frictions opérationnelles qui n'existent pas aujourd'hui.

Tout cadre international de sécurité de l'IA qui exclut la Chine est, par définition, incomplet, compte tenu de l'ampleur du développement chinois de l'IA. Mais inclure la Chine signifie négocier à travers des philosophies réglementaires et des systèmes politiques fondamentalement différents.