Trois chercheurs en sécurité d'OpenAI qui ont perdu leur emploi la semaine dernière ont publié une lettre ouverte accusant l'entreprise de privilégier le profit au détriment de la sécurité.

Les chercheurs — Jasmine Wang, Tomek Korbak et Mikita Balesni — ont été licenciés par OpenAI, qui affirme qu'ils ont partagé des documents confidentiels en dehors de l'entreprise. Les trois soutiennent qu'ils se contentaient d'accomplir leur travail.

Ce qui s'est passé et quand

Les licenciements ont eu lieu vers le 1er octobre 2026. OpenAI a invoqué des violations des politiques de l'entreprise relatives aux informations sensibles.

Selon les informations disponibles, une enquête interne a conclu que le trio avait transmis des documents confidentiels à une organisation externe de sécurité de l'IA. Les chercheurs ont rejeté cette caractérisation, affirmant que leur conduite relevait de leurs responsabilités professionnelles.

Cette défense a un certain poids compte tenu de l'ancien rôle de Korbak. Il avait auparavant été le liaison d'OpenAI auprès de METR et de Redwood Research, deux groupes externes de sécurité. Lorsqu'une partie du travail consiste à échanger avec des chercheurs en sécurité extérieurs, la frontière entre « collaboration » et « fuite » peut rapidement devenir floue.

Le 8 octobre, les trois chercheurs ont envoyé une lettre au conseil d'administration d'OpenAI et à ses comités de sécurité. Elle a depuis été publiée sur le site personnel de Balesni.

L'avertissement central de la lettre concerne la surveillance du « chain of thought ». Les modèles d'IA avancés peuvent produire une trace de raisonnement intermédiaire avant de parvenir à un résultat, et les chercheurs en sécurité examinent cette trace pour détecter des signes qu'un modèle fait quelque chose qu'il ne devrait pas faire. La lettre souligne les risques potentiels si cette capacité de surveillance venait à être perdue.

Les chercheurs ont également souligné la grande incertitude qui règne dans l'industrie sur la manière de construire et de déployer en toute sécurité des modèles fonctionnant au-delà de la supervision humaine. Leur solution proposée était double : une collaboration à l'éelle de l'industrie sur la surveillance des modèles, et l'introduction d'auditeurs de sécurité indépendants.

La réponse d'OpenAI

OpenAI a fermement dissocié la lettre des licenciements. L'entreprise a déclaré que les licenciements n'étaient pas liés à l'engagement des chercheurs en faveur de la sécurité. Elle est allée plus loin, indiquant qu'elle approuvait les recommandations de la lettre. Selon OpenAI, les licenciements étaient nécessaires en raison de manquements à la confiance.

Une série de départs liés à la sécurité

Les licenciements ne sont pas survenus dans le vide. Quelques jours plus tôt, David Robinson avait démissionné de son poste de responsable de la transparence en sécurité d'OpenAI. Robinson avait critiqué la culture interne de l'entreprise, exprimant des préoccupations sur la manière dont OpenAI équilibre les progrès techniques rapides et des mesures de sécurité adéquates.

Il y a aussi un historique. En 2024, OpenAI avait licencié des chercheurs pour des violations similaires, dans un contexte de préoccupations persistantes en matière de sécurité. L'entreprise a en outre fait l'objet de critiques publiques concernant ses pratiques de sécurité, y compris de récents incidents de sécurité.

Ce que cela signifie

Pour l'industrie de l'IA dans son ensemble, le fond de la lettre importe plus que le drame personnel. La surveillance du chain of thought est l'un des rares moyens dont disposent actuellement les chercheurs pour comprendre comment les modèles avancés parviennent à leurs conclusions, et l'appel à des normes de surveillance partagées suggère que les auteurs considèrent la question comme un problème collectif qu'aucune entreprise ne peut résoudre seule.

Il existe également une tension structurelle à surveiller. Les laboratoires veulent une validation externe de leurs travaux de sécurité, ce qui nécessite le partage d'informations. Ils veulent aussi protéger leurs recherches propriétaires, ce qui exige de les garder confidentielles. Le licenciement d'un ancien liaison auprès de groupes externes de sécurité pour avoir prétendument partagé des documents à l'extérieur se situe précisément sur cette ligne de fracture.

Les prochains signaux à surveiller sont assez concrets : OpenAI annoncera-t-elle un accord formel avec des auditeurs indépendants ? D'autres laboratoires répondront-ils publiquement à l'appel de la lettre en faveur d'un travail conjoint sur la surveillance des modèles ? Et d'autres membres du personnel de sécurité suivront-ils Robinson et les trois chercheurs vers la sortie ?