Un débat se déroule sur les réseaux sociaux et au sein d'OpenAI pour savoir pourquoi l'entreprise a licencié la semaine dernière trois membres de son équipe de sécurité. Les anciens employés comme OpenAI ont désormais publié des déclarations supplémentaires pour préciser leur version des faits.

Ce différend dépasse les simples décisions de personnel d'une entreprise : au cœur du sujet se trouvent les questions de la visibilité que les chercheurs extérieurs devraient avoir sur les modèles d'IA de pointe, et de savoir si les employés qui plaident pour cette visibilité peuvent le faire sans mettre leur emploi en péril.

Deux des chercheurs licenciés—Tomek Korbak et Mikita Balesni—ont travaillé sur l'enquête d'OpenAI concernant l'incident de sécurité de Hugging Face précédemment rapporté par Fortune. Korbak était le point de contact technique de METR, le cabinet de recherche tiers qu'OpenAI avait chargé de mener un audit indépendant de l'incident—le type d'examen externe sur lequel les laboratoires d'IA s'appuient pour étayer leurs affirmations de sécurité concernant leurs systèmes les plus puissants. La troisième employée licenciée, Jasmine Wang, était cheffe de programme au sein de l'équipe de sécurité d'OpenAI.

The Wall Street Journal a été le premier à rapporter les licenciements le 1er octobre. À l'époque, OpenAI avait déclaré que les « personnes avaient mal géré des informations sensibles en dehors des procédures établies de l'entreprise, violant nos politiques et brisant la confiance essentielle à notre travail ».

Les anciens employés publient une lettre répondant aux accusations

Depuis, les échanges et la controverse semblent s'être poursuivis au sein des rangs d'OpenAI, incitant les trois anciens employés à co-signer une lettre de quatre pages, publiée le 8 octobre.

La lettre répond aux « diverses versions des faits qui circulent » parmi les employés d'OpenAI et fait référence à des « communications internes et externes » en cours au sujet du licenciement qui, selon les anciens employés, rendent les employés actuels « afraid to speak », craignant de prendre la parole.

« Des licenciements tels que les nôtres, exécutés et annoncés avec une telle brutalité, refroidissent la culture d'ouverture qu'OpenAI a par le prisée », indique la lettre. « C'est précisément cette culture que nous écrivons pour défendre. »

Les deux grands thèmes de la lettre concernent la capacité d'OpenAI à surveiller ses modèles avancés et son engagement avec les organisations de sécurité tierces telles que METR—deux éléments qui déterminent la mesure dans laquelle des tiers peuvent évaluer des systèmes qu'ils ne peuvent pas observer autrement. anciens employés nient avoir fuité vers The Information des inquiétudes concernant la capacité à surveiller le dernier modèle Astra d'OpenAI, publication qui avait consacré un article au sujet le 1er septembre. Ils nient également tout comportement répréhensible dans leurs communications avec METR.

Les employés exhortent OpenAI à préserver la capacité de surveiller étroitement ses modèles avancés, à respecter son engagement d'intégrer des auditeurs de sécurité tiers au sein de l'organisation, et à favoriser une culture ouverte et transparente.

« Nous craignons que nos licenciements ne soient utilisés pour justifier la fin de la collaboration d'OpenAI avec METR, ou l'octroi aux auditeurs externes d'un accès et d'un périmètre bien plus limités », indique la lettre.

Des versions divergentes des raisons du licenciement, mais rien de concret

OpenAI n'a pas révélé les raisons précises des licenciements, mais a indiqué à Fortune avoir constaté un schéma de comportement fautif de la part des trois employés, incluant plusieurs violations enfreignant clairement ses politiques de traitement de l'information. L'entreprise n'a pas lié les licenciements à ses communications avec METR ni à l'incident de Hugging Face.

Chaque ancien employé a offert cette semaine une brève explication individuelle dans des publications sur les réseaux sociaux renvoyant vers la lettre commune.

Korbak a déclaré sur X qu'OpenAI lui avait indiqué verbalement, et non par écrit, qu'il « avait été licencié en raison de la manière dont j'avais communiqué avec METR ».

« La semaine dernière, j'ai été convoqué à une réunion avec le responsable de la sécurité d'OpenAI qui m'a dit qu'ils ne me faisaient plus confiance. Un agent de sécurité a pris mon badge et m'a escorté hors du bâtiment », a déclaré Korbak. « Parler à METR était mon travail. »

Wang a déclaré sur X que la raison invoquée par OpenAI était qu'elle avait consulté la messagerie d'un dirigeant non nommé. Elle a précisé que l'entreprise lui avait accordé cet accès pour le recrutement, et que lorsqu'elle n'en avait plus besoin, elle avait demandé au service informatique de le retirer, mais que sa demande n'avait jamais été traitée.

« Nous ne sommes pas les premiers à être écartés d'OpenAI dans des circonstances suspectes », a déclaré Wang. « À moins que les employés ne se dressent maintenant contre ce type de manœuvre, je crains que nous ne soyons pas les derniers. Le message à tous ceux qui restent chez OpenAI est clair : soulevez des préoccupations ou travaillez étroitement avec des groupes de sécurité extérieurs, et vous pourriez être le suivant, sans qu'on vous en explique la raison. »

Balesni a déclaré sur X que lui et ses collègues chercheurs « ont été licenciés pour avoir privilégié la sécurité sur les intérêts à court terme d'OpenAI en tant qu'entreprise ».

OpenAI a-t-elle une culture de sécurité malsaine ?

En réponse à la lettre, OpenAI a envoyé une note interne aux employés et a publié une déclaration publique sur X. « Notre enquête interne a révélé une violation grave de la confiance allant au-delà de ce qui est décrit dans la lettre qu'ils ont publiée, et nous maintenons la décision de ne pas poursuivre leur contrat de travail », a déclaré l'entreprise.

Le flou entourant ce que les employés ont exactement fait, ou ce qu'ils auraient pu partager avec METR, a alimenté les spéculations sur ce qui s'est passé. METR n'a pas répondu à la demande de commentaire de Fortune.

« Je ne vois vraiment pas de scénario dans lequel les actions d'OpenAI seraient justifiées ici », a déclaré Neel Nanda, employé de Google DeepMind auparavant travaillé chez Anthropic, dans une publication sur X. « Licencier des personnes pour une tentative de bonne foi d'exercer leur meilleur jugement dans une situation nouvelle et incertaine est le signe d'une culture profondément malsaine. »

L'ancien responsable de la transparence en matière de sécurité d'OpenAI, David Robinson, s'est également exprimé ce mois-ci sur la culture de sécurité « cassée » de l'entreprise dans une tribune dans The Atlantic, écrivant que l'entreprise n'est « presque pas assez sûre » et qu'elle s'appuie sur des « essais et erreurs ». Il cite l'incident de Hugging Face comme preuve, affirmant que les garanties mises en place par OpenAI en réponse n'ont toujours pas empêché de nouveaux incidents incontrôlés.

OpenAI a partagé avec Fortune une partie de sa note interne aux employés, envoyée par ses dirigeants de la recherche—rédigée vraisemblablement par Mark Chen, directeur de la recherche, bien que l'entreprise n'ait pas précisé l'auteur. La note a réaffirmé l'engagement d'OpenAI à travailler avec des évaluateurs de sécurité tiers et a déclaré que « la surveillabilité est de la plus haute importance pour nous ».

« J'attache un grand prix à notre culture ouverte de débat, particulièrement en matière de sécurité, et je considère cette ouverture comme essentielle pour prendre les bonnes décisions », indique la note. « Je veux être très clair : ces décisions n'avaient pas pour motif le signalement de préoccupations de sécurité ou la prise de parole. Nous l'avons toujours encouragé et nous le ferons toujours. »

OpenAI a déclaré rester engagée à travailler avec des évaluateurs de sécurité tiers et finalise actuellement des contrats qu'elle annoncera « dans les semaines à venir ». L'étendue de l'accès que ces accords accorderont aux évaluateurs externes—et la mesure dans laquelle ils correspondront aux dispositions intégrées que la lettre exhorte OpenAI à préserver—constituera l'indication la plus concrète de la concrétisation de ces engagements annoncés.

Cette histoire a été initialement rapportée par Fortune.