Avant qu'OpenAI ne devienne l'une des entreprises les plus en vue de l'intelligence artificielle, ses premières années auraient compris des propositions commerciales très inhabituelles. Selon un nouveau récit des débuts de l'entreprise, ses dirigeants ont évoqué la vente de futurs outils d'IA à des gouvernements incluant la Chine et la Russie, et un projet prévoyait également de donner à Kanye West un accès anticipé à un modèle non publié. Les principaux employés auraient réagi avec alarme, et les objections qu'ils ont soulevées à l'époque continuent de résonner dans l'industrie de l'IA aujourd'hui.

Ce récit, rapporté par le journaliste technologique Kevin Roose dans The Atlantic, a du poids car il aide à expliquer l'une des ruptures les plus marquantes de la technologie moderne : plusieurs des personnes qui se sont le plus farouchement opposées à ces idées sont ensuite parties fonder Anthropic, aujourd'hui l'un des rivaux les plus directs d'OpenAI. Il intervient également au moment d'un débat qui n'a fait que s'intensifier à mesure que l'IA est devenue un grand business : qui doit financer et façonner une technologie aussi puissante, et qui peut l'utiliser.

Le « plan des pays » et le projet Kanye West

L'épisode central remonte à 2017. Les cofondateurs d'OpenAI Greg Brockman, aujourd'hui président de l'entreprise, et Ilya Sutskever auraient avancé une proposition interne connue sous le nom de « plan des pays ». L'idée était de financer la course vers l'intelligence artificielle générale, ou AGI, en faisant entrer des États-nations dans l'équation. Selon la proposition, OpenAI aurait pu vendre aux enchères de futurs droits AGI ou accepter de l'argent de gouvernements. Les pays mentionnés incluaient les-Unis, la Chine et la Russie. Le financement de l'IA de pointe est depuis devenu une véritable question de politique publique, le coût d'entraînement des modèles de pointe ayant atteint des niveaux que peu d'organisations peuvent assumer seules.

Dario Amodei, alors chercheur senior chez OpenAI, se serait farouchement opposé au projet. En septembre 2017, il a exposé ses inquiétudes et qualifié le plan d'« illégitime moralement ». Son raisonnement, selon le rapport, était double : il a fait valoir que le plan pourrait intensifier les courses aux armements entre puissances rivales et contribuer à faciliter des atteintes aux droits humains. Ces deux préoccupations ont depuis intégré les débats politiques grand public, des contrôles gouvernementaux sur les puces d'IA avancées aux discussions internationales sur la sécurité de l'IA et son usage militaire.

Le second épisode est survenu en 2020. Sam Altman, directeur général d'OpenAI, aurait offert à Kanye West un accès anticipé à une version de GPT-3, le modèle de langage qui allait ensuite devenir un socle pour les produits commerciaux d'OpenAI. Cette même année, OpenAI a commencé à proposer GPT-3 à des développeurs externes via une API payante, une première étape de son virage commercial. Le directeur des politiques d'OpenAI aurait mis fin à cet arrangement, invoquant le comportement imprévisible de West.

OpenAI a contesté une partie du récit. L'entreprise dispute la caractérisation du plan des pays, affirmant qu'elle n'a envisagé qu'un modèle de coopération internationale et n'a jamais eu l'intention de vendre l'AGI à la Chine ou à la Russie.

Quand les luttes internes ont donné naissance à une entreprise rivale

Amodei n'était pas une figure marginale chez OpenAI. Il a joué un rôle clé dans le développement de GPT-2 et GPT-3, les modèles qui ont transformé l'entreprise d'une curiosité de recherche en un acteur commercial sérieux.

Selon le rapport, le plan des pays et l'épisode Kanye West s'inscrivaient dans un schéma plus large de frictions. Les désaccords sur la gouvernance, la poussée vers la commercialisation et la confiance dans la direction se seraient accumulés lors de la transition d'OpenAI vers un modèle commercial hybride. Fondée en 2015 comme organisation à but non lucratif dédiée à la construction d'une IA sûre au bénéfice du plus grand nombre, l'organisation a évolué vers une structure capable de lever des sommes importantes et de vendre des produits.

Amodei et plusieurs collègues ont fini par partir. En 2021, ils ont fondé Anthropic, la présentant comme un laboratoire plaçant la sécurité au premier plan, avec Amodei comme directeur général.

Ce que cela signifie pour la course à l'IA

La rivalité entre OpenAI et Anthropic aurait commencé comme un désaccord sur les valeurs : qui doit financer une IA puissante, qui doit y avoir accès, et quelles garanties s'appliquent aux deux Les deux laboratoires se disputent désormais les clients entreprises, les contrats gouvernementaux et les meilleurs talents de recherche. Leur histoire commune continue de façonner la manière dont chacun se présente, Anthropic s'appuyant fortement sur une identité axée sur la sécurité que ce récit aide à expliquer.

Le démenti d'OpenAI sera central dans la réception de cet épisode. Si la version de l'entreprise prévaut, le plan des countries ressemble à un remue-méninges précoce sur la coopération internationale qui n'a jamais abouti. Si la version des critiques gagne du terrain, cela soulève des questions plus difficiles sur le jugement au sommet d'une entreprise qui exerce désormais une influence énorme. Tout nouveau témoignage public d'anciens employés, ou une réfutation plus complète de l'entreprise, aidera à déterminer quelle version s'imposera.

L'épisode Kanye West, quant à lui, illustre à quel point des décisions d'accès informelles pouvaient être prises au sein d'une entreprise manipulant une technologie puissante — et à quel point tout dépendait d'employés individuels prêts à dire non.