Mark Levine, contrôleur financier de la ville de New York, a pressé Anthropic de suspendre son introduction en bourse prévue tant que l'entreprise n'aura pas traité les préoccupations liées à la sécurité de l'intelligence artificielle, à la gouvernance et au rythme de développement de l'IA.

Dans une lettre adressée à Anthropic et à son PDG Dario Amodei, publiée le 14 octobre, Levine a fait valoir que l'entreprise ne peut à la fois mettre en garde le public contre les dangers de l'IA et se précipiter vers les marchés publics. Cette demande intervient alors qu'Anthropic vise une valorisation proche de 2 000 milliards de dollars.

« J'écris pour exhorter Anthropic à suspendre son introduction en bourse (IPO) prévue tant que l'entreprise n'aura pas pleinement et transparentement traité les préoccupations de sécurité de l'intelligence artificielle (IA), de gouvernance et de rythme de développement qu'elle a elle-même soulevées », a écrit Levine.

Levine s'appuie sur l'appel d'Amodei à ralentir le développement de l'IA

L'argument de Levine repose en partie sur l'essai d'Amodei intitulé « We Must Pace the Frontier », publié le 12 septembre. Dans cet essai, Amodei écrivait : « Nous devons ralentir le rythme auquel nous améliorons les capacités des modèles d'IA. »

Amodei a déclaré que l'auto-amélioration récursive et un incident de sécurité intersectoriel l'avaient convaincu que l'industrie de l'IA avait besoin d'une plus grande prudence, plutôt que d'un simple accroissement des dépenses de sécurité.

L'essai proposait un plan en trois étapes. La première donnerait à des évaluateurs tiers un accès comparable à celui des employés afin de vérifier les pratiques de sécurité des entreprises. Anthropic a indiqué s'être déjà engagé indépendamment dans cette mesure. La deuxième appelait à une coordination entre les entreprises d'IA des pays démocratiques, tandis que la troisième préconisait une coordination mondiale, y compris avec les gouvernements autoritaires.

Selon Levine, l'introduction en bourse d'Anthropic pourrait entraver le travail qu'Amodei a décrit comme urgent. L'essai a reçu le soutien d'une partie de l'industrie de l'IA, le PDG d'OpenAI Sam Altman et le PDG de xAI Elon Musk ayant souscrit à ses propositions.

Levine est également directement lié aux intérêts d'investissement de la ville de New York. En tant que contrôleur financier, il exerce les fonctions de conseiller en investissement, de dépositaire et d'administrateur pour les fonds de pension de la ville, qui détiennent plus de 325 milliards de dollars d'actifs. Le bureau du contrôleur a indiqué que les fonds de pension publics ont une exposition d'environ 7 millions de dollars à Anthropic via le capital-investissement.

Bien que cette participation soit relativement modeste, Levine a déclaré qu'elle donne à son bureau une base pour faire pression sur Anthropic avant que l'entreprise ne soit cotée en bourse.

Préoccupations concernant la structure gouvernance d'Anthropic

Levine a également soulevé des préoccupations concernant la structure juridique d'Anthropic. L'entreprise est une société d'utilité publique du Delaware dotée d'un Long-Term Benefit Trust. Une société d'utilité publique est une structure à but lucratif qui oblige les administrateurs à équilibrer les rendements des actionnaires avec un objectif d'intérêt public déclaré, tandis qu'un trust de ce type est conçu pour donner à un organe de gouvernance indépendant un rôle dans la sauvegarde de la mission à long terme de l'entreprise. Selon Levine, des rapports indiquent que cette structure pourrait conférer un contrôle concentré aux fondateurs et aux administrateurs du trust.

Il a fait valorer qu'un tel fossé entre ce contrôle et la redevabilité envers les actionnaires serait difficile à accepter compte tenu des risques qu'Anthropic a déjà révélés.

Levine a également critiqué un récent accord entre l'industrie de l'IA et le gouvernement américain. Anthropic et cinq autres entreprises ont signé ce que la lettre décrit comme un accord à portée morale avec la Maison-Blanche. Levine a déclaré que cet accord « est insuffisant pour répondre à l'enjeu ».

Les propres révélations d'Anthropic ont renforcé ses préoccupations. Dans son projet confidentiel de dossier S-1, l'entreprise a averti que l'IA avancée pourrait poser des « risques catastrophiques ou existentiels pour l'humanité ». La section des facteurs de risque compterait environ 80 pages, soit près du double de la longueur de la section décrivant l'activité.

Levine a noté que l'essai d'Amodei avait été publié après la démission de Jacob Coxon, ancien chercheur d'Anthropic, le 9 septembre. Coxon a cité des préoccupations existentielles comme raison de son départ et a affirmé que des initiés estimaient que l'IA pourrait anéantir l'humanité d'ici la fin de la décennie si le développement se poursuivait au rythme actuel.

Evan Hubinger, responsable de la science de l'alignement d'Anthropic, a évalué à plus de 10 % la probabilité que l'IA élimine toute l'humanité d'ici la fin de la décennie.

Anthropic annonce une forte croissance de son chiffre d'affaires

Le débat sur la sécurité et la gouvernance d'Anthropic intervient alors que l'entreprise se prépare à une potentielle introduction en bourse qui pourrait la valoriser à plus de 2 000 milliards de dollars.

Lors d'une réunion privée pré-IPO à San Francisco le mercredi 14 octobre, Anthropic a indiqué à ses investisseurs que son chiffre d'affaires du troisième trimestre avait atteint environ 16,8 milliards de dollars, en hausse de 45 % par rapport au trimestre précédent. L'entreprise a également déclaré avoir réalisé un bénéfice ajusté.

Anthropic a enregistré un chiffre d'affaires de 4,7 milliards de dollars au premier trimestre de l'année. Ce chiffre a fortement augmenté au deuxième trimestre, atteignant environ 11,6 milliards de dollars. Malgré cette croissance, l'entreprise a tout de même enregistré une perte d'exploitation de plus de 8 milliards de dollars sur la période.

Anthropic a également informé ses investisseurs qu'elle était positive en flux de trésorerie à la sortie du troisième trimestre, une affirmation inhabituelle dans un secteur dont les entreprises de premier plan continuent de dépenser massivement en infrastructures et en calcul.

L'entreprise dispose actuellement de plus de 518 milliards de dollars d'engagements planifiés en infrastructures et en calcul sur la prochaine décennie. Ces engagements font partie de l'argumentaire en faveur d'une introduction en bourse qui pourrait dépasser 2 000 milliards de dollars et potentiellement amener Anthropic sur les marchés publics avant son rival OpenAI, qui vise un début d'année 2027.

Anthropic a déposé confidentiellement son projet de déclaration d'enregistrement S-1 auprès de la Securities and Exchange Commission le 1er juin. Un projet de S-1 confidentiel permet au personnel de la SEC d'examiner la déclaration d'enregistrement d'une entreprise avant sa publication, et un dépôt public est requis avant que les actions puissent être proposées aux investisseurs extérieurs.

Anthropic n'a pas communiqué de date précise pour son introduction en bourse. Des spéculateurs suggèrent que l'opération pourrait avoir lieu après les é de mi-mandat américaines de novembre, bien que l'entreprise devrait encore être cotée avant OpenAI. La réponse d'Anthropic à la lettre de Levine, ainsi que le calendrier de son passage à un dépôt public de S-1, figurent désormais parmi les points clés à surveiller à mesure que le processus d'introduction en bourse avance.