L'introduction en bourse prévue d'Anthropic attire l'attention sur un défi inédit pour les investisseurs : comment évaluer les responsabilités potentielles découlant des systèmes d'IA avancés. Selon la newsletter Markets Daily de Bloomberg du 9 octobre, la société souhaite s'introduire en bourse dès mi-novembre.

Anthropic, le développeur du chatbot Claude fondé par d'anciens chercheurs d'OpenAI, figure parmi les entreprises les plus en vue du secteur. Les introductions en bourse exigent conventionnellement que les entreprises détaillent les risques significatifs pour les investisseurs potentiels dans leurs documents de divulgation, et le rapport de Bloomberg souligne le précédent juridique limité concernant les dommages causés par les systèmes d'IA autonomes ainsi que l'incertitude sur la manière dont ces risques pourraient être quantifiés dans les documents d'introduction en bourse. Pour une entreprise au cœur du domaine de l'IA avancée, cela laisse une question ouverte sur la place que devraient occuper les risques d'IA à l'échelle sociétale dans une divulgation de risques standard.

Le directeur général Dario Amodei a mis en garde contre la perte de contrôle humain sur l'IA et le risque que cette technologie soit détournée à des fins de cyberattaques ou de bioterrorisme. Certains chercheurs attribuent une probabilité de 10 % ou plus à une extinction causée par l'IA, des estimations qui demeurent sujettes à débat — et ce manque de consensus fait partie de ce qui rend incertaine la quantification de tels risques dans les documents d'introduction en bourse.

Parmi ceux qui s'interrogent sur la dimension financière de ces risques figure Sam Lessin, associé chez Slow Ventures. Il a proposé d'exiger que les laboratoires d'IA placent 1 000 milliards de dollars en espèces sous séquestre pour couvrir d'éventuels dommages futurs, arguant que les responsabilités sociétales potentielles pourraient atteindre 2 000 à 4 000 milliards de dollars, avant même de considérer les scénarios d'extinction. La proposition souligne le peu de références établies existant pour exprimer ce type de responsabilité potentielle en termes de divulgation conventionnels.

La proposition de Lessin constitue une recommandation d'investisseur plutôt qu'une exigence gouvernementale. La newsletter de Bloomberg n'a pas décrit de document de divulgation définitif d'Anthropic quantifiant ces responsabilités. Alors que la société vise une introduction en bourse dès mi-novembre, les documents de divulgation déposés avant les débuts montreront comment — ou si — Anthropic aborde ces questions pour les investisseurs des marchés publics.