La planeada oferta pública inicial de Anthropic está llamando la atención sobre un desafío inusual para los inversores: cómo sopesar las posibles responsabilidades derivadas de los sistemas avanzados de IA. Según el boletín Markets Daily de Bloomberg del 9 de octubre, la empresa busca salir a bolsa para mediados de noviembre como muy pronto.

Anthropic, desarrollador del chatbot Claude y fundado por exinvestigadores de OpenAI, se encuentra entre las empresas más destacadas del sector. Las salidas a bolsa convencionalmente exigen a las empresas detallar los riesgos materiales para los posibles inversores en sus documentos de revelación, y el informe de Bloomberg subraya el limitado precedente legal sobre daños causados por sistemas autónomos de IA y la incertidumbre sobre cómo podrían cuantificarse dichos riesgos en las revelaciones de una OPI. Para una empresa en el centro del campo de la IA avanzada, queda abierta la pregunta de dónde encajan los riesgos de IA a escala social en una revelación de riesgos estándar.

El director ejecutivo Dario Amodei ha advertido sobre la pérdida del control humano sobre la IA y el potencial de que la tecnología sea utilizada indebidamente para ciberataques o bioterrorismo. Algunos investigadores asignan probabilidades del 10% o más a una extinción causada por la IA, estimaciones que siguen siendo objeto de debate — y esa falta de consenso es parte de lo que hace incierta la cuantificación de dichos riesgos en las revelaciones de una OPI.

Entre quienes sopesan la dimensión financiera de estos riesgos está Sam Lessin, socio de Slow Ventures. Propuso exigir a los laboratorios de IA que depositen 1 billón de dólares en efectivo en garantía para cubrir posibles daños futuros, argumentando que las responsabilidades sociales podrían alcanzar entre 2 y 4 billones de dólares incluso antes de considerar los escenarios de extinción. La propuesta subraya cuán pocos referentes establecidos existen para expresar este tipo de responsabilidad potencial en términos de revelación convencionales.

La propuesta de Lessin representa una recomendación de un inversor y no un requisito gubernamental. El boletín de Bloomberg no describió una revelación finalizada de Anthropic que cuantifique esas responsabilidades. Con la empresa apuntando a una salida a bolsa para mediados de noviembre como muy pronto, los documentos de revelación presentados antes del debut mostrarán cómo — o si — Anthropic aborda estas preguntas para los inversores de mercados públicos.