El contralor de la ciudad de Nueva York, Mark Levine, ha instado a Anthropic a pausar su oferta pública inicial (IPO) planeada hasta que la empresa aborde las preocupaciones sobre la seguridad de la inteligencia artificial, la gobernanza y el ritmo de desarrollo de la IA.

En una carta al CEO de Anthropic Dario Amodei publicada el 14 de octubre, Levine argumentó que la empresa no puede advertir al público sobre los peligros de la IA mientras compite al mismo tiempo por llegar a los mercados públicos. La solicitud se produce cuando Anthropic persigue una valoración cercana a los 2 billones de dólares.

“Escribo para instar a Anthropic a pausar su oferta pública inicial (IPO) planeada hasta que la empresa aborde de manera completa y transparente las preocupaciones de seguridad de la inteligencia artificial (IA), gobernanza y ritmo de desarrollo que ella misma ha planteado”, escribió Levine.

Levine cita el llamado de Amodei a frenar el desarrollo de la IA

El argumento de Levine se apoya en parte en el ensayo de Amodei titulado “We Must Pace the Frontier”, publicado el 12 de septiembre. En el ensayo, Amodei escribió: “Debemos frenar el ritmo al que mejoramos las capacidades de los modelos de IA”.

Amodei dijo que la auto-mejora recursiva y un incidente de seguridad transversal a la industria lo habían convencido de que el sector de la IA necesitaba mayor cautela, y no simplemente más gasto en seguridad.

El ensayo propuso un plan de tres pasos. El primero daría a evaluadores externos un acceso similar al de los empleados para verificar las prácticas de seguridad de las empresas. Anthropic ha dicho que ya se ha comprometido con esa medida por iniciativa propia. El segundo paso pedía coordinación entre las empresas de IA de los países democráticos, mientras que el tercero abogaba por una coordinación global, incluidos los gobiernos autoritarios.

Según Levine, la IPO de Anthropic podría interferir con el trabajo que Amodei describió como urgente. El ensayo recibió apoyo de parte de la industria de la IA, con el CEO de OpenAI, Sam Altman, y el CEO de xAI, Elon Musk, coincidiendo con sus planteamientos.

Levine también está directamente vinculado a los intereses de inversión de la ciudad de Nueva York. Como contralor, se desempeña como asesor de inversiones, custodio y fiduciario de los fondos de pensiones de la ciudad, que poseen más de 325.000 millones de dólares en activos. La oficina del contralor indicó que los fondos de pensiones públicos tienen aproximadamente 7 millones de dólares de exposición a Anthropic a través de capital privado.

Aunque esa participación es relativamente pequeña, Levine dijo que le da a su oficina una base para presionar a Anthropic antes de que la empresa cotice públicamente.

Preocupaciones por la estructura de gobernanza de Anthropic

Levine también expresó preocupaciones sobre la estructura corporativa de Anthropic. La empresa es una corporación de beneficio público de Delaware con un Long-Term Benefit Trust. Una corporación de beneficio público una estructura con fines de lucro que exige a los directivos equilibrar los rendimientos de los accionistas con un propósito declarado de beneficio público, mientras que un fideicomiso de este tipo está diseñado para dar a un órgano de gobernanza independiente un papel en la salvaguarda de la misión a largo plazo de la empresa. Según Levine, los informes indican que la estructura podría otorgar a los fundadores y fiduciarios un control concentrado.

Argumentó que una brecha entre ese control y la rendición de cuentas ante los accionistas sería difícil de aceptar dados los riesgos que Anthropic ya ha divulgado.

Levine también criticó un reciente acuerdo entre la industria de la IA y el gobierno de Estados Unidos. Anthropic y otras cinco empresas firmaron lo que la carta describió como un acuerdo de obligación moral con la Casa Blanca. Levine dijo que el acuerdo “es insuficiente para estar a la altura del momento”.

Las propias divulgaciones de Anthropic han reforzado sus preocupaciones. En su borrador confidencial del formulario S-1, la empresa advirtió que la IA avanzada podría plantear “riesgos catastróficos o existenciales para la humanidad”. Se informó que la sección de factores de riesgo abarca unas 80 páginas, casi el doble de la extensión de la sección que describe el negocio.

Levine señaló que el ensayo de Amodei se publicó después de que Jacob Coxon, un exinvestigador de Anthropic, renunciara el 9 de septiembre. Coxon citó preocupaciones existenciales como motivo de su partida y dijo que los internos creían que la IA podría extinguir a la humanidad para fines de esta década si el desarrollo continuaba al ritmo actual.

Evan Hubinger, líder de ciencia de alineamiento de Anthropic, ha estimado en más del 10% la probabilidad de que la IA elimine a todos los humanos en esta década.

Anthropic reporta un rápido crecimiento de ingresos

El debate sobre la seguridad y la gobernanza de Anthropic se produce mientras la empresa se prepara para una posible cotización que podría valorarla en más de 2 billones de dólares.

En una reunión privada previa a la IPO en San Francisco el miércoles 14 de octubre, Anthropic informó a sus inversores que los ingresos del tercer trimestre alcanzaron aproximadamente 16.800 millones de dólares, un aumento del 45% respecto al trimestre anterior. La empresa también dijo que había generado una ganancia ajustada.

Anthropic reportó ingresos de 4.700 millones de dólares en el primer trimestre del año. Esa cifra aumentó sustancialmente en el segundo trimestre, cuando los ingresos alcanzaron aproximadamente 11.600 millones de dólares. A pesar del crecimiento, la empresa aún registró una pérdida operativa de más de 8.000 millones de dólares en el período.

Anthropic también informó a los inversores que tenía flujo de caja positivo al cierre del tercer trimestre, una afirmación inusual en una industria cuyas empresas líderes han seguido gastando fuertemente en infraestructura y computación.

La empresa actualmente tiene más de 518.000 millones de dólares en compromisos planificados de infraestructura y computación para la próxima década. Esos compromisos forman parte del argumento para una cotización que podría superar los 2 billones de dólares y potencialmente llevar a Anthropic a los mercados públicos antes que su rival OpenAI, que apunta a debutar a principios de 2027.

Anthropic presentó de manera confidencial su borrador del formulario de registro S-1 ante la Comisión de Bolsa y Valores (SEC) el 1 de junio. Un borrador confidencial del S-1 permite que el personal de la SEC revise la declaración de registro de una empresa antes de hacerla pública, y se requiere una presentación pública antes de que las acciones puedan ofrecerse a inversores externos.

Anthropic no ha revelado una fecha exacta para la IPO. Especuladores han sugerido que la oferta podría realizarse después de las elecciones legislativas de medio mandato de noviembre en EE. UU., aunque se espera que la empresa cotice antes que OpenAI. La respuesta de Anthropic a la carta de Levine, y el momento de su paso a una presentación pública del S-1, están ahora entre los puntos clave a observar a medida que avanza el proceso de cotización.