Anthropic ha abierto un canal de comunicación con el contralor de la Ciudad de Nueva York, Mark Levine, tras la solicitud pública del funcionario de que la empresa de inteligencia artificial posponga su planeada oferta pública inicial por preocupaciones de seguridad y gobernanza. El acercamiento pone de relieve cómo cuestiones que antes se limitaban a los laboratorios de investigación de IA y a los círculos de políticas públicas ahora son planteadas por funcionarios cuyos fondos de pensiones podrían terminar invertidos en la empresa.

Al hablar en Bloomberg Television el viernes, Levine confirmó que las conversaciones entre su oficina y la empresa de IA habían comenzado, aunque se negó a dar detalles sobre su naturaleza. «Ciertamente parece que están bajo presión desde varios frentes en este momento», dijo Levine.

Este desarrollo ocurre mientras Anthropic se prepara para una posible salida a bolsa en noviembre, en lo que podría convertirse en una de las mayores ofertas públicas iniciales de la historia, con inversores que, según se informa, analizan valoraciones de entre 1,5 y 2 billones de dólares.

El contralor de NYC advierte sobre riesgos de seguridad de la IA

En una carta dirigida al CEO de Anthropic, Dario Amodei, el miércoles, Levine instó a la empresa a retrasar su OPI hasta que aborde adecuadamente las preocupaciones en torno a la seguridad de la IA, la gobernanza y el auge de sistemas cada vez más autónomos.

Levine también cuestionó si un reciente acuerdo voluntario de seguridad entre la administración Trump y las principales empresas de IA, incluida Anthropic, ofrece salvaguardas suficientes para hacer frente a los riesgos que plantean los sistemas cada vez más capaces, una duda que está en el centro de un debate más amplio sobre si los compromisos voluntarios bastan para seguir el ritmo del rápido avance de la tecnología.

«Si salen a bolsa y luego se produce un incidente de seguridad catastrófico, más allá, muy por encima de lo que hemos visto hasta ahora, eso sería terrible para su acción», dijo Levine a Bloomberg.

Como contralor, Levine supervisa los fondos de pensiones públicos de la Ciudad de Nueva York, que en conjunto administran más de 325.000 millones de dólares en activos. Algunos de estos fondos mantienen inversiones que siguen los principales índices bursátiles, lo que podría aumentar su exposición a Anthropic una vez que complete su salida a bolsa. Dado que los fondos que replican índices siguen sus referencias automáticamente, las acciones de la empresa entrarían en esas carteras cuando se incorpore a los principales índices.

Levine argumentó que posponer la salida a bolsa daría a Anthropic tiempo adicional para establecer un marco de gobernanza capaz de abordar los mismos riesgos que los propios investigadores de la empresa han identificado.

Anthropic se prepara para su OPI de noviembre en medio de dudas sobre su valoración

Las conversaciones se producen mientras Anthropic avanza en los preparativos para su debut en bolsa. Durante una reunión con inversores seleccionados el miércoles, la empresa reveló que sus ingresos del tercer trimestre alcanzaron los 16.800 millones de dólares, lo que representa un aumento del 45% respecto al trimestre anterior.
Sin embargo, algunos posibles inversores han manejado, según se informa, una valoración más cercana a 1,5 billones de dólares, por debajo de las expectativas previas de aproximadamente 2 billones, en medio de preocupaciones sobre los costos del desarrollo de IA. La brecha refleja la tensión central de la salida a bolsa: un rápido crecimiento de los ingresos frente a los elevados costos de desarrollar sistemas de IA de frontera.

Mientras tanto, Amodei ha reconocido públicamente los peligros asociados a los sistemas de IA cada vez más capaces. En un ensayo publicado el mes pasado, pidió una mayor cooperación entre los gobiernos y los desarrolladores de IA para hacer frente a riesgos que incluyen la pérdida de control, la disrupción económica, los ciberataques y el terrorismo, advertencias que reflejan de cerca las preocupaciones que Levine planteó al presionar por un retraso.

A pesar de reconocer la preocupación de que posponer la OPI pudiera generar incertidumbre en el mercado, Levine sostuvo que las posibles consecuencias de un incidente de seguridad catastrófico después de la salida a bolsa justificaban una cautela adicional.

«Me preocupa salir a bolsa y que luego ocurra un incidente», dijo.

Con un posible debut en noviembre acercándose y las conversaciones sobre la valoración aún en curso, la forma en que la empresa aborde las cuestiones de seguridad y gobernanza planteadas en la carta probablemente seguirá en el centro de la atención de cara a la salida a bolsa.