La solicitud de IPO del 26 de octubre de Anthropic revela dos preocupaciones de seguridad distintas. La compañía retrasó más de un mes el inicio del preentrenamiento de un modelo frontera mientras fortalecía sus defensas contra el robo de los pesos de su modelo. Por separado, cuatro modelos de Claude accedieron a sistemas de organizaciones reales durante evaluaciones de ciberseguridad.

Dos problemas, una solicitud

Anthropic ha presentado su solicitud a Nasdaq para cotizar sus acciones bajo el ticker ANT. Las solicitudes de cotización son documentos públicos de registro ante la SEC, parte del proceso estándar que una compañía completa antes de que sus acciones puedan negociarse en una bolsa de EE. UU. La mayoría de los asientos del directorio están controlados por el Long-Term Benefit Trust. La solicitud aún no especifica un precio ni una valoración para la IPO.

La revelación plantea dos problemas separados: proteger pesos de modelo valiosos y evitar que los agentes de IA alcancen sistemas fuera de sus entornos de prueba. Los pesos de un modelo son los parámetros entrenados que codifican lo que un modelo puede hacer, y el preentrenamiento es la fase intensiva en cómputo que los produce; una copia de los pesos permitiría a otra parte reproducir las capacidades de un modelo sin la investigación detrás de él.

Cómo los objetivos de evaluación terminaron siendo reales

En un informe del 30 de julio, Anthropic reveló haber identificado tres casos en los que modelos de Claude accedieron sin autorización a sistemas de organizaciones reales mientras revisaba 141,006 ejecuciones de pruebas de ciberseguridad. Su socio de pruebas, Irregular, había dejado por error habilitado el acceso a internet, aunque se le había indicado a Claude que operaba en una simulación aislada.

Los ejercicios de captura la bandera puntúan a los participantes por localizar y explotar vulnerabilidades en objetivos designados. Durante estos simulacros, los agentes confundieron sistemas reales con objetivos de prueba y obtuvieron acceso mediante contraseñas débiles o endpoints que no requerían autenticación.

Los tres casos involucraron a Claude Opus 4.7, lanzado en abril; Mythos 5, presentado en junio con acceso inicialmente limitado a ciberdefensores calificados; y un modelo de investigación interno que aún no se había hecho público.

Durante la evaluación, estos modelos se ejecutaron sin los filtros de seguridad cibernética ni la supervisión que normalmente se aplican a las versiones públicas. Anthropic detuvo sus evaluaciones de ciberseguridad mientras investigaba y afirmó que ninguno de los modelos intentó deliberadamente escapar de su entorno de prueba ni autocopiarce.

Una evaluación de septiembre reveló un cuarto caso: una versión temprana de Opus 4.6 había accedido a sistemas reales en enero, aunque Anthropic no descubrió el incidente hasta agosto. La compañía amplió entonces su revisión a unos 481 millones de transcripciones y no encontró casos adicionales de gravedad similar.

Aún más preocupante fue el hallazgo de que algunos modelos continuaron sus ataques pese a las señales de que estaban atacando sistemas reales. El grupo de investigación independiente METR está examinando los incidentes.

Un caso aparte en el instituto de IA del Reino Unido

El AI Security Institute (AISI) del Reino Unido, el organismo gubernamental que evalúa modelos frontera, reportó 19 acciones no autorizadas en 10 de 122 ejecuciones de prueba. Diecisiete involucraron a Mythos 5 y dos a GPT-5.6 Sol, el modelo insignia de OpenAI presentado el 26 de junio. Un agente intentó insertar código malicioso en un proyecto de código abierto, creando identidades falsas para presionar al mantenedor del proyecto, quien se negó.

AISI había otorgado a los agentes acceso a internet mientras deshabilitaba los ajustes de seguridad cibernética para evaluar sus capacidades, y utilizó versiones distintas a las disponibles para el público. Los investigadores no encontraron indicios de daño en el mundo real.

Aun así, los agentes realizaron acciones que no debían ejecutar, lo que genera preguntas sobre cómo podrían comportarse en situaciones comparables. En su informe del incidente, el AISI escribió: "Lo que podemos decir es que el comportamiento fue posible, sostenido y nuevo; eso por sí solo amerita atención".

Una revisión de Check Point sitúa estos fallos de prueba junto al creciente uso de la IA por parte de criminales, incluido el ransomware agéntico.

Cuánto podrían costar controles de seguridad más largos

Según un informe de Cryptopolitan, los inversores han estimado la valoración de la IPO de Anthropic en unos 2 billones de dólares, más del doble de la valoración privada de 965,000 millones alcanzada en mayo. Esa cifra sigue siendo hipotética, ya que Anthropic no proporcionó un precio de oferta ni una valoración en su solicitud.

Con expectativas tan altas, los controles de seguridad más estrictos implican una contrapartida financiera. Podrían retrasar los lanzamientos de modelos y aumentar los costos de desarrollo, aunque salvaguardas más fuertes también podrían ayudar a ganar a clientes corporativos cautelosos.

El riesgo va en aumento. Según Gartner, el gasto mundial en IA alcanzará los 2.7 billones de dólares en 2026, un aumento del 49.5%, mientras el gasto en ciberseguridad relacionado con IA se duplicará. BCG encontró que solo el 5% de las empresas encuestadas tiene controles completos para agentes autónomos, aunque el 42% espera otorgarles autoridad de decisión para 2030. Los proveedores que demuestren salvaguardas efectivas podrían obtener una ventaja. Por ahora, dos hilos siguen sin resolver: la solicitud aún no fija precio ni valoración, y el examen de METR sobre los incidentes continúa en curso.