Jacob Coxon pasó su tiempo en Anthropic ayudando a construir IA avanzada. Ahora se dirige al Ayuntamiento para advertir a los legisladores de Nueva York al respecto.

El exinvestigador de Anthropic está convocado a declarar en una audiencia del Concejo Municipal de Nueva York sobre riesgos de seguridad de la IA el 5 de octubre de 2026. Se espera que representantes de Anthropic, OpenAI, Google y Meta comparezcan en la misma sesión, lo que pondrá a un insider recién retirado de la industria en la misma mesa que los mayores desarrolladores del campo.

Cómo será la audiencia

La presidenta del Concejo, Julie Menin, convocó la audiencia, que se celebrará como Comité del Pleno. Ese formato involucra a los 51 miembros del concejo en lugar de delegar el asunto a una sola subcomisión.

El concejo envió cartas a los directores ejecutivos de cuatro grandes empresas de IA invitándolos a asistir: Dario Amodei de Anthropic, Sam Altman deAI, Sundar Pichai de Google y Mark Zuckerberg de Meta.

No todos los destinatarios respondieron como el concejo esperaba. SpaceXAI fue notificada con una citación judicial el 30 de septiembre de 2026 o alrededor de esa fecha, después de que se iniciara una acción legal contra la empresa por incumplimiento. Según los hallazgos de la investigación, la audiencia marca la primera vez que un cuerpo legislativo de EE. UU. obliga a declarar bajo juramento sobre seguridad de la IA, y el incumplimiento conlleva la perspectiva de graves consecuencias legales.

Los proyectos de ley sobre la mesa

Los legisladores planean usar la sesión para sopesar varias medidas legislativas propuestas, tres de las cuales destacan.

La primera exigiría la validación por terceros de los sistemas de IA utilizados en la ciudad. La segunda crearía lo que las propuestas describen como incentivos para denunciantes líderes a nivel nacional, diseñados para recompensar a los insiders que señalen prácticas peligrosas dentro de los laboratorios de IA. La tercera otorgaría a las personas el derecho a demandar por daños causados por sistemas de IA.

En conjunto, las propuestas darían forma a cómo se validan los sistemas de IA para su uso municipal, cómo los empleados de laboratorios pueden emitir alertas y cómo los residentes pueden buscar compensación cuando los sistemas causan daño.

La medida sobre denunciantes también pone en mayor relieve la comparecencia de Coxon: sus alarmas vinieron desde fuera del laboratorio, tras su renuncia, mientras que el proyecto está redactado para insiders que aún trabajan dentro de los laboratorios de IA.

Por qué Coxon importa aquí

Coxon renunció a Anthropic alrededor del 8-9 de septiembre de 2026. Su declaración pública de despedida ha sido vista más de 173 millones de veces. En ella, caracterizó a las empresas de IA como "apostando con nuestras vidas" y advirtió que la tecnología podría matar a todos antes del fin de la década.
Según los hallazgos de la investigación, su renuncia impulsó significativamente el empuje por la audiencia.

No es la única voz de Anthropic que lanza alarmas. Evan Hubinger, de Anthropic, ha expresado preocupaciones similares a las de Coxon, estimando una probabilidad mayor al 10% de que la IA podría ser letal para la humanidad en una década. Los hallazgos de la investigación describen estas advertencias como un reflejo de un consenso creciente entre algunos investigadores de Anthropic sobre los peligros existenciales de la IA avanzada. Los temores citados incluyen riesgos comparables a las armas biológicas y una pérdida total del control humano.

La narrativa de Coxon no ha pasado sin desafíos. Los escépticos han planteado inquietudes sobre su asociación con una firma de relaciones públicas vinculada a la defensa de la seguridad de la IA, afirmaciones que él ha refutado.

Cuando la sesión se reúna el 5 de octubre, habrá dos cabos abiertos: si SpaceXAI comparece en respuesta a su citación y cómo avanzan los tres proyectos de ley una vez que concluyan las declaraciones bajo juramento.