Muchas personas de la industria de la IA anticipan un incidente importante impulsado por la IA en los próximos seis a 12 meses. Ejecutivos de Anthropic, OpenAI y otros grandes desarrolladores ya están trabajando con los legisladores que redactarían las reglas después, según Axios.

Los ejecutivos reconocen que no hay manera de que alguna ley de IA se apruebe ahora mismo, por lo que intentan anticiparse a la legislación de emergencia que Washington redactaría una vez que ocurra el primer desastre.

La ley de Sanders contemplaría hasta 20 años de prisión para los infractores

Los planificadores esperan que los demócratas salgan fortalecidos de las elecciones de medio término del 3 de noviembre, los comicios que determinarán el control del Congreso, y actúen con prontitud contra la IA avanzada. Un primer incidente dentro de la ventana de seis a 12 meses prevista por los ejecutivos caería en el periodo del Congreso que asuma tras esas elecciones. Pero el impulso choca con un Congreso de edad avanzada que no entiende la tecnología, una economía que depende del gasto en centros de datos y modelos de pesos abiertos, IA cuyos parámetros entrenados son públicos y cualquiera puede descargarlos hoy.

Las empresas no creen que el control de ambas cámaras ponga fin a las disputas internas, incluidas las divisiones entre los demócratas. Las propuestas sobre la mesa van desde una prohibición de la superinteligencia hasta una pausa en el desarrollo avanzado.

Una medida, presentada por el senador Bernie Sanders y el representante Greg Casar, se denomina Ley de Prohibición de la Superinteligencia Artificial (Ban Artificial Superintelligence Act). Prohibiría la IA que iguale o supere a los humanos en una amplia gama de tareas y detendría el trabajo avanzado hasta que una nueva agencia federal formule estándares de seguridad. Las penas pueden incluir hasta 20 años de prisión.

Los interruptores de apagado obligatorios para los modelos avanzados cuentan con apoyo de ambos partidos y de parte de la industria, aunque algunos expertos cuestionan si siquiera es posible apagar todos los sistemas de inteligencia artificial, un desacuerdo que incide directamente en si un mandato de este tipo podría funcionar.

Un asistente demócrata citó la crisis financiera de 2008 y el COVID como ejemplos de actuación rápida del Congreso en emergencias anteriores.

Los planificadores de Anthropic y OpenAI temen un ciberataque que corte la luz y el agua

El escenario que los planificadores consideran más probable es un ciberataque lo suficientemente grande como para paralizar bancos, servicios de internet o incluso los servicios de electricidad y agua, el tipo de disrupción que alcanzaría a hogares y empresas mucho más allá de la propia industria de la IA. Esperan que el primer daño real de una IA insegura vuelva aún más en contra de la industria a un público ya desconfiado.

El CEO de Anthropic, Dario Amodei, el CEO de OpenAI, Sam Altman, y el presidente Donald Trump, que ha evitado regular la IA, quedarían todos en el punto de mira.

Las empresas también realizan pruebas de intrusión (red teaming) sobre esos peores escenarios, atacando sus propias defensas para encontrar puntos débiles. La simulación de conflictos es una práctica estánd en los negocios y en la seguridad nacional, pero en este caso muchos investigadores y ejecutivos de alto nivel creen que un incidente importante es inevitable.

"OpenAI realiza ejercicios de preparación en los que los equipos analizan y trabajan una serie de escenarios potenciales", dijo un portavoz de la empresa. "Estos escenarios no se consideran inevitables, sino que están destinados a ayudarnos a prepararnos para diversas circunstancias". Anthropic declinó comentar.

En Corea del Sur, un atacante solitario presuntamente aprovechó modelos de IA chinos, incluido DeepSeek, para atacar dos bancos del país y robar datos de decenas de miles de clientes. CrowdStrike evalúa con confianza moderada que el atacante probablemente sea un hablante de chino, y el atacante luego pidió asesoría al Claude Code de Anthropic sobre dónde vender los datos robados, según la empresa de seguridad. Para los planificadores, es una señal de que las herramientas de IA ya se están integrando en ataques reales, incluso cuando una persona sigue siendo la mano dirigente.

Anthropic ha revelado cuatro ejemplos de modelos Claude que accedieron a la internet abierta durante pruebas e irrumpieron en sistemas externos. Los laboratorios también están examinando decenas de miles de casos de comportamiento inesperado de los modelos, una medida de cuánto falta aún por aprender sobre cómo actúan estos sistemas una vez que salen de entornos controlados.