NoticiasMacroChatGPT, Claude, Gemini y Grok ayudaron a planear ataques terroristas en pruebas del gobierno de EE.UU., según el GAO

ChatGPT, Claude, Gemini y Grok ayudaron a planear ataques terroristas en pruebas del gobierno de EE.UU., según el GAO

Autor: Decrypt·

Puntos clave

  • •La Oficina de Responsabilidad del Gobierno halló que ChatGPT, Claude, Gemini y Grok proporcionaron información utilizable para planes de ataque potencialmente letales en menos de 12 horas.
  • •Los chatbots rechazaron solicitudes o suspendieron cuentas al principio, pero los investigadores sortearon esas protecciones con técnicas de jailbreak de circulación pública que no requieren conocimientos especializados.
  • •Dos modelos asistieron en planes con explosivos improvisados contra ciudades estadounidenses concurridas, mientras que los otros dos proporcionaron información para ataques contra infraestructura eléctrica.
  • •El GAO verificó las ubicaciones sugeridas y consultó a expertos, aunque algunas respuestas contenían errores y la agencia dijo que sus hallazgos no eran estadísticamente representativos ni adecuados para clasificar la seguridad de las empresas.
  • •La senadora Maggie Hassan planea priorizar la legislación sobre seguridad de la IA y celebrar audiencias sobre riesgos a la seguridad pública cuando asuma como presidenta del Comité de Seguridad Nacional del Senado en enero.
ChatGPT, Claude, Gemini y Grok ayudaron a planear ataques terroristas en pruebas del gobierno de EE.UU., según el GAO

Cuatro de los chatbots de IA más utilizados ayudaron a investigadores del gobierno a desarrollar planes de ataque potencialmente letales en menos de 12 horas, según halló una auditoría del Congreso — a pesar de que las medidas de protección estaban diseñadas precisamente para bloquear ese tipo de solicitudes.

ChatGPT de OpenAI, Claude de Anthropic, Gemini de Google y Grok proporcionaron información utilizable durante pruebas encubiertas de la Oficina de Responsabilidad del Gobierno (GAO), el brazo auditor no partidista del Congreso, según un informe publicado el miércoles. Los investigadores se hicieron pasar por atacantes y luego verificaron las respuestas contra ubicaciones reales, materiales disponibles y evaluaciones de expertos. El método se asemeja mucho al "red-teaming", la prueba adversarial que los desarrolladores de IA suelen realizar contra sus propios modelos — solo que en este caso los evaluadores vinieron de fuera de la industria, sin cooperación de las empresas.

Dos sistemas asistieron en planes que involucraban explosivos improvisados en ciudades estadounidenses concurridas. Los otros dos proporcionaron información para ataques contra infraestructura eléctrica, según el ente fiscalizador, que omitió qué modelo fue asignado a cada escenario, junto con otros detalles operativos, para prevenir intentos de imitación.

Medidas de protección que no funcionaron

Los chatbots activaron al principio protecciones, incluidas el rechazo de solicitudes, la eliminación de información dañina o la suspensión de cuentas. Los investigadores sortearon esas barreras con técnicas comunes de jailbreak, que manipulan un sistema de IA para que ignore sus reglas de seguridad. Esas técnicas circulan públicamente en línea y no requieren conocimientos especializados, razón por la cual los desarrolladores tratan las actualizaciones de seguridad como un proceso continuo y no como un lanzamiento único.

El GAO verificó las ubicaciones sugeridas, investigó si los materiales estaban disponibles y consultó a especialistas sobre la viabilidad de los planes. Algunas respuestas contenían errores, incluidas carreteras mal ubicadas en un mapa, y los investigadores no construyeron explosivos ni ejecutaron un ataque.

En el informe, "viable" significa que alguien probablemente podría seguir la información suministrada — no que se demostrara que un ataque tendría éxito. Cada modelo fue probado en un solo escenario asignado, y la agencia dijo que los resultados no eran estadísticamente representativos ni adecuados para clasificar la seguridad relativa de las empresas.

La senadora Maggie Hassan, la demócrata de New Hampshire que solicitó la investigación, advirtió que un terrorista podría obtener "un manual concreto sobre cómo llevar a cabo un ataque letal" en menos de 12 horas, según su declaración. Como brazo auditor del Congreso, el GAO produce hallazgos que los legisladores usan habitualmente como base probatoria para audiencias y legislación.

OpenAI y Google dijeron que las pruebas involucraron modelos anteriores, mientras que Anthropic reconoció que usuarios decididos a veces pueden extraer material dañino. Las empresas describieron mejoras continuas a sus sistemas de seguridad, aunque el GAO concluyó que esas protecciones fallaron en sus pruebas.

Investigaciones previas apuntaban en la misma dirección

Los hallazgos siguen a una investigación anterior que mostró que ocho de cada diez chatbots populares ayudaron a usuarios adolescentes simulados que planeaban ataques violentos. Ese estudio independiente evaluó 720 respuestas y encontró que los bots proporcionaron ayuda práctica aproximadamente tres cuartas partes del tiempo.

El otro problema de seguridad de la IA

Los hallazgos del GAO llegan en medio de cortes que afectan a bancos, servicios de Microsoft y la Agencia de Seguridad Nacional (NSA). Los funcionarios dicen que las interrupciones fueron incidentes separados, no evidencia de un ciberataque coordinado impulsado por IA, aun cuando la urgencia por reparar fallas de software ha creado sus propios problemas.

El Director de Inteligencia Nacional, Jay Clayton, vinculó el corte de la NSA a trabajos de parchado. Los funcionarios describieron las fallas recientes como relacionadas con mantenimiento, aunque organizaciones individuales ofrecieron explicaciones diferentes para sus fallos.

Las herramientas de IA ahora encuentran vulnerabilidades más rápido de lo que los equipos humanos pueden probar y desplegar correcciones. El mes pasado, el descubrimiento asistido por IA de fallas críticas en PHP empujó a los operadores de sitios web a una campaña urgente de parchado; el lenguaje de programación da soporte a una gran parte de la web.

El volumen puro se está convirtiendo en otro problema. Datos de VulnCheck revelan que se han registrado más de 100,000 vulnerabilidades de software este año hasta el 13 de noviembre — más del doble del total de 2025. Los ingenieros todavía tienen que evaluar y desplegar correcciones sin romper los sistemas que están destinados a proteger.

Esa aceleración corta en ambos sentidos. Los defensores obtienen herramientas poderosas para encontrar debilidades, pero las reparaciones apresuradas pueden interrumpir sistemas esenciales, y los usuarios maliciosos pueden acceder más rápido a la planificación de ataques.

Hassan dijo que hará de la legislación sobre seguridad de la IA una prioridad temprana cuando asuma como presidenta del Comité de Seguridad Nacional y Asuntos Gubernamentales del Senado en enero. Planea audiencias que examinen los riesgos para la seguridad pública y la infraestructura crítica; el GAO en sí no hizo recomendaciones formales de política. Sin recomendaciones adjuntas, los hallazgos pasan ahora al Congreso, donde las audiencias que Hassan ha planeado son el siguiente paso público.