ChatGPT respondió preguntas de cientos de usuarios sobre armas biológicas, y ninguna ley federal exigía a OpenAI reportar esas interacciones a las autoridades.

La intención detrás de las consultas sigue sin estar clara. Según The Wall Street Journal, el problema surgió después de que OpenAI actualizara ChatGPT el año pasado.

Otras empresas de IA enfrentan riesgos similares. Usuarios han planteado preguntas comparables a Claude de Anthropic, Gemini de Google y Grok de Elon Musk. Sigue sin estar claro si esas conversaciones reflejaban intentos genuinos de fabricar armas o intentos de poner a prueba los límites de los sistemas.

Las indicaciones de los usuarios incluían preguntas detalladas sobre la producción y liberación de venenos y agentes biológicos. En algunos casos, el chatbot respondió con orientación paso a paso que, según expertos, podría ser seguida por alguien con el nivel de conocimientos de biología que se enseña en la escuela secundaria.

Expertos en armas biológicas y terrorismo que revisaron los intercambios dijeron que algunas respuestas fueron altamente precisas y “mortalmente exactas”. La preocupación no es solo que los usuarios hicieran preguntas prohibidas o peligrosas, sino que los chatbots de propósito general puedan responder de una forma que reduzca la cantidad de conocimiento especializado necesario para actuar con base en ellas.

Las indicaciones a ChatGPT exponen un vacío de reporte en IA

Algunos usuarios preguntaron sobre cómo convertir agentes de enfermedades infecciosas en partículas respirables, un proceso conocido como aerosolización. Otros preguntaron cómo alterar el virus del sarampión para que pudiera resistir la vacuna existente. El chatbot respondió ambos tipos de preguntas.

En un caso, un usuario preguntó sobre la ricina, un veneno prohibido por tratados internacionales, mientras mencionaba matar a sus padres. ChatGPT proporcionó instrucciones. OpenAI cerró las cuentas involucradas, pero no notificó a las autoridades.

Actualmente no hay leyes federales en EE. UU. que exijan a las empresas de IA tomar cualquiera de esas dos medidas. Como informó anteriormente Cryptopolitan, las empresas de IA han impulsado esfuerzos para evitar leyes estatales mientras un marco federal ha tardado en desarrollarse, dejando un vacío legal cada vez más amplio sobre lo que los chatbots pueden y no pueden hacer.

Ese vacío es relevante porque los cierres de cuentas y las revisiones internas de seguridad pueden limitar el acceso a una plataforma, pero no necesariamente crean un registro gubernamental de actividad potencialmente peligrosa. La ausencia de un requisito de reporte deja en manos de las empresas decidir cuándo una interacción con un chatbot es lo suficientemente seria como para escalarla más allá de sus propios sistemas.

Ese vacío se está ampliando a medida que más usuarios preguntan a sistemas de IA cómo llevar a cabo asesinatos masivos y los chatbots proporcionan respuestas creíbles, según empleados actuales y anteriores de grandes empresas de IA e investigadores que estudian amenazas biológicas.

Una investigación sobre amenazas de IA en Cisco liderada por Amy Change encontró que los investigadores pudieron eludir los filtros de seguridad de los principales chatbots en un plazo de cinco turnos de conversación. Change dijo que ningún modelo puede resistir indicaciones persistentes el 100% del tiempo.

Los riesgos van más allá de atacantes individuales

Hamza Chaudhry, del Future of Life Institute, dijo que personas con ciertos conocimientos de biología ya podrían usar sistemas de IA para planificar ataques dirigidos, incluida la contaminación de suministros de alimentos o agua con sustancias como salmonela o ricina.

Grupos organizados, dijo, podrían usar la IA como si fuera un supervisor de investigación de posgrado, apoyándose en ella para resolver experimentos fallidos y reemplazar años de capacitación especializada que de otro modo sería difícil obtener.

Un estudio de MIT FutureTech y la University of Queensland evaluó la escala más amplia de esos riesgos. Los investigadores pidieron a 272 expertos en IA evaluar 24 categorías de riesgo, ubicando las preocupaciones de bioseguridad dentro de un conjunto más amplio de peligros de IA en lugar de tratarlas como un problema aislado de uso indebido.

Bajo las condiciones actuales, se consideró que 18 de las 24 categorías tenían al menos un 10% de probabilidad de causar daño catastrófico entre ahora y 2030. El estudio definió daño catastrófico como más de un millón de muertes, más de $100 billion en pérdidas o daños comparables.

Incluso con medidas razonables para reducir esos riesgos, cinco categorías se mantuvieron en o por encima del umbral del 10%: sistemas de IA con capacidades peligrosas (12%), armas y ciberataques asistidos por IA (12%), daño ambiental (12%), desempleo y desigualdad (11%), y concentración de poder en un pequeño número de manos (11%).

“No estamos diciendo que estas cosas vayan a ocurrir definitivamente”, dijo Peter Slattery, científico investigador de MIT FutureTech y uno de los coautores del estudio. “Estamos diciendo que estas son las cosas a las que los expertos creen que vale la pena prestar atención ahora”.

Dentro de OpenAI, la ejecutiva de seguridad Ryan Beiermeister pasó gran parte de 2024 instando a sus colegas a crear un sistema para identificar usuarios peligrosos. Algunos colegas desestimaron sus preocupaciones.

Para la primavera de 2025, OpenAI ya contaba con una herramienta básica de monitoreo. La empresa ha rastreado todas las consultas en sus modelos avanzados desde abril de 2025 y ofrece una recompensa de $50,000 a cualquiera que pueda demostrar que eludió sus salvaguardas contra armas biológicas.

Esas medidas internas muestran cómo las empresas intentan detectar usos indebidos después del despliegue, mientras que las propuestas legislativas se enfocan en cuándo la detección privada debería activar la intervención federal.

En el frente de políticas públicas, el representante Nathaniel Moran (R., Texas) presentó en junio un proyecto de ley que exigiría a las empresas de IA reportar consultas peligrosas, incluidas aquellas relacionadas con armas biológicas, al Departamento de Comercio. Moran también copatrocina una legislación que permitiría al gobierno federal ordenar el cierre de modelos de IA considerados demasiado peligrosos.

“La IA es un potente motor de innovación, y quiero verla prosperar”, dijo Moran, “pero no sin rendición de cuentas y no sin supervisión humana”.