Bill Gates ha advertido que las empresas de inteligencia artificial no deben dejarse autorregular e instó a los legisladores de Washington a establecer reglas de seguridad formales para esta industria de rápido crecimiento.

El cofundador de Microsoft expuso su postura en una entrevista con NBC News publicada el 25 de septiembre, dos días antes de que se transmitiera la conversación completa en “Meet the Press”. Su llamado a la supervisión gubernamental llega en un momento crucial: Goldman Sachs pronostica que la inversión global en IA superará el billón de dólares en 2026. En ese contexto, los nuevos requisitos de seguridad podrían tener consecuencias significativas para los desarrolladores que construyen sistemas de IA, los inversionistas que los financian y las empresas que trabajan en implementar los sistemas de seguridad necesarios para hacer cumplir las nuevas reglas.

“Nadie piensa que la autorregulación sea suficiente”

Cuando la moderadora Kristen Welker le preguntó si el Congreso debe actuar, Gates respondió: “Absolutamente”.

“Nadie piensa que la autorregulación sea suficiente”, dijo Gates. En su opinión, los legisladores y los organismos de aplicación de la ley deben especificar cómo las empresas de IA monitorean los riesgos y qué salvaguardas deben implementar. Caracterizó las obligaciones resultantes para los desarrolladores como “un poco de sobrecarga”, y no como un freno al progreso.

Su preocupación va mucho más allá del uso indebido habitual. En declaraciones a NBC, Gates dijo que la IA es “ciertamente lo suficientemente poderosa como para impulsar eventos que, ya sabes, causen mil millones de muertes”, especialmente si los sistemas avanzados caen en manos de personas con malas intenciones.

Los líderes de la industria siguen divididos sobre hasta dónde deben llegar las salvaguardas. El CEO de Anthropic, Dario Amodei, ha planteado la idea de “ritmo completo, o incluso ‘pausa’” como la forma más extrema de desaceleración colectiva. El CEO de OpenAI, Sam Altman, ha expresado una preocupación similar, argumentando que “el ritmo valdrá bien este costo” y que la presión por mantenerse adelante de los competidores no debe servir de excusa para actuar de manera imprudente.

El CEO de Meta, Mark Zuckerberg, ha adoptado la postura contraria. En una entrevista con NBC News, dijo: “No creo que necesitemos algún tipo de coordinación de toda la industria”. Zuckerberg favorece un enfoque en el que cada laboratorio se desacelera solo cuando considera que enfrenta riesgos de seguridad. El intercambio subraya una división más amplia en la cima de la industria sobre si la gobernanza de la IA debe coordinarse en todo el sector o dejarse a las empresas individuales. La disputa no es meramente filosfica: cualquier regla estadounidense vinculante se aplicaría a toda la industria, independientemente de la postura de cada laboratorio.

Gates quiere gestionar los riesgos, no detener el desarrollo

Gates no pide al sector tecnológico que deje de desarrollar sistemas de IA. En un ensayo publicado en su blog Gates Notes en agosto, escribió que la inteligencia artificial “será o el mayor igualador jamás inventado, o la peor fuente de injusticia”.

Añadió que probablemente respaldaría un plan creíble para una desaceleración global coordinada del desarrollo de la IA, aunque dudaba de que tal plan pudiera resultar efectivo, dadas las fuerzas económicas y políticas que favorecen la continuidad del desarrollo.

Su postura, entonces, se trata menos de detener el nuevo desarrollo que de la preparación: preparar a las empresas, los gobiernos y los individuos para una tecnología que ya encuentra aplicaciones en campos como la medicina, el derecho, el software y el servicio al cliente.

Un mercado de un billón de dólares a la espera de las reglas

El debate sobre las salvaguardas se desarrolla mientras el capital fluye hacia la IA, elevando la importancia de cualquier nueva regulación. Goldman Sachs espera que la inversión global en IA supere el billón de dólares en 2026, incluyendo unos 581 mil millones de dólares en Estados Unidos, mientras que la inversión acumulada desde 2022 podría acercarse a 1.8 billones de dólares al cierre del año.

Sin embargo, los beneficios no se comparten de manera equitativa. Los datos de difusión de IA de Microsoft muestran una brecha creciente entre el Norte Global y el Sur Global, mientras que la OCDE destaca que la capacidad de IA sigue limitada a un puñado de países y empresas.

Ese desequilibrio hace que la regulación sea un acto de equilibrio aún más difícil. Protecciones más fuertes podrían reducir los riesgos, pero para los laboratorios pequeños y los países menos ricos, el costo adicional de cumplir estas regulaciones podría resultar muy difícil de soportar.

Ya se está formando un mosaico regulatorio

Un número creciente de evidencias respalda el caso de una supervisión más estricta. El Informe Internacional de Seguridad de la IA 2026, escrito bajo la dirección del ganador del Premio Turing Yoshua Bengio y elaborado por más de 100 expertos en el campo, describe los peligros existentes y las posibles amenazas futuras planteadas por las capacidades crecientes de los sistemas de IA.

Mientras tanto, los gobiernos ya están construyendo reglas en torno a esos riesgos. Según TRM Labs, está surgiendo un nuevo “mosaico” global de regulación de la IA a medida que los países adoptan enfoques distintos en gobernanza, implementación y rendición de cuentas.

La Unión Europea ha perseguido estos objetivos de manera más agresiva que la mayoría de las jurisdicciones. Bajo el AI Act de la UE, los proveedores de modelos de IA de propósito general deben cumplir estrictas obligaciones en materia de documentación, derechos de autor y transparencia sobre los datos de entrenamiento. Los modelos que utilizan más de 10^25 FLOP —operaciones de punto flotante, una medida de la potencia de cálculo empleada para entrenar un modelo— se consideran portadores de riesgos sistémicos, lo desencadena requisitos adicionales de evaluación de modelos, gestión de riesgos, reporte de incidentes y ciberseguridad.

El gasto en cumplimiento aumenta junto con la elaboración de reglas. Según Gartner, el gasto de las organizaciones en asegurar la IA aumentará 68.7% hasta casi 4.8 mil millones de dólares para 2027, con proyecciones que se acercan a 7.7 mil millones de dólares en 2028.

Washington también parece avanzar hacia un marco regulatorio más sólido. Hasta la fecha, Estados Unidos ha dependido en gran medida de compromisos voluntarios de empresas individuales, en lugar de un marco federal vinculante comparable al de la UE. Según informó Cryptopolitan, los negociadores del Senado están explorando una iniciativa bipartidista para establecer un “deber de cuidado” para los desarrolladores de IA, que podría permitir al gobierno impedir el lanzamiento de modelos inseguros. Si se aprueba, la medida trasladaría las salvaguardas que Gates insta desde el ámbito de los compromisos voluntarios hacia responsabilidades legalmente vinculantes. Esas conversaciones siguen en etapa exploratoria, dejando el alcance, los términos y el calendario de cualquier marco estadounidense vinculante como preguntas abiertas.