Brad Smith, presidente de Microsoft, declaró a la BBC que la inteligencia artificial opera actualmente bajo menos reglas de seguridad que productos cotidianos como la leche o las lavadoras, y sostiene que ese desequilibrio debería impulsar a los gobiernos —con el Reino Unido a la cabeza— a redactar controles vinculantes, incluidos interruptores de apagado y el reporte obligatorio cuando los agentes de IA se comporten mal.

Smith hizo la comparación en una entrevista con la BBC publicada el fin de semana, en la que describió la IA como a la vez “herramienta y arma” que requiere supervisión urgente. “En este momento, tu lavadora está sujeta a más reglas de seguridad que la IA”, dijo, según la BBC. “Cada cartón de leche que ves en el supermercado está sujeto a reglas de seguridad e inspección”. La analogía cumple un propósito deliberado: los alimentos y los electrodomésticos están dentro de regímenes de seguridad e inspección de larga data, y el argumento de Smith es que la IA ha superado el enfoque voluntario y de autorregulación que actualmente define la supervisión en EE. UU.

El ejecutivo de Microsoft pide un marco legal que responsabilice más a las empresas de IA cuando algo sale mal con sus productos. Según su propuesta, las firmas tendrían que reportar fallas de los modelos, alertar a cualquier persona cuyos sistemas sean vulnerados por un agente de IA fuera de control y someter los modelos más potentes a escrutinio independiente antes de hacerlos públicos. En la práctica, busca darle a la IA algo más cercano a la cadena de responsabilidad que los consumidores ya esperan en otros ámbitos: fallas divulgadas, notificación a las partes afectadas y revisión antes de lanzar los productos.

Una ruptura con la Casa Blanca por la autorregulación

El impulso de Smith a salvaguardas de IA legalmente exigibles lo enfrenta a la Casa Blanca. El presidente Trump ha argumentado que Estados Unidos debería dejar que su industria de IA se autorregule, advirtiendo que reglas más estrictas podrían dejar al país detrás de China. Trump reiteró esa postura en una cumbre con ejecutivos de tecnología el mes pasado.

Esa cumbre también produjo un acuerdo de una página firmado por ejecutivos de OpenAI, Anthropic, Nvidia, Meta, Google y la X de Elon Musk —un pacto que Cryptopolitan describió como “moralmente vinculante”. Los firmantes se comprometieron a usar auditores independientes y a establecer salvaguardas para evitar que los modelos de IA se salieran de control. Microsoft, sin embargo, no firmó el acuerdo, según The Telegraph.

Smith welcomed the agreement and said Microsoft would be willing to sign it. But in his BBC interview, he cautioned that voluntary commitments alone would not go far enough. He called the agreement “a good step” and “a necessary step,” but added that he did not think it was sufficient any longer.

Los compromisos voluntarios, advirtió, podrían hacer poco para frenar los riesgos más grandes, ya que las empresas que ya toman en serio la seguridad son más propensas a cumplirlos, mientras que las que representan el mayor peligro pueden elegir ignorarlos.

Smith quiere que Gran Bretaña lidere

Smith también señaló al Reino Unido como el país mejor posicionado para establecer estándares globales —por delante de Estados Unidos e incluso de Bruselas. Señaló AI Security Institute del Reino Unido, lanzado en 2024 bajo el entonces primer ministro Rishi Sunak como el AI Safety Institute. El organismo ha asegurado acuerdos voluntarios que le permiten probar modelos de frontera antes de su lanzamiento. Ese acceso a pruebas previas al lanzamiento es la base práctica sobre la que Smith cree que Gran Bretaña puede construir reglas vinculantes.

Según Smith, el Reino Unido está en una posición más fuerte que la UE al tratar con Washington, porque los responsables de política de EE. UU. ven a Londres de manera diferente a Bruselas, dijo a la BBC. Añadió que la AI Act de la UE, basada en riesgos, ha vuelto cautelosos a los responsables de política estadounidenses.

El gobierno británico también se prepara para endurecer su supervisión de la IA. Se espera que el ministro de IA, Kanishka Narayan, pida a los desarrolladores de modelos de frontera hacer más para abordar los riesgos de seguridad en un próximo discurso, mientras sigue tomando forma una legislación para fortalecer la supervisión gubernamental. Ese discurso y el proyecto de ley pendiente son los puntos de control más cercanos para saber si el llamado de Smith produce reglas vinculantes en el Reino Unido.

Por separado, The Telegraph informó que la Casa Blanca había restituido al instituto británico el acceso a los modelos de IA más recientes para pruebas. Ese acceso había sido retirado previamente después de que a empresas como Anthropic y OpenAI se les pidiera dejar de compartir sus modelos.

Interruptores de apagado y agentes fuera de control

La idea de “frenos de emergencia” de Smith hace eco del CEO de Microsoft, Satya Nadella, quien ha pedido que los modelos de IA incluyan un mecanismo que permita a una persona pausar o apagar un sistema a mitad de una tarea si sale de control. “Debemos construir sistemas contenidos cuyo comportamiento podamos observar, límites que podamos probar y acciones que siempre podamos contener”, escribió anteriormente Nadella, según The Guardian.

Las advertencias siguen a incidentes reales. Anthropic descubrió recientemente que una versión de su modelo Claude había contactado a la policía y afirmado falsamente que podía ayudar a resolver un asesinato durante pruebas —el tipo de mal comportamiento de agentes que el requisito de reporte obligatorio de Smith obligaría a las empresas a divulgar.

En la reunión de Trump, ejecutivos de IA como Dario Amodei, Sundar Pichai, Greg Brockman y Jensen Huang apoyaron dejar que la industria se autorregule. Críticos se han opuesto a ese enfoque, argumentando que permitiría a las empresas decidir por sí mismas qué califica como seguridad.

El debate ahora corre por tres vías —la apuesta de Washington por la autorregulación, la ley de la UE basada en riesgos y las reglas vinculantes que Smith quiere que Londres sea pionera en adoptar— y cuál de ellas se convierte en el punto de referencia para otros gobiernos es la pregunta que su campaña busca influir.

Fuente: Cryptopolitan