OpenAI preguntó a miembros del Congreso si las empresas rivales de inteligencia artificial podrían acordar legalmente desacelerar el desarrollo, según WIRED. La consulta se produce mientras el científico jefe de OpenAI, Jakub Pachocki, insta a la industria a establecer estándares de seguridad compartidos y considerar pausas voluntarias hasta que los desarrolladores puedan demostrar mejor que sus sistemas son seguros.

WIRED, citando a personas cercanas a OpenAI, informó que la empresa preguntó a legisladores en las últimas semanas si un acuerdo entre desarrolladores de IA para desacelerar el progreso podría violar las leyes antimonopolio. Un acuerdo que restringiera la competencia podría generar preocupaciones antimonopolio, aunque una legislación presentada por los senadores Adam Schiff y Jim Banks protegería ciertas colaboraciones relacionadas con la seguridad si los participantes notifican previamente al Departamento de Justicia.

Expertos señalan que el financiamiento y las presiones competitivas dificultan que las empresas desaceleren el desarrollo de manera independiente. “La competencia comercial y geopolítica en el sector de la IA es increíblemente intensa, lo que genera una dinámica preocupante en la que las empresas tienen incentivos para lanzar productos antes de comprender plenamente sus riesgos”, declaró a Decrypt Miranda Bogen, directora de tecnología del Center for Democracy and Technology.

“Incluso cuando el personal interno sabe que se necesitan más investigación y pruebas, sus empresas enfrentan una enorme presión para tomar atajos y omitir pruebas de seguridad críticas, pese a que se acumula la evidencia sobre las consecuencias de avanzar demasiado rápido”, añadió.

El debate se desarrolla mientras Estados Unidos y China compiten por el liderazgo en IA. El presidente de Estados Unidos, Donald Trump, retrasó en mayo una orden ejecutiva sobre IA por la preocupación de que pudiera debilitar la ventaja de Estados Unidos frente a China. Posteriormente firmó la orden en junio, creando un proceso de revisión voluntaria para los modelos avanzados antes de su lanzamiento.

Los incentivos financieros podrían representar un obstáculo aún más directo para la coordinación. “Cada avance, bajo las condiciones actuales, genera muchos millones o miles de millones más en financiamiento y coloca a sus creadores en una posición de mayor poder e influencia”, declaró a Decrypt Duncan Sabien, director de comunicaciones del Machine Intelligence Research Institute.

Sabien afirmó que la dinámica de carrera armamentista es real y que OpenAI y Anthropic enfrentan presión para seguir avanzando pese a los riesgos inciertos. Cada nuevo sistema puede ayudar a producir sucesores más capaces, lo que crea la posibilidad de que un rival tome la delantera si cualquiera de las dos empresas desacelera sin un acuerdo compartido.

“Esto es especialmente cierto porque los avances en inteligencia se acumulan; cada nuevo sistema facilita entrenar y desplegar el siguiente sistema, más avanzado”, dijo. “Sin algún tipo de mecanismo de coordinación, dar un paso atrás simplemente significa que el otro toma la delantera”.

OpenAI pausó en agosto el trabajo interno de Astra porque carecía de salvaguardas más sólidas para abordar las preocupaciones de ciberseguridad. Sin embargo, en febrero OpenAI y Anthropic relajaron sus compromisos de seguridad. Jared Kaplan, director científico de Anthropic, argumentó que desacelerar el desarrollo de manera independiente tenía menos sentido mientras los competidores continuaran avanzando.

El debate se intensificó esta semana después de que el exingeniero de Anthropic Jacob Coxon anunciara públicamente su renuncia, citando preocupaciones sobre los riesgos que el desarrollo continuo de la IA representa para la humanidad.

“Las personas que construyen IA creen sinceramente que podría matarnos a todos antes de que termine la década”, afirmó Coxon en X, y añadió que no era una “estrategia de marketing”. “En todo caso, muchos ejecutivos e investigadores sénior matizarán su forma de expresarse en la prensa para parecer sensatos, pero escucho a esas mismas personas expresar su miedo en privado. Ninguna otra actividad humana representa este nivel de peligro”, escribió.

Sabien afirmó que los investigadores podrían lograr poco al irse si alguien más simplemente los reemplaza. “Si suficientes de ellos llegan al conocimiento común de que todos deberían detenerse, entonces pueden superar la barrera de coordinación y detenerse juntos, en lugar de ser reemplazados por la siguiente persona ligeramente menos cautelosa”, dijo.