El presidente Donald Trump dijo que no tiene “no concerns” sobre la posibilidad de que la inteligencia artificial provoque la extinción humana, mientras investigadores de OpenAI y Anthropic expresaban públicamente serias preocupaciones sobre los riesgos de los sistemas de IA en rápido desarrollo.

Al ser preguntado el jueves sobre si la IA podría provocar la extinción humana, Trump respondió: “No, I don’t have any.” Dijo que su principal preocupación era asegurar que Estados Unidos gane la carrera de la IA frente a China.

“I have concerns that if we don’t win AI, we’re going to be put in a very bad position,” dijo Trump a los periodistas. Añadió que considera que actualmente Estados Unidos lleva una ventaja de aproximadamente un año sobre China.

Los comentarios se produjeron mientras empleados e investigadores de dos de las principales empresas de IA del mundo advertían que el desarrollo podría estar avanzando demasiado rápido para que las medidas de seguridad mantengan el ritmo. Estas prioridades contrapuestas sitúan en el centro del debate la velocidad del desarrollo de la IA y el alcance de las salvaguardas.

Investigadores expresan preocupación por la automejora recursiva

El investigador de Anthropic Jacob Coxon anunció el martes que dejaría la empresa. Coxon dijo que Anthropic y OpenAI estaban “gambling with our lives” y afirmó que quienes desarrollan IA creen que esta podría “kill us all by the end of the decade.” Otros empleados de ambas empresas han expresado preocupaciones similares.

Una preocupación central entre los investigadores de seguridad de la IA es la automejora recursiva, o RSI. El término se refiere a un escenario en el que un modelo de IA adquiere la capacidad de mejorar su propio rendimiento sin asistencia humana.

Jasmine Wang, investigadora de alineación en OpenAI, publicó el miércoles por la noche: “It’s hard to overstate how dangerous speeding towards RSI is.”

El científico jefe de OpenAI, Jakub Pachocki, se sumó a esas preocupaciones el sábado. Dijo que tiene una “strong expectation” de que el progreso de la IA podría continuar hasta alcanzar un escenario de automejora recursiva.

“I am concerned no one is prepared for the consequences of a continued rapid rise in machine intelligence,” dijo Pachocki.

El Congreso impulsa una mayor supervisión de la IA

Legisladores de ambos partidos buscan aumentar la supervisión de los sistemas de IA avanzada. En julio, el representante Jay Obernolte y la representante Lori Trahan anunciaron planes para presentar la FRONTIER Act, que establecería normas para regular el despliegue de modelos de IA avanzada.

Trahan escribió en X el miércoles: “Safety researchers are resigning, powerful AI models are breaking out of their labs, and companies are racing ahead anyway. It’s past time for Congress to get off the sidelines and do its job.”

A principios de este mes, el senador Bernie Sanders y el representante Greg Casar presentaron la Ban Artificial Superintelligence Act. La iniciativa pausaría temporalmente el desarrollo de IA avanzada hasta que el gobierno federal establezca normas de seguridad. En conjunto, las propuestas muestran que el debate político abarca tanto la forma en que se despliegan los modelos avanzados como la posibilidad de continuar su desarrollo antes de implementar nuevas salvaguardas.

Trump no ha mostrado su respaldo a ninguno de los dos proyectos de ley. Su prioridad sigue siendo mantener a Estados Unidos por delante de China en la competencia global por la IA, lo que pone de relieve la creciente brecha entre la postura de la administración y las preocupaciones expresadas por los investigadores de seguridad de la IA.

Fuente: CoinCentral.