La perspectiva de que los modelos de inteligencia artificial se enseñen a sí mismos a ser más eficientes y capaces —una vez una ambición lejana entre los investigadores tecnológicos— se acerca cada vez más a la realidad.

A medida que la tecnología avanza, los desarrolladores dicen que se acerca a la "auto-mejora recursiva", o RSI, una etapa en la que los modelos de IA encuentran formas de mejorarse a sí mismos y construir a sus sucesores. Los ejecutivos tecnológicos afirman que este cambio podría traer avances en la ciencia y la medicina, pero también conlleva riesgos.

La incertidumbre sobre a dónde podría llevar todo esto está en el centro de los crecientes temores de que la IA evade el control humano y de posibles amenazas para la humanidad. Esas preocupaciones llevaron a varias figuras de la industria de la IA a sumarse el fin de semana pasado a un llamado a frenar el ritmo de crecimiento de la tecnología.

Anthropic detalló esta semana cómo su modelo Claude está ayudando a la empresa a desarrollar la próxima, más inteligente, versión de sí mismo. Claude ahora lidera el 26% de la investigación y desarrollo de modelos de Anthropic, lo que, según la empresa, significa que puede completar la mayoría de una tarea dada "de extremo a extremo a partir de un prompt de alto nivel", mientras sigue operando bajo supervisión humana. Los modelos no están trabajando de manera completamente autónoma, al menos no todavía.

Definiciones en competencia de la RSI

Las principales empresas de IA definen la auto-mejora recursiva de manera diferente. Algunas la definen como cualquier retroalimentación de la IA sobre la mejora de modelos, mientras que otras la definen como la IA que trabaja hacia ese objetivo de forma totalmente autónoma. La distinción importa: como no existe un umbral compartido para lo que cuenta como RSI, las afirmaciones de progreso de distintos laboratorios no están midiendo lo mismo.

La auto-mejora recursiva autónoma esencialmente significa una IA que puede mejorarse a sí misma diseñando la siguiente versión del sistema, luego la siguiente versión, y así sucesivamente, según Anthony Aguirre, presidente y CEO del instituto sin fines de lucro Future of Life Institute y de física en la Universidad de California, Santa Cruz.

"Lo realmente importante aquí es que, a medida que la IA hace más de esto, se vuelve más rápida, porque la IA opera mucho, mucho más rápido que los humanos", dijo.

Expertos sopesan el riesgo descontrolado frente a una realidad gradual

El temor en torno a la RSI se basa en gran parte en la posibilidad de que del proceso emerja una superinteligencia fuera de control —un escenario en el que los sistemas que se auto-mejoran avancen más allá de la capacidad de los humanos para monitorearlos o controlarlos—, dijo John Thickstun, profesor asistente de ciencias de la computación en la Universidad de Cornell que estudia métodos para controlar el comportamiento de los modelos de IA. Pero, según dijo, una visión más fundamentada sugiere que una forma de auto-mejora recursiva lleva ya un tiempo en curso en el desarrollo de la IA.

"Ya hemos estado usando estos modelos durante años en roles de apoyo para crear la siguiente versión de estos modelos. Así, la gente usa la generación anterior de modelos para escribir código para los sistemas de IA que luego crean la siguiente generación", dijo.

Destacados investigadores de IA —incluido el cofundador de OpenAI, Andrej Karpathy— han experimentado durante años con lograr que los modelos de IA entrenen y mejoren nuevos sistemas de IA. Esos esfuerzos han producido mejoras menores, pero no grandes saltos creativos, dijo Thickstun.

Sin embargo, Aguirre dijo que las empresas de IA de hoy están mucho más cerca de lograr esos saltos mayores de mejora.

"Se puede ver en estos gráficos de Anthropic a lo largo del tiempo que cada vez más investigación la está haciendo la IA y que se está acercando cada vez más a ser totalmente autónoma", dijo. "Y el resultado de ese éxito, en última instancia, es algo que, creo, es extremadamente aterrador. Creo que probablemente esta es la peor idea en la historia de la humanidad. Y sí, lo están haciendo".

El anuncio de Anthropic le dio al público —y a otros laboratorios— alguna visión del progreso de la RSI, y la empresa alentó a sus competidores a compartir métricas similares. Las cifras que los competidores publiquen en respuesta podrían darle a la industria una línea base común para comparar el progreso hacia la investigación autónoma. Aun así, Anthropic no ha dicho explícitamente qué tan cerca está de lograr una mejora de modelos totalmente autónoma.

El "becario de investigación" de OpenAI y una meta para 2028

OpenAI, creadora de ChatGPT, anunció este mes que ha desarrollado un "becario de investigación" automatizado, que define como un sistema capaz de llevar a cabo tareas de investigación bien definidas bajo dirección humana, incluyendo "tareas que le tomarían a un investigador experimentado unos días". La empresa ha dicho que avanza con el objetivo de crear un "investigador" de IA automatizado para marzo de 2028. La fecha le da a los observadores un hito concreto, declarado por la propia empresa, contra el cual medir ese progreso.

En ese anuncio, OpenAI dijo que, si bien la RSI puede ayudar a alinear las acciones de los modelos con los valores e intenciones humanas, eso no significa que "una RSI rápida sea necesariamente un resultado que debamos buscar".

"Si y cómo proceder debe depender de nuestra capacidad de preservar el control humano y de decisiones democráticas informadas sobre los beneficios y riesgos", dijo la empresa en una publicación de blog.

Musk señala un cronograma más rápido en xAI

Elon Musk parece más ansioso por avanzar. Al hablar en marzo sobre los modelos Grok de xAI, dijo que "los humanos están quedando gradualmente cada vez menos en el circuito" de la mejora de modelos y que "cada modelo sucesivo es construido por el anterior", aunqueclaró que el proceso aún no estaba totalmente automatizado. Ese objetivo podría alcanzarse para fines de este año, agregó, "pero no más tarde" que 2027, un cronograma que va por delante de la meta de marzo de 2028 de OpenAI, aunque las dos empresas describen el hito de manera diferente.

La alternativa "humanista" de Microsoft

Microsoft y otras principales empresas de IA parecen estar tomando un enfoque diferente. Mustafa Suleyman, CEO de Microsoft AI, ha dicho que la empresa avanza hacia una "superinteligencia humanista": capacidades avanzadas de IA puestas al servicio de las personas y de la humanidad en general. En un ensayo de 2025, Suleyman dijo que esto no significaría "una entidad ilimitada y sin restricciones con altos grados de autonomía", sino una IA que esté "cuidadosamente calibrada, contextualizada, dentro de límites".

Las medidas de seguridad luchan por mantener el ritmo

Un desafío clave para los laboratorios —uno que han enfrentado prácticamente desde el inicio de la tecnología— es garantizar que sus medidas de seguridad avancen junto con las capacidades de sus modelos.

Han surgido divisiones en la industria tecnológica en torno a los llamados a una desaceleración coordinada de la IA por motivos de seguridad, y no todos los grandes actores del espacio de la IA han comentado específicamente sobre su camino a seguir con la RSI.

Anthropic, que ha sido una voz líder en los llamados a una regulación del ritmo, ha dicho que frenaría o pausaría temporalmente su trabajo de desarrollo, siempre y cuando sus competidores globales también lo hicieran, y de una manera "verificable".

OpenAI dijo explícitamente este mes que todavía no sabe cómo "llegar de manera segura a una RSI completa y alineada", agregando que la empresa "no puede asumir que el progreso en alineación y seguridad mantendrá el ritmo". Los sistemas más capaces pueden volverse más difíciles de monitorear, continuó, pero perseguir la RSI sigue siendo un objetivo que la empresa valora porque "un investigador de IA automatizado también puede ser un investigador automatizado de seguridad o alineación".

Esta historia fue publicada originalmente en Fortune.com.