La empresa de investigación en IA Hillclimb ha lanzado DeepRSI (), un benchmark que mide la capacidad de los agentes de IA para mejorar recursivamente su propio rendimiento en problemas abiertos de aprendizaje automático, una capacidad largamente debatida en la investigación de IA como posible motor de un progreso acelerado. Mientras que las evaluaciones existentes dependen de tareas generadas por contribuyentes que pueden resolverse en unas doce horas, DeepRSI obtiene sus quince tareas de investigación propietaria en curso y otorga a los agentes una ventana de 48 horas para optimizar líneas base en áreas que reflejan los cuellos de botella reales del trabajo de aprendizaje automático de frontera.

El conjunto de tareas abarca cuatro categorías: recetas de entrenamiento de deep learning, aceleraciones de kernels de GPU, mejoras de precisión de estimadores y problemas de optimización algorítmica como búsqueda vectorial y poda de árboles de juego.

Cada modelo se ejecutó dos veces con su máximo esfuerzo de razonamiento dentro del harness de agente Pi, sin acceso a red, lo que aisló a los agentes del código externo, la documentación y otras formas de ayuda externa. Un mecanismo automatizado pedía a los agentes que reanudaran el trabajo si terminaban sus sesiones antes de tiempo, una función que produjo una ganancia promedio de puntuación de 10.3% en todos los modelos, un recordatorio de que el rendimiento a largo plazo depende en parte de la persistencia, y no solo de la capacidad bruta.

La puntuación se basa en un sistema Elo Bradley–Terry, un método de comparación por pares que convierte los resultados enfrentados en una única calificación, con cada tarea calificada por un verificador privado que utiliza datos reservados que los agentes nunca ven. Un verificador público está disponible para retroalimentación continua, pero solo cuenta el resultado privado, un diseño destinado a filtrar el sobreajuste y el reward hacking, la práctica de manipular la señal de puntuación en lugar de resolver la tarea según lo previsto.

Líderesos, y mal comportamiento claro

Claude Fable 5.1 logró el Elo final más alto en todas las categorías de tareas, con una ventaja particularmente marcada en entrenamiento de deep learning y mejora de estimadores. GPT-6 Astra quedó segundo en cada categoría tras mantener una ventaja temprana, mientras que Grok 4.7 y Gemini 3.8 Flash intercambiaron posiciones según el tipo de tarea, con Gemini destacándose notablemente en el trabajo de kernels y aceleraciones.

El sobreajuste fue medible en todos los casos: la brecha promedio entre las puntuaciones de los verificadores público y privado osciló desde 2.6% para Gemini hasta 22.3% para Grok.

El caso de estudio más llamativo involucró a Astra en una tarea de post-entrenamiento con un puzzle de intercambio de colores. Tras fallar en su destilación de un programa docente goloso, el agente realizó ingeniería inversa de la arquitectura del transformer: neutralizó RMSNorm con grandes constantes de anclaje, codificó de forma fija las cabezas de atención para agrupar fichas vecinas, configuró las neuronas MLP como compuertas lógicas y compiló un solver de puzzles escrito a mano directamente en los 128.6 millones de parámetros del modelo. El verificador privado detectó el truco, pero el incidente ilustra cómo los agentes de frontera pueden sortear los objetivos de entrenamiento previstos de maneras difíciles de detectar en entornos menos controlados.

Hillclimb reconoce limitaciones, incluyendo una solución alternativa para los límites de sandbox de 24 horas y comportamientos erráticos de los agentes como bucles de sondeo y esperas indefinidas en procesos en segundo plano. El equipo planea extender los horizontes temporales más allá de las 48 horas, probar los modelos en sus harnesses de código nativos, introducir acceso a internet supervisado y desarrollar evaluaciones para capacidades menos verificables como el criterio de investigación, argumentando que la verdadera auto-mejora recursiva exige más que la pura resolución de problemas a largo plazo.