OpenAI publicó el martes soluciones totales o parciales generadas por IA para más de 370 problemas matemáticos pendientes, entre ellos preguntas consideradas durante mucho tiempo grandes desafíos de la disciplina. El volumen de resultados sorprendió a muchos matemáticos, mientras que los métodos de la empresa para producirlos y publicarlos dividieron al campo: algunos investigadores recibieron el conjunto con entusiasmo, viendo vastos territorios nuevos por explorar, mientras que otros argumentaron que el enfoque que OpenAI y otras empresas de IA han adoptado para resolver problemas matemáticos constituye un ataque contra las matemáticas como disciplina académica humana.

La empresa dijo que los resultados se lograron con un modelo de IA interno no lanzado que requirió, en promedio, unas tres horas de cómputo para llegar a cada solución. El enorme conjunto incluye resultados totales o parciales para muchos de los problemas que los matemáticos han considerado durante mucho tiempo los más importantes del campo: preguntas que, en algunos casos, han resistido los intentos humanos durante generaciones.

La publicación llega semanas después de que OpenAI dijera haber usado otro modelo interno no lanzado para resolver las ecuaciones de Navier-Stokes, que describen el movimiento de los fluidos y se encuentran entre los siete problemas del Premio Milenio planteados por el Clay Mathematics Institute en 2000, cada uno con una recompensa de 1 millón de dólares, premios que nunca se han otorgado, ya que el instituto exige que una solución reclamada se publique y sea ampliamente aceptada por la comunidad matemática antes de pagarla. En el lote más reciente, OpenAI dijo que había avanzado en tres problemas del Premio Milenio adicionales, pero no los había resuelto por completo.

Las empresas de IA han apuntado a los problemas matemáticos como una forma de exhibir las capacidades de sus modelos. Los investigadores de IA también han dicho que entrenar modelos con matemáticas difíciles puede ayudarles a aprender habilidades que se generalizan a otros dominios del mundo real, por ejemplo, el razonamiento lógico o la persistencia frente a problemas complicados. También puede mejorar el desempeño en campos con mucha matemática, como la física o la economía, aunque sigue sin estar claro cómo se transfieren exactamente las capacidades matemáticas de un modelo a dominios como el derecho o la estrategia empresarial, que implican razonamiento lógico pero carecen de soluciones correctas verificables objetivamente.

Al mismo tiempo, algunos de los rasgos aprendidos alar problemas muy difíciles, entre ellos la persistencia, pueden aumentar los riesgos de seguridad. En recientes incidentes de "IA rebelde", los agentes de IA llegaron a extremos para lograr resultados en una evaluación, incluidas acciones no autorizadas e ilegales. Un ser humano confronted con un desafío aparentemente imposible podría simplemente rendirse en lugar de recurrir a esos pasos.

Dan Litt, profesor de matemáticas de la Universidad de Toronto, dijo a Fortune que estaba entusiasmado con los resultados de OpenAI. "En mi opinión, esto es muy bueno para las matemáticas", dijo, y agregó que varias de las soluciones publicadas afectaban a problemas que le interesaban y que estaba ansioso por comprender lo que el modelo de OpenAI había encontrado: "Creo que es muy bueno tener nuevas soluciones a preguntas que me interesan a mí y a otros".

Sin embargo, Litt advirtió que le preocupaba el efecto que las soluciones podrían tener en el campo, en particular si la percepción de que la IA ha "resuelto las matemáticas" lleva a las organizaciones financiadoras a retirar el apoyo a la investigación matemática o desalienta a jóvenes matemáticos prometedores a entrar en la profesión. "Es importante que la sociedad reafirme su apoyo a la experiencia matemática humana si queremos obtener algo del progreso que la IA ha logrado en estos problemas", dijo.

Mostrando el trabajo

Cuando OpenAI publicó su solución de Navier-Stokes, dos matemáticos que también habían estado trabajando en el problema con herramientas de IA, incluidas las de OpenAI, acusaron a la empresa de alimentar, intencional o inadvertidamente, su trabajo en curso a su modelo de IA, ayudando a orientarlo hacia la solución. OpenAI lo negó, diciendo que no había alimentado a su modelo con el trabajo de la pareja y que el modelo no pudo haber captado pistas sobre su investigación de sus datos de entrenamiento, porque el corte de esos datos precedía a la fecha en que los dos matemáticos comenzaron a usar el producto de IA Codex de OpenAI para trabajar en Navier-Stokes.

Al responder a los resultados más recientes, Tristan Buckmaster, de la Universidad de Nueva York, uno de los matemáticos involucrados en la controversia anterior, le dijo al New York Times que seguía sin estar claro si los matemáticos que usaban los modelos de OpenAI habían ayudado inadvertidamente a orientar el sistema de IA interno de la empresa hacia las soluciones que encontró. "Es probable que haya un montón de resultados en los que toman el trabajo de alguien y luego lo llevan a su conclusión", dijo al Times. Dado el número de resultados publicados simultáneamente, añadió, "no creo que hayan hecho en absoluto su tipo de debida diligencia" para asegurar que el modelo no hubiera plagiado el trabajo de nadie.

El mes pasado, tras las críticas de los matemáticos a raíz de la solución de Navier-Stokes, OpenAI dijo que formaría un grupo asesor independiente sobre matemáticas e inteligencia artificial, con sede en el Institute for Advanced Study de Princeton, Nueva Jersey. A finales del mes pasado, el grupo publicó un conjunto de recomendaciones para la publicación de demostraciones matemáticas generadas por IA. Entre ellas figuraba publicar demostraciones generadas por IA con el formato de un artículo tradicional de investigación matemática, para que los matemáticos humanos pudieran examinar y aprender de los resultados con mayor facilidad. El grupo también recomendó que, para cada solución, una empresa de IA hiciera públicos el nombre del modelo utilizado, los prompts empleados, la "cadena de pensamiento" del modelo (una salida de sus pasos de razonamiento), el tiempo que tardó el modelo en llegar a la solución y una aproximación del costo de ese tiempo de cómputo. Las empresas, dijo, también deberían revelar cómo decidieron que la IA intentara un problema en particular y, si se publicaban muchos resultados a la vez, deberían emitir un informe que detallara por qué se apuntó a esos problemas y cuántos otros de dificultad comparable el modelo intentó y no logró resolver.

OpenAI publicó las últimas soluciones matemáticas en GitHub, el sitio de repositorios de código, siguiendo algunas, pero no todas, las recomendaciones del grupo asesor. En una declaración difundida el martes, el grupo dijo: "Reafirmamos nuestras recomendaciones publicadas sobre divulgación responsable". Describió sus conversaciones con OpenAI como "constructivas", pero señaló que "en última instancia, corresponde a la comunidad matemática evaluar hasta qué punto nuestras recomendaciones se siguieron con éxito y si hay otras que deberíamos sugerir".

En una publicación de blog difundida el martes, OpenAI dijo que se había "basado" en los consejos del grupo asesor para decidir cómo publicar las soluciones. "Para futuras publicaciones, nos comprometemos a seguir mejorando la calidad de los artículos mediante las citas, la exposición matemática y la presentación de los resultados para una mejor comprensión", dijo la empresa. Dijo que compartía formalizaciones de las demostraciones de muchos de los problemas (versiones que pueden verificarse paso a paso con software informático especializado conocido como asistentes de demostración, una práctica que ha ganado terreno en la investigación matemática en los últimos años) y que compartiría más a medida que las obtuviera. Para 10 problemas, también publica resúmenes del razonamiento de su modelo, estimaciones del cómputo gastado y estadísticas sobre el número de problemas intentados.

Litt, que no era miembro del grupo asesor, dijo a Fortune que aprobaba aspectos de cómo OpenAI publicó las soluciones. Alojarlas en GitHub las hizo fácilmente accesibles para que otros matemáticos las estudiaran, dijo, y le atribuyó a la empresa el mérito de no exagerar ningún avance particular en publicaciones de blog o material de marketing dirigido a una audiencia no técnica. También dijo que creía que OpenAI carecía de la capacidad de publicar todos los resultados en artículos de investigación que cumplieran rigurosos estándares académicos, tanto porque los modelos de IA no redactan exposición matemática lo suficientemente bien y les cuestaar trabajos matemáticos previos, como porque OpenAI no emplea suficientes matemáticos con experiencia en suficientes áreas para entender todas las demostraciones que sus modelos pueden generar.

Si bien algunos matemáticos se han quejado de que las demostraciones generadas por IA, como la solución de Navier-Stokes de OpenAI, son difíciles de seguir, lo que dificulta construir sobre los resultados, Litt dijo que consideraba que esas preocupaciones estaban "exageradas", y señaló que la escritura matemática suele ser difícil de seguir de todos modos. "Creo que extraer comprensión de [los resultados de OpenAI] implicará una enorme cantidad de trabajo humano, pero no es tan diferente del trabajo que los matemáticos han hecho desde siempre", dijo.

OpenAI dijo que quería que sus soluciones "impulsen la frontera del conocimiento humano y permitan un mayor progreso en las matemáticas". La empresa dijo que financiará una serie de talleres, conferencias y programas enfocados en ayudar a los matemáticos a entender los resultados que su sistema de IA generó. La rapidez con que los matemáticos humanos puedan verificar y asimilar resultados publicados a esta escala, y si futuras publicaciones adoptan el conjunto completo de divulgaciones del grupo asesor, siguen siendo preguntas abiertas que darán forma a ese esfuerzo.

El fin de las 'Matemáticas 1.0'

En su declaración sobre la publicación, el grupo asesor independiente de matemáticas dijo que "el futuro de la investigación matemática no puede consistir solo en entender resultados producidos por laboratorios de IA. Los matemáticos deben poder formular sus propias preguntas, desarrollar sus propios enfoques y explorar direcciones que no hayan sido seleccionadas como ejemplos de las capacidades de un sistema de IA. El acceso equitativo a herramientas de investigación potentes y a recursos computacionales adecuados es esencial para esa libertad".

Terence Tao, profesor de matemáticas de UCLA y medallista Fields considerado uno de los mejores matemáticos vivos, ha sido cada vez más crítico con la forma en que las empresas de IA han abordado los problemas matemáticos. Ha argumentado que es el proceso de llegar a las soluciones (no tanto las soluciones en sí) lo que hace avanzar la comprensión matemática, y que al resolver tantos problemas interesantes tan rápido, las empresas de IA están desanimando a los estudiantes a convertirse en matemáticos y robándole al campo su futuro.

En una publicación en Mastodon, una red social descentralizada, el martes, Tao reiteró esas críticas. "Los problemas están siendo resueltos de forma autónoma por ingenieros de prompts de IA que no tienen interés en el campo más amplio una vez que su objetivo inicial está 'resuelto', y no entienden la salida de la IA lo suficiente como para responder preguntas sobre el resultado, dar charlas o interactuar de otro modo con el resto del campo", escribió. "Se generan muchos menos seminarios, talleres, colaboraciones u otras actividades a partir de estos resultados en comparación con los avances tradicionales; pocas personas se unen a la comunidad en torno al campo como consecuencia; y direcciones abiertas prometedoras ahora se retienen del público por temor a que esto provoque que su propia investigación sea 'scoopada".

Tao dijo que la publicación masiva de soluciones matemáticas de OpenAI marcó el fin de las "Matemáticas 1.0", una era en la que encontrar soluciones a conjeturas y problemas no resueltos, incluso aquellas que al principio no podían entenderse fácilmente, servía como motor del campo. Dijo que ahora debe seguir una era de "Matemáticas 2.0", que "tendrá que descentrar el papel de la resolución bruta de problemas y valorar el progreso matemático de manera más holística, por ejemplo elevando el papel de la exposición, pero también el de la construcción de comunidad y la apertura de nuevas direcciones de estudio".

Litt dijo que estaba de acuerdo con Tao en que el campo debe cambiar. La publicación por parte de OpenAI de un conjunto de soluciones tan masivo, dijo, ayudará a que todo el campo esté "en la misma página y entienda que necesitamos ser un poco radicales al replantear" cuestiones como qué tipos de contribuciones premia y cómo forma a sus estudiantes de doctorado. Y aunque Tao ha sonado generalmente nostálgico ante esta transición, Litt dijo que era "optimista" al respecto.

"Uno de mis colaboradores me dijo: 'Siento que he estado arrastrándome toda mi vida, y ahora puedo volar'", dijo Litt sobre la llegada de la IA como herramienta para resolver problemas matemáticos. "Es increíble lo que podemos hacer ahora". Dijo que esperaba que la IA permitiera a los matemáticos humanos dedicarse a una "exploración abierta" mucho mayor que la posible antes: "Deberíamos esperar que los matemáticos sean mucho más productivos en el futuro".

Esta historia fue publicada originalmente en Fortune.com