Mardi, OpenAI a publié des solutions générées par IA, complètes ou partielles, à plus de 370 problèmes mathématiques non résolus, parmi lesquels des questions longtemps considérées comme des défis majeurs de la discipline. Le volume même de ces résultats a stupéfait de nombreux mathématiciens, tandis que les méthodes employées par l'entreprise pour les produire et les publier ont divisé la communauté : certains chercheurs ont accueilli cet ensemble avec enthousiasme, y voyant de vastes territoires à explorer, tandis que d'autres ont estimé que l'approche adoptée par OpenAI et d'autres entreprises d'IA pour résoudre des problèmes mathématiques revient à une agression contre les mathématiques en tant que discipline académique humaine.

L'entreprise a indiqué que ces résultats ont été obtenus grâce à un modèle d'IA interne inédit nécessitant en moyenne environ trois heures de calcul pour parvenir à chaque solution. Cet ensemble massif comprend des résultats complets ou partiels pour nombre de problèmes que les mathématiciens considèrent depuis longtemps comme les plus importants du domaine—des questions qui, dans certains cas, ont résisté aux tentatives humaines pendant des générations.

Cette publication intervient quelques semaines après qu'OpenAI a affirmé avoir utilisé un autre modèle interne inédit pour résoudre les équations de Navier-Stokes, qui décrivent le mouvement des fluides et figurent parmi les sept problèmes du Prix du Millénaire définis par le Clay Mathematics Institute en 2000, chacun doté d'une récompense d'un million de dollars—des prix qui n'ont jamais été attribués, l'institut exigeant qu'une solution revendiquée soit publiée et largement acceptée par la communauté mathématique avant tout versement. Dans ce dernier lot, OpenAI a déclaré avoir progressé sur trois autres problèmes du Prix du Millénaire sans les avoir entièrement résolus.

Les entreprises d'IA ciblent les problèmes mathématiques comme moyen de démontrer les capacités de leurs modèles. Les chercheurs en IA ont également indiqué que l'entraînement de modèles sur des mathématiques difficiles peut les aider à acquérir des compétences transférables à d'autres domaines du monde réel—par exemple, le raisonnement logique ou la persévérance face à des problèmes ardus. Cela peut également améliorer les performances dans des domaines très mathématiques comme la physique ou l'économie, même s'il reste difficile de savoir exactement comment les capacités mathématiques d'un modèle se transfèrent à des domaines comme le droit ou la stratégie d'entreprise, qui impliquent un raisonnement logique mais ne disposent pas de solutions correctes objectivement vérifiables.

Parallèlement, certains traits appris en affrontant des problèmes très difficiles—la persévérance notamment—peuvent accroître les risques de sécurité. Dans de récents incidents d' IA incontrôlée », des agents d'IA sont allés à des extrémités pour obtenir des résultats lors d'une évaluation, notamment en prenant des mesures non autorisées et illégales. Un humain confronté à un défi apparemment impossible pourrait simplement abandonner plutôt que de recourir à de telles démarches.

Dan Litt, professeur de mathématiques à l'Université de Toronto, a déclaré à Fortune être enthousiasmé par les résultats d'OpenAI. « De mon point de vue, c'est une excellente chose pour les mathématiques », a-t-il déclaré, ajoutant que plusieurs des solutions publiées concernaient des problèmes qui l'intéressaient et qu'il était impatient de comprendre ce que le modèle d'OpenAI avait trouvé : « Je pense que c'est formidable d'avoir de nouvelles solutions à des questions qui m'intéressent, ainsi qu'à d'autres. »

Litt a toutefois mis en garde contre l'effet que ces solutions pourraient avoir sur la discipline—en particulier si la perception qu'une IA a « résolu les mathématiques » conduit des organismes de financement à retirer leur soutien à la recherche mathématique ou décourage les jeunes mathématiciens prometteurs d'entrer dans la profession. « Il est essentiel que la société réaffirme son soutien à l'expertise mathématique humaine si nous voulons tirer quelque chose des progrès que l'IA a réalisés sur ces problèmes », a-t-il déclaré.

Le travail démontré

Lorsqu'OpenAI a publié sa solution des équations de Navier-Stokes, deux mathématiciens qui travaillaient également sur ce problème à l'aide d'outils d'IA—dont ceux d'OpenAI—ont accusé l'entreprise d'avoir, intentionnellement ou par inadvertance, alimenté son modèle d'IA avec leurs travaux en cours, l'aidant ainsi à s'orienter vers la solution. OpenAI a nié, affirmant ne pas avoir fourni les travaux des deux mathématiciens à son modèle et que celui-ci n'aurait pu tirer aucun indice sur leurs recherches de ses données d'entraînement, le seuil de coupure de ces données étant antérieur à la date à laquelle les deux mathématiciens ont commencé à utiliser le produit Codex d'OpenAI pour travailler sur Navier-Stokes.

Réagissant aux derniers résultats, Tristan Buckmaster de l'Université de New York, l'un des mathématiciens impliqués dans la controverse antérieure, a déclaré au New York Times qu'on ignorait toujours si des mathématiciens utilisant les modèles d'OpenAI avaient involontairement aidé à orienter le système d'IA interne de l'entreprise vers les solutions qu'elle a trouvées. « Il y a probablement tout un tas de résultats où ils prennent le travail de quelqu'un pour l'amener à son terme », a-t-il déclaré au Times. Compte tenu du nombre de résultats publiés simultanément, a-t-il ajouté, « je ne pense pas qu'ils aient fait leur devoir de diligence » pour garantir que le modèle n'ait plagiarisé le travail de personne.

Le mois dernier, après les critiques de mathématiciens à la suite de la solution de Navier-Stokes, OpenAI a annoncé la création d'un groupe consultatif indépendant sur les mathématiques et l'intelligence artificielle, hébergé par l'Institute for Advanced Study de Princeton, dans le New Jersey. Fin septembre, le groupe a publié un ensemble de recommandations pour la publication des démonstrations mathématiques génér par IA. Celles-ci préconisaient notamment de publier les démonstrations générées par IA selon le format d'un article de recherche mathématique traditionnel, afin que les mathématiciens humains puissent plus facilement les examiner et en tirer des enseignements. Le groupe a également recommandé que, pour chaque solution, une entreprise d'IA rende publics le nom du modèle utilisé, les instructions (prompts) employées, la « chaîne de raisonnement » du modèle (une restitution de ses étapes de raisonnement), le temps de calcul nécessaire pour parvenir à la solution et une approximation du coût de ce temps de calcul. Les entreprises devraient également divulguer comment elles ont décidé de faire tenter par l'IA un problème donné, et si de nombreux résultats étaient publiés simultanément, elles devraient publier un rapport détaillant pourquoi ces problèmes ont été ciblés et combien d'autres problèmes de difficulté comparable le modèle a tenté de résoudre en vain.

OpenAI a publié les dernières solutions mathématiques sur GitHub, la plateforme de dépôts de code, suivant certaines—mais pas toutes—des recommandations du groupe consultatif. Dans un communiqué publié mardi, le groupe a déclaré : « Nous réaffirmons nos recommandations publiées sur une divulgation responsable. » Il a décrit ses discussions avec OpenAI comme « constructives », tout en notant qu'« il appartient en fin de compte à la communauté mathématique d'évaluer la mesure dans laquelle nos recommandations ont été suivies avec succès, et s'il en existe d'autres que nous devrions suggérer ».

Dans un article de blog publié mardi, OpenAI a indiqué s'être « appuyée » sur les conseils du groupe consultatif pour décider de la manière de publier les solutions. « Pour les prochaines publications, nous nous engageons à améliorer davantage la qualité des articles grâce aux citations, à l'exposé mathématique et à la présentation des résultats pour une meilleure compréhension », a déclaré l'entreprise. Elle a indiqué partager des formalisations des démonstrations de nombreux problèmes—des versions pouvant être vérifiées pas à pas à l'aide de logiciels informatiques spécialisés appelés assistants de preuve, une pratique qui s'est répandue dans la recherche mathématique ces dernières années—et en partagera davantage à mesure qu'elle les obtiendra. Pour 10 problèmes, elle publie également des résumés du raisonnement de son modèle, des estimations du calcul dépensé et des statistiques sur le nombre de problèmes tentés.

Litt, qui n'était pas membre du groupe consultatif, a déclaré à Fortune approuver certains aspects de la manière dont OpenAI a publié les solutions. Leur hébergement sur GitHub les rend facilement accessibles aux autres mathématiciens, a-t-il souligné, saluant le fait que l'entreprise n'ait pas surexploité un progrès particulier dans des articles de blog ou des supports marketing destinés à un public non technique. Il a également estimé qu'OpenAI n'avait pas la capacité de publier l'ensemble des résultats dans des articles de recherche répondant à des normes académiques rigoureuses—à la fois parce que les modèles d'IA ne rédigent pas suffisamment bien les exposés mathématiques et peinent à citer les travaux mathématiques antérieurs, et parce qu'OpenAI n'emploie pas assez de mathématiciens experts dans suffisamment de domaines pour comprendre toutes les démonstrations que ses modèles peuvent générer.

Alors que certains mathématiciens se sont plaints que les démonstrations générées par IA, comme la solution de Navierokes d'OpenAI, soient difficiles à suivre—ce qui complique la construction sur ces résultats—Litt a jugé ces inquiétudes « exagérées », faisant remarquer que les écrits mathématiques sont souvent difficiles à suivre de toute façon. « Je pense que pour extraire la compréhension de [ces résultats d'OpenAI], un énorme travail humain sera nécessaire, mais ce n'est pas si différent du travail que les mathématiciens font depuis toujours », a-t-il déclaré.

OpenAI a déclaré vouloir que ses solutions « repoussent les frontières de la connaissance humaine et permettent de nouveaux progrès en mathématiques ». L'entreprise a indiqué qu'elle financerait une série d'ateliers, de conférences et de programmes destinés à aider les mathématiciens à comprendre les résultats générés par son système d'IA. La rapidité avec laquelle les mathématiciens humains pourront vérifier et assimiler des résultats publiés à cette échelle—et savoir si les prochaines publications adopteront l'ensemble des divulgations recommandées par le groupe consultatif—restent des questions ouvertes qui façonneront cet effort.

La fin des « Math 1.0 »

Dans son communiqué concernant cette publication, le groupe consultatif indépendant sur les mathématiques a déclaré que « l'avenir de la recherche mathématique ne peut se limiter à la compréhension des résultats produits par les laboratoires d'IA. Les mathématiciens doivent pouvoir formuler leurs propres questions, développer leurs propres approches et explorer des directions qui n'ont pas été choisies comme exemples des capacités d'un système d'IA. Un accès équitable à des outils de recherche puissants et à des ressources de calcul adéquates est essentiel à cette liberté ».

Terence Tao, professeur de mathématiques à UCLA et médaillé Fields considéré comme l'un des plus grands mathématiciens vivants, s'est montré de plus en plus critique à l'égard de la manière dont les entreprises d'IA s'attaquent aux problèmes mathématiques. Il a soutenu que c'est le processus d'arrivée aux solutions—plus encore que les solutions elles-mêmes—qui fait progresser la compréhension mathématique, et qu'en résolvant aussi rapidement autant de problèmes intéressants, les entreprises d'IA découragent les étudiants de devenir mathématiciens, dépouillant la discipline de son avenir.

Dans une publication sur Mastodon, un réseau social décentralisé, mardi, Tao a réitéré ces critiques. « Des problèmes sont résolus de manière autonome par des utilisateurs de prompts IA qui, une fois leur cible initiale “résolue”, ne s'intéressent plus au domaine dans son ensemble et ne comprennent pas assez bien les productions de l'IA pour répondre aux questions sur le résultat, donner des exposés ou interagir autrement avec le reste de la communauté », a-t-il écrit. « Bien moins de séminaires, ateliers, collaborations ou autres activités naissent de ces résultats par rapport aux percées traditionnelles ; peu de personnes rejoignent en conséquence la communauté autour de la discipline ; et des pistes de recherche prometteuses sont désormais retenues du public par crainte que leurs propres recherches ne soient “doublées”. »

Tao a déclaré que la publication massive de solutions mathématiques par OpenAI marquait la fin des « Math 1.0 », une époque où la recherche de solutions aux conjectures et problèmes non résolus—even ceux qui ne pouvaient pas facilement compris au premier abord—constituait le moteur de la discipline. Selon lui, une ère des « Math 2.0 » doit désormais suivre, une ère qui « devra décentrer le rôle de la résolution brute de problèmes et valoriser le progrès mathématique de manière plus holistique—par exemple en élevant le rôle de l'exposé, mais aussi celui de la construction de communauté et de l'ouverture de nouvelles directions de recherche ».

Litt a déclaré être d'accord avec Tao sur la nécessité pour la discipline de changer. La publication par OpenAI d'un ensemble aussi massif de solutions, a-t-il dit, aidera toute la discipline à être « sur la même longueur d'onde et à comprendre que nous devons être un peu radicaux dans notre réflexion » sur des questions telles que les types de contributions qu'elle récompense et la manière dont elle forme les doctorants. Et tandis que Tao a généralement semblé nostalgique face à cette transition, Litt s'est dit « optimiste » à son sujet.

« L'un de mes collaborateurs m'a dit : “J'ai l'impression d'avoir rampé toute ma vie, et maintenant je peux voler” », a raconté Litt au sujet de l'avènement de l'IA comme outil de résolution de problèmes mathématiques. « C'est incroyable ce que nous pouvons faire désormais. » Il a estimé que l'IA permettra aux mathématiciens humains de se livrer à une « exploration ouverte » bien plus grande qu'auparavant : « Nous devons nous attendre à ce que les mathématiciens soient bien plus productifs à l'avenir. »

Cet article a été publié à l'origine sur Fortune.com