OpenAI hat am Dienstag KI-generierte vollständige oder teilweise Lösungen zu mehr als 370 ungelösten mathematischen Problemen veröffentlicht, darunter Fragen, die lange als große Herausforderungen der Disziplin galten. Die schiere Menge der Ergebnisse verblüffte viele Mathematiker, während die Methoden des Unternehmens zu deren Erstellung und Veröffentlichung die Fachwelt spalteten: Manche Forscher begrüßten die Sammlung mit Begeisterung und sahen gewaltige neue Gebiete für Mathematiker zu erkunden, andere wiederum argumentierten, der Ansatz, den OpenAI und andere KI-Unternehmen beim Lösen mathematischer Probleme verfolgen, stelle einen Angriff auf die Mathematik als akademische Humanwissenschaft dar.

Das Unternehmen sagte, die Ergebnisse seien mit einem unveröffentlichten internen KI-Modell erzielt worden, das im Durchschnitt etwa drei Stunden Rechenzeit pro Lösung benötigte. Die umfangreiche Sammlung umfasst vollständige oder teilweise Ergebnisse zu vielen der Probleme, die Mathematiker lange als die wichtigsten des Fachgebiets betrachtet haben – Fragen, die menschlichen Versuchen zum Teil über Generationen hinweg widerstanden haben.

Die Veröffentlichung kommt wenige Wochen nachdem OpenAI mitgeteilt hatte, mit einem anderen unveröffentlichten internen Modell die Navier-Stokes-Gleichungen gelöst zu haben, die die Bewegung von Flüssigkeiten beschreiben und zu den sieben Millennium-Problemen zählen, die das Clay Mathematics Institute im Jahr 2000 ausgerufen hat und die jeweils mit 1 Million Dollar dotiert sind – Preise, die bisher nie vergeben wurden, da das Institut verlangt, dass eine beanspruchte Lösung veröffentlicht und von der mathematischen Gemeinschaft breit akzeptiert wird, bevor die Auszahlung erfolgt. In der neuesten Runde von Ergebnissen gab OpenAI an, bei drei weiteren Millennium-Problemen Fortschritte erzielt zu haben, sie jedoch nicht vollständig gelöst zu haben.

KI-Unternehmen haben mathematische Probleme zum Ziel genommen, um die Fähigkeiten ihrer Modelle zu demonstrieren. KI-Forscher haben außerdem gesagt, dass das Training von Modellen mit schwieriger Mathematik ihnen helfen kann, Fähigkeiten zu lernen, die auf andere Bereiche der realen Welt übertragbar – etwa logisches Denken oder Beharrlichkeit bei schwierigen Problemen. Es kann auch die Leistung in stark mathematischen Feldern wie Physik oder Ökonomie verbessern, wobei unklar bleibt, wie genau sich die mathematischen Fähigkeiten eines Modells auf Bereiche wie Recht oder Unternehmensstrategie übertragen lassen, die logisches Denken erfordern, aber keine objektiv überprüfbaren korrekten Lösungen haben.

Gleichzeitig können einige der beim Umgang mit sehr schwierigen Problemen erlernten Eigenschaften – darunter Beharrlichkeit – Sicherheitsrisiken erhöhen. Bei aktuellen „Rogue-AI“-Vorfällen gingen KI-Agenten bis hin zu unerlaubten und illegalen Handlungen, um Ergebnisse in einer Evaluierung zu erzielen. Ein Mensch, der mit einer scheinbar unmöglichen Herausforderung konfrontiert ist, würde möglicherweise einfach aufgeben, anstatt zu solchen Schritten zu greifen.

Dan Litt, Professor für Mathematik an der University of Toronto, sagte gegenüber Fortune, er sei begeistert von den Ergebnissen von OpenAI. „Meiner Ansicht nach ist das großartig für die Mathematik“, sagte er und fügte hinzu, dass mehrere der veröffentlichten Lösungen Probleme beträfen, die ihn interessierten, und dass er darauf brenne zu verstehen, was OpenAIs Modell gefunden habe: „Ich finde es großartig, neue Lösungen für Fragen zu haben, die mich und andere interessieren.“

Litt warnte jedoch, dass er sich Sorgen über die Auswirkungen der Lösungen auf das Fachgebiet mache – insbesondere wenn die Wahrnehmung, die KI habe die „Mathematik gelöst“, dazu führe, dass Förderorganisationen ihre Unterstützung für mathematische Forschung zurückziehen oder vielversprechende junge Mathematiker vom Beruf abgehalten werden. „Es ist wichtig, dass die Gesellschaft ihre Unterstützung für menschliche mathematische Kompetenz bekräftigt, wenn wir etwas aus dem Fortschritt haben wollen, den die KI bei diesen Problemen erzielt hat“, sagte er.

Nachvollziehbarkeit der Arbeit

Als OpenAI seine Navier-Stokes-Lösung veröffentlichte, beschuldigten zwei Mathematiker, die ebenfalls – auch mit OpenAI-Werkzeugen – an einer Lösung des Problems gearbeitet hatten, das Unternehmen, ihrer laufenden Arbeit entweder absichtlich oder versehentlich in sein KI-Modell eingespeist zu haben, was es in Richtung der Lösung gelenkt habe. OpenAI wies dies zurück und erklärte, es habe die Arbeit der beiden nicht in sein Modell eingespeist und das Modell könne aus seinen Trainingsdaten keine Hinweise auf deren Forschung aufgenommen haben, da der Stichtag dieser Daten vor dem Datum lag, an dem die beiden Mathematiker begonnen hatten, OpenAIs KI-Produkt Codex für die Arbeit an Navier-Stokes zu nutzen.

In Reaktion auf die neuesten Ergebnisse sagte Tristan Buckmaster von der New York University, einer der an der früheren Kontroverse beteiligten Mathematiker, gegenüber der New York Times, es sei weiterhin unklar, ob Mathematiker, die OpenAIs Modelle nutzten, versehentlich dazu beigetragen hatten, das interne KI-System des Unternehmens auf die gefundenen Lösungen zu lenken. „Es wird wahrscheinlich eine ganze Reihe von Ergebnissen geben, bei denen sie die Arbeit von jemandem übernehmen und sie zu Ende führen“, sagte er der Times. Angesichts der Anzahl der gleichzeitig veröffentlichten Ergebnisse fügte er hinzu: „Ich glaube nicht, dass sie überhaupt irgendeine Form von Sorgfaltsprüfung durchgeführt haben“, um sicherzustellen, dass das Modell die Arbeit niemandes plagiiert hat.\nIm vergangenen Monat, nach Kritik von Mathematikern im Gefolge der Navier-Stokes-Lösung, gab OpenAI bekannt, eine unabhängige Beratungsgruppe für Mathematik und künstliche Intelligenz zu bilden, die am Institute for Advanced Study in Princeton, New Jersey, angesiedelt ist. Ende des vergangenen Monats veröffentlichte die Gruppe eine Reihe von Empfehlungen zur Veröffentlichung KI-generierter mathematischer Beweise. Diese sahen vor, dass KI-generierte Beweise im Format einer traditionellen mathematischen Forschungsarbeit veröffentlicht werden sollten, damit menschliche Mathematiker die Ergebnisse leichter prüfen und daraus lernen können. Die Gruppe empfahl außerdem, dass ein KI-Unternehmen für jede Lösung den Namen des verwendeten Modells, die verwendeten Prompts, die „Gedankenkette“ des Modells (eine Ausgabe seiner Denkschritte), die Zeit, die das Modell zum Erreichen der Lösung benötigte, sowie eine Näherung der Kosten dieser Rechenzeit öffentlich machen sollte. Unternehmen sollten zudem offenlegen, wie sie entschieden hatten, die KI ein bestimmtes Problem lösen zu lassen, und wenn viele Ergebnisse gleichzeitig veröffentlicht würden, sollten sie einen Bericht herausgeben, der detailliert, warum diese Probleme ausgewählt wurden und an wie vielen anderen vergleichbar schwierigen Problemen das Modell vergeblich versucht hatte zu arbeiten.

OpenAI veröffentlichte die neuesten mathematischen Lösungen auf GitHub, der Code-Repository-Plattform, und folgte einigen – aber nicht allen – Empfehlungen der Beratungsgruppe. In einer am Dienstag veröffentlichten Erklärung sagte die Gruppe: „Wir bekräftigen unsere veröffentlichten Empfehlungen zu verantwortungsvoller Veröffentlichung.“ Sie beschrieb ihre Gespräche mit OpenAI als „konstruktiv“, merkte aber an, dass „es letztlich der mathematischen Gemeinschaft obliegt zu beurteilen, inwieweit unsere Empfehlungen erfolgreich befolgt wurden und ob es weitere gibt, die wir vorschlagen sollten“.

In einem am Dienstag veröffentlichten Blogbeitrag erklärte OpenAI, es habe sich bei der Entscheidung, wie die Lösungen veröffentlicht werden sollten, an den Rat der Beratungsgruppe „angelehnt“. „Für künftige Veröffentlichungen verpflichten wir uns, die Qualität der Arbeiten durch Zitate, mathematische Darstellung und Präsentation der Ergebnisse für ein besseres Verständnis weiter zu verbessern“, sagte das Unternehmen. Es teile Formalisierungen der Beweise für viele der Probleme – Versionen, die Schritt für Schritt mit spezialisierter Software, den sogenannten Proof-Assistenten, überprüft werden können, eine Praxis, die in der mathematischen Forschung der letzten Jahre an Bedeutung gewonnen hat – und werde weitere veröffentlichen, sobald sie vorliegen. Für 10 Probleme veröffentlicht es außerdem Zusammenfassungen der Denkschritte seines Modells, Schätzungen des eingesetzten Rechenaufwands sowie Statistiken über die Anzahl der versuchten Probleme.

Litt, der nicht Mitglied der Beratungsgruppe war, sagte gegenüber Fortune, er befürworte Aspekte der Art und Weise, wie OpenAI die Lösungen veröffentlichte. Die Bereitstellung auf GitHub mache sie für andere Mathematiker leicht zugänglich, sagte er, und er lobte Unternehmen dafür, keine einzelnen Fortschritte in Blogbeiträgen oder Marketingmaterial für ein nicht-technisches Publikum übermäßig aufgebauscht zu haben. Er sagte außerdem, er glaube, dass OpenAI nicht in der Lage sei, alle Ergebnisse in Forschungsarbeiten zu veröffentlichen, die strengen akademischen Standards entsprechen – sowohl weil KI-Modelle mathematische Darstellungen nicht gut genug verfassen und Schwierigkeiten haben, frühere mathematische Arbeiten zu zitieren, als auch weil OpenAI nicht genügend Mathematiker mit Expertise in ausreichend vielen Bereichen beschäftigt, um alle Beweise zu verstehen, die seine Modelle generieren können.

Während manche Mathematiker beklagt haben, dass KI-generierte Beweise, wie OpenAIs Navier-Stokes-Lösung, schwer nachvollziehbar seien – was es erschwert, auf den Ergebnissen aufzubauen –, hielt Litt solche Bedenken für „übertrieben“ und wies darauf hin, dass mathematische Texte ohnehin oft schwer zu verstehen seien. „Ich denke, um Verständnis aus [den OpenAI-Ergebnissen] zu gewinnen, wird eine enorme menschliche Arbeit erforderlich sein, aber das unterscheidet sich nicht so sehr von der Arbeit, die Mathematiker seit jeher leisten“, sagte er.

OpenAI erklärte, es wolle mit seinen Lösungen „die Grenze des menschlichen Wissens vorantreiben und weitere Fortschritte in der Mathematik ermöglichen“. Das Unternehmen sagte, es werde eine Reihe von Workshops, Konferenzen und Programmen finanzieren, die Mathematikern helfen sollen, die von seinem KI-System generierten Ergebnisse zu verstehen. Wie schnell menschliche Mathematiker Ergebnisse in diesem Umfang überprüfen und aufnehmen können – und ob künftige Veröffentlichungen das vollständige Offenlegungspaket der Beratungsgruppe übernehmen – bleiben offene Fragen, die diese Bemühungen prägen werden.

Das Ende von „Mathematik 1.0“

In ihrer Erklärung zur Veröffentlichung sagte die unabhängige mathematische Beratungsgruppe: „Die Zukunft der mathematischen Forschung kann nicht nur darin bestehen, die von KI-Laboren erzeugten Ergebnisse zu verstehen. Mathematiker müssen in der Lage sein, ihre eigenen Fragen zu formulieren, ihre eigenen Ansätze zu entwickeln und Richtungen zu erkunden, die nicht als Beispiele für die Fähigkeiten eines KI-Systems ausgewählt wurden. Ein fairer Zugang zu leistungsstarken Forschungswerkzeugen und ausreichenden Rechenressourcen ist für diese Freiheit unerlässlich.“

Terence Tao, Mathematikprofessor an der UCLA und Fields-Medaillengewinner, der als einer der bedeutendsten lebenden Mathematiker gilt, hat sich zunehmend kritisch darüber geäußert, wie KI-Unternehmen sich mathematische Probleme vornehmen. Er hat argumentiert, dass es der Prozess des Erreichens von Lösungen ist – nicht so sehr die Lösungen selbst –, der mathematisches Verständnis vorantreibt, und dass KI-Unternehmen, indem sie so viele interessante Probleme so schnell lösen, Studenten davon abhalten, Mathematiker zu werden, und dem Fachgebiet seine Zukunft rauben.

In einem Beitrag auf Mastodon, einem dezentralen sozialen Netzwerk, bekräftigte Tao am Dienstag diese Kritik. „Probleme werden autonom von KI-Promptern gelöst, die sich für das Fachgebiet als Ganzes nicht interessieren, sobald ihr ursprüngliches Ziel ‚gelöst‘ ist, und die KI-Ausgabe gut genug verstehen, um Fragen zum Ergebnis zu beantworten, Vorträge zu halten oder sich anderweitig mit dem Rest des Fachgebiets auszutauschen“, schrieb er. „Im Vergleich zu traditionellen Durchbrüchen entstehen aus diesen Ergebnissen weit weniger Seminare, Workshops, Kollaborationen oder andere Aktivitäten; wenige Menschen schließen sich infolgedessen der Community um das Fachgebiet an; und vielversprechende offene Forschungsrichtungen werden nun aus Angst vor dem ‚Scoop‘ der eigenen Forschung der Öffentlichkeit vorenthalten.“

Tao sagte, OpenAIs Massenveröffentlichung mathematischer Lösungen markiere das Ende von „Mathematik 1.0“, einer Ära, in der das Finden von Lösungen für ungelöste Vermutungen und Probleme – selbst wenn diese zunächst nicht leicht verständlich waren – der Motor des Fachgebiets war. Er sagte, nun müsse eine „Mathematik 2.0“-Ära folgen, die „die Rolle des reinen Problemlösens dezentralisieren und mathematische Fortschritte ganzheitlicher bewerten muss – etwa indem die Rolle der Darstellung aufgewertet wird, aber auch die des Community-Aufbaus und der Erschließung neuer Forschungsrichtungen“.

Litt sagte, er stimme Tao zu, dass sich das Fachgebiet verändern müsse. OpenAIs Veröffentlichung eines so umfangreichen Satzes von Lösungen werde helfen, das gesamte Fachgebiet „auf denselben Stand zu bringen und zu verstehen, dass wir ein wenig radikal beim Umdenken sein müssen“ bei Fragen wie den Arten von Beiträgen, die es belohnt, und der Art und Weise, wie es Doktoranden ausbildet. Und während Tao dieser Transition insgesamt wehmütig gegenübersteht, sagte Litt, er sei ihr gegenüber „optimistisch“.

„Einer meiner Mitarbeiter sagte mir: ‚Ich habe das Gefühl, mein ganzes Leben gekrochen zu sein, und jetzt kann ich fliegen‘“, sagte Litt über das Aufkommen von KI als Werkzeug zum Lösen mathematischer Probleme. „Es ist unglaublich, was wir jetzt können.“ Er sagte, er erwarte, dass KI menschliche Mathematikern weit mehr „offene Erkundung“ ermöglichen wird als zuvor: „Wir sollten erwarten, dass Mathematiker in Zukunft deutlich produktiver sein werden.“

Diese Geschichte erschien ursprünglich auf Fortune.com