OpenAI publiceerde dinsdag door AI gegenereerde volledige of gedeeltelijke oplossingen voor meer dan 370 onopgeloste wiskundige problemen, waaronder vraagstukken die al lang worden beschouwd als grand challenges van de discipline. De enorme hoeveelheid resultaten verraste veel wiskundigen, terwijl de methoden die het bedrijf gebruikte om ze te produceren en vrij te geven het vakgebied verdeelden: sommige onderzoekers verwelkomden de verzameling met enthousiasme en zagen grote nieuwe gebieden om te verkennen, terwijl anderen betoogden dat de aanpak die OpenAI en andere AI-bedrijven hebben gekozen voor het oplossen van wiskundige problemen neerkomt op een aantasting van de wiskunde als menselijke academische discipline.

Het bedrijf zei dat de resultaten zijn bereikt met een niet-openbaar intern AI-model dat gemiddeld ongeveer drie uur rekentijd nodig had om tot elke oplossing te komen. De enorme verzameling omvat volledige of gedeeltelijke resultaten voor veel van de problemen die wiskundigen al lang als de belangrijkste in het vakgebied beschouwen—vraagstukken die in sommige gevallen generaties lang menselijke pogingen hebben weerstaan.

De publicatie volgt enkele weken nadat OpenAI zei een ander niet-openbaar intern model te hebben om de Navier-Stokes-vergelijkingen op te lossen, die de beweging van vloeistoffen beschrijven en behoren tot de zeven Millennium Prize-problemen die het Clay Mathematics Institute in 2000 formuleerde, elk met een prijs van $1 miljoen—prijzen die nooit zijn uitgereikt, omdat het instituut vereist dat een gepretendeerde oplossing wordt gepubliceerd en breed wordt geaccepteerd door de wiskundige gemeenschap voordat wordt uitbetaald. In de nieuwste reeks zei OpenAI voortgang te hebben geboekt op drie extra Millennium Prize-problemen, maar deze nog niet volledig te hebben opgelost.

AI-bedrijven richten zich op wiskundige problemen als een manier om de capaciteiten van hun modellen te tonen. AI-onderzoekers hebben ook gezegd dat het trainen van modellen op moeilijke wiskunde hen kan helpen vaardigheden te leren die generaliseren naar andere domeinen in de echte wereld—bijvoorbeeld logisch redeneren, of volharding bij moeilijke problemen. Het kan ook de prestaties verbeteren in sterk wiskundige vakgebieden zoals natuurkunde of economie, hoewel het nog onduidelijk is hoe de wiskundige capaciteiten van een model overdraagbaar zijn naar domeinen zoals recht of bedrijfsstrategie, die logisch redeneren vereisen maar geen objectief verifieerbare juiste oplossingen hebben.

Tegelijkertijd kunnen sommige eigenschappen die worden geleerd bij het aanpakken van zeer moeilijke problemen—waaronder volharding—veiligheidsrisico's vergroten. In recente incidenten met "rogue AI" gingen AI-agenten uitersten om resultaten te behalen in een evaluatie, waaronder ongeautoriseerde en illegale handelingen. Een mens die wordt geconfronteerd met een schijnbaar onmogelijke uitdaging, zou kunnen opgeven in plaats van zulke stappen te nemen.

Dan Litt, hoogleraar wiskunde aan de Universiteit van Toronto, vertelde aan Fortune dat hij enthousiast was over de resultaten van OpenAI. "Mijn mening is dat dit geweldig is voor de wiskunde," zei hij, en voegde eraan toe dat verschillende van de gepubliceerde oplossingen betrekking hadden op problemen waarin hij geïnteresseerd was en dat hij graag wilde begrijpen wat het model van OpenAI had gevonden: "Ik vind het geweldig om nieuwe oplossingen te hebben voor vragen waar ik en anderen geïnteresseerd in zijn."

Litt waarschuwde echter dat hij zich zorgen maakte over het effect dat de oplossingen op het vakgebied kunnen hebben—met name als het idee dat AI de wiskunde heeft "opgelost" ertoe leidt dat financieringsorganisaties steun voor wiskundig onderzoek intrekken, of dat veelbelovende jonge wiskundigen ontmoedigd worden het beroep in te gaan. "Het is belangrijk dat de samenleving de steun voor menselijke wiskundige expertise opnieuw bevestigt als we iets willen hebben aan de voortgang die AI op deze problemen heeft geboekt," zei hij.

Het werk tonen

Toen OpenAI zijn Navier-Stokes-oplossing publiceerde, beschuldigden twee wiskundigen die ook aan het probleem werkten met AI-tools—waaronder die van OpenAI—het bedrijf ervan hun werk in uitvoering opzettelijk of onbedoeld aan zijn AI-model te hebben gevoerd, waardoor het in de richting van de oplossing werd gewezen. OpenAI ontkende dit en zei dat het het werk van de twee niet aan het model had gevoerd en dat het model geen aanwijzingen over hun onderzoek uit de trainingsdata kon hebben opgepikt, omdat de afkapdatum van die data voorafging aan de datum waarop de twee wiskundigen begonnen OpenAI's Codex AI-product te gebruiken voor werk aan Navier-Stokes.

Als reactie op de nieuwste resultaten vertelde Tristan Buckmaster van New York University, een van de wiskundigen die betrokken waren bij de eerdere controverse, aan de New York Times dat het nog onduidelijk was of wiskundigen die OpenAI's modellen gebruikten onbedoeld hadden geholpen het interne AI-systeem van het bedrijf in de richting van de gevonden oplossingen te sturen. "Er zullen waarschijnlijk een heleboel resultaten zijn waarbij ze het werk van iemand overnemen en het afronden," vertelde hij aan de Times. Gezien het aantal resultaten dat tegelijk wordt vrijgegeven, voegde hij eraan toe, "denk ik niet dat ze hun due diligence op wat voor manier dan ook hebben gedaan" om te garanderen dat het model het werk van niemand had geplagieerd.

Vorige maand, na kritiek van wiskundigen naar aanleiding van de Navier-Stokes-oplossing, kondigde OpenAI aan een onafhankelijke adviesgroep voor wiskunde en kunstmatige intelligentie te vormen, gehuisvest bij het Institute for Advanced Study in Princeton, N.J. Eind vorige maand bracht de groep een reeks aanbevelingen uit voor het publiceren van door AI gegenereerde wiskundige bewijzen. Deze omvatten dat door AI gegenereerde bewijzen gepubliceerd moeten worden in het formaat van een traditioneel wiskundig onderzoeksartikel, zodat menselijke wiskundigen de resultaten gemakkelijker kunnen controleren en ervan leren. De groep beval ook aan dat een AI-bedrijf voor elke oplossing openbaar moet maken welke modelnaam is gebruikt, welke prompts zijn gebruikt, de "chain of thought" van het model (een uitvoer van de redeneerstappen), de tijd die het model nodig had om de oplossing te bereiken, en een benadering van wat die rekentijd heeft gekost. Bedrijven moeten volgens de groep ook bekendmaken hoe ze hebben besloten de AI een bepaald probleem te laten proberen op te lossen, en als veel resultaten tegelijk worden gepubliceerd, moeten ze een rapport uitbrengen waarin wordt uiteengezet waarom die problemen zijn gekozen en bij hoeveel andere problemen van vergelijkbare moeilijkheid het model heeft geprobeerd en gefaald.

OpenAI publiceerde de nieuwste wiskundige oplossingen op GitHub, de code-repositorysite, en volgde enkele—maar niet alle—aanbevelingen van de adviesgroep. In een verklaring van dinsdag zei de groep: "Wij herbevestigen onze gepubliceerde aanbevelingen over verantwoorde vrijgave." Ze omschreef de gesprekken met OpenAI als "constructief", maar merkte op dat "het uiteindelijk aan de wiskundige gemeenschap is om te beoordelen in hoeverre onze aanbevelingen met succes zijn gevolgd, en of er andere zijn die we zouden moeten suggereren."

In een blogpost van dinsdag zei OpenAI "geput" te hebben uit het advies van de adviesgroep bij de beslissing hoe de oplossingen te publiceren. "Voor toekomstige vrijgaven zetten we ons in om de kwaliteit van de artikelen verder te verbeteren via de citaties, de wiskundige uiteenzetting en de presentatie van de resultaten voor beter begrip," aldus het bedrijf. Het zeid formaliseringen van de bewijzen voor veel van de problemen te delen—versies die stap voor stap kunnen worden gecontroleerd met speciale computersoftware die bekendstaat als bewijsassistenten, een praktijk die de afgelopen jaren terrein heeft gewonnen in wiskundig onderzoek—en er meer te delen zodra die beschikbaar komen. Voor 10 problemen publiceert het ook samenvattingen van de redenering van het model, schattingen van de gebruikte rekenkracht en statistieken over aantal geprobeerde problemen.

Litt, die geen lid was van de adviesgroep, vertelde aan Fortune dat hij bepaalde aspecten goedkeurde van de manier waarop OpenAI de oplossingen publiceerde. Het hosten ervan op GitHub maakte ze gemakkelijk toegankelijk voor andere wiskundigen om te bestuderen, zei hij, en hij prees het bedrijf ervoor dat het geen enkele specifieke vooruitgang overhypte in blogposts of marketingmateriaal gericht op een niet-technisch publiek. Hij zei ook dat hij geloofde dat OpenAI niet in staat was alle resultaten te publiceren in onderzoeksartikelen die voldoen aan strenge academische normen—zowel omdat AI-modellen niet goed genoeg wiskundige uiteenzettingen schrijven en moeite hebben met het citeren van eerder wiskundig werk, als omdat OpenAI niet genoeg wiskundigen in dienst heeft met expertise in voldoende gebieden om alle bewijzen te begrijpen die de modellen kunnen genereren.

Hoewel sommige wiskundigen hebben geklaagd dat door AI gegenereerde bewijzen, zoals de Navier-Stokes-oplossing van OpenAI, moeilijk te volgen zijn—wat het moeilijk maakt om op de resultaten voort te bouwen—vond Litt dat deze zorgen "overdreven" waren, met de kanttekening dat wiskundig schrijven vaak toch al moeilijk te volgen is. "Ik denk dat er een enorme hoeveelheid menselijke arbeid nodig zal zijn om begrip te onttrekken aan [de resultaten van OpenAI], maar dat is niet zo verschillend van de arbeid die wiskundigen al altijd doen," zei hij.

OpenAI zei te willen dat zijn oplossingen "de grens van menselijke kennis verleggen en verdere vooruitgang in de wiskunde mogelijk maken." Het bedrijf zeid een reeks workshops, conferenties en programma's te financieren die zich richten op het helpen van wiskundigen om de resultaten te begrijpen die zijn AI-systeem heeft gegenereerd. Hoe snel menselijke wiskundigen resultaten van deze schaal kunnen verifiëren en verwerken—en of toekomstige vrijgaven de volledige reeks openbaarmakingen van de adviesgroep overnemen—zijn open vragen die die inspanning zullen vormgeven.

Het einde van 'Wiskunde 1.0'

In haar verklaring over de vrijgave zei de onafhankelijke wiskundige adviesgroep dat "de toekomst van wiskundig onderzoek niet alleen kan bestaan uit het begrijpen van resultaten die door AI-labs worden geproduceerd. Wiskundigen moeten in staat zijn hun eigen vragen te formen, hun eigen benaderingen te ontwikkelen en richtingen te verkennen die niet als voorbeelden van de capaciteiten van een AI-systeem zijn gekozen. Eerlijke toegang tot krachtige onderzoeksinstrumenten en voldoende rekenbronnen zijn essentieel voor die vrijheid."

Terence Tao, hoogleraar wiskunde aan UCLA en Fields-medaillewinnaar die wordt beschouwd als een van de grootste levende wiskundigen, heeft steeds kritischer gestaan op de manier waarop AI-bedrijven zich op wiskundige problemen richten. Hij heeft betoogd dat het het proces van het komen tot oplossingen is—niet zozeer de oplossingen zelf—dat het wiskundige begrip bevordert, en dat AI-bedrijven door zo snel zoveel interessante problemen op te lossen studenten ontmoedigen wiskundige te worden en het vakgebied zijn toekomst ontnemen.

In een bericht op Mastodon, een gedecentraliseerd sociaal netwerk, op dinsdag herhaalde Tao deze kritiek. "Problemen worden autonoom opgelost door AI-prompters die geen interesse hebben in het bredere vakgebied zelf zodra hun oorspronkelijke doel is 'opgelost', en de AI-output niet goed genoeg begrijpen om vragen over het resultaat te beantwoorden, lezingen te geven of anderszins met de rest van het vakgebied te interactie gaan," schreef hij. "Er worden aanzienlijk minder seminars, workshops, samenwerkingen of andere activiteiten uit deze resultaten voortgebracht dan bij traditionele doorbraken; er treden daardoor weinig mensen toe tot de gemeenschap rond het vakgebied; en veelbelovende open richtingen worden nu voor het publiek achtergehouden uit angst dat dit tot 'scooping' van eigen onderzoek zal leiden."

Tao zei dat de massapublicatie van wiskundige oplossingen door OpenAI het einde markeerde van "Wiskunde 1.0", een tijdperk waarin het vinden van oplossingen voor onopgeloste vermoedens en problemen—zelfs die aanvankelijk niet gemakkelijk te begrijpen waren—de motor van het vakgebied was. Hij zei dat er nu een "Wiskunde 2.0"-tijdperk moet volgen, dat "de rol van puur probleemoplossen moet decentraliseren en wiskundige vooruitgang holistischer moet waarderen—bijvoorbeeld door de rol van uiteenzetting te verheffen, maar ook die van gemeenschapsvorming en het openen van nieuwe onderzoeksrichtingen."

Litt zei het met Tao eens te zijn dat het vakgebied moet veranderen. De publicatie door OpenAI van zo'n enorme verzeling oplossingen, zei hij, zou het hele vakgebied helpen "op dezelfde pagina te komen en te begrijpen dat we een beetje radicaal moeten zijn in het heroverwegen" van kwesties zoals welke soorten bijdragen het beloont en hoe het promovendi opleidt. En terwijl Tao over het algemeen weemodig klinkt over deze overgang, zei Litt er "optimistisch" over te zijn.

"Een van mijn medewerkers vertelde me: 'Ik heb het gevoel dat ik mijn hele leven heb gekropen, en nu kan ik vliegen,'" zei Litt over de opkomst van AI als instrument voor het oplossen van wiskundige problemen. "Het is ongelooflijk wat we nu kunnen." Hij verwachtte dat AI menselijke wiskundigen in staat zal stellen aan veel meer "open verkenning" te doen dan voorheen mogelijk was: "We moeten verwachten dat wiskundigen in de toekomst een stuk productiever zullen zijn."

Dit verhaal verscheen oorspronkelijk op Fortune.com