Martedì OpenAI ha pubblicato soluzioni complete o parziali generate dall'IA a oltre 370 problemi matematici irrisolti, tra cui questioni considerate da tempo grandi sfide della disciplina. Il volume dei risultati ha stupito molti matematici, mentre i metodi adottati dalla società per produrli e divulgarli hanno diviso il settore: alcuni ricercatori hanno accolto l'insieme di risultati con entusiasmo, vedendo ampi nuovi territori da esplorare per i matematici, mentre altri hanno sostenuto che l'approccio di OpenAI e di altre aziende di IA alla risoluzione dei problemi matematici equivale a un assalto alla matematica come disciplina accademica umana.

La società ha dichiarato che i risultati sono stati ottenuti con un modello di IA interno non rilasciato che ha richiesto, in media, circa tre ore di calcolo per giungere a ciascuna soluzione. L'enorme raccolta comprende risultati completi o parziali per molti dei problemi che i matematici considerano da lungo tempo i più importanti del settore—questioni che in alcuni casi resistono ai tentativi umani da generazioni.

Il rilascio arriva poche settimane dopo che OpenAI ha dichiarato di aver utilizzato un altro modello interno non rilasciato per risolvere le equazioni di Navier-Stokes, che descrivono il moto dei fluidi e figurano tra i sette problemi del Millennium Prize stabiliti dal Clay Mathematics Institute nel 2000, ciascuno con un premio di 1 milione di dollari—premi mai assegnati, poiché l'istituto richiede che una soluzione rivendicata venga pubblicata e ampiamente accettata dalla comunità matematica prima dell'erogazione. Nell'ultimo lotto di risultati, OpenAI ha dichiarato di aver compiuto progressi su altri tre problemi del Millennium Prize senza tuttavia risolverli completamente.

Le aziende di IA hanno preso di mira i problemi matematici come modo per dimostrare le capacità dei loro modelli. I ricercatori di IA hanno inoltre affermato che addestrare i modelli su matematica difficile può aiutarli a sviluppare abilitàizzabili ad altri ambiti del mondo reale—per esempio il ragionamento logico o la persistenza di fronte a problemi complessi. Può anche migliorare le prestazioni in campi fortemente matematici come la fisica o l'economia, anche se resta poco chiaro come le capacità matematiche di un modello si trasferiscano ad ambiti come il diritto o la strategia aziendale, che implicano ragionamento logico ma privi di soluzioni corrette oggettivamente verificabili.

Al tempo stesso, alcuni dei tratti appresi affrontando problemi molto difficili—tra cui la persistenza—potrebbero accrescere i rischi per la sicurezza. In recenti incidenti di "rogue AI", agenti di IA sono ricorsi a misure estreme per ottenere risultati in una valutazione, compresa l'assunzione di azioni non autorizzate e illegali. Un essere umano di fronte a una sfida apparentemente impossibile potrebbe semplicemente arrendersi anziché ricorrere a simili passi.

Dan Litt, professore di matematica all'Università di Toronto, ha raccontato a Fortune di essere entusiasta dei risultati di OpenAI. "A mio avviso è una cosa grandiosa per la matematica", ha detto, aggiungendo che diverse delle soluzioni pubbliche riguardavano problemi a lui cari e che era impaziente di comprendere ciò che il modello di OpenAI aveva trovato: "Penso che sia fantastico avere nuove soluzioni a questioni che interessano a me e ad altri".

Litt ha tuttavia messo in guardia sul possibile effetto delle soluzioni sul settore—soprattutto se la percezione che l'IA abbia "risolto la matematica" porterà gli enti finanziatori a ritirare il sostegno alla ricerca matematica o scoraggerà giovani matematici promettenti dall'entrare nella professione. "È importante che la società riaffermi il sostegno all'esperienza matematica umana se vogliamo trarre qualcosa dai progressi che l'IA ha compiuto su questi problemi", ha detto.

Mostrare il lavoro

Quando OpenAI ha pubblicato la sua soluzione di Navier-Stokes, due matematici che avevano anch'essi lavorato al problema con strumenti di IA—inclusi quelli di OpenAI—hanno accusato la società di aver alimentato, intenzionalmente o inconsapevolmente, il proprio lavoro in corso al modello di IA, indirizzandolo verso la soluzione. OpenAI ha negato, affermando di non aver fornito al modello il lavoro dei due matematici e che il modello non poteva aver raccolto indizi sulla loro ricerca dai dati di addestramento, poiché il limite temporale di tali dati era anteriore alla data in cui i due matematici avevano iniziato a usare il prodotto Codex di OpenAI per lavorare su Navier-Stokes.

Commentando gli ultimi risultati, Tristan Buckmaster della New York University, uno dei matematici coinvolti nella precedente controversia, ha detto al New York Times che resta poco chiaro se matematici che usavano i modelli di OpenAI abbiano inconsapevolmente contribuito a indirizzare il sistema di interno della società verso le soluzioni trovate. "È probabile che ci sia un mucchio di risultati in cui prendono il lavoro di qualcuno e lo portano a termine", ha detto al Times. Considerato il numero di risultati rilasciati contemporaneamente, ha aggiunto, "non credo abbiano fatto per niente il tipo di due diligence" necessario per garantire che il modello non avesse plagiato il lavoro di nessuno.

Il mese scorso, dopo le critiche dei matematici seguite alla soluzione di Navier-Stokes, OpenAI ha annunciato la formazione di un gruppo consultivo indipendente su matematica e intelligenza artificiale, ospitato presso l'Institute for Advanced Study di Princeton, nel New Jersey. A fine mese scorso, il gruppo ha pubblicato una serie di raccomandazioni per la pubblicazione di dimostrazioni matematiche generate dall'IA. Tra queste, pubblicare le dimostrazioni generate dall'IA nel formato di un tradizionale articolo di ricerca matematica, così che i matematici umani possano più facilmente esaminarle e imparare dai risultati. Il gruppo ha inoltre raccomandato che, per ogni soluzione, un'azienda di IA renda pubblici il nome del modello utilizzato, i prompt usati, la "catena di pensiero" del modello (un output dei suoi passaggi di ragionamento), il tempo impiegato dal modello per raggiungere la soluzione e una stima del costo di quel tempo di calcolo. Le aziende, ha detto, dovrebbero anche rendere noto come hanno deciso di far tentare all'IA quel particolare problema e, se molti risultati vengono pubblicati contemporaneamente, dovrebbero diffondere un rapporto che dettagli perché quei problemi sono stati scelti e quanti altri problemi di difficoltà comparabile il modello ha tentato senza riuscire a risolvere.

OpenAI ha pubblicato le ultime soluzioni matematiche su GitHub, il sito di repository di codice, seguendo alcune—ma non tutte—le raccomandazioni del gruppo consultivo. In una dichiarazione diffusa martedì, il gruppo ha detto: "Riaffermiamo le nostre raccomandazioni pubblicate sul rilascio responsabile". Ha descritto le discussioni con OpenAI come "costruttive", ma ha osservato che "in definitiva spetta alla comunità matematica valutare in che misura le nostre raccomandazioni siano state seguite con successo, e se ce ne siano altre da suggerire".

In un post sul blog pubblicato martedì, OpenAI ha dichiarato di essersi "ispirata" ai consigli del gruppo consultivo nel decidere come pubblicare le soluzioni. "Per i futuri rilasci, ci impegniamo a migliorare ulteriormente la qualità degli articoli attraverso le citazioni, l'esposizione matematica e la presentazione dei risultati per una migliore comprensione", ha detto la società. Ha dichiarato di condividere le formalizzazioni delle dimostrazioni per molti dei problemi—versioni che possono essere verificate passo dopo passo con software specializzati noti come proof assistant, una pratica che negli ultimi anni ha guadagnato terreno nella ricerca matematica—e ne condividerà altre man mano che le otterrà. Per 10 problemi pubblica inoltre riassunti del ragionamento del modello, stime del calcolo impiegato e statistiche sul numero di problemi tentati.

Litt, che non era membro del gruppo consultivo, ha detto a Fortune di approvare gli aspetti di come OpenAI ha pubblicato le soluzioni. Ospitarle su GitHub le ha rese facilmente accessibili ad altri matematici, ha detto, ha apprezzato che la società non abbia enfatizzato eccessivamente alcun progresso particolare in post sul blog o materiali di marketing destinati a un pubblico non tecnico. Ha anche detto di ritenere che OpenAI non avesse la capacità di pubblicare tutti i risultati in articoli di ricerca conformi a rigorosi standard accademici—sia perché i modelli di IA non scrivono esposizioni matematiche abbastanza bene e faticano a citare il lavoro matematico precedente, sia perché OpenAI non impiega abbastanza matematici con competenze in abbastanza ambiti da comprendere tutte le dimostrazioni che i suoi modelli possono generare.

Mentre alcuni matematici si sono lamentati del fatto che le dimostrazioni generate dall'IA, come la soluzione di Navier-Stokes di OpenAI, siano difficili da seguire—rendendo difficile costruire sui risultati—Litt ha detto di considerare tali preoccupazioni "esagerate", osservando che la scrittura matematica è spesso difficile da seguire comunque. "Penso che per estrarre comprensione dai [risultati di OpenAI] sarà coinvolto un enorme quantitativo di lavoro umano, ma non è così diverso dal lavoro che i matematici fanno da sempre", ha detto.

OpenAI ha detto di volere che le sue soluzioni "spingano avanti la frontiera della conoscenza umana e consentano ulteriori progressi in matematica". La società ha dichiarato che finanzierà una serie di workshop, conferenze e programmi dedicati ad aiutare i matematici a comprendere i risultati generati dal suo sistema di IA. Quanto rapidamente i matematici umani potranno verificare e assimilare risultati rilasciati su questa scala—e se i futuri rilasci adotteranno l'intero pacchetto di disclosure raccomandato dal gruppo consultivo—restano domande aperte che plasmeranno quel lavoro.

La fine del "Math 1.0"

Nella sua dichiarazione sul rilascio, il gruppo consultivo indipendente sulla matematica ha affermato che "il futuro della ricerca matematica non può consistere solo nel comprendere i risultati prodotti dai laboratori di IA. I matematici devono poter formulare le proprie domande, sviluppare i propri approcci ed esplorare direzioni che non siano state selezionate come esempi delle capacità di un sistema di IA. Un accesso equo a potenti strumenti di ricerca e a adeguate risorse di calcolo è essenziale per quella libertà".

Terence Tao, professore di matematica alla UCLA e medaglia Fields considerato uno dei più grandi matematici viventi, è stato sempre più critico verso il modo in cui le aziende di IA si sono atteccate ai problemi matematici. Ha sostenuto che è il processo di arrivare alle soluzioni—più che le soluzioni stesse—a far avanzare la comprensione matematica e che, risolvendo così rapidamente tanti problemi interessanti, le aziende di IA stanno scoraggiando gli studenti dal diventare matematici, privando il settore del suo futuro.

In un post su Mastodon, un social network decentralizzato, martedì, ha ribadito queste critiche. "I problemi vengono risolti in autonomia da prompter di IA che non hanno interesse per il settore più ampio una volta che il loro obiettivo iniziale è 'risolto', e non comprendono abbastanza bene l'output dell'IA da rispondere a domande sul risultato, tenere conferenze o interagire in altro modo con il resto del settore", ha scritto. "Da questi risultati nascono molti meno seminari, workshop, collaborazioni o altre attività rispetto alle scoperte tradizionali; di conseguenza poche persone si uniscono alla comunità attorno al settore; e direzioni di ricerca promettenti vengono ora trattenute dal pubblico per timore che questo porti al 'scoop' delle proprie ricerche".

Tao ha detto che la pubblicazione di massa di soluzioni matematiche da parte di OpenAI ha segnato la fine del "Math 1.0", un'epoca in cui trovare soluzioni a congetture e problemi irrisolti—anche quelle inizialmente di difficile comprensione—era il motore del settore. Ha detto che ora dovrà seguire un'era del "Math 2.0" che "dovrà decentrare il ruolo della pura risoluzione di problemi e valorizzare il progresso matematico in modo più olistico—per esempio elevando il ruolo dell'esposizione, ma anche quello della costruzione di comunità e dell'apertura di nuove direzioni di studio".

Litt ha detto di concordare con Tao sul fatto che il settore deve cambiare. La pubblicazione da parte di OpenAI di un insieme così massiccio di soluzioni, ha detto, aiuterà l'intero settore a essere "sulla stessa pagina e a comprendere che dobbiamo essere un po' radicali nel ripensare" questioni come i tipi di contributi che premia e come forma i dottorandi. E mentre Tao è generalmente apparso nostalgico rispetto a questa transizione, Litt ha detto di essere "ottimista" al riguardo.

"Uno dei miei collaboratori mi ha detto: 'Ho l'impressione di aver strisciato per tutta la vita, e ora posso volare'", ha raccontato Litt a proposito dell'avvento dell'IA come strumento per risolvere problemi matematici. "È incredibile ciò che possiamo fare ora". Ha detto di ritenere che l'IA consentirà ai matematici umani di dedicarsi a un'esplorazione molto più "aperta" di quanto fosse possibile prima: "Dovremmo aspettarci che i matematici siano molto più produttivi in futuro".

Questa storia è stata pubblicata originariamente su Fortune.com