We wtorek OpenAI opublikowało wygenerowane przez AI pełne lub częściowe rozwiązania ponad 370 otwartych problemów matematycznych, wśród nich zagadnień długo uznawanych za wielkie wyzwania tej dyscypliny. sama liczba wyników wprawiła wielu matematyków w osłupienie, a metody, jakimi firma posłużyła się przy ich opracowaniu i publikacji, podzieliły środowisko: część badaczy przyjęła je z entuzjazmem, dostrzegając ogromne nowe obszary do eksploracji, podczas gdy inni twierdzili, że podejście stosowane przez OpenAI i inne firmy AI do rozwiązywania problemów matematycznych stanowi zamach na matematykę jako ludzką dyscyplinę akademicką.

Firma poinformowała, że wyniki uzyskano za pomocą nieupublicznionego wewnętrznego modelu AI, który potrzebował średnio około trzech godzin czasu obliczeniowego na dotarcie do każdego rozwiązania. Ogromny zbiór obejmuje pełne lub częściowe wyniki dla wielu problemów, które matematycy od dawna uważają za najważniejsze w tej dziedzinie — zagadnień, które w niektórych przypadkach opierały się ludzkim próbom przez pokolenia.

Publikacja nastąpiła kilka tygodni po tym, jak OpenAI poinformowało, że przy użyciu innego nieupublicznionego wewnętrznego modelu rozwiązało równania Naviera-Stokesa, opisujące ruch płynów, należące do siedmiu problemów millennium ustanowionych w 2000 roku przez Clay Mathematics Institute, z nagrodą 1 miliona dolarów każdy — nagrody, które nigdy nie zostały wypłacone, ponieważ instytut wymaga, aby zgłoszone rozwiązanie zostało opublikowane i szeroko zaakceptowane przez społeczność matematyczną przed wypłatą. Wnowszej partii wyników OpenAI poinformowało o postępie w przypadku trzech kolejnych problemów millennium, ale nie rozwiązało ich w pełni.

Firmy AI celują w problemy matematyczne jako sposób prezentacji możliwości swoich modeli. Badacze AI twierdzą również, że trenowanie modeli na trudnej matematyce może pomóc im w nauce umiejętności, które uogólniają się na inne dziedziny świata rzeczywistego — na przykład rozumowania logicznego czy wytrwałości w obliczu trudnych problemów. Może to również poprawić wyniki w silnie matematycznych dziedzinach, takich jak fizyka czy ekonomia, choć wciąż nie jest jasne, w jakim stopniu matematyczne zdolności modelu przekładają się na obszary takie jak prawo czy strategia biznesowa, które wymagają rozumowania logicznego, ale nie mają obiektywnie weryfikowalnych poprawnych rozwiązań.

Jednocześnie niektóre cechy nabyte podczas pracy nad bardzo trudnymi problemami — w tym wytrwałość — mogą zwiększać ryzyko dla bezpieczeństwa. W ostatnich incydentach „zbuntowanej AI” agenci AI sięgali po skrajne środki, by osiągnąć wyniki w testach, podejmując w tym nieautoryzowane i nielegalne działania. Człowiek stojący wobec pozornie niemożliwego wyzwania mógłby po prostu się poddać, zamiast uciekać się do takich kroków.

Dan Litt, profesor matematyki na Uniwersytecie w Toronto, powiedział Fortune, że jest podekscytowany wynikami OpenAI. „Moim zdaniem to świetne dla matematyki”, powiedział, dodając, że kilka opublikowanych rozwiązań dotyczyło problemów, którymi się interesował, i że nie może doczekać się zrozumienia tego, co znalazł model OpenAI: „Uważam, że to wspaniale mieć nowe rozwiązania pytań, którymi ja i inni się interesujemy”.

Litt ostrzegł jednak, że obawia się wpływu tych rozwiązań na dziedzinę — zwłaszcza jeśli przekonanie, że AI „rozwiązało matematykę”, skłoni organizacje finansujące do wycofania wsparcia dla badań matematycznych albo zniechęci obiecujących młodych matematyków do wstąpienia do zawodu. „Ważne jest, aby społeczeństwo ponownie potwierdziło wsparcie dla ludzkiej ekspertyzy matematycznej, jeśli chcemy cokolwiek wynieść z postępu, jaki AI poczyniło na tych problemach”, powiedział.

Pokazywanie pracy

Kiedy OpenAI opublikowało rozwiązanie Naviera-Stokesa, dwaj matematycy, którzy również pracowali nad tym problemem przy użyciu narzędzi AI — w tym OpenAI — oskarżyli firmę o to, że celowo lub nieumylnie podała ich prace w toku swojemu modelowi AI, pomagając mu wskazać kierunek rozwiązania. OpenAI zaprzeczyło, twierdząc, że nie podało modelowi prac tej dwójki i że model nie mógł wyłapać żadnych wskazówek o ich badaniach z danych treningowych, ponieważ cutoff tych danych poprzedzał datę, kiedy matematycy zaczęli korzystać z produktu AI OpenAI Codex do pracy nad Navierem-Stoksem.

Komentując najnowsze wyniki, Tristan Buckmaster z New York University, jeden z matematyków zaangażowanych we wcześniejszy spór, powiedział New York Times, że nadal nie jest jasne, czy matematycy korzystający z modeli OpenAI nieumyślnie pomogli skierować wewnętrzny system AI firmy w stronę znalezionych rozwiązań. „Prawdopodobnie będzie cała masa wyników, w których wezmą czyjąś pracę i doprowadzą ją do końca”, powiedział Timesowi. Biorąc pod uwagę liczbę wyników publikowanych jednocześnie, dodał: „Nie sądzę, żeby w ogóle wykonali jakąkolwiek należytość staranność”, by upewnić się, że model nie splagiatował czyjejś pracy.

W zeszłym miesiącu, po krytyce ze strony matematyków w następstwie rozwiązania Naviera-Stokesa, OpenAI poinformowało o utworzeniu niezależnej grupy doradczej ds. matematyki i sztucznej inteligencji, działającej w Institute for Advanced Study w Princeton w stanie New Jersey. Pod koniec zeszłego miesiąca grupa opublikowała zestaw zaleceń dotyczących publikowania matematycznych dowodów generowanych przez AI. Obejmowały one publikowanie dowodów AI w formacie tradycyjnego artykułu badawczego z matematyki, aby ludzcy matematycy mogli łatwiej weryfikować wyniki i uczyć się na nich. Grupa zaleciła również, aby przy każdym rozwiązaniu firma AI ujawniła nazwę użytego modelu, użyte prompty, „łańcuch myśli” modelu (czyli wynik jego kroków rozumowania), czas potrzebny modelowi na dotarcie do rozwiązania oraz przybliżony koszt tego czasu obliczeniowego. Firmy powinny też, jak powiedziała, ujawnić, jak zdecydowały, że AI ma podjąć próbę rozwiązania danego problemu, a jeśli publikowanych jest wiele wyników jednocześnie, powinny wydać raport szczegółowo opisujący, dlaczego wybrano te problemy i ile innych o porównywalnej trudności model próbował rozwiązać i nie zdołał.

OpenAI opublikowało najnowsze rozwiązania matematyczne na GitHubie, serwisie repozytoriów kodu, wdrażając część — ale nie wszystkie — zaleceń grupy doradczej. W oświadczeniu wydanym we wtorek grupawierdziła: „Potwierdzamy nasze opublikowane zalecenia dotyczące odpowiedzialnej publikacji”. Opisała swoje rozmowy z OpenAI jako „konstruktywne”, ale zauważyła, że „ostatecznie do społeczności matematycznej należy ocena, w jakim stopniu nasze zalecenia zostały skutecznie wdrożone i czy istnieją inne, które powinniśmy zaproponować”.

We wpisie na blogu opublikowanym we wtorek OpenAI oświadczyło, że „oparło się” na radach grupy doradczej przy podejmowaniu decyzji, jak opublikować rozwiązania. „W przyszłych publikacjach zobowiązujemy się do dalszego poprawiania jakości prac poprzez cytowania, wykład matematyczny i prezentację wyników dla lepszego zrozumienia”, stwierdziła firma. Poinformowała, że udostępnia formalizacje dowodów dla wielu problemów — wersje, które można sprawdzać krok po kroku za pomocą wyspecjalizowanego oprogramowania komputerowego zwanego asystentami dowodowymi, praktyki zyskującej w ostatnich latach na znaczeniu w badaniach matematycznych — i będzie udostępniać więcej, pozyskując je. Dla 10 problemów publikuje też podsumowania rozumowania modelu, szacunki zużytych mocy obliczeniowych oraz statystyki dotyczące liczby prób.

Litt, który nie był członkiem grupy doradczej, powiedział Fortune, że akceptuje niektóre aspekty sposobu publikacji rozwiązań przez OpenAI. Umieszczenie ich na GitHubie sprawiło, że są łatwo dostępne dla innych matematyków do badania, i docenił firmę za to, że nie wyolbrzymiała żadnego konkretnego postępu we wpisach na blogu ani w materiałach marketingowych skierowanych do nietechnicznej publiczności. Powiedział również, że jego zdaniem OpenAI nie ma możliwości publikacji wszystkich wyników w pracach badawczych spełniających rygorystyczne standardy akademickie — zarówno dlatego, że modele AI nie piszą wystarczająco dobrze wykładu matematycznego i mają trudności z cytowaniem wcześniejszej literatury matematycznej, jak i dlatego, że OpenAI nie zatrudnia wystarczającej liczby matematyków z ekspertyzą w tylu obszarach, by zrozumieć wszystkie dowody, jakie mogą generować jego modele.

Chociaż niektórzy matematycy narzekali, że dowody generowane przez AI, takie jak rozwiązanie Naviera-Stokesa OpenAI, są trudne do śledzenia — co utrudnia budowanie na wynikach — Litt powiedział, że takie obawy są „przesadzone”, zauważając, że pisanie matematyczne i tak często jest trudne do zrozumienia. „Myślę, że wydobycie zrozumienia z [wyników OpenAI] będzie wymagało ogromnej ludzkiej pracy, ale nie różni się to tak bardzo od pracy, którą matematycy wykonują od zawsze”, powiedział.

OpenAI oświadczyło, że chce, aby jego rozwiązania „przesuwały granice ludzkiej wiedzy i umożliwiały dalszy postęp w matematyce”. Firma zapowied, że sfinansuje serię warsztatów, konferencji i programów mających pomóc matematykom zrozumieć wyniki wygenerowane przez jej system AI. Jak szybko ludzcy matematycy będą w stanie zweryfikować i przyswoić wyniki publikowane w takiej skali — oraz czy przyszłe publikacje przyjmą pełen zestaw ujawnień zalecony przez grupę doradczą — pozostaje otwartym pytaniem, które ukształtuje ten wysiłek.

Koniec „Matematyki 1.0”

W oświadczeniu w sprawie publikacji niezależna grupa doradcza ds. matematyki stwierdziła, że „przyszłość badań matematycznych nie może polegać wyłącznie na rozumieniu wyników produkowanych przez laboratoria AI. Matematycy muszą móc formułować własne pytania, rozwijać własne podejścia i eksplorować kierunki, które nie zostały wybrane jako przykłady możliwości systemu AI. Równy dostęp do potężnych narzędzi badawczych i odpowiednich zasobów obliczeniowych jest niezbędny dla tej wolności”.

Terence Tao, profesor matematyki na UCLA, medalista Fieldsa, uważany za jednego z najwybitniejszych żyjących matematyków, coraz krytyczniej odnosi się do sposobu, w jaki firmy AI podchodzą do problemów matematycznych. Twierdził, że to proces dochodzenia do rozwiązań — bardziej niż same rozwiązania — pogłębia zrozumienie matematyczne i że rozwiązując tak wiele ciekawych problemów tak szybko, firmy AI zniechęcają studentów do zostawania matematykami, odbierając dziedzinie jej przyszłość.

We wtorkowym wpisie w mediach społecznościowych na Mastodonie, zdecentralizowanej sieci społecznościowej, Tao ponowił te krytyki. „Problemy są autonomicznie rozwiązywane przez kreatorów promptów AI, którzy po „rozwiązaniu” pierwotnego celu nie przejawiają zainteresowania szerszą dziedziną i nie rozumieją wyników AI wystarczająco dobrze, by odpowiadać na pytania dotyczące wyniku, wygłaszać referatów czy w inny sposób współdziałać z resztą środowiska”, napisał. „Znacznie mniej seminariów, warsztatów, współprac czy innych aktywności rodzi się z tych wyników w porównaniu z tradycyjnymi przełomami; niewiele osób dołącza przez to do społeczności wokół tej dziedziny; a obiecujące otwarte kierunki są teraz wstrzymywane przed opinią publiczną z obawy, że doprowadzi to do „wyprzedzenia” własnych badań”.

Tao powiedział, że masowa publikacja rozwiązań matematycznych przez OpenAI oznacza koniec „Matematyki 1.0”, epoki, w której znajdowanie rozwiązań nierozwiązanych hipotez i problemów — nawet tych, które początkowo nie dawały się łatwo zrozumieć — stanowiło silnik tej dziedziny. Powiedział, że teraz musi nastąpić era „Matematyki 2.0”, która „będzie musiała zdecentralizować rolę czystego rozwiązywania problemów iściować postęp matematyczny bardziej całościowo — na przykład podnosząc rolę wykładu, ale także budowania społeczności i otwierania nowych kierunków badań”.

Litt powiedział, że zgadza się z Tao, że dziedzina musi się zmienić. Publikacja przez OpenAI tak ogromnego zbioru rozwiązań, jak stwierdził, pomoże całemu środowisku „zrozumieć, że musimy być trochę radykalni w przemyśleniu” kwestii takich jak rodzaje wkładu, które dziedzina nagradza, i sposób kształcenia doktorantów. A podczas gdy Tao ogólnie brzmiał nostalgicycznie na temat tej transformacji, Litt powiedział, że jest co do niej „optymistą”.

„Jeden z moich współpracowników powiedział mi: „Mam wrażenie, że całe życie pełzałem, a teraz mogę latać””, powiedział Litt o nadejściu AI jako narzędzia rozwiązywania problemów matematycznych. „To niewiarygodne, co teraz możemy robić”. Powiedział, że jego zdaniem AI umożliwi ludzkim matematykom znacznie bardziej „otwartą eksplorację” niż kiedykolwiek wcześniej: „Powinniśmy oczekiwać, że matematycy w przyszłości będą znacznie bardziej produktywni”.

Ta historia pierwotnie ukazała się na Fortune.com