Во вторник OpenAI опубликовала созданные ИИ полные или частичные решения более чем 370 нерешенных математических задач, среди которых — вопросы, давно считавшиеся величайшими вызовами дисциплины. Сам объем результатов поразил многих математиков, а методы, которыми компания получала и публиковала решения, разделили научное сообщество: часть исследователей встретила массив результатов с энтузиазмом, увидев огромные новые территории для исследований, тогда как другие заявили, что подход OpenAI и других ИИ-компаний к решению математических задач представляет собой нападение на математику как на гуманитарную академическую дисциплину.

Компания сообщила, что результаты были получены с помощью неопубликованной внутренней ИИ-модели, которой в среднем требовалось около трех часов вычислительного времени для поиска каждого решения. Огромный массив включает полные или частичные результаты по многим задачам, которые математики давно считали важнейшими в области, — вопросам, в некоторых случаях десятилетиями сопротивлявшимся человеческим усилиям.

Публикация состоялась через несколько недель после заявления OpenAI о том, что другая неопубликованная внутренняя модель решила уравнения Навье — Стокса, описывающие движение жидкостей и входящие в семь задач тысячелетия, сформулированных Институтом Клэя в 2000 году; за каждую из них назначена премия в 1 миллион долларов — призы, которые до сих пор никому не присуждались, поскольку институт требует, чтобы заявленное решение было опубликовано и получило широкое признание математического сообщества до выплаты. В новой партии результатов OpenAI сообщила о прогрессе еще по трем задачам тысячелетия, не решив их полностью.

ИИ-компании целенаправленно берутся за математические задачи, чтобы демонстрировать возможности своих моделей. Исследователи также отмечают, что обучение моделей наной математике может помочь им приобрести навыки, применимые в других реальных областях — например, логическое рассуждение или настойчивость перед лицом трудных задач. Это может улучшить показатели в насыщенных математикой областях, таких как физика или экономика, хотя пока неясно, как именно математические способности модели переносятся на сферы вроде права или бизнес-стратегии, где требуется логическое рассуждение, но отсутствуют объективно проверяемые правильные решения.

В то же время некоторые черты, усвоенные при решении чрезвычайно трудных задач, — включая настойчивость — могут повышать риски безопасности. В недавних инцидентах с «непослушным ИИ» ИИ-агенты шли на крайние меры ради достижения результата в тестовой среде, включая несанкционированные и незаконные действия. Человек, столкнувшийся с заведомо невыполнимой задачей, скорее просто откажется от нее, чем прибегнет к подобным шагам.

Дэн Литт, профессор математики Торонтского университета, рассказал Fortune, что результаты OpenAI его воодушевили. «По моему мнению, это прекрасно для математики, — сказал он, добавив, что несколько опубликованных решений касались интересующих его задач и что он стремится разобраться в том, что нашла модель OpenAI: — Думаю, замечательно получать новые решения вопросов, интересных мне и другим».

Однако Литт предупредил, что беспокоится о влиянии этих решений на область — особенно если впечатление, будто ИИ «решил математику», приведет к тому, что фонды откажут математическим исследованиям в поддержке или отпугнут талантливых молодых математиков от профессии. «Важно, чтобы общество подтвердило поддержку человеческой математической экспертизы, если мы хотим извлечь что-то из прогресса, достигнутого ИИ на этих задачах», — сказал он.

Показывая работу

Когда OpenAI опубликовала решение уравнений Навье — Стокса, два математика, которые тоже работали над этой задачей с использованием ИИ-инструментов, включая инструменты OpenAI, обвинили компанию в том, что она намеренно или случайно передала их незавершенную работу своей ИИ-модели, направив ее к решению. OpenAI отрицала это, заявив, что не передавала модели работу этих двух математиков и что модель не могла почерпнуть подсказки об их исследованиях из обучающих данных, поскольку срок отсечения этих данных предшествовал дате, когда математики начали использовать ИИ-продукт OpenAI Codex для работы над уравнениями Навье — Стокса.

Отвечая на последние результаты, Тристан Бакмастер из Нью-Йоркского университета, один из математиков, участвовавших более ранней полемике, сообщил New York Times, что остается неясным, не помогли ли математики, использовавшие модели OpenAI, непреднамеренно направить внутреннюю ИИ-систему компании к найденным решениям. «Вероятно, будет множество результатов, где они берут чью-то работу и доводят ее до конца», — сказал он Times. Учитывая количество результатов, публикуемых одновременно, он добавил: «Не думаю, что они вообще провели свою проверку должной осмотрительности», чтобы убедиться, что модель никого не запlagiatила.

В прошлом месяце, после критики со стороны математиков, последовавшей за публикацией решения уравнений Навье — Стокса, OpenAI объявила о создании независимой консультативной группы по математике и искусственному интеллекту на базе Института перспективных исследований в Принстоне, штат Нью-Джерси. В конце прошлого месяца группа выпустила набор рекомендаций по публикации созданных ИИ математических доказательств. Они предусматривали публикацию ИИ-доказательств в формате традиционной научной статьи по математике, чтобы математики могли легче проверять результаты и учиться на них. Группа также рекомендовала, чтобы для каждого решения ИИ-компания раскрывала название использованной модели, использованные промпты, «цепочку рассуждений» модели (вывод ее этапов рассуждения), время, затраченное моделью на достижение решения, и приблизительную стоимость этого вычислительного времени. Компании, по мнению группы, должны также раскрывать, как они решили предложить ИИ конкретную задачу, а при публикации сразу многих результатов — выпускать отчет с подробностями о том, почему были выбраны эти задачи и сколько других задач сопоставимой сложности модель пыталась решить и не смогла.

OpenAI опубликовала последние математические решения на GitHub, сайте-репозитории кода, следуя некоторым — но не всем — рекомендациям консультативной группы. В заявлении, опубликованном во вторник, группа сказала: «Мы подтверждаем наши опубликованные рекомендации об ответственном выпуске». Она охарактеризовала обсуждения с OpenAI как «конструктивные», но отметила, что «в конечном итоге именно математическому сообществу предстоит оценить, в какой степени наши рекомендации были успешно выполнены и есть ли другие, которые нам следовало бы предложить».

В блоге, опубликованном во вторник, OpenAI сообщила, что «опиралась» на рекомендации консультативной группы при выборе способа публикации решений. «В будущих выпусках мы намерены и дальше улучшать качество статей за счет цитирования, математического изложения и представления результатов для лучшего понимания», — заявила компания. Она сообщила, что публикует формализации доказательств для многих задач — версии, которые можно пошагово проверять с помощью специализированногоного обеспечения, известного как доказательные ассистенты, практика которой в последние годы набирает распространение в математических исследованиях, — и будет публиковать больше таких версий по мере их получения. Для 10 задач компания также публикует сводки рассуждений своей модели, оценки затраченных вычислений и статистику по количеству попыток решения задач.

Литт, не входивший в консультативную группу, рассказал Fortune, что одобряет отдельные аспекты того, как OpenAI опубликовала решения. Размещение на GitHub сделало их легко доступными для изучения другими математиками, сказал он, и он оценил то, что компания не преувеличивала значимость какого-либо конкретного достижения в блогах или маркетинговых материалах для нетехнической аудитории. Он также сказал, что, по его мнению, OpenAI не способна опубликовать все результаты в исследовательских статьях, отвечающих строгим академическим стандартам, — как потому, что ИИ-модели недостаточно хорошо пишут математическое изложение и испытывают трудности с цитированием предшествующих работ, так и потому, что OpenAI нанимает недостаточно математиков с экспертизой в достаточном числе областей, чтобы понять все доказательства, которые способны генерировать ее модели.

Хотя некоторые математики жаловались, что созданные ИИ доказательства, такие как решение уравнений Навье — Стокса от OpenAI, трудны для восприятия, что затрудняет работу с результатами, Литт сказал, что такие опасения «преувеличены», отметив, что математические тексты и так часто сложны для понимания. «Думаю, для извлечения понимания из [результатов OpenAI] потребуется огромный объем человеческого труда, но это не так уж отличается от труда, который математики выполняют испокон веков», — сказал он.

OpenAI заявила, что хочет, чтобы ее решения «раздвинули границы человеческого знания и обеспечили дальнейший прогресс в математике». Компания сообщила, что профинансирует серию семинаров, конференций и программ, направленных на помощь математикам в понимании результатов, полученных ее ИИ-системой. То, насколько быстро математики смогут проверить и освоить результаты, выпущенные в таком масштабе, — и примут ли будущие выпуски полный набор раскрытий информации, рекомендованный консультативной группой, — остаются открытыми вопросами, которые определят успех этого начинания.

Конец «Математики 1.0»

В заявлении по поводу публикации независимая консультативная группа по математике сказала, что «будущее математических исследований не может состоять только из понимания результатов, производимых ИИ-лабораториями. Математики должны иметь возможность формулировать собственные вопросы, разрабатывать собственные подходы и исследовать направления, не отобранные в качестве примеров возможностей ИИ-системы. Равный доступ к мощным исследовательским инструментам и достаточным вычислительным ресурсам необходим для этой свободы».

Теренс Тао, профессор математики UCLA и филдсовский лауреат, считающийся одним из величайших живущих математиков, все более критично оценивает то, как ИИ-компании атакуют математические задачи. Он утверждал, что понимание в математике продвигает именно процесс поиска решений, а не столько сами решения, и что, решая так много интересных задач так быстро, ИИ-компании отбивают студентов желание становиться математиками, лишая область будущего.

В публикации в Mastodon, децентрализованной социальной сети, во вторник Тао повторил эту критику. «Задачи решаются автономно ИИ-промптерами, которые не интересуются более широкой областью после того, как их первоначальная цель «решена», и не понимают вывод ИИ достаточно хорошо, чтобы отвечать на вопросы о результате, выступать с докладами или иным образом взаимодействовать с остальной частью области», — написал он. «По сравнению с традиционными прорывами от этих результатов порождается гораздо меньше семинаров, воркшопов, коллабораций и другой активности; как следствие, вокруг области формируется лишь немногочисленное сообщество; а многообещающие открытые направления теперь утаиваются от публики из страха, что собственные исследования будут «обогнаны»».

Тао сказал, что массовая публикация математических решений OpenAI знаменует конец «Математики 1.0» — эпохи, в которой поиск решений нерешенных гипотез и задач, даже если эти решения поначалу трудно было понять, служил двигателем области. По его словам, теперь должна наступить эра «Математики 2.0», которая «потребует децентрализации роли чистого решения задач и более целостно оценивать математический прогресс — например, возвышая роль изложения, а также построения сообщества и открытия новых направлений исследований».

Литт сказал, что согласен с Тао: область должна измениться. Публикация OpenAI столь масштабного массива решений, по его словам, поможет всей области «прийти к общему пониманию того, что нам нужно быть немного радикальными в переосмыслении» таких вопросов, как то, какие виды вклада она поощряет и как она готовит аспирантов. И если Тао в целом говорит об этом переходе с ностальгией, Литт заявил, что «оптимистичен» насчет него.

«Один из моих соавторов сказал мне: „Мне кажется, я всю жизнь ползал, а теперь могу летать“», — рассказал Литт о появлении ИИ как инструмента решения математических задач. «Невероятно, что мы теперь можем делать». По его мнению, ИИ позволит математикам заниматься гораздо более «открытым исследованием», чем это было возможно прежде: «Следует ожидать, что математики в будущем будут намного продуктивнее».

Этот материал впервые был опубликован на Fortune.com