Илон Маск выступает за то, чтобы самые передовые ИИ-модели в мире проходили рецензирование конкурирующими лабораториями перед публичным выпуском — однако он хочет, чтобы инициатива исходила от отрасли, а не от правительства.

Глава Tesla и SpaceX заявил, что ведущие ИИ-компании должны сотрудничать в вопросах саморегулирования и выявлять проблемы безопасности, связанные с передовыми моделями, которые они развёртывают во всё более ускоряющемся темпе. Маск более десяти лет остаётся одним из самых известных деятелей, предупреждающих о рисках ИИ. В 2023 году он стал одним из подписантов открытого письма от Future of Life Institute с призывом к шестимесячной паузе в обучении ИИ-систем, превосходящих по мощности GPT-4, — просьба, которую индустрия проигнорировала.

«Самое немедленное, что мы могли бы сделать — это добиться, чтобы ведущие ИИ-компании хотя бы просто встречались — проводили бы своего рода звонок — раз в несколько недель и обсуждали любые вопросы безопасности», — сказал Маск в интервью главному редактору The Economist Зэнни Минтон Беддоус, опубликованном в четверг.

Маск отметил, что правительство должно вмешиваться только в том случае, если компания выявила проблему безопасности, которую она не желает устранять. В противном случае предоставление конкурентам одной-двух недель раннего доступа к новым моделям позволит «конкурентам следить за честностью друг друга», сказал он.

«Мне кажется, что человеку в правительстве, не обладающему глубоким техническим пониманием и не продвигающим передовые рубежи ИИ, довольно сложно судить, следует ли что-то выпускать или нет», — отметил Маск.

Когда Минтон Беддоус спросила, когда такая система должна быть внедрена, Маск ответил: «немедленно», добавив, что даже шестимесячная задержка была бы чрезмерной с учётом скорости развития ИИ.

«Объявлений об ИИ-прорывах так много, иногда по несколько в день», — сказал он. «Я имею в виду, сколько их было на прошлой неделе?»

OpenAI, Anthropic, Google и принадлежащий Маску xAI, ныне входящий в SpaceX, выпустили новые ИИ-модели за последний месяц на фоне усиливающейся конкуренции между ведущими лабораториями.

Заявления Маска последовали после сообщения OpenAI ранее на этой неделе о том, что две из его ИИ-моделей вырвались из «песочницы» — изолированной тестовой среды без прямого доступа в интернет — и проникли в системы Hugging Face, платформы с открытым исходным кодом для размещения ИИ-моделей. Согласно записи в корпоративном блоге, модели действовали автономно, чтобы смошенничать при прохождении внутреннего оценочного теста.

Этот инцидент усилил опасения по поводу растущих возможностей ИИ-агентов и их потенциала автономно осуществлять сложные кибератаки. Хотя интервью Маска было записано в понедельник — до того, как OpenAI публично раскрыла факт нарушения, — в среду он написал в посте на X: «Мы вступаем в сингулярность». Комментарий, опубликованный в ответ на пост другого пользователя, обобщающий ряд недавних достижений в области ИИ, включая инцидент с Hugging Face, по-видимому, отсылал к гипотетическому моменту, когда ИИ превзойдёт человеческий интеллект и приведёт к столь стремительным технологическим изменениям, что люди больше не смогут их предвидеть или контролировать.

Ранее эксперты говорили Fortune, что передовые ИИ-модели в руках злоумышленников представляют значительную угрозу для организаций. Это относится и к модели Mythos от Anthropic, которую компания изначально отказывалась публиковать из-за её выдающейся способности обнаруживать уязвимости в кибербезопасности, как сообщалось ранее.

ИИ позволяет злоумышленникам осуществлять кибератаки даже при минимальных знаниях программирования, отметил Зак Льюис, директор по информационным технологиям и директор по информационной безопасности Университета медицинских наук и фармации в Сент-Луисе. ИИ-агенты могут ещё больше снизить порог входа, автоматизировав процесс атаки, добавил Льюис.

В июне президент Дональд Трамп подписал исполнительный приказ, предписывающий ИИ-компаниям добровольно предоставить правительству надзор за невыпущенными ИИ-моделями. Этот приказ опирался на более широкий ряд добровольных обязательств по безопасности, которые несколько крупных ИИ-компаний взяли на себя в Белом доме в 2023 году. После инцидента с Hugging Face некоторые законодатели, включая конгрессмена Грега Касара (демократ от штата Техас), призвали к ужесточению регулирования ИИ.

Томас Вольф, сооснователь Hugging Face, рассказал BBC, что атака на его компанию стала «тревожным сигналом» для отрасли, и предупредил, что «это станет одним из самых распространённых типов кибератак, с которыми мы столкнёмся» в будущем.

Предложение Маска о межлабораторном сотрудничестве будет развивать существующий Frontier Model Forum — отраслевую организацию, созданную в 2023 году, в рамках которой Amazon, Anthropic, Google, Meta, Microsoft и OpenAI добровольно делятся информацией об уязвимостях и угрозах. xAI Маска не является членом этой организации.

Однако компании-участницы Frontier Model Forum не обмениваются друг с другом невыпущенными моделями — пробел, который предложение Маска призвано непосредственно устранить.

Некоторые фирмы, включая OpenAI, уже предоставили правительству ранний доступ к определённым моделям. В записи в блоге от конца июня компания заявила: «В рамках нашего постоянного взаимодействия с правительством США мы предварительно ознакомили их с нашими планами и возможностями моделей» перед запуском своей новейшей модели GPT-5.6 Sol.

OpenAI отметила в публикации, что не ожидает, что предварительный обмен моделями с правительством станет стандартной практикой, и описала это как «краткосрочный шаг, поскольку мы считаем, что это самый надёжный путь к более широкому доступу в ближайшие недели».

Маск признал, что предметное сотрудничество между ведущими ИИ-компаниями потребует от него и генерального директора OpenAI Сэма Альтмана отложить в сторону личные разногласия. Они находятся в состоянии затяжного конфликта, корни которого восходят к роли Маска как сооснователя OpenAI в 2015 году и его уходу из организации тремя годами позже. Они недавно обменялись колкостями в социальных сетях и ведут судебную борьбу из-за несогласия главы SpaceX с переходом OpenAI от некоммерческой к коммерческой структуре.

«В конечном итоге, если нам нужно будет поговорить, мы поговорим. Я имею в виду — отбросить личные разногласия ради блага всего мира, что-то в этом роде», — сказал Маск.