CEO Meta Platforms Марк Зукерберг в понедельник опубликовал масштабное эссе на 6500 слов, излагающее его видение будущего искусственного интеллекта, в котором он утверждает, что каждый должен иметь доступ к персональному, всезнающему ИИ-агенту, способному улучшить все аспекты жизни.

Этот манифест появляется на фоне усиливающегося раскола в отрасли относительно того, следует ли свободно делиться передовыми ИИ-системами или же жёстко их контролировать — дискуссии, которая разделила самых влиятельных игроков и привлекла внимание правительств по всему миру.

Зукерберг использовал эссе, чтобы решительно выступить за ИИ с открытым исходным кодом — модель разработки, при которой ключевые технические компоненты предоставляются бесплатно для изучения, изменения и дальнейшего развития кем угодно. Руководитель Meta представил будущее, в котором люди получают возможность открывать новый бизнес, пользоваться обучением на уровне докторантуры и получать персонализированные рекомендации по образу жизни. В качестве доказательства того, что становится возможным, он привёл собственную 8-летнюю дочь, которая, по его словам, уже может программировать свои идеи и быстро создавать видео.

«Вскоре у каждого появятся суперспособности к изобретательству», — написал Зукерберг.

Эссе было опубликовано в тот же день, когда Meta объявила о выпуске новой модели ИИ с открытым исходным кодом под названием Muse Glimmer, предназначенной для работы на персональном компьютере. Зукерберг также сообщил, что Meta предоставит разработчикам доступ к более мощной модели — Muse Spark 1.2. Эти выпуски продолжают стратегию Meta в области ИИ с открытым исходным кодом, которую компания реализует через последовательные поколения семейства моделей Llama с 2023 года, позиционируя себя как главный противовес разработчикам закрытых систем в самой значимой технологической гонке в отрасли. Как и другие крупные технологические компании, Meta создаёт модели ИИ для работы собственных платформ — включая Instagram и Facebook — и предоставляет их внешним разработчикам, которые создают собственные приложения и функции.

Зукерберг предупредил, что наибольший риск в разработке ИИ заключается в концентрации контроля над передовыми системами в руках небольшого числа компаний, учреждений или правительств. Если контроль над ИИ-«суперинтеллектом» станет слишком централизованным, предупредил он, результатом станут худшие последствия для большинства людей. Решение, по его мнению, состоит в обеспечении «широкого распределения» передового ИИ, чтобы справедливо наделить возможностями миллиарды людей.

Не называя конкретных конкурентов, Зукерберг, по всей видимости, сделал завуалированную отсылку к таким компаниям, как OpenAI, Anthropic и Google — соперникам, которые не приняли модель открытого исходного кода в той же степени.

«Большинство других лабораторий сосредоточены на создании ИИ для компаний, правительств или других учреждений, поэтому если именно эти лаборатории станут лидерами, то баланс сил будет смещён в пользу крупных учреждений, а не отдельных людей», — написал он.

Эссе вызвало резкую критику со стороны сторонников безопасности ИИ. Энтони Агирре, президент и CEO Future of Life Institute — организации, стоявшей за широко обсуждаемым открытым письмом 2023 года с призывом приостановить обучение ИИ-систем, превосходящих GPT-4, — указал на недавние инциденты, в которых модели ИИ, включая собственные модели Meta, по меньшей мере трижды взламывали другие компании. Он спросил: «что, чёрт возьми, заставляет Meta думать, что они — или кто-либо вообще — смогут контролировать то, что экспоненциально умнее, быстрее и способнее?»

«Выбранный Meta путь — это в конечном счёте путь замены и обезвреживания человека, но существует альтернативный, гуманистический путь — путь, ведущий к расцвету личности и научным прорывам с помощью управляемых ИИ-инструментов», — сказал Агирре. «То, что сейчас срочно необходимо, — это чтобы правительства способствовали паузе в разработке передового ИИ и направили нас на гуманистический путь — пока не стало слишком поздно».

Зукерберг также затронул политические меры для сохранения конкурентоспособности США по сравнению с соперниками, включая Китай. Он призвал Соединённые Штаты и их союзников ускорить строительство энергетических мощностей и инфраструктуры, необходимых для развития ИИ, — проблему, актуальную для всей отрасли, поскольку стремительное расширение центров обработки данных ИИ создаёт всё большую нагрузку на энергосети и побуждает крупные технологические компании инвестировать в новые источники энергии, включая атомную энергетику.

Касательно темы «дистилляции» — практики обучения менее способной модели ИИ на результатах более мощной — Зукерберг выступил против попыток ограничить эту технику. Администрация Трампа пообещала принять жёсткие меры против китайских ИИ-компаний, использующих дистилляцию для извлечения технических характеристик из моделей США. Ранее в этом году Anthropic обвинила китайскую компанию DeepSeek в применении этой практики.

«Некоторые пытались представить дистилляцию как вредную, но я считаю важным защитить принцип, согласно которому можно учиться на всём, что вы можете наблюдать», — сказал Зукерберг. «Так устроен мир, и США не смогут лидировать, если ограничат себя на этом направлении».

Мэтт Лейн, старший юрисконсульт по политике в группе защиты цифровых прав Fight for the Future, назвал Зукерберга «непростительно оторванным от реальности даже в лучшие его дни», но признал, что CEO прав в вопросе о важности ИИ с открытым исходным кодом. Лейн утверждал, что совместный доступ к ИИ-системам с открытым исходным кодом служит критически важной защитой в мире, где ИИ может быть использован для взлома электронной инфраструктуры, такой как системы голосования и сети социальных льгот.

Однако Лейн предупредил, что широкое внедрение ИИ-систем, разработанных Meta, — даже полностью с открытым исходным кодом, — в конечном счёте принесёт наибольшую выгоду самой Meta. «ИИ с открытым исходным кодом нуждается в поддержке, выходящей за рамки этих корпоративных интересов. Мы, в отличие от Зукерберга, надеемся на максимально возможную конкуренцию», — сказал он.