Meta (NASDAQ: META) выпустила Muse Glimmer — open-weight AI-модель, — а также эссе из 6 500 слов от CEO Марка Цукерберга, в котором он утверждает, что наибольшая опасность, исходящая от продвинутого ИИ, — это сосредоточенный контроль со стороны одного правительства или одной компании, а не сама технология.

Muse Glimmer — это плотная модель с 30 миллиардами параметров, рассчитанная на работу на ноутбуке или одной потребительской GPU. Meta описывает ее как «one of the highest-performing models of its size». Поскольку веса модели открыты, любой может скачать ее, настроить и запускать на собственном оборудовании. Этот релиз продолжает более широкое продвижение Meta в сторону open-weight ИИ после семейства моделей Llama, которые стали одними из самых скачиваемых открытых базовых моделей и сделали Meta наиболее заметным корпоративным сторонником открытого доступа к ИИ — позиция, которая отличает компанию от таких конкурентов, как OpenAI, Google и Anthropic, которые, как правило, сохраняли свои наиболее продвинутые модели закрытыми.

Meta создала Muse Glimmer методом дистилляции, обучая меньшую модель на результатах, сгенерированных более крупной системой Muse Spark, чтобы компактная версия унаследовала возможности от более крупной «teacher» модели. По данным компании, веса версии Muse Spark 1.2 будут опубликованы в ближайшие недели. Обе модели называются крупнейшими на сегодняшний день американскими open-source моделями.

Ранее Meta приостанавливала выпуск open-weight моделей, и Цукерберг объяснял это пересмотром стратегии. Теперь компания возобновила такие релизы под управлением Meta Superintelligence Labs. Пауза и возвращение происходят на фоне того, что правительства активно разрабатывают рамки надзора за ИИ, включая AI Act Европейского союза, который накладывает обязательства на поставщиков моделей общего назначения, и указ президента США по безопасности ИИ, установивший требования к отчетности для некоторых передовых моделей.

Что Цукерберг сказал о централизации ИИ в своем эссе?

В своем эссе под названием «The Future is for Everyone: The Path to a Positive AI Future» Цукерберг возразил против мрачного тона, характерного для значительной части современных дискуссий об ИИ.

«I'm personally more worried about centralization than I am about any of the specific risks others are talking about», — сказал он в интервью.

По словам Цукерберга, сосредоточение сверхинтеллекта в руках немногих «will naturally lead to outcomes that are less favorable for everyone else».

Он добавил, что «there is no such thing as a singular benevolent superintelligence».

Цукерберг также предложил альтернативу, основанную на трех идеях: индивидуальное расширение возможностей как источник процветания, изобретательство, а не автоматизация, как основная цель ИИ, и баланс сил как основа безопасности.

В вопросе геополитики Цукерберг написал, что правила США, замедляющие выпуск американских моделей даже на месяц, могут стоить стране лидерства, пока зарубежные модели продолжают развиваться.

Независимый совет и фонд сообщества на $1 млрд

Чтобы совместить открытые релизы с вопросами безопасности, Meta вводит элементы управления. Цукерберг заявил, что независимый совет получит полномочия утверждать критерии безопасности, регулирующие выпуск моделей, а также проверять, соответствует ли им тот или иной релиз. Он сказал, что совет поможет гарантировать, что открытые релизы «meet rigorous safety standards».

Цукерберг также объявил о фонде на $1 млрд под названием «Future is for Everyone Fund», предназначенном для сообществ США, где размещены дата-центры Meta. Сообщается, что средства будут направляться учителям, службам экстренного реагирования, а также на местную энергетическую и водную инфраструктуру.

Фонд рассматривается как попытка ослабить растущее местное сопротивление строительству дата-центров в США.

Если вы читаете это, вы уже впереди. Оставайтесь в курсе с нашей рассылкой .