Sentient Foundation назначила Жюли Белиау, бывшего вице-президента по продукту Mozilla.ai и ветерана Google, на пост вице-президента по продукту. Белиау будет руководить усилиями некоммерческой организации по превращению её исследований происхождения ИИ-моделей в программное обеспечение, которое разработчики действительно смогут использовать.

Чем будет заниматься Белиау

В её обязанности входят два направления: рекурсивное самоулучшение, то есть ИИ-системы, улучшающие сами себя, и провенанс моделей. По данным фонда, стандартного способа подтвердить, на чём была обучена ИИ-модель и откуда она произошла, до сих пор не существует, и задача Белиау — создать работающие продукты, способные это делать.

Десятилетие работы в области open-source и многоязычного ИИ

Во время работы в Mozilla.ai Белиау руководила open-source-планом для 61 репозитория и помогала развивать сообщество разработчиков организации. В 2025 году она стала соавтором работы «Towards Best Practices for Open Datasets for LLM Training» совместно с Mozilla и EleutherAI. Mozilla Foundation указывает её среди соавторов работы наряду с исполнительным директором EleutherAI Стеллой Бидерман и Марком Сурманом из Mozilla. В работе утверждалось, что обучающие данные для ИИ должны быть лицензированы, хорошо документированы и иметь чётко установленное происхождение. Тот же принцип — что происхождение должно быть доказуемым — лежит в основе её новой роли на уровне моделей, где, по словам Sentient, стандартного подтверждения пока не существует.

До Mozilla Белиау более десяти лет занималась многоязычным ИИ, работая над речевыми и языковыми данными для Google Assistant, Google Translate и YouTube — всех продуктов Google (NASDAQ: GOOGL). Она имеет степень PhD по информатике Университета Париж Нантер.

Почему провенанс ИИ-моделей важен именно сейчас

Назначение происходит на фоне чер сообщений о попытках извлечь закрытые возможности моделей. В конце сентября OpenAI сообщила, что пресекла скоординированную кампанию по извлечению пошаговых рассуждений из своих ИИ-моделей, связав её с людьми, связанными с Moonshot AI — создателем Kimi. В феврале Anthropic сообщила, что три китайские ИИ-лаборатории отправили более 16 миллионов запросов к её модели Claude, используя около 24 000 фальшивых аккаунтов, и заявила, что лаборатории стремились извлечь возможности Claude. Anthropic приписала Moonshot более 3,4 миллиона из этих обменов.

Проблема носит более широкий характер: когда модель копируется, дообучается или дистиллируется в другую систему, покупатели часто не могут определить, что её обучило.

Sentient взялась за эту задачу в октябре с запуском Fingerprinting Leaderboard — открытого теста того, могут ли методы подтверждения происхождения модели пережить копирование, дообучение и намеренные попытки их удалить. Исследователи Sentient построили атаки против десяти предложенных методов отпечатков, и результаты показали, что почти все они могут быть преодолены без ухудшения модели — включая собственный метод Sentient Perinucleus, который поместил 24 576 отпечатков в Llama-3.1-8B.

«Отпечатки помещают доказательство внутрь модели», — объяснила Сачи Камия, директор фонда по венчуру и росту. Она сравнила эту технику со скрытыми метками, которыми художники Ренессанса заявляли авторство своих работ.

Исследование продолжает работу Sentient над OML — сокращение от Open-access, Monetizable, and Loyal AI Model Serving — проведённую совместно с Принстонским университетом и Вашингтонским университетом. Проект призван позволить создателям делиться открытыми моделями, сохраняя возможность позже доказать авторство.

О Sentient

Sentient запустилась в феврале как некоммерческая организация из Сингапура, обязующаяся сохранить открытый исходный код искусственного общего интеллекта. В июне она выделила 42 миллиона долларов грантов и инвестиций разработчикам open-source. Её проекты, включая ROMA, OpenDeepSearch и работу над OML-отпечатками, набрали более 12 500 звёзд на GitHub, и на них ссылались исследователи Google (NASDAQ: GOOGL), Microsoft (NASDAQ: MSFT) и Meta (NASDAQ: META).

Назначение теперь превращает исследования в продукт с бенчмарком собственного производства Sentient: октябрьский лидерборд показал, что почти каждый предложенный метод отпечатков — включая собственный — может быть преодолён, а фонд сообщает, что стандартного способа подтвердить, на чём была обучена модель и откуда она произошла, пока не существует. Превращение этих исследований в работающие продукты провенанса — тот пробел, который призвана закрыть Белиау.

Источник: Cryptopolitan