Google DeepMind представила DeepMind Institute (DMI) — специализированную платформу, призванную развивать исследования и представления об искусственном общем интеллекте (AGI). Инициатива объединяет исследователей и мыслителей из Google DeepMind, Google и более широкого мирового исследовательского сообщества, которые будут публиковать креативные, обоснованные взгляды на мир с AGI. Компания прямо указывает, что авторы не всегда будут соглашаться друг с другом и могут пересматривать свои позиции по мере появления новых данных на быстро развивающемся фронтире. Подробности доступны на официальном сайте института.

Анонс появляется в момент, когда современные системы ИИ демонстрируют впечатляющие возможности, но при этом всё ещё ошибаются в базовых задачах и не обладают последовательностью и креативностью, необходимыми для настоящего AGI. DeepMind ожидает, что эти разрывы скоро сократятся, и определяет AGI — систему, соответствующую полному когнитивному диапазону человеческого мозга, — как потенциально главный инструмент ускорения научных прорывов. В видении компании AGI может открыть новые пути к пониманию и лечению болезней, развитию чистой энергетики и стимулированию экономического процветания, открыв золотой век открытий, далеко выходящий за пределы того, чего человечество могло бы достичь самостоятельно. Такая постановка вопроса имеет вес, в частности, потому, что для AGI до сих пор нет общепринятого технического определения, а исследователи расходятся во мнениях о том, когда — и появятся ли вообще — такие системы, что делает саму терминорию предметом острых споров в отрасли.

DeepMind уравновешивает этот оптимизм откровенной оценкой рисков. Компания отмечает, что последствия всё более способного ИИ уже заметны в таких областях, как кибербезопасность и биориски, и предупреждает о возможной потере контроля над будущ самоулучшающимися системами. DMI позиционируется как прямой ответ на эту двойную реальность: систематические усилия по стимулированию междисциплинарных исследований, сотрудничества и дискуссий, необходимых для ответа на важнейшие технические и общественные вопросы эпохи.

За пределами лаборатории: роль общества в эпоху AGI

Мандат института выходит далеко за рамки технической инженерии. Он намерен решать вопросы о том, что человечество будет ценить в эпоху AGI и как такие системы изменят само представление о человеческом; как AGI следует безопасно создавать и регулировать и как будут функционировать сообщества ИИ-агентов; а также какие институты и политики обществу придётся адаптировать — или переосмыслить полностью.

Ключевая посылка инициативы состоит в том, что одни лишь технологи не могут решать, как AGI будет ответственно разрабатываться и применяться. Технологическая экспертиза открывает возможность новой эпохи, но, по мнению DeepMind, формирование её реальности — это коллективная ответственность всего общества, которая должна охватывать искусство, гуманитарные науки и государственные структуры. В этой логике консенсус по предстоящим вызовам и возможностям требует широкого интеллектуального обсуждения, а не единого авторитетного голоса.

Собирая разнообразные точки зрения для выявления критических вызовов и обсуждения возможных решений, DMI стремится к тому, чтобы выгоды AGI перевешивали риски и улучшали жизнь каждого. Запуск также указывает на более широкий сдвиг в том, как ведущие ИИ-лаборатории взаимодействуют с обществом по вопросам фронтирных технологий: от закрытой разработки к открытой междисциплинарной дискуссии — поворот, уже заметный в отрасли, где конкурирующие фронтирные лаборатории опубликовали собственные рамки безопасности и обязательства по масштабированию, а регуляторы перешли к управлению передовым ИИ — от AI Act Европейского союза до международных деклараций саммитов по снижению фронтирных рисков. Сможет ли институт действительно превратить дискуссии в действенные рамки безопасности и управления, покажет время, однако это заметная институциональная ставка на то, что путь к AGI должны определять не только его создатели.

Источник: Metaverse Post