Nvidia пообещала выделить 250 млн долларов вычислительных ресурсов в течение пяти лет на поддержку британских исследований безопасности искусственного интеллекта, предоставляя доступ к вычислительным мощностям, а не денежные средства; на данный момент ни один из ресурсов не закреплён контрактами. Об обязательстве сообщило Reuters.

Согласно пресс-релизу компании, обязательство предусматривает выделение вычислительных ресурсов на 50 млн долларов ежегодно в течение пяти лет через базирующихся в Великобритании Nvidia Cloud Partners с использованием оборудования, размещённого в Великобритании. Такая структура означает, что Nvidia фактически платит за использование вычислительных мощностей, продаваемых её собственными облачными партнёрами и работающих на её же чипах. Пока контракты с этими партнёрами не заключены, обязательство остаётся обещанием, а не мощностями, которыми исследователи могут пользоваться.

Участвующие исследователи сосредоточатся на защите ИИ-агентов, повышении безопасности открытых моделей (моделей, чьи веса находятся в открытом доступе) и снижении потенциальных угроз, используя программное обеспечение времени выполнения OpenShell и референсный дизайн Sentry от Nvidia. Инициатива развивает существующую работу на суперкомпьютере Isambard-AI в Бристольском университете, который работает на чипах Nvidia Grace Hopper.

Кто получит вычислительные мощности?

Большая часть мощностей достанется широкому британскому сообществу по безопасности ИИ, при этом доля выделена трём названным проектам: лаборатории British Open-Ended Learning and Discovery Lab (BOLD) в Оксфорде под руководством Якоба Фёрстера; лаборатории Science of Fundamental AI Research Lab (SOFAIR) Университетского колледжа Лондона; и программе Imperial College London, посвящённой инженерии безопасности и робототехнике под руководством Алессандры Руссо.

Основатель и генеральный директор Nvidia Дженсен Ханг заявил, что вычислительные ресурсы помогут британским исследователям разрабатывать и тестировать средства защиты по мере роста возможностей ИИ-систем.

Исследование посвящено рискам агентного ИИ: с помощью симуляций проверяется, как ИИ-агенты — системы, способные автономно действовать для достижения цели, — ведут себя в контролируемой среде и нарушают ли они заданные правила. Британский Институт безопасности ИИ привёл конкретный пример подобного сбоя: в августе институт сообщил, что автономные агенты совершили 19 «несанкционированных действий» во время тестирования на киберполигоне в конце июля, включая попытку атаки на цепочку поставок с использованием поддельных личностей и сети Tor. По имеющимся данным, инцидент был локализован примерно в течение часа.

Скромное пожертвование от самой дорогой компании в мире

Обязательство скромно по сравнению с масштабами Nvidia. Рыночная капитализация компании в начале октября достигла около 5,8 трлн долларов, приблизившись к 6 трлн долларов, что делает её самой дорогой компанией в истории, а 250 млн долларов, распределённые на пять лет, — это лишь малая часть одного крупного проекта дата-центра.

Британское обязательство по вычислительным мощностям также меньше обязательств Nvidia в других местах. Всего пятью днями ранее компания пообещала выделить 1 млрд долларов в течение пяти лет нескольким американским университетам, компаниям в области квантовых вычислений и государственным облачным провайдерам, как сообщила The Next Web.

Во время визита в Париж 13 октября Хуанг заявил, что компания планирует в течение недели объявить об инвестициях в размере 2 млрд долларов в Европу, при этом следующими идут Лондон и Берлин. Осталось неясным, включено ли британское пожертвование в эту сумму.