Коалиция организаций цифровых активов под руководством Bitcoin Policy Institute призывает лаборатории передового ИИ предоставить квалифицированным защитникам безопасности открытого исходного кода доверенный доступ к продвинутым ИИ-моделям. Группа утверждает, что разработчикам необходимы более мощные инструменты для аудита финансового программного обеспечения, кошельков, криптографических библиотек и другой критической инфраструктуры в экосистеме криптовалют.

Коалиция запрашивает защищённые среды тестирования, достаточные вычислительные мощности и прямые каналы связи для скоординированного раскрытия уязвимостей. По данным Bitcoin Policy Institute, разработчики открытого исходного кода часто не имеют доступа к продвинутым моделям кибербезопасности, а публичные передовые системы могут препятствовать легитимным исследованиям безопасности через встроенные механизмы контроля. Лаборатории передового ИИ — компании, такие как OpenAI, Anthropic и Google DeepMind, разрабатывающие самые совершенные ИИ-системы, — внедрили защитные ограничения, которые могут отклонять или ограничивать запросы, связанные с анализом кода, выявлением эксплойтов и тестированием уязвимостей, даже когда запрос исходит от легитимного защитника.

Выявлен пробел в доступе к средствам безопасности

В результате этих ограничений некоторые защитники вынуждены полагаться на менее мощные модели с открытыми весами для проверок безопасности. Коалиция утверждает, что это создаёт асимметрию между защитниками и злоумышленниками, которые могут уже использовать более сильные возможности ИИ.

Группа подчеркнула, что проблема затрагивает инфраструктуру, лежащую в основе Bitcoin и более широкого сектора цифровых активов. Эта инфраструктура включает устройства подписания, криптографические библиотеки, системы хранения активов, биржи и платёжные сети. Институт отметил, что только Bitcoin обеспечивает безопасность более $1 трлн стоимости, в то время как более широкая экосистема цифровых активов охватывает триллионы долларов в смежной инфраструктуре. Значительная часть этой инфраструктуры поддерживается небольшими командами разработчиков открытого исходного кода или добровольцами, что контрастирует с корпоративной разработкой программного обеспечения, где стандартом являются выделенные бюджеты на безопасность и специализированные команды безопасности.

ИИ как инструмент выявления уязвимостей

Коалиция заявила, что продвинутый ИИ может сканировать большие кодовые базы и выявлять потенциальные слабости, тем самым ускоряя сложную работу по обеспечению безопасности как для защитников, так и для злоумышленников. Однако лаборатории передового ИИ и избранные партнёры в настоящее время получают доступ к новым кибервозможностям раньше широкого круга пользователей, оставляя квалифицированных защитников открытого исходного кода без сопоставимых инструментов.

Bitcoin Policy Institute сообщила, что мейнтейнеры сталкивались с изощрёнными атаками, создающими значительную нагрузку на небольшие команды разработчиков. Некоторые из этих инцидентов, по словам института, были связаны с потенциальными иностранными субъектами, использующими продвинутые возможности ИИ.

Несмотря на эти ограничения, разработчики продолжают использовать доступные модели с открытыми весами для проверки кошельков, протоколов и инструментов открытого исходного кода. Институт заявил, что эти усилия уже привели к практическим результатам в области безопасности и исправлениям.

Предлагаемые программы доверенного доступа

Коалиция просит обеспечить более ранний доступ к более мощным моделям до того, как злоумышленники широко получат аналогичные возможности, а также разумные вычислительные бюджеты для поддержки длительных проверок безопасности.

В рамках предлагаемой модели программы предоставляли бы контролируемый доступ к продвинутым ИИ-моделям с кибервозможностями, с доступом к предварительным версиям там, где это уместно, и защищёнными средами для анализа закрытого кода. Коалиция предусматривает, что право на участие получат некоммерческие организации, независимые мейнтейнеры, коммерческие компании и государственные учреждения.

Прямые каналы связи с командами безопасности ИИ-лабораторий способствовали бы ответственному раскрытию информации и устранению уязвимостей. Индустрия цифровых активов указала, что может помочь в выявлении надёжных участников, установлении стандартов участия и координации усилий по устранению проблем при обнаружении уязвимостей.