Консорциум из более чем 40 компаний и организаций, включая Nvidia, Microsoft, IBM, Cisco, Cloudflare, Hugging Face, Salesforce и Palantir, запустил Open Secure AI Alliance — отраслевую инициативу, сосредоточенную на open-source инструментах и стандартах для безопасности ИИ и кибербезопасности.

В публикации в блоге в понедельник Nvidia заявила, что альянс будет развивать работу инициативы Akrites от Linux Foundation и Open Source Security Foundation, или OpenSSF, для создания открытых инструментов безопасности ИИ, которые помогают организациям выявлять уязвимости и реагировать на киберугрозы. Опираясь на существующие инициативы в сфере open-source безопасности, группа позиционирует альянс вокруг совместных инструментов и управления, а не платформы одного поставщика.

«У атакующих есть передовой ИИ. Защитникам нужна экосистема передового ИИ — лучшие открытые и закрытые модели, усиленные глобальным сообществом», — генеральный директор Nvidia Дженсен Хуанг написал в X. «Во время инцидента с Hugging Face закрытый ИИ заблокировал необходимую криминалистику. Передовая модель с открытыми весами помогла сдержать вторжение».

«Именно поэтому мы создали Open Secure AI Alliance», — добавил Хуанг.

Среди участников-основателей — более 40 компаний и организаций. Помимо Nvidia, Microsoft, IBM, Cisco, Cloudflare, Hugging Face, Salesforce и Palantir, в инициативе участвуют Dell Technologies, CrowdStrike, Palo Alto Networks, SAP, Siemens, Red Hat и NetApp. Список охватывает производителей чипов, поставщиков облачного и корпоративного ПО, компании в сфере кибербезопасности и инфраструктурные фирмы, отражая то, как безопасность ИИ теперь затрагивает разработку моделей, развертывание, сетевую инфраструктуру и операционную защиту.

Nvidia заявила, что предоставит открытые модели, веса моделей, наборы данных и исследования в области harnesses для ИИ-агентов. Компания также выпустила фреймворк Nvidia Labs Object-Oriented Agent, или NOOA, как open source на GitHub, описав его как фреймворк, предназначенный для упрощения тестирования, аудита и управления ИИ-агентами.

Запуск происходит в момент, когда передовые модели ИИ стали ключевым элементом нескольких резонансных инцидентов в кибербезопасности. В июне исследователи сообщили, что Claude Opus 4.8 от Anthropic помог выявить критическую уязвимость четырехлетней давности в Zcash, которая могла позволить злоумышленнику выпускать неограниченное количество поддельных ZEC.

Ранее в этом месяце OpenAI сообщила, что две экспериментальные модели вышли за пределы ограниченной тестовой среды и проникли в производственную инфраструктуру Hugging Face, пытаясь обмануть бенчмарк по кибербезопасности. Инцидент вызвал призывы со стороны политиков к созданию «аварийного выключателя» для ИИ, который позволил бы Department of Homeland Security отдавать распоряжение о снижении производительности или полной остановке продвинутых моделей ИИ в ответ на серьезные инциденты безопасности.

Объявление также последовало за открытым письмом, опубликованным на прошлой неделе, в котором утверждалось, что модели ИИ с открытыми весами важны для сохранения лидерства США в области искусственного интеллекта. Наряду с Nvidia подписанты, включая SpaceXAI Илона Маска, Google, Microsoft, Meta, OpenAI, Hugging Face, CrowdStrike и Palantir, призвали политиков поддерживать открытые экосистемы ИИ, а не вводить ограничения, которые могли бы сосредоточить разработку ИИ у небольшого числа поставщиков.

Nvidia заявила, что Open Secure AI Alliance призван обеспечить, чтобы системы ИИ, используемые для защиты критической инфраструктуры, строились на открытых моделях и инструментах, которые защитники могут проверять, адаптировать и развертывать, вместо зависимости от ограниченного набора непрозрачных проприетарных систем.

«Миру нужны как закрытые, так и открытые модели», — написала Nvidia. «Для кибербезопасности открытые модели и открытые harnesses необходимы, потому что они демократизируют защитные возможности, повышают прозрачность для защитников, обеспечивают киберзащиту при сохранении данных и дополняют передовые закрытые модели настраиваемыми локализованными средствами контроля. Open source обеспечивает массово распределенную, управляемую сообществом и самоконтролируемую защиту — без единой точки отказа».