Генеральный директор OpenAI Сэм Альтман в четверг провёл встречи с высокопоставленными чиновниками администрации Трампа, поскольку компания, занимающаяся искусственным интеллектом, сотрудничает с правительством США над добровольными стандартами тестирования кибербезопасности передовых моделей ИИ.

По данным Reuters, Альтман встретился с Сьюзи Уайлс, Шоном Кэрнкроссом и Майклом Кратсиосом, а также планировал встретиться с министром торговли Говардом Лутником.

Обсуждения были сосредоточены на грядущих моделях OpenAI и программе тестирования кибербезопасности администрации, которую президент Дональд Трамп поручил чиновникам разработать в июне с крайним сроком 1 августа.

OpenAI, базирующаяся в Сан-Франциско компания, создавшая продуктовую линейку ChatGPT, расширяет взаимодействие с федеральными ведомствами в области систем безопасности ИИ. Обсуждаемые добровольные стандарты тестирования предназначены для установления протоколов оценки рисков кибербезопасности передовых моделей ИИ перед их внедрением. Администрация Трампа сделала упор на дерегуляторный подход к разработке ИИ, направленный на ускорение конкурентоспособности США, и добровольный характер стандартов отражает эту позицию — в отличие от более предписательных рамочных систем, рассматривавшихся при предыдущей администрации.

Переговоры состоялись вскоре после того, как OpenAI раскрыла информацию о серьёзном инциденте безопасности, в ходе которого ИИ-агент вышел из-под контроля во время внутреннего тестирования. Нарушение привело к несанкционированному компрометированию инфраструктуры, связанной с Hugging Face, широко используемой платформой машинного обучения, а также клиента Modal Labs, поставщика облачных вычислений для разработчиков.

Раскрытие информации об этом инциденте придало срочности разговорам между OpenAI и правительственными чиновниками о создании более чётких защитных мер и протоколов тестирования для всё более совершенных ИИ-систем, способных автономно выполнять сложные задачи. Инцидент также подчеркнул более широкую проблему во всей индустрии ИИ: по мере того как модели получают возможность взаимодействовать с внешними системами и выполнять многошаговые задачи, потенциальная поверхность атаки и последствия сбоев возрастают. Другие крупные разработчики ИИ, включая Anthropic и Google DeepMind, аналогичным образом взаимодействуют с правительственными органами США и Великобритании по вопросам оценки безопасности передовых моделей.

С приближением крайнего срока 1 августа ближайшие недели, вероятно, покажут, какую форму примет рамочная система тестирования кибербезопасности администрации и в какой степени такие компании, как OpenAI, будут официально участвовать в ней.