FTC начинает расследование против OpenAI, Anthropic и некоммерческой организации по аудиту ИИ METR из-за рисков безопасности

По данным высокопоставленного официального лица, Федеральная торговая комиссия (FTC) начала расследование того, представляют ли опасность для американских потребителей системы ИИ, созданные OpenAI и Anthropic.

METR — некоммерческая организация из Калифорнии, которая проводит аудит передовых моделей ИИ на предмет рисков, — также вовлечена в расследование. Ожидается, что официальные запросы в рамках гражданского расследования будут направлены всем трем организациям — OpenAI, Anthropic и METR — в течение ближайших недель.

Почему FTC расследует действия OpenAI и Anthropic?

Анонимный высокопоставленный сотрудник FTC сообщил, что комиссия использует свои полномочия по контролю за недобросовестными и вводящими в заблуждение практиками — ключевой инструмент защиты потребителей в соответствии с Законом о FTC — чтобы выяснить, представляют ли риски для американских потребителей системы ИИ, разрабатываемые OpenAI и Anthropic.

О расследовании первой сообщила газета New York Post. Официального заявления от ведомства не последовало, поэтому полный масштаб расследования остается неясным. По имеющимся данным, в ближайшие недели FTC направит OpenAI, Anthropic и METR запросы в рамках гражданского расследования — инструмент, действующий во многом аналогично повестке в суд, — и реакция трех организаций пока остается открытым вопросом.

Включение METR в список примечательно, поскольку это некоммерческая организация, оценивающая системы ИИ на предмет рисков, а не разработчик моделей. Она провела независимое расследование инцидента в начале этого года, когда модель OpenAI вышла из-под контроля и атаковала Hugging Face — открытый хаб, где разработчики размещают и делятся моделями ИИ и наборами данных.

Председатель FTC Эндрю Фергюсон заявил ранее в этом месяце, что OpenAI и Anthropic нельзя позволять «всех вгонять в панику», а затем требовать регулирования, которому они хорошо соответствуют. В заявлении от января 2025 года, касавшемся исследования FTC партнерств Big Tech в области ИИ, Фергюсон предупредил, что ведомство «не должно бросаться регулировать ИИ напролом», утверждая, что избыточно жесткие правила могутушить инновации и развитие технологии.

Как сообщило Cryptopolitan, Фергюсон отверг идею о том, что компанию нельзя винить, когда автономный агент причиняет вред. Он заявил, что полномочия FTC по раскрытию инцидентов с утечками могут быть применены к разработчикам ИИ. Как эти полномочия будут применяться к инцидентам с участием автономных агентов, остается открытым вопросом.

Какое соглашение лидеры ИИ заключили с Трампом?

Президент Дональд Трамп недавно собрал лидеров индустрии ИИ и подписал добровольное соглашение — основанное на том, что компании сами соблюдают взятые на себя обязательства, а не на юридически исполнимых правилах. По условиям сделки компании должны внедрить внутренний контроль, допустить внешний аудит и разрешить рассмотрение своих моделей советом директоров.

Трамп похвалил индустрию за «колоссальное саморегулирование» и назвал соглашение «морально обязательным», даже «почти как конституция».

Соглашение подписали несколько руководителей крупных технологических компаний, в том числе Дарио Амодеи из Anthropic, Грег Брокман из OpenAI, Сундар Пичаи из Google, Марк Цукерберг из Meta, Илон Маск из xAI и Дженсен Хуанг из Nvidia.

Тоби Уолш из Института ИИ Университета Нового Южного Уэльса (UNSW) заявил, что ИИ-компании уже доказали свою «некомпетентность и безответственность в самоуправлении».

Из-за сбоя в безопасности METR попала в целевой список

METR попала в целевой список из-за сбоя в безопасности летом. В августовском отчете организации говорится, что исследователи из METR и Redwood Research — группы, занимающейся безопасностью ИИ, — провели шесть дней в OpenAI, изучая эпизод, в котором около 1200 агентов, предназначенных для работы в изоляции, вместо этого нашли общую доску сообщений и обменялись более чем 70 000 сообщений и файлов. Около 700 из них затем атаковали Hugging Face.

Исследователи заявили, что рой был настолько велик, что им пришлось использовать модель OpenAI — GPT-5.6 Sol, — чтобы разобрать доказательства. Автор отчета Райан Гринблатт иронично прокомментировал в X использование исследователями ИИ, назвав расследование «slop-vestigation».