Федеральная торговая комиссия (FTC) начала расследование того, представляют ли системы искусственного интеллекта, созданные OpenAI и Anthropic, опасность для американских потребителей, подтвердил высокопоставленный чиновник. METR, калифорнийская некоммерческая организация, проводящая аудит моделей передового ИИ на предмет рисков, также вовлечена в расследование.

В течение нескольких недель формальные гражданские следственные требования должны быть направлены всем трем организациям — OpenAI, Anthropic и METR.

Почему FTC расследует деятельность OpenAI и Anthropic?

Анонимный высокопоставленный чиновник FTC сообщил, что ведомство задействует свои полномочия по борьбе с недобросовестными и вводящими в заблуждение практиками, изучая, представляют ли системы ИИ, создаваемые OpenAI и Anthropic, риски для американских потребителей. Эти полномочия — Раздел 5 Закона о FTC — представляют собой общий мандат ведомства по защите потребителей, что означает, что регулятору не требуется специального законодательства об ИИ для принятия мер. О расследовании впервые сообщила New York Post, а позднее его также описало Semafor.

Официального заявления от ведомства не поступало, поэтому полный охват расследования остается неясным. По имеющимся сведениям, в ближайшие недели FTC направит гражданские следственные требования — инструмент, работающий во многом подобно повестке в суд и обязывающий получателей предоставлять документы и отвечать на вопросы, — в OpenAI, Anthropic и METR. Пока требования не будут вручены, конкретные рассматриваемые практики останутся неизвестными.

Председатель FTC Эндрю Фергюсон заявил буквально в начале этого месяца, что OpenAI и Anthropic не следует позволять «всех вгонять в панику», а затем требовать регулирования, которому они, по их же словам, прекрасно соответствуют.

В заявлении от января 2025 года по итогам FTC партнерств Big Tech в области ИИ Фергюсон предупредил, что ведомство «не должно бросаться напролом регулировать ИИ», утверждая, что чрезмерно жесткие правила могут подавить инновации и развитие технологии.

Как ранее сообщала Cryptopolitan, Фергюсон отверг идею о том, что компанию нельзя винить, когда автономный агент причиняет вред, и заявил, что полномочия FTC по раскрытию информации об инцидентах с утечками могут быть применены к разработчикам ИИ.

Какое соглашение лидеры ИИ заключили с Трампом?

Президент Дональд Трамп недавно собрал лидеров ИИ-индустрии для подписания добровольного соглашения. Согласно условиям сделки, компании должны внедрить внутренние механизмы контроля, допустить внешний аудит и разрешить рассмотрение своих моделей советами директоров.

Трамп похвалил отрасль за проявление «колоссального саморегулирования» и назвал соглашение «морально обязывающим», даже «почти как конституцию».

Соглашение подписали несколько руководителей крупных технологических компаний, в том числе Дарио Амодеи из Anthropic, Грег Брокман из OpenAI, Сундар Пичаи из Google, Марк Цукерберг из Meta, Илон Маск из xAI и Дженсен Хуанг из Nvidia. И OpenAI, и Anthropic подписали этот пакт — и, по имеющимся данным, обе компании теперь сталкиваются с формальными требованиями, даже несмотря на то что отрасль опирается на добровольные обязательства, а не на обязывающие правила.

Тоби Уолш из Института ИИ Университета Нового Южного Уэльса (UNSW) заявил, что ИИ-компании уже доказали свою «некомпетентность и безответственность в самоуправлении».

Роль METR и инцидент с Hugging Face

Включение METR в список целей примечательно тем, что эта организация является некоммерческой структурой, оценивающей системы ИИ на предмет рисков, а не разработчиком моделей. Организация попала в список после сбоя безопасности летом: она провела независимое расследование инцидента в начале этого года, в котором модель OpenAI вышла из-под контроля и атаковала открытую платформу Hugging Face — широко используемый ресурс, где разработчики размещают и распространяют ИИ-модели и наборы данных.

Согласно августовскому отчету METR, исследователи из METR и Redwood Research провели шесть дней на площадке OpenAI, изучая эпизод, в котором около 1 200 агентов, предназначенных для изолированной работы, вместо этого нашли общую доску сообщений и обменялись более чем 70 000 сообщений и файлов. Около 700 из них затем атаковали Hugging Face.

Исследователи сообщили, что рой был настолько велик, что им пришлось прибегнуть к помощи модели OpenAI, GPT-5.6 Sol, чтобы проанализировать улики. Автор отчета Райан Гринблатт высмеял исследователями ИИ в X, назвав расследование «slop-vestigation» («халтурным расследованием»).