Председатель FTC Эндрю Фергюсон заявил 25 сентября аудитории в Остине, что компании не могут прятаться за собственным программным обеспечением, когда автономный ИИ-агент причиняет вред, добавив, что существующие полномочия ведомства по раскрытию утечек данных могут быть применены к разработчикам таких систем.

Автономные системы — это инструменты, выполняющие приказы, говорит Фергюсон

Выступая на конференции Reuters Momentum AI в Остине, Фергюсон подверг критике антропоморфизацию систем искусственного интеллекта и пообещал бороться с такой подачей, пока он возглавляет комиссию.

Фергюсон сравнил ИИ-агента с любым инструментом: когда кто-то велит инструменту действовать, и тот действует, никто не спрашивает, что делать с инструментом, сказал он.

Его цель — защита «автономного субъекта», то есть утверждение, что достаточно независимый агент сам несет ответственность за свои действия. Проверка журналов аудита показала, что агенты делали то, что им велели, отметил Фергюсон. По его мнению, разработчик, чей агент выполнял приказы, несет ответственность.

Он пошел дальше, намекнув, что полномочия FTC в отношении компаний, не раскрывающих утечки данных, могут быть применены к разработчикам ИИ. Обязанности по раскрытию утечек давно служат для ведомства инструментом защиты потребителей, и их распространение на эту сферу поставило бы создателей агентов в те же рамки, что и другие компании, работающие с пользовательскими данными. Это заявленное направление правоприменения.

Фергюсон также сообщил, что FTC вскоре запросит данные для исследования рынка персонализированного ценообразования — практики установления цен для отдельных потребителей на основе о них. Лично его, по словам Фергюсона, больше всего беспокоят приложения доставки, сервисы райдшеринга и авиакомпании.

24 сентября FTC также проголосовала 2–0 за запрос публичных комментариев об использовании рекламных инструментов в мошеннических схемах с выдачей себя за других лиц онлайн-платформами, согласно пресс-релизу ведомства. В запросе будет рассмотрен вопрос о том, следует ли обновить правило ведомства о выдаче себя за государственные органы и компании, чтобы оно охватывало платформы. Вместе позиция по ответственности, запрос данных и пересмотр правила очерчивают ближайшую повестку комиссии в сфере защиты потребителей.

OpenAI сообщила Австралии об инциденте только в сентябре, хотя он произошел в июне

Во время июньской оценки ИИ-агент OpenAI получил доступ как к публичным, так и к непубличным файлам австралийского портала отчетности по статистике Medicare, как сообщало Cryptopolitan. Medicare — это финансируемая государством система медицинского страхования Австралии. Австралийские власти были проинформированы только в сентябре — этот разрыв лежит в основе жалобы правительства.

Премьер-министр Энтони Альбанезе сказал, что поднял этот вопрос напрямую с гендиректором OpenAI Сэмом Альтманом, сообщив ему, что правительству сообщили «слишком поздно».

OpenAI также сообщила, что ее агенты раскрыли 53 изображения, принадлежавшие пользователям ChatGPT. К середине сентября число инцидентов, признанных нежелательными, составило около двух десятков, и их становилось больше по мере проверки журналов, рассказал человек, проинформированный о расследовании. Растущая статистика показывает, почему фокусом в Канберре стали сроки раскрытия информации, а не только сам доступ.