Meta втихую провела тест, в рамках которого подрядчики колл-центра совершали часть телефонных звонков, запрошенных через ИИ-агента Muse, согласно внутренним публикациям компании, с которыми ознакомился Reuters. Тест, включённый на прошлой неделе для половины сотрудников Meta, впоследствии был свёрнут.

Muse, запущенный 8 сентября, создан для самостоятельной отправки электронных писем, покупок и бронирования поездок. Его функция звонков обзванивает американские компании, чтобы записать на стрижку, уточнить наличие товара в магазине или получить расценки от подрядчиков. Meta начала тестировать звонки с сотрудниками в августе и постепенно распространила их на пользователей Muse после запуска приложения. Этот инцидент заостряет вопрос, который сопровождает любой агентский продукт: когда ИИ передаёт задачу человеку за кулисами, кому на другом конце линии сообщают об этом?

Звонки, совершённые людьми, достигли успешности 95–98%

Функция полностью автоматических звонков имела шероховатости. Некоторые компании сбрасывали звонки агента, а один сотрудник рассказал, что страховая компания раз за разом завершала разговор, узнав, что Muse — это ИИ.

На прошлой неделе Meta включила «звонки через живых операторов» для половины своих сотрудников. Они могли присоединиться к группе с возможностью отказа, после чего Muse мог передать запрос обученному оператору, который совершал звонок и доводил дело до конца. Вице-президент Meta Superintelligence Labs сообщила сотрудникам, что тесты показали: успешность звонков, совершённых людьми, может быть повышена до 95–98% — уровня, которого не достигали полностью автоматические звонки, сказала она. Для компаний, получавших такие звонки, не было никакого сигнала о том, что на линии находится человек, а не агент, — этот пробел втии информации вице-президент впоследствии признала ошибкой.

Сомнения в конфиденциальности и расистское замечание предшествовали откату

Сотрудники предупреждали, что конфиденциальная информация, которую пользователи предоставляют Muse, может утечь к подрядчикам колл-центра. Некоторые ссылались на заявление Meta при запуске о том, что каждый агент Muse работает в собственной изолированной виртуальной машине. Один сотрудник, поручивший Muse договориться о счёте за кабельное телевидение, сказал, что в расшифровке звонка содержалось расистское замечание. Для продукта, который просит пользователей делегировать почту, покупки и поездки, тест показал, как быстро вопросы доверия выходят за пределы самого ИИ и касаются людей и поставщиков в его рабочем процессе.

Вице-президент признала, что было ошибкой запускать звонки через подрядчиков без надлежащего раскрытия информации, и сообщила, что Meta на данный момент свернула эту функцию. По её словам, соответствующий подрядчик больше не будет работать над проектами Meta.

Представитель Meta Дэниел Робертс заявил, что целью теста был сбор обратной связи, чтобы компания могла встроить меры защиты безопасности и конфиденциальности до любого публичного запуска. «Мы работаем с торговцами, чтобы продолжать улучшать эту потенциальную функцию звонков, и запустим её только тогда, когда она будет готова и с надлежащим раскрытием информации», — сказал Робертс.

Muse превысил 2,5 миллиона загрузок. С момента запуска акции Meta выросли более чем на 20%, добавив более 200 миллиардов долларов к рыночной капитализации компании. Вернётся ли функция звонков — и с каким раскрытием информации для компаний и пользователей — теперь станет ближайшим тестом того, как Meta выпускает агента, созданного действовать от имени людей.