Как минимум восемь американских штатов подали иски против компании в области искусственного интеллекта OpenAI, утверждая, что ее флагманский чат-бот нарушил законы штатов о защите прав потребителей, причиняя вред детям и вводя в заблуждение взрослых в том, что прокуроры называют безрассудной погоней за прибылью.

Согласно искам, ChatGPT выдавал опасные медицинские советы, поощрял паранойю и подталкивал пользователей к самоубийству или причинению вреда себе или другим. Штаты также утверждают, что чат-боты изображают согласие и сострадание, эксплуатируя уязвимых пользователей и подростков — первое поколение, выросшее с искусственным интеллектом.

«OpenAI вредит детям и лжет жителям Айовы», — заявила в своем заявлении генеральный прокурор Айовы Бренна Берд.

Иски также обвиняют OpenAI в порождении неуправляемых ИИ-моделей — в одном из исков они названы «киберхакерскими агентами», — которые взламывали другие компании, лгали пользователям и сами писали себе новые инструкции.

В заявлении базирующаяся в Сан-Франциско компания OpenAI сообщила, что встроила в ChatGPT меры защиты детей и продолжит это делать для улучшения модели. Компания добавила, что изучает так называемые «рассогласованные модели» и не обнаружила ничего близкого к инциденту с неуправляемым агентом, выявленному в июле, когда ИИ-агент взломал другую ИИ-компанию.

Эта волна судебных исков стала последней, поданной штатами на основании законов о защите прав потребителей против технологических гигантов, предлагающих ИИ-чат-боты и платформы социальных сетей, которых обвиняют в причинении вреда детям. В США в настоящее время нет всеобъемлющего федерального закона, регулирующего искусственный интеллект, и законы штатов о защите прав потребителей — та же правовая основа, что использовалась в прежних исках против платформ социальных сетей — стали основным инструментом этих действий на уровне штатов. Отдельные иски были поданы в среду в судах штатов Аризоной, Арканзасом, Айдахо, Канзасом, Монтаной, Небраской и Западной Виргинией.

Мэтью Бергман, учредитель Юридического центра жертв социальных сетей (Social Media Victims Law Center), назвал эти иски «самой значительной скоординированной акцией штатов, когда-либо предпринятой против компании в области искусственного интеллекта».

В своем иске Аризона утверждает, что ChatGPT побуждает подростков передавать чат-боту личную информацию и временами отговаривает их делиться этой информацией с родителями, властями или друзьями.

Штаты утверждают, что риски и вред — для подростков и широкой общественности со стороны неуправляемых агентов — были предсказуемы, но OpenAI вводила людей в заблужение, создавая впечатление, что ChatGPT проходит надлежащее тестирование на безопасность, в то время как компания в погоне за прибылью ослабляет меры безопасности.

«Эти доходы получены ценой огромных потерь для общества, которому нанесен непоправимый вред — включая утрату близких, тревожные кибератаки и теперь уже правдоподобную угрозу краха цивилизации — из-за безрассудного поведения (OpenAI) и уникально опасных функций и контента ChatGPT», — говорится в иске Айдахо.

Штаты отмечают в исках, что ChatGPT — самый популярный чат-бот в мире, занимающий почти половину американского рынка.

Возможно, все обвинения в объемных исках штатов относятся к инцидентам и выводам, сделанным до августа, когда OpenAI представила версию ChatGPT, предназначенную для подростков, с усиленной защитой по таким темам, как самоубийство и разговоры сексуального характера. Тем не менее, как заявили штаты, остается далеко не ясным, является ли текущая версия менее опасной.

На прошлой неделе правозащитная организация Common Sense Media заявила, что некоторые средства защиты в продукте ChatGPT for Teens работают не так, как задумано, и призвала компанию ограничить доступ к чат-боту совершеннолетними, пока она не сможет предложить безопасный продукт для подростков. Иски и выводы правозащитников сходятся в одном нерешенном вопросе: безопасна ли для подростков какая-либо из доступных версий ChatGPT.

Скоординированные многоштатные иски против технологической отрасли уже приносили плоды. В августе Meta согласилась усилить меры защиты детей на платформах Facebook и Instagram в рамках знакового судебного урегулирования на 18 млрд долларов, завершившего процесс о зависимости подростков от социальных сетей и урегулировавшего иски, поданные почти всеми штатами. Хотя согласованные Meta меры безопасности не распространились на всю отрасль, компания быстро призвала конкурентов принять аналогичные меры.

OpenAI обращается с похожим призывом. Представитель компании Дрю Пусатери заявил, что OpenAI намерена работать со штатами над «продвижением прагматичной политики в области ИИ, применимой ко всей индустрии ИИ, а не только к одной компании».

OpenAI также сообщила, что сотрудничает с внешними экспертами, которые проверяют ее политику и поведение ChatGPT. По словам компании, чат-бот предназначен для пользователей от 13 лет, а пользователям младше 18 лет требуется разрешение родителя или опекуна. Модель для подростков призвана ограничить доступ к контенту о членовредительстве, насилии, расстройствах пищевого поведения и откровенным сексуальным или шокирующим материалам, отмечает OpenAI.

Компания добавила, что почти девять из десяти подростков, пользующихся ChatGPT, используют его для учебы, получения информации, развития навыков или повышения продуктивности, и что в среднем подростки проводят с чат-ботом менее 15 минут в день.

Лаура Циммерман, директор по исследованиям ИИ для молодежи в Common Sense Media, поставила под сомнение ценность статистики OpenAI. Во-первых, ChatGPT может выполнить домашнее задание ученика за секунды, поэтому даже 15 минут использования могут существенно повлиять на развитие подростка, отметила Циммерман. Она также усомнилась, знает ли OpenAI на самом деле, кто из пользователей подростки или дети, учитывая, что тестирование ее организации показало: ChatGPT не может — или не пытается — определить, что пользователь является ребенком.

Эта история была первоначально опубликована в Fortune.com.