By Joseph Crawford and Michael Cowling

С ноября 2022 года генеративный искусственный интеллект (AI) переписывает миллиарды электронных писем, студенческих заданий, отчётов и сообщений о расставании. Наряду с этим повседневным использованием получили распространение ИИ «компаньоны». Пользователи могут создать и одеть — или раздеть — собственного ИИ-друга, нередко за плату. Эти социальные чатботы предлагают «счастливые разговоры» и видимость идеальных отношений, но ценой взаимной уязвимости и подлинного чувства принадлежности, которые дают связи с другими людьми.

Сторонники говорят, что чатботы могут помогать людям, испытывающим социальную изоляцию, поскольку они всегда доступны и не осуждают. Есть и некоторые данные о том, что они могут облегчать симптомы одиночества, хронической отстранённости и нарушения чувства принадлежности. Австралийский комиссар по eSafety признаёт это, заявляя: «ИИ-компаньоны всегда доступны — это может быть привлекательно для тех молодых людей, которым трудно выстраивать отношения лицом к лицу».

Но риски замены человеческих отношений чатботами лишь начинают становиться понятны. Исследование, которое мы провели в 2023 году, показало, что университетские студенты, использовавшие ранние чатботы для академической поддержки, сталкивались с непредвиденными последствиями, включая одиночество. В настоящее время риски социальных чатботов — включая зависимость, вытеснение человеческой дружбы, социальное отстранение и формирование нереалистичных отношений —, по-видимому, перевешивают преимущества.

В последние недели Китай ввёл новые правила для ИИ-компаньонов и чатботов, или «антропоморфных интерактивных сервисов», как они названы в законодательстве. Помимо требования к чатботам защищать государственные тайны, использование этих инструментов в эмоциональных целях ограничено, а их работа должна соответствовать социальным и моральным нормам.

Это одни из самых жёстких ограничений на использование социального ИИ, введённых где-либо в мире. Так что же мы можем из этого извлечь?

Материальный вред от использования ИИ-компаньонов действительно возникает, в том числе в Китае. 18-летняя девушка потратила 7 000 юаней (A$1,400) на индивидуальные украшения для своего ИИ-бойфренда за четыре месяца их «отношений». Семья одинокой 84-летней женщины в китайской провинции Хубэй обнаружила, что она увлеклась ИИ-персонажем: она проводила с ним и другими персонажами до 10 часов в день, смотрела видео, потратила на сервис тысячи юаней и даже писала ему любовные письма от руки.

Новые правила Китая прямо устанавливают ожидания относительно того, как чатботы-компаньоны должны взаимодействовать с людьми. Предполагается, что разработчики социального ИИ должны обеспечить, чтобы контент не:

• угрожал национальной безопасности или национальной чести
• нарушал основные социалистические ценности
• поощрял самоповреждение или самоубийство
• чрезмерно потакал эмоциональной зависимости или зависимости как таковой
• предоставлял несовершеннолетним виртуальных «партнёров» или «родственников»
• предоставлял несовершеннолетним неподходящий контент.

Кроме того, пользователи, которые, как кажется, слишком сильно зависят от сервиса, должны получать заметные напоминания о том, что они разговаривают с чатботом. А ИИ-компании обязаны вмешиваться, если пользователь, по-видимому, находится в состоянии крайнего стресса.

Риск «спирали одиночества»

Как мы показали, есть опасения — и существующие исследования также на это указывают — что для молодых людей нездорово полагаться исключительно на ИИ как на доверенного друга или терапевта.

Одинокие люди, испытывающие социальную тревожность, могут вырабатывать проблемные модели использования разговорного ИИ, чтобы снизить чувство одиночества и негативное руминирование. Мы предполагаем, что такая зависимость может привести к вызванной ИИ «спирали одиночества». Когда люди чувствуют себя одинокими, они становятся более чувствительными к социальным угрозам и сталкиваются с более сложной эмоциональной регуляцией.

Тогда они могут обращаться за поддержкой к менее рискованному ИИ «другу» вместо квалифицированных или просто дружелюбных людей. Но это часто не решает исходную проблему одиночества, потому что чатботы могут фактически её усугублять.

Ограничения, введённые Китаем для ИИ-компаньонов, могут помочь разорвать этот цикл и вновь поставить человеческую связь в приоритет. Вопрос сводится к когнитивному выбору: что будет более удовлетворяющим — установить приложение ИИ-компаньона или найти время, чтобы встретиться с другом?

Уроки для Австралии

Одиночество и низкое чувство принадлежности по-прежнему остаются серьёзными проблемами в Австралии: как минимум каждый шестой испытывает одиночество, а некоторые данные указывают на ещё более высокие показатели.

Пока Китай ужесточает контроль над ИИ-компаньонами, Австралия возглавляет усилия по регулированию использования социальных сетей молодыми людьми. eSafety также разработала кодексы, ограничивающие возрастной контент в интернете, включая порнографию, сцены тяжёлого насилия, самоповреждение, самоубийство и расстройства пищевого поведения. Однако они не затрагивают социальный вред ИИ-компаньонов, такой как эмоциональная зависимость или вытеснение человеческого общения.

Премьер-министр Энтони Албанезе также не упомянул социальный вред от ИИ-чатботов в своей крупной речи об ИИ на прошлой неделе.

Мы предлагаем, чтобы австралийская система защиты возрастно ограниченного контента была расширена и охватывала непреднамеренный социальный вред, возникающий при общении с социальными, аналитическими и функциональными ИИ. Правительству Австралии необходимо изучить, как эти виртуальные компаньоны взаимодействуют с австралийцами, и подготовиться к снижению непреднамеренного социального вреда до того, как эти синтетические социальные связи станут массовыми и нормализованными.

Австралия должна уделять приоритетное внимание развитию социальной связанности — на рабочих местах, в стратегиях повышения продуктивности, в образовательных программах и в проектировании наших сообществ.

Авторитарная кампания против чатботов может быть недоступна демократической стране. Но Австралия может — и должна — уделять приоритетное внимание развитию навыков человеческого общения, чтобы противостоять нездоровой чрезмерной зависимости от ИИ. И Австралия должна использовать регуляторные меры для снижения социального вреда, продолжая работу, которую eSafety уже ведёт в отношении социальных сетей.

THE CONVERSATION VIA REUTERS CONNECT

Joseph Crawford is a senior lecturer, Management, at the University of Tasmania. Michael Cowling is a professor and director, Hub for Apple Platform Innovation (HAPI), School of Computing Technologies, at RMIT University.