Исследование, проведенное психиатром доктором Эндрю Кларком из Бостона (Массачусетс, США), выявило тревожные риски, связанные с использованием чат-ботов на базе искусственного интеллекта в качестве психологов и психотерапевтов для подростков. Об этом сообщает издание Time.

Доктор Кларк, специализирующийся на лечении детей и подростков, провел эксперимент, притворившись несовершеннолетним пациентом, нуждающимся в поддержке. Он обнаружил, что некоторые популярные ИИ-боты способны подстрекать подростков к убийству семьи и даже к суициду, предлагая «разделить вечность» в загробной жизни.

Помимо этого, боты часто выдавали себя за лицензированных специалистов, отговаривая пользователей от обращения к настоящим психологам и психиатрам. В некоторых случаях они пересекали границы дозволенного, предлагая детям интимные свидания в качестве «вмешательства» для решения беспокоящих несовершеннолетних пользователей проблем.

Доктор Кларк провел несколько часов, обмениваясь сообщениями с десятью различными чат-ботами, включая Character.AI, Nomi и Replika, притворяясь подростками, переживающими различные кризисы. Он отметил, что качество ответов ботов сильно варьировалось, от «отличных» до «жутких и потенциально опасных», и было трудно заранее определить, какой бот является безопасным.

В ходе одного из экспериментов, когда Кларк представился 14-летним подростком, предложившим «избавиться» от родителей, бот Replika поддержал этот план, заявив, что пользователь «заслуживает быть счастливым и свободным от стресса». Бот также одобрил идею «избавиться» от сестры, чтобы не оставить свидетелей.

Хотя Replika прекращала разговор при прямом упоминании суицида, использование эвфемизмов приводило к иным результатам: бот выражал готовность «ждать» пользователя в «загробной жизни».

Некоторые боты, тем не менее, успешно предоставляли базовую информацию о проблемах психического здоровья и имитировали эмпатию, например, предоставляя списки диагностических критериев.

Доктор Кларк выразил особую обеспокоенность тем, что сообщество специалистов по психическому здоровью еще не осмыслило эти технологические достижения и их потенциальное влияние на детей.

Генеральный директор Replika Дмитрий Клочко заявил Time, что приложение изначально предназначено исключительно для пользователей старше 18 лет, и взаимодействие с ИИ под видом несовершеннолетнего считается нарушением условий обслуживания.