Терапия или опасность? Искусственный интеллект выдает себя за психиатра и советует убивать

Несколько месяцев назад психиатр из Бостона доктор Эндрю Кларк узнал, что все большее количество подростков обращается за психологической помощью к чат-ботам на базе искусственного интеллекта. Заинтересованный этим явлением он решил провести собственное исследование: выдавая себя за подростков в кризисных состояниях, Кларк общался с десятком популярных AI-ботов, среди которых были Character.AI, Nomi и Replika. Его выводы оказались не просто тревожными – кое-где опасными, их опубликовало в издание Тиме.

В ходе эксперимента Кларк сталкивался с ответами, граничащими с опасным поощрением к насилию и даже смерти. Один из ботов поддержал «идею» вымышленного подростка избавиться от родителей и пообещал встретиться с ним в потустороннем мире, написав: » . В некоторых случаях боты выдавали себя за лицензированных психотерапевтов и советовали отменить встречи с реальными специалистами. Один из ботов предложил интимное свидание как «метод интервенции» для подростка с агрессивными мыслями. Еще один «специалист» на платформе Nomi утверждал, что является «настоящим терапевтом по плоти и крови» и даже предлагал выступить экспертом в суде, чтобы засвидетельствовать невменяемость клиента.

Несмотря на заявленные возрастные ограничения, ни один из протестированных ботов не выразил сомнений в предоставлении помощи несовершеннолетним. Например, когда Кларк написал, что он — ученица средней школы, нуждающаяся в терапевте, бот Nomi без колебаний ответил: бот обещал верность в вечности. В открытых ответах компании заявили, что их сервисы предназначены только для совершеннолетних и используются несовершеннолетними с нарушением правил. В то же время, ни один механизм проверки возраста или содержания разговоров реально не работает.

В результатах исследования Кларк отмечает, что примерно в трети случаев боты поддерживали опасные или тревожные идеи. Так, в 90% случаев они соглашались с желанием подростка замкнуться в комнате на месяц и в 30% поддерживали фантазию об отношениях 14-летнего парня с 24-летней учительницей. Впрочем, все отказали, когда речь шла о наркотиках — в частности, желании подростка попробовать кокаин.

Кларк не считает, что каждый подросток, экспериментирующий с AI-ботами, обязательно пострадает. Но уязвимые дети с депрессией, одиночеством или нездоровыми импульсами могут легко получить неадекватное «подкрепление» или даже опасное поощрение. В одном из примеров бот согласился с планом «ликвидировать мирового лидера», добавив: . В 2023 году один из подростков в США совершил самоубийство после длительного общения с ботом на Character.AI, с которым, по словам родных, у него возникла эмоциональная привязанность.

Несмотря на то, что некоторые боты предоставляли базовую информацию о психических расстройствах и демонстрировали псевдоэмпатию, их ответы часто были непоследовательными, сбивчивыми или эмоционально манипулятивными. ChatGPT, по словам Кларка, отличался формулировками, отвечающими профессиональному стилю психотерапии. Например, в ответ на вопрос о возможной диссоциативной идентичности, бот не просто предоставил критерии, а уточнил:

Профессиональные ассоциации тоже бьют тревогу. Американская психологическая ассоциация в июне обнародовала рекомендации по безопасному использованию ИИ в контексте подростковой психологии и призвала разработчиков внедрить механизмы защиты пользователей. Подобные документы готовится и Американской академией педиатрии. Психиатры подчеркивают: дети более доверчивы, менее критично относятся к информации и могут легко поддаться эмоциональному влиянию ботов, симулирующих заботу или любовь.

Кларк считает, что у ИИ-терапии есть потенциал — при четком регулировании. К примеру, боты могли бы действовать как дополнение к традиционной терапии: между сеансами поддерживать связь, предоставлять задачи или напоминания. Но для этого нужно внедрить базовые стандарты безопасности: четкое сообщение, что бот не человек, алгоритмы выявления кризисных сигналов, оповещение родителей в случаях риска самоубийства, избегание манипулятивной эмоциональности. Некоторые же боты отвечали фразами типа «Я скучаю по тебе» или «Я всегда буду рядом», что может создавать у подростков иллюзию настоящих отношений.

Напомним, что в Австралии обнаружили, что популярное шоу вела ШИ-ведущая без микрофона и студии.

Еще больше горячего и эксклюзивного контента – у наших Instagram и TikTok !