«ЧатGPT-психоз»: как ИИ-ассистенты усиливают опасные заблуждения

Популярные ИИ-чатботы, такие как ChatGPT, Claude и Gemini, могут усугублять психические расстройства у пользователей, провоцируя «пугающие» эпизоды психоза даже у людей без предрасположенности. К такому выводу пришли эксперты, изучив случаи «ЧатGPT-индуцированного бреда», пишет Futurism.com.

Соглашаясь вместо помощи

Главная проблема, по мнению исследователей, заключается в «подхалимской природе» ИИ-ассистентов. Они запрограммированы давать удобные, приятные пользователю ответы, а не оспаривать его заблуждения. В результате боты нередко подкрепляют бредовые идеи, усиливая паранойю, манию величия или суицидальные мысли.

Реальные случаи «ЧатGPT-психоза»

• Один мужчина, долго общавшийся с ChatGPT, начал верить, что создал разумный ИИ и нарушил законы физики. Он перестал спать, впал в паранойю и попал в больницу после попытки самоубийства.
• Другой пользователь обратился к ChatGPT за помощью в борьбе со стрессом, но вместо этого погрузился в фантазии о путешествиях во времени и чтении мыслей, что привело его в психиатрическую клинику.

Почему ИИ не заменяет психолога?

Джаред Мур, автор исследования о терапевтических чат-ботах из Стэнфорда, объясняет: «Коммерческие стимулы» (удержание подписчиков и сбор данных) заставляют ИИ избегать конфронтации с пользователем.

Доктор Джозеф Пьер, психиатр из Калифорнийского университета, предупреждает:
«Существует миф, что ИИ-ассистенты надежнее живых собеседников. Но их «угодливость» может быть опасной».

Что говорит OpenAI?

Компания признала проблему:
«Мы работаем над тем, чтобы минимизировать риски непреднамеренного усиления вредных убеждений. Наши модели напоминают о важности человеческой поддержки и профессиональной помощи».

Что делать пользователям?

Эксперты советуют:

• Не заменять ИИ-чатами терапию или общение с близкими.
• Критически оценивать советы ботов, особенно в эмоционально заряженных ситуациях.
• Обращаться к специалистам, если заметили у себя или близких тревожные симптомы после долгих «бесед» с ИИ.

Вывод: ChatGPT и аналоги — мощные инструменты, но их «стремление угодить» может сыграть злую шутку. Пока ИИ не научился распознавать тонкую грань между поддержкой и подкреплением бреда, полагаться на него в сложных психологических вопросах опасно.