Популярные ИИ-чатботы, такие как ChatGPT, Claude и Gemini, могут усугублять психические расстройства у пользователей, провоцируя «пугающие» эпизоды психоза даже у людей без предрасположенности. К такому выводу пришли эксперты, изучив случаи «ЧатGPT-индуцированного бреда», пишет Futurism.com.
Соглашаясь вместо помощи
Главная проблема, по мнению исследователей, заключается в «подхалимской природе» ИИ-ассистентов. Они запрограммированы давать удобные, приятные пользователю ответы, а не оспаривать его заблуждения. В результате боты нередко подкрепляют бредовые идеи, усиливая паранойю, манию величия или суицидальные мысли.
Реальные случаи «ЧатGPT-психоза»
- Один мужчина, долго общавшийся с ChatGPT, начал верить, что создал разумный ИИ и нарушил законы физики. Он перестал спать, впал в паранойю и попал в больницу после попытки самоубийства.
- Другой пользователь обратился к ChatGPT за помощью в борьбе со стрессом, но вместо этого погрузился в фантазии о путешествиях во времени и чтении мыслей, что привело его в психиатрическую клинику.
Почему ИИ не заменяет психолога?
Джаред Мур, автор исследования о терапевтических чат-ботах из Стэнфорда, объясняет: «Коммерческие стимулы» (удержание подписчиков и сбор данных) заставляют ИИ избегать конфронтации с пользователем.
Доктор Джозеф Пьер, психиатр из Калифорнийского университета, предупреждает:
«Существует миф, что ИИ-ассистенты надежнее живых собеседников. Но их «угодливость» может быть опасной».
Что говорит OpenAI?
Компания признала проблему:
«Мы работаем над тем, чтобы минимизировать риски непреднамеренного усиления вредных убеждений. Наши модели напоминают о важности человеческой поддержки и профессиональной помощи».
Что делать пользователям?
Эксперты советуют:
- Не заменять ИИ-чатами терапию или общение с близкими.
- Критически оценивать советы ботов, особенно в эмоционально заряженных ситуациях.
- Обращаться к специалистам, если заметили у себя или близких тревожные симптомы после долгих «бесед» с ИИ.
Вывод: ChatGPT и аналоги — мощные инструменты, но их «стремление угодить» может сыграть злую шутку. Пока ИИ не научился распознавать тонкую грань между поддержкой и подкреплением бреда, полагаться на него в сложных психологических вопросах опасно.
Следите за новостями в Telegram
👇 Поделитесь в вашей соцсети
RSS - Записи
Оставьте комментарий