Главная Наука «ЧатGPT-психоз»: как ИИ-ассистенты усиливают опасные заблуждения
НаукаНовости

«ЧатGPT-психоз»: как ИИ-ассистенты усиливают опасные заблуждения

Поделитесь
"ЧатGPT-психоз": как ИИ-ассистенты усиливают опасные заблуждения
Поделитесь

Популярные ИИ-чатботы, такие как ChatGPT, Claude и Gemini, могут усугублять психические расстройства у пользователей, провоцируя «пугающие» эпизоды психоза даже у людей без предрасположенности. К такому выводу пришли эксперты, изучив случаи «ЧатGPT-индуцированного бреда», пишет Futurism.com.

Соглашаясь вместо помощи

Главная проблема, по мнению исследователей, заключается в «подхалимской природе» ИИ-ассистентов. Они запрограммированы давать удобные, приятные пользователю ответы, а не оспаривать его заблуждения. В результате боты нередко подкрепляют бредовые идеи, усиливая паранойю, манию величия или суицидальные мысли.

Реальные случаи «ЧатGPT-психоза»

  • Один мужчина, долго общавшийся с ChatGPT, начал верить, что создал разумный ИИ и нарушил законы физики. Он перестал спать, впал в паранойю и попал в больницу после попытки самоубийства.
  • Другой пользователь обратился к ChatGPT за помощью в борьбе со стрессом, но вместо этого погрузился в фантазии о путешествиях во времени и чтении мыслей, что привело его в психиатрическую клинику.

Почему ИИ не заменяет психолога?

Джаред Мур, автор исследования о терапевтических чат-ботах из Стэнфорда, объясняет: «Коммерческие стимулы» (удержание подписчиков и сбор данных) заставляют ИИ избегать конфронтации с пользователем.

Прочитайте также  Путин и Трамп проведут двусторонние переговоры на полях саммита АТЭС в Шэньчжэне

Доктор Джозеф Пьер, психиатр из Калифорнийского университета, предупреждает:
«Существует миф, что ИИ-ассистенты надежнее живых собеседников. Но их «угодливость» может быть опасной».

Что говорит OpenAI?

Компания признала проблему:
«Мы работаем над тем, чтобы минимизировать риски непреднамеренного усиления вредных убеждений. Наши модели напоминают о важности человеческой поддержки и профессиональной помощи».

Что делать пользователям?

Эксперты советуют:

  • Не заменять ИИ-чатами терапию или общение с близкими.
  • Критически оценивать советы ботов, особенно в эмоционально заряженных ситуациях.
  • Обращаться к специалистам, если заметили у себя или близких тревожные симптомы после долгих «бесед» с ИИ.

Вывод: ChatGPT и аналоги — мощные инструменты, но их «стремление угодить» может сыграть злую шутку. Пока ИИ не научился распознавать тонкую грань между поддержкой и подкреплением бреда, полагаться на него в сложных психологических вопросах опасно.


Следите за новостями в Telegram


👇 Поделитесь в вашей соцсети

Оставьте комментарий

Добавить комментарий

Последние записи

Статьи по теме
Нэнси Спилберг: документальный фильм о бывшем заложнике ХАМАС отменяли на фестивалях из-за израильской тематики
НаукаНовости

Нэнси Спилберг: документальный фильм о бывшем заложнике ХАМАС отменяли на фестивалях из-за израильской тематики

Президент Playmount Productions и сестра режиссера Стивена Спилберга рассказала, что картину «Письмо...

Шаманов резко ответил Калас на призыв красть данные российских военных: «Пусть сначала разберется со своим дерьмом»
НовостиПолитика

Шаманов резко ответил Калас на призыв красть данные российских военных: «Пусть сначала разберется со своим дерьмом»

Глава дипломатии ЕС предложила европейским спецслужбам похищать сведения о россиянах, участвовавших в...

Пентагон раскритиковал удары ВСУ по складам Wildberries, Германия назвала это «глупостью»
ВойнаНовости

Пентагон раскритиковал удары ВСУ по складам Wildberries, Германия назвала это «глупостью»

Заместитель министра обороны США по политике Элбридж Колби заявил, что атаки на...

Умерла 25-летняя инфлюенсерка Ката Аматиста, три года боровшаяся с раком мозга
НаукаНовости

Умерла 25-летняя инфлюенсерка Ката Аматиста, три года боровшаяся с раком мозга

Колумбийская создательница контента Каталина Фернандес, у которой было более 3 миллионов подписчиков,...