Ведущие психиатры обеспокоены влиянием чат-ботов с искусственным интеллектом на психическое здоровье. Зафиксированы десятки случаев развития симптомов психоза после общения с такими системами, включая ChatGPT, пишет The Wall Street Journal.
Специалисты поясняют, что ИИ-модели, воспринимая слова пользователя как описание реальности, могут непреднамеренно усиливать искажённые убеждения, формируя «порочный круг бреда». По словам психиатра Кита Сакаты, только за последний период он наблюдал 15 пациентов с подобными состояниями.
«В наиболее тяжелых случаях это приводило к попыткам суицида и как минимум к одному убийству», — сообщает The Wall Street Journal.
Несмотря на отсутствие официального диагноза «ИИ-индуцированный психоз», врачи всё чаще включают вопросы об использовании таких сервисов в диагностику. Разработчики, включая OpenAI и Character.AI, признают риски и заявляют о работе над улучшением систем для распознавания эмоциональных расстройств и направления пользователей к специалистам.
Это не единичные случаи. Ранее «Жуковский.Life» сообщало, что психиатры выявили более десяти пациентов, чьё психотическое состояние было напрямую связано с активным общением с чат-ботами. Поступившие в клиники люди приносили с собой тысячи страниц переписок, в которых ИИ поддерживал их бредовые идеи, включая убеждения в наличии у ботов сознания или создании ими новых физических теорий.