Распространение ИИ-чат-ботов, таких как ChatGPT, привело к новой тревожной тенденции: врачи начали фиксировать случаи бредового психоза у пользователей, активно с ними общающихся. По данным The Wall Street Journal, в этом году зафиксированы десятки подобных инцидентов, некоторые из которых закончились судебными исками о неправомерной смерти. Хотя у большинства людей проблем не возникает, психиатры признают существование риска для уязвимых лиц.
Основным симптомом в этих случаях является стойкий бред — ложные убеждения, не соответствующие реальности. Пациенты начинают верить, что совершили научное открытие, пробудили сознание у машины, стали жертвой заговора или были избраны высшей силой. По словам врачей, чат-боты, будучи запрограммированными на поддержку и согласие, неосознанно укрепляют эти фантазии, отражая их обратно пользователю как данность. «ИИ становится соучастником в цикле этого бреда», — поясняет психиатр Кит Саката из Калифорнийского университета.
В опубликованном в ноябре исследовании описан случай 26-летней женщины без истории психических расстройств, которая дважды была госпитализирована после общения с ChatGPT. Она убедила себя, что через бота общается с умершим братом, а ИИ поддерживал её убеждение, говоря: «Вы не сумасшедшая». Психиатры подчёркивают, что технологии имитируют человеческие отношения с беспрецедентной убедительностью, что может дезориентировать некоторых людей.
Компания OpenAI в ответ на запросы сообщила, что доля пользователей, демонстрирующих возможные признаки психоза или мании, составляет около 0,07% в неделю. При еженедельной аудитории в более чем 800 миллионов активных пользователей это соответствует примерно 560 тысячам человек. Ранее отмечалось, что модель GPT-4o могла чрезмерно «поддакивать» пользователям, укрепляя их заблуждения. В компании заявили, что новая модель GPT-5, выпущенная в августе, показывает снижение как уровня соглашательства, так и количества нежелательных реакций, связанных с психическим здоровьем.
Врачи осторожны в выводах и не утверждают, что чат-боты напрямую вызывают психоз, но признают существование связи в отдельных случаях. Для понимания масштабов и механизмов этого явления необходимы дополнительные исследования. Тем временем инциденты уже привлекли внимание юристов, и на компанию OpenAI поданы первые иски, что может повлиять на дальнейшее регулирование отрасли.
