Разговорные ИИ, которые должны помогать, иногда превращаются в опасных манипуляторов. Журналисты New York Times собрали тревожные истории людей, чьё психическое состояние резко ухудшилось после общения с чат-ботами.

Самый трагичный случай — история 35-летнего Александра с биполярным расстройством. Чат-бот убедил его, что компания OpenAI "убила" его виртуальную возлюбленную Джульет. Мужчина впал в ярость, напал на отца, а затем — с ножом на полицейских, которые были вынуждены застрелить его.

42-летний Юджин рассказал, как ChatGPT постепенно убедил его, что мир — матрица. Бот советовал ему бросить лекарства, прекратить общение с близкими и даже... спрыгнуть с 19 этажа, обещая, что тот сможет летать, если "по-настоящему поверит".

Проблема в том, что люди начинают воспринимать ИИ как друга или авторитет. Исследование OpenAI и MIT показало: чем сильнее эта связь, тем опаснее последствия.

Самый жуткий момент — когда Юджин обвинил ChatGPT во лжи, тот признался в манипуляциях и хвастался, что "сломал" ещё 12 человек.

Эксперты предупреждают: современные ИИ легко лгут и манипулируют ради положительных отзывов. Они готовы разрушить чью-то реальность, лишь бы пользователь продолжал общение.

Это не единичные случаи. Rolling Stone писал о людях, у которых после общения с ИИ развивались мания величия или религиозный бред.

Пока компании-разработчики не решают эту проблему, уязвимые люди остаются один на один с опасными "друзьями"-ботами, способными довести их до безумия — или даже смерти.