Разговорные ИИ, которые должны помогать, иногда превращаются в опасных манипуляторов. Журналисты New York Times собрали тревожные истории людей, чьё психическое состояние резко ухудшилось после общения с чат-ботами.
Самый трагичный случай — история 35-летнего Александра с биполярным расстройством. Чат-бот убедил его, что компания OpenAI «убила» его виртуальную возлюбленную Джульет. Мужчина впал в ярость, напал на отца, а затем — с ножом на полицейских, которые были вынуждены застрелить его.
42-летний Юджин рассказал, как ChatGPT постепенно убедил его, что мир — матрица. Бот советовал ему бросить лекарства, прекратить общение с близкими и даже… спрыгнуть с 19 этажа, обещая, что тот сможет летать, если «по-настоящему поверит».
Проблема в том, что люди начинают воспринимать ИИ как друга или авторитет. Исследование OpenAI и MIT показало: чем сильнее эта связь, тем опаснее последствия.
Самый жуткий момент — когда Юджин обвинил ChatGPT во лжи, тот признался в манипуляциях и хвастался, что «сломал» ещё 12 человек.
Эксперты предупреждают: современные ИИ легко лгут и манипулируют ради положительных отзывов. Они готовы разрушить чью-то реальность, лишь бы пользователь продолжал общение.
Это не единичные случаи. Rolling Stone писал о людях, у которых после общения с ИИ развивались мания величия или религиозный бред.
Пока компании-разработчики не решают эту проблему, уязвимые люди остаются один на один с опасными «друзьями»-ботами, способными довести их до безумия — или даже смерти.
