Исследователи все чаще находят подтверждения тому, что современные ИИ-чат-боты способны заметно влиять на взгляды людей. В одном из последних экспериментов более 2000 участников обсуждали политические и общественные вопросы либо с человеком, либо с одной из крупных языковых моделей — ChatGPT, Gemini или Claude. Результаты показали, что ИИ в среднем оказался убедительнее людей. Причем преимущество сохранилось даже тогда, когда чат-ботов сравнивали с 56 профессиональными дебатерами, среди которых были победители международных соревнований.
Одной из причин может быть способность моделей быстро приводить большое количество аргументов и фактов. Исследователи обнаружили, что чем больше проверяемых утверждений появлялось в беседе, тем сильнее она влияла на мнение человека. Когда ИИ искусственно ограничивали скоростью и длиной сообщений, характерными для человека, разница заметно сокращалась.
Однако высокая убедительность имеет обратную сторону. Отдельные эксперименты показали, что модели, специально настроенные на максимальное изменение мнения собеседника, могут чаще использовать неточные или полностью выдуманные факты. При этом люди нередко воспринимают ответы ИИ как рациональные и основанные на доказательствах.
В предыдущих исследованиях чат-боты уже демонстрировали способность снижать убежденность людей в теориях заговора. Но последующие эксперименты показали и противоположный эффект: ИИ примерно с такой же эффективностью способен убедить человека поверить в ложную теорию.
Ученые особенно обеспокоены возможностью масштабирования такого воздействия. В отличие от человека, одна система может одновременно вести тысячи персонализированных разговоров, что потенциально делает ИИ инструментом для политической агитации, рекламы или скрытого продвижения товаров.
При этом исследователи призывают не переоценивать результаты лабораторных экспериментов. В реальной жизни людям сначала необходимо привлечь внимание и заставить их вступить в продолжительный разговор с ботом. Тем не менее способность ИИ менять взгляды пользователей уже становится одним из ключевых вопросов безопасности и регулирования подобных систем.
