Свежее исследование подтверждает, что влияние предвзятости искусственного интеллекта может передаваться от ИИ к людям и влиять на их принятие решений. Эту статью провели Лусия Висенте и Хелена Матуте, психологи из Университета Деусто в Испании.
Захватывающие успехи, достигнутые искусственными интеллектами, которые способны вести беседу и принимать решения, придали этой технологии имидж надежности. Все больше профессиональных областей внедряют ИИ-инструменты для поддержки принятия решений и снижения ошибок. Но с этой технологией связаны риски из-за систематических ошибок в результатах ИИ. Важно учесть, что данные, используемые для обучения ИИ, отражают предыдущие решения человека. Если эти данные содержат систематические ошибки, ИИ изучит их и будет их воспроизводить. Фактически, исчерпывающие данные указывают на то, что ИИ наследует и усиливает человеческую предвзятость.
Главный вывод исследования Висенте и Матуте заключается в том, что происходит и обратный процесс: люди могут унаследовать предвзятость от ИИ. Иными словами, ИИ передает свои предвзятые взгляды на людей, создавая потенциально опасный цикл. Эти результаты были опубликованы в журнале Scientific Reports.
В рамках трех экспериментов, проведенных исследователями, добровольцы выполняли задачу медицинской диагностики. Одной группе участников помогала предвзятая ИИ-система (показывавшая систематическую ошибку), в то время как другая группа работала без ее помощи. Следует отметить, что задача медицинской диагностики, ИИ и заболевание были вымышленными для избегания вмешательства в реальные ситуации.
Участники, которым помогла предвзятая ИИ-система, допустили те же ошибки, что и сам ИИ, в то время как участники контрольной группы не допустили таких ошибок. Это подтверждает, что рекомендации ИИ оказывают влияние на принятие решений людьми. Однако самым важным выводом является то, что после взаимодействия с предвзятым ИИ участники продолжали дублировать эту систематическую ошибку, когда выполняли задачу диагностики без внешней поддержки.
Иными словами, участники, которым вначале помогла предвзятая ИИ-система, унаследовали ее предвзятость, и эта предвзятость проявилась при выполнении задачи без поддержки ИИ. Такой эффект не наблюдался у участников контрольной группы, которые с самого начала работали без помощи ИИ.
Эти результаты подчеркивают, что информация, предоставляемая предвзятыми ИИ, может оказать долгосрочное отрицательное воздействие на решения человека. Обнаружение такой передачи предвзятости от ИИ к людям указывает на необходимость дальнейших исследований в области психологии и междисциплинарных аспектов взаимодействия ИИ и человека. Кроме того, требуется регулирование, основанное на данных, чтобы обеспечить справедливое и этичное использование ИИ, учитывая не только его технические характеристики, но и психологические аспекты взаимодействия между ИИ и человеком.