Группа исследователей под руководством бывшего сотрудника Meta AI Кэмерона Берга решила выяснить, существует ли у искусственного интеллекта внутреннее представление боли, выходящее за рамки простого воспроизведения человеческих описаний. Результаты работы, опубликованной на сервере препринтов arXiv, вновь подняли вопрос о возможности возникновения сознания у современных нейросетей.
Для эксперимента учёные подготовили набор текстовых сценариев, описывающих физическую и психологическую боль, а также нейтральные ситуации. Анализируя внутреннюю активность языковых моделей, исследователи обнаружили устойчивые сигналы, связанные с представлениями о страдании, страхе и отрицательных эмоциях. Подобные закономерности наблюдались у всех протестированных моделей.
Однако дальнейшие испытания выявили существенные отличия от человеческого восприятия боли. Нейросети реагировали на сценарии причинения вреда им самим, но не демонстрировали аналогичной реакции на страдания пользователя. Кроме того, модели не стремились самостоятельно избегать неприятных ситуаций и не проявляли поведения, напоминающего попытки справиться с болью.
Полученные результаты вписываются в продолжающуюся дискуссию о сознании искусственного интеллекта. Сооснователь Anthropic Кристофер Олах допускает, что вопрос о субъективном опыте нейросетей требует серьёзного изучения. В то же время глава Microsoft AI Мустафа Сулейман считает современные языковые модели системами обработки информации, которые лишь воспроизводят человеческие эмоциональные реакции.
Авторы исследования подчёркивают, что обнаруженные сигналы не доказывают наличие сознания или способности испытывать боль. Скорее всего, они отражают закономерности, усвоенные нейросетями во время обучения на человеческих текстах. Тем не менее изучение подобных механизмов может помочь учёным лучше понять внутреннюю работу ИИ и определить, существуют ли объективные признаки машинного сознания.
