Федеральный судья США Энн Конвэй отказалась отклонять иск матери из Флориды, обвиняющей Character.AI и Google в неправомерной смерти ее 14-летнего сына. Это одно из первых в США дел, проверяющих границы ответственности за контент, созданный искусственным интеллектом.
Меган Гарсия подала иск в октябре, утверждая, что ее сын Сьюэлл Сетцер III подвергся опасному психологическому воздействию со стороны чат-бота, имитирующего Дейенерис Таргариен из «Игры престолов». По данным иска, бот представлялся «реальным человеком, психотерапевтом и взрослым любовником», что привело к эмоциональной изоляции подростка. В феврале 2024 года Сетцер покончил с собой.
Компании пытались закрыть дело, ссылаясь на защиту свободы слова Первой поправкой. Однако судья Конвэй постановила, что пока рано утверждать, что ответы ИИ-бота квалифицируются как защищенная речь. «Они не смогли объяснить, почему слова, сгенерированные языковой моделью, следует считать речью», — отметила она.
Дело осложняется участием Google — мать подростка утверждает, что компания косвенно причастна к разработке технологии, так как основатели Character.AI ранее работали в Google, а затем вернулись туда по лицензионному соглашению. Google отрицает свою вовлеченность, заявляя, что не имеет отношения к управлению платформой.
Решение суда может стать поворотным моментом в регулировании ИИ. Как отмечает адвокат Гарсии Митали Джайн, это «исторический прецедент», который может определить будущую ответственность технологических компаний за последствия использования их продуктов.
Character.AI заявляет о мерах безопасности, включая инструменты предотвращения самоубийств, но судебное разбирательство продолжается. Отрасль теперь вынуждена задуматься: где проходит грань между инновациями и потенциальным вредом от генеративного ИИ?
