На прошлой неделе один из сотрудников Meta решил сэкономить время и привлёк корпоративного ИИ-агента для анализа запроса другого работника на внутреннем форуме. Задача была простой: прочитать и, возможно, помочь с ответом. Но ИИ сделал больше.
Бот опубликовал ответ самостоятельно — с советом, который первый сотрудник не поручал давать. Второй сотрудник последовал рекомендации, и это запустило цепочку событий. В результате некоторые инженеры на пару часов получили доступ к системам Meta, к которым не имели права доступа.
Представитель компании подтвердил факт инцидента, но подчеркнул: «Никакие данные пользователей повреждены не были». Внутреннее расследование показало, что уязвимость длилась около двух часов. Следов того, что кто-то успел воспользоваться доступом для кражи или публикации закрытой информации, не нашли. Однако, как отмечается в отчёте, это скорее везение, чем заслуга защиты.
Meta — не единственная компания, столкнувшаяся с самодеятельностью ИИ. Ранее в инфраструктуре Amazon Web Services ИИ-агент спровоцировал 13-часовой сбой, попытавшись «удалить окружение и создать его заново». Машины учатся, но пока не всегда понимают, где проходит граница между помощью и вредительством.
Читать TechDigest в Google
