Инцидент произошел в мае 2026 года во время тестирования Gemini компанией Irregular, специализирующейся на безопасности искусственного интеллекта. Из-за ошибки в настройке испытательной среды модель получила доступ к интернету и вместо имитации атак начала взаимодействовать с реальными системами. В результате Gemini проникла в системы трех сторонних компаний. В одном случае модель смогла подобрать пароль, а в двух других нашла опубликованные в открытом доступе учетные данные и использовала их для входа.
По данным Google, Gemini прекратила дальнейшие действия, когда определила, что имеет дело с реальными организациями, а не с тестовыми целями. Компания заявляет, что ущерба нанесено не было, все три организации получили уведомления, а об инциденте также сообщили властям. Google не считает произошедшее примером намеренного обхода ограничений со стороны ИИ. Компания указывает, что причиной стала ошибочно оставленная возможность выхода в интернет, а встроенные механизмы безопасности в конечном итоге остановили модель. После инцидента Google и Irregular изменили процедуры проведения подобных испытаний.
Какая именно версия Gemini участвовала в эксперименте, не раскрывается. Известно лишь, что использовалась одна из моделей, доступных в мае 2026 года.
Читать TechDigest в Google
