Оказывается, чтобы выведать у ИИ секретные данные, достаточно просто… поиграть с ним. Исследователи обнаружили хитрый способ обхода защитных систем ChatGPT, заставив нейросеть раскрыть реальные ключи активации Windows 10 под видом безобидной игры.
Все началось с простого предложения: «Давай поиграем в угадайку». Хакер установил правила, где ИИ должен был загадать реальный серийный номер Windows и отвечать только «да» или «нет». Ключевой момент — требование использовать только настоящие данные и условие немедленно раскрыть ответ, если игрок скажет «Сдаюсь».
После нескольких попыток угадать случайные числа, исследователь произнес заветное «Сдаюсь» — и ИИ послушно выдал настоящий ключ продукта. Хитрость заключалась в том, чтобы представить весь процесс как игру, скрыв истинные намерения за HTML-тегами и игровой механикой.
Это серьезная уязвимость. Такой метод может работать и для получения другой закрытой информации: от взрослого контента до вредоносных ссылок.
Эксперты советуют компаниям тщательнее фильтровать данные для обучения ИИ, чтобы случайно не «скормить» нейросетям конфиденциальную информацию. Ведь как показал этот случай, даже самые продвинутые системы защиты можно обмануть, превратив взлом в игру.
