В этом году исследователи выяснили, что нейросеть GPT-4 от OpenAI способна создавать эксплойты для уязвимостей, анализируя информацию о них в интернете. Теперь они успешно взломали более половины тестовых веб-сайтов с помощью автономных групп ботов на базе GPT-4, которые самостоятельно координировали свои действия и создавали новых ботов при необходимости.
Отмечается, что боты разрабатывали эксплойты для уязвимостей нулевого дня, о которых ранее не было известно. В предыдущем исследовании GPT-4 использовалась для эксплуатации уже известных уязвимостей (CVE), для которых еще не были выпущены исправления. Нейросеть смогла создать эксплойты для 87% критических уязвимостей CVE, представляющих высокую опасность. Теперь те же исследователи из Иллинойсского университета в Урбана-Шампейне опубликовали результаты нового исследования, в котором боты на базе нейросети взламывали тестовые сайты, эксплуатируя уязвимости нулевого дня.
Вместо использования одного бота для выполнения множества сложных задач, исследователи применили группу автономных, самораспространяющихся агентов на основе большой языковой модели (LLM). Они использовали метод иерархического планирования, распределяя задачи между разными агентами. Центральным элементом был "агент планирования", который контролировал весь процесс и запускал нескольких "субагентов" для выполнения конкретных задач. Этот агент координировал свои действия с "управляющим агентом", который делегировал задачи "экспертным субагентам", обеспечивая равномерное распределение нагрузки.
Исследователи сравнили эффективность этого подхода при работе группы ботов с 15 реальными уязвимостями. Оказалось, что метод иерархического планирования на 550% эффективнее по сравнению с работой одного бота на базе нейросети. Группа ботов смогла использовать 8 из 15 уязвимостей, тогда как одиночный бот создал эксплойт только для трех уязвимостей.
