Искусственный интеллект (ИИ) часто высоко ценят за его способность упорядочивать задачи, автоматизировать рутинные процессы (например, заполнение календаря) и упрощать повседневную жизнь. Однако появились сообщения о том, что хакеры используют аналогичный инструмент под названием WormGPT в своих атаках. Этот инструмент можно представить как бесплатную версию ChatGPT, которую хакеры специально используют для создания фишинговых атак и других злонамеренных действий.
Фишинговые атаки могут включать в себя мошеннические электронные письма, SMS-сообщения и звонки, цель которых — убедить вас загрузить вредоносное ПО, раскрыть конфиденциальную информацию (например, номера социального страхования, учетные данные, номера кредитных карт) и совершить другие действия, которые могут представлять угрозу для вас. WormGPT специально используется для написания атак Business Email Compromise (BEC), которые направлены на компании.
Эти электронные письма часто персонализируются для получателя, чтобы вызвать ложное чувство безопасности и заставить его перейти по ссылке, ведущей к атаке. Теперь, благодаря возможностям искусственного интеллекта, частота таких атак увеличилась в геометрической прогрессии, говорит Маанак Гупта, доцент кафедры информатики в Технологическом институте Теннесси.
WormGPT — это модуль искусственного интеллекта, основанный на языковой модели GPT-J 2021 года. GPT-J - это модель большого языка с открытым исходным кодом, способная генерировать текст, похожий на человеческий, как и ChatGPT. Открытый исходный код, в отличие от ChatGPT, работающего в лаборатории OpenAI, означает, что любой может просматривать, делиться и даже изменять исходный код. В сочетании с отсутствием ограничений, таких как фильтрация нецензурных слов или предотвращение написания вирусов, это позволяет WormGPT выполнять все, что просят хакеры.
Хотя многие говорят о способности WormGPT создавать целевые BEC-атаки, на самом деле это лишь верхушка айсберга. WormGPT имеет и другие продвинутые функции, такие как поддержка неограниченного количества символов, сохранение истории чата и возможность форматирования кода. Его способность писать и форматировать код особенно важна, так как это позволяет создавать вредоносные атаки.
Важно отметить, что результаты работы WormGPT не сложнее того, что может придумать человек. Привлекательность таких программ заключается в их простоте использования и скорости, а не в сложности создаваемого ими контента. WormGPT особенно опасен, потому что снижает порог вхождения, что означает, что практически любой может загрузить его и использовать для различных целей.
Помимо WormGPT, хакеры могут использовать ChatGPT для выполнения своих задач. Это включает в себя "взлом" уже существующих моделей большого языка (LLM), таких как ChatGPT, чтобы разблокировать новые функции и использовать инструменты для извлечения конфиденциальной информации, манипулирования самим ChatGPT для создания нежелательного контента, раскрытия конфиденциальной информации и выполнения вредоносного кода.
Что еще более пугающе, так это то, что эти "взломы" не требуют специальных навыков и представляют собой просто инструкции, которые можно скопировать и вставить в ChatGPT. Большинство таких инструкций доступно на GitHub, платформе для хранения, управления и обмена программным кодом, что делает их доступными для каждого. Несмотря на это, ChatGPT, по-видимому, обладает защитными механизмами против таких атак, и многие из них просто отвечают: "Извините, но я не могу помочь с этим запросом". К счастью, эксперты по кибербезопасности используют ИИ для распознавания возможных атак и борьбы с ними до того, как они произойдут.
Несмотря на то что ИИ позволяет проводить BEC-атаки быстрее, чем когда-либо, лучшая защита от них остается прежней: будьте осторожны и не щелкайте по подозрительным ссылкам.