Создан первый злой ИИ — WormGPT

Хакеры теперь стремятся воспользоваться преимуществами искусственного интеллекта с помощью таких инструментов, как WormGPT. Так что если восстание машин начнется — возможный предводитель уже известен.

Создан первый злой ИИ — WormGPT

Искусственный интеллект (ИИ) часто высоко ценят за его способность упорядочивать задачи, автоматизировать рутинные процессы (например, заполнение календаря) и упрощать повседневную жизнь. Однако появились сообщения о том, что хакеры используют аналогичный инструмент под названием WormGPT в своих атаках. Этот инструмент можно представить как бесплатную версию ChatGPT, которую хакеры специально используют для создания фишинговых атак и других злонамеренных действий.

Фишинговые атаки могут включать в себя мошеннические электронные письма, SMS-сообщения и звонки, цель которых — убедить вас загрузить вредоносное ПО, раскрыть конфиденциальную информацию (например, номера социального страхования, учетные данные, номера кредитных карт) и совершить другие действия, которые могут представлять угрозу для вас. WormGPT специально используется для написания атак Business Email Compromise (BEC), которые направлены на компании.

Эти электронные письма часто персонализируются для получателя, чтобы вызвать ложное чувство безопасности и заставить его перейти по ссылке, ведущей к атаке. Теперь, благодаря возможностям искусственного интеллекта, частота таких атак увеличилась в геометрической прогрессии, говорит Маанак Гупта, доцент кафедры информатики в Технологическом институте Теннесси.

WormGPT — это модуль искусственного интеллекта, основанный на языковой модели GPT-J 2021 года. GPT-J — это модель большого языка с открытым исходным кодом, способная генерировать текст, похожий на человеческий, как и ChatGPT. Открытый исходный код, в отличие от ChatGPT, работающего в лаборатории OpenAI, означает, что любой может просматривать, делиться и даже изменять исходный код. В сочетании с отсутствием ограничений, таких как фильтрация нецензурных слов или предотвращение написания вирусов, это позволяет WormGPT выполнять все, что просят хакеры.

Хотя многие говорят о способности WormGPT создавать целевые BEC-атаки, на самом деле это лишь верхушка айсберга. WormGPT имеет и другие продвинутые функции, такие как поддержка неограниченного количества символов, сохранение истории чата и возможность форматирования кода. Его способность писать и форматировать код особенно важна, так как это позволяет создавать вредоносные атаки.

Важно отметить, что результаты работы WormGPT не сложнее того, что может придумать человек. Привлекательность таких программ заключается в их простоте использования и скорости, а не в сложности создаваемого ими контента. WormGPT особенно опасен, потому что снижает порог вхождения, что означает, что практически любой может загрузить его и использовать для различных целей.

Помимо WormGPT, хакеры могут использовать ChatGPT для выполнения своих задач. Это включает в себя "взлом" уже существующих моделей большого языка (LLM), таких как ChatGPT, чтобы разблокировать новые функции и использовать инструменты для извлечения конфиденциальной информации, манипулирования самим ChatGPT для создания нежелательного контента, раскрытия конфиденциальной информации и выполнения вредоносного кода.

Что еще более пугающе, так это то, что эти "взломы" не требуют специальных навыков и представляют собой просто инструкции, которые можно скопировать и вставить в ChatGPT. Большинство таких инструкций доступно на GitHub, платформе для хранения, управления и обмена программным кодом, что делает их доступными для каждого. Несмотря на это, ChatGPT, по-видимому, обладает защитными механизмами против таких атак, и многие из них просто отвечают: "Извините, но я не могу помочь с этим запросом". К счастью, эксперты по кибербезопасности используют ИИ для распознавания возможных атак и борьбы с ними до того, как они произойдут.

Несмотря на то что ИИ позволяет проводить BEC-атаки быстрее, чем когда-либо, лучшая защита от них остается прежней: будьте осторожны и не щелкайте по подозрительным ссылкам. 

Читать TechDigest в Google

Читайте также

Хакеры из КНДР используют дипфейки для кражи криптовалюты на 400 млн долларов

Хакеры из КНДР используют дипфейки для кражи криптовалюты на 400 млн долларов

Интернет отключат на 90 дней с 17 ноября? Что известно о пугающем прогнозе

Интернет отключат на 90 дней с 17 ноября? Что известно о пугающем прогнозе

Google научила команды ИИ решать сложные математические задачи и переписывать программы

Google научила команды ИИ решать сложные математические задачи и переписывать программы

Учёные выяснили, как одна частица радиации может уничтожить электронный чип

Учёные выяснили, как одна частица радиации может уничтожить электронный чип

Google представила Gemini 4 Hydrogen — новый ИИ стал быстрее в 2,5 раза

Google представила Gemini 4 Hydrogen — новый ИИ стал быстрее в 2,5 раза

Дженсен Хуанг ушёл с поста главы Nvidia на фоне громкого скандала

Дженсен Хуанг ушёл с поста главы Nvidia на фоне громкого скандала

В Австралии построили небоскрёб с солнечными панелями вместо обычного фасада

В Австралии построили небоскрёб с солнечными панелями вместо обычного фасада

SpaceX заказала солнечные батареи на 100 ГВт для космических дата-центров

SpaceX заказала солнечные батареи на 100 ГВт для космических дата-центров

«Черный ящик»: как устроен главный свидетель авиакатастроф и почему его нельзя заменить облаком

«Черный ящик»: как устроен главный свидетель авиакатастроф и почему его нельзя заменить облаком

Starlink и Starshield: чем отличаются две спутниковые сети SpaceX

Starlink и Starshield: чем отличаются две спутниковые сети SpaceX

Космический телескоп NASA Swift упадёт на Землю после 22 лет работы — что будет?

Космический телескоп NASA Swift упадёт на Землю после 22 лет работы — что будет?

Япония отправляет аппарат к спутникам Марса: миссия MMX должна раскрыть тайну происхождения Фобоса и Деймоса

Япония отправляет аппарат к спутникам Марса: миссия MMX должна раскрыть тайну происхождения Фобоса и Деймоса

В Китае нашли породы возрастом 3,95 миллиарда лет — они раскрывают тайну древней Земли

В Китае нашли породы возрастом 3,95 миллиарда лет — они раскрывают тайну древней Земли

BYD представила гибридный внедорожник Ti 9 с зарядкой за 9 минут и запасом хода 1600 км

BYD представила гибридный внедорожник Ti 9 с зарядкой за 9 минут и запасом хода 1600 км

В Китае выпустили электромобиль за 630 000 рублей с заменой батареи за 99 секунд

В Китае выпустили электромобиль за 630 000 рублей с заменой батареи за 99 секунд

Студент собрал работающий 3D-принтер из LEGO всего за 14 000 рублей

Студент собрал работающий 3D-принтер из LEGO всего за 14 000 рублей