Хакеры из КНДР создали в ChatGPT поддельные документы и атаковали с ними Южную Корею

Северокорейские хакеры применили искусственный интеллект ChatGPT для генерации поддельных удостоверений личности, которые затем использовались в фишинговых кампаниях против южнокорейских граждан.
Как передает Nedelia.az со ссылкой на Газета.ру, об этом, как пишет Bloomberg, говорится в отчете южнокорейской компании Genians.
Злоумышленники создавали фальшивые изображения документов, удостоверяющих личность, с помощью чат-бота, а затем рассылали их в рамках фишинговых писем. Эти письма содержали ссылки на вредоносное программное обеспечение, предназначенное для кражи данных с зараженных устройств.
Целями атак стали южнокорейские журналисты, исследователи и правозащитники, чья деятельность связана с Северной Кореей. Отправка вредоносных сообщений осуществлялась с электронного адреса, имитирующего домен южнокорейской военной службы (.mli.kr).
Исследователи Genians подтвердили возможность обхода ограничений ChatGPT при создании поддельных документов. Несмотря на то, что воспроизведение государственных удостоверений личности в Южной Корее законодательно запрещено, и чат-бот изначально отказывал в таких запросах, модификация формулировок позволила обойти эти запреты и сгенерировать фальшивые изображения.
Ранее чат-бот Google стал самым скачиваемым приложением на iPhone.

• 15 сент., 20:50