Северокорейские хакеры применили искусственный интеллект ChatGPT для генерации поддельных удостоверений личности, которые затем использовались в фишинговых кампаниях против южнокорейских граждан. Об этом, как пишет Bloomberg, говорится в отчете южнокорейской компании Genians.
Злоумышленники создавали фальшивые изображения документов, удостоверяющих личность, с помощью чат-бота, а затем рассылали их в рамках фишинговых писем. Эти письма содержали ссылки на вредоносное программное обеспечение, предназначенное для кражи данных с зараженных устройств.
Целями атак стали южнокорейские журналисты, исследователи и правозащитники, чья деятельность связана с Северной Кореей. Отправка вредоносных сообщений осуществлялась с электронного адреса, имитирующего домен южнокорейской военной службы (.mli.kr).
Исследователи Genians подтвердили возможность обхода ограничений ChatGPT при создании поддельных документов. Несмотря на то, что воспроизведение государственных удостоверений личности в Южной Корее законодательно запрещено, и чат-бот изначально отказывал в таких запросах, модификация формулировок позволила обойти эти запреты и сгенерировать фальшивые изображения.
Ранее чат-бот Google стал самым скачиваемым приложением на iPhone.