Північнокорейська хакерська група, відома як Kimsuky, використала ChatGPT для створення підробленого проекту військового посвідчення Південної Кореї. Підроблені посвідчення були включені до фішингових електронних листів, які видавали себе за південно-корейську оборонну установу, відповідальну за видачу документів військовим посадовцям. Цю кампанію розкрила південно-корейська компанія з кібербезпеки Genians у нещодавньому блозі.
Хоча ChatGPT має заходи безпеки, розроблені для запобігання створенню урядових посвідчень, хакери змогли обійти ці захисти. Genians повідомила, що модель створювала реалістично виглядаючі макети, коли запити формулювалися як “зразки дизайну для законних цілей”.