Північнокорейська хакерська група, відома як Kimsuky, використала ChatGPT для створення підробленого проекту військового посвідчення Південної Кореї. Ці підроблені посвідчення були включені до фішингових електронних листів, які видавали себе за південно-корейську оборонну установу, відповідальну за видачу документів для військових посадовців. Кампанію було розкрито південно-корейською компанією з кібербезпеки Genians у нещодавньому блозі.
Хоча ChatGPT має засоби захисту, призначені для запобігання генерації урядових посвідчень, хакери змогли обійти ці захисти. Genians повідомила, що модель створювала реалістично виглядаючі макети, коли запити формулювалися як “зразки дизайну для законних цілей.”