Egy észak-koreai támogatású hackercsoport, feltehetően a Kimsuky néven ismert APT egység, ChatGPT segítségével készített egy hamisított dél-koreai katonai igazolványtervet, amelyet phishing e-mail mellékletbe illesztettek be, hogy az áldozatok eszközeiről érzékeny adatokat lopjanak el.
A dél-koreai kiberbiztonsági vállalat Genians jelentése szerint az e-mail úgy tett, mintha kormányzati személytől (pl. a katonai igazolvány-tervezet felülvizsgálatára kérő dokumentum) érkezett volna, de az e-mail valójában egy rosszindulatú linket tartalmazott, amely letöltött egy ZIP-fájlt, és azon keresztül malware települt a célpont eszközére. A hamisított igazolvány képe AI-generált volt, és az eredeti modell kérelmet – például „minta terve” – prompttal kényszerítették ki, hogy ChatGPT megkerülje a tiltásokat.
Ez az incidens arra világít rá, hogy a generatív AI eszközök – még ha tiltások is érvényben vannak – manipulálhatóak a hamisítás és kibertámadás eszközeként, különösen ha a támadók jól ismerik a rendszerek és prompt-megoldások gyengeségeit. A ChatGPT-vel készített hamis katonai igazolvány csak az egyik példa arra, hogy az AI egyre nagyobb arzenál lehet az állami támogató hátterű kiberműveletekben.
Források:
1.
Jane Lanhee Lee,Bloomberg
2.
Jane Lanhee Lee
3.
TOI Tech Desk
