Malajzia és Indonézia vált az első országokká, amelyek letiltották az Elon Musk xAI cége által fejlesztett Grok AI-chatbotot, mivel a hatóságok szerint azt szexuális tartalmú és beleegyezés nélküli képek generálására használták visszaélésszerűen. Indonézia 2026. január 10-én tiltotta le a hozzáférést, Malajzia pedig a következő napon követte a példáját. A lépések tükrözik az olyan generatív AI-eszközökkel kapcsolatos növekvő globális aggodalmakat, amik valósághű képeket, hangokat és szövegeket képesek előállítani. A két délkelet-ázsiai ország szabályozó hatóságai szerint a jelenlegi óvintézkedések nem gátolták meg a pornográf tartalmak létrehozását és terjedését.
Alexander Sabar, az indonéz hírközlési minisztérium digitális térért felelős felügyeleti főigazgatója szerint az előzetes megállapítások azt mutatják, hogy a Grok nem rendelkezik hatékony védelmi korlátokkal, amelyek megakadályoznák a felhasználókat abban, hogy indonéz lakosok valódi fotói alapján pornográf tartalmakat hozzanak létre és terjesszenek. A Malajziai Kommunikációs és Multimédia Bizottság kijelentette, hogy az X nem kielégítő válaszai elsősorban a felhasználók által kezdeményezett bejelentési mechanizmusokra támaszkodtak, és nem kezelték az AI-eszköz tervezéséből és működéséből adódó alapvető kockázatokat. A tiltást megelőző héten a Grok – a szexualizált deepfake-ek miatti globális felháborodást követően – a fizetős felhasználókra korlátozta a képgenerálást és -szerkesztést, de a kritikusok szerint ez nem oldotta meg teljesen a problémát. Egy brit figyelőszervezet, az Internet Watch Foundation közölte, hogy elemzőik 11 és 13 év közötti gyermekekről készült bűnügyi felvételeket találtak, amelyeket vélhetően a Grok segítségével hoztak létre.
Indonéz és maláj hatóságok elmondása szerint a korlátozást megelőző intézkedésként vezették be a jogi és szabályozási folyamatok idejére; a Grokhoz való hozzáférés mindaddig korlátozott marad, amíg hatékony védelmi intézkedéseket nem vezetnek be, különösen a nőkkel és gyermekekkel kapcsolatos tartalmak megelőzésére. Mind Indonézia, mind Malajzia szigorú pornográfia-ellenes törvényeket tart fenn, amelyek szélesebb körben tiltják az obszcén és szexuális tartalmak online megosztását. A délkelet-ázsiai korlátozások a Grokkal szembeni fokozódó ellenőrzések közepette érkeznek, beleértve az Európai Uniót, Nagy-Britanniát, Indiát és Franciaországot is.
Források
https://www.npr.org/2026/01/12/nx-s1-5674660/malaysia-indonesia-block-grok-ai-deepfakes
https://www.cnbc.com/2026/01/12/malaysia-indonesia-block-elon-musks-grok-obscene-non-consensual-content.html
