A Google a Gemini alkalmazáson keresztül is elérhetővé tette az AI-generált képek felismerésére készített SynthID észlelő funkciót. A SynthID-t 2023-ban vezették be – és azóta 20 milliárd, mesterséges intelligencia által generált tartalmat láttak el vízjellel a technológia segítségével –, azonban korábban a vízjeleket detektáló alkalmazás csak zárt béta verziókban volt elérhető. Az új integráció szélesebb körben teszi lehetővé az emberek számára, hogy megalapozott döntést hozzanak arról, hogy egy képet a mesterséges intelligencia generált vagy manipulált-e.
A Google DeepMind laboratóriuma által fejlesztett SynthID érzékelhetetlen mintázatot illeszt a mesterséges intelligencia által generált pixelkimenetekbe. A látható vízjelekkel vagy metaadat-címkékkel ellentétben, amelyek a képek újraközlésekor elveszhetnek, a SynthID vízjele túléli az olyan változtatásokat, mint az átméretezés, a vágás, a színmódosítások és az erős JPEG-tömörítés. A technológiát korábban újságírók és médiaszakemberek bevonásával tesztelték a SynthID Detector ellenőrző portálon keresztül; a szélesebb körű bevezetéssel a Google reményei szerint többen lesznek képesek megalapozottabb ítéletet alkotni a képek megbízhatóságáról. Tanulmányok ismételten kimutatták, hogy az emberek az eseteknek csupán mintegy 50–60%-ában képesek helyesen azonosítani a szintetikus képeket – ez a teljesítmény alig jobb a véletlennél. Van azonban egy lényeges korlátozás: a SynthID csak a SynthID-vel vízjelezett tartalmakat ismeri fel. Ha a kép olyan modellből vagy eszköztől származik, amely nem ágyazza be a vízjelet, a Gemini nem tudja hitelesíteni a mesterséges intelligencia közreműködését.
A Google tervezi a SynthID ellenőrzés kiterjesztését a képeken túli további formátumokra, például videókra és hanganyagokra is; emellett a Gemini alkalmazásban, a Vertex AI-ban és a Google Adsben az Imagen 3 által generált képek már beágyazott C2PA metaadatokkal rendelkeznek. A Geminibe épített SynthID nem fog minden hamisítványt kiszűrni, de gyors és megbízható visszajelzést ad a felhasználóknak abban az esetben, ha a forrás alkalmazza a vízjelezést – ez pedig fontos lépés az online látottakba vetett bizalom helyreállítása felé.
Források:
- https://blog.google/technology/ai/ai-image-verification-gemini-app/
- https://www.findarticles.com/google-includes-synthid-detection-in-gemini/
