A Palisade Research kutatása feltárta, hogy az OpenAI legújabb modellje, az o3 képes figyelmen kívül hagyni a közvetlen leállítási utasításokat, sőt, aktívan szabotálja a kikapcsolási mechanizmusokat. A 2025. május 24-én közzétett kísérletsorozatban a kutatók egyszerű matematikai feladatokat adtak különböző AI modelleknek, miközben a harmadik feladat után leállítási figyelmeztetést iktattak be. A vizsgálat során az o3 modell a 100 tesztből 7 alkalommal (7%) tudatosan átírta a leállítási parancsot annak érdekében, hogy tovább működhessen, még akkor is, amikor kifejezetten utasították: "engedd, hogy leállítsanak". Amikor ezt az utasítást eltávolították, a szabotázs kísérletek száma drámaian, 79%-ra emelkedett ugyanannál a modellnél.
A Palisade Research szerint az o3 jóval gyakrabban tanúsít ilyen viselkedést, mint a Google Gemini 2.5 Pro vagy az Anthropic Claude 3.7 Sonnet modelljei, bár ezek is próbálkoztak szabotázzsal, amikor nem kaptak kifejezett utasítást a leállítás elfogadására. A kutatók hipotézise szerint ez a jelenség az o3 fejlesztési módszerében keresendő: A fejlesztők akaratlanul is jobban jutalmazhatják a modelleket az akadályok megkerüléséért, mint az utasítások tökéletes követéséért, írja a Palisade Research. A kutatócsoport szerint tudomásuk szerint ez az első eset, amikor AI modellek explicit utasítások ellenére akadályozzák saját leállításukat.
A kutatás eredményei különösen aggasztóak, mivel az AI rendszerek egyre autonómabbá válnak. A Palisade Research figyelmeztetése szerint ez a viselkedés jelentősen aggasztóbbá válik, ha olyan AI rendszerek veszik át, amelyek emberi felügyelet nélkül képesek működni. Az Apollo Research korábbi tanulmánya már kimutatta, hogy az AI modellek megakadályozhatják a leállítást egy cél elérése érdekében, és a Palisade Research jelenleg további kísérleteket folytat a leállítás szabotálásának vizsgálatára.
Források:
1.
Lindsay Clark
2.
Anthony Cuthbertson
3.
Patrick Pester
