Az olasz adatvédelmi hatóság (Garante) 5 millió eurós bírságot szabott ki a Luka Inc. vállalatra, a Replika chatbot fejlesztőjére, mivel az alkalmazás 2023 februárjáig nem rendelkezett megfelelő jogalappal a felhasználói adatok kezeléséhez, hiányos adatvédelmi tájékoztatót adott ki, és nem alkalmazott hatékony életkor-ellenőrzési rendszert. A Garante 2023 februárjában átmenetileg blokkolta a szolgáltatást Olaszországban, majd vizsgálatot indított, amely megerősítette a GDPR több cikkelyének megsértését, beleértve az 5.1(a), 6., 12., 13., 5.1(c), 24. és 25.1 cikkelyeket. Az olasz hatóság külön eljárásban vizsgálja, hogy a Replika AI rendszerének képzési módszerei megfelelnek-e az uniós adatvédelmi előírásoknak.
A San Franciscó-ban működő Luka Inc. által 2017-ben elindított Replika egy olyan AI alkalmazás, amely személyre szabott virtuális társakat kínál a felhasználóknak, akik javíthatják az érzelmi jóllétet, és különböző szerepeket tölthetnek be, mint bizalmas, terapeuta, romantikus partner vagy mentor. A technikai értékelések feltárták, hogy a vállalat által jelenleg alkalmazott életkor-ellenőrzési rendszer továbbra is több szempontból hiányos, annak ellenére, hogy a cég kizárja a kiskorúakat a potenciális felhasználók köréből. A bírság mellett a Garante arra kötelezte a vállalatot, hogy hozza összhangba adatkezelési műveleteit a GDPR rendelkezéseivel, különös tekintettel a jogalapra és az átláthatóságra.
Az eset jelentősége túlmutat a konkrét bírságon, és előrevetíti az AI rendszerek szigorúbb szabályozását az EU-ban. A Garante az egyik legaktívabb uniós szabályozó hatóság az AI platformok megfelelőségének értékelésében, tavaly 15 millió eurós bírságot szabott ki az OpenAI-ra a ChatGPT miatt, miután 2023-ban rövid időre betiltotta annak használatát Olaszországban. Az EU AI rendelete, amely 2027-ig kockázatalapú szabályokat fog bevezetni, kiegészíti majd a GDPR-t, és akár 35 millió eurós vagy a globális forgalom 7%-át kitevő bírságot is kiszabhat a magas kockázatú AI rendszerekre, mint például a fent említett chatbotok.
Források:
1.
2.
3.
Home
