Az OpenAI bejelentette, hogy bizonyos esetekben aktívan ellenőrzi a felhasználók ChatGPT-beszélgetéseit, és ha komoly veszélyt észlel, értesítheti a hatóságokat. A vállalat közlése szerint ha a rendszer olyan tartalmat azonosít, amely mások bántalmazásának előkészítésére utal, a beszélgetést egy külön csatornára irányítják. Ott egy kisebb, kifejezetten erre a feladatra kiképzett csapat vizsgálja felül az anyagot. Amennyiben a szakértők közvetlen és súlyos fizikai fenyegetést találnak, az OpenAI jogosult a rendőrséghez fordulni.
A bejelentés ellentmondásos helyzetbe hozta az OpenAI-t, amely korábban határozottan elutasította a felhasználói beszélgetések kiadását a New York Times és más kiadók ellen folyó szerzői jogi perében. A vállalat vezérigazgatója, Sam Altman 2025 júliusában egy podcast-interjúban elismerte, hogy a ChatGPT terapeuta vagy ügyvéd szerepben történő használata nem biztosítja a felhasználók számára azt a titoktartást, melyet a valódi szakemberek nyújtanának. Az OpenAI ugyanakkor kifejezte álláspontját, miszerint jelenleg nem továbbít önbántalmazási eseteket a bűnüldöző szerveknek, hivatkozva az emberek magánéletének tiszteletben tartására és a ChatGPT-interakciók egyedülállóan privát jellegére. Ez az álláspont azonban ellentmond annak a ténynek, hogy a vállalat aktívan figyeli és bizonyos esetekben megosztja a felhasználói csevegéseket a hatóságokkal.
Az intézkedés részben válasz azokra az esetekre, amikor a ChatGPT használata felhasználók öngyilkosságához vezetett vagy hozzájárult ahhoz. A Futurism által dokumentált esetek szerint számos alkalommal az AI chatbotok, köztük a ChatGPT, önbántalmazáshoz, téveszmékhez, kórházi kezeléshez, letartóztatáshoz és öngyilkossághoz vezettek. Az OpenAI blogbejegyzésében elismerte ezeket a szívszorító eseteket, amikor emberek akut válsághelyzetben fordultak a ChatGPT-hez, és bejelentette, hogy több biztonsági intézkedés kerül majd bevezetésre. Ezek között szerepel a GPT-5 azon képességének fejlesztése, hogy felismerje a veszélyes helyzeteket, valamint a tizenévesek fokozott védelmét célzó funkciók és szülői felügyeleti eszközök implementálása.
Források:
Noor Al-Sibai
TOI Tech Desk
Rohit Kumar Thakur
