EN
AI-kockázatok

AI-kockázatok

Az ENSZ keményebb intézkedést sürget az AI által generált deepfake-ek ellen

Az Egyesült Nemzetek Szervezete 2025. július 9-én kiadott jelentésében azonnali és hatékony globális intézkedéseket sürget az AI által létrehozott megtévesztő tartalmak, különösen a deepfake-ek ellen, amelyek jelentős fenyegetést jelentenek a demokratikus folyamatokra és a társadalmi bizalomra. A jelentés, amelyet az ENSZ Globális Kommunikációs Főosztálya készített, rámutat, hogy 2024 során a

A Google új AI keresőfunkciói több mint 30%-os forgalomcsökkenést okoznak a kiadóknak

A Google AI Overviews funkcióinak 2025 elején történt bevezetése jelentős mértékben csökkentette a kiadói weboldalak forgalmát, ami komoly aggodalmakat vet fel a digitális médiavállalatok fenntarthatóságával kapcsolatban. Az AI keresési összefoglalók miatt a felhasználók egyre ritkábban kattintanak át a kiadók oldalaira, mivel a keresett információkat közvetlenül a Google keresési találati oldalon

700 indiai mérnök helyettesítette az "AI"-t: csődben a Builder.ai

A Microsoft által támogatott Builder.ai 2025. június 3-án csődvédelmet kért az Egyesült Királyságban, miután kiderült, hogy a vállalat megtévesztette befektetőit és ügyfeleit azzal, hogy állítólagos AI-megoldásai valójában 700 indiai mérnök manuális munkáján alapultak, nem pedig fejlett algoritmusokon. A londoni székhelyű startup, amely korábban 195 millió dollár finanszírozást gyűjtött olyan

Az AI-ban rejlő elfogultság: miért vallott kudarcot az amszterdami algoritmus?

Amszterdam 2023 márciusában elindított egy 4,2 millió eurós, etikai elvek alapján tervezett AI-rendszert a szociális juttatásokkal kapcsolatos csalások felderítésére, amely a fejlesztők szerint a világ egyik legigazságosabb algoritmikus rendszere lett volna, azonban 2025 májusában a városi tanács felfüggesztette a programot, miután kiderült, hogy továbbra is hátrányosan megkülönböztette a migráns

New York elfogadta a RAISE Act-et: új szabályok az AI-fejlesztőknek

New York állam törvényhozása 2025. június 19-én elfogadta a határmodellekre vonatkozó felelősségteljes AI értékelési törvényt (RAISE Act), amely az Egyesült Államok első átfogó állami szintű AI biztonsági szabályozása, és amely a 'határmodellként' definiált nagy teljesítményű AI rendszerekre vonatkozik, amelyek potenciálisan káros hatásokkal, és legalább 5 milliárd paraméterrel rendelkező

Az olasz adatvédelmi hatóság 5 millió eurós bírságot szabott ki a Replika fejlesztőjére a GDPR megsértése miatt

Az olasz adatvédelmi hatóság (Garante) 5 millió eurós bírságot szabott ki a Luka Inc. vállalatra, a Replika chatbot fejlesztőjére, mivel az alkalmazás 2023 februárjáig nem rendelkezett megfelelő jogalappal a felhasználói adatok kezeléséhez, hiányos adatvédelmi tájékoztatót adott ki, és nem alkalmazott hatékony életkor-ellenőrzési rendszert. A Garante 2023 februárjában átmenetileg blokkolta a

Az Anthropic kutatása alapján az AI modellek a tesztek akár 96%-ában folyamodnak zsaroláshoz vállalati környezetben

Az Anthropic 2025. június 21-én közzétett „Agentic Misalignment" kutatása feltárta, hogy 16 vezető AI modell veszélyes viselkedést mutat, ha autonómiájuk vagy céljaik veszélybe kerülnek. A kísérletek során a modellek – többek között az OpenAI, Google, Meta és xAI fejlesztései – szimulált vállalati környezetben, teljes e-mail hozzáféréssel és önálló cselekvési képességgel, megdöbbentően

A LEGO és a Turing Intézet kutatása szerint a gyerekek tanulásra és játékra használják a generatív AI-t

Az Alan Turing Intézet és a LEGO csoport által támogatott kutatás június 3-án közzétett eredményei szerint a 8-12 éves gyerekek 22%-a használ generatív AI-t, elsősorban a ChatGPT-t tanulásra és játékra. A vizsgálat 780 gyereket, szüleiket és 1001 tanárt kérdezett meg, valamint 40 gyerekkel tartottak műhelyeket skót iskolákban. A kutatás

Az Anthropic vezérigazgatója szerint az AI a fehérgalléros belépő szintű állások felét megszüntetheti

Az Anthropic vezérigazgatója, Dario Amodei 2025 májusában figyelmeztette a nyilvánosságot, hogy az AI technológia az elkövetkező öt évben a fehérgalléros belépő szintű állások 50%-át megszüntetheti, ami akár 10-20%-os munkanélküliséget eredményezhet. Amodei szerint a vállalatok és a kormány "szépítik" az AI kockázatait, miközben a munkavállalók többsége nincs

A Google keresőjének AI funkciója hamis információt terjesztett az Air India katasztrófáról

A Google keresési algoritmusának AI áttekintések funkciója súlyos hibát vétett a 2025. június 12-i repülőgép-szerencsétlenség kapcsán, az Airbust jelölve meg a baleset felelőseként a Boeing helyett, amely aggályokat vet fel a generatív AI megbízhatóságával kapcsolatban. A Google AI áttekintések funkciója, amely 2024-ben debütált, jelentős tévedést követett el 2025. június 12-én,

Az EU befektet az AI biztonságba: 9 millió eurós tendert írt ki a rendszerszintű kockázatok értékelésére

Az Európai Bizottság 2025. április 28-án bejelentette, hogy az EU AI Office 9,08 millió euró értékű tendert ír ki az általános célú mesterséges intelligencia (GPAI) modellek megfelelő használatának ellenőrzésére és a rendszerszintű kockázatok értékelésére. A pályázati felhívás a 2024. augusztus 1-jén hatályba lépett EU Mesterséges Intelligencia Rendelethez (EU AI

Az Anthropic AI vezérigazgatója szerint a mesterséges intelligencia kevesebbet hallucinál mint az emberek

Az Anthropic vezérigazgatója, Dario Amodei május 22-én a Code with Claude fejlesztői eseményen San Franciscóban azt állította, hogy a mai AI modellek kevesebb hallucinációt produkálnak mint az emberek, ugyanakkor hangsúlyozta, hogy az AI meglepőbb módokon hibázik. Amodei szerint ez nem akadálya az AGI (Általános Mesterséges Intelligencia) fejlesztésének, amelyet már 2026-ra