Az Amazon Web Services (AWS) 2024 decemberében vezette be új, automatizált érvelés-ellenőrzési technológiáját, amely matematikai logikára támaszkodva ellenőrzi és igazolja a mesterséges intelligencia által generált válaszok pontosságát.
Az automatizált érvelés a szimbolikus mesterséges intelligencia egyik ága, amely egészen az ókori görög filozófusok – például Szókratész és Platón – mintegy 2000 éves matematikai logikai munkásságáig nyúlik vissza. Byron Cook, az AWS alelnöke és vezető kutatója szerint világszerte mindössze körülbelül 3000 szakértő foglalkozik ezzel a területtel. Az AWS új megoldását, az automatizált érvelés-ellenőrzés (Automated Reasoning Checks) technológiát, kezdetben főként a kiberbiztonság terén, azon belül is elsősorban kriptográfiai megoldások validálására használták. Mára azonban ez az eljárás már kulcsszerepet tölt be a vállalati AI-alkalmazások megbízhatóságának növelésében is, matematikai módszerekkel ellenőrizve a rendszerek következtetéseit. A technológiát például a PricewaterhouseCoopers (PwC) már alkalmazza olyan területeken, mint a gyógyszeripar és az élettudományok, ahol a marketinganyagok és egyéb kommunikációs dokumentumok pontossága különösen fontos a szigorú szabályozási előírások miatt.
Bár az AWS megoldása jelentős előrelépésnek számít az AI megbízhatóságának javításában, Cook elismeri, hogy a mesterséges intelligencia által generált „hallucinációk” teljes kiküszöbölése a jelenlegi ismereteink szerint lehetetlen. Ezért az automatizált érvelés-ellenőrzés mellett további technikák – például a retrieval-augmented generation (RAG) vagy a modellek finomhangolása – alkalmazását is javasolja a vállalatok számára, hogy minimálisra csökkentsék a hibás válaszok előfordulását. Az AWS jelenlegi fejlesztései részei annak a szélesebb stratégiának, amely a felhőszolgáltatások és mesterséges intelligencia-megoldások erősítését célozza, ezzel is versenyben maradva olyan riválisokkal szemben, mint a Microsoft és a Google.
Források:
1.
2.
Emilia David
3.
Saul Zimet
