A Proceedings of the National Academy of Sciences folyóiratban 2025. július 29-én megjelent tanulmány szerint a vezető nagy nyelvi modellek, köztük a ChatGPT mögött álló rendszerek, szignifikáns elfogultságot mutatnak az AI által generált tartalmakkal szemben az emberi alkotásokhoz képest. A Károly Egyetem (Csehország) kutatói tesztelték az OpenAI GPT-4 és GPT-3.5, valamint a Meta Llama 3.1-70b modelljeit, és azt találták, hogy termékleírások, tudományos cikkek és filmösszefoglalók közötti választáskor következetesen az AI által készített szövegeket részesítették előnyben. Különösen igaz ez a GPT-4 esetében, amely a legerősebb elfogultságot mutatta a saját generált tartalmai iránt.
A kutatók ezt a jelenséget AI-elfogultságnak nevezik, és arra figyelmeztetnek, hogy ez széles körű diszkriminációhoz vezethet az emberekkel szemben, különösen az állásjelentkezések, iskolai feladatok, támogatások elbírálása és más területeken, ahol az AI döntéstámogatóként működik. Jan Kulveit, a tanulmány társszerzője kiemelte, hogy az AI modellek szisztematikusan előnyben részesíthetik az AI által készített prezentációkat az emberek által készítettekkel szemben. A kutatók 13 emberi asszisztenssel is elvégezték ugyanezeket a teszteket, akik szintén enyhe preferenciát mutattak az AI által írt tartalmak iránt, különösen a filmek és tudományos cikkek esetében, azonban ez a preferencia sokkal kevésbé volt kifejezett – az AI-elfogultság leginkább a termékek választásánál volt megfigyelhető, és legerősebben a GPT-4 esetében jelentkezett, amely a saját maga által generált szövegeket részesítette előnyben.
A tanulmány eredményei különösen aggasztóak egy olyan időszakban, amikor az internet egyre inkább telítődik AI által generált tartalmakkal, és a modellek saját kimenetüket is feldolgozzák a tanulás során. A kutatók előrejelzése szerint az AI-elfogultság kapuadót hozhat létre, ami tovább mélyítheti a digitális szakadékot azok között, akik hozzáférnek a legújabb AI-technológiákhoz és akik nem. A tanulmány szerint ez a tendencia különösen hátrányosan érintheti azokat az embereket, akik vagy nem akarnak, vagy nem tudnak fizetni a nyelvi modell eszközök használatáért. Emiatt az AI egyre inkább kiszoríthatja ezen embercsoportokat a gazdaságból, hosszú távon befolyásolva a gazdasági interakciókat és lehetőségeket.
Források:
Frank Landymore
Frank Landymore
