Az AI kutatás-fejlesztés teljes automatizálása akár szoftver-alapú intelligenciarobbanáshoz is vezethet

A 2025. március 26-án megjelent Forethought Research tanulmány szerint az AI kutatás-fejlesztés teljes automatizálása akár szoftver-alapú intelligenciarobbanáshoz vezethet. A kutatók azt vizsgálták, mi történik, amikor az AI rendszerek képessé válnak saját fejlesztési folyamataik teljes körű automatizálására, létrehozva egy visszacsatolási hurkot, ahol minden új rendszer még fejlettebb AI-t hoz létre, potenciálisan hónapokon belül.

Az empirikus adatok azt mutatják, hogy az AI szoftverek hatékonysága körülbelül 6 havonta duplázódik, és ez a fejlődés valószínűleg gyorsabb, mint a kutatói erőforrások növekedési üteme. Elemzések szerint az AI eszközök jelenleg a Google teljes forráskódjának több mint 25 százalékát állítják elő automatikusan, míg az Amazonnál körülbelül 4500 fejlesztői-év munkáját és becsült 260 millió dolláros éves hatékonyságnövekedést takarítottak meg. A tanulmány két fő akadályt azonosított az AI rendszerek teljes körű fejlesztési automatizálásával (AI Systems for AI R&D Automation, ASARA) és a szoftver-alapú intelligenciarobbanással (Software Intelligence Explosion, SIE) kapcsolatban: a rögzített számítási kapacitást és az új AI rendszerek hosszú betanítási idejét. Azonban a tanulmány szerint ezek a korlátok valószínűleg nem állítják meg teljesen az SIE kialakulását, mivel a múltban az algoritmikus fejlesztések rendszeresen javították a betanítási folyamatok hatékonyságát – az AI kísérletek és a betanítási folyamatok fokozatosan gyorsabbá válhatnak, ami lehetővé teszi a folyamatos gyorsulást ezen akadályok ellenére is.

A technológiai fejlődés sebessége könnyen túllépheti a társadalom felkészülési képességeit, ezért a tanulmány konkrét biztonsági intézkedéseket javasol a szoftver-alapú intelligenciarobbanás kockázatainak kezelésére. Ha egy szoftver-alapú intelligenciarobbanás bekövetkezne, az a jelenlegi AI teljesítményének rendkívül gyors fejlődéséhez vezethetne, ami szükségessé tenné a megfelelő szabályozások előzetes kifejlesztését. A javaslatok között szerepel a szoftver fejlődésének folyamatos nyomon követése, az AI rendszerek fejlesztési képességeinek előzetes értékelése, valamint egy olyan küszöbérték meghatározása, amelyet a cégek vállalnak, hogy nem lépnek túl megfelelő biztonsági intézkedések nélkül, ezzel biztosítva a technológiai fejlődés biztonságos menetét.

Források:

1.

Will AI R&D Automation Cause a Software Intelligence Explosion? | Forethought

AI companies are increasingly using AI systems to accelerate AI research and development. Today’s AI systems help researchers write code, analyze research papers, and generate training data. Future systems could be significantly more capable – potentially automating the entire AI development cycle from formulating research questions and designing experiments to implementing, testing, and refining new AI systems. We argue that such systems could trigger a runaway feedback loop in which they quickly develop more advanced AI, which itself speeds up the development of even more advanced AI, resulting in extremely fast AI progress, even without the need for additional computer chips. Empirical evidence on the rate at which AI research efforts improve AI algorithms suggests that this positive feedback loop could overcome diminishing returns to continued AI research efforts. We evaluate two additional bottlenecks to rapid progress: training AI systems from scratch takes months, and improving AI algorithms often requires computationally expensive experiments. However, we find that there are possible workarounds that could enable a runaway feedback loop nonetheless.

Forethought

2.

How AI Can Automate AI Research and Development

Technology companies are using AI itself to accelerate research and development for the next generation of AI models, a trend that could lead to runaway technological progress. Policymakers and the public should be paying close attention to AI R&D automation to prepare for how AI could transform the future.

RAND CorporationGaurav Sett

3.

Will AI R&D Automation Cause a Software Intelligence Explosion? — AI Alignment Forum

Empirical evidence suggests that, if AI automates AI research, feedback loops could overcome diminishing returns, significantly accelerating AI progr…

Tom Davidson