Az ENSZ szakértői panel sürgős intézkedéseket javasol az általános mesterséges intelligencia szabályozására

Az ENSZ Közgyűlés Elnökeinek Tanácsa (UNCPGA) által összehívott magas szintű szakértői panel 2024-ben kiadta a "Governance of the Transition to Artificial General Intelligence: Urgent Considerations for the UN General Assembly" című jelentését, amely sürgős, összehangolt nemzetközi fellépést szorgalmaz az AGI (Artificial General Intelligence) fejlesztésének és alkalmazásának szabályozására. A Jerome Glenn által vezetett panel, amelynek tagjai között olyan nemzetközileg elismert szakértők szerepelnek, mint Yoshua Bengio, Stuart Russell és Jaan Tallinn, figyelmeztetett, hogy az emberi szintű AI akár ebben az évtizedben is megjelenhet, ami példátlan kockázatokat hordoz magában, beleértve az autonóm káros cselekvéseket és a globális biztonságot érintő fenyegetéseket.

A jelentés konkrét ajánlásokat fogalmaz meg, köztük egy kifejezetten az AGI-ra összpontosító ENSZ Közgyűlési ülés összehívását, egy globális megfigyelőközpont létrehozását, a biztonságos AGI tanúsítási rendszerének kialakítását, valamint egy ENSZ-egyezmény és egy nemzetközi ügynökség megfontolását az AGI felelősségteljes fejlesztésének és előnyei méltányos elosztásának biztosítására. A Google DeepMind vezérigazgatója, Demis Hassabis 2024 februárjában nyilatkozta, hogy az AGI a következő 5-10 évben kezd majd megjelenni, és egy "AGI-ra specializált CERN" létrehozását szorgalmazta a biztonságos fejlesztés érdekében, miközben egy DeepMind kutatási tanulmány szerint az AGI akár már 2030-ra is megjelenhet, és véglegesen elpusztíthatja az emberiséget.

A szakértői panel hangsúlyozza, hogy míg az AGI potenciálisan felgyorsíthatja a tudományos felfedezéseket, előmozdíthatja a közegészségügyet és segíthet elérni a fenntartható fejlődési célokat, a kockázatok mérséklése elengedhetetlen az előnyök kiaknázásához. A jelentés, amelyet hivatalosan benyújtottak az ENSZ Közgyűlés elnökének, és amelynek megvalósításáról már folynak a tárgyalások, fontos lépés a nemzetközi együttműködés kialakítása felé az egyik leginkább átalakító technológia terén, hivatalos ENSZ-tájékoztatók pedig a következő hónapokban várhatók.

Források:

1.

High-Level Report on AGI Governance Shared with UN Community - The Millennium Project

The High-Level Expert Panel on Artificial General Intelligence (AGI), convened by the UN Council of Presidents of the General Assembly (UNCPGA), has released its final report titled “Governance of the Transition to Artificial General Intelligence (AGI) Urgent Considerations for the UN General Assembly” outlining recommendations for global governance of AGI. The panel, chaired by Jerome […]

The Millennium ProjectMara Di Berardo

2.

An Opinion on the UN’s New AGI Governance Report — The Digital Constitutionalist

The field of Artificial Intelligence (AI) has long been divided into Artificial Narrow Intelligence (ANI) and Artificial General Intelligence (AGI). However, most AI governance strategies tend to concentrate solely on ANI, often neglecting AGI, which many view as the pinnacle of the field. Recently, a significant report has been released that acknowledges the importance of.

The Digital Constitutionalist — The Future of ConstitutionalismYeliz Doker

3.

UN Sounds Alarm On AI Nearing Human-Like Intelligence ‘AGI’, Urges Action

The report highlighted that immediate and coordinated international action, supported by the UN, was essential to prevent AGI from becoming a menace.

NDTV