A NIST AI Kockázatkezelési Keretrendszere: kulcsfontosságú eszköz a GenAI szabályozásában

A Nemzeti Szabványügyi és Technológiai Intézet (NIST) 2023. január 26-án kiadott Mesterséges Intelligencia Kockázatkezelési Keretrendszere (AI RMF) egyre nagyobb jelentőséggel bír a GenAI szabályozásában. A keretrendszer négy fő funkcióra épül – irányítás, feltérképezés, mérés és kezelés – amelyek segítik a szervezeteket a megbízható MI-rendszerek fejlesztésében és értékelésében.

2024. július 26-án a NIST kiadta a NIST-AI-600-1 dokumentumot, a Mesterséges Intelligencia Kockázatkezelési Keretrendszer: Generatív Mesterséges Intelligencia Profil című kiegészítést, amely kifejezetten a generatív MI egyedi kockázataira összpontosít. Az AI RMF növekvő fontosságát igazolja, hogy számos amerikai jogszabály és végrehajtási rendelet építi be vagy hivatkozik rá, köztük a Fehér Ház 2023. októberi végrehajtási rendelete a biztonságos MI fejlesztésről, valamint Kalifornia állam 2023. szeptemberi rendelete, amely a NIST keretrendszerére alapozva állami irányelveket dolgozott ki. Colorado állam új törvénye, a Consumer Protections for Artificial Intelligence külön védelmet biztosít azon szervezeteknek, amelyek megfelelnek az AI RMF-nek. A keretrendszer 12 specifikus kockázati kategóriát azonosít a GenAI-nál, beleértve a hallucinációt és az adatvédelmi kockázatokat. Ahogy Jonathan Tam megjegyzi: a keretrendszer szolid kiindulópontot jelent a szervezetek megfelelési törekvéseihez.

A NIST keretrendszere a megbízható MI 11 jellemzőjét határozza meg, köztük az érvényességet, megbízhatóságot, biztonságot és átláthatóságot. Ez egy önkéntes keretrendszer, amely segíti a szervezeteket a kockázatok értékelésében, az azokra adott válaszok kidolgozásában, és a megfelelő irányítási struktúrák kialakításában. 2024-ben a NIST létrehozta az Egyesült Államok MI Biztonsági Intézetét és a kapcsolódó MI Biztonsági Intézet Konzorciumot az AI RMF továbbfejlesztésére.

Források:

1.

AI Risk Management Framework

NIST

2.

Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile

This document is a cross-sectoral profile of and companion resource for the AI Risk Management Framework (AI RMF 1.0) for Generative AI, pursuant to President B

NISTChloe Autio

3.

United States: The growing importance of the NIST AI Risk Management Framework

As AI capabilities and applications continue to advance, the National Institute of Standards and Technology’s Artificial Intelligence Risk Management Framework has emerged as a vital tool for organizations to responsibly develop and use AI systems.

Global Compliance NewsJonathan Tam