Figyelembe veszi az emberekre, szervezetekre, társadalomra és környezetre gyakorolt hatásokat — beleértve a biztonsági, munkabiztonsági, adatvédelmi, megbízhatósági, torzítási, elszámoltathatósági, jogi és üzleti kockázatokat az AI-életcikluson át.
A National Institute of Standards and Technology AI Risk Management Framework-je (NIST AI RMF) az önkéntes eredményeket a Govern, Map, Measure és Manage alatt szervezi. Az 1.0-s kiadása marad a közzétett keretrendszer, de felülvizsgálat alatt áll. A szervezeteknek a módszereket a felhasználási esethez, érintett felekhez, rendelkezésre álló bizonyítékokhoz, kockázattűréshez és alkalmazandó kötelezettségekhez kell igazítaniuk.
Legfontosabb pontok
GovernRendeljen elszámoltatható tulajdonosokat, szabályzatokat, döntési jogokat, dokumentációt, független megkérdőjelezést, incidensútvonalakat, beszállítói elvárásokat, és kritériumokat a rendszer korlátozására vagy leállítására.
Feltérképezés és mérés (Map, Measure)Határozza meg a szándékolt felhasználást és kontextust, érintett feleket, függőségeket, előrelátható visszaélést, bizonytalanságot, metrikákat, tesztfeltételeket, korlátokat és a fejlesztésből üzembe álláskori változásokat.
Folyamatos kezelés (Manage)Priorizálja a kockázatokat, valósítsa meg és ellenőrizze a kezelést, figyelje a teljesítményt és hatásokat, kezelje az incidenseket és fellebbezéseket, értékelje újra a lényeges változásokat, és vonja ki a rendszereket biztonságosan.
Fontos korlátEgy keretrendszer, pontszám, benchmark vagy modellkártya nem bizonyíthatja, hogy egy AI-rendszer megbízható vagy elfogadható. A mérések hiányosak és kontextusfüggők, a károk és kölcsönhatások pedig a bevetés után is kialakulhatnak.