Zvažuje účinky na lidi, organizace, společnost a životní prostředí, včetně bezpečnosti, bezpečnosti osob, soukromí, spolehlivosti, biasu, odpovědnosti, právních a podnikových rizik napříč životním cyklem AI.
AI Risk Management Framework NIST (NIST AI RMF) organizuje dobrovolné výstupy pod Govern, Map, Measure a Manage. Jeho edice 1.0 zůstává publikovaným rámcem, ale je revidována. Organizace by měly přizpůsobovat metody případu použití, dotčeným stranám, dostupným důkazům, toleranci rizika a platným povinnostem.
Klíčové body
GovernPřiřaďte odpovědné vlastníky, politiky, rozhodovací práva, dokumentaci, nezávislou výzvu, incidentní cesty, očekávání dodavatelů a kritéria pro omezení či zastavení systému.
Map a measureDefinujte zamýšlené použití a kontext, dotčené strany, závislosti, předvídatelné zneužití, nejistotu, metriky, testovací podmínky, omezení a změny z vývoje do provozu.
Manage kontinuálněPrioritizujte rizika, implementujte a verifikujte ošetření, monitorujte výkon a dopady, nakládejte s incidenty a odvoláními, přehodnoťte podstatné změny a vyřazujte systémy bezpečně.
Důležité omezeníRámec, skóre, benchmark či karta modelu nedokáže dokázat, že systém AI je důvěryhodný či přijatelný. Měření jsou neúplná a závislá na kontextu, zatímco škody a interakce se mohou objevit po nasazení.