Zvažuje efekty na ľudí, organizácie, spoločnosť a prostredie, vrátane rizík bezpečnosti, bezpečnosti osôb, súkromia, spoľahlivosti, skreslenia, zodpovednosti, právnych a podnikových rizík naprieč životným cyklom AI.
Rámec riadenia rizika AI National Institute of Standards and Technology (NIST AI RMF) organizuje dobrovoľné výstupy pod Govern, Map, Measure a Manage. Jeho edícia 1.0 zostáva publikovaným rámcom, ale je revidovaná. Organizácie majú adaptovať metódy na použitie, dotknuté strany, dostupné dôkazy, toleranciu rizika a uplatniteľné povinnosti.
Kľúčové body
Govern (riadenie)Priradiť zodpovedných vlastníkov, politiky, rozhodovacie práva, dokumentáciu, nezávislú výzvu, cesty incidentov, očakávania dodávateľov a kritériá pre obmedzenie alebo zastavenie systému.
Map and Measure (mapovanie a meranie)Definovať zamýšľané použitie a kontext, dotknuté strany, závislosti, predvídateľné zneužitie, neistotu, metriky, testovacie podmienky, limity a zmeny od vývoja k prevádzke.
Manage (priebežná správa)Prioritizovať riziká, implementovať a verifikovať spracovanie, monitorovať výkon a dopady, spracovať incidenty a odvolania, prehodnocovať materiálne zmeny a vyradzovať systémy bezpečne.
Dôležité obmedzenieRámec, skóre, benchmark ani model card nedokáže dokázať, že systém AI je dôveryhodný alebo prijateľný. Merania sú neúplné a kontextovo závislé, zatiaľ čo škody a interakcie môžu vzniknúť po nasadení.