Azt válaszolja meg, ki hagyhat jóvá AI-felhasználási eseteket, mely modellek és adatok megengedettek, milyen tesztelés és emberi felügyelet szükséges, hogyan kezelik a shadow AI-t, és hogyan eszkalálják az incidenseket. A NIST AI Risk Management Framework-féle keretrendszerek govern-map-measure-manage szerkezetben gondolják; az EU AI Act-féle jogszabályok pedig egyre inkább jogi kötelezettséggé teszik egyes részeit.
Legfontosabb pontok
Előbb leltár és szabályzatIsmerje, mely AI-rendszerek és -funkciók vannak használatban — beleértve a gyártói eszközökbe ágyazott AI-t —, és állítson elfogadható használati szabályokat a kockázatértékelés előtt.
Megnevezett rendszertulajdonosokMinden bevetett modellhez tartozzon megnevezett tulajdonos a kockázatáért, teljesítményéért, adataiért és kivonásáért — ne széttartó bizottsági elszámoltathatóság.
Fontos korlátAz irányítás az állványzat, nem a védelem. Egy jóváhagyottmodell-lista és egy szabályzatoldal nem teszi biztonságossá a modellt; az értéket a keretrendszer által megkövetelt kontrollok, tesztelés és monitorozás, valamint a mögöttük álló kikényszerítés adja.