Ia în considerare efectele asupra oamenilor, organizațiilor, societății și mediului, inclusiv riscuri de securitate, siguranță, confidențialitate, fiabilitate, prejudecată, responsabilitate, juridice și de afaceri pe parcursul ciclului de viață AI.
Cadrul de gestionare a riscurilor AI al National Institute of Standards and Technology (NIST AI RMF) organizează rezultate voluntare sub Govern, Map, Measure și Manage. Ediția sa 1.0 rămâne cadrul publicat, dar este în curs de revizuire. Organizațiile ar trebui să adapteze metodele la cazul de utilizare, părțile afectate, dovezile disponibile, toleranța la risc și obligațiile aplicabile.
Puncte esențiale
GovernAtribuiți proprietari răspunzători, politici, drepturi de decizie, documentație, provocare independentă, rute pentru incidente, așteptări de la furnizori și criterii pentru restricționarea sau oprirea unui sistem.
Map și MeasureDefiniți utilizarea și contextul intenționate, părțile afectate, dependențele, utilizarea abuzivă previzibilă, incertitudinea, metricile, condițiile de test, limitările și modificările de la dezvoltare la operare.
Gestionați continuuPrioritizați riscurile, implementați și verificați tratamentul, monitorizați performanța și impacturile, tratați incidentele și contestațiile, reevaluați modificările semnificative și retrageți sistemele în siguranță.
Limitare importantăUn cadru, un scor, un benchmark sau o fișă de model nu poate dovedi că un sistem AI este demn de încredere sau acceptabil. Măsurătorile sunt incomplete și dependente de context, iar daunele și interacțiunile pot apărea după implementare.