Rozważa skutki dla ludzi, organizacji, społeczeństwa i środowiska, w tym ryzyka bezpieczeństwa, safety, prywatności, niezawodności, stronniczości, rozliczalności, prawne i biznesowe przez cykl życia AI.
National Institute of Standards and Technology AI Risk Management Framework (NIST AI RMF) organizuje dobrowolne wyniki pod Govern, Map, Measure i Manage. Jego edycja 1.0 pozostaje opublikowaną ramą, ale jest rewizjonowana. Organizacje powinny adaptować metody do przypadku użycia, dotkniętych stron, dostępnych dowodów, tolerancji ryzyka i mających zastosowanie zobowiązań.
Najważniejsze punkty
GovernPrzypisuj rozliczalnych właścicieli, polityki, prawa decyzyjne, dokumentację, niezależne podważanie, trasy incydentowe, oczekiwania dostawców i kryteria ograniczania lub zatrzymywania systemu.
Map i MeasureDefiniuj zamierzone użycie i kontekst, dotknięte strony, zależności, przewidywalne nadużycie, niepewność, metryki, warunki testów, ograniczenia i zmiany od rozwoju do eksploatacji.
Manage ciąglePriorytetyzuj ryzyka, wdrażaj i weryfikuj traktowanie, monitoruj wydajność i wpływy, obsługuj incydenty i odwołania, oceniaj ponownie istotne zmiany i wycofuj systemy bezpiecznie.
Istotne ograniczenieRama, wynik, benchmark ani karta modelu nie może udowodnić, że system AI jest godny zaufania lub akceptowalny. Pomiary są niekompletne i zależne od kontekstu, a szkody i interakcje mogą wyłonić się po wdrożeniu.