Elle considère les effets sur les personnes, les organisations, la société et l'environnement, y compris les risques de sécurité, de sûreté, de vie privée, de fiabilité, de biais, de responsabilité, juridiques et métier à travers le cycle de vie de l'IA.
L'AI Risk Management Framework du National Institute of Standards and Technology (NIST AI RMF) organise des résultats volontaires sous Govern, Map, Measure et Manage. Son édition 1.0 reste le cadre publié mais est en cours de révision. Les organisations doivent adapter les méthodes au cas d'usage, aux parties affectées, aux preuves disponibles, à la tolérance au risque et aux obligations applicables.
Points clés
GouvernerAttribuer des propriétaires responsables, des politiques, des droits de décision, une documentation, une contestation indépendante, des voies d'incident, des attentes envers les fournisseurs, et des critères pour restreindre ou arrêter un système.
Cartographier et mesurerDéfinir l'usage et le contexte prévus, les parties affectées, les dépendances, l'usage abusif prévisible, l'incertitude, les métriques, les conditions de test, les limites et les changements du développement à l'exploitation.
Gérer en continuPrioriser les risques, mettre en œuvre et vérifier le traitement, surveiller la performance et les impacts, traiter les incidents et les recours, réévaluer les changements significatifs et retirer les systèmes en sécurité.
Limite importanteUn cadre, un score, un benchmark ou une fiche de modèle ne peut prouver qu'un système d'IA est digne de confiance ou acceptable. Les mesures sont incomplètes et dépendantes du contexte, tandis que les dommages et les interactions peuvent émerger après le déploiement.