Son périmètre inclut les données d'entraînement et d'évaluation, les modèles et les poids, le code, les prompts, les magasins de recherche (retrieval), les pipelines de développement, les identités, l'infrastructure, les interfaces, les outils connectés et les décisions ou actions qu'une application dotée d'IA peut produire.
Le travail étend les pratiques établies de cybersécurité à travers le cycle de vie de l'IA tout en traitant les chemins d'attaque créés ou amplifiés par le machine learning. Un programme solide part de la finalité du système, de ses actifs, de ses acteurs et de ses frontières de confiance, puis choisit les contrôles selon les conséquences réalistes. Il protège la confidentialité, l'intégrité et la disponibilité sans présumer qu'un modèle performant ou un fournisseur réputé rend l'application complète sécurisée.
Points clés
Périmètre du cycle de vieÉvaluer l'acquisition, la préparation des données, l'entraînement ou la personnalisation, l'évaluation, le déploiement, l'exploitation, le changement, la réponse aux incidents et le retrait — pas seulement le point de terminaison public du modèle.
Contrôles de baseMaintenir un inventaire des actifs ; vérifier la provenance ; appliquer le moindre privilège, le développement sécurisé et les contrôles de chaîne d'approvisionnement ; isoler les ressources sensibles ; valider les sorties avant usage ; et surveiller les abus conventionnels comme ceux propres à l'IA.
Preuves d'assuranceCombiner la modélisation des menaces, les tests de sécurité, l'évaluation adversariale, la revue des accès et configurations, les exercices d'incident, la surveillance et les nouveaux tests après des changements significatifs.
Limite importanteLa sécurité de l'IA n'est pas un synonyme de sûreté de l'IA ni de fiabilité globale. Un système peut résister aux attaquants tout en restant inexact, inéquitable, dangereux dans son contexte prévu ou mal gouverné, et aucune passerelle ou scanner unique ne couvre la totalité du risque.