Le libellé n'a pas de définition standard universelle ; les implémentations utiles combinent les opérations de machine learning, le développement sécurisé, la gestion des risques liés à l'IA et la sécurité opérationnelle plutôt que de nommer une équipe ou un outil unique.
Les MLSecOps traitent les jeux de données, le code, les modèles, les prompts, les configurations, les artefacts d'évaluation, les registres, les pipelines, l'infrastructure de service et les composants externes comme des actifs gouvernés. Elles ajoutent des tests de sécurité et des preuves aux workflows de livraison tout en maintenant la supervision de la production, la réponse, la reprise et le retour d'information vers les développeurs et les propriétaires de modèles.
Points clés
Protection du cycle de vieÉtablir la provenance et les contrôles d'accès, isoler les environnements de build et d'évaluation, analyser les dépendances, signer les artefacts, protéger les registres et séparer les tâches d'approbation et de publication.
Évaluation des menacesÉvaluer l'empoisonnement, l'évasion, l'extraction, les fuites de vie privée, les sorties dangereuses, la compromission des dépendances, l'accès excessif aux outils et l'usage abusif dans des contextes réalistes de système et d'utilisateur.
Opérations et réponseSurveiller la dérive des données et des modèles, les abus, les accès anormaux, la performance et les signaux de sécurité ; préserver les preuves ; soutenir le rollback, la révocation, la réponse aux incidents et le retrait sûr.
Limite importanteAjouter des portes de sécurité à un pipeline MLOps ne rend pas un système d'IA sécurisé ni digne de confiance. Les modes de défaillance inconnus, les évaluations faibles, les données compromises, la logique applicative dangereuse et le contexte post-déploiement peuvent contourner les contrôles du pipeline.