# Qu'est-ce que les opérations de sécurité du machine learning (MLSecOps) ?

> Les opérations de sécurité du machine learning (machine learning security operations, MLSecOps) sont une pratique émergente qui intègre les responsabilités et les contrôles de sécurité dans le développement et l'exploitation du machine learning, à travers la préparation des données, le développement des modèles, l'évaluation, la publication, le déploiement, la surveillance, le changement et le retrait.

- URL canonique: https://yellowcube.eu/fr/glossary/machine-learning-security-operations/
- Éditeur: Yellow Cube
- Langue: fr
- Contact: hello@yellowcube.eu

## Contenu

Le libellé n'a pas de définition standard universelle ; les implémentations utiles combinent les opérations de machine learning, le développement sécurisé, la gestion des risques liés à l'IA et la sécurité opérationnelle plutôt que de nommer une équipe ou un outil unique.

Les MLSecOps traitent les jeux de données, le code, les modèles, les prompts, les configurations, les artefacts d'évaluation, les registres, les pipelines, l'infrastructure de service et les composants externes comme des actifs gouvernés. Elles ajoutent des tests de sécurité et des preuves aux workflows de livraison tout en maintenant la supervision de la production, la réponse, la reprise et le retour d'information vers les développeurs et les propriétaires de modèles.

### Points clés

- **Protection du cycle de vie:** Établir la provenance et les contrôles d'accès, isoler les environnements de build et d'évaluation, analyser les dépendances, signer les artefacts, protéger les registres et séparer les tâches d'approbation et de publication.
- **Évaluation des menaces:** Évaluer l'empoisonnement, l'évasion, l'extraction, les fuites de vie privée, les sorties dangereuses, la compromission des dépendances, l'accès excessif aux outils et l'usage abusif dans des contextes réalistes de système et d'utilisateur.
- **Opérations et réponse:** Surveiller la dérive des données et des modèles, les abus, les accès anormaux, la performance et les signaux de sécurité ; préserver les preuves ; soutenir le rollback, la révocation, la réponse aux incidents et le retrait sûr.
- **Limite importante:** Ajouter des portes de sécurité à un pipeline MLOps ne rend pas un système d'IA sécurisé ni digne de confiance. Les modes de défaillance inconnus, les évaluations faibles, les données compromises, la logique applicative dangereuse et le contexte post-déploiement peuvent contourner les contrôles du pipeline.

### Termes associés

[DevSecOps](<https://yellowcube.eu/fr/glossary/devsecops/>) · [Sécurité de l'IA](<https://yellowcube.eu/fr/glossary/ai-security/>) · [Sécurité des pipelines CI/CD](<https://yellowcube.eu/fr/glossary/continuous-integration-and-continuous-delivery-or-deployment-pipeline-security/>) · [Empoisonnement de données](<https://yellowcube.eu/fr/glossary/data-poisoning/>) · [Empoisonnement de modèle](<https://yellowcube.eu/fr/glossary/model-poisoning/>)

### Sources

[NIST SP 800-218A, Secure Software Development Practices for Generative AI and Dual-Use Foundation Models](https://csrc.nist.gov/pubs/sp/800/218/a/final) · [NIST, Secure Software Development Framework](https://csrc.nist.gov/projects/ssdf) · [NIST, AI RMF Playbook](https://www.nist.gov/itl/ai-risk-management-framework/nist-ai-rmf-playbook)

## Attribution et portée

Cette version Markdown est générée à partir des mêmes contenus approuvés que la page HTML canonique. Utilisez l’URL canonique pour toute citation.