# Qu'est-ce que la sécurité de l'IA ?

> La sécurité de l'IA est la discipline qui consiste à protéger les systèmes d'intelligence artificielle et les environnements qui les entourent contre la manipulation malveillante, l'accès non autorisé, la divulgation, le vol et la perturbation.

- URL canonique: https://yellowcube.eu/fr/glossary/ai-security/
- Éditeur: Yellow Cube
- Langue: fr
- Contact: hello@yellowcube.eu

## Contenu

Son périmètre inclut les données d'entraînement et d'évaluation, les modèles et les poids, le code, les prompts, les magasins de recherche (retrieval), les pipelines de développement, les identités, l'infrastructure, les interfaces, les outils connectés et les décisions ou actions qu'une application dotée d'IA peut produire.

Le travail étend les pratiques établies de cybersécurité à travers le cycle de vie de l'IA tout en traitant les chemins d'attaque créés ou amplifiés par le machine learning. Un programme solide part de la finalité du système, de ses actifs, de ses acteurs et de ses frontières de confiance, puis choisit les contrôles selon les conséquences réalistes. Il protège la confidentialité, l'intégrité et la disponibilité sans présumer qu'un modèle performant ou un fournisseur réputé rend l'application complète sécurisée.

### Points clés

- **Périmètre du cycle de vie:** Évaluer l'acquisition, la préparation des données, l'entraînement ou la personnalisation, l'évaluation, le déploiement, l'exploitation, le changement, la réponse aux incidents et le retrait — pas seulement le point de terminaison public du modèle.
- **Contrôles de base:** Maintenir un inventaire des actifs ; vérifier la provenance ; appliquer le moindre privilège, le développement sécurisé et les contrôles de chaîne d'approvisionnement ; isoler les ressources sensibles ; valider les sorties avant usage ; et surveiller les abus conventionnels comme ceux propres à l'IA.
- **Preuves d'assurance:** Combiner la modélisation des menaces, les tests de sécurité, l'évaluation adversariale, la revue des accès et configurations, les exercices d'incident, la surveillance et les nouveaux tests après des changements significatifs.
- **Limite importante:** La sécurité de l'IA n'est pas un synonyme de sûreté de l'IA ni de fiabilité globale. Un système peut résister aux attaquants tout en restant inexact, inéquitable, dangereux dans son contexte prévu ou mal gouverné, et aucune passerelle ou scanner unique ne couvre la totalité du risque.

### Termes associés

[Adversarial machine learning](<https://yellowcube.eu/fr/glossary/adversarial-machine-learning/>) · [Red teaming IA](<https://yellowcube.eu/fr/glossary/ai-red-teaming/>) · [Injection de prompt](<https://yellowcube.eu/fr/glossary/prompt-injection/>) · [Gestion des risques liés à l'IA](<https://yellowcube.eu/fr/glossary/ai-risk-management/>) · [IA en cybersécurité](<https://yellowcube.eu/fr/glossary/ai-in-cybersecurity/>) · [Sécurité dès la conception](<https://yellowcube.eu/fr/glossary/secure-by-design/>) · [Opérations de sécurité du machine learning (MLSecOps)](<https://yellowcube.eu/fr/glossary/machine-learning-security-operations/>) · [Gouvernance de l'IA](<https://yellowcube.eu/fr/glossary/ai-governance/>)

### Sources

[NSA Artificial Intelligence Security Center](https://www.nsa.gov/AISC/) · [NIST AI Risk Management Framework 1.0](https://www.nist.gov/publications/artificial-intelligence-risk-management-framework-ai-rmf-10) · [NIST AI 600-1, Generative AI Profile](https://www.nist.gov/publications/artificial-intelligence-risk-management-framework-generative-artificial-intelligence)

## Attribution et portée

Cette version Markdown est générée à partir des mêmes contenus approuvés que la page HTML canonique. Utilisez l’URL canonique pour toute citation.