# Qu'est-ce que la sécurité de l'IA agentique ?

> La sécurité de l'IA agentique est la pratique consistant à protéger les systèmes d'IA qui poursuivent des objectifs par un accès délégué à des outils, des services ou d'autres agents.

- URL canonique: https://yellowcube.eu/fr/glossary/agentic-ai-security/
- Éditeur: Yellow Cube
- Langue: fr
- Contact: hello@yellowcube.eu

## Contenu

Un tel système peut planifier des étapes, conserver une mémoire, sélectionner des outils et agir pour un utilisateur. Sa frontière de sécurité inclut le modèle, le code d'orchestration, les prompts, la mémoire, les interfaces d'outils, les identifiants, les données connectées, les autres agents et l'environnement d'action.

Les risques incluent l'injection de prompt indirecte, les résultats d'outils manipulés, les permissions excessives, l'exposition d'identifiants, la mémoire empoisonnée, l'usurpation entre agents et les chaînes d'actions permises aux effets dommageables. Des défaillances peuvent aussi survenir sans attaquant lorsqu'un agent comprend mal un objectif ou optimise le mauvais but. Les contrôles doivent limiter ce que l'agent peut observer et modifier, avec une approbation renforcée pour les actions à conséquence.

### Points clés

- **Autorité bornée:** Donner à chaque outil et workflow des identifiants à périmètre étroit et de courte durée ; restreindre les destinations, les données, les types d'actions, les dépenses et le temps d'exécution ; et exiger une approbation pour les étapes à fort impact.
- **Protection du contexte et de la mémoire:** Séparer les utilisateurs et les tâches, étiqueter et valider le contenu non fiable, contrôler ce qui persiste, consigner la provenance et empêcher les instructions récupérées d'écraser silencieusement les objectifs autorisés.
- **Observation et confinement:** Journaliser les prompts, les décisions, les appels d'outils et les résultats lorsque proportionné ; détecter les chaînes d'actions anormales ; utiliser des sandboxes, des limites de débit, des contrôles de transaction et des mécanismes fiables d'arrêt ou de rollback.
- **Assurance du système entier:** Tester des attaques réalistes en plusieurs étapes et des défaillances accidentelles, y compris la compromission d'outils, l'empoisonnement de la mémoire, les agents en cascade et la récupération d'actions partiellement accomplies.
- **Limite importante:** La sécurité de l'IA agentique est un domaine émergent dont la terminologie, les protocoles et les méthodes d'assurance ne sont pas stabilisés. Les contrôles conventionnels de logiciel, d'identité et de risque IA restent nécessaires, mais peuvent ne pas traiter pleinement le comportement délégué et adaptatif.

### Termes associés

[Sécurité de l'IA](<https://yellowcube.eu/fr/glossary/ai-security/>) · [Injection de prompt](<https://yellowcube.eu/fr/glossary/prompt-injection/>) · [Moindre privilège](<https://yellowcube.eu/fr/glossary/least-privilege/>) · [Gestion des risques liés à l'IA](<https://yellowcube.eu/fr/glossary/ai-risk-management/>) · [DevSecOps](<https://yellowcube.eu/fr/glossary/devsecops/>)

### Sources

[NIST AI 800-5: Summary Analysis of Responses to the RFI Regarding Security Considerations for AI Agents](https://www.nist.gov/publications/summary-analysis-responses-request-information-regarding-security-considerations-ai) · [NIST: Tool Use in Agent Systems](https://www.nist.gov/news-events/news/2025/08/lessons-learned-consortium-tool-use-agent-systems) · [NIST AI Risk Management Framework](https://www.nist.gov/itl/ai-risk-management-framework)

## Attribution et portée

Cette version Markdown est générée à partir des mêmes contenus approuvés que la page HTML canonique. Utilisez l’URL canonique pour toute citation.