Cas d’usage
La sécurité d’un agent dépend moins de son nom ou de son modèle que des actions qu’il peut réellement exécuter. Ces cas d’usage partent donc des flux, des outils, des données, des privilèges et des effets produits.
Surface d’attaque d’un agent IA
Autour de l’agent IA : code, modèle, prompt, données et RAG, mémoire, outils et MCP, API, workload. Exemples : injection de prompt, tool poisoning MCP, poisoning du RAG, exfiltration par API, processus ou réseau du workload.
Chaque couche autour de l’agent est un point d’entrée distinct : le prompt, les données récupérées, la mémoire, les outils, les API, le workload. Un contrôle placé sur l’une ne couvre pas les autres.
Cas d’usage
Cartographier les serveurs et outils accessibles, contrôler les paramètres d’un tool call, limiter les privilèges, valider les actions sensibles et conserver la trace de l’exécution.
Sécuriser les serveurs et outils MCPContrôle d’un appel d’outil via MCP
L’agent émet un appel d’outil vers un proxy MCP. Le contrôle examine l’identité, l’outil, les paramètres, la destination et le contexte. La décision bloque l’appel, ou l’autorise vers l’outil puis la ressource.
La chaîne complète : identité, credentials, autorisation, enforcement, runtime et audit, appliquée à un export réalisé par un agent.
Serveurs, descriptions d’outils, paramètres, tokens et destinations : où contrôler un tool call MCP.
Quand le plus petit rôle disponible reste trop large : une politique évaluée à chaque action, sur un chemin obligatoire.
Processus, fichiers, réseau et code généré : limiter ce que le workload de l’agent exécute réellement.
Découvrir agents, modèles, notebooks et serveurs MCP, puis leur attribuer un propriétaire avant de les contrôler.
Injection indirecte, poisoning et mémoire persistante : ce que l’agent lit peut orienter ce qu’il fera plus tard.
Provenance, format, intégrité et données sensibles : modèles et datasets comme composants de la supply chain.
Tester le chemin complet jusqu’à l’effet produit, pas seulement la réponse du modèle.
Vocabulaire technique : consulter le glossaire.
