Architecture de sécurité d'un agent IA en entreprise
Un agent IA ne se contente pas de répondre. Il lit des données, appelle des outils, interroge des API et peut produire des effets réels dans le système d'information. Une architecture de sécurité agentique doit donc protéger toute la chaîne, de l'intention utilisateur jusqu'à l'action exécutée.
Un agent IA est une chaîne d'actions, pas seulement un chatbot
Un chatbot reçoit une question et renvoie du texte. Le risque principal porte sur ce qu'il dit et sur les données qu'il a vues. Un agent reçoit un objectif, choisit des outils, les appelle avec des paramètres qu'il construit, lit les résultats et enchaîne. Chaque appel utilise une identité et un token, cible une ressource et peut modifier un état.
Notre fil rouge, Hermes, est un agent d'entreprise fictif. Il reçoit des demandes, envoie du contexte à un LLM, interroge un RAG, consulte le Web, appelle des outils MCP et des API internes, agit dans des applications et pousse du code. Chacun de ces chemins est une frontière distincte.
Une instruction dans un prompt n'est pas une frontière de sécurité. Le modèle peut l'ignorer, un contenu injecté peut la contredire. Seul un composant placé sur le chemin de l'action peut la bloquer.
La sécurité doit donc couvrir toute la chaîne entre l'intention de l'utilisateur et l'effet réellement produit, en distinguant prévention, autorisation, enforcement, détection et réponse. Voir aussi la conviction un prompt n'est pas une frontière de sécurité.
02
Le parcours complet d'une action de Hermes
Chaque sortie de Hermes traverse un contrôle avant d'atteindre sa cible. Les accès à des données ou à des actions métier passent par un PEP qui demande une décision au PDP ; les flux vers des sources non fiables passent par une inspection.
Suivez une action de Hermes
Choisissez ce que l'agent cherche à faire et observez les contrôles rencontrés jusqu'à la ressource. Chaque composant ouvre une fiche.
Que veut faire Hermes ?
Trait plein : flux de l'action. Tirets orange : demande de décision au PDP. Tirets bordeaux : signal de détection. Chaque boîte indique sa fonction en sous-titre.
Hermes → Protection du contenu → PEP RAG → Axiomatics PDP → PIP : attributs → PDP : décision → PEP applique → RAG → PEP filtre le retour → Hermes
Question de sécurité : Hermes peut-il réellement voir cette donnée, pour cet utilisateur, dans ce contexte ?
Risque
Hermes récupère un document que l'utilisateur n'a pas le droit de voir.
Contrôle
PEP sur le chemin du retrieval, décision du PDP à partir des attributs.
Effet
Le document est refusé ou filtré avant d'entrer dans le contexte du modèle.
Sécurité du contenu
Le document contient-il une instruction malveillante, une donnée sensible, un secret, du RAG poisoning ?
Autorisation
Hermes a-t-il le droit de récupérer cette donnée pour cet utilisateur et cette finalité ? Le PEP demande au PDP, le PIP fournit les attributs, le PAP porte les politiques.
Simulation pédagogique · scénarios prédéfinis, pas un moteur de politiques
Utilisateur
Alice (hors RH)
Agent
Hermes
Ressource
Dossier RH (Confidentiel RH)
Action
Lire
Contexte
Standard
✕ DENY
Pourquoi ?
Fonction hors RH
Donnée classifiée Confidentiel RH
Action hors de la finalité de l'utilisateur
Exemple de politique utilisé par ce démonstrateur, pas la logique interne d'un produit.
Même agent, même action, même ressource : seul l'utilisateur pour lequel Hermes agit change. La politique combine fonction, classification de la ressource et finalité.
Un outil parfaitement légitime peut être interdit à cet agent ou à cet utilisateur. Inversement, une action théoriquement autorisée peut être bloquée parce que l'outil ou son contenu paraît malveillant. Les deux contrôles ne sont pas redondants.
Simulation pédagogique · scénarios prédéfinis, pas un moteur de politiques
Agent
Hermes
Tool
exportCRM
fields
id, amount, status
destination
reporting.corporate
✓ PERMIT
Pourquoi ?
Champs limités à la finalité de reporting
Destination interne approuvée
Exemple de politique utilisé par ce démonstrateur, pas la logique interne d'un produit.
Un agent n'emprunte pas les mêmes chemins selon ses modèles, ses données, ses outils, ses API et son niveau d'autonomie. La première étape consiste à cartographier ce qu'il peut réellement atteindre et exécuter.
Quelles informations ont le droit d'entrer dans l'agent et d'en ressortir ?
Un contrôle d'entrée inspecte prompt, fichiers et documents (PII, secrets, contenu interdit) ; le même principe s'applique à la réponse avant restitution.
Ce document peut-il entrer dans le contexte du modèle ?
Avant d'envoyer un document au modèle, deux contrôles différents peuvent être nécessaires : vérifier que son contenu ne cherche pas à détourner l'agent et vérifier que l'utilisateur et l'agent sont autorisés à accéder à cette donnée.
Cet appel est-il dangereux ? Hermes est-il autorisé à l'effectuer ?
Deux contrôles distincts : une inspection MCP (serveur, description, paramètres, résultat) et une décision d'autorisation appliquée par un PEP sur le chemin de l'appel.
Que peut faire Hermes indépendamment des droits du compte technique ?
Le compte définit ce qui est techniquement possible ; la politique runtime, appliquée par un PEP applicatif, définit ce qui est légitime pour cette exécution.
Pourquoi une interaction avec un leurre est-elle intéressante ?
Une activité normale n'avait aucune raison d'accéder à cette ressource. Le leurre (ex. Trapster) génère un signal ; le SOC / SOAR orchestre la réponse.
Avant que la demande atteigne Hermes, un guardrail d'entrée inspecte le contenu. Le même principe s'applique à la réponse finale avant restitution à l'utilisateur.
PII
Détection de données personnelles : noms, identifiants, coordonnées.
Secrets
Clés d'API, tokens, mots de passe collés dans une demande ou produits dans une réponse.
Données sensibles
Contenus classifiés ou réglementés qui ne doivent pas circuler dans ce canal.
Action
Bloquer, masquer, transformer ou journaliser selon une logique DLP.
Exemple d'implémentation · AccuKnox propose des guardrails applicables aux entrées et sorties d'applications IA. D'autres technologies peuvent remplir ce rôle.
Un guardrail ne sait pas si l'utilisateur a le droit de demander l'action. Il qualifie un contenu, pas une permission.
04
Contrôler ce que l'agent transmet au modèle
Le contexte envoyé au LLM est une frontière à part : il agrège la demande, l'historique, les documents récupérés et les résultats d'outils. Tout ce qui y entre peut sortir du périmètre (fournisseur de modèle, journaux, réponse) et tout ce qui y entre peut influencer la suite.
Point de contrôle
Hermes
→LLM Guard
→LLM
→LLM Guard
→Hermes
Un contrôle placé avant le modèle peut empêcher l'envoi de secrets et de données non autorisées, réduire le contexte au nécessaire, appliquer des politiques de protection des données et repérer certaines injections. La réponse du modèle est inspectée à son tour avant que Hermes ne l'utilise pour décider d'un appel d'outil.
RAG : protéger le contenu et contrôler précisément la donnée accessible
Deux problèmes distincts se posent quand Hermes interroge un RAG.
Sécurité du contenu
Documents empoisonnés, instructions cachées, données sensibles indexées par erreur. Relève de l'inspection.
Autorisation de la donnée
Quels documents Hermes peut récupérer pour cet utilisateur, cette finalité, ce contexte. Relève de la décision d'autorisation.
PEP, PDP, PIP, PAP
Le PEP est placé sur le chemin obligatoire vers le retrieval. Il intercepte la requête de Hermes et demande au PDP : cette action précise est-elle autorisée dans ce contexte précis ? Le PDP évalue les politiques à partir d'attributs fournis par la demande ou récupérés auprès des PIP : utilisateur, identité de Hermes, rôle, équipe, manager, finalité, action, ressource, classification, environnement, relations entre identité et ressource.
Les règles combinent RBAC, ABAC, PBAC et ReBAC. Elles sont administrées dans le PAP : règles de la société, d'une direction, d'un métier, d'un manager, du propriétaire d'une ressource, exceptions et priorités. Elles doivent être gouvernées, versionnées et testables.
Décision
Hermes
→PEP
→PDP
→Permit + obligations
→PEP
→RAG filtré
Le PDP répond Permit, Deny ou Permit accompagné d'obligations : masquer des champs, limiter les résultats, interdire l'export, imposer une destination, journaliser davantage, exiger une validation.
Exemple d'implémentation · Axiomatics fournit le PAP et le PDP. Il prend la décision ; il ne remplace pas le PEP, qui reste sur le chemin de l'action et l'applique.
MCP : ne jamais faire confiance aveuglément à un outil
Hermes découvre et utilise des serveurs MCP. La description d'un outil est lue par le modèle et oriente ses choix : c'est une surface d'attaque. Les risques : tool poisoning, description trompeuse, schéma inattendu, paramètres malveillants, outil trop puissant, serveur non approuvé, résultat contenant une instruction ou une donnée dangereuse.
Une couche de sécurité MCP inspecte le serveur, l'outil, sa description, son schéma, les paramètres de l'appel et le résultat avant son retour dans le contexte.
Deux contrôles sur un même appel
Hermes
→Inspection AccuKnox
→PEP
→PDP Axiomatics
→Serveur MCP
Le premier contrôle vérifie que l'appel n'est pas malveillant. Le second vérifie que l'action est permise par les règles de l'entreprise. Un appel peut réussir le premier et échouer au second : paramètres propres, mais montant ou destinataire hors mandat.
La question posée au PDP est précise : cet agent, déclenché par cet utilisateur, peut-il exécuter cette action sur cette ressource, pour ce montant, depuis cet environnement, vers cette destination ? La gateway applique ensuite la réponse sur l'endpoint, la méthode, les paramètres, les champs, le volume, le montant et la destination.
Si Hermes peut joindre l'API de paiement sans passer par la gateway, la politique n'est pas un contrôle effectif.
Quand Hermes agit dans une application métier, un PEP applicatif (code de l'application, proxy, sidecar ou SDK) intercepte l'action et consulte le PDP. L'application n'est atteinte que si l'action est autorisée.
Hermes
→PEP applicatif
→PDP
→Application
On externalise la décision d'autorisation, pas nécessairement le runtime complet de l'application. Les politiques deviennent communes à l'API, au RAG et aux applications, au lieu d'être réécrites dans chaque code.
Sécuriser le code produit par l'agent avant qu'il n'atteigne la production
Hermes peut écrire du code, ouvrir une pull request ou alimenter un pipeline. Avant qu'un artefact progresse, des contrôles recherchent secrets, vulnérabilités, dépendances et packages à risque, écarts de SBOM, images non conformes, erreurs d'Infrastructure as Code et configurations contraires aux politiques.
Hermes
→Pull request
→Contrôles DevSecOps
→Quality / security gates
→Déploiement
Ces contrôles n'empêchent pas un modèle de se tromper. Ils empêchent ou réduisent la possibilité qu'un artefact non conforme atteigne les étapes suivantes de la chaîne. Le pipeline conserve ses propres gates.
Exemple d'implémentation · AccuKnox couvre notamment l'analyse de code, d'images et d'IaC.
Un agent autonome explore, essaie plusieurs approches, multiplie les appels, cherche de nouvelles ressources. Il peut dévier de son périmètre sans qu'aucun contrôle unitaire ne se déclenche.
La deception ajoute des leurres : faux comptes, faux secrets, faux services, fausses machines, fausses ressources. Aucun utilisateur ni processus légitime n'a de raison d'y toucher. Une interaction produit donc un signal de très forte valeur.
Détection et réponse
Hermes
→Leurre
→Alerte
→SOC / SIEM / SOAR
→Réponse
La réponse, orchestrée par le SOC, peut révoquer un token ou une identité, bloquer un flux réseau, retirer un accès, isoler le workload, désactiver un outil ou arrêter l'exécution.
Exemple d'implémentation · Trapster détecte l'interaction avec le leurre. La réponse relève du SOC et de ses automatisations, pas de Trapster lui-même.
Une défense en profondeur plutôt qu'un produit miracle
Aucune brique ne suffit seule. L'architecture répond à quatre questions : que laisse-t-on entrer et sortir ? quelle action est réellement autorisée ? que fait réellement l'agent au runtime ? comment détecte-t-on et arrête-t-on une dérive ?
Prévenir / protéger
AccuKnox
Inspection des entrées, sorties, prompts, outils, MCP, code et runtime.
Deception : exploration anormale, signaux de forte confiance.
SOC / SIEM / SOAR
Observe, corrèle et orchestre la réponse.
Les rôles peuvent se superposer. L'articulation entre ces solutions passe par l'architecture (chemins obligatoires, PEP, remontée des signaux), pas par une intégration native entre produits.
12
L'architecture dépend du niveau de risque
Niveau 1
Assistant interne sans actions sensibles
Guardrails, authentification, journalisation.
Niveau 2
Agent accédant à des données ou outils internes
Guardrails, contrôle MCP et API, autorisation fine.
Niveau 3
Agent autonome pouvant modifier le SI
Tous les contrôles précédents, enforcement runtime, deception, isolation et réponse.
13
Approfondir chaque couche
Chaque page répond à une seule question et peut se lire seule.
En contrôlant chaque segment de la chaîne : entrées et sorties, contexte envoyé au modèle, données récupérées, outils MCP, API, applications, code produit et comportement au runtime. Chaque action sensible passe par un point d'enforcement obligatoire qui applique une décision d'autorisation, et chaque étape produit une trace exploitable.
Quelle différence entre guardrail et autorisation ?
Un guardrail inspecte un contenu : il détecte une donnée sensible, un secret, une injection ou un payload hostile. L'autorisation décide si une identité, dans un contexte donné, peut effectuer une action sur une ressource. Un appel peut être propre et non autorisé, ou autorisé et malveillant : les deux contrôles sont nécessaires.
Qu'est-ce qu'un PEP pour un agent IA ?
Le Policy Enforcement Point est le composant placé sur le chemin obligatoire entre l'agent et la ressource : API Gateway, proxy, sidecar, SDK ou code applicatif. Il intercepte l'action, demande une décision au PDP et l'applique, obligations comprises. S'il existe un chemin qui l'évite, le contrôle est contournable.
Qu'est-ce qu'un PDP ?
Le Policy Decision Point évalue les politiques à partir des attributs de la demande (utilisateur, agent, action, ressource, contexte) et répond Permit, Deny, éventuellement avec des obligations. Il décide mais ne bloque rien lui-même : l'application de la décision revient au PEP.
Comment sécuriser un serveur MCP ?
N'autoriser que des serveurs approuvés, inspecter les descriptions et schémas d'outils, valider les paramètres de chaque appel, inspecter les résultats avant qu'ils reviennent dans le contexte de l'agent, et soumettre les actions à effet métier à une décision d'autorisation. L'identité et les tokens utilisés par le serveur MCP doivent être limités au strict nécessaire.
Comment empêcher un agent IA d'accéder à certaines données d'un RAG ?
En plaçant un PEP entre l'agent et la couche de retrieval. Le PEP transmet au PDP l'utilisateur, l'identité de l'agent, la finalité et la classification des documents ; la décision filtre les résultats ou masque des champs avant qu'ils n'atteignent le contexte du modèle. Filtrer après coup dans le prompt ne constitue pas un contrôle.
Une API Gateway suffit-elle à sécuriser un agent IA ?
Non. Elle est un bon point d'enforcement pour les appels API qui la traversent, mais elle ne voit ni le contexte envoyé au LLM, ni le RAG, ni les outils locaux, ni le comportement du workload. Et elle ne décide finement que si elle s'appuie sur une politique riche en attributs.
Comment détecter un agent IA qui devient rogue ?
En combinant la surveillance du comportement au runtime et la deception : des leurres (faux secrets, faux comptes, faux services) qu'aucun usage légitime ne touche. Une interaction avec un leurre produit un signal de forte confiance, transmis au SOC pour révoquer, isoler ou arrêter.
Peut-on combiner plusieurs solutions de sécurité agentique ?
Oui, et c'est généralement nécessaire. Une solution d'inspection et de protection runtime, un moteur d'autorisation fine et une solution de deception couvrent des fonctions différentes. Leur articulation passe par l'architecture (chemins obligatoires, PEP, remontée des signaux au SOC), pas par une intégration native supposée entre produits.
Votre agent peut-il réellement dépasser son mandat ?
Cartographions ses données, outils, API, décisions et effets réels pour identifier où placer les contrôles.