Sécurité Agentique

Conviction

Suivre l'action jusqu'à son effet réel

Dans un chatbot classique, la réponse affichée constitue souvent la fin du flux. Pour un agent, une réponse intermédiaire peut déclencher un outil, une API, un script, un processus ou une écriture de données.

La sécurité doit suivre cette chaîne jusqu’à l’effet produit.

De l’entrée non fiable à l’effet

Trajectoire d’une action agentique

Contenu non fiable, contexte du modèle, décision de l’agent, sélection d’outil, paramètres, credential, API ou système, action, effet.

Sous chaque étape d’exécution : runtime, processus, fichiers, réseau, données.
  • Runtime
  • Process
  • File
  • Network
  • Data

Ce que le filtrage des réponses ne voit pas

Un filtre de sortie inspecte ou bloque le contenu produit par le modèle. Il reste utile. Il n’indique pas pour autant :

  • ce qu’un sous-processus a exécuté ;
  • quel fichier a été ouvert ;
  • quelle destination a reçu des données ;
  • quelle opération d’API a abouti ;
  • si un credential a été réutilisé ailleurs.

Ces informations exigent une télémétrie ou un contrôle au niveau des couches d’exécution concernées.

Des risques qui traversent les couches

Le MCP Security Cheat Sheet d’OWASP documente des risques situés à des niveaux différents : manipulation des descriptions d’outils, paramètres, credentials et permissions trop larges, exfiltration par des canaux légitimes, supply chain et évasion de sandbox.[1]

L’Agent Control Standard d’OWASP met l’accent sur des agents inspectables, traçables et instrumentables, avec de la visibilité sur ce qu’un agent est, ce à quoi il accède, ce qu’il a fait et pourquoi, ainsi que sur l’application de politiques au runtime via des points de contrôle exposés par les plateformes.[2]

Notre modèle de lecture

  1. 01

    Voir

    Quels composants et quelles actions existent ?

  2. 02

    Comprendre

    À quoi sont-ils connectés, avec quels privilèges ?

  3. 03

    Décider

    Cette action doit-elle être autorisée ?

  4. 04

    Empêcher

    Le chemin d’exécution empêche-t-il réellement l’action interdite ?

  5. 05

    Prouver

    La séquence peut-elle être reconstituée après coup ?

Conséquences d’architecture

Isoler l’environnement d’exécution
Sandbox pour le code généré et les serveurs d’outils locaux.
Restreindre les flux sortants
Une exfiltration passe par une destination réseau : la limiter réduit l’effet possible.
Corréler décisions et runtime
Relier le journal d’autorisation aux événements processus, fichiers et réseau de la même exécution.

Limite

La télémétrie runtime montre ce qui s’est passé ; elle ne dit pas à elle seule si c’était légitime pour le métier. Un export vers une destination approuvée et une exfiltration peuvent produire des événements réseau très proches : la légitimité se juge avec l’identité, la mission et la politique.

Contenus associés

Sources

Sources vérifiées le

  1. [1]

    Framework

    OWASP Cheat Sheet Series

    MCP Security Cheat Sheet (lien externe, nouvel onglet)

    Recommandations de sécurité portant sur les architectures MCP, leurs clients, serveurs, outils et connexions.

    Vérifié le

  2. [2]

    Framework

    OWASP GenAI Security Project

    Agent Control Standard (ACS) (lien externe, nouvel onglet)

    Standard OWASP sur la transparence et le contrôle des agents d'entreprise : inspectabilité, traçabilité, instrumentation et points de contrôle runtime.

    Publié le Vérifié le

Appliquer ce principe à une architecture réelle

Nous pouvons partir d’un agent, d’un outil MCP ou d’une action sensible pour identifier la frontière de contrôle et vérifier comment elle est réellement appliquée.

Étudier mon architecture