Sécurité Agentique

Cas d’usage · Données

Protéger ce que l’agent lit, mémorise et réutilise

Un agent peut transformer un contenu externe en contexte de décision. Avec RAG ou une mémoire persistante, une donnée consultée aujourd’hui peut également influencer une action future.

Du contenu récupéré à l’action future

Flux RAG et mémoire

Source externe, retrieval, contexte, agent, mémoire, action future.

La mémoire relie une lecture passée à une action future.

Risques et mécanismes

Indirect prompt injection
Des instructions placées dans un document récupéré sont interprétées par le modèle comme une consigne.
RAG poisoning
Un contenu est inséré ou modifié dans la base documentaire pour être récupéré sur certaines requêtes.
Memory poisoning
Une information hostile est enregistrée dans la mémoire de l’agent et réutilisée plus tard.
Contamination persistante
L’effet survit à la session : il touche d’autres tâches, parfois d’autres utilisateurs.
Exposition de données
Le retrieval renvoie des documents que l’utilisateur à l’origine de la demande ne devrait pas voir.
Propagation vers des outils
Le contenu influence les paramètres d’un appel d’outil, et donc un effet réel.

Ces risques ne partagent pas le même mécanisme : l’injection agit sur l’interprétation, le poisoning sur la base elle-même, l’exposition sur les droits d’accès.

Contrôles

Confiance dans les sources
Distinguer sources internes maîtrisées et contenus externes.
Séparation des données
Isoler les corpus par sensibilité et par population.
Filtrage / validation
Examiner les contenus à l’ingestion et au retrieval.
Accès aux documents
Appliquer les droits de l’utilisateur demandeur, pas ceux de l’agent.
Contrôle du retrieval
Limiter ce qui peut entrer dans le contexte pour une tâche.
Limites de mémoire
Définir ce qui peut être mémorisé, combien de temps, pour qui.
Traçabilité
Savoir quels documents ont servi à une réponse ou une action.
Surveillance de la mémoire
Revoir et purger les éléments persistés.
Autorisation avant l’effet
Contrôler l’action produite, quel que soit le contenu qui l’a inspirée.

Le dernier point renvoie au contrôle des actions au runtime : il limite l’impact même quand un contenu hostile n’a pas été détecté.

Ce que ces contrôles ne règlent pas

  • Aucun filtrage ne détecte toutes les instructions indirectes ; il réduit la probabilité, pas l’impact.
  • Des droits documentaires corrects n’empêchent pas un document autorisé d’être hostile.

Technologies mobilisables

Les contrôles ci-dessus restent indépendants de l’outillage déjà en place. Les technologies suivantes couvrent chacune une partie du besoin ; elles ne forment pas une suite intégrée.

Axiomatics

Accès aux données

La documentation Axiomatics applique l’autorisation fondée sur des politiques aux flux RAG et aux données, ce qui permet de filtrer le retrieval selon l’identité et le contexte lorsque l’architecture expose ce point de décision.[1]

Voir la page Axiomatics

AccuKnox

Sécurité IA, runtime

La documentation AccuKnox décrit des capacités de sécurité des agents et du runtime qui s’appliquent à l’environnement où s’exécutent l’agent et sa mémoire.[2]

Voir la page AccuKnox

Contenus associés

Sources

Sources vérifiées le

  1. [1]

    Documentation éditeur

    Axiomatics

    Securing AI (lien externe, nouvel onglet)

    Documentation Axiomatics consacrée à l'autorisation policy-driven des agents IA, outils MCP, RAG, données et communications agent-to-agent.

    Vérifié le

  2. [2]

    Documentation éditeur

    AccuKnox

    AI Security Posture Management for LLMs & Agents (lien externe, nouvel onglet)

    Documentation publique AccuKnox présentant les capacités de sécurité IA, dont inventaire, Shadow AI, sécurité agentique, runtime, modèles, datasets et red teaming.

    Vérifié le

Analyser les flux de données de vos agents

Nous pouvons partir d’un agent existant ou d’un projet en conception pour identifier les ressources, actions et contrôles concernés.

Nous contacter