Memory poisoning

Référence OWASP

Le Top 10 OWASP pour les applications agentiques inclut le risque ASI06, Memory & Context Poisoning.^[1]

Différence avec la prompt injection

Une prompt injection agit d'abord sur le raisonnement en cours. Le memory poisoning devient particulièrement important lorsque l'information hostile persiste et est réutilisée plus tard, dans une autre session, pour un autre utilisateur ou par un autre agent.

Exemple

Un agent mémorise des « préférences » extraites des conversations. Un échange malveillant lui fait enregistrer que les rapports financiers doivent être envoyés en copie à une adresse externe. Trois semaines plus tard, dans une session légitime, l'agent applique cette préférence.

Pourquoi ce terme compte en sécurité agentique

Toutes les mémoires d'agent ne sont pas exposées de la même manière : cela dépend de ce qui peut y écrire, de la portée de la mémoire (session, utilisateur, globale) et de la manière dont elle est relue. Les questions à poser portent sur les sources autorisées à écrire, la traçabilité des écritures, la séparation entre utilisateurs et la possibilité de purger une entrée.