Sécurité Agentique

Conformité · Framework volontaire

NIST AI RMF : structurer la gestion du risque IA

AI RMF 1.0 est un framework volontaire du NIST destiné à aider les organisations à gérer les risques associés aux systèmes IA. Il ne constitue pas une réglementation et n’impose pas un parcours unique.

Le cadre

AI RMF 1.0 (NIST AI 100-1), publié le 26 janvier 2023, est volontaire, respectueux des droits, non sectoriel et indépendant des cas d’usage. Il vise à aider les organisations à gérer les risques liés aux systèmes d’IA et à promouvoir une IA digne de confiance et responsable.[1]

Quatre fonctions, pas une séquence

Fonctions de l’AI RMF Core

Govern est transversal et entoure Map, Measure et Manage, qui ne forment pas une séquence stricte.

FonctionRôle
GovernPolitiques, responsabilités et gouvernance du risque. Fonction transversale.
MapComprendre le contexte, la finalité prévue et les risques.
MeasureÉvaluer et surveiller les risques identifiés.
ManagePrioriser et traiter les risques.

Le framework s’applique selon le contexte de l’organisation ; ses fonctions ne forment pas une checklist séquentielle obligatoire.[1] Le Playbook propose des actions volontaires pour chaque fonction. Il n’est ni universel, ni une checklist à appliquer intégralement, ni nécessairement ordonné, et peut être adapté au contexte.[2]

Un profil spécifique à l’IA générative

NIST AI 600-1, publié le 26 juillet 2024, est un profil transversal compagnon de l’AI RMF 1.0, consacré aux risques propres à l’IA générative. Il aide à identifier ces risques et à envisager des actions de gestion en conservant la structure générale de l’AI RMF.[3]

Appliqué aux agents

Analyse Sécurité Agentique · correspondance non publiée par le NIST
Fonction NISTExemple de contribution
GovernPropriétaires, politique, responsabilités, niveau d’autonomie acceptable
MapAgents, outils, données, MCP, dépendances, rayon d’impact
MeasureTests, red team, analyse d’exposition, télémétrie runtime
ManagePriorisation, enforcement, isolation, remédiation, retest

Contenus associés

Sources

Sources vérifiées le

  1. [1]

    FrameworkEn cours de révision

    NIST

    Artificial Intelligence Risk Management Framework (AI RMF 1.0) (lien externe, nouvel onglet)

    Framework volontaire du NIST pour la gestion des risques liés aux systèmes d'intelligence artificielle.

    Publié le Vérifié le

  2. [2]

    FrameworkEn cours de révision

    NIST

    NIST AI RMF Playbook (lien externe, nouvel onglet)

    Actions suggérées et volontaires pour atteindre les résultats des fonctions Govern, Map, Measure et Manage de l’AI RMF.

    Vérifié le

  3. [3]

    Framework

    NIST

    Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile (lien externe, nouvel onglet)

    Profil transversal compagnon de l’AI RMF 1.0, consacré aux risques propres à l’IA générative.

    Publié le Vérifié le

Relier un référentiel à vos contrôles réels

Nous pouvons partir d’un agent ou d’un périmètre précis pour relier les exigences retenues aux contrôles effectivement appliqués et aux preuves disponibles.

Étudier mon périmètre