Sécuriser un agent IA en entreprise : outils, permissions et instructions
Avant de connecter un agent IA aux outils de l’entreprise, examine ce qu’il peut consulter et réaliser. La sécurité concerne toute la chaîne, depuis les documents reçus jusqu’aux actions effectuées et aux traces conservées.
Cartographier les données, les outils et les actions
Pour une tâche précise, fais la liste des informations entrantes, des systèmes consultés et des opérations possibles. Ajoute les destinataires des résultats et les personnes qui peuvent modifier la configuration.
Exemple pédagogique : un agent prépare une synthèse de demande. Son besoin est de lire les pièces du dossier et une procédure autorisée. L’accès à toute la messagerie ou la suppression de fichiers ne font pas partie de cette tâche.
Utilise le dessin de l’architecture de l’agent pour repérer les connexions. Toute connexion supplémentaire doit avoir une raison compréhensible.
Reconnaître les instructions provenant de contenus non fiables
Une page web, un email ou un document peut contenir une tentative de détourner le comportement du système. Ce risque est notamment décrit dans le guide OWASP sur les injections d’instructions.
Sépare les consignes de l’entreprise des contenus à analyser. Un texte retrouvé dans un document ne doit pas devenir une autorisation de modifier les règles ou d’envoyer des informations ailleurs.
Une consigne de prudence ou un filtre ne suffit pas à garantir la protection. Prévois des contrôles techniques sur les sorties et les actions, ainsi que des tests sur les contenus externes.
Donner seulement les permissions nécessaires
Le risque d’autonomie excessive décrit par OWASP concerne notamment les fonctions, droits et capacités d’action trop larges. Réduire ce périmètre limite ce que le système peut faire en cas d’erreur ou de détournement.
Commence en lecture si le test porte sur la recherche d’information. Limite l’accès aux ressources utiles et retire les connexions devenues inutiles. Fais appliquer les permissions par les systèmes concernés, hors de la seule décision du modèle.
Une interdiction écrite dans une instruction ne remplace pas un droit retiré dans l’outil. Vérifie également l’identité utilisée pour la connexion et les personnes auxquelles elle donne accès.
Valider les actions engageantes au bon endroit
Le guide OWASP consacré aux agents recommande des validations pour les opérations à fort impact. Le composant qui exécute l’action doit contrôler l’autorisation ; le modèle ne doit pas pouvoir la déclarer acquise lui-même.
La personne qui valide doit voir la cible, le contenu et les effets attendus. Si ces paramètres changent, la validation doit être réexaminée. Prévois aussi l’interruption du processus et le traitement des tentatives répétées.
Pour ton premier périmètre, distingue clairement préparer un message, le faire relire et l’envoyer. Applique la même séparation aux modifications de dossiers et aux suppressions.
Conserver des traces utiles sans tout enregistrer
Détermine les éléments nécessaires pour comprendre une exécution : référence, sources, outils sollicités, action, autorisation et résultat. Protège les journaux et fixe qui peut les consulter, ainsi que leur durée de conservation.
Évite d’y recopier des secrets d’accès ou des documents complets sans nécessité. La note CNIL–CIANum souligne que les services connectés complexifient la maîtrise des données et les responsabilités.
La fiche sur la protection des données aide à préparer les questions à faire examiner avant connexion.
Préparer la revue et la réaction à un incident
Pour chaque outil, consigne le responsable, les ressources autorisées, les actions exclues et le moyen de couper la connexion. Vérifie comment retrouver les dossiers concernés et reprendre le travail sans l’agent.
Dans un environnement d’essai, teste une source inaccessible, un accès refusé et une action hors périmètre. La méthode pour évaluer l’agent permet de garder ces scénarios pour les prochaines versions.
Avant les données réelles : fais relire l’architecture et les contrôles par les personnes compétentes en informatique, sécurité et protection des données selon le projet. Cette checklist prépare la discussion ; elle ne remplace pas leur analyse.
Pour aller plus loin
Sources et méthode
Guide de cadrage proposé par Richa, sans garantie de sécurité ni de conformité. Les références OWASP et CNIL ci-dessous ont été consultées le 19 octobre 2026. Leur application demande une analyse du système réel et de ses risques.
Quelle tâche pour un premier agent bien cadré ?
Le diagnostic gratuit ne demande ni accès ni identifiant : seulement l’adresse de ton site et la tâche qui te prend le plus de temps. Tu reçois 3 pistes, avec leur complexité.