Avant de donner accès à un agent d'IA
Les agents d'IA ne se contentent pas de générer du contenu : ils peuvent planifier, prendre des décisions et agir en votre nom. Si un agent dispose de privilèges excessifs ou est mal conçu, une seule défaillance peut rapidement devenir un incident grave (UK NCSC).
Ce que recommandent les agences gouvernementales de cybersécurité
- Commencer petit : n'utiliser les agents que pour des tâches à faible risque et non sensibles, et ne jamais leur accorder un accès étendu ou illimité, en particulier à des données sensibles ou à des systèmes critiques (orientations conjointes de six agences nationales de cybersécurité).
- Moindre privilège : ne donner à un agent que l'accès minimal dont il a besoin, pour la durée la plus courte nécessaire, et révoquer les accès élevés une fois la tâche terminée (UK NCSC).
- Décider à l'avance quand l'agent doit s'arrêter et demander l'approbation d'un humain, et veiller à ce que ces approbations soient garanties et conditionnent la poursuite de l'action (UK NCSC).
- Exécuter les agents dans un bac à sable qui contrôle ce avec quoi ils peuvent ou non communiquer, aussi bien en local que sur un réseau (UK NCSC).
- Journaliser et surveiller ce que fait l'agent, afin de pouvoir l'arrêter si nécessaire (UK NCSC).
- Se méfier des contenus que lit l'agent : un e-mail, un fichier ou un site web peut contenir des instructions malveillantes destinées à détourner l'agent vers une tâche différente et potentiellement nuisible. Il s'agit d'un type d'injection de prompt indirecte (CAISI).
Mesures pratiques
- Comptez chaque identifiant que vous transmettez. Les identifiants qu'un agent peut utiliser, comme les clés d'API, les autorisations d'application (OAuth) et les sessions ouvertes, font partie des dégâts qu'il pourrait causer s'il se comportait de façon inattendue. Ne lui accordez que les autorisations dont la tâche a besoin (UK NCSC).
- Plus l'accès est large, plus l'impact potentiel est grand en cas de dysfonctionnement ou de compromission de l'agent ; il convient donc de le limiter aux ressources nécessaires à la tâche (UK NCSC).
- Indiquez ce qu'il ne doit pas faire. Un agent d'IA n'a pas de bon sens et peut interpréter les instructions de manière littérale ou inattendue ; il faut donc lui préciser à la fois ce qu'il doit faire et ce qu'il ne doit pas faire (UK NCSC).
- Ne vous fiez pas uniquement aux garde-fous intégrés : les contrôles de sécurité intégrés aux modèles d'IA peuvent être contournés (UK NCSC).
Sources
- Careful adoption of agentic AI services, orientations conjointes rédigées par l'ACSC de l'ASD, la CISA, la NSA, le Centre canadien pour la cybersécurité, le NCSC-NZ et le NCSC-UK.
- UK National Cyber Security Centre, Thinking carefully before adopting agentic AI (15 mai 2026).
- UK National Cyber Security Centre, Managing the cyber risk of agentic AI (20 août 2026).
- Center for AI Standards and Innovation (CAISI), Technical Blog: Strengthening AI Agent Hijacking Evaluations (17 janvier 2025).