Antes de darle acceso a un agente de IA
Los agentes de IA no solo generan contenido: pueden planificar, tomar decisiones y ejecutar acciones en tu nombre. Si un agente tiene privilegios excesivos o está mal diseñado, un solo fallo puede convertirse rápidamente en un incidente grave (UK NCSC).
Qué recomiendan las agencias gubernamentales de ciberseguridad
- Empezar poco a poco: usar agentes solo para tareas de bajo riesgo y no sensibles, y nunca darles un acceso amplio o sin restricciones, en especial a datos sensibles o sistemas críticos (guía conjunta de seis agencias nacionales de ciberseguridad).
- Mínimo privilegio: dar a un agente únicamente el acceso mínimo que necesita, durante el menor tiempo necesario, y revocar el acceso elevado cuando la tarea se complete (UK NCSC).
- Decidir de antemano cuándo debe detenerse el agente y pedir la aprobación de una persona, y asegurarse de que esas aprobaciones estén garantizadas y funcionen como una barrera que impida continuar sin autorización (UK NCSC).
- Ejecutar los agentes en un entorno aislado (sandbox) que controle con qué pueden y con qué no pueden comunicarse, tanto de forma local como a través de una red (UK NCSC).
- Registrar y supervisar lo que hace el agente, para poder detenerlo si es necesario (UK NCSC).
- Desconfiar del contenido que lee el agente: un correo electrónico, un archivo o un sitio web pueden contener instrucciones maliciosas destinadas a «secuestrar» al agente para que realice una tarea distinta y potencialmente dañina. Es un tipo de inyección indirecta de instrucciones (prompt injection) (CAISI).
Pasos prácticos
- Cuenta cada inicio de sesión que entregas. Las credenciales que un agente puede usar, como claves de API, autorizaciones de aplicaciones (concesiones OAuth) y cualquier sesión iniciada, forman parte del daño que podría causar si se comporta de forma inesperada. Dale solo los permisos que la tarea necesita (UK NCSC).
- Cuanto más amplio es el acceso, mayor es el posible impacto si el agente falla o se ve comprometido, por lo que hay que restringirlo a los recursos necesarios para la tarea (UK NCSC).
- Indica lo que no debe hacer. Un agente de IA no tiene sentido común y puede interpretar las instrucciones de forma literal o inesperada, así que hay que instruirlo tanto en lo que debe hacer como en lo que no debe hacer (UK NCSC).
- No confiar solo en las salvaguardas integradas: los controles de seguridad incorporados en los modelos de IA pueden eludirse (UK NCSC).
Fuentes
- «Careful adoption of agentic AI services», guía conjunta elaborada por el ACSC de la ASD, CISA, la NSA, el Centro Canadiense de Ciberseguridad, NCSC-NZ y NCSC-UK.
- Centro Nacional de Ciberseguridad del Reino Unido, «Thinking carefully before adopting agentic AI» (15 de mayo de 2026).
- Centro Nacional de Ciberseguridad del Reino Unido, «Managing the cyber risk of agentic AI» (20 de agosto de 2026).
- Center for AI Standards and Innovation (CAISI), «Technical Blog: Strengthening AI Agent Hijacking Evaluations» (17 de enero de 2025).