Antes de dar acesso a um agente de IA
Agentes de IA não apenas geram conteúdo: eles podem planejar, tomar decisões e executar ações em seu nome. Se um agente tiver privilégios em excesso ou for mal projetado, uma única falha pode rapidamente se tornar um incidente grave (UK NCSC).
O que recomendam as agências governamentais de cibersegurança
- Comece pequeno: use agentes apenas para tarefas de baixo risco e não sensíveis, e nunca lhes dê acesso amplo ou irrestrito, especialmente a dados sensíveis ou sistemas críticos (orientação conjunta de seis agências nacionais de cibersegurança).
- Privilégio mínimo: dê ao agente apenas o acesso mínimo de que ele precisa, pelo menor tempo necessário, e revogue o acesso elevado quando a tarefa for concluída (UK NCSC).
- Decida com antecedência quando o agente deve parar e pedir a aprovação de uma pessoa, e garanta que essas aprovações sejam asseguradas e controladas (UK NCSC).
- Execute os agentes em um ambiente isolado (sandbox) que controle com o que eles podem ou não se comunicar, tanto localmente quanto em rede (UK NCSC).
- Registre e monitore o que o agente faz, para que ele possa ser interrompido, se necessário (UK NCSC).
- Desconfie do conteúdo que o agente lê: um e-mail, um arquivo ou um site pode conter instruções maliciosas destinadas a "sequestrar" o agente para uma tarefa diferente e potencialmente prejudicial. Esse é um tipo de injeção indireta de prompt (CAISI).
Passos práticos
- Conte cada login que você entrega. As credenciais que um agente pode usar, como chaves de API, autorizações de aplicativos (concessões OAuth) e quaisquer sessões conectadas, fazem parte do dano que ele poderia causar se se comportar de forma inesperada. Dê a ele apenas as permissões de que a tarefa precisa (UK NCSC).
- Quanto mais amplo o acesso, maior o impacto potencial caso o agente funcione mal ou seja comprometido; por isso, restrinja-o aos recursos necessários para a tarefa (UK NCSC).
- Diga o que ele não deve fazer. Um agente de IA não tem bom senso e pode interpretar instruções de forma literal ou inesperada; por isso, instrua-o tanto sobre o que deve fazer quanto sobre o que não deve fazer (UK NCSC).
- Não confie apenas em salvaguardas embutidas: os controles de segurança incorporados aos modelos de IA podem ser contornados (UK NCSC).
Fontes
- "Careful adoption of agentic AI services", orientação conjunta coescrita pelo ACSC da ASD, CISA, NSA, Canadian Centre for Cyber Security, NCSC-NZ e NCSC-UK.
- UK National Cyber Security Centre, "Thinking carefully before adopting agentic AI" (15 de maio de 2026).
- UK National Cyber Security Centre, "Managing the cyber risk of agentic AI" (20 de agosto de 2026).
- Center for AI Standards and Innovation (CAISI), "Technical Blog: Strengthening AI Agent Hijacking Evaluations" (17 de janeiro de 2025).