AI 에이전트에 접근 권한을 주기 전에
AI 에이전트는 콘텐츠를 생성하는 데 그치지 않고 사용자를 대신해 계획을 세우고, 결정을 내리고, 행동을 실행할 수 있다. 에이전트에 과도한 권한이 부여되었거나 설계가 부실하면 한 번의 오류가 곧바로 심각한 사고로 이어질 수 있다(영국 NCSC).
정부 사이버 보안 기관의 권고
- 작게 시작하라: 에이전트는 위험도가 낮고 민감하지 않은 작업에만 사용하고, 특히 민감한 데이터나 핵심 시스템에 대해서는 광범위하거나 제한 없는 접근 권한을 절대 주지 않아야 한다(6개 국가 사이버 보안 기관의 공동 지침).
- 최소 권한: 에이전트에는 필요한 최소한의 접근 권한만, 필요한 가장 짧은 기간 동안 부여하고, 작업이 끝나면 상승된 권한을 회수해야 한다(영국 NCSC).
- 에이전트가 언제 멈추고 사람에게 승인을 요청해야 하는지 미리 정하고, 그러한 승인이 확실하게 보장되고 통제되도록 해야 한다(영국 NCSC).
- 에이전트를 샌드박스에서 실행하라. 샌드박스는 로컬과 네트워크 모두에서 에이전트가 통신할 수 있는 대상과 없는 대상을 통제한다(영국 NCSC).
- 에이전트의 행동을 기록하고 모니터링하라. 필요할 경우 에이전트를 중단시킬 수 있도록 하기 위해서다(영국 NCSC).
- 에이전트가 읽는 콘텐츠를 경계하라: 이메일, 파일, 웹사이트에는 에이전트를 다른, 잠재적으로 해로운 작업으로 "가로채기(hijack)" 위한 악성 지시가 담겨 있을 수 있다. 이는 간접 프롬프트 주입의 한 유형이다(CAISI).
실천 방법
- 건네주는 모든 로그인 정보를 따져 보라. API 키, 앱 권한 부여(OAuth grants), 로그인된 세션 등 에이전트가 사용할 수 있는 자격 증명은 에이전트가 예상치 못하게 동작할 경우 에이전트가 끼칠 수 있는 피해의 일부다. 작업에 필요한 권한만 부여해야 한다(영국 NCSC).
- 접근 범위가 넓을수록 잠재적 영향도 커진다. 에이전트가 오작동하거나 침해당할 경우에 대비해, 작업에 필요한 자원으로만 접근을 제한해야 한다(영국 NCSC).
- 하지 말아야 할 일을 분명히 말하라. AI 에이전트에는 상식이 없어 지시를 문자 그대로 또는 예상치 못한 방식으로 해석할 수 있으므로, 해야 할 일과 하지 말아야 할 일을 모두 지시해야 한다(영국 NCSC).
- 내장된 안전장치에만 의존하지 말라: AI 모델에 내장된 안전 통제는 우회될 수 있다(영국 NCSC).
출처
- "Careful adoption of agentic AI services", ASD ACSC, CISA, NSA, 캐나다 사이버보안센터, NCSC-NZ, NCSC-UK가 공동 작성한 지침.
- 영국 국가사이버보안센터, "Thinking carefully before adopting agentic AI" (2026년 5월 15일).
- 영국 국가사이버보안센터, "Managing the cyber risk of agentic AI" (2026년 8월 20일).
- Center for AI Standards and Innovation (CAISI), "Technical Blog: Strengthening AI Agent Hijacking Evaluations" (2025년 1월 17일).