Bevor Sie einem KI-Agenten Zugriff geben
KI-Agenten erzeugen nicht nur Inhalte: Sie können planen, Entscheidungen treffen und in Ihrem Namen Handlungen ausführen. Ist ein Agent mit zu weitreichenden Rechten ausgestattet oder mangelhaft konzipiert, kann ein einzelner Fehler schnell zu einem schwerwiegenden Vorfall werden (UK NCSC).
Was staatliche Cybersicherheitsbehörden empfehlen
- Klein anfangen: Agenten sollten laut der gemeinsamen Empfehlung nur für risikoarme und nicht sensible Aufgaben eingesetzt werden; breiter oder uneingeschränkter Zugriff sollte ihnen nie gewährt werden, insbesondere nicht auf sensible Daten oder kritische Systeme (gemeinsame Leitlinie von sechs nationalen Cybersicherheitsbehörden).
- Minimale Rechte (Least Privilege): Einem Agenten sollte nur der Mindestzugriff eingeräumt werden, den er benötigt, und nur für die kürzestmögliche Zeit; erweiterte Zugriffsrechte sollten nach Abschluss der Aufgabe wieder entzogen werden (UK NCSC).
- Vorab festlegen, wann der Agent anhalten und einen Menschen um Freigabe bitten muss, und sicherstellen, dass diese Freigaben garantiert eingeholt werden und als zwingende Sperre wirken, der Agent also ohne Freigabe nicht fortfahren kann (UK NCSC).
- Agenten in einer Sandbox ausführen, die kontrolliert, womit sie kommunizieren können und womit nicht, sowohl lokal als auch über ein Netzwerk (UK NCSC).
- Das Handeln des Agenten protokollieren und überwachen, damit er bei Bedarf gestoppt werden kann (UK NCSC).
- Vorsicht bei Inhalten, die der Agent liest: Eine E-Mail, eine Datei oder eine Website kann schädliche Anweisungen enthalten, die den Agenten „kapern“ und zu einer anderen, möglicherweise schädlichen Aufgabe veranlassen sollen. Dies ist eine Form der indirekten Prompt-Injection (CAISI).
Praktische Schritte
- Zählen Sie jede Anmeldung, die Sie übergeben. Die Zugangsdaten, die ein Agent nutzen kann, etwa API-Schlüssel, App-Autorisierungen (OAuth-Freigaben) und angemeldete Sitzungen, gehören zu dem Schaden, den er bei unerwartetem Verhalten anrichten könnte. Geben Sie ihm nur die Berechtigungen, die die Aufgabe erfordert (UK NCSC).
- Je weiter der Zugriff reicht, desto größer können die Auswirkungen sein, wenn der Agent fehlerhaft arbeitet oder kompromittiert wird. Beschränken Sie ihn daher auf die für die Aufgabe nötigen Ressourcen (UK NCSC).
- Legen Sie fest, was er nicht tun darf. Ein KI-Agent verfügt über keinen gesunden Menschenverstand und kann Anweisungen wörtlich oder auf unerwartete Weise auslegen; geben Sie ihm daher sowohl vor, was er tun soll, als auch, was er nicht tun soll (UK NCSC).
- Verlassen Sie sich nicht allein auf eingebaute Schutzmechanismen: In KI-Modelle integrierte Sicherheitskontrollen lassen sich unter Umständen umgehen (UK NCSC).
Quellen
- „Careful adoption of agentic AI services“, gemeinsame Leitlinie, verfasst von ASD's ACSC, CISA, NSA, dem Canadian Centre for Cyber Security, NCSC-NZ und NCSC-UK.
- UK National Cyber Security Centre, „Thinking carefully before adopting agentic AI“ (15. Mai 2026).
- UK National Cyber Security Centre, „Managing the cyber risk of agentic AI“ (20. August 2026).
- Center for AI Standards and Innovation (CAISI), „Technical Blog: Strengthening AI Agent Hijacking Evaluations“ (17. Januar 2025).