KI in der juristischen und beruflichen Arbeit einsetzen
In England und Wales hat ein Divisional Court Fälle verhandelt, die sich aus der tatsächlichen oder vermuteten Nutzung generativer KI-Tools durch Juristen ergaben, um schriftliche Rechtsausführungen oder Zeugenaussagen zu erstellen, die anschließend nicht überprüft wurden, sodass dem Gericht falsche Informationen, typischerweise ein erfundenes Zitat oder eine erfundene Quellenangabe, vorgelegt wurden (Urteil).
Was die Hinweise der Gerichte besagen
- KI-Tools können Dinge erfinden. Die Leitlinien der Justiz in England und Wales warnen, dass KI-Tools fiktive Fälle, Zitate oder Quellenangaben erfinden, auf nicht existierende Gesetze, Artikel oder Rechtstexte verweisen, falsche oder irreführende Angaben zur Rechtslage machen und Sachfehler begehen können (Leitlinien der Justiz).
- Vor der Verwendung prüfen. Die Richtigkeit sämtlicher von einem KI-Tool gelieferten Informationen muss geprüft werden, bevor sie verwendet oder zugrunde gelegt werden (Leitlinien der Justiz).
- Die Verantwortung bleibt bei Ihnen. Alle Rechtsvertreter sind für das Material verantwortlich, das sie dem Gericht oder dem Tribunal vorlegen, und haben die berufliche Pflicht, dessen Richtigkeit und Angemessenheit sicherzustellen; auch Prozessparteien ohne Anwalt sind für das verantwortlich, was sie dem Gericht vortragen (Leitlinien der Justiz).
- Keine privaten Informationen in öffentliche Chatbots eingeben. Geben Sie in einen öffentlichen KI-Chatbot keine Informationen ein, die privat oder vertraulich sind oder nicht bereits öffentlich zugänglich sind; alles, was man eingibt, sollte so betrachtet werden, als werde es der ganzen Welt veröffentlicht (Leitlinien der Justiz).
- Chatbots sind für juristische Recherche nicht zuverlässig. Der Divisional Court erklärte, frei verfügbare generative KI-Tools seien nicht in der Lage, verlässliche juristische Recherche durchzuführen: Sie könnten Quellen zitieren, die nicht existieren, oder vorgeblich Passagen aus einer echten Quelle wiedergeben, die in dieser Quelle nicht vorkommen (Urteil).
Praktische Prüfschritte
- Anhand maßgeblicher Quellen prüfen. Das Gericht erklärte, wer KI für juristische Recherche nutze, habe die berufliche Pflicht, deren Richtigkeit anhand maßgeblicher Quellen zu prüfen, etwa der Gesetzesdatenbank der Regierung, der Datenbank der National Archives für Gerichtsentscheidungen und der amtlichen Entscheidungssammlungen (Urteil).
- Auf Warnzeichen achten. Die Leitlinien der Justiz nennen Anzeichen dafür, dass Arbeiten möglicherweise mit KI erstellt wurden, darunter Verweise auf Fälle, die nicht vertraut klingen oder ungewohnte Fundstellen haben (teils aus den USA), sowie Schriftsätze, die nicht dem allgemeinen Verständnis der Rechtslage in dem Gebiet entsprechen (Leitlinien der Justiz).
- Auf versteckten Text achten. Sogenannter „weißer Text“ besteht aus versteckten Prompts oder verborgenem Text, der so in ein Dokument eingefügt wird, dass er für einen Computer sichtbar ist, nicht aber für menschliche Leser (Leitlinien der Justiz).
- Bereit sein, die eigenen Prüfungen zu erläutern. Den Leitlinien zufolge müssen Richter möglicherweise bestätigen lassen, dass Juristen die Richtigkeit jeglicher mithilfe eines KI-Chatbots erstellten Recherche oder Fallzitate eigenständig überprüft haben, und, wenn eine Partei ohne Anwalt womöglich einen solchen Chatbot zur Erstellung von Unterlagen genutzt hat, nachfragen, welche Richtigkeitsprüfungen vorgenommen wurden (Leitlinien der Justiz).
Quellen
- Urteil des Divisional Court zur Nutzung generativer KI durch Juristen, am 6. Juni 2025 durch Veröffentlichung bei den National Archives verkündet.
- Artificial Intelligence (AI) – Judicial Guidance (October 2025), Courts and Tribunals Judiciary, 31. Oktober 2025; vollständige Leitlinien für Amtsträger der Justiz (PDF).