Als ein Bundesgericht-Schriftsatz Fälle zitierte, die nicht existieren
2023 reichte ein Anwalt in New York einen Schriftsatz ein, der vollständig glaubwürdig wirkte — mit Aktenzeichen, Richternamen und Gerichtsverweisen. Die Gegenseite konnte die zitierten Fälle nicht finden. Sie existierten nicht.
Der Anwalt hatte ChatGPT zum Entwurf des Schriftsatzes verwendet und die Zitate nicht verifiziert. Das Gericht sanktionierte ihn. Der Fall wurde als Mata v. Avianca bekannt — das erste prominente Signal, dass KI in der Rechtspraxis echte operative Haftungsrisiken mit sich bringt, nicht nur theoretische.
Bis Mitte 2025 hatte die Tracking-Datenbank des französischen Forschers Damien Charlotin über 600 dokumentierte KI-Halluzinationsfälle in Gerichtsunterlagen erfasst — betroffen waren 128 Anwälte in verschiedenen Rechtsordnungen. Die Rate stieg von etwa zwei Vorfällen pro Woche im Jahr 2023 auf zwei bis drei pro Tag bis Mitte 2025.
Allein in den ersten zwei Augustwochen 2025 sanktionierten drei separate US-Bundesgerichte Anwälte wegen KI-generierter Halluzinationen. In einem dieser Fälle hatte der Anwalt eine anerkannte juristische KI-Rechercheplattform verwendet — keinen Consumer-Chatbot — und trotzdem erfundene Zitate eingereicht.
Das ist der faktische Ausgangspunkt für jedes ehrliche Gespräch über KI in der Rechtspraxis.
KI-Halluzinationen im juristischen Kontext: Eine genaue Definition
Eine Halluzination ist bei Large Language Models (LLMs) ein Output, der intern kohärent und oberflächlich plausibel klingt, aber sachlich falsch oder vollständig erfunden ist. In der Rechtspraxis bedeutet das konkret:
- Zitate von Fällen, die nicht existieren
- Aussagen, die echten Richtern zugeschrieben werden, die diese nie geschrieben haben
- Verweise auf Gesetze mit falschen Bestimmungen oder falscher Anwendung
- Falschdarstellungen von Verfahrensregeln in bestimmten Rechtsordnungen
Ein Paper aus dem Jahr 2024, gemeinsam verfasst von Forschern der Yale und Stanford University — Large Legal Fictions: Profiling Legal Hallucinations in Large Language Models — stellte fest, dass allgemeine LLMs juristische Zitate in einem Mass halluzinieren, das für eine verantwortungsvolle Rechtspraxis bei weitem nicht akzeptabel ist.
Das Problem ist strukturell. LLMs werden darauf trainiert, plausiblen Text zu erzeugen — nicht, Fakten gegen externe Datenbanken zu verifizieren. Wenn ein Modell nach Fallrecht gefragt wird und keine echte Quelle abgerufen hat, generiert es etwas, das wie ein Zitat aussieht — weil das dem Muster entspricht. Das gilt gleichermassen für AI Agents, die auf allgemeinen Modellen aufbauen, wenn ihnen eine Retrieval-Augmented Generation (RAG) Architektur fehlt, die an verifizierte juristische Datenbanken angebunden ist.
Warum dieses Problem spezifisch für die Rechtsbranche ist
Die meisten Branchen können KI-Fehler durch interne Prüfzyklen abfangen. Ein Marketingteam erkennt einen sachlichen Fehler im Entwurf, bevor er veröffentlicht wird. Ein Logistikteam meldet eine Routinganomalie, bevor der LKW losfährt. Die Fehlerkosten sind Iterationszeit.
In der Rechtspraxis ist die Kostenstruktur anders — auf drei Ebenen.
1. Berufshaftung entsteht sofort
Wenn ein Anwalt in den USA einen Schriftsatz unterzeichnet und einreicht, bescheinigt er gemäss Federal Rule of Civil Procedure Rule 11(b)(2), dass alle rechtlichen Argumente durch geltendes Recht gedeckt sind. Diese Bescheinigung ist persönlich. Sie überträgt sich nicht auf die KI-Plattform, die den Inhalt erzeugt hat. Gerichte waren explizit: Selbst unbeabsichtigtes Vertrauen auf KI, die falsche Zitate produziert, stellt einen sanktionierbaren Verstoss dar.
2. Der Schaden setzt sich fort
Ein nicht erkanntes halluziniertes Zitat kann in einem Gerichtsbeschluss erscheinen und nachfolgende Entscheidungen beeinflussen. Richter und Gegenseite verbringen Stunden damit, Verweise zu suchen, die nicht existieren. In Noland v. Land of the Free, L.P. (California Court of Appeals, 2025) stellte das Gericht fest, dass gefälschte Zitate es gezwungen hatten, übermässig viel Zeit für eine ansonsten unkomplizierte Berufung aufzuwenden.
3. Sanktionen eskalieren
In Johnson v. Dunn (N.D. Ala., Juli 2025) disqualifizierte ein US-Bundesgericht eine gesamte Anwaltskanzlei aus Nashville vom Fall, meldete die Anwälte an die Anwaltsvereinigungen jeder Rechtsordnung, in der sie zugelassen waren, und verlangte, dass sie eine Kopie des Sanktionsbeschlusses in jedem laufenden Verfahren einreichen, in dem sie als Verfahrensbevollmächtigte auftraten.
Die American Bar Association’s Model Rule 1.1 verlangt von Anwälten kompetente Rechtsberatung. Comment 8 erstreckt dies ausdrücklich auf das Verständnis der Vorteile und Risiken relevanter Technologien. KI einzusetzen, ohne deren Ausgabemechanismen zu verstehen, ist heute eine Frage der Berufsqualifikation — keine IT-Frage.
Das Geschwindigkeit-vs.-Verifikation-Paradox
Der zentrale operative Reiz von KI in der Rechtsarbeit ist Geschwindigkeit. Eine Benchmarkstudie aus 2025 ergab, dass KI bei der Dokumentenanalyse und Datenextraktion bis zu 80-mal schneller sein kann als Anwälte. Inhouse-Rechtsabteilungen stehen unter zunehmendem Druck, externe Anwaltskosten zu senken, während die regulatorischen Anforderungen komplexer werden.
Aber der Verifikationsschritt — der die Berufshaftungslücke schliesst — eliminiert den Geschwindigkeitsvorteil weitgehend, wenn er ordentlich durchgeführt wird. Jeden zitierten Fall zu lesen, jeden gesetzlichen Verweis zu prüfen, jede Verfahrensbehauptung zu verifizieren — das erfordert dasselbe Aufmerksamkeitsniveau, das der Anwalt auch ohne KI aufwenden würde.
Das schafft ein echtes Adoptionsparadox. Die Teams, die KI am aggressivsten zur Zeiteinsparung einsetzen, sind auch die Teams, die dem höchsten Haftungsrisiko ausgesetzt sind, wenn die Verifikationsdisziplin nicht Schritt hält.
Ein nützliches Denkmodell von Baker Botts: KI-Output wie die Arbeit eines scharfsinnigen, aber unerfahrenen Berufsanfängers behandeln, der erhebliche Aufsicht benötigt. Erst die rechtliche Arbeit selbst machen, dann KI als Sparringspartner nutzen, um sie zu überprüfen und zu verfeinern — nicht umgekehrt.
Was heute sicher einsetzbar ist: Sieben Tool-Kategorien
Die folgende Einteilung unterscheidet Tool-Kategorien nach Risikoprofil, nicht nach Markenranking. Sicherer Einsatz in jeder Kategorie hängt von einem strukturierten menschlichen Prüfschritt ab.
1. Juristische Recherchetools mit quellengebundener KI
Westlaw Precision mit CoCounsel und Lexis+ AI (Protégé) arbeiten auf geschlossenen juristischen Korpora mit eingebauter Zitatverifizierung.
- Westlaw hält den Vertrag der US-Bundesjustiz (bekanntgegeben April 2025) und deckt über 25.000 Rechtsfachleute des Bundes ab. Das KeyCite-Tool verifiziert Zitatgültigkeit. CoCounsel 2.0 integriert sich mit Microsoft 365.
- Lexis+ AI bietet Shepard’s Zitatverifizierung in Echtzeit mit gleichzeitiger Analyse und Zitatintegritätsprüfung. Der 2025 hinzugekommene Protégé-Assistent fügt Sprachinteraktion und ein duales System hinzu, das Legal AI von General AI trennt.
Bedingung für sicheren Einsatz: Der Anwalt prüft alle zitierten Quellen vor der Einreichung. Das Tool reduziert Recherchezeit. Es ersetzt nicht die Verifikationsverantwortung.
2. Vertragsanalyse und Redlining-Tools
KI-gestützte Vertragsanalyse arbeitet mit hochgeladenen Dokumenten — nicht mit juristischen Argumenten, die aus dem Modellgedächtnis generiert werden. Das Modell extrahiert, markiert und vergleicht Klauseln innerhalb des bereitgestellten Dokuments. Das Halluzinationsrisiko ist deutlich geringer, weil das Quellmaterial explizit vorliegt.
- Harvey AI — mit 8 Milliarden USD bewertet (2025), 337 Kunden in 53 Ländern — fokussiert auf Dokumentenanalyse, Due Diligence und komplexe Mehrfachdokument-Workflows.
- LegalOn zielt auf Vertragsanalyse mit Microsoft Word Integration und automatisiert Redlines gegen kanzleidefinierte Playbooks.
- DraftWise nutzt die historischen Transaktionsdaten einer Kanzlei für kontextbewusste Vertragsvorschläge.
Bedingung für sicheren Einsatz: Der Vertragsanalyse-Output ist ein erster Screening-Durchgang. Ein Anwalt prüft jede markierte und nicht markierte Klausel bei High-Stakes-Transaktionen. KI unterzeichnet nicht.
3. Dokumentenprüfung und eDiscovery
Bei Rechtsstreitigkeiten und M&A mit grossen Dokumentenmengen hat KI-gestützte Prüfung ein anderes Risikoprofil. Die Aufgabe ist Priorisierung und Mustererkennung — keine Argumentation. Fehler in der Priorisierung können dazu führen, dass relevante Dokumente übersehen werden, aber die Outputs werden nicht direkt bei Gerichten eingereicht.
- Relativity aiR for Review — konzipiert für hochvolumige Dokumentenmengen mit vollständigen Audit Trails.
- Everlaw AI Assistant — strukturiert für Streitverfahren-Reviews mit teamweiten Annotationsworkflows.
Bedingung für sicheren Einsatz: Der KI-Review-Output wird als Triage-Mechanismus behandelt. Ein Rechtsfachmann prüft das markierte Set vor der Produktion.
4. Praxismanagement-KI
Clio Manage AI und ähnliche Plattformen automatisieren Abrechnungseinträge, Kalenderverwaltung, Mandantenkommunikation und Aufgaben-Tracking. Diese Kategorie hat deutlich geringere Halluzinationsexposition, weil die Outputs nicht in Gerichtsunterlagen erscheinen.
Das Risiko hier ist ein anderes: Überautomatisierung der Mandantenkommunikation ohne anwaltliche Aufsicht, und Datensicherheit, wenn mandantenprivilegierte Informationen ohne angemessene Datenschutz-Governance über externe Server verarbeitet werden. Für Kanzleien im DACH-Raum gelten zusätzlich harte Anforderungen an DSGVO-konforme Datenverarbeitung und revDSG-Compliance.
Bedingung für sicheren Einsatz: Sicherstellen, dass die Datenschutzbedingungen des Anbieters das Training mit Mandantendaten explizit ausschliessen. ISO 27001 oder SOC 2 Type II Zertifizierung ist der Mindeststandard.
5. Entwurfshilfe mit anwaltlich initiierter Struktur
Tools wie Spellbook (Microsoft Word Integration) und Harvey’s Entwurfsfunktionen helfen bei Ersterstellungen, wenn der Anwalt Struktur und Eingaben definiert. Das Risiko ist deutlich geringer, wenn der Anwalt die Gliederung schreibt, die Fakten liefert und KI nutzt, um den Fliesstext zu beschleunigen — statt einen AI Agent zu bitten, ein juristisches Argument von Grund auf zu erzeugen.
Bedingung für sicheren Einsatz: Der Anwalt erstellt die Struktur. KI füllt sie aus. Jeder rechtliche Anspruch wird vor der Einreichung verifiziert.
6. Allgemeine LLMs — Die Kategorie mit dem höchsten Risiko
ChatGPT, Claude, Gemini und ähnliche KI-Plattformen sind nicht für juristische Zitiergenauigkeit konzipiert. Sie eignen sich für die Zusammenfassung bereitgestellter Dokumente, den Entwurf von Kommunikation und das Brainstorming von Argumentstrukturen. Sie sind nicht geeignet für die Erzeugung von Fallrechtverweisen ohne RAG-basiertes Retrieval aus einer verifizierten juristischen Datenbank.
Das Sanktionsregister bestätigt das. Mata v. Avianca, der Fall Gauthier v. Goodyear (Claude ohne Verifikation eingesetzt) und ein Sozialversicherungsschriftsatz mit 12 erfundenen von 19 Zitaten — all das waren Fälle von allgemeinem LLM-Output, der ohne Quellenverifizierung eingereicht wurde.
Bedingung für den Einsatz: Output als Denkhilfe behandeln, nie als Quelle. Niemals KI-generierte Zitate einreichen, ohne das eigentliche Dokument abgerufen und gelesen zu haben.
7. Massgeschneiderte AI Agents für juristische Abläufe
Standardisierte KI-Plattformen wurden für allgemeine Anwendungsszenarien entwickelt. Sie wurden nicht für die spezifische Rechtsordnung, die Workflows, die Datenschutzanforderungen oder den Praxismanagement-Stack einer bestimmten Kanzlei gebaut.
Lab51 entwickelt massgeschneiderte AI Agents für juristische und Compliance-Operationen — Workflows, die auf spezifische Anwendungsszenarien zugeschnitten sind, mit LLM Integration und RAG Architektur zur Reduktion des Halluzinationsrisikos, und Datenverwaltung, die mandantenprivilegierte Informationen nicht dem Training Dritter aussetzt. Konkrete Beispiele:
- KI-gestützte Intake-Workflows, die Angelegenheiten nach Rechtsgebiet und Dringlichkeit weiterleiten
- Vertragsanalysesysteme, integriert in bestehende Dokumentenverwaltungstools
- Knowledge-Base-Agents, trainiert auf internen Präzedenzfällen und kanzleispezifischen Playbooks
- Multi-Plattform-Deployment mit Model Context Protocol (MCP) für konsistentes Verhalten über alle Kanäle hinweg
Das Ergebnis ist kein generischer Chatbot-Einsatz. Es ist ein System, das dafür entwickelt wurde, wie die Kanzlei tatsächlich arbeitet — mit dem Governance-Layer, den die Berufshaftung erfordert.
Die Risikolandkarte: Aufgabe nach Tool nach Exposition
| Aufgabe | Geeignetes Tool | Risiko bei Fehlnutzung |
|---|---|---|
| Fallrechtsrecherche | Westlaw / CoCounsel, Lexis+ AI | Sanktionen, erfundene Zitate in Einreichungen |
| Vertragsanalyse (eigene Dokumente) | Harvey, LegalOn, DraftWise | Übersehene Risikoklauseln, Transaktionsschaden |
| Grossvolumige Dokumentenprüfung | Relativity, Everlaw | Verpasste Beweise, Discovery-Versagen |
| Entwurf (aus anwaltlicher Gliederung) | Spellbook, Harvey, Lexis+ AI | Ungeprüfte juristische Argumentationsfehler |
| Mandantenkommunikation-Entwürfe | Clio AI, allgemeine LLMs (mit Prüfung) | Vertraulichkeitsrisiko, Fehlinformationen |
| Zitatverifizierung | Westlaw KeyCite, Shepard’s | Kein Abkürzungsweg — muss jedes Mal genutzt werden |
| Autonome juristische Argumentation | Derzeit kein geeignetes Tool | Berufsrechtliche Sanktionen, Haftpflicht |
Warum das Zeitfenster für eine passive Haltung geschlossen ist
Gerichte fragen in Sanktionsverfahren aktiv nach KI-Nutzung. Das Muster, das Gerichte und Anwaltskammern identifiziert haben, ist konsistent: vollständige Aufgabe der Verifikationsverantwortung. Kanzleien, die KI-Deployment als Tool-Einführung behandeln statt als Governance-Entscheidung, häufen Haftungsrisiken an.
Drei Dinge haben sich 2025 verändert, die Untätigkeit zunehmend teuer machen:
- Die ABA-Ethikleitlinien 2024 erstrecken die Kompetenzanforderungen der Model Rule 1.1 ausdrücklich auf den KI-Einsatz. Das Verständnis von Fehlerquellen ist nun eine Berufspflicht, keine Option.
- Enterprise-KI-Verträge enthalten jetzt Datenverarbeitungs-Anhänge. Kanzleien, die diesen Schritt bei der frühen Tool-Adoption übersprungen haben, verarbeiten möglicherweise mandantenprivilegierte Daten in Anbieter-Trainingsumgebungen — ohne es zu wissen.
- Wettbewerber, die heute strukturierte KI-Governance-Frameworks aufbauen, werden in den Verfahren, die kommen werden, Due Diligence nachweisen können. Wer das nicht tut, nicht.
Die Frage ist nicht, ob KI eingesetzt werden soll. Die Frage ist, ob das operative Modell aufgebaut wird, das den KI-Einsatz verteidigbar macht.
Das ehrliche Fazit
KI in der Rechtspraxis ist nicht gleichmässig unzuverlässig. Sie ist ungleichmässig zuverlässig — abhängig von der Aufgabe, der Architektur und der menschlichen Aufsichtsstruktur darum herum.
Für Dokumentenrecherche, Vertragsanalyse, eDiscovery-Triage und Entwurfshilfe mit verifizierter Struktur liefern KI-Tools heute messbaren Mehrwert. Für autonome juristische Argumentation, Zitaterzeugung durch allgemeine LLMs und jeden Output, der ohne Expertenprüfung bei Gericht eingereicht wird, ist das Haftungsregister eindeutig und wächst.
Über 600 dokumentierte Halluzinationsfälle und 128 sanktionierte Anwälte in drei Jahren sind kein technologisches Anlaufproblem. Es ist ein Signal, dass die Branche Geschwindigkeit adoptiert hat, ohne die Disziplin aufzubauen, die diese Geschwindigkeit mit sich bringt.
Die Kanzleien, die das richtig machen, werden nicht die sein, die am meisten KI einsetzen. Sie werden die sein, die genau wissen, wo KI aufhört und professionelles Urteilsvermögen beginnt.
Baust du KI-Workflows für eine Kanzlei oder eine Compliance-Abteilung? Lab51 entwickelt massgeschneiderte AI Agents mit der Datenschutz- und Verifikationsarchitektur, die die Berufshaftung erfordert. Keine Standardlösungen. Keine Abkürzungen bei der Datensicherheit. Melde dich für eine Zusammenarbeit.
