https://hoesmann.legal/berliner-ki-polizeigesetz-vor-gericht/Zwei aktuelle Gerichtsentscheidungen zeigen, welche Risiken der unkritische Einsatz künstlicher Intelligenz in Gerichtsverfahren birgt. Zugleich verdeutlichen sie, weshalb KI ein wertvolles juristisches Hilfsmittel sein kann, die anwaltliche Prüfung aber niemals ersetzt.

Künstliche Intelligenz verändert die juristische Arbeit grundlegend. Mit wenigen Eingaben lassen sich umfangreiche Sachverhalte analysieren, rechtliche Argumentationen entwickeln und sogar vollständige Schriftsätze erstellen. Was früher erhebliche Recherchearbeit erforderte, kann heute innerhalb weniger Minuten erledigt oder zumindest vorbereitet werden.

Diese Entwicklung bietet enorme Chancen. Allerdings zeigt sich zunehmend auch die Kehrseite: KI-Systeme erfinden Gerichtsurteile, zitieren Entscheidungen mit falschem Inhalt oder entwickeln rechtliche Argumentationen, die zwar überzeugend klingen, einer juristischen Überprüfung jedoch nicht standhalten.

Zwei Entscheidungen aus dem September 2026 machen deutlich, dass solche Fehler weitreichende Konsequenzen haben können. Sowohl der Bayerische Verfassungsgerichtshof als auch das Bundesarbeitsgericht mussten sich mit Schriftsätzen befassen, in denen nicht existente oder falsch wiedergegebene Gerichtsentscheidungen angeführt wurden.

Besonders bemerkenswert ist die Entscheidung des Bundesarbeitsgerichts: Dort führte ein offenbar ungeprüft übernommener Schriftsatz dazu, dass eine Nichtzulassungsbeschwerde bereits wegen fehlender ordnungsgemäßer anwaltlicher Vertretung unzulässig war.

1. Bayerischer Verfassungsgerichtshof: Erfundenen Urteilen folgt eine Gebühr von 3.000 Euro

Der Bayerische Verfassungsgerichtshof hatte mit Entscheidung vom 23. September 2026 (Az. Vf. 9-VI-25) über eine Verfassungsbeschwerde in einer familienrechtlichen Auseinandersetzung zu befinden.

Der Beschwerdeführer wandte sich gegen gerichtliche Entscheidungen zum Sorgerecht für sein Kind. Zur Begründung seiner Verfassungsbeschwerde berief er sich auf zahlreiche angebliche Entscheidungen des Bayerischen Verfassungsgerichtshofs, die seine Auffassung zum Elternrecht und zum Kindeswohl stützen sollten.

Bei näherer Prüfung stellte sich jedoch heraus, dass mehrere der angeführten Entscheidungen entweder überhaupt nicht existierten oder sich nicht mit den behaupteten Rechtsfragen beschäftigten.

Der Verfassungsgerichtshof vermutete ausdrücklich, dass der Beschwerdeführer sogenannte „halluzinierende KI“ eingesetzt hatte. Seine Argumentation beruhte teilweise auf frei erfundenen Rechtsprechungsgrundsätzen.

Die Verfassungsbeschwerde wurde als unzulässig abgewiesen. Zusätzlich auferlegte das Gericht dem Beschwerdeführer eine Gebühr von 3.000 Euro gemäß Art. 27 Abs. 1 Satz 2 VfGHG.

Allerdings ist juristisch zu differenzieren: Die Gebühr wurde nicht ausdrücklich wegen der Verwendung künstlicher Intelligenz verhängt. Maßgeblich für die Unzulässigkeit waren vielmehr die unzureichende Begründung der Verfassungsbeschwerde und die Nichterfüllung der gesetzlichen Darlegungsanforderungen.

Dennoch verdeutlicht die Entscheidung, wie problematisch es werden kann, wenn vermeintliche KI-Rechercheergebnisse ungeprüft zur Grundlage einer gerichtlichen Argumentation gemacht werden.

2. Bundesarbeitsgericht: Ungeprüfter Schriftsatz führt zur Unzulässigkeit der Beschwerde

Noch deutlicher sind die Konsequenzen einer Entscheidung des Bundesarbeitsgerichts vom 30. September 2026 (Az. 2 AZN 339/26).

In einem arbeitsrechtlichen Verfahren hatte die Klägerin gegen die Nichtzulassung der Revision Beschwerde eingelegt. Die Beschwerdebegründung wurde von ihrem Rechtsanwalt signiert und über das besondere elektronische Anwaltspostfach (beA) beim Bundesarbeitsgericht eingereicht.

Das Gericht stellte jedoch erhebliche Auffälligkeiten fest.

Bereits die äußere Gestaltung unterschied sich deutlich von den sonstigen Schriftsätzen des Rechtsanwalts. Der übliche Kanzleibriefkopf fehlte, die Formatierung war ungewöhnlich und die Gliederung entsprach nicht den Anforderungen an eine professionelle Rechtsmittelbegründung.

Entscheidend waren allerdings die inhaltlichen Mängel.

Der Schriftsatz enthielt zahlreiche Verweise auf Gerichtsentscheidungen, die entweder nicht existierten oder deren Inhalt falsch wiedergegeben wurde. Das Bundesarbeitsgericht bezeichnete diese ausdrücklich als „Halluzinationen“.

Für den Senat stand deshalb fest, dass der Rechtsanwalt den Schriftsatz nicht in der gebotenen Weise eigenverantwortlich überprüft hatte.

Die Unterschrift allein genügt nicht

Das Bundesarbeitsgericht stellte klar, dass ein Schriftsatz im Verfahren mit Vertretungszwang das Ergebnis eigenverantwortlicher anwaltlicher Arbeit sein muss.

Zwar darf ein Rechtsanwalt auf Vorarbeiten Dritter zurückgreifen. Er muss den Schriftsatz jedoch selbstständig prüfen und die volle Verantwortung für dessen Inhalt übernehmen.

Das Gericht formulierte hierzu einen entscheidenden Grundsatz:

„Eine Vertretung durch Prozessbevollmächtigte im Zusammenhang mit der Einreichung eines Schriftsatzes liegt nur dann vor, wenn dieser das Ergebnis der geistigen Arbeit des Prozessbevollmächtigten ist.“

Die bloße Signatur und Übermittlung eines fremden, ungeprüften Schriftsatzes erfüllt diese Anforderungen nicht.

Im konkreten Fall ging das Bundesarbeitsgericht davon aus, dass der Rechtsanwalt ein von der Partei stammendes Schreiben praktisch unverändert eingereicht hatte. Der Verdacht, dass der Ehemann der Klägerin den Schriftsatz verfasst hatte, spielte dabei ebenfalls eine Rolle.

Die Nichtzulassungsbeschwerde wurde deshalb als unzulässig verworfen. Unabhängig davon genügte ihre Begründung auch inhaltlich nicht den gesetzlichen Anforderungen.

Die Entscheidung ist von erheblicher praktischer Bedeutung: Wer als Rechtsanwalt einen fremden oder KI-generierten Schriftsatz ungeprüft übernimmt, riskiert nicht nur die Qualität seiner Argumentation, sondern unter Umständen bereits die Wirksamkeit der Prozesshandlung.

Das Gericht hat damit kein allgemeines Verbot KI-gestützter Schriftsätze ausgesprochen. Entscheidend ist vielmehr, dass die notwendige eigenverantwortliche anwaltliche Prüfung tatsächlich stattfindet.

3. Aus meiner anwaltlichen Praxis: Wenn Mandanten mit fertigen KI-Schriftsätzen kommen

Auch in meiner eigenen anwaltlichen Praxis beobachte ich zunehmend, dass Mandanten künstliche Intelligenz zur Vorbereitung ihrer rechtlichen Angelegenheiten einsetzen.

Nicht selten werden mir bereits umfangreiche Ausarbeitungen oder nahezu vollständig formulierte Schriftsätze vorgelegt. Diese enthalten häufig zahlreiche Gesetzesverweise, Gerichtsentscheidungen und vermeintlich überzeugende juristische Argumentationen.

Grundsätzlich begrüße ich diese Entwicklung. Es ist durchaus sinnvoll, wenn sich Mandanten mithilfe moderner Technologien mit ihrer rechtlichen Situation auseinandersetzen und sich auf ein Beratungsgespräch vorbereiten.

Allerdings bringt diese Entwicklung auch Schwierigkeiten mit sich.

Die von KI erstellten Ausarbeitungen sind häufig ausgesprochen lang, enthalten zahlreiche Wiederholungen und führen Entscheidungen an, deren Relevanz für den konkreten Fall zumindest zweifelhaft ist.

Für die anwaltliche Bearbeitung bedeutet dies keineswegs zwangsläufig eine Arbeitserleichterung. Mitunter ist es deutlich aufwendiger, einen umfangreichen KI-generierten Schriftsatz vollständig zu überprüfen, als die rechtliche Argumentation selbst zu entwickeln.

Hinzu kommt ein weiteres Problem: KI-Systeme formulieren ihre Ergebnisse häufig mit großer sprachlicher Sicherheit. Für juristische Laien entsteht dadurch leicht der Eindruck, eine rechtliche Frage sei bereits abschließend geklärt.

In der anwaltlichen Beratung muss dann zunächst erläutert werden, weshalb bestimmte Argumente rechtlich nicht tragfähig sind, vermeintlich einschlägige Urteile tatsächlich nicht weiterhelfen oder eine von der KI vorgeschlagene Vorgehensweise erhebliche Risiken birgt.

Das kann die Zusammenarbeit erschweren und zusätzlichen Beratungsaufwand verursachen.

Entscheidend ist zudem nicht die Länge eines Schriftsatzes oder die Anzahl zitierter Entscheidungen, sondern die Qualität und rechtliche Tragfähigkeit der Argumentation.

Gerade darin liegt eine wesentliche Aufgabe anwaltlicher Tätigkeit: Aus einer Vielzahl möglicher Argumente diejenigen herauszuarbeiten, die für die Entscheidung tatsächlich relevant sind.

Ich erinnere mich an einen Fall, wo der Gegner fast 100 Seiten Schriftsatz eingereicht hat, mein Schriftsatz hatte eine Länge von zwei Seiten und ich hab das Verfahren gewonnen. Mein Mandant war zunächst wenig angetan davon, als er so wenig Schriftsatz für sein Geld bekam, war beim Ende wirklich begeistert, dass wir mit unserer pointierten Argumentation uns haben durchsetzen können.

Daher zählt neben der Länge auch vor allem die Qualität und gerade KI Systeme neigen dazu, die Quantität über die Qualität zu stellen.

4. Datenschutz und Verschwiegenheit: Ein häufig unterschätztes Problem

Neben der inhaltlichen Richtigkeit muss beim Einsatz künstlicher Intelligenz auch der Datenschutz berücksichtigt werden.

Gerade bei der juristischen Arbeit werden regelmäßig besonders sensible Informationen verarbeitet. Dazu gehören personenbezogene Daten, Gesundheitsinformationen, wirtschaftliche Verhältnisse, Geschäftsgeheimnisse und vertrauliche Mandatsunterlagen.

Wer solche Informationen in ein externes KI-System eingibt, muss prüfen, auf welcher rechtlichen Grundlage die Verarbeitung erfolgt und welche technischen sowie organisatorischen Schutzmaßnahmen bestehen.

Maßgeblich sind insbesondere die Anforderungen der Datenschutz-Grundverordnung, darunter Art. 5, 6, 9, 28 und 32 DSGVO sowie gegebenenfalls die Vorschriften über internationale Datentransfers.

Für Rechtsanwälte kommt die anwaltliche Verschwiegenheitspflicht nach § 43a Abs. 2 BRAO hinzu. Bei der Einbindung externer Dienstleister sind zudem die Anforderungen des § 43e BRAO zu beachten.

Besonders kritisch ist die ungeprüfte Eingabe vollständiger Mandatsakten, vertraulicher Korrespondenz oder sensibler personenbezogener Daten in öffentlich zugängliche KI-Dienste.

Dabei kommt es auf die konkrete technische und vertragliche Ausgestaltung des eingesetzten Systems an. Nicht jedes KI-Angebot gewährleistet dieselben Datenschutzstandards.

Die Anonymisierung oder zumindest konsequente Datenminimierung kann Risiken reduzieren. Sie ersetzt jedoch nicht die Prüfung, ob der jeweilige KI-Dienst für die beabsichtigte Verarbeitung geeignet ist.

6.Kurzleitfaden: KI bei rechtlichen Fragestellungen richtig einsetzen

Künstliche Intelligenz ist ein hervorragendes Werkzeug, sofern sie mit der erforderlichen Sorgfalt verwendet wird. Für die Praxis empfehle ich folgende Grundregeln:

KI zur Vorbereitung nutzen, nicht als abschließende Rechtsberatung verstehen.
KI eignet sich zur Strukturierung von Sachverhalten, zur Entwicklung erster Fragestellungen und zur Vorbereitung von Gesprächen mit dem Rechtsanwalt.
Gerichtsurteile immer im Original überprüfen.
Jede angeführte Entscheidung muss tatsächlich existieren. Darüber hinaus ist zu kontrollieren, ob sie die behauptete rechtliche Aussage enthält und auf den konkreten Fall übertragbar ist. Dafür ist regelmäßig nicht mehr der Gang in die Universitätsbibliothek erforderlich, viele Entscheidungen sind bereits online publiziert.
Rechtliche Argumentationen kritisch hinterfragen.
Nicht jede überzeugend formulierte Ausführung ist juristisch richtig. Nur weil etwas überzeugend klingt, muss es juristisch nicht gleich überzeugend sein. Hier scheitern KI Systeme noch regelmäßig. Ggerade die Abwägung und Einschätzung von Argumenten ist eine der Leistungen, die Rechtsanwälte vom ersten Tag ihres Studiums an lernen.
Datenschutz und Vertraulichkeit gewährleisten.
Vertrauliche Unterlagen und personenbezogene Daten sollten nicht ungeprüft in externe KI-Systeme hochgeladen werden. Die datenschutzrechtlichen und gegebenenfalls berufsrechtlichen Anforderungen müssen zuvor geklärt sein.
Schriftsätze nicht ungeprüft übernehmen.
KI-generierte Texte sollten als Arbeitsgrundlage verstanden werden. Ihre rechtliche Prüfung, Gewichtung und abschließende Formulierung müssen eigenverantwortlich erfolgen.
Auf Qualität statt Umfang achten.
Ein präziser Schriftsatz mit wenigen tragfähigen Argumenten ist regelmäßig überzeugender als eine umfangreiche Ausarbeitung mit zahlreichen womöglich zweifelhaften Fundstellen.
Fazit: KI ist ein hervorragendes Werkzeug – aber kein Ersatz für juristische Verantwortung

Die Entscheidungen des Bayerischen Verfassungsgerichtshofs und des Bundesarbeitsgerichts markieren eine wichtige Entwicklung im Umgang der Justiz mit künstlicher Intelligenz.

Sie zeigen, dass Gerichte fehlerhafte KI-generierte Rechtsprechungsnachweise erkennen und daraus erhebliche prozessuale Konsequenzen ziehen können.

Insbesondere das Bundesarbeitsgericht macht deutlich, dass die anwaltliche Verantwortung nicht bereits dadurch erfüllt wird, dass ein Rechtsanwalt einen fremden Schriftsatz unterschreibt und elektronisch einreicht.

Gleichzeitig wäre es verfehlt, daraus eine grundsätzliche Ablehnung künstlicher Intelligenz abzuleiten.

KI eröffnet auch für die juristische Praxis erhebliche Möglichkeiten. Sie kann Rechercheprozesse beschleunigen, komplexe Informationen strukturieren und den Zugang zu rechtlichen Fragestellungen erleichtern.

Der entscheidende Unterschied liegt zwischen dem Einsatz künstlicher Intelligenz als Hilfsmittel und dem blinden Vertrauen in ihre Ergebnisse.

Aus meiner Sicht wird künstliche Intelligenz die anwaltliche Arbeit dauerhaft verändern und in vielen Bereichen verbessern. Gerade deshalb müssen ihre Grenzen bekannt sein.

Denn auch im Zeitalter künstlicher Intelligenz bleibt eine zentrale Erkenntnis unverändert: Eine überzeugende juristische Argumentation entsteht nicht durch möglichst viel Text, sondern durch sorgfältige Prüfung, rechtliche Präzision und die richtige Bewertung des Einzelfalls.

Als Rechtsanwalt für Urheberrecht, Medienrecht und KI-bezogene Rechtsfragen berate ich Unternehmen und Privatpersonen zu den rechtlichen Anforderungen und Risiken beim Einsatz künstlicher Intelligenz.

FAQ

Darf ein Rechtsanwalt ChatGPT für Schriftsätze verwenden?

Ja. Die Nutzung künstlicher Intelligenz ist grundsätzlich zulässig. Der Rechtsanwalt muss die Ergebnisse jedoch eigenverantwortlich prüfen und die volle Verantwortung für den eingereichten Schriftsatz übernehmen.

Was passiert, wenn KI ein Gerichtsurteil erfindet?

Erfundene Gerichtsentscheidungen können die rechtliche Argumentation entwerten und erhebliche prozessuale Nachteile verursachen. Im Einzelfall kann ein ungeprüft eingereichter Schriftsatz sogar dazu führen, dass eine Prozesshandlung unwirksam ist.

Können Mandanten eigene KI-Schriftsätze erstellen?

Ja. Allerdings sollten solche Texte nicht ungeprüft bei Gericht eingereicht werden. Besonders bei komplexen Verfahren empfiehlt sich eine anwaltliche Prüfung.

Ist die Eingabe von Mandantenunterlagen in ChatGPT erlaubt?

Das hängt von der konkreten Ausgestaltung des eingesetzten Dienstes und den verarbeiteten Informationen ab. Datenschutz, Vertraulichkeit und anwaltliche Verschwiegenheit müssen gewährleistet sein.

Können Rechtsanwälte für Fehler künstlicher Intelligenz haften?

Ja. Werden anwaltliche Sorgfaltspflichten verletzt und entsteht dadurch ein ersatzfähiger Schaden, können Haftungsansprüche bestehen.

Rechtsprechung und weiterführende Quellen