Nach mehreren jüngeren Entscheidungen, in denen deutsche Gerichte sich mit dem Einsatz künstlicher Intelligenz durch Parteien oder Prozessbevollmächtigte auseinandersetzen mussten, hat nun auch der Verwaltungsgerichtshof Baden-Württemberg einen entsprechenden Fall zu entscheiden gehabt. Mit Beschluss vom 8. Juli 2025 verwarf der 3. Senat die Beschwerden der Antragsteller nicht nur wegen unzureichender Begründung, sondern äußerte dabei ausdrücklich Befremden über eine Vielzahl zitierter, tatsächlich aber nicht existenter obergerichtlicher Rechtsprechung.
Dem Verfahren lag ein baurechtlicher Streit zugrunde. Mehrere Antragsteller wandten sich gegen einen Beschluss des Verwaltungsgerichts Karlsruhe (Beschl. v. 16.05.2025, Az. 2 K 1899/25) im vorläufigen Rechtsschutz. Dem gemeinsamen Prozessbevollmächtigten der Antragsteller wurde der Beschluss des Verwaltungsgerichts ordnungsgemäß zugestellt, woraufhin er fristgemäß Beschwerde einlegte.
KI-Halluzination ist keine Begründung
Mit der materiellen Rechtslage brauchte sich der VGH allerdings gar nicht zu befassen. Er verwarf die Beschwerden als unzulässig, weil sie den gesetzlichen Begründungsanforderungen nicht genügten. Maßgeblich stellte der Senat hierbei auf § 146 Abs. 4 S. 1 VwGO ab, wonach die Beschwerde gegen Entscheidungen im vorläufigen Rechtsschutz binnen eines Monats nach Bekanntgabe der Entscheidung zu begründen ist.
Zwar war die Beschwerdeschrift rechtzeitig eingereicht worden und auch mit einer Begründung versehen, allerdings erfüllte diese die formalen Voraussetzungen gem. § 146 Abs. 4 S. 3 VwGO nicht, da sie sich nicht inhaltlich nachvollziehbar mit der Entscheidung des Verwaltungsgerichts auseinandersetzte.
Von Interesse ist hier vor allem ein zusätzlicher Hinweis des Senats; „lediglich ergänzend“ merkt er an, dass es befremdlich sei, dass in der Beschwerdeschrift eine Vielzahl obergerichtlicher Rechtsprechung zitiert werden würde, die nicht auffindbar ist und augenscheinlich gar nicht existiert.
Zwar unterstellt der Senat, anders als etwa jüngst das AG Köln (Beschl. v. 02.07.2025, Az. 312 F 130/25), nicht explizit den Einsatz künstlicher Intelligenz, doch fügt sich die Formulierung nahtlos in ähnliche Rechtsprechung ein, bei der Gerichte mit Schriftsätzen konfrontiert waren, die offenbar mithilfe von KI-Systemen erstellt wurden und sogenannte Halluzinationen, also erfundene Urteile, Aktenzeichen und Fundstellen, enthielten. Der Hinweis bleibt obiter dictum, gleichwohl ist er deutlich genug, um als deutliches Warnsignal verstanden zu werden.
Auswirkungen auf die Praxis
Durch die stetig fortschreitende Entwicklung von KI-Systemen entstehen in der Praxis diverse Probleme, insbesondere wenn die Recherchemöglichkeiten entsprechender Systeme vom Anwender überschätzt und Ausgaben nicht manuell kontrolliert werden. Gerade die Tatsache, dass Large Language Models nicht dazu in der Lage sind zu erkennen, wenn sie etwas nicht wissen bzw. über bestimmte Informationen nicht verfügen und stets eine Antwort ausgeben, die ausführlich auf den gestellten Prompt eingeht, birgt das Risiko, dass es künftig noch zu deutlich mehr Fällen kommen wird, bei denen Gerichte sich mit halluzinierten Quellenangaben und erfundenen Urteilen auseinandersetzen müssen (zur technischen Funktionsweise vgl. ausführlich Riehm/Valerius RDi 2025, 612, 613).
Besonders erschütternd ist es, wenn nicht bloß Laien, die sich als Naturalpartei selbst vertreten, sondern professionelle Prozessbevollmächtigte und Rechtsanwälte KI-Systeme zur Generierung von Schriftsätzen verwenden und die Ergebnisse ungeprüft übernehmen. Ob entsprechendes Handeln einen berufsrechtlichen Verstoß für Rechtsanwälte begründen kann ist fraglich und dürfte wohl zu verneinen sein, da § 43a Abs. 3 S. 2 BRAO nur die bewusste Verbreitung von Unwahrheiten erwähnt, welche tatsächliche Kenntnis von der Unwahrheit verlangt (vgl. AGH Bayern, 18.01.2005, Az. BayAGH II – 8/04), woran es bei halluzinierten Fundstellen jedoch regelmäßig mangeln dürfte.
Ebenso zu verneinen ist regelmäßig auch ein strafbarer Prozessbetrug. Soweit nur Fundstellen halluziniert – oder gar bewusst erlogen – sind, scheidet eine Strafbarkeit aufgrund der gerichtlichen Pflicht zur eigenen Rechtsermittlung, iura novit curia, aus (vgl. OLG Koblenz, 25.01.2001, Az. 2 Ws 30/01).
Im Ergebnis bleibt festzuhalten, dass KI-Systeme die Rechtspraxis, ganz besonders die Gerichte, vermutlich vor immer größere Herausforderungen stellen werden. Es bleibt wichtig, die technologischen Entwicklungen im Blick zu behalten und auf diese angemessen zu reagieren. Die Einführung eigenständiger berufsrechtlicher Sanktionsmöglichkeiten beim Einsatz von künstlicher Intelligenz, der zu Halluzinationen führt, ist diskussionswürdig.
Fundstelle: VGH Baden-Württemberg, Beschl. v. 8.7.2025, Az. 3 S 1012/25
