Im Rahmen eines interdisziplinären Forschungsprojekts untersuchen die Georg-August-Universität Göttingen und das Niedersächsische Justizministerium (MJ) die Integration von Künstlicher Intelligenz (KI) in die richterliche Entscheidungsfindung. Ziel ist es, die rechtlichen, technischen und fachlich-organisatorischen Bedingungen zu erforschen, unter denen KI die Arbeit von Richtern, insbesondere in zivilgerichtlichen Massenverfahren, unterstützen könnte. Der erste Meilenstein dieses Projekts wurde am 19. August 2025 von den Projektleitern Dr. Valentin Gold und Prof. Dr. Philipp Reuß präsentiert. Dieser Meilenstein befasst sich mit den technisch-ethischen und rechtlichen Rahmenbedingungen des KI-Einsatzes in der richterlichen Entscheidungsfindung.
Technisch-ethische Betrachtungen
Im ersten Schritt der Forschung wurde die Anwendung von Künstlicher Intelligenz aus einer technisch-ethischen Perspektive analysiert. Basierend auf einer Metastudie von Correa et al. (2023) identifizierten die Forscher 17 ethische Prinzipien, die für den Einsatz von KI im rechtlichen Bereich von Bedeutung sind. Diese Prinzipien wurden in vier Cluster unterteilt, die sich nach ihrer Normativität und Operationalisierbarkeit unterscheiden:
- Fundamentale Schutzprinzipien: Dazu zählen Werte wie Menschenwürde, Menschenrechte, Freiheit, Autonomie und die Ausrichtung an demokratischen Prinzipien.
- Bedingungen für den legitimen Einsatz: Hierunter fallen Prinzipien wie Transparenz, Nachvollziehbarkeit und Vertrauenswürdigkeit, aber auch die Gewährleistung von Datenschutz und der Rechte von Minderjährigen.
- Systemische Rahmenbedingungen: Wichtige Aspekte wie technologische Souveränität, Nachhaltigkeit und faire Wettbewerbsmöglichkeiten werden in diesem Bereich behandelt.
- Prinzipien mit unklarem oder unterstützendem Status: Das Thema Bildung, also die Aufklärung über KI, ihre Funktionsweisen, Risiken und Grenzen, wird hier thematisiert.
Die Forscher betonen, dass die Zulässigkeit des KI-Einsatzes in der richterlichen Entscheidungsfindung nicht nur von der Technik selbst abhängt, sondern auch von der spezifischen Anwendung. Ein funktionaler Charakter (ob administrativ oder normativ), der Grad der Automatisierung und die Komplexität des jeweiligen Anwendungsfeldes sind ausschlaggebend für die ethische Bewertung.
Rechtliche Rahmenbedingungen
Aus rechtlicher Sicht stellen sich die Forscher mit Blick auf die richterliche Entscheidungsfindung die Frage, ob KI-gestützte Systeme mit bestehenden verfassungsrechtlichen, menschenrechtlichen und zivilprozessualen Normen vereinbar sind. Grundsätzlich zeigen die Ergebnisse, dass der Einsatz von informationstechnischen Systemen in der richterlichen Entscheidungsfindung nicht grundsätzlich unzulässig ist, auch wenn rechtliche Anpassungen notwendig wären.
Ein entscheidungsersetzender Einsatz von KI – also ein vollautomatisierter Entscheidungsfindungsprozess ohne menschliche Eingriffe – ist nach den Ergebnissen der Untersuchung unter bestimmten Voraussetzungen denkbar. Besonders in einfachen, standardisierten Fällen, wie etwa Fluggastrechten, könnte ein regelbasiertes System zur Anwendung kommen, bei dem Entscheidungen auf klar definierten Entscheidungsbäumen basieren. Solche Systeme könnten einfache mathematisch-logische Rechenoperationen durchführen, um zu einem Ergebnis zu gelangen.
In komplexeren Fallgestaltungen sind jedoch aufgrund der limitierten Fähigkeiten der derzeitigen KI-Technologie vollautomatisierte Entscheidungen nicht zulässig. Hier sind weiterhin menschliche Richter erforderlich, um die Komplexität des Falles und die juristischen Feinheiten zu bewerten.
Kritische Einsatzgrenzen
Die Studie identifiziert mehrere kritische Einsatzszenarien für KI im Rechtssystem. Diese Szenarien hängen stark von der Art der zu erledigenden Tätigkeit ab – sei es eine rein administrative oder eine inhaltlich-normative Funktion. Ebenso spielt der Grad der Automatisierung eine Rolle: Je mehr ein Prozess automatisiert wird, desto höher sind die Anforderungen an die rechtlichen Rahmenbedingungen, etwa in Bezug auf Transparenz, Nachvollziehbarkeit und Kontrolle durch Menschen. Besonders komplexe Anwendungsfelder, bei denen mehrere rechtliche und faktische Aspekte zu berücksichtigen sind, stellen die größten Herausforderungen dar.
Ein zentraler Aspekt ist die Notwendigkeit menschlicher Aufsicht. Auch bei einem teilautomatisierten Entscheidungsprozess bleibt es erforderlich, dass menschliche Richter die endgültige Verantwortung übernehmen und die Ergebnisse der KI kritisch hinterfragen. Diese Verantwortung beinhaltet nicht nur die Kontrolle über den Entscheidungsprozess, sondern auch die Gewährleistung von Gerechtigkeit und Fairness in jedem Fall.
Der erste Meilenstein des Forschungsprojekts zeigt deutlich, dass der Einsatz von Künstlicher Intelligenz in der richterlichen Entscheidungsfindung zwar vielversprechend sein kann, aber auch viele ethische, rechtliche und technische Hürden zu überwinden sind. Insbesondere die Frage, wie viel Automatisierung in welchem Kontext sinnvoll und rechtlich zulässig ist, bleibt ein zentrales Thema. Während einfache Anwendungsfälle wie Fluggastrechte potenziell für eine Automatisierung in Frage kommen, bleibt die Rolle des Richters in komplexeren Fällen unverzichtbar.
Fundstelle: https://uni-goettingen.de/de/701073.html
