Mit dem zunehmenden Einsatz künstlicher Intelligenz in Ermittlungsarbeit und Justiz rückt eine Frage immer stärker in den Fokus: Können algorithmische Systeme tatsächlich zu objektiveren Ermittlungen beitragen – oder verstärken sie bestehende Vorurteile lediglich in neuer Form?
„Analysiere die Beweise gegen Person X im Hinblick auf ihre Täterschaft.“
Was zunächst wie eine neutrale Arbeitsanweisung klingt, kann die Richtung einer KI-gestützten Analyse bereits entscheidend beeinflussen. Denn moderne KI-Systeme bewerten Informationen nicht unabhängig von ihrer Eingabe. Bereits die Formulierung eines sogenannten Prompts kann beeinflussen, welche Aspekte hervorgehoben, welche Zusammenhänge hergestellt und welche Alternativen ausgeblendet werden.
KI im Strafverfahren: objektiv oder nur scheinbar neutral?
Der Einsatz künstlicher Intelligenz in Ermittlungsarbeit und Justiz nimmt zunehmend zu, wenn auch bislang nicht in dem Umfang wie beispielsweise in den USA. KI-Systeme können innerhalb kürzester Zeit große Datenmengen auswerten, Muster erkennen und Informationen strukturieren, für deren Analyse menschliche Ermittler:innen erheblich mehr Zeit benötigen würden. Gerade darin liegt die Hoffnung vieler Befürworter:innen: effizientere Verfahren, schnellere Auswertungen und eine objektivere Grundlage für Entscheidungen. Algorithmische Systeme erscheinen dabei häufig rationaler und weniger fehleranfällig als menschliche Entscheidungsträger.
Maschinen gelten als rational, unvoreingenommen und frei von menschlichen Fehlurteilen, obwohl sich darin bereits bestehende gesellschaftliche und menschliche Vorannahmen widerspiegeln können. Gerade darin liegt jedoch ein erhebliches Risiko. Denn auch algorithmische Systeme sind nicht neutral. Bereits heute zeigen konkrete Beispiele, dass algorithmische Systeme bestehende gesellschaftliche Verzerrungen reproduzieren können.
Besonders bekannt wurde das in den USA eingesetzte System COMPAS, das zur Erstellung von Rückfallprognosen genutzt wurde. Eine Untersuchung von ProPublica zeigte, dass Schwarze Personen häufiger als zukünftige Hochrisikotäter eingestuft wurden als weiße Personen, obwohl die tatsächlichen Rückfallquoten dies nicht in gleichem Maße bestätigten. Die vermeintlich objektive Technologie führte damit nicht zwangsläufig zu neutraleren Entscheidungen, sondern reproduzierte bestehende strukturelle Ungleichheiten.
Ähnliche Probleme zeigten sich auch bei Gesichtserkennungssystemen. Eine Studie des Massachusetts Institute of Technology (MIT) stellte fest, dass bestimmte KI-Systeme insbesondere bei Schwarzen Frauen deutlich höhere Fehlerraten aufwiesen. Solche Beispiele verdeutlichen, dass algorithmische Verzerrungen keineswegs bloß theoretischer Natur sind.
Trainingsdaten, statistische Verzerrungen, das sogenannte Prompting sowie Entscheidungen der Entwickler:innen können beeinflussen, welche Informationen sichtbar werden, welche Zusammenhänge hervortreten und welche Alternativen in den Hintergrund geraten. Die Richtung der Analyse beginnt deshalb oft nicht erst bei der Antwort der KI, sondern bereits bei ihrer Entwicklung und der Formulierung der Eingabe selbst.
Die vermeintlich objektive Analyse ist deshalb häufig weniger unabhängig, als sie erscheint. Vielmehr entsteht ein ko-produktiver Prozess zwischen menschlicher Vorprägung und algorithmischer Verarbeitung. Gerade im Strafverfahren wirft dies erhebliche rechtsstaatliche Fragen auf. Denn wenn Vorannahmen unbemerkt in KI-gestützte Analysen einfließen, gerät auch die Pflicht zur objektiven und ergebnisoffenen Sachverhaltsaufklärung unter Druck.
Prompting: Wie Fragen die Richtung der Ermittlungen beeinflussen
Ein sogenannter Prompt bezeichnet die Eingabe, mit der ein KI-System gesteuert wird. Dabei handelt es sich meist um eine textbasierte Anweisung oder Fragestellung, anhand derer das System Informationen verarbeitet und Antworten generiert. Anders als häufig angenommen, ist diese Eingabe nicht bloß technischer Natur. Bereits die Formulierung eines Prompts kann beeinflussen, welche Aspekte hervorgehoben, welche Zusammenhänge hergestellt und welche Informationen ausgeblendet werden.
Besonders deutlich wird dies im Kontext strafrechtlicher Ermittlungen. Die Eingabe „Analysiere die Beweise gegen Person X im Hinblick auf ihre Täterschaft“ unterscheidet sich erheblich von der Frage: „Welche belastenden und entlastenden Hinweise ergeben sich aus den vorliegenden Informationen?“ Während die erste Formulierung bereits eine bestimmte Richtung nahelegt, eröffnet die zweite zumindest eher eine ergebnisoffene Analyse.
Gerade hierin liegt das Verzerrungspotential von Prompting. Ermittlungen folgen häufig bereits früh bestimmten Hypothesen. KI-Systeme können diese Vorannahmen nicht nur übernehmen, sondern durch ihre scheinbare Neutralität zusätzlich verstärken. Besteht bereits der Verdacht gegen eine bestimmte Person, kann sich dieser Fokus unbemerkt in der Formulierung des Prompts widerspiegeln. Die Gefahr liegt dabei weniger in offen fehlerhaften Antworten als vielmehr in einer schleichenden Verengung der Perspektive.
Prompting ist damit weit mehr als eine bloße technische Bedienhandlung. Die Art der Fragestellung strukturiert bereits, welche Informationen als relevant erscheinen und welche Schlussfolgerungen wahrscheinlicher wirken. Die Analyse der KI erscheint dadurch oft neutraler und unabhängiger, als sie tatsächlich ist. Vielmehr entsteht ein Wechselspiel zwischen menschlicher Vorprägung und algorithmischer Verarbeitung, in dem sich bestehende Annahmen fortsetzen können.
Besonders problematisch ist dabei die Vorstellung einer scheinbar ‚mechanischen Objektivität‘ – also der Annahme, Maschinen seien automatisch neutraler als Menschen. Algorithmische Systeme wirken häufig rationaler und objektiver als menschliche Entscheidungsträger. Gerade dadurch geraten die ihnen zugrunde liegenden Vorannahmen leichter aus dem Blick. Was von einer Maschine generiert wurde, erscheint schnell neutral oder wissenschaftlich fundiert, obwohl bereits die Eingabe die Richtung der Analyse beeinflusst haben kann.
Hier zeigt sich eine strukturelle Nähe zum sogenannten Confirmation Bias. Bestehende Verdachtsmomente oder Ermittlungshypothesen können sich durch KI-gestützte Analysen weiter verfestigen, wenn belastende Aspekte stärker hervorgehoben werden als entlastende Alternativen. Ermittlungen wirken dadurch weiterhin objektiv, obwohl die Richtung der Analyse möglicherweise bereits früh vorstrukturiert wurde.
Warum das rechtsstaatlich problematisch ist
Die beschriebenen Mechanismen stehen in einem deutlichen Spannungsverhältnis zur strafprozessualen Objektivitätspflicht. Nach § 160 Abs. 2 Strafprozessordnung (StPO) ist die Staatsanwaltschaft verpflichtet, nicht nur belastende, sondern auch entlastende Umstände zu ermitteln. Ermittlungen sollen damit gerade nicht einseitig erfolgen, sondern auf eine möglichst offene und umfassende Sachverhaltsaufklärung gerichtet sein.
Wird die Ermittlungsarbeit jedoch durch KI-Systeme unterstützt, deren Analysen maßgeblich durch Prompting, verzerrte Trainingsdaten und algorithmisch eingebettete Vorannahmen beeinflusst werden, besteht die Gefahr einer schleichenden Verengung des Erkenntnisprozesses. Die Richtung der Ermittlungen kann dadurch bereits früh vorstrukturiert werden, ohne dass alternative Deutungen in gleicher Weise berücksichtigt werden.
Besonders problematisch ist dabei, dass algorithmische Verzerrungen häufig weniger sichtbar sind als menschliche Fehlurteile. Während subjektive Einschätzungen einzelner Ermittler:innen zumindest grundsätzlich reflektiert und hinterfragt werden können, erscheinen KI-generierte Analysen oftmals objektiv. Gerade darin liegt ihre besondere Wirkmacht.
Der Einsatz von KI beseitigt subjektive Einflüsse deshalb nicht, sondern verlagert und potenziert sie. Menschliche Vorannahmen können sich mit den in algorithmischen Systemen angelegten Biases verbinden und gegenseitig verstärken. Die Gefahr liegt dabei weniger in einzelnen Fehlentscheidungen als vielmehr in einer strukturellen Verschiebung hin zu vorgeprägten und bestätigungsanfälligen Ermittlungsprozessen.
Fazit: Verzerrungen und strukturelle Biases
Der Einsatz künstlicher Intelligenz in Ermittlungsarbeit und Justiz verspricht effizientere Verfahren und schnellere Analysen. Die Vorstellung, algorithmische Systeme könnten menschliche Fehlurteile reduzieren und zu objektiveren Entscheidungen beitragen, erscheint deshalb auf den ersten Blick plausibel. Gerade im Strafverfahren zeigt sich jedoch, dass auch KI-Systeme nicht frei von Vorannahmen, Verzerrungen und strukturellen Biases sind.
Insbesondere das Prompting macht deutlich, dass die Richtung algorithmischer Analysen bereits durch die Art der Fragestellung beeinflusst werden kann. KI ersetzt subjektive Einflüsse daher nicht, sondern verlagert sie in neue technische und häufig weniger sichtbare Strukturen. Die Gefahr liegt dabei weniger in offen fehlerhaften Entscheidungen als vielmehr in einer schleichenden Vorstrukturierung von Ermittlungsprozessen, die weiterhin den Anschein objektiver Neutralität erzeugen.
Die Wahrung des strafprozessualen Objektivitätsgebots bleibt auch im Zeitalter algorithmischer Entscheidungsunterstützung eine genuin menschliche Aufgabe.
