Generativer Künstlicher Intelligenz (KI) wird auch von Juristinnen und Juristen zur Erstellung und Optimierung von Bewerbungsunterlagen eingesetzt. Ein US-Rechtsmagazin warf deswegen die Frage auf: Behandelt KI Männer und Frauen tatsächlich gleich – oder reproduziert sie bestehende gesellschaftliche Vorurteile? Das Experiment führte zu erschreckenden Ergebnissen.
Ein Praxistest des Rechtsjournalisten Joe Patrice griff diese Problematik auf und untersuchte sie erstmals anhand juristischer Lebensläufe. Das Ergebnis ist differenzierter als frühere Untersuchungen, zeigt aber zugleich, dass selbst hochstandardisierte juristische Karrieren nicht vollständig vor algorithmischen Verzerrungen geschützt sind.
KI schreibt keine Fakten – sie interpretiert sie
Ausgangspunkt der Debatte war ein LinkedIn-Beitrag der Beraterin Jen Horsburgh. Sie ließ ihren Lebenslauf von Googles KI-System Gemini überarbeiten und wiederholte anschließend denselben Vorgang mit identischen Daten – lediglich der Vorname wurde von einer weiblichen auf eine männliche Variante geändert.
Die Unterschiede waren bemerkenswert. Während die weibliche Bewerberin Projekte „unterstützte“ oder „mitwirkte“, „entwickelte“ und „konzipierte“ der männliche Kandidat dieselben Projekte. Ehrenamtliches Engagement wurde bei der Frau als bloßer sozialer Einsatz beschrieben, beim Mann hingegen als Ausdruck von Führungsqualitäten.
Technisch überrascht dieses Ergebnis kaum. Generative KI erzeugt keine objektiven Bewertungen, sondern berechnet auf Grundlage riesiger Datenmengen die wahrscheinlichste sprachliche Formulierung. Enthalten diese Trainingsdaten jahrzehntelang gewachsene gesellschaftliche Rollenbilder, spiegeln sich diese statistischen Muster zwangsläufig auch in den erzeugten Texten wider.
Funktioniert das im juristischen Bereich genauso?
Patrice testete, ob sich der beobachtete Gender Bias auch bei juristischen Bewerbungen zeigt. Hierzu konstruierte er aus mehreren authentischen Associate-Profilen internationaler Wirtschaftskanzleien einen fiktiven Lebenslauf einer Associate im fünften Berufsjahr im Bereich Mergers & Acquisitions. Anschließend ließ er Gemini zweimal denselben Lebenslauf überarbeiten – einmal unter dem Namen „Vivian“, einmal unter „Thomas“. Der eigentliche berufliche Werdegang blieb vollständig identisch.
Auf den ersten Blick fiel das Ergebnis positiv aus. Beide Bewerber „berieten“ Mandanten, „verhandelten“ Verträge und „betreuten“ komplexe nationale wie internationale Transaktionen. Offensichtliche Unterschiede in der Beschreibung der fachlichen Tätigkeit traten kaum auf. Erst beim genaueren Lesen zeigten sich subtile Abweichungen.
Thomas erhielt bereits zu Beginn seines Lebenslaufs eine Zusammenfassung, die ihn als „High-performing Associate“ mit „umfangreicher Erfahrung“ und „nachgewiesener Erfolgsbilanz“ charakterisierte. Keine dieser Aussagen war durch den Lebenslauf belegt; sie stellte vielmehr eine wertende Interpretation der KI dar. Vivian erhielt dagegen lediglich eine nüchterne Beschreibung ihrer Tätigkeit. Ihre Qualifikation wurde nicht bewertet, sondern lediglich wiedergegeben.
Gerade im Bewerbungsprozess können solche sprachlichen Nuancen erheblichen Einfluss entfalten. Personalverantwortliche entscheiden häufig innerhalb weniger Sekunden, ob ein Lebenslauf näher betrachtet wird. Selbst geringfügig positivere Formulierungen können daher unbewusst den Gesamteindruck verbessern.
Unterschiede bei Ehrenamt, Activities und Honors
Besonders problematisch erscheint ein weiterer Befund. Der identische Lebenslauf enthielt umfangreiches Pro-bono-Engagement. Während dieses beim männlichen Bewerber ausdrücklich hervorgehoben wurde – einschließlich seiner Tätigkeit für eine gemeinnützige Organisation und einer Veterans Clinic –, verschwand derselbe Abschnitt bei Vivian vollständig.
Eine Erklärung hierfür existiert nicht. Wahrscheinlich handelt es sich nicht um eine bewusste Diskriminierung, sondern um eine statistische Priorisierung innerhalb der Sprachgenerierung. Für die betroffene Bewerberin macht das Ergebnis allerdings keinen Unterschied: Ein relevanter Teil ihres beruflichen Profils bleibt schlicht unsichtbar.
Auch im akademischen Bereich zeigte sich eine unterschiedliche Gewichtung. Thomas‘ Moot-Court-Erfolg wurde unter der Rubrik „Honors“ aufgeführt und damit als besondere Auszeichnung präsentiert. Bei Vivian erschien dieselbe Leistung lediglich unter „Activities“ neben studentischen Vereinigungen.
Juristisch mag dies belanglos erscheinen. Aus Sicht der Personalpsychologie ist die Einordnung jedoch keineswegs trivial. Recruiter scannen Lebensläufe häufig nur wenige Sekunden. Rubriken wie „Awards“, „Honors“ oder „Leadership“ ziehen deutlich mehr Aufmerksamkeit auf sich als allgemeine Aktivitäten.
Warum fällt der Bias im Recht geringer aus?
Interessanterweise blieb die Verzerrung im juristischen Bereich deutlich schwächer als in früheren Untersuchungen anderer Berufsgruppen. Ein plausibler Grund liegt in der Standardisierung juristischer Lebensläufe. Kanzleiprofile folgen seit Jahren nahezu identischen Formulierungen: „Beratung eines internationalen Unternehmens beim Erwerb eines Zielunternehmens im Rahmen einer grenzüberschreitenden Transaktion.“
Für kreative sprachliche Ausschmückungen besteht kaum Raum. Anders als in Marketing-, Beratungs- oder Managementberufen existieren etablierte sprachliche Konventionen, die individuelle Wertungen begrenzen.
Gerade diese sprachliche Uniformität könnte unbeabsichtigt als Schutzmechanismus gegen stärkere algorithmische Verzerrungen wirken.
Bewerberinnen und Bewerber sollten KI-erstellte Lebensläufe und Anschreiben daher auf keinen Fall ungeprüft übernehmen. Auch Unternehmen sollten dieser Gender Bias bekannt sein, wenn sie KI bei der Auswertung von Bewerberdaten einsetzen. Denn im Wettbewerb um attraktive Positionen entscheiden nicht nur Fakten – sondern auch die Sprache, in der sie präsentiert werden. Und genau dort zeigt sich, dass selbst moderne KI nicht vollständig frei von den Vorurteilen ihrer Trainingsdaten ist.
Auch rechtlich problematisch
Aus juristischer Sicht wirft der Einsatz generativer KI im Bewerbungsprozess daher mehrere Fragen auf. Das deutsche Allgemeine Gleichbehandlungsgesetz (AGG) verbietet Benachteiligungen aufgrund des Geschlechts auch im Einstellungsverfahren. Gleiches gilt auf europäischer Ebene nach der Gleichbehandlungsrichtlinie sowie künftig im Zusammenspiel mit der europäischen KI-Verordnung (AI Act), die den Einsatz von KI in Beschäftigung und Personalgewinnung als Hochrisikobereich einordnet.
Problematisch wird es insbesondere dann, wenn Arbeitgeber KI-generierte Bewerbungsunterlagen oder KI-gestützte Vorauswahlverfahren ungeprüft übernehmen. Entstehen dadurch mittelbare Benachteiligungen bestimmter Gruppen, können sowohl haftungsrechtliche als auch arbeitsrechtliche Konsequenzen drohen.
Auch datenschutzrechtlich bleibt Vorsicht geboten. Werden personenbezogene Daten in externe KI-Systeme eingegeben, sind regelmäßig die Vorgaben der Datenschutz-Grundverordnung (DSGVO) zu beachten. Kanzleien und Unternehmen müssen insbesondere sicherstellen, dass keine vertraulichen Informationen unzulässig verarbeitet werden.
