In Alabama wurde eine Anwaltskanzlei, die vom Staat Millionen erhält, um Klagen gegen das Gefängnissystem aus der Welt zu schaffen, beim Einsatz von ChatGPT erwischt.
Der Hintergrund: 2021 verklagte ein Mann den Staat Alabama, weil er während seiner Zeit in einem Gefängnis mehrmals von Mithäftlingen mit Messern attackiert worden war. In beiden Fällen hatten es die Justizvollzugsbeamten unterlassen, ihm zu helfen, wodurch er schwer verletzt wurde.
Der Staat Alabama hat vor, sich gegen die Klage zu verteidigen. Dafür wurde die Kanzlei Butler Snow beauftragt, die sich in den letzten Jahren auf Klagen gegen das Gefängnissystem spezialisiert hatte.
Richterin greift hart durch
Das Problem: Butler Snow verließ sich für die Klageerwiderung auf ChatGPT und zitierte Gerichtsentscheidungen, die überhaupt nicht existieren. Aufgefallen war das den Anwält:innen des Klägers. Deswegen droht der Kanzlei jetzt ein Bußgeld. Denn die zuständige Bezirksrichterin Anna Manasco hat es satt, sich in ihren Gerichtsverfahren mit den Halluzinationen von KI befassen zu müssen. Obwohl sich die Anwält:innen von Butler Snow mehrfach für den Fehler entschuldigten, zieht die Bezirksrichterin weitere, härtere Sanktionen in Erwägung. Butler Snow wurde eine Frist von zehn Tagen eingeräumt, um sich zu den Vorwürfen zu äußern.
Der Generalstaatsanwalt von Alabama kündigte an, die Zusammenarbeit mit Butler Snow zu überprüfen und hierfür auch alte Fälle der Kanzlei einer Revision zu unterziehen, um sicherzustellen, dass keine falschen Zitate verwendet wurden.
Weltweit wurden inzwischen über 100 Verfahren bekannt, in denen Anwält:innen sich auf KI verlassen haben, wobei Gerichtsentscheidungen frei erfunden und falsch zitiert wurden. So fiel ein US-Anwalt bereits 2023 auf fiktive Gerichtsentscheidungen in einem Flugfall herein, die ChatGPT fälschlicherweise als einschlägige Referenzen ausgeworfen hatte (JURios berichtet).
Fundstelle: https://www.theguardian.com/
