Isaac Asimov und seine „Robotergesetze“

Der Schriftsteller Isaac Asimov hat bereits 1942 sogenannte “Robotergesetze” formuliert. Was diese mit Jura zu tun haben und wie Science Fiction auch in der rechtlichen Welt reale Züge annimmt, soll hier gezeigt werden.

Der russisch-amerikanischer Biochemiker Asimov ist neben Arthur C. Clarke und Robert A. Heinlein („Big Three“) einer der bekanntesten amerikanischen Science-Fiction-Schriftsteller seiner Zeit. Der 1920 geborene Sohn russischer Einwanderer studierte Chemie an der Columbia-Universität und veröffentlichte 1939 seine erste Kurzgeschichte. Sein Zyklus „Foundation“ ist seit 2021 als Serie beim Streamingdienst Apple TV+ zu sehen.

Zu seinen Werken gehören auch die sog. „Robotergeschichten“. Asimov interessierte sich früh für künstliche Intelligenzen und ließ diese immer wieder in seine Geschichten einfließen. In der Kurzgeschichte Robbie (1940) beschäftigte er sich erstmals gründlich mit Maschinen mit künstlichen Gehirnen. In der 1942 erschienenen Kurzgeschichte Runaround beschreibt Asimov sodann erstmals die drei sog. „Robotergesetze“, die bis heute von Science-Fiction Begeisterten zitiert werden.

Die drei Robotergesetze

Die Asimov’schen Gesetze lauten:

1. Ein Roboter darf kein menschliches Wesen (wissentlich) verletzen oder durch Untätigkeit (wissentlich) zulassen, dass einem menschlichen Wesen Schaden zugefügt wird.
2. Ein Roboter muss den ihm von einem Menschen gegebenen Befehlen gehorchen – es sei denn, ein solcher Befehl würde mit Regel eins kollidieren.
3. Ein Roboter muss seine Existenz beschützen, solange dieser Schutz nicht mit Regel eins oder zwei kollidiert.

In Asimovs-Geschichten werden Roboter so entworfen, dass sie gar nicht anders können, als diesen Gesetzen zu gehorchen. Sie sollen kein eigenes Bewusstsein und keinen freien Willen entwickeln können. Doch damit daraus eine Geschichte wird, muss natürlich irgendetwas schiefgehen und sich eine Konfliktlage ergeben. In Runaround soll der weitentwickelte Roboter „Speedy“ Selenium abbauen. Als er nicht zurückkehrt, folgen die Wissenschaftler ihm und entdecken, dass „Speedy“ in einer endlosen Schleife gefangen ist und dauerhaft im Kreis fährt. Der Grund: Ein Konflikt zwischen Regel 2 und Regel 3. Einerseits muss Speedy seinem Befehl, Selenium abzubauen gehorchen. Andererseits ist diese Tätigkeit so gefährlich, dass er dabei Schaden nehmen könnte. Am Ende können die Wissenschaftler den Konflikt nur so lösen, dass sich einer von ihnen in Lebensgefahr begibt, sodass „Speedy“ seinen Kreis verlassen muss, um den Mensch zu retten.

Gesetzeshirarchie muss geklärt sein

Für Jurist:innen ist die Geschichte in zweierlei Hinsicht interessant. Einerseits ist es einer der ersten bekannten Fälle, in dem fiktive Gesetze eine ganz zentrale Rolle in einem Science-Fiction-Werk spielen. Andererseits zeigt die Kurzgeschichte, wie wichtig es ist, dass Gesetze eindeutig, widerspruchsfrei und in sich logisch formuliert sind. Nicht nur jedes Gesetz muss „für sich“ funktionieren und ausführbar sein, vielmehr ist es erforderlich, dass Gesetze nicht im Widerspruch zu anderen Gesetzen stehen. In diesem Fall gibt es zwei Lösungen. Entweder wird normiert, dass eines der Gesetze in der Normenhirarchie vorrangig ist. Bei einem Gesetzeskonflikt muss dann diesem höherrangigen Gesetz gefolgt werden. Oder es muss eine weitere Regelung geschaffen werden, die besagt, wie im Falle eines Konfliktes zwischen gleichrangigen Normen vorzugehen ist.

Schließlich ist die Kurgeschichte aber auch unter dem Gesichtspunkt der zunehmenden Digitalisierung zu sehen. Zu Asimovs Zeiten konnte man sich Computersteuerungen, wie sie heute existieren noch überhaupt nicht vorstellen. Das Problem der Robotergesetze nimmt heute allerdings ganz reale Züge an. Beispielsweise beim autonomen Fahren. Wer haftet, wenn ein automatisch gesteuerter PKW einen Unfall hat? Der Hersteller des PKW, derjenige auf dem Fahrersitz oder überhaupt niemand? Und was passiert, wenn die Steuerung des PKW vor einem unüberwindbaren Hindernis steht? Lenkt es nach rechts, überfährt das Auto einen Kinderwagen mit Baby. Lenkt es nach links überfährt es eine alte Oma mit Rollator. Für diesen Fall trifft (zumindest heute noch) nicht das autonome Auto eine eigenständige Entscheidung, sondern es tut das, was man ihm zuvor einprogrammiert hat. Welche Regeln und Gesetze müssen die Programmierer:innen unseren PKW vorgeben?

Autonomes Fahren in Konfliktlagen

Mit Inkrafttreten der Verordnung zur Regelung des Betriebs von Kraftfahrzeugen mit automatisierter und autonomer Fahrfunktion und zur Änderung straßenverkehrsrechtlicher Vorschriften zum 1.7.2022 hat Deutschland erstmals einen umfassenden Rechtsrahmen für den Betrieb von Kraftfahrzeugen mit autonomer Fahrfunktion geschaffen.

Mit den sich daraus ergebenden rechtlichen Fragen beschäftigen sich inzwischen auch vermehrt Jurist:innen. So beispielsweise Sedlmaier/Krzic Bogataj in ihrem Aufsatz „Die Haftung beim (teil-)autonomen Fahren„ (NJW 2022, 2953 ff.). Oder auch Prof. Dr. Thomas Söbbing in „Rechtliche Grenzen für KI-Entscheidungen im Rahmen des autonomen Fahrens“ (RDi 2022, 239 ff.), in dem es um den neuen § 1 e II StVG geht. Dieser hat bereits eine gewisse Ähnlichkeit mit den Robotergesetzen:

(2) Kraftfahrzeuge mit autonomer Fahrfunktion müssen über eine technische Ausrüstung verfügen, die in der Lage ist,

1. die Fahraufgabe innerhalb des jeweiligen festgelegten Betriebsbereichs selbstständig zu bewältigen, ohne dass eine fahrzeugführende Person in die Steuerung eingreift oder die Fahrt des Kraftfahrzeugs permanent von der Technischen Aufsicht überwacht wird,
2. selbstständig den an die Fahrzeugführung gerichteten Verkehrsvorschriften zu entsprechen und die über ein System der Unfallvermeidung verfügt, das

a) auf Schadensvermeidung und Schadensreduzierung ausgelegt ist,
b) bei einer unvermeidbaren alternativen Schädigung unterschiedlicher Rechtsgüter die Bedeutung der Rechtsgüter berücksichtigt, wobei der Schutz menschlichen Lebens die höchste Priorität besitzt, und
c) für den Fall einer unvermeidbaren alternativen Gefährdung von Menschenleben keine weitere Gewichtung anhand persönlicher Merkmale vorsieht,

Science Fiction nimmt also in den kommenden Jahren nicht nur im technischen, sondern auch bei den sich daraus ergebenden rechtlichen Problemen ganz reale Züge an.