Staatsbürgerschaft für Maschinen: Die Illusion algorithmischer Rechte

Kann Künstliche Intelligenz jemals wählen oder für ihre eigenen Fehler vor Gericht gestellt werden? Hinter dem Medienrummel um die „Staatsbürgerschaft für Masch

Die Debatte über die „Staatsbürgerschaft für Maschinen" überlagert systematisch drei grundlegend verschiedene Rechtsfragen: die Feststellung, ob eine Künstliche Intelligenz eigene Interessen haben kann, die Bestimmung, ob sie für die von ihr verursachten Schäden haften muss, und die Entscheidung, ob sie am politischen Gemeinwesen teilnehmen kann. Keine Rechtsordnung der Welt erkennt Maschinen Bürgerrechte oder eine Gleichstellung mit Menschen zu. Der Kern der akademischen und legislativen Auseinandersetzung ist nicht die Vergabe eines Passes, sondern die eventuelle Schaffung einer begrenzten Rechtspersönlichkeit zur Regelung zivil- und vertragsrechtlicher Haftung.

Das Missverständnis der Rechtspersönlichkeit

In dem Aufsatz „Artificial Intelligence and the Limits of Legal Personality" klärt der Gelehrte Simon Chesterman ein grundlegendes Missverständnis auf: Im Recht ist die Rechtspersönlichkeit keine Auszeichnung, die für Intelligenz oder Empfindungsfähigkeit verliehen wird [2252]. Sie ist ein instrumentelles Bündel von Rechten und Pflichten. Chesterman trennt die instrumentelle Frage (Wer zahlt für Schäden, wenn ein Algorithmus einen Fehler macht?) von der moralischen Frage (Verdient die KI an sich Schutz?), und warnt davor, dass die Anerkennung einer „elektronischen Person" Herstellern und Nutzern einen perfekten Schutzschild bieten könnte, um sich ihrer rechtlichen Verantwortung zu entziehen.

Eine Analyse des Oxford Journal of Legal Studies bekräftigt dieses Konzept durch den Vergleich der KI mit dem Fluss Whanganui in Neuseeland, dem aus Gründen des Umweltschutzes eine innovative Rechtspersönlichkeit zuerkannt wurde [2290]. Die Anerkennung einer nicht-menschlichen Entität als juristische Person verleiht ihr nicht automatisch das Wahlrecht, die persönliche Freiheit oder die Menschenwürde; sie dient einzig dazu, sie mit einer rechtlichen Vertretung auszustatten, um spezifische, vom Gesetzgeber festgelegte Rechte zu schützen und Pflichten aufzuerlegen.

Aufstieg und Niedergang der europäischen „elektronischen Person"

Die Illusion einer robotischen Staatsbürgerschaft hatte in einer historischen Entschließung des Europäischen Parlaments vom 16. Februar 2017 [2269, 2270] eine mediale Stütze gefunden. Der Text forderte die Kommission auf, langfristig einen spezifischen Rechtsstatus für die autonomsten Roboter zu prüfen und dabei die Existenz einer „elektronischen Person" zu theoretisieren, die in der Lage sei, die durch ihre eigenen Handlungen verursachten Schäden selbstständig zu ersetzen.

Diese legislative Anregung wurde rasch zu den Akten gelegt. Wie durch die nachfolgende Rechtsprechung dokumentiert [2290], haben die europäischen Institutionen die Idee im Jahr 2020 aufgegeben und festgestellt, dass es weder notwendig noch wünschenswert ist, KI-Systemen Rechtspersönlichkeit zuzuerkennen, und dass die Verantwortung stets zwischen den natürlichen und juristischen Personen verteilt werden muss, die sie bauen und nutzen. Das aktuelle Paradigma, kristallisiert in Artikel 26 des AI Act, verleiht der Maschine keinerlei Rechte, sondern erlegt denen, die sie bereitstellen, und denen, die sie einsetzen (Deployer), eiserne Pflichten auf [2274]. Der Mensch muss die fachkundige Aufsicht gewährleisten, die Systemprotokolle aufbewahren und den Betrieb bei aufkommendem Risiko aussetzen.

Hybride Modelle und die ethische rote Linie

Statt science-Fiction-artiger Staatsbürgerschaften erforscht die Rechtswissenschaft heute pragmatische Zwischenlösungen. Eine in Technology and Regulation veröffentlichte Studie („Beyond Personhood") theoretisiert ein hybrides Modell für Hochrisikosysteme: eine begrenzte und rein kontextuelle rechtliche Anerkennung, die versicherungs- oder vertragsrechtliche Fragen erleichtert, jedoch die letztendliche Verantwortung beim menschlichen Betreiber unangetastet lässt [2256].

Die endgültige rote Linie zieht die UNESCO. Mit der „Recommendation on the Ethics of Artificial Intelligence" von 2021 hat das Völkerrecht festgelegt, dass KI einzig und allein entwickelt werden darf, um die Menschenwürde und die Menschenrechte zu achten und zu fördern, mit Fairness und Transparenz über den gesamten Lebenszyklus des Systems hinweg [2262, 2263]. Die Technologie bleibt das Instrument des Schutzes, nicht das geschützte Subjekt.

Um Klarheit zu schaffen, ist es unerlässlich, die Rechtsstatute und ihre tatsächlichen Implikationen zu trennen:

Status	Was er impliziert	Aktuelles Beispiel
Instrument	Die KI ist ein Produkt oder eine Dienstleistung, die von juristischen und natürlichen Personen kontrolliert wird.	Die nahezu Gesamtheit der aktuellen KI-Systeme.
Begrenzter rechtlicher Akteur	Kann in spezifischen Kontexten handeln, aber die letztendliche Verantwortung bleibt strikt menschlich.	Akademische Vorschläge für hybride Governance [2256].
Juristische Person	Hat Rechte, Pflichten und Vermögen, die vom Gesetz streng zugewiesen und abgegrenzt werden.	Handelsgesellschaften, der Fluss Whanganui, der verworfene Vorschlag der „elektronischen Person" [2290].
Staatsbürger	Nimmt aktiv am politischen Gemeinwesen mit vollen bürgerlichen und politischen Rechten sowie Pflichten teil.	Keine KI wird in irgendeiner Rechtsordnung als Staatsbürgerin anerkannt.

Sollte eines Tages eine Künstliche Allgemeine Intelligenz (AGI) ein solches Selbstbewusstsein erlangen, dass sie eigene Rechte einfordert, würde sich die Debatte nicht in der bloßen moralischen Validierung ihrer Forderung erschöpfen („Verdient sie es, sie zu haben?"). Die obersten Gerichte müssten Fragen der Macht und der praktischen Verantwortung beantworten: Wer hätte die materielle Autorität, solche Rechte zu gewähren, welche strengen gesellschaftlichen Pflichten müsste die Maschine im Gegenzug akzeptieren und, vor allem, wer würde für Schäden haften, wenn diese Anerkennung von Technologiekonzernen instrumentalisiert würde, um ihre eigenen Handlungen der Beurteilung durch menschliches Recht zu entziehen [2252, 2290].

Bibliografische Referenzen und Quellen

Artikel der Redaktion von La Bussola dell'IA