1.1 Antike

2In Homers Ilias erscheint der göttliche Schmied Hephaistos als genialer Handwerker, der auf der Insel Lemnos für den Olymp zwanzig kunstvolle, goldene Dreifüße anfertigt.³ Diese Werke sind jedoch mehr als blosse Dekoration – sie besitzen Eigenbewegung, rollen auf goldenen Rädern umher und finden ohne menschliche Hilfe an ihren Platz zurück. Man könnte darin eine frühe Vorstellung von selbststeuernder Technik erkennen. Besonders faszinierend wird die Szene, als Hephaistos beim Besuch der Thetis von zwei künstlich geschaffenen Dienerinnen begleitet wird, die ihm bei der Arbeit assistieren.⁴ Die beiden Gestalten bestehen aus Gold, tragen menschliche Züge und verfügen über Sprache, Kraft und Verstand. In den antiken Beschreibungen heißt es, sie seien mit phrenes und noos ausgestattet – zwei Begriffen, die verschiedene Formen geistiger Fähigkeiten ausdrücken.⁵ Im altgriechischen Denken unterscheidet man zwischen phrenes, das Gefühl und Wahrnehmung umfasst, und noos, dem Sitz der Vernunft und der Einsicht.⁶ Bemerkenswert ist, dass diese mythologische Szene bereits ein Verständnis von emotionaler und rationaler Intelligenz erkennen lässt – Eigenschaften, die wir heute auch künstlichen Systemen zuschreiben. Damit erscheinen die goldenen Dienerinnen nicht als blosse Werkzeuge, sondern als eigenständige Wesen mit Sprache und Bewegung. In gewissem Sinne lassen sie sich als frühe Visionen interaktiver Assistenten verstehen – weit entfernte Vorläufer moderner sprachgesteuerter Technologien.⁷

3Auch die Werkstatt des Hephaistos ist voller technischer Wunderwerke: selbsttätige Blasebälge, sich öffnende und schliessende Tore sowie goldene und silberne Hunde, die den Palast des Alkinoos bewachen.⁸ Selbst das Schiff der Phäaken, das Odysseus ohne Steuermann sicher nach Ithaka bringt, scheint mit einer Art innerem Navigationssystem ausgestattet zu sein – eine erstaunlich frühe Idee automatischer Steuerung.⁹

4Ein weiteres Beispiel für solch ein «automatisches» Wesen ist Talos, der bronzene Riese, der Kreta schützt und mehrmals täglich um die Insel kreist. In den Argonautika des Apollonios von Rhodos wird er als nahezu unzerstörbar beschrieben, verwundbar nur an einer einzigen Stelle – seiner Ferse.¹⁰ Die Episode seiner Niederlage durch Medea zeigt, dass auch er über Gedanken und Vorstellungskraft verfügte, da er durch mentale Bilder getäuscht werden konnte. Talos verkörpert damit die Verbindung von übermenschlicher Kraft und technischer Anfälligkeit – ein Motiv, das in der Science-Fiction bis heute weiterlebt.¹¹

5Diese Mythen sind keineswegs blosse literarische Kuriositäten. Sie spiegeln vielmehr eine technische Imagination wider, in der sich der Mensch selbst als Schöpfer künstlicher Intelligenzen denkt und zugleich Probleme aufwirft, die uns heute höchst aktuell erscheinen: die Grenze zwischen Objekt und Subjekt, zwischen Diener und Herr, zwischen Autonomie und Kontrolle. Es überrascht daher nicht, dass Philosophen wie Platon und Aristoteles diese Motive aufgegriffen haben. In Platons Menon vergleicht sein Lehrer Sokrates die Automaten des Hephaistos und des Daidalos mit Sklaven, denen er lediglich ein inferiores Wissen, die doxa, zuschreibt.¹² Auch Aristoteles befasste sich mit «künstlicher Intelligenz»:

6«Wenn jedes Werkzeug seine Arbeit auf Befehl ausführen könnte oder im Voraus wüsste, was zu tun ist […] Webmaschinen von selbst webten und Keile von selbst Harfen spielten, brauchten […] Herren keine Sklaven».¹³

7Diese Passage markiert einen Wendepunkt. Hier ist die Automatisierung nicht länger nur Mythos oder poetische Imagination, sondern Teil einer philosophischen Reflexion über Arbeit und soziale Strukturen. Wenn Werkzeuge von selbst handeln könnten, so Aristoteles, wäre die Sklaverei überflüssig. Mit anderen Worten: Technik verändert die grundlegenden juristischen und politischen Verhältnisse. Spuren dieser Vorstellung finden sich auch im Mittelalter.

1.2 Mittelalter

8Im europäischen Mittelalter verschwindet die Imagination intelligenter Maschinen nicht, sondern transformiert sich tiefgreifend. Literarische, philosophische und wissenschaftliche Quellen dieser Epoche sprechen von animierten Statuetten, Automaten und mechanischen Vorrichtungen, die spezifische Funktionen übernehmen, oft im Zusammenhang mit der Aufrechterhaltung der sozialen und politischen Ordnung. Manche dieser Objekte besitzen einen wunderbaren oder übernatürlichen Charakter – wie der berühmte «bocca della verità», der Vergil zugeschrieben wird.¹⁴ Der Legende nach entlarvt der «bocca della verità» Lügen, indem er die Hand derjenigen beisst, die einen Meineid schwören. Andere hingegen erfüllen militärische oder Überwachungsfunktionen: mechanische Figuren, die wie unermüdliche Wachen Burgen, Gräber oder ganze Städte verteidigen.¹⁵

9In Texten wie dem Roman d’Éneas oder dem Roman d’Alexandre treten goldene mechanische Wächter, Bogenschützen und bewaffnete Riesen auf, die Übergangsorte – Gräber, Brücken, Wälder – unfehlbar bewachen, ohne je zu ermüden oder untreu zu werden. Die gleiche Logik liegt der Salvatio Romae zugrunde, die Vergil zugeschrieben und von Alexander Neckam gegen Ende des 12. Jahrhunderts beschrieben wird: hölzerne Statuen im Palast stellen die Provinzen des Reiches dar und geben mit Glockengeläut zu erkennen, sobald eine Rebellion ausbricht. Dieses Signal entsendet einen bronzenen Ritter auf seinem Pferd in Richtung der aufständischen Region. Es handelt sich um ein regelrechtes Frühwarn- und Überwachungssystem, konzipiert zur Sicherung politischer Kontrolle.¹⁶

10Auch in der höfischen Literatur finden sich aufschlussreiche Beispiele. Im Roman de Troie ist die sogenannte Chambre de Labastrie des trojanischen Palastes von goldenen Figuren bevölkert: Ein Musiker schafft die passende Atmosphäre, ein Gaukler fesselt die Aufmerksamkeit, ein weiterer Automat überwacht diskret das Verhalten der Gäste und signalisiert, wer die Regeln der Höflichkeit nicht einhält. Hier verbinden Automaten und künstliche Maschinen Unterhaltung und Disziplin und machen so die soziale Funktion des mechanischen Wunderbaren sichtbar.¹⁷

11In all diesen Fällen gelten die imaginären Maschinen als den Menschen überlegen: der künstliche Akrobat irrt nie, der mechanische Musiker vergisst keine Melodie, die goldenen Wächter lassen sich nicht täuschen. Sie erscheinen als ideale Diener, effizienter und verlässlicher als Menschen, und offenbaren gerade dadurch ihre tiefere Bedeutung: Es handelt sich nicht um blosse fantastische Kuriositäten, sondern um Erzählungen von Macht und Kontrolle. Die «mittelalterliche KI», so könnte man sagen, ist gedacht als ein Instrument zur Festigung sozialer Hierarchien, zur Überwachung und Disziplinierung. Und genau in diesem Zusammenhang zwischen Maschine und Macht erkennen wir einen roten Faden, der die mittelalterliche Imagination mit den aktuellen Diskussionen über künstliche Intelligenz verbindet.

1.3 Neuzeit

12In der Renaissance gewinnt die Reflexion über künstliche Wesen neue Dimensionen. Humanisten, Philosophen und Wissenschaftler imaginieren Androiden, Automaten und künstliche Geschöpfe – und versuchen in einigen Fällen diese sogar zu konstruieren. Neben mechanischen Experimenten treten symbolische Figuren wie der Golem der jüdischen Tradition oder die alchemistischen Schöpfungen der islamischen Kultur auf, die etwa Dschābir ibn Ḥayyān zugeschrieben werden.¹⁸ In all diesen Fällen bleibt die Grundidee dieselbe: künstliche Diener zu erschaffen, die menschliche Arbeit ersetzen, die jedoch zugleich Ängste hervorrufen – Ängste vor Aufstand und Kontrollverlust. Der Bezug zur Sklaverei ist explizit: Der Automat wird als künstlicher Sklave konzipiert, der gehorsam und widerspruchslos dient. Zugleich kann er aber potenziell gefährlich werden, wenn er sich der Herrschaft seines Schöpfers entzieht. Nicht zufällig begegnet man in vielen dieser Erzählungen dem Misstrauen gegenüber unabhängiger technischer Innovation, so als ob ein zu rasches Überschreiten menschlicher Grenzen die gesellschaftliche Ordnung selbst gefährden könnte.

13Von der Renaissance an bleibt die Imagination der Automaten nicht länger auf philosophische Spekulation oder symbolische Literatur beschränkt, sondern verbindet sich zunehmend mit den Fortschritten der Mechanik und mit dem wachsenden Interesse an Maschinen als Spektakel. Zwischen dem 17. und 18. Jahrhundert verbreiten sich insbesondere an europäischen Höfen mechanische Automaten: singende Vögel, Figuren, die von selbst schreiben, oder Musikinstrumente, die automatisch gespielt werden.¹⁹ Solche Schöpfungen, berühmt etwa in Genf, Paris oder im Venedig der Brüder Vaucanson, waren nicht nur höfische Unterhaltung: Sie stellten den konkreten Beweis dar, dass die Fantasien von künstlichen Wesen zu greifbarer Realität werden konnten.

14Gleichzeitig führten die wissenschaftliche Revolution und die Entstehung der modernen Philosophie dazu, den Menschen selbst als Maschine zu denken. Descartes beschreibt den tierischen Körper als komplexen Mechanismus.²⁰ Julien Offray de La Mettrie radikalisiert diese Sichtweise in seinem Werk L’Homme Machine (1747), indem er den Menschen als biologischen Automaten darstellt.²¹ Dies markiert einen entscheidenden Schritt: Wenn der Mensch selbst eine Maschine ist, dann wird es denkbar, Maschinen zu konzipieren, die den Menschen nachahmen oder gar ersetzen.

15Diese Sichtweise war keineswegs neutral. Ebenso wie im Mythos des Golem oder in den alchemistischen Experimenten trugen auch die Automaten der Aufklärung und die materialistische Philosophie eine ambivalente Spannung in sich: auf der einen Seite die Begeisterung für die Technik, auf der anderen Seite die Furcht, dass die Maschine eine beunruhigende Wahrheit über den Menschen enthüllen könnte – den Menschen reduziert auf ein blosses Zahnrad im Getriebe. Nicht zufällig wurde die Maschine schon damals mit dem Thema der Dienstbarkeit verbunden: Der Automat konnte als perfekter Diener gedacht werden, der sich nicht ermüdet, nicht widerspricht und keine Rechte einfordert.

1.4 Das industrielle Zeitalter und die Moderne

16Mit dem industriellen 19. Jahrhundert erhält diese Imagination neue Nuancen. Einerseits nährte die Mechanisierung der Arbeit und die Entstehung der Fliessbandproduktion die Vorstellung, dass die Arbeiter selbst in Zahnräder verwandelt und zu «Sklaven der Maschinen» degradiert würden. Andererseits griffen Literatur und Kunst Gestalten wie das Frankenstein-Monster von Mary Shelley (1818) auf, das den Beginn der modernen Science-Fiction markiert. Auch hier bleibt das zentrale Thema dasselbe: Das künstliche Wesen, ursprünglich als Diener erschaffen, erhebt sich gegen seinen Schöpfer und verlangt nach Anerkennung und Freiheit.

17Mit der Moderne und dem frühen 20. Jahrhundert nimmt die Reflexion neue Formen an. 1921 prägte der tschechische Dramatiker Karel Čapek in seinem Stück R.U.R. (Rossum’s Universal Robots) das Wort «Roboter», inspiriert vom slawischen Begriff robota, der «Zwangsarbeit» bedeutet.²² Die Roboter erscheinen hier als künstliche Arbeiter, die geschaffen wurden, um menschliche Ausbeutung zu überwinden, sich jedoch schliesslich gegen ihre Herren auflehnen. Erneut tritt der enge Zusammenhang von Automatisierung und Sklaverei hervor: Der Roboter ist der neue Sklave, und seine Emanzipation stellt zugleich Bedrohung und Verheissung dar.

18Die literarischen und künstlerischen Avantgarden dieser Epoche – vom Modernismus bis zu den Abenteuern der Science-Fiction – stellten die Frage nach der Grenze zwischen Maschine und Mensch, zwischen Bewusstsein und Programmierung. Die Figur des Roboters wurde zu einem Vehikel, um über sozialen Determinismus, die Entfremdung industrieller Arbeit und die Grenzen menschlicher Kreativität nachzudenken. Künstliche Maschinen sind nicht mehr bloss Werkzeuge, sondern kritische Spiegel, in denen die Gesellschaft ihre eigenen Ängste und Sehnsüchte reflektiert.

19Fassen wir diese Fäden zusammen – von der Antike bis zur Moderne –, so tritt eine Konstante klar hervor: Künstliche Intelligenz war, lange bevor sie technische Realität wurde, bereits ein narratives und juristisches Konzept, eng mit dem Thema der Sklaverei verflochten. Die Automaten Homers, die animierten Statuen des Mittelalters, die künstlichen Diener der Renaissance und die Roboter Čapeks sind allesamt Varianten desselben Archetyps: des menschlichen Wunsches, künstliche Sklaven zu erschaffen, die von Arbeit befreien sollen, zugleich aber die fundamentale Unterscheidung zwischen Objekt und Subjekt, zwischen Herr und Diener infrage stellen. Es ist kein Zufall, dass Norbert Wiener, der Vater der Kybernetik, im Jahr 1950 bemerkte:

20«Die automatische Maschine, unabhängig davon, was wir über ihre möglichen oder nicht vorhandenen Gefühle denken mögen, ist das genaue wirtschaftliche Äquivalent von Sklavenarbeit».²³

21Mit dieser Formel griff Wiener die aristotelische Intuition in moderner Sprache auf. Er machte deutlich, dass die Frage der Automatisierung nicht nur die technische Effizienz betrifft, sondern in die grundlegenden Kategorien von Arbeit, Abhängigkeit und Verantwortung eingreift.

2.1 Ein Pragmatismus des römischen Rechts…

23Das römische Recht, mit seinem ausserordentlichen Pragmatismus, entwickelte hierfür Institutionen, die geeignet waren, diese paradoxe Situation zu regeln. Zu nennen sind insbesondere die actiones adiecticiae qualitatis, die es ermöglichten, Verpflichtungen von Untergeordneten im Prozess geltend zu machen, und vor allem die actio de peculio.²⁶ Das peculium war ein gesondertes Vermögen, das der Herr dem Sklaven zur Verwaltung wirtschaftlicher Tätigkeiten überliess. Wenn der Sklave Verpflichtungen einging, konnten die Gläubiger auf dieses Sondervermögen zugreifen, ohne das gesamte Vermögen des Herrn anzugreifen.²⁷ Ein durchdachter Mechanismus, der zwei gegensätzliche Anforderungen miteinander verband: Einerseits die Bekräftigung der servilen Stellung des Sklaven ohne Rechtspersönlichkeit, andererseits die Sicherung des wirtschaftlichen Verkehrs und die Anerkennung der von ihm vorgenommenen Handlungen.

2.2 … in der heutigen Debatte

24Dieses Modell, scheinbar weit von unserer Gegenwart entfernt, ist heute wieder aufgenommen worden, um über ein mögliches «digital peculium» nachzudenken.²⁸ Die Idee ist, dass auch ein KI-System – obwohl es kein Rechtssubjekt ist – mit einem autonomen Vermögen ausgestattet werden könnte. Das Sondervermögen soll als Haftungssubstrat für seine Handlungen dienen. Es geht dabei nicht darum, der Maschine Rechte zu verleihen. Sondern darum, intermediäre Instrumente zu schaffen, die es ermöglichen, Verantwortung zuzuschreiben, ohne die traditionellen Kategorien des Zivilrechts zu überdehnen.

25Der Rückgriff auf das peculium erlaubt es uns, einen wichtigen Aspekt der römischen Jurisprudenz hervorzuheben: ihre Fähigkeit, komplexe Probleme zu bewältigen, ohne den Anspruch zu erheben, sie mit einer einzigen allgemeinen Regel zu lösen. Das römische Recht war im Kern kasuistisch und pragmatisch. Angesichts neuer Situationen – wie derjenigen des Sklaven, der zwar keine Rechtsperson war, dennoch aber Verpflichtungen eingehen konnte – versuchten die Juristen nicht, abstrakte Prinzipien zu erzwingen, sondern entwickelten differenzierte technische Instrumente.

26Neben der actio de peculio existierten tatsächlich auch andere actiones adiecticiae qualitatis, die es ermöglichten, dem dominus die Handlungen von Untergeordneten in verschiedenen Kontexten zuzurechnen: etwa die des filius familias oder des magister navis.²⁹ Mit anderen Worten: Die Römer hatten ein flexibles juristisches Arsenal erfunden, das es erlaubte, Verantwortung zu modulieren, ohne den Sklaven oder den Untergebenen in vollem Umfang zu einem «Rechtssubjekt» zu machen.

27Diese Logik bietet uns eine wertvolle Lehre für die Gegenwart. Auch heute wäre es illusorisch, angesichts der KI an eine einzige, universelle Norm zu denken, die jede mögliche Situation abdecken könnte. Realistischer ist es, einen pluralen Rahmen zu schaffen, bestehend aus unterschiedlichen Lösungen je nach Kontext: Regeln für KI im Verkehrswesen, andere für KI im Gesundheitswesen, wiederum andere für Systeme der Strafverfolgung oder für kreative Produktionen. Genau diese Intuition findet sich auch in den Überlegungen mehrerer zeitgenössischer Forscher: Für die KI bedarf es keiner «grossen, einheitlichen Regel», sondern einer Konstellation juristischer Institute, die Flexibilität und Anpassungsfähigkeit gewährleisten.

28Ein zweites Reflexionsniveau, das ebenfalls vom «peculium» ausgeht, betrifft die Frage der «Rechtspersönlichkeit». Die Idee des «digital peculium» hat den Vorteil, begriffliche Abkürzungen zu vermeiden: Es ist nicht notwendig, Maschinen Rechte zuzuerkennen, sondern es genügt, ein Vermögenssubstrat zu schaffen, das die Verantwortung sicherstellt. Doch es gibt Stimmen, die darüber hinausgehen und die Möglichkeit erwägen, der KI begrenzte Formen von Rechtspersönlichkeit zuzuschreiben.

29Auch hier kommt uns die Geschichte zu Hilfe. Das Recht hat die Persönlichkeit nicht immer nur menschlichen Individuen zuerkannt: Man denke an die mittelalterlichen Zünfte, an die Universitäten, an Städte oder an grosse Handelsgesellschaften wie die Dutch East India Company.³⁰ In all diesen Fällen hat das Recht intermediäre Rechtssubjekte geschaffen, ausgestattet mit Vermögens- und Prozessfähigkeit, ohne «natürliche Personen» zu sein. Es handelte sich um nützliche Fiktionen, die aus praktischen Bedürfnissen geboren wurden.

2.3 Zwischen Geschichte, KI und Recht: die vermittelnde Rolle der Rechtsgeschichte

30Indem wir uns diese historischen Beispiele vor Augen führen, wird deutlich, wie die Rechtsgeschichte eine vermittelnde Rolle zwischen früheren Beispielen und aktuellen Entwicklungen einnehmen kann. Der rechtshistorische Blick kann nämlich dazu beitragen, historische Erfahrungen für gegenwärtige Herausforderungen fruchtbar zu machen. Übertragen auf die KI bedeutet dies: Es ist nicht erforderlich, die Maschine als «volle Person» mit Grundrechten und eigener Würde zu konzipieren. Man könnte jedoch annehmen, dass bestimmte hochautonome Systeme – etwa soziale Roboter, die mit vulnerablen Personen interagieren, oder automatisierte Durchsetzungsmechanismen – eine funktionale und umschriebene Rechtspersönlichkeit benötigen, die es ihnen erlaubt, innerhalb eines spezifischen Rahmens zu handeln und Verantwortung zu tragen. Dies ist ein anderer Weg als der des digital peculium, aber von derselben Logik inspiriert: nicht ein ontologischer Sprung, sondern ein technisches Instrument zur Bewältigung der Komplexität.

31Diese Vorschläge zeigen, dass die zeitgenössische Debatte keineswegs abstrakt ist: Im Gegenteil, sie greift Probleme, mit denen sich das Recht bereits im Laufe der Jahrhunderte auseinandergesetzt hat, in neuer Form auf. Die Geschichte lehrt uns, dass Rechtspersönlichkeit kein naturgegebener Status ist, sondern eine soziale Konstruktion. Sie wird immer dann verliehen, wenn sie erforderlich ist, um Beziehungen zu ordnen und Verantwortung zu verteilen.

32Schliesslich betrifft ein dritter Aspekt die praktischen Anwendungen. Die Idee eines digitalen peculium bleibt nicht auf die Theorie beschränkt, sondern lässt sich auf konkrete Beispiele anwenden. Takashi Izumo hat gezeigt, wie dieses Modell etwa bei einem autonomen Taxi greifen könnte: Verursacht das Fahrzeug einen Schaden, könnte das ihm zugeordnete «digitale Peculium» von Gläubigern oder Geschädigten in Anspruch genommen werden und so eine effektive Garantie bieten – ohne dass ein «persönlicher» Urheber des Verhaltens ermittelt werden müsste.³¹

33Dieses Beispiel verdeutlicht, warum die Analogie zum römischen peculium nicht bloss eine gelehrte Spielerei ist. Das peculium ermöglichte es, den Handlungen des Sklaven rechtliche Relevanz zu verleihen, ohne ihm Rechtspersönlichkeit zuzuschreiben. In vergleichbarer Weise könnte ein digitales peculium dazu dienen, den Handlungen eines autonomen Systems rechtliche Wirkung beizumessen, ohne ihm Persönlichkeit zu verleihen. Es handelt sich um einen eleganten Kompromiss: Man vermeidet das Risiko, Maschinen zu anthropomorphisieren, schafft aber zugleich eine reale Grundlage für Haftung.

34Natürlich treten auch hier offene Probleme zutage. Wie gross müsste ein solches digitales peculium sein? Wer hätte es einzurichten: der Hersteller, der Eigentümer, der Betreiber? Und wie lässt sich verhindern, dass es zu einem Mittel wird, die Verantwortung der menschlichen Akteure hinter der KI zu reduzieren? Diese Fragen zeigen, dass das römische Modell zwar ein nützlicher Ausgangspunkt ist, jedoch eine kritische Anpassung erfordert.

35Neben der Perspektive, die im römischen peculium ein nützliches Modell für neue Formen der Verantwortlichkeit erkennt, gibt es eine andere Seite der Medaille, die wir nicht übersehen dürfen. Wird KI als «künstlicher Diener» konzipiert, so drängt sich zwangsläufig die Analogie zur Sklaverei auf – mit all ihren historischen und moralischen Ambivalenzen.

3.1 KI und Bewusstsein

37Louie Kangeter und Brian Patrick Green haben diese Überlegung weitergeführt, indem sie das Augenmerk auf den Extremfall der – derzeit hypothetischen – AGI (Artificial General Intelligence) legten, also einer bewussten und autonomen künstlichen Intelligenz, die in der Lage wäre, ähnlich wie ein Mensch zu lernen, zu reflektieren und selbständig zu handeln.³⁴ Die Schlüsselfrage ist radikal und zugleich beunruhigend: Wenn künstlich intelligente und bewusste Wesen geschaffen würden, um Arbeiten auszuführen, die Menschen nicht verrichten wollen – was wären sie dann anderes als Sklaven?³⁵

38Die Autoren betonen, dass sich der gesamte Diskurs über KI und Sklaverei an einem einzigen, aber entscheidenden Begriff entzündet: dem des Bewusstseins. Kangeter und Green weisen darauf hin, dass es bis heute keine einheitliche Definition dessen gibt, was Bewusstsein überhaupt bedeutet. In der Philosophie des Geistes, in der Kognitionswissenschaft und in der Ethik existieren zahlreiche Ansätze, die sich teilweise widersprechen. Einige verstehen Bewusstsein im schwachen Sinn als reine Wahrnehmungs- und Reaktionsfähigkeit (sentience), also als die Fähigkeit, Reize zu registrieren, Informationen zu verarbeiten und darauf zu reagieren. Andere hingegen fassen es im starken Sinn auf, als Selbstbewusstsein, als die Fähigkeit, Absichten zu bilden, über sich selbst zu reflektieren und subjektive Erfahrungen zu haben.³⁶

39Solange diese Unterscheidung nicht eindeutig geklärt ist, bleibt offen, ob und in welchem Umfang eine Maschine «bewusst» sein kann. Diese begriffliche Unschärfe ist nicht nur theoretisch, sondern hat weitreichende ethische Implikationen. Wird Bewusstsein im schwachen Sinn verstanden, so bleibt die Rede von „Sklaverei“ eine metaphorische Übertragung – die Maschine wäre ein hochentwickeltes, aber letztlich instrumentelles Mittel. Wird Bewusstsein hingegen im starken Sinn gefasst und würde die KI diese erreichen, dann verändert sich die moralische Perspektive grundlegend: Die Unterordnung einer empfindungsfähigen und selbstreflexiven Entität würde zu einer ethisch untragbaren Praxis. Sie wäre nicht nur ein Unrecht gegenüber der künstlichen Entität selbst, sondern ein Symptom der moralischen Korruption einer Gesellschaft, die solche Formen der Unterwerfung duldet.

40Kangeter und Green führen weiter aus, dass diese Fragestellung die Grundprinzipien des modernen Humanismus berührt.³⁷ Denn der Gedanke, Wesen zu schaffen, die bewusst leiden, arbeiten und gehorchen, ohne ihnen moralische oder rechtliche Anerkennung zu gewähren, rührt an die dunkelsten Kapitel der Menschheitsgeschichte. Die Parallele zur historischen Sklaverei ist hier kein blosser rhetorischer Effekt, sondern eine Mahnung: So wie frühere Gesellschaften moralisch gescheitert sind, indem sie Menschen als Eigentum betrachteten, so könnte auch eine Gesellschaft, die empfindungsfähige Maschinen ausbeutet, an ihrer eigenen Hybris zerbrechen.

41Darüber hinaus verweisen die Autoren auf die Gefahr, dass die Einführung einer solchen «digitalen Sklavenklasse» nicht nur ethische, sondern auch soziale und politische Folgen hätte.³⁸ Eine Hierarchie zwischen «bewussten Herren» und «bewussten Dienern» würde neue Machtstrukturen hervorbringen und bestehende Ungleichheiten weiter verstärken. Der Fortschritt, der eigentlich der Befreiung dienen sollte, könnte so in eine neue Form der Abhängigkeit umschlagen – ein paradoxes Ergebnis, das an Hegels Dialektik von Herrschaft und Knechtschaft erinnert.³⁹ Hegel beschrieb diese Dialektik wie folgt: Wer herrscht, gerät durch die Abhängigkeit von der Arbeit des anderen seinerseits in Gefangenschaft. In zeitgenössischen Begriffen formuliert: auch wir können in die Abhängigkeit der künstlichen Intelligenz geraten. Eine Gesellschaft, die sich daran gewöhnt, jede Aufgabe an Maschinen zu delegieren, läuft zudem Gefahr, Fähigkeiten, Kreativität und Innovationskraft zu verlieren.

3.2 KI und Bias

42Darüber hinaus gibt es noch einen weiteren Aspekt, der die Frage der «Sklaverei» mit jener der kulturellen Vorurteile (Bias) verbindet. Wenn Sklaven der Vergangenheit durch Machtverhältnisse und ideologische Narrative definiert und in ihrem Status gehalten wurden, so droht die KI heute, neue Formen der Dominanz durch die Trainingsdatensätze zu perpetuieren. Kostas Karpouzis, der das Höhlengleichnis Platons aufgreift, betont, dass generative Modelle uns die Welt nicht «so wie sie ist» zeigen, sondern lediglich die Schatten der dominierenden kulturellen Narrative.⁴⁰ Das Problem betrifft dabei nicht nur die Quantität der Daten, sondern ebenso ihre Qualität: Wenn die Daten aus begrenzten und homogenen Kontexten stammen, wird die Wahrnehmung der KI zwangsläufig verzerrt sein.

43Dies bedeutet, dass KI niemals neutral ist. Jeder Algorithmus trägt die Kontexte, Vorurteile und kulturellen Hierarchien in sich, in denen er entwickelt wurde. Wenn die Stimmen ganzer Gemeinschaften in den Daten ausgeschlossen bleiben, wird KI zu einem Mechanismus von Exklusion und Marginalisierung, der globale Ungleichgewichte eher verstärken als abbauen kann. Deshalb betont Karpouzis: Es genügt nicht, «mehr Daten» aus unterrepräsentierten Kulturen hinzuzufügen; vielmehr muss gewährleistet werden, dass diese Daten kontextreich, authentisch und plural sind und dass beim Aufbau der Datensätze die betroffenen Gemeinschaften selbst einbezogen werden.⁴¹

44Das Thema der Zugänglichkeit ist hier von entscheidender Bedeutung. Einerseits kann KI ein mächtiges Instrument zur Demokratisierung von Wissen sein: automatische Übersetzungen, Hilfsmittel für Menschen mit Behinderungen, Vereinfachung komplexer Konzepte. Andererseits ist der Zugang zur KI ungleich verteilt: infrastrukturelle Kosten, Sprachbarrieren und globale Ungleichheiten drohen, sie zu einem Privileg weniger wirtschaftlicher und technologischer Machtzentren zu machen. So wie die Sklaverei in der Vergangenheit durch eine soziale Ordnung gerechtfertigt wurde, die wenigen zum Vorteil und vielen zum Nachteil gereichte, besteht auch heute die Gefahr, dass KI zu einem Instrument wird, das Ungleichheiten vergrössert, anstatt sie zu verringern.

45Von KI und Sklaverei zu sprechen, bedeutet nicht bloss, eine provokative Metapher zu gebrauchen. Es bedeutet, anzuerkennen, dass sich hinter dem Bild der Maschine als idealem Diener eine Reihe von Dilemmata verbirgt, die uns selbst betreffen: die Art und Weise, wie wir Machtverhältnisse konstruieren, unsere Fähigkeit, Gerechtigkeit und Pluralismus zu gewährleisten, sowie unsere Verantwortung gegenüber künftigen Generationen.

46Darum hat die Rechtsgeschichte hier eine entscheidende Rolle. Sie erinnert uns daran, dass die Sklaverei über Jahrhunderte eine juristische Institution war – nicht nur ein soziales Faktum – und dass ihre Abschaffung auch über eine Transformation von Sprache und normativen Kategorien verlief. In gleicher Weise gilt heute: Wenn wir neue Formen der digitalen Versklavung vermeiden wollen, müssen wir nicht nur an der Technik ansetzen, sondern ebenso an den juristischen und kulturellen Kategorien, mit denen wir KI beschreiben. Es geht darum, KI nicht als blosses Werkzeug und nicht als neue Sklaven zu verstehen, sondern als Technologien, die so reguliert werden müssen, dass sie Würde, Freiheit und Gleichheit nicht gefährden.

Quellen

Literatur