Haftpflichtrecht für künstliche Intelligenz Copyright © by Markus Winkler is licensed under a Creative Commons Attribution-NonCommercial-NoDerivatives 4.0 International License, except where otherwise noted.

© 2025 – CC BY-NC-ND

Verlag: EIZ Publishing (eizpublishing.ch), Bellerivestrasse 49, 8008 Zürich, eizpublishing@europa-institut.ch
Autor: Markus Winkler
ISBN:
978-3-03994-022-6 (Print – Softcover)
978-3-03994-023-3 (Print – Hardcover)
978-3-03994-024-0 (ePub)
DOI: https://doi.org/10.36862/6CTK-EE1N
Version: 1.01 – 20250905

Dieses Werk ist als gedrucktes Buch sowie als E-Book (open access) in verschiedenen Formaten verfügbar. Weitere Informationen finden Sie unter der URL: https://eizpublishing.ch/publikationen/haftpflichtrecht-fuer-kuenstliche-intelligenz/.

1

Vorwort

Roboter sind keine Menschen. Roboter haften nicht. Nur Menschen haften, auch wenn sie in einer zukünftigen Arbeitswelt mit Robotern und anderen künstlichen Akteuren zusammen interagieren sollten. Weniger dramatisch als bei Robotern zeigt sich diese Vorstellung bei Algorithmen, die keine physische Präsenz haben. Als eigentliche Träger der künstlichen Intelligenz (KI) werden sie dennoch nicht zu unterschätzen sein. Mit zunehmender Verbreitung von Anwendungen der KI im Alltag wird sich die Gesellschaft die Frage stellen müssen, ob am Ende wie gewohnt immer nur die Menschen haften oder ob es angezeigt sein wird, die Menschen teilweise von dieser Haftung zu entlasten.

Die Chancen, aber auch die Risiken, die mit den neuen Technologien verbunden sind, wurden in jüngster Zeit durch das Aufkommen von Tools wie ChatGPT allen bewusst. Die Politik hat schon früh zahlreiche Arbeitsgruppen ins Leben gerufen, um die Herausforderungen zu untersuchen, die die KI an das Verfassungsrecht, das Strafrecht und das Zivilrecht stellt. Auch in der juristischen Literatur kommt der KI zunehmende Aufmerksamkeit zu. Diese Arbeit widmet sich dem Thema des ausservertraglichen Haftpflichtrechts für KI-Systeme, wie z.B. Roboter. Sie setzt sich zum Ziel, einerseits einen Überblick über den aktuellen Meinungsstand zu diesem Thema zu bieten. Andererseits sollen auf dieser Grundlage und im Zusammenspiel mit Erkenntnissen aus der Technik, der Moralphilosophie und der Rechtsgeschichte aussichtsreiche Lösungsansätze skizziert werden, um für die zivilrechtlichen Risiken der KI in Gesetzgebung und Rechtspraxis angemessene Vorsorge treffen zu können.

Diese Arbeit hat von vielfältigen Impulsen aus meiner universitären Ausbildungszeit und meiner beruflichen Tätigkeit profitiert. Einzelnen Grundlagen der KI bin ich erstmals während meiner Zeit als Doktorand an der ETH Zürich in den späten 90er-Jahren begegnet. Erste Anwendungen (self-organizing maps) bekam ich zu Beginn meines Berufslebens bei einer Grossbank zu sehen. Diese Arbeit bot die Chance, verschiedene technische Interessen (IT, Risikomanagement) für eine juristische Abhandlung nutzbar zu machen.

Anzumerken ist, dass diese Arbeit trotz ihrer Verbundenheit mit dem Thema künstliche Intelligenz bis auf eine Passage von 9 Zeilen in Abschnitt II.4.1 ganz ohne Verwendung von KI-Werkzeugen verfasst wurde.

Diese Arbeit ist das Ergebnis vielfältiger Interessen für das Recht und seine Geschichte, aber auch für soziologische Fragen und die Technikwissenschaften. Diese Interessen wurden mir über die Jahre von zahlreichen Personen nähergebracht. Namentlich genannt seien Prof. em. Dr. Gisbert Wüstholz, Prof. em. Dr. Paul Embrechts, Prof. Dr. em. Alois Gisler, Prof. Dr. iur. Ulrike Babusiaux, Dr. phil. Olivier Eisenmann, Dr. iur. Ansgar Schott. Zu danken habe ich insbesondere meiner Frau, PD Dr. sc. math. Cornelia Busch, für ihre Geduld.

Dominik Huber hat den Umschlag gestaltet. Tobias Baumgartner, Fatlum Ademi, Petra Bitterli und Sophie Tschalèr haben mich verlagsseitig begleitet. Ihnen allen sei herzlich gedankt.

Markus Winkler*, im Juli 2025

Dr. iur. Dr. sc. math. Markus Winkler, arbeitet als Rechtsanwalt in Zürich vorzugsweise im Bereich des IT-Rechts und des Datenschutzes. Er lebt in Winterthur und Neuchâtel.

2

Inhaltsübersicht

Vorwort

Quellen und Literatur

Rechtsquellen

Literatur

Abkürzungsverzeichnis

Einführung

Digitale Umgestaltung der Umwelt

Stand der Debatte

Gang der Untersuchung

Neue EU-Regeln zur Haftung für KI

Die digitale Strategie der EU

Überarbeitete Produkthaftungsrichtlinie

Vorschlag zu einer neuen Richtlinie über KI-Haftung

Übersicht über die bestehenden Haftungsregime in der EU

Regulierungsinstrumente der KI-Verordnung

Grundlagen des Schweizer Haftpflichtrechts

Einführung

Historischer Abriss

Die Grundregel: Verschuldenshaftung

Die Ausnahme (Teil 1): Einfache Kausalhaftungen

Die Ausnahme (Teil 2): Scharfe Kausalhaftungen

Zur Produkthaftung im Besonderen

Haftung einer Mehrheit von Schädigern

Zwischenfazit

Verantwortung für Mensch und Maschine

Übersicht

Zum Prinzip der Verantwortung

Der Mensch als Beobachter

Interaktion von Mensch und Maschine

Zwischenfazit

Ein charakteristisches Risiko für die KI?

Übersicht

Algorithmen

Statistische Methoden

Aktuelle KI-Entwicklungen

Mathematische Grenzen der KI

Zwischenfazit

KI-Anwendungen im Deliktsrecht

Übersicht

Der bestehende Haftungsrahmen

Dogmatische Probleme mit KI-Anwendungen

Unfälle mit KI

Kausalhaftung (Betriebsgefahr, Werk)

Produkthaftung

Verschulden der menschlichen Akteure

Verantwortungsnetzwerk

Vertrauenshaftung?

Fazit

Ausblick

3

Inhaltsverzeichnis

Vorwort

Quellen und Literatur

Rechtsquellen

Schweiz

Europäische Union

Literatur

Kommentare

Übrige Literatur

Abkürzungsverzeichnis

Einführung

Digitale Umgestaltung der Umwelt

Technologische Entwicklungslinien

Aktuelle Anwendungsbereiche für KI: Roboter & Co.

Grenzen der aktuellen Haftungsregelungen

Stand der Debatte

Literatur (Rechtswissenschaften)

Literatur (Moralphilosophie)

Gesetzgeberische Initiativen

Erstes Zwischenfazit

Gang der Untersuchung

Arbeitshypothese

Aufbau der Arbeit und methodisches Vorgehen

Neue EU-Regeln zur Haftung für KI

Die digitale Strategie der EU

Überarbeitete Produkthaftungsrichtlinie

Motive Teil 1: Verbraucherschutz und digitaler Wandel

Motive Teil 2: Klimarecht

Verhältnis zum nationalen Recht und zu anderen Rechtsakten

Kurzüberblick und Vergleich zum alten Recht

Vorschlag zu einer neuen Richtlinie über KI-Haftung

Motive (Teil 1): Transparenz gegen Blackbox-Effekt

Motive (Teil 2): Klimarecht

Verhältnis zum nationalen Recht und zu anderen Rechtsakten

Kurzüberblick

Übersicht über die bestehenden Haftungsregime in der EU

Rechtsvergleichende Studie für die EU-Kommission

Anmerkungen

Regulierungsinstrumente der KI-Verordnung

Vorbemerkung

Kurzübersicht zur KI-Verordnung

Bewertung

Produktsicherheitsrecht 2.0

Risikomanagementsystem

Data Governance

Menschliche Aufsicht

Erstes Fazit

Grundlagen des Schweizer Haftpflichtrechts

Einführung

Historischer Abriss

Von den Anfängen bis zum römischen Recht

Die Generalklausel der Naturrechtslehre

Das Aufkommen der Gefährdungshaftung

Eine Generalklausel für die Gefährdungshaftung?

Die Grundregel: Verschuldenshaftung

Übersicht (und Ausblick)

Zentrale Bedeutung von Sorgfaltspflichten

Sorgfaltspflicht des Arztes: Kunstfehler vermeiden

Gesetzlich normierte Sorgfaltspflichten

Falsche Auskünfte und unrichtiger Rat

Die Ausnahme (Teil 1): Einfache Kausalhaftungen

Übersicht

Haftung urteilsunfähiger Personen

Geschäftsherren- und Hilfspersonenhaftung

Tierhalterhaftung

Werkeigentümerhaftung

Haftung für Signaturschlüssel

Die Ausnahme (Teil 2): Scharfe Kausalhaftungen

Übersicht

Haftung des Inhabers eines Eisenbahnunternehmens

Haftung des Motorfahrzeughalters

Haftung für nukleare Schäden

Zur Produkthaftung im Besonderen

Allgemeines

Voraussetzung: Fehlerhaftes Produkt

Entlastung durch Entwicklungsrisiko

Übrige Bestimmungen und Einbettung in das Zivilrecht

Ausblick: Restrisiken

Haftung einer Mehrheit von Schädigern

Motivation: Konzept des Verantwortungsnetzwerks

Die Regressordnung von Art. 50/51 OR

Spezialregelungen

Die Wendung zum «integralen Regress»

Zwischenfazit

Verantwortung für Mensch und Maschine

Übersicht

Zum Prinzip der Verantwortung

Roboterethik

Neue Ansätze für die Verantwortung künstlicher Akteure

Eine Grundstruktur für die Verantwortung

Wer kann Handlungssubjekt sein?

Modelle für Handlungssubjekte: Typisierung

Modelle für Handlungssubjekte: Beispiele

Verantwortung für künstliche Akteure

Verantwortungsnetzwerk und Netzwerkhaftung

Der Mensch als Beobachter

Das Bewusstsein als Alleinstellungsmerkmal des Menschen

Kybernetik, Systemtheorie und Robotik

Beobachter als Funktion

Beobachter unter sich im Netzwerk

Interaktion von Mensch und Maschine

Gestufte Verhältnisse in komplexen Organisationen

Gestufte Verhältnisse beim Einsatz von Robotern

Zwischenfazit

Ein charakteristisches Risiko für die KI?

Übersicht

Algorithmen

Zum Begriff des Algorithmus

Von Algorithmen zur KI

Statistische Methoden

Zum Begriff der KI

Statistische Methoden: Grundsätze der Datenanalyse

Maschinelles Lernen

Aktuelle KI-Entwicklungen

Aufbau einer KI-Anwendung

Trainieren von KI: Wie Roboter die Welt entdecken

Eine Frage des Vertrauens

Mathematische Grenzen der KI

Zwischenfazit

KI-Anwendungen im Deliktsrecht

Übersicht

Der bestehende Haftungsrahmen

Dogmatische Probleme mit KI-Anwendungen

Das Scharnier ins nationale Recht

Schaden

Kausalität

Widerrechtlichkeit und Verschulden

Geschäftsherrenhaftung

Kausalhaftung

Produkthaftung

Produktbegriff

Fehlerbegriff

Zeitpunkt des Inverkehrbringens

Entwicklungsrisiko und autonome KI

Die Lösung der überarbeiteten Richtlinie

Unfälle mit KI

Versuch einer Typologie von Unfallszenarien

Beispiel 1: Selbstfahrender Lieferwagen

Sachverhalt

Anmerkung zur Zulassung selbstfahrender Fahrzeuge

Beispiel 2: Pflegeroboter

Sachverhalt

Anmerkungen zum Einsatz von Robotik in der Pflege

Anmerkungen zur Zulassung von Robotern

Beispiel 3: Falsche Auskünfte eines Chatbots

Einordnung in den bestehenden Haftungsrahmen

Kausalhaftung (Betriebsgefahr, Werk)

Beurteilung unter aktuellem Recht

Halterhaftung

Werkeigentümerhaftung

Verbesserungen: Vorschau

Produkthaftung

Beurteilung unter aktuellem Recht

Verbesserungen: überarbeite Produkthaftungsrichtlinie

Verbesserungen: KI-Regulierung und Beweisrecht

Verschulden der menschlichen Akteure

Beurteilung unter aktuellem Recht

Mitarbeiter des Einsatzbetriebes

Mitarbeiter des Herstellers

Verbesserungen: KI-Regulierung und Beweisrecht

Verantwortungsnetzwerk

Vertrauenshaftung?

Falsche menschliche Auskunft

Falsche Auskunft des KI-Agenten

Fazit

Ausblick

Haftung der Betreiber («Roboterhaftung»)

Funktionales Verschulden des Roboters

Vertrauenshaftung

Panorama der Argumente

4

Quellen und Literatur

Rechtsquellen

Schweiz

AMAS-Ver-
haltensregeln

Verhaltensregeln der Asset Management Association Switzerland vom 5. August und 23. September 2021

Bericht BEG 2004

Bericht der vom EFD eingesetzten technischen Arbeitsgruppe zum Entwurf eines BEG und zur Ratifikation des Haager Übereinkommens über die auf bestimmte Rechte an Intermediär-verwahrten Wertpapieren anzuwendende Rechtsordnung (Haager Wertpapierübereinkommen) vom 15. Juni 2004

Bericht KI

Eidgenössisches Departement für Wirtschaft, Bildung, Forschung/Staatssekretariat für Bildung, Forschung und Innovation, Herausforderungen der künstlichen Intelligenz, Bericht der interdepartementalen Arbeitsgruppe «Künstliche Intelligenz» an den Bundesrat Dezember 2019

Botschaft BauPG 2013

Botschaft zum Bundesgesetz über Bauprodukte vom 4. September 2013, BBl 2013 7467

Botschaft BEHG

Botschaft zu einem Bundesgesetz über die Börsen und den Effektenhandel (Börsengesetz, BEHG) vom 24. Februar 1993, BBl 1993 1369

Botschaft DSG 2017

Botschaft zum Bundesgesetz über die Totalrevision des Bundesgesetzes über den Datenschutz und die Änderung weiterer Erlasse zum Datenschutz vom 15. September 2017, BBl 2017 6962

Botschaft FIFG 2011

Botschaft zur Totalrevision des Forschungs- und Innovationsförderungsgesetzes vom 9. November 2011, BBl 2011 8827

Botschaft FMG 2017

Botschaft zur Revision des Fernmeldegesetzes vom 6. September 2017, BBl 2017 6559

Botschaft KEG 2001

Botschaft zu den Volksinitiativen «MoratoriumPlus – Für die Verlängerung des Atomkraftwerk-Baustopps und die Begrenzung des Atomrisikos (MoratoriumPlus)» und «Strom ohne Atom – Für eine Energiewende und die schrittweise Stilllegung der Atomkraftwerke (Strom ohne Atom)» sowie zu einem Kernenergiegesetz vom 28. Februar 2001, BBl 2001 2759

Botschaft KHG 2007

Botschaft zum Bundesbeschluss über die Genehmigung und die Umsetzung von Übereinkommen zur Haftung auf dem Gebiet der Kernenergie vom 8. Juni 2007, BBl 2007 5397

Botschaft PrSG 2008

Botschaft zum Produktesicherheitsgesetz (Totalrevision des Bundesgesetzes über die Sicherheit von technischen Einrichtungen und Geräten) vom 25. Juni 2008, BBl 2008 7407

Botschaft THG 2008

Botschaft zur Teilrevision des Bundesgesetzes über die technischen Handelshemmnisse vom 25. Juni 2008, BBl 2008 7275

Botschaft USG 1979

Botschaft zu einem Bundesgesetz über den Umweltschutz (USG) vom 31. Oktober 1979, BBl 1979 749

Botschaft USG 2000

Botschaft zu einer Änderung des Bundesgesetzes über den Umweltschutz (USG) vom 1. März 2000, BBl 1991 2391

Botschaft VVG 2017

Botschaft zur Änderung des Versicherungsvertragsgesetzes

vom 28. Juni 2017, BBl 2017 5089

Botschaft ZertES 2014

Botschaft zur Totalrevision des Bundesgesetzes über die

elektronische Signatur (ZertES) vom 15. Januar 2014, BBl 2014 1001

Botschaft ZPO 2006

Botschaft zur Schweizerischen Zivilprozessordnung vom 28. Juni 2006, BBl 2006 7221

BJ Leitfaden

Gesetzgebungsleitfaden, Ausgabe 2019 (4. Auflage)

CAI Zero Draft

CAI, Revised Zero Draft [Framework] Convention on Artificial Intelligence, Human Rights, Democracy and the Rule of Law, 6. Januar 2023

Erläuterungs-
bericht VDSG

BJ, Totalrevision der Verordnung zum Bundesgesetz über den Datenschutz, Erläuternder Bericht zur Eröffnung des Vernehmlassungsverfahrens, vom 23. Juni 2021

FINMA Anhörungs-
bericht 2016/7

Bericht über die Anhörung vom 13. Februar 2018 bis 28. März 2018 zum Entwurf des teilrevidierten Rundschreibens 2016/7 «Video- und Online-Identifizierung»

FINMA Leitlinien

Leitlinien zur Finanzmarktregulierung, 5. Dezember 2019

KuKo OR VE

BJ, Kurzkommentar zum Vorentwurf zu einem Bundesgesetz über die Revision und Vereinheitlichung des Haftpflichtrechts, ohne Jahresangabe (Herbst 2000)

Europäische Union

Bericht EP

Bericht des Rechtsausschusses des Europäischen Parlaments vom 27.1.2017 mit Empfehlungen an die Kommission zu zivilrechtlichen Regelungen im Bereich Robotik (2015/2103 [INL]), A8-0005/2017

COM(2017) 9 final

Europäische Kommission, Mitteilung vom 10.01.2017 zum Aufbau einer europäischen Datenwirtschaft

COM(2017) 495 final

Europäische Kommission, Vorschlag für eine Verordnung über einen Rahmen für den freien Verkehr nicht personenbezogener Daten in der Europäischen Union

COM(2018) 237 final

Europäische Kommission, Künstliche Intelligenz für Europa

COM(2020) 64 final

Europäische Kommission, Bericht über die Auswirkungen künstlicher Intelligenz, des Internets der Dinge und der

Robotik in Hinblick auf Sicherheit und Haftung

COM(2020) 65 final

Europäische Kommission, Weissbuch zur Künstlichen Intelligenz – Ein europäisches Konzept für Exzellenz und Vertrauen

COM(2020) 66 final

Europäische Kommission, Eine europäische Datenstrategie

COM(2020) 825 final

Vorschlag für eine Verordnung des Europäischen Parlaments und des Rates über einen Binnenmarkt für digitale Dienste (Gesetz über digitale Dienste)

COM(2020) 842 final

Europäische Kommission, Vorschlag für eine Verordnung über bestreitbare und faire Märkte im digitalen Sektor (Gesetz über digitale Märkte)

COM(2021) 206 final

Vorschlag für eine Verordnung zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz (Gesetz über künstliche Intelligenz)

COM(2021) 346 final

Vorschlag für eine Verordnung über die allgemeine Produktsicherheit

COM(2022) 495 final

Europäische Kommission, Vorschlag für eine Richtlinie über die Haftung für fehlerhafte Produkte

COM(2022) 496 final

Europäische Kommission, Vorschlag für eine Richtlinie zur Anpassung der Vorschriften über ausservertragliche zivilrechtliche Haftung an künstliche Intelligenz (Richtlinie über KI-Haftung)

ELI Guiding Principles

ELI, Guiding Principles for Updating the Product Liability Directive for the Digital Age, 2021

ELI Response

ELI, Response to the European Commission’s Public Consultation on Civil Liability, Adapting Liability Rules to the Digital Age and Artificial Intelligence

Entschliessung EP 17

Entschliessung des Europäischen Parlaments vom 16. Februar 2017 mit Empfehlungen an die Kommission zu zivilrechtlichen Regelungen im Bereich Robotik (2015/2103(INL)), P8_TA(2017)0051

Entschliessung EP 20

Entschliessung des Europäischen Parlaments vom 20. Oktober 2020 mit Empfehlungen an die Kommission für eine Regelung der zivilrechtlichen Haftung beim Einsatz künstlicher Intelligenz (2020/2014(INL)), P9_TA(2020)0276

HEG-KI, Definition

HEG-KI, A Definition of AI: Main Capabilities and Disciplines, Brüssel 2019

HEG-KI, Liability

HEG-KI, Liability for Artificial Intelligence and other emerging digital technologies, 2019

HEG-KI, Policy

HEG-KI, Policy and Investment Recommendations for Trustworthy AI, 2019

Politische Leitlinien

Ursula von der Leyen, Eine Union, die mehr erreichen will – Meine Agende für Europa, Politische Leitlinien für die künftige Europäische Kommission 2019–2024

Literatur

Kommentare

Baeriswyl

Baeriswyl Bruno, in: Baeriswyl Bruno/Pärli Kurt (Hrsg.), Bundesgesetz über den Datenschutz vom 19. Juni 1992, Bern 2015

BSK OR I

Widmer Lüchinger Corinne/Oser David (Hrsg.), Basler Kommentar Obligationenrecht I, Art. 1–529, 7. Aufl., Basel 2020

BSK OR II

Watter Rolf/Vogt Hans-Ueli (Hrsg.), Basler Kommentar Obligationenrecht II, Art. 530–964l inkl. Schluss- und Übergangsbestimmungen, 6. Aufl., Basel 2023

BSK SVG

Niggli Marcel Alexander/Probst Thomas/Waldmann Bernhard (Hrsg.), Basler Kommentar Strassenverkehrsgesetz, Basel 2014

CR IP

de Werra, Jacques/Gilliéron, Philippe (Hrsg.), Propriété intellectuelle, Basel 2013

KUKO OR

Honsell Heinrich (Hrsg.), Kurzkommentar OR, Basel 2014

MTK ABGB

Barth/Dokalik/Potyka, Taschenkommentar ABGB, 25. Aufl., Wien 2017

Palandt

Palandt Otto, Bürgerliches Gesetzbuch: mit Nebengesetzen etc., 75. Aufl., München 2016

PK StGB

Trechsel Stefan/Pieth Mark, Schweizerisches Strafgesetzbuch: Praxiskommentar, 4. Aufl., Basel 2021

Rosenthal/Jöhri

Rosenthal David/Jöhri Yvonne (Hrsg.), Handkommentar zum Datenschutzgesetz: sowie weiteren, ausgewählten Bestimmungen, 2. Aufl., Zürich 2022

SHK PatG

Schweizer Mark/Zech Herbert (Hrsg.), Patentgesetz (PatG): Bundesgesetz über die Erfindungspatente vom 25. Juni 1954, Bern 2019

SK FIDLEG

Sethe Rolf/Bösch René/Favre Olivier/Schott Ansgar (Hrsg.), Kommentar zum Finanzinstitutsgesetz FINIG, Zürich 2021

SK FINIG

Sethe Rolf/Bösch René/Favre Olivier/Kramer Stefan/Schott Ansgar (Hrsg.), Kommentar zum Finanzdienstleistungsgesetz FINIG, Zürich 2021

Staudinger/J Hager (2017)

Hager Johannes (Hrsg.), J. von Staudingers Kommentar zum Bürgerlichen Gesetzbuch mit Einführungsgesetz und Nebengesetzen, Buch 2, Recht der Schuldverhältnisse, § 823 A–D, Neubearbeitung 2017, Berlin 2017

HK BGB

Schulze Reiner et al. Bürgerliches Gesetzbuch, Handkommentar, 13. Aufl., Baden-Baden 2023

Weissenberger-SVG

Philippe Weissenberger, Kommentar SVG und OBG, 2. Aufl., Zürich/St. Gallen 2015

Übrige Literatur

Amato Cristina, Product Liability and Product Security: Present and Future, in: Sebastian Lohsse/Reiner Schulze/Dirk Staudenmayer (Hrsg.), Liability for Artificial Intelligence and the Internet of Things, Baden-Baden 2019, S. 77 ff.

Ammann Christoph/Christensen Birgit/Engi Lorenz/Michel Margot, Würde der Kreatur, Ethische und rechtliche Beiträge zu einem umstrittenen Konzept, Zürich 2015.

Andres Roger, Bauarbeitenverordnung und Arbeitssicherheit, BR 2017, S. 151 ff.

Aristoteles, Nikomachische Ethik, 2. Aufl., Reinbek bei Hamburg 2008.

Armgardt Matthias, Das rechtslogische System der «Doctrina conditionum» von Gottfried Wilhelm Leibniz, Diss. Marburg 2001.

Assman Jan, Exodus, Die Revolution der Alten Welt, München 2019.

Assmann Jan, Das kulturelle Gedächtnis, Schrift, Erinnerung und politische Identität in frühen Hochkulturen, 8. Aufl., München 2018.

Baecker Dirk, Beobachter unter sich, Eine Kulturtheorie, Frankfurt a. M. 2013.

Baeumle-Courth Peter/Stefan Nieland/Hinrich Schröder, Wirtschaftsinformatik, München 2004.

Barceló Pedro, Die Alte Welt, Von Land und Meer, Herrschaft und Krieg, Mythos, Kult und Erlösung, Darmstadt 2019.

Bassot Etienne, Die sechs politischen Prioritäten der Kommission von der Leyen, Sachstand im Frühjahr 2023, EPRS 2023.

Batache Djamila, Künstliche Intelligenz in der Medizin aus haftungsrechtlicher Perspektive, Zürich 2024.

Beck Charlotte, Faute présumée du responsable de traitement en cas de cyberattaque, 31 mai 2023, Online-Publikation (www.swissprivacy.law/230).

Beck Susanne, Über Sinn und Unsinn von Statusfragen – zu Vor- und Nachteilen der Einführung einer elektronischen Person, in: Hilgendorf Eric/Günther Jan-Philipp (Hrsg.), Robotik und Gesetzgebung, Baden-Baden 2013.

Beck Susanne, Der rechtliche Status autonomer Maschinen, AJP 2017, S. 183 ff.

Beck Susanne/Faber Michelle/Gerndt Simon, Rechtliche Aspekte des Einsatzes von KI und Robotik in Medizin und Pflege, Ethik in der Medizin (2023) 35, S. 247 ff.

Beckers Anna/Teubner Gunther, Digitale Aktanten, Hybride Schwärme, Drei Haftungsregime für künstliche Intelligenz, Frankfurt a.M., 2024.

Benhamou Yaniv, Intelligence artificielle : licence libre et gouvernance collective des données à travers l’altruisme des données et les data trusts, RSDA 2021, S. 419 ff.

Bessel August/Kühlwetter Eduard, Das preussische Eisenbahnrecht, Erster Theil, Köln 1855.

Betti Emilio, Diritto romano e dogmatica odierna, Archivio giuridico 99 (1928), S. 129 ff.

Bieder Adolf, Die Haftung für fremde unerlaubte Handlung nach dem schweizerischen Obligationenrecht, ZSR NF 5, S. 327 ff.

Blasek Katrin, Haftung für KI – Zum Vorschlag der EU-Kommission, Datenschutzberater, 2022, S. 299 ff.

Blumenberg Hans, Das Verhältnis von Natur und Technik als philosophisches Problem, in: Studium Generale, Bd. IV (1951), S. 461–467, Neuauflage in: Schriften zur Technik, Berlin 2015, S. 17 ff.

Bonaldo Arianna/Cugini Gianvirgilio, Intelligenza artificiale: responsabilità nella progettazione e utilizzo di sistemi, Novità fiscali 1/2020, S. 39 ff.

Borio Beatrice, Haftungsrechtliche Herausforderungen bei autonomen Pflegerobotern, Pflegerecht 2021, S. 223 ff.

Borsari Andreas, Schadensabwälzung nach dem schweizerischen Produktehaftpflichtgesetz (PrHG), Zürich 1998.

Braun Binder Nadja/Burri Thomas/Lohmann Melinda Florina/Simmler Monika/Thouvenin Florent/Vokinger Kerstin Noëlle, Künstliche Intelligenz: Handlungsbedarf im Schweizer Recht, Jusletter 28. Juni 2021.

Breitschmid Peter, Die Fortentwicklung des schweizerischen ZGB: Eigenständigkeit und Fremdeinflüsse, RabelsZ Bd. 72 (2008), S. 686 ff.

Bucher Oliver/Acs Erika, Die totalrevidierte Bauarbeitenverordnung, BR 2023, S. 77 ff.

Bühler Theodor (Hrsg.), Unternehmensstrafrecht und Produktsicherheit, Zürich 2013.

Burckhardt Jacob, Historische Fragmente, Neudruck, Nördlingen 1988.

Butz Martin V., Towards Strong AI, KI-Künstliche Intelligenz, Springer Online 2021 (https://doi.org/10.1007/s13218-021-00705-x).

Christen Andres, Produkthaftung nach der EG-Produkthaftungsrichtlinie im Vergleich zur Produkthaftung nach schweizerischem Recht, Bern 1992.

Contratto Franca, Technologie und Finanzmarktregulierung: Narrative von Interdependenz und Co-Evolution, in: Weber Rolf H./Stoffel Walter A./Chenaux Jean-Luc/Sethe Rolf (Hrsg.), Aktuelle Herausforderungen des Gesellschafts- und Finanzmarktrechts, FS für Hans Caspar von der Crone zum 60. Geburtstag, Zürich/Basel/Genf 2017, S. 421 ff.

Davidson Donald, Subjektiv, intersubjektiv, objektiv, Frankfurt a. M. 2013.

Diebel-Fischer Hermann, Rezension zu: Alexis Fritz/Christof Mandry/Ingo Proft/Josef Schuster (Hrsg.), Digitalisierung im Gesundheitswesen, Anthropologische und ethische Herausforderungen der Mensch-Maschine-Interaktion, Freiburg i.Br. 2021, Ethik Med. (2022) 34, S. 129 ff.

Dobrauz-Saldapenna Guenther, Exponentielle Technologien und Kreislaufwirtschaft, SJZ 120/2024, S. 293 ff.

Donatsch Andreas/Godenzi Gunhild/Tag Brigitte, Strafrecht I, Verbrechenslehre, 10. Aufl., Zürich 2022.

Donzallaz Yves, Traité de droit médical, Volume II, Le médecin et les soignants, Bern 2021.

Drittenbass Joel, Produktebeobachtung und behördliche Marktüberwachung, LSR 2022, S. 207 ff.

Ebers Martin/Heinze Christian/Krügel Tina/Steinrötter Björn (Hrsg.), Künstliche Intelligenz und Robotik, Rechtshandbuch, München 2020.

Ehring Philipp/Taeger Jürgen (Hrsg.), Produkthaftungs- und Produktsicherheitsrecht: BGB, ProdHaftG, etc., Baden-Baden 2022.

Ehtechami Parnijan Tina, Robo-Advisor(y) in Deutschland, InTeR 2019, S. 118 ff.

Esser Josef, Grundlagen und Entwicklung der Gefährdungshaftung, 2. Aufl., München 1969.

Etter Boris, Diskriminierung durch sexuelle Belästigung nach Art. 4 GlG, SJZ 118/2022, S. 18 ff.

Fellmann Walter, Der Produkte- und Fehlerbegriff, in: Rolf H. Weber/Daniel Thürer/Roger Zäch (Hrsg.), Produktehaftpflicht im europäischen Umfeld, Zürich 1994, S. 44 ff.

Fellmann Walter, OR 2020 – Das neue Deliktsrecht – Revision der Revision – Abkehr von einer Generalklausel der Gefährdungshaftung, HAVE 2013, S. 363 ff.

Fellmann Walter, Objektivierung der Sorgfaltspflichten im Auftragsrecht, HAVE 2016, S. 95 ff.

Fellmann Walter, Haftpflichtrecht im Zeichen der Digitalisierung, HAVE 2021, S. 105 ff.

Fellmann Walter/von Büren-von Moos Gabrielle, Grundriss der Produktehaftpflicht, Bern 1993.

Felscher Walter, Berechenbarkeit, Rekursive und Programmierbare Funktionen, Berlin/Heidelberg 1993.

Felz Sebastian, Recht im Umbruch: Produktsicherheitsrecht, Maschinenrecht und die europäische Normungsstrategie, InTeR 2022, S. 3 ff.

Floridi Luciano/Sanders J.W., On the Morality of Artificial Agents, in: Minds and Machines 14 (2004), S. 349 ff.

Forster Marc, Die strafrechtliche Verantwortlichkeit des Unternehmens nach Art. 102 StGB, Diss. St. Gallen, Bern 2006.

Frick Walter, When Your Boss Wears Metal Pants, Harvard Business Review, 6/2015, S. 84 ff.

Furrer Andreas, Die Einbettung von Smart Contracts in das schweizerische Privatrecht, Anwaltsrevue 3/2018, S. 103 ff.

Geistfeld Mark A./Karner Ernst/Koch Bernhard A./Wendehorst Christiane (Hrsg.), Civil Liability for Artificial Intelligence and Software, Berlin/Boston 2023.

Giger Marcel, Kausalhaftung im Eisenbahnrecht, Entlastung nach Art. 40c EBG, in: Jusletter 2. Mai 2022.

Gisinger Christoph, Pflegeroboter aus Sicht der Geriatrie, in: Oliver Bendel (Hrsg.), Pflegeroboter, Wiesbaden 2018, S. 113 ff.

Goher K./Mansouri N./Fadlallah S., Assessment of personal care and medical robots from older adults’ perspective, Robotics and Biomimetics (2017), S. 4 f.

Goldschmidt Andreas/Marquardt Kurt/Groneberg David/von Eiff Wilfried, Aufbruch oder verspielte Zukunft der Krankenhausdigitalisierung in Deutschland Bestandsaufnahme und kritische Reflexion, Zentralblatt für Arbeitsmedizin, Arbeitsschutz und Ergonomie, 2023, 73, S. 170 ff.

Gómez Tutor Juan Ignacio, Die wissenschaftliche Methode bei Christian Wolff, Hildesheim 2004.

Gonthier Georges, Formal Proof – The Four Color Theorem, Notices AMS, December 2008, S. 1382–1393 (abrufbar unter: https://www.ams.org/notices/200811/tx081101382p.pdf).

Gordon Clara-Ann/Lutz Tanja, Haftung für automatisierte Entscheidungen – Herausforderungen in der Praxis, SZW 2020/1, S. 53 ff.

Grosz Mirina, Art. 40b EBG Grundsätze, in: Willi Fischer/Thierry Luterbacher (Hrsg.), Haftpflichtkommentar, Kommentar zu den schweizerischen Haftpflichtbestimmungen, Zürich/St. Gallen 2016.

Günther Jan-Philipp, Roboter und rechtliche Verantwortung, Diss. Würzburg/München 2016.

Graf Fabienne/Obrecht Liliane, Rechtliche Rahmenbedingungen für Künstliche Intelligenz in der Schweiz, Tagungsbericht, Jusletter 29. November 2021.

Gross Johannes, Braucht Künstliche Intelligenz Ethik? CB 2020, S. 155 ff.

Haas Eliane/Rodieux Virgine, IP and the Metaverse, sic! 2023, S. 329 ff.

Haase Martin, Rechtmässigkeit der Benutzung personenbezogener Daten zum Trainieren künstlicher Intelligenz nach den Vorschriften der Datenschutz-Grundverordnung, InTeR 2013, S. 66 ff.

Hanisch Jochen, Haftung für Automation, Diss. Erlangen-Nürnberg, Göttingen 2010.

Hanisch Jochen, in: Eric Hilgendorf/Jan-Philipp Günther (Hrsg.), Robotik und Gesetzgebung, Beiträge der Tagung vom 7. bis 9.5.2012 in Bielefeld, 2012.

Hansemann David, Kritik des preussischen Eisenbahn-Gesetzes vom 3. November 1838, Aachen und Leipzig 1841.

Hänsenberger Silvio, Die zivilrechtliche Haftung für autonome Drohnen unter Einbezug von Zulassungs- und Betriebsvorschriften, Diss. St. Gallen 2018.

Hänsenberger Silvio, Die Haftung für Produkte mit lernfähigen Algorithmen, Jusletter vom 26. 11. 2018.

Harke Jan Dirk, Römisches Recht, Von der klassischen Zeit bis zu den modernen Kodifikationen, München 2008.

Hasseler Martina, Digitale Unterstützung des Pflegeprozesses und pflegerischer Versorgung, in: Iris Herzog-Zwitter/Hardy Landolt/Alexandra Jorzig (Hrsg.), Digitalisierung und Telemedizin im Gesundheitswesen, Zürich 2022, S. 25 ff.

Hausmaninger Herbert, Das Schadenersatzrecht der lex Aquilia, 5. Aufl., Wien 1996.

Heine Günter, Die strafrechtliche Verantwortlichkeit von Unternehmen, Von individuellem Fehlverhalten zu kollektiven Fehlentwicklungen, insbesondere bei Großrisiken, Habil. Basel 1994, Baden-Baden 1995.

Heiss Helmut/Loacker Leander D. (Hrsg.), Grundfragen des Konsumentenrechts, Zürich/Basel/Genf 2020.

Herberger Maximilian, Dogmatik: Zur Geschichte von Begriff und Methode in Medizin und Jurisprudenz, Frankfurt a. M. 1981.

Hernández Guerra Loborio, Los libertos de la Hispania romana, situación jurîdica, promoción social y modos de vida, Salamanca 2013.

Herzog-Zwitter Iris, Die Aufklärungspflichtverletzung und ihre Folgen, HAVE 2010, S. 316 ff.

Hess Hans-Joachim, Art. 5 / B. Entlastungsmöglichkeiten / IV. – VII, in: Produktehaftpflichtgesetz (PrHG), Bundesgesetz über die Produktehaftpflicht vom 18. Juni 1993, 3. Aufl., Bern 2016.

Hochstrasser Michael, Auto ohne Fahrer, AJP 2015, S. 689 ff.

Holliger-Hagmann Eugénie, Produktesicherheitsgesetz PrSG, Produktrisiken im Griff – rechtliche Fallstricke vermeiden, Zürich/Basel/Genf 2010.

Holliger-Hagmann Eugénie, in: Willi Fischer/Thierry Luterbacher (Hrsg.), Haftpflichtkommentar, Kommentar zu den schweizerischen Haftpflichtbestimmungen, Zürich/St. Gallen 2016.

Honsell Heinrich, Die Haftung für Hilfspersonen, in: Andrea Büchler (Hrsg.), Private law: national – global – comparative: Festschrift für Ingeborg Schwenzer zum 60. Geburtstag, Bern 2011.

Honsell Heinrich, Standardsoftware und Sachmängelhaftung, in: Ernst Brem/ Jean Nicolas Druey/Ernst A. Kramer/Ivo Schwander (Hrsg.), FS zum 65. Geburtstag von Mario M. Pedrazzini, Bern 1990, S. 313 ff.

Honsell Heinrich, Reform der Gefährdungshaftung, ZSR 1997 II, S. 297 ff.

Honsell Heinrich/Isenring Bernhard/Kessler Martin A., Schweizerisches Haftpflichtrecht, 5. Aufl., Zürich 2013.

Horak Frank, Rationes decidendi, Entscheidungsbegründungen bei den älteren römischen Juristen bis Labeo, Aalen 1969.

Hötitzsch Sven/Lutz Lennart S., Autonomes Fahren: Lösungsansätze für das Haftungsproblem, Elektronik automotive 2014, S. 14 ff.

Hug Hans-Jürg, Haftpflicht für Schäden aus der friedlichen Verwendung von Atomenergie, Dissertation Zürich 1970.

Imhof Christian, Personenschäden bei Bauunfällen aus Sicht des Betriebshaftpflichtversicherers, HAVE 2022, S. 4 ff.

Jaag Tobias/Hänni Julia, Europarecht – Die europäischen Institutionen aus schweizerischer Sicht, 5. Aufl., Zürich 2022.

Jannes Marc/Friele Minou/Jannes Christiane/Woopen Christiane, Algorithmen in der digitalen Gesundheitsversorgung, Eine interdisziplinäre Analyse, November 2018, Studie der Bertelsmann Stiftung.

Joerden Jan, Logik im Recht, 2. Aufl., Berlin 2010.

Jolowicz Herbert Felix, Historical Introduction to the Study of Roman Law, Reprint, Cambridge 1967.

Jonas Hans, Das Prinzip Verantwortung, Versuch einer Ethik für die technologische Zivilisation, Frankfurt a. M. 1979.

Jositsch Daniel, Das Schweizerische Korruptionsstrafrecht, Art. 322ter bis Art. 322octies StGB, Habil. Zürich, Zürich/Basel/Genf 2004.

Junod Valérie, Pouvait-on déceler le défaut de la prothèse ? AJP 2011, S. 1177 ff.

Kianička Michael Martin, Die Agentenerklärung, Zürich 2012.

Karner Ernst/Koch Bernhard/Geistfeld Mark, Comparative Law Study on Civil Liability for Artificial Intelligence, Luxembourg 2021.

Kaser Max, Das römische Privatrecht, Erster Abschnitt, Das altrömische, das vorklassische und das klassische Recht, München 1971.

Kaser Max, Zur Methode römischer Rechtsfindung, Göttingen 1962.

Kaser Max, Römische Rechtsquellen und angewandte Juristenmethode, ausgewählte, zum Teil grundlegend erneuerte Abhandlungen, Wien 1986.

Kessler Rainer/Oberlin Jutta Sonja, Künstliche Intelligenz: Quo Vadis? CB 2020 S. 89 ff.

Kipker Dennis-Kenji/Harner Andreas/Müller Sven, Der Mensch an der Schnittstelle zur Technik, InTeR 2018, S. 24 ff.

Kirchner Gernot, Big Data Management: Die Haftung des Big-Data-Anwenders fürDatenfehler (Deliktsrecht – Teil 2), InTeR 2018, S. 59 ff.

Klindt Thomas, Produkthaftung und Produktsicherheit in der EU: gestern, heute, morgen, HAVE 2018, S. 484 ff.

Koch Bernhard/Pichonnaz Pascal, Der Entwurf einer neuen EU-Produkthaftungsrichtlinie aus schweizerischer Sicht, SJZ 119/2023, S. 627 ff.

Kögel Daniel, Urheberrechtliche Implikationen bei der Verwendung kreativer und generativer künstlicher Intelligenz, InTeR 2023, S. 179 ff.

Körber Torsten, Der Grundsatz der Technologieneutralität als Massstab für die Regulierung von Telekommunikationsmärkten, ZWeR 2008, S. 146 ff.

Koller Alfred, Grundzüge der Haftung für positive Vertragsverletzungen, AJP 12/1992, S. 1483 ff.

Kowalski Janice Deborah, Patentierung von künstlicher Intelligenz in der Medizintechnik am Anwendungsbeispiel des Smart Tissue Autonomous Robot (STAR), sic! 2024, S. 140 ff.

Krauskopf Frédéric, Die Tierhalterhaftung – ein Beispiel überholter gesetzlicher Kausalhaftung? HAVE 1/2020, S. 56 ff.

Krauskopf Frédéric/Zellweger Deborah, Unterlassung als Haftungsursache, in: Walter Fellmann/Stephan Weber (Hrsg.), Haftpflichtprozess, Zürich 2019, S. 71 ff.

Krey Volker/Kapoor Arun, Praxisleitfaden Produktsicherheitsrecht: CE-Kennzeichnung – Risikobeurteilung – Betriebsanleitung – Konformitätserklärung – Produkthaftung – Fallbeispiele, 4. Aufl., München 2023.

Krockow Christian Graf von, Kaiser Wilhelm II und seine Zeit, Biographie einer Epoche, Berlin 1999.

Kroeschell Karl, Deutsche Rechtsgeschichte, Band 3: Seit 1650, 5. Aufl., Köln/Weimar/Wien 2008.

Kuhlen Lothar, Sorgfaltspflichten beim Inverkehrbringen autonomer Fahrzeuge, ZStrR 137/2019, S. 353 ff.

Kühlwetter Hans-Jürgen, Der Prozess zum ICE-Unfall in Eschede, Luzern 2009.

Kündig Mario, Prüfen von Algorithmen, EF 4/20, S. 198 ff.

Kunkel Wolfgang/Schermaier Martin, Römische Rechtsgeschichte, 14. Aufl., Köln/Weimar/Wien 2005.

Kunz Peter V., Tierrecht der Schweiz, Basel 2023.

Landolt Hardy, Medizinalhaftung – Aktuelle Rechtsprechung zu ausgewählten Problembereichen der Arzthaftung, HAVE 2009, S. 329 ff.

Lanz Marcel, Risikosteuerung durch Haftung, HAVE 2023, S. 383 ff.

Larenz Karl/Canaris Claus-Wilhelm, Methodenlehre der Rechtswissenschaft, 3. Aufl., Berlin 1995.

Le Cun Yann, Quand la machine apprend. La révolution des neurones artificiels et l’apprentissage profond, Paris 2023.

Leibniz Gottfried Wilhelm, Abhandlung über die Methode der Gewissheit und die Kunst des Auffindens, in: Herbert Herring (Hrsg.), Leibniz, Philosophische Schriften Band 4, Frankfurt a. M. 1996, S. 207 ff.

Leibniz Gottfried Wilhelm, Anfangsgründe einer allgemeinen Charakteristik, in: Herbert Herring (Hrsg.), Leibniz, Philosophische Schriften Band 4, Frankfurt a. M. 1996, S. 39 ff.

Leibniz Gottfried Wilhelm, Elemente eines Kalküls, in: Herbert Herring (Hrsg.), Leibniz, Philosophische Schriften Band 4, Frankfurt a. M. 1996, S. 67 ff.

Lenk Hans, Macht und Machbarkeit der Technik, Stuttgart 1994.

Lenk Hans/Maring Matthias, Verantwortung in Technik und Wissenschaft, in: Ludger Heidbrink/Claus Langbehn/Janina Loh (Hrsg.), Handbuch Verantwortung, Wiesbaden 2017.

Lenzen Manuela, Künstliche Intelligenz, Was sie kann & was uns erwartet, München 2018.

Lin Patrick/Abney Keith/Bekey George A. (Hrsg.), Robot Ethics, The Ethical and Social Implications of Robotics, Cambridge MA 2011.

Loh Janina, Roboterethik, Frankfurt a. M. 2020.

Lohmann Melinda, Roboter als Wundertüten – eine zivilrechtliche Haftungsanalyse, AJP 2017, S. 152 ff.

Lohmann Melinda, Ein europäisches Roboterrecht – überfällig oder überflüssig? ZRP 2017, S. 168 ff.

Lohmann Melinda, Mobilität von morgen – Die Zulässigkeit automatisierter Fahrzeuge im Ländervergleich, AJP 2021, S. 617 ff.

Lohmann Melinda, Der Regress des Versicherers im Kontext der Fahrzeugautomatisierung, HAVE 2018, S. 348 ff.

Lohmann Melinda/Rusch Arnold, Fahrassistenzsysteme und selbstfahrende Fahrzeuge im Lichte von Haftpflicht und Versicherung, HAVE 2015, S. 349 ff.

Lohmann Melinda/Müller-Chen Markus, Selbstlernende Fahrzeuge – eine Haftungsanalyse, SZW 2017, S. 48 ff.

Lohmann Melinda/Pressler Theresa, Algorithmische Vertragserfüllung (Teil 1), Eine zukunftsgewandte Betrachtung der Rechtsfiguren der Erfüllungsgehilfin und der Substitutin unter Analyse des Urteils BGer 4A_305/2021 vom 2. November 2021, SJZ 2023, S. 879 ff.

Lörtscher Cordula, Wenn das Auto den Laster nicht sieht, Jusletter IT 24. November 2016.

Ludwig Lars. A./Becker Ruedi, Die Vorstellung von KI ist oft völlig falsch, RR-COMP 3/2021, S. 13 f.

Luhmann Niklas, Soziale Systeme, Grundriss einer allgemeinen Theorie, Frankfurt a. M. 1987 (Neudruck).

Luhmann Niklas, Ausdifferenzierung des Rechts, Beiträge zur Rechtssoziologie und Rechtstheorie, Frankfurt a. M. 1999 (Neudruck).

Markwalder Nora/Simmler Monika, Roboterstrafrecht, AJP 2017/2, S. 171 ff.

Marmy-Brändli Sandra/Oehri Isabelle, Das Training künstlicher Intelligenz, sic! 2023, S. 655 ff.

Marti Claudia, Privatkopien in der Cloud, sic! 2023, S. 3 ff.

Mattiangeli Daniele, Societas und corpus, Auf den Spuren einer Handelsgesellschaft als juristische Person im römischen Recht, Wien 2017.

McCullagh P./Nelder J.A., Generalized Linear Models, 2. Aufl., London 1989.

Meermann Anne Marie, Entwicklungsrisiko und State-of-the-Art: eine vergleichende Untersuchung über die Haftung für unerkennbare Produktrisiken im europäischen und US-amerikanischen Recht, Diss. Hamburg, Baden-Baden 2013.

Merane Jakob/Stremitzer Alexander, Künstliche Intelligenz – Rechtliche Leitplanken und neue Haftungsrisiken, Recht relevant für Verwaltungsräte 6/2020, S. 5 ff.

Minder Mario J., Artificial Intelligence: Eine Bestandsaufnahme im Jahr 2018, sic! 2019, S. 49 ff.

Mirow Heinz Michael, Die Kybernetik in ihrer Beziehung zu Systemen und Organisationen, in: Ders., Kybernetik, Wiesbaden 1969.

Misselhorn Catrin, Robots as Moral Agents? in: Frank Rövenkamp/Friederike Bosse (Hrsg.), Ethics in Science and Society, German and Japanese Views, München 2013, S. 42 ff.

Misselhorn Catrin, Maschinenethik und Artificial Morality. Können und sollen Maschinen moralisch handeln? APuZ 68 (2018), S. 29 ff.

Misselhorn Catrin, Künstliche Intelligenz und Empathie. Vom Leben mit Emotionserkennung, Sexrobotern & Co, Stuttgart, 2021.

Moor James, The Nature, Importance, and Difficulty of Machine Ethics, Intelligent Systems IEEE 4 (2006), S. 18 ff.

Müller Christoph, La responsabilité civile extracontractuelle, 2. Aufl., Basel 2023.

Müller Melinda, Roboter und Recht, AJP 2014, S. 595 ff.

Müller Stefan, Produktfehler und Beweisregeln nach dem Kommissionsvorschlag zur Novellierung des EU-Produkthaftungsrechts, InTeR 2024, S. 6 ff.

Nagel Ernst/Newman James R., Gödel’s Proof, Revised Edition, New York 2001.

Nagel Thomas, Geist und Kosmos, Warum die materialistische neodarwinistische Konzeption der Natur so gut wie sicher falsch ist, Frankfurt a.M. 2013.

Nater Hans, Die Haftpflicht des Geschäftsherrn gemäβ OR 55 angesichts der wirtschaftlich-technischen Entwicklung, Fern und Frankfurt 1971.

Neuhäuser Christian, Roboter und moralische Verantwortung, in: Eric Hilgendorf (Hrsg.), Robotik im Kontext von Recht und Moral, Baden-Baden 2014, S. 269 ff.

Niggli Marcel Alexander/Maeder Stefan, Unternehmensstrafrecht, Bern 2013.

Noll Peter, Gesetzgebungslehre, Neuauflage der 1. Aufl. von 1973, Zürich/Genf 2023.

Nörr Dieter, Rechtskritik in der römischen Antike, München 1974.

Oftinger Karl/Stark Emil, Schweizerisches Haftpflichtrecht, Bd. I, Allgemeiner Teil, 5. Aufl., Zürich 1995.

Oftinger Karl/Stark Emil, Schweizerisches Haftpflichtrecht, Besonderer Teil (Bd. II/1), Erster Teilband: Verschuldenshaftung, gewöhnliche Kausalhaftungen, Haftung aus Gewässerverschmutzung, 4. Aufl., Zürich 1987.

Omlor Sebastian, Methodik 4.0 für ein KI-Deliktsrecht, InTeR 2020, S. 221 ff.

Osterhammel Jürgen, Die Verwandlung der Welt – Eine Geschichte des 19. Jahrhunderts, München 2009.

Paulo Norbert/Bublitz Jan Christoph (Hrsg.), Empirische Ethik, Grundlagentexte aus Psychologie und Philosophie, Frankfurt a.M. 2020.

Pfeil Werner, «Leinen los und Fahrt voraus!» – Evolutionäre Algorithmen, Künstliche Intelligenz und Legal Tech ändern das Recht, die Rechtsordnung und den Zugang zum Recht, In-TeR 2020, S. 17 ff.

Pieper Fritz-Ulli, Künstliche Intelligenz: Im Spannungsfeld von Recht und Technik, InTeR 2018, S. 9 ff.

Pies Ingo (Hrsg.), Karl Poppers kritischer Rationalismus, Tübingen 1999.

Pirker Benedikt/Zlǎtescu Petru Emanuel, 1. Teil / 1ère Partie: Rechtsentwicklung in der Europäischen Union und die Schweiz / Le développement du droit européen et la Suisse – Aktuelle Entwicklungen im Verfassungsrecht der Europäischen Union, in: Schweizerisches Jahrbuch für Europarecht / Annuaire suisse de droit européen 2021/2022, S. 27 ff.

Pohle Jan, Innovativ – und jetzt? CH 2021, S. 371 ff.

Portmann Peter, Organ und Hilfsperson im Haftpflichtrecht, Diss. Zürich 1958.

Pringsheim Fritz, The Greek Law of Sale, Weimar 1950.

Prinz Wolfgang, Selbst im Spiegel, Frankfurt a.M. 2013.

Probst Thomas, Das «selbstfahrende» Auto: entfernte Illusion oder nahe Realität? Strassenverkehr 1/2021, S. 52 ff.

Quadroni Mauro, Künstliche Intelligenz – praktische Haftungsfragen, HAVE 2021, S. 345 ff.

Rathgeb Eberhard, Die Entdeckung des Selbst: wie Schopenhauer, Nietzsche und Kierkegaard die Philosophie revolutionierten, München 2022.

Ratzinger Josef, Einführung in das Christentum, Vorlesungen über das Apostolische Glaubensbekenntnis, München 1968.

Reichhardt Hans (Hrsg.), Kleine Enzyklopädie Mathematik, 10. Aufl., Leipzig 1979.

Reiter Catherine, Künstliche Intelligenz im Verwaltungsverfahren, AJP 2022, S. 984 ff.

Rempe Christoph, Smart Products in Haftung und Regress, InTeR 2016, S. 16 ff.

Renner Cornelius, Die deliktische Haftung für Hilfspersonen in Europa, Berlin 2002.

Rey Heinz/Wildhaber Isabelle, Ausservertragliches Haftpflichtrecht, 6. Aufl., Zürich/Basel/Genf 2024.

Rinckens Max, Die actio exercitoria – Grundlage und Grenzen der Haftung des Reeders im römischen Recht, BRZ 2/2023, S. 118 ff.

Roberto Vito, Haftpflichtrecht, Bern 2018.

Roberto Vito, Produkthaftpflicht und Software, Bern 2000.

Rochel Johan, Les robots parmi nous, Pour une éthique des machines, Lausanne 2022.

Rodegra Heinz, Medizinhistorische Untersuchungen zur Problematik des ärztlichen Kunstfehlers und der Arzthaftung: eine Medizinal-Ordnung des 19. Jahrhunderts als Regulativ, Gesnerus 43 (1986), S. 61 ff.

Röd Wolfgang, Geometrischer Geist und Naturrecht, Methodengeschichtliche Untersuchungen zur Staatsphilosophie im 17. und 18. Jahrhundert, München 1970.

Roegels Kim, Die Haftung beim Einsatz intelligenter Medizinprodukte, Diss. Berlin 2024.

Rolland Walter, Produkthaftungsrecht, München 1990.

Rosa Hartmut, Unverfügbarkeit, Wien/Salzburg, 2018.

Rosch Daniel, Einführung in den zivilrechtlichen Erwachsenenschutz, in: Daniel Rosch/Andrea Büchler/Dominique Jakob (Hrsg.), Erwachsenenschutzrecht, Einführung und Kommentar zu Art. 360 ff. ZGB und VBVV, 3. Aufl., Basel 2016.

Rosenthal David, Autonome Informatiksysteme: Wie steht es mit der Haftung? in: Albert Kündig/Danielle Bütschi (Hrsg.), Die Verselbständigung des Computers, TA-SWISS 51/2008, Zürich 2008, S. 131 ff.

Rosenthal David, Das neue Datenschutzgesetz, in: Jusletter 16. November 2020.

Russel Stuart/Norvig Peter, Artificial Intelligence. A Modern Approach, New Jersey 2003.

Schaub Renate, Verantwortlichkeit für Algorithmen im Internet, InTeR 2019, S. 2 ff.

Schmitz Barbara/Rammos Thanos, (Keine) neue Ethik für das Internet der Dinge? InTeR 2016, S. 4 ff.

Schönle Herbert, La responsabilité des banques pour renseignements financiers inexacts, in FS für Deschenaux 1977, Freiburg 1977, S. 397 f.

Schönwälder-Kuntze Tatjana/Wille Katrin/Hölscher Thomas, George Spencer Brown: Eine Einführung in die «Laws of Form», 2. Aufl., Wiesbaden 2009.

Schreyer Désirée/Ott Adrian, Künstliche Intelligenz bei Untersuchungen: Was ist möglich und wer setzt die Regeln bei der KI-betriebenen Bekämpfung der Wirtschaftskriminalität? RR-COMP 2/2024, S. 5 ff.

Schröder Jan, Wissenschaftstheorie und Lehre der praktischen Jurisprudenz auf deutschen Universitäten an der Wende zum 19. Jahrhundert, Frankfurt a.M. 1979.

Schrupkowski Reiner, Die Haftung für Entwicklungsrisiken in Wissenschaft und Technik, Eine Analyse der Haftungsordnungen der Schweiz, Deutschlands, Frankreichs und der USA, Basel/Frankfurt a. M. 1995.

Schwartz Jacob, Betriebsgefahr und Unabwendbarkeit bei selbstfahrenden Fahrzeugen, In-TeR 2021, S. 77 ff.

Searle, J. R., Minds, brains, and programs. Behavioral and Brain Sciences, 3(3), 1980, S. 417 ff. (https://doi.org/10.1017/S0140525X00005756).

Senn Marcel, Rechtsgeschichte, ein kulturhistorischer Grundriss, 4. Aufl., Zürich 2007.

Sethe Rolf, Rechtsangleichung im Schweizer Finanzmarktrecht – Heteronomer und autonomer Nachvollzug, Äquivalenz, Swiss Finish, in: Wolfhard Kohte/Nadine Absenger (Hrsg.), Menschenrechte und Solidarität im internationalen Diskurs: FS für Armin Höland, Baden-Baden 2015, S. 345 ff.

Sombetzki (jetzt Loh) Janina, Roboterethik, in: Matthias Maring (Hrsg.), Zur Zukunft der Bereichsethiken. Herausforderungen durch die Ökonomisierung der Welt, KIT Scientific Publishing 2016, S. 355 ff.

Sommer Michael, Volkstribun, Die Verführung der Massen und der Untergang der Römischen Republik, Stuttgart 2023.

Sommer Marianne/Müller-Wille Staffan/Reinhardt Carsten (Hrsg.), Handbuch Wissenschaftsgeschichte, Stuttgart 2017.

Spencer-Brown George, Laws of Form, New York 1969.

Stagl Jakob Fortunat, Das didaktische System des Gaius, ZRG RA 131 (2014), S. 131 ff.

Steinrötter Björn, § 26 Personal Robots in der Pflege, in: Martin Ebers/Christian Heinze/Tina Krüger/Björn Steinrötter (Hrsg.), Künstliche Intelligenz und Robotik, München 2020, S. 793 ff.

Stengel Cornelia/Wirthensohn Gino/Stäuble Luca, Regulierung von künstlicher Intelligenz für FinTech-Anwendungen, SZW 2021, S. 395 ff.

Stigler Stephen M., Gauss and the intervention of least squares, The Annals of Statistics, Vol. 9, No. 3 (May 1981), S. 465 ff.

Stratenwerth Günter, Schweizerisches Strafrecht, Allgemeiner Teil I, 3. Aufl., Bern 2005.

Stratenwerth Günther, Zurechnungsprobleme im Unternehmensstrafrecht, in: Christian Grafl/Ursula Medigovic (Hrsg.), Festschrift für Manfred Burgstaller zum 65. Geburtstag, Wien/Graz 2004, S. 198 ff.

Straub Wolfgang, Produktehaftung für Informationstechnologiefehler, EU-Produktehaftungsrichtlinie und schweizerisches Produktehaftungsgesetz, Zürich 2002.

Strub Yael, Der Regress des Schadensversicherers auf den Kausalhaftenden, SJZ 115/2019, S. 31 ff.

Stutz Manuel, Haftungsfragen beim Robo Advice aus Sicht des Anlegers, ex ante 2/2019, S. 17 ff.

Sullins John, When Is a Robot a Moral Agent, in: International Review of Information Ethics (2006), S. 23 ff.

Thur Andreas von, Rückgriff des Versicherers nach OR Art. 51 und VVG Art. 72, SJZ 1922, S. 235 ff.

Tremp Dania, Digitalisierung in der Pflege, Pflegerecht 2020, S. 119 ff.

Trenkler Antje, Risikoverwaltung im Wirtschaftsverwaltungsrecht: Grundlagen und Reichweite der Risikoverwaltung und ihre Ausprägung im technischen Produktsicherheitsrecht, Diss. Köln 2020.

Turing Alan, Computing Machinery and Intelligence, Mind, LIX (236), 1950, S. 433 ff.

Uhlmann Felix, Kurzgutachten «Stand der Technik», 2013.

Vasella David/Sievers Jacqueline, Der «Swiss Finish» im Vorentwurf des DSG, digma 2017, S. 44 ff.

Vest Hans, «Organisierte Kriminalität» – Überlegungen zur kriminalpolitischen Instrumentalisierung eines Begriffs, ZStrR 112/1994, S. 121 ff.

Volz Stephanie, KI Sandboxen für die Schweiz, SZW 2022, S. 51 ff.

Wägli Hans G., Hebel, Riegel und Signale, Eisenbahnsicherungstechnik in der Schweiz, Entwicklung der mechanischen Einrichtungen, Grafenried 2018.

Waespi Olivier, Organisationshaftung, Risiko und Unsorgfalt bei der Geschäftsherrenhaftung, Diss. Neuenburg, Bern 2005.

Wagner Gerhard, Reform des Schadensersatzrechts, JBl 2008, S. 2 ff.

Wagner Gerhard, Roboter als Haftungssubjekte? Konturen eines Haftungsrechts für autonome Systeme, Florian Faust/Hans-Bernd Schäfer (Hrsg.), Zivilrechtliche und rechtsökonomische Probleme des Internet und der künstlichen Intelligenz, Tübingen 2019, S. 1 ff.

Wagner Gerhard, Verantwortlichkeit im Zeichen digitaler Techniken, VersR 2020, S. 717 ff.

Wagner Gerhard, Die Richtlinie über KI-Haftung: Viel Rauch, wenig Feuer, JZ 78 (2023), S. 123 ff.

Wallach Wendell/Allen Colin, Moral Machines. Teaching Robots Right from Wrong, Oxford NY 2009.

Weber Beatrix/Buschermöhle Heinrich, Rechtssicherheit durch Technische Sicherheit: IT-Compliance als dauerhafter Prozess, CB 2016, S. 339 ff.

Weber Max, Die «Objektivität» sozialwissenschaftlicher und sozialpolitischer Erkenntnis, 1904, in: Dirk Kaesler (Hrsg.), Max Weber, Schriften 1894–1922), Stuttgart 2002.

Weber Max, Soziologische Grundbegriffe, I.3, 1920, in: Dirk Kaesler (Hrsg.), Max Weber, Schriften 1894–1922), Stuttgart 2002.

Weber Rolf H., Zivile Drohneneinsätze – Herausforderungen für das Wirtschafts- und Datenschutzrecht, in: Alfred Widmer (Hrsg.), Der rasante technologische Wandel – Überforderung der Gesellschaft? Zürich/St. Gallen 2017, S. 1 ff.

Weber Rolf H., Braucht die digitale Welt ein neues Haftungsrecht? Jusletter IT, 21. September 2017, S. 2 ff.

Weber Rolf H., Automatisierte Entscheidungen: Perspektive Grundrechte, SZW 2020, S. 18 ff.

Weber Rolf H., DLT Handelsplattformen, Spannungsfeld von Technologie und Recht, 2022.

Weber Rolf H./Baisch Rainer, Regulierung von Robo-Advice, AJP 2016, S. 1065 ff.

Weber Rolf H./Sethe Rolf, Äquivalenz als Regelungskriterium im Finanzmarktrecht, SJZ 2014, S. 569 ff.

Weber Stefan, Der Anfang vom Ende der Regresskaskade? HAVE 2018, S. 356 ff.

Weichbold Markus, Haftung und Versicherung bei Unfällen automatisierter Fahrzeuge, Wien 2022.

Werro Franz, Produktehaftpflicht, SPR Bd. X, 2008, S. 416 ff.

Wesel Uwe, Fast alles was Recht ist, Jura für Nichtjuristen, Frankfurt a. M. 1991.

Wesel Uwe, Geschichte des Rechts, Von den Frühformen bis zur Gegenwart, 3. Aufl., München 2006.

Widmer Pierre, Ein erster Schritt zu einem europäischen Haftpflichtrecht? HAVE 2005, S. 245 ff.

Widmer Pierre, Produkthaftung – Konzept und Umsetzung, in: Fellmann/Furrer (Hrsg.), Produktsicherheit und Produkthaftung – Neue Herausforderungen für schweizerische Unternehmen, Bern 2011, S. 101 ff.

Widmer Pierre, Anything goes – Haftpflichtrecht im Offside, HAVE 4/2014, S. 363 ff.

Widmer Lüchinger Corinne, Apps, Algorithmen und Roboter in der Medizin: Haftungsrechtliche Herausforderungen, HAVE 2019, S. 3 ff.

Wieacker Franz (Wolf Josef Georg, Hrsg.), Römische Rechtsgeschichte, 2. Abschnitt, Die Jurisprudenz vom frühen Prinzipat bis hin zum Ausgang der Antike im weströmischen Reich und die oströmische Rechtswissenschaft bis zur justinianischen Gesetzgebung: ein Fragment, München 2006.

Wiederkehr René, Allgemeines Verwaltungsrecht, Bern 2017.

Wiener Norbert, Cybernetics — Communication and Control in the Animal and the Machine, New York 1948.

Wilde-Detmering Friederike, Der Tracker im Trecker – Rechtliche Herausforderungen auf dem Weg zur Landwirtschaft 4.0, InTeR 2019, S. 174 ff.

Wildhaber Isabelle, Robotik am Arbeitsplatz: Robo-Kollegen und Robo-Bosse, AJP 2017, S. 213 ff.

Wildhaber Isabelle, KI und Haftung: Lösungsansätze für die Schweiz, in: Jusletter IT 4. Juli 2024.

Wildhaber Isabelle/Lohmann Melinda F./Kaspar Gabriel, Diskriminierung durch Algorithmen, Überlegungen zum schweizerischen Recht am Beispiel prädikativer Analytik am Arbeitsplatz, ZSR 138 (2019) Heft 5, S. 459 ff.

Wildhaber Isabelle/Lohmann Melinda F./Kasper Gabriel, Diskriminierung durch Algorithmen, Überlegungen zum schweizerischen Recht am Beispiel prädikativer Analytik am Arbeitsplatz, ZSR 138 (2019) Heft 5, S. 459 ff.

Wildhaber Isabelle/Barth Frédéric, Regulierung der künstlichen Intelligenz in der Schweiz, AJP 2015, S. 598 ff.

Windscheid Bernhard, Lehrbuch des Pandektenrechts, 2. Bd., 7. Aufl., Frankfurt a.M. 1891.

Winiger Bénédict, Vérité, perfection et devoir en droit : une nouvelle lecture du Jus Naturae de Christian Wolff, in : Michel Porret/Franc¸ois Rosset (Hrsg.), Le jardin de l’esprit, FS für Bronislaw Baczko, Genève 1995.

Winkler Heinrich August, Die Deutschen und die Revolution, Eine Geschichte von 1848 bis 1989, München 2023.

Winkler Markus, Mathematik und Logik in Julians Digesten, Diss. Zürich, Berlin 2015.

Winkler Markus, Einheit oder Harmonie der Rechtsordnung, ZSR 136 (2017), S. 171 ff.

Winkler Markus, Beweisrechtliche Behandlung elektronischer Signaturen, SZZP 2/2021, S. 177 ff.

Wohlers Wolfgang, Die Strafbarkeit des Unternehmens, in: SJZ 96 (2000), S. 384 ff.

Wyss Dominic/Blättler Manuel (Hrsg.), Digitaler Rechtsverkehr, Bern 2022.

Wyss Eveline/von der Crone Hans Caspar, Haftung für Auskunft, SZW 2/2002, S. 112 ff.

Zobl Martin/Lysakowski Michael, E-Persönlichkeit für Algorithmen? digma 2019, S. 42 ff.

Zweigert Konrad/Kötz Hein, Einführung in die Rechtsvergleichung, 3. Aufl., Tübingen 1996.

5

Abkürzungsverzeichnis

a.A.

Andere Ansicht

a.a.O.

Am angegebenen Ort

ABGB

Allgemeines Bürgerliches Gesetzbuch (A)

ABl.

Amtsblatt der EU

Abs.

Absatz

AFG

Anlagefondsgesetz

AI

Artificial Intelligence

AJP

Aktuelle Juristische Praxis

ALR

Allgemeines Landrecht für die preussischen Staaten

AMAS

Asset Management Association Switzerland

AMS

American Mathematical Society

APuZ

Aus Politik und Zeitgeschichte, Bonn

Art.

Artikel

AtG

Atomgesetz

AtomG

Atomgesetz (D)

AS

Amtliche Sammlung des Bundesrechts

Aufl.

Auflage

BAKOM

Bundesamt für Kommunikation

BauAV

Bauarbeitenverordnung

BauPG

Bauproduktegesetz

BAV

Bundesamt für Verkehr

BBl

Bundesblatt

Bd.

Band

BDSG

Bundesdatenschutzgesetz (D)

BEG

Bucheffektengesetz

BfDI

Bundesbeauftragter für den Datenschutz und die Informationsfreiheit (D)

BGB

Bürgerliches Gesetzbuch

BGE

Amtliche Sammlung der Bundesgerichtsentscheide

BGer

Schweizerisches Bundesgericht

BGH

Bundesgerichtshof (D)

BImSchG

Bundes-Immissionsschutzgesetzes

BJ

Bundesamt für Justiz

BJM

Basler Juristische Mitteilungen, Basel

BK

Berner Kommentar

BMJ

Bundesministerium der Justiz (D)

BR

Zeitschrift für Baurecht und Vergabewesen, Freiburg i.Ü.

BRZ

Berliner Rechtszeitschrift, Berlin

BSK

Basler Kommentar

BV

Bundesverfassung der Schweizerischen Eidgenossenschaft

BVerfG

Bundesverfassungsgericht (D)

BWIS

Bundesgesetz über Massnahmen zur Wahrung der inneren Sicherheit

CACI

Cour d’appel civile (Waadt)

CAI

Committee on Artificial Intelligence (Europarat)

CB

Compliance Berater, Online-Zeitschrift

CEN

Europäisches Komitee für Normung (franz.: Comité Européen de Normalisation)

CENELEC

Europäisches Komitee für elektrotechnische Normung, (franz.: Comité Européen de Normalisation Électrotechnique)

CF

Cystische Fibrose

ChemG

Chemikaliengesetz

CHK

Handkommentar des Schweizerischen Privatrechts

ComCom

Eidgenössische Kommunikationskommission

D

Deutschland

DCFR

Draft Common Frame of Reference

Deutsche Demokratische Republik

DGV

Druckgeräteverordnung

DIN

Deutsches Institut für Normung e. V.

Diss.

Dissertation

DLT-Gesetz

Bundesgesetz zur Anpassung des Bundesrechts an Entwicklungen der Technik verteilter elektronischer Register

DSB

Datenschutz-Berater, Frankfurt a. M.

DSG

Schweizerisches Datenschutzgesetz

DSGVO

Datenschutz-Grundverordnung

DSV

Datenschutzverordnung

EBG

Eisenbahngesetz

EBV

Eisenbahnverordnung

EF

Expert Focus, Zürich/Lausanne

EFD

Eidgenössisches Finanzdepartement

EG

Europäische Gemeinschaften

EGMR

Europäischer Gerichtshof für Menschenrechte

EGTL

European Group on Tort Law

EisenbahnG

Preussisches Eisenbahngesetz

EJPD

Eidgenössisches Justiz- und Polizeidepartement

EKAS

Eidgenössische Koordinationskommission für Arbeitssicherheit

EKEK

Europäischer Kodex für die elektronische Kommunikation

EKHG

Eisenbahn- und Kraftfahrzeughaftpflichtgesetz (A)

EleG

Elektrizitätsgesetz

ELI

European Law Institute

EnG

Energiegesetz

EP

Europäisches Parlament

EPRS

Wissenschaftlicher Dienst des EP

ETH

Eidgenössische Technische Hochschule

ETSI

European Telecommunications Standards Institute

EU

Europäische Union

EuGH

Europäischer Gerichtshof

EWG

Europäische Wirtschaftsgemeinschaft

EWR

Europäischer Wirtschaftsraum

f./ff.

folgende

FAV

Verordnung über Fernmeldeanlagen

FAZ

Frankfurter Allgemeine Zeitung

FIDLEG

Finanzdienstleistungsgesetz

FINIG

Finanzinstitutsgesetz

Fn.

Fussnote

FS

Festschrift

GD

Generaldirektion (EU-Kommission)

GG

Grundgesetz (D)

GLPV

Verordnung über die Gute Laborpraxis

Habil.

Habilitation

HAVE

Zentrum für Haftpflicht‑, Privat- und Sozialversicherungsrecht

HdR

Handbuch der Rechtsförmlichkeit

HEG-KI

High-Level Expert Group on AI

HFG

Humanforschungsgesetz

HMG

Heilmittelgesetz

Hrsg.

Herausgeber

IDAG

Interdepartementale Arbeitsgruppe KI

InTeR

Zeitschrift zum Innovations- und Technikrecht, Frankfurt a.M.

ISO

Internationale Organisation für Normung (abgeleitet aus dem gr. isos)

IKT

Informations- und Kommunikationstechnologie

IT

Informationstechnologie

JBl

Juristische Blätter, Wien

JSG

Jagdgesetz

JZ

JuristenZeitung, Tübingen

KAG

Kollektivanlagengesetz

KEG

Kernenergiegesetz

KHG

Kernenergiehaftpflichtgesetz

KI

Künstliche Intelligenz

KKV-FINMA

Kollektivanlagenverordnung-FINMA

KLV

Krankenpflege-Leistungsverordnung

KUKO

Kurzkommentar

LFG

Luftfahrtgesetz

LLM

Large Language Model

LSR

Life Science Recht, Bern

MiFID II

Markets in Financial Instruments Directive II

m.w.H.

Mit weiteren Hinweisen

MepV

Medizinprodukteverordnung

MPG

Max-Planck-Gesellschaft

N

(Rand‑)Note

NCCR

National Centre of Competence in Research, Universität Bern

NEV

Verordnung über elektrische Niederspannungserzeugnisse

NF

Neue Folge

NRW

Nordrhein-Westfalen

NZZ

Neue Zürcher Zeitung

OECD

Organisation für wirtschaftliche Zusammenarbeit und Entwicklung

OGH

Oberster Gerichtshof (A)

OR 2020

Obligationenrecht 2020 (Projekt)

OVG

Oberverwaltungsgericht (D)

OR

Schweizerisches Obligationenrecht

Pariser Überein-
kommen

Übereinkommen vom 29. Juli 1960 über die Haftung gegenüber Dritten auf dem Gebiet der Kernenergie in der Fassung des Zusatzprotokolls vom 28. Januar 1964, des Protokolls vom 16. November 1982 und des Protokolls vom 12. Februar 2004

PatG

Patentgesetz

PETL

Principles of European Tort Law

PrHG

Bundesgesetz über die Produktehaftung

ProdHaftG

Produkthaftungsgesetz (D)

PrSG

Bundesgesetz über die Produktesicherheit

PSI

Paul-Scherrer-Institut

QES

Qualifizierte elektronische Signatur

RLG

Rohrleitungsgesetz

RSDA

Siehe SZW

Rz

Randzeichen

S.

Seite

SBVg

Schweizerische Bankiervereinigung

SECO

Staatssekretariat für Wirtschaft

SG Komm.

St. Galler Kommentar

SIA

Schweizer Ingenieur- und Architektenverein

SK

Schulthess Kommentar

SHAB

Schweizerisches Handelsamtsblatt

SHK

Stämpfli Handkommentar

SprstG

Sprengstoffgesetz

SR

Systematische Sammlung des Bundesrechts

STEG

Bundesgesetz über die Sicherheit von technischen Einrichtungen und Geräten (aufgehoben)

StFG

Stammzellenforschungsgesetz

StSG

Strahlenschutzgesetz

StVG

Strassenverkehrsgesetz (D)

SVG

Strassenverkehrsgesetz

SZK

Schweizerische Zeitschrift für Kartellrecht, Zürich

SZZP

Schweizerische Zeitschrift für Zivilprozessrecht, Basel

SZW

Schweizerische Zeitschrift für Wirtschafts- und Finanzmarktrecht, Zürich

TA

Tagesanzeiger, Zürich

THG

Bundesgesetz über die technischen Handelshemmnisse

URG

Urheberrechtsgesetz

URP

Umweltrecht in der Praxis, St. Gallen

V

Volt (Stromspannung)

Verordnung über das automatisierte Fahren

VEMV

Verordnung über die elektromagnetische Verträglichkeit

VFAV

Verordnung des BAKOM über Fernmeldeanlagen

VSV

Verband Schweizerischer Vermögensverwalter

VVG

Versicherungsvertragsgesetz

VwVG

Bundesgesetz über das Verwaltungsverfahren

VZertES

Verordnung zum Signaturgesetz

VZV

Verkehrszulassungsverordnung

WpHG

Wertpapierhandelsgesetz (D)

z.B.

Zum Beispiel

ZertES

Signaturgesetz

ZGB

Schweizerisches Zivilgesetzbuch

ZHR

Zeitschrift für das gesamte Handels- und Wirtschaftsrecht, Frankfurt a.M.

ZK

Zürcher Kommentar

ZPO

Schweizerische Zivilprozessordnung

ZRP

Zeitschrift für Rechtspolitik, Frankfurt a.M.

ZSR

Zeitschrift für Schweizerisches Recht, Basel

ZStrR

Schweizerische Zeitschrift für Strafrecht, Bern

ZWeR

Zeitschrift für Wettbewerbsrecht, Köln

«On Artificial Intelligence, trust is a must, not a nice to have.»[1]

«La seule chose un peu triste dans cette chambre d’Eulalie était qu’on y entendait le soir, à cause de la proximité du viaduc, les hululements des trains. Mais comme je savais que ces beuglements émanaient de machines réglées, ils ne m’épouvantaient pas comme auraient pu faire, à une époque de la préhistoire, les cris poussés par un mammouth voisin dans sa promenade libre et désordonnée.»[2]

1

Einführung

Digitale Umgestaltung der Umwelt

Technologische Entwicklungslinien

Die Digitalisierung ist heute in aller Munde. Sie verkörpert die aktuelle Speerspitze des technischen Fortschritts der Informationsgesellschaft und einer Entwicklung, die vor Jahrzehnten mit der Kommerzialisierung und Verbreitung des Computers als Arbeitswerkzeug im Alltag ihren Ausgang genommen hat. Durch ihre Komplexität mögen die mit IT-Systemen verknüpften Haftungsfragen komplizierter zu lösen sein. Dennoch wird sich in aller Regel immer eine natürliche oder juristische Person identifizieren lassen, die für Schäden verantwortlich gemacht werden kann. Mit der Künstlichen Intelligenz (KI) tritt nun vermehrt ein neuartiges Element hinzu. KI soll nicht nur menschliche Fehler ausgleichen, sondern für Menschen nur schwer zu erfassende Zusammenhänge entdecken und nutzbar machen. Algorithmen des maschinellen Lernens sollen intelligenter und vor allem schneller und zuverlässiger sein als Menschen. Sie sind sogar in der Lage, sich ohne menschlichen Beistand selbst Dinge beizubringen. Von künstlicher Intelligenz getriebene Algorithmen scheinen sich zudem hervorragend zur Steuerung von Robotern zu eignen. Sogenannt humanoide Roboter könnten als Bauarbeiter, Lageristen, Pfleger oder Rezeptionisten der Menschen neue Kollegen am Arbeitsplatz werden.[3] Spätestens dann werden sich Haftungsfragen einer neuen Art stellen.

Roboter sind keine Menschen.[4] Roboter haften nicht. Nur Menschen haften, auch wenn sie in einer zukünftigen Arbeitswelt mit Robotern und anderen künstlichen Akteuren zusammen interagieren. Weniger drastisch als bei Robotern macht sich diese Vorstellung bei Algorithmen aus, die ja keine physische Präsenz haben. Doch sind auch bei ihnen Vermögensschäden – man denke nur an Robo-Advisor in der Vermögensverwaltung – nicht auszuschliessen. In diesen und anderen Fällen wird sich zweifellos die Frage stellen, ob am Ende wie gewohnt immer nur die Menschen haften oder ob es angezeigt sein wird, die Menschen teilweise von dieser Haftung zu entlasten.

«Big Data» ist eines von zahlreichen Schlagwörtern, die im Zusammenhang mit Digitalisierung und neuen Technologien regelmässig in der öffentlichen Diskussion erscheinen. Sprachlich bezeichnet der Begriff ursprünglich schlicht grosse Mengen von Daten, welche angesichts ihres Umfangs und ihrer Komplexität vom Menschen nicht mehr erfasst und verarbeitet werden können.[5] In der Folge wird der Begriff «Big Data» aber gerne auch als Sammelbegriff für digitale Technologien verwendet, die diese Datenmengen verarbeiten und strukturieren und dadurch für einzelne Unternehmen oder gar die Gesellschaft als Ganzes nutzbar machen sollen. Statistik war eine bedeutsame Disziplin seit der Entwicklung des modernen, verwaltungstechnisch organisierten Staates. Mit zunehmender Technisierung und dem Aufkommen der Massengesellschaft gewannen Daten über alle möglichen und denkbaren Vorgänge in der Gesellschaft, betreffen sie Kennzahlen und Messwerte im wirtschaftlichen Umfeld oder Angaben über den Tagesablauf der Menschen, entscheidende und zentrale Bedeutung. Dies betrifft insbesondere Daten, die durch Messung oder Beobachtung gewonnen werden können. Die Tagespresse bezeichnet Daten denn auch gerne als das neue Öl des 21. Jahrhunderts.

Geht es um Daten, die einer natürlichen Person zugeordnet werden können, besteht auf internationaler Ebene weitgehend ein Konsens, dass jede Bearbeitung solcher Daten grundsätzlich die Privatsphäre der betroffenen Person und allenfalls weitere ihrer Grundrechte berührt und beeinträchtigen kann.[6] Um die Privatsphäre wirksam zu schützen, sind hinreichende gesetzliche Regelungen zu schaffen, die notwendige Eingriffe rechtfertigen können. Dies ist Gegenstand des Datenschutzrechts als das Recht vom Schutz der Personendaten, die gewissermassen laufend als Nebenprodukt des alltäglichen Lebens entstehen.[7]

Der Schutz von Sachdaten ist demgegenüber deutlich weniger ausgebaut, sieht man einmal vom strafrechtlichen Schutz von Geschäftsgeheimnissen ab. Bei Sachdaten als eine Art «Rohstoff» für die digitale Wirtschaft liegt der Fokus des Gesetzgebers, wenn überhaupt, eher bei der freien Übertragbarkeit[8], beim Abbau von Lokalisierungsvorschriften,[9] oder bei wettbewerbsrechtlichen Überlegungen.[10]

Zu Big Data gehören aber auch neue digitale Techniken, über die mit Begriffen wie Cloud-Computing, künstlicher Intelligenz (KI oder englisch «Artificial Intelligence» – AI[11]) oder Internet der Dinge («Internet of Things» (IoT)) kommuniziert wird. In ihrem Zusammenhang ist auch auf die «Distributed Ledger Technologie» (DLT) hinzuweisen. Diese digitalen Techniken sollen maximale Effizienzsteigerungen bewirken, Grösseneinsparungen erbringen und die Entwicklung neuartiger Dienste ermöglichen. Man verspricht sich von ihnen zahlreiche Vorteile, etwa in Bezug auf Agilität, Produktivität, Entwicklungstempo und Autonomie, so beispielsweise durch maschinelles Lernen.[12] Dadurch hat Big Data das Potenzial für eine umfassende, ja umwälzende Umgestaltung grosser Teile der Gesellschaft zu sorgen, insbesondere des wirtschaftlichen Bereichs mit seinen vielfältigen Produktions- und Kommunikationsprozessen.

Solche Prozesse zeigen regelmässig Auswirkungen auf die reale Umwelt, d.h. die Lebenswelt des Menschen, die sie seit der Industrialisierung im 19. Jh. tiefgreifend umgestaltet haben.[13] Eine Tagung zu den rechtlichen Fragestellungen der KI in der Schweiz identifizierte fünf zentrale Bereiche, in denen ihr Einsatz mit besonderen Herausforderungen verbunden ist: Transparenz, Privatsphäre, Diskriminierung, Manipulation und Haftung.[14] Diese Themenliste ist exemplarisch. Transparenz und Privatsphäre wurden oben beim Datenschutz angesprochen. Diskriminierung und Manipulation sind ernsthafte und vielschichtige Probleme, die im Zusammenhang mit der KI international breit diskutiert werden.[15] Diese Arbeit beschäftigt sich ausschliesslich mit dem fünften Thema der Liste – mit der (ausservertraglichen) Haftung.[16]

Das Haftpflichtrecht, eines der ältesten Gebiete des Rechts überhaupt,[17] fand erst in dieser Zeit seine noch heute gültigen Formen und Ausprägungen, nachdem die damalige moderne Technik mit ihren neuen Gefährdungen Gesetzgeber wie Rechtsanwender herausforderte.[18] Heute stellt sich die offensichtliche Frage, ob die Digitalisierung zu weiteren, wesentlichen Entwicklungsschritten im Haftpflichtrecht führen muss oder ob die aktuellen Normen im Zuge der Rechtsfortbildung bloss nachgezogen werden können, um den neuen Herausforderungen gewachsen zu bleiben. Anders formuliert lautet die Frage, ob und wie sich die traditionellen Muster der Verantwortlichkeit handelnder Akteure an die digital umgestalteten Prozesse anpassen lassen.

Das grundlegende Schädigungsschema des Haftpflichtrechts besteht aus einem Akteur (der potenziell Verantwortliche oder Schädiger), einer von ihm ausgeführten Handlung (Ursache) sowie einer durch diese Handlung ausgelösten Wirkung in der Umwelt (die zu einem Schaden führt). Ursache und Wirkung können jeweils in der analogen oder in der digitalen[19] Umwelt angenommen werden, woraus sich insgesamt vier Fallgruppen bilden lassen.

1. Analoge Ursache und analoge Wirkung: Diese Fallgruppe repräsentiert die bekannten Anwendungen des klassischen Haftpflichtrechts bis und mit etwa Mitte des 20. Jh. Als Akteure treten Menschen oder durch Menschen bediente Maschinen auf. Zu denken ist beispielsweise an einen Kranführer, der ein schweres Werkstück zu Boden fallen lässt, wodurch ein Arbeiter verletzt wird. 2. Analoge Ursache und digitale Wirkung: Mit dem Aufkommen der elektronischen Datenverarbeitung (EDV) ab etwa der Mitte des 20. Jh. stellten sich Fragen von Fehlern bei der Hard- und Softwareentwicklung. Fehler oder Mängel in Computerprogrammen können in einem nächsten Schritt wiederum zu Schäden in der analogen Umwelt führen (siehe sogleich). 3. Digitale Ursache und analoge Wirkung: Diese Fallgruppe repräsentiert den ersten Teil der neuen Probleme, die mit der Digitalisierung auftreten. Als Akteure treten hier Algorithmen und Roboter auf. Als Arbeitsbezeichnung sei ein Algorithmus eine aus endlich vielen eindeutig definierten Einzelvorschriften bestehende Handlungsvorschrift zur Lösung aller Probleme einer gegebenen Aufgabenklasse.[20] Algorithmen können nicht nur schematisch von einem Menschen, sondern auch automatisch von einem Computerprogramm ausgeführt werden. Ebenso sei ein Roboter eine von Computerprogrammen gesteuerte, körperlich greifbare Maschine.[21] Zu denken ist hier beispielsweise an einen automatisch gesteuerten, fahrerlosen Zug (Automatic Train Operation – ATO), der ein Eisenbahnunglück verursacht.[22] Die in Kapitel VI besprochenen Anwendungsfälle im Deliktsrecht fallen hauptsächlich in diese Kategorie. 4. Digitale Ursache und digitale Wirkung: In dieser Fallgruppe finden sich die konsequenten Beispiele einer digitalisierten Welt. Durch Algorithmen vertretene Parteien schliessen online einen Vertrag ab, dessen Abwicklung von einem «Smart Contract» übernommen wird. Bezahlt wird mit einer virtuellen Währung, wobei der geschuldete Betrag an eine falsche Adresse überwiesen wird. Das Beispiel lässt sich auch mit den menschlichen Parteien selbst denken, die sich online treffen, wobei die Willenserklärung der einen Partei durch einen Übermittlungsfehler falsch umgesetzt wird und zu einem fehlerhaften Vertragstext führt.

Diese Untersuchung konzentriert sich auf die dritte und vierte Fallgruppe. Damit setzt sie sich zum Ziel zu prüfen, ob das aktuelle Schweizer Haftpflichtrecht mit den Herausforderungen der KI umgehen kann oder aber punktuell oder wesentlich erweitert werden sollte. Behandelt wird die ausservertragliche zivilrechtliche Haftung. Selbstverständlich stellen sich die skizzierten Fragen auch im Vertragsrecht und im öffentlichen Recht (Verwaltungsrecht und Strafrecht). Wenn immer mehr und umfangreichere Tätigkeiten oder Prozesse digitalisiert werden, ist denkbar, dass sich beispielsweise das Datenschutzrecht vom Schutz der Persönlichkeit natürlicher Personen zum Schutz der Grundrechte im digitalen Raum generell und auch gegenüber Privaten weiterentwickelt. Solche Themen werden im Verlauf der Untersuchung höchstens angeschnitten.

Aktuelle Anwendungsbereiche für KI: Roboter & Co.

In dieser Arbeit spielen als Erscheinungsformen der KI im weiteren Sinn sowohl Algorithmen als auch Roboter eine Rolle. Beides gab es lange, bevor die KI zu einem Thema für die Forschung wurde und seither regelmässig in der Tagespresse besprochen wird.[23] Algorithmen finden sich in jedem Computerprogramm. Sie können so etwas Einfaches wie eine Kaffeemaschine steuern oder so etwas Komplexes wie einen Roboter. Im zweiten Fall können sie anschaulich als das «Gehirn» des Roboters aufgefasst werden.

Definitionsgemäss verfügen Roboter über eine körperliche Präsenz – im Gegensatz zu Algorithmen, die je nach Verständnis des Begriffs nur als Konzept oder als Programmcode existieren.[24] Deshalb können Roboter unmittelbar Sach- und Personenschäden verursachen, was sie für die Zwecke der Untersuchung «attraktiv» macht. Je nach Ausgestaltung und Anwendungsbereich können Algorithmen immerhin in der Lage sein, Vermögensschäden direkt zu verursachen. Die Ursache für Sach- und Personenschäden werden sie wohl nur indirekt setzen können, indem sie Informationen für Menschen oder Maschinen aufbereiten, die anschliessend mit diesen Informationen als Input handeln oder eine Bewegung ausführen. Viele der ersten Anwendungen von Robotern, die durch KI gesteuert wurden, machten von aussen einen eher experimentellen oder gar spielerischen Charakter. Auf jeden Fall vermochten sie auf eindrückliche Weise das Potential der neuen Technik zu demonstrieren. Dies gilt insbesondere für die sogenannten humanoiden Roboter, d.h. Roboter, die der menschlichen Gestalt nachgebildet sind.

Algorithmen und Roboter finden beide ein weites Feld in der andauernden und ständig fortschreitenden Automatisierung von Produktion und Dienstleistungen. Roboter in Fertigungsstrassen von Automobilherstellern gibt es schon lange; sie kamen bislang ohne KI aus. Bei den Dienstleistungen werden von Mitarbeitern bediente Supermarktkassen zunehmend durch Selbstbedienungskassen ersetzt. Auch diese Anwendung funktioniert gut ohne KI. Vereinzelt werden nun aber ganze Läden auf automatisierten Betrieb umgestellt. (Dies soll einerseits Personalkosten sparen, andererseits können so Ladenöffnungszeiten rund um die Uhr angeboten werden.) Bislang werden die Regale noch von (menschlichen) Mitarbeitern neu aufgefüllt. Zukünftig könnten Roboter nicht nur das Ladenlokal reinigen,[25] sondern auch die Regale auffüllen.[26]

Die weitere Entwicklung bei Robotik und KI könnte es ermöglichen, dass Roboter das Verteilen der Briefpost übernehmen oder als Tellerwäscher, Taxifahrer oder Rezeptionist im Hotel «arbeiten». Neben diesen eher einfachen und repetitiven Aufgaben könnten zukünftig auch Funktionen automatisiert werden, die eine längere Ausbildung voraussetzen, wie Tätigkeiten in der Finanzberatung, im Marketing und Vertrieb oder sogar bei der Business Analyse oder im Rechtswesen.[27]

Grenzen der aktuellen Haftungsregelungen

Um die im Folgenden zu untersuchenden Fragestellungen zur zivilrechtlichen Haftung von Algorithmen und Robotern zu illustrieren, soll ein Autounfall beschrieben werden, der sich im Frühjahr 2012 in einem Ort in der Nähe von Aschaffenburg ereignete.[28] Der Unfallwagen war mit einem sogenannten Spurhalteassistenten ausgerüstet. Bei einem Spurhalteassistenten handelt es sich um ein Fahrassistenzsystem, welches über eine Videokamera die Fahrspurmarkierungen vor dem Fahrzeug erkennt und diese mit der Position des Fahrzeugs in der Spur vergleicht. Unterschreitet das Auto einen definierten Mindestabstand zur Fahrbahnbegrenzung, greift der Spurhalteassistent ein, um das Fahrzeug in der Spur zu halten. Es handelt sich noch nicht um eine Anwendung des autonomen Fahrens. Der Fahrer kann das Hilfssystem jederzeit übersteuern und behält so die Verantwortung für das Fahrzeug.[29]

Zurück zum angekündigten Unfallhergang: Am Ortseingang erlitt der Fahrer einen Schlaganfall und verlor das Bewusstsein. Der Spurhalteassistent griff ein und verhinderte, dass der Wagen von der Strasse abkam. Dadurch konnte der Wagen noch anderthalb Kilometer weiter bis in den Ort hineinfahren, wo er mit einer jungen Frau und ihrem Kind kollidierte. Frau und Kind verloren dabei ihr Leben, der Fahrer überlebte.

Nach deutschem wie nach schweizerischem Recht haftet in einem derart gelagerten Fall grundsätzlich der Fahrzeughalter für die verursachten Schäden.[30] Ausnahmsweise ist dies dann nicht der Fall, wenn eine andere (natürlich- und adäquat-kausale) Ursache so dominant auftritt, dass sie die vom Schädiger gesetzte Ursache vollständig in den Hintergrund drängt. Zu denken ist insbesondere an höhere Gewalt.[31] Eine Haftungsbefreiung aufgrund von höherer Gewalt kam im skizzierten Fall jedoch nicht in Frage. Ein Schlaganfall gilt als Zufall, und für Zufall hat der Halter einzustehen.[32]

Nun liesse sich einwerfen, dass gerade der Eingriff des Spurhalteassistenten als dominante Ursache des fatalen Unfallausgangs erscheint. Denn ohne diesen Eingriff wäre das Auto noch ausserorts von der Strasse abgekommen.[33] Ein Fahrzeugmangel müsste nach dem aktuellen Stand der Technik[34] beurteilt werden und würde sich im Übrigen erst einmal zulasten des Halters auswirken.[35] Allenfalls könnte in einem zweiten Schritt über die Produkthaftpflicht noch der Hersteller in die Pflicht genommen werden. Von einem Fahrzeugmangel wird man hier aber schwerlich ausgehen können, denn der Spurhalteassistent funktionierte ja offensichtlich so, wie es von ihm erwartet wurde.

Die Gefährdungshaftung des § 7 StVG erfasst unabhängig vom Automatisierungsgrad sämtliche Fahrzeuge.[36] Dies mag fragwürdig erscheinen, besonders in den Fällen, in denen die Funktionsweise eines Algorithmus ganz ohne menschliches Zutun zu einem Schaden führt, etwa wenn Fahrzeuge zukünftig vollkommen autonom fahren und Menschen nur noch Passagiere sind. Für solche Fälle wurde diskutiert, ob das Konzept der e-Persönlichkeit eine angemessenere Lösung bieten könnte als die heute bekannten und gebräuchlichen Kausalhaftungen. Stattete man KI-gesteuerte Fahrzeuge mit einem eigenen Haftungssubstrat aus, könnten sie für die von ihnen verursachten Schäden selbst in die Pflicht genommen werden, und der Halter könnte im Gegenzug aus der Haftung entlassen werden.[37]

Das Beispiel mit dem Spurassistenten illustriert einige, aber keineswegs sämtliche der typischen Fragestellungen, die sich beim Einsatz neuer Technologien ergeben können. Das Beispiel soll an dieser Stelle als Anzeichen genügen, dass neue digitale Technologien wie die künstliche Intelligenz, das Internet der Dinge oder die Robotik aufgrund ihrer Merkmale einige Aspekte der bestehenden zivilrechtlichen Haftungsrahmen infrage stellen und deren Wirksamkeit verringern könnten. Diese Gefahr strich die Europäische Kommission in ihrem 2020 veröffentlichten Bericht über die Auswirkungen künstlicher Intelligenz, des Internets der Dinge und der Robotik in Hinblick auf Sicherheit und Haftung heraus.[38] Im Jahr zuvor hatte bereits die von der EU-Kommission eingesetzte Arbeitsgruppe HEG-KI in ihrem eigenen Bericht festgehalten, dass die Angemessenheit der derzeitigen Haftungsregelungen in Europa möglicherweise nicht imstande sei, Schäden vollständig zu kompensieren, die durch diese Technologien verursacht werden.[39] Der Hinweis der HEG-KI auf den Umstand, dass sich der zivilrechtliche Haftungsrahmen im Laufe der Jahrhunderte immer wieder an neue Entwicklungen anpassen konnte, stimmt einerseits optimistisch, wird jedoch mit einem warnenden Unterton auf «disruptive» Effekte verknüpft:

«Digitalisation has changed and is still changing the world. The law of liability in European jurisdictions has evolved over the course of many centuries and has already survived many disruptive developments. It therefore does not come as a surprise that, in principle, the law of liability is able to also cope with emerging digital technologies. However, there are some fundamental changes, each of which may be only gradual in nature, but whose dimension and combined effect results in disruption.»[40]

Wo genau die von der HEG-KI angemahnten «disruptiven» Effekte auszumachen sind, welche zu weniger ausgeprägtem Optimismus Anlass geben, bedarf einiger Überlegung und Klärung. Probleme entstehen möglicherweise schlicht deshalb, weil die bestehenden Haftungsregeln in der Regel einem anthropozentrischen und monokausalen Modell folgen.[41] Ohne (kausales) menschliches Versagen erscheint eine verschuldensabhängige Haftung nicht zu begründen. Dies könnte andererseits bereits zu kurz gedacht sein, denn letztlich wird es immer einen Menschen geben, der über den Einsatz und die Auswahl einer bestimmten Technologie entscheidet.[42] Angesichts selbstlernender Algorithmen und agentischer KI ist nur fraglich, wie weit zurück eine solche Entscheidung verfolgt werden muss und kann.[43] Dies verweist auf die Frage, wie weit sich die Autonomie von KI-Systemen entwickeln wird und ob es einen kritischen Grad der Autonomie geben wird, bei welchem von einem Unterbruch im Kausalverlauf gesprochen werden muss.

In ihrem Bericht führt die HEG-KI eine Reihe von Herausforderungen an, welche zu Problemen bei der Anwendung der derzeitigen zivilrechtlichen Haftungsregelungen führen könnten: i) Komplexität, ii) Opazität, iii) Offenheit, iv) Autonomie, v) Vorhersehbarkeit, vi) Datenabhängigkeit und vii) Schwachstellen.[44]

Die Kombination verschiedener Hard- und Softwareprodukte einschliesslich KI-Komponenten führt zu einer zunehmenden Komplexität von Produkten, die dadurch immer schwieriger zu verstehen sind. Dies und eine mögliche Interaktion mit anderen Systemen kann es erschweren, die Kausalkette insgesamt zu verstehen und die letztlich für die adäquate Kausalität entscheidende Fehlerursache zu identifizieren. Gleichzeitig zeigt sich eine zunehmende Unschärfe zwischen Produkten und Dienstleistungen (Stichwort: «Software-as-a-Serivice» (SaaS) und «Agentic AI»). Dieser letzte Umstand führt u.a zu Schwierigkeiten mit dem Begriff «Produkt» bei der Produkthaftung.[45]

Als besonderes Merkmal der Komplexität kann die Opazität[46] angesehen werden. Opazität bezeichnet den Umstand, dass der Code von Algorithmen immer komplexer zu verstehen ist. Gerade bei selbstlernenden Algorithmen kann dies dazu führen, dass auch Fachleute nicht mehr in der Lage sind, den Code Zeile für Zeile nachzuvollziehen, sondern nur noch die vom Algorithmus gelieferten Ergebnisse auf ihre Plausibilität hin testen können.[47] Auch dieses Problem erschwert es, die Kausalketten vollständig zu erfassen und die eigentliche Fehlerursache zu identifizieren. So können systematische Fehler in Daten oder Algorithmen (z.B. versteckte Einseitigkeiten, etwa wenn in Daten eine Bevölkerungsgruppe über- oder unterrepräsentiert ist) angesichts der Grösse und Komplexität der verwendeten Daten oft nicht mehr erkannt werden.[48] Probleme dieser Art traten allerdings schon in der Vergangenheit mit herkömmlicher Technologie auf, sobald nur die Prozesse komplex genug wurden. Auch einem geschädigten Patienten wird es regelmässig schwerfallen, etwa einem Pharmaunternehmen rechtsgenüglich nachzuweisen, dass die Schädigung auf einen Fehler im Herstellungsprozess des eingesetzten Medikaments zurückzuführen war.[49] Der Einsatz der neuen Technologien hat aber durchaus das Potenzial, diese Probleme zu akzentuieren.

Offenheit bezeichnet den Umstand, dass Produkte zunehmend mit anderen Produkten oder Datenquellen zusammenwirken.[50] Selbstlernende Produkte bleiben nach ihrer Inverkehrsetzung nicht statisch oder unverändert, sondern passen sich mit der Zeit laufend an, oft mit der Möglichkeit des Herstellers, auf diese Anpassungen Einfluss zu nehmen. Wie bereits zuvor erwähnt, verändert sich dadurch der eigentliche Produktbegriff in wesentlicher Weise.[51] Die mit der Offenheit verbundene Konnektivität erhöht das Risiko nachträglicher Fehlfunktionen oder von Hackerangriffen (Cyberrisiken).[52]

Das bemerkenswerteste Merkmal der KI-Technologie ist wohl das Merkmal der Autonomie, verstanden als die weitgehend selbständige Interaktion mit sich selbst oder mit anderen KI-Systemen sowie mit der Umwelt, d.h. weitgehend ohne Überwachung durch den Menschen.[53] An dieser Stelle stellt sich die Frage, ob die Entwicklung dereinst zu einem Grad der Autonomie führen wird, bei dessen Erreichen von einer Unterbrechung des Kausalzusammenhangs auszugehen ist.[54] Je autonomer Systeme zu agieren imstande sind, je komplexer sie gebaut sind, desto weniger vorhersehbar werden sie für ihre Nutzer und für Dritte sein, die von ihrem Handeln betroffen sind.[55] Dies kann nicht ohne Folgen für ein mögliches Verschulden der Menschen bleiben, die über ihren Einsatz und ihre Auswahl entscheiden.

Schliesslich zeigen die Datenabhängigkeit, die Offenheit und die Konnektivität auch die Schwachstellen der KI-Systeme auf.[56] KI-Systeme sind durch ihre Vernetzung sehr verwundbare Systeme, auf die unerwartete, nicht vorhergesehene oder nicht vorhersehbare Einflüsse einwirken und die zu mannigfaltigen Schäden führen können.

Die Datenabhängigkeit der KI-Systeme zeigt sich an verschiedenen Stellen. Einerseits ergibt sie sich aus der Interaktion mit anderen Systemen. Bei selbstlernenden Systemen folgt sie andererseits auf natürliche Weise aus den Interaktionen mit ihrer Umwelt, einschliesslich mit dem Verhalten ihrer Nutzer. Dabei können Daten sowohl vom Hersteller als auch vom Nutzer oder gar von Dritten aufgenommen und weiterverarbeitet werden. Solche Daten können fehlerhaft sein und dadurch die Integrität des gesamten Systems gefährden.[57] Hier stellt sich die Frage nach der geteilten Verantwortlichkeit der beteiligten Personen, vom Hersteller bis zum Nutzer oder gar Dritten, die mit dem System freiwillig oder unfreiwillig, bewusst oder unbewusst in Berührung kommen.

Was – ganz im Sinne einer Richtschnur für die weitere Betrachtung – als nicht akzeptabel erscheint, ist, dass Geschädigte weniger oder keine Kompensation erhalten sollen, wenn sie durch KI-Anwendungen zu Schaden kommen, als wenn der Schaden durch menschliches Handeln oder konventionelle Technologie verursacht worden wäre.[58] Akzeptiert man diese Position im Grundsatz, wird man vom Ende her denken müssen und entlang der eben eingeführten Dimensionen einige der Stellschrauben der bisherigen Haftungsregeln neu justieren müssen, um die Herausforderungen der KI-Technologie zu meistern.

Stand der Debatte

Literatur (Rechtswissenschaften)

Das Thema der rechtlichen Behandlung und Einordnung von Algorithmen findet bereits seit mehreren Jahren Eingang in die juristische Literatur. Befeuert wird diese rege Behandlung durch zuweilen spektakuläre Erfindungen, aber insgesamt durch eine sich stetig weiterentwickelnde Technologie, die sich wie selbstfahrende Autos oder «Smart Home»-Anwendungen auch im Alltag der Menschen bemerkbar macht. Insbesondere die Integration von Algorithmen zu Robotern wird gerne thematisiert,[59] sogar aus speziellen Gesichtspunkten wie dem Strafrecht.[60] Nebst allgemeinen Darstellungen der Thematik[61] finden sich bereits spezialisierte Darstellungen zu Gebieten wie dem Arbeitsrecht,[62] dem Urheberrecht,[63] dem Einsatz von Drohnen,[64] dem Strassenverkehr,[65] dem Gesundheitswesen,[66] den Finanzdienstleistungen,[67] dem Verwaltungsverfahren,[68] dem Geschäftsverkehr über das Internet[69] oder der Landwirtschaft.[70] Hinzu kommen rechtliche Spezialthemen wie die Grundrechte[71] oder die Ethik[72] im Allgemeinen oder die Diskriminierung am Arbeitsplatz durch den Einsatz von KI[73] oder die Unterstützung bei internen Untersuchungen[74].

Stellvertretend für diese Anwendungsgebiete seien an dieser Stelle kurz die Erkenntnisse Steinrötters in Bezug auf den Einsatz von Pflegerobotern herausgegriffen: Ganz allgemein sieht Steinrötter kein Bedürfnis für ein eigenständiges Roboterrecht; es bedürfe allenfalls «minimalinvasiver Anpassungen innerhalb der jeweils berührten zahlreichen Rechtsgebiete», wie namentlich dem Vertrags- und dem Deliktsrecht.[75] Unfälle mit Pflegerobotern sind regelmässig der dritten Fallgruppe im Schema von Ursache/Wirkung zuzuordnen.[76] Als Schäden können insbesondere Körperschäden bei den Pflegebedürftigen, den Pflegenden sowie Dritten wie Besuchern der Pflegeeinrichtungen auftreten. Als potenzielle Haftungssubjekte kommen Hersteller, Programmierer, Verkäufer, Eigentümer sowie die Benutzer des Roboters in Betracht. Als zentrale Herausforderung macht Steinrötter dabei die Identifikation der Fehlerquelle aus, welche einer verantwortlichen natürlichen Person umso schwieriger zuzuordnen sei, je autonomer der Roboter funktioniert. Als Anknüpfungspunkt für die ausservertragliche Haftung[77] könnten Verkehrssicherungspflichten dienen, wobei jedoch der Massstab unklar sei, der an diese anzulegen ist. Das Haftungsregime sollte so ausgestaltet sein, dass einerseits die Hersteller und Betreiber einen Anreiz für angemessene Sicherheitsvorkehrungen haben. Andererseits sollte den Geschädigten kein übermässiges Darlegungs- und Beweisrisiko treffen. Hersteller und Betreiber sollten sich exkulpieren können. Denkbar sei eine gesamtschuldnerische Verschuldenshaftung zwischen Hersteller und Betreiber inklusive der Vermutung eines Produktfehlers und der Kausalität für den Schadenseintritt. Spannend erscheint der Vorschlag von fixen Haftungsquoten im Innenverhältnis, die zunächst zu Lasten des Herstellers ausgestaltet sein, die sich aber im Laufe des Einsatzes durch den Verwender (Stichwort: maschinelles Lernen) zunehmend auf ein 50:50-Verhältnis angleichen sollen.[78] Das Beispiel eines unfallverursachenden Pflegeroboters wird in Kapitel VI eingehend untersucht werden.[79]

Ganz ähnlich kommt Roegels für den Einsatz intelligenter Medizinprodukte zum Schluss, dass «die geltenden Haftungskonzepte der Herstellerhaftung und der Arzthaftung im Grunde flexibel genug sind», mit den Risiken und Haftungsfragen der neuen KI-Technologie angemessen umzugehen.[80] Ebenso spricht sich Weichbold aus rechtsökonomischer Sicht dafür aus, den Hersteller eines Fahrassistenzsystems nicht nur verschuldensunabhängig für Produktfehler, sondern fehlerunabhängig für ein in einem solchen System enthaltenes Autonomierisiko (verstanden als Surrogat für einen «Fahrfehler») haften zu lassen.[81]

Wildhaber sieht aktuell keinen Bedarf für eine spezifische Gefährdungshaftung für KI-Betreiber; einem horizontalen Haftungsregime für (hochriskante) KI gibt sie ebenfalls eine Absage. Vielmehr sei es sinnvoller, an sektorspezifischen Vorschriften anzuknüpfen und so «die Kohärenz des geltenden Haftpflichtrechts zu bewahren».[82]

Zu einem betont anderen Schluss kommen Beckers/Teubner in ihrer gross angelegten Studie zur Haftung von KI. Einem minimal-invasiven Ansatz erteilen sie durchwegs eine Absage. Die Produkthaftung sei nichts anderes als eine verkappte Verschuldenshaftung. Eine Gefährdungshaftung sei ebenfalls nicht in der Lage, alle Haftungslücken zu schliessen, da es immer eine Möglichkeit zur Exkulpation gebe. Reformvorschläge wie die Einführung einer e-Persöhnlichkeit schössen jedoch deutlich über das Ziel hinaus. Das Konzept einer e-Persönlichkeit entspreche nicht der «sozio-digitalen Realität», denn Algorithmen treffen keine eigenen Entscheidungen, sondern treffen diese ausschliesslich im (Fremd‑)Interesse ihrer menschlichen Auftraggeber. Stattdessen schlagen die Autoren drei neue Haftungsregime für KI-Anwendungen vor: eine Weiterentwicklung der Hilfspersonenhaftung («digitale Assistenzhaftung»), eine neue Form der kollektiven Haftung («Netzwerkhaftung») sowie eine Vergesellschaftung des sogenannten Vernetzungsrisikos, welches durch eine zunehmend komplexe Vernetzung von digitalen Technologien entsteht («digitale Schwärme»).[83]

Als den zahlreichen Abhandlungen gemeinsames treibendes Motiv kann die Frage gelten, inwieweit KI sich (un‑)abhängig vom menschlichen Verstand und den durch die Programmierung gesetzten Grenzen verhält und gegebenenfalls sogar einmal darüber hinausgeht.[84] Ebenso erscheint die verwandte Frage, inwieweit Algorithmen bzw. KI in rechtlichen Entscheidungsprozessen Anwendung finden bzw. finden kann, nur rudimentär entschieden.[85]

Algorithmen werden in der Literatur zwar regelmässig als mögliche Problemstelle und Aufhänger für die juristische Diskussion erwähnt. Sie werden jedoch selten griffig als tatsächliche, reale Erscheinung thematisiert. Erkannt wird, dass es um Handlungsanweisungen geht, welche sich (auch) von einem Computer automatisch, ganz ohne Zutun eines Menschen, umsetzen lassen. Hoeren bezeichnet Software etwas idealisierend als «Gehirn der Informationsgesellschaft».[86] Dies erinnert an Lohs anschauliche Beschreibung von Computern als Gehirn von Robotern. Dabei stellen Algorithmen die Verhaltensmuster und gelernten Abläufe dieser Roboter dar.[87] Dieses metaphorische Bild wird als nützliche Leitlinie wiederholt für die weiteren Überlegungen herangezogen werden.

Von der Einführung des Begriffs des Algorithmus wird in der Literatur schnell zu seinen praktischen Anwendungen gewechselt (wo sich letztlich die für die Juristen interessanten Probleme zeigen). Zwei häufig wiederkehrende Beispiele sind selbstfahrende Autos und Drohnen. Wegen ihrer absehbaren Relevanz für den Alltag der Menschen und der verschiedenen, mit ihnen verknüpften ethischen Fragen (siehe den «Aschaffenburg-Fall») werden sie auch in der Tagespresse regelmässig debattiert. Das «Internet-of-Things» (IoT)[88] gilt neben der Robotik als Bereich, in dem sich wesentliche technologische Entwicklungen «kristallisierten».[89] In den Aufsätzen, die sich Spezialthemen wie dem Arbeitsrecht oder den Finanzdienstleistungen widmen, erscheinen auch niederschwelligere, weniger spektakuläre, aber deswegen nicht weniger bedeutsame Anwendungen. Beim Thema HR-Analytics bringen Wildhaber, Lohmann und Kaspar das Beispiel eines Algorithmus, der einen Zusammenhang zwischen der Postleitzahl von Arbeitnehmern und ihrer Verweildauer im Unternehmen feststellen könne. Der statistische Hintergrund liegt in der Ansicht, dass Arbeitnehmer mit einer bestimmten Postleitzahl und einem entsprechend langen Anfahrtsweg eine höhere Fluktuation aufweisen sollen. Diesem Muster folgend, sortiert der Algorithmus Bewerbungen von Arbeitnehmern, deren Arbeitsweg eine bestimmte Länge überschreitet, aus.[90] Dieser «Hiring-Algorithmus» illustriert auf eindrückliche Weise ein verbreitetes Unbehagen mit intransparenten, möglicherweise auch fragwürdigen Methoden.

Ob es für Juristen notwendig ist, sich mit dem Begriff des Algorithmus auf einer technischen Ebene auseinanderzusetzen, muss nicht unmittelbar einleuchten. Wer sich mit der Anwendung des Strassenverkehrsgesetzes beschäftigt, muss schliesslich auch nicht in der Lage sein, die Funktionsweise eines Motors oder eines Getriebes zu verstehen, geschweige denn, solche Apparate zu reparieren. Die skizzierten Anwendungen von Algorithmen genügen vollauf, die wesentlichen Probleme zu identifizieren, die sie dem Recht stellen. Möglicherweise ist ein vertieftes technisches Verständnis jedoch bei der Lösungsfindung nützlich.

Als hauptsächliches Problem erscheint bei allen Autoren die Schwierigkeit, bei Algorithmen – jedenfalls solchen, die eine kritische Stufe der Autonomie erreichen – die traditionelle Kontrollfunktion einer Person zuzuordnen, an der sich die bestehenden Haftungsregeln festmachen lassen. Wie diese kritische Stufe der Autonomie zu bestimmen ist, kann hier noch offenbleiben. Jedenfalls scheint es für Pieper naheliegend, dass eine vernetzte KI (Stichwort: IoT) zu immer autonomeren Systemen führen kann, die immer weniger auf den Input von ihren Benutzern angewiesen sind.[91] Spätestens, wenn diese Entwicklungsstufe erreicht ist, seien althergebrachte Zurechnungsparadigmen wie die der Hilfspersonen neu zu beurteilen.[92]

Warum dies so ist, liegt nach Weber darin begründet, dass die aktuellen Haftungsregime auf der Verbindung zu körperlichen Sachen und damit verbundenen Dienstleistungen fussen.[93] Für die weitgehend im 19. Jh. fixierten nationalen Schuldrechtsordnungen bleibt unklar, was «digitale Inhalte» sein sollen und wie sich eine Schlechterfüllung in Bezug auf digitale Dienstleistungen definieren lässt. Nach Weber braucht es für die digitalen Geschäftsmodelle «offensichtlich» neue Ansätze, um die neuen Herausforderungen der Digitalisierung zu bewältigen. Das Ungenügen der althergebrachten Ansätze liegt weiter daran, dass an einer IoT-Netzwerkarchitektur zahlreiche Personen beteiligt sind.[94] Diese Akzentuierung der mit der Industrialisierung eingeführten Arbeitsteilung kann nicht ohne Wirkung für die Definition der von den Beteiligten geforderten Sorgfaltspflicht bleiben.[95] Diese Problematik ist allerdings nicht völlig neu. Sie stellt sich – allerdings eher im Strafrecht – bereits in arbeitsteiligen Organisationen wie internationalen Grosskonzernen mit ihren zuweilen diffusen Verantwortlichkeitsstrukturen.[96]

Das angesprochene Unbehagen mit Algorithmen gründet sich häufig in der Intransparenz der Entscheidungen und der gefühlten Unsicherheit über die solchen Entscheidungen zugrundeliegenden Kriterien oder gar Werten. Die Nutzer sehen letztlich nur die Ergebnisse, der eigentliche Programmcode, welcher diese Entscheidungen ermöglicht, ist und bleibt den Nutzern häufig verborgen, jedenfalls meist unverständlich. Pfeil greift aber möglicherweise zu kurz, wenn er ausführt, dass Algorithmen nur die ethischen Vorstellungen hätten, die ihre Hersteller ihnen geben.[97] Jeder Algorithmus ist letztlich «nur» eine mathematische Formel. Selbstlernende Algorithmen scheinen aber durchaus das Potential zu haben, auch ihre Hersteller zu überraschen.[98] An dieser Stelle liegt ja gerade das eigentliche Neue mit der Unsicherheit, wie weit die Autonomie von Algorithmen sich zukünftig ausbilden könnte.

Noerr betrachtet die Unsicherheit der Nutzer im Umgang mit Algorithmen von ihrer anderen Seite. Die fehlende Regulierung im Bereich Verantwortung und Zurechnung von Handeln autonomer Systeme sei als eines der grössten Digitalisierungshemmnisse in Deutschland zu sehen.[99] Diese Position deutet an, dass ein Gegenstück zu Verantwortung und Haftung der Hersteller, Anbieter oder Nutzer von Algorithmen das Vertrauen der anderen Beteiligten sein könnte.

Generell kann mit Gordon/Lutz wohl davon ausgegangen werden, dass eine mögliche Verantwortung von Algorithmen an den Grad der Autonomie (der Begriff ist natürlich zu klären) geknüpft werden sollte.[100] In der Literatur werden neben der vertraglichen Mängelhaftung und der verschuldensabhängigen Deliktshaftung, u.a. auch Vorschläge für die Haftung nach dem Produktehaftpflichtgesetz gemacht und die Gefährdungshaftung thematisiert.[101] Der Hersteller oder Programmierer habe nur Schäden durch Fehler am Produkt zu verantworten. Für Gordon/Lutz könne auch das autonome System selbst nicht in die Verantwortung gezogen werden, da die Eigenschaften einer handlungsfähigen Person nicht gegeben seien und es ausserdem an der Willensfreiheit fehle.[102] Darum brauche es entsprechende Gesetzesanpassungen, um kritische Haftungsfragen (wie den Aschaffenburger-Fall) im Zusammenhang mit autonomen Systemen abzudecken. Denkbar sei z.B. die Schaffung eines neuen Tatbestands einer Gefährdungshaftung, allenfalls geknüpft an die Pflicht, eine Haftpflichtversicherung abzuschliessen.[103]

Gegenüber einer Notwendigkeit, angesichts von Big-Data-Anwendungen neue Haftungsregeln einzuführen, zeigt sich Kirchner skeptisch und zurückhaltend.[104] Kirchner bespricht zunächst die Regelung von § 824 BGB zur Kreditgefährdung: Die Lieferung eines Scorings entspricht einer Meinungsäusserung, die – anders als die objektiv erfassbaren Rohdaten – als Arbeitsergebnis nicht anhand bestimmter Beweismittel überprüfbar ist. Ob dieses Scoring von einem Algorithmus oder von einem erfahrenen Kreditsachbearbeiter geliefert wird, spiele rechtlich keine Rolle. Eine «Computermeinung» sei nicht anders zu beurteilen als die Meinung eines Menschen. Weiter erteilt Kirchner sowohl einer Ergänzung oder Ausweitung des PrHG als auch der Schaffung einer besonderen, auf Big-Data-Anwendungen gemünzten Gefährdungshaftung eine klare Absage. Der Fehlerbegriff der EU Produkthaftungs-Richtlinie sei so offen genug formuliert, dass sich eine Vielzahl von zukünftig denkbaren Fehlern erfassen lassen. Kirchner sieht einzig bei der Grundregel von § 823 BGB eine mögliche Lücke bei durch Datenfehler verursachten reinen Vermögensschäden.

Auch Weber sieht Gefährdungshaftungen nicht unbedingt als die Lösung, denn ein Roboter bzw. ein autonomes System sei weder eine Person, die eine Haftungsanknüpfung ermöglicht, noch an sich ein gefährliches Werkzeug.[105] Immerhin stelle sich die Frage, ob die traditionelle Produktbeobachtungspflicht ausreicht, um eine Haftung zu begründen, wenn eine ursprünglich fehlerfreie AI durch Selbstentwicklung (zum «Self-Learning» siehe sogleich) zur Gefahrenquelle wird. Anders als Kirchner erachtet Weber eine Erweiterung des Produktbegriffs auf Software und gewisse Dienstleistungen als notwendig, sodass AI vom Produkthaftpflichtgesetz und Produktsicherheitsgesetz erfasst wäre.[106] Die steigende Bedeutung der Ausgestaltung der Vertragssprache im Programmcode führe im Übrigen zu einer Verwischung von Vertrags- und Delikts- bzw. Produktehaftung.[107] Bei der Haftung aus Vertrag müsse die sich ohnehin im Gang befindliche Diskussion über die Ausdehnung des Sorgfaltskonzepts weitergeführt werden. Zentrale Bedeutung werde innerhalb des Problemkreises der Inhaltskontrolle von AGB der Frage zukommen, ob man sich von der Haftung für Subunternehmen, insbesondere Software-Lieferanten, befreien kann.

Anders als zuvor Pfeil erkennt Pieper, dass bei Einsatz von intelligenten Systemen ganz unterschiedliche Ergebnisse in der rechtlichen Bewertung entstehen können, wenn man die zunehmende Intelligenz und Lernfähigkeit autonomer Systeme berücksichtige.[108] Fraglich bleibe derzeit noch, inwieweit eine Handlung intelligenter Systeme tatsächlich ausserhalb der eigenen Programmierroutinen ablaufen könne und welche genauen Folgen hieraus entstehen könnten. Inwieweit dies rein theoretisch möglich ist, muss noch diskutiert werden.[109] Nach Pieper besteht grundsätzlich Einigkeit, dass eine Haftung regelmässig auf den Nutzer autonomer Systeme zurückzuführen sein solle. Wenn Maschinen oder Roboter, die Produktionsprozesse steuern, Fehler machen, sei es die Willenserklärung und Verantwortung desjenigen, der das Programm einsetzt, diese abzustellen. Pieper fragt sich allerdings, ob die KI imstande ist, sich so weit fortzuentwickeln, dass diese Zurechnung dereinst nicht mehr klappen könnte.[110] An diesem Punkt sehen verschiedene Autoren ein Motiv, den Algorithmen originäre Verantwortung zuzusprechen, um für eine zweckmässige Zuteilung des Risikos von Fehlentscheiden nach den Interessen der Beteiligten zu sorgen.[111] Diese Idee setzt sich ab vom «Zurechnungsparadigma», wonach die Willenserklärung letztlich immer von den Nutzern der besagten Systeme stammen soll.[112] Noch nicht absehbar ist freilich, wie lange es noch geht, bis autonomen Systemen ein eigener Geschäftswille zugeordnet werden kann. Nach der derzeitigen Rechtslage kann jedenfalls ein Roboter als Vorgesetzter mangels Rechts- und Handlungsfähigkeit keine eigene rechtswirksame Willenserklärung abgeben.[113] Roboter sind unstreitig im rechtlichen Sinn nicht handlungsfähig,[114] jedoch ist es nach Wildhaber möglich, dass Roboter menschlichen Arbeitnehmern Weisungen erteilen.[115] Mangels voller Verantwortlichkeit des Roboters müsse ein Mensch für die Weisungen des Roboters die Verantwortung übernehmen.[116] Darin kann eine Art «funktionale Verantwortlichkeit» gesehen werden, von der noch eingehend zu sprechen sein wird.[117] Pieper postuliert eine Fiktion des Geschäftswillens des autonomen Systems, wenn der Nutzer des Systems nur noch eine schemenhafte Vorstellung der generierten Erklärung haben kann.[118] Demnach könnte der technologische Fortschritt die Wertungen der aktuellen gesetzlichen Zurechnungsnormen so weit ändern, dass eine Zurechnung an den Nutzer nur noch schwer zu halten ist (fehlendes Bewusstsein beim Nutzer). Aus Sicht des Haftungsrechts ist es problematisch, wenn eine «Zurechnungskette» nicht mehr vollständig nachvollziehbar ist.

Nach Pfeil (und anderen) haben KI-Systeme derzeit jedoch (noch) nicht den Grad an Autonomie erreicht, dass eine Anknüpfung an ein menschliches Verhalten nicht mehr möglich wäre. Vielmehr können nach Pfeil die Verantwortungslücken durch eine behutsame Weiterentwicklung bestehender Regelungen geschlossen werden. Daneben könne jedoch die Frage der Verschuldenshaftung einer Maschine zu Regelungslücken führen, wenn man die Kriterien der Rechtsprechung dem «Roboterhandeln» zugrunde legt, wonach eine Verschuldenshaftung bei ordnungsgemässem Betrieb und fachgerechter Wartung technischer Systeme ausscheiden würde. Auch würden spezifische Risiken aus dem Einsatz von KI nicht erfasst, nämlich unvorhersehbare Ergebnisse insbesondere der selbstlernenden Systeme.[119] Pfeils Meinung unterstreicht die grosse, mit der zukünftigen Reichweite der Autonomie von Algorithmen verbundene Unsicherheit.

Die Möglichkeit, dass sich eine ursprünglich fehlerfrei ausgelieferte KI-Anwendung durch «Self-Learning» selbst zu einer Gefahrenquelle weiterentwickelt, wurde schon genannt (Weber). Wilde-Detmering sieht bei automatischen und insbesondere autonomen Systemen generell ein Problem mit der Unvorhersehbarkeit ihrer Aktionen und Lernkurven.[120] Konkret sieht Wildhaber die Gefahr, dass es schwierig festzustellen sein könnte, ob eine schädigende Handlung eines Roboters bereits auf die ursprüngliche Programmierung oder erst auf das spätere selbständige Dazulernen zurückzuführen ist.[121] «Self Learning» kann das Verständnis von KI-Abläufen somit nochmals erschweren. Schaub sieht vor allem problematisch, dass sich die Abläufe der Entscheidungsfindung mit Hilfe sich selbst weiterentwickelnder Algorithmen häufig nicht mehr nachvollziehen lassen. Diese Intransparenz könne dazu führen, dass die Beiträge der einzelnen, an einem Schadenereignis beteiligten Akteure nicht mehr vollständig rekonstruierbar sind, sodass traditionelle Zurechnungskriterien wie dasjenige der Kausalität praktisch nicht mehr vollständig greifen.[122] Somit können nach Schaub Haftungsfragen zu KI-Anwendungen mit Hilfe herkömmlicher dogmatischer Kategorien nicht hinreichend gelöst werden.[123] Allerdings käme bei selbstlernenden Systemen generell eine Haftung des Herstellers, Halters oder Betreibers in Betracht. Letztlich denkbar sei auch eine Haftung des Systems selbst (als «elektronische Person»). In jedem Fall müsse bei der Haftungszuweisung eine Abwägung der Chancen und Risiken unter Berücksichtigung ökonomischer Gesichtspunkte vorgenommen werden. Keinesfalls dürfe der Einsatz von Technik zum Diffundieren oder gar Verschwinden von Verantwortung führen. Wer sich automatisierte Vorgänge zunutze macht, müsse für deren Auswirkungen zur Verantwortung gezogen werden können.[124]

Für Pieper zeigt sich der disruptive Charakter des technologischen Fortschritts, wenn die Durchsetzbarkeit bestehender rechtlicher Regelungen durch die faktische Macht neuer Technologien infrage gestellt wird.[125] Um dies zu verhindern, braucht es eine «technologie-adäquate»[126] Fortbildung des Rechts oder vielleicht gar die Einführung neuer Rechtsinstitute. Nach frühen Anfängen im Mittelalter[127] erfuhr die Konzeption der Kapitalgesellschaft erst mit der Industrialisierung des 19. Jh. ihren Durchbruch. Nach einigen Autoren könnte die Digitalisierung des 21. Jh. zur Einführung der e-Persönlichkeit für Algorithmen oder zumindest für Roboter führen.[128] Auch Zobl/Lysakowski sehen die e-Persönlichkeit als denkbar, machen aber aktuell keinen akuten Bedarf nach diesem neuen Rechtsinstitut aus. Es könne aber in der Zukunft dazu dienen, die Zurechnungsproblematik bei Erklärungen zu lösen oder Rechtslücken bei der Haftung (wie im «Aschaffenburger Fall») zu schliessen.[129] Der Bedarf könne mit zunehmender technischer Entwicklung jedoch akut werden.[130] Andere Autoren warnen vor der Gefahr des «Moral Hazard», wenn sich die Hersteller oder Nutzer hinter dem Algorithmus verstecken können sollten.[131]

Literatur (Moralphilosophie)

Die Ethik als Lehre vom Guten und vom Bösen hat ihre Wurzeln in der Antike,[132] beschäftigt sich allerdings erst seit der Moderne vermehrt mit Fragen des Einflusses der Technik auf den Menschen als moralisches Wesen.[133] Innerhalb der Ethik haben sich verschiedene «Bereichsethiken» herausgebildet, so etwa die Tier- oder Pflanzenethik, die sich mit dem richtigen Umgang mit Tieren bzw. Pflanzen beschäftigen. Ungefähr ab dem Beginn der 2000er Jahre entwickelt sich auch eine eigentliche Roboterethik,[134] wobei einige der grundlegenden Texte durchaus älteren Ursprungs sind.

Nach Jonas ist das Urbild der Verantwortung die von Menschen für Menschen, was «unwidersprechlich» in der Natur der Sache liege. Auch kann nur etwas Lebendiges Gegenstand der Verantwortung sein.[135] Verantwortung gehört demnach zum menschlichen Leben. Gleichzeitig ist Verantwortung ein modernes Konzept, denn die Moral der früheren Zeiten musste sich nur mit dem Hier und Jetzt beschäftigen. Verantwortung ist eine Funktion von Macht und Wissen. Es fehlte diesen früheren Zeiten jedoch an der Kraft der Technik.[136]

Aufschlussreich sind die Arbeiten von Hans Lenk seit dem Beginn der 90er Jahren, der sich u.a. mit der Verwischung von Verantwortlichkeit angesichts der Intransparenz der Technik beschäftigt.[137] Dabei handelt es sich um ein bekanntes Problem, das unabhängig von der Technik oder gar von Konzepten wie der KI auch in grossen, komplexen Organisationen auftaucht.[138] Aber auch für Lenk können nur Menschen moralisch haften. Ohne den Personenstatus können die Entscheidungen von artifiziellen Systemen höchstens «sekundär und indirekt moralische Relevanz haben».[139]

In der Roboterethik wird die traditionell verstandene moralische Verantwortung tendenziell an Personalität (oder Moral Agency) geknüpft, die sich auf den Kriterien der Kommunikationsfähigkeit, der Handlungsfähigkeit oder Autonomie und der Urteilskraft gründet.[140] Nach Loh ist die gängige roboterethische Haltung die, wonach Roboter – zumindest die aktuell bekannten – nur Objekte, aber keine Subjekte seien, da ihnen die für die Zuschreibung von Verantwortung notwendigen Kompetenzen abgehen.[141] Selbst die komplexesten Maschinen sind letztlich von Menschen gemacht und jeder Algorithmus ist einem genau bestimmten Zweck gewidmet.

Das naheliegende Argument ist, dass diese Meinungen zwar dem aktuellen Stand der Dinge entsprechen, aber dass die Verhältnisse deswegen angesichts des technologischen Fortschritts nicht so bleiben müssen. Ethikkodizes, wie oben vom Europäischen Parlament vorgeschlagen, können nach Lenk und anderen Denkern ein geeignetes Instrument sein, um die Entwicklung in geordneten Bahnen zu halten.[142] Lenk und Maring unterscheiden dabei zwischen der internen Verantwortung des Wissenschaftlers (oder Entwicklers) gegenüber seiner «Zunft» und der externen Verantwortung gegenüber den betroffenen Personen und der Gesellschaft.[143]

Was sich in der einschlägigen Literatur herauskristallisiert, ist immerhin eine operationelle Verantwortung i.S. einer kausalen Verursachung oder «Haftung» in Abgrenzung zu dem auf einer höheren Ebene angesiedelten moralischen Phänomen[144] der moralischen Verantwortung, welches eine gewisse Intentionalität oder eben Urteilskraft voraussetzt.[145] Was auffällt und zu beachten ist, ist, dass die Begriffe Haftung und Verantwortung in der moralphilosophischen Literatur nicht im selben Sinn gebraucht werden, unter dem sie in der Rechtswissenschaft bekannt sind. Dass die Kategorien hier teilweise unscharf wahrgenommen werden, zeigt sich, wenn Loh das von ihr übernommene und weiter spezifizierte Konzept des Verantwortungsnetzwerks einführt.[146] Dieses Konzept sieht vor, dass «all denjenigen Parteien in einer gegebenen Situation Verantwortung zu attestieren ist, die an dem fraglichen Geschehen beteiligt sind, und zwar in dem Masse, in dem sie die nötigen Kompetenzen zur Verantwortungszuschreibung mitbringen».[147] Das «in dem Masse» soll «inklusive Ansätze» ermöglichen, bei denen nebst Menschen auch autonome Systeme zumindest einen Teil der Verantwortung tragen können sollen. In § 254 BGB will die Autorin nun eine «ansatzweise Realisierung eines Verantwortungsnetzwerkes» erblicken.[148] Es ist klar, dass hier von Konzepten auf unterschiedlichen Ebenen gesprochen wird.

Gesetzgeberische Initiativen

An dieser Stelle muss zunächst auf die grundsätzlich andere Herangehensweise der Gesetzgeber in der Schweiz und in der EU hingewiesen werden, wenn sich neue soziale, wirtschaftliche oder technologische Entwicklungen zeigen, die möglicherweise einer Regulierung bedürfen.[149] Im internationalen Kontext werden neue Entwicklungen in der Regel mittels horizontaler Regulierungen erfasst. Wie die Diskussion in diesem Abschnitt zeigen wird, führte diese Präferenz dazu, dass in der EU für die KI zu neuen Rechtsinstrumenten wie der 2024 erlassenen KI-Verordnung gegriffen wurde. In der Schweiz wird demgegenüber gerne das sogenannte Prinzip der Technologieneutralität hochgehalten. Diese Präferenz führt zu einem «sparsamen», insgesamt zurückhaltenden Gesetzgebungsprozess, wobei bestehende Normen neu ausgelegt, einzelne Gesetze korrigiert und um spezifische Normen ergänzt werden. Dies muss kein Nachteil sein, können wenig durchdachte rechtliche Neuerungen (wie insbesondere eine «e-Persönlichkeit» für bestimmte Erscheinungsformen der KI) doch die Kohärenz der Rechtsordnung bedrohen. Das Prinzip der Technologieneutralität sollte jedoch nicht als Ausrede missbraucht werden, um schwierige regulatorische Aufgaben nicht anzugehen und zu lösen. Ausserdem besteht im internationalen Kontext zumindest ansatzweise die Tendenz, private Personen an dieselben (grundrechtlichen) Pflichten zu binden wie den Staat. Aus diesen Gründen werden in diesem Abschnitt als Erstes die aktuellen gesetzgeberischen Aktivitäten in der EU beschrieben, welche entweder auf dem Wege des autonomen Nachvollzugs oder als Taktgeber und Anregungen für die Schweiz praktische Bedeutung erlangen können.[150]

Das Europäische Parlament befasste sich 2016/2017 mit verschiedenen grundsätzlichen Fragen zu zivilrechtlichen Regelungen im Bereich der Robotik und dem Internet der Dinge (IoT).[151] Gestützt auf einen ausführlichen Bericht seiner Rechtskommission[152] forderte es die Kommission u.a. zu einem Vorschlag für ein «Rechtsinstrument über rechtliche Fragen im Zusammenhang mit der Entwicklung und Verwendung von Robotik und künstlicher Intelligenz» auf.[153] Das Europäische Parlament forderte die Kommission nicht nur, wie von mehreren Autoren berichtet,[154] zur Prüfung der Frage auf, ob Robotern mit einer gewissen Komplexität ein spezieller rechtlicher Status (z.B. die zuvor angesprochene e-Persönlichkeit) zuerkannt werden solle.[155] Der Bericht beinhaltet eine umfassende Reihe von Erwägungen zum Stand der Technik und den möglichen Auswirkungen des Einsatzes von Robotern auf die Gesellschaft, insbesondere die Arbeitsmärkte und spezifische Bereiche wie Medizin und Pflege. Für die anstehende Untersuchung ist insbesondere die Aussage herauszustreichen, «dass es angesichts der bei der Entwicklung von Robotik und KI erreichten Phase angezeigt ist, mit Fragen der zivilrechtlichen Haftung zu beginnen».[156] Wie auch immer die rechtliche Lösung der Haftungsfrage aussehen könne, solle die Haftung für von Robotern verursachte Schäden nicht schon deshalb beschränkt werden, dass der Schaden von einem nicht-menschlichen Akteur verursacht worden sei. Als mögliche Lösungsansätze sah das Europäische Parlament einerseits die verschuldensunabhängige Haftung (Gefährdungshaftung) sowie andererseits den Risikomanagementansatz, wonach die Person haften soll, die nach den Umständen das eingetretene Risiko hätte minimieren können. Die Haftung sollte grundsätzlich im Verhältnis zum tatsächlichen Ausmass der Anweisungen stehen, die dem Roboter von seinem menschlichen «Kontrolleur» oder «Trainer» gegeben worden sind, sowie im Verhältnis zum Grad der Autonomie des Roboters. Dies bedeute, dass die Verantwortung des «Trainers» desto grösser sein sollte, je grösser die Lernfähigkeit oder die Autonomie des Roboters sind und je länger das Training des Roboters dauert. Als Instrumente zur rechtlichen und administrativen Begleitung der technologischen Entwicklung über die nächsten 10 bis 15 Jahre schlug das Europäische Parlament eine Taxonomie, die Einführung eines Registers für Algorithmen ab einer bestimmten Stufe der Autonomie sowie die Schaffung einer Charta vor, die aus einem Verhaltenskodex für Ingenieure und Entwickler im Bereich der Robotik, einem Kodex für Ausschüsse für ethische Fragen in der Forschung und aus Musterlizenzen für Konstrukteure und Nutzer bestehen sollte.[157] Viele dieser Ideen und Denkansätze sollten später in die Entwürfe zur KI-Verordnung und zur überarbeiteten Produkthaftungsrichtlinie einfliessen.[158]

Als neben dem Europäischen Parlament zweiter Gesetzgeber der EU forderte der Europäische Rat 2017 «ein Bewusstsein für die Dringlichkeit der Auseinandersetzung mit neuen Trends», namentlich für Themen wie die KI, «wobei zugleich ein hohes Niveau in Bezug auf Datenschutz, digitale Rechte und ethische Standards gewahrt werden» müsse.[159] Im Oktober 2020 rief der Rat der Europäischen Union dazu auf, Lösungen für die Undurchsichtigkeit (opacity), die Komplexität (complexity), Voreingenommenheiten (biais), ein gewisses Mass an Unvorhersehbarkeit (a certain degree of unpredictability) und teilautonomes Verhalten (partially autonomous behaviour) bestimmter KI-Systeme zu finden, um ihre Vereinbarkeit mit den Grundrechten zu gewährleisten und die Durchsetzung rechtlicher Vorschriften sicherzustellen.[160]

Auch die Europäische Kommission engagiert sich seit mehreren Jahren stark im Bereich der Digitalisierung. Früh erkannte die Kommission die Bedeutung der (zivilrechtlichen) Haftung für den Aufbau der zukünftigen digitalen Datenwirtschaft.[161] Es sei «von zentraler Bedeutung für das Entstehen der Datenwirtschaft, wie sowohl den Nutzern als auch den Herstellern [von Geräten im Bereich IoT] in Bezug auf ihre potenzielle Haftung Sicherheit gegeben werden kann.»[162] Für den Bereich der ausservertraglichen Haftung steht in vielen Fällen die Produkthaftung im Vordergrund.[163] Deshalb hat die Kommission eine «umfassende Bewertung der Produkthaftungsrichtlinie eingeleitet, um festzustellen, wie sie insgesamt funktioniert und ob ihre Vorschriften, die für ein anderes Umfeld entwickelt worden waren, nach wie vor für die neu entstehenden Techniken, wie das Internet der Dinge und autonome vernetzte Systeme, geeignet sind».[164] Abgesehen vom Status quo seien für die Zukunft zwei mögliche Lösungsansätze oder Konzepte denkbar: Nach dem risikoabhängigen Konzept werden jene Marktteilnehmer haftbar gemacht, die grosse Risiken für andere verursachen, oder die am besten in der Lage sind, das Eintreten dieser Risiken zu minimieren oder zu vermeiden («Risk Management-Ansatz» oder «Risikovorsorge»). Bei der Einführung von freiwilligen oder verbindlichen Versicherungssystemen müssten Unternehmen Rechtsschutz für die von ihnen getätigten Investitionen erhalten und angemessen versichert sein, um die geschädigten Parteien (z.B. Verbraucher) entschädigen zu können.

Im April 2018 kündigte die EU-Kommission in einer Mitteilung die erste umfassende europäische KI-Initiative an.[165] Als Ziele der europäischen KI-Initiative nannte sie: die Förderung der technologischen und industriellen Leistungsfähigkeit der EU sowie der Verbreitung von KI in der gesamten Wirtschaft, die Vorbereitung auf die mit KI verbundenen sozioökonomischen Veränderungen sowie die Gewährleistung eines geeigneten ethischen und rechtlichen Rahmens. Zu diesem rechtlichen Rahmen sollten auch Leitlinien zu bestehenden Produkthaftungsvorschriften gehören. Auf der Grundlage dieses Konzepts unterzeichneten 25 Mitgliedstaaten am 10. April 2018 eine Kooperationserklärung über die gemeinsame Erstellung eines «Koordinierten Plans für die KI».[166]

Im Juni 2018 setzte die EU-Kommission sodann eine unabhängige hochrangige Expertengruppe («HEG-KI») für künstliche Intelligenz ein, um der Kommission Fachwissen über die Anwendbarkeit der Produkthaftungsrichtlinie und der nationalen Vorschriften zu liefern und sie bei der Ausarbeitung von Leitprinzipien für mögliche Anpassungen der geltenden Rechtsvorschriften zu unterstützen.[167] Die HEG-KI veröffentlichte im April 2019 im Sinne eines «dynamischen Arbeitspapiers» ihre «Ethik Leitlinien für eine vertrauenswürdige KI». Nach Auffassung der HEG-KI sollte sich eine vertrauenswürdige KI durch drei Aspekte auszeichnen: 1) Sie ist rechtmässig (lawful AI) und stellt die Einhaltung aller geltenden Gesetze und Vorschriften sicher. 2) Sie ist ethisch (ethical AI) und stellt die Einhaltung ethischer Grundsätze und Werte sicher. 3) Sie ist sowohl aus technischer als auch aus sozialer Sicht robust (robust AI). Das Thema Haftung wurde in diesem Papier nur am Rande gestreift. Das Thema Haftung erscheint immerhin im Rahmen der Pilotversion zur Bewertung von vertrauenswürdiger KI: Demnach soll sich der Hersteller eines KI-Systems dazu äussern, ob und inwieweit er sich mit der Wahrscheinlichkeit auseinandergesetzt hat, dass sein KI-System den Anwendern oder Dritten Schaden zufügen könnte, und ob er dabei die Haftungs- und Verbraucherschutzbestimmungen berücksichtigt hat.[168]

In ihrer 2019 veröffentlichten Bewertung der bestehenden Haftungsregelungen im Zusammenhang mit der Anwendung der neuen digitalen Technologien kam die Untergruppe «Neue Technologien» der HEG-KI zum Schluss,[169] dass die in den Mitgliedstaaten geltenden nationalen Haftungsregelungen zumindest einen grundlegenden Schutz von Opfern gewährleisten, deren Schaden durch den Betrieb solcher neuer Technologien verursacht wird. Allerdings können die besonderen Merkmale dieser Technologien und ihrer Anwendungen – namentlich der Komplexität, der Veränderung durch Updates oder Selbstlernen während des Betriebs, der begrenzten Vorhersehbarkeit und der Anfälligkeit für Cybersicherheitsbedrohungen – es erschweren, diesen Opfern einen Anspruch auf Entschädigung in allen Fällen zu gewähren, in denen dies gerechtfertigt erscheint. Es kann auch der Fall sein, dass sich die Haftungszuweisung auf die am Unfall beteiligten Parteien als ungerecht oder ineffizient erweist. Um dies zu korrigieren, müssen nach Meinung der HEG-KI bestimmte Anpassungen an den EU- und nationalen Haftungsregelungen vorgenommen werden.[170]

In ihren ebenfalls 2019 veröffentlichten Empfehlungen zu einer angemessenen Regulierung von KI stellte die HEG-KI fest, dass es aufgrund der Neuartigkeit der Technologie und des fehlenden systematischen Verständnisses ihrer Auswirkungen auf die Gesellschaft bislang nur wenig gesicherte Erkenntnisse gebe, die als Grundlage für politische Entscheidungen dienen können.[171] Folglich könne nur ein risiko-basierter Regulierungsansatz in Frage kommen. Nur bei solchen KI-Anwendungen, für die wissenschaftliche Erkenntnisse vorliegen, dass diese ein inakzeptables Risiko (generating «inacceptable» risk or posing threats of substantial harm) darstellen, sollen prinzipienbasierte Regulierungen eingreifen.[172] Eine unnötig präskriptive Regulierung solle vermieden werden. In Bereichen, die durch einen schnellen technologischen Wandel gekennzeichnet sind, sei es oft besser, einen prinzipienbasierten Ansatz sowie eine ergebnisorientierte Politik zu verfolgen, gepaart mit einer angemessenen Überwachung und Durchsetzung. Über zivilrechtliche Haftungsregeln äusserte die HEG-KI nur ihre Ansicht, dass diese in der Lage sein müssen, eine angemessene Entschädigung im Falle von Schäden und/oder Rechtsverletzungen zu gewährleisten. Dies könne entweder durch verschuldensunabhängige Haftung oder durch Haftung aus unerlaubter Handlung geschehen, wobei diese Haftungen möglicherweise durch verbindliche Versicherungsbestimmungen ergänzt werden müssten.[173]

Eine weitere, wichtige Etappe auf dem Weg zu einer Regulierung der KI markierte das Weissbuch zur KI, welches die Kommission im Februar 2020 veröffentlichte.[174] Das Weissbuch legte zunächst die politischen Optionen dar, wie das zweifache Ziel der Förderung der Einführung von KI einerseits und der Bewältigung der mit bestimmten KI-Anwendungen verbundenen Risiken andererseits erreicht werden kann. Das Weissbuch stellte sodann die konzeptionellen Grundzüge für den Vorschlag zu einer Verordnung über KI zusammen, welcher nur ein Jahr später, im April 2021, veröffentlicht werden sollte: Nach dem Fazit des Weissbuchs zielt der europäische Ansatz für KI darauf ab, «die Innovationsfähigkeit Europas im Bereich der KI zu fördern und gleichzeitig die Entwicklung und Einführung ethischer und vertrauenswürdiger KI in der gesamten EU-Wirtschaft zu unterstützen. KI sollte in den Diensten der Menschen stehen und eine positive Kraft für die Gesellschaft sein».[175] Gleichzeitig mit dem Weissbuch veröffentlichte die Kommission einen Bericht über die Auswirkungen künstlicher Intelligenz, des Internets der Dinge und der Robotik in Hinblick auf Sicherheit und Haftung.[176] Dieser Bericht stützte sich massgeblich auf die Berichte der HEG-KI ab, nahm aber auch verschiedene Anregungen des Berichts des Rechtsausschusses des EP auf. Ziel dieses Berichts war es, die weiterreichenden Auswirkungen, die KI, IoT und Robotik auf den Haftungs- und den Sicherheitsrahmen haben, sowie die potenziellen Lücken in diesen Rechtsrahmen zu ermitteln und zu prüfen.[177]

Am 21. April 2021 legte die Kommission ihre ausgearbeiteten Vorschläge zu neuen Regeln und Massnahmen zu einem umfassenden Rechtsrahmen für die KI und ihre Anwendungen vor. Den ersten Eckstein dieses Rechtsrahmens sollte die 2021 neu vorgeschlagene KI-Verordnung («Artificial Intelligence Act»)[178] markieren.[179] Die 2024 verabschiedete und am 1. August 2024 in Kraft getretene KI-Verordnung spricht Fragen der (zivilrechtlichen) Haftung nur am Rande an.[180] Dazu wurde der Koordinierte Plan für die KI von 2018 erneuert,[181] um die Sicherheit und die Grundrechte von Menschen und Unternehmen zu gewährleisten und gleichzeitig Investitionen und Innovationen im Bereich der KI in der gesamten EU zu fördern. Den zweiten Eckstein des Rechtsrahmens sollen neue Vorschriften für Maschinen («Machinery Regulation»)[182] bilden. Bestehende Sicherheitsvorschriften[183] sollen angepasst werden, um das Vertrauen der Nutzer in eine neue, vielseitige Generation von Produkten zu stärken.[184] Als weitere Ecksteine folgten am 28. September 2022 Vorschläge für eine überarbeitete Produkthaftungsrichtlinie[185] und für eine Richtlinie über KI-Haftung,[186] womit die konzeptionellen Vorarbeiten des Europäischen Parlaments, der HEG-KI sowie weitgehend des ELI übernommen wurden.[187]

Auch der Europarat entschied sich aufgrund der raschen Entwicklung der KI dazu, die Machbarkeit und den möglichen Inhalt eines einschlägigen Rechtsrahmens zu analysieren.[188] Im Einklang mit den Zielen dieser internationalen Organisation (welcher seit 1963 auch die Schweiz angehört) müssen dabei die Probleme im Mittelpunkt des Rechtsrahmens stehen, die durch die KI für die Menschenrechte, die Rechtsstaatlichkeit und die Demokratie entstehen. In der Folge wurde die Einrichtung eines zwischenstaatlichen Expertenausschusses beschlossen, dessen Aufgabe die Untersuchung der Machbarkeit eines Rechtsrahmens für die Entwicklung, Gestaltung und Anwendung von KI ist. Dieser ad-hoc-Ausschuss für künstliche Intelligenz (CAHAI) veröffentlichte verschiedene Zwischenberichte und Studien,[189] und stellte Ende 2021 seine Ergebnisse in einer abschliessenden Studie zusammen.[190] In seiner im Dezember 2020 veröffentlichten Feasibility Study empfahl der Ausschuss den Mitgliedstaaten, geeignete Massnahmen zu ergreifen, um die Einhaltung der Menschenrechte und der rechtsstaatlichen Prinzipien (rule of law) zu gewährleisten, zum Beispiel durch die Auferlegung zivil- oder strafrechtlicher Haftung, wenn der Entwurf, die Entwicklung und die Nutzung von KI-Anwendungen die Menschenrechte verletzen oder sich negativ auf den demokratischen Prozess und die Rechtsstaatlichkeit auswirken.[191] Weitere Empfehlungen betrafen die eigentliche zivilrechtliche Haftung aus Sicht der Produkthaftung und Produktsicherheit, was wohl über den dem Europarat eigenen Arbeitsbereich hinausgeht. Dazu gehört eine Klarstellung, dass eigenständige Software als Produkt im Sinne des bestehenden Produkthaftungsrechts qualifiziert werden könne. Sodann sollen die Regeln für die Beweislastverteilung geprüft werden, um der Tatsache gerecht zu werden, dass es für eine geschädigte Person wegen der Opazität von KI-Anwendungen häufig schwerfallen wird, die Grundlagen der Haftung, namentlich die Kausalität zwischen Schaden und Mitwirkung der KI-Anwendung, gerichtsfest zu belegen.[192] Im Frühjahr 2023 veröffentlichte das zuständige Komitee, das CAI, den gegenwärtigen Stand der Verhandlungen über den Rechtsrahmen als sogenannten «Revised Zero Draft»[193]. Dieser Schritt erfolgte offenbar, «nachdem vergangene Versionen des verhandelten Dokumentes unerlaubterweise ihren Weg in die Öffentlichkeit gefunden» hatten.[194] Die KI-Konvention wurde am 17. Mai 2024 vom Europarat verabschiedet. Sie steht allen Staaten der Welt zur Unterzeichnung bereit.[195]

Der Schweizer Bundesrat hat 2018 künstliche Intelligenz als ein zentrales Thema der Strategie «Digitale Schweiz» definiert und eine «interdepartementale» (bereichsübergreifende) Arbeitsgruppe unter Federführung des Staatssekretariats für Bildung, Forschung und Innovation (SBFI) eingesetzt. In einem Bericht vom Dezember 2019 kam diese Arbeitsgruppe zum Schluss, dass die Schweiz für die Herausforderungen der KI insgesamt gut aufgestellt sei. Der Bundesrat hält die bestehenden Regelungen aufgrund des derzeitigen Stands der Technologie für ausreichend.[196] Dass deren Anwendung auf Roboter Verantwortlichkeitslücken im Zivil- oder im Strafrecht ergäbe, habe sich bislang nicht gezeigt.[197] «Das schweizerische Haftpflichtrecht hat einen sehr allgemeinen Charakter und ist dadurch technologieneutral und flexibel. Die allgemeinen Haftungsregeln lassen sich auch auf den Einsatz neuer Technologien anwenden, wobei Roboter grundsätzlich als Sachen[198] betrachtet werden». Immerhin wird auch vermerkt, dass sich diese Einschätzung in Zukunft ändern könnte. Als Leitprinzip wird festgehalten, dass diejenigen Personen die von der neuen Technologie profitieren, auch deren Risiken übernehmen sollen.[199] Im Jahr 2020 hat die Arbeitsgruppe sodann Leitlinien für den Umgang mit KI in der Bundesverwaltung erarbeitet.[200]

Eine mit den Erkenntnissen der diversen Partner aus der EU im Wesentlichen übereinstimmende, kompakte Darstellung der technischen und rechtlichen Herausforderungen von KI findet sich im Bericht der IDAG KI, welche hier wiedergegeben sei:[201]

Technische Herausforderung |  | Rechtliche Herausforderung
Autonome Handlungsfähigkeit | → | Verantwortlichkeit und Haftung
Black-Box Problematik | → | Transparenz/Nachvollziehbarkeit
Bias/Systematische Fehler | → | Mögliche Diskriminierung
Datenverfügbarkeit und -qualität | → | Datenzugang und Datenschutz

Daneben reichte die Grüne Fraktion des Nationalrats am 15. Juni 2023 eine parlamentarische Initiative ein, die eine Ergänzung des Art. 21 DSG verlangt.[202] Demnach soll der Verantwortliche die betroffene Person über eine Entscheidung informieren, die massgeblich auf KI beruht und die für sie mit einer Rechtsfolge verbunden ist oder sie erheblich beeinträchtigt (KI-gestützte Einzelentscheidung).

Zuletzt beauftragte der Bundesrat das UVEK Ende 2023 mit der Erstellung einer Übersicht möglicher Regulierungsansätze von KI. Die Analyse soll auf bestehendem Schweizer Recht aufbauen, die bereits beschriebenen Vorarbeiten berücksichtigen und mögliche Regulierungsansätze für die Schweiz aufzeigen, die mit dem Gesetz über KI und der KI-Konvention des Europarats kompatibel sind. Beide internationalen Regelwerke werden als für die Schweiz relevant ausgewiesen.[203] Auf der Grundlage dieser Arbeiten gab der Bundesrat schliesslich am 12. Februar 2025 die KI-Regulierungsstrategie der Schweiz in einer Medienmitteilung bekannt.[204] Die Strategie konzentriert sich auf mehrere Schlüsselelemente. An erster Stelle steht die Ratifikation der KI-Konvention des Europarats und ihre Überführung in das Schweizer Recht. Weitere Gesetzesänderungen sollen sich auf ausgewählte sektorspezifische Anpassungen fokussieren, wobei umfassendere allgemeine Regelungen nur dort zur Anwendung kommen sollen, wo Grundrechte wie Persönlichkeitsrechte betroffen sind. Zudem wird die Förderung unverbindlicher Massnahmen, wie «Selbstdeklarationsvereinbarungen»[205] oder von der Industrie geleitete Initiativen (Stichwort: Selbstregulierung), angestrebt.

Der Bundesrat hat sich somit dagegen entschieden, eine übergeordnete horizontale KI-Regulierung, wie sie die KI-Verordnung der EU darstellt, umzusetzen. Stattdessen setzt die Schweiz, wie bei anderen Themen auch, auf einen gezielten, sektorspezifischen und technologieneutralen Ansatz.[206]

Da die Selbstregulierung der Unternehmen allein nicht ausreichen dürfte, um die Anforderungen der KI-Konvention zu erfüllen, hat die Bundesverwaltung rechtliche Anpassungen in Bereichen wie dem Arbeitsrecht, dem Urheberrecht oder dem Datenschutz identifiziert, die notwendig werden, wenn das Schweizer Recht noch nicht vollständig mit den Zielen der Konvention übereinstimmt.[207] Mögliche regulatorische Änderungen für den Privatsektor könnten erweiterte Verpflichtungen in Bezug auf Transparenz, Rechenschaftspflicht und Risikomanagement umfassen. Unternehmen müssen möglicherweise interne Compliance-Mechanismen stärken, um sicherzustellen, dass KI-Anwendungen die Grundrechte respektieren. So zeigt die Analyse eine mögliche Ausweitung der Informationspflichten nach Art. 21 DSG auf teilautomatisierte Entscheide auf.

In Bezug auf die ausservertragliche Haftung stellt die Basisanalyse Recht fest, dass «das Schweizer Zivilrecht und namentlich auch das Haftpflichtrecht mit seinen offenen Generalklauseln in der Lage [sei], technische Entwicklungen aufzufangen». Es stelle somit «den Gerichten ein Instrumentarium zur Verfügung, um im Einzelfall zu gerechten Lösungen zu gelangen».[208] Der Bericht anerkennt zwar die Gefahr, dass von KI-Anwendungen geschädigte Personen vor den Gerichten in Beweisnot geraten können. Eine isolierte Einführung eines Regelwerks, wie es die vorgeschlagene Richtlinie über KI-Haftung vorgesehen hätte, sei aber «nicht denkbar».[209] Eine Übernahme der Richtlinie über KI-Haftung könnte zwar die gerichtliche Durchsetzung von zivilrechtlichen Ansprüchen «eventuell erleichtern» und dazu beitragen, die Vorgaben der KI-Konvention im privaten Sektor besser umzusetzen. Es blieben aber die zusätzlichen Analysen und Ergebnisse der Diskussionen in der EU abzuwarten.[210] In jedem Fall sieht der Bericht den Anwendungsbereich einer solchen Regelung angesichts der verschiedenen bereits geltenden Gefährdungshaftungen (SVG, PrHG, etc.) als «stark beschränkt». Bezüglich der Nachführung des PrHG äussert sich der Bericht nicht konkret. Die Autoren weisen jedoch auf das Gesetzesprojekt zur Modernisierung des Kaufrechts hin, welches sich u.a. mit einem verbesserten Konsumentenschutz beim Kauf digitaler Produkte befasst.[211]

Erstes Zwischenfazit

Algorithmen und Roboter sind Erscheinungsformen der KI. Die KI und ihre möglichen Auswirkungen auf die Gesellschaft und die Umwelt sind eines der grossen Themen unserer Zeit, die treffend als Zeit des digitalen Wandels überschrieben werden kann. Die Komplexität der KI hat ihren Ursprung nicht nur in ihren mathematisch-statistischen Grundlagen. Sie entsteht auch durch die Vielfalt der an der Wertschöpfungskette beteiligten Wirtschaftsakteure und durch die Vielzahl von Komponenten, Teilen, Software, Systemen oder Dienstleistungen, die in die KI-Systeme eingebettet oder anderweitig mit ihnen kombiniert werden.[212] Hinzu kommt zum einen die planmässige Offenheit für regelmässige Aktualisierungen (Updates) nach erfolgtem Inverkehrbringen dieser Produkte. Zum andern führt die Verarbeitung von enormen Big-Data-Datenmengen und die Opazität der algorithmischen Entscheidungsfindung in den KI-Systemen zur Ausbildung einer gewissen Autonomie dieser Systeme. Es ist diese Autonomie, die es erschwert oder gar verunmöglicht, das Verhalten eines KI-gestützten Produkts vorherzusehen und dadurch die potenziellen Schadensursachen zu verstehen. Schliesslich können Konnektivität und Offenheit KI-Produkte und IoT-Produkte anfällig für Cyberbedrohungen machen.[213]

Alle diese Feststellungen stellen in Frage, ob das bekannte Haftungsrecht für das Zeitalter des digitalen Wandels ausreicht. Entsprechend findet die Thematik ihren Niederschlag in der fachwissenschaftlichen Literatur, einschliesslich der juristischen. Die Beiträge der meisten Autoren gleichen sich in der Darstellung der Problematik und besprechen ähnlich gelagerte, kritische Fälle, bei denen die KI zumindest teilweise die Kontrolle über das Geschehen vom Menschen zu übernehmen scheint. Die Autoren sind sich ebenfalls weitgehend einig, dass sich Probleme bei der rechtlichen Behandlung von Haftungsfällen mit KI umso eher stellen, als autonome Systeme beteiligt sind. Nicht klar wird, wie Autonomie definiert werden kann und ob es wirklich eine kritische Stufe der Autonomie gibt, ab welcher eine Anwendung der klassischen Haftungsregeln unzweckmässig, wenn nicht gar «ungerecht» erscheint. Manche Autoren halten die aktuellen gesetzlichen Bestimmungen für völlig ausreichend, um Haftungsfälle mit KI-Anwendungen zu lösen. Dieser Meinung ist aktuell auch der Schweizer Bundesrat, während die EU-Kommission nach einer umfassenden Prüfung der massgeblichen Bestimmungen erste konkrete Regulierungsprojekte auf den Weg gebracht hat. Andere Autoren halten eine massvolle Überarbeitung einzelner Bestimmungen, namentlich zur Produkthaftpflicht, für angezeigt. Einige Autoren schliesslich zeigen sich von der Idee einer «e-Persönlichkeit» angetan, welche es ermöglichen soll, Algorithmen oder Roboter aus eigenem Recht haften zu lassen. Daneben scheinen verschiedene Regierungsstellen und ihre Berater sich Gedanken zu machen, ob man den Herstellern und Nutzern von KI-Anwendungen bloss ethische Richtlinien vorgeben oder eher verbindliche Regeln auferlegen soll, um die Auswirkungen der neuen Technologie unter Kontrolle zu halten.

Nach Gerhard Wagner ist das aktuelle (schweizerische) Haftungsrecht prinzipiell technikneutral ausgestaltet:[214] Das Prinzip der Technikneutralität, welches in dieser Arbeit wiederholt zur Sprache kommen wird, gelte für jede Aktivität, unabhängig davon, ob diese analog oder digital gesteuert wird. Mit Blick auf die neuartigen Aktivitäten und Techniken wie KI müssten die zentralen Elemente des Haftungsrechts nur geeignet konkretisiert werden. Diese Konkretisierung sei Aufgabe der Gerichte und der Rechtswissenschaft. Wagner zufolge könnte der Gesetzgeber daher erst einmal zuwarten und (rechtssetzende) Neuordnungen erst erarbeiten, falls sich das geltende Recht bei der Lösung der neu anstehenden Probleme als unzureichend erweist. Trotzdem plädiert Wagner für einen proaktiven Ansatz: Ein aktualisiertes Haftungsrecht habe gegenüber einem rein reaktiven Ansatz den Vorteil, dass es die Anreize so zu setzen vermöge, dass sich jene technologischen Entwicklungen durchsetzen, die eine höhere Sicherheit versprechen.[215] Es geht dabei um eines der Hauptziele des Haftungsrechts, nämlich eine effiziente Verhaltenssteuerung, gepaart mit einem gerechten, d.h. den Interessen der Beteiligten gemässen Schadensausgleich.[216] M.a.W. soll in erster Linie derjenige (Wirtschafts‑)Akteur haften, der in der Lage ist, die Risiken tatsächlich zu kontrollieren. In den meisten Fällen wird es sich dabei um den Hersteller oder den Anwender der Technologie handeln. Über seine Haftungsnormen kann so das Recht einen massgeblichen Einfluss auf den technischen Fortschritt und das Zusammenspiel von Wissenschaft, Technik und Gesellschaft nehmen. So verfügen sowohl die Schweiz als auch die EU in den Bereichen Produktsicherheit und Produkthaftung bereits über einen robusten und zuverlässigen Rechtsrahmen und einen soliden Bestand an Sicherheitsstandards (die in der EU und im EWR durch nationale, nicht harmonisierte Haftungsvorschriften ergänzt werden).[217] Auf diesem bewährten Rechtsrahmen lässt sich eine nach dem gesetzgeberischen Willen mehr oder weniger umfassende Regulierung der KI aufsetzen. Die EU-Kommission hat, unterstützt durch das Parlament und den Rat, ab 2021 erste Schritte in diese Richtung auf den Weg und 2024 zu einem vorläufigen Abschluss gebracht.

Gang der Untersuchung

Arbeitshypothese

Das vordringliche Problem, welches der Umgang mit Algorithmen und Robotern dem Recht stellt, ist nicht die Frage der Haftung an sich, d.h. ob diese Anwendungen der KI aus eigenem Recht haften sollen. Die bestehenden Haftungsregeln, die sich über mehrere Jahrhunderte entwickelt und mit dem Institut der Gefährdungshaftung auch die Herausforderungen des Übergangs von der Agrarwirtschaft zur Industriegesellschaft erfolgreich gemeistert haben, dürften auch den Problemen der Digitalisierung gewachsen sein.[218] Dass man aber so weit gehen sollte wie die schweizerische IDAG KI, welche in ihrem Bericht an den Bundesrat die Meinung vertrat, dass die allgemeinen Haftungsregeln durchwegs technologieneutral und flexibel ausgestaltet seien, dass sie sich auch auf den Einsatz neuer Technologien anwenden liessen,[219] wird in der vorliegenden Arbeit nicht vertreten.

In dieser Arbeit wird die These vertreten, wonach die Dogmatik des derzeitigen Haftpflichtrechts auch in Zukunft als tragfähiges Gerüst dienen kann. Im aktuellen Normengeflecht wird sich häufig ein menschlicher Akteur finden lassen, der entweder aus Verschulden oder aus Betriebsgefahr für die KI haftet. So haftet nach wohl allgemeiner Meinung der Halter eines vollautomatisierten selbstfahrenden Autos für «Fahrfehler» des Steuerungsalgorithmus. In ähnlicher Weise werden sich zahlreiche andere (Un‑)Fälle lösen lassen. Die übrigen am Unfall Beteiligten differenziert mit einzubeziehen, sollte seit einer Praxisänderung des Bundesgerichts aus dem Jahr 2018 zur Kaskadenordnung nach Art. 51 Abs. 2 OR leichter möglich sein. Seither stehen für den Regress des zuerst ins Recht gefassten Haftpflichtigen kreativere Lösungen zur Verfügung. Wir versuchen, dies anhand des in der Roboterethik diskutierten Konzepts des «Verantwortungsnetzwerks» darzustellen. In diesem Verantwortungsnetzwerk haften in einer ersten Stufe menschliche und künstliche Akteure gemeinsam, aber jeweils proportional zu ihrem kausalen Beitrag an die Schadensursache. Erst wenn künstliche Akteure nicht aus eigenem Recht haften können, haften für sie in einer zweiten Stufe natürliche oder juristische Personen.

Eines der wesentlichen Probleme liegt beim Verständnis der Kausalkette, welche jedem schädigenden Ereignis zugrunde liegt. Hier geht es darum, in jedem konkreten Fall die an einem Schaden beteiligten Akteure, seien sie Personen mit Rechtspersönlichkeit oder eben Algorithmen oder Roboter, mit ihren effektiven kausalen Beiträgen zum schädigenden Ereignis zu erfassen und aufzuzeichnen.

Die Beiträge, welche von einem Algorithmus oder einem Roboter verursacht werden, könnten dem jeweils im «Verantwortlichkeitsnetzwerk» nächststehenden menschlichen Akteur zugerechnet werden. Unterhalb einer kritischen Schwelle zur Autonomie erfolgt diese Zurechnung ohne Weiteres, da es sich um schlichte Arbeitshilfen der als verantwortlich ausgemachten Person handelt (operationelle Verantwortung der Algorithmen oder Roboter, welche rein nach den traditionellen Haftungsregeln behandelt wird). Über dieser Schwelle kann darüber nachgedacht werden, eine spezielle Versicherungslösung greifen zu lassen (funktionale oder simulierte Verantwortung der Algorithmen oder Roboter, welche in einem risikobasierten Ansatz behandelt wird). Die Beurteilung der massgeblichen Kausalverläufe könnte wesentlich erleichtert werden, wenn es gelänge, den Begriff des Stands der Wissenschaft und der Technik zu kodifizieren.

Um dieses Schema im konkreten Einzelfall durchführen zu können, können sich bereits bewährte Regulierungskonzepte als nützlich erweisen: i) Taxonomie (zur Erleichterung der Transparenz und zur Bewertung von Versicherungslösungen), ii) Standardisierung (soweit technisch möglich oder sinnvoll), iii) öffentliche Register, iv) verschiedene Risikomanagement- und Governance-Ansätze.

Wir versuchen, anhand einer Typologie von Unfallszenarien und mit der Hilfe einschlägiger Vorschläge aus der Literatur zu eruieren, wie sich mit den aktuell gültigen Haftungsnormen Schäden beurteilen lassen, die von KI-Anwendungen (Algorithmen und Robotern) verursacht worden sind. Die klassische Verschuldenshaftung kann nur (aber immerhin) die an der Entwicklung, der Herstellung und dem Einsatz eines künstlichen Akteurs beteiligten menschlichen Akteure zur Verantwortung ziehen. Über die Kausalhaftung des Geschäftsherrn lassen sich sodann juristische Personen als Arbeitgeberinnen ins Recht fassen. Daneben bietet sich die Produkthaftung der Herstellerin an. Zu diesen mit der Herstellung und dem Betrieb von KI-Anwendungen unmittelbar verknüpften Haftungen kann je nach Fall eine sogenannte Betriebshaftung hinzutreten. Bekanntestes und im Alltag wohl wichtigstes Beispiel ist die Haftung des Halters für ein Motorfahrzeug, die nach überwiegender Meinung auch auf selbstfahrende Fahrzeuge der höchsten Automatisierungsstufe Anwendung finden sollte. Eine solche Betriebshaftung ist als übergeordnete Kausal- oder Gefährdungshaftung in vielen Fällen ausreichend, wenigstens dem Geschädigten zum Ersatz seines erlittenen Schadens zu verhelfen. Anschliessend liegt es am Betreiber selbst, bei allfälligen Mitverantwortlichen Regress zu nehmen.

Aufbau der Arbeit und methodisches Vorgehen

Der Zugang zum Schädigungsschema des Haftpflichtrechts führt über die handelnden Akteure. Wenn die handelnden Algorithmen und Roboter selbst nicht rechtlich haften, sondern nur funktional verantwortlich zeichnen können, muss es ein anderes Rechtssubjekt geben, welches stellvertretend für sie rechtlich haftet. Es gilt in einem ersten Schritt herauszufinden, wie Algorithmen und Roboter überhaupt in das klassische Schema des Haftpflichtrechts integriert werden können. Hierzu werden die moralphilosophischen und mathematisch-statistischen Vorbereitungen aus den Kapiteln IV und V herangezogen. Wir benutzen diese Überlegungen dazu, die technischen Phänomene der Algorithmen und Roboter zu erfassen und diese «haftbar» oder zumindest funktional verantwortlich zu machen. Punktuell zeigen wir auf, wo und wie ein gemäss der überarbeiteten Produkthaftungsrichtlinie angepasstes PrHG die Rechtsanwendung erleichtern könnte.

Wir setzen unsere Überlegungen fort mit einer Darstellung der letzten Gesetzgebungsarbeiten der EU im Bereich der Produkthaftung (Kapitel II). Diese Darstellung zeigt illustrativ auf, wie ein punktueller gesetzgeberischer Eingriff in das bestehende Haftungsregime umgesetzt werden kann. Er dient damit als Vorbild für die Schweiz. Die Vorteile der überarbeiteten Produkthaftungsrichtlinie werden im abschliessenden Kapitel VI aufgezeigt.

Die Arbeitshypothese soll vor dem Hintergrund der historischen Entwicklung des aktuellen Haftpflichtrechts überprüft werden (Kapitel III). Wir stellen die aktuell verfügbaren einschlägigen Normen im Schweizer Haftpflichtrecht vor und diskutieren jeweils konkret, wo die grössten Probleme bei der Anwendung auf Schadenfälle mit KI-Beitrag auftreten können.

Mit Hilfe eines interdisziplinären Vergleichs soll abgeklärt werden, ob es in der Moralphilosophie alternative oder erweiterte Verantwortlichkeitsbegriffe gibt, welche nicht von der Persönlichkeit abhängen und damit dem neuen Phänomen der KI besser gerecht werden könnten (Kapitel IV). Umgekehrt vermag dieser Vergleich möglicherweise zu begründen, weswegen Haftung ganz sinnvollerweise auf natürliche und juristische Personen nach heutigem Verständnis beschränkt ist.

Die Arbeitshypothese beinhaltet die Aussage, dass ein wesentlicher Teil des Problems das Verständnis der Kausalverläufe betrifft, also ein Problem des – grösstenteils technischen – Sachverhalts ist. Aus diesem Grund soll auch ein «high-level» Blick auf die wissenschaftlichen Grundlagen hinter Algorithmen und Robotern geworfen werden, soweit dies allgemeinverständlich darstellbar ist. Es kann sich dabei nicht um eine vertiefte fachliche Darstellung handeln. Vielmehr soll ergründet werden, wie stark die Einschätzung, ob ein durch einen Algorithmus verursachtes Ereignis adäquat kausal, also rechtlich relevant ist, vom technischen Verständnis abhängig ist (Kapitel V).

Mit diesen Vorbereitungen soll die Arbeitshypothese bei der Regulierung dreier illustrativer Schadenfälle auf die Probe gestellt werden (Kapitel VI).

Aus rechtlicher Sicht (Kapitel III) sei das Folgende angemerkt: Eine zivilrechtliche Haftung baut auf dem Dreiklang Schaden, Kausalzusammenhang und Widerrechtlichkeit auf. Eine Haftung muss der haftenden Person zugerechnet werden, was auf zwei Arten geschehen kann: Erstens kann sich die Haftung aus einer Verletzung besonderer, zwischen den Parteien im Rahmen eines vorbestehenden Rechtsverhältnisses vertraglich vereinbarten Pflichten ergeben (vertragliche Haftung).[220] Die Haftung kann sich aber auch zweitens aus einer Verletzung allgemeiner, durch Gesetz vorgegebene Pflichten ergeben (ausservertragliche Haftung). In diesem zweiten Fall schafft erst das schädigende Ereignis zwischen den Beteiligten ein Rechtsverhältnis, welches zur Regulierung des Schadens dient.[221] Die Bedeutung des Verschuldens schwankte im Laufe der historischen Entwicklung.[222] So kam die altrömische Noxalhaftung ganz ohne jedes Verschulden aus. In der Epoche der Rezeption und des Naturrechts gelang die Entwicklung der modernen Verschuldenshaftung, wobei gleichzeitig die Tatbestände der schon im römischen Recht bekannten Gefährdungshaftungen ausgedehnt wurden.[223] Dieses historisch motivierte Spannungsfeld zwischen Verschulden und Gefährdung muss später unter dem spezifischen Blickwinkel der digitalen Technik untersucht werden. Einerseits ist zu ergründen, wie neue technologische Entwicklungen rechtlich erfasst werden können (Problematik des Technikrechts allgemein). Andererseits ist zu untersuchen, wie der Stand der Technik und der Wissenschaft die Beurteilung von Sorgfaltspflichten beeinflusst und bestimmt (Impulse der Technik für das Recht im Besonderen).

Aus ethischer Sicht (Kapitel IV) sei das Folgende angemerkt: Um das Handeln von Algorithmen und Robotern erfassen zu können, sind die bekannten rechtlichen Konzepte wohl nicht uneingeschränkt tauglich. Wenn tatsächlich handelnden Akteuren die rechtliche Handlungsfähigkeit abgeht und sie somit nicht rechtlich haften können, stellt sich die Frage, ob sie nicht gewissermassen funktional haften oder verantwortlich sein können. Dazu soll ein Schritt zurückgenommen und Konzepte der Verantwortlichkeit aus der Ethik oder Moralphilosophie betrachtet werden. Für das Grundmodell der moralischen Verantwortung unterscheidet man verschiedene Rollen: moralische Akteure (Subjekte – moral agents), welche Verantwortung tragen können, Verantwortungsadressaten (Objekte – moral patients), welche von den Akteuren behandelt werden bzw. die von den Handlungen der Akteure betroffen werden, sowie eine Instanz, welche die Handlungen der Akteure beurteilt.[224] Moralische Verantwortung setzt üblicherweise die Eigenschaft als moralisches Subjekt (moral agency) voraus, die sich aus Persönlichkeit, Handlungsfähigkeit und Urteilskraft zusammensetzt.[225] Es gilt Lösungen zu finden, wenn dem handelnden Akteur (z.B. einem Kind, einem Tier oder eben einem Roboter) gewisse dieser Eigenschaften fehlen.

Aus technischer Sicht (Kapitel V) sei sodann das Folgende angemerkt: Um das Spannungsfeld zwischen Verschulden und Gefährdung mit Blick auf Algorithmen und Roboter sinnvoll untersuchen zu können, müssen gewisse Vorarbeiten geleistet werden. Dazu gehört die Einführung von tragfähigen, einschlägig wissenschaftlich abgestützten Definitionen für den Algorithmus und den Roboter. Ferner soll der Begriff KI mit etwas Leben gefüllt werden, um einen Eindruck zu vermitteln, welche Grade der Autonomie in diesem Bereich erwartet werden können (starke und schwache KI-Thesen als Bausteine der Roboterethik).

Margarethe Vestager, ehem. Executive Vice President of the European Commission for A Europe Fit for the Digital Age. ↵

Marcel Proust, À la recherche du temps perdu, Paris 2022 (Sonderausgabe), S. 1338. ↵

Eine kurze geschichtliche Übersicht zur Entwicklung der Robotik mit Beispielen von Robotern findet sich bei Haddadin/Knobbe, in: Ebers/Heinze/Krügel/Steinrötter, Rechtshandbuch, § 1 Rz 26–34. ↵

Der Begriff Roboter wird auf das 1920 erschienene Drama des tschechischen Schriftstellers Karel Čapek zurückgeführt, in dem es um Fronarbeit geht. ↵

Vgl. Ebers, in: Ebers/Heinze/Krügel/Steinrötter, Rechtshandbuch, § 3 Rz 11, der dieses Problem als «Wissensvorsprung» der Maschine vor dem Nutzer umschreibt. ↵

Botschaft DSG 2017, 6962. ↵

Eine Liste der «Meilensteine der Datenschutz-Geschichte» findet sich auf der Webseite des BfDI (https://www.bfdi.bund.de/DE/DerBfDI/Inhalte/Datenschutzpfad/Ge​schich​te-Datenschutz.html, zuletzt besucht am 07.08.2025). ↵

Recht auf Datenübertragbarkeit, Art. 20 DSGVO, Art. 28 DSG. ↵

COM(2017) 495 final. ↵

COM(2020) 842 final. Im weiteren Zusammenhang erwähnenswert erscheint auch die Verordnung (EU) 2020/852 vom 18. Juni 2020 über die Einrichtung eines Rahmens zur Erleichterung nachhaltiger Investitionen («Taxonomy Regulation»), die ein technisch robustes Klassifikationssystem auf Unionsebene einführen soll, um für die Belange der Finanzberichterstattung und der Kommunikation mit Finanzinvestoren Klarheit darüber zu schaffen, welche Tätigkeiten als «grün» oder «nachhaltig» gelten sollen. ↵

Eine allgemeingültige Definition der KI existiere nicht, stellte der Bericht IDAG KI, S. 7 noch fest. Zwischenzeitlich siehe Art. 3(1) des Gesetzes über KI. ↵

COM(2017) 495 final, S. 2. ↵

Siehe dazu Osterhammel, S. 907 ff. zu Technik, Arbeit, Kommunikation, Verkehr u.a. ↵

Graf/Obrecht, S. 2. ↵

Wildhaber/Lohmann/Kaspar, S. 459. ↵

Vgl. die Liste der KI-spezifischen Risiken bei ELI-Response, S. 9, welche den Themenbereich der sozialen Risiken wie Diskriminierung und Missbrauch umfasst. ↵

Kaser, Privatrecht, S. 26, 146 ff. ↵

Wesel, Fast alles was Recht ist, S. 126 ff., insb. S. 128 zum Reichshaftpflichtgesetz von 1871; ferner Wesel, Geschichte des Rechts, Rz 285, Harke, Römisches Recht, S. 206 ff. Nach Wildhaber, Haftung und KI, Rz 3 stellt sich diese Frage heute ganz konkret für die KI, so wie sie sich zuvor schon für die Gentechnologie u.ä. stellte. ↵

Nach dem Duden steht das Adjektiv «digital» in Technik und Datenverarbeitung für «zahlenmässig, ziffernmässig; in Stufen erfolgend» und ist in der 2. Hälfte des 20. Jh.s. aus englisch digital übernommen worden. ↵

Reichhardt S. 367. ↵

Vgl. Loh, S. 3. ↵

Weniger drastisch bringt Rempe, S. 16, das Beispiel eines Rasenmäher-Roboters, der nicht nur die eigenen Rosen abmäht, sondern auch die Blumen im Garten des Nachbarn. ↵

Für eine Übersicht zu aktuellen Entwicklungen und Trends bei der KI siehe https://​www.​ki-observatorium.de/. Nach einer dort publizierten Aufstellung konzentriert sich die aktuelle KI-Forschung und -Entwicklung auf die Informations- und Kommunikationstechnik (IKT). Knapp die Hälfte der zwischen 2014 und 2018 weltweit angemeldeten KI-Patente und -Marken stammen demnach von Unternehmen aus dieser Branche. Der Anteil der KI-Patente und -Marken aus dem Telekommunikations‑, dem Transport- und Energiesektor liegt demgegenüber bei deutlich unter 1 %. ↵

Zu den Begriffserklärungen und zur gegenseitigen Abgrenzung siehe Abschnitt V.2.1. ↵

Zu einer neuen Putzequipe aus Robotern am Flughafen Zürich siehe den TA vom 29.12.2023. ↵

Lohmann, Roboter als Wundertüten, S. 349, führt als Beispiel die Schweizerische Post an, die gemäss Medienmitteilung vom 23.8.2016 ab September 2016 selbstfahrende Lieferroboter für die Warenzustellung auf der letzten Meile testete. Weitere Anwendungsbeispiele von Robotern in Industrie, Gesundheit und zu Hause finden sich bei Haddadin/Knobbe, in: Ebers/Heinze/Krügel/Steinrötter, Rechtshandbuch, § 1 Rz 76 ff. ↵

Tagespresse (statt vieler Blick vom 17.12.2022; TA 17.11.2022). ↵

Berichtet u.a. in Zobl/Lysakowski, S. 43; Lenzen, S. 140. COM(2020) 64 final enthält weitere Beispiele aus den Bereichen Smart Home oder Gesundheit. ↵

Nach der Beschreibung eines deutschen Produkteanbieters; zur rechtlichen Beurteilung nach Schweizer Recht siehe Lohmann/Rusch, Fahrassistenzsysteme, S. 350 f. Zu den verschiedenen Stufen heutiger Fahrassistenzsysteme siehe Weichbold, S. 7 ff. ↵

Art. 58 Abs. 1 SVG: Wird durch den Betrieb eines Motorfahrzeuges ein Mensch getötet oder verletzt oder Sachschaden verursacht, so haftet der Halter für den Schaden; § 7(1) StVG: Wird bei dem Betrieb eines Kraftfahrzeugs ein Mensch getötet, der Körper oder die Gesundheit eines Menschen verletzt oder eine Sache beschädigt, so ist der Halter verpflichtet, dem Verletzten den daraus entstehenden Schaden zu ersetzen. ↵

Art. 59 Abs. 1 SVG: Der Halter wird von der Haftpflicht befreit, wenn er beweist, dass der Unfall durch höhere Gewalt oder grobes Verschulden des Geschädigten oder eines Dritten verursacht wurde, ohne dass ihn selbst oder Personen, für die er verantwortlich ist, ein Verschulden trifft und ohne dass fehlerhafte Beschaffenheit des Fahrzeuges zum Unfall beigetragen hat. § 7(2) StVG: Die Ersatzpflicht ist ausgeschlossen, wenn der Unfall durch höhere Gewalt verursacht wird. ↵

BSK SVG-Probst, Art. 59 N 13. ↵

So Zobl/Lysakowski, S. 45. ↵

BSK SVG-Probst, Art. 59 N 34. ↵

Trägt eine fehlerhafte Beschaffenheit des Fahrzeuges zum Unfall bei, so ist die Haftungsbefreiung nach Art. 59 Abs. 1 SVG nicht mehr erhältlich. ↵

COM(2020) 64 final, S. 15, Fn. 37. Siehe dort generell zur Motorfahrzeughaftung und nationalen Ausnahmeregelungen, welche bei autonomem Fahren zu unbefriedigenden Ergebnissen führen könne. ↵

Bekannte, auch in der Tagespresse diskutierte Fragen betreffen Situationen, in denen die Steuerung eines selbstfahrenden Autos «entscheiden» muss, mit welchem Passanten eine Kollision vordringlich vermieden werden soll. Auf solche und ähnliche ethische Fragestellungen soll hier nicht eingegangen werden. ↵

COM(2020) 64 final, S. 16. ↵

HEG-KI, Liability S. 32. Auch HEG-KI, Policy, Rz 28.1. ↵

HEG-KI, Liability S. 32. ↵

HEG-KI, Liability S. 19. ↵

So auch HEG-KI, Liability S. 38 zur Idee einer Rechtspersönlichkeit für KI (nicht nötig). ↵

Von utopischen Situationen, in denen sich Algorithmen oder Roboter gar verselbständigen, wird hier abgesehen. Mehr dazu findet sich in Abschnitt V.III. ↵

HEG-KI, Liability S. 32 ff. Vgl. die «five distinctive features [that] encapsulate the disruptive potential of AI» in ELI-Response, S. 23. ↵

HEG-KI, Liability S. 32 f., mit Verweis auf Kombinationen verschiedener Komponenten, für die bislang unterschiedliche (?) Haftungsregelungen Anwendung fanden. Es werde zunehmend schwieriger, die Ursache für eine Fehlfunktion zu identifizieren. ↵

Bericht IDAG KI, S. 8: Namentlich ist bei einigen KI-Methoden nicht mehr nachvollziehbar, wie eine bestimmte Vorhersage oder ein bestimmtes Ergebnis zustande kommt oder wieso ein KI-System bei einer konkreten Fragestellung zu einer bestimmten Antwort gelangt ist. ↵

Siehe HEG-KI, Liability S. 33. ↵

Bericht IDAG KI, S. 8. ↵

Wesel, Alles was recht ist, S. 132. Hühnerpestfall. Dort gelöst über die Beweislastumkehr. ↵

HEG-KI, Liability S. 33. ↵

HEG-KI, Liability S. 33. ↵

Vgl. Lohmann, Haftungsrahmen, S. 112, die von «Vernetzungsrisiko» und «Verbundrisiko» schreibt. Das Vernetzungsrisiko bezieht sich auf die Verflechtung zwischen verschiedenen digitalen Systemen, während das Verbundrisiko die Interaktion zwischen Menschen und KI anspricht. ↵

HEG-KI, Liability S. 33; S. 43 zur fehlenden Vorhersehbarkeit durch Machine Learning. Anders Bericht IDAG KI, S. 8: Auch die Fähigkeit von KI-Systemen, zunehmend autonom zu handeln, stellt den bestehenden rechtlichen Rahmen auf die Probe. Der Bundesrat hat diesbezüglich bereits mehrfach die bestehenden Regelungen überprüft und ist namentlich im Bereich der zivil- und strafrechtlichen Verantwortlichkeit und des internationalen Privatrechts zum Schluss gekommen, dass diese aufgrund des aktuellen Stands der Technologie derzeit genügen. ↵

HEG-KI, Liability S. 54. ↵

HEG-KI, Liability S. 33. ↵

HEG-KI, Liability S. 33 f. ↵

HEG-KI, Liability S. 33. ↵

HEG-KI, Liability S. 33 sowie S. 35 zu einem Beispiel aus der Medizin. ↵

Stellvertretend für viele Günther. ↵

Markwalder/Simmler, S. 171 ff. ↵

Stellvertretend für viele Pfeil, «Leinen los und Fahrt voraus!», S. 17 ff. ↵

Wildhaber, Robotik am Arbeitsplatz, S. 213 ff. ↵

Benhamou, S. 419 ff.; Gilliéron, S. 435 ff.; Marmy-Brändli/Oehri, S. 655 ff. ↵

Hänsenberger, Drohnen; Weber, Drohneneinsätze, S. 1 ff. ↵

Lörtscher; Lohmann/Müller-Chen, Selbstlernende Fahrzeuge, S. 617 ff. ↵

Jannes/Friele/Jannes/Woopen, Algorithmen; Drittenbass; Borio; Beck/Faber/Gerndt sowie jetzt Roegels und Batache zum Einsatz intelligenter Medizinprodukte; zur Entwicklung von intelligenten Medizinprodukten aus der speziellen Sicht des Patentrechts siehe Kowalski. ↵

Stutz; Weber/Baisch; Ehtechami Parnijan; Stengel/Wirthensohn/Stäuble; Denga in: Ebers/Heinze/Krügel/Steinrötter, Rechtshandbuch, § 15; Ebert, a.a.O., § 16 für Versicherungen im Besonderen. ↵

Reiter. ↵

Schaub. ↵

Wilde-Detmering. ↵

Weber, Automatisierte Entscheidungen; Kessler/Oberlin. ↵

Gross; Schmitz/Rammos. ↵

Wildhaber/Lohmann/Kasper. ↵

Schreyer Désirée/Ott. ↵

Steinrötter in: Ebers/Heinze/Krügel/Steinrötter, Rechtshandbuch, § 26 Rz 21 mit Hinweis auf Lohmann. ↵

Siehe Abschnitt I.1.1. ↵

Produzentenhaftung gemäss § 823 Abs. 1 BGB; Produkthaftung gemäss § 1 ProdHaftG. ↵

Steinrötter in: Ebers/Heinze/Krügel/Steinrötter, Rechtshandbuch, § 26 Rz 77. ↵

Die Beschreibung des Sachverhalts findet sich als Beispiel 2 in Abschnitt VI.3.3. ↵

Roegels, S. 187. ↵

Weichbold, S. 136 ff. und S. 204. ↵

Wildhaber, Haftung und KI, Rz 54. ↵

Beckers/Teubner, zur e-Persöhnlichkeit, S. 34 ff., zur Hilfspersonenhaftung, S. 154 ff, zur Netzwerkhaftung, S. 188 ff. und zu digitalen Schwärmen, S. 232 ff. ↵

Pieper, S. 9. ↵

Pfeil, S. 17. ↵

Hoeren, IT-Vertragsrecht, Rn. 125. ↵

Loh, S. 17. ↵

So bezeichnet, wegen seiner fernmeldetechnischen Verknüpfung von Geräten aller Art, wie Kühlschränken, Heizungen, etc. (Sachen). ↵

Weber, Neues Haftungsrecht, S. 3. ↵

Wildhaber/Lohmann/Kaspar, S. 459. ↵

Pieper, S. 10. Pieper, S. 14 nennt zudem das Problem der Zurechnung von Willenserklärungen im Zusammenspiel mit M2M-Anwendungen. ↵

a.a.O.; vgl. für das deutsche Recht Ebers in: Ebers/Heinze/Krügel/Steinrötter, Rechtshandbuch, § 3 Rz 64. ↵

Weber, Neues Haftungsrecht? S. 2. ↵

Weber, Neues Haftungsrecht? S. 3. Daneben Herausstreichen der Datensicherheit als grosses Thema, dazu S. 4 f. mit dem Hinweis, dass die gesetzlichen Regelungen zur Datensicherheit noch nicht stark entwickelt sind (Art. 7 DSG-alt, Branchenregeln nicht leicht durchsetzbar). ↵

Weber, Neues Haftungsrecht? S. 7. ↵

Vgl. Abschnitt IV.4. ↵

Pfeil, S. 19. Pfeil erkennt die Notwendigkeit, eine «Algorithmenethik» zu diskutieren, ohne jedoch auf die einschlägige, reiche Literatur der Moralphilosophie zu verweisen. ↵

Beim Fall Tay ging es um einen Sprachavatar (Sprachautomat), der dazu eingesetzt werden sollte, mit beliebigen Nutzern Gespräche zu führen. Das System war selbstlernend ausgestaltet, es konnte also aus der Interaktion mit Kunden lernen. Fatalerweise liess sich Tay manipulieren und entwickelte sich innerhalb weniger Stunden zu einem radikalen Frauenfeind und Rassisten, sodass das System innerhalb von 24 Stunden vom Netz genommen werden musste. Immerhin lag hier teilweise eine Fremdeinwirkung vor. Allerdings ist es bei Menschen meist keine valable Entschuldigung, man sei provoziert worden. Wieso sollte es bei Algorithmen oder Robotern anders sein? ↵

BDI/Noerr, Industrie 4.0 – Rechtliche Herausforderungen der Digitalisierung, S. 8. ↵

Gordon/ Lutz, S. 53 ff. Mit Abbildung 1 auf S. 57 zu unterschiedlichen Graden der Autonomie; zum Meinungsspektrum zum Haftungsrecht siehe auch Ebers in: Ebers/Heinze/Krügel/Steinrötter, Rechtshandbuch, § 3 Rz 64. ↵

Gordon/Lutz, S. 56 mit Verweis auf Rempe (Fn. 3), 17 ff.; für das deutsche Recht Ebers in: Ebers/Heinze/Krügel/Steinrötter, Rechtshandbuch, § 3 Rz 64; Susanne Horner/Markus Kaulartz, Haftung 4.0, InTeR 2016, S. 22 und 26. Kritisch Weber, Neue Haftung? S. 4. ↵

Gordon/Lutz, S. 58. ↵

Gordon/Lutz, S. 64 f.; für das deutsche Recht Ebers in: Ebers/Heinze/Krügel/Steinrötter, Rechtshandbuch, § 3 Rz 64. ↵

Kirchner, S. 59–63; zum Programmierfehler im Besonderen siehe auch Bonaldo/Cugini, S.40. ↵

Weber, Neues Haftungsrecht? S. 4. ↵

Weber, Neues Haftungsrecht? S. 7; siehe auch den Bericht bei Minder, S. 51. ↵

Weber, Neues Haftungsrecht? S. 6. ↵

Pieper, S. 14. ↵

Siehe Abschnitt V.5. ↵

Pieper, S. 10. ↵

Horner/Kaulartz, CR 2016, 7, 7; Spindler, CR 2015, 766, 774. ↵

Pieper, S. 10; für das deutsche Recht Ebers in: Ebers/Heinze/Krügel/Steinrötter, Rechtshandbuch, § 3 Rz 61. ↵

Wildhaber, S. 217; Kianička, S. 61 ff. ↵

Wildhaber, S. 218. ↵

Wildhaber, S. 218 f. ↵

Wildhaber, S. 220 mit Verweis auf Boris Dzida, Wenn auf dem Chefsessel ein Roboter sitzt, FAZ vom 12.9.2015; Walter Frick, When Your Boss Wears Metal Pants, Harvard Business Review, 6/2015, 84 ff. ↵

Siehe Abschnitt IV.2.2. ↵

Pieper, S. 13. ↵

Pfeil, S. 22. ↵

Wilde-Detmering, S. 178. ↵

Wildhaber, S. 220 f. m.w.H. u.a. auf Günther, S. 38 ff. ↵

Schaub, S. 3; so auch Weber in Minder, S. 51. ↵

Schaub, S. 5. ↵

Schaub, S. 7. ↵

Pieper, S. 14. ↵

Pieper, S. 15. ↵

Die Rechtslage im römischen Recht ist in der Forschung umstritten, siehe dazu Mattiangeli. ↵

Martin Zobl/Michael Lysakowski, E-Persönlichkeit, S. 42 f.; siehe auch Beck, Über Sinn und Unsinn von Statusfragen, S. 255; Beck, Der rechtliche Status, S. 186 f. Vgl. auch Art. 31 Abs. 2 ZGB zum nasciturus. ↵

Zobl/Lysakowski, S. 45. ↵

Zobl/Lysakowski, S. 47. ↵

Bonaldo/Cugini, S. 40; Wilde-Detmering, S. 178. ↵

Z. B. Aristoteles, Nikomachische Ethik. Besonders interessant im vorliegenden Zusammenhang das 3. Buch zum Handeln mit Wissen und Wollen. Zur Terminologie (Ethik, Moralphilosophie, Moral) siehe Paulo/Bublitz, S. 9, Fn. 1. ↵

Siehe z.B. Jonas, Das Prinzip Verantwortung; Blumenberg. ↵

Dazu Loh, Roboterethik, ↵

Jonas, S. 184. ↵

Jonas, S. 222. ↵

Lenk, S. 67. ↵

Siehe Abschnitt IV.4. ↵

Lenk, S. 82 f. ↵

Loh, S. 128, 166. ↵

Loh, S. 162. ↵

Loh, S. 167. ↵

Lenk/Maring, S. 720 f. ↵

Für Loh, S. 145 ist Verantwortung (und nicht etwa Haftung) ein «normatives» Konzept, welches Moral Agency voraussetze. ↵

Loh, S. 139, 143; Floridi/Sanders, S. 351. ↵

Loh, S. 147 ff. ↵

Loh, S. 147. Vgl. EP Bericht, Ziff. 55–56. ↵

Loh, S. 149 (Fn. 12). ↵

Vortrag von Roger Dubach, stellvertretender Direktor der Direktion für Völkerrecht des EDA am 10.11.2021, berichtet in: Graf/Obrecht, Rechtliche Rahmenbedingungen, S. 4. Nach Dubach würden die beschriebenen internationalen Ansätze in der Schweiz so nicht verfolgt, der Bund befinde sich dazu jedoch in einem Findungsprozess, da eine gemeinsame Lösungsfindung für die Zukunft der Gesellschaft unerlässlich sei. ↵

Für einen Überblick zu den Entwicklungen auf europäischer Ebene vgl. Lohmann, Haftungsrahmen, S. 113 f. und Koch/Pichonnaz, S. 627 ff. sowie Ebers in: Ebers/Heinze/Krügel/Steinrötter, Rechtshandbuch, § 3 Rz 160 ff. ↵

COM(2020) 64 final, S. 1. Zu den ordnungspolitisch relevanten Themen siehe die Aufzählung bei COM(2021) 206, S. 2. Die Empfehlung ITU-T Y.2060 der Internationalen Fernmeldeunion mit der Definition des Internets der Dinge (Internet-of-Things (IoT)) ist abrufbar unter https://www.itu.int/ITU-T/recommendations/rec.aspx?rec=y.2060. ↵

Bericht EP, angenommen durch Entschliessung EP 17 vom 16.02.2017. ↵

Entschliessung EP 17, Rz 51. ↵

So Zobl/Lysakowski, S. 44 f.; Gordon/Lutz, S. 7. ↵

Bericht EP, S. 8, 21 f.; Entschliessung EP 17, Ziff. 59. ↵

Bericht EP, S. 7. ↵

Bericht EP, S. 19 ff. ↵

Siehe Kapitel II. ↵

Europäischer Rat, Tagung des Europäischen Rates (19. Oktober 2017) – Schlussfolgerung,EUCO 14/17, 2017, S. 7. ↵

Siehe COM(2021) 206 final, S. 2 mit Verweis auf Europäischer Rat, Ausserordentliche Tagung des Europäischen Rates (1. und 2. Oktober 2020) – Schlussfolgerungen, EUCO 13/20, 2020, S. 6. ↵

COM(2017) 9 final, S. 4 f. ↵

COM(2017) 9 final, S. 15. ↵

Für die EU siehe die Richtlinie 85/374/EWG vom 25. Juli 1985 zur Angleichung der Rechts- und Verwaltungsvorschriften der Mitgliedstaaten über die Haftung für fehlerhafte Produkte. ↵

COM(2017) 9 final, S. 15. ↵

COM(2018) 237 final. ↵

Die ersten Unterzeichner waren Österreich, Belgien, Bulgarien, Tschechische Republik, Dänemark, Estonia, Finnland, Frankreich, Deutschland, Ungarn, Irland, Italien, Lettland, Litauen, Luxemburg, Malta, Niederlande, Polen, Portugal, Slowakei, Slowenien, Spanien, Schweden, Vereinigtes Königreich, Norwegen. ↵

COM(2020) 64 final, Fn. 11, bestehend aus zwei Untergruppen, der «Untergruppe Produkthaftung» und der «Untergruppe neue Technologien». Zu dieser Expertengruppe siehe auch Koch/Pichonnaz, S. 628 mit Fn. 11. Die Webseite der HEG-KI findet sich unter https://ec.europa.eu/digital-single-market/en/high-level-expert-group-artificial-in​tel​li​gence (zuletzt besucht am 07.08.2025). ↵

HEG-KI, Ethik-Leitlinien, S. 34. ↵

Untergruppe «New Technologies Formation»; zu den Untergruppen siehe Fn. 163. ↵

HEG-KI, Liability, S. 3. ↵

HEG-KI, Empfehlungen, S. 37. Dieser Umstand lässt sich implizit bei der Besprechung der Fallbeispiele in Kapitel VI gut illustrieren. ↵

HEG-KI, Empfehlungen, S. 38. ↵

HEG-KI, Empfehlungen, S. 39. Erwähnt sei auch der bereichsspezifische Bericht «Sectoral Considerations on the Policy and Investment Recommendations for Trustworthy AI» vom 23. Juli 2020, welcher sich mit KI-Anwendungen in den Bereichen IoT, Gesundheitswesen und öffentlicher Sektor beschäftigt. Diese Berichte konzentrieren sich insgesamt eher auf Aspekte der Wirtschaftspolitik und -förderung. ↵

COM(2020) 65 final. Die Veröffentlichung des Weissbuchs wurde gefolgt von einer öffentlichen Vernehmlassung, welche rege internationale Beteiligung erfuhr. ↵

COM(2020) 65 final, S. 30. ↵

COM(2020) 64 final. ↵

COM(2020) 64 final, S. 2. ↵

Mit vollständigem Titel: Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz und zur Änderung der Verordnungen (EG) Nr. 300/2008, (EU) Nr. 167/2013, (EU) Nr. 168/2013, (EU) 2018/858, (EU) 2018/1139 und (EU) 2019/2144 sowie der Richtlinien 2014/90/EU, (EU) 2016/797 und (EU) 2020/1828 (Verordnung über künstliche Intelligenz). ↵

Der Kommissionsvorschlag findet sich in COM(2021) 206 final mit Anhängen. Im Gesetzgebungsprozess wurde die Verordnung durchwegs als «Gesetz über KI» bezeichnet. ↵

So auch Braun Binder/Burri/Lohmann/Simmler/Thouvenin/Vokinger, Rz 41 mit Verweis auf die anstehende Prüfung des Produkthaftungsrechts. ↵

Siehe https://digital-strategy.ec.europa.eu/en/library/coordinated-plan-artificial-in​tel​li​gence-2021-review (zuletzt besucht am 07.08.2025). ↵

Bisher Richtlinie 2006/42/EG. ↵

Richtlinie 2001/95/EG. ↵

Pressemitteilung auf https://digital-strategy.ec.europa.eu/en/news/europe-fit-digital-age-commission-proposes-new-rules-and-actions-excellence-and-trust-artificial (zuletzt besucht am 07.08.2025). ↵

COM(2022) 495 final. ↵

COM(2022) 496 final. ↵

Siehe Kapitel II. ↵

Mitteilung zu einem Treffen der Aussenministerinnen und -minister der Mitgliedsstaaten des Europarates am 17. Mai 2019: https://www.coe.int/de/web/portal/-/artificial-intelligence-expert-committee-to-explore-the-development-of-a-legal-framework (zuletzt besucht am 07.08.2025). ↵

Publiziert auf https://www.coe.int/en/web/artificial-intelligence/cahai. ↵

Mitteilung zur 6. Sitzung https://www.coe.int/en/web/artificial-intelligence/-/​out​come-of-cahai-s-6th-plenary-meeting (zuletzt besucht am 07.08.2025). ↵

CAHAI, Feasibility Study, Strasbourg, 17. Dezember 2020, Rz 112. ↵

CAHAI, Feasibility Study, Strasbourg, 17. Dezember 2020, Rz 127–128. ↵

CAI, Revised Zero Draft. ↵

Siehe Mitteilung der Digitalen Gesellschaft vom 14. Februar 2023, https://www.digitale-gesellschaft.ch/2023/02/14/regulierung-kuenstlicher-intelligenz-digitale-gesellschaft-goes-europarat/ (zuletzt besucht am 07.08.2025). ↵

Siehe die Medienmitteilung vom 17. Mai 2024: https://www.coe.int/de/web/portal/-/council-of-europe-adopts-first-international-treaty-on-artificial-intelligence (zuletzt besucht am 07.08.2025). ↵

Eidgenössisches Departement für Wirtschaft, Bildung, Forschung/Staatssekretariat für Bildung, Forschung und Innovation, Herausforderungen der künstlichen Intelligenz, Bericht der interdepartementalen Arbeitsgruppe «Künstliche Intelligenz» an den Bundesrat Dezember 2019, S. 36. ↵

Bericht KI, S. 36. ↵

D.h. Roboter sind keine moral subjects, sondern reine moral objects und können somit keine Verantwortung übernehmen. ↵

Bericht IDAG KI, S. 37. ↵

Zu den möglichen gesetzgeberischen Optionen, welche der Schweiz zur Verfügung stehen könnten, siehe Braun Binder/Burri/Lohmann/Simmler/Thouvenin/Vokinger, Rz 4. Eine aktuelle Übersicht zum Stand der Diskussion findet sich neu ebenfalls bei Wildhaber, Haftung und KI, Rz 11–14. ↵

Bericht IDAG KI, S. 34. ↵

Parlamentarische Initiative 23.438 «Datenschutzgesetzgebung anpassen und teilautomatisierte Entscheide aufgrund künstlicher Intelligenz ergänzen» der Grünen Fraktion. ↵

Bundesrat, Medienmitteilung vom 22.11.2023. ↵

BR, Medienmitteilung vom 12. Februar 2025 https://www.news.admin.ch/de/nsb?​id=​104​110 (zuletzt besucht am 07.08.2025). Siehe Wildhaber/Barth, S. 598 ff. ↵

So das in der Medienmitteilung verwendete Wort. ↵

Nach Contratto, S. 435 mit Verweis auf Körber und die Richtlinie 2002/21/EG vom 7. März 2002 über einen gemeinsamen Rechtsrahmen für elektronische Kommunikationsnetze und -dienste (Rahmenrichtlinie) stammt der Begriff der Technologieneutralität ursprünglich aus dem Telekommunikationsrecht der EU, genauer gesagt aus der Rahmenrichtlinie von 2002. Siehe heute Art. 3 Abs. 4 Bst. c der Richtlinie 2018/1972 vom 11. Dezember 2018 über den europäischen Kodex für die elektronische Kommunikation (EKEK). ↵

Siehe UVEK, Auslegeordnung zur Regulierung von künstlicher Intelligenz, Bericht vom 12. Februar 2025 an den BR sowie die zugehörigen Basisanalysen Recht (EJPD), Sektoren (BAKOM) und Ländervergleich (UVEK). ↵

EJPD, Basisanalyse Recht, Ziffer 6.3.1.2. ↵

A.a.O. Ziffer 6.3.1.3. ↵

Hierzu siehe unten. ↵

Bericht des Bundesrates «Modernisierungsbedarf des Gewährleistungsrechts beim Kauf» vom 16. Juni 2023, Ziff. 4.1 ff., abrufbar unter: https://www.newsd.admin.ch/newsd/message/attachments/79587.pdf. ↵

Der gleiche Umstand findet sich bei der Suche nach den menschlichen Akteuren, die als potenzielle Urheber für durch KI erzeugte Werke in Frage kommen, siehe Gilliéron, S. 446 und dort Fn. 65 mit Verweis auf § 178 des UK Copyright Design Patent Act 1998. Nach dieser Bestimmung liegt das Urheberrecht beim Programmierer. ↵

COM(2020) 64 final, S. 2; vgl. Klindt, S. 486. ↵

Wagner, Verantwortlichkeit, S. 717 f. ↵

Wagner, S. 723; vgl. spezifisch für Anwendungen der Robotik in der Medizin Beck/Faber/Gerndt, S. 254 und S. 257 f.; zur Risikosteuerung durch Haftung vgl. Lanz, S. 383. ↵

Wagner, S. 724. ↵

Für die EU COM(2020) 64 final, S. 1. ↵

Siehe dazu auch Abschnitt I.2.3 mit den Meinungen der HEG-KI und der IDAG KI. ↵

Bericht IDAG KI, S. 36. Auch hätte sich bislang nicht gezeigt, dass die Anwendung der bestehenden Haftungsregeln auf Roboter Verantwortlichkeitslücken ergäbe, vgl. z.B. 18.3445 Ip. Marchand-Balet mit Bezug auf selbstfahrende Fahrzeuge und Bericht des Bundesrates in Erfüllung des Postulats Leutenegger Oberholzer 14.4169 «Auto-Mobilität» bzgl. Sachverhalten mit Auslandsbezug. ↵

Art. 97 ff. OR; §§ 241 BGB; § 918 ABGB. ↵

Art. 41 ff. OR; §§ 823 BGB; §§ 1293 ABGB. ↵

Zur geschichtlichen Entwicklung des Haftpflichtrechts siehe Abschnitt III.2. ↵

Harke, S. 206 f. ↵

Loh, S. 143. ↵

Loh, S. 146. ↵

2

Neue EU-Regeln zur Haftung für KI

Die digitale Strategie der EU

Im August 2024 trat die KI-Verordnung der EU in Kraft. Dieser Erlass markiert den vorläufigen Abschluss eines langen Gedanken- und Gesetzgebungsprozesses. Weniger medial begleitet trat im Dezember 2024 noch die überarbeitete Produkthaftungsrichtlinie in Kraft.

Diese beiden Rechtsakte sind nur ein Teil einer ganzen Reihe von Massnahmen, welche der Umsetzung eines «koordinierten europäischen Konzepts für künstliche Intelligenz» dienen sollten. Dieses Konzept war Teil der politischen Leitlinien, welche Ursula von der Leyen 2019 als damalige Kandidatin für das Amt der Kommissionspräsidentin vorschlug.[1] Diese politischen Leitlinien sahen insgesamt sechs übergreifende Ziele für Europa vor, namentlich den europäischen «Grünen Deal» zur Klimaneutralität, die Stärkung der europäischen sozialen Marktwirtschaft, Massnahmen zur Förderung der Rechtsstaatlichkeit, der aussen- und handelspolitischen Statur der EU und der Teilhabe der Bürger sowie – nicht zuletzt – eine Strategie für das digitale Zeitalter. Als Kernpunkt dieser digitalen Strategie sollten «Rechtsvorschriften mit einem koordinierten europäischen Konzept für die menschlichen und ethischen Aspekte der künstlichen Intelligenz» vorgeschlagen werden.[2] Bereits namentlich genannt wurde ein neues Gesetz über digitale Dienste mit besseren Haftungs- und Sicherheitsvorschriften für digitale Plattformen, Dienste und Produkte.

Mit der Wahl Ursula von der Leyens zur Präsidentin der EU Kommission[3] wurden diese vorgeschlagenen Leitlinien zu den offiziellen Prioritäten der EU-Kommission für den Zeitraum 2019–2024.[4] Am 19. Februar 2020 wurde zusammen mit dem bereits erwähnten Weissbuch zur KI[5] und der EU Datenstrategie, mit der ein «Binnenmarkt für Daten» geschaffen werden soll,[6] eine Agenda zur Gestaltung der digitalen Zukunft Europas vorgestellt.[7] Als unmittelbare nächste Schritte zur Umsetzung nannte die Kommission einen Rechtsakt über digitale Dienste und einen europäischen Aktionsplan für Demokratie, eine Überarbeitung der eIDAS-Verordnung und die Stärkung der Cybersicherheit durch den Aufbau einer eigenständigen gemeinsamen Cyber-Dienststelle.[8] Rat und Parlament begrüssten diese Pläne und forderten die Kommission zur Ausarbeitung entsprechender Vorschläge auf.[9]

Der Vorschlag zum Gesetz über digitale Dienste[10] wurde zusammen mit dem Vorschlag zum Gesetz über digitale Märkte[11] am 15. Dezember 2020 vorgestellt.[12] Die beiden Rechtsakte traten am 16. resp. am 1. November 2022 in Kraft. Die neue Cybersicherheitsstrategie der EU wurde am 16. Dezember 2020 vorgestellt.[13] Am 21. April 2021 stellte die Kommission ihren Vorschlag für ein neues Gesetz über künstliche Intelligenz (heute wieder offiziell als KI-Verordnung bezeichnet) vor, das einen europäischen Rechtsrahmen für KI-Risiken schaffen sollte[14]. Die KI-Verordnung wurde 2024 verabschiedet und trat am 1. August 2024 in Kraft. Ziel dieser neuen Verordnung ist es, die Risiken spezifischer Verwendungen von KI anzugehen, indem sie in vier verschiedene Ebenen eingeteilt werden: unannehmbares Risiko, hohes Risiko, begrenztes Risiko und minimales Risiko. Damit stellt die KI-Verordnung einen zentralen Baustein des «koordinierten europäischen Konzepts für künstliche Intelligenz» dar. Schliesslich soll die vorgeschlagene Überarbeitung der eIDAS-Verordnung die Einführung einer neuen digitalen Identität (EUid), d.h. eines digitalen Identitätsausweises, ermöglichen.[15]

Mit ihrem Fokus auf die «Sicherheit und die Grundrechte der Menschen und Unternehmen»[16] ist die KI-Verordnung als Teil des europäischen Wirtschaftsverwaltungsrechts zu sehen und ist damit eher dem öffentlichen Recht zuzuordnen. Die KI-Verordnung enthält Regeln für das Inverkehrbringen, die Inbetriebnahme und den Einsatz von KI-Systemen[17]. Diese Regeln betreffen die Schaffung von Transparenz, die Sorgfaltspflichten der beteiligten Wirtschaftsakteure, Anforderungen an deren Risikomanagement und Dokumentationspflichten. Die KI-Verordnung enthält keine Bestimmungen über die zivilrechtliche Haftung. Dennoch spielen gerade die Regeln für das Inverkehrbringen, die Inbetriebnahme und den Einsatz von KI-Systemen eine wichtige Rolle im Hinblick auf die Beurteilung der Produkthaftpflicht.

Mit diesen Rechtsakten ist ein grosser Teil der Massnahmen der digitalen Agenda bereits umgesetzt oder zumindest auf den Weg gebracht worden. Aus Sicht der Gesetzgebungslehre ist bemerkenswert, dass die Umsetzung der digitalen Agenda mit einer Verschränkung der einschlägigen Rechtsakte, insbesondere im terminologischen Bereich, einhergeht.[18] Bei aller Komplexität dieser technischen Regelungsmaterie dürfte dies insgesamt zu einer Stärkung des aufgrund der Kompetenzordnung in den Verträgen nach wie vor nur fragmentarisch ausgestalteten europäischen Normengeflechts und dadurch über die Zeit zu einer verbesserten Rechtsanwendung führen.[19]

Das Thema der Haftung kam in der digitalen Agenda nicht ausdrücklich zur Sprache; es wurde immerhin im Weissbuch gebührend gewürdigt. Zu den grössten rechtlichen Herausforderungen in Verbindung mit der Nutzung von KI zählte das Weissbuch neben den Vorschriften zum Schutz von Grundrechten (einschliesslich Datenschutz und Nichtdiskriminierung) und Fragen der Sicherheit auch die angemessene Lösung der Haftungsfrage.[20] In Bezug auf die Produkthaftungsrichtlinie sollten mögliche Anpassungen an der bestehenden Richtlinie und eine etwaige weitere Harmonisierung der nationalen Haftungsvorschriften ins Auge gefasst werden.[21] Ferner sollten für KI-Anwendungen mit hohem Risiko (wie neu in der KI-Verordnung definiert) wirksame Rechtsbehelfe für Parteien vorgesehen werden, die von negativen Auswirkungen dieser Systeme betroffen sind.[22] Diese Zielbestimmung deutet bereits an, dass die zivilrechtliche Haftung nicht nur, aber auch als Instrument der (öffentlich-rechtlichen[23]) Regulierung der KI gesehen wird. Denn die Aussicht, im gegebenen Fall Schadenersatz leisten zu müssen, ist besonders dazu geeignet, den mit KI beschäftigten Wirtschaftsakteuren Anreize für ein konformes Verhalten zu setzen. Die gleiche Konzeption steckt hinter der Motivation, den Wirtschaftsakteuren mit der Produkthaftpflicht eine verschuldensunabhängige Haftung aufzuerlegen, welche für eine «gerechte Risikoverteilung» zwischen diesen Akteuren und den Verbrauchern und anderen Beteiligten sorgen soll.[24]

Diese zivilrechtlichen Massnahmen wurden im September 2022 mit den Vorschlägen für eine überarbeitete Produkthaftungsrichtlinie und zu den Rechtsbehelfen für Opfer (neue Richtlinie über KI-Haftung) eingeleitet.[25] Nachdem der Rat und das Europäische Parlament im Dezember 2023 zu einer politischen Einigung über die Produkthaftungsrichtlinie gelangten, stand dem formellen Prozess ihrer Adoption nichts mehr im Wege.[26] Sie trat am 8. Dezember 2014 in Kraft. Im Gegensatz dazu erlitt der Vorschlag zur neuen Richtlinie über KI-Haftung angesichts des grossen Widerstands Schiffbruch. Die EU-Kommission zog ihren Vorschlag im Februar 2025 zurück.

Überarbeitete Produkthaftungsrichtlinie

Motive Teil 1: Verbraucherschutz und digitaler Wandel

Die alte Produkthaftungsrichtlinie, die Richtlinie 85/374/EWG, datiert vom 25. Juli 1985.[27] Schon damals wurde mit dem «Problem einer gerechten Zuweisung der mit der modernen technischen Produktion verbundenen Risiken» in einem «Zeitalter fortschreitender Technisierung» argumentiert.[28] Der Gesetzgeber hatte damals die Gefahren einer industriellen Fertigung von Produkten für die Verbraucher insgesamt im Blick.[29] Bei einer zunehmend automatisierten und vor allem weitgehend arbeitsteiligen Fertigung von Gütern für den Alltagsgebrauch wurde ein grösseres Schädigungspotential ausgemacht, als dies bei handwerklich und in überschaubaren Verhältnissen hergestellten Produkten der Fall gewesen sein dürfte. Bei einer industriellen Fertigung ist am Produktionsprozess eine potenziell grosse Zahl von Zulieferern, Unterakkordanten oder Importeuren beteiligt, sodass es einer geschädigten Person nicht immer einfach fällt, den Verursacher des von ihr erlittenen Schadens auszumachen und ins Recht zu fassen. Deswegen sollten aus Gründen des Verbraucherschutzes grundsätzlich alle beteiligten Wirtschaftsakteure haften.[30]

Diese in die nationalen Rechtsvorschriften umgesetzten Grundsätze haben sich seither in der Praxis nach allgemeinem Dafürhalten gut bewährt,[31] was durch die Evaluierung im Jahr 2018 mehrheitlich bestätigt wurde.[32] Wie später noch eingehend besprochen wird, hat sich dennoch seit längerem ein Modernisierungsbedarf abgezeichnet, insbesondere was den zentralen Begriff des Produkts betrifft.[33] Diese Problematik wurde regelmässig in den verschiedenen Untersuchungen und Analysen zu den Herausforderungen der KI dokumentiert.[34] Nichts dürfte diese Debatte besser illustrieren als die simple Frage, ob Software als Produkt gilt oder nicht. Die Politik beschränkte sich in ihren Argumenten jedoch nicht auf dieses eine terminologische Argument. Vielmehr sollen die Bestimmungen der modifizierten Richtlinie «den globalen Wertschöpfungsketten entsprechen, Innovationen und das Vertrauen der Verbraucher fördern und Unternehmen, die am ökologischen und digitalen Wandel beteiligt sind, mehr Rechtssicherheit bieten».[35] Angesichts neuer Technologien «wie Drohnen oder von KI betriebene Zustelldienste» besteht zusätzlich Bedarf nach neuen, angemessenen Schutzstandards, um die Verbrauchersicherheit weiterhin gewährleisten zu können.[36] Die neuen Rechtsakte, darunter die modifizierte Produkthaftungsrichtlinie, sollen dazu dienen, «unseren Rechtsrahmen fit für die Realitäten des digitalen Wandels» zu machen.[37] Um diese Ziele zu erreichen, machte die EU-Kommission vier Stossrichtungen aus:[38]

Modernisierung der Haftungsvorschriften für kreislauforientierte Geschäftsmodelle[39] und für Produkte im digitalen Zeitalter;[40]

Schaffung einheitlicherer Wettbewerbsbedingungen für Hersteller in der EU und in Nicht-EU-Ländern;[41]

Gleichstellung der Verbraucher mit den Herstellern.[42]

Die Motive der Haftungsvorschriften für Produkte im digitalen Zeitalter und die Gleichstellung der Verbraucher mit den Herstellern stehen im Vordergrund. Als Beispiele für die genannten Produkte zählte die Kommission Roboter, Drohnen oder Smart-Home-Systeme auf.[43] Mit der Gleichstellung ist die Gleichstellung der Parteien im Schadensprozess gemeint, d.h. es geht um die Schaffung gleich langer prozessualer Spiesse durch die Verpflichtung der Hersteller zur Offenlegung von Beweismitteln und um die Erleichterung der Beweislast zugunsten der Verbraucher in besonders komplexen Fällen.[44]

Ferner sollte das Fallrecht der letzten Jahrzehnte zur Produkthaftpflicht in nachgeführter Form kodifiziert werden.[45]

Motive Teil 2: Klimarecht

Der Grüne Deal war eine von sechs Prioritäten oder Stossrichtungen der ersten Kommission von der Leyen.[46] Obwohl der Grüne Deal damals in der Tagespresse sehr präsent war, drängte sich ein Zusammenhang mit der Produkthaftung erst einmal nicht auf. Bei der Vorstellung des Vorschlags zur überarbeiteten Produkthaftungsrichtlinie im September 2022 wurde dieser jedoch ausdrücklich als Antwort auf den digitalen und ökologischen Wandel präsentiert.[47] Das einschlägige Stichwort ist mit der sogenannten Kreislaufwirtschaft[48] gefunden: Der Präambel zur überarbeiteten Richtlinie zufolge werden im Zuge des «Übergangs von einer linearen zu einer Kreislaufwirtschaft» Produkte so konzipiert, dass sie nachhaltiger, wiederverwendbar, reparierbar und nachrüstbar sind.[49] Deshalb sollte die überarbeitete Richtlinie sicherstellen, dass die Verbraucher Anspruch auf Entschädigung für Schäden haben, die durch fehlerhafte veränderte Produkte verursacht werden.[50] Aus dem Kauf von rezyklierten Produkten sollte dem Verbraucher kein Nachteil gegenüber einem neuen Produkt entstehen, was die Sicherheit und die Haftung für unsichere oder eben fehlerhafte Produkte angeht. Gleichzeitig sollte die Industrie in dieser Hinsicht Rechtssicherheit erhalten.[51]

Verhältnis zum nationalen Recht und zu anderen Rechtsakten

Schon bei der alten Richtlinie 85/374/EWG ging es um die Harmonisierung der nationalen Rechtsvorschriften zur Haftung für fehlerhafte Produkte.[52] Nach den Grundsätzen des EU-Rechts findet eine Richtlinie nicht unmittelbar in den Mitgliedstaaten Anwendung, sondern muss von diesen zuerst in das nationale Recht umgesetzt oder transponiert werden.[53] Nationale Vorschriften, die eine Grundlage für weitergehende Ansprüche für Schäden infolge mangelhafter Produkte enthalten, setzen regelmässig ein Verschulden des Herstellers voraus, welches von der geschädigten Person nachgewiesen werden muss.[54] In ihren Erläuterungen hielt die Kommission fest, dass die (alte) Produkthaftungsrichtlinie «als verschuldensunabhängige Haftungsregelung» mit solchen nationalen Regelungen im Einklang stehe, da sie diese Rechte nicht berühre.[55] Die neue Richtlinie sollte demgegenüber für ein einheitliches Schutzniveau sorgen.[56]

Das Verhältnis zum nationalen Recht ist nicht nur eine Frage der Arbeitsweise der EU und des Zusammenspiels der Rechtssetzung auf supranationaler und nationaler Ebene. Die nationalen Haftungsregelungen wurden im Laufe der sozialen, wirtschaftlichen und rechtlichen Entwicklung schrittweise ausgeformt und «sind durch langjährige Rechtstraditionen gekennzeichnet»[57]. Die modifizierte, auf die Welt des digitalen Wandels angepasste Produkthaftungsrichtlinie stellt somit gewissermassen die letzte evolutionäre Stufe dieses Regulierungbereichs dar. Wer sie umfassend beurteilen will, sollte über ein entsprechend vertieftes Verständnis der Geschichte des Deliktsrechts verfügen.[58]

Verschiedene andere EU-Rechtsakte regeln ebenfalls einzelne Aspekte der Haftung im Zusammenhang mit dem Einsatz oder dem Vertrieb von fehlerhaften Produkten, welche sich mit der Regelung zur Produkthaftung jedoch nicht überschneiden, sondern sie nur ergänzen:[59]

Recht auf Abhilfe (Ersatz, Reparatur oder Erstattung), wenn Waren[60] inkl. digitaler Inhalte oder Dienstleistungen[61] nicht vertragsgemäss beschaffen sind oder nicht funktionieren; (Dieser Punkt schliesst sich an das Thema der Kreislaufwirtschaft an.)

Haftung für materielle oder immaterielle Schäden infolge fehlerhafter (Personen‑)Datenverarbeitung;[62]

Haftung für Umweltschäden.[63]

Die Produkthaftungsrichtlinie betrifft nur die ausservertragliche Haftung für materielle Schäden am Privateigentum von Verbrauchern, sodass sich die Abgrenzung zu den einschlägigen, ergänzenden Regelungen wie der DSGVO oder der Umwelthaftungsrichtlinie leicht ziehen lässt.

Ein wichtiges verwandtes Rechtsgebiet stellt das sogenannte Produktsicherheitsrecht dar.[64] Sowohl nach der alten wie der modifizierten Produkthaftungsrichtlinie gilt ein Produkt dann als fehlerhaft, wenn es nicht die Sicherheit bietet, die man unter Berücksichtigung aller Umstände erwarten kann (Art. 7). Das Produktsicherheitsrecht zielt darauf ab, dass nur «sichere» Produkte in Verkehr gebracht werden. Was unter «sicher» zu verstehen ist, richtet sich entweder nach sektor- oder technologiespezifischen Regulierungen[65] oder, wenn keine solche einschlägig sind, allgemein nach den Bestimmungen der Produktsicherheitsrichtlinie.[66] Bei diesen Bestimmungen handelt es sich im Wesentlichen um Instrumente der Regulierung, die zumindest durch die Brille des nationalen Rechts betrachtet dem öffentlichen Recht zugehörig sind.[67] Entsprechend ihrer Rechtsnatur werden die im Produktsicherheitsrecht enthaltenen Sicherheitsvorschriften mithilfe von Marktüberwachungsvorschriften durchgesetzt. Diese bestimmen, dass nicht konforme Produkte aus dem Verkehr gezogen werden, wenn ihre Hersteller sie nicht mit den Vorschriften in Einklang bringen können. Auf diese Weise wird der Verbraucherschutz gewährleistet. Hingegen enthält das Produktsicherheitsrecht keine spezifischen Bestimmungen über die zivilrechtliche Haftung von Unternehmen. Durch ihr Zusammenspiel sind die öffentlich-rechtlich konnotierte Produktsicherheit und die zivilrechtlich ausgestaltete Produkthaftung komplementäre Mechanismen, die der Verwirklichung eines funktionierenden Binnenmarkts für Waren dienen und gleichzeitig ein hohes Sicherheitsniveau und einen hohen Verbraucherschutz gewährleisten.[68] Mit den Worten der Kommission gesprochen, gehören Sicherheit und Haftung zusammen; sie «gelten zu unterschiedlichen Zeitpunkten und verstärken sich gegenseitig».[69]

Zusammen mit der Überarbeitung der Produkthaftung sollte auch das allgemeine Produktsicherheitsrecht für das Zeitalter des digitalen Wandels fit gemacht werden.[70] Bei den sektorspezifischen Regulierungen sind auch zahlreiche Bestimmungen der KI-Verordnung einzuordnen. Die KI-Verordnung soll ja u.a. sicherstellen, dass sogenannte Hochrisiko-KI-Systeme[71] die für sie geltenden Sicherheits- und Grundrechteanforderungen erfüllen (z.B. Daten-Governance, Transparenz, menschliche Aufsicht). Die überarbeitete Produkthaftungsrichtlinie soll insbesondere sicherstellen, dass die Hersteller fehlerhafter KI-Systeme für verursachte Körperschäden, Sachschäden oder Datenverluste haftbar gemacht werden können. Gleiches soll auch für Wirtschaftsakteure gelten, die ein solches KI-System in ein anderes Produkt integrieren, welches in der Folge einen Schaden dieses Typs verursacht.[72]

Kurzüberblick und Vergleich zum alten Recht

Die nachstehende Tabelle setzt die Bestimmungen der alten und der neuen Produkthaftungsrichtlinie einander direkt gegenüber. Die Kommission entschied sich dagegen, eine Anpassung oder Änderung der bestehenden Richtlinie 85/374/EWG vorzuschlagen, sondern wählte den Weg des Erlasses einer ganz neuen Richtlinie, die jedoch durchwegs als «überarbeitete Richtlinie» bezeichnet wird.[73] Als Begründung führte die Kommission an, dass bei einer Anpassung der bestehenden Richtlinie «in fast jedem Artikel» Änderungen hätten vorgenommen werden müssen.[74] Der direkte Vergleich macht deutlich, dass das tragende Konzept der alten Richtlinie trotz der zahlreichen Änderungen oder Neuerungen beibehalten wurde.[75] Bei der neuen Richtlinie handelt es sich deshalb tatsächlich um eine Modernisierung bzw. Überarbeitung der seit 1985 im Kern bewährten Regeln zur Produkthaftung.[76] Es handelt sich um eine evolutionäre Weiterentwicklung, wie sie es in der Geschichte des Deliktsrechts[77] wiederholt gab, und nicht um eine Revolution.

Für die Folgenabschätzung (Konsultation) wurden als mögliche Anpassungen der bestehenden Richtlinie an den digitalen Wandel drei Optionen vorgeschlagen:[78]

Option 1a: Die Anbieter digitaler Elemente haften solidarisch zusammen mit den Herstellern der Produkte, in die diese digitalen Elemente integriert werden;

Option 1b: Software wird vom Begriff des Produkts miterfasst, d.h. auch die Hersteller von eigenständiger Software können haftbar gemacht werden;

Option 1c: Jede Software mit Auswirkungen auf die Grundrechte wird erfasst, d.h. Datenschutzverletzungen, Verletzungen der Privatsphäre oder Diskriminierung sind ersatzfähig.

Umgesetzt wurde schliesslich die Option 1b. Die Option 1a wurde wohl als ungenügend abgelehnt, weil sie die Hersteller eigenständiger Software nicht ins Recht gefasst hätte. Wie gross das Schadenspotential bei Körper- und Sachschäden sowie Datenverlusten praktisch ausfällt, die durch reine Softwarelösungen verursacht werden, bliebe zu untersuchen.[79]

Den neueren gesetzgeberischen Gepflogenheiten entsprechend wurde die neue Richtlinie mit Zwischentiteln versehen, was ihre Lesbarkeit erhöht. Während die alte Richtlinie noch 22 Artikel zählte, kommt die neue auf 24.[80] Artikel 1 wurde zu einem blossen Zweckartikel umformuliert.[81] In der alten Richtlinie enthält Artikel 1 gleichzeitig die Rechtsgrundlage für den Haftungsanspruch selbst.

Artikel 2 der neuen Richtlinie grenzt den zeitlichen Anwendungsbereich ab, indem er klarstellt, dass die neuen Bestimmungen nur auf Produkte Anwendung finden, die 24 Monate nach dem Datum des Inkrafttretens der Richtlinie in Verkehr gesetzt oder in Betrieb genommen wurden. Eine Rückwirkung findet somit nicht statt (Abs. 1). Bereits in ihrem ursprünglichen Vorschlag wollte die Kommission freie und quelloffene Software (Open Source Software), die ausserhalb gewerblicher Tätigkeit entwickelt oder bereitgestellt wird, von der Produkthaftung ausnehmen.[82] Ein neu eingeschobener Absatz stellt dies nun beim sachlichen Anwendungsbereich ausdrücklich klar (Abs. 2).[83] Für die Haftung aufgrund von Nuklearschäden wird zudem auf die in erster Linie anwendbaren internationalen Vereinbarungen verwiesen (Abs. 3). Für verschiedene weitere Regelungsbereiche bleiben vorbestehende Regelungen vorbehalten (Abs. 4): In Bezug auf die Haftung im Zusammenhang mit Personendaten sind dies die Bestimmungen der DSGVO und weiterer einschlägiger Normen.[84]

Der ursprüngliche Vorschlag der EU-Kommission enthielt noch einen ausdrücklichen Vorbehalt nationaler Regelungen zur Haftung mehrerer Schädiger[85] und zu vertraglichen und ausservertraglichen Ansprüchen, die sich nicht nur auf ein fehlerhaftes Produkt gründen (Art. 2 Abs. 3(b)). Dieser Vorbehalt wurde in Art. 2 gestrichen und findet sich nunmehr direkt bei den einschlägigen Bestimmungen (Art. 12 und 13). Weiter vorbehalten bleiben Haftungsbestimmungen, die am 30. Juli 1985 bereits in Kraft waren (Art. 2 Abs. 4(c)).[86] Schliesslich wurde der Querverweis auf eine nationale Umsetzung der Richtlinie über KI-Haftung gestrichen. Darin kann eine politisch motivierte Entkoppelung der beiden Gesetzgebungsprojekte gesehen werden, die ursprünglich als «Paket» gesehen wurden. Artikel 3 setzt aus Sicht der geschädigten Personen das Schutzniveau. Es soll einerseits sicherstellen, dass einzelne Mitgliedstaaten das vorgesehene Haftungsregime nur unvollständig in ihr nationales Recht transponieren. Andererseits setzt Artikel 3 der gesetzgeberischen Initiative der Mitgliedstaaten Grenzen.[87]

Gemäss Artikel 3 will die neue Richtlinie das Produkthaftungsrecht umfassend harmonisieren. Dabei sind jedoch die vorbestehenden nationalen zivilrechtlichen Haftungsregeln zu respektieren.[88]

In Artikel 2 der alten Richtlinie wurde der zentrale Begriff des Produkts definiert. Der damaligen Zeit entsprechend wurden Produkte anschaulich und alltagstauglich als bewegliche Sachen gesehen. Aus praktischen Gründen wurde einzig noch die Elektrizität der Begriffsbestimmung angehängt. Artikel 3 der alten Richtlinie definierte daneben den Begriff des Herstellers (Abs. 1) und spezifizierte, dass neben dem Hersteller auch der Importeur (Abs. 2) oder subsidiär der Lieferant (Abs. 3) in die Haftung genommen werden können.

In Artikel 4 der neuen Richtlinie wurde eine umfassende Reihe von Begriffsbestimmungen aufgenommen. Wie das Einfügen von Zwischentiteln entspricht das Bereitstellen einer spezifischen Terminologie den aktuellen Gepflogenheiten in der Gesetzgebung. Die Definition des Produkts (Ziff. 1) wurde im Wesentlichen beibehalten, einschliesslich der Feststellung, dass ein Produkt als Komponente Teil einer anderen beweglichen oder unbeweglichen Sache sein kann. Die Variante des Verbundenseins («inter-connected with») zielt klar auf die Verknüpfung von Produkten mit digitalen Diensten ab (Ziff. 3).[89] Neben der Elektrizität wurden nun zusätzlich «digitale Konstruktionsunterlagen», Rohwaren[90] und – praktisch besonders bedeutsam – Software zu den beweglichen Sachen als Produkte hinzugenommen (Ziff. 1).[91] Damit wurde eine lange Kontroverse in der Literatur beendet, ob Software als Produkt gelten kann oder nicht.[92] Diese Anpassung ist eine der wesentlichsten Neuerungen der überarbeiteten Richtlinie.

Digitale Konstruktionsunterlagen sind Anleitungen für die maschinelle Produktion in digitaler Form. In der Beratung wurde diesem auf den ersten Blick rätselhaften Begriff der klärende Zusatz angefügt, dass es sich dabei um Formen der Information handelt, welche die automatische Herstellung von Sachen ermöglichen (Ziff. 2).

Das «kaskadenhaft gestaltete Adressatenkonzept»[93] für den Kreis der haftenden Personen bleibt erhalten. Da neben dem Hersteller (Ziff. 10) und dem Lieferanten (Ziff. 14)[94] nun ausdrücklich auch der Importeur (Ziff. 12)[95] sowie weitere Akteure als Haftungssubjekte genannt werden, wurde der neue Oberbegriff der Wirtschaftsakteure eingeführt (Ziff. 15). Aus Sicht der Nachhaltigkeit und der Kreislaufwirtschaft ist hervorzuheben, dass neu Personen, die ein Produkt sicherheitstechnisch wesentlich verändern, ausdrücklich in den Kreis der haftenden Personen aufgenommen werden (Ziff. 18).[96]

Die Begriffsbestimmungen richten sich konsequent nach der Terminologie der Produktsicherheitsregulierung der EU aus[97] und sollen einem Kommentar der EU-Kommission zufolge technologieneutral verstanden werden.[98] Für die Definition der Daten (Ziff. 6) wird auf die diesbezügliche Definition im Daten-Governance-Rechtsakt[99] verwiesen.[100] Wirtschaftsakteure der Plattform-Ökonomie wie der Fulfillment-Dienstleister (Ziff. 13) entstammen den Konzepten des Gesetzes über digitale Dienste.[101] Diese Verweise auf verwandte Rechtsakte belegen, dass die EU-Kommission und die EU-Gesetzgeber einer konsistenten Begriffsbildung zumindest innerhalb sachlich verwandter Regelungsbereiche eine vermehrte Bedeutung beimessen.

Während in der alten Richtlinie die Haftungsgrundlage und ihre Spezifizierungen und Modalitäten in wenigen, knappen Sätzen umrissen wurden, ist diesen Themen in der neuen Richtlinie mit Kapitel II ein ganzes eigenes Kapitel gewidmet, in dem sich auch die ausführliche Definition der Fehlerhaftigkeit eines Produkts findet (Art. 7), auf welche später eingegangen wird. Das zentrale Recht auf Schadenersatz (Art. 5) macht den Anfang. Im Zuge der Beratungen wurde diese Bestimmung durch die Festlegung des ersatzfähigen Schadens ergänzt (Art. 6).[102] In diesem Zusammenhang ist die Präzisierung zu beachten, dass ein ersatzfähiger Schaden[103] auch den Verlust oder die Beschädigung von Daten umfassen kann, sofern diese Daten nicht ausschliesslich zu beruflichen oder gewerblichen Zwecken verwendet werden (Art. 6 Abs. 1(c)).[104]

Die Definition der Fehlerhaftigkeit eines Produkts wurde ausführlicher gestaltet (in der neuen Richtlinie nach vorne gerückt als Art. 7). Als Grundprinzip gilt weiterhin, dass ein Produkt dann fehlerhaft ist, wenn es nicht die Sicherheit bietet, die die breite Öffentlichkeit (oder wie es jetzt heissen soll: «eine Person») unter Berücksichtigung aller Umstände erwarten darf (Art. 7 Abs. 1). Mit Blick auf digitale Produkte und deren zunehmende Vernetzung oder Selbstlernfunktion aber auch um der EuGH-Rechtsprechung Rechnung zu tragen, wurden zu diesen genannten Umständen weitere Faktoren und zusätzlich ausdrücklich sicherheitsrelevante Cybersicherheitsanforderungen hinzugenommen (Art. 7 Abs. 1(f)).[105] Diese Formulierung bleibt nach wie vor sehr offen und ermöglicht dadurch eine Anwendung auf ein breites Produktspektrum. Klare Vorgaben zur Beurteilung der Fehlerhaftigkeit eines Produkts im Einzelfall gibt sie jedoch nicht.[106]

Artikel 8 enthält die vollständige Kaskade der potenziell haftpflichtigen Wirtschaftsakteure, angefangen vom Hersteller bis hin zu den Händlern oder, in besonderen Situationen, den beteiligten Online-Plattformen.

Die grosse Neuerung im zweiten Teil von Kapitel II betrifft die Verteilung der Beweislast. Artikel 4 der alten Richtlinie beschränkte sich noch darauf, die allgemeine zivilrechtliche Regel zu wiederholen, dass derjenige, der einen Schaden klageweise durchsetzen will, alle Voraussetzungen für einen Schadenersatz beweisen muss. Bei der als Kausalhaftung ausgestalteten Produkthaftung konnte bislang nur auf den Nachweis des Verschuldens des Herstellers verzichtet werden. Die neue Regelung zielt darauf ab, die Interessen der beteiligten Personen differenzierter zu behandeln. So kann das nationale Gericht unter Umständen von einer Fehlerhaftigkeit des fraglichen Produkts ausgehen, sodass die geschädigte Person diesen Beweis nicht zu erbringen braucht (Art. 10 Abs. 2–3). Gerade bei Produkten, die sich durch eine komplexe oder intransparente Funktionsweise auszeichnen, wäre dieser Beweis häufig nur schwer beizubringen. Dem beklagten Wirtschaftsakteur steht jedoch der Gegenbeweis zu (Art. 10 Abs. 5).

Kapitel III der neuen Richtlinie fasst verschiedene allgemeine Bestimmungen zu den Haftungsmodalitäten zusammen. In der alten Richtlinie fanden sich bei diesen Modalitäten noch die Definition des fehlerhaften Produkts (Art. 6) und die verschiedenen Tatbestände, die zu einer Befreiung (Art. 7) oder Minderung (Art. 8) der Haftung des Herstellers führen konnten. Diese Regelungsgehalte wurden teilweise ins Kapitel II der neuen Richtlinie verschoben. Kapitel III der neuen Richtlinie präsentiert sich nun als Scharnier zu den nationalen Zivilrechten und ihren Prinzipien der ausservertraglichen Haftung: Bestätigt und beibehalten wird das Scharnier ins nationale Zivilrecht, welches die Haftung einer Mehrheit von verantwortlichen Wirtschaftsakteuren regeln soll (Art. 12 der neuen Richtlinie). Die Tatbestände, welche zur gänzlichen Befreiung von der Haftung führen können, wurden grundsätzlich beibehalten (Art. 11). Sie wurden leicht ausführlicher formuliert (z.B. bei Abs. 1 Bst. a–b), systematisch anders eingeordnet (noch ins Kapitel II) und dadurch von den Haftungsminderungsgründen (Art. 13) getrennt. Der Tatbestand, der sich auf den Stand von Wissenschaft und Technik im Zeitpunkt des Inverkehrbringens abstützt (Art. 7 Bst. e der alten Richtlinie), wurde im Hinblick auf digitale Produkte ergänzt: Als zeitliche Grenze kommt nun der spätere Zeitpunkt hinzu, ab dem das Produkt nicht mehr unter Kontrolle des Herstellers steht (Art. 11 Abs. 1 Bst. e der neuen Richtlinie). Zudem dürfen die Mitgliedstaaten von dieser Haftungsbefreiung nicht mehr absehen, um in allen Mitgliedstaaten für gleiche Wettbewerbsvoraussetzungen und einen einheitlichen Standard des Konsumentenschutzes zu sorgen.[107] Neu hinzugekommen sind besondere Ausnahmen für Hersteller von Komponenten (Abs. 1 Bst. f) und für Personen, die Produkte nachträglich verändern (Abs. 1 Bst. g). Im Hinblick auf digitale Produkte, die nach dem Zeitpunkt der Inverkehrbringung durch Softwareupdates oder durch digitale Services punktuell oder laufend weiter vom Hersteller modifiziert werden können, wurden in Abs. 2 vier Gegenausnahmen für die Haftungsbefreiung aufgenommen.[108]

Im Zuge der Beratungen neu aufgenommen wurde das Rückgriffsrecht des Wirtschaftsakteurs, der die geschädigte Person entschädigt, auf die anderen mit ihm nach Art. 12 Abs. 1 solidarisch haftenden Wirtschaftsakteure (Art. 14). Diese Bestimmung soll offensichtlich sicherstellen, dass die nationalen Haftpflichtrechte den Rückgriff konsistent mit den konzeptionellen Überlegungen der europäischen Gesetzgeber umsetzen. Anders als bei Art. 12–13 findet sich hier kein Vorbehalt zugunsten der einzelstaatlichen Rechtsvorschriften.

Den Abschluss der neuen wie der alten Richtlinie machen verschiedene technische und administrative Bestimmungen, einschliesslich der Anweisungen an die Mitgliedstaaten zur Umsetzung der Richtlinie in das nationale Recht. Die Grundregel, dass Ansprüche nach der Richtlinie innert drei Jahren ab Kenntnis des Schadens eingebracht werden müssen, bleibt unverändert (Art. 16 Abs. 1 der neuen Richtlinie; relative Verjährungsfrist).[109] Die Hersteller haften für ihre Produkte während 10 Jahren ab der Inverkehrbringung (Art. 17 Abs. 1; absolute Verjährungsfrist). Neu ist, dass die geschädigten Personen von einer Verlängerung der absoluten Haftungsperiode auf insgesamt 25 Jahre profitieren können, wenn die Latenzzeit einer Körperverletzung dazu führt, dass sie nicht in der Lage waren, während der ersten 10 Jahre ein Entschädigungsverfahren einzuleiten (Art. 17 Abs. 2).[110] Als Beispiele für solche Umstände nannte die Kommission die Einnahme toxischer Mittel, welche erst im Laufe der Jahre zu gesundheitlichen Störungen führen.[111]

Mit Blick auf den Konsumentenschutz ist entscheidend, dass es den Wirtschaftsakteuren weiterhin nicht gestattet ist, von den Bestimmungen dieser Richtlinie durch vertragliche Abmachungen, namentlich durch AGB, abzuweichen. Bereits erwähnt wurde, dass die Mitgliedstaaten nicht mehr darauf verzichten dürfen, die Haftungsausnahme bezüglich des Stands von Wissenschaft und Technik im Zeitpunkt des Inverkehrbringens in ihr nationales Recht aufzunehmen (Öffnungsklausel).

Der ursprüngliche Kommissionsvorschlag hatte sich noch gegen die Abschaffung des Schutzes der Hersteller gegen Entwicklungsrisiken gewandt.[112] Im Zuge der Beratungen wurde erkannt, dass dieser Schutz in einigen Mitgliedstaaten als «unzulässige Einschränkung des Schutzes natürlicher Personen» angesehen werden könnte.[113] In der Folge wurde die Möglichkeit der Mitgliedstaaten, abweichende Bestimmungen zu erlassen, wieder aufgenommen (Art. 18).

Vorschlag zu einer neuen Richtlinie über KI-Haftung

Motive (Teil 1): Transparenz gegen Blackbox-Effekt

Gleichzeitig mit dem Vorschlag zu einer überarbeiteten Produkthaftungsrichtlinie wurde der Vorschlag zu einer neuen Richtlinie über KI-Haftung vorgestellt.[114] Die Kurzbezeichnung der vorgeschlagenen Richtlinie suggeriert, dass es sich um eine umfassende Haftungsregelung für KI handeln könnte. Dem ist jedoch nicht so. Eine eigentliche Haftungsregelung enthielt der Vorschlag nicht; er setzte die einschlägigen nationalen Haftungsregeln voraus.[115] Insbesondere folgte die EU-Kommission der Empfehlung des Parlaments, eine Gefährdungshaftung für die Betreiber von KI-Systemen einzuführen,[116] nicht. Vielmehr bestand der Zweck des Vorschlags darin, «einheitliche Regelungen für den Zugang zu Informationen und die Erleichterung der Beweislast im Zusammenhang mit durch KI-Systeme verursachten Schäden festzulegen».[117] Das Motiv lag darin, dass nach verbreiteter Ansicht «die besonderen Merkmale der KI, darunter Komplexität, Autonomie und Undurchsichtigkeit (der sogenannte «Blackbox»-Effekt)» die Ermittlung der haftbaren Person und die Erfüllung der Voraussetzungen für eine erfolgreiche Haftungsklage für die Opfer regelmässig erschweren oder unmöglich machen.[118] Wirksame Haftungsvorschriften setzen dabei wirtschaftliche Anreize zur Umsetzung der Sicherheitsvorschriften,[119] die etwa im Produktsicherheitsrecht, aber auch im neuen Gesetz über KI zu finden sind. Denn die Vorschriften des Produktsicherheitsrechts und der KI-Regulierung sehen keine individuelle Entschädigung von Geschädigten vor.[120]

Für die Kommission stand das Risiko im Raum, dass die Mitgliedstaaten angesichts der besonderen Herausforderungen, die sich beim Einsatz von KI stellen,[121] eigene nationale Haftungsregelungen für KI in Betracht ziehen oder die nationalen Gerichte ad hoc im Einzelfall entscheiden könnten. Um einer fragmentierten KI-spezifischen Haftungsregelung innerhalb der Union vorzubeugen, hätte die neue Richtlinie für Rechtssicherheit gerade auch für die Unternehmen sorgen sollen, die KI entwickeln oder einsetzen.[122] Die Vorschriften der neuen Richtlinie hätten gleichzeitig zur Durchsetzung der im ebenfalls neuen Gesetz über KI festgelegten Anforderungen an Hochrisiko-KI-Systeme beitragen sollen.[123]

Die vorgeschlagene Richtlinie über KI-Haftung wurde ausdrücklich als Ergänzung zur (überarbeiteten) Produkthaftungsrichtlinie präsentiert, denn in ihr waren Vorschriften für Ansprüche enthalten, die gerade nicht in den Anwendungsbereich der Produkthaftungsrichtlinie fallen.[124] Die Produkthaftungsrichtlinie sieht eine Kausalhaftung für Ansprüche vor, die sich gegen die Hersteller von fehlerhaften Produkten richten. Die Richtlinie über KI-Haftung hingegen hätte die Durchsetzung von Ansprüchen erleichtern sollen, die sich auf eine meist verschuldensabhängige Haftung des nationalen Rechts abstützen.[125] Der Vorschlag betraf sodann weitere Schadenstypen wie beispielsweise Ansprüche aus Verletzungen der Privatsphäre oder infolge von (Daten‑)Sicherheitsproblemen.[126] Beide neuen Richtlinien zusammen hätten sich nach Ansicht der Kommission zu einem wirksamen zivilrechtlichen Haftungsregime für KI ergänzt.[127]

Motive (Teil 2): Klimarecht

In ihren Erläuterungen zum Vorschlag für die neue Richtlinie schlug die Kommission erneut den Bogen zum Grünen Deal. Für einen indirekten Zusammenhang sei die Tatsache ausreichend, dass KI ein «entscheidender Faktor für die Verwirklichung der Nachhaltigkeitsziele des Grünen Deals in vielen unterschiedlichen Sektoren» sei.[128] Die Einführung von KI bringe «Vorteile für die Umwelt mit sich», denn KI-Systeme könnten in intelligenter Weise zur Optimierung von Verfahren und damit zur Ressourcenschonung eingesetzt werden.[129]

Dies ist wohl richtig. Dennoch erscheint der Zusammenhang zwischen den Zielen des Klimarechts bei der Richtlinie zur KI-Haftung deutlich weniger stark und offensichtlich als im Falle der Produkthaftungsrichtlinie mit ihrem direkten Bezug zur Förderung und Stärkung der Kreislaufwirtschaft.

Verhältnis zum nationalen Recht und zu anderen Rechtsakten

Wie bei der Produkthaftungsrichtlinie galt auch bei der Richtlinie zur KI-Haftung, dass die ausservertragliche Haftung vom nationalen Zivilrecht geregelt werden muss. Die Vorschriften des Vorschlags hätten keineswegs in die Kernpunkte des nationalen Deliktsrechts eingegriffen, beschlügen aber immerhin die Modalitäten seiner Durchsetzung im Prozess.[130] Wagner spricht prägnant von einer «Implantierung» beweisrechtlicher Vorschriften in die nationalen Deliktsrechte.[131]

Für den breiteren Überblick zu anderen EU-Rechtsakten zur KI sei auf die entsprechenden Ausführungen bei der Vorstellung der Produkthaftungsrichtlinie verwiesen.[132] In ihren Erläuterungen zum Vorschlag der neuen Richtlinie nannte die Kommission als komplementären Rechtsakt noch das Gesetz über Cyberabwehrfähigkeit.[133] Mit der Richtlinie zur KI-Haftung teile dieses Gesetz das Ziel, «das Vertrauen in Produkte mit digitalen Bestandteilen zu stärken».[134] Im weiteren Sinn mag dies zutreffen. Das Gesetz über Cyberabwehrfähigkeit reiht sich ausdrücklich in das Programm der politischen Leitlinien der Kommission ein.[135] Es gehört aber eher zum Produktsicherheitsrecht, also auf die Seite der Sicherheit, mehr als auf die Seite der Haftung.

Kurzüberblick

Der Vorschlag zu einer Richtlinie zur KI-Haftung war vollständig neu, sodass kein Vergleich zu einem bestehenden Rechtsakt möglich ist. Im Folgenden sollen die Kernpunkte des Vorschlags kurz vorgestellt werden, unter Einbezug verschiedener einschlägiger paralleler Bestimmungen. Es handelt sich um einen kurzen Vorschlag, der nur aus 9 Artikeln einschliesslich der Schlussbestimmungen bestand. Eine Gliederung mit Zwischentiteln wie bei der Produkthaftungsrichtlinie gab es nicht.

Zur Vorgeschichte des Vorschlags ist zu erwähnen, dass sich die Vertreter der Zivilgesellschaft (einzelne Bürger und Bürgerinnen, Verbraucherverbände, akademische Einrichtungen) im Rahmen der öffentlichen Konsultation nachdrücklich für die «Harmonisierung der verschuldensunabhängigen Haftung (bezeichnet als ‹Gefährdungshaftung›) in Verbindung mit einer Pflichtversicherung» aussprachen.[136] Wohl auch aufgrund der Zurückhaltung der Unternehmen folgte die Kommission dieser Ansicht nicht und verzichtete für die erste Stufe auf die Einführung einer Gefährdungshaftung,[137] behielt sich im Rahmen eines Überprüfungsmechanismus eine Neubewertung in diese Richtung vor.[138]

Gegenstand und Anwendungsbereich der vorgeschlagenen Richtlinie sind nach dem Vorstehenden eng gefasst (Art. 1): Der Vorschlag enthält gemeinsame Vorschriften über a) die Offenlegung von Beweismitteln betreffend Hochrisiko-KI-Systeme mit dem Ziel, es einem Kläger zu ermöglichen, einen ausservertraglichen, verschuldensabhängigen zivilrechtlichen Schadensersatzanspruch zu begründen; und b) die Beweislast bei der Geltendmachung ausservertraglicher, verschuldensabhängiger zivilrechtlicher Ansprüche vor nationalen Gerichten in Bezug auf Schäden, die durch ein KI-System verursacht wurden. Zusätzlich sollen die beteiligten Wirtschaftsakteure, zu denen ausdrücklich auch der Nutzer gehört, wirksam angereizt werden, ihren Verpflichtungen in Bezug auf das von ihnen erwartete Verhalten nachzukommen, wie es namentlich in der KI-Verordnung kodifiziert wird.[139] Vordergründig aber sollen die neuen Bestimmungen dazu dienen, das Funktionieren des Binnenmarkts zu verbessern.[140] Der gesetzliche Verweis auf dieses abstrakte Ziel ist notwendig, denn eine generelle Kompetenz, auf dem Gebiet des Zivilrechts Rechtsakte zu erlassen, haben die EU-Gesetzgeber nicht. Immerhin kann argumentiert werden, dass der Vertrieb digitaler Produkte sehr häufig grenzüberschreitend erfolgt, sodass der Bezug zum Binnenmarkt naturgemäss hergestellt ist.[141]

Vorbehalten sind die Vorschriften des nationalen Zivilprozessrechts zur Verteilung der Beweislast und zum Beweismass sowie zur Definition des Verschuldens (Art. 1 Abs. 3 Bst. d), mit Ausnahme der Bestimmungen zur Offenlegung von Beweismitteln (Art. 3) und zur Vermutung eines Kausalzusammenhangs im Fall eines Verschuldens (Art. 4). Es geht hier um eine «gezielte», man könnte auch sagen punktgenaue Regulierung von KI-Systemen, damit die Verhältnismässigkeit gewahrt bleibt und möglichst wenig in die nationalen Haftungsbestimmungen eingegriffen wird.[142]

Ferner gibt es hier wieder eine Öffnungsklausel für die Mitgliedstaaten (Art. 1 Abs. 4), sofern weitere Erleichterungen mit dem EU-Recht vereinbar sind.

Bei den Definitionen (Art. 2) wird bei den technischen Begriffen des KI-Systems und des Hochrisiko-KI-Systems aus Gründen der Kohärenz[143] auf die KI-Verordnung verwiesen (Ziff. 1 und Ziff. 2).[144] Nicht harmonisiert wird der Begriff des Schadens selbst (Ziff. 5). Es bleibt damit dem nationalen Recht bzw. den Rechtstraditionen der Mitgliedstaaten überlassen, inwieweit immaterielle Schäden ersatzfähig sein sollen.[145] Als Beklagte können der Anbieter (Ziff. 3[146]) oder der Nutzer (Ziff. 4[147]) des KI-Systems in Frage kommen. Als potenzieller Kläger (und somit wohl auch als Kläger) kann sowohl eine natürliche als auch eine juristische Person auftreten (Ziff. 6 und 7). Dies ist ein wichtiger Unterschied zur Produkthaftpflichtrichtlinie, bei der nur Verbraucher als Kläger zugelassen sind, die ja per Definition natürliche Personen sein müssen. Als Kläger auftreten kann auch eine Person, die von Rechts wegen oder aufgrund eines Vertrags in die Rechte des Geschädigten eingetreten ist (Ziff. 6 Bst. b). Diese Bestimmung ermöglicht die Durchführung des Regresses, namentlich durch Versicherungen.[148]

Der Kläger (Art. 2 Ziff. 6) kann somit die Offenlegung von Beweismitteln (Art. 3) nur verlangen, wenn sein Anspruch im Zusammenhang mit einem KI-System mit einem hohen Risiko steht. Macht der Kläger Ansprüche im Zusammenhang mit einem KI-System geltend, das nicht als Hochrisiko-KI-System qualifiziert ist, kommen immerhin die Regeln zur Beweislast (Art. 4) zur Geltung.

Die erste von zwei Kernbestimmungen betrifft die Offenlegung von Beweismitteln (Art. 3).[149] Steht ein Hochrisiko-KI-System im Verdacht, einen Schaden verursacht zu haben, kann das nationale Gericht auf Antrag des Klägers anordnen, dass der Beklagte die «ihm vorliegenden einschlägigen Beweismittel» offenlegt. Dieser Anspruch besteht bereits im Vorfeld eines Zivilverfahrens, wobei es genügt, dass der potenzielle Kläger die «Plausibilität» seines Schadenersatzanspruchs «ausreichend» darlegt (Abs. 1).[150] Das Gericht kann zudem sichernde Massnahmen anordnen (Abs. 3). Zur Wahrung berechtigter Interessen Dritter (Geschäftsgeheimnisse[151] o.ä.) sollen die Gerichte die Offenlegung nur anordnen, soweit dies «erforderlich und verhältnismässig» ist. Zum Schutz von Geschäftsgeheimnissen dürfen sie spezifische Massnahmen ergreifen (Abs. 4).[152]

Beim fraglichen KI-System muss es sich um ein Hochrisiko-KI-System handeln. Für Hochrisiko-KI-Systeme sieht die KI-Verordnung verschiedene Anforderungen und Pflichten für deren Anbieter vor, die als Voraussetzungen für die Offenlegung von Beweismitteln gesehen werden können.[153] Dazu gehören namentlich die technische Dokumentation[154] und die Protokollierung, d.h. die Aufzeichnung von Vorgängen und Ereignissen zur Überwachung des Betriebs[155]. Ein Recht auf Zugang zu diesen Informationen sieht die KI-Verordnung hingegen für den Betroffenen nicht vor.[156] Ein solches Recht hätte erst durch Art. 3 der neuen Richtlinie geschaffen werden sollen.[157]

Die Beschränkung der Offenlegungspflichten von Art. 3 auf Hochrisiko-KI-Systeme mag auf den ersten Blick befremden. Damit sollte erreicht werden, dass Betreiber von KI-Systemen mit geringeren Risiken nicht dieselben hohen Standards einhalten müssen, welche die KI-Verordnung für Hochrisiko-KI-Systeme reserviert.[158] Es handelt sich um eine Konsequenz aus dem Grundsatz der Verhältnismässigkeit. Die Praxis hätte zeigen müssen, ob sich diese Zurückhaltung bei der Regulierung von KI-Systemen ohne hohes Risiko bewährt oder ob Geschädigte aus diesem Bereich nicht benachteiligt werden. Blasek ging davon aus, dass sich Haftungslücken infolge der «sehr breit angelegten Definition von Hochrisiko-KI» sehr in Grenzen halten werden.[159]

Kommt der Beklagte einer Anordnung des nationalen Gerichts zur Offenlegung von Beweismitteln nicht nach, so sind zwar keine Zwangsmassnahmen vorgesehen. Solche Zwangsmassnahmen bleiben dem nationalen Zivilverfahrensrecht vorbehalten, doch kann deren Anordnung und Durchsetzung zu Verzögerungen und weiteren Kosten zuungunsten des Geschädigten führen.[160] Weigert sich der Beklagte zur Offenlegung, wird vermutet, dass der Beklagte gegen seine einschlägige, im nationalen Recht oder im Unionsrecht definierte Sorgfaltspflicht[161] verstossen hat. Damit sollen verfahrensrechtliche Verzögerungen vermieden werden. Der Beklagten steht es immerhin hoffen, den Gegenbeweis zu erbringen (Abs. 5). Auf eine weitergehende Regulierung, welche die Beweislast generell umgekehrt oder unwiderlegbare Vermutungen vorgesehen hätte, wurde infolge des diesbezüglich negativen Feedbacks der Unternehmen im Rahmen der Konsultation verzichtet.[162] Es macht den Eindruck, dass die Kommission mit diesem neuen Vorschlag möglichst rasch und pragmatisch erste Fortschritte erzielen und grössere Widerstände im Gesetzgebungsprozess vermeiden wollte.

Die zweite Kernbestimmung betrifft den Kausalzusammenhang als Haftungsvoraussetzung (Art. 4). Die Bestimmung zielt darauf ab, ohne Schaffung eigentlicher neuer Haftungsansprüche[163] eine wirksame Grundlage für die Geltendmachung von Schadenersatzansprüchen zu schaffen, bei denen die Haftung in einer schuldhaften Sorgfaltspflichtverletzung liegt.[164] Die nationalen Gerichte vermuten demnach das Vorliegen eines Kausalzusammenhangs «zwischen dem Verschulden des Beklagten und dem vom KI-System hervorgebrachten Ergebnis», wenn kumulativ die folgenden drei Bedingungen vorliegen (Abs. 1):[165]

Der Kläger weist ein Verschulden seitens des Beklagten infolge Verletzung einer Sorgfaltspflicht nach, die im nationalen[166] oder im EU-Recht (siehe sogleich) begründet sein kann, oder das Gericht vermutet eine solche Sorgfaltspflichtverletzung nach Art. 3 Abs. 5;

das Verschulden hat nach vernünftigem Ermessen das Ergebnis der KI beeinflusst, welches zum Schaden geführt; und

der Kläger weist nach, dass das Ergebnis der KI ursächlich zum Schaden geführt hat.

Bei dem Ergebnis der KI, welches für den Schaden ursächlich ausgemacht wurde, kann es sich sowohl um ein positives als auch um ein negatives Ergebnis handeln, d.h. um die Tatsache, dass das KI-System kein Ergebnis geliefert hat.[167] Der dritte Spiegelstrich macht klar, dass ein in der Verletzung einer bestimmten Sorgfaltspflicht begründetes Verschulden allein noch nicht ausreicht, um die Vermutung greifen zu lassen. Die betreffende Verletzung muss das schädliche Ergebnis zumindest mit beeinflusst, wenn nicht gar ursächlich begründet haben.[168]

Wichtig ist zu verstehen, dass die Vermutung nur, aber immerhin das «Verursacherverhältnis zwischen Sorgfaltspflichtsverletzung und Output des KI-Systems»[169] betrifft und nicht etwa die Kausalität zwischen Sorgfaltspflichtsverletzung und Schaden. D.h. der Kläger muss nach wie vor überzeugend belegen, dass der Output des KI-Systems ursächlich zu dem von ihm erlittenen Schaden geführt hat. Wagner stellt klar, dass die Regelung vorsehe, «den Geschädigten so zu stellen, als hätte statt des KI-Systems ein Mensch gehandelt», was als zielgerichtete, massvolle Regelung gelten könne.[170]

Für die Anwendung von Art. 4 muss es sich beim fraglichen KI-System grundsätzlich nicht um ein Hochrisiko-KI-System handeln. Für Hochrisiko-KI-Systeme bedingt der Nachweis des Verschuldens nach Abs. 1 Bst. a jedoch, dass dem Beklagten betreffend die Konzeption und die Entwicklung des KI-Systems bestimmte Fehler nachgewiesen werden können (Abs. 2–3). Es handelt sich um eine Konkretisierung der in Abs. 1 genannten Sorgfaltspflichten, welche beim Einsatz von Hochrisiko-KI-Systemen zu beachten sind. Die hier aufgelisteten Sorgfaltspflichten sind im EU-Recht begründet, nämlich in der KI-Verordnung.[171] Die Formulierung in Abs. 2, dass die Bedingung von Abs. 1 Bst. a zum Verschulden «nur dann erfüllt» sei, wenn eine der in der nachfolgenden Liste genannten Verpflichtungen aus der KI-Verordnung nicht erfüllt ist, erscheint eigenartig, scheint sie doch die Möglichkeiten des Geschädigten zur Beweisführung einzuschränken.[172] Gemeint ist offenbar, dass es für den Geschädigten ausreicht, die Verletzung einer dieser Anforderungen nachzuweisen.[173] Die Bestimmung ist als Erleichterung gedacht; besonders fachkundigen Geschädigten könnte der Nachweis des Verschuldens auch anders gelingen.[174] Für die spätere Diskussion der massgeblichen Sorgfalt im Umgang mit KI aufschlussreich ist das Beispiel in Präambel 24, dass im Rahmen solcher Sorgfaltspflichten Nutzer von KI-Systemen verpflichtet werden könnten, «für bestimmte Aufgaben ein bestimmtes KI-System mit konkreten Merkmalen zu wählen oder bestimmte Bevölkerungsgruppen von der Exposition gegenüber einem bestimmten KI-System auszuschliessen».[175] Die in der KI-Verordnung für Nutzer vorgesehenen Sorgfaltspflichten beschränken sich im Wesentlichen auf einen bestimmungsgemässen Gebrauch. Wenn die Nutzer ihr KI-System also nicht missbrauchen und sich an die Gebrauchsanleitung halten, sollten sie vor einer Haftung sicher sein.[176] Für KI-Systeme, die nicht als Hochrisiko-KI-Systeme qualifizieren, gilt die Vermutung von Abs. 1 zum Kausalzusammenhang nur, «wenn es nach Auffassung des nationalen Gerichts für den Kläger übermässig schwierig ist, diesen mit den sonst üblichen im nationalen Zivilverfahrensrecht begründeten Standards nachzuweisen» (Abs. 5). Diese Bestimmung greift die Problematik der Intransparenz der Funktionsweise gewisser KI-Systeme auf.[177] Der Kläger soll nicht vor die für ihn möglicherweise unmögliche Aufgabe gestellt werden, die Merkmale des fraglichen KI-Systems im Detail zu erläutern oder darzulegen, wie diese Merkmale den entstandenen Schaden beeinflussten.[178] Die Bestimmung von Art. 4 soll bewirken, dass ein Kläger nicht bloss deswegen den Kausalitätsbeweis nicht zu leisten vermag, weil der Schaden von einem KI-System statt von einer herkömmlichen Technologie verursacht wurde.[179] Es geht gewissermassen um das Schaffen gleich langer Spiesse zwischen herkömmlicher und neuer Technologie. Hat der Beklagte das KI-System nicht im Rahmen seiner beruflichen Tätigkeit, sondern im persönlichen Rahmen eingesetzt, gilt die Vermutung nach Abs. 1 nur, falls er «die Betriebsbedingungen des KI-Systems wesentlich verändert» hat oder verpflichtet und in der Lage gewesen wäre, diese festzulegen (Abs. 6).

In allen diesen Fällen hat der Beklagte das Recht, die Vermutung zum Kausalzusammenhang zu widerlegen (Abs. 7). Die EU-Kommission sieht in einer widerlegbaren Vermutung «die am wenigsten belastende Massnahme», um das Ziel der wirksamen Grundlage für die Durchsetzung von Schadenersatzansprüchen gegen KI-Anbieter durchzusetzen.[180]

Die Schlussbestimmungen in der Richtlinie über KI-Haftung regeln die nachträgliche Bewertung und gezielte Überprüfung (Art. 5) sowie die Umsetzung der Richtlinie durch die Mitgliedstaaten als Adressaten (Art. 6–9). Bei der nachträglichen Bewertung soll insbesondere untersucht werden, «ob Vorschriften über die verschuldensunabhängige Haftung für Ansprüche gegen Betreiber bestimmter KI-Systeme angemessen sind […] und ob ein Versicherungsschutz erforderlich ist» (Art. 5 Abs. 2). Die Überprüfung sollte insbesondere allfällige Lücken zur Regelung der Produkthaftungsrichtlinie schliessen.[181]

Für Blasek hätten die neuen Bestimmungen der Richtlinie über KI-Haftung zusätzliche Anreize für Hersteller und Nutzer geschaffen, die Sorgfaltsanforderungen des Gesetzes über KI bei der Einführung und Nutzung von KI zu beachten.[182] Wie diese im Einzelfall konkret an- und umzusetzen gewesen wäre, hätte erst die Praxis zeigen können. Als grosses Manko sah Blasek zudem das «Aufsetzen der [Richtlinie] auf den nationalen Haftungsregimes», was die grenzüberschreitende Rechtssicherheit durch einen starken Einfluss der nationalen Haftungsregimes hätte gefährden können.[183] Für Wagner war der Entwurf der Richtlinie insgesamt eine «Enttäuschung» mit für die Kläger nur wenigen Erleichterungen.[184]

Übersicht über die bestehenden Haftungsregime in der EU

Rechtsvergleichende Studie für die EU-Kommission

Im Vorfeld des Gesetzgebungsverfahrens zur KI beauftragte die GD Justiz und Verbraucher im Jahr 2020 die österreichischen Zivilrechtler Ernst Karner und Bernhard A. Koch, eine Übersicht zu den bestehenden Haftpflichtrechtsregimes in den EU-Mitgliedstaaten zu erstellen, wie sie aktuell auf Haftungsfragen im Zusammenhang mit KI Anwendung finden würden. Die Studie wurde im November 2020 abgeschlossen und 2021 veröffentlicht.[185] Die Studie ging in die Vorarbeiten der HEG-KI ein und ergänzte deren eigenen Bericht über Haftungsfragen im Zusammenhang mit KI.[186]

Die Studie unterstreicht die erheblichen Unterschiede in den Haftungsregelungen der EU-Länder und hebt die Unterschiede in der verschuldensunabhängigen Haftung, der Verschuldenshaftung und der Bandbreite der abgedeckten Risiken hervor. Sie stellt fest, dass viele KI-Systeme derzeit nicht in den bestehenden Rahmen der verschuldensunabhängigen Haftung fallen, so dass die Opfer auf die Verschuldenshaftung angewiesen sind. Die Schwierigkeit, menschliches Verhalten mit durch KI-Systeme verursachten Schäden in Verbindung zu bringen, und die Unsicherheiten bei den Rechtsnormen stellen für Opfer, die eine Entschädigung im Rahmen des geltenden Deliktsrechts anstreben, erhebliche Hindernisse dar.[187]

Anmerkungen

Personen, die z.B. wegen mangelnder Sicherheit von Anlagen oder Fahrzeugen zu Schaden gekommen sind und daraufhin von den Verantwortlichen Schadenersatz zu erlangen suchen, müssen ihre Ansprüche unter den nationalen zivilrechtlichen Haftungsregimes verfolgen. Dies gilt auch innerhalb der EU,[188] die ja nach den Verträgen keine Kompetenz hat, allgemeine zivilrechtliche Regeln zu erlassen.[189] Rechtsakte wie die Produkthaftungsrichtlinie oder die vorgeschlagene Richtlinie über KI-Haftung gründen sich auf die Kompetenz zum Erlass von Massnahmen zur Angleichung der Rechtsvorschriften, welche die Förderung des Binnenmarkts zum Ziel haben.[190] Die genannte Rechtsetzungskompetenz trägt demnach solche Massnahmen, welche die Rechtssicherheit erhöhen und gleiche Wettbewerbsbedingungen für KI-Systeme schaffen, «wodurch das Funktionieren des Binnenmarkts im Hinblick auf die Herstellung und Verbreitung KI-gestützter Produkte und Dienstleistungen verbessert» werden kann.[191] Mit einem vergleichbaren Argument des Verkehrsschutzes wurde im 19. Jh. die Einführung der Gefährdungshaftung für Eisenbahnbetriebe begründet.[192] Deshalb machte es für die EU-Kommission Sinn, sich einen Überblick über die nationalen Haftungsregimes zu verschaffen. Anders hätte es sich schwerlich feststellen lassen, ob im Zusammenhang mit KI wesentliche Entschädigungslücken oder andere Unterschiede in der Durchsetzung von Schadenersatzansprüchen zu erwarten sind.

Grundsätzlich greifen die bestehenden Haftungsregeln auch bei Anwendungen der KI. Teilweise sind die Resultate nach Meinung der HEG-KI jedoch unbefriedigend, sei es nur infolge der Beweislastverteilung oder von Fragen des Verschuldens und der Zurechnung.[193] Die Autoren der Studie teilen diese Ansicht.[194] Dieses Ergebnis sollte nicht zu negativ aufgefasst werden. Einerseits handelt es sich bei der KI-Thematik um eine neue Herausforderung des Rechts. Andererseits zeigt die Studie gleichzeitig auf, dass die Haftpflichtrechte in den einzelnen Mitgliedstaaten in ihren grossen Linien auf den gemeinsamen Grundprinzipien beruhen.[195] Es gibt also eine gemeinsame, tragfähige Basis für die Zukunft, auf welche ein als notwendig erachteter, neuer Haftungstatbestand aufgesetzt werden könnte.

Als eine Gemeinsamkeit konnten die Autoren etwa auf das gemeinrechtliche Prinzip «casus sentit dominus» hinweisen, welches allen (aber «nicht nur» diesen) europäischen Haftpflichtrechten bekannt sei.[196] Es gehört mit zu den Aufgaben des modernen Haftpflichtrechts, diesen aus der Antike stammenden Grundsatz abzumildern, soweit dies sozialpolitisch[197] gewünscht ist. Dazu sind Voraussetzungen und Kriterien zu definieren, nach welchen einer vom Zufall (oder besser: von einem Unglück) getroffenen Person die damit verbundene wirtschaftliche Last abgenommen und einer anderen Person aufgebürdet wird.[198] Im österreichischen Recht ist dieser Grundsatz in § 1311 ABGB ausdrücklich festgehalten.[199] Streng genommen ist es allerdings kein Zufall mehr, wenn das Ereignis einem Dritten als Verursacher zugerechnet werden kann, jedenfalls dann nicht, wenn dieser Dritte die Schadensursache durch eine schuldhafte Handlung gesetzt hat.

Die Verschuldenshaftung ist die haftpflichtrechtliche Grundregel in allen EU-Mitgliedstaaten. Sie findet subsidiär immer Anwendung, wenn keine alternative Zurechnungsregel greift.[200] Das grösste Problem bei der Verschuldenshaftung war und wird immer sein, das fehlerhafte menschliche Verhalten zu identifizieren, welches den Schaden verursacht hat, und seinen adäquat kausalen Beitrag zum Schaden zu belegen. An dieser Stelle mutmassen die Autoren wohl zurecht, dass es bei Unfällen mit KI-Systemen häufig an einem menschlichen Akteur fehlen wird, der unmittelbar an den Ereignissen beteiligt ist, die zum Schaden führen.[201] Dies mag anders sein, wenn es eines Menschen bedarf, der das KI-System überwachen oder aktualisieren muss, weil dies nötig oder gesetzlich vorgeschrieben ist.[202] Ist dies nicht der Fall, muss die geschädigte Person auf der Kausalkette zeitlich weiter zurückgehen, um einen Verantwortlichen zu finden. Die Wahrscheinlichkeit ist gross, dass die geschädigte Person dann auf die altbekannten beweisrechtlichen Schwierigkeiten trifft. So oder so wird nach den Autoren ein solches Fehlverhalten, umso schwieriger zu identifizieren sein, je «schwärzer die Box» ist, d.h. je autonomer das KI-System funktioniert.

Grosse Unterschiede zwischen den Mitgliedstaaten zeigen sich bei der Ausgestaltung der Gefährdungshaftung («strict liability», besser: «risk-based liability»[203]). Dieser Befund ist angesichts der Entwicklungsgeschichte dieser Haftungsart nicht überraschend. Wie Esser herausgearbeitet hat, betrachtete die pandektistische Rechtswissenschaft die Gefährdungshaftung gerne als ausserhalb des klassischen Zivilrechts stehend, sodass es bereits für die deutschsprachigen Länder zu einer eher heterogenen Regelung kam.[204] Dabei ist dieser Haftungstyp nach den Autoren der Studie typischerweise auf spezifische Gefahren beschränkt.[205] Einzelne osteuropäische Länder kennen jedoch eine Art Generalklausel für besonders gefährliche Aktivitäten.[206] Häufig sei zudem eine Versicherungspflicht vorgesehen.[207] Schliesslich sprechen die Autoren die Möglichkeit an, den Haftungsstandard je nach der Intensität der Gefahr zu differenzieren.[208]

Eine Differenzierung bei der Intensität der Gefahr könnte dazu dienen, bereits die Schwierigkeiten bei der Verschuldenshaftung zu mildern, indem die Beweislast für das Verschulden geändert würde.[209] Mit diesem Mittel hätten einzelne Länder in der Vergangenheit auf beweisrechtliche Schwierigkeiten bei zuvor unbekannten, durch neue Technologien verursachten Unfallszenarien reagiert. Die Autoren erwähnen hierzu die vorgeschlagene Generalklausel von Art. 4:201 Abs. 1 PETL: «Die Beweislast für das Verschulden kann angesichts der Grösse der von der Aktivität ausgehenden Gefahr umgekehrt werden».[210] Nach Ansicht der Europäischen Gruppe für Deliktsrecht (EGTL) genüge für eine Umkehr der Beweislast eine Gefahr von mittlerer Intensität, d. h. eine Intensität zwischen dem «normalen» Risiko, das jeder menschlichen Tätigkeit innewohnt, und dem «ungewöhnlich» hohen Risiko, das die Gefährdungshaftung auslöst. Die Autoren ergänzen, dass das österreichische höchste Gericht, der Oberste Gerichtshof OGH, dazu bereit sein könnte, die Werkeigentümerhaftung (§ 1319 ABGB) oder die Tierhalterhaftung (§ 1320 ABGB) analog auf KI-Systeme wie z.B. Mähroboter anzuwenden, deren reduzierte Autonomie eine eigentliche Gefährdungshaftung noch nicht rechtfertigten.[211]

Die in der Studie angesprochenen und hier wiedergegebenen Massnahmen, d.h. eine Umkehr der Beweislast für das Verschulden bei der Verschuldenshaftung und/oder die Einführung einer Kausal- bzw. Gefährdungshaftung, wurden im Vorfeld des Vorschlags für eine neue Richtlinie über KI-Haftung alle als mögliche Optionen ins Auge gefasst und im Rahmen einer Folgenabschätzung bewertet.[212]

Damit dürfte das zivilrechtliche Instrumentarium auf dem Tisch liegen, welches dem Gesetzgeber für kurz- bis mittelfristig umsetzbare neue haftpflichtrechtliche Regelungen für durch KI verursachte Schäden zur Verfügung steht.[213]

Dem Instrumentarium des schweizerischen Rechts ist das folgende Kapitel III gewidmet.

Regulierungsinstrumente der KI-Verordnung

Vorbemerkung

Bevor weitergehende Ideen wie eine «Quasi-Rechtspersönlichkeit» für bestimmte KI-Systeme weiterverfolgt werden, sollte erst eine andere Aufgabe angepackt werden: mit spezialgesetzlicher Technikregulierung eine verlässliche Grundlage für die rechtliche Beurteilung des Umgangs mit der einschlägigen Technologie zu schaffen. Einen ersten Schritt in diese Richtung unternahm die EU mit dem Erlass der KI-Verordnung.

Der Vorschlag zu einem «Gesetz über KI» fand sich bereits in den 2019 vorgestellten politischen Leitlinien Ursula von der Leyens, die als Programm zu ihrer Kandidatur für die Kommissionspräsidentschaft dienten.[214] Er wurde anschliessend im Weissbuch der Kommission weiter behandelt.[215] Das Gesetz über KI sollte einen Rechtsrahmen für eine vertrauenswürdige KI schaffen, sodass Privatpersonen und andere Nutzer KI-gestützten Lösungen vertrauen und gleichzeitig Unternehmen Anreize erhalten, solche Lösungen zu entwickeln und anzubieten (Stichwort: Rechtssicherheit). Diesem Argument des Verkehrsschutzes werden wir im Folgenden wiederholt begegnen.[216]

Das Europäische Parlament trat am 14. Juni 2023 in erster Lesung auf den Kommissionsvorschlag ein,[217] wobei es 771 Änderungsanträge einbrachte,[218] mit dem Ziel, Teile der Regulierung zu verschärfen. Nach intensiven Verhandlungen zwischen den drei EU-Gesetzgebern (zwischenzeitlich schien ein Scheitern des Projekts namentlich am Widerstand von Deutschland und Frankreich zu drohen[219]) wurde der Vorschlag am 9. Dezember 2023 im Trilogverfahren angenommen.[220] Der finale Text wurde vom Europäischen Parlament am 13. März 2024 und vom Europäischen Rat am 21. Mai 2024 verabschiedet.[221] Die KI-Verordnung wurde schliesslich am 12. Juli 2024 im Amtsblatt publiziert und ist am 1. August 2024 in Kraft getreten. Am Ende des Gesetzgebungsverfahrens und des Trilogs war der Gesetzestext von ursprünglich 85 auf nun 113 Artikel angewachsen.

Kurzübersicht zur KI-Verordnung

Die Ziele finden sich bei der Umschreibung seines Gegenstands[222] wieder, welcher harmonisierte Vorschriften für das Inverkehrbringen, die Inbetriebnahme und die Verwendung von KI-Systemen in der Union umfasst (Art. 1 Abs. 2 Bst. a). Ferner enthält die KI-Verordnung Verbote bestimmter Praktiken im Bereich der KI (Bst. b), besondere Anforderungen an sogenannte Hochrisiko-KI-Systeme und Pflichten für Akteure in diesem Bereich (Bst. c), harmonisierte Transparenzvorschriften für bestimmte KI-Systeme (Bst. d); harmonisierte Vorschriften für das Inverkehrbringen von KI-Modellen mit allgemeinem Verwendungszweck (Bst. e);[223] Vorschriften für die Marktbeobachtung sowie die Governance und Durchsetzung der Marktüberwachung (Bst. f) sowie endlich Massnahmen zur Innovationsförderung mit besonderem Augenmerk auf KMU, einschliesslich Start-up-Unternehmen (Bst. g)[224].

Bereits zu Beginn des Rechtsaktes fallen die Anklänge an das allgemeine Produktsicherheitsrecht auf (Inverkehrbringen, Marktbeobachtung und -überwachung). Dies setzt sich fort bei den Begriffsbestimmungen mit zahlreichen aus dem Produktsicherheitsrecht übernommenen Definitionen (Art. 3). Zentral ist dort die Definition des KI-Systems (Art. 3 Nr. 1), auf die in der neuen Richtlinie über KI-Haftung verwiesen wird.[225] Sodann fällt auf, dass neben den Anbietern auch die Betreiber[226] von KI-Systemen in die Pflicht genommen werden (Art. 2). Damit sind Personen gemeint, die KI-Systeme für ihre Zwecke und unter ihrer Verantwortung einsetzen. Darunter fällt z.B. eine Bank, die einen ChatBot auf ihrer e-Banking-Lösung einsetzt.[227]

Ferner fällt auf, dass die Verordnung ausdrückliche Verbote für bestimmte, beschriebene «Praktiken im KI-Bereich» umfasst (Art. 5).[228] Dazu gehören z.B. die Verwendung von KI-Systemen, welche auf Grundlage eines Profilings die Wahrscheinlichkeit bestimmen, dass natürliche Personen eine Straftat begehen (Art. 5 Abs. 1 Bst. d).[229]

Bedeutsam ist der Begriff und die Klassifizierung von Hochrisiko-KI-Systemen bzw. von KI-Systemen, die als «hochriskant»[230] gelten (Art. 6).[231] Als hochriskant gelten zunächst KI-Systeme, die als Sicherheitskomponenten von Produkten, die einer Vorab-Konformitätsbewertung durch Dritte unterliegen, verwendet werden sollen oder die selbst ein solches Produkt sind.[232] Als hochriskant gelten ferner sonstige eigenständige KI-Systeme, die ausdrücklich in Anhang III zur Verordnung genannt werden und die sich vor allem auf die Grundrechte auswirken. Die Definition ist bewusst offen und dynamisch gehalten, um die zukünftige technologische Entwicklung im Anwendungsbereich zu berücksichtigen.[233] Im Hinblick auf die offene Definition des Hochrisiko-KI-Systems empfiehlt Pohle, dass sich «Unternehmen mit möglichen Berührungspunkten nicht nur mit der […] aktuellen Definition von Hochrisiko-KI» auseinandersetzen, sondern die Rechtsentwicklung laufend überwachen.[234]

Hochrisiko-KI-Systeme müssen eine Reihe von technischen Anforderungen erfüllen, die vom Vorhandensein eines Risikomanagementsystems und einer eigenen Data-Governance für das Testen und Validieren der Systeme bis zum Erstellen einer ausführlichen technischen Dokumentation reichen (Art. 8–11).[235] Besonders erwähnenswert sind sodann die Pflicht zur automatischen Aufzeichnung von Vorgängen und Ereignissen (Protokollierung) während des Betriebs der Systeme (Art. 12), die Pflicht zur Schaffung ausreichender Transparenz für die Betreiber (Art. 13)[236] sowie das Konzept der menschlichen Aufsicht über die Systeme (Art. 14). Die Menge der Pflichten wird abgerundet durch Vorschriften über Genauigkeit, Robustheit und Cybersicherheit (Art. 15). Mit Pohle ist festzustellen, dass die Regulierung von Hochrisiko-KI-Systemen den «sachlich-technisch wesentlichen Schwerpunkt» der KI-Verordnung bildet.[237]

Diese technischen Anforderungen sind objektiv formuliert und beziehen sich auf die Hochrisiko-KI-Systeme selbst. Welche Wirtschaftsakteure konkret für ihre Umsetzung verantwortlich sind, wird nicht ausdrücklich gesagt. Dies wird im nächsten Abschnitt klargestellt, in welchem die den Anbietern und Betreibern auferlegten Pflichten spezifiziert werden.[238] In ihrem Vorschlag wies die Kommission darauf hin, dass sich die Anforderungen aus den Ethik-Leitlinien der HEG ableiten, «für viele gewissenhafte Akteure bereits gängige Praxis» seien und «auch weitestgehend mit anderen internationalen Empfehlungen und Grundsätzen» übereinstimmten, wodurch sichergestellt werde, dass der umgesetzte KI-Rahmen mit den Vorgaben übereinstimmt, die von den internationalen Handelspartnern der EU festgelegt wurden.[239] Es erscheint verlockend, dies als Beispiel einer informellen freiwilligen Selbstregulierung zu sehen, welche vom Gesetzgeber kodifiziert wurde. Tatsächlich orientierte sich die EU-Kommission schlicht an der gängigen wissenschaftlichen und industriellen Praxis.

Es liegt primär[240] an den Anbietern sowie weiteren an der Wertschöpfungskette beteiligten Wirtschaftsakteuren,[241] sicherzustellen, dass die technischen Anforderungen aus dem zweiten Abschnitt von Kapitel III eingehalten und die Pflichten aus dem dritten Abschnitt erfüllt werden (Art. 16). Zu den Pflichten der Anbieter zählen das Führen eines Qualitätsmanagementsystems (Art. 17)[242], das Aufbewahren der technischen Dokumentation (Art. 18)[243] und der automatisch erzeugten Protokolle (Art. 19).

Neben den Importeuren und den Händlern müssen insbesondere die Betreiber von Hochrisiko-KI-Systemen besondere Pflichten beachten (Art. 26). So müssen sie beim Einsatz der Systeme geeignete technische und organisatorische Massnahmen[244] treffen, um sicherzustellen, dass sie solche Systeme gemäss den ihnen zur Verfügung gestellten Gebrauchsanweisungen verwenden. Auch müssen sie den Einsatz bzw. Betrieb des Systems instruktionsgemäss überwachen und die vom System erzeugten Protokolle[245] aufbewahren. Besteht Grund zum Anlass, dass das KI-System ein Risiko birgt, müssen sie die Anbieter und Händler, die ihnen das KI-System verschafft haben, und gegebenenfalls die zuständige Marktüberwachungsbehörde informieren.

Die restlichen Bestimmungen des Kapitels III beschäftigen sich mit den zuständigen Behörden (Abschnitt 4) und den Zuständigkeiten für die Schaffung und Verwaltung von technischen Normen, der Durchführung der einschlägigen Konformitätsbewertungen, dem Ausstellen der zugehörigen Bescheinigungen sowie der Registrierung (Abschnitt 5).[246] Mit Blick auf die Instrumente der Technikregulierung sticht hier die Pflicht der Anbieter von Hochrisiko-KI-Systemen hervor, sich selbst und diese Systeme vor dem Inverkehrbringen in einer neu geschaffenen, öffentlich zugänglichen Datenbank[247] zu registrieren (Art. 49).

Die skizzierten Anforderungen und Pflichten gelten nur im Umgang mit Hochrisiko-KI-Systemen. Für bestimmte weitere KI-Systeme, die zwar nicht hochriskant sein müssen, aber sich durch eine Interaktion mit Menschen auszeichnen oder Elemente menschlicher Kommunikation verarbeiten oder simulieren, enthält Kapitel IV einschlägige Transparenzpflichten (Art. 50).[248]

Im Zuge der Beratungen der EU-Gesetzgeber wurde neu ein Kapitel V über sogenannte KI-Modelle mit allgemeinem Verwendungszweck[249] aufgenommen. Dabei handelt es sich um KI-Anwendungen, die in der Lage sein sollen, «ein breites Spektrum unterschiedlicher Aufgaben kompetent zu erfüllen».[250] Es handelt sich bei Kapitel V um einen wesentlichen Zusatz zum ursprünglichen Kommissionsvorschlag, der offensichtlich massgeblich durch das zeitgleiche Aufkommen von Large Language Models (LLM) wie ChatGPTv4 u.a. motiviert wurde.

Die weiteren Kapitel des Gesetzes über KI beschäftigen sich mit zahlreichen, den Vollzug unterstützenden Massnahmen. Auf sie wird an dieser Stelle nicht weiter eingegangen.[251]

Bewertung

Produktsicherheitsrecht 2.0

Die KI-Verordnung hat in Politik und Öffentlichkeit ein deutlich höheres Profil erhalten als die Richtlinie über KI-Haftung. Das liegt nicht zuletzt daran, dass mit der neuen Verordnung insbesondere die in der EU-Grundrechtscharta verbürgten Grundrechte gegen gewisse kritische Merkmale der KI (Undurchsichtigkeit, Komplexität, Datenabhängigkeit, autonomes Verhalten) geschützt werden sollen.[252] Die KI-Verordnung ist somit ein Eckstein der breit und intensiv diskutierten KI-Regulierung.[253] Dazu wird nach der Intention der Kommission ein neues Rechtsbefolgungs- und Durchsetzungssystem geschaffen, «das dem Muster des neuen Rechtsrahmens entspricht, bei dem die einschlägigen Rechtsvorschriften durch interne Kontrollprüfungen des Anbieters umgesetzt werden».[254] Wesentlich ist der risikobasierte Ansatz, bei dem zwischen verschiedenen Kategorien von KI-Systemen mit unterschiedlichem Risikoprofil unterschieden wird.[255] Dieses Muster kann als Weiterentwicklung des aus dem herkömmlichen Produktsicherheitsrecht bekannten Ansatzes der Selbstkontrolle gesehen werden, dessen ex ante Vorschriften nun durch zusätzliche ex post Kontrollen verstärkt werden.[256]

Die KI-Verordnung weist zahlreiche weitere konkrete Verbindungen zum klassischen Produktsicherheitsrecht auf.[257] Dies zeigt sich an der Verwendung verschiedener bewährter Regulierungsinstrumente, auf die im vorangegangenen Unterabschnitt hingewiesen wurde: allgemeine Informationspflichten (Art. 11, 13, 18, 20, 50), Registrierungspflicht (Art. 49) und Konformitätsbewertungen (Art. 43) für Hochrisiko-KI-Systeme sowie Verbot besonderer Praktiken (Art. 5). Ergänzt wird dieser Reigen durch einige speziell auf die KI abgestimmte Instrumente. Das sind einmal die Konzepte des Risikomanagements (Art. 9) und der Protokollierung (Art. 12). Dazu kommen die Daten-Governance (Art. 10) und die menschliche Aufsicht (Art. 14), die beide eng mit den technischen Grundlagen und Eigenheiten der KI verknüpft sind.

Risikomanagementsystem

Der dem Risikomanagementsystem gewidmete Art. 9 aus dem Gesetz über KI folgt in seinen Grundzügen dem Muster, welches insbesondere aus der europäischen Regulierung von Medizinprodukten bekannt ist.[258] Diesem Muster entspricht zunächst die rhythmische Formulierung, dass ein Risikomanagementsystem für Hochrisiko-KI-Systeme «einzurichten, anzuwenden, zu dokumentieren und aufrechtzuerhalten» ist (Art. 9 Abs. 1).[259] Die Anforderungen an ein solches Risikomanagementsystem werden in ihren Grundzügen wie folgt festgelegt:[260] Es handelt sich um einen kontinuierlichen iterativen Prozess, der während des gesamten Lebenszyklus eines KI-Systems läuft und der eine regelmässige systematische Überprüfung und Aktualisierung erfordert (Abs. 2). Es muss aus vier Schritten bestehen bzw. folgende vier Funktionalitäten unterstützen:

Ermittlung und Analyse der bekannten und vernünftigerweise vorhersehbaren Risiken;

Abschätzung und Bewertung der Risiken, die beim Einsatz des Systems auftreten können;

Bewertung anderer möglicherweise auftretender Risiken auf der Grundlage der Auswertung der Daten aus dem in Art. 72 genannten System zur

Beobachtung nach dem Inverkehrbringen; und

Ergreifung geeigneter und gezielter Risikomanagementmassnahmen.

Bei der im dritten Spiegelstrich genannten Funktionalität handelt es sich um eine ex post Massnahme, welche die aus dem herkömmlichen Produktsicherheitsrecht bekannten Verpflichtungen des Herstellers, die Funktionsweise seiner Produkte zu beobachten, schärft. Die im vierten Spiegelstrich genannten Massnahmen haben sich an dem allgemein anerkannten Stand der Technik und den einschlägigen harmonisierten Normen zu orientieren (Abs. 3). Durch diesen Verweis wird das ansonsten nur generisch charakterisierte Gerüst (Framework) gleichzeitig spezifiziert und aktualisiert.

Eine Anwendung des Konzepts der technischen Risikovorsorge findet sich in einem nächsten Absatz (Abs. 5): Dort wird verlangt, dass die geforderten Risikomanagementmassnahmen so gestaltet werden, «dass jedes mit einer bestimmten Gefahr verbundene relevante Restrisiko sowie das Gesamtrestrisiko der Hochrisiko-KI-Systeme als vertretbar beurteilt werden».[261] Restrisiken können nicht ausgeschlossen werden. Sie müssen jedoch vertretbar bleiben.[262] Können sie es nicht, bleibt eigentlich nur ein Verbot der betreffenden Praxis[263] (oder der Technologie insgesamt). Hervorzuheben ist der Verweis auf Risiken, die bei einer Verwendung entsprechend der Zweckbestimmung des KI-Systems bzw. im «Rahmen einer vernünftigerweise vorhersehbaren Fehlanwendung» entstehen können (Abs. 2 Bst. b). Unter Letzterem ist die Verwendung eines KI-Systems in einer Weise zu verstehen, die zwar nicht seiner Zweckbestimmung entspricht, «die sich aber aus einem vernünftigerweise vorhersehbaren menschlichen Verhalten oder einer vernünftigerweise vorhersehbaren Interaktion mit anderen Systemen ergeben kann» (Art. 3 Nr. 13). Die Zweckbestimmung sollte dem Betreiber u.a. in der Gebrauchsanweisung dargelegt werden.[264] Dies unterstreicht, dass beim Einsatz von KI neben dem Hersteller auch der Betreiber in der Pflicht steht. Mit der Fehlanwendung nicht abgedeckt sind Fehlreaktionen des Systems selbst, welches als KI-System ja über eine mehr oder weniger ausgeprägte Autonomie verfügt, die ebenfalls Risiken mit sich bringen kann.[265] Angesichts der bekannten Diskussionen zur Autonomie sollten solche Risiken keineswegs überraschen, sodass sie beim ersten Spiegelstrich mitzuberücksichtigen sind.

Schliesslich sind Hochrisiko-KI-Systeme ausgiebig zu testen (Abs. 6–8). Das Testen von Produkten aller Art ist zweifellos eine Massnahme, die geeignet ist, mit dem Produkt verbundene Risiken möglichst vor seinem Inverkehrbringen zu entdecken. Bei KI-Anwendungen, die mit Deep Learning[266] funktionieren, erhält diese Anforderung zusätzliches Gewicht, ist dort das Testen mit verschiedenen Datensätzen eine der Produktentwicklung inhärente, d.h. unverzichtbare Handlung.

Die Anforderungen an das ebenfalls einzurichtende Qualitätsmanagementsystem sind in Art. 17 zusammengefasst. Sie richten sich ausdrücklich an die Anbieter der Hochrisiko-KI-Systeme. Gleich zu Beginn stellt die Bestimmung klar, dass ein Qualitätsmanagementsystem «in Form schriftlicher Regeln, Verfahren und Anweisungen» zu dokumentieren ist. Das in Art. 9 beschriebene Risikomanagementsystem ist als Teil des Qualitätsmanagementsystems auszugestalten (Art. 17 Abs. 1 Bst. g).

Data Governance

Die gleich anschliessende Bestimmung zu Daten und Daten-Governance (Art. 10) ist spezifisch auf eine typische Eigenheit gewisser KI-Systeme ausgerichtet.[267] Selbstlernende Algorithmen werden für ihre Aufgaben üblicherweise in drei Etappen vorbereitet: In einer ersten Phase wird ein Modell ausgewählt und dieses mit einem ersten Datensatz kalibriert (man spricht von «trainieren»).[268] In einer zweiten Phase wird die Wahl des Modells anhand eines zweiten Datensatzes validiert, indem die Leistungen verschiedener a priori in Frage kommender Modelle verglichen werden. Anschliessend wird das gewählte Modell anhand eines dritten Datensatzes ausgiebig getestet.[269]

Auf diese drei Datensätze bezieht sich die Anforderung aus Art. 10 Abs. 1: «Hochrisiko-KI-Systeme, in denen Techniken eingesetzt werden, bei denen Modelle mit Daten trainiert werden, müssen mit Trainings‑, Validierungs- und Testdatensätzen entwickelt werden», die bestimmten Qualitätskriterien entsprechen. Diese Qualitätskriterien sind in den Abs. 2–5 ausgeführt. Sie stellen minimale Anforderungen an die bei der Entwicklung solcher KI-Systeme anzuwendende Sorgfalt.[270]

Menschliche Aufsicht

Schliesslich sieht das Gesetz über KI mit der Möglichkeit zu einer wirksamen Aufsicht durch eine natürliche Person (Art. 14 Abs. 1) eine gewissermassen letzte Kontrollinstanz über Hochrisiko-KI-Systeme vor. Damit ist gemeint, dass ein Mensch, etwa über eine «Mensch-Maschine-Schnittstelle» oder ein anderes geeignetes Werkzeug, die Funktions- und Wirkungsweise des KI-Systems laufend so überwachen kann, dass bei Bedarf korrigierend eingegriffen werden kann (Art. 14 Abs. 4). Diese Aufsicht soll der weiteren Verhinderung oder Minimierung von Risiken für die Gesundheit, die Sicherheit oder die Grundrechte dienen (Art. 14 Abs. 2).[271]

Die Wirksamkeit dieser menschlichen Aufsicht hängt davon ab, wie gut der menschliche Aufseher die Maschine versteht. Deshalb muss er tatsächlich in der Lage sein, «die Fähigkeiten und Grenzen des Hochrisiko-KI-Systems angemessen zu verstehen und seinen Betrieb ordnungsgemäss zu überwachen, einschliesslich in Bezug auf das Erkennen und Beheben von Anomalien, Fehlfunktionen und unerwarteter Leistung» (Art. 14 Abs. 4 Bst. a). Angesichts der vieldiskutierten Komplexität und Intransparenz von KI-Systemen erscheint diese Anforderung in der praktischen Umsetzung als herausfordernd.[272] Für den Erfolg des Konzepts und seine Akzeptanz in der Praxis ist sie entscheidend, denn in kritischen Situationen soll der Aufseher dafür sorgen, dass auf den Einsatz des KI-Systems verzichtet wird (Bst. d) oder dass der Einsatz abgebrochen wird (Bst. e). Es wird nicht hilfreich sein, wenn ein Aufseher aus Risikoüberlegungen jeweils zu früh eingreifen muss, weil er die Technik nicht ausreichend versteht.

Das Konzept erinnert an die Aufsicht von Erziehungsberechtigten oder anderer Personen über Kinder oder eines Beistands über eine nicht urteilsfähige erwachsene Person. KI-Systeme sind bekanntlich nicht rechtsfähig und müssen bis auf Weiteres als im rechtlichen Sinn nicht urteilsfähig gelten. Die menschliche Aufsicht stellt eine einfache Umsetzung des aus der Soziologie bekannten Konzepts der Beobachter in Bezug auf den Einsatz von KI dar. Das Konzept der Beobachter wird in Kapitel IV im Detail besprochen.[273]

Erstes Fazit

Die KI-Verordnung kann die «weltweit erste Regelung von KI»[274] sein, sie stellt aus Sicht des Technikrechts jedoch keine revolutionäre Regulierung einer neuen Technologie dar.[275] Es leistet u.E. vielmehr eine immer noch konservative Einpassung der allgemeinen KI in den bewährten Rahmen der Produktsicherheit, vergleichbar mit der entsprechenden sektorspezifischen Lösung für Medizinprodukte.

Die allgemeine Diskussion im Schrifttum und der Presse zeigt immer wieder, dass es nicht leichtfällt, den Begriff KI in eine Definition zu fassen.[276] Die EU-Kommission hat versucht, den Begriff des KI-Systems möglichst technologieneutral zu definieren. Ob ihr das gelungen ist, wird von einigen Autoren in Zweifel gezogen. Pohle weist darauf hin, dass «in der Definition als Anknüpfungspunkte KI-typische Elemente, wie die Unvorhersehbarkeit des Verhaltens sowie der Black-Box-Effekt, fehlen, womit die Definition auch ‹vorhersehbare› Software abdeckt und insgesamt als weit einzuordnen ist».[277] Nach dem Vorschlag der Kommission hätte zukünftigen Entwicklungen durch eine Anpassung der Liste der Methoden und Techniken in Anhang I Rechnung getragen werden sollen.[278] Dieser Anhang fiel im Zuge der Beratung weg. Ob damit etwas gewonnen ist, bleibt zweifelhaft.

Für die Zwecke der vorliegenden Diskussion ist in erster Linie das dritte Kapitel der KI-Verordnung mit den Anforderungen an Hochrisiko-KI-Systeme und den daraus folgenden Pflichten für die mit ihnen beschäftigten Wirtschaftsakteure von Interesse. Die Anforderungen an die Konzeption und Entwicklung von KI-Systemen bilden einen minimalen Rahmen von Sorgfaltspflichten, welche die Gerichte bei der Beurteilung des Verschuldens bei Haftungsansprüchen als Massstab heranziehen können. Dies zeigt der ausdrückliche Bezug auf die Anforderungen und die Pflichten der Anbieter und anderer Beteiligter aus Art. 4 Abs. 2 der Richtlinie über KI-Haftung:[279] Eine Verletzung einzelner dieser Bestimmungen entspricht der Verletzung einer massgeblichen im Unionsrecht festgelegten Sorgfaltspflicht und begründet somit ein Verschulden des Beklagten gemäss Art. 4 Abs. 1 Bst. a der Richtlinie über KI-Haftung.

Das Beispiel der Regulierung der zivilen Nutzung der Atomenergie zeigt, dass es für besonders gefährliche Techniken deutlich rigidere Korsette gibt. Wir vertreten die Ansicht, dass solche Konzepte für den aktuellen Entwicklungsstand der KI nicht angezeigt sind. Wie der Stand der Entwicklung der KI aktuell aussieht und in welche Richtung(en) es weitergehen könnte, wird in Kapitel V skizziert. Vorher soll in Kapitel IV noch das zentrale und bislang ohne nähere Erklärung oft erwähnte Thema der Autonomie aus einer (rechts‑)philosophischen Perspektive beleuchtet werden. Dies geschieht anhand eines knappen Überblicks zu Forschungsergebnissen aus einem Gebiet, welches in jüngerer Zeit zuweilen als «Roboterethik» bezeichnet wird.

Ursula von der Leyen, Politische Leitlinien. ↵

Politische Leitlinien, S. 16. ↵

Am 16. Juli 2019. ↵

Siehe https://commission.europa.eu/strategy-and-policy/priorities-2019-2024_de (zuletzt besucht am 07.08.2025). Eine Zeitleiste mit den Links zu den Pressemitteilungen über die einzelnen Umsetzungsschritte kann von dieser Seite erreicht werden. Zum Stand der Umsetzung per Frühjahr 2023 siehe Bassot. ↵

Zum Weissbuch sowie zu den Vorarbeiten zur EU Digitalstrategie siehe Abschnitt I.2.3. ↵

COM(2020) 66 final. ↵

Pressemitteilung vom 19.02.2020. ↵

Für einen Überblick zum europäischen Produktsicherheitsrecht aus Sicht der Cybersicherheit siehe Felz. ↵

Zur Vorgeschichte und Chronologie siehe COM(2022) 496 final, S. 1; vgl. Bassot, S. 7. ↵

COM(2020) 825 final; in Kraft getreten als Verordnung (EU) 2022/2065. ↵

COM(2020) 842 final; in Kraft getreten als Verordnung (EU) 2022/1925. ↵

Pressemitteilung vom 15.12.2020. ↵

Pressemitteilung vom 16.12.2020. ↵

COM(2021) 206 final; Pressemitteilung vom 28.09.2022 ↵

Pressemitteilung vom 03.06.2021. ↵

Pressemitteilung vom 21.04.2021. ↵

Art. 1(a) KI-Verordnung. ↵

Verweis von der modifizierten Produkthaftungsrichtlinie auf die Definition der Daten gemäss Verordnung (EU) 2022/868 (Daten-Governance), Verwendung der zentralen Begrifflichkeit aus dem Produktsicherheitsrecht; Verweis von der KI-Richtlinie auf die Definition des KI-Systems gemäss der KI-Verordnung; Abgrenzung des sachlichen Anwendungsbereichs zwischen den neuen Rechtsakten und der DSGVO sowie dem Gesetz über digitale Dienste, etc. ↵

Ähnliche Ansätze zeigten sich beim Erlass des Verbraucherschutzrechts, siehe dazu Heiss/Loacker, S. 11 f., siehe auch S. 45 ff. ↵

Weissbuch zur KI, S. 12. ↵

Weissbuch zur KI, S. 18. ↵

Weissbuch zur KI, S. 28. ↵

Zu dieser Charakterisierung in Bezug auf das Produktsicherheitsrecht siehe Klindt, S. 485. ↵

COM(2022) 495 final, Präambel 30; vgl. die FAZ vom 12.06.2023 (Monish Darda): Die KI-Regulierung muss die Wirtschaft mitnehmen, wonach «historisch gesehen […] Technologie durch Regulierung verantwortungsbewusster, sicherer und ethisch verantwortbarer» wurde. Zur Risikosteuerung durch Haftung vgl. Lanz, S. 383. ↵

Pressemitteilung vom 28.09.2022. ↵

Pressemitteilung vom 14.12.2023. Zum weiteren Fortgang des ordentlichen Gesetzgebungsverfahrens siehe Art. 294(3)–(4) AEUV. ↵

Ein erster Entwurf geht auf das Jahr 1976 zurück. ↵

Präambel Richtlinie 85/374/EWG. ↵

Demgegenüber wurden landwirtschaftliche Produkte und Jagderzeugnisse von der Haftung ausgeschlossen, Art. 2. ↵

Präambel Richtlinie 85/374/EWG. ↵

Vgl. Europäische Kommission (Vertretung in Deutschland), Pressemitteilung vom 28. September 2022. ↵

Bewertung der Produkthaftungsrichtlinie (englische Fassung), SWD(2018)157. ↵

Vorschläge für eine Überarbeitung der Produkthaftungsrichtlinie samt einem ausgearbeiteten Entwurf wurden auch vom ELI vorgebracht und veröffentlicht, siehe insbesondere die 10 Grundsätze im ELI Innovation Paper. Die ELI Innovation Paper fokussieren sich ausdrücklich auf die spezifisch vom digitalen Wandel verursachten Herausforderungen und befassen sich nicht mit einer allgemeinen Reform der Richtlinie (siehe dort S. 3). ↵

Weissbuch KI, COM(2020) 64 final; Bericht Expertengruppe KI, vgl. Abschnitt I.2.3. ↵

Thierry Breton, Kommissar für den Binnenmarkt, in der Pressemitteilung vom 28. September 2022. ↵

Vgl. COM(2020) 495 final, S. 1, wonach sich «die Art und Weise, wie Produkte hergestellt, vertrieben und betrieben werden», seit der Annahme der Produkthaftungsrichtlinie im Jahr 1985 erheblich verändert hat. Ebenso hätten sich Produktsicherheits- und Marktüberwachungsvorschriften geändert. ↵

Didier Reynders, Kommissar für Justiz, in der Pressemitteilung vom 28. September 2022. ↵

Pressemitteilung vom 28. September 2022. ↵

Gemeint sind Geschäftsmodelle, in deren Rahmen Produkte geändert oder aktualisiert werden. Hier geht es um Themen wie Wiederverwendung, Reparatur, Wiederaufarbeitung und hochwertiges Recycling, d.h. letztlich um Nachhaltigkeit, siehe COM(2022) 495 final, S. 5 und S. 6 mit Verweis auf den Grünen Deal und das Europäische Klimagesetz; vgl. auch den Aktionsplan für die Kreislaufwirtschaft, März 2020; COM(2020) 495 final, S. 1 stellt einen ausdrücklichen Zusammenhang her zwischen nachhaltiger Produktion durch Verlängerung der Lebensdauer von Produkten dank intelligenter Produkte und KI. Siehe dazu Pirker/Zlătescu, S. 35 und Dobrauz-Saldapenna, S. 293 ff. ↵

Vgl. COM(2020) 495 final, S. 1 f. ↵

Vgl. COM(2020) 495 final, S. 2. Dieses Ziel findet sich auch in anderen Regelungsbereichen wie dem Datenschutz, den digitalen Dienstleistungen oder den Finanzdienstleistungen. Beim Stichwort «Drittstaatenproblematik» geht es darum, in der EU ansässige Unternehmen nicht gegenüber in Drittstaaten ansässigen Unternehmen durch eine vergleichsweise strengere Regulierung zu benachteiligen; vgl. für Finanzdienstleistungen Rolf Sethe, Drittstaatenregime, S. 616 f. ↵

In diese Richtung ging auch die Forderung des ELI, die Produkthaftungsrichtlinie von 1985 besser in den «acquis communautaire» zu integrieren, siehe ELI-Response, S. 10. ↵

Pressemitteilung vom 28. September 2022. ↵

Pressemitteilung vom 28. September 2022. ↵

COM(2020) 495 final, S. 2. ↵

Siehe oben, Abschnitt II.1. ↵

Pressemitteilung vom 28. September 2022. ↵

Siehe Frenz, S. 606, wonach der Grüne Deal nicht auf den eigentlichen Klimaschutz beschränkt ist, sondern durch den Übergang zu einer sauberen und kreislauforientierten Wirtschaft eine effizientere Ressourcennutzung fördern soll. Frenz, S. 613 f. sieht mit dem Grünen Deal einen eigentlichen Umbau des EU-Wirtschaftsrechts begründet, durch den das einschlägige Unionsrecht «erheblich ökologisiert» wird. ↵

Präambel 29 der überarbeiteten Produkthaftungsrichtlinie. ↵

COM(2022) 495 final, S. 6 mit Verweis auf den Aktionsplan für die Kreislaufwirtschaft vom März 2020. ↵

COM(2020) 495 final, S. 7. ↵

Präambel der Richtlinie 85/374/EWG. ↵

Art. 288 AEUV; vgl. Jaag/Hänni, Rz 2115 ff. ↵

Europäische Kommission, Comparative Law Study on Civil Liability for Artificial Intelligence, November 2020, S. 11–12. In einigen Ländern gibt es parallel zur Verschuldenshaftung eine Regelung mit Kausalhaftung, deren Anwendungsbereich und Voraussetzungen jedoch unterschiedlich sein können: «While all European jurisdictions have at least some instances of strict liability in addition to and alongside fault liability, there are tremendous differences both with respect to the range of risks covered by such no-fault regimes as well as with respect to the details of how such liabilities are designed.» ↵

COM(2022) 495 final, S. 3. ELI-Response, S. 8 forderte demgegenüber, dass erst die Haftpflichtrechte der Mitgliedstaaten eingehend untersucht werden, bevor neue Regeln für die KI-Haftung (einschliesslich der Produkthaftung) diskutiert werden. ↵

Siehe Abschnitt II.2.3 zu Art. 3. ↵

So COM(2022) 496 final, S. 8. ↵

Ein geraffter Überblick zur Geschichte des Deliktsrechts seit der römischen Antike findet sich in Abschnitt III.2.1. ↵

COM(2022) 495 final, S. 3; vgl. die Kritik in der FAZ vom 12.06.2023 (Axel Voss): Der «Brüssel-Effekt» und was ihm noch im Wege steht, wonach es zwischen den «vielen anderen [als dem Gesetz über KI] EU-Digitalgesetzen» und sektoralen Regeln zahlreiche Überschneidungen gebe, die «noch konsequenter identifiziert und behoben werden» müssten. ↵

Richtlinie (EU) 2019/771 über bestimmte vertragsrechtliche Aspekte des Warenkaufs. ↵

Richtlinie (EU) 2019/770 über bestimmte vertragsrechtliche Aspekte der Bereitstellung digitaler Inhalte und digitaler Dienstleistungen. ↵

DSGVO. ↵

Richtlinie 2004/35/EG über Umwelthaftung zur Vermeidung und Sanierung von Umweltschäden. ↵

Für die Schweiz siehe Bühler, Produktsicherheit; für die EU siehe die Kommentierung von Ehring/Taeger sowie aus praktischer Sicht Krey/Kapoor; vgl. Trenkler aus der Perspektive des deutschen Wirtschaftsverwaltungsrechts. ↵

Bsp. für sektorspezifische Regeln sind die Richtlinie 2014/53/EU vom 16. April 2014 über die Harmonisierung der Rechtsvorschriften der Mitgliedstaaten über die Bereitstellung von Funkanlagen auf dem Markt oder die Verordnung (EU) 2017/745 vom 5. April 2017 über Medizinprodukte. Weitere Sicherheitsvorschriften gibt es sodann für die Sektoren Aufzüge, Gasgeräte, Druckgeräte und -behälter oder persönliche Schutzausrüstungen. Bsp. für eine technologiespezifische Regulierung sind die Richtlinie 2006/42/EG vom 17. Mai 2006 über Maschinen (Maschinenrichtlinie) sowie die KI-Verordnung. ↵

Richtlinie 2001/95/EG (GPSD); vgl. COM(2020) 64 final, S. 4. ↵

Vgl. Bühler, S. 11 f., der darauf hinweist, dass die herkömmliche Unterteilung in Zivilrecht und öffentliches Recht immer fragwürdiger werde, je mehr Eingriffe in die Privatautonomie der Gesetzgeber vornimmt. Zur verwandten, im Finanzmarktaufsichtsrecht bekannten Doppelnormtheorie siehe SK FIDLEG-Maurenbrecher/Eckert, Art. 7 N 5. Auf Stufe des EU-Rechts ist diese Unterteilung insofern schwierig, als die EU gemäss dem AEUV keine Kompetenzen hat, für den Bereich des Zivilrechts zu legiferieren. Somit griff die Kommission für die überarbeiteten Bestimmungen zur Produkthaftung erneut zum Instrument der Richtlinie, vgl. COM(2022) 495 final, S. 8; vgl. nun Wildhaber, Haftung und KI, Rz 9 zu Innovationsrisiken als «Querschnittsphänomen» zwischen privatrechtlicher und öffentlich-rechtlicher Regulierung. ↵

COM(2022) 495 final, S. 3. ↵

COM(2022) 496 final, S. 3. ↵

Siehe COM(2021) 202 final für eine Maschinenverordnung und COM(2021) 346 final für eine neue Verordnung über die allgemeine Produktsicherheit. Erstere trat am 19.07.2023 als Verordnung (EU) 2023/1230 in Kraft und gilt ab dem 14.01.2027. Letztere trat am 12.06.2023 als Verordnung (EU) 2023/988 in Kraft und gilt ab dem 13.12.2024. In beiden Fällen ersetzten Verordnungen die früheren Richtlinien. Dieses Muster einer zunehmend engeren Harmonisierung der Rechtsvorschriften in der Union zeigte sich zuvor bereits im Bereich des Fernabsatzes und teilweise bei den Finanzdienstleistungen (MiFIR als Ergänzung zu MiFID II). ↵

Siehe die Definition in Art. 6 Abs. 1 der KI-Verordnung. ↵

COM(2020) 495 final, S. 3. ↵

Vgl. hierzu die Meinung von Joggert/Wendt, S. 15, wonach ein Einbezug von Dienstleistungen in den Anwendungsbereich der Produkthaftung eine «Änderung» der Richtlinie notwendig gemacht hätte. ↵

COM(2022) 495 final, S. 8. ↵

Im Zuge der Beratungen durch die Gesetzgeber kamen noch mehrere weitere Anpassungen hinzu. Für diese Anpassungen siehe den Standpunkt des Rates in ST-5809-2024-INIT vom 24.01.2024 und die Entschliessung des EP in P9_TA(2024)0132 vom 12.03.2024. ↵

Vgl. die Besprechung bei Joggert/Wendt, S. 13; so auch Wildhaber, Haftung und KI, Rz 27. ↵

Siehe dazu Abschnitt III.1. ↵

COM(2022) 495 final, S. 11. ↵

Siehe die Typologie der Unfallszenarien in Abschnitt VI.3. ↵

Der ursprüngliche Vorschlag der Kommission enthielt 20 Artikel, zu denen im Zuge der Beratungen die Art. 5a/6 (Schaden), 12a/14 (Rückgriffsrecht), 14a/17 (Ablauffrist) und 18 (Abweichungen zum Schutz gegen Entwicklungsrisiken) hinzukamen. Die Nummerierung im Standpunkt des Rats in ST-5809-2024-INIT entspricht nicht jener der Entschliessung des EP in P9_TA(2024)0132. ↵

Die Bedeutung, ja die Sinnhaftigkeit von Zweckartikeln in der Gesetzgebung ist in der Lehre umstritten. Siehe dazu SK FINIG-Winkler, Art. 1 N 2. ↵

Erwägung 13 in COM(2022) 495 final. ↵

Müller St., S. 7 weist zurecht darauf hin, dass die in Erwägung 13 gegebene Begründung für diese Ausnahme zweifelhaft ist, da Open Source Software oft auch im Rahmen einer gewerblichen Tätigkeit vertrieben wird. ↵

Art. 2(3)(a) verweist auf die Richtlinie 2002/58/EG (elektronische Kommunikation) und die Richtlinie (EU) 2016/680 (polizeiliche und justizielle Zusammenarbeit in Strafsachen). ↵

Siehe Abschnitt III.7.2 zur Haftungskaskade nach Art. 50/51 OR. ↵

Die Richtlinie 85/374/EWG wurde den Mitgliedstaaten an diesem Datum angezeigt. ↵

Siehe dazu Weichbold, S. 142 ff. und S. 204 zur Idee, die Haftung des Fahrzeugherstellers in die Strassenverkehrsgesetzgebung (konkret für Österreich das EKHG) zu integrieren. Nach dieser Idee hafteten die Hersteller solidarisch mit dem Halter für Unfälle beim Betrieb eines Strassenfahrzeugs. ↵

Zur fehlenden Kompetenz der EU, im Bereich des Zivilrechts zu legiferieren, siehe schon Abschnitt II.2.3. ↵

Müller St., S. 7 deutet dies als Erweiterung des Verantwortungsbereichs des Herstellers, wobei allerdings die Abgrenzung zum Verantwortungsbereich des Zulieferers (Hersteller der Komponente, Software) unklar bleibe. ↵

Rohwaren wurden nach Erwägung 14 (geändert) hinzugefügt, um klarzustellen, dass neben Elektrizität auch Gas und Wasser als Produkte gelten. ↵

Vgl. aber die Definition des Produkts in Art. 3 Ziff. 1 der Produktsicherheitsverordnung, die nach wie vor auf den Begriff des «Gegenstands» aufbaut. Art. 15 Abs. 3 Bst. a stellt wenigstens klar, dass Software wie eine Komponente in ein Produkt eingebettet sein kann. Erw. 25 stellt dazu fest, dass ein Produkt durch Software-Updates «erheblich verändert werden» kann, «sodass es in der Folge einer neuen Risikobewertung unterzogen werden sollte, falls sich diese erhebliche Veränderung auf die Sicherheit des Produkts auswirkt». Vgl. dazu Felz, S. 4. ELI-Response, S. 12 brachte zusätzlich Art. 2 Ziff. 3 der Richtlinie (EU) 2019/770 über bestimmte vertragsrechtliche Aspekte der Bereitstellung digitaler Inhalte und digitaler Dienstleistungen auf. Als «Waren mit digitalen Elementen» gelten demnach bewegliche körperliche Gegenstände, die in einer Weise digitale Inhalte oder digitale Dienstleistungen enthalten oder mit ihnen verbunden sind, dass die Waren ihre Funktionen ohne diese digitalen Inhalte oder digitalen Dienstleistungen nicht erfüllen könnten. ↵

Gemäss Joggert/Wendt, S. 14 handelt es sich um eine angemessene Lösung des «Definitionsproblems», das in Abschnitt VI.3.7 a) beschrieben wird. ↵

So die Beschreibung bei Müller St., S. 7. ↵

In Art. 3(3) der alten Richtlinie mit dem Lieferanten gleichzusetzen. ↵

Der Importeur wurde in Art. 3(2) der alten Richtlinie noch in den Begriff des Herstellers einbezogen. ↵

Müller St., S. 8. ↵

COM(2022) 495 final, S. 11; vgl. die Definitionen in Anhang 1 des Beschlusses Nr. 768/2008/EG vom 9. Juli 2008 über einen gemeinsamen Rechtsrahmen für die Vermarktung von Produkten. ↵

COM(2022) 495 final, S. 11. Eine technologieneutrale Formulierung wurde auch vom ELI vorgeschlagen, siehe ELI Innovation Paper, S. 3 (Fn. 4). ↵

Verordnung (EU) 2022/868 vom 30. Mai 2022 über europäische Daten-Governance. ↵

Nach Art. 2 Nr. 1 sind Daten «jede digitale Darstellung von Handlungen, Tatsachen oder Informationen sowie jede Zusammenstellung solcher Handlungen, Tatsachen oder Informationen auch in Form von Ton‑, Bild- oder audiovisuellem Material». ↵

Vgl. Müller St., S. 8. ↵

Im ursprünglichen Vorschlag fand sich eine Definition des Schadens in Art. 4. ↵

Vgl. Art. 9 in der alten Richtlinie. ↵

Joggert/Wendt, S. 17. ↵

COM(2022) 495 final, S. 15. ↵

Joggert/Wendt, S. 15. Kritisch Müller St., S. 10 zur Unübersichtlichkeit der vielschichtigen Regelungen zur Cybersicherheit, wo einschlägige technische Normen bisher noch nicht vorhanden seien. ↵

COM(2022) 495 final, S. 12. ↵

Joggert/Wendt, S. 16. ↵

Vgl. allgemein Art. 60 Abs. 1 OR, wo ebenfalls eine absolute mit einer relativen Frist verknüpft wird. ↵

Vgl. Art. 60 Abs. 1bis OR, der am 1.1.2020 in Kraft getreten ist. ↵

COM (2020) 495 final, S. 13. ↵

COM(2022) 496 final, S. 10 mit Verweis auf die öffentliche Konsultation. Siehe entsprechend die Erwägung 39, welche diese Wahl mit einer gerechten Risikoverteilung motivierte. ↵

Neue Präambel 59 in der Entschliessung des EP in PA_TA(2024)0132; bereits im Standpunkt des Rates enthalten. ↵

COM(2022) 496 final; Pressemitteilung vom 28. September 2022; eine Übersicht mit Anmerkungen zum Verhältnis zur überarbeiteten Produkthaftungsrichtlinie findet sich bei Blasek; kritische Besprechung bei Wagner, Richtlinie über KI-Haftung. Bereits das ELI hatte in ELI-Response, S. 10 f. die Idee aufgeworfen, gewisse KI-spezifische Risiken durch eine von der Produkthaftungsrichtlinie unabhängige Regelung abzudecken. In die gleiche Richtung stiess ELI-Response, S. 23 ff. ↵

Wagner, Richtlinie über KI-Haftung, S. 123; vgl. Wildhaber, Haftung und KI, Rz 19, wonach die Richtlinie über KI-Haftung weder Haftungstatbestände noch Sorgfaltspflichten schaffe; ihre praktische Schlagkraft sei deshalb gering (siehe dort Rz 59). ↵

Entschliessung EP 20, Ziff. 11–13. ↵

Pressemitteilung vom 28. September 2022. ↵

COM(2022) 496 final, S. 1 mit Verweis auf die Entschliessung des Europäischen Parlaments vom 3. Mai 2022 zur KI im digitalen Zeitalter (2020/2266(INI)). ↵

Vgl. Abschnitt III.2.3 zu Verkehrssicherheitspflichten. ↵

Vgl. Präambel 2 der Richtlinie über KI-Haftung. ↵

Siehe Abschnitt I.2.4 und Präambel 3 der Richtlinie über KI-Haftung. ↵

COM(2022) 496 final, S. 2; Präambel 3 der Richtlinie über KI-Haftung. ↵

COM(2022) 496 final, S. 3. ↵

Pressemitteilung vom 28. September 2022. ↵

COM(2022) 496 final, S. 3. ↵

Siehe Abschnitt II.2.4 zur nicht weiterverfolgten Option 1c im Vorschlag zur überarbeiteten Produkthaftungsrichtlinie. ↵

Vgl. Wagner, Richtlinie über KI-Haftung, S. 123, wonach beide Richtlinien «das europäische Haftungsrecht in die digitale Zukunft» führen. ↵

COM(2022) 496 final, S. 4. ↵

COM(2022) 496 final, S. 5; vgl. Bassot, S. 7. ↵

Zur Wahl der Richtlinie als Instrument der Gesetzgebung siehe Blasek, S. 299. ↵

Wagner, Richtlinie über KI-Haftung, S. 123. ↵

Siehe Abschnitt II.2.3. ↵

COM(2022) 454 final. ↵

COM(2022) 496 final, S. 4. ↵

Siehe Abschnitt II.1. ↵

COM(2022) 496 final, S. 9. ↵

Zu diesem Instrument siehe Abschnitt III.2.3. ↵

Option 3 gemäss COM(2022) 496 final, S. 10. Siehe dazu ELI-Response, S. 28, Hochrisiko-KI-System als inhärent gefährlich betrachtet werden kann, sodass eine Kausalhaftung nicht für alle diese Systeme angebracht erscheint. ↵

COM(2022) 496 final, S. 16. ↵

COM(2022) 496 final, S. 12; gestützt auf die Kompetenz in Art. 114 AEUV. ↵

Präambel 7 der Richtlinie über KI-Haftung. ↵

COM(2022) 496 final, S. 13. ↵

Präambel 15 der Richtlinie über KI-Haftung. ↵

Siehe Art. 3 Nr. 1 der KI-Verordnung für die Definition des KI-Systems sowie Art. 6 Abs. 1 für die Definition des Hochrisiko-KI-Systems. Blasek, S. 300, weist auf den Mangel an Rechtssicherheit hin, da die EU-Kommission Anhang III mit den konkret genannten Hochrisiko-KI-Systemen «ohne grossen Aufwand» anpassen kann. Diese Unsicherheit würde auf die Haftung durchschlagen. ↵

Vgl. Blasek, S. 300. ↵

Mit Verweis auf Art. 3 Ziff. 2 der KI-Verordnung. ↵

Mit Verweis auf Art. 3 Ziff. 4 der KI-Verordnung. Nach Wagner, Richtlinie über KI-Haftung, S. 124, dürfte der Begriff des Nutzers «mehr oder weniger dem Halterbegriff des deutschen Rechts entsprechen». ↵

Vgl. COM(2022) 496 final, S. 14; Blasek, S. 301 nennt ferner Unternehmen, deren Geschäftsmodell die Durchsetzung von Schadenersatzansprüchen ist. ↵

Die substantiellen Regeln der Richtlinie sind für Wagner, Richtlinie über KI-Haftung, S. 125, «äusserst kompliziert», ein Urteil, dem nicht leicht widersprochen werden kann. ↵

Vgl. Präambel 17 der Richtlinie über KI-Haftung. Vgl. auch Art. 6 Abs. 1 der Richtlinie 2004/48/EG vom 29. April 2004 zur Durchsetzung der Rechte des geistigen Eigentums. ↵

Siehe Richtlinie (EU) 2016/943 vom 8. Juni 2016 über den Schutz vertraulichen Know-hows und vertraulicher Geschäftsinformationen (Geschäftsgeheimnisse) vor rechtswidrigem Erwerb sowie rechtswidriger Nutzung und Offenlegung. ↵

Zum Schutz der Geschäftsgeheimnisse siehe Richtlinie (EU) 2016/943. ↵

Siehe Kapitel III in der KI-Verordnung: Anforderungen (Art. 8–15) und Pflichten der Anbieter und Betreiber und anderer Beteiligter (Art. 16–27). ↵

Art. 11 und 18 der KI-Verordnung. ↵

Art. 12 und 19 der KI-Verordnung. ↵

Siehe jetzt immerhin Art. 11 Abs. 3 Bst. f zu den von den Betreibern erstellten Protokollen, ↵

Präambel 16 der Richtlinie über KI-Haftung. ↵

Präambel 18 der Richtlinie über KI-Haftung. ↵

Blasek, S. 301. ↵

Präambel 21 der Richtlinie über KI-Haftung. ↵

Siehe die Definition in Art. 2 Nr. 9. ↵

COM(2022) 496 final, S. 13. ↵

Präambel 23 der Richtlinie über KI-Haftung, siehe schon Abschnitt II.3.1. ↵

COM(2022) 496 final, S. 15. ↵

Dieses Ergebnis deckt sich mit der Forderung von ELI-Response, S. 28 zur Vermutung einer Sorgfaltspflichtverletzung in gewissen Fällen. ↵

Genannt werden in Präambel 24 der Richtlinie über KI-Haftung allgemeine Sorgfaltspflichten des nationalen Rechts, «wobei als Verhaltensmassstab unterschiedliche Ausprägungen des Grundsatzes, wie eine vernünftige Person handeln sollte, gelten». ↵

Vgl. Art. 2 Nr. 5. ↵

Präambel 25 der Richtlinie über KI-Haftung. Als Beispiel eines nicht massgeblichen Verschuldens nennt die Präambel das Unterlassen, geforderte Unterlagen bei einer Behörde einzureichen oder sich bei einer bestimmten Behörde zu registrieren. Hier handelte es sich um Ordnungsvorschriften, welche allenfalls die Durchsetzung der Offenlegungspflichten erschweren könnten. ↵

Wagner, Richtlinie über KI-Haftung, S. 125. ↵

Wagner, Richtlinie über KI-Haftung, S. 126. ↵

Vorbehalten sind sodann ausdrücklich der Haftungsausschluss für Anbieter von Vermittlungsdiensten und deren Sorgfaltspflichten nach dem Gesetz über digitale Dienste (Art. 1 Abs. 3 Bst. c). Vorbehalten sind nach Präambel 34 ferner die Anforderungen an Online-Plattformen zur Vorkehr gegen die unbefugte Wiedergabe urheberrechtlich geschützter Werke nach Richtlinie (EU) 2019/790. ↵

Wagner, Richtlinie über KI-Haftung, S. 126, weist zu Recht darauf hin, dass die Pflicht zur Einrichtung, Anwendung und Dokumentierung eines Risikomanagementsystems gemäss Art. 9 des Gesetzes über KI «merkwürdigerweise» in der abschliessenden (!) Liste nicht genannt wird. ↵

Präambel 26 der Richtlinie über KI-Haftung. Die Präambel hält denn auch fest, dass das Verschulden des Nutzers eines Hochrisiko-KI-Systems auch festgestellt werden könne, wenn dieser gegen eine andere im Unionsrecht oder im nationalen Recht festgelegte Sorgfaltspflicht verstossen hat. ↵

Präambel 27 der Richtlinie über KI-Haftung: In solchen Fällen sollte das Gericht die Vermutung erst gar nicht zur Anwendung bringen! Es ist fraglich, ob diese fein ziselierten Überlegungen der Sache dienen. Man spürt an jeder Wendung die Furcht vor Eingriffen in das herkömmliche nationale Zivilverfahrensrecht. ↵

Präambel 24 der Richtlinie über KI-Haftung. ↵

Wagner, Richtlinie über KI-Haftung, S. 126. ↵

COM(2022) 496 final, S. 16 sowie Abschnitt I.2.4. ↵

Präambel 28 der Richtlinie über KI-Haftung. ↵

Präambel 29 der Richtlinie über KI-Haftung. ↵

COM(2022) 496 final, S. 15. ↵

Präambel 31 der Richtlinie über KI-Haftung. ↵

Blasek, S. 302. ↵

Blasek, S. 302. ↵

Wagner, Richtlinie über KI-Haftung, S. 134. ↵

Karner/Koch/Geistfeld; die Studie wird ergänzt durch eine von Mark A. Geistfeld verfasste Darstellung zur Regulierung von KI in den USA, mit einem Exkurs über selbstfahrende Fahrzeuge. Vgl. in erweiterter Form Geistfeld/Karner/Koch/Wendehorst. ↵

Die Studie war Teil der begleitenden Materialien zum Vorschlag der EU-Kommission für eine überarbeitete Produkthaftungsrichtlinie und eine neue Richtlinie über KI-Haftung, siehe Pressemitteilung vom 28. September 2022. ↵

Dieser Abschnitt wurde zur Probe unter Verwendung von ChatGPT verfasst (leicht redigiert). ↵

Vgl. COM(2020) 64 final, S. 3. ↵

Siehe die Abschnitte II.2.3 und 3.3 für das Verhältnis der neuen EU-Rechtsakte zum nationalen Recht. Ein Gegenstück zu Art. 122 Abs. 1 BV, welcher dem Bund die umfassende Kompetenz zur Gesetzgebung im Bereich des Zivilrechts einschliesslich des Zivilprozessrechts gibt, existiert auf Stufe der EU-Gesetzgeber nicht. Siehe Jaag/Hänni, Rz 1208, 1325 ff., 3106a ff., 3502 ff., 3818 ff. An dieser Stelle setzte u.a. die Initiative der EGTL an (siehe PETL). ↵

Art. 114 AEUV; vgl. Art. 100 EWG-Vertrag (Vertrag von Rom von 1957), auf den sich der Text der aktuell gültigen Produkthaftungsrichtlinie von 1985 noch immer bezieht. ↵

Vgl. insbesondere COM(2020) 496, Präambel 6–9. ↵

Siehe Abschnitt III.2.3. ↵

Vgl. COM(2020) 64 final, S. 15. ↵

Siehe gleich zu Beginn, Karner/Koch/Geistfeld, S. 9. ↵

Vgl. den historischen Abriss in Abschnitt III.2. Die Studie schliesst das Vereinigte Königreich mit seiner Common Law-Tradition nicht von vornherein aus, obwohl Verweise auf englisches Recht in ihrem Hauptteil sehr selten sind. (Diese Bemerkung gilt natürlich nicht für Geistfelds Darstellung der KI-Regulierung in den USA ab S. 111.) Nach S. 60 sind etwa Common Law-Staaten sehr zurückhaltend in Bezug auf Gefährdungshaftungen. So hätten England, Irland und Malta keine Fahrzeughalterhaftung; stattdessen würden die Sorgfaltspflichten erhöht. ↵

Karner/Koch/Geistfeld, S. 21. Dies darf im Wesentlichen auch für das schweizerische Recht gelten. Vgl. die Kritik an einzelnen gegenläufigen Tendenzen in neuerer Zeit, insbesondere am Entwurf OR 2020 bei Widmer, Offside, Rz 5. ↵

Nach Max Weber liegt hier die ureigenste Aufgabe des Gesetzgebers. ↵

Widmer, Offside, Rz 6. Zur rechtlichen Behandlung des Zufalls und seiner sozialen Abfederung vgl. bei Esser, S. 69 ff. ↵

§ 1311 ABGB lautet: «Der bloße Zufall trifft denjenigen, in dessen Vermögen oder Person er sich ereignet. Hat aber jemand den Zufall durch ein Verschulden veranlaßt; hat er ein Gesetz, das den zufälligen Beschädigungen vorzubeugen sucht, übertreten; oder sich ohne Noth in fremde Geschäfte gemengt, so haftet er für allen Nachtheil, welcher außer dem nicht erfolgt wäre.» ↵

Karner/Koch/Geistfeld, S. 38. ↵

Karner/Koch/Geistfeld, S. 11. ↵

Vgl. jetzt Art. 14 des Gesetzes über KI: Menschliche Aufsicht über Hochrisiko-KI-Systeme. ↵

Karner/Koch/Geistfeld, S. 58; dort Fn. 230, weist darauf hin, dass die Bezeichnung «strict liability» oft auch die Hilfspersonenhaftung («vicarious liability») einbezieht und somit mehrdeutig sei. ↵

Esser, S. 49. ↵

Karner/Koch/Geistfeld, S. 13, 58 f. ↵

Karner/Koch/Geistfeld, S. 60: «In other jurisdictions, a more or less far-reaching general clause for risk-based liability is in place, either alongside individual provisions for specific risks or without such complementary regimes.» Aufgezählt werden Kroatien, Tschechische Republik, Ungarn, Estland, Lettland, Litauen, Polen, Slowakei, Slowenien. ↵

Karner/Koch/Geistfeld, S. 59. ↵

Karner/Koch/Geistfeld, S. 48 f., 61. ↵

Karner/Koch/Geistfeld, S. 48 f. ↵

Siehe http://egtl.org/PETLGerman.html (zuletzt besucht am 07.08.2025). ↵

Für Einzelheiten siehe Karner/Koch/Geistfeld, S. 82. Die dort angegebenen Entscheide sprechen jedoch ebensogut gegen eine solche Bereitschaft; wenigstens argumentierte der OGH in den genannten beiden Entscheiden für eine differenzierte Betrachtung der Risiken. Angesichts des verhältnismässig geringen Schadenspotentials von Mährobotern dürfte die Bereitschaft oberer Gerichte zu allzu innovativen Lösungen eher gering sein. Die Autoren spekulieren, dass das Risiko eines Mähroboters wohl zu gering wäre, die strenge Kausalhaftung in Form einer Generalklausel von Ländern wie der Tschechischen Republik oder Ungarn auszulösen. ↵

Siehe COM(2022) 496 final, S. 10 f. und Abschnitt II.3.4. ↵

Vgl. die Arbeitshypothese in Abschnitt I.3.1 und die Literaturumschau in Abschnitt I.2.1. ↵

Politische Leitlinien, S. 15. ↵

COM(2020) 65 final, S. 10 ff. ↵

So in Kapitel III bei der Eisenbahnhaftung oder der Kernenergiehaftung. ↵

Der Kommissionsvorschlag findet sich in COM(2021) 206 final, S. 1. ↵

P9_TA(2023)0236. ↵

Vgl. Hendrik Wieduwilt: «Schicksalstage der KI-Verordnung: drei Szenarien», publiziert am 28.11.2023 in der FAZ. ↵

Siehe die Pressemitteilung des Rates von diesem Datum: «Gesetz über künstliche Intelligenz: Rat und Parlament einigen sich über weltweit erste Regelung von KI»). ↵

Standpunkt des Parlaments: ST-5662-2024-INIT (noch nicht im ABl veröffentlicht). ↵

Siehe Kapitel I: Allgemeine Bestimmungen. ↵

Dies überschneidet sich zum Teil mit Bst. a. ↵

Dieser letzte Punkt erscheint als typischer politischer Zusatz. Er führt zu bestimmten Vereinfachungen für KMU und Start-up Unternehmen wie z.B. bei der Erstellung der technischen Dokumentation (Art. 11) oder einer besonderen Förderung im Rahmen der neu zu schaffenden KI-Labore (Art. 57). ↵

Die zentrale Definition des KI-Systems wurde im Verlauf der Beratungen stark verändert. Zu dieser Definition und seiner Kritik siehe Abschnitt V.2.1. ↵

Der Kommissionsentwurf verwendete anstelle des Begriffs des Betreibers den des Nutzers – bei identischer Definition: Personen etc. die ein KI-System «in eigener Verantwortung» verwenden. Dieser Wechsel in der Begrifflichkeit ist zu begrüssen, da unter Nutzer auch der Endnutzer (Konsument o.ä.) hätte verstanden werden können. Im englischen Text wurde «user» durch «deployer» ersetzt. ↵

Siehe Beispiel 3 in Kapitel VI. ↵

Titel II Verbotene Praktiken im KI-Bereich. ↵

Es ist kaum nötig anzumerken, dass die Liste aus Art. 5 während der Beratungen heftig umstritten war. Sie wurde denn auch stark bearbeitet. ↵

So die Bezeichnung in Art. 6 Abs. 2. ↵

Kapitel III Hochrisiko-KI-Systeme / Abschnitt 1 Einstufung von KI-Systemen als Hochrisiko-KI-Systeme (Art. 6–7 mit Anhang III). ↵

Art. 6 Abs. 1 Bst. a. ↵

Art. 6 Abs. 1 Bst. b. Die Liste in Anhang III soll von der Kommission dynamisch verwaltet werden und dem technischen Fortschritt angepasst werden können; positiv bewertet bei Pohle, S. 373, kritisch Blasek, S. 300. ↵

Pohle, S. 373. ↵

Abschnitt 2 Anforderungen an Hochrisiko-KI-Systeme. ↵

Für Pohle, S. 374 ist die Regelung «unscharf» und bietet «nicht unerhebliche technische Herausforderungen». ↵

Pohle, S. 373. ↵

Abschnitt 3 Pflichten der Anbieter und Betreiber von Hochrisiko-KI-Systemen und anderer Beteiligter (Art. 16–27). ↵

COM(2021) 206 final, S. 16. ↵

Siehe Art. 25 zu den Verantwortlichkeiten entlang der KI-Wertschöpfungskette, die Händler, Einführer, Betreiber und sonstige Dritte erfasst und in bestimmten Fällen den Pflichten eines Anbieters unterstellt. ↵

Siehe Art. 28, der die weiteren Wirtschaftsakteure in bestimmten Fällen den Pflichten der Anbieter aus Art. 16 unterstellt; gemäss COM(2021) 206 final, S. 16 handelt es sich um «horizontale Pflichten». ↵

Mit Verweis u.a. auf das Risikomanagementsystem von Art. 9. ↵

Mit Verweis auf Art. 11. ↵

Der Begriff der technischen und organisatorischen Massnahmen (TOM) ist aus dem Datenschutzrecht bekannt (vgl. Art. 24 Abs. 1 DSGVO oder Art. 7 Abs. 1 DSG). ↵

Siehe Art. 12. ↵

Abschnitt 4 Notifizierende Behörde und notifizierende Stellen (Art. 30–39) / Abschnitt 5 Normen, Konformitätsbewertung, Bescheinigung, Registrierung (Art. 40–51). ↵

Zur Datenbank siehe Art. 60 (Titel VII). Diese Datenbank wird von der Kommission im Zusammenspiel mit den Mitgliedstaaten geführt. ↵

Das Kapitel IV Transparenzpflichten für Anbieter und Nutzer bestimmter KI-Systeme besteht aus dem einzigen Art. 50. ↵

Auf Englisch «General Purpose AI Models» (GPAI-Modelle). Vgl. die Pressemitteilung des EP vom 13.03.2024. Nach der zugehörigen Erläuterung in Präambel 97 sollen KI-Modelle nicht selbst KI-Systeme sein. Sie werden vielmehr erst durch weitere Komponenten zu KI-Systemen ergänzt. Die begriffliche Abgrenzung scheint unklar und wenig durchdacht. ↵

Art. 4 Ziff. 63. ↵

Kapitel VI Massnahmen zur Innovationsförderung / Kapitel VII Governance / Kapitel VIII EU-Datenbank für Hochrisiko-KI-Systeme / Kapitel IX Beobachtung nach dem Inverkehrbringen, Informationsaustausch, Marktüberwachung / Kapitel X Verhaltenskodizes und Leitlinien / Kapitel XI Befugnisübertragung und Ausschussverfahren / Kapitel XII Sanktionen / Kapitel XIII Schlussbestimmungen. ↵

COM(2021) 206 final, S. 13; vgl. die FAZ vom 12.06.2023 (Kai Zenner): Eine Lösung für ChatGBT nach zähem Ringen. ↵

Die FAZ vom 12.06.2023 (Axel Voss): Der «Brüssel-Effekt» und was ihm noch im Wege steht, sah sogar die Möglichkeit, dass andere Staaten die «robusten EU-Rechtsnormen übernehmen und so nicht nur rund um die Welt die Sicherheit von KI-Systemen steigern, sondern auch einen Wettbewerbsvorteil für Europa erzeugen». ↵

COM(2021) 206 final, S. 16. Mit dem «neuen Rechtsrahmen» wird auf das «New Legislative Framework» (NLF) verwiesen, unter welches so unterschiedliche Produkte wie Maschinen, medizinische Geräte und Spielzeug fallen; siehe Präambel 55-57 des Gesetzes über KI. ↵

COM(2021) 206 final, S. 8, 12 und insbesondere 15; vgl. Pohle, S. 371. ↵

COM(2021) 206 final, S. 15 f. ↵

COM(2021) 206 final, S. 4 f. stellt klar, dass spezifische Bestimmungen des Produktsicherheitsrechts vorbehalten bleiben; vgl. Pohle, S. 372 und S. 374, der darauf hinweist, dass diese Vorgaben zum Risikomanagementsystem für Kreditinstitute zum Bestandteil des Risikomanagementverfahrens nach Art. 74 der Eigenkapitalrichtlinie (Richtlinie 2013/36/EU) werden. ↵

Art. 10 Abs. 2 der Verordnung (EU) 2017/745; siehe dazu Roegels, S. 48 f. Gemäss Art. 50 MepV gelten diese Anforderungen auch unter dem Schweizer Recht. ↵

Vgl. die analoge Formulierung in Art. 10 Abs. 2 der Verordnung (EU) 2017/745. ↵

Vgl. Anhang I Kapitel 1 der Verordnung (EU) 2017/745. ↵

Der Kommissionsvorschlag sah noch vor, dass die Restrisiken den Nutzern (d.h. jetzt den Betreibern) mitgeteilt werden müssen. ↵

Zu Restrisiken siehe Abschnitt III.6.5. ↵

Vgl. den Begriff in Art. 5. ↵

Siehe Art. 13 Abs. 2. ↵

Zur Thematik der Autonomie siehe Abschnitt IV.2.2. ↵

Siehe Abschnitt V.3.3. ↵

Art. 10 wurde im Zuge der Beratungen redaktionell überarbeitet. Einerseits wurde betont, dass bei der Data Governance die Zweckbestimmung des KI-Systems berücksichtigt werden muss. Andererseits führt Abs. 5 Voraussetzungen auf, welche die Verarbeitung besonders schützenswerter Personendaten gestatten, um bessere Ergebnisse zu erzielen. ↵

Zur Frage des Datenschutzes im Zusammenhang mit Trainingsdaten siehe Haase. ↵

Le Cun, S. 152 f.; dazu im Detail siehe Abschnitt V.2. ↵

Siehe die Besprechung der Beispiele in Kapitel VI. ↵

Pohle, S. 374 kommentiert Art. 14 nicht weiter, sondern beschränkt sich auf eine knappe Darstellung. ↵

Der ursprüngliche Text des Kommissionsvorschlags verlangte sogar noch, dass die menschliche Aufsicht das KI-System «vollständig» verstehen musste. Der aktuelle Wortlaut dürfte realistischer sein. ↵

Siehe Abschnitt IV.3. ↵

So die Pressemitteilung des Rates vom 09.12.2023 zum erfolgreichen Abschluss des Trilogs. ↵

Anders die FAZ vom 12.06.2023 (Kai Zenner), welche das Gesetz (bzw. den Entwurf dazu) als «gesetzgeberisches Novum» bezeichnete, da erstmals «Regeln zur Produktsicherheit und zum Schutz von Menschenrechten kombiniert» worden seien, «um so den besonderen Anforderungen in der Entwicklung und Anwendung von KI-Systemen besser Herr zu werden». ↵

Vgl. Abschnitt V.3.1. ↵

Pohle, S. 371. ↵

Pohle, S. 371; kritisch Blasek, S. 300 (in Bezug auf Anhang III). ↵

Siehe Abschnitt II.3.4. ↵

3

Grundlagen des Schweizer Haftpflichtrechts

Einführung

Das Haftpflichtrecht, welches die Folgen einer Schadenszufügung unter Rechtssubjekten im Sinne eines Ausgleichs oder einer Wiedergutmachung regelt,[1] ist eine der ältesten Disziplinen des Rechts überhaupt, deren Ursprünge bis in die Frühgeschichte zurückgehen.[2] Die einschlägige Literatur und moderne Rechtsprechung zeigen sich äusserst umfangreich und beleuchten selbst das kleinste Detail der Voraussetzungen und Modalitäten einer Haftung. Dieses Buch setzt sich insbesondere folgende zwei Ziele nicht: Weder soll es eine möglichst umfassende, abstrakte Formel für die Haftung entwickeln – eine solche wäre vielleicht didaktisch wertvoll, bildete aber keineswegs die Rechtswirklichkeit ab – noch soll es andererseits eine umfassende Darstellung der Geschichte und der Entwicklung des Haftpflichtrechts liefern. Das Ziel dieses Abschnitts liegt darin, mithilfe einer Umschau zur geschichtlichen Entwicklung und den Konzepten des Haftpflichtrechts aufzuzeigen, dass unser (d.h. das deutschsprachige) Rechtssystem im Laufe seiner Geschichte immer wieder mit der Herausforderung konfrontiert war, die Regeln der Haftung an die neuesten gesellschaftlichen, wirtschaftlichen und technologischen Entwicklungen anzupassen. An diese Erkenntnis knüpft die Arbeitshypothese dieser Arbeit an, wonach das traditionelle Haftpflichtrecht die Herausforderungen der KI wird meistern können, ohne dass es grösserer gesetzgeberischer Eingriffe bedarf.[3]

Haftpflichtrecht ist das Rechtsgebiet, welches sich mit der zivilrechtlichen ausservertraglichen Haftung (droit de la responsabilité civile extracontractuelle)[4] beschäftigt. Die Bezeichnung führt unmittelbar auf eine Reihe wichtiger Abgrenzungen. So regelt die vertragliche Haftung die (rechtlichen) Folgen der Verletzung einer besonderen Pflicht, die sich aus einem vorbestehenden vertraglichen Verhältnis[5] zwischen der geschädigten Person und dem Schädiger bzw. der durch die Haftung in Anspruch genommenen Person ergibt (u.a. positive Vertragsverletzung[6]).[7] Die Grundnorm für die vertragliche Haftung findet sich in Art. 97 Abs. 1 OR. Die vertragliche Haftung wird im Folgenden nicht weiter behandelt. Demgegenüber gründet sich die Haftung nach Art. 41 OR auf die schuldhafte Verletzung einer allgemeinen Pflicht.[8] Eine solche allgemeine Pflicht muss begründet werden, etwa als absolutes Recht wie das Eigentum oder das Persönlichkeitsrecht oder eine besondere Schutznorm.[9] Neben der eigentlichen deliktischen Haftung bestehen weitere besondere Haftungstatbestände, die als sogenannte Kausalhaftungen kein Verschulden voraussetzen. Diese befinden sich teils im Zivilrecht, teils in öffentlich-rechtlichen Spezialgesetzen.[10] Die verschuldensabhängige und die verschuldensunabhängige Haftung zusammen bilden die ausservertragliche Haftung.[11] In der Literatur wird häufig synonym von Deliktsrecht oder deliktischer Haftung gesprochen.[12] Im Folgenden soll mit der deliktischen Haftung nur die verschuldensabhängige Haftung gemeint sein, denn nur bei ihr besteht ein eigentlicher subjektiver Unrechtsvorwurf.[13] Anders als bei der vertraglichen Haftung begründet bei der ausservertraglichen Haftung erst die schädigende Handlung und das Eintreten eines (rechtserheblichen) Schadens ein eigenes Rechtsverhältnis zwischen den Beteiligten, welches die Regulierung[14] des Schadens bezweckt. Die unerlaubte Handlung ist neben dem Vertrag und der ungerechtfertigten Bereicherung einer der drei Entstehungsgründe der Obligationen.[15]

Die heute gültige, dogmatische Formel für die ausservertragliche[16] Haftung besteht aus vier Elementen: i) dem Schaden, ii) einem Kausalzusammenhang zwischen Schaden und schädigender Handlung, iii) dem Umstand der Widerrechtlichkeit der Schadenszufügung, sowie iv) einem geeigneten Zurechnungskriterium, welches die Art der Haftung bestimmt.[17]

Schaden wird im Gesetz nicht definiert.[18] Das Bundesgericht definiert einen Schaden als eine unfreiwillige oder ungewollte Vermögensverminderung. Sie wird bestimmt als die Differenz zwischen dem aktuellen Vermögensstand des Geschädigten infolge des schädigenden Ereignisses und dem hypothetischen (gleichzeitigen) Vermögensstand bei Ausbleiben des Ereignisses (sog. Differenztheorie).[19] Lehre und Rechtsprechung zum Schadensbegriff sind so vielschichtig wie umfangreich.[20] Als Beleg dafür seien erst einmal nur die Begriffspaare Sach- und Personenschaden, mittelbarer und unmittelbarer Schaden, direkter und indirekter Schaden, Eigen- und Dritt- oder Reflexschaden nebst dem reinen Vermögensschaden und dem entgangenen Gewinn als weitere Schadensart genannt.[21]

Kausalzusammenhang ist der Zusammenhang zwischen Schadensursache und Schadenserfolg bzw. das Verhältnis zwischen Ursache und Wirkung.[22] Lehre und Rechtsprechung unterscheiden zwischen dem natürlichen Kausalzusammenhang, welcher nach logischen oder naturgesetzlichen Gesichtspunkten bestimmt wird, und dem adäquaten Kausalzusammenhang, welcher einzig rechtlich relevant, d.h. haftungsbegründend ist.[23] Nach dem Konzept des adäquaten Kausalzusammenhangs «hat ein Ereignis als adäquate Ursache eines Erfolges zu gelten, wenn es nach dem gewöhnlichen Lauf der Dinge und nach der allgemeinen Lebenserfahrung an sich geeignet ist, einen Erfolg von der Art des eingetretenen herbeizuführen, der Eintritt des Erfolges also durch das Ereignis allgemein als begünstigt erscheint».[24] Die Fokussierung auf die adäquate Kausalität soll die rechtliche Untersuchung und Beurteilung überlanger Kausalketten verhindern[25] und hat offensichtlich eine haftungsbeschränkende Wirkung.[26]

Die Verletzung einer allgemeinen oder einer besonderen Pflicht (wie eingangs beschrieben) begründet die Widerrechtlichkeit der Schadenszufügung als letzte der drei allgemeinen Voraussetzungen der ausservertraglichen Haftung. Sie wird in Art. 41 Abs. 1 OR ausdrücklich als Voraussetzung genannt.[27]

Das Zurechnungskriterium entscheidet als besondere Voraussetzung, ob der Schaden auf die in Anspruch genommene Person überwälzt werden soll und dient gleichzeitig der Unterscheidung nach den verschiedenen Arten der Haftung.[28] Wie eingangs schon beschrieben, werden zwei Arten der ausservertraglichen Haftung unterschieden: Verschuldenshaftungen und Kausalhaftungen. Als Grundregel greift die Verschuldenshaftung, wenn dem Schädiger ein eigenes, persönliches Verschulden i.S. einer fehlbaren menschlichen Verhaltensweise nachgewiesen werden kann.[29] Die französische Bezeichnung «responsabilité aquilienne» unterstreicht dies, indem sie auf die lex Aquilia verweist, die im römischen Recht Schadenersatzansprüche regelte.[30] Bei der Verschuldenshaftung wird auf der subjektiven Seite die Urteilsfähigkeit der schädigenden Person vorausgesetzt;[31] urteilsunfähige Personen sind in zivilrechtlicher Hinsicht deliktsunfähig.[32] Noch grundlegender setzt jede Haftung aber natürlich die Rechtsfähigkeit der schädigenden Person voraus.[33] Ein Tier, etwa, kann zivilrechtlich nicht für einen durch es verursachten Schaden haftbar gemacht werden. Gleiches gilt (bis auf Weiteres) für einen Algorithmus oder einen Roboter.

Demgegenüber kommen die Kausalhaftungen (responsabilités objectives) ohne ein solches individuelles Verschulden aus.[34] Sie greifen in bestimmten, von der Rechtsordnung gesetzlich typisierten Fällen, ohne dass es deswegen einen eigentlichen gemeinsamen Nenner für die einzelnen Tatbestände gäbe.[35] Die Kausalhaftungen unterteilen sich weiter in einfache (simples) oder milde Kausalhaftungen und strenge (aggravées) oder scharfe Kausalhaftungen, die oft auch Gefährdungshaftungen genannt werden.[36] Bei der einfachen Kausalhaftung wird dabei die Verletzung einer Sorgfaltspflicht vermutet.[37] Die Gefährdungshaftung schliesslich knüpft sich an bestimmte Vorrichtungen, Tätigkeiten oder Zustände an, mit welchen das Gesetz typischerweise eine erhöhte Gefährdung Dritter verbindet.[38]

Somit lässt sich das Haftpflichtrecht in die folgenden drei Gruppen einteilen:

In den folgenden Abschnitten wird die Entwicklung beschrieben, welche die einzelnen Gruppen über die Zeit genommen haben. Während die Verschuldenshaftung bis in die Anfänge zurückgeht, sind die Kausalhaftungen und insbesondere die Gefährdungshaftungen Erscheinungen der Industrialisierung.

Historischer Abriss

Von den Anfängen bis zum römischen Recht

Am Ursprung seiner Entwicklung war das Deliktsrecht vom Strafrecht in der Gestalt eines Privatstrafrechts nicht zu unterscheiden. Den gesellschaftlichen Verhältnissen der frühen Zeiten gemäss ging es um grundlegende Verletzungen wie Körperverletzung, Ehebruch oder Diebstahl. Nach Wesel verstanden die «Jäger und Sammler» den Diebstahl weniger als Verletzung des absoluten Rechts auf Eigentum denn als Beleidigung. Sie sahen im Diebstahl eine Art der Persönlichkeitsverletzung, da «nicht gefragt wurde»:[39] Der Dieb hatte es schlicht versäumt, den rechtmässigen Besitzer zu bitten, ihm den fraglichen Gegenstand auszuleihen. Es entwickelte sich eine Art Privatstrafrecht mit Katalogen von Bussen als Ausgleich für Verletzungen.[40] In diesem Ausgleich kann der Ursprung des Konzepts des Leistens von Schadenersatz gesehen werden. Ein eigentliches Strafrecht, welches nach heutigem Verständnis ein öffentliches sein muss, konnte demgegenüber erst mit der Entstehung von Staatlichkeit aufkommen.[41]

Erste Ansätze von Staatlichkeit gab es wohl ab dem 4. Jahrtausend v. Chr. in Mesopotamien.[42] Verträge sollen dort nach Wesel noch keine grosse Rolle gespielt haben,[43] da die Entwicklung eines eigentlichen Vertragsrechts eine ausdifferenzierte Wirtschaft voraussetze, die neben Landwirtschaft zur Eigenversorgung (Grundvoraussetzung der Sesshaftigkeit und damit der Staatlichkeit) auch einen (Fern‑)Handel kennt.[44] Eine solche entwickelte Geldwirtschaft kannten sicher die Griechen der Antike mit ihrer Kolonialwelt[45]. Sie kannten bereits die grundlegenden, noch heute gebräuchlichen Vertragstypen: Kauf, Bürgschaft und Pfand, Miete, Pacht. Derlei Verträge wurden gewohnheitsmässig geschlossen.[46] Ein eigenes, ausdifferenziertes Leistungsstörungsrecht (Schlecht- oder Nichtleistung) kannten sie hingegen nicht. Alle Streitigkeiten aus Vertrag liefen über die Klagen aus Delikt.[47] Daraus folgte eine gewisse Personalisierung der Haftung. Dies zeigt sich sehr eindrücklich bei der Bürgschaft im antiken hebräischen oder im babylonischen Recht.[48] Beim Abschluss der Bürgschaft legte der Bürge seine Hand in die des Gläubigers. Zahlte der Schuldner das Darlehen nicht wie vereinbart zurück, haftete der Schuldner mit seiner Person und kam in Schuldknechtschaft, während der Bürge zwar frei blieb, aber immerhin mit seinem Vermögen haftete.[49] Ähnliche Konzepte kannten auch die Römer.
Die Römer kannten schon in der Zeit der Republik (510 v. Chr.[50] bis 27 v. Chr.[51]) ein hochentwickeltes Vertragsrecht,[52] welches eigene Regeln für die Nicht- und Schlechterfüllung kannte. Eine allgemeine deliktische Generalklausel kannten sie allerdings noch nicht, d.h. ein römisches Gegenstück zu Art. 41 OR sucht man vergebens. Vielmehr entwickelten die römischen Juristen jeweils spezifische Regelungen für einzelne Fallgruppen.[53] Für die Anwendungen bei Sachbeschädigungen trat schon 286 v. Chr. die lex Aquilia[54] als Spezialgesetz hinzu.[55] Sie regelte die widerrechtliche Tötung fremder Sklaven[56] oder Herdentiere (1. Kapitel) sowie die Verletzung (bzw. Beschädigung) dieser oder anderer fremder Güter (3. Kapitel). Schon in altrömischer Zeit bekannt war die sogenannte Noxalhaftung. Diese liess den Hausvater (pater familias) für die in seiner Gewalt stehenden Hauskinder und Sklaven haften.[57] Weiter wurden verschiedene Spezialtatbestände für die Haftung des Tierhalters, des Sklavenhalters, des Reeders und des Wirtes entwickelt, die sich teilweise auf das öffentliche Interesse (utilitas) beriefen. Auf einzelne dieser Entwicklungen wird im Folgenden näher eingegangen, soweit sie sich als Anknüpfung für das moderne Haftpflichtrecht anbieten.

Wesels Aussage, dass sich der Vertrag und die vertragliche Haftung aus dem Deliktsrecht entwickelt hätten, findet eine Stütze in den Befunden zu den römischen Verhältnissen. Denn Haftungsverhältnisse im Allgemeinen sind im altrömischen Recht aus den Verhältnissen mit und um den Hausverband heraus entstanden. Genau sie erweisen sich als die Vorstufen zu den späteren (vertraglichen) Obligationen.[58] Hausverband (familia) ist der Verband von Personen, einschliesslich der zugehörigen Sachgüter, die zu einem Haushalt unter der Führung des Hausvorstandes (pater familias) gehören.[59] Zum Personenverband gehören die engen oder näher verwandten Personen; zu den Sachgütern auch die Sklaven. Ausgangspunkt des allgemeinen Haftungsbegriffs ist die persönliche Haftung, wonach der Berechtigte eine auf die Durchsetzung seiner Ansprüche ausgerichtete Zugriffsgewalt auf den Körper einer hausfremden Person erhält (siehe zuvor schon bei der Bürgschaft nach hebräischem oder babylonischem Recht). Anlass zu einem solchen drastischen Zugriff auf ein Individuum ist jeweils entweder ein Delikt als Unrechtstat (eigentliches Deliktsrecht, gegründet auf einen Unrechtsvorwurf) oder jetzt auch eine mangelhafte Erfüllung eines Vertrags als Rechtsgeschäft. Diese alternative Begründung wird noch im Recht des byzantinischen Kaisers Justinians in der seither klassischen systematischen Unterscheidung zwischen obligationes ex delicto und obligationes ex contractu sichtbar sein.[60] Der grosse zivilisatorische Fortschritt des römischen Rechts bestand darin, Delikte auf dem Weg des Zivilprozesses zu verfolgen, mit dem Ziel, die Rache durch Tötung des Schädigers durch eine im Rahmen eines rituellen Verfahrens bestimmte wirtschaftliche Ersatzleistung zu ersetzen. In altrömischer Zeit verblieb immerhin die im Einzelfall drastische Personalvollstreckung als Zwangsmittel.[61]

Ein erstes und gleichzeitig sehr altes Beispiel für eine ausdifferenzierte, auf die damaligen sozialen und wirtschaftlichen Verhältnisse angepasste Haftung stellt die altrömische Noxalhaftung dar, die bis auf das Zwölftafelgesetz[62] zurückgeht: Durch sie erhält der durch ein Delikt Verletzte ein Recht auf Vergeltung gegen den Täter, auch wenn dieser ein Hauskind oder ein Sklave und somit in der Hausgewalt eines nicht direkt beteiligten Hausvorstands (pater familias) steht.[63] Der Verletzte kann aber grundsätzlich nur dann auf den Täter zugreifen, wenn dessen Hausvorstand ihn freigibt. Darin zeigt sich ein Konflikt zwischen der Hausgewalt einerseits und der Haftungsgewalt andererseits. Die römischen Juristen lösten diesen Konflikt dadurch, dass der Hausvorstand die Wahl erhielt, entweder den zu seinem Hausverband gehörigen Täter persönlich dem Verletzten auszuliefern (noxae deditio) oder die auf die Tat festgesetzte Busse zu bezahlen. Im ersten Fall musste der Ausgelieferte die Strafe durch Arbeit abgelten, wenn er nicht einfach körperlich bestraft wurde. Esser sieht in diesem Ausgleich eine archaische Form der distributiven Gerechtigkeit.[64] Harke sieht in dieser Wahlmöglichkeit eine gewisse «Verdinglichung» der Haftung.[65] Die Wahlmöglichkeit sei auch darin begründet zu sehen, dass dem Hausvorstand die Tat seines Kindes oder Sklaven nicht mehr Nachteile einbringen dürfe, als ihm das Gewaltverhältnis Vorteile verschaffte – eine zumindest in Bezug auf den Sklaven[66] durchaus rationale, wirtschaftliche Sichtweise, welche noch heute bei der deliktischen Hilfspersonenhaftung anklingt. Eine konzeptionell identische Lösung gab es mit der actio de pauperie, welche als Tierhalterhaftung den Eigentümer eines vierfüssigen Nutztiers haften liess. Der Eigentümer hatte die Wahl zwischen Auslieferung des Tieres (noxae dedere) und Wiedergutmachung des Schadens durch Schadenersatz (noxae sarcire).[67]

Selbst in der klassischen Periode der Kaiserzeit (1. und 2. Jh. n. Chr.)[68] war den römischen Juristen ein allgemeiner Begriff des Schadenersatzes fremd. Auch eine allgemeine Pflicht, einem Dritten zugefügte Nachteile auszugleichen, gab es wohl nicht. Überhaupt arbeiteten die römischen Juristen wenig mit abstrakten Begriffen[69]. Vielmehr entwickelten sie einzelne, jeweils unterschiedlich beurteilte Tatbestände mit eigener Klage (actio), welche regelmässig auf Leistung eines Schadensausgleichs gerichtet waren, ohne dass dieser Schadensausgleich aber immer nach dem konkreten, individuellen Schaden bemessen worden wäre. Bekannt waren sowohl reine Strafklagen als auch Ansprüche mit gemischter Ersatz- und Straffunktion.[70] Die Bemessung des Schadensausgleichs oder Schadenersatzes (quod interest) hing jeweils vom Typus der einschlägigen actio ab.[71] Als haftungsbegründende schädigende Handlung konnte sowohl deliktisches Unrecht wie auch die Verletzung einer vertraglichen Pflicht auftreten.[72] Kausalität war für die römischen Juristen ein Teilgehalt des Verschuldens (culpa).[73] Das Verschulden wiederum wurde noch nicht klar subjektiviert und abgestuft, sondern typisiert betrachtet: Man nahm an, dass wer bestimmte äusserliche Tatbestandsmerkmale beging, die sozial als Unrecht abgelehnt wurden, mit grösster Wahrscheinlichkeit das betreffende Delikt tatsächlich begehen «wollte». Das genügte als plausibler Grund, den Täter auch ohne vertiefte Abklärung seiner individuellen Verhältnisse für den Schaden haften zu lassen. Kurzgefasst: Der Schaden implizierte das Verschulden. Um dennoch den Einzelfällen in ihrer Gesamtheit möglichst gerecht zu werden, wurden die Fälle ausgeprägt kasuistisch[74] behandelt. Die klassische Jurisprudenz zeigte sich bemüht, jedem typischen Haftungsfall denjenigen Haftungsmassstab zuzuweisen, der den zu befriedigenden Interessen angemessen war. Dies traf insbesondere für die bonae fidei iudicia zu.[75] Denn ex fide bona bedeutete gerade, dass der Schuldner nicht nur die geschuldete Leistung zu erbringen hatte, sondern dass er auch sonst alles zu verhindern und zu unterlassen hatte, was dem Zweck des Geschäfts entgegenstehen könnte. Nach dem Utilitätsprinzip (utilitas) haftete die an einem Rechtsverhältnis nicht interessierte Partei tendenziell nur für Vorsatz (dolus, der nahe bei der Arglist zu sehen war), während die an ihm interessierte Partei auch schon für Fahrlässigkeit (culpa) haftete. Die Römer fassten diese Begriffe noch nicht als eigene, abstrakte Kategorie auf, sondern sahen in ihnen eher begleitende Umstände der für die Schädigung kausalen Handlung und legten sie dementsprechend aus. Ebenso wenig unterschieden die Römer konsequent zwischen Rechtswidrigkeit und Verschulden. Wie dies im Einzelnen konkret gehandhabt wurde, lässt sich anhand der Quellen zur Anwendung der Sachbeschädigungstatbestände aus der lex Aquilia wenigstens erahnen.

Voraussetzung für eine Haftung aus Sachbeschädigung nach der lex Aquilia war eine unrechtmässig begangene Tat (iniuria) als Schädigung fremder Persönlichkeit[76]. So löste nach dem dritten Kapitel der lex Aquilia die Schädigung verschiedener Typen von Vermögensgegenständen (damnum iniuria datum) eine Schadenersatzpflicht aus: Capite tertio omni cetero damno cavetur […] hoc capite actio constituitur.[77] Dieser Satz des Juristen Gaius kann aber nicht so verstanden werden, dass – ganz im Sinn einer Generalklausel – jede Sachbeschädigung zu einer Schadenersatzpflicht führt. Im Gegenteil, der Anwendungsbereich der lex Aquilia blieb der Überlieferung nach auf einen engen Katalog von Tatbeständen beschränkt: urere, frangere, rumpere. Die römischen Juristen handhabten die Frühform des Begriffs der Widerrechtlichkeit so, dass die Widerrechtlichkeit auch jedes Verschulden erfasste, also neben dolus auch culpa; nur die rein zufällig und damit schuldlos erfolgte Handlung blieb sühnefrei.[78] Mit der Ausbildung und Unterscheidung von dolus und culpa wurde nach Kaser der Grundtypus einer Verschuldenshaftung erreicht.[79] Diese Ansicht sei hier als Zwischenschritt der Entwicklung festgehalten.

Nach Kaser erweckten einerseits die Verfeinerung des Rechtsbewusstseins in der späteren Republik wie andererseits die wirtschaftlichen und gesellschaftlichen Veränderungen das Bedürfnis nach zahlreichen neuen Ansprüchen, deren Schöpfung der Initiative des u.a. für den Erlass der zivilen Klageformeln zuständigen Prätors überlassen blieb.[80] Gleichzeitig bestand die aus der Frühzeit stammende Noxalhaftung fort, so auch bei der Haftung für Tierschaden. Die archaische Vorstellung, das Tier selbst (oder sein böser Geist) hafte für den Schaden, verflüchtigte sich allerdings. Nun haftete der Eigentümer, der ja auch die wirtschaftlichen Vorteile des Tieres für sich vereinnahmte, für die sich verwirklichte Gefährdung durch das Tier.[81]

Ebenso wenig wie eine deliktische Generalklausel gab es eine allgemeine Formel für die Geschäftsherrenhaftung. So bleibt insbesondere bei einer Gaius-Stelle unklar, ob die Haftung des (Transport‑)Unternehmers auf ein blosses Auswahlverschulden beschränkt oder aber völlig verschuldensunabhängig ausgestaltet war:

«Wer den Transport einer Säule zu besorgen übernommen hat, die entweder während des Transports oder bei der Anlieferung zerbrochen ist, muss für diesen Schaden einstehen, wenn es wegen seiner eigenen Schuld oder der Schuld seiner Leute geschah: Jedoch liegt kein Verschulden vor, wenn alles getan wurde, was ein sorgfältiger Mann getan hätte. […]»[82]

Mit Harke kann der Text so gelesen werden, dass es auf ein Verschulden des Unternehmers und der Gehilfen ankommt:[83] ipsius eorumque. Dann haftet der Unternehmer für die Auswahl kompetenter Hilfspersonen. Wird die Disjunktion «oder» jedoch rein alternativ gelesen, genügte entweder das Verschulden des Unternehmers oder der Gehilfen allein. Dann könnte die Einstandspflicht des Unternehmers als verschuldensunabhängige Haftung des Unternehmers für seine Hilfspersonen verstanden werden.[84]

Eine besondere Ausprägung der (nun aber vertraglichen) Hilfspersonenhaftung findet sich im speziellen Haftungstatbestand der Reeder und Kapitäne.[85] Reeder und Kapitäne (wie im Übrigen auch die Wirte[86]) hatten ohne Weiteres für einen Betrug oder einen Diebstahl einzustehen, den die auf ihrem Schiff (oder in ihrem Gasthof) tätigen Angestellten begangen hatten.[87] Kapitäne (magister navis) waren mit der Ausrüstung und mit dem Betrieb der Schiffe für deren Eigner beauftragt.[88] Reeder (exercitor navis) besorgten die finanzielle Seite einer Reise.[89] Zu diesem Zweck konnten Reeder und Kapitäne für Rechnung des Eigners Verträge eingehen. Dies galt nicht für die Mannschaft des Schiffes. In Bezug auf die Mannschaft musste der Eigner nur aber immerhin für Diebstähle oder andere Delikte einstehen.[90] Bemerkenswert erscheint nun, dass es bei der Haftung des Eigners für Rechtsgeschäfte des Kapitäns nicht auf den zivilen Status des Kapitäns ankam. Dieser konnte freier Bürger oder Sklave,[91] Mann oder Frau (!) sein[92]. Die Haftung des Kapitäns wurde mit dem Verkehrsinteresse begründet: Im Verlauf einer Reise oder eines Transports konnte es für den Einzelnen notwendig werden, mit dem Kapitän Verträge zu schliessen. Eine Prüfung seines Status wäre dabei wohl häufig nicht zweckmässig gewesen.[93] Die Interessen und das Vertrauen der Reisenden und Transporteure von Waren zu schützen, war eine Frage des öffentlichen Interesses.[94] Deshalb wurde diese spezielle Haftung der Schiffseigner geschaffen.

Die Epoche des (bekannten) antiken römischen Rechts spannt sich über rund tausend Jahre vom 5. Jh. v. Chr. bis zum 5. Jh. n. Chr.[95] Der knappe Tour-d’horizon zum römischen Recht belegt eindrücklich, dass es diesem ausdifferenzierten Rechtssystem gelungen ist, sich über die Jahrhunderte immer wieder an die aktuellen sozialen und wirtschaftlichen Verhältnisse anzupassen, ohne deswegen seine eigenen rechtlichen Grundprinzipien oder die Arbeitsweise seiner Rechtsdiener aufzugeben. Diese Wandlungsfähigkeit mag darin begründet sein, dass den römischen Juristen nicht eine unitäre Dogmatik, sondern das Finden sachgerechter Lösungen für konkrete Probleme wichtig war. Dies sahen die Juristen der Neuzeit ganz anders, so sehr sich einige von ihnen auch auf die römische Rechtstradition beriefen.

Die Generalklausel der Naturrechtslehre

Die dem abstrakten Denken wenig zugeneigten römischen Juristen haben also noch keinen allgemeinen Grundsatz entwickelt und aufgeschrieben, wonach jeder den von ihm schuldhaft verursachten Schaden hätte ersetzen müssen.[96] Diesen Schritt leisteten erst die Vertreter der Naturrechtslehre des 17. und 18. Jh. Die mit der Epoche des Rationalismus vertrauten Rechtshistoriker kann es nicht überraschen, dass es gerade die Juristen der Naturrechtslehre waren, die die Vorarbeiten zur Entwicklung einer Generalklausel des Deliktsrechts leisteten,[97] welche später in der einen oder anderen Form Eingang in verschiedene moderne Kodifikationen finden sollte.

Ein vordringliches Ziel der Naturrechtler des 17. und 18. Jh., zu denen namentlich Samuel Pufendorf und Christian Wolff zählten, war die wissenschaftliche Bearbeitung des Naturrechts, welches sie in der Natur des Menschen begründet sahen.[98] Das Naturrecht dieser Zeit wird häufig als Vernunftrecht bezeichnet, da das Naturrecht in dieser Epoche aus den Grundsätzen der Vernunft abgeleitet werden sollte.[99] Schön zum Ausdruck kommt dies in einem Vorwort von Christian v. Wolff aus dem Jahr 1754. Darin reklamierte Wolff für sich selbstbewusst, dass «es nun endlich klar sey, was Cicero sehr geschicklich gesagt, dass die Rechtswissenschaft nicht aus den zwölf Tafeln, noch aus den Befehlen der Prätoren, sondern allerdings aus dem innersten der Philosophie herzuholen sey».[100] Das Zitat illustriert auch das Bestreben der Vernunftrechtler, die innere Struktur des Naturrechts bzw. der Rechtswissenschaft insgesamt mit Hilfe der sogenannten «geometrischen Methode» (mos geometricus) zu entwickeln und darzustellen.[101] In der äusseren Darstellung ihres Stoffes legten die Vernunftrechtler den Vorzug auf die Formulierung abstrakter Regeln, wie sie dies in der Arbeitsweise der zeitgenössischen Mathematiker abzulesen glaubten. Darin unterschieden sie sich von ihren Vorgängern, die regelmässig mit illustrativen Beispielen und historischen Ausführungen arbeiteten. Ganz im Sinne seines Verständnisses der Mathematik als einer «Hauptwissenschaft» bediente sich Wolff der geometrischen Methode in vielen seiner Abhandlungen, die er zu so unterschiedlichen Wissensbereichen wie der Physik oder der Festungsbaukunst oder eben der Jurisprudenz verfasste.

Die deliktische Generalklausel samt ihren juristischen Grundbegriffen liest sich bei Wolff wie folgt:

«Man sagt, dass derjenige um das Seinige komme (iacturam sui facere), dem wieder seinen Willen das Seine dergestalt entzogen wird, dass er es niemals wieder bekommen kann. Der Verlust des Seinigen wird der Schaden (damnum) genannt; und in Schaden bringen (damnum dare), heisset so viel, als durch das, was man thut, oder unterlässt, Ursache seyn an dem Verlust des Unsrigen.»[102]

Auffällig ist hier, dass nicht von Widerrechtlichkeit gesprochen wird. Es genügt, dass jemandem gegen dessen Willen etwas weggenommen wird. Mit dieser der Alltagssprache entnommenen Aussage ist wohl der Grundfall angesprochen, dass ohne die Einwilligung der berechtigten Person in eine absolute Rechtsposition eingegriffen wird, was ja nach heutigem Verständnis die Widerrechtlichkeit begründet. Rechtsfolge eines auf diese Weise verursachten Schadens ist die Pflicht des Verantwortlichen, Schadenersatz zu leisten:

«Weil nun einer nicht weniger hat, als er haben sollte, wenn ihm eben so viel wieder zugestellet wird, als die Sache werth ist, die er eingebüsset hat, das ist, wenn der Schaden ersetztet wird (damnum refarcitur), welches an und vor sich selbst klar ist; so muss ein jeder vorsetzlicher und unvorsetzlicher Schaden wieder ersetztet werden, und wir haben das Recht den anderen dazu zu bringen, dass uns der Schaden ersetzet werde.»[103]

Diese Formulierung steht stellvertretend für die grosse intellektuelle Leistung der Vernunftrechtler, den antiken Verschuldensgrundsatz auf eine neue, wissenschaftlich abgeleitete Grundlage zu stellen. Es mag sein, dass dieses Ergebnis mehr aus philosophischer und ästhetischer Sicht überzeugte. Esser merkt wohl zurecht an, dass sich die Juristen der Aufklärungszeit «in echt naturrechtlichem Elan» über manche historisch-dogmatische Hürde hinwegsetzten und dabei manche entgegengesetzte Erscheinung der Erfolgshaftung der germanischen Rechte verdunkelten: Der Verschuldensgrundsatz sei historisch «niemals der Tragpfeiler unseres Schadensrechts gewesen».[104] Diese Ansätze der Erfolgshaftung sollten später in Form der unterschiedlichen Kausalhaftungstatbestände wieder aufleben.

Zweifellos aber zeigten sich die Arbeiten von Pufendorf, Wolff und anderen als sehr wirkmächtig. So entstanden zwischen 1750 und 1810 vier bedeutende Kodifikationen, welche teilweise heute noch in Kraft stehen. Als Erstes sei die in den Jahren von 1751 bis 1756 entstandene Kodifikation des geltenden Rechts des Kurfürstentums Bayern genannt. Sie blieb von Aufklärung und Vernunftrecht noch weitgehend unbeeinflusst.[105] Vom Vernunftrecht bereits stark geprägt und dabei noch in der äusseren Form eines Naturrechtslehrbuchs dargestellt, zeigte sich das 1794 in Kraft gesetzte Allgemeine Landrecht für die Preussischen Staaten (ALR), dessen Erarbeitung auf eine Initiative des «Philosophenkönigs» Friedrich II. zurückging. Wie die bayrische Kodifikation umfasste auch das ALR sämtliche Regelungsbereiche, also sowohl das Zivil- als auch das Strafrecht samt dem Prozessrecht.[106] Eine reine Zivilrechtskodifikation war hingegen der französische Code Civil (CC) von 1804, der insbesondere stark von den durch die französische Revolution ausgelösten gesellschaftlichen Entwicklungen beeinflusst wurde.[107] In mehrmals angepasster Form gilt der CC bis heute.[108] Als vierte und letzte grosse Kodifikation der Moderne sei das Allgemeine Bürgerliche Gesetzbuch (ABGB) der österreichischen Monarchie genannt, welches 1811 erlassen und auf den 1.1.1812 in Kraft gesetzt wurde.

Das österreichische ABGB vereinigt die deliktische Haftung mit der vertraglichen Haftung (!) in einer einzigen Generalklausel, die sich in § 1295 Abs. 1 ABGB findet. Der ganze § 1295 ABGB lautet in seiner heute geltenden Fassung wie folgt:

«(1) Jedermann ist berechtigt, von dem Beschädiger den Ersatz des Schadens, welchen dieser ihm aus Verschulden zugefügt hat, zu fordern; der Schaden mag durch Übertretung einer Vertragspflicht oder ohne Beziehung auf einen Vertrag verursacht worden sein.

(2) Auch wer in einer gegen die guten Sitten verstossenden Weise absichtlich Schaden zufügt, ist dafür verantwortlich, jedoch falls dies in Ausübung eines Rechtes geschah, nur dann, wenn die Ausübung des Rechtes offenbar den Zweck hatte, den anderen zu schädigen.»[109]

Im schweizerischen Recht findet sich die deliktische Generalklausel in Art. 41 OR zu Beginn des Abschnitts über die Entstehung der Obligationen aus unerlaubten Handlungen:

«¹ Wer einem andern widerrechtlich Schaden zufügt, sei es mit Absicht, sei es aus Fahrlässigkeit, wird ihm zum Ersatze verpflichtet.

² Ebenso ist zum Ersatze verpflichtet, wer einem andern in einer gegen die guten Sitten verstossenden Weise absichtlich Schaden zufügt.»[110]

Die zweite Regel für den Fall eines gegen die guten Sitten verursachten Schadens im zweiten Absatz liest sich auffällig gleich wie jene im ABGB. Die vertragliche Haftung findet sich in einem anderen Abschnitt des Gesetzes, welcher den Folgen der Nichterfüllung vertraglicher Obligationen gewidmet ist.[111]

Einen etwas anderen Ansatz wählten die Verfasser des deutschen BGB, indem sie sich für eine Mittellösung zwischen einer Aufzählung einzelner Deliktstatbestände nach römischrechtlichem Vorbild und der Generalklausel entschieden.[112] Man war der Ansicht, dass eine «grosse» Generalklausel zu abstrakt wäre und dem Richter eine zu grosse Macht bei der Rechtsanwendung im konkreten Einzelfall gäbe.[113] Ausserdem fürchtete man die Gefahr, dass eine zu weit gehende Haftung der wirtschaftlichen Entwicklung schaden könnte[114] – zur Zeit des Aufschwungs und der technischen Entwicklung im deutschen Kaiserreich[115] ein gewichtiges Argument. Das gleiche Argument führen heute verschiedene interessierte Kreise gegen eine (zu weitgehende) Haftung neuer Technologien an. Umgesetzt wurde deshalb ein dreigliedriger Aufbau aus drei «kleinen» Generalklauseln.[116] § 823 Abs. 1 BGB sieht als Erstes vor:

«(1) Wer vorsätzlich oder fahrlässig das Leben, den Körper, die Gesundheit, die Freiheit, das Eigentum oder ein sonstiges Recht eines anderen widerrechtlich verletzt, ist dem anderen zum Ersatz des daraus entstehenden Schadens verpflichtet.»

In dieser ersten Generalklausel geht es zunächst um Verletzungen ganz bestimmter Rechtsgüter von traditionell[117] zentraler Bedeutung, die in der Rechtsordnung einen besonders hohen Rang geniessen[118]. Zu diesen geschützten Rechtsgütern treten «sonstige Rechte» hinzu, worunter absolut geschützte Rechtspositionen wie dingliche Rechte, aber auch der Besitz sowie das Namens- und Patentrecht zählen.[119] Kein «sonstiges Recht» ist das Vermögen als solches.[120] Es ist der Verweis auf diese «sonstigen Werte», welcher § 823 Abs. 1 BGB den Charakter einer eigentlichen Generalklausel verleiht und Rechtsprechung und Wissenschaft Gelegenheit zur Rechtsfortbildung gibt.[121]

Sodann sieht § 823 Abs. 2 BGB vor:

«(2) Die gleiche Verpflichtung trifft denjenigen, welcher gegen ein den Schutz eines anderen bezweckendes Gesetz verstösst. Ist nach dem Inhalt des Gesetzes ein Verstoss gegen dieses auch ohne Verschulden möglich, so tritt die Ersatzpflicht nur im Falle des Verschuldens ein.»

Diese zweite «kleine» Generalklausel begründet die Haftung aus Verletzung von bestimmten Schutzgesetzen, wobei es sich um zivilrechtliche, öffentlich-rechtliche oder strafrechtliche Normen handeln kann. Soll in einem konkreten Fall nach einer Anspruchsgrundlage gesucht werden, ist darauf zu achten, dass das jeweilige Schutzgesetz genau das Rechtsgut zu schützen bezweckt, welches in diesem konkreten Fall beeinträchtigt wurde.[122]

Schliesslich folgt in § 826 BGB die bereits aus § 1295 Abs. 2 ABGB und Art. 41 Abs. 2 OR bekannte Regel zum Verstoss gegen die guten Sitten:

«Wer in einer gegen die guten Sitten verstoßenden Weise einem anderen vorsätzlich Schaden zufügt, ist dem anderen zum Ersatz des Schadens verpflichtet.»

Die zitierten Bestimmungen aus dem österreichischen, schweizerischen und deutschen Recht illustrieren, dass es in erster Linie auf das juristische Konzept und weniger auf die konkrete Formulierung einer Gesetzesbestimmung ankommt. Gewiss ist die deliktische Generalklausel ein ästhetisch überzeugendes Konzept. Gleichzeitig ist aus Sicht der praktischen Rechtsanwendung zu erkennen, dass dieses Konzept seinen Preis hat. Viele Fragen aus der Praxis mussten die Gerichte über die Jahrzehnte in zahlreichen, teilweise schwer überblickbaren Fallgruppen entwickeln.[123] Insbesondere bei neuen Gefahrenquellen, die noch keiner spezialgesetzlichen Haftpflicht unterworfen waren, zeigten die Gerichte eine Tendenz dazu, die Anforderungen an die von den handelnden Akteuren zu befolgenden Sorgfaltspflichten stetig zu erhöhen. Auf diese Weise konnte die Haftpflicht zwar fall- und bedarfsweise ausgeweitet werden.[124] Der Rechtsicherheit für die Beteiligten war und ist dieses Verfahren jedoch nicht förderlich.

Das Aufkommen der Gefährdungshaftung

Neben den Verschuldenshaftungen stehen als zweite Gruppe die sogenannten Kausalhaftungen (responsabilités objectives).[125] Sie kommen ohne ein individuelles Verschulden aus, sondern knüpfen an die Nähe zu einer besonderen Gefahr an. Der Erfolg in Form eines Schadens, der durch die Verwirklichung des Risikos entsteht, genügt allein zur Begründung des Schadenersatzanspruchs beim Geschädigten, ohne dass es der Feststellung eines Verschuldens bei der verantwortlichen Person bedarf. Deshalb werden die Kausalhaftungen in der deutschen Literatur als Erfolgshaftungen bezeichnet.[126] Mit der Nähe zu einer besonderen Gefahr ist eigentlich bereits alles gesagt, was den Kausalhaftungen gemeinsam ist. Neben dieser Gemeinsamkeit zeichnen sie sich gerade durch eine ausgeprägte Heterogenität aus. Während es bei der Verschuldenshaftung um den Ausgleich von Unrecht geht, dienen die Kausalhaftungen dem Ausgleich von Unglück: «Unrecht verpflichtet – Unglück trifft den Betroffenen».[127] Kausalhaftungen sollten diesen traditionellen, gemeinrechtlichen Grundsatz in den Situationen abmildern, in denen seine Durchsetzung als ungerecht erschiene.

In den nachfolgenden Abschnitten wird die Verschuldenshaftung als Grundregel und die Gefährdungshaftungen als Ausnahme dargestellt. Diese Aufteilung mit dem Vorrang der Verschuldenshaftung («Keine Haftung ohne Schuld!») ist nicht etwa logisch zwingend, wie es die Vernunftrechtler in ihren Lehrbüchern gerne darstellten, sondern wie gezeigt der Historie geschuldet. A priori wäre eine alternative Lösung denkbar gewesen, bei der die Haftung primär als Erfolgshaftung an sozial abgelehnte Verhaltensweisen statt an individuelles Verschulden geknüpft worden wäre.[128]

Stattdessen versuchte die Rechtsanwendung lange, eine einfache Risikovorsorge über die Verschuldenshaftung zu lösen, indem sie mittels Verkehrssicherungspflichten immer höhere Anforderungen an die gebotene Sorgfalt jener stellte, die ihren Geschäften mit Hilfe gefährlicher Techniken oder Naturkräften nachgingen. Als Norm des ungeschriebenen Rechts verlangt noch heute der Gefahrensatz, dass derjenige, der einen Zustand schafft, welcher einen anderen schädigen könnte, die zur Vermeidung eines Schadens erforderlichen Vorsichtsmassnahmen treffen muss.[129] Eine griffige Haftungsregelung lässt sich aus diesem allgemeinen Rechtsprinzip noch nicht ableiten. Nach Brehm begründet der Gefahrensatz nur die Möglichkeit, auf Beseitigung einer Gefahr zu klagen.[130] Eine Schadenersatzpflicht nach Art. 41 OR besteht natürlich erst, wenn tatsächlich ein nachweisbarer, ersatzfähiger Schaden vorliegt. Die Widerrechtlichkeit muss sich sodann durch die Verletzung eines absoluten Rechts begründen lassen. Der allgemeine Gefahrensatz wurde in der Literatur zwar teilweise als Schutznorm betrachtet, welche absolute Rechte schützt.[131] Die neuere Rechtsprechung des Bundesgerichts wandte sich jedoch ausdrücklich gegen diese Sichtweise.[132] Der Gefahrensatz sei als Massstab für die Rechtmässigkeit oder Widerrechtlichkeit unnötig;[133] immerhin könne er für die Frage des Verschuldens entscheidend sein.[134] Für die Frage der Widerrechtlichkeit sei einzig die Schaffung der Gefahr selbst entscheidend; diese Schaffung der Gefahr bilde aber erst dann eine schadenersatzpflichtige unerlaubte Handlung, wenn sich die Gefahr verwirklicht hat und dadurch ein Rechtsgut des Geschädigten verletzt worden ist (Widerrechtlichkeit). Zusätzlich muss die Schaffung der Gefahr unter Nichtbeachtung der nötigen Vorsicht erfolgt sein (Verschulden). Noch unbelastet von diesen neueren Ansichten kam die Rechtsanwendung in der vorindustriellen Zeit mit der Verschuldenshaftung wohl noch gut zurecht. Es ist anzunehmen, dass die einfachen Verhältnisse der Beantwortung der Schuldfrage meist keine grösseren Hindernisse in den Weg stellten.[135] Dies änderte sich mit der Industrialisierung («Industrie 1.0») jedoch massgeblich. Mit dem Aufkommen neuer Fabrikationstechniken (Maschinen) und neuer Verkehrsmittel (Eisenbahn) wurde das Schadenspotential des Zufallsschadens bei Arbeits- und Verkehrsunfällen immer grösser.[136] Es erschien den Menschen zunehmend ungerecht, dass die Folgen von Unglücksfällen einseitig von den Geschädigten (meist Arbeitern) getragen werden mussten. Denn den Geschädigten gelang es meist nicht, im Haftpflichtprozess den Nachweis des Verschuldens des Unternehmers zu leisten. Unter dem Regime der Verschuldenshaftung konnte die Rechtsprechung ihre Lage kaum bessern. Dies änderte sich erst, als der deutsche Gesetzgeber mit dem Reichshaftpflichtgesetz von 1871 im Arbeitsschutz neue Wege beschritt. Angesichts des technischen Fortschritts und der mit ihm verbundenen neuen sozialen Verhältnisse war es notwendig geworden, eine Haftungsordnung zu schaffen, die sich vom individuellen Verschulden entfernte und stattdessen den Gedanken des Risikoausgleichs betonte.[137]

Ein erstes Beispiel für eine Gefährdungshaftung des neuen Typs, die als Folge der technologischen Entwicklung erlassen wurde, findet sich bereits etwas früher in Gestalt des § 25 des preussischen Eisenbahngesetzes vom 3. November 1838:

«Die Gesellschaft ist zum Ersatz verpflichtet für allen Schaden, welcher bei der Beförderung auf der Bahn, an den auf derselben beförderten Personen und Gütern, oder auch an anderen Personen und deren Sachen entsteht, und sie kann sich von dieser Verpflichtung nur durch den Beweis befreien, dass der Schaden entweder durch die eigene Schuld des Beschädigten, oder durch einen unabwendbaren äusseren Zufall bewirkt worden ist. Die gefährliche Natur der Unternehmung selbst ist als ein solcher, von dem Schadenersatz befreiender Zufall nicht zu betrachten.»[138]

Dass die Haftung nach § 25 EisenbahnG von den sonst üblichen Regeln abwich, war schon den Zeitgenossen vollkommen klar. Die besondere Lösung des § 25 fand ihre Rechtfertigung darin, dass die Eisenbahngesellschaften durch sie ein eigenes Interesse bekamen, für die Sicherheit des Verkehrs zu sorgen.[139] Dieses Prinzip der Verhaltenssteuerung durch wirtschaftliche Anreize sollte sich durchsetzen. Es gehört noch heute zum Instrumentarium der Wirtschaftsregulierung. Später sollte als zusätzliches Instrument noch die Pflichtversicherung hinzukommen.[140] So ist z.B. den Trägern des nuklearen Risikos, in deren Zulassung zumindest in der Nachkriegszeit ein allgemeines Interesse bestand, die Tendenz zu Grossschäden derart inhärent, dass sich rechtspolitisch nicht nur die Einführung einer als reine Gefährdungshaftung ausgestalteten scharfen Kausalhaftung rechtfertigte. Angesichts des überaus grossen Schadenpotentials bei Nuklearunfällen erschien im Schutzinteresse der Geschädigten auch der Eintritt des Staates als Zweit-Haftpflichtiger geboten.[141]

Esser merkt an, dass es Fachspezialisten in Regierungsbehörden waren, die die neuartige Haftungsbestimmung des § 25 EisenbahnG entwickelten, während sie von der pandektistischen Lehre komplett ignoriert wurde.[142] So seien es Volkswirtschaftler gewesen, nicht Juristen, die die neuen Ansätze der Schadensverteilung vorangetrieben hätten. Dies habe die Meinung befördert, dass ihre Umsetzung in Spezialgesetzen «‹juristischen› Massstäben» nicht zugänglich sei. Mit «‹juristischen› Massstäben» sind natürlich die bewährten Methoden des Zivilrechts gemeint, nach denen sich die Verschuldenshaftung richtet. Diese rechtsmethodische Frage bleibt für die heutige Zeit mit ihren vielfältigen technischen Regulierungsbereichen, insbesondere der Produktsicherheit, aber auch neueren Gebieten wie dem Energie- und Klimarecht von Aktualität.

Eine Generalklausel für die Gefährdungshaftung?

Das geltende schweizerische Haftpflichtrecht ist über zahlreiche Gesetze verstreut, was zu einer gewissen Unübersichtlichkeit der Materie führt.[143] Dies war eine wichtige Motivation für das Projekt einer Vereinheitlichung des schweizerischen Haftpflichtrechts, welches das EJPD 1988 durch die Einsetzung einer Studienkommission auf den Weg brachte.[144] Trotz umfangreicher Vorarbeiten wurde das Projekt zu Beginn des neuen Jahrtausends abgebrochen bzw. auf Eis gelegt.[145]

Der im Rahmen des Projekts 1998 veröffentlichte Vorentwurf zu einem Bundesgesetz über die Revision und Vereinheitlichung des Haftpflichtrechts[146] enthielt u.a. einen neuen Art. 50 mit einer Generalklausel der Gefährdungshaftung:[147]

«Wird Schaden dadurch verursacht, dass sich das charakteristische Risiko einer besonders gefährlichen Tätigkeit verwirklicht, so haftet dafür die Person, die diese betreibt, selbst wenn es sich um eine von der Rechtsordnung geduldete Tätigkeit handelt.» (Abs. 1)

«Eine Tätigkeit gilt als besonders gefährlich, wenn sie ihrem Wesen nach oder nach der Art der dabei verwendeten Stoffe, Geräte oder Kräfte geeignet ist, auch bei Anwendung aller von einer fachkundigen Person zu erwartenden Sorgfalt häufige oder schwerwiegende Schäden herbeizuführen; dies ist insbesondere dann anzunehmen, wenn für ein vergleichbares Risiko bereits ein Gesetz eine spezielle Haftung begründet.» (Abs. 2)

Der Begriff der Person, die eine besonders gefährliche Tätigkeit betreibt, dürfte sich mit dem Begriff des Halters im Strassenverkehrsgesetz decken. Es handelt sich um die Person, die «die Tätigkeit sowohl in organisatorischer als auch in wirtschaftlicher Hinsicht kontrolliert».[148] Der Begriff der besonders gefährlichen Tätigkeit sollte sowohl ein objektives als auch ein subjektives Element enthalten: Auf der objektiven Seite hätte es sich um eine Tätigkeit handeln sollen, die geeignet sein musste, häufige oder schwerwiegende Schäden herbeizuführen (z.B. eine Kernanlage oder eine Rohrleitung). Auf der subjektiven Seite hätte die Gefahr trotz des sorgfältigen Verhaltens des fachkundigen Betreibers unvermeidbar sein müssen.[149]

Widmer, Mitglied der Studienkommission und Mitredaktor des Vorentwurfs, sah in der vorgeschlagenen Revision des Haftpflichtrechts ein Mittel, den zahlreichen «Menschen, die sich mit Schadens- und Schadenersatzrecht herumzuschlagen haben, einen gehörigen Aufwand, sich im üppig wuchernden Dschungel von Theorie und Praxis zurechtzufinden», zu ersparen.[150] Die Generalklausel für die Gefährdungshaftung(en) hätte hierzu ihren Beitrag leisten sollen. Sie hätte es den Richtern erlaubt, das Prinzip der Gefährdungshaftung «auch auf andere als die gesetzlich (bereits) normierten Sachverhalte anzuwenden, wenn die Voraussetzungen einer vernünftigen Analogie gegeben» gewesen wären.[151] Fellmann lehnte die Einführung einer solchen Generalklausel mit Hinweis auf die Verhaltensökonomie ab: «Rückschau- und Ergebnisfehler würden in solchen Fällen regelmässig zur Bejahung der Haftungsvoraussetzungen der Gefährdungshaftung führen, weil sich das Gericht aus der Rückschau mühelos überzeugen lassen würde, der Schaden sei dadurch verursacht worden, dass sich das charakteristische Risiko einer besonders gefährlichen Tätigkeit verwirklicht habe».[152] Überzeugender und dabei leichter nachzuvollziehen[153] ist Fellmanns Bemerkung, dass die «zweifelhafte Qualität einzelner spezialgesetzlicher Haftungstatbestände» kein Grund sei, «die fraglichen Risiken in einem Tatbestand zusammenzufassen und die Verantwortung vom Gesetzgeber an das Gericht zu delegieren».[154] Schon 1941 fand Esser, dass die Schaffung einer Generalklausel für die Gefährdungshaftung nur wenig helfe, solange man an dem charakteristischen Erfordernis der Nähe zu einer besonderen Gefahr festhalte. Dieser Begriff sei «durchaus unbestimmt und nur in fortgesetzter, dem Zeitempfinden folgender Kasuistik festzulegen».[155] Dieser Meinung ist nach wie vor zuzustimmen. Für eine Generalklausel für die Gefährdungshaftung(en) spricht eigentlich nur der alte vernunftrechtliche Geist. Entwicklungsgeschichtlich passte sie keineswegs in die pandektistische Tradition des 19. Jh. So wäre mit ihr wenig gewonnen. Vielmehr lohnt es sich, an der Formulierung der spezialgesetzlichen Tatbestände nach den Grundsätzen eines neu gefassten Technikrechts zu feilen und deren Anwendung in der Praxis zu optimieren.

Die Grundregel: Verschuldenshaftung

Übersicht (und Ausblick)

Das Verschulden setzt sich aus zwei Komponenten zusammen, einer objektiven und einer subjektiven. Die subjektive Komponente betrifft die individuelle Schuldfähigkeit der schädigenden Person, d.h. ihre Urteilsfähigkeit.[156] Die Urteilsfähigkeit wird nach den zivilrechtlichen Grundsätzen geprüft: Urteilsfähig im Sinne dieses Gesetzes ist jede Person, der nicht wegen ihres Kindesalters, infolge geistiger Behinderung, psychischer Störung, Rausch oder ähnlicher Zustände die Fähigkeit mangelt, vernunftgemäss zu handeln (Art. 16 ZGB).[157] Eine urteilsunfähige Person ist aus Sicht des Haftpflichtrechts deliktsunfähig, ein wesentlicher Grundsatz, der nur durch die Billigkeitshaftung nach Art. 54 OR eingeschränkt wird.[158] Diese Bestimmungen setzen als Person zwingend einen Menschen voraus.[159] Daraus folgt unmittelbar, dass irgendwelche KI-Systeme, die z.B. in der Form eines Roboters einen Schaden verursachen, nicht selbst haftbar gemacht werden können.[160] Gleiches gilt bekanntlich für Tiere[161], sodass für Schäden, die von Tieren verursacht werden, u.U. ihr Besitzer aufgrund der als einfache Kausalhaftung ausgestalteten Tierhalterhaftung einstehen muss (Art. 56 OR[162]). Dieser Argumentationsstrang ist für die vorliegende Untersuchung zentral. Erstens: Sollen KI-Systeme selbst haften, muss erst der Gesetzgeber aktiv (und dabei keineswegs «minimalinvasiv»[163]) eingreifen. Über eine analoge Anwendung bestehender Bestimmungen ist dies nicht zu schaffen.[164] Zu den Vorarbeiten, die für ein solches Projekt durchgeführt werden müssten, gehört die Beantwortung der Frage, wie ein KI-System «vernunftgemäss handeln» könnte. Einblicke in diese Thematik aus Sicht der Philosophie und der Soziologie sind in Kapitel IV zusammengestellt. Zwar geht die Arbeitshypothese dieser Arbeit davon aus, dass ein solcher gesetzgeberischer Eingriff auf absehbare Zeit nicht notwendig sein wird. Diese Einsichten sind jedoch bereits für ein breiteres Verständnis der Anforderungen an bestehende Haftungsbestimmungen im Zusammenhang mit KI-Systemen nützlich. Zweitens: Sollten die bestehenden Regelungen bestimmte durch neue Technologien verursachte Schadenfälle nicht adäquat abdecken können, spricht die Entwicklungsgeschichte des Haftpflichtrechts[165] dafür, zum Instrument der Kausalhaftung zu greifen. Es könnte beispielsweise genügen, eine der Tierhalterhaftung nachgebildete «Roboterhaftung» als weiteren Sondertatbestand einzuführen.[166] In Kapitel VI wird untersucht, wie gut das bestehende Haftpflichtrecht mit Schadenfällen umgehen kann, die von selbstfahrenden Fahrzeugen, Pflegerobotern oder Chatbots verursacht werden.

Die h.L. umschreibt die objektive Komponente als vorsätzliches (oder hier gleichbedeutend: absichtliches) oder fahrlässiges Verhalten auf Seiten der schädigenden Person, wobei dieses individuelle Verhalten in Bezug gesetzt wird zu einem in der fraglichen Situation allgemein vernünftigerweise zu erwartenden Durchschnittsverhalten.[167] Eine subjektive Entschuldbarkeit des schädigenden Handelns (z. B. wegen Müdigkeit, Ablenkung infolge familiärer Probleme oder auch infolge fehlenden Wissens oder Erfahrung) erscheint dabei als unerheblich.[168] Dieses erwartete Durchschnittsverhalten findet sich in verschiedenen Normensätzen niedergelegt: i) in Gesetzen und Verordnungen enthaltene Berufs- und Verkehrssicherheitspflichten, ii) anerkannte analoge Bestimmungen privater Organisationen, iii) einschlägige allgemeine Rechtsgrundsätze wie den Gefahrensatz[169].[170] Der nächste Unterabschnitt a) ist dem Themenkreis der Verletzung von einschlägigen Sorgfaltspflichten, insbesondere in Form von Berufspflichten, gewidmet. Die folgenden Unterabschnitte c) und d) illustrieren die gerichtliche Handhabung der Berufspflichten für Ärzte und Anlageberater. Die aus der Arzthaftung bekannten Begriffe der «Regeln der Kunst» und des «Kunstfehlers» dienen als Vorbilder für Sorgfaltspflichten in anderen Berufsfeldern, die sich wie die medizinischen Berufe als artes über die Anwendung eines etablierten Fachwissens auszeichnen. Wenn wir uns dieses Themenkreises annehmen, mögen wir uns fragen, ob sich dereinst Programmierer, Entwickler und andere beruflich mit KI befasste Personen ebenfalls an einen professionellen Standard halten werden müssen. Dies wäre wohl eine der Voraussetzungen, unter denen die Verschuldenshaftung im Zusammenhang mit von der KI verursachten Schäden herangezogen werden könnte. Je mehr Schwierigkeiten sich dabei dem Rechtsanwender im Haftpflichtrecht entgegenstellen, desto grösser erscheint der Bedarf der Gesellschaft nach einer Kausal- oder Gefährdungshaftung für KI.

Zentrale Bedeutung von Sorgfaltspflichten

Sorgfaltspflichten spielen im Haftpflichtrecht an zwei Stellen eine entscheidende Rolle: einerseits bei der Bestimmung der Widerrechtlichkeit einer schädigenden Handlung und andererseits bei der Prüfung des Verschuldens der schädigenden Person.[171]

Die Widerrechtlichkeit kann sich gemäss der herrschenden objektiven Widerrechtlichkeitslehre u.a. aus dem Verstoss gegen eine Norm ergeben, die aufgrund ihres Schutzzwecks ein bestimmtes Verhalten gebietet oder verbietet, ohne dass dabei ein absolut geschütztes Recht der geschädigten Person verletzt wird (Schutzzwecklehre).[172] Welchen Sorgfaltspflichten die Funktion einer Schutznorm zukommt, muss nach Fallgruppen entschieden werden; im Vordergrund stehen Sorgfaltspflichten aus polizeirechtlichen Erlassen wie z.B. des Strassenverkehrsrechts oder der Geldwäschereigesetzgebung.[173] Bei der in der Lehre als alternative Theorie vorgeschlagenen sogenannten «dritten Widerrechtlichkeitstheorie»[174] begründet sich die Widerrechtlichkeit immer durch eine Verletzung von Verkehrs‑, Verhaltens- oder Schutzpflichten, unabhängig davon, ob ein absolutes Rechtsgut verletzt worden ist oder nicht.[175] Fallgruppen für solche Verletzungen sind etwa das Erteilen falscher Auskünfte[176] oder das Inverkehrbringen fehlerhafter Produkte.[177] Diese beiden Fallgruppen kommen u.a. in Kapitel VI zur Sprache, wo eingehend Beispiele besprochen werden, bei denen die KI als Unfallursache in Frage kommt.[178] Die Widerrechtlichkeit gehört zu den allgemeinen Haftungsvoraussetzungen.[179] Sie muss somit nicht nur bei der Verschuldenshaftung, sondern auch bei der Kausalhaftung geprüft werden.

Die Haftung aufgrund eines absichtlich schädigenden Verhaltens soll bei dieser Untersuchung keine Rolle spielen, sodass im Folgenden nur das Verschulden infolge Fahrlässigkeit betrachtet wird. Nach dem in Unterabschnitt a) Gesagten macht sich der Schädiger bei der ausservertraglichen Haftung aufgrund eines fahrlässigen Verhaltens erst durch eine Verletzung der nach den Umständen gebotenen Sorgfalt haftbar.[180] Dabei wird dem Schädiger ein Mangel an Sorgfalt vorgeworfen, der – dies ist entscheidend – jeweils objektiv zu messen ist. Die von Lehre und Rechtsprechung geforderte Objektivierung des Fahrlässigkeitsbegriffs verlangt m.a.W., dass das konkrete Verhalten des Schädigers nach allgemeingültigen Massstäben gewürdigt wird.[181]

Im professionellen Umfeld spielt bei der Bestimmung dieses allgemeingültigen Massstabs für die gebotene Sorgfalt der Begriff lege artis (zu Deutsch: nach den Regeln der Kunst)[182] eine besondere Rolle.[183] Mit einem professionellen Umfeld seien hier berufliche oder geschäftliche Tätigkeiten angesprochen, bei denen eine «Kunst» oder – neutraler formuliert – gewisse technische Fertigkeiten voraus- und eingesetzt werden. In einem solchen Umfeld kann eine Verletzung der gebotenen Sorgfalt gewissermassen als das Begehen eines «Kunstfehlers» beschrieben werden. Umgangssprachlich verweist die Bezeichnung als Kunstfehler in erster Linie auf die medizinischen Berufe.[184] Ferner hat der Begriff seinen Sinn beispielsweise bei Rechtsanwälten, Anlageberatern oder gewissen Ingenieurberufen, deren Arbeit speziellen technischen Normen unterliegt. Fraglich ist wie, schon im Unterabschnitt a) angeschnitten, ob zukünftig Programmierer und Entwickler von KI-Systemen ebenfalls «Kunstfehler» begehen können (sollen).

Bei Begriffen wie lege artis oder Stand von Wissenschaft und Technik handelt es sich um unbestimmte Rechtsbegriffe. Unbestimmte Rechtsbegriffe kommen grundsätzlich immer dann zur Anwendung, wenn es nicht praktikabel scheint oder gar unmöglich ist, einen Lebenssachverhalt vollumfänglich durch eine gesetzliche Vorschrift zu regeln.[185] Unbestimmte Rechtsbegriffe sind im Rahmen der Rechtsanwendung durch Auslegung zu konkretisieren, während Wertbegriffe und Erkenntnislücken methodisch über das richterliche Ermessen gemäss Art. 4 ZGB zu füllen sind.[186] Im hier interessierenden Zusammenhang mit Algorithmen und KI ist die Rolle der genannten Begriffe als Schnittstellen zwischen den Terminologien des Rechts und der massgeblichen Fachbereiche zu betonen. Der Verweis auf einen irgendwie zu bestimmenden Stand von Wissenschaft und Technik markiert einerseits die grundsätzliche Technikoffenheit des Rechts[187]. Er soll andererseits regelmässig die Anpassungsfähigkeit des Rechts an die zukünftige und nicht selten rasche technologische Entwicklung sicherstellen.[188] Vielleicht genügt ja bereits diese rechtssetzungstechnische Funktion, um dem Begriff des Stands der Wissenschaft gegenüber dem der Regeln der Kunst eine eigenständige Bedeutung zuzuerkennen.

Nach allgemeinen Grundsätzen lösten die Gerichte u.a. Fälle der Haftung des Arztes, des Anwalts oder des Anlageberaters. Der jeweilig geforderte objektive Sorgfaltsmassstab richtete sich dabei lege artis, d.h. nach den jeweiligen beruflichen Standards. Das Gericht kann in diesen nach wie vor weitgehend freiberuflich verfassten Bereichen nicht einfach das Gesetz zu Rate ziehen, um den offenen Rechtsbegriff lege artis angemessen und korrekt anzuwenden. Die einschlägigen beruflichen Standards werden vielmehr im Verlauf der praktischen Berufsausübung selbst entwickelt und im Kollektiv der Berufsleute festgelegt.[189] Was als gesetzeskonformes Verhalten gelten darf, kann sich nach dem Bundesgericht auch aus allgemein anerkannten Verhaltensregeln ergeben, selbst wenn diese von einem privaten oder halböffentlichen Verband erlassen wurden und keine Rechtsnormen darstellen.[190] Häufig wird es eine sachverständige Person hinzuziehen müssen, um diese Standards situationsbedingt zu konkretisieren. Die Entwicklung einer tragfähigen Rechtsprechung pro Fallgruppe benötigt natürlicherweise viel Zeit – je nach Häufigkeit der Vorkommnisse vom einschlägigen Typ. Bei grösseren Umwälzungen durch neue Technologien oder andere Entwicklungen mag der Gesetzgeber nicht immer so lange warten, sodass er lieber zum Instrument der gesetzlichen Regelung greift. Dies war, wie gezeigt bei der Eisenbahnhaftung der Fall,[191] und das gleiche Muster scheint sich aktuell für KI-Systeme zu wiederholen.[192]

In der Tat wird die Arbeit der Gerichte vereinfacht, wenn die Richter die geforderten Sorgfaltspflichten aus einem Gesetz ablesen können. Eine wichtige Scharnierfunktion zu technischen Normen kommt dabei spezialgesetzlichen Bestimmungen zu, welche auf den aktuellen Stand der Wissenschaft und der Technik (z.B. Art. 5 Abs. 1 Bst. e PrHG) oder auf anerkannte Regeln der Technik (z.B. Art. 3, 13–14 NEV) oder anerkannte wissenschaftliche Verfahren (z.B. § 31(1) Nr. 2 BDSG) Bezug nehmen. Je nach den Umständen können solche Gesetzesbestimmungen bei der Beurteilung des erwarteten Durchschnittsverhaltens in einem Haftungsfall herangezogen werden, um die Widerrechtlichkeit der Schädigung zu beurteilen.[193] Sie rufen jeweils explizit das technische Know-how des einschlägigen Umfelds auf und stellen sicher, dass ein schädigendes Verhalten nicht einfach anhand der allgemeinen deliktsrechtlichen Prinzipien beurteilt werden muss. Die gesetzlich normierten Sorgfaltspflichten finden sich tatsächlich häufig in Gesetzen, die der Unfallverhütung und der Sicherheit, namentlich der Produktsicherheit, dienen. Wo besondere, der Unfallverhütung und der Sicherheit dienende Normen ein bestimmtes Verhalten gebieten, richtet sich das Mass der im Einzelfall zu beachtenden Sorgfalt in erster Linie nach diesen Vorschriften.[194] Erste Beispiele dazu werden in Unterabschnitt d) besprochen.

Sorgfaltspflicht des Arztes: Kunstfehler vermeiden

Die umgangssprachliche Bezeichnung von Verletzungen der Regeln der Kunst als «Kunstfehler» ist eng mit den medizinischen Berufen verknüpft: «Kunstfehler» sind als Behandlungsfehler Verletzungen der Regeln der ärztlichen Kunst.[195] Wie vielfach gezeigt wurde, entwickelte sich das Konzept der ars als eigene Disziplin oder als Wissensbestand eines bestimmten Tätigkeitsfeldes historisch gerade am Gegenstand der Medizin.[196] Wenn Cicero im 1. Jh. v. Chr. für die Juristen die Entwicklung einer eigenen ars fordern konnte, mochte er die zeitgenössischen medici im Kopf gehabt haben. Wenn dazu noch nicht das letzte Wort gesprochen sein wird,[197] kann die Rechtsprechung zur Arzthaftung doch als Vorbild für die gerichtliche Konkretisierung von Sorgfaltspflichten in anderen spezifischen Tätigkeitsbereichen dienen, solange diese der Medizin vergleichbar auf eine wissenschaftliche oder technische Basis gegründet sind.[198]

In der Praxis ist die Haftung des (Privat‑)Arztes in erster Linie vertraglich unter dem Behandlungsvertrag begründet. Meist kann sich der Patient jedoch gleichzeitig auf die ausservertragliche Haftung berufen.[199] Nach den allgemeinen Grundsätzen haftet der Arzt grundsätzlich sowohl vertraglich wie ausservertraglich für jedes Verschulden.[200] Doch hat die Rechtsprechung dieses Prinzip soweit gemildert, dass der Arzt eben nur für eigentliche Kunstfehler haftet. Das Bundesgericht begründete dies damit, dass dadurch die «Unvollkommenheit der Wissenschaft» und die «menschliche Fehlbarkeit» berücksichtigt werde.[201]

Die Kernpunkte der Arzthaftung nach Schweizer Recht finden sich in der Entscheidung BGE 133 III 121 des Schweizer Bundesgerichts schön und einprägsam zusammengefasst.[202] Zwar liegt der Schwerpunkt der Argumentation auf der vertraglichen Haftung. Das zur Sorgfaltspflicht Gesagte kann jedoch für das Haftpflichtrecht übernommen werden. Zunächst stellt das Bundesgericht fest, dass der Arzt als Beauftragter für die ordnungsgemässe und getreue Ausführung des Auftrags verantwortlich zeichnet. Die Aufgabe des Arztes bestehe darin, mit seinen Kenntnissen und Fähigkeiten das gewünschte Ergebnis zu erzielen, er müsse dabei jedoch nicht garantieren, dieses Ziel auch zu erreichen. Das Ergebnis als solches gehöre nicht zu seinen Pflichten.[203] Dies folgt ziemlich direkt aus der Qualifikation des Arztvertrags als Auftrag gemäss Art. 394 ff. OR.[204] Ein Auftrag enthält nur die Verpflichtung, in einem bestimmten Sinne tätig zu werden, nicht aber ein bestimmtes Ergebnis zu erreichen.[205] Weiter bestimme sich der Umfang der Sorgfaltspflicht des Arztes nach objektiven Kriterien. Dies wiederum entspricht den allgemeinen, eingangs skizzierten Grundsätzen zur Bestimmung der Sorgfaltspflicht bei der Verschuldenshaftung. Die Verletzung dieser Sorgfaltspflicht stellt nach dem Bundesgericht rechtlich gesehen eine Nichterfüllung oder eine nicht ordnungsgemässe Erfüllung der Pflicht als Erfüllungsgehilfe dar und entspricht somit auf vertraglicher Ebene dem für die deliktische Haftung spezifischen Begriff des Fehlverhaltens. Terminologisch erwähnenswert ist dabei der Hinweis des Bundesgerichts, dass die Verletzung der Sorgfaltspflicht «gemeinhin, aber fälschlicherweise» als berufliches Fehlverhalten (im französischen Originaltext: faute professionelle, was dem deutschen Kunstfehler nahekommt) bezeichnet werde.[206] Das Bundesgericht äusserte sich leider nicht weiter dazu, weshalb diese Bezeichnung falsch sein sollte. Möglicherweise sah das Bundesgericht «Fehlverhalten» als zu allgemein und zu breit an. Nicht- und Schlechterfüllung sind andererseits typische Rechtsbegriffe, die ausserhalb der Juristengemeinschaft kaum jemand verwendet. Werde sodann ein Verstoss gegen die Regeln der (ärztlichen) Kunst festgestellt, so trage der Arzt die Beweislast dafür, dass ihn kein Verschulden trifft (Art. 97 Abs. 1 OR). Soweit folgt diese rechtliche Konsequenz den allgemeinen Regeln, denen nicht nur die Ärzte oder die im Urteil ebenfalls beispielhaft genannten Anwälte, sondern alle Beauftragten unterstehen.

Richtig interessant für die Belange der vorliegenden Untersuchung wird es, wenn wie bei den Ärzten von einer eigentlichen «Kunst» bzw. von einem gesetzten Wissensbestand gesprochen werden kann. Denn nur, wenn ein solcher Wissensbestand (heute spricht man häufig von body of knowledge) existiert, er mag mehr wissenschaftlicher oder mehr technischer Natur sein, wird man im eigentlichen Sinn von lege artis sprechen können.[207] Die allgemeinen Erwartungen der Rechtsgemeinschaft oder die allgemeinen gesellschaftlichen Normen dürften[208] – jedenfalls in der heutigen Zeit – in den meisten Fällen zu unbestimmt sein, um ein deliktsrechtlich relevantes Fehlverhalten zu begründen (hier mochte die terminologische Kritik des Bundesgerichts ansetzen). Die Regeln der ärztlichen Kunst (im franz. Originaltext ganz wörtlich als les règles de l’art médical bezeichnet) setzen sich dem Bundesgericht zufolge zusammen aus Grundsätzen, die von der medizinischen Wissenschaft aufgestellt wurden und in dem Sinn allgemein anerkannt und akzeptiert sind, dass sie von den medizinischen Praktikern gemeinhin befolgt und angewendet werden.[209] Diese Beschreibung bleibt zwar sprachlich sehr abstrakt, ja, sie erinnert beinah an eine Einschränkung der allgemeinen Erwartungen an ein sorgfältiges Vorgehen auf die Medizin. Durch diese Einschränkung und das Erfordernis, dass es sich um anerkannte und praktisch relevante Regeln handeln muss, wird sich aber in wohl jedem konkreten Fall bestimmen lassen, welches Verhalten als «normhaft» oder «normal» gelten darf oder muss.

Gelegentlich kann bei der Bestimmung der geforderten Sorgfalt helfen, dass es sich bei der Medizin um eine Naturwissenschaft handelt, sodass im Zusammenhang mit einer allfälligen Pflichtwidrigkeit die Frage der hypothetischen Kausalität statistisch modelliert werden kann. In einem Entscheid zur Arzthaftung aus dem Jahr 2022 ging es um ein Kind, bei welchem die Ärzte nach der Geburt eine cystische Fibrose (CF, Mukoviszidose) diagnostizierten. Die Mutter warf der Ärztin, die sie während der Schwangerschaft behandelte, vor, sie hinsichtlich des Risikos, dass das Kind mit CF zur Welt kommen würde, falsch beraten zu haben (die Mutter hatte einige Jahre zuvor bereits ein erstes Kind mit CF zur Welt gebracht). Die Vorinstanz verwarf es, eine Pflichtwidrigkeit darin zu sehen, dass die Ärztin eine genauere Untersuchung auf CF unterliess:

«Im Sinne einer Zusatzbegründung prüfte das Obergericht auch die Frage der hypothetischen Kausalität einer allfälligen Pflichtwidrigkeit für den geltend gemachten Schaden. Es bemängelte, der hypothetische Kausalverlauf werde nicht im Einzelnen dargelegt. Gemäss KB 16b wäre nach Feststellung der mütterlichen Mutation beim Fötus als Nächstes ein Total-Screening beim (vermeintlichen) Vater durchgeführt worden. Angesichts des Umstandes, dass bloss 4–5 % der Bevölkerung Träger einer CF-Mutation seien, hätte dieses Screening mit grosser Wahrscheinlichkeit ein negatives Ergebnis gebracht, weitere Abklärungen wären unterblieben, eine Abtreibung wäre nicht erfolgt und das Kind wäre wie in Wirklichkeit mit CF zur Welt gekommen. Möglich wäre zwar gewesen, dass im Zusammenhang mit der Untersuchung die Nichtvaterschaft des Untersuchten festgestellt worden wäre (vgl. Aussage E.________), die Klägerin dann den Vater ihres Sohnes als möglichen Vater bezeichnet hätte und entsprechende Untersuchungen schliesslich zur Feststellung von CF beim Fötus geführt hätten. Ein solcher hypothetischer Kausalverlauf werde aber von der Klägerin nicht behauptet. Eine diesbezügliche Prüfung der Kausalität und der zeitlichen Verhältnisse erübrige sich deshalb.»[210]

Auf der Ebene des Verfahrensrechts gilt, dass die Frage, ob bestimmte, einschlägige Normen oder Regeln der Kunst bestehen, die Feststellung der Tatsachen betrifft.[211] Rechtsfrage ist hingegen die Frage nach dem pflichtgemässen Verhalten des Arztes, «denn es wird damit das Verhalten des Arztes gemäss den ihm obliegenden vertraglichen (bzw. allfällig ausservertraglichen) Pflichten geprüft, also sein Verhalten rechtlich geprüft»[212]. Bei der Behandlung dieser Rechtsfrage entwickelte das Bundesgericht den Standard gemäss den Regeln der Kunst und dem gegenwärtigen Stand der Wissenschaft.

Schon 1938 konnte das Bundesgericht schreiben, dass die Sorgfaltspflicht des Arztes in der Rechtsprechung bis dato in der folgenden Weise umschrieben worden sei: «Bei der Stellung der Diagnose hat der Arzt die Pflicht, die Untersuchung sorgfältig, nach den Regeln der Kunst und dem jeweiligen Stande der Wissenschaft vorzunehmen.»[213] Eine unrichtige Diagnose (als Ergebnis der Untersuchung) ziehe aber nicht unter allen Umständen die Haftbarkeit des Arztes nach sich, dem ja selbst bei einer pflichtgemässen Untersuchung eine unrichtige Diagnose unterlaufen könne. In einem Entscheid aus dem Jahr 1931 anerkannte das Bundesgericht, dass die medizinische, wie die menschliche Wissenschaft überhaupt nicht so vollkommen sein könne, dass bei gewissenhafter Untersuchung durch den Fachmann ein Irrtum schlechthin ausgeschlossen werden könnte.[214] Dies gelte gerade in solchen Fällen, bei denen das Stellen der Diagnose naturgemäss besonders schwierig sei. Der Patient könne sich im «freien Dienstverhältnis»[215] zwischen Arzt und Patient nicht auf die Richtigkeit der Diagnose verlassen. Vielmehr müsse er angesichts der Unvollkommenheit des menschlichen Wissens und der menschlichen Erfahrung – insbesondere auch der ärztlichen Kunst – mit Fehlern bei der Diagnose rechnen. Hingegen mache sich der Arzt dann aufgrund der allgemeinen schuldrechtlichen Regeln für erlittenen Schaden haftbar, wenn er die Untersuchung nicht nach den jeweiligen Regeln der Kunst[216] und dem gegenwärtigen Stand der Wissenschaft führt und die angezeigte Behandlung nicht einleitet bzw. fortführt.[217] Ein Verschulden des Arztes besteht etwa darin, dass er die Diagnose vollendet, bevor er alle gebotenen Untersuchungsmethoden angewandt hat.[218] Vollkommenheit kann bei menschlichen Tätigkeiten also nicht verlangt werden: «Was man dagegen vom Arzte verlangen kann und muss, ist eben diese gewissenhafte, aufmerksame Untersuchung, unter Anwendung aller Regeln der Kunst und des gegenwärtigen Standes der Wissenschaft, und die Anordnung einer Behandlung, welche der so gefundenen Diagnose entspricht».[219] Erst wenn die falsche Diagnose darauf zurückzuführen sei, dass der Arzt nicht alle gebotenen Untersuchungsmethoden angewendet hat, gereiche ihm dies zum Verschulden.[220] Fehler können auch bei der Umsetzung neuer Behandlungsmethoden auftreten. Nachlässige Behandlung oder die Anstellung gewagter Versuche können den Arzt haftbar machen.[221] Davon ausgenommen sind Fehlgriffe, «die bei einem so vielgestaltigen und verschiedenartigen Auffassungen Raum bietenden Berufe in gewissem Umfang unvermeidbar sind»[222]. Diese Einschränkung zielt insbesondere auf den wissenschaftlichen Fortschritt und die Entwicklung neuer technischer Verfahren ab. In einem Entscheid aus dem Jahr 1927 ging es um die Haftung einer Ärztin für eine Verbrennung, die ihr Patient bei einer Untersuchung mit Röntgenstrahlen erlitt. Die behandelnde Ärztin unterliess es offenbar, zum Schutz des Patienten einen zusätzlichen «Zinkfilter» in das Gerät einzulegen, der den Patienten vor der Strahlung hätte schützen sollen. Die Untersuchung mittels Röntgenstrahlen[223] war damals noch relativ neu. Aus diesem Umstand folgerte das Bundesgericht, dass bei einem sich noch «im Gestalten», also sich noch in Entwicklung befindlichen Verfahren, zu dessen Anwendung es noch wenig gesicherte Grundsätze gibt, besondere Sorgfalt anzuwenden sei.[224]

Aus dieser Umschau der bundesgerichtlichen Rechtsprechung zur Arzthaftung wird deutlich, dass Fehler auf zwei verschiedenen Ebenen auftreten können: Einerseits kann der Arzt eine Untersuchung unsorgfältig durchführen. Andererseits kann er aus den im Rahmen der Untersuchung festgestellten Ergebnissen die falschen Schlüsse ziehen und in der Folge eine falsche Diagnose stellen. Zur Beurteilung des ärztlichen Verhaltens auf beiden Ebenen wird das Gericht prüfen, ob der behandelnde Arzt «nach den allgemein anerkannten und zum Gemeingut gewordenen Grundsätzen der medizinischen Wissenschaft» verfahren ist.[225]

Dass sich die anwendbaren Regeln und Grundsätze über die Zeit entwickeln und ändern können, wurde in verschiedenen Bundesgerichtsentscheiden anerkannt. Grundsätzlich wird man an das Fachwissen des Arztes hohe Anforderungen stellen dürfen. Nach dem bereits zitierten Entscheid aus dem Jahr 1938 könne sich ein Arzt zu seiner Entlastung «insbesondere nicht darauf berufen, dass eine bestimmte wissenschaftliche Erkenntnis in seiner Studienzeit noch nicht bekannt und daher nicht gelehrt worden sei». Er habe «vielmehr die Pflicht, sich fortzubilden und sich über die Fortschritte der Wissenschaft zu orientieren, soweit dies anhand von bekannten Fachzeitschriften und neuen Lehrbüchern möglich ist»[226]. Praxisbezogen ist sodann die Unterscheidung des Bundesgerichts, wonach an den praktischen Arzt, «insbesondere an den stark beschäftigten Landarzt […], hinsichtlich der Weiterbildung nicht die gleichen Anforderungen gestellt werden dürfen, wie an den Spezialisten, von dem zu erwarten ist, dass er sein mehr oder weniger eng begrenztes Gebiet überblicke»[227].

Zwei Ebenen scheinen auch bei den rechtlichen Begriffen aufzutreten: Das Mass der Sorgfalt richtet sich nach i) den Regeln der Kunst und ii) dem jeweiligen Stand der Wissenschaft. Auf das Verhältnis oder den möglichen Gegensatz zwischen Kunst und Wissenschaft wurde zu Beginn eingegangen. Aus den zitierten Entscheiden ergibt sich das Verständnis, dass die Kunst eher die praktische, die Wissenschaft eher die theoretische Seite der anwendbaren Regeln und Grundsätze bezeichnen. Jedenfalls deutet die Begrifflichkeit an, dass es sich um ein Fluidum handelt. Eine besondere Bedeutung scheint dieser Unterscheidung jedoch nicht zuzukommen.

Als Grundsatz wurde zuvor herausgearbeitet, dass der Arzt zunächst nach den jeweiligen Regeln der Kunst[228] und dem gegenwärtigen Stand der Wissenschaft eine Untersuchung zu führen und anschliessend die von seiner Diagnose angezeigte Behandlung einzuleiten bzw. fortzuführen hat.[229] Ebenso wurde gesagt, dass der Arzt nur für die sorgfältige Ausführung der Untersuchung und die sorgfältige Stellung der Diagnose, nicht aber für die Richtigkeit der Diagnose selbst haftet.[230] Der Patient als Auftraggeber kann sich also nicht auf die Richtigkeit der Diagnose verlassen. Gleichzeitig ist es Ausfluss der Persönlichkeitsrechte des Patienten (Recht auf körperliche Unversehrtheit[231]), dass der Arzt nur mit dessen Einwilligung eine Behandlung beginnen, namentlich einen Eingriff vornehmen darf.[232] Der Arzt darf den Patienten nur auf der Grundlage einer informierten Entscheidung des Patienten behandeln. Ohne eine solche informierte Zustimmung («consentement éclairé»)[233] werden die gesamte Intervention und jede der beteiligten Handlungen, auch wenn diese nach den Regeln der Kunst durchgeführt werden, zu einer unrechtmässigen Handlung, sofern nicht eine alternative Rechtfertigung greift.[234]

Fellmann weist auf eine stetige Erhöhung der Anforderungen an die Sorgfaltspflicht der Beauftragten (nicht nur der Ärzte) durch das Bundesgericht hin, die Hand in Hand mit der Ausweitung der aus Art. 2 ZGB abgeleiteten Loyalitätspflichten gehe und die sich in immer strengeren Obhuts‑, Aufklärungs‑, Informations- und Beratungspflichten niederschlügen.[235] Auch wenn diese Pflichten klar neben der Sorgfaltspflicht stehen und von dieser zu trennen sind, bleiben sie für die vorliegende Untersuchung dennoch von Interesse. Informationspflichten sind ein vom Gesetzgeber gerne genutztes Instrument, um die Interessen potenziell betroffener Personen zu schützen bzw. die Durchsetzung von Rechtsansprüchen tatsächlich betroffener Personen zu erleichtern.

Gesetzlich normierte Sorgfaltspflichten

Als eines der anschaulichsten Beispiele für ein Spezialgesetz mit gesetzlich normierten Sorgfaltspflichten darf die Bauarbeitenverordnung (BauAV[236]) gelten. Als Teil der sogenannten «Regeln der Baukunde» spielen viele Bestimmungen der BauAV eine wichtige Rolle im zivilrechtlichen Deliktsrecht wie im Strafrecht[237].

Das Baugewerbe hat wenigstens die eine Gemeinsamkeit mit dem KI-Sektor, dass entlang der Wertschöpfungskette stets mehrere Akteure gleichzeitig mitwirken. Die auf Baustellen typische Arbeitsteilung bewirkt eine Teilung der Verantwortlichkeiten und damit der Haftung, sodass neben dem Bauunternehmer auch dessen Angestellte als Haftpflichtige in Frage kommen können.[238] Entsprechend können Personen, die infolge von Unfällen auf Baustellen geschädigt wurden, ihre zivilrechtlichen Ansprüche je nach Umständen auf die Verschuldenshaftung nach Art. 41 OR oder auf die Kausalhaftungen nach Art. 55 oder 58 OR abstützen.[239] Eine Möglichkeit, im Haftpflichtprozess die für alle diese Anspruchsgrundlagen notwendige allgemeine Voraussetzung der Widerrechtlichkeit zu belegen, ist der Nachweis einer Verletzung der Regeln der Baukunde.[240] Ebenso kann eine Verletzung der Regeln der Baukunde das Verschulden begründen.[241]

Gesetzlich normierte Sorgfaltspflichten können nicht nur als Verhaltenspflichten, sondern auch als Organisations- oder Überwachungspflichten vorkommen. Letztlich setzt ein Verstoss gegen derartige Pflichten immer ein pflichtwidriges Verhalten voraus, sodass die Abgrenzung zwischen reinen Verhaltenspflichten und Organisations- oder Überwachungspflichten nicht immer trennscharf ist.[242] Eine Pflichtwidrigkeit kann namentlich im Bereich der IT-Compliance oder der Produktsicherheit dann vorliegen, wenn gegen Gesetze verstossen wird, die bestimmte organisatorische und technische Massnahmen auf der Grundlage einer Generalklausel, wie der bekannten des «Stands der Technik», vorschreiben.[243] Die Einhaltung der gesetzlichen Vorgaben, d.h. der erforderlichen Sorgfaltspflichten und präventiven Massnahmen, hängt dann massgeblich von der Einhaltung der technischen Vorgaben ab. Trifft dies zu, kann der Verpflichtete ein gesetzeskonformes Verhalten nachweisen, mag er seine Haftung abwenden.

Überwachungspflichten finden sich u.a. in der Gesetzgebung über die Produktsicherheit. Produkte dürfen in Verkehr gebracht werden, wenn sie bei normaler oder bei vernünftigerweise vorhersehbarer Verwendung die Sicherheit und die Gesundheit der Verwenderinnen und Verwender und Dritter nicht oder nur geringfügig gefährden (Art. 3 Abs. 1 PrSG). Sie müssen den grundlegenden Sicherheits- und Gesundheitsanforderungen nach Art. 4 PrSG oder, wenn keine solchen Anforderungen festgelegt worden sind, dem Stand des Wissens und der Technik entsprechen (Art. 3 Abs. 2 PrSG). Sodann hat der Hersteller (oder Importeur) die Einhaltung dieser Anforderungen auch nach dem Inverkehrbringen der Produkte laufend zu beobachten, um allenfalls die nötigen korrigierenden Massnahmen bis hin zu einem Rückruf zu ergreifen (Marktbeobachtung nach Art. 8 PrSG). Diese Bestimmungen gelten auch für Arbeitsmittel, sind folglich mit der Arbeitgeberpflicht zum Gesundheitsschutz nach Art. 6 Abs. 1 ArG verknüpft.[244] Die zugehörigen Verordnungen PrSV und MaschV regeln, wie die Erfüllung der Anforderungen nachzuweisen ist. Gemäss Art. 3 MaschV bezeichnet das SECO die technischen Normen, die geeignet sind, die grundlegenden Sicherheits- und Gesundheitsschutzanforderungen[245] zu konkretisieren.

Eine organisatorische Sorgfaltspflicht mit Verweis auf den Stand der Technik findet sich im Datenschutzrecht: Der Verantwortliche und der Auftragsbearbeiter haben beide durch geeignete technische und organisatorische Massnahmen (TOM) eine dem Risiko angemessene Datensicherheit zu gewährleisten (Art. 8 Abs. 1 DSG[246]).[247] Die Ausführungsbestimmungen[248] sehen u.a. vor, dass die TOM dem Stand der Technik entsprechen müssen (Art. 1 Abs. 4 Bst. a DSV). Wird Art. 8 Abs. 1 DSG ohne hinreichende Rechtfertigung verletzt, so handelt der betreffende Verantwortliche oder Datenbearbeiter rechtswidrig und die betroffene Person kann Rechtsansprüche aus Verletzung ihrer Persönlichkeit geltend machen.[249] Art. 8 Abs. 1 DSG kommt somit der Charakter einer Schutznorm zu. Dass neben dem Verantwortlichen auch der Auftragsbearbeiter in die Pflicht genommen wird, unterstreicht den Charakter der Bestimmung als auftragsrechtliche Sorgfaltspflicht.[250]

Für die Vorgängernorm Art. 7 aDSG verweisen Rosenthal/Jöhri auf zwei für die vorliegende Diskussion aufschlussreiche Probleme: Erstens kämen in der Praxis kaum Rechtsansprüche auf der Grundlage dieser Norm vor. Dies liege insbesondere daran, dass der Datenbearbeitende nicht verpflichtet ist, einer betroffenen Person die von ihm getroffenen Massnahmen offenzulegen, auch könne das Auskunftsrecht nicht herangezogen werden, um hier Abhilfe zu schaffen. Die Durchsetzung von Ansprüchen biete sich somit erst nach konkreten Zwischenfällen an, durch die ein nachweisbarer Schaden entstanden ist.[251] Zweitens müsse nicht jeder Datendiebstahl eine Verletzung von Art. 7 Abs. 1 aDSG sein, da die Bestimmung ein Restrisiko erlaube.[252] Ein nach einem Zwischenfall in Anspruch genommener Datenbearbeiter hätte jedoch regelmässig einen schweren Stand, die Lückenhaftigkeit seiner IT-Sicherheitsmassnahmen zu legitimieren, zumal ein Gericht diese im Nachhinein und mit dem Wissen des konkreten Falls betrachten würde.[253] Das erste Problem der mangelnden Transparenz stellt sich auch bei Anwendungen der KI, welche zu einem Schaden geführt haben. Hier wie dort muss die geschädigte Person erst einmal über den Einsatz kritischer Technologien informiert sein.[254] Anschliessend stellt sich die Frage nach dem Nachweis einer Verantwortlichkeit des Verantwortlichen bzw. des Verwenders, wozu vertiefte Kenntnisse und Informationen notwendig sind.[255] Das zweite Problem trifft demgegenüber den Verantwortlichen, nämlich dann, wenn er nicht nachweisen kann, dass seine TOM dem Stand der Technik entsprachen. Gewiss dürfte die Begründung für Lücken im Sicherheitsdispositiv allgemein schwierig zu führen sein, selbst wenn ein Restrisiko zugestanden werden sollte. Auch ohne offensichtliche Lücken muss der Stand der Technik jedoch branchentypisch identifiziert werden können. Ob die Gerichte bei durch KI-Anwendungen verursachten Schäden ebenfalls hohe Anforderungen an den Nachweis allfälliger Sorgfaltspflichten stellen werden, wird sich weisen müssen.[256]

Datensicherheit ist heute untrennbar mit IT-Sicherheit verbunden. Die Bedeutung von IT-Sicherheit in einer nicht nur international vernetzten Welt kann kaum überschätzt werden.[257] Trotzdem verzichten sowohl das alte wie das neue DSG auf konkrete Bestimmungen. Dies lässt sich teilweise durch den rasanten technologischen Fortschritt erklären. Gemäss der Botschaft zum revidierten DSG verfolgt dieses den Ansatz einer risikobasierten Datensicherheit.[258] Weil sich zudem keine allgemeingültigen Mindestanforderungen «für jegliche Branchen» festlegen liessen, verzichtete der Verordnungsgeber darauf, ein «starres Regime von Mindestanforderungen» an die Datensicherheit in der VDSG ausdrücklich festzuschreiben.[259] Gesetz und Verordnung sollten sich vielmehr auf das Festlegen von «Leitlinien» beschränken. Der Erläuterungsbericht zum E-VDSG von 2021 betonte zudem, dass mit dem Verweis auf den Stand der Technik «die Berücksichtigung des gegenwärtigen Standes» gemeint sei. Es sei ausreichend, «Massnahmen zu treffen, die bereits zur Verfügung stehen und sich entsprechend bewährt haben». Hingegen könne nicht verlangt werden, dass «brandneue unerforschte Techniken oder solche, die sich noch im Entwicklungsprozess befinden, eingesetzt werden».[260] Der Verweis auf den Stand der Technik in Art. 8 Abs. 1 DSG erscheint somit als folgerichtiger Regulierungsansatz.

Nach Baeriswyl liessen sich zwar die allgemeinen Massnahmen der alten Verordnung (Art. 8 aVDSG) noch auf heutige Informatikumgebungen hin konkretisieren, die besonderen Massnahmen (Art. 9 aVDSG) wirkten jedoch überholt. Es sei folglich nicht erstaunlich, dass die meisten Datenbearbeiter schon mit der Umsetzung der TOM aufgrund des alten DSG Mühe bekundeten und sich deshalb auf andere Vorgaben, insbesondere allgemein anerkannte Standards, abstützten, um das Grundanliegen nach Datensicherheit weitgehend zu berücksichtigen.[261] Diese Kritik muss auch für die neue DSV gelten, die in diese Richtung keine Neuerungen brachte.[262] So muss der Stand der Technik wie unter der Geltung der DSGVO nach in der Praxis anerkannten Regeln der Datensicherheit (wie z.B. der ISO 27001 Standard) bestimmt werden[263] – dies ist aber eigentlich ein Anspruchsniveau zu tief! Vor dem Hintergrund, dass die vorsätzliche Nichteinhaltung der Mindestanforderungen an die Datensicherheit als Verletzung der Sorgfaltspflichten mit Busse bis zu CHF 250’000 bestraft werden kann (Art. 61 Bst. c DSG), erscheint dieser Unterschied in den Anspruchsniveaus als bedenklich.[264]

Falsche Auskünfte und unrichtiger Rat

Mit Blick auf KI-Anwendungen wie Chatbots oder andere «KI-Piloten», wie sie seit 2023 vermehrt auf den Markt kommen, lohnt sich ein abschliessender Blick auf die Tatbestände der unrichtigen Auskünfte und des falschen Rats, die u.U. ein Fall für die Verschuldenshaftung nach Art. 41 OR sind.[265]

Ausserhalb eines Vertragsverhältnisses, weder in Ausübung eines Gewerbes noch sonst wie gegen Entgelt, bleibt eine falsche Auskunft, ja sogar eine Lüge im Allgemeinen ohne zivilrechtliche Konsequenzen.[266] Im Schweizer Recht gibt es keinen besonderen Haftungstatbestand für falsche Auskünfte oder andere Datenfehler.[267] Erst wenn derjenige, der die falsche Auskunft erteilt, über Verhältnisse befragt wird, in die er kraft seiner Stellung besonderen Einblick hat, kommt ihm eine Garantenstellung zu, welche die falsche Auskunft zur widerrechtlichen Handlung macht.[268] Nur in diesem Fall eröffnet die Erteilung der falschen Auskunft als «ausservertragliches Handeln»[269] die Anspruchsgrundlage von Art. 41 OR. Das gilt auch für Handlungen, die nur anlässlich eines Vertragsverhältnisses, aber nicht in direkter Erfüllung von vertraglichen Pflichten vorgenommen werden. Ein Beispiel sind Auskünfte, die eine Bank einem ihrer Kunden erteilt, die aber nicht im direkten Zusammenhang mit einem Geschäft mit dem Bankkunden stehen.[270] Der Informant, dem vermittels besonderer Einsicht in eine Sachlage eine Garantenstellung zukommt, muss trotz fehlendem Auftragsverhältnis zumindest gewisse rudimentäre Sorgfaltspflichten befolgen. Es lohnt sich, das massgebliche Argument des Bundesgerichts in voller Länge zu lesen:

«Wer über Verhältnisse befragt wird, in die er Kraft seiner Stellung besonderen Einblick besitzt, hat – wenn er sich überhaupt auf eine Antwort einlässt – wahrheitsgetreu Auskunft zu geben, sofern für ihn erkennbar ist, dass diese für den Adressaten voraussichtlich folgenschwere Bedeutung hat oder haben kann; er darf nicht absichtlich falsche Tatsachen behaupten oder leichtfertig Angaben machen, deren Unrichtigkeit oder Ungenauigkeit ihm ohne lang[e] Prüfung in die Augen springen muss (BGE 57 II 86, BGE 41 II 82 E. 5). Der Anfragende darf zwar nicht mit besonders sorgfältigen Nachforschungen der Bank rechnen, wohl aber damit, dass die Auskunft in guten Treuen und nicht leichtfertig erteilt wird und die Bank ihm das, was sie weiss, loyal, ohne Rückhalt mitteilt (zit. Urteil des Bundesgerichts in SJZ 31/1934–35, S. 187 E. 4). Der Angefragte handelt nicht bloss dann widerrechtlich, wenn er wider besseres Wissen oder leichtfertig unrichtige positive Angaben macht, sondern ebenso, wenn er Tatsachen verschweigt, die ihm bekannt sind und von denen er sich sagen muss, dass ihre Kenntnis den in Frage stehenden Entschluss beeinflussen könnte (BGE 80 III 54 E. 4).»[271]

Demnach muss der Informant zumindest summarisch prüfen, ob die Auskunft vor dem Hintergrund der ihm bekannten Umstände, die den Empfänger der Auskunft betreffen, plausibel und vollständig erscheint. Bemerkenswert ist ferner, dass die Argumentation auf Urteile zu früheren Fällen aus den Jahren 1915, 1931 und 1954 abgestützt wird. Es handelt sich damit um eine gesetzte Rechtsprechung, die bis auf die Anfänge des OR von 1911 zurückgeht und offensichtlich von einer genauen Vorstellung getragen wird, was unter einem ordentlichen Geschäftsgebaren zu verstehen ist. Aus diesen Gründen darf das Prinzip der hier besprochenen deliktischen Haftung für falsche Auskünfte trotz der nachfolgend beschriebenen Kritik an seiner dogmatischen Begründung als gut begründet gelten.

Die deliktische Haftung für falsche Auskünfte wird in der neueren Rechtsprechung und Lehre gerne als Unterfall der sogenannten Vertrauenshaftung gesehen[272] und dogmatisch teils auf deliktrechtliche, teils auf quasi-vertragliche Grundlagen gestellt.[273] Das Bundesgericht seinerseits hat die Vertrauenshaftung einmal als Haftung sui generis direkt auf den Grundsatz von Treu und Glauben (Art. 2 Abs. 1 ZGB) zurückgeführt.[274] In einem anderen Fall wandte es über eine ungeschriebene Schutznorm die deliktische Haftung nach Art. 41 Abs. 1 OR an.[275]

Für Kessler verwischt die so begründete Vertrauenshaftung die «klare Dogmatik zwischen vertraglicher und deliktischer Haftung». Diese führe dazu, dass die vom Gesetzgeber vorgesehene Grenze der Deliktshaftung für Vermögensschäden ignoriert werde. Die Vertrauenshaftung mache den blossen «soziale[n] Kontakt zum konturlosen und unstrukturierten Haftpflichttatbestand», was zu einer ungebührlichen Ausdehnung der Haftpflicht und zu einer Überzahl an Haftpflichtfällen führe.[276]

Diese Kritik lässt sich durch eine vernünftige Interpretation der Voraussetzung der «besonderen Stellung» berücksichtigen. Wegweisend könnte hierzu der bereits zitierte Entscheid des Bundesgerichts von 1985 zu Auskünften einer Bank sein.[277] Darin griff das Bundesgericht das Argument Schönles auf, wonach «eine Bank aus der Sicht des Publikums zur Auskunft über ihre Kunden qualifiziert» sei, «zumal ein gut ausgebautes, wirtschaftlich bedeutsames Bankauskunftswesen» bestehe.[278] Darin klingt der Umstand eines besonderen Vertrauens an, welches den Empfänger der Auskunft zur Erwartung berechtigt, dass sein Informant ausreichend sorgfältig vorgeht.[279] Das Vertrauen spielt ebenfalls eine entscheidende Rolle bei der Akzeptanz vieler KI-Anwendungen.[280] Wir werden in Kapitel VI untersuchen, unter welchen Umständen die Haftung aus falscher Auskunft im Zusammenhang mit dem Einsatz von Chatbots zum Tragen kommen könnte.[281]

Leicht anders wird der Tatbestand des unrichtigen Rats behandelt. Liegt eine vertragliche Beziehung vor, so kommt Art. 97 OR zur Anwendung. Ansonsten wird von einer Gefälligkeitshandlung gesprochen. Hier kann lediglich aus Art. 41 Abs. 2 OR wegen Verstosses gegen die guten Sitten[282] oder wegen einer Verletzung von Treu und Glauben[283] geklagt werden.

Die Ausnahme (Teil 1): Einfache Kausalhaftungen

Übersicht

Einfache Kausalhaftungen knüpfen an eine Ordnungswidrigkeit (z.B. einen Werkmangel) an.[284] Die einfachen Kausalhaftungen finden sich in Art. 54, 55, 56, 58 und 59a OR, in Art. 333 und 679 ZGB sowie im PrHG[285].[286]

Wir erinnern daran, dass nach aktuellem Recht nur rechtsfähige Personen haftbar gemacht werden können, zuallererst urteilsfähige und volljährige Menschen.[287] Künstliche Akteure wie Roboter haben keine Rechtspersönlichkeit und haften somit nicht.[288] Können die Menschen, die über den Einsatz der Roboter entscheiden oder diese hergestellt, programmiert oder für ihren Einsatz vorbereitet haben, nicht ihrerseits aus Art. 41 OR für ein Fehlverhalten haftbar gemacht werden, besteht die Gefahr, dass geschädigte Personen für ihren Schaden selbst aufkommen müssen. In Kapitel IV wird besprochen, welche Eigenschaften künstliche Akteure haben müssen, um einerseits als sozial handlungsfähig gelten zu können (hier spielt das Konzept der Autonomie eine grosse Rolle) und um andererseits für ihr Handeln in einem gewissen Sinn «verantwortlich» gemacht werden zu können.[289] Dabei wird sich zeigen, dass wahrscheinlich die fehlende Urteilsfähigkeit die grössere Hürde für eine Haftung von künstlichen Akteuren ist. In diesem Abschnitt wird eine erste Gruppe von Sonderregelungen der Haftung untersucht, mit denen der Gesetzgeber kritische Situationen adressieren wollte, in denen die herkömmliche Verschuldenshaftung nicht greift, weil der schädigende Akteur nicht urteilsfähig (Art. 54 OR) oder nicht handlungsfähig ist (Art. 56 OR) oder weil der letztlich Verantwortliche nicht selbst handelte (Art. 55 OR, Art. 55 ZGB). Die Untersuchung soll erste Anhaltspunkte liefern, wovon eine Haftung künstlicher Akteure abhängig gemacht werden könnte. Das andere Ende des möglichen Spektrums für eine Haftungsregelung markiert die Haftung für Signaturschlüssel (Art. 59a OR). Es handelt sich um eine Kausalhaftung für einen deterministischen Einsatz von Technik, der jegliche Autonomie abgeht.

Die hier zu besprechenden Haftungstatbestände lassen sich ohne Weiteres in vergleichbaren Übersichten aus der neueren Literatur über KI-Haftung als Anregungen bzw. Vorbilder für zukünftige Lösungsansätze finden. Mit Blick auf die schwache KI, die vor allem zur Unterstützung menschlichen Handelns und Entscheidens fruchtbar gemacht werde, führt Omlar die Sondertatbestände der Haftung für Verrichtungsgehilfen (Hilfspersonen, Erfüllungsgehilfen), von Aufsichtspflichtigen, Haltern von Nutztieren, von Tieraufsehern und Grundstücksbesitzern an.[290] Mit Fokus auf Anwendungen von Pflegerobotern erweitert Borio diesen Reigen um die Haftung des Familienhaupts,[291] die Werkeigentümerhaftung,[292] sowie die Produkthaftpflicht.[293] Als weiteren Sondertatbestand, der in diese Auswahl passt, sei mit Fellmann zuletzt noch die Haftung des Fahrzeughalters genannt.[294] Als scharfe Kausalhaftung wird die Halterhaftung in Abschnitt 1.5 behandelt.

Haftung urteilsunfähiger Personen

Die Rechtspersönlichkeit ist unter dem aktuellen Recht also eine notwendige Bedingung für die zivilrechtliche Haftung. Eine hinreichende Bedingung ist sie nicht. Nach dem System der Verschuldenshaftung von Art. 41 ff. OR ist die urteilsunfähige natürliche Person haftungsunfähig, d.h. sie kann nicht für den durch sie verursachten Schaden haftbar gemacht werden. Art. 54 OR erlaubt es dem Richter, in besonderen, stossenden Fällen den Urteilsunfähigen zu teilweisem oder vollem Schadenersatz zu verurteilen. Art. 54 Abs. 1 OR sieht dazu eine Kausalhaftung («Kausalhaftung aus Billigkeit»[295]) dauerhaft[296] Urteilsunfähiger, insbesondere von Kindern und Geisteskranken, vor, während Art. 54 Abs. 2 OR den Fall einer nur vorübergehenden Urteilsunfähigkeit behandelt (beispielsweise infolge von Trunkenheit oder vergleichbarer Zustände).

Es handelt sich um eine Norm, die nur in Ausnahmefällen zur Anwendung kommen soll,[297] weswegen es angemessen erscheint, dass kein Befreiungsbeweis vorgesehen ist.[298] Sie greift nur, wenn im Zeitpunkt der schädigenden Handlung als einzige Voraussetzung für eine Haftung nach Art. 41 OR die subjektive Komponente der Urteilsfähigkeit des Verursachers fehlt und wenn zusätzliche äussere Umstände (etwa die finanzielle Lage der beteiligten Parteien) vorliegen, die eine fehlende Haftung als unbillig erscheinen lassen. M.a.W. darf der Urteilsunfähige nur dann haftbar gemacht werden, wenn sein Verhalten ihm als Verschulden vorgeworfen werden könnte, wäre er urteilsfähig gewesen, und wenn keine andere Person haftpflichtig gemacht werden kann.[299]

Diese Sondernorm könnte als erster Lösungsansatz für die Haftung von künstlichen Akteuren dienen. Intuitiv erscheint es klar, dass je autonomer ein Roboter agieren kann, desto eher er als eigenes Verantwortungssubjekt in Frage kommen kann. Wir werden später diskutieren, dass ein Roboter, um als moralisches Handlungssubjekt zu qualifizieren, über bestimmte, eigentlich typisch menschliche Kompetenzen verfügen müsste: Denken, Geist, Vernunft, Urteilskraft, Intelligenz, Bewusstsein, Wahrnehmung, Kommunikation, aber auch Empathie und Emotionen. Mit zunehmender Entwicklung und Einsatzreife von KI werden KI-Anwendungen wie Roboter immer autonomer werden und somit als Handlungssubjekte in Frage kommen. Die genannten Eigenschaften, die alle mit unserer Konzeption der Urteilsfähigkeit zusammenhängen, werden diesen KI-Anwendungen jedoch noch lange fehlen. Eine Änderung dieser Position dürfte auf absehbare Zeit unrealistisch sein. So könnte man sich auf den Standpunkt stellen, dass Art. 54 Abs. 1 OR als Haftung des Urteilsunfähigen oder eine dieser Norm nachempfundene andere Bestimmung aus Billigkeit auch auf Roboter und andere künstliche Akteure Anwendung finden könnte, um drohende Haftungslücken zu schliessen.

Nach der hier vertretenen Ansicht ist das Modell von Art. 54 Abs. 1 OR jedoch nicht zielführend. Die Ausnahmeregel von Art. 54 OR macht nur dann Sinn, wenn der Urteilsunfähige wirtschaftlich in der Lage ist, den Schaden zu tragen. Er muss also über eigenes Vermögen verfügen. Dies trifft auf künstliche Akteure nicht zu, jedenfalls so lange nicht, als nicht eine natürliche oder juristische Person verpflichtet ist, für sie ein Vermögen als Haftungssubstrat zu äufnen. Nach heute gesicherter Lehre und Rechtsprechung ist in die Billigkeitserwägungen unter Art. 54 OR namentlich das Bestehen einer Haftpflichtversicherung zugunsten des Urteilsunfähigen mit einzubeziehen.[300] Eine solche Haftpflichtversicherung würde als Argument für eine gerichtliche Anerkennung der Haftung des Urteilsfähigen sprechen, der anschliessend nicht direkt für seinen Schaden einstehen muss, sondern den Schadenersatz über seine Versicherung an den Geschädigten auszahlen lassen kann. Diese Überlegung kann bei künstlichen Akteuren dadurch vereinfacht werden, dass die Personen, die ihren Einsatz vorsehen wollen und kontrollieren können, eine Haftpflichtversicherung für allfällig verursachte Schäden abschliessen müssen. Eine komplizierte, abstrakte Konstruktion über eine gestaltete Haftung der künstlichen Akteure selbst ist dann wirtschaftlich und aus der Sicht des Geschädigten betrachtet verzichtbar.

Art. 54 OR sollte als Vorbild für eine Haftungsregel für künstliche Akteure auch deshalb nicht in Frage kommen, als es sich wie erwähnt um eine Billigkeitsregel und eine Ausnahmeregel handelt. Das Gericht soll nur dann auf diese Norm zurückgreifen, wenn kein anderer Ersatzpflichtiger beansprucht werden kann. Um den Einsatz von KI-Anwendungen berechenbarer zu gestalten, wäre es jedoch gerade wünschbar, wenn sich menschliche und künstliche Akteure die zivilrechtliche Verantwortung je nach Beteiligung an der Verursachung des Schadens teilen könnten.[301] Eine Zurechnungsnorm in hierarchischen Verhältnissen findet sich mit der Geschäftsherrenhaftung, die im nächsten Unterabschnitt untersucht wird.

Geschäftsherren- und Hilfspersonenhaftung

Nach Art. 55 Abs. 1 OR haftet der Geschäftsherr für den Schaden, den seine Arbeitnehmer oder andere Hilfspersonen in Ausübung ihrer dienstlichen oder geschäftlichen Verrichtungen verursacht haben, wenn er nicht nachweist, dass er alle nach den Umständen gebotene Sorgfalt angewendet hat, um einen Schaden dieser Art zu verhüten, oder dass der Schaden auch bei Anwendung dieser Sorgfalt eingetreten wäre.

Art. 55 Abs. 1 statuiert eine ausservertragliche Haftung des Geschäftsherrn für seine Arbeitnehmer und für sonstige Hilfspersonen.[302] Nater stellt die Geschäftsherrenhaftung entwicklungsgeschichtlich in einen Zusammenhang mit der Industrialisierung mit ihrer zunehmend ausgeprägten Arbeitsteilung. Neben der Technik sei nämlich die Organisation, verstanden als Gesamtheit von Menschen und Sachen, ein herausragendes Charakteristikum des modernen Zeitalters, in dem die Menschen zunehmend begannen, im Kollektiv zu arbeiten. So gesehen sei es nur natürlich gewesen, dass die Frage nach der Haftung dieses Kollektivs bzw. der Organisation für fehlerhaftes Verhalten des Einzelnen aufkam.[303] Dieses Muster, wonach wirtschaftliche, soziale oder technische Entwicklungen das bestehende Recht herausfordern, wiederholt sich aktuell angesichts der rasanten Fortschritte mit praktischen Anwendungen der KI.

Nach mittlerweile gefestigter Rechtsprechung des Bundesgerichts handelt es sich bei dieser Norm um eine einfache Kausalhaftung, welche weder ein Verschulden der Hilfsperson noch ein Verschulden des Geschäftsherrn voraussetzt: «Die Ersatzpflicht des Geschäftsherrn aus Art. 55 OR ist, wie das Bundesgericht wiederholt ausgesprochen hat, nicht eine Verschuldenshaftung, sondern eine durch einen bestimmt umschriebenen Entlastungs- oder Exzeptionsbeweis gemilderte Verursachungshaftung […].»[304] Trifft die Hilfsperson ein eigenes Verschulden, so haftet sie neben dem Geschäftsherrn gestützt auf Art. 41 OR, wobei für den Geschädigten Anspruchskonkurrenz gilt.[305]

Brehm spricht von einer milden oder gewöhnlichen Kausalhaftung, weil sie eine vermutete Sorgfaltspflichtverletzung ahnde.[306] Nach anderer Ansicht aus der Lehre soll es sich bei der Geschäftsherrenhaftung aber um eine «stark eingeschränkte Verschuldenshaftung» handeln.[307] Für diese zweite Position weist Honsell darauf hin, dass allein entscheidend sei, dass sich der Geschäftsherr entlasten könne, wenn er nachweist, dass ihn kein Verschulden trifft. Es handle sich somit «unbefangen betrachtet» um eine Verschuldenshaftung, bei der nur die Beweislast abweichend von Art. 42 Abs. 1 OR der schädigenden Person auferlegt ist. Das sei im Vertragsrecht nach Art. 97 Abs. 1 OR grundsätzlich nicht anders, ohne dass deshalb von einer Kausalhaftung die Rede sei. Die Qualifikation als Kausalhaftung sei somit missverständlich.[308] Vermittelnd liesse sich sagen, dass der Vorwurf, eine Sorgfaltspflicht verletzt zu haben, nicht so schwer zu wiegen braucht, dass von einem eigentlichen Verschulden gesprochen werden muss.[309]

Eine Geschäftsherrenhaftung war bereits im OR von 1881 enthalten. Während der Wortlaut des damaligen Art. 62 dem heutigen ganz ähnlich lautete,[310] interpretierten Rechtsprechung und Lehre die Bestimmung ursprünglich (ganz nach dem Sinn Honsells) als Verschuldenshaftung mit umgekehrter Beweislast. Dabei musste das Verschulden sowohl auf Seiten des Geschäftsherrn wie auch auf Seiten der Hilfsperson vorliegen.[311] Zu Beginn des 20. Jh. soll sich das Bundesgericht Nater zufolge schrittweise vom Verschuldensprinzip ab und hin zu einer Kausalhaftung mit Möglichkeit der Befreiung gewandt haben,[312] was ein schönes Beispiel für eine Rechtsfortbildung im Zuge des wirtschaftlichen und sozialen Fortschritts darstellte.[313] Vom Bundesgericht ganz klar als Kausalhaftung ausgewiesen wurde erst der heutige Art. 55 des OR von 1911.[314]

Nater sieht die Geschäftsherrenhaftung als allgemeine Haftung des Geschäftsherrn für Hilfspersonen, da dessen Einstehenmüssen für Hilfspersonen ihr eigentlicher Inhalt sei, während bei den anderen Kausalhaftungen dies nur akzessorisch zutreffe. Entsprechend sollte Art. 55 OR zurücktreten, falls eine spezielle Norm anwendbar ist, was in der Praxis jedoch nur im Verhältnis zu Spezialgesetzen gelte, während die Art. 55, 56, 58 OR und Art. 333 ZGB konkurrierend anwendbar seien.[315]

Für das Verständnis der Entwicklungsgeschichte des Haftpflichtrechts aufschlussreich ist sodann der Umstand, dass die Geschäftsherrenhaftung bis zum Inkrafttreten des der Produkthaftungsrichtlinie der EG nachgebildeten PrHG im Jahre 1993 die Grundlage für die Haftung des Produzenten für fehlerhafte Produkte, namentlich in Folge von Konstruktions- und Fabrikationsfehlern, bildete.[316]

Im Einklang mit den allgemeinen Regeln kann als Geschäftsherrin sowohl eine natürliche als auch eine juristische Person haften. Mit Bezug auf juristische Personen ist die Abgrenzung zwischen der Geschäftsherrenhaftung von Art. 55 OR und der Organhaftung gemäss der Regelung von Art. 55 ZGB von Bedeutung:[317] Nach dieser zweiten Regelung sind die Organe berufen, dem Willen der juristischen Person Ausdruck zu geben (Abs. 1). Dabei verpflichten die Organe die juristische Person sowohl durch den Abschluss von Rechtsgeschäften als auch durch ihr sonstiges Verhalten (Abs. 2). Für ihr Verschulden sind die handelnden Personen ausserdem persönlich verantwortlich (Abs. 3). Die Haftung für Organe und Hilfspersonen schliesst sich gegenseitig aus.[318] Denn das Organ steht immer im Feld der juristischen Person, welche ja erst durch ihre Organe handlungsfähig wird. So ist Art. 55 ZGB rechtshistorisch verknüpft mit der Diskussion über die Natur der juristischen Person, die sich als juristisches Konzept im 19. Jh. durchgesetzt hat, um u.a. als Trägerin für grosse wirtschaftliche Projekte wie die Finanzierung des Eisenbahnbaus zu dienen.[319] Anders als nach der Realitätstheorie von Gierke, welche die juristische Person als reales Gebilde betrachtet, handelt die juristische Person nach der Fiktionstheorie von Savigny nicht selbst, sondern nur vermittels ihrer Organe,[320] deren Stelle naturgemäss von natürlichen Personen als Mitglieder des Verwaltungsrats, der Geschäftsleitung oder in anderer Funktion eingenommen werden muss. Art. 55 ZGB ist damit ein hervorstehendes Beispiel, welches zeigt, dass das Recht durchaus bereit und in der Lage ist, mit Hilfe von Fiktionen Lösungen für anstehende Probleme zu finden, die sich aus der sozialen und wirtschaftlichen Entwicklung ergeben. Ob man gleich so weit gehen sollte, die Realität von Robotern, die mit Menschen zusammenarbeiten, so anzuerkennen, dass man den Robotern eine eigene Rechtspersönlichkeit zuweist, kann und soll hier erst einmal offen bleiben.[321] Wir können aus praktischer Sicht jedoch bereits jetzt festhalten, dass es keinen Sinn macht, Robotern oder anderen KI-Systemen eine eigene Rechtspersönlichkeit zuzuerkennen, solange sie nicht gleichzeitig über ein eigenes Haftungssubstrat verfügen.[322] Zumindest in der vorliegenden Diskussion geht es ja immer um Verantwortlichkeit und Entschädigungspflicht.

Die ausservertragliche Haftung des Geschäftsherrn nach Art. 55 OR ist sodann gegenüber der vertraglichen Haftung für Hilfspersonen nach Art. 101 OR[323] zu betrachten.[324] Nach dieser Norm hat jemand, der die Erfüllung einer Schuldpflicht oder die Ausübung eines Rechts aus einem Schuldverhältnis durch eine Hilfsperson oder einen Gehilfen vornehmen lässt, jene dritte Person zu entschädigen, die durch die Hilfsperson geschädigt wird, während diese den an sie delegierten Aufgaben nachkommt. Bei diesem Jemand handelt es sich um den Schuldner einer vertraglichen Pflicht, etwa um einen Lieferanten oder einen Werksunternehmer, in diesem Sinne wiederum um einen Geschäftsherrn. Zwischen den beiden Normen besteht dabei Anspruchskonkurrenz, d.h. sie können nebeneinander zur Anwendung gelangen, wobei für jede ihre eigenen Anwendungsvoraussetzungen zu prüfen sind.[325] Bei der Hilfspersonenhaftung genügt nach dem Wortlaut der Norm grundsätzlich die tatsächliche Verursachung eines Schadens, was auf eine Kausalhaftung schliessen liesse. Die h. L. sieht Art. 101 OR jedoch nicht als eigenständige Haftungsgrundlage, sondern als Zurechnungsnorm.[326] Diese Einordnung ist kompatibel mit dem gesetzgeberischen Motiv hinter Art. 101 OR, welches das Bundesgericht auf die einprägsame Formel brachte, «dass diejenige Person, die den Vorteil hat, Pflichten durch eine Hilfsperson erfüllen zu lassen, auch die Nachteile daraus tragen soll».[327] Die Haftung für Hilfspersonen ist gewissermassen das Korollar zur Arbeitsteilung in der Wirtschaft; derjenige der seinen Aktionsradius durch Arbeitsteilung erweitern kann, soll auch die damit verbundenen Risiken tragen[328] Sieht man Art. 101 OR als Zurechnungsnorm, so ergibt sich aus den allgemeinen haftungsrechtlichen Grundsätzen folgerichtig, dass der Geschäftsherr dem Dritten für jeden Schaden haftet, der diesem von einer in befugter Weise beigezogenen Hilfsperson in funktionellem Zusammenhang mit der Erfüllung der massgeblichen Schuldpflicht adäquat kausal verursacht wurde, sofern der Geschäftsherr nicht beweist, dass die Hilfsperson alle Sorgfalt angewendet hat, die nach dem Schuldverhältnis von ihm selbst zu erwarten war.[329] Im Vergleich zur ausservertraglichen Hilfspersonenhaftung nach Art. 55 OR ist hervorzuheben, dass die vertragliche Haftung nach Art. 101 OR sehr viel strenger ist.[330]

Als Beispiele für Hilfspersonen nennt Art. 101 OR «Hausgenossen oder Arbeitnehmer». Die haftende Person wird nicht explizit genannt. Art. 55 OR lässt den Geschäftsherrn für «Arbeitnehmer oder andere Hilfspersonen» haften. Der Begriff des «Hausgenossen» verweist auf die sozialen und wirtschaftlichen Verhältnisse der Entstehungszeit des OR. Heute stehen als Hilfspersonen Arbeitnehmer und Beauftragte als externe Mitarbeiter im Vordergrund. Für die Qualifizierung der Beteiligten ist ihre gegenseitige hierarchische Stellung entscheidend. Geschäftsherr und Hilfsperson müssen gegenseitig in einem Über- bzw. Unterordnungsverhältnis stehen. Aus der übergeordneten Stellung des Geschäftsherrn ergibt sich für ihn die besondere Sorgfaltspflicht, welche Art. 55 OR und Art. 101 OR zugrunde liegt. Diese Sorgfaltspflicht besteht vor allem in der Pflicht zur Unterweisung und Überwachung der Hilfsperson.[331] Damit einher geht meist ein wirtschaftliches Abhängigkeitsverhältnis;[332] zwingend ist dies jedoch nicht. Mehrstufige hierarchische Verhältnisse sind ebenso denkbar[333] wie ein Subordinationsverhältnis zu mehreren Geschäftsherren.[334] Bei gestuften Verhältnissen haftet als Geschäftsherr immer die hierarchisch höchststehende Person. Bei einer echten Mehrheit von Geschäftsherren (etwa, wenn diese als einfache Gesellschaft (z.B. bei einer ARGE) oder Kollektivgesellschaft (z.B. bei einer Anwaltskanzlei) gemeinsam ein Geschäft betreiben) haften diese solidarisch; die definitive Verteilung des Schadens richtet sich nach ihrem Innenverhältnis.

Das Verständnis dieser Muster und Verhältnisse ist später bei der Diskussion des Verantwortungsnetzwerks von grossem Nutzen,[335] wenn Mehrheiten von potenziell Verantwortlichen auf verschiedenen Stufen betrachtet werden. Wie in der Einleitung erwähnt, gilt die Intransparenz von Vorgängen im Zusammenhang mit KI-Anwendungen als grosses Problem. Intransparenz kann sich aber bereits bei gestuften Verhältnissen in herkömmlichen Betrieben als Herausforderung ergeben. Das Problem wurde im Strafrecht im Vorfeld des Erlasses von Art. 120 StGB breit diskutiert. Weil moderne Wirtschaftsbetriebe durch eine weitgehende Kompetenzaufteilung, Delegation, Dezentralisierung und funktionale Differenzierung charakterisiert sind, lässt sich oftmals die Verantwortlichkeit eines Einzelnen bei der nachmaligen Untersuchung von Straftaten nicht mehr eruieren.[336] Die Verhältnisse im Zivilrecht können sich natürlich nicht anders präsentieren, und es ergeben sich im Zivilrecht weitgehend vergleichbare Probleme bei der Zurechnung von Verantwortung zwischen menschlichen Akteuren.

Einen solchen Fall weit fortgeschrittener Arbeitsteilung hatte das Bundesgericht in einem 2021 entschiedenen Fall zu beurteilen. Dem Gericht zufolge verstehe es sich von selbst, «dass in einer arbeitsteilig organisierten Unternehmung die auf den Börsenhandel spezialisierten Mitarbeiter diese Aufgabe [das Market Making] wahrnähmen. Inwiefern sie sich dabei technischer Hilfsmittel bedienten, könne offenbleiben, soweit die Mandatsführung mit der vorausgesetzten Sorgfalt erfolge.»[337] Dem Sachverhalt zufolge gibt es Anzeichen, dass die für das Market Making zuständige Bank einen Algorithmus eingesetzt hat, «der mit dem Einsatz eines Roboters gleichzusetzen sei» (so die Beschwerdeführerin). Die Beschwerdeführerin (die Auftraggeberin) brachte vor, dass damit eine Substituierung vorliege, sodass die Beschwerdegegnerin (die Bank) zu beweisen habe, dass eine solche in Abweichung von Art. 398 Abs. 3 OR zulässig gewesen sei. Das Bundesgericht hielt zu diesem Argument einigermassen lapidar Folgendes fest: «Als Dritter im Sinne von Art. 398 Abs. 3 OR ist eine andere natürliche oder juristische Person gemeint. Dies ergibt sich etwa daraus, dass der Auftraggeber gemäss Art. 399 Abs. 3 OR Ansprüche, die dem Beauftragten gegen den Dritten zustehen, unmittelbar gegen diesen geltend machen kann. Dies setzt voraus, dass dem Dritten Rechtspersönlichkeit zukommt. Die Verwendung von Hilfsmitteln, wie beispielsweise eines Computers mit entsprechender Software, die das Market Making automatisiert durchführt, stellt keine Substitution dar, da diesen Hilfsmitteln keine Rechtspersönlichkeit zukommt. Insofern hat die Vorinstanz kein Recht verletzt, wenn sie das Vorbringen der Beschwerdeführerin, die Beschwerdegegnerin habe einen Algorithmus eingesetzt, nicht als Vorwurf der unzulässigen Substitution interpretierte.»[338] Daraus ergibt sich die Bestätigung, dass Art. 101 OR keine unmittelbare Anwendung auf den Einsatz von KI-Anwendungen findet. Gleiches gilt für Art. 55 OR.[339] Bei beiden Normen müssen alle Beteiligten, d.h. sowohl der Geschäftsherr wie auch die Hilfspersonen, über Rechtspersönlichkeit verfügen.

Tierhalterhaftung

Nach Art. 56 Abs. 1 OR haftet der Halter eines Tieres für den Schaden, den das Tier anrichtet, wenn er nicht nachweist, dass er alle nach den Umständen gebotene Sorgfalt in der Verwahrung und Beaufsichtigung des Tieres angewendet hat, oder dass der Schaden auch bei Anwendung dieser Sorgfalt eingetreten wäre.[340]

Diese Haftungsnorm ist als gewöhnliche oder milde Kausalhaftung ausgestaltet, bei der dem Halter des Tieres als Schädiger der Entlastungsbeweis offensteht.[341] Geht der Tierhalter mit dem Tier unter Berücksichtigung von dessen Eigenschaften richtig um oder wäre der Schaden auch bei Anwendung der gebotenen Sorgfalt entstanden, muss ein Geschädigter den Schaden selber tragen.[342] Ob es sich bei der Tierhalterhaftung um eine gewöhnliche Kausalhaftung mit Befreiungsmöglichkeit oder um eine Verschuldenshaftung mit umgekehrter Beweislast handelt, hat nach dem Bundesgericht lediglich dogmatische, aber kaum praktische Bedeutung.[343]

In Konkretisierung des allgemeinen Schadensatzes schafft derjenige, der ein wirtschaftliches oder ideelles Interesse an der Haltung von Tieren hat, ein Risiko für sein Umfeld. Grundlage oder Motiv für die Tierhalterhaftung ist die Unberechenbarkeit von Tieren. Tiere gelten von alters her als gefährlich, da sie manchmal unberechenbar sind.[344] Von Tieren, deren «vollständige und risikolose Zähmung über das Menschenmögliche hinausgeht», geht eine spezifische Gefahr aus, die sich typischerweise dann verwirklicht, wenn die Kontrolle über das Tier verloren geht.[345] Art. 56 Abs. 1 OR stellt sicher, dass der Halter im Schadenfalle für dieses Risiko einzustehen hat. Die Tierhalterhaftung ist somit ein weiteres Beispiel für eine «Haftung aus Interesse»,[346] wie dies schon bei der Geschäftsherren- und Hilfspersonenhaftung zum Ausdruck kam. Dementsprechend sind der Nutzen bzw. das Interesse am Tier wichtige Indizien für die Halterstellung.

Die Haftung des Tierhalters war bereits den alten Römern bekannt. Der Eigentümer eines vierfüssigen Nutztieres, das einen Schaden verursacht hatte, musste entweder den Schaden ersetzen oder das Tier dem Geschädigten ausliefern.[347] Der zum Schadenersatz Verurteilte konnte wählen zwischen Geldersatz und Auslieferung.[348] Einen Entlastungsbeweis gab es nicht. Interessant ist die Bemerkung Kasers, dass der Gedanke, dass das Tier selbst ein Delikt begangen habe, sich in der späten Republik verflüchtigt habe; stattdessen haftete der Eigentümer aus der von ihm geschaffenen Gefährdung.[349] Nicht ganz zu dieser Auffassung passt aber die Regel, wonach die Haftung mit dem Tod des Tieres erlosch.[350]

Nach dem Bundesgericht soll es sich bei der Tierhalterhaftung dennoch keineswegs um eine Gefährdungshaftung handeln, was auch im Wortlaut von Art. 56 Abs. 1 OR zum Ausdruck kommt, wonach der Geschädigte den Schaden selbst tragen muss, wenn der Schaden auch bei Beachtung aller Sorgfalt eingetreten wäre: Der Tierhalter hat nicht schlechthin für die Unberechenbarkeit oder potenzielle Gefährlichkeit eines Tieres oder für Zufall einzustehen. Die Haftung des Halters wird eben gerade nicht mit der blossen Haltung von Tieren, sondern beispielsweise mit der Unterlassung der gebotenen Einzäunung begründet,[351] worin im konkreten Fall eine Verletzung der objektiven Sorgfaltspflicht gesehen werden kann. Die Haftung setzt jedenfalls die Verletzung einer objektiven Sorgfaltspflicht voraus. Der Massstab ist streng: «Der Tierhalter kann sich nicht darauf berufen, das allgemein Übliche an Sorgfalt aufgewendet zu haben. Vielmehr hat er nachzuweisen, dass er sämtliche objektiv notwendigen und durch die Umstände gebotenen Massnahmen getroffen hat. Bleiben über die entlastenden Tatsachen Zweifel bestehen, muss die Haftung des Halters bejaht werden. Die konkreten Sorgfaltspflichten richten sich in erster Linie nach geltenden Sicherheits- und Unfallverhütungsvorschriften. Fehlen gesetzliche oder reglementarische Vorschriften und haben auch private Verbände keine allgemein anerkannten Vorschriften erlassen, ist zu prüfen, welche Sorgfalt nach der Gesamtheit der konkreten Umstände geboten ist».[352]

Nach den allgemeinen Grundsätzen des Haftpflichtrechts muss zwischen dem Verhalten des Tieres und dem eingetretenen Schaden ein adäquater Kausalzusammenhang bestehen. Als Besonderheit von Art. 56 Abs. 1 OR ist der Umstand hervorzuheben, dass das Tier den Schaden aus eigenem Antrieb verursacht haben muss, nicht bloss als willenloses Werkzeug eines Menschen.[353] Bei Tieren kann das Verhalten aus eigenem Antrieb auch auf eine äussere Reizung zurückzuführen sein: Die Anwendbarkeit der Tierhalterhaftung entfällt nach Ansicht des Bundesgerichts selbst bei Beeinflussung durch den Menschen so lange nicht, als dem eigenen Willen und der Eigenart des Tieres noch Raum belassen ist. Art. 56 OR bleibt auch bei einer äusseren Reizung dort anwendbar und lässt den Tierhalter haften, wo das unvorhergesehene Aktivwerden des Tieres auf äussere Vorgänge zurückzuführen ist, die das Tier zu unberechenbarem oder wildem Verhalten veranlassen. So muss bei einem Eber, der zu einem Schlachthof transportiert werden soll, damit gerechnet werden, dass er sich beim Verladen aggressiv verhält:[354]

«Mit einem Fall der letzteren Art hat man es hier aber zu tun: der Eber war nicht blosses Werkzeug, wie es z.B. ein vom Fuhrmann beherrschtes Pferdegespann ist, sondern er griff den Kläger aus eigenem Antrieb an, nachdem er vorerst durch den Versuch des Klägers und des Alois Kretz, ihn in den Transportgatter zu treiben, gereizt worden war. Dass das Tier zu diesem Angriff nur Gelegenheit hatte, weil die von den beteiligten Menschen getroffenen Dispositionen fehlerhaft waren, berührt die grundsätzliche Frage der Tierhalterhaftung nicht.»[355]

Ein äusserer Vorgang, der auf das Tier einwirkt, führt also nicht automatisch zu einer Unterbrechung der Kausalkette und zur Entlastung des Tierhalters.[356] Hier kommt der Charakter von Art. 56 OR als Gefährdungshaftung zum Ausdruck. Ohne Art. 56 OR würde der Geschädigte bei Fehlen eines solchen in den Kausalverlauf eingreifenden Dritten auf seinem erlittenen Schaden sitzen bleiben. Wie eingangs festgehalten, sind Tiere eben manchmal unberechenbar. Für dieses Charakteristikum der Tiere muss der Tierhalter einstehen. Ein ähnliches Muster des Einstehenmüssens für charakteristische Risiken, die mit einer Tätigkeit verbunden sind, zeigt sich bei der Haftung für den Betrieb einer Eisenbahn.[357]

Schön illustriert wird das Zusammenspiel zwischen dem Verhalten eines Tieres aus eigenem Antrieb, seinem Einsatz als willenlosem Werkzeug durch einen Menschen und den objektiven Sorgfaltspflichten, die dabei zu beachten sind, in einem Urteil des Bundesgerichts aus dem Jahr 2021. Im Zentrum des Sachverhalts standen ein Fuhrmann, der mit einem Einspänner unterwegs war, und eine Mutter, die mit ihrer in einem Veloanhänger untergebrachten fünfjährigen Tochter eine Velotour machte. An einer Stelle des Weges scheute das Pferd, vermutlich wegen eines Mistkrans auf der linken Strassenseite. Wie der Fuhrmann mit der Kutsche eine Linkswende vollzog, ging das Pferd durch. Der Fuhrmann konnte das Pferd nicht mehr bremsen und fiel von der Kutsche. Das Pferd galoppierte mit der nun führerlosen Kutsche auf der Strasse zurück. Es passierte die Frau, die mit ihrem Velo am rechten Strassenrand stehenblieb. Die schlingernde Kutsche riss jedoch den Veloanhänger mit und schleuderte ihn in die Wiese. Dabei wurde die Tochter schwer verletzt.[358] In der Folge beantragte die verletzte Tochter (Beschwerdeführerin vor dem Bundesgericht) beim erstinstanzlichen Gericht, die Brauerei als Tierhalterin (Beschwerdegegnerin vor dem Bundesgericht) und der Fuhrmann seien unter solidarischer Haftbarkeit zu Schadenersatz zu verurteilen.[359] Die Teilklage gegen den Fuhrmann wurde abgewiesen und erwuchs daraufhin in Rechtskraft. Auf Berufung der Brauerei wies das zuständige Obergericht auch die Teilklage gegen die Brauerei ab. Gegen dieses Urteil erhob die geschädigte Person Beschwerde beim Bundesgericht. Das Bundesgericht stützte die Beschwerde und verurteilte die Brauerei zur Bezahlung des erstinstanzlich geforderten Schadenersatzes.[360]

In diesem Fall begann das Unheil vermutlich damit, dass das Pferd in der an die linke Strassenseite angrenzenden Wiese einen Mistkran erblickte. Der Anblick dieser hoch aufgerichteten Maschine erschreckte das Pferd so, dass es scheute. Eine andere Ursache für das Scheuen des Pferdes wurde nicht erstellt:

«Die Vorinstanzen stellten auf das rechtshilfeweise eingeholte Gutachten ab. Darin erklärte der Sachverständige, das Pferd und die Kutsche seien in gutem Zustand gewesen. Das Scheuen des Pferds sei nicht zwingend auf eine Unaufmerksamkeit des Fuhrmanns zurückzuführen.»[361]

Als Reaktion auf das Scheuen des Pferdes wandte der erfahrene Fuhrmann die Kutsche nach links, interessanterweise gegen die vermeintliche Gefahr in, was dem Gutachten zufolge offenbar unbedenklich war:

«Die Linkswende sei mit Gewissheit durch den Fuhrmann eingeleitet worden. Eine unkontrollierte Linkswende durch das Pferd könne ausgeschlossen werden, da die Kutsche sonst gekippt wäre. Zudem sei das Pferd ein Fluchttier und würde nie in Richtung der vermeintlichen Gefahr wenden. Das Pferd müsse bei der Linkswende unter Kontrolle gewesen und erst danach durchgegangen sein.»[362]

Zudem:

«Die kontrollierte Linkswende sei ein sicheres Fahrmanöver gewesen, wenngleich ein Wenden auf enger Stelle gegen eine Gefahrenquelle hin nicht präferiert werden sollte, wenn sicherere Alternativen bestünden. Hier sei wegen der Böschung auf der rechten Seite eine Linkswende unumgänglich gewesen.»[363]

Mit anderen Worten hatte sich der Fuhrmann bis zu diesem Zeitpunkt tadellos verhalten und auf den äusseren Einfluss hin korrekt reagiert:

«Der Fuhrmann habe sich besonnen, sorgfältig und technisch korrekt verhalten, indem er eine Linkswende zum vermeintlich gefährlichen Mistkran wählte und nicht eine Rechtswende zur tatsächlich gefährlichen Böschung. Da der Fuhrmann die Linkswende sicher und an der vermeintlichen Gefahr des Mistkrans vorbei habe durchführen können, seien die Gründe für das nachträgliche Durchgehen nicht abschliessend klärbar. Ein erfahrener Fuhrmann müsse in jedem Fall in der Lage sein, auf Anzeichen eines scheuenden Pferds zu reagieren.»[364]

Dass Pferde, wenn sie durch ein äusseres Ereignis erschreckt werden, zu scheuen pflegen, ist bekannt, und ein erfahrener Fuhrmann muss in der Lage sein, auf ein solches Ereignis hin die richtige Reaktion zu zeigen, um das Pferd weiterhin unter Kontrolle zu behalten. In einer ersten Phase des Geschehens gelang dies dem Fuhrmann. Erst nach Abschluss der Linkswende muss ein weiteres Ereignis das Pferd zum Durchgehen gereizt haben. Um was für ein Ereignis es sich handelte, konnte nicht festgestellt werden. Trotz umgehender richtiger Reaktion gelingt es diesmal dem Fuhrmann nicht mehr, das Pferd unter Kontrolle zu bringen:

«Hingegen spreche ein durchgehendes Pferd auf keinerlei Einwirkungen mehr an. Der Fuhrmann habe nach dem Durchgehen des Pferds die Fussbremse der Kutsche betätigt und dahingehend alles richtig gemacht. Dennoch habe die Kutsche innerhalb weniger Sekunden eine viel zu hohe Geschwindigkeit erreicht.»[365]

Der Fuhrmann konnte somit nur noch Schadensbegrenzung leisten. Im vorliegenden Fall war zudem das Terrain nicht günstig:

«Beim Auffahren gegen die Böschung habe die Kutsche stark eingefedert. Beim anschliessenden Ausfedern sei der Fuhrmann vermutlich regelrecht aus dem Sitz katapultiert worden. Der Sturz des Fuhrmanns von der Kutsche sei nicht zu verhindern gewesen.»[366]

Im Nachhinein mag sich ein Fehlverhalten des Fuhrmanns unmittelbar nach Vollendung der Linkswende aufdrängen. Ohne Zeugen konnte ein solches jedoch schwerlich festgestellt werden:

«Auf die Frage der Beschwerdegegnerin, ob dem Fuhrmann die Verletzung einer Sorgfaltspflicht vorzuwerfen sei, antwortete der Sachverständige, aus den ihm zur Verfügung stehenden Unterlagen gehe nicht hervor, wie der Fuhrmann unmittelbar nach der Linkswende und vor dem Durchgehen des Pferds reagiert habe.»[367]

Was den Fuhrmann betraf, kam für ihn nur eine Haftung nach Art. 41 OR in Betracht, denn das Pferd gehörte nicht ihm, sondern der Brauerei. Der Beschwerdeführerin gelang es nicht, dem Fuhrmann irgendein Fehlverhalten nachzuweisen. Es genügte durchaus nicht, dass das Gutachten die Thematik eines denkbaren Fehlverhaltens des Fuhrmanns in der dem Scheuen des Pferdes zeitlich unmittelbar anschliessenden Phase aufwarf, diese Frage aber offenliess.[368] Nach dem Regime von Art. 41 ff. OR lag es an der Beschwerdeführerin, alle Elemente eines Fehlverhaltens des Fuhrmanns nachzuweisen. Der blosse Hinweis auf ein mögliches Fehlverhalten allein reicht nicht. Das Beispiel illustriert ein grundsätzliches Problem bei der Durchsetzung der Ansprüche Geschädigter, sobald ein schädigendes Ereignis nur ausreichend komplex, intransparent oder wie hier ohne unbeteiligten Beobachter ablief.

Folglich wurde die Teilklage gegen den Fuhrmann erstinstanzlich abgewiesen. Als tragfähige Haftungsgrundlage übrig blieb jedoch die Haftung der Brauerei als Halterin des Pferdes. Unter dieser alternativen Rechtsgrundlage verschiebt sich die Beweislast von der geschädigten Person weg auf die Halterin, die sich entlasten möchte:

«Demgegenüber hiess die Erstinstanz die Teilklage gegen die Beschwerdegegnerin gut. Denn diese sei Halterin des Pferds. Um der Haftung gestützt auf Art. 56 Abs. 1 OR zu entgehen, habe sie den Nachweis zu erbringen, dass der Fuhrmann als ihre Hilfsperson keine Sorgfaltspflicht verletzt habe. Falls dieser Entlastungsbeweis scheitere, müsse sie beweisen, dass der Unfall selbst dann passiert wäre, wenn der Fuhrmann in jeder Hinsicht sorgfältig gehandelt hätte. Soweit Zweifel über entlastende Tatsachen bestünden, sei ihre Haftung zu bejahen.»[369]

Die Haftung der Brauerei als Halterin richtet sich zunächst nach der Tierhalterhaftung von Art. 56 OR. Bei der Entlastungsmöglichkeit kommt hingegen das Verhalten des Fuhrmanns als Hilfsperson der Brauerei in den Blick. Nach dem Bericht über das offenbar den Umständen entsprechend korrekte Verhalten des Fuhrmanns scheint eine Haftung der Brauerei als Halterin des Pferdes zunächst schwierig zu begründen:

«Die Beschwerdeführerin trägt vor, der Sachverhalt sei in Bezug auf das Verhalten des Tiers klar, nicht jedoch bezüglich des Verhaltens des Fuhrmanns im entscheidenden Zeitpunkt nach der kontrollierten Wende. Sein Verhalten und seine Leinenhaltung, als er die Kontrolle über das Pferd verlor, sei wichtiger Teil des Sorgfaltsbeweises und damit vollumfänglich durch die Beschwerdegegnerin zu erbringen. Wenn diese es trotz der eindeutigen Formulierung im Gutachten unterlasse, hierüber Beweis zu führen, so scheitere nach der gesetzlichen Konzeption der Entlastungsbeweis und die Haftung müsse bejaht werden.»[370]

Wegen der neu verteilten Beweislast ist es nun die Brauerei, die im Nachteil ist, weil sich das Verhalten des Fuhrmanns in einem kritischen Moment nicht erstellen lässt:

«Die Erstinstanz ging im Einklang mit dem Gutachten davon aus, dass in der entscheidenden Phase vor dem Durchgehen des Pferds Beweislosigkeit herrscht. Denn gemäss dem Gutachten blieb offen, wie der Fuhrmann das Pferd im entscheidenden Moment geführt hatte. An der diesbezüglich herrschenden Beweislosigkeit ändert zudem nichts, dass die Vorinstanz dem Fuhrmann attestiert, ein äusserst erfahrener und ausgewiesener Fachmann im Umgang mit Pferden und Kutschen zu sein.»[371]

Die Folgen dieser Beweislosigkeit hatte die Brauerei zu tragen.[372] Es zeigt sich die Stellung und der Wert dieser besonderen Gefährdungshaftung, die gesetzgeberisch auf einen Interessenausgleich angesichts einer potenziell gefährlichen Tätigkeit, des Haltens eines Pferdes, gerichtet ist. Im konkreten vorliegenden Fall erscheint das Ergebnis zugunsten der geschädigten Tochter sachgerecht. Im Allgemeinen und im Hinblick auf vielleicht anders gelagerte Einzelfälle kann durchaus gefragt werden, ob Art. 56 Abs. 1 OR eine für heutige Verhältnisse und Erwartungen immer angemessene Risikoverteilung enthält. Krauskopf sieht die sachgerechte Risikoverteilung durch die Möglichkeit des haftungsbefreienden Sorgfaltsbeweises in Frage gestellt.[373] Denn wenn der Sorgfaltsbeweis gelingt, wird regelmässig diejenige Person benachteiligt, welche infolge der Verwirklichung der Gefahr geschädigt wurde. Gelingt der Sorgfaltsbeweis, trägt die geschädigte Person die Gefahr einer Anlage oder Tätigkeit, auch wenn sie diese Gefahr weder zu verantworten hat noch von der gefährlichen Anlage oder Tätigkeit profitiert.[374] Dies hätte auch im besprochenen Fall gegolten. Dass das Verhalten des Fuhrmanns nicht durchwegs nachvollzogen werden konnte, war wohl teilweise dem Zufall geschuldet.

Krauskopf spricht sich für eine Gefährdungshaftung der Tierhalter aus, wie sie in anderen modernen Rechtsordnungen bereits verwirklicht sei.[375] Wenn ein Tier einen Schaden verursacht, soll der Tierhalter, unter Vorbehalt aussergewöhnlicher Umstände, für diesen Schaden aufkommen, selbst wenn er alle nach den Umständen gebotene Sorgfalt in der Verwahrung und Beaufsichtigung des Tieres angewendet hat. Ein haftungsbefreiender Sorgfaltsbeweis und ein Befreiungsbeweis, dass der Schaden auch bei Anwendung dieser Sorgfalt eingetreten wäre, sollten nicht möglich sein. Diese Lösung überzeuge allein schon deswegen, weil sie die Risikotragung für eine tierbedingte Gefahr dort verortet, wo sie hingehört: beim Tierhalter («mein Tier – mein Risiko» und nicht «mein Tier – dein Risiko»). Sie überzeuge aber auch deswegen, weil der umsichtige Tierhalter sich gegen die finanziellen Folgen der Tierhalterhaftung versichern könne, während die arglose Person, welche – wie im besprochenen Fall von Mutter und Tochter auf der Velotour – Zufallsopfer eines tierbedingten Schadens wird, für diesen Schaden möglicherweise gar keine oder zumindest keine vollständige Versicherungsdeckung geniesse.[376] Eine solche Gefährdungshaftung wird im nächsten Unterabschnitt anhand der Haftung für den Betrieb einer Eisenbahn beschrieben und besprochen.

Seine kritische Haltung gegenüber dem Sorgfaltsbeweis machte Krauskopf an einem weiteren Unfall mit Pferden fest, über dessen Folgen das Bundesgericht 2019 zu befinden hatte.[377] Der Sachverhalt präsentierte sich bei diesem Entscheid im Wesentlichen wie folgt: Zwei Pferde gerieten ob einiger Kühe, die in ihre Pferdeweide eindrangen, in Panik und entliefen. Eines der Pferde kollidierte später mit einem Motorradfahrer, der dadurch erheblich verletzt wurde. Die Vorinstanz stellte zwar fest, dass die Umzäunung der Pferdeweide die vorgeschriebene Mindesthöhe von 140 cm nicht erreicht habe. Diese Sorgfaltspflichtverletzung sei aber für den Ausbruch der Pferde nicht kausal gewesen (sondern das Eindringen der Kühe, die auch einen vorschriftsmässig erstellten Zaun durchbrochen hätten). Folglich gelinge es dem Beklagten, sich von der Tierhalterhaftung zu befreien.[378] Das Bundesgericht stützte diesen Entscheid der Vorinstanz, den sie als willkürfrei erkannte. Auch in diesem Fall blieb ein Teil der Ereignisse im Dunkeln. So wurde der Sprung der Pferde über den Zaun von niemandem beobachtet. Aber: «Die rein theoretische Möglichkeit, dass sich nicht mehr vollständig rekonstruierbare Vorgänge anders verhielten, führt nicht zum Scheitern des Entlastungsbeweises».[379] Im vorliegenden Fall vermisste Krauskopf wohl zu Recht die sonst strikte Linie des Bundesgerichts beim Entlastungsbeweis. In der Tat kann man sich fragen, ob ein umsichtiger Pferdehalter nicht auch dafür sorgen sollte, dass nicht irgendwelche anderen Tiere in eine Pferdeweide eindringen können.

Für die späteren Überlegungen zur Haftung bei KI-Anwendungen ist nach diesen Erkenntnissen Folgendes vorzumerken: Die Tierhalterhaftung greift nur, solange das Tier ein «Verhalten aus eigenem Antrieb» zeigt. Das Konzept des Verhaltens aus eigenem Antrieb kann mit dem Konzept der Autonomie verglichen werden. Der Handelsalgorithmus bzw. «Trading-Roboter» aus dem im vorangehenden Abschnitt besprochenen Fall verfügte über keinerlei Autonomie. Er war reines Arbeitsinstrument der mit dem Market Making befassten Händler. Wie beim Einsatz eines Tieres als willenlosem Werkzeug eines Menschen hätte somit im besagten Fall eine Haftung nur bei den Bankmitarbeitern gesucht werden können, die über den Einsatz des Handelsalgorithmus entschieden oder die ihn für seinen Einsatz vorbereitet hatten. Es liegt in der Natur der Sache, dass ein Fehlverhalten angesichts der schwer nachvollziehbaren Vorgänge nur schwer nachgewiesen werden kann. Diese Schwierigkeit trifft die geschädigte Person, bei der es sich typischerweise um eine Aussenseiterin handelt, die in diese Vorgänge und Verhältnisse kaum Einblick hat. Der Gesetzgeber müsste ihr mit einer Umkehr der Beweislast helfen, wie sie bei der Tierhalterhaftung vorliegt. Etwas anders präsentieren sich Anwendungen wie Pflegeroboter.[380] Sofern ein Pflegeroboter über eine ausreichende Autonomie verfügt, könnte sein Handeln durchaus mit einem Handeln oder Verhalten aus eigenem Antrieb bei einem Tier gleichgesetzt werden. Mit Borio ist zu sagen, dass eine analoge Anwendung von Art. 56 OR auf einen Pflegeroboter fragwürdig wäre, da es ihm an jeder mit einem Tier vergleichbaren Lebendigkeit fehlt.[381] Nach der Meinung von Lohmann ist zweifelhaft, ob die Haftungsvoraussetzung der «Verwirklichung einer typischen Tiergefahr durch die Verwirklichung einer typischen Robotergefahr ersetzt werden» könne. Zudem müsse den Besonderheiten der «Aufgabendelegation an einen robotischen Agenten» gebührend Rechnung getragen werden. Dennoch könnte die Tierhalterhaftung als «fruchtbare Grundlage» zur Schaffung eines Haftungskonzepts für Roboter herangezogen werden.[382]

Der Gesetzgeber müsste für künstliche Akteure eine eigene Regelung erlassen. Wo die kritische Grenze zu ziehen ist, bei der bei Robotern von einem Verhalten oder gar Handeln aus eigenem Antrieb gesprochen werden muss und ab der der Gesetzgeber zum Handeln aufgefordert sein könnte, wird in Kapitel IV näher ausgeleuchtet. Ein besonderes Augenmerk wird dem Entlastungsbeweis gewidmet werden müssen, um für einen sachgerechten Interessenausgleich zu sorgen.

Werkeigentümerhaftung

Betrachtet man einen Roboter als eine blosse Sache, was nach geltendem Recht naheliegend ist, könnte die Werkeigentümerhaftung als mögliche Haftungsgrundlage für Schäden in Frage kommen, die ein Roboter verursacht. Nach Art. 58 Abs. 1 OR haftet der Eigentümer eines Gebäudes oder eines anderen Werks für den Schaden, den das Gebäude oder das Werk infolge fehlerhafter Anlage (Konstruktion), Herstellung oder mangelhaften Unterhalts verursacht.[383]

Der mögliche Anwendungsbereich von Art. 58 OR im Hinblick auf Roboter ist jedoch äusserst eng. Offensichtlich sind Roboter keine Gebäude, bei denen es sich um mit dem Boden fest verbundene Bauwerke irgendwelcher Art handelt, die Räume umschliessen.[384] Als Werke gelten sodann stabile, durch Menschenhand künstlich hergestellte oder angeordnete bauliche oder technische Anlagen, die mit dem Erdboden, sei es direkt oder indirekt, dauerhaft verbunden sind.[385] Ein Fertigungsroboter in einer Autofabrik qualifiziert ohne Weiteres als Werk. Andere Roboter zeichnen sich gerade durch ihre Mobilität aus, wie etwa ein Pflegeroboter[386] oder ein Roboter, der nach Minen sucht oder auf einer Baustelle Materialien transportiert. Gerade die mobilen Roboter, die über eine grosse Autonomie verfügen, qualifizieren nicht als Werke.

Für die weitere Diskussion ist folgende Überlegung zur Abgrenzung der Werkeigentümerhaftung von der Grundnorm nach Art. 41 OR bedeutsam:[387] Der Werkeigentümer hat für einen bestehenden Mangel des Werks einzustehen, wobei es nicht darauf ankommt, wie dieser Mangel verursacht wurde. Einen Werkmangel, der durch blossen Zufall[388] entstanden ist, vermag die Werkeigentümerhaftung ebenso gut zu begründen wie einen Mangel, der durch das Fehlverhalten einer Hilfsperson[389] verursacht wurde. Es ist das Werk selbst, welches die Gefahr durch seine blosse Existenz und Anwesenheit im Raum begründet; einer darüberhinausgehenden, schädigenden Handlung eines Menschen bedarf es nicht mehr.[390] Dies unterscheidet das Werk wesentlich von einem (Fahrnis‑)Gegenstand: Die Gefahr durch ein traditionelles Werkzeug entsteht gerade erst durch das Verhalten des Menschen, der es benutzt.[391]

Haftung für Signaturschlüssel

Nach Art. 59a Abs. 1 OR haftet der Inhaber eines kryptografischen Schlüssels, der zur Erzeugung elektronischer Signaturen oder Siegel eingesetzt wird, Drittpersonen für Schäden, die diese erleiden, weil sie sich auf ein gültiges geregeltes Zertifikat einer anerkannten Anbieterin von Zertifizierungsdiensten im Sinne des ZertES verlassen haben. Die Haftung entfällt, wenn der Inhaber glaubhaft darlegen kann, dass er die nach den Umständen notwendigen und zumutbaren Sicherheitsvorkehrungen getroffen hat, um den Missbrauch des kryptografischen Schlüssels zu verhindern (Art. 59a Abs. 2 OR).

Wie der Wortlaut der Norm selbst verrät, handelt es sich bei den genannten kryptografischen Schlüsseln um solche, die für die Erzeugung elektronischer Signaturen benötigt werden.[392] Diese neue Haftungsnorm ist eine Ergänzung zu den Bestimmungen des Signaturgesetzes (ZertES), welches die Grundlage für die Einführung und das Anbieten von elektronischen Signaturen in der Schweiz darstellt. Als elektronische Signatur gelten Daten in elektronischer Form, die anderen elektronischen Daten beigefügt oder die logisch mit ihnen verknüpft sind und zu deren Authentifizierung dienen (Art. 2 Bst. a ZertES[393]). Elektronische Signaturen gibt es in verschiedenen Ausführungen. Die simpelste Form, auf Englisch oft Simple Electronic Signature (SES) genannt, kann durch das Einscannen einer handschriftlichen Unterschrift erzeugt werden. Fortgeschrittene Formen beinhalten zusätzliche Sicherheitsstufen, um die Authentizität der elektronischen Signatur abzusichern. Die höchste Stufe im ZertES weist die sogenannte qualifizierte elektronische Signatur (QES) auf.[394]

Nach Art. 14 Abs. 2bis OR ist die QES mit Zeitstempel rechtlich der eigenhändigen Unterschrift gleichgestellt. D.h. mit einer solchen QES ist es möglich, Verträge über elektronische Kanäle selbst dann rechtsgültig unterzeichnen zu können, wenn sie einem gesetzlichen oder einem vertraglich vereinbarten Schriftformerfordernis unterliegen.[395] Die elektronische Signatur ist demnach ein beinah unverzichtbares Instrument für die weitere Verbreitung digitaler Geschäftsmodelle, die über den einfachen Online-Handel hinausgehen, bei dem noch ein simpler Klick genügt, um einen Kaufvertrag abzuschliessen.

Vor diesem Hintergrund liegt die ratio legis der Bestimmung in der Förderung der Verkehrssicherheit bei der Verwendung geregelter Zertifikate, die für die Erzeugung der QES benötigt werden.[396] Wie die Botschaft von 2014 zur Totalrevision des Signaturgesetzes ausführt, widerspiegelt diese Haftung «die besondere Konstellation bei der elektronischen Signatur, bei welcher die Empfängerin oder der Empfänger des signierten Dokuments im typischen Fall weder mit der Anbieterin des Zertifikats noch mit dem signierenden Absender in einer vertraglichen Beziehung steht».[397] Damit der Empfänger trotzdem ein hohes Vertrauen in die QES setzen kann, lässt ihm der Gesetzgeber sowohl die Zertifikatsanbieterin gemäss Art. 17 ZertES als auch den Zertifikatsinhaber selbst gemäss dem hier besprochenen Art. 59a OR für ein Mindestmass an Sorgfalt bei der Wahrnehmung ihrer jeweiligen Pflichten haften.

Die vom Inhaber erwarteten Massnahmen sind in Art. 13 VZertES aufgelistet. Auf dieser Liste finden sich die heutzutage üblichen Massnahmen, um elektronische Zugangsdaten wie Benutzernamen und Passwörter sicher aufzubewahren. Dazu gehört, dass die Inhaberin eines geregelten Zertifikates bei Verlust oder Diebstahl der Signatur- oder Siegelerstellungseinheit bei der Anbieterin von Zertifizierungsdiensten so rasch wie möglich beantragen muss, das Zertifikat als ungültig zu erklären. Als Entlastungsbeweis für den Inhaber dient ein Sorgfaltsbeweis, bei dem jedoch im Unterschied zu Art. 56 OR ein geringeres Beweismass zur Anwendung kommt: Es genügt, wenn der Inhaber glaubhaft darlegen kann, dass er alle von ihm objektiv zu erwartenden Sicherheitsmassnahmen getroffen hat. Dass Glaubhaftmachung genügt, ist der Tatsache geschuldet, dass es im konkreten Fall schwierig sein wird, je nach Fall schlüssig zu beweisen, dass der Inhaber in Bezug auf seine IT-Infrastruktur eine bestimmte Handlung vorgenommen hat oder eben nicht.[398] Vom reduzierten Beweismass abgesehen entspricht das Muster für diese Kausalhaftung dem der Haftung des Tierhalters.

Dass neben der Anbieterin von Zertifizierungsdiensten auch der Inhaber des geregelten Zertifikats auf der Grundlage einer Sondernorm für die Authentizität der Signatur haften soll, war und ist nicht unumstritten.[399] In der analogen Welt haftet jemand nicht schon deshalb, weil er sich einer einfach nachzumachenden handschriftlichen Unterschrift bedient. In der digitalen Welt mögen bei manchem potentiellen Nutzer in Zeiten von Berichten über Cyberkriminalität und Identitätsdiebstählen Zweifel über die Sicherheit der elektronischen Signaturlösungen aufkommen.[400] Zudem kann sich grundsätzlich jeder, der sich Zugang zum Benutzernamen mit Passwort verschafft, als der rechtmässige Inhaber der Signatur ausgeben und so Dokumente vorgeblich im Namen des Inhabers elektronisch signieren.[401] Hier liegt tatsächlich der Schwachpunkt der elektronischen Signatur und somit haben die nach Art. 13 VZertES erwarteten Sicherheitsmassnahmen durchaus
ihre Berechtigung.[402]

Bei aller Kritik an Art. 59a OR ist doch zu bemerken, dass der Anwendungsbereich der Norm bereits aus konzeptioneller Sicht eng beschränkt ist, wie die Grafik aufzeigt:[403] Die Bestimmung kommt nämlich nur zum Zuge, wenn beweismässig feststeht, dass das fragliche Dokument nicht von der rechtmässigen Inhaberin des Zertifikats signiert worden ist, also ein Missbrauch vorliegt. In diesem Fall liegt es nahe, dass die Inhaberin mit ihrem Signaturschlüssel unsorgfältig umgegangen ist. Ohne die Sondernorm von Art. 59a OR könnte die Inhaberin des Zertifikats nur nach den allgemeinen Regeln (insb. Verschuldenshaftung) für den Missbrauch haftbar gemacht werden. Hier wären die Hürden hoch, namentlich da die Widerrechtlichkeit der Schädigung mangels einer einschlägigen Schutznorm fraglich wäre.[404] Im Ergebnis müsste der Empfänger den allfälligen Schaden selbst tragen, was nach der massgeblichen Interessen- und Risikoverteilung wiederum nicht als zweckmässig und sachgerecht erscheint.

Den typischen Anwendungsfall kann man sich etwa so vorstellen: Die Schlüsselinhaberin legt glaubhaft dar, sie habe faktisch gar nicht unterschreiben können, weil sie zum Signaturzeitpunkt hospitalisiert war. Es könne aber nicht ausgeschlossen werden, dass ein Kollege oder sonst jemand, der Zutritt zu ihrem Büro hat, mit ihrem Schlüssel signiert hätte. Ihre Signaturkarte liege inklusive PIN-Code normalerweise auf ihrem Pult.[405] Ohne den Art. 59a OR würde sie in diesem Fall wohl nicht haften und der Empfänger des signierten Dokuments müsste den Schaden selbst tragen. Mit dieser Regelung haftet sie, weil sie die Sicherheitsvorkehrungen gemäss Art. 13 VZertES offensichtlich nicht eingehalten hat.[406]

Das Regime von Art. 59a OR wird ergänzt durch die Haftung der anerkannten Anbieterin von Zertifizierungsdiensten nach Art. 17 ZertES. Sie haftet dem Inhaber eines gültigen geregelten Zertifikats aber auch Drittpersonen, die sich auf ein solches Zertifikat verlassen haben, für Schäden, die diese erleiden, weil die Anbieterin den Pflichten aus dem ZertES und seinen Ausführungsbestimmungen nicht nachgekommen ist (Art. 17 Abs. 1 ZertES). Dafür, dass sie diesen Pflichten nachgekommen ist, trägt sie die Beweislast (Art. 17 Abs. 2 ZertES). Eine vertragliche Wegbedingung dieser Haftung ist nicht zulässig (Art. 17 Abs. 3 ZertES). Die beiden Haftungsnormen decken die möglichen Fehlerquellen beim Einsatz von elektronischen Signaturen vollständig ab. Zu den Pflichten der anerkannten Anbieterinnen gehört dabei insbesondere die verlässliche und sichere Identifizierung der Nutzer bzw. Schlüsselinhaber durch persönliche Vorsprache mit Vorlage eines amtlichen Ausweises (Art. 9 ZertES i.V.m. Art. 5 VZertES) oder auf Distanz mit Hilfe eines geeigneten technischen Verfahrens (Art. 9 ZertES i.V.m. Art. 7 VZertES). Auf der Grundlage aktueller Erkenntnisse zu den dabei eingesetzten technischen Sicherungsverfahren kann bei einer ordnungsgemässen Anwendung und fehlerfreien Funktion von deren praktischer Unüberwindbarkeit ausgegangen werden.[407] Bei einem Missbrauch einer elektronischen Signatur ist somit eine Sorgfaltspflichtverletzung des Inhabers wahrscheinlicher als ein Hackerangriff oder ein Fehler auf Seiten der Anbieterin. Von einer automatischen Beweisregel in dieser Richtung ist jedoch abzusehen.

Die Ausnahme (Teil 2): Scharfe Kausalhaftungen

Übersicht

Wie im einleitenden Abschnitt III.1 erwähnt, werden die Gefährdungshaftungen auch als scharfe oder strenge Kausalhaftungen bezeichnet.[408] Während einfache Kausalhaftungen an eine Ordnungswidrigkeit (z.B. bei Art. 58 OR an einen Werkmangel) anknüpfen,[409] setzen die spezialgesetzlich geregelten Gefährdungshaftungen weder ein Verschulden noch eine Ordnungswidrigkeit, sondern bloss die besondere Beziehung zu einer Gefahrenquelle voraus.[410] Man haftet, weil man eine Gefahr geschaffen hat, wie es Wesel prägnant formulierte.[411] Spezialgesetzliche Gefährdungshaftungen gehen der Grundnorm von Art. 41 OR grundsätzlich vor.[412]

Beispiele für Gefährdungshaftungen finden sich im Zusammenhang mit folgenden Gefahrenquellen:

Betriebe oder Anlagen, die eine Gefahr für die Umwelt darstellen (Art. 59a USG) oder in denen Sprengmittel hergestellt, gelagert oder verwendet werden (Art. 27 SprstG);

bestimmte Anlagen, namentlich Stromleitungen (Art. 27 ff. EleG), Rohrleitungen (Art. 33 ff. RLG), Kernanlagen (Art. 3 ff. KHG);

bestimmte Transportmittel, namentlich Eisenbahnen (Art. 40b f. EBG), Motorfahrzeuge (Art. 58 ff. SVG), Flugzeuge (Art. 64 ff. LFG);

bestimmte Tätigkeiten, namentlich die Jagd (Art. 15 f. JSG).

Zur Illustration des Konzepts der scharfen Kausalhaftung werden in diesem Abschnitt die Haftung des Inhabers eines Eisenbahnunternehmens (Art. 40b f. EBG), die Haftung des Motorfahrzeughalters (Art. 58 ff. SVG) sowie die Kernenergiehaftung (Art. 3 ff. KHG) behandelt. Wie im historischen Abriss zum Haftpflichtrecht dargestellt, handelt es sich bei der Eisenbahnhaftung um das erste moderne Beispiel einer Gefährdungshaftung.[413] Die Haftung des Motorfahrzeughalters ist von unmittelbarem Interesse, wenn es um selbstfahrende Fahrzeuge geht. Die Kernenergiehaftung schliesslich eignet sich bestens zur Darstellung und Diskussion eines konkreten Ansatzes zur Risikovorsorge, einschliesslich Umgang mit Restrisiken.[414] Für diese drei Haftungsregelungen soll jeweils insbesondere die jeweilige charakteristische Gefahr identifiziert und beschrieben werden. Angenommen, der Gesetzgeber möchte eine Gefährdungshaftung für KI (bzw. für KI-Systeme von bestimmtem Typ) einführen. Dann müssten aus dogmatischen Gründen die Gefahren identifiziert werden, welche für KI (bzw. für KI-Systeme von bestimmtem Typ) charakteristisch sind. Ob dies für KI gleich zu bewerkstelligen ist wie für Eisenbahnen oder die Atomenergie, ist eine fachlich interessante Frage. Um sie beantworten zu können, müssen in Kapitel V erst die nötigen fachlichen, d.h. mathematisch-statistischen Grundlagen zusammengestellt werden.

Haftung des Inhabers eines Eisenbahnunternehmens

Nach Art. 40b Abs. 1 EBG[415] haftet der Inhaber eines Eisenbahnunternehmens für den Schaden, wenn die charakteristischen Risiken, die mit dem Betrieb der Eisenbahn verbunden sind, dazu führen, dass ein Mensch getötet oder verletzt wird oder ein Sachschaden entsteht.[416] Der Inhaber wird jedoch von der Haftpflicht entlastet, wenn ein Sachverhalt, der ihm nicht zugerechnet werden kann, so sehr zur Entstehung des Schadens beigetragen hat, dass er als dessen Hauptursache anzusehen ist (Art. 40c Abs. 1 EBG). Derartige Sachverhalte sind insbesondere: a. höhere Gewalt oder b. grobes Verschulden der geschädigten oder einer dritten Person (Art. 40c Abs. 2 EBG). Diese Liste ist nach dem Wortlaut der Bestimmung nicht abschliessend.[417]

Mit der Regelung der Haftung der Eisenbahnunternehmen führte der Schweizer Gesetzgeber zum ersten Mal eine Haftungsart ein, welche die Haftung bereits an die Verwirklichung eines Risikos knüpfte, das mit einem als gefährlich eingestuften Betrieb verbunden war.[418] Die Gefahren sind inhärent mit der eingesetzten Technologie verbunden: «Die Fortbewegung der Eisenbahn beinhaltet, u.a. aufgrund ihrer Masse, der langen Bremswege und der festen Verbindung der Eisenbahn mit den Schienen, welche ihr das Ausweichen verunmöglicht (sog. Spurführung), ein besonders grosses Gefährdungspotential. Da dieses Gefährdungspotential auch unter Aufwendung grösster Sorgfalt nicht gänzlich beherrschbar ist und Schutzmassnahmen die potenziellen Schäden, die mit dem Eisenbahnbetrieb verbunden sind, nur in beschränktem Ausmass zu verhindern vermögen, rechtfertigt sich die Gefährdungshaftung in diesem Bereich».[419] Die Durchsetzung der Eisenbahn als Massentransportmittel war denn auch mit der Akzeptanz eines gewissen Restrisikos verbunden. Eisenbahnunfälle sollten sich immer wieder ereignen;[420] häufig waren sie Auslöser für weitere Verbesserungen bei der Sicherheitstechnik.[421]

Die Gefährdungshaftung der Eisenbahnunternehmen war bis zum 1. Januar 2010 im Eisenbahnhaftpflichtgesetz (EHG) geregelt,[422] bevor das EHG aufgehoben und die Eisenbahnhaftpflicht in die Art. 40b–40f des bereits seit 1957 bestehenden Eisenbahngesetzes (EBG) überführt und neu geregelt wurde.[423] Die ursprüngliche Regelung umfasste übrigens auch die Haftung der Dampfschifffahrtunternehmen, denen in der Mitte des 19. Jh. für die Verkehrserschliessung der Schweiz eine gegenüber heute ungleich grössere Bedeutung zukam und nicht nur touristischen Zwecken diente.[424]

Haftungsvoraussetzung nach Art. 40b Abs. 1 EBG ist die Verwirklichung eines mit dem Betrieb der Eisenbahn verbundenen charakteristischen Risikos. Bei diesen charakteristischen Risiken handelt es sich um Gefahrenquellen, welche beim Betrieb von Eisenbahnen üblich sind und eine «kaum beherrschbare» Gefährdung von Menschen und Sachen mit sich bringen.[425] Es besteht somit immer ein gewisses Restrisiko für eine Schädigung. Die Botschaft nennt als Quellen besonderer charakteristischer Gefahren (i) die Fortbewegung, (ii) die verwendete Energie und (iii) die transportierten gefährlichen Güter.[426] Hinzu kommt eine Reihe weiterer Risiken, welche die eigentliche Funktionsweise einer Eisenbahn mit sich bringen, namentlich die bewegte Masse der Fahrzeuge, ihre Schienengebundenheit, die Bremswege etc.[427]

Der in Art. 40c EBG vorgesehene Entlastungsbeweis ist kein Sorgfaltsbeweis, sondern abhängig von einem Drittereignis, welches den adäquaten Kausalzusammenhang unterbricht.[428] Die dort aufgelisteten Entlastungsgründe sind nicht als abschliessende Liste zu verstehen, sondern dienen als Massstab für die Beurteilung, ob ein Entlastungsgrund vorliegt.[429] Ganz im Einklang mit dem Verständnis, dass die charakteristischen Risiken eines Eisenbahnbetriebs «kaum beherrschbar» sind, kann bei einem Unfall ein sorgfältiges Verhalten nicht zur Entlastung des Betreibers führen.

Zur Illustration dieses strengen Prinzips sei auf einen Unfall verwiesen, der sich 2016 im Bahnhof Affoltern a.A. ereignete. Ein auf dem Bahnsteig wartender Passagier wurde von einer Person unter eine einfahrende S-Bahn gestossen und einige Meter vom Zug mitgeschleift. Der Täter wurde im Strafverfahren infolge einer Drogenabhängigkeit und einer psychiatrischen Erkrankung als schuldunfähig erklärt.[430] Das vom Geschädigten angerufene Handelsgericht Zürich verurteilte die SBB, gestützt auf Art. 40b EBG, dem Geschädigten eine Genugtuung von CHF 35’000 zu zahlen; eine Entlastung nach Art. 40c EBG verneinte das Gericht.[431] Das von der SBB angerufene Bundesgericht stützte den Entscheid des Handelsgerichts.[432] Das Bundesgericht befand, dass sich im zu beurteilenden Fall «das charakteristische Betriebsrisiko der Eisenbahn verwirklicht» habe und der adäquate Kausalzusammenhang durch den Stoss als hinzukommende Teilursache nicht unterbrochen worden sei. Die Auffassung der Gerichte lässt sich im Wesentlichen dahingehend zusammenfassen, dass das Stossen eines wartenden Passagiers vor einen einfahrenden Zug im Rahmen des Betriebsrisikos der Eisenbahn liegt.[433] Dass in diesem Fall der Stoss mit Absicht ausgeführt wurde, genügte nicht, um dieses grundsätzlich bestehende (Rest‑)Risiko völlig in den Hintergrund zu drängen und dadurch als Unterbruch des Kausalzusammenhangs zu gelten.[434] Das Argument ist vergleichbar mit dem Argument, dass der kausal haftende Inhaber einer Rohrleitungsanlage bei Drittverschulden oder Vertragsverletzung eines Dritten auf den Schädiger Regress nehmen darf, sofern er seine Anlage im Übrigen sorgfältig betrieben hat.[435]

Haftung des Motorfahrzeughalters

Nach Art. 58 Abs. 1 SVG haftet der Halter für den Schaden, wenn durch den Betrieb eines Motorfahrzeugs ein Mensch getötet oder verletzt oder ein Sachschaden verursacht wird. Eine Befreiung von der Haftung ist nach Art. 59 Abs. 1 SVG möglich, wenn der Unfall durch höhere Gewalt oder durch grobes Verschulden des Geschädigten oder eines Dritten verursacht wurde, ohne dass der Halter direkt oder indirekt eine Mitverantwortung trägt, sei dies durch Personen, für die er verantwortlich ist, oder durch eine fehlerhafte Beschaffenheit des Fahrzeugs. Bei einem Mitverschulden des Geschädigten gestattet sodann Art. 59 Abs. 2 SVG es dem Richter, die Ersatzpflicht unter Würdigung aller Umstände festzulegen.[436]

Bei der Haftung für Betriebs-Verkehrsunfälle nach Abs. 1 handelt es sich nach h. L. um einen Tatbestand der Gefährdungshaftung.[437] Die diesen Tatbestand begründende spezifische Gefahr wird erst im Betrieb, d.h. durch den Gebrauch der maschinellen Einrichtungen des Motorfahrzeugs, geschaffen. Entscheidend ist wie bei der Eisenbahn das latente Schädigungspotenzial der mechanisch in schnelle Bewegung gesetzten Massen.[438] Entsprechend zählt die Halterhaftung im eigentlichen Sinn zu den Betriebshaftungen.[439] Angesichts dieses Schädigungspotentials, welches sich sogar ohne Verschulden des Fahrers realisieren kann, war es nach Probst «sozialpolitisch nicht mehr zu verantworten», dass ein unschuldiger Geschädigter den erlittenen Schaden ganz nach dem römisch rechtlichen Grundsatz casum sentit dominum selber tragen sollte.[440]

Steht das Fahrzeug nicht in Betrieb, so greift eine Kombination aus einfacher Kausalhaftung und Verschuldensprinzip,[441] d.h. der Geschädigte muss ein schuldhaftes Verhalten des Halters oder einer Hilfsperson oder eine fehlerhafte Fahrzeugeigenschaft nachweisen (Art. 58 Abs. 2 SVG).[442]

Der Begriff des Halters wird im Gesetz nicht definiert. Weissenberger spricht sich dafür aus, dass sich die Haltereigenschaft nach den beiden (nicht kumulativ zu verstehenden) Kriterien der tatsächlichen Unterhaltslast und Verfügungsgewalt beurteilt.[443] Dafür spreche das Interesse- oder Utilitätsprinzip, wonach die kausale Haftung aus einer Gefährdung insbesondere der tragen soll, der den besonderen, unmittelbaren Nutzen aus dem gefährlichen Betrieb zieht.[444] Auf das Utilitätsprinzip wird an anderer Stelle wiederholt zurückzukommen sein; es dürfte für eine Haftung für KI-Systeme ebenso richtungsweisend sein.

Im Ergebnis kommen bei Unfällen im Strassenverkehr für die ausservertragliche Haftung a priori zwei Stützen in Frage: die Haftung des Halters (Art. 58 f. SVG) des unfallverursachenden Fahrzeugs sowie die Verschuldenshaftung des Lenkers (Art. 41 ff. OR). Je nach Umständen kann ergänzend die Produkthaftpflicht des Herstellers des Fahrzeugs hinzukommen (Art. 1 ff. PrHG). Zu beachten ist dabei, dass die Haftungsbestimmungen des SVG als Spezialgesetzgebung den allgemeinen deliktsrechtlichen Bestimmungen vorgehen. Das bedeutet, dass die Kausalhaftung des Halters für Verkehrsunfälle (Art. 58 Abs. 1 SVG) unter Zurechnung des Verhaltens seiner Hilfspersonen (Art. 58 Abs. 4 SVG) die allgemeine Verschuldenshaftung (Art. 41 OR) genauso wie die (allgemeine) Geschäftsherrenhaftung (Art. 55 OR) dominiert bzw. verdrängt.[445] Im Übrigen ist zu ergänzen, dass die Haftung mehrerer an einem Unfall beteiligter Halter untereinander von Art. 61 SVG geregelt wird.

Die praktische Anwendung dieser Haftungsnorm wird sicher dadurch begünstigt, dass Strassenverkehrsunfälle (leider) Erscheinungen des Alltags sind, zu denen die meisten, sei es als direkt Beteiligte, sei es als Passanten oder Angehörige, anschauliche Erfahrungen machen. Entsprechend der Häufigkeit von Strassenverkehrsunfällen tritt eine jahrzehntelange, sehr reichhaltige Rechtsprechung hinzu, welche die einzelnen Tatbestandsmerkmale der Halterhaftung in den verschiedensten Konstellationen ausleuchtet.[446]

Haftung für nukleare Schäden

Nach Art. 3 KHG haftet der Inhaber einer Kernanlage ohne betragsmässige Begrenzung für nukleare Schäden (Abs. 1). Er haftet auch für nukleare Schäden, die unmittelbar auf bewaffnete Konflikte, Feindseligkeiten, Bürgerkriege, Aufstände oder terroristische Gewaltakte zurückzuführen sind (Abs. 2).[447]

Art. 3 Abs. 1 KHG regelt die zivilrechtliche Haftung für nukleare Schäden, die durch Kernanlagen oder beim Transport von Kernmaterialien verursacht werden, sowie deren Deckung.[448] Anders als bei den ersten beiden Beispielen aus diesem Abschnitt handelt es sich bei der Haftung für nukleare Schäden nicht um eine Betriebshaftung. Es ist nicht der Betrieb einer Kernanlage an sich, der gefährlich ist. Die massgebliche Gefahr stellt vielmehr die bei der Kernspaltung freiwerdende Atomenergie[449] dar. Es geht somit um eine Kausalhaftung für eine gefährliche Naturkraft. Dieses Verständnis widerspiegelt sich in der Definition des zentralen Begriffs des nuklearen Schadens, die sich wesentlich auf den Begriff der ionisierenden Strahlung abstützt: Bei einem nuklearen Schaden kann es sich sowohl um einen Personen- als auch um einen Sachschaden handeln, sofern er nur «von ionisierender Strahlung herrührt oder sich daraus [aus dieser] ergibt, die von einer Strahlenquelle innerhalb einer Kernanlage oder von Kernbrennstoffen oder radioaktiven Erzeugnissen oder Abfällen in einer Kernanlage oder von Kernmaterialien, die von einer Kernanlage kommen, dort ihren Ursprung haben oder an sie gesandt werden, ausgeht».[450] Die Haftung nach Art. 3 Abs. 1 KHG ist somit ein Beispiel für eine Gefährdungshaftung im eigentlichsten Sinn.

Inhaber einer Kernanlage ist, wer in der Betriebs- oder Transportbewilligung ausdrücklich als solcher bezeichnet ist.[451]

Die spezifische Gefährlichkeit, die mit der Atomkraft verknüpft ist, führte zu zwei weiteren Besonderheiten in der rechtlichen Ausgestaltung der Haftungsmodalitäten. Zunächst wird im Gesetz ausdrücklich festgehalten, dass die Haftung für nukleare Schäden betragsmässig unbeschränkt ist.[452] Dies entspricht den allgemeinen Regeln des Haftpflichtrechts und erscheint somit überflüssig. Tatsächlich sah das internationale Recht ursprünglich jedoch eine verbindliche (!) Haftungsobergrenze vor, die erst mit dem Revisionsprotokoll von 2004 zum Pariser Übereinkommen wegfiel.[453] Aus rein rechtlicher Sicht interessanter ist das Konzept der sogenannten Kanalisierung.[454] Die rechtliche Kanalisierung der Haftung beschränkt die Klagerechte für nukleare Schäden auf die Inhaber der Kernanlagen alleine, wobei deren Rückgriffsrechte auf weitere Beteiligte an der Lieferkette in Durchbrechung des Prinzips der Solidarität eingeschränkt werden.[455] Die wirtschaftliche Kanalisierung konzentriert sodann nicht die Haftpflicht, sondern die Versicherungspflicht auf den Inhaber der Kernanlage.[456] Dies führt dazu, dass der Inhaber der Kernanlage auch für einen Schaden haftpflichtig ist, der durch ein nukleares Ereignis ausserhalb der Anlage verursacht worden und auf Kernmaterialien zurückzuführen ist, die entweder von der Anlage weg oder zur Anlage hin befördert werden. Dabei ist für Schäden im Verlaufe des Transports von Kernmaterialien entweder der absendende oder der empfangende Inhaber einer Kernanlage haftpflichtig.[457]

Nach den allgemeinen Regeln des Haftpflichtrechts führt namentlich höhere Gewalt[458] zu einer Unterbrechung des Kausalzusammenhangs.[459] Das Gesetz bestimmt jedoch, dass der Inhaber einer Kernanlage auch für nukleare Schäden haftet, die unmittelbar auf bewaffnete Konflikte, Feindseligkeiten, Bürgerkriege, Aufstände oder terroristische Gewaltakte zurückzuführen sind (Art. 3 Abs. 2 KHG). Solche Ereignisse dürften üblicherweise als höhere Gewalt qualifizieren.[460] Bei Gefährdungshaftungen sind an eine Unterbrechung des Kausalverlaufs jedoch höhere Anforderungen zu stellen, namentlich wenn das Betriebsrisiko oder die massgebliche Gefahrenquelle nach wie vor eine Mitursache setzen.[461] Dies zeigte sich bereits bei der Besprechung der Eisenbahnhaftpflicht nach Art. 40a EBG.[462] Dies muss zweifellos auch für das Risiko der Atomkraft gelten.

Zur Produkthaftung im Besonderen

Allgemeines

Als Produktschäden gelten die Folgeschäden, die der Abnehmer eines Produkts oder ein unbeteiligter Dritter infolge eines Fehlers dieses Produkts selbst oder infolge ungenügender Warnung vor gefährlichen Eigenschaften des Produkts durch den Hersteller erleidet.[463] Die Haftung des Herstellers für ein fehlerhaftes Produkt (kurz allgemein Produkthaftung genannt) kann der Kategorie der gewöhnlichen Kausalhaftungen zugeordnet werden.[464] Insofern hätte die Darstellung der Produkthaftung den Reigen der zuvor vorgestellten Spezialnormen fortsetzen können. Wegen ihrer herausragenden Bedeutung soll der Produkthaftung jedoch ein eigener Abschnitt gewidmet werden. Denn nach der Ansicht Fellmanns dürfte das Produkthaftungs- und Produktsicherheitsrecht das am besten geeignete «Einfallstor» für die Lösung von Haftungsproblemen im Zusammenhang mit der Digitalisierung sein.[465] Dafür spreche die nicht zuletzt die «Weite des Produktbegriffs».[466] Wieweit der Produktbegriff trägt und ob er auch KI-Anwendungen wie Algorithmen und Roboter umfasst, wird noch genauer zu prüfen sein.[467]

In der Schweiz richtete sich die Produkthaftung lange nach der Geschäftsherrenhaftung aus Art. 55 OR.[468] Schäden, die auf fehlerhafte Produkte zurückgehen, sind gleichzeitig Schäden, die in irgendeiner Art ihre Ursache im Betrieb einer Industrieunternehmung haben. Im modernen arbeitsteiligen Industrieunternehmen ist aber die Vermeidung von Produktfehlern weniger die Aufgabe des einzelnen Mitarbeiters als Hilfsperson, sondern es handelt sich um eine eigentliche organisatorische Aufgabe des Unternehmens.[469] Bereits in einem Entscheid aus dem Jahr 1905 hatte das Bundesgericht in der mangelhaften Organisation eines Fabrikbetriebs ein schuldhaftes Verhalten der Direktion gesehen.[470] Das Herauslösen der Haftung für fehlerhafte Produkte in einen eigenen, objektivierten Haftungstatbestand, der einer Organisationshaftung nahekommt, macht somit Sinn.[471]

Im Zusammenhang mit dem geplanten EWR-Beitritt der Schweiz wurde vor rund 20 Jahren nach dem Vorbild der EWG-Richtlinie das Produktehaftpflichtgesetz (PrHG) vom 18. Juni 1993 erlassen, welches am 1. Januar 1994 in Kraft trat.[472] Damit wurde auch im Schweizer Recht eine ausservertragliche, verschuldensunabhängige Haftung des Herstellers für Schäden, die durch Fehler eines Produktes verursacht worden sind, spezialgesetzlich begründet. Vor diesem europarechtlichen Hintergrund ist das PrHG europarechtskonform auszulegen.[473]

In der damaligen Europäischen Wirtschaftsgemeinschaft wurde die Grundlage für eine zwischen den Mitgliedstaaten harmonisierte Produkthaftung 1985 mit der Richtlinie 85/374/EWG des Rates vom 25. Juli 1985 zur Angleichung der Rechts- und Verwaltungsvorschriften der Mitgliedstaaten über die Haftung für fehlerhafte Produkte geschaffen. Nach in der Präambel festgehaltener Ansicht des Gesetzgebers vermochte nur eine verschuldensunabhängige Haftung des Herstellers das einem Zeitalter fortschreitender Technisierung eigene Problem einer gerechten Zuweisung der mit der modernen technischen Produktion verbundenen Risiken in sachgerechter Weise zu lösen.[474] Diese Feststellung ist geradezu programmatisch für die Diskussion eines jeden allfälligen rechtlichen Anpassungsbedarfs angesichts neuer Technologien wie der Digitalisierung.[475] Die herkömmlichen und nicht harmonisierten nationalen Vorschriften zur verschuldensabhängigen Haftung hätten nach Ansicht der Kommission nicht gereicht, einen angemessenen Schutz der Verbraucher sicherzustellen.[476] Für Klindt zeigen sich die verbraucherschutzpolitischen Ambitionen der Richtlinie deutlich in der aus Sicht des Geschädigten formulierten Fehlerdefinition.[477] Klindt bezeichnet das Abstellen der Produkthaftpflicht auf den reinen Kausalablauf als «ebenso elegant und schlicht» wie «rüde» und «in seiner Haftungswirkung knallhart».[478] Als rechtspolitisches Gegengewicht und fairen Ausgleich der Interessen[479] sieht er den Umstand, dass der «Antragsteller dreifach die Beweislast für den Fehler, den Schaden und die Kausalität des Fehlers für den Schaden» zu tragen hat.[480]

Wie ihr Vorbild, die EWG-Richtlinie, erweist sich das PrHG als relativ kurzer Gesetzestext: Nach Art. 1 Abs. 1 PrHG haftet die Herstellerin[481] des Produkts für den Schaden, wenn ein fehlerhaftes Produkt dazu führt, dass a) eine Person getötet oder verletzt wird oder b) eine (andere) Sache beschädigt oder zerstört wird, die nach ihrer Art gewöhnlich zum privaten Gebrauch oder Verbrauch bestimmt und vom Geschädigten[482] hauptsächlich privat verwendet worden ist. Damit ist von Beginn weg klar, dass die Produkthaftung keine universelle Haftungsregelung darstellt, denn gewerbliche Geschädigte (seien sie Nutzer des Produkts oder Dritte) werden vom PrHG nicht gegen Sachschäden geschützt.[483] Abgesehen von den Fällen, in denen Mitarbeiter von Gewerbebetrieben verletzt werden, handelt es sich beim PrHG somit eigentlich um eine Konsumentenschutzbestimmung.[484] Für reine Vermögensschäden sieht das PrHG ebenfalls keine Regelung vor.[485] Die Stärkung der Verbraucherposition durch das PrHG beschränkt sich daher im Wesentlichen auf die Erweiterung des Kreises der Haftpflichtigen (neben der Herstellerin sind dies aus Gründen der Praktikabilität der Importeur und der Lieferant) und auf den Ausschluss jeglicher vertraglicher Freizeichnungsmöglichkeiten (Art. 8 PrHG).[486]

Voraussetzung: Fehlerhaftes Produkt

Als Produkte im Sinne des PrHG gelten sodann a) jede bewegliche Sache, auch wenn sie einen Teil einer anderen beweglichen Sache oder einer unbeweglichen Sache bildet, und b) Elektrizität (Art. 3 Abs. 1 PrHG).[487] Was eine bewegliche Sache ist, wird im Grundsatz sachenrechtlich bestimmt, jedoch mit der Einschränkung, dass die Produkteigenschaft nicht verlorengeht, wenn das Produkt in eine unbewegliche Sache integriert wird.[488] Die Haftung darf sich überdies nur auf bewegliche Sachen erstrecken, die industriell hergestellt werden.[489]

Ein Produkt ist fehlerhaft, wenn es nicht die Sicherheit bietet, die man unter Berücksichtigung aller Umstände zu erwarten berechtigt ist (Art. 4 Abs. 1 PrHG). Der Begriff des Fehlers i.S.d. PrHG (Produktfehler) ist somit nicht mit dem Begriff des Mangels nach dem Kaufrecht (Art. 197 OR) gleichzusetzen.[490] Es geht auch nicht um die grundsätzliche Tauglichkeit des Produkts zum Gebrauch. Vielmehr geht es bei einem Produktfehler immer um einen Mangel an Sicherheit, die von der Allgemeinheit berechtigterweise erwartet werden könnte. Bei der Beurteilung dieser Sicherheit wird von jedem missbräuchlichen Gebrauch des Produkts abgesehen, der unter den betreffenden Umständen als unvernünftig gelten muss.[491]

Das Gesetz selbst unterscheidet nicht zwischen verschiedenen möglichen Ursachen eines Fehlers. Die einzelnen Fehlerkategorien (Fabrikationsfehler, Konstruktionsfehler), die die traditionelle Lehre zur Produktehaftung nach Art. 55 OR herausgearbeitet hat, haben nach Fellmann im Geltungsbereich des PrHG keine konstitutive Bedeutung mehr.[492] Für die Diskussion zum Entwicklungsrisiko, zumal in Bezug auf selbstlernende KI, wird sich die Unterscheidung nach unterschiedlichen Fehlerkategorien dennoch als nützlich erweisen. Je nachdem, ob sich ein Fehler in einer ganzen Serie von Produkten oder nur in einem einzelnen Produkt manifestiert, wird von Konstruktions- oder Fabrikationsfehler gesprochen. Ein Konstruktionsfehler liegt in der Art und Weise begründet, wie das Produkt erdacht wurde. Ein Fabrikationsfehler entsteht dagegen als typischer Fehler einer Hilfsperson (Produktionsmitarbeiter). Als Instruktionsfehler wird sodann das Unterlassen des Herstellers, seine Kunden auf gefährliche Eigenschaften des Produkts hinzuweisen, verstanden (Warnung).[493]

Entlastung durch Entwicklungsrisiko

Hervorzuheben ist schliesslich, dass die Herstellerin u.a. dann nicht haftet, wenn sie beweist, dass nach den Umständen davon auszugehen ist, dass der Fehler, der den Schaden verursacht hat, noch nicht vorlag, als sie das Produkt in Verkehr brachte (Art. 5 Abs. 1 Bst. b PrHG) oder dass der Fehler nach dem Stand der Wissenschaft und Technik im Zeitpunkt, in dem das Produkt in Verkehr gebracht wurde, nicht erkannt werden konnte (Art. 5 Abs. 1 Bst. e PrHG).[494] Die Beweislast für diese objektiv überprüfbaren Befreiungsgründe obliegt der Herstellerin. Diese beiden Entlastungsgründe sind später mit Blick auf selbstlernende Algorithmen und andere KI-Anwendungen eingehend zu diskutieren. An dieser Stelle wird erst einmal das allgemeine Verständnis vorgestellt.

Der erste Entlastungsgrund besagt, dass die Herstellerin nicht für Sicherheitsmängel haftet, die sich erst nach dem Inverkehrbringen manifestieren, etwa infolge unsachgemässer oder zweckwidriger Verwendung durch den Nutzer.[495] In der Praxis kommt eine Entlastung der Herstellerin nur bei Mängeln in Betracht, die einem Fabrikationsfehler gleichkommen. Keine Entlastung möglich ist bei klassischen Konstruktionsfehlern (zum Sonderfall der Entwicklungsrisiken siehe sogleich), da sie ja die Gebrauchstauglichkeit des Produktes von der Fertigung an auf Dauer beeinträchtigen. Dies gilt in geringerem Masse auch bei einer fehlerhaften Instruktion des Nutzers, so dass auch dort keine Entlastung möglich ist.[496] Als welcher Typ von Fehler ein anhand von Daten antrainiertes fehlerhaftes Verhalten eines selbstlernenden Algorithmus zu qualifizieren ist (der einen Roboter steuert), wird später eingehend zu besprechen sein.[497]

Beim zweiten Entlastungsgrund handelt es sich um den Ausschluss von Entwicklungsrisiken, die in gewisser Weise als Sonderfall des Konstruktionsfehlers gesehen werden können.[498] Nach dieser Regel haftet die Herstellerin für schädliche Eigenschaften eines Produktes nicht, die wie beim klassischen Konstruktionsfehler zwar im Zeitpunkt des Inverkehrbringens ihres Erzeugnisses objektiv vorhanden, nach dem damaligen Erkenntnisstand von Wissenschaft und Technik aber noch nicht erkennbar waren.[499] Mit anderen Worten liegt dann ein Entwicklungsrisiko vor, wenn das «Schadenspotential einer Sache oder einer Handlung nach dem jeweiligen Stand von Wissenschaft und Technik zum haftungsrelevanten Zeitpunkt nicht erkannt werden konnte».[500] Die Einführung dieser Entlastungsmöglichkeit sollte dafür sorgen, dass die Herstellerinnen nicht von Innovationen abgehalten werden, weil sie sonst angesichts der mit Neuentwicklungen häufig verbundenen Unsicherheit mit zu hohen Versicherungsrisiken konfrontiert würden,[501] sondern ein kommerzielles Interesse an Forschung und Entwicklung behalten.[502]

Um die Anwendung dieser Entlastungsmöglichkeit richtig verstehen zu können, ist das enge Zusammenspiel mit den Vorschriften des Produktesicherheitsgesetzes (PrSG) zu berücksichtigen. PrSG und PrHG bilden in der Schnittmenge ihrer jeweiligen Anwendungsbereiche gewissermassen ein Tandem, mit dem gemeinsamen Ziel, die Sicherheit der Verbraucher zu schützen. Wobei das PrSG auch dem Schutz gewerblicher Kunden dient und zusätzlich den grenzüberschreitenden freien Warenverkehr fördern soll (Art. 1 Abs. 1 PrSG).[503] Produkte dürfen in Verkehr gebracht werden, wenn sie bei normaler oder bei vernünftigerweise vorhersehbarer Verwendung die Sicherheit und die Gesundheit der Verwenderinnen und Verwender und Dritter nicht oder nur geringfügig gefährden (Art. 3 Abs. 1 PrSG). Dazu müssen die Produkte den grundlegenden Sicherheits- und Gesundheitsanforderungen nach Art. 4 PrSG oder, wenn durch den Bundesrat auf dem Weg der Verordnung keine solchen Anforderungen festgelegt worden sind, dem Stand des Wissens und der Technik entsprechen (Art. 3 Abs. 2 PrSG). Mit dem «Wissen» dürfte hier wie sonst üblich die Wissenschaft als strukturierte und gesicherte bzw. gefestigte Form des Wissens gemeint sein, was aus der sogleich zitierten Erwägung des Bundesgerichts deutlich wird:[504]

«L’état des connaissances scientifiques et techniques doit être établi selon un standard objectif, et non selon le savoir d’un producteur particulier. L’état des connaissances déterminant est celui existant au moment de la mise en circulation du produit concrètement mis en cause; il importe peu que des produits de la même série aient déjà été mis en circulation antérieurement. Ces connaissances doivent être accessible à ce moment-là et être reconnues comme sérieuse par la communauté scientifique concernée ; des opinions isolées ne sont en principe pas déterminantes à tout le moins par rapport à des produits qui ne présentent pas un danger particulièrement élevé pour la population ou l’environnement […].»[505]

Diese Erwägung zeigt, dass die den Herstellern für die Entlastung gesetzte Hürde grundsätzlich hoch ist. Das galt für die Schweiz schon bei der Anwendung der Geschäftsherrenhaftung auf fehlerhafte Produkte. Nater ging davon aus, dass «[l]ediglich dort, wo eine qualifizierte Hilfsperson einen Dritten unmittelbar schädigt und es sich bei deren Verrichtung um eine anspruchslose, keine besondere Gefährdung aufweisende Arbeit handelt, so dass an das Verhalten des Geschäftsherrn keine hohen Sorgfaltsanforderungen zu stellen sind», mit einer «Exzeption» des Geschäftsherrn zu rechnen sei.[506] Ob ein Produktfehler im Zeitpunkt des Inverkehrbringens nicht erkennbar war, beurteilt sich heute in objektiver Weise nach dem weltweiten (!) Stand von Wissenschaft und Technik. Die Herstellerin kann sich dabei durchaus nicht mit ihrem eigenen Wissensstand begnügen. Vielmehr hat sie sämtliches zugängliches Wissen, welches im Zeitpunkt des Inverkehrbringens vorhanden ist, in die Beurteilung miteinzubeziehen.[507] Ob es genügt, dass die Herstellerin sich in zumutbarer Weise bemüht hat, während der Produktentwicklung alles relevante Wissen abzugreifen, erscheint fraglich.[508] Das Bundesgericht verlangt zudem, dass dieses Wissen von der betreffenden wissenschaftlichen Gemeinschaft anerkannt worden sein muss.[509]

In der praktischen Anwendung erweist sich die Durchsetzung von Ansprüchen nach dem PrHG für die Geschädigten oft als schwierig.[510] Dies zeigt sich exemplarisch am Entscheid BGE 137 III 226 aus dem Jahre 2011. In diesem Fall klagte eine Patientin, der ein künstliches Hüftgelenk eingesetzt wurde, welches sich schneller als erwartet abnutzte und in einer weiteren Operation ersetzt werden musste.[511] Sowohl die Vorinstanzen als auch das Bundesgericht wiesen die Ansprüche der Patientin ab. Die erste Schwierigkeit lag im Nachweis des fehlerhaften Produkts, da die wahrscheinlich fehlerhafte Prothese nach ihrer operativen Entfernung nicht aufbewahrt wurde. Die Beweislast liegt ganz nach der allgemeinen Regel von Art. 8 ZGB bei der geschädigten Person.[512] Es wird einzig vermutet, dass der (ansonsten nachgewiesene) Sicherheitsmangel beim Inverkehrbringen bereits vorhanden war. Die Herstellerin kann diese tatsächliche Vermutung durch den Gegenbeweis des Art. 5 Abs. 1 Bst. b PrHG umstossen.[513] Im konkreten Fall brauchte die Herstellerin den Gegenbeweis jedoch nicht einmal zu versuchen. Auch in einer solchen Situation kommt es nicht zu einer Umkehr der Beweislast.[514] Die zweite Schwierigkeit für die geschädigte Person bestand darin, ihrerseits den Gegenbeweis anzutreten, dass der Fehler im Zeitpunkt des Inverkehrbringens bzw. spätestens der ersten Operation für die Herstellerin nach dem damaligen Stand der Wissenschaft und der Technik nicht vorhersehbar war. Zu diesem Punkt hatte die Vorinstanz festgestellt, dass der fragliche Typ Prothese in den US-amerikanischen und europäischen, einschliesslich schweizerischen, Märkten eingeführt wurde.[515] Die Fehlerhaftigkeit des Bestandteils, welcher die schnellere Abnutzung der Prothese verursachte, war in der Zeit vor der ersten Operation der geschädigten Person nicht Gegenstand wissenschaftlicher Publikationen. Diese tatsächlichen Feststellungen waren für das Bundesgericht verbindlich. Die geschädigte Person hätte nachweisen müssen, dass diese Feststellungen der Vorinstanz offensichtlich unrichtig sind.[516] In diesem Punkt warf die Beschwerdeführerin der Vorinstanz zwar tatsächlich Willkür vor, ohne diesen Vorwurf jedoch im Einzelnen zu begründen. Wie das Bundesgericht selber ausführte, hätte die Beschwerdeführerin eine wissenschaftliche Publikation aus der Zeit vor 1996 vorlegen müssen, welche die Fehleranfälligkeit des fraglichen Produkts besprach und welche die Vorinstanz nicht berücksichtigt hatte. Selbst wenn es eine solche Publikation gegeben hätte, wäre sie für fachfremde Personen wohl schwierig zu finden gewesen. Wenn es sich überdies um eine Einzelmeinung gehandelt hätte, wäre es fraglich gewesen, ob sie das Bundesgericht zum gefestigten Wissen gezählt und somit zum Gegenbeweis zugelassen hätte. Das Beispiel zeigt, dass man hier ohne die Unterstützung durch versierte Experten nicht weiterkommt.

Übrige Bestimmungen und Einbettung in das Zivilrecht

Wie der direkte Vergleich mit der europäischen Richtlinie in Abschnitt a) zeigt, übernimmt das PrHG deren Bestimmungen weitgehend im Wortlaut. Die Einpassung in das Deliktrecht des OR erfolgt kraft einer Rechtsverweisung, wodurch ein vollständiges Haftungsregime zustande kommt (Art. 11 Abs. 1 PrHG). Deshalb war es nicht nötig, die Beweislastverteilung von Art. 4 der Richtlinie ins Schweizer Recht umzusetzen, wonach der Geschädigte den Schaden, den Fehler und den ursächlichen Zusammenhang zwischen Fehler und Schaden zu beweisen hat.[517]

Ausblick: Restrisiken

Im Zusammenhang mit der Gefährdungshaftung wurde bereits vom sogenannten «Gefahrensatz» gesprochen.[518] Der Gefahrensatz verlangt, dass derjenige, der einen Zustand schafft, welcher einen anderen schädigen könnte, die zur Vermeidung eines Schadens erforderlichen und ihm zumutbaren Vorsichtsmassnahmen treffen muss.[519] Er ist also angesichts der erkennbaren konkreten Umstände im Rahmen des Zumutbaren dafür verantwortlich, dass sich diese Gefahr nicht verwirklicht. Wie gezeigt leiteten die mit den Herausforderungen der beginnenden Industrialisierung konfrontierten Gerichte im 19. Jh. neue Verhaltens- und Sicherungspflichten gerne (oder eher notgedrungen) aus dem allgemeinen Rechtsprinzip des Gefahrensatzes ab:[520] Das Prinzip gilt grundsätzlich für jedermann. Insbesondere gewerbliche Marktteilnehmer wie Anbieter oder Hersteller von Produkten, Veranstalter von Events oder Betreiber von Anlagen wie Skipisten u.ä. haben zur Vermeidung einer Haftung für ein professionelles Risikomanagement zu sorgen. Dabei stellt sich die Frage, welche Anforderungen an ein solches Risikomanagement gestellt werden müssen.[521]

Der allgemeine Gefahrensatz spielt daneben auch im Strafrecht eine Rolle bei der Beurteilung der Fahrlässigkeit.[522] Nach dem Prinzip des erlaubten Risikos lässt sich eine Gefährdung fremder Rechtsgüter, die über das allgemeine Lebensrisiko nicht hinausgeht, nach der bundesgerichtlichen Rechtsprechung nicht verbieten:[523] Gefordert werden könne nur die Einhaltung eines bestimmten Mindestmasses an Sorgfalt und Rücksichtnahme. Beim erlaubten Risiko trete an die Stelle des Verbots jeglicher Gefährdung das Gebot, die Gefahr auf dasjenige Minimum einzuschränken, das gar nicht oder nur mit unverhältnismässigem Aufwand ausgeschlossen werden kann, wenn man die entsprechende Tätigkeit überhaupt zulassen will.[524] Dabei gehe es um die Frage, welche Risiken allgemein in Kauf zu nehmen sind, und nicht um eine Ermässigung der Sorgfaltsanforderungen.[525] Mit anderen Worten geht es um die Frage, in welchen Situationen und in welchem Umfang ein Restrisiko rechtlich zulässig ist. Die Frage ist gerade für gewerbliche Marktteilnehmer von Interesse, denn für sie kommt es darauf an, dass sie bei der Umsetzung der geforderten Sicherungspflichten auch ökonomische Aspekte mitberücksichtigen dürfen.[526] Ein Restrisiko kann sich auch bei einer neuen Technologie wie der KI ergeben, deren Risiken sich (noch) nicht vollständig beherrschen lassen.

Bei Arzneimitteln, die neben einem behördlichen Zulassungs- auch diverse Entwicklungs‑, Test- und Prüfverfahren durchlaufen müssen, bevor sie in Verkehr gesetzt werden dürfen, ist Risikomanagement Teil dieser Verfahren. Vergleichbares gilt für Medizinprodukte, für die zwar kein Zulassungsverfahren, aber immerhin ein Konformitätsbewertungsverfahren vorgesehen ist, in welchem die Konformität des Medizinprodukts mit den gesetzlich definierten grundlegenden Sicherheitsanforderungen festgestellt wird. Für die Durchführung dieser Verfahren bestehen je nach Gebiet unterschiedliche rechtliche und technische Ausführungsbestimmungen. Eine absolute Sicherheit kann jedoch nicht garantiert werden. Am Beispiel der Heilmittel wird anschaulich deutlich, dass das Auftreten von Nebenwirkungen selbst bei sorgfältig durchgeführten Prüfverfahren leider nicht immer vollständig ausgeschlossen werden kann. Dafür gibt es eine Reihe von Gründen. Bei manchen Heilmitteln mögen sich die Nebenwirkungen erst ab einer hohen Zahl von Verabreichungen zeigen, die praktisch wiederum erst im Zuge der Marktdurchdringung erreicht werden kann.[527] Dazu weist Fuchs darauf hin, dass die Zulassung bzw. die Feststellung der Konformität nicht zuletzt immer auf einer Analyse des gesundheitlichen und wirtschaftlichen Nutzen-Risiko-Verhältnisses beruht.[528] Restrisiken sind also selbst in heiklen Bereichen wie dem Gesundheitswesen eine Realität. Sie entsprechen den «Grenzen technologischer Gefahrvermeidungsmöglichkeiten» oder «Entwicklungslücken».[529] Es ist Aufgabe des Gesetzgebers und der Regulierungsbehörden, den Umgang mit Restrisiken mit geeigneten Massnahmen wie etwa der Durchführung aussagekräftiger Studien angemessen und zweckmässig zu regulieren. Als letzte Massnahme ist nach verbreiteter Ansicht die Einführung einer Kausalhaftung in Betracht zu ziehen.[530]

Haftung einer Mehrheit von Schädigern

Motivation: Konzept des Verantwortungsnetzwerks

Das Problem der zivilrechtlichen Haftung im Zusammenhang mit KI-Anwendungen lässt sich mit Hilfe der einprägsamen Formel «Roboter haften nicht» zusammenfassen. Roboter haften nicht, weil sie keine Menschen sind und insbesondere nicht über die den Menschen eigene Urteilsfähigkeit verfügen. In der Roboterethik (siehe dazu das Kapitel IV) werden Situationen diskutiert, in denen künstliche Akteure zumindest in funktionaler Weise über Urteilsfähigkeit verfügen. In dem Masse, in dem sie dies tun, sollen sie die am Geschehen mit beteiligten menschlichen Akteuren in ihrer Verantwortung entlasten können. Zur Teilung der gemeinsamen Verantwortung wurde in der Literatur zur «Roboterethik» das Konzept eines «Verantwortungsnetzwerks» postuliert. In einem solchen Verantwortungsnetzwerk sollen all diejenigen Akteure, menschliche wie künstliche, Verantwortung tragen, «die an dem fraglichen Geschehen beteiligt sind, und zwar in dem Masse, in dem sie die nötigen Kompetenzen zur Verantwortungszuschreibung mitbringen».[531] Den Akteuren mit Subjekteigenschaft wird dabei je nach ihren Eigenschaften anteilig ein Teil der Gesamtverantwortung für das fragliche Ereignis oder Verhalten zugeordnet. Dieses Konzept wurde aus dem Blickwinkel der Ethik heraus entwickelt und steht erst einmal unabhängig von verwandten Konzepten des Rechts im Raum.[532]

Das Konzept lässt sich gut am Beispiel von Fahrassistenzsystemen verschiedener Stufen (0–5) illustrieren. Je höher die Stufe, desto mehr werden nach Weichbold die Sorgfaltspflichten des Fahrzeuglenkers herabgesetzt. Dadurch werde eine Haftung des Lenkers aus Verschulden aufgrund der Verletzung seiner Pflichten zunehmend zurückgedrängt.[533] Damit der Verletzte nicht auf seinem Schaden sitzenbleibt, muss das fehlende Verschulden des Lenkers durch eine Haftung anderer Akteure kompensiert werden.[534] In Frage kommen der Halter oder die Hersteller des Fahrzeugs bzw. des Fahrzeugassistenzsystems.

Im Hinblick auf den in Kapitel VI unternommenen Versuch, das Verantwortungsnetzwerk im konkreten Beispiel eines Unfalls mit einem Roboter zum Einsatz zu bringen, wird in diesem Abschnitt die Verteilung der Haftung auf mehrere Schädiger nach dem aktuellen Schweizer Recht besprochen: Die Bestimmung von Art. 50 OR zur (Verschuldens‑)Haftung mehrerer wird später die horizontale, die in Abschnitt 1.4 c) vorgestellte Geschäftsherrenhaftung nach Art. 55 OR die vertikale Dimension des Verantwortungsnetzwerks darstellen.

Die Regressordnung von Art. 50/51 OR

Art. 50 Abs. 1 OR regelt die Situation, in der mehrere Schädiger aus Verschulden als einzigem Rechtsgrund haften. Der Grundgedanke dieser Bestimmung liegt darin, dem Geschädigten das Einfordern des Schadenersatzes gegenüber einer Mehrheit von Schädigern zu erleichtern. Der Geschädigte soll sich an einen einzelnen Schädiger seiner Wahl wenden können – vorzugsweise an jenen mit den meisten finanziellen Mitteln. Dazu sieht das Gesetz vor, dass die Schädiger untereinander solidarisch haften. Es gelten die Bestimmungen zur Solidarschuld (solidarité passive) von Art. 143–149 OR.[535] Demnach hat grundsätzlich jeder der Schädiger einen gleichen Teil des Schadenersatzes zu übernehmen (Art. 148 Abs. 1 OR). Wie in jener Bestimmung angelegt, gestattet nun Art. 50 Abs. 2 OR dem Richter, den Rückgriff oder Regress unter den solidarisch haftenden Schädigern den Umständen entsprechend anders zu regeln.[536] Haften die Schädiger aus mehreren verschiedenen Rechtsgründen, kommt für den Regress die Kaskade oder Stufenfolge von Art. 51 Abs. 2 OR zur Anwendung.[537]

Der Grundsatz der Solidarhaftung im externen Verhältnis, der aus Art. 50/51 OR abgeleitet wird, wird heranzuziehen sein, wenn verschiedene an der Herstellung und dem Betrieb einer KI-Anwendung beteiligte Personen in die Verantwortung genommen werden sollen.[538] Dabei wird die Stufenfolge aus Art. 51 Abs. 2 OR helfen, wenn durch KI-Anwendungen verursachte Schäden im Zusammenspiel mit Kausal- oder Gefährdungshaftungen zu beurteilen sind. Diese können als Betriebshaftungen alternative Haftungen von KI-Anwendungen bzw. deren Herstellern und Nutzern dominieren.

Art. 50 Abs. 1 OR setzt voraus, dass mehrere Beteiligte einen Schaden adäquat kausal und gemeinsam verursachen.[539] Gemeinsame Verursachung bedeutet jedoch nicht eine aktive Verabredung. Verlangt wird immerhin ein Zusammenwirken mehrerer (rechtsfähiger) Akteure, wobei jeder Schädiger um das pflichtwidrige Verhalten des andern weiss oder jedenfalls wissen konnte.[540] Umgekehrt kann nicht von einem Zusammenwirken gesprochen werden, wenn mehrere Personen unabhängig voneinander einen Schaden herbeiführen und die Handlung eines Einzelnen den Erfolg bereits allein hervorgerufen hätte.[541] Bei einer Mehrheit von Handlungen ist nicht der möglicherweise getrennte Ablauf dieser Handlungen entscheidend, sondern der gemeinsame Wille zum Zusammenwirken.[542]

Die Solidarhaftung erlaubt es dem Geschädigten also, den ihm genehmsten Schädiger auszusuchen und einzuklagen. Ist der Geschädigte mit seiner Klage erst einmal durchgedrungen, stellt sich die Frage nach der Auseinandersetzung innerhalb der Solidargemeinschaft der Schädiger. Diesen Ablauf beschreibt das Bundesgericht wie folgt:

«Comme le lésé ne peut, en principe, obtenir qu’une fois la réparation de son dommage, le paiement effectué par l’un des obligés libère les autres dans les rapports externes (ATF 89 II 118 consid. 5a p. 122). A ne considérer que l’intérêt du lésé, l’effet qu’emporte la solidarité passive apparaît nécessaire et suffisant. Tout autre est la situation, si l’on se met à la place de celui qui a dédommagé le lésé. Il se peut fort bien que ce codébiteur ait été amené, ce faisant, à consentir un sacrifice financier qui est hors de proportion avec la mesure dans laquelle il a contribué à la survenance du dommage. Que l’équité ne puisse s’en accommoder, cela va sans dire. Il se justifie, au contraire, de faire en sorte que l’équilibre, volontairement sacrifié sur le plan externe au profit du lésé, soit rétabli sur le plan interne afin que chacun des coresponsables supporte, au final, le poids de la dette en fonction de sa part de responsabilité. La loi y pourvoit en disposant que celui qui paie au-delà de sa part a, pour l’excédent, un recours contre les autres (art. 148 al. 2 CO).»[543]

Um unbillige (équité) Ergebnisse zu vermeiden und sicherzustellen, dass jedes Mitglied der Solidargemeinschaft der Schädiger den Schaden proportional zu seinem Anteil an der Verantwortung tragen muss, wird es dem vom Geschädigten vorab («sur le plan externe au profit du lésé») in Anspruch genommenen Ersatzpflichtigen gestattet, den Schaden via Regress ganz oder teilweise auf einen oder mehrere andere Ersatzpflichtige abzuwälzen.[544] Für die Bestimmung dieses Regresses erklärt die Bestimmung den Richter für zuständig. Zu diesem Zweck wird der Richter in erster Linie auf das Verschulden der Beteiligten abstellen («en fonction de sa part de responsabilité»).[545] Dies entspricht ganz der Idee hinter dem Verantwortungsnetzwerk.

Diese Regelung für den Regress an sich und für seine Durchführung wird nach Art. 51 Abs. 1 OR auch angewandt, wenn die mehrere Personen aus verschiedenen Rechtsgründen für einen Schaden einzustehen haben.[546] Das Prinzip der Solidarhaftung im externen Verhältnis, d.h. im Verhältnis zum Geschädigten, gilt auch für diesen Fall.[547] Aus Sicht des Geschädigten als Gläubiger des Schadenersatzanspruchs besteht Anspruchskonkurrenz.[548] Dennoch gilt auch hier, dass er seinen Schadenersatz grundsätzlich nur einmal einfordern kann.[549]

Was nun den internen Regress betrifft, so soll die Stufenfolge von Art. 51 Abs. 2 OR vorgeben, wer von mehreren Verursachern «in der Regel» für den Schaden aufzukommen hat. Der Richter soll von dieser wertungsbegründeten Anleitung des Gesetzgebers nur im Einzelfall abweichen, wenn besondere Gründe vorliegen oder die Billigkeit es gebietet.[550]

Spezialregelungen

Einige Spezialerlasse enthalten besondere Regressregelungen. Im Hinblick auf das erste Beispiel in Kapitel VI sei namentlich auf die Regelung von Art. 60 Abs. 2 SVG (Regress unter mehreren haftpflichtigen Schädigern) hingewiesen.[551] Diese gehen Art. 50/51 OR als lex specialis vor.[552]

Zunächst statuiert Art. 60 Abs. 1 SVG, dass die bei einem Unfall, an dem ein Motorfahrzeug beteiligt ist, für den Schaden eines Dritten ersatzpflichtigen Personen solidarisch haften. Wer ersatzpflichtige Person ist, bestimmt sich nach einer einschlägigen Haftungsgrundlage. Im Unterschied zur Grundregel aus Art. 50 Abs. 1 OR bezieht sich Art. 60 Abs. 1 SVG nicht nur auf die Haftung aus Verschulden, sondern auf sämtliche Rechtsgründe: Die Norm ist gleichermassen auf Halter und Nichthalter wie Fussgänger, Radfahrer, Tierhalter oder Werkeigentümer anwendbar.[553] Halter haften aus Betriebsgefahr (Art. 58 SVG), Nichthalter aus Verschulden.[554]

Der Regress zwischen den ersatzpflichtigen Personen wird in Art. 60 Abs. 2 SVG behandelt: Zunächst gilt, dass der Schaden unter Würdigung aller Umstände auf die beteiligten Haftpflichtigen verteilt wird. Dies klingt von Beginn weg offener und für die Rechtsanwendung «flexibler» als die gleichmässige Haftung gemäss Art. 148 Abs. 1 OR, auf die Art. 50 Abs. 2 OR verweist. Dieser Eindruck täuscht jedoch.[555] Die Redewendung «unter Würdigung aller Umstände» verweist dabei wiederum auf das richterliche Ermessen.[556] Als Anleitung an die Gerichte für die Verteilung des «Schadens» (gemeint ist natürlich der zu leistende Schadenersatz) findet sich hier, dass mehrere Motorfahrzeughalter den Schaden nach Massgabe des von ihnen zu vertretenden Verschuldens tragen, wenn nicht besondere Umstände, namentlich die Betriebsgefahren, eine andere Verteilung rechtfertigen. Diese Regel erscheint auf den ersten Blick nicht als Kaskade oder Stufenfolge, sondern scheint nur die Haftung unter mehreren Haltern zu betreffen. Tatsächlich bedeutet dies, dass, wenn nur einer der verantwortlichen Halter einen Schaden verschuldet hat, dieser Halter den gesamten Schaden zu tragen hat, sofern sein Verschulden zumindest leicht und nicht sehr leicht ist und die Betriebsrisiken der einzelnen Fahrzeuge vergleichbar sind.[557] Ein Rückgriff auf die anderen beteiligten Halter, die ohne Verschulden nur aufgrund der Gefährdungshaftung haften, ist in diesem Fall nicht möglich. Dieses Ergebnis zeigt, dass Art. 60 Abs. 2 SVG ebenfalls eine Stufenfolge enthält, welche das Verschulden als Haftungsgrund vorgehen lässt. Gleichzeitig geht die Bestimmung von der Vermutung aus, dass die Betriebsgefahren mehrerer an einem Unfall beteiligter Fahrzeuge gleich gross sind. Weichen die Betriebsgefahren «deutlich» voneinander ab, muss der Schadenersatz anders aufgeteilt werden.[558] Dies gilt insbesondere dann, wenn keinen der beteiligten Halter ein Verschulden trifft. Die Rechtsprechung hat zur Verteilung der Betriebsgefahren eine umfangreiche Reihe von typisierten Fallgruppen entwickelt: Lastwagen und Lastwagen; Lastwagen und Motorrad; Lastwagen und Personenwagen[559]; Personenwagen und Motorrad; Motorfahrzeug und Eisenbahnzug, Werk oder Tier.[560] Diese können im Einzelfall weiter verfeinert werden.[561]

Die Wendung zum «integralen Regress»

Auf den ersten Blick wirkt der strassenverkehrsrechtliche Regress im Vergleich zu Art. 50/51 OR flexibler, spricht doch Art. 60 Abs. 2 Satz 1 SVG davon, dass der Schaden unter Würdigung aller Umstände auf die beteiligten Haftpflichtigen verteilt wird. Satz 2 eröffnet sodann Raum, die Bedeutung der den individuellen Haltern zugerechneten Betriebsgefahren mit zu berücksichtigen. Eine vorgegebene Kaskade oder Stufenfolge findet sich in Art. 60 SVG zwar nicht. Die prominente Nennung des Verschuldens als Mass zur Verteilung des Schadens in Satz 1 weist aber darauf hin, dass sich der Regress sowohl im SVG als auch im OR schwergewichtig auf das herkömmliche Verständnis abstützt, dass derjenige zuerst haften solle, welcher einen Schaden verschuldet hat. Daraus entwickelte sich die Praxis, dass der Regress des zuerst ins Recht gefassten Schädigers nicht «integral» (zu dieser Beschreibung später), sondern nur punktuell in Richtung des Beteiligten mit dem grösseren Verschulden gehen soll. Diese traditionelle Regressordnung passt nach Graber schlecht zu den «Entwicklungen der letzten Jahrzehnte», welche eine stärkere Gewichtung der Gefährdungshaftungen nahelegten. Sie berücksichtige auch nicht in ausreichendem Masse die zunehmende Bedeutung von Privat- und Sozialversicherern für die Schadenabwälzung.[562]

Trotz wachsender Kritik in der Lehre, die sich einer Literaturumschau des Bundesgerichts zufolge bis auf das Jahr 1922 zurückverfolgen lässt,[563] hielt das Bundesgericht an der Regressordnung von Art. 50/51 OR über beinahe ein Jahrhundert fest. Erst mit einem Urteil aus dem Jahr 2018[564] nahm es eine von Graber als fulminant bezeichnete Praxisänderung vor,[565] mit der es sich dem in der Lehre lange geforderten «Trend hin zu einem integralen Regress» anschloss.[566] Damit eröffnete es den Weg für eine «grundsätzliche Flexibilisierung der Prioritätenregelung in Art. 51 Abs. 2 OR».[567] Nur zwei Monate später konnte das Bundesgericht seine Auffassung zur Durchführung des Regresses bei einem Zusammentreffen von Verschulden und Betriebsgefahr weiter präzisieren.[568]

Im ersten Entscheid ging es hauptsächlich um die Frage, ob der Privatversicherer, der vertraglich zur Entschädigung des Geschädigten verpflichtet ist und sich somit in der «mittleren Position der Regressordnung»[569] befindet, auf den in der Stufenfolge von Art. 51 Abs. 2 OR zuletzt stehenden, kausal Haftenden Regress nehmen kann. Das Bundesgericht entschied, dass eine (private Schadens‑)Versicherung, welche insoweit in die Stellung des Geschädigten eintritt, als sie eine Entschädigung geleistet hat, nicht in die Kaskadenordnung von Art. 51 Abs. 2 OR fällt.[570]

Der erst kürzlich aufgehobene und nun durch Art. 95c Abs. 2 VVG ersetzte Art. 72 Abs. 1 VVG[571] sah vor, dass der Ersatzanspruch, der dem Anspruchberechtigten gegenüber Dritten aus unerlaubter Handlung zusteht, insoweit auf den Versicherer übergeht, als er Entschädigung geleistet hat. In der Vergangenheit blieb dem Versicherer der Regress auf nur kausal haftende Beteiligte nach der Kaskadenordnung von Art. 51 Abs. 2 OR verwehrt. Sieben Jahre vor dem hier besprochenen Urteil hatte das Bundesgericht eine Praxisänderung mit Verweis auf den Willen des historischen Gesetzgebers, der das Verschuldensprinzip hochhalten wolle, noch klar und deutlich abgelehnt:

«Unter den im heutigen Zeitpunkt gegebenen Umständen rechtfertigt sich vorliegend keine Praxisänderung. Dass dem Schadensversicherer kein Rückgriffsrecht gegen Kausalhaftpflichtige zusteht, entspricht der wohl nach wie vor herrschenden Lehre und der jahrzehntealten konstanten Praxis des Bundesgerichts. Das Bundesgericht ist von dieser trotz der bereits seit dem Jahre 1922 geübten Kritik, die im Laufe der Jahre auch dogmatisch weiter untermauert wurde, nur in einem isolierten, vor langer Zeit beurteilten Fall (BGE 63 II 143 E. 7 […]) abgewichen. […] Mit der konstanten Rechtsprechung wird dem eindeutigen Willen des historischen Gesetzgebers nachgelebt, dass der Versicherer, der sich durch die Prämien für mögliche Schadensfälle bezahlt macht, den Schaden in der Regel vor einem ohne sein Verschulden Haftenden tragen soll.»[572]

In seinem Urteil vom Mai 2018 anerkannte das Bundesgericht, dass die bisherige Rechtsprechung «zu stark auf den historischen Willen des Gesetzgebers» abstützte.[573] Eine Praxisänderung erschien dem Bundesgericht auch mit Blick auf die geplante Änderung des VVG mit dem neuen Art. 95c VVG als stimmig, welcher «im Wesentlichen der Subrogation der Sozialversicherer»,[574] d.h. dem integralen Regress, entspricht.[575]

In seinen Erwägungen verwies das Bundesgericht namentlich auf die Kritik von Thurs, der schon 1922 die Meinung vertrat, dass unter dem Begriff der unerlaubten Handlungen i.S.v. Art. 72 Abs. 1 VVG nicht nur eine deliktische Handlung im engeren Sinn gemeint sei, sondern dass damit auf das gesamte Deliktsrecht von Art. 41–61 OR verwiesen werde.[576] Die seither von verschiedenen Autoren immer weiter ausgefeilte Kritik knüpft letztlich an das Geschäftsmodell der Versicherung an sich an. Das Gericht stellte einige dieser ökonomisch motivierten Argumente aus der Lehre zusammen: Damit das Geschäftsmodell der Versicherung für alle Beteiligten funktioniert, sei eine zweckmässige (gerechte) Kostenverteilung und Berücksichtigung der Interessen vonnöten.[577] Es erscheint einsichtig, dass diesem Ziel schwierig oder gar unmöglich nachzuleben ist, wenn je nach Konstellation nur einige der verantwortlichen Schädiger zur Regulierung des Schadens herangezogen werden können, während andere aussen vor bleiben. Vielmehr könnten «die aufgrund von Statistiken berechneten Prämien […] reduziert werden, wenn dem Versicherer der Rückgriff auf Kausalhaftpflichtige erlaubt würde». Diese Lösung entspreche auch der Regelung im Sozialversicherungsrecht, wo den Versicherern von Gesetzes wegen ein in diesem Sinne «integrales Regressrecht» zuerkannt werde.[578] Für die Praxisänderung entscheidend war möglicherweise das folgende weitere Argument aus der Lehre: Der Versicherer leiste nicht etwa (sekundären) Schadenersatz aus eigener Nicht- oder Schlechterfüllung des Vertrages. Vielmehr decke er den Schaden in Erfüllung seiner primären Leistungspflicht aus dem Versicherungsvertrag. Ihm den «integralen» Rückgriff zu verweigern, heisse, ihn zu Unrecht als Haftpflichtigen im Sinne von Art. 50/51 OR zu behandeln.[579] Das Bundesgericht machte sich diese rapportierten Überlegungen zu eigen und fasste das Ergebnis in folgender Urteilsformel zusammen:

«Auf den Versicherer gehen nach Art. 72 Abs. 1 VVG insoweit, als er eine Entschädigung geleistet hat, die Ersatzansprüche über, die dem Anspruchsberechtigten gegenüber Dritten aus unerlaubter Handlung zustehen. Verursacht ein Kausalhaftpflichtiger einen Unfall, so begeht er eine unerlaubte Handlung im Sinne dieser Bestimmung, selbst wenn ihn kein Verschulden an der Unfallverursachung trifft. Denn ein Verschulden ist nach dem Wortlaut von Art. 72 Abs. 1 VVG nicht gefordert. Es genügt eine ‹unerlaubte Handlung› (‹actes illicites›, ‹atti illeciti›). Damit fällt jeder als Gefährdungs- oder einfache Kausalhaftung normierte Tatbestand, mithin jegliche ausservertragliche Haftung im Sinne von Art. 41 ff. OR, unter den Begriff der unerlaubten Handlung im Sinne von Art. 72 Abs. 1 VVG.»[580]

Mit seinem Revirement griff das Bundesgericht nur der neuen Regelung von Art. 95c Abs. 2 VVG vor, welche am 1. Januar 2022 in Kraft trat und welche nach der Botschaft den Grundgedanken von Art. 72 Abs. 1 VVG in einer «den praktischen Bedürfnissen» der Versicherungswirtschaft entsprechenden, weitergeführten Form übernimmt:

«Im Gegensatz zum geltenden Recht (Art. 72 Abs. 1 VVG) soll das Versicherungsunternehmen damit nicht nur gegen die aus unerlaubter Handlung haftende Person, sondern gegen sämtliche Ersatzpflichtige vorgehen können, also auch wenn diese aus Vertragsverletzung oder aus einer Kausalhaftung zum Ersatz verpflichtet sind. Damit gilt für die privaten Schadenversicherer das gleiche wie für die Sozialversicherer (vgl. Art. 72 Abs. 1 des Bundesgesetzes über den Allgemeinen Teil des Sozialversicherungsrechts [ATSG]).»[581]

Nun könnte man sagen, dass es sich hier immer noch um den speziellen Aspekt des Rückgriffs des (Privat‑)Versicherers handelt, was die grundsätzliche Richtigkeit der herkömmlichen Auffassung zur Kaskadenordnung aus Art. 51 Abs. 2 OR nicht in Frage stellte. Schliesslich wurde mit dem Urteil entschieden, dass Versicherer «hors catégorie» Regress nehmen dürfen, also selbst nicht Teil der Kaskadenordnung sind. Für das Verhältnis von Verschuldens- und Gefährdungshaftung aufschlussreicher ist das zweite Urteil, welches das Bundesgericht rund zwei Monate später fällte:[582] Die in Art. 51 Abs. 2 OR für den Regelfall vorgesehene Stufenfolge lasse Raum für Abweichungen mit Blick auf den konkreten Fall.[583]

Ausgangspunkt des Entscheids war folgender Sachverhalt: Die Arbeitgeberin des Geschädigten war beauftragt, Kanalisationsleitungen und Schächte in einer Strasse zu sanieren und abzudichten. Während der Geschädigte im Schacht arbeitete, entzündete sich an einer von ihm gerauchten Zigarette (die Arbeitgeberin hatte kein Rauchverbot ausgesprochen) im Schacht befindliches Gas. Der Geschädigte erlitt Verbrennungen.[584] Das Bundesgericht hatte die Frage des Rückgriffs von SUVA, IV und AHV zu beurteilen, welche in die Regressansprüche der Arbeitgeberin des Geschädigten eingetreten waren.

Das Gas stammte aus einer lecken Gasleitung des bei der privaten Versicherung (Beschwerdegegnerin) haftpflichtversicherten städtischen Gaswerks. Nach Ansicht der drei beteiligten Sozialversicherungen (Beschwerdeführerinnen) sollte die Versicherung gestützt auf das RLG für den Schaden des Geschädigten haften. Deshalb nahmen die Beschwerdeführerinnen für die von ihnen erbrachten bzw. noch zu erbringenden Leistungen Regress auf die Beschwerdegegnerin. Das Zürcher Handelsgericht als Vorinstanz ging zunächst davon aus, dass die private Versicherung vollumfänglich für die Regressforderung haften würde. Doch das daraufhin von allen Parteien angerufene Bundesgericht wies die Sache an das Handelsgericht zurück, damit dieses über die Berücksichtigung des Regressprivilegs gemäss Art. 75 Abs. 2 ATSG neu entscheide. Nach dieser Bestimmung kann die Sozialversicherung bei einem Berufsunfall nur dann auf die Arbeitgeberin der versicherten Person zurückgreifen, wenn die Arbeitgeberin den Versicherungsfall absichtlich oder grobfahrlässig herbeigeführt hat. Dies war vorliegend nicht der Fall, sodass das Handelsgericht im zweiten Anlauf den Rückgriff der Sozialversicherungen vollständig abwies.[585] Das Handelsgericht erkannte, dass nach der gesetzlichen Ordnung von Art. 51 Abs. 2 OR die Arbeitgeberin an zweiter Stelle und das Gaswerk (beziehungsweise die Beschwerdegegnerin) erst an dritter Stelle hafte. Somit betrage die Quote, welche vom Gaswerk beziehungsweise der Beschwerdegegnerin zu tragen sei, 0 %. Für ein Abweichen von der Stufenfolge nach Art. 51 Abs. 2 OR bestehe kein Anlass, zumal das Bundesgericht – entgegen der Lehrmeinung zur Vorwegtragung der Betriebsgefahr – zuvor an der wortlautgemässen Anwendung dieser Bestimmung festgehalten habe.[586] Gegen diesen Entscheid gelangten die drei Sozialversicherungen ein zweites Mal an das Bundesgericht.[587]

In der Kaskadenordnung von Art. 51 Abs. 2 OR stand die Arbeitgeberin an zweiter, das Gaswerk an dritter Stelle. Die Arbeitgeberin haftete dem Arbeitnehmer aus dem Arbeitsvertrag (Art. 328 OR). Das Gaswerk haftete kausal aus der Betriebshaftung für den Inhaber von Rohrleitungen (Art. 33 RLG)[588] Für die Zwecke dieser Haftung richten sich Art und Umfang des Schadenersatzes, die Zusprechung einer Genugtuungssumme, die Haftung mehrerer und der Rückgriff unter den Haftpflichtigen nach den Bestimmungen des OR über unerlaubte Handlungen (Art. 34 RLG). Das Bundesgericht erwog, dass im konkreten Fall zu berücksichtigen sei, welchen Zweck der Gesetzgeber im RLG mit dem Verweis auf die allgemeinen Bestimmungen des OR über unerlaubte Handlungen verfolgt habe.[589] Das Bundesgericht erwog dazu, dass die Rohrleitungen – ähnlich wie Eisenbahnen, Motorfahrzeuge, Luftfahrzeuge und elektrische Leitungen – ihre spezifischen Gefahren mit sich brächten. Wie in den anderen genannten Fällen hätte der Gesetzgeber auch bei den Rohrleitungen die dem Betrieb dieser Anlagen immanenten Risiken («Betriebsgefahren» oder charakteristische Risiken) vor Augen gehabt, die selbst bei einem sorgfältigen Betrieb (d.h. wenn alle Beteiligten die nötige Vorsicht walten lassen) nie ganz ausgeschlossen werden könnten.[590] Dabei habe der Gesetzgeber bei der Ausgestaltung der Haftung nach RLG «zwei völlig unterschiedliche Musterfälle» vor Augen gehabt:[591] die Verwirklichung der einer Rohrleitungsanlage immanenten Betriebsgefahr einerseits und den Fall eines Drittverschuldens oder Vertragsverletzungen Dritter andererseits. Zum ersten Fall merkte das Bundesgericht an:

«Verwirklicht sich das bei Rohrleitungsanlagen für flüssige und gasförmige Brenn- und Treibstoffe inhärente Risiko, namentlich wenn ein Leck entsteht, stellt sich, wie auch im zu beurteilenden Fall, zunächst die Frage nach einem Verschulden der Betreiberin. Ist dieses gegeben, bleibt es bei ihrer Haftung auch nach der Stufenregelung von Art. 51 Abs. 2 OR. Trifft die Betreiberin dagegen kein Verschulden, haftet sie nach der Stufenregelung zwar erst in letzter Linie. Soweit sich das typische Risiko verwirklicht, besteht die Gefahr in aller Regel aber ohne Drittverschulden oder eine Vertragsverletzung Dritter.»[592]

Zum zweiten Fall brachte das Bundesgericht das Beispiel von Sabotage auf. Bei Sabotage hafte der (schuldlose) Inhaber der Rohrleitungsanlage aus Billigkeitsüberlegungen, damit nicht der (ebenfalls schuldlose) Geschädigte das Risiko tragen muss, leer auszugehen.[593]

Es geht somit um die Gewichtung der Betriebsgefahr gegenüber anderen schädigenden Momenten. Wenn der Inhaber der Rohrleitungsanlage auch grundsätzlich für die inhärenten Betriebsrisiken haften soll, sollte ihm als Kausalhaftpflichtigem (bzw. «hors catégorie» seiner Versicherung) nach Ansicht des Bundesgerichts dennoch nicht der Rückgriff auf den Fehlbaren verwehrt werden, wenn der Schaden nicht durch eine Fehlfunktion der Anlage selbst hervorgerufen wurde, «sondern die an sich korrekt funktionierende Anlage nur wegen der Absicht oder der groben Fahrlässigkeit eines Dritten zu Schäden führte»:[594]

«Spielen dagegen Drittverschulden oder Vertragsverletzungen Dritter eine Rolle, dann geht es in der Regel um Fälle, in denen von den Rohrleitungen keine wesentliche Gefahr ausgegangen wäre, wenn sich die Dritten korrekt oder vertragsgemäss verhalten hätten. Es sind, wie beim in der Botschaft aufgeführten Musterbeispiel der Sabotage, häufig Fälle, in denen die Dritten näher am Schaden stehen als der Betreiber.»[595]

Diese Überlegungen wandte das Bundesgericht auf den Unfall im Schacht an und kam in Bezug auf die Unfallursachen zu einem sehr differenzierten Ergebnis:

«Zum Schaden ist es nicht gekommen, weil erst durch eine Vertragsverletzung die Gefahr, die sich realisiert hat, heraufbeschworen wurde, wie dies etwa der Fall wäre, wenn grobfahrlässig von Dritten Arbeiten an Rohrleitungen ohne die dabei notwendigen Sicherheitsmassnahmen vorgenommen werden. Im zu beurteilenden Fall hatte sich die typische Betriebsgefahr vielmehr bereits unabhängig von der Vertragsverletzung im entzündlichen Luft-Gas-Gemisch ausserhalb der Rohrleitungen manifestiert.»[596]

An diesem Punkt zeigt sich die praktische Bedeutung des Konzepts der Gefährdungshaftung. Die Schaffung eines gefährlichen Zustands reicht aus, um die Haftung greifen zu lassen. Mit dem Gasleck war die erste Ursache für den späteren Schaden gesetzt. Folglich musste das Gaswerk die typische Betriebsgefahr verantworten, die sich im Leck und dem dadurch entstandenen Luft-Gas-Gemisch manifestierte und welche eine Gefahr für unbestimmte Personen darstellte.[597] Das vertragswidrige Verhalten der Arbeitgeberin, die das Rauchen im Schacht nicht untersagt hatte, «beeinflusste nur die Auslösung der Gefahrsverwirklichung».[598] Diese differenzierte Sicht auf die Unfallursachen, die «nicht dem Regelfall, den der Gesetzgeber vor Augen hatte», entsprachen, rechtfertigte für das Bundesgericht eine Abweichung von der «starren» Stufenfolge von Art. 51 Abs. 2 OR.[599]

Im Ergebnis teilte das Bundesgericht die Regressforderung hälftig zwischen der Arbeitgeberin und dem Inhaber der Rohrleitungsanlage bzw. dessen Haftpflichtversicherung auf.[600] Infolge des Regressprivilegs verblieb der Anteil der Arbeitgeberin jedoch bei den drei Sozialversicherungen.

Um eine weitere Praxisänderung handelt es sich bei diesem Urteil nicht. Bestätigt wurde, dass bei besonderen Umständen von der Stufenfolge von Art. 51 Abs. 2 OR abgewichen werden darf. Die Stufenfolge ist somit nicht «starr» (was sich an sich bereits aus dem Wortlaut ergibt). Gerade im Zusammenspiel mit Betriebsgefahren darf der Richter mit dem Vorbild von Art. 60 Abs. 2 SVG vor Augen eine flexiblere Verteilung des Schadenersatzes unter den Beteiligten vornehmen. Graber ist immerhin zuzustimmen, dass mit diesem Entscheid zukünftig «ein wesentlich kreativerer Umgang mit der Stufenfolge» möglich sein sollte.[601]

Zwischenfazit

Der historische Abriss zum Haftpflichtrecht zeigt die Flexibilität und die Möglichkeiten dieses Rechtsgebiets auf, sich über die Jahrhunderte zu bewähren und sich dabei immer wieder an soziale und wirtschaftliche Entwicklungen anzupassen. Bereits das römische Rechtssystem war in der Lage, seine Haftungsregeln einer zunehmend ausdifferenzierten Wirtschaft anzupassen, die nicht mehr nur lokal und agrarisch geprägt war, sondern zu der bereits ein Fernhandel über das Mittelmeer gehörte. Mit der Tierhalterhaftung und der Noxalhaftung bestanden frühe Formen der Gefährdungshaftung. Angesichts der Tatsache, dass ein grosser Teil der Geschäftstätigkeiten von Unfreien im Namen und auf Rechnung ihrer Gewalthaber durchgeführt wurde, kam der Noxalhaftung grosse praktische Bedeutung zu. Bei der Noxalhaftung kam es nicht auf das Verschulden des Gewalthabers als haftender Person an. Auf ein irgendwie feststellbares Verschulden des (zwar geschäfts‑, aber eben nicht voll rechtsfähigen) Gewaltunterworfenen, sei er Sklave oder Hauskind, kam es ebenfalls nicht an. Der kausale Zusammenhang zwischen dem eingetretenen Schaden und dem tatsächlichen Handeln des Gewaltunterworfenen genügte. Wichtiger als das Verschulden und seine Abstufungen war den Römern die zweckmässig zu entscheidende Frage nach der Interessenlage der beteiligten Parteien (utilitas), was sich auch auf die Auswahl der haftungsbegründenden Tatbestände auswirkte. Dabei spielte die Frage des Vertrauens- und des Verkehrsschutzes eine wichtige Rolle. Der Fernhandel über das Meer hätte sich vielleicht nicht so gut entwickelt, hätte man nicht die spezielle Haftung für Reeder und Kapitäne eingeführt, um die Interessen der Reisenden und Transporteure zu schützen. Vor diesem öffentlichen Interesse musste das individuelle Interesse des einzelnen Schiffseigners[602] zurücktreten.

Die Vertreter der Naturrechtslehre des 17. und 18. Jh. leisteten die Vorarbeiten zur Entwicklung einer Generalklausel des Deliktsrechts, welche später Eingang in verschiedene moderne Kodifikationen finden sollte. Das grösste Problem bei der Verschuldenshaftung war immer und wird immer sein, das fehlerhafte menschliche Verhalten zu identifizieren und seinen adäquat kausalen Beitrag zum Schaden zu belegen. Gerade bei Haftpflichtfällen mit Beteiligung von KI-Systemen ist es jedoch zu erwarten, dass ein menschlicher Akteur, der unmittelbar an den Ereignissen beteiligt ist, die zum Schaden führen, oft fehlen wird. Ob in diesen Fällen zeitlich auf der Kausalkette weiter zurückliegende Personen (Entwickler, Programmierer, andere) ausfindig und haftbar gemacht werden können, ist fraglich.

Im Zuge der Industrialisierung 1.0 wurde neben der Verschuldenshaftung das Konzept der Gefährdungshaftung wiederbelebt und weiter ausgebaut. Die Gefährdungshaftung kann als eine der interessantesten Entwicklungen im Haftpflichtrecht gesehen werden. Die Grundidee besteht darin, dem Einzelnen als Gegenleistung für die Erlaubnis, zu seinem eigenen Vorteil eine an sich mit Gefahren verknüpfte Tätigkeit auszuführen, eine Haftung an das Kollektiv aufzuerlegen.[603] So gelang es schon früh, die Verantwortlichkeit für Schäden zu regeln, die durch risikobehaftetes Verhalten verursacht wurden. Mit seiner Hilfe konnten soziale, wirtschaftliche und technologische Entwicklungen regelmässig aufgegriffen werden und über eine zweckmässige Risikoverteilung ein möglichst gerechter Interessenausgleich erzielt werden. Entsprechend stehen die typischen Sondertatbestände mit Gefährdungshaftung im Dienst einer wirtschaftlichen Zwecktheorie: Die wirtschaftliche Grundidee hinter der Geschäftsherrenhaftung (Art. 55 OR) will die Person für von Hilfspersonen verursachte Schäden haften lassen, die aus dem Einsatz dieser Hilfspersonen den wirtschaftlichen Nutzen zieht. Bei der Tierhalterhaftung (Art. 56 OR) wird die Gefahr für ein gewisses Eigenleben (Autonomie) abgedeckt, welches sich aus der Lebendigkeit von Tieren ergibt. Dieser Tatbestand weist Ähnlichkeiten zu beiden der zuerst genannten auf: Einerseits gelten Tiere wie urteilsunfähige Personen nicht als verständige Wesen. Andererseits soll wie bei der Geschäftsherrenhaftung derjenige haften, der aus der eingesetzten Ressource – hier das Tier, dort die Mitarbeiter – den wirtschaftlichen Vorteil zieht. Diese Konzeption gilt gleichermassen für die verschiedenen Betriebshaftungen wie die Haftung für den Betrieb einer Eisenbahn (Art. 40b EBG). Bei dieser handelt es sich um eine Haftung für eine nur teilweise beherrschbare Gefahr, welche sich aus den sogenannten charakteristischen (Betriebs‑)Risiken herleitet, die gerade bei der Eisenbahn mit ihren mit hohen Geschwindigkeiten auf Schienen bewegten, grossen und schweren Massen offensichtlich sind. Demgegenüber handelt es sich bei der Haftung für kryptografische Schlüssel (Art. 59a OR) um eine Haftung für einen unsorgfältigen Umgang mit einer ansonsten gut beherrschbaren Technik. Eine Sonderstellung nimmt die Haftung urteilsunfähiger Personen (Art. 54 OR) ein. Normalerweise sollen Menschen, denen die für eine volle soziale Interaktion wichtigen geistigen Eigenschaften fehlen, für ihre Handlungen nicht haften. Nur wenn es unbillig wäre, einen unbeteiligten Dritten den erlittenen Schaden selber tragen zu lassen, obschon der urteilsunfähige Verursacher wirtschaftlich in der Lage wäre, einen fairen Ausgleich zu leisten, soll von dieser Grundregel abgewichen werden. Es handelt sich nach Auffassung des Bundesgerichts um eine Kausalhaftung aus Billigkeit.

Eine Sonderstellung anderer Art nimmt die Produkthaftung ein. Bei ihr wird nicht ein kritisch zu beurteilendes Verhalten erfasst, sondern eine Eigenschaft: Nicht das unsorgfältige Verhalten des Nutzers eines Produkts wird erfasst, sondern die Fehlerhaftigkeit des Produkts selbst. Das geforderte sorgfältige Verhalten wird hier ersetzt durch allgemeine oder sektorspezifische Vorschriften über die Produktsicherheit.

Über die Gefährdungshaftung wurden sporadisch, aber regelmässig spezifische Risiken der jeweiligen Gegenwart erfasst. Dadurch konnten immer wieder die sich aus dem technologischen Fortschritt ergebenden Lücken im zivilrechtlichen Haftungsregime geschlossen werden. So konnte einerseits das Vertrauen der «Verkehrsteilnehmer» geschützt werden.[604] Andererseits wurde in der Vergangenheit offensichtlich nicht zu viel reguliert. Es kann jedenfalls nicht gesagt werden, dass die in diesem Kapitel behandelten Haftungstatbestände die wirtschaftliche Entwicklung oder den technischen Fortschritt übermässig behindert hätten. Insbesondere vermochte offensichtlich keine noch so strikte Betriebshaftung die Entwicklung und Verbreitung von Eisenbahnen oder Motorfahrzeugen spürbar zu behindern.

In der historischen Perspektive erscheint es weder als überraschend noch als aussergewöhnlich, dass neue Technologien wie KI haftpflichtrechtlich besonders erfasst würden, wie dies aktuell in den verschiedenen gesetzgeberischen Initiativen angedacht oder sogar bereits umgesetzt wird.[605] Dieses Bedürfnis wird mit zunehmender Verbreitung von Robotern oder anderen KI-Anwendungen zunehmen, umso mehr als das Ungewohnte oder die Intransparenz solcher Anwendungen als Gefahr wahrgenommen wird. Alle geltenden Haftungsbestimmungen setzen jedoch als Person zwingend einen Menschen voraus. Daraus folgt unmittelbar, dass KI-Systeme, die z.B. in der Form eines Roboters einen Schaden verursachen, nicht selbst haftbar gemacht werden können. Gleiches gilt bekanntlich für Tiere, sodass für Schäden, die von Tieren verursacht werden, u.U. ihr Besitzer aufgrund der Tierhalterhaftung einstehen muss. Dieser Argumentationsstrang ist für die vorliegende Untersuchung zentral. Erstens: Sollen KI-Systeme selbst haften, muss erst der Gesetzgeber aktiv (und dabei keineswegs «minimalinvasiv») eingreifen. Über eine analoge Anwendung bestehender Bestimmungen ist dies nicht zu schaffen. So spricht die Entwicklungsgeschichte des Haftpflichtrechts dafür, zum Instrument der Kausalhaftung zu greifen, um durch neue Technologien verursachte Schadenfälle adäquat abdecken zu können. Es fragt sich einzig, ob dies eher schablonenhaft als Analogie zur Tierhalterhaftung oder spezifischer, wie im Falle der Haftung für kryptografische Schlüssel, erreicht werden soll, indem nach den wirklich charakteristischen Risiken der jeweiligen Technologie gesucht wird. Dazu sind zwei unterschiedliche Stränge an Überlegungen notwendig: Erstens gilt es, den rechtlichen Sorgfaltsbegriff spezifisch für technische Anwendungen weiter aufzuarbeiten, um ein Verständnis zu entwickeln, wie mit dem richtigen Verhalten technologische Risiken kontrolliert werden können. Der grossen Thematik der Risikovorsorge für technische Anwendungen ist Abschnitt 4 gewidmet. Zweitens gilt es, ein grundlegendes Verständnis der technischen Grundlagen und der Funktionsweise der KI zu erarbeiten. Nur wer ein solches Verständnis gewonnen hat, kann verstehen, was im Umgang mit KI tatsächlich schiefgehen und wie man als Hersteller und Nutzer Fehlfunktionen der KI vorbeugen kann. Ausserdem ist dieses Verständnis nötig, um die charakteristischen Gefahren von KI oder einzelner KI-Systeme identifizieren zu können. Dies alles wird in Kapitel V an die Hand genommen.

Müller, Responsabilité, N 4. ↵

Wesel, Geschichte des Rechts, Rz 15; vgl. Müller, Responsabilité, S. V. ↵

Siehe Abschnitt I.3.2. ↵

Siehe Müller, Responsabilité, N 1; KUKO OR VE, S. 3. ↵

Zum einheitlichen gesetzlichen Schuldverhältnis aus rechtsgeschäftlichem Kontrakt siehe CHK-A.Furrer/R. Wey, Art. 97–98 N 9. ↵

Zur Bedeutung und zum Verständnis von Art. 97 OR als Grundnorm bzw. «Auffangbecken» (s. nachstehend Koller) des vertraglichen Haftpflichtrechts siehe CHK-A.Furrer/R. Wey, Art. 97–98 N 3 ff.: nachträgliche Leistungsunmöglichkeit, anfängliche subjektive Leistungsunmöglichkeit, positive Vertragsverletzung (abgeleitet aus der nichtgehörigen Erfüllung, wonach der Wortlaut mit «oder ist sie [die Erfüllung der Verbindlichkeit] nicht gehörig bewirkt worden» zu ergänzen sei); zur analogen Anwendung von Art. 97 OR auf die positive Vertragsverletzung insbesondere Koller, S. 1486. ↵

Art. 97 OR; § 241/249 BGB. ↵

Art. 41 OR; § 823/826 BGB. ↵

CHK-A.Furrer/R. Wey, Art. 97–98 N 19; zu Art. 146 StGB (Betrug) als Schutznorm siehe BGer 4A_230/2022, Urteil vom 27. Oktober 2022, E. 10. Das Prinzip der Schutznorm ist auch in Deutschland und Österreich bekannt, siehe Karner/Koch/Geistfeld, S. 27 (Fn. 39) ↵

Zu den Spezialgesetzen siehe Abschnitt III.3.4. ↵

Vgl. Müller, Responsabilité, N 2 und 9–10. Der zweite Abschnitt des ersten Titels des OR zur Entstehung der Obligationen lautet «Die Entstehung durch unerlaubte Handlungen» und umfasst sowohl die verschuldensabhängige Haftung wie einige der verschuldensunabhängigen besonderen Haftungstatbestände. Zur dogmatischen Kritik am Begriff der unerlaubten Handlung siehe Abschnitt III.2.3. ↵

So bei Müller, Responsabilité, N 2; BSK OR I-Kessler, Art. 41 N 44, 44b. ↵

Siehe Esser, S. 4 und S. 105 ff. sowie Abschnitt III.2.3. ↵

Mit der Regulierung des Schadens wird der gesamte Ablauf bis zur erfolgten Leistung des Schadenersatzes an die berechtigten Personen bezeichnet. ↵

Müller, Responsabilité, N 3. ↵

Die Formel gilt sogar für die vertragliche Haftung, wobei die Widerrechtlichkeit in einer positiven Vertragsverletzung begründet liegt. Dies wird bei § 1295 ABGB deutlich, der in Abschnitt III.2.2 abgedruckt ist. ↵

Müller, Responsabilité, N 72; BSK OR I-Kessler, Art. 41 N 2c mit Verweis auf BGE 132 III 122, 130 E. 4.1. ↵

Müller, Responsabilité, N 74 verweist für den Schaden (préjudice) auf Art. 47 OR 2020: «Le dommage consiste en une perte patrimoniale ou une autre perte». ↵

BGE 132 III 321, 323; 132 III 564, 575; BGer, 15. 12. 2009, 4A_282/2009, E. 3. ↵

CHK-Ch. Müller, Art. 41 N 20 ff.; BSK OR I-Kessler, Art. 41 N 2 ff. ↵

BSK OR I-Kessler, Art. 41 N 6–13; Müller, Responsabilité, N 89 ff. ↵

BSK OR I-Kessler, Art. 41 N 14. ↵

CHK-Ch. Müller, Art. 41 N 35–37; BSK OR I-Kessler, Art. 41 N 15–16; Müller, Responsabilité, N 208. ↵

BGE 123 III 110, 112 E. 3a. mit zahlreichen weiteren Hinweisen. ↵

Müller, Responsabilité, N 210. ↵

Esser, S. 107 f. mit Verweis auf das Beispiel des edictum Rothari (7. Jh.), wonach Brandschäden aus Feldfeuer dem Brandstifter nur innerhalb eines Zeitraums von 24 Stunden zugerechnet wurden. ↵

Explizit als Haftungsvoraussetzung genannt in Art. 41 Abs. 1 OR und § 823(1) BGB aber nicht (ausdrücklich) bei den Kausalhaftungen, siehe dazu Müller, Responsabilité, N 154 sowie eingehend in Abschnitt III.4. Zu den drei in der Schweizer Doktrin vertretenen Theorien der Widerrechtlichkeit siehe BSK OR I-Kessler, Art. 41 N 30 ff. oder Müller, Responsabilité, N 155a und 156. Für Deutschland siehe § 823 BGB, für Österreich § 1294 ABGB. ↵

CHK-Ch. Müller, Art. 41 N 5. ↵

CHK-Ch. Müller, Art. 41 N 6–7. ↵

Siehe sogleich in Abschnitt III.2.1. ↵

BSK OR I-Kessler, Art. 41 N 51. ↵

Art. 18 ZGB mit Verweis auf die Ausnahme der Billigkeitshaftung nach Art. 54 OR. ↵

Art. 11 ZGB. ↵

Müller, Responsabilité, N 15. ↵

Müller, Responsabilité, N 15. ↵

Alle bei BSK OR I-Kessler, Art. 41 N 1 zu finden; vgl. Müller, Responsabilité, N 10. ↵

CHK-Ch. Müller, Art. 41 N 17. ↵

CHK-Ch. Müller, Art. 41 N 18; siehe Abschnitt III.4.1. ↵

Wesel, Geschichte des Rechts, Rz 15. ↵

Wesel, Geschichte des Rechts, Rz 29. ↵

Wesel, Geschichte des Rechts, Rz 35. So auch noch später bei den germanischen Stammesrechten: kein individuelles Strafrecht, sondern vielmehr ein Recht zum Ausgleich von Verlusten und zur Verhinderung von weiteren Gewalthandlungen zwischen verfeindeten Sippen, Senn, S. 46. ↵

Dazu etwa Assmann, Exodus, S. 70 oder Wengrow, S. 88 ff; vgl. z. Bsp. Sir Leonard Woolley, A Forgotten Kingdom, London 1953 über die Hauptstadt eines Königreichs, welches von 3’500 bis 1’200 v. Chr. bestanden haben soll. ↵

Wesel, Geschichte des Rechts, Rz 63–64. ↵

Wesel, Geschichte des Rechts, Rz 100. ↵

Zum Fernhandel über das Meer in der Antike siehe Barceló, S. 38 ff.; vgl. bereits Burckhardt, Historische Fragmente, S. 18. ↵

Zum griechischen Kaufvertrag siehe Pringsheim. ↵

Wesel, Geschichte des Rechts, Rz 117. Nach Wesel ist der Vertrag in allen Kulturen juristisch aus dem Delikt entstanden – ein bemerkenswerter Gedanke, dem hier nicht weiter nachgegangen wird. ↵

Zum antiken hebräischen Recht siehe Assmann, Exodus, S. 125 f. ↵

Wesel, Geschichte des Rechts, Rz 101; zur bei den Griechen gebräuchlichen Streitschlichtung unter den beteiligten Parteien selbst oder unter Vermittlung lokaler Adliger siehe Barceló, S. 102 ff. ↵

Vertreibung des letzten römischen Königs. L. Tarquinius Superbus. ↵

Im Januar 27 v. Chr., nach Beendigung des Bürgerkriegs und Rückgabe seiner republikanischen Sondervollmachten, erhielt Octavian den Ehrentitel «Augustus». Zum Ende der Republik siehe Sommer. ↵

Kaser, Privatrecht, S. 1; Wesel, Geschichte des Rechts, Rz 146. Oft gehört hat der Verfasser die holzschnitzartige, aber einprägsame Ansicht, die Römer hätten der Nachwelt das Recht hinterlassen, im Gegensatz zum antiken Griechenland, welches die Philosophie und die schönen Künste begründet habe. ↵

Harke, Römisches Recht, S. 195. ↵

Daher die franz. Bezeichnung «responsabilité aquilienne». ↵

Die zeitgenössische römische Kommentierung findet sich in D. 9,2. Originaler Text abrufbar auf https://droitromain.univ-grenoble-alpes.fr/; zur lex eingehend Hausmaninger. Nörr, S. 16 beschreibt die verhältnismässig wenig zahlreichen römischen Staatsgesetze, die leges, als «[…] Stabilitätsinseln umgeben von einem Meer der juristischen Auseinandersetzung und des Kampfes entgegengesetzter Meinungen». Zu den leges und dem Verfahren zu ihrem Erlass siehe Kunkel/Schermaier, S. 45 ff. Anekdotische, konkrete Beispiele finden sich bei Sommer, so etwa zur berüchtigten lex Clodia de exilio Ciceronis von 58 v. Chr. ↵

Sklaven galten im römischen Recht als Sachen. ↵

Vgl. heute die Haftung für Hausgenossen nach Art. 333 ZGB. ↵

Nach Kaser, Privatrecht, S. 150 (Fn. 6) ist der Gedanke, dass ein Delikt eine eigene Obligation (Schuldverhältnis) begründet, jedoch neuer. ↵

Kaser, Privatrecht, S. 50. ↵

Kaser, Privatrecht, S. 146 f. ↵

Zahlreiche Beispiele für solche (Privat‑)Delikte als frühe Form des (Privat‑) Strafrechts finden sich in den XII Tafeln; siehe dazu Kaser, Privatrecht, S. 155 ff. ↵

Um 451–449 v. Chr. Text abrufbar auf https://droitromain.univ-grenoble-alpes.fr/. ↵

Kaser, Privatrecht, S. 163. ↵

Esser, S. 108. ↵

Harke, S. 203. ↵

Kaiser Justinian sollte die noxae deditio in Bezug auf Hauskinder abschaffen (I. 4,8,7). ↵

Kaser, Privatrecht, S. 165. Z. Bsp. Tabula VIII.6: Si quadrupes pauperiem fecisse dicetur, – lex voluit aut dari id quod nocuit – aut aestimationem noxiae offerri. ↵

Zur Epocheneinteilung für das römische Recht siehe Wieacker. ↵

Horak, S. 147 ff.; Jolowicz, S. 384 schreibt, dass «their definitions, though often giving the gist of the matter, will generally not bear close investigation, nor are they concerned to elaborate general conceptions»; siehe auch Betti, S. 136 mit Verweis auf D. 50,17,1; 202, wonach die Begriffe mal zu weit, mal zu eng ausgelegt wurden. ↵

Harke, S. 195; Kaser, Privatrecht, S. 609. Das eigentliche Deliktsrecht (delicta) ist von den öffentlichen Verbrechen (crimina) als schweren Verbrechen wie Hochverrat oder Mord zu trennen. ↵

Kaser, Privatrecht, S. 498. ↵

Kaser, Privatrecht, S. 502. ↵

Kaser, Privatrecht, S. 503. Zum Verständnis der Kausalität in der Antike und den damit verbundenen logischen Konzepten siehe Winkler, Julians Digesten, S. 141 ff. ↵

Zur kasuistischen Methode Kaser, Rechtsfindung, S. 54; Kaser, Rechtsquellen, S. 53 (Fn. 40); Wieacker, S. 47. ↵

Kaser, Privatrecht, S. 509. ↵

Zweigert/Kötz, S. 598. ↵

Gai. 2,217. Siehe Kaser, Privatrecht, S. 619. Auf Gaius geht auch die Unterscheidung der Obligationen in obligationes ex contractu und ex delicto zurück: siehe Gai. 3,88. Zur Systematik des Gaius siehe Stagl, S. 131 ff. und Harke, S. 40. ↵

Kaser, Privatrecht, S. 504. ↵

Kaser, Privatrecht, S. 505 mit warnendem Hinweis auf die Mehrdeutigkeit dieser Begriffe in den antiken Quellen. ↵

Kaser, Privatrecht, S. 625. ↵

Kaser, Privatrecht, S. 635. ↵

D. 19,2,25,7 (Gai. 10 ed. prov.). ↵

Harke, S. 205. ↵

Vgl. ganz ähnlich in Abschnitt III.4.3 zur Interpretation der Geschäftsherrenhaftung im Schweizer Recht, welche sich bei unverändertem Wortlaut von Art. 62 OR 1881 von einer Verschuldenshaftung zu einer milden Kausalhaftung entwickelte, wie sie heute in Art. 55 OR besteht. ↵

D. 14,1 De exercitoria actione. ↵

Siehe noch heute die Haftung der Gast- und Stallwirte in Art. 487–491 OR. ↵

Harke, S. 205. ↵

Zur Definition siehe D. 14,1,1. Zu den Aufgaben siehe D. 14,1,3. ↵

D. 14,1,15. ↵

D. 14,1,2. ↵

D. 14,1,4. ↵

D. 14,1,16. ↵

D. 14,1 pr. ↵

D. 14,1,5. ↵

Markiert durch den Erlass des XII Tafel-Gesetzes und den Untergang des weströmischen Reiches. ↵

Harke, S. 195; Zweigert/Kötz, S. 599. ↵

Harke, S. 201; Zweigert/Kötz, S. 597 ff.; zum Konzept der Generalklausel allg. siehe Noll, S. 264. ↵

Hugo Grotius, De jure belli ac pacis (1623); Christian Wolff, Grundsätze des Völckerrechts (1754). Wolffs «Grundsätze» sind eine Kurzfassung des wohl bekanntesten, nach der geometrischen Methode verfassten Werks aus der Zeit des Vernunftrechts, seiner monumentalen Darstellung des Naturrechts in 8 Bänden, Jus naturae methodo scientifica pertractum, veröffentlicht 1740 –1748. ↵

Zu den vier Epochen des Naturrechts (Antike; Mittelalter; Aufklärung/Neuzeit; Moderne) und den zugehörigen Ausprägungen siehe etwa Senn, Rechtsgeschichte, S. 244. ↵

Christian Wolff, Grundsätze des Völckerrechts (1754): «Mit eben diesem Gemüthe bin ich zu der Auswicklung der Rechte geschritten, und habe die Quelle alles Rechts in der menschlichen Natur gefunden, welches von den alten schon lange eingeschärfet, von den neuern wiederholet, keinesweges aber erwiesen worden». Neu abgedruckt in Christian Wolff, Grundsätze des Natur- und Völckerrechts, Serie: Gesammelte Werke / Christian Wolff. Abt. 1, Deutsche Schriften; Band 19, Hildesheim 1980, siehe dort S. 17 f. Das ursprüngliche Zitat von Cicero findet sich in De legibus I.17. ↵

Zur Anlehnung bei den Methoden der Mathematik siehe Winkler, Harmonie, S. 187 ff. ↵

Christian von Wolff, Grundsätze des Natur- und Völckerrechts, Halle 1754, § 269. ↵

Christian von Wolff, Grundsätze des Natur- und Völckerrechts, Halle 1754, § 270. ↵

Esser, S. 45 ff. ↵

Senn, S. 292. ↵

Zur Generalklausel im ALR siehe Zweigert/Kötz, S. 600. ↵

Senn, S. 293. ↵

Im Zuge der napoleonischen Kriege wurde er auch in den linksrheinischen Gebieten und in Baden eingeführt und beeinflusste so das Rechtsdenken im deutschen Rechtskreis. ↵

Fassung in Kraft seit dem 1.1.1917. ↵

Fassung in Kraft seit dem 1.1.1912. ↵

Siehe Art. 97 OR. ↵

Siehe dazu in kompakter Form Zweigert/Kötz, S. 600 ff. ↵

Protokolle zum zweiten Entwurf des BGB, S. 571 mit warnendem Hinweis auf die «Auswüchse» in der französischen Rechtsprechung aufgrund der Generalklausel des CC. Eine einzige Generalklausel nach Vorbild des CC hatten demgegenüber noch der Dresdner Entwurf von 1866 (Art. 211, 212) sowie der erste Entwurf zum BGB (§ 704 Abs. 1) vorgesehen (siehe Staudinger/J Hager (2017) Vorbem 5 zu §§ 823 ff.); dezidiert kritisch gegenüber Generalklauseln Noll, S. 158 und 255: «dilatorische Formeln», die das Problem schlicht offenlassen. ↵

Staudinger/J Hager (2017) Vorbem 5 zu §§ 823 ff. ↵

Krockow, S. 81 ff.; Osterhammel, S. 925 ff. ↵

So die Bezeichnung bei Medicus/Lorenz, Schuldrecht II, 17. Aufl., § 143 Rn 1236 ff. ↵

Die Aufzählung erinnert an die lex Aquilia. ↵

Staudinger/J Hager (2017) Vorbem 19 zu §§ 823 ff. ↵

Staudinger/J Hager (2017) § 823 Rn B 124, 131, 137, 140. ↵

Staudinger/J Hager (2017) Vorbem 20 zu §§ 823 ff. ↵

Staudinger/J Hager (2017) Vorbem 5 zu §§ 823 ff. ↵

Staudinger/J Hager (2017) Vorbem 19 zu §§ 823 ff.; Zweigert/Kötz, S. 604. ↵

Siehe die Beispiele in den Abschnitten III.3.2 und 3. ↵

KUKO OR VE, S. 3. ↵

Siehe Abschnitt III.1. ↵

So bei Esser u.a. In den auf Deutsch übersetzten Dokumenten der EU wird hingegen durchwegs von verschuldensunabhängiger Haftung gesprochen. ↵

So auf den Punkt gebracht bei Esser, S. 3; vgl. die bekannte Formulierung «casus sentit dominus», welche in dieser Allgemeinheit nicht dem klassischen römischen Recht entstammt; vgl. dazu die Kritik bei Windscheid, S. 52 (Fn. 5), wonach diese Regel «unbrauchbar und in dieser Allgemeinheit unrichtig ist». Windscheid behandelt dort (in § 264) die nachträgliche Unmöglichkeit; die Note beleuchtet dabei die Bedeutung des Zufalls. ↵

Esser, S. 45 ff. verweist auf einzelne Tatbestände der Erfolgshaftung im germanischen und mittelalterlichen Recht wie die Haftung für Bergwerk- oder Jagdschäden. Die Pandektisten hätten nicht nur diese neueren Beispiele vernachlässigt, sondern auch jene aus dem klassischen römischen Recht wie die Tierhalterhaftung oder die Haftung aus custodia. ↵

BK-Brehm, Art. 41 OR N 44 mit Verweis auf Verkehrssicherheitspflichten, wie sie insbesondere auf Skipisten zu beachten sind; vgl. Müller, Responsabilité, N 241. ↵

BK-Brehm, Art. 41 OR N 45. ↵

Krauskopf/Zellweger, S. 81. ↵

BGE 124 III 297, 300 sowie BGer 4C.119/2000 vom 02.10.2000 E. 2/b. ↵

BK-Brehm, Art. 41 OR N 45 mit Verweis auf BGer 4A_594/2010 vom 27.07.2010 E. 6.3.4. ↵

BK-Brehm, Art. 41 OR N 45 mit Verweis auf BGer 4A_604/2017 vom 30.04.2018 E. 3.1. ↵

Oder die Gerichte haben es mit der Beweisthematik nicht immer so genau genommen. ↵

Vgl. Esser, S. 49 und neuer Nater, S. 38; siehe Osterhammel, S. 907 ff. zu Technik, Arbeit, Kommunikation, Verkehr, etc. ↵

Esser, S. 31, der als Hintergrund zudem auf die Sozialgesetzgebung Bismarcks verwies; zu dieser als Antwort auf die gescheiterte Revolution von 1848 siehe H.A. Winkler, Revolution, S. 35 und S. 55. ↵

Für eine zeitgenössische Kommentierung (1841) siehe Hansemann, S. 68 ff. David Hansemann war kein Jurist, sondern bei der Abfassung seines Werks einer der Direktoren einer privaten Eisenbahngesellschaft. Er setzte sich wegen der «allgemeinen Nützlichkeit» der Eisenbahn als Transportmittel (erfolglos) für eine Abmilderung des § 25 oder gar für seine Abschaffung zugunsten der gemeinrechtlichen Verschuldenshaftung ein. ↵

Siehe Bessel-Kühlwetter, S. 128. ↵

Esser, S. 50 ff.; Nater, S. 38; Lanz, S. 383. ↵

Hug, S. 34; zur Kernenergiehaftung siehe im Detail Abschnitt III.5.4. ↵

Esser, S. 49. ↵

Vgl. das Diagramm bei Müller, Responsabilité, N 10. ↵

KUKO OR VE, S. 3 und 4. ↵

Widmer, Erste Schritte, S. 245: «Der Entwurf zu einer Reform und Vereinheitlichung des schweizerischen Haftpflichtrechts (VE 2000) liegt gegenwärtig im untersten Gefrierfach der Blocher’schen Tiefkühltruhe auf dem Eis. Er ist aus der Sicht des Justizministers uninteressant und ‹unrentabel›». Dem zweiten grossen Revisionsprojekt des OR, dem Projekt OR 2020, war ein noch geringerer Erfolg beschieden; es kam nicht über den Vorschlag hinaus. Dass grössere Revisionsprojekte im Zivilrecht zum Abschluss gebracht werden können, zeigt immerhin die Revision des Aktienrechts von 2020. ↵

Zu den Grundzügen des VE siehe KUKO OR VE, S. 4 ff. ↵

Kommentiert bei KUKO OR VE, S. 14; Fellmann, OR 2020, S. 363. ↵

KUKO OR VE, S. 14. ↵

KUKO OR VE, S. 14. ↵

Widmer, Erste Schritte, S. 245. ↵

Widmer, Erste Schritte, S. 247 mit Verweis auf Art. 5:101 PETL («Strict Liability for Abnormally Dangerous Activities») und den österreichischen Entwurf § 1302 AGE 2005 («Haftung für Quellen hoher Gefahr»); zu letzterem siehe Wagner, Reform, S. 2 ff. ↵

Fellmann, OR 2020, S. 366. ↵

D.h. ohne komplexe Erörterungen psychologischer Prozesse nach Daniel Kahnemann. ↵

Fellmann, OR 2020, S. 366. ↵

Esser, S. 8. ↵

BSK OR I-Kessler, Art. 41 N 51; Müller, Responsabilité, N 237. ↵

Zur weiteren Auslegung siehe z.B. Rosch, Rz 19 f. ↵

Siehe Abschnitt III.4.2. ↵

Siehe Art. 11 Abs. 2 ZGB, welcher klarstellt, dass die hier alles entscheidende Rechtsfähigkeit «für alle Menschen» gleichermassen gilt. Vgl. indirekt BSK ZGB I-Fankhauser, Vor Art. 11–21. ↵

So beispielhaft Borio, S. 225 für das konkrete Beispiel von Pflegerobotern. ↵

Vgl. Art. 641a ZGB, wonach Tiere zwar keine Sachen sind, aber von besonderen Regelungen abgesehen, rechtlich wie Sachen behandelt werden. ↵

Siehe Abschnitt III.4.2. ↵

Siehe bei Steinrötter in: Ebers/Heinze/Krügel/Steinrötter, Rechtshandbuch, § 26 Rz 21. ↵

Die Forderung nach analoger Anwendung von Haftungsbestimmungen über eine deliktische Generalklausel gemäss Art. 50 VE-OR 98 (siehe Abschnitt III.2.4) setzte nach wie vor natürliche Personen als Schädiger voraus. ↵

Siehe Abschnitt III.2. ↵

So Borio, S. 226; Beck/Faber/Gerndt, S. 254; Ebers in: Ebers/Heinze/Krügel/Steinrötter, Rechtshandbuch, § 3 Rz 61. ↵

BSK OR I-Kessler, Art. 41 N 45–48; Rey/Wildhaber, S. 171; Fellmann, Objektivierung, S. 95–101. Zur dogmatischen Kritik bezüglich der Überschneidung mit dem Begriff der Widerrechtlichkeit siehe Müller, Responsabilité, N 243. Bei der Prüfung der Widerrechtlichkeit wird ja in der Tat teilweise ebenfalls aus objektiver Sicht das Verhalten geprüft. Für Österreich vgl. § 1297 ABGB: «Es wird aber auch vermuthet, daß jeder welcher den Verstandesgebrauch besitzt, eines solchen Grades des Fleißes und der Aufmerksamkeit fähig sey, welcher bey gewöhnlichen Fähigkeiten angewendet werden kann. Wer bey Handlungen, woraus eine Verkürzung der Rechte eines Anderen entsteht, diesen Grad des Fleißes oder der Aufmerksamkeit unterläßt, macht sich eines Versehens schuldig.» ↵

BSK OR I-Kessler, Art. 41 N 48a. mit Verweis auf BGE 88 II 448, 453 E. 2c; BK-Brehm, Art. 41 OR N 190. ↵

Zum Gefahrensatz siehe Abschnitt III.2.3. ↵

Müller, Responsabilité, N 239. ↵

Zur dogmatischen Kritik bezüglich dieser Überschneidung siehe Müller, Responsabilité, N 243. ↵

CHK-Ch. Müller, OR 41 N 45 mit Verweis auf Rey, Haftpflichtrecht, N 695. ↵

BSK OR I-Kessler, Art. 41 N 35. ↵

Neben der objektiven (h.L.) und der subjektiven Widerrechtlichkeitstheorie; zu diesen Theorien siehe BSK OR I-Kessler, Art. 41 N 31, 32 und 32a sowie BK-Brehm, Art. 41 OR N 33 ff. ↵

BSK OR I-Kessler, Art. 41 N 32a. ↵

Siehe Abschnitt III.3.5. ↵

Zur Produkthaftung siehe Abschnitt III.6. ↵

Siehe die Beispiele 1–3 in Kapitel VI. ↵

Müller, Responsabilité, N 72. ↵

Bei der vertraglichen Haftung findet sich der Grundsatz, dass der Beauftragte dem Auftraggeber eine sorgfältige Ausführung des Auftrags schuldet, im Gesetz (Art. 398 Abs. 2 OR). ↵

Siehe oben. ↵

Zur geschichtlichen Entwicklung des Begriffs siehe sogleich Abschnitt III.3.3. ↵

Für Österreich siehe dazu § 1299 ABGB, welcher an Sachverständige klare Erwartungen stellt: «Wer sich zu einem Amte, zu einer Kunst, zu einem Gewerbe oder Handwerke öffentlich bekennet; oder wer ohne Noth freywillig ein Geschäft übernimmt, dessen Ausführung eigene Kunstkenntnisse, oder einen nicht gewöhnlichen Fleiß erfordert, gibt dadurch zu erkennen, daß er sich den nothwendigen Fleiß und die erforderlichen, nicht gewöhnlichen Kenntnisse zutraue; er muß daher den Mangel derselben vertreten. Hat aber derjenige, welcher ihm das Geschäft überließ, die Unerfahrenheit desselben gewußt; oder, bey gewöhnlicher Aufmerksamkeit wissen können; so fällt zugleich dem Letzteren ein Versehen zur Last.» ↵

Siehe Unterabschnitt c) zur einschlägigen Rechtsprechung. ↵

Kipker/Harner/Müller, S. 25. ↵

BSK ZGB I-Honsell, Art. 4 N 6. ↵

Technikoffenheit und Technikneutralität sind nicht gleichzusetzen. Bei einer technikneutralen Gesetzgebung soll die auf einen zu beurteilenden Sachverhalt angewandte Technik keine Rolle spielen. So sind etwa die Sorgfaltspflichten des Finanzintermediärs unabhängig davon zu befolgen, ob der Finanzintermediär Zahlungen mit Fiat-Währungen oder mit Kryptowährungen durchführt. Bei der Technikoffenheit hingegen werden die technischen Gegebenheiten aktiv in die rechtliche Beurteilung einbezogen. ↵

Kipker/Harner/Müller, S. 26. ↵

Vgl. Abschnitt I.2.3 zur Selbstregulierung durch die Industrie. ↵

BGE 130 IV 7, 11 E. 3.3; vgl. BSK OR I-Kessler, Art. 41 N 19a m.w.H sowie für das Strafrecht BGer, Urteil vom 12. 6. 2009, 6B_175/2009, E. 3.1. ↵

Siehe Abschnitt III.2.3. ↵

Vgl. COM(2020) 64 final, S. 1. Der Gedanke, dass die kasuistische Behandlung von Fällen durch die Gerichte ein Produkt des Zufalls ist, findet sich verschiedentlich bei Luhmann. ↵

Zur zuweilen schwierigen Abgrenzung zwischen Widerrechtlichkeit und objektiviertem fahrlässigen Fehlverhalten siehe CHK-Ch. Müller, Art. 41 N 11. ↵

BGE 127 IV 34 E. 2a m.w.H. ↵

Allgemein zur Arzthaftung siehe BK-Brehm, Art. 41 OR N 208 ff.; Donzallaz, N 4539 ff.; Landolt, S. 329–349; zum Kunstfehler im Besonderen Donzallaz, N 4550; zur ärztlichen Sorgfalt im Allgemeinen und beim Einsatz von Robotern und Algorithmen im Besonderen siehe Widmer Lüchinger, S. 8 ff. ↵

Siehe z.B. Herberger, S. 46 ff. und im Vergleich mit Galens Methodenprogramm, S. 83 ff. ↵

Zum neueren Stand der Wissenschaftsgeschichte siehe z. Bsp. Sommer/Müller-Wille/Reinhardt. ↵

Vgl. aber Roberto, Haftpflichtrecht, Rz 04.139 ff., der die Entwicklung des Arztrechts als «verfehlt und systemwidrig» kritisiert. ↵

Donzallaz, N 4539–40, der darauf hinweist, dass im öffentlich-rechtlichen Patientenverhältnis die Staatshaftung eingreift, die sich nach den deliktischen Grundsätzen richtet. ↵

BK-Brehm, Art. 41 OR N 208. ↵

BK-Brehm, Art. 41 OR N 210a mit Verweis auf BGE 105 II 284, 285 E. 1: «[…] pour tenir compte des imperfections de la science et de la faillibilité humaine». ↵

Urteil 4C.366/2006 vom 9. Februar 2007. ↵

BGE 133 III 121, 124 E. 3.1. Vgl. auch BGE 130 IV 7, 11 E. 3.3. In BGE 105 II 284 befand das Bundesgericht, die strikte Anwendung des auftragsrechtlichen Sorgfaltsmassstabs auf die Tätigkeit des Arztes sei mit der normalen Ausübung des ärztlichen Berufes unvereinbar (!). Die Rechtsprechung habe daher dessen Strenge gemildert, um der Unvollkommenheit der Wissenschaft und der menschlichen Fehlbarkeit Rechnung zu tragen. In BGE 113 II 429 revidierte das Gericht diese Position und kam zum Schluss, eine Beschränkung der Haftung finde im Gesetz keine Stütze und wäre mit dessen Sinn und Zweck auch nicht zu vereinbaren. Die Haftung des Arztes könne sich daher keineswegs auf grobe Verstösse gegen die Sorgfaltspflicht beschränken. Siehe dazu Fellmann, Berührungspunkte, S. 95. ↵

BSK OR I-Oser/Weber, Art. 394 N 9: d.h. Pflegeverträge (Arzt‑, Zahnarzt‑, Veterinärverträge) sind typische Aufträge. ↵

BSK OR I-Oser/Weber, Art. 394 N 2. ↵

BGE 133 III 121, 124 E. 3.1. ↵

Ob ein solcher Wissensbestand für Finanzdienstleistungen existiert, kann hier leider nicht weiter vertieft werden. Die Begriffe lege artis und Stand der Wissenschaft erscheinen weder in der Botschaft zu FIDLEG/FINIG noch im Erläuterungsbericht des EFD zu den zugehörigen Verordnungen. Als isoliertes Beispiel aus der Literatur sei SK FIDLEG-Fahrländer, Art. 10 N 25 genannt, wonach die Prüfpflichten von Art. 10–14 FIDLEG «das aus aufsichtsrechtlicher Sicht lege artis geschuldete Vorgehen eines Finanzdienstleisters bei der Erbringung einer Anlageberatung oder Vermögensverwaltung» beschreiben. Immerhin gehört nach BGE 141 V 416, 425, E. 6.4 «[e]ine lege artis, d.h. gestützt auf wissenschaftlich anerkannte Modelle durchgeführte Performanceprognose […] zu den Informationen, welche die versicherte Person bereits bei der Wahl der Strategie benötigt […].» ↵

Für diese mag auch das Prinzip von Treu und Glauben (Art. 2 Abs. 1 ZGB) stehen, insbesondere wenn es um allgemeines (rechts‑)geschäftliches Verhalten geht. ↵

BGE 133 III 121, 124 E. 3.1 mit Verweis auf BGE 108 II 59 E. 1; BGE 64 II 200 E. 4a. ↵

BGer 4A_196/2021, Urteil vom 2. September 2022, E. B.b.b. ↵

BGE 131 III 121, 124 E. 3.1. ↵

BGE 34 II 32, 37 E. 4. ↵

BGE 64 II 200, 205 E. 4a. ↵

BGE 57 II 202 E. 3. ↵

Damals Art. 348 OR, heute Art. 394 ff. OR. Hier widerspiegelt sich die Rechtsnatur des Auftragsverhältnisses, bei dem der Beauftragte eben gerade nicht für den Erfolg seiner Tätigkeit einstehen muss. ↵

BGE 34 II 32, 40 E. 5 verwendet explizit den Ausdruck «lege artis» in Bezug auf die (im konkreten Fall mangelhafte) Untersuchung des Schultergelenks. ↵

BGE 34 II 32, 36 E. 3. ↵

BGE 34 II 32, 40 E. 5. ↵

BGE 57 II 202 E. 3 mit Verweis auf BGE 34 II 32 ff. ↵

BGE 64 II 200, 205 E. 4a mit Verweis auf BGE 34 II 36; BGE 53 II 300; BGE 57 II 202. Bei dem in BGE 34 II 32, 36 E. 3 beurteilten Fall aus dem Jahr 1908 lautete die Diagnose fälschlicherweise auf Kontusion (Prellung) und Distorsion (Zerrung, Verstauchung) statt auf Luxation (Verrenkung, Auskugelung des Schultergelenks). ↵

BGE 64 II 200, 205 E. 4a. ↵

BGE 64 II 200, 205 E. 4a. ↵

Die Entdeckung der nach dem deutschen Physiker Wilhelm Conrad Röntgen (1845–1923) benannten Strahlen erfolgte 1895. ↵

BGE 53 II 424 E. 2. ↵

BGE 64 II 200, 205 E. 4a mit Verweis auf BGE 53 II 424; BGE 57 II 202. ↵

BGE 64 II 200, 207 E. 4b. ↵

BGE 64 II 200, 207 E. 4b. ↵

BGE 34 II 32, 40 E. 5 verwendet explizit den Ausdruck «lege artis» in Bezug auf die (im konkreten Fall mangelhafte) Untersuchung des Schultergelenks. ↵

BGE 34 II 32, 36 E. 3. ↵

BGE 64 II 200, 205 E. 4a. ↵

Art. 10 Abs. 2 BV. ↵

BGE 133 III 121, 129 E. 4.1.1 m.w.H. ↵

Vgl. das Erfordernis der informierten Zustimmung im Datenschutzrecht, Art. 6 Abs. 6 DSG, Art. 4 Nr. 11 DSGVO. ↵

BGE 133 III 121, 129 E. 4.1.1 mit Verweis auf BGE 117 Ib 197, 200 E. 2a. Zu den verschiedenen Aufklärungspflichten des Arztes siehe Herzog-Zwitter, S. 316–322. ↵

Fellmann, Berührungspunkte, S. 96. ↵

Für eine Übersicht zur Totalrevision von 2022 siehe Bucher/Acs, S. 77 ff. Auf den Stand der Technik bzw. die anerkannten Regeln der Technik wird in Art. 31 Abs. 1, 33 Abs. 3 und 77 Abs. 1 BauAV verwiesen. ↵

Art. 229 StGB verweist ausdrücklich auf die anerkannten Regeln der Baukunde; zur Definition des Begriffs siehe PK StGB, Art. 229 N. ↵

Nach Bucher/Acs, S. 78 f. ↵

Vgl. Imhof, S. 5. ↵

Bsp. Waadt, Kantonsgericht, CACI 10. März 2021/115, E. 4.2.3 (fehlerhafte oder fehlende Abdeckung von Bodenöffnungen): «Tant sous l’angle de la responsabilité objective de l’art. 55 al. 1 CO que sous celui de la conception objective de l’illicéité en lien avec l’art. 41 CO, il y a bien eu un acte illicite au sens de ces dispositions, lequel a été prouvé par le lésé.» Die Argumentation konzentrierte sich auf Art. 55 OR, sodass das Verschulden nicht vertieft wurde. ↵

Bsp. Thurgau, Obergericht, Urteil vom 09.10.2013 in SG 2013 Nr. 1655 (fehlerhaftes Geländer): Für das zivilrechtliche Verschulden verwies das Gericht auf die Argumente zum strafrechtlichen Verschulden, welches in einer Verletzung der Regeln der Baukunde gesehen wurde; die Widerrechtlichkeit ergab sich hier bereits durch das Vorliegen einer schweren Körperverletzung; haftpflichtig wurden Angestellte der Baufirma, nicht die Baufirma selbst, sodass Art. 41 OR zur Anwendung gelangte. ↵

Die Terminologie ist im Übrigen von der im Vertragsrecht gebräuchlichen abzugrenzen. Dort lassen sich Verhaltenspflichten in Schutz‑, Obhuts‑, Beratungs‑, Unterlassungs‑, Informations- und Aufklärungspflichten unterteilen, siehe Haftpflicht-Komm-Giger, Art. 97 OR N 24 mit Verweis auf Gauch/Schluep/Emmenegger, Rz 2643 ff. ↵

So Weber/Buschermöhle S. 342. ↵

Vgl. den expliziten Hinweis in der EKAS-Richtlinie «Asbest» (Nr. 6503). Der Ingress der MaschV verweist zudem auf Art. 83 Abs. 1 UVG. ↵

Diese richten sich nach Anhang I der Richtlinie 2006/42/EG vom 17. Mai 2006 über Maschinen (EU-Maschinenrichtlinie). ↵

Vgl. Art. 7 Abs. 1 aDSG: «Personendaten müssen durch angemessene technische und organisatorische Massnahmen gegen unbefugtes Bearbeiten geschützt werden». Die Ausführungsbestimmungen fanden sich in Art. 8–12 aVDSG. ↵

Vgl. die Bestimmung von Art. 7 DSG zum Datenschutz durch Technik und datenschutzfreundliche Voreinstellungen («Privacy-by-Design»). Nach Abs. 2 müssen die TOM insbesondere dem Stand der Technik, der Art und dem Umfang der Datenbearbeitung sowie dem Risiko, das die Bearbeitung für die Persönlichkeit oder die Grundrechte der betroffenen Personen mit sich bringt, angemessen sein. ↵

Art. 1–5 DSV. ↵

Art. 32 DSG mit Verweis auf Art. 28, 28a ZGB. Rosenthal/Jöhri, Art. 7 N 10; zum Verschulden als Voraussetzung für Schadenersatz siehe BSK ZGB I-Meili, Art. 28 N 55. ↵

Vgl. Art. 32 Abs. 1 DSGVO, welcher ebenfalls auf den Stand der Technik verweist. ↵

Rosenthal/Jöhri, Art. 7 N 10. ↵

Zum Konzept des Restrisikos siehe Abschnitt III.6.5. ↵

Rosenthal/Jöhri, Art. 7 N 10. ↵

Zur Informationspflicht bei automatisierten Einzelentscheidungen siehe Art. 21 DSG und Art. 22 DSGVO. ↵

Vgl. Art. 13 (2) (f) DSGVO, welcher bei einer automatisierten Einzelentscheidung zumindest die Offenlegung der grundlegenden Logik verlangt, was im Allgemeinen nicht genügen wird. ↵

Vgl. EuGH C-340/21, wonach eine unbefugte Offenlegung von bzw. ein unbefugter Zugang zu personenbezogenen Daten durch Dritte allein noch nicht ausreiche, um anzunehmen, dass die TOM ungenügend waren; die Geeignetheit der TOM i.S.v. Art. 32 DSGVO müsse vielmehr konkret geprüft werden. Vgl. Beck, Faute présumée, zum anderslautenden Antrag des Generalanwalts. ↵

Siehe z.B. FINMA-Risikomonitor 2021, FINMA-Aufsichtsmitteilung 05/2020 zur Einführung einer Meldepflicht bei Cyber-Attacken; für weiterführende Informationen siehe die Webseite des Nationalen Zentrums für Cybersicherheit NCSC https://​www.​ncsc.​admin.​ch/ncsc/de/home.html (zuletzt besucht am 07.08.2025). ↵

Botschaft 2017 DSG, 6970. ↵

Erläuterungsbericht VDSG 2021, S. 14. ↵

Erläuterungsbericht VDSG 2021, S. 16. ↵

Baeriswyl, Art. 7 N 9. ↵

Siehe heute die Art. 1–5 DSV. Kein diesbezüglicher Kritikpunkt in David Vasella, Zum Entwurf der revidierten VDSG: eine verpasste Chance, Blog-Beitrag vom 17. Juli 2021 auf datenrecht.ch. Matthias Glatthaar stellt in seinem Blog-Beitrag vom 12. September 2021 auf derselben Seite klar, dass die vorgeschlagenen Vorschriften zur Datensicherheit (Art. 2 VE-VDSG) keine Mindestanforderungen seien, wie es Art. 8 Abs. 3 revDSG eigentlich verlange. Es handle sich vielmehr um einen «breit gefächerten Strauss ambitionierter Schutzziele, die ‹erreicht› werden sollen». Sein (zu Recht) launisches Fazit: «Was ja noch einigermassen ginge, wenn ihre Verletzung nicht mit Strafe bedroht wäre. Ist sie aber.» Die Strafbestimmung findet sich in Art. 61 Bst. c DSG («Verletzung von Sorgfaltspflichten»). ↵

Mantz in HK DSGVO, Art. 25 N 37 ff., Art. 32 N 10; siehe Bundesverband IT-Sicherheit e.V., Handreichung zum «Stand der Technik», Fassung von 2021. ↵

Siehe Glatthaars Fazit aus Fn. 625. ↵

Siehe das Beispiel 3 in Kapitel VI. ↵

Aus strafrechtlicher Sicht ist neben übler Nachrede und Verleumdung nur die qualifizierte schriftliche Lüge als Tatbestand der Urkundenfälschung nach Art. 251 StGB zu nennen. ↵

Siehe Abschnitt III.3.5. Vgl. im deutschen Recht den deliktischen Haftungstatbestand aus § 824 Abs. 1 BGB für Datenfehler, die zu einer Kreditgefährdung führen: «Wer der Wahrheit zuwider eine Tatsache behauptet oder verbreitet, die geeignet ist, den Kredit eines anderen zu gefährden oder sonstige Nachteile für dessen Erwerb oder Fortkommen herbeizuführen, hat dem anderen den daraus entstehenden Schaden auch dann zu ersetzen, wenn er die Unwahrheit zwar nicht kennt, aber kennen muss.»; siehe dazu Kirchner, S. 59. ↵

BGE 111 II 471, 474; BGE 129 IV 119, 122 E. 2.3; siehe dazu BK-Brehm, Art. 41 N 47 ff. Demgegenüber kann sich die Widerrechtlichkeit im Auftragsrecht aus einer unsorgfältigen Vertragserfüllung ergeben. Vgl. dazu BSK OR I-Oser/Weber, Art. 398 N 27. ↵

BGE 111 II 471, 474 E. 3.2 mit Verweis auf BGE 57 II 85 E. 2. ↵

BGE 111 II 471, 473 E. 2: Auskunft über die Kreditwürdigkeit eines potentiellen Geschäftspartners des Bankkunden; kein Fall einer falschen Auskunft ist BGE 130 V 448, 455 E. 5.2, wo sich die Widerrechtlichkeit vielmehr aus dem Verstoss gegen die in Art. 7 Abs. 5 Satz 1 KVG gesetzlich begründete Rechtspflicht des neuen Versicherers ergab, dem bisherigen Versicherer eine Mitteilung bestimmten Inhalts zukommen zu lassen. ↵

BGE 41 II 82 E. 4; BGE 111 II 471, 474 E. 3. Ebenso BGE 129 IV 119, 122 E. 2.3 und 2.4, wonach «[d]er Direktor einer Firma, die Kontakte zwischen Sportveranstaltern und potentiellen Kunden vermittelt und entsprechende sportliche Aktivitäten organisiert, […] seine Sorgfaltspflicht [verletzt], wenn er einen Sportveranstalter empfiehlt, der nicht über die notwendigen amtlichen Bewilligungen verfügt». ↵

BSK OR I-Kessler, Art. 41 N 44 mit zahlreichen Hinweisen, insbesondere auf BGE 120 II 331, welcher die Haftung aus erwecktem Konzernvertrauen begründete. ↵

BSK OR I-Kessler, Art. 41 N 44b. ↵

BGE 120 II 331, 335 ff. E. 5a). ↵

BGE 121 III 350, 354 f. E. 6, u.a. mit Art. 2 Abs. 1 ZGB als Schutznorm; vgl. BGer, Urteil vom 26. 05. 2009, 4A_564/2008, E. 3.1. ↵

BSK OR I-Kessler, Art. 41 N 44b. ↵

BGE 111 II 471. ↵

BGE 111 II 471, 474 E. 4 mit Verweis auf Schönle, S. 387. ↵

Vgl. den bereits zitierten Entscheid von 1994 zum erweckten Vertrauen in das Konzernverhalten, BGE 120 II 331. ↵

Vgl. den Artikel «Digitale Dreifaltigkeit» in UZHmagazin, 1/23, S. 30 ff. ↵

Siehe das Beispiel 3 in Kapitel VI. ↵

BK-Brehm, Art. 41 N 49 mit Verweis auf BGE 115 II 15, 19; BGE 116 II 695, 699. ↵

Kritisch BK-Brehm, Art. 41 N 49a, 53a. ↵

KUKO OR-Schönenberger, Vor Art. 41 – 61 N 9. ↵

Siehe Abschnitt III.6. ↵

Müller, Responsabilité, N 10 nennt noch Art. 39 StSG. ↵

Vgl. Abschnitt III.3.1. ↵

So auch Borio, S. 225 für das konkrete Beispiel von Pflegerobotern. ↵

Die hier genannte philosophische Terminologie stimmt nicht mit der üblichen juristischen Begrifflichkeit überein. Im sozialen Sinn handlungsfähig zu sein, bedeutet über eine bestimmte Autonomie zu verfügen. Auch ein Pferd, welches angesichts einer Gefahr scheut, verfügt in diesem Sinn über ein Mindestmass an Autonomie. ↵

Omlor, S. 222. ↵

Art. 333 ZGB. ↵

Art. 58 OR. ↵

Borio, S. 226 ff. ↵

Art. 58 SVG; siehe Fellmann, S. 109 f. ↵

BGE 122 III 262, 266 E. 2. ↵

Dauerhaft bedeutet nicht, dass die Urteilsfähigkeit definitiv nicht (wieder‑)erlangt werden kann; die Urteilsunfähigkeit muss jedoch für eine längere Zeitperiode nicht gegeben sein. ↵

BK-Brehm, Art. 54 OR N 10 m.w.H. ↵

BSK OR I-Kessler, Art. 54 N 1 ↵

BK-Brehm, Art. 54 OR N 17. ↵

BSK OR I-Kessler, Art. 54 N 8. ↵

Siehe hierzu die Diskussion über das Modell von Floridi/Sanders in Abschnitt IV.2.2. ↵

Vgl. § 831 Abs. 1 BGB; § 1314, § 1315 ABGB. ↵

Nater, S. 3. ↵

BGE 50 II 489, 493 E. 2 (Urteil vom 24.11.1924) mit Verweis auf BGE 45 II 647; 49 II 94; vgl. BGE 110 II 456, 460 E. 2; Honsell, Hilfspersonen, S. 59; Nater, S. 5. ↵

BSK OR I-Kessler, Art. 55 N 14; zur Haftung mehrerer siehe Abschnitt III.7. ↵

BK-Brehm, Art. 55 OR N 31 m.w.H. ↵

BSK OR I-Kessler, Art. 55 N 1 m.w.H. ↵

Honsell, Hilfspersonen, S. 60. ↵

Vgl. Nater, S. 6 mit Verweis auf Oftinger/Stark, Haftpflichtrecht I, S. 20, 22/3, II/1, S. 3/4. ↵

Art. 62 OR 1881 lautete: «Ein Geschäftsherr haftet für den Schaden, welchen seine Angestellten oder Arbeiter in Ausübung ihrer geschäftlichen Verrichtungen verursacht haben, wenn er nicht nachweist, dass er alle erforderliche Sorgfalt angewendet habe, um einen solchen Schaden zu verhüten. […]» An sich hätte das Verb «verursachen» bereits klar für eine Kausalhaftung sprechen sollen, aber offenbar sah man das damals anders. ↵

BGE 10 587; BGE 11 56. ↵

Siehe dazu Nater, S. 5 ff. mit Verweis auf Bieder. ↵

Die für eine schrittweise Hinwendung zur Kausalhaftung von Nater zitierten Urteile stützten diese Aussage leider nicht in eindeutiger Weise. Sowohl BGE 31 II 697, 701 E. 4 (Urteil vom 09.12.1905) als auch BGE 34 II 267, 270 E. 4 (Urteil vom 02.05.1908) besprechen beide ausdrücklich das Verschulden der Arbeitnehmer: Im zweiten Urteil wurde ein Verschulden des Geschäftsherrn tatsächlich nicht diskutiert, sondern nur der Entlastungsbeweis, welcher nicht gelingen konnte. ↵

Siehe die unmissverständliche Formulierung im bereits zitierten BGE 50 II 489 von 1924. ↵

Nater, S. 6 mit zahlreichen Hinweisen auf die Rechtsprechung; vgl. Oftinger/Stark, II/1, S. 103; Portmann, S. 60. ↵

BGer 4A_635/2020 Urteil vom 5. Mai 2021 E. 2.2. ↵

BGE 122 III 225, 227 E. 4; vgl. die Spezialnormen von Art. 567 Abs. 3 OR (Haftung der Kollektivgesellschaft für unerlaubte Handlungen eines Gesellschafters) und Art. 722 OR (Haftung der Aktiengesellschaft für unerlaubte Handlungen einer zur Geschäftsführung oder Vertretung befugten Person). ↵

Oftinger/Stark, II/1, S. 104; Nater, S. 7. ↵

Siehe dazu allg. z.B. Kroeschell, Band 3, S. 214 ff. sowie das Beispiel der k.k. privilegierten Südbahn-Gesellschaft, beschrieben in Jursitzka/Pawelka, S. 14 ff. ↵

Nach herkömmlicher Lesart setzte sich im Schweizer Recht die Realitätstheorie von Gierke durch. ↵

Siehe dazu Ebers, in: Ebers/Heinze/Krügel/Steinrötter, Rechtshandbuch, § 3 Rz 73 ff. Wie in der Einleitung angekündigt, ist unsere These eine andere. ↵

Vgl. Gilliéron, S. 446, der diese Frage mit der Frage vergleicht, welche die Menschen im 19. Jh. stellen mochten, ob ein Fotoapparat Urheber sein könnte. ↵

Vgl. § 278 BGB; § 1313a ABGB. ↵

BK-Brehm, Art. 55 OR N 101. ↵

BSK OR I-Kessler, Art. 55 N 4; Oftinger/Stark, II/1, S. 110 ff. und Oftinger/Stark, I, S. 432 ff. ↵

BSK OR I-Kessler, Art. 55 N 2 und 11 mit zahlreichen Verweisen auf die unterschiedlichen Meinungen; BK-Weber/Emenegger, Art. 101 OR N 4 («vom Charakter her mehr eine Zurechnungsnorm als eine materielle Haftungsnorm»). Siehe auch BGer 4A_70/2021, Urteil vom 15. Juli 2021, E. 8.4.2. Diese Unterscheidung in eigenständigen Tatbestand und Zurechnungsnorm existiert auch im Strafrecht, siehe z.B. BGE 146 IV 68 zu Art. 102 StGB. ↵

BGer 2C_752/2013 Urteil vom 2. Mai 2014, E. 3.4. ↵

Honsell, Hilfspersonen, S. 55; vgl. Lohmann/Pressler, S. 884: «prägend für das ausgelöste Risiko ist ein Delegationsmoment, d.h. der Umstand, dass die Erfüllung einer Schuldpflicht delegiert worden ist.» ↵

BSK OR I-Kessler, Art. 55 N 15. ↵

Honsell, Hilfspersonen, S. 60. ↵

BSK OR I-Kessler, Art. 55 N 7. ↵

So BSK OR I-Kessler, Art. 55 N 7 mit Verweis auf Oftinger/Stark, II/1, 303. ↵

Oftinger/Stark, II/1, 303. ↵

Oftinger/Stark, II/1, 313. ↵

Siehe Abschnitt IV.2.2 f) und Abschnitt IV.4.2. ↵

Für das Strafrecht siehe Trechsel/Noll/Pieth, AT7, 166; Waespi, Diss., 70; Wohlers, SJZ 2000, 382. ↵

BGer 4A_305/2021 Urteil vom 2. November 2021 E. 7.2. Dem Streit lag kein eigentlicher Haftpflichtfall zugrunde, sondern die Weigerung der Beschwerdeführerin, der Bank ihre Market Making-Dienste vertragsgemäss zu vergüten. In dem zitierten Teil ging es um das Argument, eine Vergütung sei nicht geschuldet, da die Bank den Vertrag verletzt habe, indem sie eine unzulässige Substitution vornahm. Siehe dazu jetzt Lohmann/Pressler, S. 879 ff. ↵

BGer 4A_305/2021 Urteil vom 2. November 2021 E. 7.3.1. ↵

Zum gleichen Schluss kommt Borio, S. 225 für den (hypothetischen) Fall eines Pflegeroboters. Bejahend für eine analoge Anwendung Lohmann/Pressler, S. 879 ff. und Yacoubian, S. 195 ff. ↵

Für Deutschland vgl. § 833 BGB, für Österreich vgl. § 1320 ABGB. ↵

BK-Brehm, Art. 55 OR N 31; BSK OR I-Kessler, Art. 56 N 1. ↵

So explizit in Art. 56 Abs. 1 OR; vgl. Oftinger/Stark, II/1, 357; BK-Brehm, N 32. ↵

BGer 4C.268/2004 vom 04.10.2004 E. 2.1. ↵

Wesel, Alles was Recht ist, S. 128. ↵

Krauskopf, Tierhalterhaftung, S. 56 ff. ↵

BK-Brehm, Art. 56 OR N 4. ↵

D. 9.1.1 pr. (Ulpian). ↵

Kaser, Privatrecht, S. 633. ↵

Kaser, Privatrecht, S. 633 mit Verweis auf Haymann, SZ 42 (1921), S. 368 ff., der diese Vorstellung abgelehnt habe. ↵

D. 9.1.13 (Ulpian). ↵

BGer 4C.268/2004 vom 04.10.2004 E. 3.4. ↵

BGer 4A_25/2021 vom 24.08.2021 E. 2.1 mit Verweis auf BGE 131 III 115 E. 2.1; vgl. auch Urteile 4A_372/2019 vom 19. November 2019 E. 2.1; 4A_36/2019 vom 21. Februar 2019 E. 5.1. ↵

BGE 24 II 867, 869; Rey/Wildhaber, N 1183 f. Für das römische Recht siehe D. 9.1.1.8 (Ulpian). ↵

BSK OR I-Kessler, Art. 56 N 1. ↵

BGE 64 II 373, 375. ↵

Im vorliegenden Fall wurde die Haftpflicht der Beklagten (der Verkäufer des Ebers) als Tierhalter infolge Selbstverschulden bzw. Mitverantwortung des Klägers gemildert. Das Selbstverschulden des verletzten Klägers konnte die grundsätzliche kausale Haftung der Tierhalter jedoch nicht völlig ausschalten (siehe E. 5 im zitierten Urteil). ↵

Siehe Abschnitt III.5.2. ↵

BGer 4A_25/2021 vom 24. August 2021, Sachverhalt A. ↵

BGer 4A_25/2021 vom 24. August 2021, Sachverhalt B. ↵

BGer 4A_25/2021 vom 24. August 2021, Dispositiv. ↵

BGer 4A_25/2021 vom 24. August 2021, E. 2.2. ↵

BGer 4A_25/2021 vom 24. August 2021, E. 2.2. ↵

BGer 4A_25/2021 vom 24. August 2021, E. 2.2. ↵

BGer 4A_25/2021 vom 24. August 2021, E. 2.2. ↵

BGer 4A_25/2021 vom 24. August 2021, E. 2.2. ↵

BGer 4A_25/2021 vom 24. August 2021, E. 2.2. ↵

BGer 4A_25/2021 vom 24. August 2021, E. 2.2. ↵

BGer 4A_25/2021 vom 24. August 2021, E. 2.4.2. ↵

BGer 4A_25/2021 vom 24. August 2021, E. 2.4.3. ↵

BGer 4A_25/2021 vom 24. August 2021, E. 2.6. ↵

BGer 4A_25/2021 vom 24. August 2021, E. 2.7. ↵

BGer 4A_25/2021 vom 24. August 2021, E. 2.8. ↵

Krauskopf, Tierhalterhaftung, S. 56 ff. ↵

Krauskopf, Tierhalterhaftung, S. 56 ff. ↵

Eine solche strikte Haftung findet sich in Art. 1243 Code Civil (Frankreich): «Le propriétaire d’un animal, ou celui qui s’en sert, pendant qu’il est à son usage, est responsable du dommage que l’animal a causé, soit que l’animal fût sous sa garde, soit qu’il fût égaré ou échappé» und in Art. 2052 Codice Civile (Italien): «Il proprietario di un animale o chi se ne serve per il tempo in cui lo ha in uso, è responsabile dei danni cagionati dall’animale, sia che fosse sotto la sua custodia, sia che fosse smarrito o fuggito, salvo che provi il caso fortuito». Weniger eindeutig jedoch in § 833 BGB (Deutschland): «Wird durch ein Tier ein Mensch getötet oder der Körper oder die Gesundheit eines Menschen verletzt oder eine Sache beschädigt, so ist derjenige, welcher das Tier hält, verpflichtet, dem Verletzten den daraus entstehenden Schaden zu ersetzen. Die Ersatzpflicht tritt nicht ein, wenn der Schaden durch ein Haustier verursacht wird, das dem Beruf, der Erwerbstätigkeit oder dem Unterhalt des Tierhalters zu dienen bestimmt ist, und entweder der Tierhalter bei der Beaufsichtigung des Tieres die im Verkehr erforderliche Sorgfalt beobachtet oder der Schaden auch bei Anwendung dieser Sorgfalt entstanden sein würde.» ↵

Krauskopf, S. 56 ff. ↵

BGer 4A_372/2019, Urteil vom 19. November 2019; besprochen in Krauskopf, S. 56 ff. ↵

BGer 4A_372/2019, Sachverhalt B. ↵

BGer 4A_372/2019, E. 2.5. ↵

Tremp, S. 120. ↵

Borio, S. 222; vgl. allgemein gegen die Analogiebildung bei der Gefährdungshaftung Staudinger/J. Hager (2017), Vorbem. 29 zu §§ 823 ff.; ebenso Honsell, Hilfspersonen, S. 55; Omlar, S. 223, wonach dem Normadressaten das Haftungsrisiko nur mittels einer Kodifizierung hinreichend deutlich vor Augen geführt würde, sodass er sich in der Folge versichern lassen könne. ↵

Lohmann, Roboter als Wundertüten, S. 160 f. Vgl. ELI-Response, S. 29 mit Verweis auf die Autonomie von Tieren und die mit ihnen verknüpfte Gefahr von unvorhergesehenem Verhalten. Eine Gefährdungshaftung für Betreiber von KI-Anwendungen wurde vom Europäischen Parlament in EP-Entschliessung 20, Ziff. 12 gefordert. ↵

Für Deutschland vgl. § 836 BGB, für Österreich vgl. § 1319. ↵

BSK OR I-Kessler, Art. 58 N 11 mit Verweis auf Oftinger/Stark, II/1, 185. ↵

BSK OR I-Kessler, Art. 58 N 12 mit Verweis auf BGE 130 III 736, 740; 121 III 448, 449; Rey/Wildhaber, N 1244; BK-Brehm, Art. 58 OR N 27 f. ↵

Für Pflegeroboter Borio, S. 227. ↵

Vgl. Borio, S. 227, die mit Verweis auf BGE 111 II 429 443 E. 3b (betrifft die Grundeigentümerhaftung nach Art. 679 ZGB) und BGE 69 II 394, 398 E. 3 (kein ideales Beispiel, denn der «Gefahrenzustand» bezog sich gerade nicht nur auf den Werkmangel, sondern auf ein zusätzliches Fehlverhalten der geschädigten Person) von einer «Zustandshaftung» spricht. ↵

Rey/Wildhaber, Rz 1211. ↵

Rey/Wildhaber, Rz 1210; a.A. Roberto, Haftpflichtrecht, Rz 10.16 f. ↵

Oftinger/Stark, § 19 Rz 11; der in Fn. 376 zitierte BGE 69 II 394 sollte nicht als «Gegenbeispiel» für diese Aussage gesehen werden. In diesem Fall wurde ein Werkmangel durch ein zusätzliches Fehlverhalten der geschädigten Person überlagert. ↵

Oftinger/Stark, § 19 Rz 11. ↵

Vgl. auch Botschaft 2014 ZertES, S. 1032. Die Bestimmung gilt für andere «Schlüssel» nicht. ↵

Vgl. Art. 3 Nr. 10 elDAS-Verordnung. ↵

Für eine Einführung in das Thema der elektronischen Signaturen siehe Wyss/Blättler. ↵

Eine QES kann verwendet werden, um Verträge oder Transaktionen zu dokumentieren und/oder zu unterzeichnen, die eine eigenhändige Unterschrift erfordern (und natürlich alle Verträge oder Transaktionen, die keinen Formvorschriften unterliegen). Konkret verlangt das Gesetz eine QES u.a. für folgende Vertragsarten: Verbraucherkredite (Art. 9 Abs. 1, Art. 11 Abs. 1 und Art. 12 Abs. 1 KKG), bestimmte Kaufverträge (Art. 216 Abs. 3 OR), Schenkungen (Art. 243 Abs. 3 OR), Widerruf von Haustürgeschäften (Art. 40d Abs. 1 OR), Recht des Arbeitgebers auf Erwerb bestimmter Erfindungen und Designs des Arbeitnehmers (Art. 332 Abs. 2 OR), Konkurrenzverbot im Arbeitsvertrag (Art. 340 Abs. 1 OR), Kollektivarbeitsverträge (Art. 356c Abs. 1 OR), Darlehensbewilligungen (Art. 408 Abs. 2 OR), Leibrentenverträge (Art. 516 ff. OR), Abtretungen von Forderungen und Rechten (Art. 164 ff. OR), Factoring-Verträge und Übertragungen von Immaterialgüterrechten (Art. 17 Abs. 2 MaSchG, Art. 33 Abs. 2bis PatG, Art. 14 Abs. 2 DesG), mit Ausnahme von Urheberrechtsübertragungen (vgl. Art. 16 Abs. 1 URG). ↵

Geregelte Zertifikate sind die Vorstufe für qualifizierte Zertifikate, welche für die Erzeugung der QES eingesetzt werden. Darüber hinaus werden geregelte Zertifikate auch zur Erzeugung des geregelten elektronischen Siegels eingesetzt, welches für Unternehmen mit UID ausgestellt werden kann. Die QES kann nur auf natürliche Personen ausgestellt werden. Diese Terminologie ist spezifisch für das ZertES und findet sich so nicht im EU-Recht. ↵

Botschaft ZertES 2014, S. 1015. ↵

Siehe dazu den in Winkler, Beweisrechtliche Behandlung, Fn. 35 beschriebenen Fall aus dem BGH-Urteil vom 26. Januar 2016, XI ZR 91/14. ↵

Botschaft ZertES 2014, S. 1015 mit Verweis auf die Vernehmlassung zur Totalrevision. ↵

Winkler, Beweisrechtliche Behandlung, S. 178. ↵

Winkler, Beweisrechtliche Behandlung, S. 183. ↵

So auch die Botschaft ZertES 2014, S. 1016. ↵

Nach Botschaft ZertES 2014, S. 1017. ↵

Botschaft ZertES 2014, S. 1017. ↵

Das Beispiel aus der Botschaft ZertES 2014 ist bereits veraltet; heutzutage benötigen Signaturanwendungen keine physischen Karten mehr, sondern sind als reine Online-Applikationen ausgestaltet. ↵

Botschaft ZertES 2014, S. 1017. ↵

Vgl. BGH-Urteil vom 26. Januar 2016, XI ZR 91/14 zu § 675w BGB. ↵

BSK OR I-Kessler, Art. 41 N 1a; vgl. KUKO OR VE, S. 2. ↵

KUKO OR-Schönenberger, Vor Art. 41 – 61 N 9. ↵

KUKO OR VE, S. 2. ↵

Wesel, Fast alles was Recht ist, S. 128 anhand des Beispiels der Tierhalterhaftung von § 833 Satz 1 BGB. ↵

BSK OR I-Kessler, Art. 41 N 1a. ↵

Siehe Abschnitt III.2.3. ↵

Siehe Abschnitt III.6.5. ↵

Für eine allgemeine Besprechung von Art. 40b EBG siehe Grosz, Art. 40b EBG-Grundsätze. ↵

Vgl. Art. 58 Abs. 1 SVG: Wird durch den Betrieb eines Motorfahrzeuges ein Mensch getötet oder verletzt oder Sachschaden verursacht, so haftet der Halter für den Schaden. ↵

Anders Art. 59 Abs. 1 SVG: Der Halter wird von der Haftpflicht befreit, wenn er beweist, dass der Unfall durch höhere Gewalt oder grobes Verschulden des Geschädigten oder eines Dritten verursacht wurde, ohne dass ihn selbst oder Personen, für die er verantwortlich ist, ein Verschulden trifft und ohne dass fehlerhafte Beschaffenheit des Fahrzeuges zum Unfall beigetragen hat. ↵

Grosz, N 10; Fellmann, Rz 96–98. ↵

Grosz, N 10. ↵

Als erster Eisenbahnunfall gilt der Unfall vom 15. September 1830, dem Tag der Eröffnung der Liverpool-Manchester-Bahn, bei dem ein englischer Parlamentarier von einer Dampflok erfasst wurde, als er sich gegen Anweisungen des Personals auf einem Gleis aufhielt, um mit dem in einem Wagen sitzenden Premierminister zu sprechen. ↵

Siehe z.B. Wägli. ↵

Vgl. in Deutschland das Reichshaftpflichtgesetz von 1871; siehe Wesel, Alles was Recht ist, S. 128. ↵

Das Eisenbahngesetz vom 28. Dezember 1872 sollte den weiteren Ausbau des Eisenbahnnetzes in der Schweiz als «verbesserte Land- und Heerstrassen» fördern; siehe die Botschaft vom 8. Februar 1956 zum Entwurf eines Eisenbahngesetzes, BBl 1956, 213 ff., 214. ↵

Siehe Historisches Lexikon der Schweiz, Schifffahrt. ↵

Botschaft 2007 EBG, BBl 2007 4377, S. 4491. ↵

Botschaft 2007 EBG, BBl 2007 4377, S. 4491. ↵

Grosz, N 9. Vgl. hierzu die Definition einer Eisenbahn nach RGZ 1, 252 (1879): «Ein Unternehmen, gerichtet auf wiederholte Fortbewegung von Personen oder Sachen über nicht ganz unbedeutende Raumstrecken auf metallener Grundlage, welche durch ihre Konsistenz, Konstruktion und Glätte den Transport grosser Gewichtsmassen, beziehungsweise die Erzielung einer verhältnismässig bedeutenden Schnelligkeit der Transportbewegung zu ermöglichen bestimmt ist, und durch diese Eigenart in Verbindung mit den ausserdem zur Erzeugung der Transportbewegung benutzten Naturkräften (Dampf, Electricität, thierischer oder menschlicher Muskelthätigkeit, bei geneigter Ebene der Bahn auch schon der eigenen Schwere der Transportgefässe und deren Ladung, u.s.w.) bei dem Betriebe des Unternehmens auf derselben eine verhältnismässig gewaltige (je nach den Umständen nur in bezweckter Weise nützliche, oder auch Menschenleben vernichtende und die menschliche Gesundheit verletzende Wirkung zu erzeugen fähig ist». ↵

Grosz, Art. 40c EBG Entlastung N 2. ↵

Grosz, N 1. ↵

BGer 4A_602/2018, Urteil vom 28. Mai 2019, Sachverhalt A. ↵

BGer 4A_602/2018, Urteil vom 28. Mai 2019, Sachverhalt B. ↵

BGer 4A_602/2018, E. 3.4.3. ↵

BGer 4A_602/2018, E. 3.4.1. ↵

BGer 4A_602/2018, E. 3.4.2. Kritisch zu diesem Entscheid Giger, Kausalhaftung. ↵

BGE 144 III 319, 325, E. 5.5; siehe Abschnitt III.7.4. ↵

Detaillierte Besprechung bei Weissenberger, Art. 58 N 2 ff. ↵

BSK OR I-Kessler, Art. 41 N 1a; BSK SVG-Probst, Vor Art. 14–62 N 1; Müller, Responsabilité, N 488. ↵

Weissenberger, Art. 58 N 8 mit Verweis auf BGE 133 III 675, E. 3.4 u.a.; BSK SVG-Probst, Vor Art. 14–62 N 2. ↵

Müller, Responsabilité, N 488. ↵

BSK SVG-Probst, Vor Art. 14–62 N 2. Zur historischen Entwicklung der Bestimmung ab 1900 siehe dort N 3; vgl. Müller, Responsabilité, N 490. ↵

BSK SVG-Probst, Vor Art. 14–62 N 5. ↵

So bereits bei der Eisenbahnhaftung, siehe Abschnitt III.5.2. ↵

Vgl. Art. 78 Abs. 1 VZV. Diese Bestimmung hat nach Müller, Responsabilité, N 488 eine rein verwaltungsrechtliche Bedeutung (wer wird im Fahrzeugausweis als Halter ausgewiesen) und kann somit nicht als Legaldefinition des Halters für das Haftpflichtrecht gelten. ↵

Weissenberger, Art. 58 N 4; Müller, Responsabilité, N 496. ↵

BSK SVG-Probst, Vor Art. 14–62 N 13; für einen geschichtlichen Abriss auf die Entwicklung des Haftpflichtrechts für den Strassenverkehr siehe dort N 1 ff. Zur Thematik des Verhältnisses mehrerer Haftungsnormen siehe bereits in Abschnitt III.7.2. ↵

Siehe z.B. die Reihe «Jahrbuch zum Strassenverkehrsrecht», die seit 2003 erscheint. ↵

Gemäss der Fassung vom 13.06.2008, in Kraft seit 01.01.2022. ↵

So die kompakte Charakterisierung in Botschaft KHG 2008, S. 5424; vgl. Hug, S. 47 zum alten AtG von 1959, wonach der Inhaber einer Kernanlage für Schäden haftet, die durch die Wirkungen bei der Kernspaltung in seiner Kernanlage oder in radioaktiven Kernbrennstoffen und Rückständen, für die er verantwortlich ist, verursacht wurden. ↵

Die Begriffe Atomenergie und Kernenergie sind gleichbedeutend. Gebräuchlich ist daneben der Begriff der Nuklearenergie (lat. nucleus Kern). Ursprünglich nahm die Wissenschaft an, dass Atome (jeweils bestehend aus einem positiv geladenen Atomkern und einer Atomhülle mit Elektronen) die kleinsten Teile der Materie waren. 1938 gelang es den deutschen Forschern Otto Hahn (1879–1968) und Fritz Strassmann (1902–1980), Atomkerne in noch kleinere Teile (Protone und Neutrone) zu spalten. Bei diesem Spaltungsvorgang wird Energie freigesetzt – sodass es sachgerecht erscheint, diese als Atomenergie zu bezeichnen. Entsprechend sprach man von Atomenergie, Atomkraft, aber auch von Atomwaffen. Der Begriff war namensgebend für die Bezeichnung der ersten Gesetze, etwa des schweizerischen Atomgesetzes (AtG) von 1959, sowie für die 1957 gegründete Internationale Atomenergiebehörde (International Atomic Energie Agency IAEA). Der Begriff Kernenergie mag in Abgrenzung zum immer noch «Atombombe» genannten Waffentyp stärker auf die zivile Nutzung der Atom- oder eben Kernenergie anspielen. Die IAEA benutzt heute auf ihrer Webseite meist den englischen Begriff «nuclear energy», führt aber auch ein Programm namens «Atoms4NetZero» (verschiedene Quellen: https://www.energie-lexikon.info/atomenergie_oder_kernenergie.html). Zu den Begriffen Strahlenrisiko und nukleares Risiko siehe Hug, S. 11 ff. ↵

Siehe Art. 2 KHG mit Verweis auf die Begriffsbestimmung im Pariser Übereinkommen und dort bei Art. 1(a)(vii); vgl. den eigenständigen Art. 2 Abs. 1 des KHG von 1983. Das Pariser Übereinkommen hat für die Schweiz unmittelbare Anwendung, sodass das KHG nur in Ergänzung gilt. Die Definition berücksichtigt insbesondere Schäden, die auf dem Transport von Kernmaterial zwischen verschiedenen Kernanlagen entstehen. ↵

Art. 1(a)(vi) des Pariser Übereinkommens. Art. 2 Bst. b KHG präzisiert, dass dies bei geologischen Tiefenlagern, die nicht mehr der Kernenergiegesetzgebung unterstehen, der Bund ist (d.h. nach Einstellung des Betriebs durch den Inhaber und Verschluss des Tiefenlagers, siehe Art. 38 Abs. 3 und Art. 63 KEG). ↵

Vgl. Art. 6 KHG, wonach entgegenstehende Vereinbarungen nichtig sind. ↵

Dies führte den Bundesrat 1979 sogar dazu, die damaligen Brüsseler und Pariser Übereinkommen zu ratifizieren; siehe Botschaft KHG 2007, S. 5412 und S. 5415. ↵

Botschaft KHG 2007, S. 5425. ↵

Art. 50 Abs. 1 OR, siehe dazu Abschnitt III.7.2. ↵

Hug, S. 40 ff.; siehe Botschaft KHG 2007, S. 5406 sowie S. 5435 für die Auswirkungen auf die Forschungsanlagen der ETH Lausanne und des PSI. ↵

Botschaft KHG 2007, S. 5426. ↵

Zum Begriff der höheren Gewalt siehe BGer, Urteil vom 23. 08. 2010, 4A_169/2010, E. 3.2 m.w.H. ↵

BSK OR I-Kessler, Art. 41 N 21. ↵

Für Krieg: mit Einschränkung BSK OR I-Kessler, Art. 41 N 21 (ohne einschlägigen Quellenverweis), BSK Wertpapierrecht-Bauer, Art. 1051 OR N 2; für ein Beispiel einer typischen vertraglichen Vereinbarung siehe BGer, Urteil vom 19.04.2013, 4A_606/2012, Sachverhalt A. ↵

BSK OR I-Kessler, Art. 41 N 22. ↵

Siehe Abschnitt III.5.2. ↵

So Nater, S. 38. ↵

BSK OR I-Fellmann, Vorbem. zum PrHG N 6. Für Müller St., S. 7 ist die Produkthaftung nicht als «reine Kausalhaftung» ausgestaltet. Vielmehr werde ein fehlerhaftes Produkt vorausgesetzt. ↵

Fellmann, Digitalisierung, S. 106. ↵

Fellmann, Digitalisierung, S. 106. ↵

Siehe Abschnitt VI.3.7. ↵

BSK OR I-Kessler, Art. 55 N 3a, siehe Abschnitt III.4.3. ↵

Nater, S. 41 f. ↵

BGE 31 II 697, 701 E. 4. Zur Auffassung der Geschäftsherrenhaftung als Verschuldenshaftung im OR von 1881 siehe Abschnitt III.4.3. ↵

Nater, S. 62 ff. argumentierte im Jahr 1971 noch, dass sich die Produkthaftung über Art. 55 OR «in befriedigender Weise» lösen lasse. ↵

Zur Entstehungsgeschichte eingehend Widmer, S. 101 ff. und Koch/Pichonnaz, S. 628 mit Verweis auf BGE 137 III 226 E. 2.2, wonach das Bundesgericht bei der Auslegung des PrHG die Rechtsprechung des EuGH berücksichtigt. ↵

BSK OR I-Fellmann, Vorbem. zum PrHG N 7. Gemäss BGE 137 III 226, 229 E. 2.2 handelt es sich um autonomen Nachvollzug. ↵

Präambel Richtlinie 85/374/EWG. ↵

Vgl. allgemein für das Deliktsrecht Wagner, Verantwortlichkeit, S. 724. ↵

COM(2020) 64 final, S. 15. ↵

Klindt, S. 484. ↵

Klindt, S. 484. ↵

Vgl. ELI Innovation Paper, Guiding Principle 2. ↵

Hier hätte die vorgeschlagene neue EU-Richtlinie über KI-Haftung eingegriffen. ↵

Gemäss Fussnote im Gesetz selbst ist die Personenbezeichnung weiblich, weil sie sich nach dem grammatischen Geschlecht des voranstehenden Substantivs (die herstellende Person, bzw. die Person, die das Produkt hergestellt hat) richtet. Wir ziehen es vor, kurz und knapp gleich von der Herstellerin zu sprechen. ↵

Sinnigerweise handelt es sich einer weiteren Fussnote zufolge beim Geschädigten um einen feststehenden Rechtsbegriff, sodass hier dem Grundsatz der sprachlichen Gleichbehandlung nicht Rechnung getragen werden müsse. Von der geschädigten Person zu sprechen, wäre immerhin grammatikalisch korrekt gewesen. ↵

Vgl. BGE 137 III 226, 230 E. 2.3 mit Verweis auf EuGH Rs. C-285/08, Urteil vom 4. Juni 2009, zur Möglichkeit der EU-Mitgliedstaaten, in ihrem nationalen Recht eine darüberhinausgehende Haftung vorzusehen. ↵

So auch ausdrücklich die Präambel der EWG-Richtlinie, wonach die Verbraucher vor Schädigungen ihrer Gesundheit geschützt werden sollen. Vgl. BSK OR I-Fellmann, Art. 1 PrHG N 3. ↵

Vgl. Roberto, Haftpflichtrecht, Rz 359 ff. ↵

BSK OR I-Fellmann, Vorbem. zum PrHG N 4. ↵

Der in der ursprünglichen Fassung enthaltene Verweis auf landwirtschaftliche Bodenerzeugnisse und verwandte Produkte wurde per 1. Juli 2010 im Einklang mit der Entwicklung im EU-Recht gestrichen. ↵

Im Einzelfall ist die Abgrenzung nach haftpflichtrechtlichen und nicht nach sachenrechtlichen Grundsätzen vorzunehmen (vgl. Rey/Wildhaber, Rz 1423). Dies wird aus Art. 3 Abs. 1 Bst. a PrHG klar, wonach die Produkteigenschaft einer Sache erhalten bleibt, obwohl sie Teil einer unbeweglichen Sache geworden ist (Akzessionsprinzip). ↵

Präambel EWG-Richtlinie; vgl. Fn. 431. ↵

Vgl. BGE 137 III 226, 232 E. 3.2. ↵

Präambel EWG-Richtlinie. ↵

BSK OR I-Fellmann, Art. 4 PrHG N 4; für das deutsche Recht vgl. Beck/Faber/Gerndt, S. 253 m.w.H. ↵

BGE 133 III 81, 86 E. 3.2; vgl. Nater, S. 38. ↵

Die weiteren Entlastungsgründe sind das fehlende Inverkehrbringen durch die Herstellerin, eine private Herstellung ohne Gewinnabsicht und die Herstellung nach zwingenden Rechtsvorschriften. ↵

BSK OR I-Fellmann, Art. 5 PrHG N 6. ↵

BSK OR I-Fellmann, Art. 5 PrHG N 8. ↵

Siehe Abschnitt VI.3.7. ↵

BSK OR I-Fellmann, Art. 5 PrHG N 15, wobei bei klassischen Konstruktionsfehlern ja gerade keine Entlastung möglich sein soll. Zum Entwicklungsrisiko bei Heilmitteln in Besonderem siehe Fuchs, S. 116–118. ↵

Fellmann/von Büren-von Moos, Rz 335; vgl. Borsari, S. 193 f.; Hess, N 60 ff.; Müller, responsabilité, Rz 465; Rey/Wildhaber, Rz 1470; Werro, Rz 708 ff. ↵

Schrupkowski, S. 20; vgl. auch Holliger-Hagmann, Produktesicherheitsgesetz, N 66 ff.; BGE 137 III 226, 233 ff. ↵

BSK OR I-Fellmann, Art. 5 PrHG N 15 mit Verweis auf Christen, S. 10. Nach Art. 15 (1) (b) der EWG-Richtlinie können die Mitgliedstaaten eine Haftung für Entwicklungsrisiken vorsehen. Für die Schweiz siehe dazu die Gegenausnahme in Art. 5 Abs. 1bis PrHG für tierische Organe, Gewebe oder Zellen oder daraus hergestellte Transplantatprodukte, die zur Transplantation auf den Menschen bestimmt sind, in Kraft seit dem 1. Juli 2007. ↵

Junod, S. 1180. Die gleiche Problematik zeigt sich bei der Frage nach einem potentiellen Schutz von durch KI erzeugten Werken oder Erfindungen durch das Urheber- bzw. Patentrecht, siehe dazu Gilliéron, S. 448. ↵

Das PrSG brachte eine Angleichung der schweizerischen Vorschriften zur Produktesicherheit an die Richtlinie 2001/95/EG der Europäischen Gemeinschaft über die allgemeine Produktsicherheit (Richtlinie 2001/95/EG des Europäischen Parlaments und des Rates vom 3. 12. 2001 über die allgemeine Produktsicherheit, ABl. Nr. L 11 vom 15. 1. 2002, 4 ff.). ↵

So auch bei PrHG-Hess, Art. 5 N 61 und Holliger-Hagmann, Art. 5 PrSG N 9. ↵

BGE 137 III 226, 233 E. 4.1 mit Verweis auf Werro, Produktehaftpflicht, S. 416. ↵

Nater, S. 76. ↵

Fuchs, S. 117. ↵

Holliger-Hagmann, Art. 5 PrSG N 9 mit Verweis auf Hess, S. 45. ↵

BGE 137 III 226 E. 4.1. Zu diesem Urteil siehe eingehend Junod, S. 1177–1182. ↵

BSK OR I-Fellmann, Art. 1 PrHG N 10d in Bezug auf den Kausalzusammenhang; Junod, S. 1177 mit Blick auf die sehr geringe Anzahl von Entscheiden des Bundesgerichts seit Inkrafttreten des PrHG. ↵

Sachverhalt beschrieben in BGE 137 III 226, 227 A; kritisch beleuchtet in Junod. ↵

BGE 137 III 226, 232 E.3.2; vgl. BSK OR I-Fellmann, Art. 4 PrHG N 31. ↵

BGE 137 III 226, 232 E.3.2; vgl. BSK OR I-Fellmann, Art. 4 PrHG N 31. ↵

BGE 137 III 226, 232 E.3.2. ↵

BGE 137 III 226, 233 E. 4.2. ↵

BGE 137 III 226, 234 E. 4.2. ↵

Vgl. Art. 41 Abs. 1 und Art. 42 Abs. 1 i.V.m. Art. 8 OR; vgl. im Gegensatz dazu § 1(4) ProdHaftG. ↵

Siehe Abschnitt III.2.3. ↵

BSK OR I-Kessler, Art. 41 N 19a mit Verweis auf BGE 130 III 193, 195 E. 2.2 (vertragliche Nebenpflicht); BGer, Urteil vom 31. 3. 2008, 4A_520/2007, E. 2.1 (Genugtuung wegen Unfall). Vgl. für das Strafrecht Donatsch/Godenzi/Tag, S. 334 ff. ↵

Siehe Abschnitt III.2.3. ↵

Sehr spezifische, technische Anforderungen bestehen z.B. für Fondsleitungen und SICAV in der KKV-FINMA oder für Versicherungen in der AVO. Auf diese finanzmarktrechtlichen Vorschriften soll hier nicht eingegangen werden. ↵

BGE 127 IV 62, 65 E. 2d; vgl. BGE 134 IV 193, 204 E. 7.2. ↵

BGE 134 IV 193, 204 E. 7.2 m.w.H. ↵

Stratenwerth, Schweizerisches Strafrecht, § 9 Rz 37 S. 160. ↵

BGE 134 IV 193, 204 E. 7.2 m.w.H. ↵

Vgl. die Diskussion um eine vom BAFU vorgeschlagene Legaldefinition des Stands der Technik im USG, wo die Berücksichtigung von wirtschaftlichen Aspekten bei der Beurteilung von Schutzmassnahmen ausdrücklich im Gesetz genannt wird. Damaliger Vorschlag des BAFU, zu finden bei Uhlmann, Kurzgutachten, Rz 3. Das Kriterium des wirtschaftlichen Betriebs verweist auf ein Sonderthema, welches im USG eine wichtige Rolle spielt, hier aber nicht weiter erörtert werden soll. Vgl. Mantz, Art. 25 Rz 38 in Sydow DSGVO Kommentar mit Verweis auf DIN EN 45000:2006 Ziff. 1.4. ↵

Vgl. Fuchs, S. 117. ↵

Fuchs, S. 117. ↵

In Abgrenzung zu den Entwicklungsrisiken, siehe Lohmann, Haftungsrahmen, S. 119 mit Verweis auf Meermann, S. 35 ff. u.w.H. ↵

Siehe Abschnitt VI.3.6. ↵

Loh, S. 147 mit Verweis auf Christian Neuhäuser (2014); siehe Unterabschnitt IV.2.2 d). ↵

So bei Beckers/Teubner. ↵

Weichbold, S. 29 ff. und S. 199. ↵

Für das österreichische Recht weist Weibold, S. 199 f. auf die Problematik der betragsmässigen Beschränkung der Halterhaftung nach §§ 15 f. EKHG hin. Diese (eigenartigen) Begrenzungen sollten im Zuge der Fahrzeugautomatisierung entfallen. ↵

Namentlich ist Art. 50 Abs. 1 OR ein Anwendungsfall der Entstehung von Solidarität aus dem Gesetz, wie in Art. 143 Abs. 2 OR vorgesehen. ↵

Vgl. BSK OR I-Graber, Art. 50 N 22. ↵

Wie BGE 144 III 209, 215 E. 2.5 ausführt, wurde Art. 51 Abs. 1 OR erlassen, um ein als unbillig erachtetes Ergebnis im Einzelfall zu korrigieren, BGE 35 II 238. ↵

Dazu siehe ELI-Response, S. 23. ↵

BSK OR I-Graber, Art. 50 N 6. ↵

BGE 115 II 42, 45 E 1b. ↵

BSK OR I-Graber, Art. 50 N 7. ↵

BSK OR I-Graber, Art. 50 N 6 mit Verweis auf ZK-Oser/Schönenberger, N 3. ↵

BGE 133 II 6, 22 E. 5.3.2. ↵

Vgl. BSK OR I-Graber, Art. 50 N 22. ↵

Vgl. BSK OR I-Graber, Art. 50 N 25. ↵

Die Anordnung der Absätze erscheint etwas merkwürdig, erklärt sich aber wohl durch die spätere Ergänzung der Kaskade im zweiten Absatz. ↵

Nach der Botschaft 1973 SVG, S. 1196 f. handelt es sich bei der Solidarhaftung im externen Verhältnis um einen «ungeschriebenen, aus Art. 51 OR abgeleiteten Fundamentalsatz des Haftpflichtrechts». ↵

BSK OR I-Graber, Art. 51 N 5. ↵

Vgl. oben, BGE 133 II 6, 22 E. 5.3.2. ↵

BSK OR I-Graber, Art. 51 N 12. ↵

Hier nicht besprochen wird Art. 65 Abs. 3 SVG zum Rückgriff des Versicherers auf den Versicherungsnehmer oder den Versicherten; der Rückgriff des Versicherers wird sodann gesondert in Art. 77 LFG geregelt; für den Rückgriff des Inhabers des Eisenbahnunternehmens auf den Infrastrukturbetreiber siehe Art. 40d Abs. 2 EBG. ↵

Vgl. BSK SVG-Probst, vor Art. 14–62 N 13. ↵

Weissenberger, Art. 60 N 1 und 5. ↵

Weissenberger, Art. 60 N 5. ↵

Die Erläuterung in der Botschaft 1973 SVG, S. 1197 stellt klar, dass die Regelung von Art. 60 SVG den Grundsatz, dass Verschulden zur Haftung führt, nicht durchbrechen sollte. ↵

BGer 4A_290/2018, Urteil vom 11.10.2018, E. 2.5. ↵

BGer 4A_93/2007, Urteil vom 10.07.2007, E. 3.2 m.w.H. ↵

Weissenberger, Art. 60 N 17. ↵

Siehe z.B. BGE 105 II 209, 214: «In Anbetracht des fehlenden Verschuldens beider Fahrzeugführer und der erheblich höheren verwirklichten Betriebsgefahr des Lastwagens erscheint die von der Vorinstanz vorgenommene hälftige Aufteilung des Schadens auf die Fahrzeughalter als angemessen.» ↵

Siehe die Liste mit Verweisen auf die Rsp. bei Weissenberger, Art. 60 N 18. ↵

Siehe z.B. BGE 132 III 249, wo das Selbstverschulden des Zivilklägers auf weniger als 10% und damit als vernachlässigbar festgesetzt wurde. ↵

BSK OR I-Graber, Art. 51 N 13, auch mit Verweis auf Oftinger, Haftpflichtrecht, S. 348, der die Ordnung von Art. 50/51 noch als «eine ausgezeichnete gesetzgeberische Leistung» erachtete. ↵

BGE 137 III 352, 211 E. 4.6. ↵

BGE 144 III 209, Urteil vom 7. Mai 2018. ↵

BSK OR I-Graber, Art. 51 N 13a. ↵

St. Weber, Regresskaskade, S. 359; vgl. Strub, S. 31 ff., der von einem «beeindruckenden Turnaround» schreibt. ↵

So die Formulierung bei BGE 144 III 209, 213, E. 2.2. ↵

BGE 144 III 319, Urteil vom 12. Juli 2018. ↵

So die Botschaft 2017 VVG, S. 5132. ↵

BGE 144 III 209, Regeste, vgl. BSK OR I-Graber, Art. 51 N 13a. ↵

Aufgehoben durch Ziff. I des BG vom 19. Juni 2020, mit Wirkung seit 1. Jan. 2022. Nach der Botschaft 2017 VVG, S. 5129 und S. 5132 gehört diese Bestimmung in die Unfall- und Krankenversicherung und wurde «aufgrund der neuen Systematik» als Art. 95c ins 2. Kapitel in den Abschnitt zur Koordination verschoben. Art. 95c Abs. 2 VVG lautet: «Im Umfang und zum Zeitpunkt seiner Leistung tritt das Versicherungsunternehmen für die von ihm gedeckten gleichartigen Schadensposten in die Rechte des Versicherten ein.» ↵

BGE 144 III 209, 211, E. 2.1. ↵

BGE 144 III 209, 214, E. 2.5. ↵

BGE 144 III 209, 214, E. 2.5. ↵

So ausdrücklich die Botschaft 2017 VVG, S. 5132. ↵

BGE 144 III 209, 211, E. 2.2 mit Verweis auf von Thur, Rückgriff, S. 235. Die fragliche Bestimmung war ab dem Inkrafttreten des VVG am 1. Januar 1910 in Art. 63 Abs.1 VVG enthalten. Auf die grammatikalische oder systematische Bedeutung des Verweises auf die «unerlaubten Handlungen» ging das Bundesgericht nicht weiter ein, sondern beliess es in E. 2.6 mit einem summarischen Hinweis auf einschlägige Literaturstellen. ↵

BGE 144 III 209, 211, E. 2.4. ↵

BGE 144 III 209, 213 E. 2.4. ↵

BGE 144 III 209, 213 E. 2.4. ↵

BGE 144 III 209, 216, E. 2.6. ↵

Botschaft 2017 VVG, S. 5132. ↵

BGE 144 III 319 ff. ↵

BGE 144 III 319 ff. Regeste; vgl. BSK OR I-Graber, Art. 51 N 13b. ↵

BGE 144 III 319, Sachverhalt B. ↵

BGE 144 III 319, Sachverhalt B. ↵

BGE 144 III 319, 321, E. 5 mit Verweis auf das 2011 ergangene Urteil BGE 137 III 352. ↵

BGE 144 III 319, 320, Sachverhalt B. ↵

Art. 33 Abs. 1 RLG: «Wird durch den Betrieb einer Rohrleitungsanlage oder durch einen Mangel oder die fehlerhafte Behandlung einer nicht in Betrieb stehenden Anlage ein Mensch getötet oder in seiner Gesundheit geschädigt oder Sachschaden verursacht, so haftet der Inhaber der Anlage für den Schaden. Steht die Anlage nicht im Eigentum des Inhabers, so haftet mit ihm der Eigentümer solidarisch.» ↵

BGE 144 III 319, 321, E. 5.3. ↵

BGE 144 III 319, 323, E. 5.3.1. ↵

BGE 144 III 319, 322, E. 5.3. ↵

BGE 144 III 319, 324, E. 5.4.1. ↵

Vgl. BGE 144 III 319, 324, E. 5.3.2 und 5.4.2. ↵

BGE 144 III 319, 325, E. 5.5. ↵

BGE 144 III 319, 324, E. 5.4.2. ↵

BGE 144 III 319, 326, E. 5.5.2. ↵

BGE 144 III 319, 326, E. 5.5.2. ↵

BGE 144 III 319, 326, E. 5.5.2. ↵

BGE 144 III 319, 326, E. 5.5.2. ↵

BGE 144 III 319, 326, E. 5.5.3. ↵

BSK OR I-Graber, Art. 51 N 22. ↵

Franz. armateur, also der, der das Schiff mit seinen finanziellen Mitteln ausrüstet. ↵

Staudinger/J. Hager (2017), Vorbem. 28 zu §§ 823 ff.; Harke, S. 207. ↵

Vgl. Trust is a must, EC Press Release 21 April 2021. ↵

Siehe Abschnitt I.2.3. ↵

4

Verantwortung für Mensch und Maschine

Übersicht

Dieses Kapitel widmet sich der Diskussion bestimmter moralischer Fragen, die sich beim Einsatz von KI stellen. Die nicht-juristischen Darstellungen beider Kapitel dienen dem Zweck, die verschiedenen Voraussetzungen für eine Haftung beim Einsatz von KI-Anwendungen besser in den Griff zu bekommen, ohne sich von vornherein vom juristischen «Korsett» der bestehenden Rechtsnormen einschränken zu lassen. Es wird sich zeigen, dass Moralphilosophie und Rechtswissenschaft im Ergebnis zu ganz ähnlichen Lösungsansätzen gelangen.

Wenn die KI ins Spiel kommt, stösst das tradierte Verständnis des Verschuldens, welches immer von einem Menschen als dem handelnden Akteur ausgeht, an seine Grenzen. In diesem Kapitel geht es um das Ausloten dieser Grenzen. Wir suchen Antworten darauf, wie künstliche Akteure, Roboter oder Algorithmen als Handlungssubjekte gesehen und zur Verantwortung gezogen werden können. Zwar lehnen wir eine eigene Rechtspersönlichkeit von künstlichen Akteuren beim aktuellen Stand der Technik ab. Dennoch können diese Überlegungen dabei helfen, das tatsächliche Zusammenspiel von menschlichen und künstlichen Akteuren haftpflichtrechtlich zweckmässiger zu erfassen.

Das Verschulden ist die Voraussetzung der zivilrechtlichen Haftpflicht, welche bei der Betrachtung von Erscheinungsformen der KI wie Robotern am meisten Probleme macht. Um genauer zu sein, stellen sich die Probleme beim subjektiven Teil des Verschuldens ein: der geforderten Urteilsfähigkeit des Verursachers des eingetretenen Schadens. Urteilsfähigkeit bedeutet die Fähigkeit, vernunftgemäss zu handeln (Art. 16 ZGB). Auf die Volljährigkeit kommt es nicht an, sodass auch urteilsfähige unmündige Personen schadenersatzpflichtig werden können (Art. 19 Abs. 3 ZGB). Vorausgesetzt ist immer, dass der Verursacher eine natürliche Person[1] ist, also rechtsfähig ist (Art. 11 Abs. 1 ZGB) und entweder bereits handlungsfähig ist oder aller Voraussicht nach dereinst handlungsfähig werden wird. Tiere haften grundsätzlich nicht selbst;[2] ebenso wenig hafteten im alten Rom die Hauskinder und Sklaven, mochten sie auch urteilsfähig sein.[3] Juristische Personen haften bloss über den «Kniff» einer Fiktion.[4] Im Zentrum der Rechtsordnung steht klar der Mensch als vernunftbegabtes, selbstbestimmtes und für sein Handeln selbstverantwortliches Wesen.[5]

Bei diesem Grundverständnis scheint es sich um eine natürliche Konstante in der Philosophie zu handeln, die für sich zudem beanspruchen kann, als offensichtlich, als «self-evident truth» gelten zu dürfen. Zwei Umstände sprechen jedoch dafür, diesen Anspruch nicht vorschnell zu verabsolutieren: Erstens hat das moderne Recht tragfähige Lösungen gefunden, auch fiktive Gebilde, wie juristische Personen es trotz ihrer realen Existenz dennoch sind, als rechtsfähig zu behandeln. Zweitens ist durchaus nicht klar, wie selbstbestimmt der Mensch tatsächlich ist. Im späteren Verlauf werden wir von «top-down» Ansätzen der KI sprechen, bei denen einem KI-System gewisse Leitplanken für sein Handeln gesetzt werden, sodass durchaus gefragt werden kann, wie autonom ein solches System sein kann. So wird in diesem Zusammenhang oft auch von der «schwachen KI-These» gesprochen, als einer Art von KI, die eher einer Vorstufe der echten, der «starken KI», gleicht.[6] Ist dies beim Menschen denn wirklich so grundsätzlich anders? Wolfgang Prinz erinnerte in seinem Buch über die Entstehung des Selbst an die Geschichte vom Garten Eden aus dem biblischen Buch Genesis, in dem die Selbstbestimmung des Menschen ganz begrenzt und eingeschränkt gewesen sei. Diese Geschichte kann eine Warnung sein, die Anforderungen an die wirkliche Autonomie eines KI-Systems nicht zu hoch anzusetzen, weil man von der menschlichen Autonomie überhöhte Vorstellungen hat.

Das Verschulden im juristischen Sinn kann als eine Art Projektion eines allgemeineren Konzepts gesehen werden, das umgangssprachlich mit Verantwortung umschrieben wird. Bei der Verantwortung geht es um das «Einstehen-müssen» für eine Handlung. Traditionell wurde und wird die Verantwortung in der Morallehre (Ethik) als Teildisziplin der Philosophie diskutiert.[7] Die Ethik beschäftigt sich grundsätzlich mit dem menschlichen Handeln und der Beurteilung menschlichen Handelns (Stichwort: Sitten und Gebräuche oder das «gute Leben» bei Aristoteles[8]). Ethische Gesichtspunkte erlauben es, zwischen «gutem» und «schlechtem» Handeln zu unterscheiden. Die Schriften der griechischen Philosophen wie Sokrates, Platon oder Aristoteles wirkten in der westlichen Welt über Jahrhunderte richtungsgebend – nicht nur, aber gerade auch in der Ethik. In jüngerer Zeit entwickelten sich zahlreiche «Bereichsethiken» wie die Maschinen- und Computerethik, die Tier- und Pflanzenethik oder allgemeiner die Technik- und Umweltethik.[9] Trotz dieser Namen geht es bei all diesen Bereichsethiken nicht um moralische Ansprüche an Tiere oder Pflanzen, sondern um menschliches Verhalten in einem spezifischen Zusammenhang, wobei entscheidend ist, dass es sich um Ethiken für den Umgang mit einem nicht-menschlichen Gegenüber handelt,[10] wie man es sich am Beispiel der Tierethik intuitiv und leicht anschaulich machen kann.[11]

In diese Liste von Bereichsethiken reiht sich seit Neuerem die Roboterethik ein, welche sich mit dem Einsatz von Robotern und deren Auswirkungen auf die Menschen und ihre Umwelt beschäftigt. Ihrem ebenfalls noch jungen Untersuchungsgegenstand entsprechend präsentiert sich die Roboterethik als interdisziplinär mit Schnittstellen zu Informatik, Robotik, Kybernetik und weiteren Technik- oder Naturwissenschaften. Dabei erscheint sie als noch ungefestigter Teilbereich der eben genannten Maschinen- oder Technikethik.[12] Auch bei der Roboterethik steht das menschliche Handeln im Vordergrund – nun im Umgang mit Robotern – und nicht etwa die Anforderungen an das Verhalten von Robotern unter sich oder im Verhältnis zu Menschen. Dennoch kann nicht überraschen, dass sich die Vertreter der Roboterethik daneben der Frage widmen, ob und unter welchen Voraussetzungen Roboter als moralische Handlungssubjekte (moral agents) oder -objekte (moral patients) gesehen werden können und ob und wie ihnen ein Platz im moralischen Universum zugewiesen werden kann. Einen so anregenden wie kompakten Überblick über die aktuelle roboterethische Diskussion findet sich in der 2019 erschienen Studie von Janina Loh, auf die im Folgenden wiederholt zurückgegriffen werden soll. Die verschiedenen, in der Literatur diskutierten Ansätze schlagen unterschiedliche Stufen oder Ausprägungen der Autonomie vor, mit jeweils unterschiedlichem Potenzial, in einem Roboter ein moralisches Handlungssubjekt oder einen moralischen Akteur (moral agent) zu sehen, der durch diese Eigenschaft in der Lage ist, Verantwortung für seine Handlungen zu übernehmen bzw. für seine Handlungen einzustehen.

Die Robotik ist eine junge Wissenschaft, die sich auf zahlreiche technische und naturwissenschaftliche Disziplinen stützt, namentlich Informatik, Mathematik und Kybernetik. Die von Norbert Wiener[13] begründete Kybernetik untersucht die Steuerung und Regelung von Maschinen über deren Analogie zur Handlungsweise von lebenden Organismen und sozialen Organisationen.[14] Die Kybernetik bildete auch eine Grundlage der interdisziplinären Systemtheorie (in der Soziologie: siehe Niklas Luhmann). Ein wichtiges kybernetisches und systemtheoretisches Konzept ist die Beobachtung von Ereignissen, Vorgängen im System mit Rückmeldung an dieses. Da im Folgenden ein (urteilsfähiger) Beobachter dazu dienen wird, im Rahmen der schwachen KI-These Verantwortung zu simulieren, indem er die fehlenden Eigenschaften des künstlichen Akteurs ausgleicht, wird das systemtheoretische Konzept der Beobachtung kurz vorgestellt und besprochen. Dieser Beobachter spielt im Verantwortungsnetzwerk eine wichtige Rolle, indem er dabei hilft, die Defizite der künstlichen Akteure auszugleichen und sie bei der Zuteilung der Verantwortung juristisch adäquat zu berücksichtigen.

Zum Prinzip der Verantwortung

Roboterethik

Eine allgemeingültige Definition, was ein Roboter genau ist, existiert nicht.[15] Für den amerikanischen Roboterforscher George Bekey ist ein Roboter «a machine, situated in the world, which senses, thinks and acts».[16] Misselhorn baut diese knappe Definition weiter aus. Ihr zufolge ist ein Roboter eine elektro-mechanische Maschine, die a) über einen eigenständigen Körper und b) über mindestens einen Prozessor (oder Rechner) verfügt, c) Sensoren hat, die Informationen über die Welt sammeln, und d) über Komponenten verfügt, die Signale in mechanische Abläufe umsetzen.[17] Zurecht stellt Loh fest, dass diese körperlich geprägte Charakterisierung nicht unproblematisch ist, schliesst sie doch Anwendungen wie Chatbots oder Sprachassistenzsysteme von der Definition des Roboters aus.[18] Gleichzeitig kann diese anschauliche Charakterisierung illustrieren, dass KI-Systeme als das «Gehirn» eines Roboters gesehen werden könnten, während Algorithmen seine Verhaltensmuster und gelernten Abläufe darstellen mögen.[19] Ausserdem stellen Roboter gerade deswegen eine Herausforderung an das Recht dar, weil Roboter, im Unterschied zu einem Algorithmus, direkt physisch in die reale Umwelt des Menschen eingreifen, ihn sogar selbst körperlich angreifen können.[20]

Das Thema Roboter mag schon aus technischer Sicht interessant sein. Gewöhnlich aufgeschlossene Zeitgenossen mögen Roboter einfach so unterhaltsam finden. Juristen müssen sich darüber hinaus mit den vielfältigen rechtlichen Fragen auseinandersetzen, welche die Roboter selbst und die Auswirkungen ihres Einsatzes auf die Menschen und ihre Umwelt aufwerfen. Eine grundlegende Weichenstellung liegt dabei in der Einschätzung, ob Roboter eher als Werkzeuge zu sehen sind,[21] deren sich der Mensch bei der Erfüllung seiner Aufgaben bedient, oder ob ihnen zumindest teilweise die Eigenschaft als soziales oder moralisches Handlungssubjekt zukommt. Man kann sich etwa fragen, ob ein Roboter rechtsgültige Erklärungen abgeben, zum Beispiel rechtlich verbindlich mit Bewerbern einen Arbeitsvertrag abschliessen, kann. Oder noch allgemeiner, ob ein Roboter im Arbeitsverhältnis als Vorgesetzter auftreten und dem Arbeitnehmer im Namen des Arbeitgebers Weisungen erteilen kann.[22] Dazwischen gibt es Stimmen, die sich fragen, ob manche Roboter nicht wenigstens – Tieren nicht unähnlich – als mit gewissen minimalen Rechten ausgestattete Objekte behandelt werden müssen. Wie auch immer diese Weichenstellung zwischen seelenlosem Werkzeug und eigenständigem Akteur vorgenommen wird, stellen sich mehr oder weniger komplexe Haftungsfragen. Dabei ist die Komplexität nicht nur objektiv mit der Komplexität oder Intransparenz der Funktionsweise von Algorithmen zu begründen, sondern sie wird häufig noch subjektiv beim menschlichen Betrachter durch fehlendes oder mangelndes Verständnis für technische Verhältnisse verstärkt, sodass insgesamt ein gewisses Unbehagen im Umgang mit Algorithmen und Robotern resultiert.

Neue Ansätze für die Verantwortung künstlicher Akteure

Eine Grundstruktur für die Verantwortung

Juristen sprechen regelmässig und zielstrebig von Haftung. Dank ihrer fachlichen Ausbildung wissen sie genau, welches die Voraussetzungen für die Haftung sind und wie sie im konkreten Fall untersucht werden müssen. Die Grundlagen der zivilrechtlichen Haftung wurden denn auch bereits in der Antike gelegt.[23] Im Gegensatz zur Haftung handelt es sich bei der Verantwortung um einen relativ jungen Begriff der Philosophie, welcher erst seit dem Beginn des 19. Jahrhunderts systematisch wissenschaftlich bearbeitet wird.[24] Es ist nicht bloss Zufall, dass dieses wissenschaftliche Interesse zeitlich mit der Industrialisierung zusammenfällt, in deren Folge die Komplexität und Unübersichtlichkeit des menschlichen Handelns erstmals sprunghaft zunahm und es eben plötzlich nicht mehr so einfach erschien, einem einzelnen Individuum die Verantwortung für ein bestimmtes Ereignis zuzuschreiben. Bereits die frühen Eisenbahnunfälle waren schnell nicht mehr nur schlechter Sicht infolge widriger Wetterbedingungen geschuldet. Der Auslöser war häufig ein komplexes Zusammenspiel verschiedener Ursachen wie fehlerhafte Signale, mangelhafte Kommunikation oder unaufmerksames Lokführerpersonal. Die Moral der früheren Zeiten musste sich nur mit dem Hier und Jetzt beschäftigen; es fehlte diesen früheren Zeiten die Kraft der Technik, die es den Menschen erlaubte, ihre vorgegebene natürliche Umwelt zu verändern und zu gestalten.[25] Die Verantwortung ist also verglichen mit den Begriffen der Schuld und der Pflicht, die sich traditionell mit den Verhältnissen unter Menschen beschäftigten, ein relativ modernes Konzept. Erst die technischen Errungenschaften des modernen Industriezeitalters machten ein erweitertes Konzept von Schuld und Pflicht nötig.

Für Hans Jonas gehört Verantwortung elementar zum Menschsein: «Das Urbild aller Verantwortung ist die von Menschen für Menschen».[26] Diese Meinung gründet sich in der «Ur-Verantwortung der elterlichen Fürsorge», die jeder zuerst an sich selbst erfahren habe. In diesem Grundparadigma werde die Knüpfung der Verantwortung an Belebtes am überzeugendsten klar. Es sei die «Auszeichnung» des Menschen, dass nur er allein Verantwortung haben kann.[27] Dieses Urbild der Verantwortung wird im Verlauf der Diskussion immer wieder auch bei anderen Autoren durchscheinen. In dieser Ansicht widerspiegelt sich ein Doppeltes: Einerseits die Ansicht selbst, dass nur Menschen Verantwortung für sich und ihresgleichen übernehmen können. Dieser Ansicht kann man sich anschliessen oder man kann im Hinblick auf KI-Anwendungen Vorbehalte anmelden. Andererseits repräsentiert Jonas’ Ansicht eine nur schwer widerlegbare Ausgangslage, die tief an die menschliche Erfahrung mit dem Thema der Verantwortung anknüpft. Normalerweise ist eine solche selbst-evidente[28] und somit robuste Definition von grossem praktischem Wert. Hier birgt sie die Gefahr, dass sie uns daran hindert, neue Lösungen für neue Herausforderungen zu entwickeln. Angenommen, es gelänge, den perfekten «Frankenstein»-Roboter zu entwickeln, der sich wie ein Mensch verhält. Sollte man ihn von jeglicher Verantwortung freisprechen, weil er trotz seiner technischen Vollkommenheit dennoch kein Mensch ist?

Ein weiterer Zugang zur Verantwortung findet sich über die Alltagssprache: Nach dem Duden steht das Wort Verantwortung u.a. für die Verpflichtung, für etwas Geschehenes einzustehen. Ausgehend von der Etymologie identifiziert Loh drei Säulen der Verantwortung:[29] Verantwortung bedeute, dass erstens jemand Rede und Antwort stehen müsse, dass dies zweitens kein rein deskriptives, sondern immer auch ein normatives Verhältnis darstelle und dass schliesslich drittens die verantwortlich zu machende Person über gewisse Kompetenzen oder Eigenschaften verfügen müsse.[30] Diese Grundstruktur der Verantwortung lässt sich auch so beschreiben, dass zunächst immer von einem Kausalverlauf mit Ereignissen oder Handlungen ausgegangen wird, welcher sich rein faktisch erfassen und beschreiben lässt (deskriptives Element). Daran schliesst sich gegebenenfalls ein Verfahren zur Beurteilung des Vorgefallenen nach bestimmten moralischen oder rechtlichen Massstäben an (normatives Element). Ob diese Beurteilung schliesslich zur Zuschreibung der Verantwortung an einen Akteur führen kann, hängt von den Eigenschaften dieses Akteurs ab. Im traditionellen Recht beurteilt sich dies nach rechtlichen Prinzipien, wobei die Voraussetzung, dass ein Akteur ins Recht gefasst werden kann, also Rede und Antwort stehen muss, regelmässig mit seiner Persönlichkeit im Rechtssinn zusammenhängt. Hier schliesst sich vorerst der Kreis zum Urbild der Verantwortung bei Jonas.

Die neuere Verantwortungsforschung[31] entwickelte aus dieser Grundstruktur fünf Relationen, welche die Komponenten der Verantwortung und ihre Beurteilung in eine Art Ablaufdiagramm zusammenfassen: Erstens muss ein Verantwortungssubjekt ausgemacht werden, welches Träger der Verantwortung sein kann. Im Folgenden wird untersucht, welche Kompetenzen die Eigenschaft eines Handlungssubjekts (Akteur) vermitteln, sodass es jemanden gibt, der in diese erste Stelle eintreten kann.[32] Als Verantwortungsobjekt tritt zweitens der Gegenstand der Verantwortung hinzu. Als Objekt kommt eine Handlung wie z.B. ein Diebstahl in Frage. Drittens muss es eine Instanz geben, vor der sich das Verantwortungssubjekt verantworten, vor der es Rede und Antwort stehen muss. Als Gegenüber dieser Verantwortung tritt viertens ihr Adressat auf. Diese Stelle nimmt z.B. die bestohlene Person ein. Fünftens bedarf es zur Beurteilung des Sachverhalts eines Verantwortungsmassstabs (normatives Element). Verantwortung heisst demnach, dass eine Person (Subjekt) gegenüber anderen Personen (Adressaten, Instanz) für sich bzw. für etwas, das sie getan hat (Objekt), gemäss den Regeln (Massstab), denen sie und diese anderen sich unterwerfen, einsteht.

Wer kann Handlungssubjekt sein?

Angesichts der technologischen Entwicklung stellt sich die Frage, inwieweit künstliche Akteure wie KI-Agenten oder Roboter als Verantwortungssubjekte gesehen werden können oder müssen. Sodann stellt sich die Anschlussfrage, inwieweit Menschen für künstliche Akteure als Verantwortungsobjekte einstehen können oder müssen. Von diesen beiden Fragen ist sicher die zweite die traditionellere, weniger exotische, während die erste auch die Frage nach einem notwendigen Paradigmenwechsel in Bezug auf Verantwortung und Haftung nach sich zieht. Intuitiv erscheint die Autonomie als das für die erste Frage entscheidende Kriterium: Je autonomer ein Roboter agieren kann, desto eher kann er leitungsmässig als eigenes Verantwortungssubjekt gelten. Doch muss zunächst genau definiert werden, was unter Autonomie zu verstehen ist und wie Autonomie in verschiedene Grade abgestuft werden kann.

Um als moralisches Handlungssubjekt zu qualifizieren, müsste ein Roboter über bestimmte, eigentlich typisch menschliche Kompetenzen verfügen: Denken, Geist, Vernunft, Urteilskraft, Intelligenz, Bewusstsein, Wahrnehmung, Kommunikation, aber auch Empathie und Emotionen. Denken, Vernunft und Intelligenz lassen sich noch einigermassen mit einem Algorithmus verbinden, welcher dem Roboter als Gehirn und zur Verhaltenssteuerung dient. Wahrnehmung und Kommunikation lassen an einen Roboter denken, der mit Sensoren Eindrücke aus seiner Umwelt aufnimmt und über Sprache oder Textmeldungen seinen Nutzern Rückmeldungen gibt.[33] Ein direkter Vergleich mit menschlichen Entscheidungen macht Folgendes klar: Gründe sind nicht Ursachen. Ein rationaler Mensch mag aufgrund bewiesener, akzeptierter Tatsachen vernunftmässig entscheiden. Als Mensch hat er immer die Freiheit, sich anders zu entscheiden. Ein Soldat untersteht dem Dienstreglement, welches ihm vorschreibt, wie er zu kämpfen hat. Dennoch kann er desertieren und damit völlig entgegen den in ihn gesteckten Erwartungen handeln. Es stellt sich hier die Kernfrage, ob Algorithmen moralisch entscheiden können (d.h. eben über Intentionalität oder Bewusstsein verfügen) oder ob sie nur Ursachen setzen können. Verbleibt die Entscheidung über die Nutzung dieser Kompetenzen gewissermassen als «Kompetenz-Kompetenz» beim Hersteller,[34] wird man noch nicht von wirklich eigenständigen Subjekten sprechen können. Erst Geist und Bewusstsein verweisen auf ein eigenständiges Wesen, während die Vorstellung, ein Roboter zeige Empathie und Emotionen, eher an Science-Fiction erinnert. Dieses Urteil ist an dieser Stelle jedoch ohne Belang, denn es geht in der Roboterethik nicht um eine Beschreibung des aktuell praktisch Möglichen, sondern des theoretisch Denkbaren. Gesucht werden theoretische Modelle für die moralische Akteurschaft, welche mit den aktuell oder zukünftig technischen Möglichkeiten abgeglichen werden.

Modelle für Handlungssubjekte: Typisierung

Im Folgenden werden einige der in der roboterethischen Literatur entwickelten und diskutierten Modelle für die moralische Handlungsfähigkeit vorgestellt. Diese Vorstellungen sollen einen Eindruck vermitteln, welche Formen der Autonomie für künstliche Akteure aktuell denkbar sind bzw. wo zurzeit die Grenzen der technischen Entwicklung auszumachen sind. Ob diese Grenzen in einer näheren oder ferneren Zukunft überschritten werden können, kann hier offenbleiben. Will man sich mit der Haftung für KI-Anwendungen beschäftigen und sich Gedanken über eine auch zukünftig tragfähige Haftungsregelung machen, sollte man die Eventualität, dass diese Grenzen dereinst überschritten werden, jedoch nicht aus den Augen verlieren. Ein wichtiger Schlüssel für das Verständnis dieser (und anderer) Modelle ist die Art und Weise, wie sie Moral in das KI-System implementieren. Dazu können die Modelle grob in drei Kategorien eingeteilt werden: i) Top-down Modelle, ii) Bottom-up Modelle und iii) hybride Modelle.

Bei einem Top-down Modell wird dem Roboter eine Reihe von Prinzipien oder Regeln «vorprogrammiert», d.h. durch den Hersteller «von oben» vorgegeben. Der Roboter bewegt sich anschliessend in determinierter Weise innerhalb dieser Vorgaben. Bei einem in diesem Sinne determinierten System wird zu einer gegebenen Aufgabe immer exakt dasselbe Ergebnis erzeugt. Es besteht demnach eine 1-1-Beziehung zwischen Input und Output, wobei es immerhin, anders als bei einem deterministischen System, einen gewissen Spielraum für die Lösungsfindung gibt.[35] Das klassische Beispiel für ein deterministisches System sind Industrieroboter in einer klar umgrenzten und gut kontrollierbaren Umgebung, z.B. einer Fabrikhalle[36]. Industrieroboter führen eindeutig definierbare und standardisierungsfähige Arbeitsschritte aus, die sich mit massgeschneiderter Software zuverlässig programmieren lassen. Die zu lösende Aufgabe (z.B. das Zusammenbauen eines Autos aus verschiedenen Bestandteilen) lässt sich analytisch zuverlässig strukturieren und in einen Algorithmus überführen, der in traditioneller Art und Weise programmiert werden kann.[37] Ein bekanntes Beispiel für determinierte Systeme sind KI-Systeme für selbstfahrende Autos. Die dabei sich ergebenden moralischen Dilemmata, dass sich das System unter Umständen entscheiden muss, welches von zwei möglichen Opfern es überfahren wird, wurden in der Tagespresse wiederholt thematisiert. Solche Dilemmata stellen sich auch bei anderen Modellen. Typisch für Top-down Modelle ist aber, vereinfacht gesagt, das Fehlen einer wirklichen Fähigkeit zu denken und zu entscheiden, die im Alltag als «gesunder Menschenverstand» bezeichnet wird. Eine besondere Schwierigkeit besteht auch darin, die gewünschten Prinzipien oder Regeln in eine programmierbare Ausdrucksweise zu übersetzen, d.h. in einem Programmcode zu implementieren.

Ein Bottom-up Modell stützt sich auf selbstlernende Algorithmen.[38] Selbstlernende Algorithmen sind nicht-determiniert. Bei nicht-determinierten Systemen besteht keine 1-1-Beziehung zwischen Input und Output. Als Output kann vielmehr einer von endlich vielen möglichen Zuständen geliefert werden (1-n-Beziehung). Die Auswahl im konkreten Fall erfolgt mit unterschiedlicher Wahrscheinlichkeit, sodass im Verlauf der Anwendung nicht-reproduzierbare Zustände oder Ergebnisse auftreten können. Dies unterscheidet ein nicht-determiniertes System von einem Entscheidungsbaum, bei dem die einem Knoten (1) nachgeordneten (n) Zustände über vordefinierte, feste Kriterien ausgewählt werden.[39]

Hybride Modelle schliesslich kombinieren Elemente eines Top-down und eines Bottom-up Modells. Top-down vorgegeben wird hier ein ethischer Rahmen, innerhalb dessen sich das System selbstlernend an unterschiedliche Anwendungsgebiete anpassen kann.

Eine weitere Möglichkeit, Systeme der KI zu charakterisieren, liegt in der Unterscheidung zwischen schwacher und starker KI.[40] Von starker KI wird bei Anwendungen gesprochen, die im eigentlichen, genuinen Sinn über Intelligenz und Bewusstsein verfügen. Hier kann vom höchsten Grad der Autonomie gesprochen werden.[41] Wie schon zuvor angedeutet, ist fraglich, ob diese Entwicklungsstufe irgendwann in der Zukunft in den Bereich des Realisierbaren kommt oder ob sie einfach nur ein denkbares Maximum repräsentiert. Von schwacher KI wird gesprochen, wenn die Anwendung Kompetenzen wie Intelligenz und Bewusstsein bloss simuliert, sie also gewissermassen nur so tut, als ob sie denke.[42] Bei dieser Sichtweise geht es weniger um den Aufbau des Systems als um seine Beurteilung: Wie konsequent kann von KI gesprochen werden? Wie nahe kommt ein konkretes System an die Realisierung einer echten KI heran? Natürlich hängt eine solche Beurteilung entscheidend davon ab, wie KI überhaupt definiert wird.[43] Denkbar ist durchaus, dass der Gesetzgeber für ein Gesetzgebungsprojekt zur KI diese unmittelbar als schwache KI definiert, im Wissen oder in der Erwartung, dass es zumindest aktuell eine starke KI gar nicht geben kann. Die Unterscheidung zwischen starker und schwacher KI erscheint bei den hier anstehenden theoretischen Überlegungen als ein nützliches Konzept, um sich nicht von vornherein mit einer zu einfachen Lösung zufriedenzugeben. Diese Vorgehensweise liefe Gefahr, möglicherweise doch rascher als gedacht vom technischen Fortschritt überholt zu werden.

Modelle für Handlungssubjekte: Beispiele

Als Nächstes werden in geraffter Form einige Beispiele für Modelle der moral agency vorgestellt. Für jedes Modell werden zunächst die Kompetenzen bestimmt, welche einem KI-System die Eigenschaft als Akteur oder Handlungssubjekt vermitteln. Anschliessend wird darauf aufbauend diskutiert, wie eine Moral als Massstab für Handlungen des Akteurs einbezogen werden kann.

Das erste Modell wurde 2004 von Floridi/Sanders vorgestellt.[44] Nach Floridi/Sanders verschaffen die folgenden drei Kompetenzen die Eigenschaft als Handlungssubjekt: i) Interaktivität, ii) Autonomie und iii) Anpassungsfähigkeit. Nicht verlangt werden also namentlich Kompetenzen wie Intelligenz, Vernunft oder Bewusstsein, welche zuvor intuitiv als typische Kompetenzen eines Akteurs ausgemacht wurden.

Mit Interaktivität ist die Fähigkeit des Systems gemeint, mit seiner Umwelt in Kontakt zu treten. Dies kann über Sensoren oder andere Mittel geschehen. Diese Fähigkeit erlaubt es dem System, durch eine Zustandsveränderung auf einen Input oder Stimulus zu reagieren, der von aussen kommt. Unter Autonomie verstehen die Autoren, dass das System in der Lage ist, auch ohne einen solchen externen Stimulus eine Zustandsveränderung vorzunehmen. Interessant ist sodann die dritte Kompetenz, nämlich die Fähigkeit des Systems, selbständig jene initial vorgegebenen Regeln zu verändern, die eine Zustandsveränderung provozieren können.

Als Beispiel für einen solchen Akteur stelle man sich einen Webbot vor, das auf einen mündlich oder schriftlich geäusserten Input des Webseitenbesuchers reagiert und daraufhin für diesen eine bestimmte Aufgabe ausführt, etwa auf einer Webseite ein Dokument zu suchen. Ist das Webbot mit einem selbstlernenden Algorithmus ausgestattet, könnte es dem Besucher von sich aus Informationen zur Verfügung stellen, die für diesen interessant sein könnten, wofür es vorgängig seine eigenen Kriterien entwickelt hat. Andererseits erfüllt bereits ein Tier die Voraussetzung der drei genannten Eigenschaften.

In einem nächsten Schritt muss darüber nachgedacht werden, wie die Moral ins Handeln des Akteurs einbezogen werden kann. Floridi/Sanders sehen die Moral als (einen in bestimmter Weise zu parametrisierenden) «Schwellenwert». Erreicht das Handeln des Akteurs diesen Schwellenwert, ist dieses Handeln als moralisch «gut» zu interpretieren. Ein Akteur gilt sodann als moralischer Akteur, wenn er in diesem Sinne moralisch handeln kann. Nach dem traditionellen Verständnis, wie es sich in Jonas’ Urbild widerspiegelt, kann ein Akteur ohne Bewusstsein und eigentliche Intelligenz nicht im vollen Sinn für sein Tun verantwortlich sein. Dennoch kann er nach den Autoren, die Verantwortung und Haftung als unterschiedliche Konzepte unterscheiden, für sein Handeln haftbar gemacht werden. Die Autoren verwenden Haftung aber nicht als juristischen Begriff, sondern sehen in der Haftung eine schwächere Form der Verantwortung, die sie in ihr Konzept der moral agency einbeziehen. Dadurch wird es für die Autoren möglich, auch Roboter als Akteure zu einem moralisch konformen Handeln zu trainieren. Gleichzeitig soll es so möglich sein, die Menschen, die solche Roboter einsetzen, teilweise moralisch zu entlasten.

Das Modell von Floridi/Sanders orientiert sich an der These der schwachen KI, denn durch den beschriebenen Ansatz mit anpassungsfähiger Regelbefolgung und Schwellenwert wird moralisches Handeln im eigentlichen Sinn nur simuliert. Ferner handelt es sich offensichtlich um ein Bottom-up Modell. Dies ergibt sich unmittelbar aus der dritten von Floridi/Sanders geforderten Kompetenz. Die Anpassungsfähigkeit ist grundsätzlich inkompatibel mit einem Top-down Modell, bei dem die Regeln von aussen vorgegeben sind. Auch kann man sich die als «Schwellenwert» definierte Moral elementar, etwa auf Basis einer banalen Bewertungsskala, vorstellen: Ein Roboter setzt Schrauben ein und zieht sie an. Wenn ein einzelner Arbeitsvorgang weniger als eine bestimmte Zeit dauert, gilt dieses Handeln als «gut».

Als zweites Beispiel dient das Modell von John Sullins, welches von 2006 datiert.[45] Nach Sullins verschaffen die folgenden drei Kompetenzen die Eigenschaft als moralisches Handlungssubjekt: i) Autonomie, ii) Intentionalität und iii) Verantwortung. Durch diese drei Eigenschaften wird die Moral mitberücksichtigt und muss nicht wie bei Floridi/Sanders in einem zweiten Schritt einbezogen werden.

Unter Autonomie versteht Sullins nicht mehr als das Fehlen von äusserem Zwang. Dieses Verständnis stimmt wohl im Wesentlichen mit jenem von Floridi/Sanders überein. Sowohl Sullins wie auch Floridi/Sanders verstehen Autonomie tendenziell als «negative» oder «schwache Autonomie» im Sinne eines Zustands fehlenden Zwangs oder auch Kontrolle von aussen.[46] Schwieriger wird es mit der geforderten Intentionalität, welche Sullins als eine Art programmierte Veranlagung des Systems zu verstehen scheint. In dieser Veranlagung müssen offenbar auch die moralischen Grundsätze enthalten sein, wobei sich Sullins dazu nicht weiter äussert. Als dritte Kompetenz fordert Sullins Verantwortung, worunter er die Pflicht des Akteurs versteht, auf sein soziales Gegenüber einzugehen, womit so etwas wie Rücksichtnahme gemeint ist.

Das Modell von Sullins orientiert sich an der These der starken KI, denn sein Verständnis von Intentionalität und Verantwortung fordert ein moralisches Handeln aus sich selbst heraus, welches nicht bloss simuliert wird. Ferner handelt es sich entweder um ein Bottom-up oder um ein hybrides Modell. Das Modell von Sullins präsentiert sich kompakt und handlich, ist aber insbesondere darin kritisch zu hinterfragen, dass Verantwortung keine Kompetenz sein sollte, sondern eine von bestimmten Voraussetzungen abhängige Konsequenz, welche sich an das Handeln des Akteurs knüpft. Verantwortung und Kompetenzen für die Eigenschaft als Akteur liegen nicht auf derselben konzeptionellen Ebene.[47]

Ebenfalls ohne eine eigene, separate Konzeption von Moral kommt das dritte hier vorgestellte Modell von James Moor aus, welches ebenfalls 2006 publiziert wurde.[48] Nach Moor verschaffen die folgenden drei Kompetenzen die Eigenschaft als moralisches Handlungssubjekt: i) Bewusstsein, ii) Intentionalität und iii) freier Wille.

Aufgrund der gewählten Eigenschaften kommen für Moor nur Menschen als moralische Akteure in Frage, denn nur sie sind mit Bewusstsein, Intentionalität und einem freien Willen ausgestattet. Diese drei Kompetenzen sind für Moor auch notwendig, um ethische oder moralische Urteile zu treffen. Damit sind die Anforderungen an eine moralische Handlungsfähigkeit bei Moor offensichtlich deutlich höher als bei Floridi/Sanders und Sullins. Moors Verständnis deckt sich weitgehend mit der traditionellen Sicht der moralischen Handlungsfähigkeit, namentlich mit Jonas’ Urbild von Verantwortung. Um aber dennoch das von der KI gestellte Problem aufzunehmen, führt Moor drei Typen von quasi-moralischen Akteuren ein, welche weniger strenge Anforderungen erfüllen und deren Rolle auch von künstlichen, d.h. nicht-menschlichen Akteuren eingenommen werden kann.[49] Diese quasi-moralischen Akteure sind in der Lage, moralisches Handeln zu simulieren, ähnlich wie dies bei Floridi/Sanders schon der Fall ist.

Eine graduelle Abstufung in der moralischen Handlungsfähigkeit findet sich ebenfalls im Konzept der moralischen Handlungsfähigkeit, welches Wendell Wallach und Colin Allen 2009 vorschlugen:[50] Sie verlangen dafür nur zwei Kompetenzen, nämlich i) Autonomie und ii) Empfänglichkeit, worunter sie Sensitivität für moralische Werte verstehen. Die Autoren unterscheiden in ihrem Modell operationale, funktionale und genuine moralische Akteure. Operationale moralische Akteure funktionieren deterministisch und stehen unter der Kontrolle ihrer Designer (wie z.B. ein herkömmlicher Webbot). Funktionale moralische Akteure sind determiniert und lernfähig (wie z.B. das zuvor bei der Besprechung des Modells von Floridi/Sanders skizzierte Webbot). Sie können selbständig moralische Herausforderungen beurteilen und auf sie reagieren. Als genuine moralische Akteure sehen Wallach/Allen wie schon Moor nur die Menschen an.

Für die Modelle von Moor und Wallach/Allen spricht, dass ein graduelles Konzept der moralischen Handlungsfähigkeit es gestattet, die Gruppe der Menschen um weitere Akteure zu ergänzen, denen in bestimmter Weise die moralische Subjekteigenschaft zukommt. Wie sich dies realisieren liesse, zeigt das Modell von Catrin Misselhorn. Bei ihr wird die moralische Handlungsfähigkeit durch zwei Kompetenzen vermittelt: i) Selbstursprünglichkeit und ii) «die Fähigkeit, sich an Gründen zu orientieren».[51]

Selbstursprünglichkeit bedeutet, dass das System nicht durch äussere Faktoren gesteuert oder durch Dritte kontrolliert ist. Es handelt sich dabei wiederum um eine Form der schwachen Autonomie. In der Tat definiert Misselhorn den Begriff der Selbstursprünglichkeit über die drei Kompetenzen Interaktivität, Adaptivität und «basale Autonomie», worunter sie das Fehlen äusserer Stimuli für Zustandsänderungen versteht. Dies entspricht der Definition von Akteurschaft bei Floridi/Sanders. Nach Loh erweitert Misselhorn das negative Autonomieverständnis von Floridi/Sanders und Sullins (basale Autonomie) um die Elemente Interaktivität und Adaptivität zu einer positiven Vorstellung von Autonomie.[52]

Um einen Akteur zu erhalten, muss diese positive Form der Autonomie um die Fähigkeit, nach Gründen zu handeln, ergänzt werden. Darunter versteht Misselhorn die Möglichkeit, Informationen zu verarbeiten. Handelt es sich bei diesen Informationen um moralische Werte oder Repräsentanzen moralischer Werte, kann sich der Akteur zu einem moralischen Akteur weiterentwickeln. Dies erinnert an Wallach/Allens Konzept der funktionalen Äquivalenz. Hier wie dort gestatten die Modelle, dass ein KI-System moralische Gründe, wie sie der Mensch als moralisches Handlungssubjekt regelmässig heranzieht, simulieren und verarbeiten kann. Dass Roboter wie auch zuvor bei Wallach/Allen und Moor nicht als eigentliche moralische Akteure qualifizieren, begründet Misselhorn damit, dass ihnen Bewusstsein, Willensfreiheit und Verstehen fehlen.

Loh charakterisiert Misselhorns Modell als «überzeugende Kumulation» der Modelle von Floridi/Sanders (explizite Übernahme der drei Kompetenzen, welche die Akteurschaft im Grundsatz vermitteln), Sullins (implizite Orientierung an Intentionalität), Moor (implizites Erkennen der vollen Eigenschaft des moralischen Akteurs) und Wallach/Allen (explizite Übernahme des Konzepts der funktionalen Äquivalenz), welche sich durchwegs an der schwachen KI-These orientiert.[53]

Verantwortung für künstliche Akteure

Bei der Ausgestaltung von Modellen der Handlungsfähigkeit gibt es einigen Spielraum. Entscheidend ist, dass das Verhältnis von Handlungsfähigkeit und Verantwortung kein eineindeutiges (bijektives) ist. Handlungsfähigkeit ist zwar eine notwendige Voraussetzung für Verantwortung; hinreichend allein ist sie nicht.[54] Dies wird bei Floridi/Sanders deutlich, bei denen für die Haftung als abgeschwächte Form der Verantwortung eine Verursachung des schädigenden Ereignisses ausreicht. Floridi/Sanders versuchen ihr Konzept der Haftung am klassischen Beispiel von Ödipus zu veranschaulichen: Ödipus verursacht zwar den Tod seines Vaters, doch ohne das Wissen, dass es sich bei dem Mann, der ihm den Weg versperrte, um seinen eigenen Vater handelte, konnte er nicht eigentlich dafür verantwortlich gemacht werden, seinen Vater getötet zu haben. Für Haftung genüge ein kausales Verursacherverhältnis, moralische Verantwortung hingegen setze die «richtigen intentionalen Zustände» voraus.[55] Wissen ist also eine notwendige Voraussetzung für Verantwortung. Das ist auch im heutigen Strafrecht der Fall, sodass sich aus diesem prominenten Beispiel noch nichts entscheidend Neues ableiten lässt. Kann Ödipus nicht für den Tod seines Vaters verantwortlich gemacht werden, so doch für den Tod eines Menschen.[56] Das Beispiel vermag den Juristen nicht zu überzeugen. Immerhin genügt es den Autoren als Beleg dafür, dass eine moralische Verantwortlichkeit von Robotern grundsätzlich wenig Sinn macht,[57] wohl weil diesen das Wissen oder vielmehr das Bewusstsein fehlt.[58] Es ist intuitiv einleuchtend, dass moralische Verantwortung einen Akteur voraussetzt, der sich bewusst ist, dass er gemäss der für ihn geltenden Moral anders handeln sollte, als er dies schlussendlich aus freier Entscheidung tut. Erst dann kann von einem eigentlichen Fehlverhalten gesprochen werden. Das Tragen von (moralischer) Verantwortung im traditionellen Sinn bedingt eine Form des Bewusstseins und der Intentionalität, die Robotern nach wie vor abgeht.

Zurecht weist Loh auf einen wesentlichen Widerspruch in Floridi/Sanders’ Position zur Verantwortung hin.[59] Einerseits reiht sich das Modell von Floridi/Sanders bei der schwachen KI-These ein, welche die Möglichkeit postuliert, dass moralisches Handeln simuliert werden kann. Andererseits verneinen sie kategorisch, dass KI-Systeme Verantwortung tragen können. Wenn moralisches Handeln simuliert werden kann, sollte auch moralische Verantwortung simuliert werden können, wie dies im vorangehenden Abschnitt skizziert wurde. Die abweichende Position bei Floridi/Sanders liegt wohl hauptsächlich in der Terminologie begründet. Floridi/Sanders scheinen den Begriff der Verantwortung nach wie vor konsequent im traditionellen Sinn zu verstehen, sodass er nur auf Menschen passt. Um die Anwendung auf KI-Systeme dennoch zu ermöglichen, setzen sie auf die Haftung als vereinfachte Form der Verantwortung. Man kann diese Position als konsequent bezeichnen. Sie hat sicher den Vorteil, einfach zugänglich und intuitiv zu sein. Sie simuliert Konsequenz, indem die höchste Form der Verantwortung, die moralische Verantwortung, den Menschen vorbehalten bleibt. Natürlich erscheint es auf den ersten Blick lächerlich,[60] einen Roboter oder gar einen physisch nicht einmal greifbaren Algorithmus bestrafen zu wollen. Soll ein Algorithmus für sein Fehlverhalten etwa dadurch bestraft werden, dass man seinen Quellcode löscht? Es erscheint jedoch nicht ohne Weiteres konsequent, bei der moralischen Handlungsfähigkeit zu differenzieren und sich neue Formen der moralischen Akteurschaft auszudenken, die auch Robotern zugänglich sind, während bei der Verantwortung strikt am überkommenen Verständnis festgehalten wird. Jedenfalls besteht so die Gefahr, dass die eine oder andere Möglichkeit, Verantwortung ebenfalls zu simulieren, ausser Acht gelassen wird. Ohne eine solche Simulation erscheint es zudem wenig wahrscheinlich, dass die menschlichen Akteure, die KI entwickeln oder einsetzen, zumindest teilweise von ihrer Verantwortung entlastet werden können, wie dies Floridi/Sanders ja selbst postulieren. Es kann sich im weiteren Verlauf der Diskussion zwar durchaus erweisen, dass Floridi/Sanders’ Position die pragmatischste und einfachste Lösung zur Regelung der zivilrechtlichen Haftung im Zusammenhang mit KI darstellt. An dieser Stelle erscheint diese Schlussfolgerung noch verfrüht.

Am anderen Ende des Spektrums der vorgeschlagenen Ansätze zur moralischen Handlungsfähigkeit lässt sich das Modell von Sullins positionieren. Sullins’ Modell erscheint deshalb als spannend, weil einiges dafürspricht, es implizit der starken KI-These zuzuordnen. Es sei daran erinnert, dass für Sullins ein moralisches Handlungssubjekt über die Eigenschaften i) Autonomie, ii) Intentionalität und iii) Verantwortung verfügen muss. Verantwortung ist bei Sullins also bereits eine notwendige Voraussetzung für, nicht erst eine Folge von moralischer Akteurschaft.[61] Für Loh erklärt sich dies aus der Fokussierung Sullins’ auf soziale Rollen und gegenseitige Erwartungen der Akteure an das soziale Gegenüber, zu denen das Einstehenmüssen für sein eigenes Verhalten typischerweise zählt.[62] Dieser Schwerpunkt bei der Betrachtung sozialer Funktionen und Fürsorgepflichten zeigt sich anschaulich an Sullins’ Besprechung eines Pflegeroboters.[63] Sullins nimmt damit eine eher nutzenorientierte Perspektive ein und fragt nach positiven Möglichkeiten des Einsatzes von KI. Der Umgang mit Fehlverhalten und dadurch verursachten Schäden steht bei ihm nicht im Vordergrund. Verantwortung ist Mittel zum Zweck – nur verantwortliche Akteure können nützliche soziale Rollen für die Gemeinschaft einnehmen, wie dies nach Jonas am Beispiel der elterlichen Verantwortung am deutlichsten zum Ausdruck kommt.[64] Dies ist alles nachvollziehbar, doch macht es Sullins’ Modell wenig ergiebig für konkrete Lösungsansätze. Immerhin unterstreicht seine Perspektive die berechtigte Erwartung, dass auch Roboter, so sie im Alltag der Menschen zunehmende Verbreitung finden, für ihr Fehlverhalten direkt oder indirekt einstehen müssen.

Verantwortungsnetzwerk und Netzwerkhaftung

In der Fortsetzung von Wallach/Allens funktionaler Äquivalenz entwickelte Loh in einer Reihe von Aufsätzen, die zwischen 2016 und 2018 erschienen, einen eigenen Ansatz der Verantwortungszuschreibung in der Mensch-Roboter-Interaktion.[65] Zentrales Element in diesem Ansatz ist der Begriff des Verantwortungsnetzwerks von Christian Neuhäuser.[66] Ausgangspunkt ist die Erkenntnis, dass die technischen Anwendungen der modernen Welt eine Abkehr vom traditionell individualtheoretischen Verständnis der Verantwortung notwendig machen, welches immer ein einzelnes Subjekt als Verantwortungsträger verlangt. Wie Loh feststellt, ist eine Zuschreibung von Verantwortung jedoch dann gar nicht oder nur teilweise möglich, wenn die beteiligten Subjekte die für das Rede-und-Antwort-Stehen nötigen Eigenschaften nicht oder nicht hinreichend ausgeprägt mitbringen.[67] Klassische Beispiele sind ein noch nicht urteilsfähiges Kind, ein geistig behinderter Erwachsener oder auch ein Tier. Vorliegend kommen noch die nach Wallach/Allen operational verantwortlichen künstlichen Akteure wie Roboter oder andere KI-Anwendungen hinzu. In einem Verantwortungsnetzwerk sollen nun all diejenigen Parteien Verantwortung tragen, «die an dem fraglichen Geschehen beteiligt sind, und zwar in dem Masse, in dem sie die nötigen Kompetenzen zur Verantwortungszuschreibung mitbringen».[68] Bei diesem Ansatz werden in einem ersten Schritt alle am Geschehen beteiligten Akteure identifiziert, wozu die Untersuchung der Kausalkette ausreicht. Dabei können die Beteiligten unterschiedliche Funktionen übernehmen: Subjekt, Objekt, Adressat oder auch Instanz zur Beurteilung. Den Subjekten unter ihnen wird in einem zweiten Schritt je nach ihren Eigenschaften anteilig ein Teil der Gesamtverantwortung für das fragliche Ereignis oder Verhalten zugeordnet: erstens proportional zu ihrem kausalen Beitrag und zweitens gewichtet nach dem Grad ihrer funktionalen Akteurschaft.[69]

Loh illustriert ihren Ansatz am Beispiel eines autonomen Fahrassistenzsystems.[70] So wie sich Fahrassistenzsysteme heute darstellen, kommt ein solches System wohl noch nicht als moralischer Akteur in Frage, sondern kann nur im operationellen Sinn als ein schwacher Verantwortlicher i.S.v. Wallach und Allen angesehen werden. Im skizzierten Verantwortungsnetzwerk wird ein solches System aller Voraussicht nach nicht als Subjekt Verantwortung übernehmen müssen, da es andere, menschliche Beteiligte (Halter, Fahrer, Hersteller und Programmierer) gibt, die potenziell sehr viel qualifizierter sind, ihrerseits die Verantwortung zu übernehmen. Für diese Position spricht die Kommunikationsfähigkeit, Handlungsfähigkeit und Urteilsfähigkeit dieser anderen Beteiligten, denen kraft ihres Menschseins die volle Persönlichkeit zukommt.

Die Übernahme von anteiliger Verantwortung darf nicht allein davon abhängen, dass einem Beteiligten die volle Handlungsfähigkeit zukommt, denn dann ist von vornherein festgelegt, dass nur Menschen Verantwortungsträger sein können (wobei dies natürlich ein mögliches Endergebnis sein kann). Das Verantwortungsnetzwerk ist somit ein Konzept, welches es erlaubt, mit funktionaler oder simulierter Verantwortung umzugehen und die Verantwortung differenzierter zuzuordnen, sollte die technologische Entwicklung in Zukunft KI-Systeme hervorbringen, für die eine solche differenzierte Zuteilung sinnvoll ist.

Dieser Vorschlag ist konsistent mit dem von Beckers/Teubner in der juristischen Literatur vorgeschlagenen Ansatz für die Netzwerkhaftung.[71]

Der Mensch als Beobachter

Das Bewusstsein als Alleinstellungsmerkmal des Menschen

Nach Thomas Nagel ist das Bewusstsein das «hervorstechende Hindernis für einen umfassenden Naturalismus, der einzig auf den Ressourcen der physikalischen Wissenschaften beruht».[72] Wir wollen uns in dieser Debatte nicht festlegen. Wäre dies jedoch anders, müsste es im Umkehrschluss möglich sein, das Bewusstsein vollständig wissenschaftlich und vernunftgemäss zu erklären und damit vielleicht auch künstlich zu erzeugen. Für das Bewusstsein ist seit Edmund Husserl bekannt, dass man sich zwar Intentionen vorstellen kann, die sich nicht auf etwas ihnen Vorliegendes richten, diese Vorstellung es jedoch mit dem Problem zu tun bekäme, selbst bereits den Gegenbeleg zu liefern.[73] Die Entwicklung des Bewusstseins, ja seine blosse Beschreibung erscheint als komplexes Problem. Nach Wolfgang Prinz ist der Mensch eine Maschine, die ihre Lebenswelt kollektiv erfindet.[74] Er vertritt die These, dass sich das Bewusstsein (er spricht vom menschlichen Geist) erst in der Interaktion mit seinen Mitmenschen bildet. Der Aufbau und die grundlegenden Funktionen des menschlichen Geistes müssen erst ausgebildet und geformt werden, und zwar vom Menschen selbst in der Interaktion mit seinen Mitmenschen. Identität kann als eine Ausformung des Bewusstseins gesehen werden. Jedenfalls ergibt sich hier ein interessanter Querbezug zwischen Bewusstsein und Identität: Jan Assmann sieht auch die Identität als soziales Phänomen, als «Sache des Bewusstseins, d.h. Reflexivwerden eines unbewussten Selbstbildes».[75] Bewusstsein, Geist und Identität sind demnach ganz wesentlich Ergebnisse von kollektiven, sozialen Prozessen.[76] Will man sich nun dem Problem der Urteilsfähigkeit für künstliche Akteure weiter nähern, muss man sich mit ihrer Interaktion mit ihrer Umwelt, einschliesslich der Menschen, auseinandersetzen. Und genau hier ergibt sich ein Brückenschlag zurück zur Idee des Verantwortungsnetzwerks bei Loh, bei dem (menschliche) Beobachter die fehlende Urteilsfähigkeit der künstlichen Akteure kompensieren.

Kybernetik, Systemtheorie und Robotik

Der Beobachter soll die Eigenschaften ergänzen, die den Akteuren fehlen, um ihre Handlungen selbst moralisch zu beurteilen. Dabei geht es nicht darum, eine mangelnde Autonomie der Akteure auszugleichen. Zumindest eine negative Autonomie kann bei künstlichen Akteuren vorausgesetzt werden. Vielmehr geht es darum, die mangelnde Urteilsfähigkeit dieser Akteure zu kompensieren, die sich aus ihrem fehlenden Bewusstsein ableitet. Die Rolle des Beobachters kann man sich leicht am Beispiel der Eltern vergegenwärtigen, die die Handlungen ihres Kindes beobachten und ihm über Lob und Tadel laufend Feedback zu seinem Verhalten geben. Dieses Muster der sozialen Interaktion zum «Antrainieren» eines sozialverträglichen oder sozial erwarteten Verhaltens geht aber noch weiter. So vertritt Wolfgang Prinz die These, dass sich der menschliche Geist bzw. das Bewusstsein (erst) in der Interaktion mit seinen Mitmenschen bildet. Prinz’ These baut auf der Vermutung auf, dass der menschliche Geist eines jeden Individuums ein offenes System ist, das keineswegs in vollendetem Zustand auf die Welt kommt. Aufbau und grundlegende Funktionen des Bewusstseins müssen erst durch die Interaktion mit den Mitmenschen ausgebildet und geformt werden. Diese Ausbildung wird über Instrumente geleistet, die Prinz als «Spiegelsysteme» und «Spiegelspiele» bezeichnet. Spiegelsysteme und Spiegelspiele sind bestimmte Arten von Repräsentationsmechanismen. Sie dienen der Abstimmung einzelner Menschen aufeinander und der Gestaltung des jeweils eigenen Geistes nach dem Vorbild der anderen. Auf diese Weise stellen sie nach Prinz einzigartige und beispiellose Werkzeuge für die Konstruktion offener, geistbegabter Wesen dar.[77] Wie weit sich dieser Vorgang auch auf Roboter anwenden lässt, ist eine noch offene Frage. Der Skeptiker sollte diese Möglichkeit nicht von Beginn weg ausschliessen. Funktional urteilsfähige künstliche Akteure erscheinen im Zusammenspiel mit menschlichen Beobachtern denkbar.

Der theoretische Ursprung dieser Beobachter wie auch der Spiegelsysteme und Spiegelspiele findet sich in der Kybernetik. Die Kybernetik wurde um 1947 von Norbert Wiener[78] als Wissenschaft der Steuerung und Regelung von Maschinen begründet. Wiener selbst sah die Kybernetik als «das ganze Gebiet der Regelung und Nachrichtentheorie, ob in der Maschine oder im Tier».[79] Die Kybernetik zeigt wesentliche Bezüge zu Regelungstechnik, Biologie und Informationstheorie.[80] Wiener und seine Mitarbeiter inspirierten sich an einzelnen lebenden Organismen, die durch Rückkoppelung über Sinnesorgane gesteuert werden (auch eine Art Spiegelspiel), und an sozialen Organisationen (Kollektiven), bei denen die Rückkopplung durch Beobachtung und Kommunikation geschieht.

Die Kybernetik beeinflusste nicht nur die Robotik. Sie zeigte auch einen bestimmenden Einfluss auf die sogenannte Systemtheorie. Die Systemtheorie ist ein interdisziplinäres Erkenntnismodell, in dem Systeme zur Beschreibung und Erklärung unterschiedlich komplexer Phänomene herangezogen werden.[81] Die Systemtheorie der Soziologie versteht sich als eine Universaltheorie im Sinne eines umfassenden und kohärenten Theoriegebäudes für alle Formen von Gesellschaft oder sozialen Verbänden. Der soziologische Systembegriff geht ursprünglich auf Talcott Parsons[82] zurück. Parsons betrachtet dabei Handlungen als konstitutive Elemente sozialer Systeme. Niklas Luhmann[83] erweitert die Theorie Parsons, wobei er die Handlung als grundlegendes Element durch Kommunikation ersetzt. Bei Luhmann bestehen soziale Systeme nicht etwa aus den Menschen selbst, sondern aus sozialen Kommunikationen.[84]

Luhmanns Systemmodell kann in dem Sinn als «operativ» bezeichnet werden, als dass bei ihm ein System als die Verkettung von kommunikativen Operationen betrachtet wird.[85] Dies soll kurz am Beispiel des «Rechtssystems» als Teilsystem der Gesellschaft illustriert werden. Es besteht aus allen sozialen Kommunikationen, die sich auf das Recht beziehen.[86] Das Rechtssystem beschränkt sich somit nicht etwa auf die Rechtsanwendung im Rahmen formeller Verfahren und Prozesse. Es umfasst auch die auf die Zukunft gerichtete Beratungstätigkeit der Juristen sowie das Nachdenken über Recht an sich («Reflexion»), etwa im Rahmen von Rechtstheorie oder Rechtsphilosophie. Seine Identität findet das Rechtssystem in der Differenz zwischen Recht und Unrecht. Die Informationen zu dieser Differenz sind bei Luhmann in einem binären Code enthalten, der eine Voraussetzung für die Ausdifferenzierung eines Rechtssystems bildet.[87] Auf diesen Code stützen sich Programme, die als Erwartungsordnung die Handlung bzw. das Verhalten von Personen steuern[88]. Erst durch Programme erhält der Code seinen Sinn. Diese Programme lassen sich immer als Konditionalprogramme beschreiben.[89] Ihre Funktionsweise lässt sich am einfachsten anhand der Anwendung eines positiven Rechtssatzes verdeutlichen. Die Entscheidung ist einzig von den Tatbestandsvoraussetzungen als genau spezifizierten Bedingungen und nicht von Folgen inner- oder ausserhalb des Rechtssystems abhängig. Hier wird idealisierend vorausgesetzt, dass das Rechtssystem autonom und nicht von äusseren Einflüssen, etwa von der Politik, abhängig ist.[90] Konditionalprogramme erlauben eine kurzgeschaltete Koordination von Umwelt und Rechtssystem.[91] Tatsachen[92] gehören zur Umwelt und sind kognitiv bzw. induktiv[93] erfassbar. Die Rechtsfolge ergibt sich deduktiv aus dem Programm.[94] Die Gerechtigkeit selbst kann weder dem Code als dritter Wert neben Recht und Unrecht hinzugefügt werden, noch bezeichnet sie ein Programm.[95] Sie verweist vielmehr über das System hinaus auf die Umwelt.[96]

Im nächsten Abschnitt wird das Konzept des Beobachters und seine Funktionen aus systemtheoretischer Sicht genauer ausgeleuchtet, bevor die Idee des Verantwortungsnetzwerks mit dem Beobachter als wichtiger Komponente weiterverfolgt wird.

Beobachter als Funktion

Dirk Baecker schreibt mit Verweis auf Edmund Husserl, dass es im Bewusstsein nur Vorstellungen über etwas bereits Bestehendes geben könne. Sobald man sich nämlich Intentionen oder Absichten vorstellt, die sich nicht auf etwas ihnen Vorliegendes richten, erkenne man den Widerspruch.[97] Auf was sollten sich denn diese Intentionen richten, wenn nicht auf etwas, das bereits da ist? An diesem Gedankenspiel zeigt sich, dass soziale Systeme ergänzungsbedürftig sind. Sie müssen sich mit ihrer Umwelt beschäftigen, um sich zu reproduzieren. An dieser Stelle macht Baecker eine massgebliche Schwierigkeit für die weitere Entwicklung von KI aus, worauf er in den Ergänzungen zu seiner Kulturtheorie über Beobachter hinweist: Diese Entwicklung hänge gegenwärtig an der von der Robotik beschriebenen Schwelle, Maschinen in eine physische Umwelt einzubetten, um Einschränkungen zu gewinnen, an denen sich die Integration von Hardware und Software operational orientieren könne.[98]

Die Beschäftigung mit der Umwelt bzw. die Unterscheidung von System und Umwelt bedingt eine Aussensicht auf das System. Beobachter können eine solche Aussensicht vermitteln. Die Beobachtung ist eine Handlung. Mit ihr treffen Beobachter Unterscheidungen, d.h. sie entscheiden, ob etwas innen oder aussen ist.[99] Für die Zwecke einer bestimmten Perspektive oder einer konkreten Anwendung kann dieses Innen und Aussen mit «richtig» und «falsch» oder mit einem anderen Begriffspaar ersetzt werden. Der Beobachter ist in diesem Sinne «neutral», dass er weder mit der Innenseite oder der Aussenseite noch mit dem Raum der Unterscheidung, die er trifft, identisch ist. Er ist vielmehr ausschliesslich mit der Teilung der beiden Seiten selbst und damit mit der Operation, dem Vollzug der Unterscheidung, zu identifizieren. Der Beobachter trifft mit seinen Beobachtungen Unterscheidungen, an denen andere Beobachter anknüpfen oder von ihnen absehen können.[100]

Die Handlungen der Beobachter bilden aber selbst auch wieder ein System. Systeme, die selbst als Beobachter verstanden werden können, sind der Untersuchungsgegenstand der «Kybernetik zweiter Ordnung», die Heinz von Foerster[101] entworfen hat. Sie tritt zur Kybernetik erster Ordnung von Organismen, Maschinen, Systemen, die von aussen untersucht, entworfen, geplant und gesteuert werden, hinzu. Als «Beobachter zweiter Ordnung» kann der Kybernetiker mit den «Beobachtern erster Ordnung» in Interaktion treten, um zu untersuchen, wie diese sich selbst steuern, während sie mit weiteren Beobachtern in Interaktion sind, für die wiederum dasselbe gilt. Durch die Integration dieser rekursiven Prozesse ergibt sich ein Systembegriff, der nichts mehr mit nur einem einzelnen System zu tun hat, «sondern überall dort ein System konzipiert, wo ein Rückschluss auf einen Beobachter vorgenommen werden kann, dem weitere Beobachtungen zugerechnet werden können».[102] Beobachter beobachten Handlungen bzw. Kommunikationen und treffen Unterscheidungen, die über Feedback dazu führen können, aber nicht müssen, dass die beobachtete Kommunikation modifiziert wird. Die Kybernetik stellt diesen Vorgang typischerweise als Schaltkreis dar.[103]

Das Urbild der Verantwortung nach Jonas gründet sich, so haben wir es erklärt, in der natürlichen Vorstellung, dass der Mensch das einzige vernunftbegabte Wesen mit einem Bewusstsein sei. Der menschliche Geist ist nach Prinz «in zweierlei Sinn offen: zum einen, indem er im und durch den Spiegel der anderen geschaffen und geformt wird und sich daher nach dem Vorbild der anderen entwirft. Zum anderen ist er für jegliches Wissen, das er über das Handeln, Denken und Wissen anderer erlangen kann, offen und äusserst empfänglich».[104] Diese Offenheit lädt zur Integration der Ausbildung des menschlichen Geists in den Feedback-Loop ein, der im oben wiedergegebenen Schaltkreis angedeutet ist.

Prinz ist fest davon überzeugt, dass der Mensch erst im Spiegel der anderen sieht und versteht, was es mit dem Denken und Handeln auf sich hat. Erst nachdem die Menschen die Subjektivität bei den Mitmenschen entdeckt haben, glauben sie, eine eigene Individualität zu besitzen. Individualität ist für Prinz nichts weiter als ein soziales Artefakt, ebenso wie der sogenannte freie Wille und andere Mutmassungen über den menschlichen Geist. Dennoch handelt es sich seiner Meinung nach um keine Illusionen, sondern um ebenso reale Tatsachen, wie sie in der Natur vorkommen. In der modernen Welt sind nicht nur natürliche Tatsachen, sondern auch soziale. Mit Blick auf die Autonomie bzw. die Selbstbestimmung des Menschen gilt ebenfalls, dass der Besitz des freien Willens keine natürliche, sondern eine soziale Tatsache ist. Prinz erklärt: «Vielmehr ist Willensfreiheit ein soziales Artefakt, das die Menschen für sich selbst schaffen und in ihr Verständnis ihrer individuellen und kollektiven Identität integrieren.» Ausserdem argumentiert Prinz dafür, dass der Übergang von den anderen zum eigenen Selbst durch Praktiken der sozialen Spiegelung vermittelt wird. Diese von ihm als «Spiegelspiele» bezeichneten Praktiken sind nichts anderes als Anwendungsbeispiele der Rückkoppelungen von Beobachtungen.

Beobachter unter sich im Netzwerk

Wenn sich das menschliche Bewusstsein als Ergebnis kollektiver, sozialer Prozesse darstellen lässt, liesse sich vielleicht auf diese Weise auch bei künstlichen Akteuren eine Art Bewusstsein konstruieren. Mit Prinz verstehen wir Geist und Bewusstsein vereinfacht, aber anschaulich als Begriffe für das geistige Erleben.[105] Erfahrungen, Wahrnehmungen werden erkannt, sortiert und im Bewusstsein auf Dauer abgespeichert. Die abgespeicherten Erfahrungen stehen so bereit, für die Steuerung zukünftigen Verhaltens jederzeit wieder abgerufen zu werden.

Für Baecker steht jedoch fest, dass die bei Algorithmen und Robotern bereits in Ansätzen vorhandene Fähigkeit, Symbole zu manipulieren, noch nicht genügt, wenn es um die Ausdifferenzierung von KI geht: «Das Mindeste, aber bereits Überfordernde wäre die Aufladung der Symbole mit einem nur von der Maschine aufzulösenden Widerstreit. Das wäre jedoch der Schritt in eine Welt nicht-trivialer Maschinen, die gegenwärtig weder technisch noch sozial vorstellbar sind.»[106] Eine Maschine, die alleine – d.h. ohne die Hilfe eines Beobachters – einen Widerstreit von mit Sinn behafteten Symbolen auflösen kann, wäre nichts anderes als eine zumindest in Bezug auf die Interpretation dieser Symbole urteilsfähige Maschine.

Für Loh ist denkbar, dass im Rahmen der schwachen KI-These, welche eigentliches moralisches Handeln von KI ja nicht unterstützt, moralische Verantwortung simuliert werden kann.[107] Dazu genüge eine «Betrachtung von außen, um ein Wesen als moralisches Handlungssubjekt einzustufen».[108] Nach Floridi/Sanders basiert diese Betrachtung von aussen «lediglich auf dem, was zur Beobachtung spezifiziert wird und nicht auf irgendwelchen psychologischen Spekulationen».[109] Es gehe somit einzig und allein um die Konsequenzen des objektiv wahrnehmbaren Handelns des Roboters,[110] die von aussen beobachtet und interpretiert bzw. beurteilt werden können. Ob diese Konsequenzen als moralisch gut oder schlecht einzuschätzen sind, beurteilt der Beobachter, der dem künstlichen Akteur eine entsprechende Rückmeldung gibt. Bei ausreichend vorhandener Autonomie und Lernfähigkeit des Roboters muss man erwarten können, dass dieser sein zukünftiges Verhalten entsprechend der erhaltenen Rückmeldung anpasst. Die Autonomie bringt es mit sich, dass der Roboter sein Verhalten aus Gründen, die in ihm allein liegen, nicht zum Positiven, d.h. zum erwarteten moralisch guten Verhalten hin anpasst. Dies aber ist nicht primär das Problem des Beobachters erster Ordnung, der dem Akteur zwecks Feedbacks beigeordnet ist. Vielmehr ist es die Aufgabe der beurteilenden Instanz als Beobachter zweiter Ordnung, die – allenfalls rechtlichen – Konsequenzen aus dem fehlbaren Verhalten des künstlichen Akteurs zu bestimmen.

Der Feedback-Loop des Beobachters erster Ordnung an den Akteur entspricht einem klassischen Regelungs- oder Steuerungsschema der Kybernetik.[111] Wie dieses Feedback vom Beobachter an den Roboter zurückfliesst und von diesem empfangen wird, ist eine technische Frage, die hier nicht weiter besprochen werden muss.[112] Die Interaktion von Mensch und Roboter führt schnell einmal zu der Frage der Grenze zwischen Mensch und Roboter, die mit zunehmender technischer Entwicklung als fliessend empfunden werden mag. Dies zeigt sich jedenfalls, aus Sicht des Menschen gedacht, der ja über alle für die moralische Handlungsfähigkeit vorausgesetzten Eigenschaften verfügt und der sich mit Hilfe von Technologien wie «Wearable Robotics» selbst weitere Fähigkeiten aneignen will.[113] Es steht weiterhin der Blick aus Richtung des Roboters im Vordergrund. Wenn der angesprochene Feedback-Loop zwischen dem Roboter und seinem beigeordneten menschlichen Beobachter in Gang kommt, könnte entstehen, was Prinz als «Spiegelspiel» bezeichnet,[114] und als dessen Ergebnis bei der beobachteten «Person» schrittweise ein Bewusstsein entsteht.

Für ein erfolgreiches Spiegelspiel mit einem KI-Agenten müssen zwei Bedingungen erfüllt sein: Erstens muss mindestens eine andere Person vorhanden sein. Wenn Prinz von «Person» schreibt, meint er natürlicherweise einen Menschen; bei ihm ging es nicht um KI, sondern um das Phänomen der Ausbildung des menschlichen Selbst in der menschlichen Gesellschaft. Hier nimmt der Roboter den Platz der ersten «Person» ein, während die andere Person sein menschlicher Beobachter ist. Die Anwesenheit des Beobachters als anderer Person ergänzt die inneren Spiegel des Roboters durch die äusseren Spiegel des Beobachters. Der Begriff des Spiegels wird von Prinz metaphorisch eingesetzt. Es handelt sich nicht immer nur um physische Spiegel, sondern um Instrumente a priori unbestimmter Art, mit deren Hilfe eine Person wahrnehmen kann, wie sie von anderen wahrgenommen wird. Soziale Spiegel sind Lebewesen, die handeln und kommunizieren.[115] Innere Spiegel sind «spiegelartige Repräsentationsinstrumente, die innerhalb des Geistes von Personen operieren». Äussere oder externe Spiegel sind «soziale oder physische Spiegel, die Menschen in ihrer Umgebung antreffen».[116] Als zweite Bedingung müssen die beiden «Personen» auf bestimmte Weise miteinander interagieren können. Bei Menschen sind dies reziproke Handlungen und Gespräche; bei einem Roboter und einem Menschen muss eine geeignete andere Kommunikationstechnik gefunden und installiert werden. Dass eine solche existiert und funktioniert, soll wie gesagt vorausgesetzt sein. Mensch und Maschine können sich so auf Spiegelspiele einlassen.

Das Grundschema für ein Spiegelspiel ist eine dyadische Interaktion zwischen den zwei (oder mehr) «Personen». Es gibt dabei immer zwei Rollen im Spiel, die sich abwechseln können: Die Zielperson Z und die Spiegelperson S. Hier nimmt der Roboter die Stellung von Z ein und der menschliche Beobachter die Stellung von S. Das Spiel besitzt drei wesentliche funktionale Komponenten, die sich zeitlich überschneiden können. Erstens spricht oder handelt Z. Diese Handlung kann sich auf bestimmte Gegenstände oder Ereignisse beziehen. Auch die Rede von Z und S könnte sich auf solche Ereignisse beziehen. Zweitens wird das Verhalten von Z von S beobachtet. S beginnt ihrerseits zu handeln oder zu sprechen, was sich spiegelartig auf die Handlung oder die Rede von Z bezieht. Dieser Rückbezug kann etwa durch Wiederholung oder Kommentierung erfolgen. Drittens wird umgekehrt die Handlung von S von Z beobachtet. Z wird die Handlung oder die Rede von S als etwas erkennen, das sich auf seine eigene vorherige Handlung bezieht. So wird Z sein eigenes Verhalten durch den Spiegel der anderen Person wahrnehmen.

Damit das skizzierte Spiel funktioniert, müssen zwei weitere Bedingungen erfüllt sein: Beide «Personen» benötigen innere Spiegel für den Abgleich von Wahrnehmung und Produktion. Hier geht es um die eigenen kognitiven Ressourcen der beteiligten «Personen». Zum anderen muss sich das Handeln und Sprechen von Z auf S und umgekehrt beziehen. S und Z müssen sozial motiviert sein, das Spiel zu spielen. Bei Menschen werden diese sozialen Ressourcen zur Regulierung von Interaktion und Kommunikation über soziale Praktiken sichergestellt. Das Urmodell ist die Art und Weise, wie Eltern mit ihren Kindern kommunizieren und sie «erziehen». Später kommen die sozialen Praktiken in der Familie und in der Gesellschaft (Dorf, Stadt, Handel und Wirtschaft, Politik etc.) hinzu. Bei einem künstlichen Akteur muss diese soziale Motivation durch das Design der KI-Anwendung vorgegeben werden. Die soziale Motivation ist nicht natürlich-ursprünglich, sondern künstlich-erzwungen, was letztlich auf ein hybrides Design hinführt.[117]

Durch die Mitteilung der vom Beobachter S vorgenommenen Kausalzuschreibungen im Hinblick auf die beobachteten Handlungen des Roboters wird der Roboter Z zu einem eigenen Verständnis davon gelangen, auf welche Weise sein eigenes Handeln von spezifischen Zuständen («Charakterzügen») in seinem System regiert wird. Wenn Spiegelspiele dem Menschen dabei helfen, sein Selbst von den anderen abzuleiten,[118] ist denkbar, dass dies dereinst auch für Roboter oder andere KI-Anwendungen realistisch sein könnte. D.h. Roboter könnten durch Spiegelspiele ein eigenes, simuliertes Selbst oder Bewusstsein erlangen.

Die Idee, einem Roboter einen menschlichen Beobachter (erster Ordnung) beizustellen, mag auf den ersten Blick befremden. Das kann der für Aussenstehende oft ungewöhnlichen, sehr abstrakten Terminologie der Soziologie geschuldet sein. Juristen finden jedoch eine Analogie bei der Figur der juristischen Person. Die Analogie zur juristischen Person ist nur eine teilweise, weil bei dieser die Willensbildung vollständig durch die natürlichen Personen vollzogen wird, die als ihre Organe handeln. Bei unseren Robotern soll die Willensbildung durch die Roboter selbst, allenfalls unterstützt durch die beigeordneten menschlichen Beobachter, vollzogen werden. Der menschliche Beobachter soll nur, aber immerhin die Eigenschaften kompensieren, die dem Roboter fehlen, um zu einem vollwertigen moralischen Handlungssubjekt zu werden. Die Analogie zur Konstruktion der juristischen Person soll aufzeigen, dass das Recht immer schon mit Fiktionen gearbeitet hat, um neue Herausforderungen zu meistern.

Interaktion von Mensch und Maschine

Gestufte Verhältnisse in komplexen Organisationen

Die Idee des Verantwortungsnetzwerks bei Loh und Neuhäuser[119] reiht sich ein in Besprechungen der Verantwortung einer Mehrzahl von Verantwortungssubjekten. Eine solche Mehrzahl kann sich einerseits horizontal durch das Zusammenspiel mehrerer handelnder Akteure ergeben.[120] Das Problem einer Mehrzahl von Handlungssubjekten stellt sich sodann auch in der vertikalen Dimension. In der Form der Frage nach der kollektiven Verantwortung stellte es sich mit grösserer Dringlichkeit spätestens seit der Industrialisierung mit ihren immer komplexer werdenden Arbeitsabläufen. Neben der Technik nennt Nater die Organisation, verstanden als Gesamtheit von Menschen und Sachen, als herausragendes Charakteristikum des modernen Zeitalters.[121] So wurde im Zivilrecht bereits Ende des 19. Jh. eine ausservertragliche Haftung des Geschäftsherrn für seine Arbeitnehmer und seine sonstigen Hilfspersonen entwickelt (Art. 55 OR[122]). Konzeptionell gleiche Fragen, wenn auch vor weniger drastischem Hintergrund und ohne die staatsrechtlichen Aspekte, stellen sich bei der Untersuchung von Straftaten im Unternehmen (Art. 102 StGB).[123] Das Problem der «organisierten Unverantwortlichkeit»[124] im Strafrecht hat in der Roboterethik eine Entsprechung als «Verantwortungsverwischung»,[125] «totale Verantwortungsverwässerung»[126] oder einen «Fatalismus einer sich ausbreitenden Mentalität von unverschuldeter Verantwortungslosigkeit»[127] angesichts einer zunehmenden Verbreitung von Computersystemen und KI-Anwendungen. Dieses Problem akzentuiert sich bei selbstlernenden KI-Systemen zusätzlich. Brand et al. streichen in diesem Zusammenhang heraus, dass es in der Praxis häufig an der Möglichkeit fehle, «die Schädigung einem spezifischen Fehler bei der Herstellung, dem Training oder der Nutzung eines KI-Systems zuzuordnen». Entsprechend sei es oft schwierig oder gar unmöglich, die Verantwortungsbereiche entlang der beteiligten Wertschöpfungskette zutreffend abzugrenzen. Der Umstand, dass «sich bei der Nutzung von KI-Systemen regelmäßig kollektive Entscheidungen realisieren», erschwere die Zurechnung der Verantwortlichkeiten zusätzlich.[128] Alle diese Besorgnisse lassen sich mit dem Begriff der Opazität verbinden[129], also mit dem problematischen Umstand, dass die Funktionsweise von KI-Anwendungen für die menschlichen Nutzer intransparent ist.

Das Problem der Intransparenz von Verantwortlichkeitsabläufen wurde in der juristischen Fachliteratur zum Unternehmensstrafrecht breit und sehr intensiv diskutiert. Es könnte sich lohnen zu prüfen, ob sich aus diesem Gebiet für die Roboterethik bzw. für die Frage nach der Verantwortung von Robotern Erkenntnisse übernehmen lassen. Opazität lässt sich in die Welt des Unternehmensstrafrechts übertragen und dort so auf den Punkt bringen, dass Kompetenzaufteilung, Delegation, Dezentralisierung und funktionale Differenzierung dazu führen, dass sich oftmals die Verantwortlichkeit eines Einzelnen bei der nachmaligen Untersuchung von Straftaten, die in einem Unternehmen begangen wurden, nicht mehr eruieren lässt.[130] So gefasst scheint für die hier zu diskutierende Roboterethik aus diesem Bereich nicht viel Neues zu gewinnen sein. Die Lösungen des Unternehmensstrafrechts mögen von Belang sein, wenn die (strafrechtliche) Verantwortung für Manager untersucht werden muss, die für den Einsatz von Robotern verantwortlich zeichnen. Darum geht es hier nicht. Schon interessanter erscheint die Erkenntnis, dass bei komplexen Arbeitsabläufen Entscheidung und Handlung typischerweise auseinanderfallen.[131] Die kritische, zu beurteilende Handlung ist die Handlung des Roboters. Möglicherweise kann als die Entscheidung, welche eine schädigende Handlung eines Roboters auslöste, die Entscheidung eines Menschen identifiziert werden. In Frage kommen etwa der Programmierer, der Entwickler, der seinen Algorithmus mit Datensätzen versorgt hat, oder auch der Mitarbeiter, der den Roboter für seinen Einsatz vorbereitet hat. Wenn auch alle diese Fragen wichtig sind und am richtigen Ort beantwortet werden müssen, treffen sie doch den eigentlichen Punkt nicht. Ist der Roboter so autonom, dass er als moralisches Handlungssubjekt in Frage kommt, muss er die Entscheidung über sein Handeln unmittelbar selbst treffen, und es ist diese Entscheidung des Roboters, welche der Beobachter zu beurteilen hat.[132]

Eine Schwierigkeit im Unternehmensstrafrecht liegt darin, dass die Komplexität des Unternehmens als Organisation dazu führen kann, dass die objektiven und subjektiven Tatbestandselemente – wenn überhaupt – oftmals nur bei verschiedenen Personen nachgewiesen werden können, die regelmässig auch noch auf verschiedenen Stufen handeln, ohne dass deswegen eine gemeinschaftliche Tatbegehung vorzuliegen braucht.[133] Was die objektiven Tatbestandsmerkmale betrifft, ist die Tatmacht regelmässig umgekehrt proportional zum Grad der Delegation im Unternehmen.[134] Dies führt dazu, dass subjektiv Vorsatz bzw. Fahrlässigkeit deshalb nicht nachgewiesen werden können, weil keine der handelnden natürlichen Personen den Gesamtzusammenhang überblickt.[135] Nicht nur die traditionelle Individualhaftung, sondern auch die Geschäftsherrenhaftung (Art. 11 StGB) versagt in solchen Fällen.[136] Das Strafrecht musste deshalb ins bestehende Gefüge der Strafrechtsnormen eingreifen und mit Art. 102 StGB einen neuen Ansatz umsetzen, um die Strafbarkeitslücken zu schliessen.

Dieses Problem stellt sich in ähnlicher Weise im Verantwortungsnetzwerk, in dem natürliche Personen mit künstlichen Akteuren wie Robotern zusammenwirken. Dem wird im nächsten Abschnitt nachgegangen.

Gestufte Verhältnisse beim Einsatz von Robotern

Der dem Roboter beigeordnete menschliche Beobachter arbeitet nicht eigentlich mit dem Roboter zusammen. Er ist gewissermassen ein Teil der Einheit Roboter, die ihrerseits mit ihrer Umwelt und potenziell anderen künstlichen oder menschlichen Akteuren zusammenarbeitet. In der soziologischen Terminologie handelt es sich um einen Beobachter erster Ordnung. Wie in der herkömmlichen Welt können nun verschiedene Roboter miteinander arbeiten und sie können unter Umständen auch mit Menschen auf gleicher hierarchischer Stufe zusammenarbeiten. Beispielsweise könnten mehrere Roboter zusammen mit mehreren Menschen den Baumstamm wegtragen. Jedem der Roboter ist dabei ein Beobachter zugeordnet, der im Hintergrund bleibt (ein Beobachter kann auch mehrere Roboter zugleich beobachten, darauf kommt es hier nicht an). Der Einsatz der Roboter und ihrer menschlichen Kollegen wird auf der nächsten hierarchischen Stufe durch einen Vorgesetzten beaufsichtigt. Wenn die Aufgaben eines Vorgesetzten regelmässig die Beaufsichtigung der Untergebenen umfassen, wollen wir ihn doch nicht im soziologischen Sinn als Beobachter zweiter Ordnung verstehen. Vielmehr ist der Vorgesetzte in der hier besprochenen Situation selbst Teil des Verantwortungsnetzwerks: Wie im vorangehenden Abschnitt beschrieben, kann sich der Vorgesetzte neben seinen menschlichen und künstlichen Mitarbeitern selbst verantwortlich machen. Bei der Zurechnung von Verantwortung stellen sich die zuvor beschriebenen Probleme, die jedoch mit dem Einsatz von künstlichen Akteuren a priori nichts zu tun haben. Sollte dieser Vorgesetzte selbst ein künstlicher Akteur sein, muss ihm ein menschlicher Beobachter (erster Ordnung) zugeordnet werden. In gleicher Weise werden höhere Hierarchiestufen in das Verantwortungsnetzwerk eingebunden.

Die Personen, die den Roboter für seinen Einsatz vorbereiten, können ebenfalls Teil des Verantwortungsnetzwerks sein. Sie versorgen etwa den Roboter mit Daten, um seinen Algorithmus zu trainieren und ihn damit für seine Aufgabe vorzubereiten. Verwendet ein Mitarbeiter dafür ungeeignete Daten oder geht er anderweitig unsorgfältig vor, kann er allenfalls persönlich verantwortlich gemacht werden, sollte der Roboter später bei seinem Einsatz Fehler machen und einen Schaden verursachen. Bei diesem Mitarbeiter, der z.B. beim Hersteller oder im Einsatzbetrieb beschäftigt sein kann, handelt es sich um keinen Beobachter.

Als Beobachter zweiter Ordnung, also als Beobachter, die ihrerseits Beobachter beobachten, kommen Personen in Frage, die die aus Roboter und zugeordnetem Beobachter bestehende Einheit im Einsatz beobachten. Dabei kann es sich um dieselben oder weitere Mitarbeiter des Herstellers oder des Einsatzbetriebs handeln, die die Güte der Programmierung und des Trainings des Roboters beobachten und allenfalls korrigierende Massnahmen empfehlen. Soweit sich diese Tätigkeiten nicht auf das spezifische Zusammenspiel des zugeordneten Beobachters erster Ordnung mit dem Roboter beziehen, handelt es sich streng genommen nicht um eine Beobachtung zweiter Ordnung, sondern um eine beliebige Überwachungstätigkeit, die ihrerseits neben dem initialen Training im Verantwortungsnetzwerk ihren Platz finden kann.

Als Beobachter zweiter Ordnung tritt in jedem Fall die äussere beurteilende Instanz auf, die über die Verantwortung eines künstlichen Akteurs sowie der beteiligten menschlichen Akteure zu urteilen hat.[137] Mit den Worten Baeckers kreuzen die zugeordneten Beobachter erster Ordnung regelmässig Grenzen, d.h. sie treffen während des Einsatzes der Roboter immer wieder neue Entscheidungen. Darüber stehen die Beobachter zweiter Ordnung, die diese Entscheidungen bzw. Unterscheidungen in «Richtig» und «Falsch» markieren, d.h. beurteilen.[138] In der Soziologie ist es dieses rekursive Zusammenspiel von Beobachtungen auf verschiedener Stufe, das als kollektiver Prozess zur Ausbildung des Bewusstseins des Einzelnen führt. Dieses Zusammenspiel zwischen dem künstlichen Akteur und seinem zugeordneten menschlichen Beobachter einerseits und dem ebenfalls menschlichen Beobachter zweiter Ordnung könnte beim künstlichen Akteur über die Zeit so etwas wie ein «funktionales Bewusstsein» erzeugen, wobei sich dieses «funktionale Bewusstsein» teilweise in den Erfahrungen der menschlichen Beobachter als Stand der Technik beim Einsatz von KI widerspiegelt und von diesen Erfahrungen getragen wird.

Zwischenfazit

Die in diesem Kapitel vorgestellten Denkansätze zeigten die konzeptionellen und praktischen Schwierigkeiten auf, die sich stellen, wenn man KI-Systeme als moralische Akteure bzw. Verantwortungssubjekte heranziehen will. Zeigten die vorgestellten Modelle von Floridi/Sanders et al. immerhin einen gewissen Spielraum für eine Zuordnung von vereinfachter Verantwortung an künstliche Systeme auf, darf doch nicht übersehen werden, dass die gängige in der roboterethischen Literatur vertretene Meinung vom genauen Gegenteil ausgeht, d.h. von der Absage an die aktuelle Möglichkeit, in bestimmten KI-Systemen potenzielle Verantwortungssubjekte zu sehen. Auch Roboter (und umso mehr blosse Algorithmen) sind mangels wesentlicher Eigenschaften wie Bewusstsein oder Intentionalität keine Subjekte, sondern nur Objekte oder allenfalls Adressaten von Verantwortung, auf die sich ein verantwortliches Handeln jeweils bezieht. Dies gilt selbst für die aktuell komplexesten KI-Systeme. Auch sie dienen in erster Linie als Werkzeuge für Menschen. Deshalb sind trotz aller technologischen Entwicklungen nach wie vor Menschen die verantwortlichen Akteure.

Wie Loh bei ihrer Besprechung des Themas der Roboter als Verantwortungsobjekte darstellt, kommt nach Meinung von Lenk und vielen anderen den Algorithmen, Maschinen und Robotern deshalb keine Verantwortung zu, weil sie – im moralischen Sinn – keine Personen sind.[139] Es ist aufschlussreich, wie oft die einschlägigen Diskussionen und Überlegungen immer wieder auf diesen Punkt zurückkehren. Schon bei Jonas ist das Urbild der Verantwortung die Verantwortung von Menschen für Menschen,[140] eindrücklich exemplifiziert in der Verantwortung der Eltern für das Kind und in der Verantwortung des Staatsmanns für das staatliche Gemeinwesen.[141] Das mag intuitiv nachvollziehbar sein. Zurück bleiben Zweifel, ob dies alles nicht doch zu einfach und zu bequem gedacht ist. Es scheint sich wie bei Lenk ein gewisser «Fatalismus» einzustellen, dass es mit der zunehmenden Verbreitung von KI-Anwendungen mehr und mehr zu Lücken in oder zumindest zu einer Verwischung der Verantwortung kommen könnte.[142]

Die von Loh und Neuhäuser vorgeschlagene Idee des Verantwortungsnetzwerks ist von sich aus nicht in der Lage, das Problem der Verantwortungszuschreibung für künstliche Akteure zu lösen. In ihm fliessen vielmehr zwei anspruchsvolle Probleme zusammen, die auch der Rechtsanwendung bekannt sind: Zum einen ist dies die Zuschreibung von Verantwortung angesichts einer Vielzahl von potenziellen Verantwortungssubjekten, seien sie horizontal auf gleicher Stufe oder vertikal auf unterschiedlichen Hierarchiestufen angeordnet.[143] Dieser Herausforderung muss sich auch die von Beckers/Teubner vorgeschlagene Netzwerkhaftung stellen.

Dieses seit längerem bekannte und debattierte Problem stellt sich ungeachtet dessen, ob nur menschliche oder auch künstliche Akteure im Spiel sind. Die einschlägige juristische Literatur zum Unternehmensstrafrecht zeigt, dass dies bereits unter Menschen ein schwieriges Problem darstellt. Andererseits ist dies die Anerkennung von Verantwortung für künstliche Akteure, denen zumindest teilweise, wenn nicht grösstenteils die subjektive Seite der Verantwortung abgeht, nämlich die Urteilsfähigkeit. Die Idee, den künstlichen Akteuren einen menschlichen Beobachter erster Ordnung zuzuordnen, der diese Defizite ausgleicht, erscheint zumindest auf einer theoretischen Ebene vielversprechend, umso mehr, als sich diese Idee gut in bekannte soziologische Konzepte einordnen lässt. Ob sich mit ihr auch praktische Fragen der rechtlichen Haftung lösen lassen, muss noch untersucht werden. Die Schwierigkeit wird nämlich sein, bei der Beurteilung durch die beurteilende Instanz (Beobachter zweiter Ordnung) die Handlungen des künstlichen Akteurs und dessen Beurteilung durch den menschlichen Beobachter sauber voneinander zu trennen. Erst wenn dies gelingt, wird sich zeigen, ob im Verantwortungsnetzwerk tatsächlich eine zwischen künstlichen und menschlichen Akteuren geteilte Verantwortung bestehen kann – wie dies Floridi/Sanders postulierten – oder ob letztlich alles beim Alten bleiben wird: d.h. die menschlichen Akteure haften nach den herkömmlichen Regeln für künstliche Akteure, die sie wie Werkzeuge führen.

Wenn es keine zwischen künstlichen und menschlichen Akteuren geteilte Verantwortung geben kann, könnte sich der Gesetzgeber damit behelfen, für die ausservertragliche Haftung beim Einsatz von KI-Anwendungen einen ähnlichen Kunstgriff wie Art. 102 StGB auszudenken, indem er einen neuen Tatbestand der Kausalhaftung einführt. In Kapitel VI wird die Einführung eines neuen Tatbestands der Gefährdungshaftung (für Anwendungen der starken KI) vorgestellt und besprochen.[144] Dieser Lösungsweg würde sich als Fortsetzung der historischen Entwicklung des Haftpflichtrechts präsentieren und wäre somit konsistent mit der Arbeitshypothese.

Dass mit «jedermann» Menschen angesprochen sind, kommt in Art. 11 Abs. 2 ZGB ausdrücklich zur Sprache. ↵

Zur Tierhalterhaftung siehe Abschnitt III.4.4. ↵

Siehe Kaser, Privatrecht, S. 630 f. Es muss nicht besonders erwähnt werden, dass Sklaven als Menschen galten. Sie wurden nur teilweise wie Sachen behandelt. Zur rechtlichen und sozialen Stellung der freigelassenen Sklaven im alten Rom siehe z.B. Hernandez Guerra, S. 19 ff. ↵

Zur Haftung juristischer Personen siehe Abschnitt III.4.3. ↵

CHK-Breitschmid, Art. 11 N 1; BSK ZGB I-Fankhauser, Vor Art. 11–21 N 1. ↵

Zu diesem wichtigen Begriffspaar sieh Unterabschnitt IV.2.2 c). ↵

Umgekehrt schreibt M. Müller, Roboter und Recht, S. 608, dass das Phänomen «Roboter» neben Ethikern und Philosophen zunehmend auch Juristen beschäftigt. ↵

Für Aristoteles bestand das «gute Leben» in einem tugendhaften Leben, in dem sich das Glück verwirklicht (Johannes Fischer). ↵

Loh, S. 10 mit Verweis auf Julian Nida-Rümelin, wonach in der akademischen deutschsprachigen Philosophie die Angewandte Philosophie (Ethik, Moraltheorie) in einzelne, spezifische Bereichsethiken gegliedert wird. Die hier aufgezählten Bereichsethiken sind nach Loh zu ergänzen um Bereichsethiken eines zweiten Typus, die sich mit Sonderbereichen des menschlichen Lebens befassen, wie die Medizin- oder die Wirtschaftsethik. ↵

Loh, S. 10. ↵

Zur Tierethik siehe z.B. Ammann Christoph/Christensen Birgit/Engi Lorenz/Michel; zum Tierrecht siehe jetzt Kunz, Tierrecht. ↵

Die Begrifflichkeiten sind keineswegs geklärt; zu anderen Ansichten siehe Loh, S. 10 ff. ↵

Norbert Wiener (1894–1964), US-amerikanischer Mathematiker und Philosoph. ↵

Vgl. Haddadin/Knobbe, in: Ebers/Heinze/Krügel/Steinrötter, Rechtshandbuch, § 1 Rz 12. ↵

Siehe M. Müller, Roboter und Recht, S. 596 die auf verschiedene literarische Quellen verweist. Der tschechische Autor Karel Capek (1890–1938) bezeichnete in seinem Schauspiel «R.U.R. – Rossum’s Universal Robots» auftretende künstliche Menschensklaven als Roboter. Dies gilt als Ursprung des Wortes; siehe dazu Haddadin/Knobbe, in: Ebers/Heinze/Krügel/Steinrötter, Rechtshandbuch, § 1 Rz 11. ↵

Lin/Abney/Bekey, S. 18. ↵

Misselhorn, Robots as Moral Agents, S. 43. ↵

Loh, S. 17. Anders als von Loh vertreten, schliesst Misselhorns Definition ferngesteuerte Drohnen wohl nicht unbedingt aus. ↵

Vgl. Loh, S. 17. Dies widerspiegelt sich bei Widmer Lüchinger, S. 5, wonach es zwar keinen Konsens gebe, was ein Roboter genau ist, dass es sich aber auf jeden Fall um ein «mechanisches Objekt» handle. ↵

Vgl. Rochel, S. 42 ff. ↵

Vgl. die «werkzeugbezogene Sicht von Technik» bei Ebers in: Ebers/Heinze/Krügel/Steinrötter, Rechtshandbuch, § 3 Rz 61. ↵

Zu dieser Thematik siehe z. Bsp. Wildhaber, Robo-Bosse, S. 218 ff. ↵

Siehe Abschnitt III.2.1. ↵

Loh, S. 126 mit zahlreichen Hinweisen. Daran ändert nichts, wenn in der deutschen Übersetzung der Texte antiker Autoren wie Aristoteles ebenfalls das Wort «Verantwortung» verwendet wird. Zur Kritik dazu siehe Abschnitt IV.2.2 a). Möglicherweise handelt es sich hier um einen Fall fehlgeleiteter «Erinnerungskultur» in der Wissenschaft. ↵

Frei nach Jonas, S. 23. ↵

Jonas. ↵

Jonas, S. 185. ↵

Die Begründung von intuitiv einleuchtenden Meinungen ist häufig besonders schwierig. Man denke an die Unabhängigkeitserklärung der 13 vereinigten amerikanischen Staaten von 1776, gemäss der es «selbstverständliche» Wahrheiten gibt («We hold these truths to be self-evident, that all men are created equal, …»). David Hilbert diskutierte in seinem zweiten Problem die Schwierigkeiten beim Beweis der Widerspruchsfreiheit mathematischer Axiomensysteme. So ist es nach dem allgemeinen Verständnis der natürlichen Zahlen zwar intuitiv klar, dass es z.B. eine Zahl 1012 geben muss. Dies streng zu beweisen, ist hingegen keineswegs einfach. ↵

Loh, S. 127 mit Verweis auf Sombetzki. ↵

Loh, S. 127 f. ↵

Zur Entwicklung des hier präsentierten Schemas und zu seinen massgebenden Autoren siehe Loh, S. 128 (Fn. 4). ↵

Eine anders gelagerte Problematik eröffnet sich dadurch, dass als Subjekt sowohl ein Individuum als auch ein Kollektiv auftreten kann. Kollektive als Verantwortungssubjekte kommen vor allem in komplexen, hierarchischen Systemen vor. ↵

Vgl. die Definition von KI in der KI-Verordnung und anderen Rechtstexten. ↵

Der Ausdruck findet sich in diesem Zusammenhang bei Loh, S. 36. ↵

Loh, S. 61 mit Verweis auf Sombetzki, S. 371 f. ↵

IF x THEN y. ↵

Probst, S. 53. ↵

Zu diesem Begriff siehe Abschnitt V.3.3. ↵

CASE OF x THEN y. ↵

Für eine Übersicht zur Etymologie dieses Begriffes siehe Butz, der einen Aufsatz von Searle aus dem Jahr 1980 als ursprüngliche Quelle ausmacht – siehe Searl. ↵

Vgl. Turing. ↵

Zur Unterscheidung zwischen starker und schwacher KI siehe Russel/Norvig, S. 947; Niederée/Nejdl, in: Ebers/Heinze/Krügel/Steinrötter, Rechtshandbuch, § 2 Rz 2 m.w.H. ↵

Zur Definition von KI siehe Abschnitt V.3.1. ↵

Floridi/Sanders, S. 349–379; beschrieben bei Loh, S. 48 ff. ↵

Sullins, S. 23–30; beschrieben bei Loh, S. 51 ff. ↵

Siehe Loh, S. 52. Vgl. zum Verständnis des freiwilligen Handelns (hekousios) bei Aristoteles die Anmerkungen auf S. 360 in Aristoteles, Nikomachische Ethik, 2. Aufl., Reinbek bei Hamburg 2008. ↵

Kritik auch bei Loh, S. 54. ↵

Moor, S. 18–21, beschrieben bei Loh, S. 54 ff. ↵

Siehe Loh, S. 56. ↵

Wallach/Allen, beschrieben bei Loh, S. 58 ff. ↵

Misselhorn, Robots as Moral Agents, S. 42–56 und dieselbe, Maschinenethik, S. 29–33, beschrieben bei Loh, S. 64 ff. ↵

Loh, S. 64. ↵

Loh, S. 66. ↵

Loh, S. 138. ↵

Floridi/Sanders, S. 371. ↵

Kritisch wohl auch Loh, S. 141. ↵

Floridi/Sanders, S. 366. ↵

Hier wäre eingehend zu beschreiben, was unter Bewusstsein zu verstehen ist, und zu klären, dass Robotern dieses Bewusstsein fehlen muss. Siehe z.B. FAZ vom 15. Juni 2022: Empfindsame KI bei Google? Lamda lebt, wonach das Vorhandensein von Bewusstsein ein weiterer Anknüpfungspunkt für die Rechtspersönlichkeit sein könnte. ↵

Loh, S. 141 f. ↵

Vgl. Floridi/Sanders, S. 366. ↵

Auf diese konzeptionelle Unstimmigkeit wurde schon auf S. 419 f. hingewiesen. ↵

Loh, S. 142 f. ↵

Sullins (2006), S. 29. Zu Fragen der Haftung von Pflegerobotern siehe Beatrice Borio, Haftungsrechtliche Herausforderungen bei autonomen Pflegerobotern, Pflegerecht 2021, S. 223–229, die das Fehlen einer eigenen Haftungsnorm für Pflegeroboter als echte Lücke ansieht, die zu füllen sei. ↵

Jonas, S. 189. ↵

Loh, S. 145 ff. mit weiteren Hinweisen. ↵

Neuhäuser, S. 269–286. ↵

Loh, S. 146. ↵

Loh, S. 147; vgl. nun Beckers/Teubner, S. 188 ff., die auf diesem Konzept eines ihrer drei neuen Haftungsregime für KI-Anwendungen aufbauen. ↵

Siehe die Ordnung von § 254 BGB als ansatzweise zivilrechtliche Realisierung des Konzepts, vgl. bei Loh, S. 149 (Fn. 12). Überhaupt erinnert der Ansatz an die juristischen Diskussionen von Haftung im Zusammenhang mit gestuften oder hierarchischen Verhältnissen, bei denen sich eine Verantwortung mangels Transparenz in der Entscheidungsfindung oder den Befehlsketten nicht immer an einzelnen Individuen festmachen lässt und am Ende stellvertretend das Kollektiv in Form der juristischen Person als Unternehmensträgerin haftbar gemacht wird. Siehe dazu Abschnitt IV.4. ↵

Loh, S. 147 ff.; zu den verschiedenen Stufen heutiger Fahrassistenzsysteme siehe Weichbold, S. 7 ff. Vgl. für das Recht Lohmann, Haftungsrahmen, S. 112 f.; vgl. Quadroni, S. 347, der die drei Szenarien Human in the loop (Mensch ist in das System eingebunden), Human on the loop (Mensch ist an Implementierung und Überwachung beteiligt) und Human off the loop (System läuft völlig autonom) unterscheidet. ↵

Beckers/Teubner, S. 207. ↵

Nagel, S. 55. ↵

Baecker, Beobachter, S. 283 mit Literaturhinweisen. ↵

Prinz. ↵

Assmann. ↵

Damit verwandt ist das von Donald Davidson beschriebene Problem des Subjektiven mit dem Objektiven, d.h. die problematische Beziehung zwischen dem menschlichen Geist und der übrigen (beobachtbaren, wahrnehmbaren) Natur. Siehe Davidson, S. 79. ↵

Prinz, S. 19. ↵

Norbert Wiener (1894–1964), US-amerikanischer Mathematiker und Philosoph. ↵

Wiener, S. 20. ↵

Mirow, S. 17. ↵

Siehe hierzu die einleitenden Bemerkungen bei Luhmann (1987), S. 15 ff. sowie S. 555 ff. ↵

Talcott Parsons (1902–1979), US-amerikanischer Soziologe. ↵

Niklas Luhmann (1927–1998), deutscher Soziologe und Verwaltungswissenschaftler. ↵

Luhmann (1999), S. 37. ↵

Zum Stichwort der «Anschlussfähigkeit» siehe Luhmann (1987), S. 62. ↵

Luhmann (1995), S. 35. ↵

Luhmann (1995), S. 60. Ein binärer Code schliesst ein Drittes aus. ↵

Luhmann (1987), S. 432. ↵

Luhmann (1987), S. 195. Auf diese Behauptung muss an anderer Stelle noch zurückgekommen werden. ↵

Vgl. Berman, S. 250. Dass dies nicht immer der Fall ist, dürfte klar sein. ↵

Luhmann (1999), S. 257. ↵

Vgl. bei Toulmin die Daten D. ↵

Vgl. bei Kahnemann das System 1. ↵

Vgl. bei Toulmin der Schritt von D über W zur Konklusion C. ↵

Luhmann (1995), S. 216. ↵

Vgl. Winkler, Harmonie, S. 175 ff. ↵

Baecker, Beobachter, S. 283 mit Literaturhinweis. ↵

Baecker, S. 284. ↵

An dieser Stelle wäre eine Auseinandersetzung mit dem Kalkül von George Spencer Brown (1923–2016), britischer Mathematiker und Logiker, interessant. Hauptwerk Spencer-Browns sind die «Laws of Form» (deutsch: Gesetze der Form) aus dem Jahr 1969: George Spencer-Brown, Laws of Form, New York 1969; kommentierte Neuauflage auf Deutsch: Tatjana Schönwälder-Kuntze/Katrin Wille/Thomas Hölscher, George Spencer Brown: Eine Einführung in die «Laws of Form», 2. Aufl., Wiesbaden 2009. Das Buch behandelt klassische Probleme der Logik in einer heute unüblichen Herangehensweise. Das Besondere ist, dass Spencer-Brown für seine «Gesetze» lediglich zwei verschiedene Zeichen benutzt: zum einen das bekannte Gleichheitszeichen, zum anderen eine Art Negations- oder Abgrenzungs-Operator. Die Originalität des von Spencer-Brown in den Laws of Form entwickelten «Calculus of Indications» liegt in der Einführung der unmarkierten Stellung («unmarked state») und der Entdeckung seiner Bedeutung. Erst mit dem unmarked state wird der Kalkül selbstreferenz- und paradoxietauglich. Auf dem Umweg über die unmarkierte oder leere Stelle führt die Form der Unterscheidung zurück auf den Beobachter, der die Unterscheidung trifft. Dabei wird die Unterscheidung – und mit ihr der Beobachter – jedoch zugleich, was sie nicht ist, eine Referenz auf die Ununterscheidbarkeit als Voraussetzung jeder Unterscheidung. Die sogenannten Gleichungen zweiter Ordnung, die rekursive Formeln beinhalten, führen u.a. auf eine Gedächtnisfunktion und eine Oszillation zwischen Zuständen. Möglicherweise liesse sich damit die Bewusstseinsbildung formalisieren. Das Buch ist unter Experten umstritten. ↵

Baecker, S. 18. ↵

Heinz von Foerster (1911–2002), österr. Physiker, Kybernetiker und Philosoph. ↵

Baecker, S. 122 f. ↵

Baecker, S. 133 mit Verweisen. ↵

Prinz, S. 19. ↵

Prinz, S. 43 und S. 61–64. ↵

Baecker, S. 284 (Fn. 122) mit zahlreichen weiteren Hinweisen. ↵

Siehe Abschnitt IV.2.2 d). Diese Idee ist strikt vom Szenario Human on the loop bei Quadroni, S. 347 zu unterscheiden. ↵

Loh, S. 142. ↵

Floridi/Sanders 2004, S. 365. ↵

An dieser Stelle zeigt sich Bekeys Teilaspekt aus der Definition des Roboters von Bedeutung, wonach ein Roboter «a machine situated in the world» ist. Weil dies so ist, ist der Roboter durch den Menschen beobachtbar. ↵

Siehe z.B. das bei Baecker, S. 133 wiedergegebene Korrektursystem der Kommunikation mit Beobachter nach Claude E. Shannon. ↵

Zu diesen Aspekten siehe Kapitel V. Siehe auch Rochel, S. 85 ff. zur Frage der Interaktion zwischen Mensch und Roboter. Dass ein Roboter mit Menschen interagieren soll hat, genauso wie sein Einsatzgebiet (z.B. Empfang im Hotel oder Pflege im Spital) einen grossen Einfluss auf die physische Ausgestaltung des Roboters. ↵

Siehe dazu Rochel, S. 31. ↵

Für das Folgende siehe Prinz, S. 155 ff. ↵

Prinz, S. 92. ↵

Prinz, S. 93. ↵

Zu diesem Begriff siehe vorne in den Unterabschnitten IV.2.2 b) und c). ↵

Prinz, S. 164. ↵

Siehe oben Unterabschnitt IV.2.2 d) und Loh, S. 147. ↵

Für das römische Recht siehe D. 9,2,51,2: «Wenn mehrere einen fremden Balken weggetragen haben, um ihn zu stehlen, den ein Einzelner nicht tragen kann, wird angenommen, dass alle aus der Diebstahlsklage haften, obgleich man aus einem spitzfindigen Argument sagen könnte, dass keiner von ihnen hafte, weil niemand ihn tatsächlich [allein] weggetragen habe». Vgl. Winkler, Julians Digesten, S. 274 ff. Der gerne seine logischen Kenntnisse herzeigende Julian konnte nicht widerstehen, darauf hinzuweisen, dass ein einzelner Täter allein die Tat gar nicht vollbringen konnte. Folgerichtig mussten mehrere Täter zu finden sein. Diese zu identifizieren, ist aber kein wesentlich anderes Problem, als einen Einzeltäter zu identifizieren. ↵

Nater, S. 3. ↵

Vgl. § 831 BGB, wo die Hilfspersonen Verrichtungsgehilfen genannt werden, in Abgrenzung zu den Erfüllungsgehilfen bei § 278. ↵

Siehe zum Bsp. Forster; Heine. ↵

BSK StGB-Niggli/Gfeller, Art. 102 N 17 m.w.H. Vgl. das Stichwort «organisierte Unverantwortlichkeit» bei Vest, S. 125 mit Verweis auf den deutschen Soziologen Ulrich Beck (1944–2015) ↵

Lenk, S. 67. ↵

Lenk, S. 70. ↵

Lenk, S. 70 f. ↵

Beck/Faber/Gerndt, S. 254 m.w.H. ↵

Siehe die Besprechung in Abschnitt VI.1. ↵

Waespi, S. 70; teilweise a.A. Jositsch, Korruptionsstrafrecht, S. 323. ↵

EJPD, Vorentwurf und Erläuternder Bericht zur Revision des Strafgesetzbuches und des Militärstrafgesetzes betreffend die Strafbarkeit der kriminellen Organisation, die Einziehung, das Melderecht des Financiers sowie die Verantwortlichkeit des Unternehmens, Bern 1991, 49; Lütolf, S. 26; Waespi, S. 70. ↵

Siehe Abschnitt IV.3.3. ↵

BSK StGB-Niggli/Gfeller, Art. 102 N 7. ↵

Forster, S. 7; Lütolf, S. 26; Heine, S. 100 ff. ↵

Stratenwerth, Zurechnungsprobleme, S. 198 f.; Forster, S. 7; Heine, S. 44; Jositsch, S. 323. ↵

Zum Ganzen vgl. BSK StGB-Niggli/Gfeller, Art. 102 N 7–8. ↵

Siehe Unterabschnitt IV.2.2 a). ↵

Baecker, S. 48. ↵

Loh, S. 164 sowie S. 166 mit Verweis auf Lenk, S. 84. ↵

Jonas, S. 184. ↵

Jonas, S. 189. ↵

Lenk, S. 67 ff. ↵

Vgl. bei Lohmann, Haftungsrahmen, S. 112, das Vernetzungsrisiko, welches sich auf die Verflechtung zwischen verschiedenen digitalen Systemen bezieht, und das Verbundrisiko, welches die Interaktion zwischen Mensch und KI anspricht. ↵

Siehe Abschnitt VI.8. ↵

5

Ein charakteristisches Risiko für die KI?

Übersicht

Für die Gefährdungshaftungen wurde in Abschnitt III.5.1 herausgestrichen, dass für diese jeweils eine charakteristische Gefahr identifiziert und beschrieben werden muss. Angenommen, der Gesetzgeber möchte eine Gefährdungshaftung für KI-Systeme von bestimmtem Typ einführen. Dann müssten aus dogmatischen Gründen die Gefahren identifiziert werden, welche für diese KI-Systeme charakteristisch sind. Ob dies für KI gleich zu bewerkstelligen ist wie für Eisenbahnen oder die Atomenergie, ist eine fachlich interessante Frage. Um sie beantworten zu können, werden in diesem Kapitel die nötigen fachlichen, d.h. mathematisch-statistischen Grundlagen zusammengestellt.

Algorithmen

Zum Begriff des Algorithmus

Algorithmen traten im Rahmen der Mathematik und Logik in Erscheinung als allgemeine Verfahren zur Lösung aller Aufgaben einer gegebenen Aufgabenklasse. Praktischer formuliert handelt es sich bei einem Algorithmus um eine Folge von eindeutigen Anweisungen, mit denen ein Problem gelöst werden kann.[1] Mehr noch, Algorithmen gestatten es, Prozesse so zu beschreiben, dass sie danach von einer Maschine nachgebildet oder gesteuert werden können.[2] Ein Beispiel für einen einfachen Algorithmus ist das Sortieren von Zahlen aus einer Liste in auf- oder absteigender Folge (genannt «Bubblesort» oder «tri-à-bulles»).[3] Ausgedrückt in einer generischen Programmiersprache kann dieser Algorithmus wie folgt dargestellt werden:

bubbleSort(Array A)
for (n=A.size; n>1; --n){
for (i=0; i
if (A[i] > A[i+1]){
A.swap(i, i+1)
} // Ende if
} // Ende innere for-Schleife
} // Ende äussere for-Schleife

Als Input nimmt der Algorithmus eine Liste A («array»). In jedem Schritt der inneren for-Schleife wird das aktuelle Element mit seinem nächstfolgenden Nachbarn verglichen: Ist z.B. A[2] > A[3], werden die beiden Elemente vertauscht, und so fort. Am Ende der ersten Phase («bubble») steht am Ende der Liste das kleinste Element. Die Liste A, die aus mindestens n = 2 Zahlen bestehen soll, wird dabei so lange in Phasen durchlaufen (äussere for-Schleife), bis alle Zahlen korrekt sortiert sind.

Ein Algorithmus hat die Eigenschaft, gegebene Grössen auf Grund eines Systems von Regeln, Umformungsregeln (Calculus[4]) genannt, in andere Grössen, Ausgabegrössen, umzuformen oder umzuarbeiten. Um vernünftigerweise von einem Algorithmus sprechen zu können, müssen jedoch einige zusätzliche Bedingungen erfüllt sein:

Das System der Grössen, die ineinander umgearbeitet werden, muss effektiv gegeben sein;

der Algorithmus muss durch endlich viele Regeln beschrieben werden können, da keine Maschine unendlich viele Regeln speichern kann;

das Umarbeiten von Grössen, das Abarbeiten des Algorithmus geht in Form von mechanischen Arbeits- und Prüfakten vor sich. Ein Arbeitsakt besteht darin, dass eine der gegebenen Regeln angewendet wird; ein Prüfakt besteht darin, dass das Zutreffen einer Bedingung nachgeprüft wird.

Das Entscheidungsproblem aus der mathematischen Logik bezeichnet die Fragestellung, ob bestimmte vorgegebene Probleme im definierten Sinn algorithmisch lösbar sind.

Das Verständnis des Algorithmus als Arbeitsanweisung, die sich sowohl an einen menschlichen Operateur richten als auch als Grundlage für ein Computerprogramm[5] verwendet werden kann, ist sehr weitgehend und allgemein. Dass diese Bedeutung nicht immer erkannt wird, lässt sich an folgendem Beispiel aus dem Datenschutzrecht illustrieren. Dort spielt die automatisierte Verarbeitung von Personendaten eine besondere Rolle. Die automatisierte Verarbeitung von Personendaten ist das entscheidende Charakteristikum für das Profiling (Art. 5 Bst. f DSG).[6] Nach der Botschaft ist als automatisierte Auswertung jede Auswertung mit Hilfe von computergestützten Analysetechniken zu betrachten. Dazu können auch Algorithmen verwendet werden, deren Verwendung sei jedoch nicht konstitutiv für das Vorliegen eines Profilings.[7] Die Autoren der Botschaft sehen offenbar in einem Algorithmus eine höhere Form von Programmcode oder setzen sie geradezu gleich mit KI. Tatsächlich bedarf jede noch so einfache automatische Verarbeitung von Daten eines Algorithmus. Umgekehrt ist KI mehr als ein Algorithmus, wie im nächsten Abschnitt dargestellt wird.

Von Algorithmen zur KI

Der Begriff KI scheint heute in aller Munde zu sein. Regelmässig erscheinen in der Tagespresse Artikel zu den verschiedensten Aspekten der KI. Auch die Auswahl an juristischen Fachbeiträgen zur Behandlung der KI unter verschiedenen Gesichtspunkten (wie Regulierung, Urheberrecht, Haftung) wird stetig reicher. Bemerkenswert ist dabei die Schwierigkeit, eine griffige und allgemein gültige Definition von KI zu finden.[8] KI könnte pauschal als der Versuch der Automatisierung eines intelligenten Verhaltens beschrieben werden.[9] Nach Christen kann die Frage nach einer Definition von KI nicht abschliessend beantwortet werden, denn KI könne viele verschiedene Technologien umfassen. Für viele basiere das heutige Verständnis von KI primär auf künstlichen neuronalen Netzwerken. Bei diesen handle es sich um eine Basistechnologie, die in vielen unterschiedlichen Bereichen eingesetzt werden könne.[10] Es ist sicher zutreffend, dass die mathematischen Grundlagen künstlicher Intelligenz bereits vor Jahrzehnten entwickelt wurden. Dabei haben erst die Verfügbarkeit von enormen Datenmengen und die rasante Entwicklung der Rechenkraft von Computern die sinnvolle und marktfähige Nutzung von Daten mit KI-Methoden ermöglicht.[11] Nach Berendt ist die Begrifflichkeit «Künstliche Intelligenz» aus Sicht der Informatik wohl unzutreffend. Passender sei vielmehr der Begriff der «algorithmischen Systeme».[12] Dieser Ansicht ist zuzustimmen.

Algorithmen des maschinellen Lernens (ML-Algorithmen) stellen die zentrale und universelle Technologie hinter der erfolgreichen Entwicklung der gegenwärtigen KI-Systeme dar. ML-Algorithmen sind enorm mächtige Methoden der KI, deren Funktion allerdings darauf beschränkt ist, Muster in Daten zu erkennen und einfache Vorhersagen zu machen. Im Gegensatz dazu ist ein KI-System in der Lage, komplexe Probleme zu lösen, die bisher dem Menschen vorbehalten waren. Dies geschieht, indem komplexe Probleme in eine Reihe einfacher Vorhersageaufgaben unterteilt werden, von denen jede für sich genommen von einem «einfachen» ML-Algorithmus bearbeitet werden kann.[13]

Nach derzeitigem Stand der Technik ist KI bei weitem nicht mit der menschlichen Intelligenz vergleichbar.[14] Solange KI sich aus Algorithmen im eingeführten Sinn zusammensetzt, lässt sich dies auch theoretisch sehr gut begründen, was in Abschnitt 5 zumindest skizzenhaft gezeigt werden soll. Ein solches Ergebnis ist nicht nur allgemein interessant, sondern auch von Bedeutung für die juristische Diskussion und die Suche nach den Anknüpfungspunkten für eine Haftung im Umgang mit Algorithmen und KI.

Statistische Methoden

Zum Begriff der KI

Algorithmen waren bereits Gegenstand der wissenschaftlichen Forschung und der praktischen Umsetzung, lange bevor der Begriff der KI erstmals geprägt wurde.[15] Angesichts des aktuellen Entwicklungsstands der Thematik erscheint mittlerweile die KI als der dominierende Oberbegriff, während Algorithmen nur noch, aber immerhin, als ein technisches Instrument der Umsetzung von Konzepten der KI auftreten. Als KI werden im öffentlichen Diskurs verschiedene grundlegende Technologien bezeichnet, die im gesamten Spektrum von Wirtschaft und Gesellschaft eingesetzt werden können.[16] Pohle umschreibt KI kurz, aber prägnant als «Kombination aus roher Rechenleistung, komplexen Algorithmen und umfassenden Datensätzen».[17]

Der KI-Pionier Le Cun beschreibt KI als die Fähigkeit einer Maschine, Handlungen auszuführen, die üblicherweise Tieren oder Menschen vorbehalten sind: wahrnehmen, denken, handeln.[18] Die KI-Verordnung der EU enthält keine eigene Legaldefinition des Begriffs der KI an sich, sondern führt stattdessen den zusammengesetzten Begriff des «KI-Systems» ein. Der Kommissionsvorschlag definierte ein KI-System wie folgt:

«System der künstlichen Intelligenz (KI-System) [bezeichnet] eine Software, die mit einer oder mehreren der in Anhang I aufgeführten Techniken und Konzepte entwickelt worden ist und im Hinblick auf eine Reihe von Zielen, die vom Menschen festgelegt werden, Ergebnisse wie Inhalte, Vorhersagen, Empfehlungen oder Entscheidungen hervorbringen kann, die das Umfeld beeinflussen, mit dem sie interagieren.»[19]

Möglicherweise kommt dieser Ansatz der Wirklichkeit näher: KI existiert ja nicht als eigene Erscheinungsform, sondern manifestiert sich als Merkmal von «Maschinen», welche von Menschen geschaffen wurden. Noch allgemeiner ist es, statt von «Maschinen» von «Systemen» zu sprechen, suggerieren Maschinen doch immer eine gewisse Körperlichkeit, welche gerade bei Software nicht gegeben ist. Ganz in diesem Sinne hatte die Europäische Kommission KI in einer 2018 veröffentlichten Mitteilung kurz und bündig mit Systemen gleichgesetzt, die ein «intelligentes» Verhalten zeigen:

«Künstliche Intelligenz (KI) bezeichnet Systeme mit einem ‹intelligenten› Verhalten, die ihre Umgebung analysieren und mit einem gewissen Grad an Autonomie handeln, um bestimmte Ziele zu erreichen.»[20]

Diese Beschreibung enthielt bereits das Merkmal, dass KI(-Systeme) mit ihrer Umwelt interagieren. Ebenso erscheint hier das Merkmal der Autonomie, welches in der Definition der KI-Verordnung fehlt. In der Mitteilung hielt die Kommission ferner fest, dass KI-basierte Systeme rein softwaregestützt in einer virtuellen Umgebung arbeiten (so zum Beispiel ein Sprachassistent) wie auch in ein Hardware-System eingebettet sein können (so zum Beispiel Roboter). Die beiden Erscheinungsformen sind nicht als Gegensätze zu sehen. Vielmehr kann ein KI-System in Form von Software in eine Hardwareumgebung integriert werden und damit eine gewisse Körperlichkeit erlangen (gewissermassen als «Maschine» auftreten).[21] Dass bei solchen anschaulichen Vorstellungen Vorsicht angezeigt ist, zeigt sich an verschiedenen Versuchen in der Fachliteratur, zu definieren, was ein Roboter genau sein soll. Misselhorn zufolge ist ein Roboter eine elektro-mechanische Maschine, die a) über einen eigenständigen Körper und b) über mindestens einen Prozessor verfügt, c) Sensoren hat, die Informationen über die Welt sammeln, und d) über Komponenten verfügt, die Signale in mechanische Abläufe umsetzen.[22] Zurecht stellt Loh fest, dass diese körperlich geprägte Charakterisierung nicht unproblematisch ist, schliesst sie doch Anwendungen wie Chatbots oder Sprachassistenzsysteme von der Definition aus.[23] Jedenfalls soll diese Charakterisierung illustrieren, dass KI-Systeme als das «Gehirn» eines Roboters gesehen werden könnten, während Algorithmen seine Verhaltensmuster und gelernten Abläufe darstellen mögen.[24] Aus diesem Blickwinkel betrachtet wäre es a priori nicht unzweckmässig gewesen, wenn sich die KI-Verordnung wie ursprünglich vorgeschlagen mit Software (statt mit maschinengestützten Systemen) und die Maschinen-Verordnung mit Hardware beschäftigt hätte.

Die HEG-KI entwickelte eine leicht allgemeinere Definition des KI-Systems, welche auch Hardwaresysteme einbeziehen kann, die aber konkreter beschreibt, wie solche Systeme arbeiten:

«Systeme der künstlichen Intelligenz (KI-Systeme) sind vom Menschen entwickelte Softwaresysteme (und gegebenenfalls auch Hardwaresysteme), die in Bezug auf ein komplexes Ziel auf physischer oder digitaler Ebene handeln, indem sie ihre Umgebung durch Datenerfassung wahrnehmen, die gesammelten strukturierten oder unstrukturierten Daten interpretieren, Schlussfolgerungen daraus ziehen oder die aus diesen Daten abgeleiteten Informationen verarbeiten und über das bestmögliche Handeln zur Erreichung des vorgegebenen Ziels entscheiden. KI-Systeme können entweder symbolische Regeln verwenden oder ein numerisches Modell erlernen und sind auch in der Lage, die Auswirkungen ihrer früheren Handlungen auf die Umgebung zu analysieren und ihr Verhalten entsprechend anzupassen.»[25]

Auffallend an dieser Definition ist ihre detaillierte Beschreibung der Funktionsweise eines KI-Systems. Beschrieben wird ein gewissermassen linearer Ablauf, ausgehend von der Erfassung von Daten über deren Verarbeitung bis zur Wiedergabe eines Ergebnisses.[26] Dies mag dem Verständnis der heute gebräuchlichen statistischen Methoden entsprechen.[27] Ob zukünftige KI-Systeme nicht in der Lage sein werden, aus einem solchen linearen Ablauf auszubrechen und (wie Menschen) zirkulär oder gar parallel zu funktionieren, bleibt abzuwarten. Die Definition der HEG-KI hat den Vorteil, konkret zu sein. Vielleicht ist sie aber zu anschaulich und dadurch zu wenig entwicklungs- und anpassungsfähig.

Begrüssenswert an dieser Definition ist sicher, dass sie sowohl auf Software wie auf Maschinen («auf physischer und digitaler Ebene») anwendbar ist. Wichtig ist sodann das Merkmal, dass KI-Systeme ihre Umwelt wahrnehmen («Umgebung durch Datenerfassung wahrnehmen»). Ob dies immer durch Datenerfassung geschehen muss, kann offenbleiben (würde man die Sinneswahrnehmung beim Menschen als «Datenerfassung» beschreiben?). Das Merkmal der Autonomie tritt gleich mehrmals auf; auch sind unterschiedliche Stufen der Autonomie denkbar («über das bestmögliche Handeln zur Erreichung des Ziels entscheiden», «Auswirkungen ihrer früheren Handlungen auf die Umgebung zu analysieren» und «ihr Verhalten entsprechend anzupassen»). Das Merkmal, symbolische Regeln zu verwenden, verweist deutlich auf Algorithmen. Wie bereits angedeutet, können Algorithmen als Handlungsanweisungen oder – mit Autonomie ausgestattet – als Verhaltensmuster der KI-Systeme interpretiert werden.

Der Begriff der KI im Sinn des Kommissionsvorschlags kombinierte Ansätze des maschinellen Lernens («machine learning approaches»), logik- und wissensbasierte Ansätze («logic- and knowledge-based approaches») sowie statistische Ansätze, bayessche Schätzungen sowie Such- und Optimierungsverfahren.[28] In den folgenden Abschnitten sollen diese wissenschaftlichen Disziplinen vorgestellt werden, bevor der Versuch unternommen wird, den Aufbau einer typischen KI-Anwendung zu skizzieren. Angesichts der rasanten Entwicklung im Bereich der KI mag man sich natürlich fragen, welchen Sinn ein solcher Versuch haben kann. Notwendigerweise wird er skizzen- oder collagenhaft bleiben müssen. Mit Blick auf die Entwicklung der für die Beurteilung der Haftung heranzuziehenden Sorgfaltspflicht ist aber eine zumindest grundlegende Vorstellung, wie es denn zu einer KI-Anwendung kommen kann, unabdingbar.

Statistische Methoden: Grundsätze der Datenanalyse

Der wohl bekannteste Ansatz zur Analyse von Datensätzen dürfte die sogenannte Regressionsanalyse sein, welche eine a priori unbeschränkte Gruppe von Daten (die abhängigen Daten Y) mit einer zweiten Gruppe von vorgegebenen Daten (den unabhängigen Daten X) in Beziehung bringen will. Die Entwicklung der Regressionsanalyse begann zu Beginn des 19. Jh. mit den Arbeiten der Mathematiker Gauss[29] und Legendre[30], welche mit ihren Modellen astronomische Daten untersuchen wollten.[31] Dabei ging es um den Einfluss von fehlerhaften Messungen bei der Beobachtung kontinuierlicher oder stetiger Daten zur Position von Himmelskörpern. Dabei entwickelte oder «entdeckte» Gauss die seither nach ihm benannte Normalverteilung (der charakteristischen Form ihrer Verteilungskurve wegen häufig auch als Glockenkurve bezeichnet), mit welcher der Fehler als Zufallsvariable modelliert werden konnte. Für die Betrachtung von diskreten Zahlen wie beispielsweise der Anzahl von Unfällen entstand zu dieser Zeit als Gegenstück zur Normalverteilung die sogenannte Poisson-Verteilung.[32]

Die Grundidee der Regressionsanalyse ist recht einfach: Als Ausgangspunkt liegt eine Anzahl von Beobachtungen oder Messungen in Zahlenform vor, zu der eine vermutete Grundstruktur oder ein anderer Zusammenhang bekannt ist, wie etwa die Reihenfolge oder die Umstände der Messungen oder die Art und Weise der Messmethode selbst. Gesucht wird ein Muster, welches die Ergebnisse der Messungen mit den Rohdaten in Beziehung setzt. Zum Beispiel könnte die eine Messmethode zu konsistent höheren Werten geführt haben als die andere. In der Regel werden solche systematischen, letztlich erklärbaren Muster durch vermutungsweise zufällige Abweichungen überlagert, für die man gar nicht erst nach eigentlichen Ursachen suchen will, sondern die schlicht als Fehlergrössen statistisch modelliert werden sollen.[33] Ein Regressionsschema sieht vereinfacht wie folgt aus:

Yi = f(Xi, β) + εi,

wobei f eine geeignet ausgewählte Funktion, β einen zu schätzenden Parameter und e die Fehlerfunktion bezeichnen. Die Auswahl der modellierenden Funktion f ist keineswegs einfach (wir werden darauf zurückkommen). Im einfachsten Fall wählt man eine lineare Funktion:

Yi = α + β·Xi + εi.

Des Weiteren sei angenommen, dass es zwischen den beiden Grössen X und Y einen kausalen Zusammenhang gibt, bei dem der Übungsleiter X unter Kontrolle hat und Y von X beeinflusst wird und dabei gemessen werden kann (idealerweise ohne Fehler). Beispielsweise kann X die Aussentemperatur eines Hauses und Y den täglichen Energieverbrauch der Heizung darstellen. Wenn die Grösse X nacheinander die Werte x₁, …, xn annimmt (also etwa die durchschnittlichen Temperaturen einer Reihe von Kalendertagen), nimmt die abhängige Grösse Y entsprechend die Werte y₁, …, yn für die zugeordneten Werte der Parameter α und β an. Anschliessend lassen sich aus einem weiteren Satz von Werten für X neue Werte von Y schätzen oder vorhersagen. und so fort.

Vorhersagen befassen sich mit Antworten auf «Was-wäre-wenn»-Fragen, wie sie nach einer statistischen Analyse gestellt werden können. Ganz allgemein geht es bei der Vorhersage um Aussagen über die wahrscheinlichen Werte von unbeobachteten Ereignissen, die nicht unbedingt in der Zukunft liegen müssen. Angenommen, ein Team hätte zunächst die Inzidenz einer bestimmten Krankheit auf nationaler Ebene untersucht, wobei es die Daten nach Region und Altersgruppe klassifiziert hätte. Eine typische «Was-wäre-wenn-Frage» würde sich auf die vorhergesagte Inzidenz in einer bestimmten Stadt richten, wenn sie die gleiche Altersstruktur wie das Land insgesamt hätte.[34]

In der Realität wird das Verhältnis zwischen X und Y nur ungefähr linear sein. Wenn aber das Modell f gut parametrisiert ist und die unabhängige oder erklärende Variable tatsächlich Erklärungsgehalt hat, wird der Fehler e klein ausfallen. Im Idealfall ist sein Erwartungswert über eine grössere Anzahl Messungen oder Beobachtungen i nahe bei Null: E[εi] = 0, sodass die Fehler im Einzelfall zufällig bleiben. Bei einem schlecht parametrisierten Modell bleibt der Fehler gross, sodass die Variable X die Variable Y nur sehr schlecht «erklären» kann.[35] Für das Temperaturmodell eines Hauses wird die Aussentemperatur als einzige erklärende Variable wohl nicht ausreichen. Vielmehr wird man mindestens noch die Güte der Dämmung der Wände und die Qualität der Fenster berücksichtigen müssen. Möglicherweise ist das Modell zudem von der Jahreszeit abhängig.

«Model Fitting». Mit anderen Worten verlangt die Analyse von Daten durch statistische Modelle danach, geeignete Muster oder Strukturen zu finden, welche die Zusammenhänge zwischen Messgrössen zu beschreiben vermögen. Statistische Modelle kombinieren dazu sowohl systematische wie auch zufällige Elemente. Das Modell f wird durch den Funktionstyp und die Parameter β beschrieben. Die Auswahl und die Parametrisierung des Modells ist ein wichtiger, ja wohl der entscheidende Schritt bei der Datenanalyse. Dieser Schritt kann mathematisch anspruchsvoll sein. Neben linearen Funktionen können auch andere, komplexere Funktionen zum Einsatz kommen (sogenannte «Generalized Linear Models» oder «GLM-Models»).[36]

Hat man sich in einem ersten Schritt für einen Funktionstyp entschieden, geht es in einem zweiten Schritt darum, die Parameter zu schätzen. Bei einem linearen Modell wie im einführenden Beispiel müssen die Parameter (α, β) so bestimmt werden, dass die vom Modell geschätzten Werte Y' den beobachteten Daten Y möglichst nahekommen, sodass der Fehler minimiert wird. Dies geschieht, indem ein geeignetes Mass, wie etwa die Summe der quadratischen Abweichungen Σ(y-μ)² vom Mittelwert μ = E[Y], minimiert wird (auch «Goodness-of-Fit»-Kriterium genannt).[37]

Auf den ersten Blick mag es so aussehen, als ob ein gutes Modell eines wäre, das sehr gut zu den beobachteten Daten Y passt. Im Extremfall könnte das Modell durch so viele Parameter gebildet werden, wie es Beobachtungen gibt. Dann läge auf den ersten Blick ein perfektes, fehlerloses Modell vor. Damit würde jedoch keinerlei Reduktion der Komplexität erreicht. Nicht nur möglichst hohe Genauigkeit, auch Sparsamkeit bei den Parametern ist eine gewünschte Eigenschaft eines statistischen Modells. Ein gutes Modell leistet dabei immer auch eine gewisse Vereinfachung oder Reduktion der Komplexität. Betrachtet man zum Beispiel ein statistisches Modell zur Erklärung der Unterschiede bei der Arbeitsentschädigung von Frauen und Männern, kann es nicht darum gehen, möglichst viele erklärende Faktoren in das Modell zu integrieren. Es geht darum, die entscheidenden Faktoren zu identifizieren, welche die Unterschiede am besten abbilden und damit erklären können. Bei der Gestaltung von Sachverhalten ist eine gewisse Vereinfachung gewünscht. Einerseits erleichtert eine geringere Komplexität das Verständnis, andererseits werden korrigierende Massnahmen günstiger, je weniger Stellschrauben zu berücksichtigen sind. Übertreibt man jedoch mit der Vereinfachung, wird man durch höhere Fehler bestraft – die Aussagekraft bzw. der Nutzen des Modells verpufft. Der Nutzen des Modells kann sich etwa darin zeigen, dass man versucht, es auf ähnliche, aber verschiedene Sachverhalte anzuwenden, um dort Vorhersagen zu erstellen.[38]

Science but also Art: Bei der Auswahl und Entwicklung von Modellen ist es immer wieder gut, sich folgende Aussagen im Gedächtnis zu behalten:

«A first, though, at first sight, not a very helpful principle, is that all models are wrong: some, though, are more useful than others and we should seek those.»[39]

«Data will often point with almost equal emphasis at several possible models and it is important that the statistician recognize and accept this.»[40]

Die mathematischen Werkzeuge, die bei der statistischen Modellierung zum Einsatz kommen, wurden von der Wissenschaft entwickelt. Ihr Einsatz in der Praxis mag sich an wissenschaftliche Ansprüche halten; es darf jedoch nicht ausser Acht gelassen werden, dass es bei der statistischen Modellierung auch auf Erfahrung und Geschick ankommt und es keineswegs immer nur die eine, einzig richtige Lösung zu einem Problem gibt. Bereits die Auswahl der modellierenden Funktion f bestimmt einen Grossteil des Erfolgs oder Misserfolgs. Die ausgewählte Funktion f muss «im Grossen und Ganzen» zur Datenmenge passen, die analysiert werden soll.[41] Dies wird später bei der Frage nach der Sorgfalt, die beim Einsatz von KI-Anwendungen zu beachten ist, zu berücksichtigen sein.

Maschinelles Lernen

Als Nächstes gilt es, den Unterschied zwischen den eben beschriebenen «traditionellen» statistischen Methoden und den Konzepten des maschinellen Lernens (ML) zu erfassen. Nach Le Cun ist KI untrennbar mit der Fähigkeit zu lernen verknüpft, wobei er sich auf ein Zitat Turings beruft: «Instead of trying to produce a programme to simulate the adult mind, why not try to produce one which simulates the child’s. If this were then subjected to an appropriate course of education, one would obtain the adult brain».[42]

Die Kernidee des maschinellen Lernens besteht darin, einen Algorithmus nicht explizit so zu programmieren, dass er Muster (z.B. Bilder von Hunden und Katzen) anhand von vordefinierten Parametern erkennen kann, sondern ihn so zu programmieren, dass er in der Lage ist, aus Beispielen solcher Daten selber zu lernen, wie sie nach sinnvollen Merkmalen zu unterscheiden und in Gruppen einzuordnen sind.[43] Selbstlernende Algorithmen verfügen keineswegs über ein tieferes abstraktes Verständnis, sondern sie sind darauf ausgerichtet, aus statistischen Regelmässigkeiten Erkenntnisse abzuleiten.[44]

Den statistischen Methoden und den ML-Verfahren ist gemeinsam, dass sie beide Beobachtungen (Daten) analysieren, um den hinter diesen Beobachtungen stehenden Prozess zu identifizieren, um also zu verstehen, wie und weshalb sich die Beobachtungen so ergeben, wie sie sind. Unterschiede bestehen bei den Annahmen, der Terminologie und den eingesetzten Techniken.[45] Wie im vorangehenden Abschnitt gezeigt wurde, stützen sich die traditionellen Methoden auf die Vorauswahl einer Struktur, ausgedrückt im gewählten Modell, welches durch die Funktion f vertreten wird. Das gewählte Modell seinerseits kommt mit verschiedenen Annahmen zu Wahrscheinlichkeitsverteilungen, denen die Abweichungen zwischen den Schätzungen und den tatsächlichen Beobachtungen folgen sollen. Demgegenüber zielt ML darauf ab, grosse und grösste Datenmengen unbelastet von der Vorauswahl einer grundlegenden Struktur zu analysieren. Das Verfahren soll vielmehr selbst das geeignetste Modell identifizieren und auf die Daten anwenden, frei nach dem Motto «Find the Pattern – Apply the Pattern!». Einer der hervorstechendsten Vorteile von ML-Verfahren ist deren Fähigkeit, mit grossen Mengen von Daten umzugehen, ohne an die Grenzen der Leistungsfähigkeit des Verfahrens oder seiner Anwender zu gelangen.

In der Fachliteratur hat sich für die bisher entwickelten ML-Verfahren offenbar eine Einteilung in drei Gruppen durchgesetzt: «Supervised Learning», «Unsupervised Learning» und «Deep Learning/Reinforcement Learning».[46] Sie findet sich auch im Grundlagenpapier der HEG-KI zu den Definitionen der KI: Zu den gängigsten Ansätzen des ML gehören gemäss der HEG-KI das überwachte Lernen, das unüberwachte Lernen und bestärkendes Lernen.[47]

Supervised Learning oder überwachtes Lernen. Überwachtes Lernen beinhaltet ML-Algorithmen, die Muster zwischen einem Satz von Eingaben (den unabhängigen Werten X als Input) und der gewünschten Ausgabe (den abhängigen Werten Y als Output) ableiten. Das abgeleitete Muster wird dann verwendet, um einen gegebenen Eingabesatz auf eine vorhergesagte Ausgabe abzubilden.[48] Von der Grundkonzeption her entspricht dies dem Vorgehen bei den traditionellen statistischen Methoden. Allerdings erfolgt hier keine Vorauswahl einer modellierenden Funktion f. Mit den deskriptiven Worten der HEG-KI «werden dem System keine Verhaltensregeln vorgegeben, sondern es [das System] bekommt Beispiele für Input-Output-Verhalten in der Hoffnung, dass es anhand der Beispiele (die typischerweise die Vergangenheit beschreiben) Gesetzmässigkeiten nachbilden kann und sich auch in Situationen angemessen verhält, die sich nicht in den Beispielen wiederfinden (und künftig auftreten könnten)».[49]

Ausgangspunkt ist auch beim überwachten Lernen ein Paar von Datensätzen (X, Y), bestehend aus Input und Output. Dieses Paar (X, Y) wird nun dem ML-Algorithmus als «Trainingsset» zugeführt. Mittels dieses Trainingssets soll der Algorithmus eine musterbasierte Regel zum Vorhersagen von Ausgabevariablen Y* «erlernen», welche zu einem neuen Set von Eingabevariablen X' passen. Die Güte dieser Regel kann an der Differenz zwischen den vorhergesagten Werten Y* und den tatsächlich beobachteten Werten Y' abgelesen werden. Dabei ist es möglich, sowohl kontinuierliche Datensätze Y (Regression) als auch diskrete Datensätze Y (Klassifikation) zu bearbeiten.[50] Ein Beispiel für eine Anwendung mit diskreten Ausgabevariablen ist die Prüfung von Kreditkartentransaktionen auf Betrug (y = 0, falls legitime Transaktion, y = 1, falls betrügerische Transaktion), anhand von bestimmten, mit den Transaktionen und ihren Auftraggebern verknüpften Merkmalen.[51] Durch Durchspielen einer Vielzahl von Fällen erarbeitet sich der ML-Algorithmus in der Trainingsphase einen «Erfahrungsschatz», welcher in der Phase der Anwendung bei der Einschätzung von konkreten Fällen eingesetzt werden kann.

Unsupervised Learning oder Unüberwachtes Lernen. Beim überwachten Lernen dient ein geordnetes Paar von Datensätzen (X, Y) als Ausgangspunkt für die Trainingsphase. In dieser Ordnung liegt eine minimale, vorgegebene Struktur, welche das Lernen des Algorithmus in eine gewisse Richtung lenkt. Lässt man auch diese minimale Struktur weg, gibt man dem Algorithmus also nur noch ein einziges Datenset X bei, muss der Algorithmus die Daten nur aus sich selbst heraus analysieren und auf eine Struktur hin untersuchen.[52] Ein anschauliches Beispiel für Verfahren des unüberwachten Lernens sind Clustering-Verfahren, bei denen die Daten in Gruppen oder Cluster eingeteilt werden, sodass Datenpunkte in einem Cluster zueinander in einer bestimmten Weise ähnlicher sind, als sie es zu Datenpunkten in anderen Clustern sind. Eine seit längerem bekannte Anwendung des unüberwachten Lernens ist die sogenannte Hauptkomponentenanalyse (Principal Component Analysis, PCA). Die PCA ist ein Verfahren, welches hoch korrelierte Merkmale in eine geringere Anzahl nicht korrelierter Variablen reduziert, indem es die Kovarianzmatrix der Merkmale transformiert. Das PCA-Verfahren erzeugt Eigenvektoren, welche die Hauptkomponenten definieren (d. h. die neuen nicht korrelierten zusammengesetzten Variablen), und Eigenwerte, die den Anteil der Gesamtvarianz in den ursprünglichen Daten angeben, die durch jeden Eigenvektor und seine zugehörige Hauptkomponente erklärt werden.[53] Bei den klassischen Verfahren der multivariaten Statistik[54] werden die erklärenden Variablen X im Rahmen des Designs des Verfahrens im Voraus bestimmt, wozu der Statistiker entweder über besondere Erfahrung verfügen oder sich auf ein vorbestehendes theoretisches Modell abstützen können muss. Das PCA-Verfahren kommt ohne eine solche Vorauswahl aus, bestimmt es die erklärenden Variablen X doch aus der zu untersuchenden Datenmenge selbst. Auf diese Weise kann das PCA-Verfahren tatsächlich nicht nur eine Hypothese (oder eine vorgefasste Meinung) bestätigen, sondern einen echten Erkenntnisgewinn anbieten.

Deep Learning. Den ML-Verfahren aus dieser dritten Gruppe ist gemeinsam, dass sie sich auf (tiefe) neuronale Netze abstützen. Neuronale Netze sind nur eine von verschiedenen Techniken, die bei KI-Anwendungen zum Einsatz kommen. Es handelt sich um einen besonderen Ansatz zur Lösungsfindung, welcher sich in der Funktionsweise an das menschliche Gehirn anlehnt. Im Wesentlichen werden kleinere Verarbeitungseinheiten (ähnlich den Neuronen im menschlichen Hirn) durch zahlreiche gewichtete Verbindungen miteinander verknüpft. Deep Learning macht sich nun die Tatsache zunutze, dass beim neuronalen Netz verschiedene Ebenen zwischen Input und Output angeordnet werden und dass der Gesamtzusammenhang zwischen Input und Output somit schrittweise erlernbar gemacht wird. Dadurch wird das Verfahren insgesamt präziser und benötigt weniger Steuerung durch den Menschen.[55]

Auf tiefen neuronalen Netzen basiert auch das 2016 vorgestellte Computerprogramm AlphaGo, welches in der Lage ist, das asiatische Brettspiel Go auf höchstem Niveau zu spielen.[56] AlphaGo verwendet zwei neuronale Netze: Das sogenannte Empfehlungsnetz wurde anhand von mehreren hunderttausend historischen Go-Partien so trainiert, dass es vielversprechende Züge «empfehlen» kann. Als Eingabe dienten Go-Stellungen, als Ausgabe dazugehörige Züge von Meisterspielern. Das so trainierte Netz war in der Lage, gegen sich selbst Go-Partien zu spielen und auf diese Weise Millionen neue Trainingspartien zu erzeugen, um immer besser zu werden. Für den nächsten Entwicklungsschritt verwendeten die Programmierer von AlphaGo eine als «bestärkendes Lernen» (reinforcement learning) genannte Technik.

Auch bei diesen Verfahren werden zwischen Input und Output mehrere Ebenen der schrittweisen Lösungsfindung angeordnet. Das Besondere hier ist, dass das KI-System nach und nach seine eigenen Entscheidungen treffen darf. Das System interagiert mit seiner Umwelt und erhält bei jedem Schritt die Rückmeldung, ob es gut oder schlecht entschieden hat. Ziel des Systems ist es, im Laufe der Zeit möglichst viele positive Rückmeldungen zu bekommen und so in seinem Fortschreiten bestärkt zu werden. Das System wird gewissermassen mit einem «Reward»-Ansatz konditioniert, indem es im Erfolgsfall einen Bonus erhält, sonst aber leer ausgeht.[57] Typische Einsatzgebiete für diese Verfahren sind Empfehlungssysteme, wie sie etwa im Internet auftreten, um Kaufvorschläge zu generieren.[58]

Wenn AlphaGo dem Nutzer einen nächsten Zug empfehlen soll, muss es die Konsequenzen einer grossen Anzahl möglicher Züge prüfen und bewerten. Hierzu trainierten die Programmierer ein zweites neuronales Netz, wobei als Trainingsdaten nun nicht die historischen Spieldaten, sondern die Daten aus den vom Algorithmus gegen sich selbst gespielten «künstlichen» Go-Partien herangezogen wurden. Das Bewertungsnetz bekam die Aufgabe, die Wahrscheinlichkeiten für erfolgreiche Spielzüge zu bestimmen. Im Zusammenspiel zwischen Empfehlungs- und Bewertungsnetz kann der Algorithmus rekursiv immer mehr Spielvarianten durchspielen und schliesslich die Variante mit der grössten Erfolgswahrscheinlichkeit vorschlagen. Als AlphaGo im März 2016 gegen den südkoreanischen Go-Spieler Lee Sedol[59] spielte, schlug der Algorithmus im 37. Zug einen Spielzug vor, der für die Kenner des Spiels so überraschend schien, dass er für einen Fehler gehalten wurde. Dennoch sollte er zum Sieg von AlphaGo führen. Kommentatoren sehen darin ein Zeichen, dass die KI damit eine Entwicklungsstufe erreichte, in der die KI Menschen nicht nur bloss imitiert, sondern neue Lösungen erzeugen kann, die über die menschlichen Fähigkeiten hinausgehen.[60] An dieser Stelle beginnt es wirklich interessant zu werden: Wenn die KI nicht nur schlicht schneller[61], unermüdlicher[62] und zuverlässiger Routinearbeiten erledigen kann, sondern kreativer und vielschichtiger denken könnte als der Mensch. Manche Forscher der Gegenwart sehen in der KI ja einen Segen, der sie «von stumpfsinniger Plackerei» im Labor befreie, sodass sie sich nun ganz den kreativen Seiten ihrer Arbeit widmen könnten.[63] Falls sich die KI nach dem Muster von AlphaGo weiterentwickeln sollte, könnte diese Arbeit jedoch eines Tages nicht mehr ihre Arbeit sein.

Mit Blick auf die Frage der bei der Entwicklung von KI-Anwendungen zu befolgenden Sorgfalt ist folgendes Problem besonders interessant: Worin kann der Produktfehler bei einem KI-System liegen, das nach seinem Design gerade aus seinen Fehlern lernen soll und bei dem je nach Konfiguration ein Teil des verhaltensbestimmenden Trainings nach Ablieferung an den Nutzer im Rahmen seines Einsatzes bei diesem Nutzer und damit ausserhalb des eigentlichen Verantwortungsbereichs der Herstellerin stattfindet?[64] Dass KI-Systeme in der KI-Verordnung u.a. dann als hochriskant qualifiziert werden,[65] wenn sie als Sicherheitskomponenten für bestimmte Produkte, die vom EU-Produktsicherheitsrecht erfasst werden, erklärt und motiviert sich aus genau dieser Frage.

Aktuelle KI-Entwicklungen

Aufbau einer KI-Anwendung

Nach der von der HEG-KI gegebenen Definition der KI zeichnet sich eine KI-Anwendung durch die drei zentralen Fähigkeiten der Wahrnehmung ihrer Umwelt, der Interpretation von Daten, der Schlussfolgerung/Entscheidungsfindung und der Ausführung aus.[66] Zur Interpretation der Daten dienen statistische Methoden einschliesslich ML, wie sie im vorangehenden Abschnitt eingeführt und beschrieben wurden. Wahrnehmung erfolgt durch Sensoren. Auch die Ausführung knüpft an technische Lösungen an. Am spektakulärsten kommt dies bei Anwendungen der Robotik zum Ausdruck; im Alltag häufiger dürften nach wie vor niederschwellige Formen auftreten, beispielsweise, wenn bei einer Smart Home-Anwendung im Hintergrund die Leistung der Heizung reguliert wird.

Zur Schlussfolgerung und Entscheidungsfindung und ihren Schnittstellen mit den anderen Komponenten schreibt die HEG-KI (kursive Hervorhebung durch den Verfasser):

«Diese Gruppe von Techniken umfasst Wissensrepräsentation und -verarbeitung, Planung, Terminierung, Suche und Optimierung. Mithilfe dieser Techniken ist das System in der Lage, aus den von den Sensoren gelieferten Daten Schlussfolgerungen zu ziehen. Damit das geleistet werden kann, müssen Daten in Wissen umgewandelt werden. Daher beschäftigt sich ein Bereich der KI mit der Frage, wie solches Wissen am besten modelliert werden kann (Wissensrepräsentation). Im Anschluss an die Wissensmodellierung werden im nächsten Schritt Schlussfolgerungen aus dem Wissen gezogen (Wissensverarbeitung). Dazu gehören die Bildung von Rückschlüssen durch symbolische Regeln, Planungs- und Terminierungsaktivitäten, Durchsuchen eines umfassenden Lösungspakets und Optimierung unter allen Problemlösungsalternativen. Im letzten Schritt wird entschieden, welche Handlung erfolgen soll. In der Regel ist der Teil der Schlussfolgerung und Entscheidungsfindung in einem KI-System sehr komplex und erfordert eine Kombination aus mehreren der genannten Techniken.»[67]

Die Modellierung von Schlussfolgerungen ist ein Thema, welches schon die Philosophen der Antike beschäftigt hat. Unter einem logischen Schluss, auch Syllogismus genannt, verstanden Aristoteles und andere den logisch korrekten Übergang von einer oder mehreren Prämissen (Input) auf eine Folgerung.[68] Die Schule der Stoiker entwickelte ganze «Schlussformeln», um dieses Konzept im Streit mit Argumenten und der Rede (Rhetorik) auch praktisch umzusetzen.[69] Wie nützlich sich solche Formeln etwa in der Gerichtspraxis tatsächlich bewährten ist unklar. Tatsächlich kannten schon die Griechen mit dem enthymema als logisch unvollkommenem Schluss eine abgeschwächte Form des Syllogismus, welche nicht nur auf formales Schliessen baute, sondern offen für «plausible» Argumente blieb und damit ihre Kraft auch von der Überzeugung der Zuhörer oder Leser abhängig machte.[70] In der Rechtstheorie blieb der Wert solcher formaler, auf der Logik basierender Techniken der Entscheidungsfindungen bis heute sehr umstritten.[71] Dabei spielt sicher auch die Besorgnis eine Rolle, dass solche formalen Techniken den Entscheidungsspielraum der Juristen über die Gebühr einschränken könnten.[72] Bei den im nächsten Abschnitt vorgestellten KI-Anwendungen geht es noch nicht um so sophistizierte Entscheidungen. Dort geht es erst einmal um die Herausforderung, Robotern eine Art Körpergefühl und einen eigenen Orientierungssinn zu geben. Damit sollen sie scheinbar einfache Tätigkeiten wie das Tischtennisspielen erlernen. Zur Vorbereitung sei der prinzipielle Aufbau einer KI-Anwendung aus Wahrnehmung über Sensoren und Ergebnisproduktion über Algorithmen hervorgehoben. Die Aufnahme von Daten und deren Verarbeitung erfolgt bei der selbstlernenden KI nicht mehr über fix vordefinierte Modelle, sondern flexibel. Dieses Vorgehen muss sorgfältig trainiert werden.

Trainieren von KI: Wie Roboter die Welt entdecken

Von allen möglichen Unfallszenarien mit Beteiligung von KI-Systemen, die wir für die rechtliche Diskussion in Kapitel VI, dem Schwerpunkt dieser haftpflichtrechtlichen Arbeit, finden können, sind Unfälle mit Robotern sicher die spektakulärsten Fälle. Bei dieser Suche könnten wir uns inspirieren lassen von aktuellen Beispielen, seien es erste reale, in der Tagespresse berichtete Unfälle mit KI-Systemen oder herkömmliche Unfälle zwischen Mensch und Maschine. Wir könnten uns z.B. einen Unfall ausdenken, bei dem ein Roboter einen Lieferwagen fährt, unterwegs wegen eines unvermittelt am Strassenrand aufragenden Mistkrans «erschrickt» und daraufhin den Lieferwagen in den Strassengraben fährt.[73] Realistisch ist dieses Szenario noch nicht, da humanoide Roboter noch lange nicht in der Lage sein werden, ein herkömmliches Auto anstelle des menschlichen Fahrers zu steuern.[74] Zwar gibt es bereits zahlreiche Anwendungen, bei denen Roboter den Menschen bei alltäglichen Aufgaben unterstützen, wie z.B. als Lagerist oder bei Handreichungen in der Pflege beim Verteilen von Medikamenten oder Hilfsmitteln. Im Internet finden sich unzählige Berichte und Videos von Herstellern, die die Leistungen ihrer Erzeugnisse vorstellen.[75] Dabei wird gerne vergessen, dass diese Roboter für genau definierte Arbeiten in ganz bestimmten Umgebungen vorbereitet worden sind. Gibt es Abweichungen im geforderten Arbeitsablauf oder werden diese Roboter mit einer ihnen unbekannten Umgebung konfrontiert, sind sie schnell überfordert. Doch für Prof. Joachim Hertzberg von der Universität Osnabrück impliziert echte Intelligenz gerade «die Fähigkeit, sich in einer Umgebung vernünftig zurechtzufinden, Aufgaben zum ersten Mal zu machen, ohne sie zuvor geübt zu haben, situations- und zielangemessen zu handeln».[76] Also eigentlich das, was man von heranwachsenden Kindern in Alltag und Schule ganz selbstverständlich erwartet. Doch davon oder dass Roboter eine einem (Nutz‑)Tier vergleichbare Autonomie zeigen, kann trotz der beeindruckend wirkenden Ergebnisse noch keine Rede sein.

Im Folgenden wird anhand eines Beitrags aus dem Forschungsmagazin der MPG dargestellt,[77] woran es liegt, dass heutige Roboter regelmässig nur für Spezialaufgaben geeignet sind bzw. was es bräuchte, damit sie schneller mit neuen, ihnen unbekannten Aufgaben zurechtkommen. Die Antworten darauf, insbesondere wie man Roboter richtig trainiert, werden uns von Nutzen sein, wenn wir in Kapitel VI die Verantwortlichkeiten für Unfälle untersuchen. Der Natur der Sache nach handelt es sich bei dieser Darstellung konkreter Forschungsprojekte nur um eine Momentaufnahme.

Forscher des Max-Planck-Instituts für Intelligente Systeme in Tübingen versuchen, Robotern ein eigenes «Körpergefühl» anzutrainieren.[78] Dadurch sollen die Roboter in die Lage versetzt werden, sich in einer unbekannten Umgebung bewegen und Befehle präzise ausführen zu können. Der Schlüssel dazu ist, den Robotern ein Vorwissen über ihre eigenen physikalischen Eigenschaften vorzugeben und ihnen das «Sehen» beizubringen. «Sehen» bedeutet dabei nur, aber immerhin, dass die Roboter Objekte in einer beliebigen Umgebung nach deren physikalischen Eigenschaften wie Form, Grösse und Farbe zu erkennen vermögen. So wird einem Roboter das Tischtennisspielen beigebracht. Dieser Roboter ist einarmig, wobei Ober- und Unterarm aus zwei Aluminiumrohren bestehen, die mit Kunststoffgelenken verbunden sind. Die Hand besteht aus einem Gelenk mit festgeschraubtem Schläger. Zu den Gelenken führen Luftschläuche, die an eine Reihe von pneumatisch betätigten Zylindern angeschlossen sind. Diese drücken Luft in die Gelenke hinein oder saugen sie von dort ab, wodurch der Arm bewegt wird. Gegenüber Gelenken, die mit Elektromotoren angetrieben werden, hat diese Bauweise den Vorteil einer leichten Bauweise, was schnelle Bewegungen erlaubt, wie sie im Tischtennisspiel verlangt sind. Der Nachteil von pneumatisch angetriebenen Gelenken liegt darin, dass der Arm elastisch federt. Dies führt zu einer Ungenauigkeit in der Bewegung, welche die Steuerung des Roboters (d.h. anschaulich gesprochen sein Gehirn) berücksichtigen muss, wenn sie den Arm auf den anfliegenden Ball zubewegen will. Für die Steuerung des Roboters wird ein flexibler selbstlernender Algorithmus eingesetzt, der seine Daten mittels Kameras und Drucksensoren «erlernt». Dieser Algorithmus beginnt seine Lernphase jedoch nicht bei null. Ihm wird vielmehr ein Idealmodell eines Arms mit steifen Stäben und perfekt funktionierenden Gelenken als Ausgangspunkt vorgegeben. Dadurch kann der Algorithmus Kameraaufnahmen nutzen, um nur noch das Nachfedern der pneumatischen Bewegungen zu erlernen. Dieses «Vorwissen» spart offenbar sehr viel Rechenzeit. So konnte das Forscherteam dem Roboter in einer statt der sonst notwendigen 16 Stunden eine ziemlich natürliche Spielweise beibringen, sodass er selbst auf unterschiedliches Verhalten der Ballmaschine (die die Bälle abschiesst und dem Ball etwa einen Spin gibt) situativ richtig reagieren kann.

Der Ansatz mit dem Vorwissen wurde ebenso verwendet, um die Ballmaschine zu trainieren, welche die Bälle gegen den Roboter abschiesst. Auch hier stellt das Trainieren mit einem vorausgesetzten physikalischen Modell, welches das Vorwissen des Roboters repräsentiert, einen Mittelweg dar zwischen dem eigentlichen Maschinenlernen ohne jegliches Vorwissen (d.h. blossem statistischem Ausprobieren) und der Verwendung eines vollprogrammierten unveränderlichen (Ideal‑)Modells, das überhaupt nicht lernfähig ist. Letzteres funktionierte in einer idealen Welt der mathematischen Modelle. In der Wirklichkeit treten jedoch immer Effekte auf, welche zu Abweichungen vom Idealzustand führen, so dass sich etwa die Flugbahn eines Balls durch einen zufällig mitgegebenen Spin leicht verändert. Die Tübinger Forscher nehmen dies auf und lassen den selbstlernenden Algorithmus nur diese Abweichungen vom Idealzustand lernen, um das reale Verhalten der Ballmaschine möglichst realistisch abzubilden.

Nebst einem «Körpergefühl» benötigt ein möglichst vielseitig einsetzbarer Roboter auch einen «Orientierungssinn». Diese beiden «Sinne» ergänzen und verstärken sich gegenseitig: Die Tübinger Forscher kombinieren dazu Daten einer Kamera mit den Daten von Beschleunigungssensoren, die am Körper des Roboters befestigt sind. Die Beschleunigungssensoren simulieren für den Roboter eine Art Gleichgewichtssinn. Dadurch soll der Roboter lernen, wie sein eigener Körper auf einen Befehl seiner Steuerung reagiert. Menschlich gesprochen soll er ein Gefühl entwickeln, wie sich die Masse seiner Glieder bei Beschleunigungen verhält, um präzisere Bewegungen ausführen zu können. Auch hier wird als Vorwissen ein physikalisches Modell der Bewegungen vorgegeben, um die Zeit für den Lernprozess abzukürzen.

Zum Orientierungssinn gehört nicht nur ein Gefühl über die eigenen Bewegungen, sondern auch eine Vorstellung über die Objekte, die der Roboter greifen und handhaben soll. Der Roboter kann diese Objekte natürlich nicht im eigentlichen Sinn «sehen». Stattdessen muss er eine gute Vorstellung von ihren Eigenschaften entwickeln. Indem der Roboter etwa beobachtet, wie ein Ball von einer Wand zurückprallt, kann er mit der Zeit abschätzen, wie gross und wie schwer der Ball ist und wie er von der Wand abprallt. Mit anderen Worten lernt er durch Anschauung einzuschätzen, wie sich ein Objekt wie ein solcher Ball voraussichtlich verhalten wird.

Die beschriebenen Lernmethoden sollen es Robotern nicht nur ermöglichen, schneller für einen vorgesehenen Einsatz bereit zu sein, sondern sich auch in ihnen noch unbekannten Situationen besser zurechtzufinden. Der zitierte Artikel aus dem Forschungsmagazin vergleicht diese Art des Lernens mit der Art und Weise, wie Kinder erlernen, sich in ihrer Umgebung zurechtzufinden und etwa mit einem Ball zu spielen. Vergleiche mit der menschlichen Entwicklung kamen bereits bei der Frage nach einem möglichen Bewusstsein von künstlichen Akteuren zur Sprache.[79] Solche Vergleiche mögen naheliegen, können aber auch die Gefahr bergen, dass die Entwickler neue, aussichtsreiche Lösungswege übersehen oder dass sich der Betrachter (z.B. der Nutzer eines KI-Systems) eine falsche Vorstellung über die Funktionsweise von KI macht. Für die Frage nach einer möglichen Haftung aus Verschulden der Entwickler ist u.a. entscheidend, was beim Design von KI-Konzepten aktuell als Stand der Wissenschaft gelten darf.

Eine Frage des Vertrauens

Der berüchtigte Black-Box-Effekt von KI führt dazu, dass die Nutzer häufig gar kein oder nur ein rudimentäres Verständnis ihrer Funktionsweise haben.[80] Damit die Nutzer KI einsetzen, müssen sie über ein minimales begründetes Vertrauen in ihre grundsätzliche Funktionsfähigkeit verfügen. Umgangssprachlich formuliert, müssen die Nutzer «glauben», dass es funktioniert. Denn «wissen», dass es funktioniert, können sie aus praktischen Gründen nicht. Die Debatte zum Unterschied zwischen Wissen und Glauben ist uralt.[81] Im Zusammenhang mit der Digitalisierung erfährt sie eine überraschende Aktualisierung. Im Zeitalter des digitalen Wandels verändert sich nämlich nicht nur die Art und Weise, wie Menschen untereinander kommunizieren, sondern auch «wie und was sie glauben».[82] In diesem Zusammenhang prägte der Kommunikationswissenschaftler Michael Latzer[83] den Begriff der «digitalen Dreifaltigkeit», welche die Erscheinungen «Datafizierung, Algorithmisierung und Plattformisierung» umfasse.[84] Die dahinter stehenden Überlegungen betreffen bei weitem nicht nur Fragen der Religion, wie es dieser Begriff überdeutlich anzudeuten scheint, sondern die Grundsatzfrage, wie sich der menschliche Alltag in Zukunft gestalten lässt.

Die Idee und die Entwicklung der Digitalisierung beruht nach Latzer auf dem starken Glauben an eine wissenschaftlich-technisch kontrollierbare Evolution der Menschheit. Die menschliche Umwelt sei demnach eine berechenbare Welt, über die sich auf der Basis grosser Datenmengen ganz neue Erkenntnisse gewinnen lassen. Schon die Bezeichnung KI widerspiegle die Erwartungshaltung, dass die Technik dem Menschen demnächst umfassend überlegen sei.[85] Diese Entwicklung ist aber nicht realistisch, wenn die Menschen ihr nicht vertrauen. Für das Funktionieren einer Gesellschaft ist Vertrauen zentral. So ist Vertrauen die Grundlage jeder Geschäftsbeziehung. Besonders in der arbeitsteiligen und international vernetzten Geschäftswelt spielen Vermittler eine wichtige Rolle. Banken stellen z.B. sicher, dass Geschäftsleute mit den richtigen Gegenparteien handeln und dass in ihren Transaktionen die korrekten Beträge ausgetauscht werden. Hersteller von Markenprodukten beschäftigen Anwälte, die kontrollieren, dass ihre Produkte nicht kopiert oder illegal verbreitet werden. Alle diese Vermittler schaffen Vertrauen durch die zuverlässige Erledigung ihrer Aufgaben. Allerdings ist die Einschaltung von Vermittlern sehr komplex, zeitaufwändig und meist teuer. An dieser Stelle versucht die Blockchain-Technologie anzusetzen, indem sie die Notwendigkeit des Vertrauens in menschliche Vermittler («intermediaries») durch das Vertrauen in ein technisches System mit einem eingebauten Konsensmechanismus ersetzt.[86] Dieser Konsens, mit dem einzelne Transaktionen validiert werden, hängt dabei von der Erfüllung bestimmter, objektiver technologischer Bedingungen ab.[87] Der springende Punkt, der dieses Vertrauen letztlich schafft, liegt darin, dass die Dokumentation der Transaktionen (codiert in den einzelnen «Blocks» der Blockchain) nicht nur an einem zentralen Ort (etwa bei einer Bank) gespeichert ist, sondern auf den dezentralen Servern von Tausenden oder gar Millionen von Nutzern der Blockchain. Die Verkettung der Blöcke stellt sicher, dass der Inhalt eines Blocks jederzeit vertrauenswürdig bleibt. Wird eine Änderung in einen Block eingegeben, wie z.B. eine Zahlungsanweisung, dann überprüfen alle Rechner im gesamten Netzwerk die Blockchain, um festzustellen, ob die Transaktion gültig war. Durch die Kombination von Verschlüsselung, Dezentralisierung, einer Vielzahl von Akteuren und gemeinschaftlicher Kontrolle ist es für Hacker nahezu unmöglich, in dieses System einzudringen. Das Vertrauen entsteht also nicht durch die privilegierte Beziehung zwischen einzelnen Parteien oder durch einen Vermittler wie eine Bank, sondern durch die Technologie und den Prozess des Vergleichs im Netz.

Vertrauen, so spinnt Latzer den zuvor begonnenen Gedankengang weiter fort, resultiere aus Wissen und Nichtwissen. Nichtwissen sei blinder Glaube. Durch die Algorithmisierung steige der Anteil des «Glaubens» stark an, denn die algorithmischen Entscheidungen, vor allem der KI, seien für die Nutzer, ja sogar für die Entwickler und Anbieter, nicht mehr voll durchschaubar. Das trifft wohl ebenso für die meisten Nutzer der Blockchain-Technologie zu, denn die wenigsten sind – technisch und/oder intellektuell – in der Lage, die beschriebenen Verifikationen nachzuvollziehen. Dass dies für Alltagstransaktionen der Fall ist, kann nicht überraschen, wenn man sich bewusstmacht, dass dieses Muster selbst in einem so professionellen Umfeld wie der mathematischen Forschung zu finden ist. Die Mathematik hat unter den Wissenschaften die einzigartige Stellung, dass in ihr jede Aussage durch eine rein logische Ableitung aus grundlegenden Axiomen gewonnen wird, was zu absoluter Gewissheit führt, was wahr und was falsch ist.[88] Theoretisch kann also jedes mathematische Resultat (Theorem) von jedem kundigen Mathematiker nachgeprüft werden.[89] Die Geschichte zum Beweis des sogenannten «Vier-Farben-Theorems» illustriert sehr anschaulich, dass diese schöne Vorstellung die heutige Realität nicht mehr abbildet. Das Problem wurde 1852 formuliert,[90] aber erst 1976 mathematisch korrekt bewiesen. Der veröffentlichte Beweis war mehr als 500 Seiten lang und stützte sich auf die Berechnungen von Computern, um rund 2’000 Spezialfälle zu prüfen. Viele zeitgenössische Mathematiker lehnten den Beweis ab, weil er unmöglich von Hand zu überprüfen war.[91]

Mittlerweile haben die Mathematiker Wege gefunden, die Unterstützung durch Algorithmen als Beweismethode in ihre Disziplin aufzunehmen. Bei Alltagsgeschäften scheint dies noch nicht zufriedenstellend zu gelingen. Ganz im Gegenteil erhält der Geist der Aufklärung, der die westliche Welt seit dem 17. Jh. massgeblich prägte, Latzer zufolge «digitalen Gegenwind». Rational begründete Fakten spielten oft nicht mehr eine starke Rolle, sondern würden durch den blinden Glauben an digitale Lösungen ersetzt, um ohne besseres Wissen Vertrauen in das System zu gewinnen. Deshalb spricht Latzer von einer «religionsartigen Digitalisierung», welche die These stützt, dass die Gesellschaft in einem allgemeinen – nicht aber theologischen – Sinn wieder «gläubiger» wird. Algorithmische Selektionen prägten immer mehr den menschlichen Alltag, meist nach völlig intransparenten Kriterien. Es bliebe oft gar nichts mehr anderes übrig, den Systemen blind zu vertrauen und nur daran zu glauben, dass die Entscheidungen schon gut sind. Das hat für Latzer etwas Orakelhaftes.[92] Man muss Latzer nicht dabei folgen zu sagen, dass der Glaube an die Richtigkeit göttlicher Entscheidungen durch den Glauben an die Richtigkeit algorithmischer Entscheidungen ersetzt oder ergänzt werde. Auf jeden Fall reduziert selbst ein blindes Vertrauen in das grundsätzliche Funktionieren neuer Technologien die Komplexität von Alltagsentscheidungen[93] und trägt so zur praktischen Verbreitung von KI-Systemen und ihrer Akzeptanz in der Gesellschaft bei. Etwas provokativ gesagt: Ohne blinden Fortschrittsglauben wird es die KI schwer haben, sich im Alltag durchzusetzen. Ohne das Wagnis des blinden Vertrauens im Einzelfall wird die Gesellschaft als Ganzes die Vorteile der KI nicht für sich gewinnen. Folglich scheint es seitens des Rechts im Grundsatz angebracht, den Einzelnen, der das Wagnis für sich eingeht, nicht die allfälligen Nachteile alleine tragen zu lassen. Nicht anders haben die Beamten der preussischen Staatsregierung gedacht, als sie 1838 die erste Kausalhaftung für den Betrieb einer Eisenbahn in das Gesetz einführten.[94]

Mathematische Grenzen der KI

Zu Beginn dieses Kapitels wurde eine intuitiv erfassbare Definition des Begriffs des Algorithmus eingeführt. Bereits in der Zeit von 1931 bis 1947 wurden im Rahmen der mathematischen Logik eine Reihe von Algorithmenbegriffen entwickelt, welche diese intuitive Definition präzisieren: Als wichtigste seien hier nur das von Jacques Herbrand,[95] Kurt Gödel[96] und Stephen Cole Kleene[97] entwickelte «Gleichungskalkül»[98] sowie die sogenannte «Turingmaschine» von Allan Turing[99] genannt.[100] Diese Algorithmenbegriffe können in dem Sinn als gleichwertig bezeichnet werden, dass sie sich durch dieselben zahlentheoretischen Funktionen berechnen lassen, die sogenannten rekursiven Funktionen. Die rekursiven Funktionen spielten für die Entwicklung der theoretischen Informatik nach dem Zweiten Weltkrieg eine tragende Rolle. Sie bilden die intuitive Definition des Algorithmus vollständig ab bzw. bestätigen ihre Tragfähigkeit und theoretische Relevanz (Churchsche Hypothese[101]).

Das Konzept der rekursiven Funktionen ist eng verknüpft mit der Vorstellung von der Entscheidbarkeit von Problemen. Ein Problem heisst entscheidbar oder lösbar, wenn es sich in ein berechenbares Problem übersetzen lässt. Eine zahlentheoretische Funktion f heisse berechenbar, wenn es einen Algorithmus gibt, der es gestattet, zu jedem Ausgangswert n (Input) den Wert f(n) (Output) zu berechnen. Bezeichne beispielsweise f(x, y) den grössten gemeinsamen Teiler von x und y, so ist diese Funktion mittels des Euklidischen Algorithmus berechenbar.[102] Die Klasse der rekursiven Funktionen wird von gewissen Anfangsfunktionen gebildet, die unmittelbar als berechenbar angesehen werden können sowie von solchen zusätzlichen Funktionen, welche aus den Anfangsfunktionen durch die (endlich wiederholte) Anwendung bestimmter vordefinierter Regeln gebildet oder abgeleitet werden können (deshalb rekursiv von selbstaufrufend, selbstbezogen). Diese Regeln sind so beschaffen, dass man für die erzeugten Funktionen sofort einen Algorithmus zur Berechnung der Funktionswerte angeben kann, wenn für die gegebenen Funktionen ein solcher Algorithmus vorliegt. Aufgrund der Churchschen Hypothese kann man vermuten, dass die Klasse der berechenbaren Funktionen mit der Klasse der rekursiven Funktionen übereinstimmt.[103]

Schon Leibniz hielt um 1690/1691 fest, dass das nicht schriftlich niedergelegte Wissen nach Menge und Bedeutung alles übertreffe, was in Büchern geschrieben stehe.[104] Ein Gesamtverzeichnis aller unter den Menschen schon anzutreffenden Wissenschaften anzulegen und neben der Theorie auch die Praxis nicht zu vernachlässigen, würde die Mitarbeit zahlreicher Personen verlangen, sodass man ein solches Projekt nicht ohne die (finanzielle) Unterstützung eines Fürsten an die Hand nehmen könnte.[105] Dennoch gab Leibniz nie sein Streben auf, nach einer Art «Generalwissenschaft» (scientia generalis) zu suchen.[106] In diesem Streben war er in seiner Zeit gewiss nicht allein, es lag gewissermassen in der Luft, sodass auch andere Wissenschaftler seiner Zeit, wie namentlich Christian Wolff,[107] ihm darin gleich waren. Wolff und andere bemühten sich, eine universale wissenschaftliche Methode zu entwickeln, den sogenannten mos geometricus, welcher das ganze menschliche Wissen mittels abstrakter Prinzipien und Schlussregeln zur Ableitung neuer Ergebnisse nach dem Vorbild der euklidischen Geometrie durchdringen und darstellen sollte.[108] Wolff entwickelte in der Tat eine beachtliche Energie, um so verschiedene Gebiete wie die Geometrie, die Jurisprudenz oder die Festungsbaukunst nach diesen Vorlagen in Lehrbüchern darzustellen und zu erklären.[109] Obwohl sich Wolff zum Ziel setzte, wirklich alle seine Ergebnisse stringent herzuleiten, und man diesen Versuch in einzelnen Fällen durchaus als gelungen ansehen kann, bleibt am Ende doch der Eindruck einer vor allem «äusseren» Bearbeitung des Stoffes, um ihn systematisch und dadurch in didaktisch wertvoller Weise darstellen zu können.[110] Leibniz ging in seiner Suche nach einer «Generalwissenschaft» einen Schritt weiter. Er erkannte nämlich die Macht der Zahl: «Schon seit den Zeiten des Pythagoras sind die Menschen davon überzeugt, dass die Zahlen die tiefsten Geheimnisse in sich bergen. […] Trotzdem hat bisher vielleicht noch niemand den wahren Grund dafür durchschaut, dass man jedem Gegenstand seine bestimmte charakteristische Zahl zuweisen kann.»[111] So war Leibniz wohl einer der Ersten, der versuchte, konkrete Probleme mit Hilfe von Zahlen darzustellen, sodass ihre Lösung durch Rechnen gefunden werden konnte. Konkret versuchte Leibniz, Aussagen durch 0-1-Folgen zu parametrisieren und somit die klassische Aussagenlogik vollständig zu formalisieren und von subjektiven Interpretationen zu befreien.[112] Es ging Leibniz dabei tatsächlich um die Entwicklung eines allgemeingültigen Kalküls, welches er «mathesis universalis» nannte, mit dessen Hilfe menschliche Gedanken bzw. Erkenntnisse wahrheitsgetreu und eindeutig wiedergegeben werden können.[113] Als zentrales Prinzip diente Leibniz das Prinzip des Widerspruchs oder der Identität, wonach eine Aussage nicht gleichzeitig wahr und falsch sein kann. Dieses Prinzip reiche aus, «um die ganze Arithmetik und die ganze Geometrie zu beweisen, d.h. alle mathematischen Prinzipien»[114]. Dieses Prinzip klingt im wahrsten Sinn «logisch» oder zumindest intuitiv einsehbar, ist aber mittlerweile überholt.

Trotz dieser ersten Anfänge sollte erst die Mathematik des 19. und 20. Jh. die Aufgabe einer konsequenten Formalisierung von gestellten Problemen lösen. Bezeichne nun L eine formalisierte elementare Sprache, welche zu diesem Zweck herangezogen werden kann. Weiter bezeichne S eine Menge von Formeln (d.h. von formalisierten Aussagen) A aus L. Dann gilt, dass jeder Ausdruck A aus S genau dann gültig ist, wenn sich A mit den Regeln von L aus den Formeln aus S ableiten lässt (anschaulich formuliert: Was sich nicht regelmässig begründen lässt, gilt nicht, auch wenn es interessant klingen mag).[115] Die Menge der aus S ableitbaren Aussagen werde mit S⊦ bezeichnet. Mit einer Kodierung Φ(L) wird eine Übersetzung von L verstanden, welche die Zeichenfolgen von L in einen Zahlbereich (z.B. den der natürlichen Zahlen 0, 1, 2, 3, …) überführt, sodass die Gültigkeit von Aussagen aus L in diesem Zahlbereich berechnet werden kann. Mit diesen Bezeichnungen ist eine Menge T aus L genau dann entscheidbar, wenn Φ(T⊦) rekursiv ist. Die Menge T heisst überdies axiomatisierbar, genau dann, wenn es eine entscheidbare Menge S aus L gibt, sodass S⊦ = T⊦. Das wohl bekannteste Beispiel einer entscheidbaren Theorie ist die euklidische Geometrie E. Sämtliche ihrer gültigen Aussagen lassen sich aus ihren fünf Axiomen ableiten: E = S⊦.

Mit diesen abstrakten Bezeichnungen erhielten die Ideen und Konzepte der Vergangenheit erst ihren exakten Sinn und konnten auf ihre Richtigkeit überprüft werden. So zeigte Kurt Gödel 1930, dass die allgemeingültigen Ausdrücke einer elementaren Sprache L axiomatisierbar, d.h. im traditionellen Sinn der ars inveniendi Leibnizens erzeugbar sind. Gödel zeigte aber auch, dass nicht alle mathematischen Theorien entscheidbar sind. Insbesondere konnte er zeigen, dass die elementare Zahlentheorie nicht axiomatisierbar ist: Es gibt keinen Algorithmus, mit dem sämtliche im Zahlbereich der natürlichen Zahlen 0, 1, 2, 3, … gelegenen Aussagen erzeugt werden können. Vielmehr gibt es eine unendliche Anzahl zahlentheoretischer Aussagen, die sich nicht durch eine endliche Menge von Schlussfolgerungen aus einer beliebigen endlichen Menge von Axiomen ableiten lassen.[116] Auch die Theorie der Gruppen[117] ist nicht entscheidbar, wohl aber die elementare Theorie der abelschen Gruppen als Teilgebiet oder Untertheorie der Theorie der Gruppen.[118] Vor diesem Hintergrund erscheinen Rechenmaschinen, welche das menschliche Gehirn ersetzen können, als nicht möglich. Denn jede Rechenmaschine baut sich auf Algorithmen auf und wie eben gezeigt, können Algorithmen nicht jedes beliebige Problem lösen. Ganz im Gegenteil: Mathematiker können immer neue Konzepte mit zugehörigen Aussagen erfinden oder entdecken. Die mathematische Wahrheit ist unendlich.

Zwischenfazit

Die Definition der KI nach dem Gesetz über KI stützt sich massgeblich auf die heute bekannten, in diesem Kapitel porträtierten mathematisch-statistischen Methoden. Nach den Überlegungen aus dem vorstehenden Abschnitt erscheint es nun naheliegend danach zu fragen, ob die KI Probleme lösen kann, die nicht algorithmisch lösbar sind. Eine intuitiv-naive Vorstellung der KI würde dies wohl geradezu erwarten. In der Tat geht die sogenannte These der starken KI davon aus, dass es Anwendungen oder Maschinen gibt, die im genuinen Sinn des Wortes mit Intelligenz, Bewusstsein und Autonomie ausgestattet sind.[119] Solange aber die KI auf algorithmisch lösbare Probleme beschränkt bleibt, in gewisser Weise also nur simuliert, wirklich intelligent zu sein,[120] stellt eine KI-Anwendung nicht viel mehr dar als eine besonders ausgeklügelte Rechenmaschine.[121]

In diesen Fällen wird sich die Frage nach der Haftung und Verantwortlichkeit für von der KI verursachte Fehler tendenziell wohl immer auf Fehler beim Design des der KI-Anwendung zugrundeliegenden Algorithmus oder beim Training der KI-Anwendung zurückführen lassen. M.a.W. wird sich immer ein Mensch finden lassen, dem die Verantwortlichkeit für die Fehler der KI-Anwendung zugerechnet werden kann, da er bei seiner Tätigkeit als Konstrukteur, Programmierer oder allenfalls gar Nutzer nicht die der Sache gebührende Sorgfalt beachtet hat. Wie die dabei gebührende Sorgfalt zu bestimmen oder zu beschreiben ist, bestimmt sich nach dem aktuellen Stand der Wissenschaft und Technik zur KI – der lege artis in Bezug auf die KI.

Im Haftpflichtrecht wird bei der Atomenergie die ionisierende Strahlung als charakteristisches Risiko[122] betrachtet. Wie in diesem Kapitel gezeigt, entsteht KI durch das Zusammenspiel mathematisch-statistischer Methoden und der Rechenleistung von Computern. Naturkräfte spielen bei der KI also keine direkte Rolle.

Bei der Haftung des Betreibers eines Eisenbahnbetriebs wird das charakteristische Risiko nicht in Naturkräften wie Feuer oder Gravitation gesehen. Vielmehr entsteht dieses Risiko durch das menschliche Verhalten, das sich diese Naturkräfte für den Transport grosser Massen zunutze macht. Ähnlich könnte man argumentieren, dass die Gefahren der KI ebenfalls durch menschliches Verhalten entstehen. Insbesondere könnte die Opazität der KI als solche Gefahr betrachtet werden, da sie zu verschiedenen Schäden und einem Vertrauensverlust bei den Nutzern führen könnte.

Opazität ist jedoch in vielen Bereichen des modernen Lebens präsent, ohne dass sie als charakteristisches Risiko im Haftpflichtrecht gilt. Wahrscheinlich bedarf es erst praktisch relevanter Anwendungen starker KI, um deren ausgeprägte Autonomie als charakteristisches Risiko zu identifizieren – vergleichbar mit der unberechenbaren Natur eines Tieres. Auf der Grundlage unserer Überlegungen aus den Kapiteln III bis V sind wir der Ansicht, dass erst die Existenz von starker KI die Rechtswissenschaft konzeptionell herausfordert.[123] Dies wollen wir im letzten Kapitel VI anhand einiger Beispiele nachprüfen und darlegen.

Vgl. Widmer Lüchinger, S. 5 mit Verweis auf Baeumle-Courth/Nieland/Schröder, S. 25. Die Liste mit Definitionen oder Beschreibungen des Begriffs des Algorithmus könnte beliebig verlängert werden. Wir präsentieren hier eine Charakterisierung aus der Mathematik. ↵

Reichhardt, S. 367. Der Fokus auf eine maschinelle Verarbeitung mag sich durch den zeitgenössischen technischen Optimismus dieses Lehrbuchs aus der DDR erklären. ↵

Le Cun, S. 24 mit Verweis auf https://de.wikipedia.org/wiki/Bubblesort (zuletzt besucht am 07.08.2025). Der Autor lernte das Prinzip 1991 im 1. Semester seines Mathematikstudiums kennen. ↵

Wie bei Reichhardt, S. 48 beschrieben, drückte man in der Anfangszeit der Mathematik Rechnungen, Lehrsätze und Formeln nur in Worten aus. Später, d.h. bereits bei den Griechen der Antike, wurden für die häufiger auftretenden Begriffe oder Objekte Abkürzungen gebräuchlich, etwa durch Buchstaben. So soll Diophant von Alexandrien (3. Jh. n. Chr.) unbekannte Variablen mit Buchstaben (a, b, c, …) bezeichnet haben. Sehr viel später verwendete der italienische Mathematiker Leonardo von Pisa, genannt Fibonacci (um 1170 bis 1240, auf ihn gehen die bekannten Fibonacci-Zahlen zurück), in grösserem Umfang Variablen, doch fehlten ihm noch die Symbole für die Rechenoperationen. Die Rechenzeichen + und - sollen erstmals 1489 im Rechenbuch des Johannes Widmann aus Eger aufgetreten sein. Der Punkt · als Zeichen für die Multiplikation und der Doppelpunkt : als Zeichen für die Division gehen auf Gottfried Wilhelm Leibniz (1646–1716) zurück. Das Gleichheitszeichen = wird dem walisischen Mediziner und Mathematiker Robert Recorde (1557) zugesprochen. ↵

Vgl. CR-IP-Dessemontet, Art. 2 N 57 : suite ordonnée d’instructions destinées à être utilisées par l’ordinateur pour parveneir à un certain résultat. ↵

Siehe auch Art. 21, 31 DSG. ↵

Botschaft DSG 2018, S. 7022. ↵

Zu den aktuellen Legaldefinitionen siehe Abschnitt V.3.1. ↵

Niederée/Nejdl, in: Ebers/Heinze/Krügel/Steinrötter, Rechtshandbuch, § 2 Rz 1, die gleich die Anschlussfrage nach der Definition von Intelligenz aufwerfen. ↵

Vortrag von Markus Christen, Geschäftsführer der Digital Society Initiative (DSI) der Universität Zürich am 10.11.2021, berichtet in: Graf/Obrecht, Rechtliche Rahmenbedingungen, S. 2. ↵

Bericht IDAG-KI, S. 6. ↵

Vortrag von Bettina Berendt, Professorin an der TU Berlin, berichtet in: Graf/Obrecht, Rechtliche Rahmenbedingungen, S. 4. ↵

Bericht IDAG KI, S. 7. ↵

Bericht IDAG KI, S. 8. ↵

Angeblich erstmals von John McCarthy im Rahmen eines Forschungsseminars im Jahre 1956 am Dartmouth College in den USA verwendet (https://home.dartmouth.edu/about/artificial-intelligence-ai-coined-dartmouth, zuletzt besucht am 07.08.2025). ↵

So auch die Präambel 1 der Richtlinie über KI-Haftung. ↵

Pohle, S. 371. ↵

Le Cun, S. 22. ↵

Art. 3 Nr. 1 des Gesetzes über KI. Anhang I nennt das maschinelle Lernen, Logik und wissensgestützte Konzepte sowie statistische u.ä. Ansätze. Für Wagner, Richtlinie über KI-Haftung, S. 123 f. ist dieser Begriff «extrem» weit gefasst, sodass praktisch jede «einigermassen anspruchsvolle Software» darunterfalle. Diese und weitere Kritik in Presse und Schrifttum führte wohl dazu, dass die Definition im Zuge der Beratungen angepasst wurde: Demnach ist ein KI-System «ein maschinengestütztes System, das für einen in unterschiedlichem Grade autonomen Betrieb ausgelegt ist und das nach seiner Betriebsaufnahme anpassungsfähig sein kann und das aus den erhaltenen Eingaben für explizite oder implizite Ziele ableitet, wie Ausgaben wie etwa Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erstellt werden, die physische oder virtuelle Umgebungen beeinflussen können». Diese neue Definition ist m.E. keine Verbesserung. (Überdies handelt es sich ganz offensichtlich um eine wenig geglückte Übersetzung aus dem Englischen, was u.a. die Verwendung des Worts «Ausgaben» für «Ergebnisse» anzeigt.) Die Qualifizierung als «maschinengestütztes System» erscheint mir nicht selbsterklärend. Präambel 12 stellt klar, dass sich die Bezeichnung «maschinenbasiert» auf die Tatsache bezieht, dass KI-Systeme von Maschinen betrieben werden. Ohne Software wird es jedoch nicht gehen. Ausserdem versteht die Maschinenrichtlinie unter einer Maschine eine mit einem «Antriebssystem» ausgestattete Gesamtheit aus Teilen oder Vorrichtungen. Die neue Definition des KI-Systems passt also besser auf Roboter als auf Chatbots oder ähnliche, aktuell im Vordergrund der öffentlichen Debatte stehende Anwendungen. ↵

COM(2018) 237 final. ↵

Dies scheint Präambel 97 im Gesetz über KI anzudeuten, wenn davon gesprochen wird, dass KI-Modelle mit weiteren Komponenten zu einem KI-System erweitert werden können. Der Begriff des KI-Modells kam erst im Zuge der Beratungen ins Gesetz, allerdings ohne definiert zu werden. ↵

Misselhorn, Robots as Moral Agents, S. 43. ↵

Loh, S. 17. Anders als von Loh vertreten, schliesst Misselhorns Definition ferngesteuerte Drohnen wohl nicht unbedingt aus. ↵

Vgl. Loh, S. 17. ↵

HEG-KI, aktualisierte Definition von 2018. ↵

Dies erinnert an die Beschreibung des Profiling im Sinne von Art. 4(4) DSGVO in Article 29 Data Protection Working Party, WP251rev.01, Automated individual decision-making and Profiling for the purposes of Regulation 2016/679, S. 7: «profiling may involve three distinct stages: data collection; automated analysis to identify correlations; applying the correlation to an individual to identify characteristics of present or future behaviour». ↵

Siehe dazu sogleich in Abschnitt V.3.2. ↵

Braun Binder/Burri/Lohmann/Simmler/Thouvenin/Vokinger, Rz 3. ↵

Carl Friedrich Gauss (1977–1855), deutscher Mathematiker und Naturwissenschaftler. ↵

Adrien-Marie Legendre (1752–1833), französischer Mathematiker. ↵

Stigler, S. 465–474. ↵

Benannt nach Siméon Denis Poisson (1781–1840), französischer Mathematiker und Physiker. ↵

McCullagh/Nelder. ↵

Beispiel nach McCullagh/Nelder, S. 25. ↵

Zur Minimisierung des Fehlers siehe auch Le Cun, S. 85 ff. und S. 124 ff. ↵

McCullagh/Nelder, S. 27. ↵

McCullagh/Nelder, S. 7, 23. Die Schätzung der Parameter ist vergleichbar mit der Optimierung einer Nutzenfunktion in der Ökonometrie. ↵

Vgl. Le Cun, S. 146 ff. ↵

McCullagh/Nelder, S. 8. ↵

McCullagh/Nelder, S. 8. ↵

McCullagh/Nelder, S. 21. ↵

Le Cun, S. 22 f. mit Verweis auf Alan Turing, Computing machinery and intelligence, Mind, 1950, vol. 59, no. 236. ↵

Niederée/Nejdl, in: Ebers/Heinze/Krügel/Steinrötter, Rechtshandbuch, § 2 Rz 21; Thore Graepel, Jetzt wird die Künstliche Intelligenz vom Rivalen zum Mitstreiter, FAZ vom 23.08.2021. ↵

Jakob Merane/Alexander Stremitzer, Künstliche Intelligenz – Rechtliche Leitplanken und neue Haftungsrisiken, Recht relevant für Verwaltungsräte 6/2020, S.5–7, S. 7; Lars. A. Ludwig/Ruedi Becker, Die Vorstellung von KI ist oft völlig falsch, RR-COMP 3/2021 S. 13–14; zur Anwendung von ML bei selbstfahrenden Autos Melinda Lohmann/Markus Müller-Chen, Selbstlernende Fahrzeuge – eine Haftungsanalyse, SZW 2017 S. 48 ff. ↵

CFA Institute, Refresher Reading, Level II, Reading 7, Quantitative Methods. ↵

CFA Institute, Machine Learning, S. 3; zum Deep Learning als Weiterentwicklung neuronaler Netze siehe Niederrée/Nejdl, in: Ebers/Heinze/Krügel/Steinrötter, Rechtshandbuch, § 2 Rz 56 ff. ↵

HEG-KI, Definitionen KI, S. 4. Das Papier beschreibt nur das überwachte Lernen und das bestärkende Lernen sowie Deep Learning und neuronale Netze. ↵

CFA Institute, Machine Learning, S. 3. ↵

HEG-KI, Definitionen KI, S. 4; siehe Le Cun, S. 107 f. ↵

CFA Institute, Machine Learning, S. 4. ↵

CFA Institute, Machine Learning, S. 4. ↵

CFA Institute, Machine Learning, S. 5. ↵

CFA Institute, Machine Learning, S. 33. ↵

Siehe Abschnitt V.3.2. ↵

HEG-KI, Definitionen KI, S. 5; Mitteilung der Kommission, 2018, S. 12; zum Aufbau von Modellen des «tiefen Lernens» siehe Le Cun, S. 167 ff. ↵

Thore Graepel, Jetzt wird die Künstliche Intelligenz vom Rivalen zum Mitstreiter, FAZ vom 23.08.2021. ↵

Thore Graepel, Jetzt wird die Künstliche Intelligenz vom Rivalen zum Mitstreiter, FAZ vom 23.08.2021. ↵

HEG-KI, Definitionen KI, S. 5. ↵

Lee Sedol (geb. 1983), südkoreanischer professioneller Go-Spieler. ↵

Thore Graepel, Jetzt wird die Künstliche Intelligenz vom Rivalen zum Mitstreiter, FAZ vom 23.08.2021. ↵

Zur Anschauung wie Roboter z.B. die chemische Forschung im Labor beschleunigen können siehe Frauke Zbikowski, in FAZ vom 10.02.2024: In einer Woche, wofür ein Doktorand ein paar Monate lang forscht. Der Artikel nimmt Bezug auf Beiträge aus dem Forschungsmagazin «Science» zu einem in Amsterdam entwickelten und eingesetzten Roboter namens «RoboChem». ↵

Im zitierten FAZ-Artikel werden neben RoboChem auch «Pipettierroboter» beschrieben, welche präzise definierte Mengen von Substanzen zusammenschütten oder verdünnen und diese Arbeit rund um die Uhr verrichten. Während RoboChem als Juniorforscher arbeitet, kümmern sich diese Roboter um die (langweilige) Routinearbeit. ↵

A.a.O. ↵

Braun Binder/Burri/Lohmann/Thouvenin/Vokinger, Rz 44; zur Prüfung von selbstlernenden Algorithmen aus Sicht des Revisors siehe Kündig, S. 198–201. ↵

Siehe Art. 6(1)(a) des Gesetzes über KI. ↵

Siehe Abschnitt V.2.2. ↵

HEG-KI, Definitionen KI, S. 3. ↵

Winkler, Julians Digesten, S. 245 ff. ↵

Winkler, Julians Digesten, S. 248 ff. ↵

Berichtet von Cicero in seiner Topik, 56. ↵

Winkler, Julians Digesten, S. 15 ff. m.w.H. ↵

Statt vieler siehe Joerden, S. 1; sehr bestimmt in diesem Sinne auch Larenz/Canaris, S. 8 und vor allem S. 114 und S. 126, wo es um das Begründen geht, welches ohne Werturteile oder zumindest ohne «einsichtig zu machende Erwägungen» nicht auskomme. ↵

Siehe vereinfacht das Beispiel 1 in Kapitel VI mit einem selbstfahrenden Fahrzeug. Der Sachverhalt ist abgeleitet aus einem Unfall zwischen einer Kutsche und einer Fahrradfahrerin mit Kinderanhängewagen, beurteilt in BGer 4A_25/2021. ↵

Siehe Abschnitt VI.3.2. ↵

Z.B. dieses beeindruckende Video von Boston Dynamics (2023), welches einen Roboter mit Namen «Atlas» als «Hilfsarbeiter» auf einer Baustelle zeigt: https://www.youtube.com/watch?v=-e1_QhJ1EhQ (zuletzt besucht am 07.08.2025). ↵

Forschungsmagazin 3/2023 der MPG unter dem Titel «Roboter entdecken die Welt», S. 28 ff. ↵

Max-Planck-Institut für Intelligente Systeme in Tübingen. ↵

Von einem Bewusstsein wie in Abschnitt IV.2.2 angedeutet, ist noch nicht die Rede. ↵

Siehe Abschnitt IV.2.2. ↵

Zur Problematik der Intransparenz oder Opazität siehe Abschnitt VI.3.3. ↵

Vgl. Ratzinger, S. 12 ff. ↵

Roger Nickl, in: Dossier «Was wir glauben», UZHmagazin 1/23, S. 28 ff., S. 28. Nickls Beitrag «Beten mit Alexa» befasst sich mit der Frage, wie die digitale Technologie Glaube und Spiritualität verändert. Der Beitrag erwähnt u.a. den «Segensroboter» namens «BlessU-2», der anlässlich des deutschen Reformationsjubiläums 2017 zum «Einsatz» kam. Er wurde 2020 auch in der Stadtkirche Winterthur vorgestellt, siehe dazu https://reformiert.info/de/recherche/der-roboter-in-der-kirche-loest-eine-heftige-debatte-aus-19343.html (zuletzt besucht am 07.08.2025). ↵

Professor am Institut für Kommunikationswissenschaft und Medienforschung der Universität Zürich. ↵

Interview, in: Dossier «Was wir glauben», S. 30. ↵

Interview, in: Dossier «Was wir glauben», S. 31, mit dem Hinweis, dass eine starke KI zwar nicht undenkbar, aber für den Moment noch nicht absehbar sei. ↵

Siehe Rolf H. Weber, DLT-Handelsplattformen, S. 9 f. ↵

Rolf H. Weber, DLT-Handelsplattformen, S. 47. ↵

Diese Aussage ist eine Vereinfachung! ↵

Deswegen sind in der mathematischen Forschung Preprints üblich. Resultate werden vor der Veröffentlichung in einem anerkannten Journal «open access» veröffentlicht, damit die Forschungsgemeinschaft die Resultate rezipieren und validieren kann. ↵

Das Theorem geht auf eine Vermutung von Francis Guthrie aus dem Jahr 1852 zurück, der eine Karte von England kolorieren wollte, wobei angrenzende Grafschaften niemals gleich eingefärbt sein sollten. Es war offensichtlich, dass dazu drei Farben nicht ausreichten, während man in keinem Beispiel einer konstruierten Landkarte deren fünf brauchte. Gonthier, S. 1382 berichtet schelmisch, dass die britische Royal Society zehn Jahre brauchte, um festzustellen, dass der erste «Beweis» des Theorems von 1879 falsch war. ↵

Siehe Gonthier, S. 1382 ff. m.w.H. Auch der Autor dieser Arbeit verwendete in den 90er Jahren einen Computeralgorithmus, um eine zentrale Behauptung in seiner mathematischen Dissertation auf ihre Plausibilität zu prüfen. Der formale Beweis musste dennoch erbracht werden. ↵

Interview, in: Dossier «Was wir glauben», S. 32. ↵

Interview, in: Dossier «Was wir glauben», S. 31. ↵

Siehe Abschnitt III.2.3. ↵

Jacques Herbrand, französischer Mathematiker (1908–1931). ↵

Kurt Gödel, österreichischer und US-amerikanischer Mathematiker (1906–1978). ↵

Stephen Cole Kleene, US-amerikanischer Mathematiker (1909–1994). ↵

Zum Gleichungskalkül von Herbrand-Gödel-Kleene siehe Felscher, S. 394 ff. ↵

Allan Turing, britischer Mathematiker (1912–1954). ↵

Reichhardt, S. 367; vgl. Le Cun, S. 29. Nach Haddadin/Knobbe, in: Ebers/Heinze/Krügel/Steinrötter, Rechtshandbuch, § 1 Rz 13 wurde der Begriff des Algorithmus durch Turings Arbeiten zum ersten Mal «mathematisch fassbar». Zwar hatte schon Leibniz in seiner Dissertation erste Versuche gemacht, gewisse aussagenlogische Probleme zu quantifizieren (siehe dazu Armgardt). Turing hat aber sicher die praktisch ausführbare Anwendung von Algorithmen begründet und befeuert. ↵

Nach dem US-amerikanischen Mathematiker Alonzo Church (1903–1995). ↵

Reichhardt, S. 47; Remmert, Elementare Zahlentheorie. ↵

Reichhardt, S. 368. ↵

Leibniz, S. 207. ↵

Leibniz, S. 209. ↵

Leibniz, S. 213. ↵

Christian Freiherr von Wolff (1679–1754), deutscher Universalgelehrter, Jurist und Mathematiker. ↵

Winkler, Harmonie, S. 187 ff. ↵

Siehe Abschnitt III.2.2. ↵

Siehe z.B. bei Gómez Tutor, Winiger oder bei Röd. ↵

Leibniz, Anfangsgründe, S. 43. ↵

Siehe Armgardt, System der «Doctrina conditionum». ↵

Leibniz, Elemente eines Kalküls, S. 73. ↵

Aus einem Brief von Leibniz an Samuel Clarke (1675–1729, englischer Philosoph und Theologe), Ende November 1715. ↵

Reichhardt, S. 361. ↵

Nagel/Newman, S. 109 ff. ↵

Gruppen sind Mengen, die mit einer Verknüpfung oder Gruppenoperation versehen sind, sodass sich aus zwei Elementen der Gruppe immer ein drittes Element bilden lässt: f(a, b) = c. Eine Gruppe heisst abelsch oder kommutativ, wenn die Verknüpfung zweier Elemente nicht von der Reihenfolge des Aufrufs dieser Elemente abhängt: f(a, b) = f(b, a). Als Beispiel einer abelschen Gruppe kann an die Menge der ganzen Zahlen mit der Addition gedacht werden. ↵

Reichhardt, S. 369 f. ↵

Siehe dazu bei Loh, S. 47, die auch auf die Arbeiten von A. Turing verweist. ↵

Schwache KI bei Loh, S. 47. ↵

Zu den Grenzen der Möglichkeiten der aktuellen KI im Umgang mit unvorhergesehenen Ereignissen und denkbaren Lösungsansätzen siehe Le Cun, S. 297 ff. ↵

Siehe Abschnitt III.2.3 zur Gefährdungshaftung. ↵

Zur Unterscheidung zwischen Algorithmen und KI und der daraus folgenden Sprachregelung siehe schon Abschnitt V.2.2. ↵

6

KI-Anwendungen im Deliktsrecht

Übersicht

In ihren Berichten zu den Herausforderungen der KI sprach die Europäische Kommission die neuen Sicherheitsrisiken an, die bei einer Verwendung von KI im Rahmen alltäglich eingesetzter Produkte und Dienstleistungen auftreten können.[1] Der technologische Fortschritt hat unsere Gesellschaft seit der Moderne immer wieder vor Herausforderungen gestellt. Mit Ebers ist aber doch im Aufkommen der KI ein «qualitative[r] Wandel der Technik» zu sehen, welcher ganz neue Probleme auslöst.[2] Dies birgt nicht nur die Gefahr, dass sich das Durchsetzen von Schadenersatzansprüchen «auf der Grundlage des nationalen Deliktsrechts» als «möglicherweise zu schwierig oder zu kostspielig» erweist.[3] Im Endeffekt könnte dieser mangelnde Schutz Geschädigter sogar die gesellschaftliche Akzeptanz dieser neuen Technologien beschädigen.[4]

In Kapitel II haben wir den aktuellen Stand des EU-Rechts zur KI vorgestellt. Das EU-Recht kann für die Mitgliedstaaten nur den allgemeinen Rahmen vorgeben. Die eigentlichen Lösungen zur ausservertraglichen Haftung für KI müssen im jeweiligen nationalen Recht umgesetzt werden. Für die Schweiz, die bekanntlich nicht Mitglied der EU ist, kann das EU-Recht nur als Anregung dienen. In Kapitel III haben wir die Grundlagen des aktuellen Schweizer Haftpflichtrechts präsentiert und erste Anknüpfungspunkte für die Behandlung von Schadenszenarien mit KI skizziert. Daran aufbauend besprechen wir zu Beginn dieses Kapitels ausgewählte dogmatische Probleme, wie sie spezifisch bei der Beantwortung deliktsrechtlicher Fragen beim Einsatz von KI-Anwendungen zu erwarten sind (Abschnitt 3). Die Auswahl dieser dogmatischen Probleme orientiert sich an den Darstellungen in den Berichten und im Weissbuch der Europäischen Kommission zur KI.[5] Im restlichen Teil dieses Kapitels beschreiben wir verschiedene, konkrete Schadensszenarien mit Beteiligung von KI und beurteilen diese nach den geltenden Haftungsnormen (Abschnitte 4–8). Die Szenarien stützen sich auf eine Typologie von Unfallszenarien (Abschnitt 4), welche die denkbaren Konstellationen des Zusammenwirkens von Menschen und künstlichen Akteuren (Algorithmen und vor allem Roboter) möglichst vollständig abdecken soll.[6] Bei der Besprechung der Unfallszenarien berücksichtigen wir die rechtsphilosophischen und technischen Erkenntnisse aus den Kapiteln IV und V. Das Kapitel endet mit einem Ausblick auf mögliche zukünftige Massnahmen des schweizerischen Gesetzgebers.

Der bestehende Haftungsrahmen

Im Schweizer Recht wird auch in Zukunft die Grundnorm von Art. 41 OR als Ausgangspunkt für die rechtliche Beurteilung von Schadensszenarien dienen. Danach ist klar, dass Delikte direkt oder indirekt immer durch Menschen begangen werden. Auf absehbare Zeit hin werden es immer noch Menschen sein, die eine KI-Anwendung (Algorithmus, stationäres Gerät, Roboter) einsetzen. Es ist also nicht primär die Technik, die gefährlich ist, sondern der Mensch, der sie nutzt.[7] Die KI-Anwendung kann als Werkzeug aufgefasst werden, welches von einem Menschen eingesetzt wird.[8] Dann gelten die üblichen deliktsrechtlichen Regeln.[9] Die Beurteilung des Verschuldens als Haftungsvoraussetzung war schon bisher nicht immer einfach; deshalb gibt es umfangreiche Kriterien in Rechtsprechung und Literatur, dieses Problem im Einzelfall zu lösen. Omlar erinnert daran, dass gerade für die verschiedenen Sondertatbestände wie die Tierhalterhaftung oder die Haftung des Aufsichtspflichtigen[10] eine Reihe von differenzierten Wertungen in Bezug auf abstraktes Risikoniveau, Steuerbarkeit durch den Verantwortlichen und Grad der Autonomie der Beteiligten entwickelt worden sind, die als Ausgangspunkt für ein «KI-Deliktsrecht» von Nutzen sein können.[11] Das ELI brachte in diesem Zusammenhang das Beispiel eines Unfalls mit einem selbstfahrenden Fahrzeug auf: Die Tatsache, dass ein Auto beteiligt war, sei offensichtlich und könne nicht einmal vom Beklagten widerlegt werden. Dies gelte unabhängig von der Technologie, die dieses Auto antreibt. Würde eine verschuldensunabhängige Haftung für eine neuartige Technologie eingeführt, so würde sie in der Regel auch an die blosse Auswirkung dieser Technologie auf die geschädigte Person oder den geschädigten Gegenstand anknüpfen und nicht an einen Fehler der Technologie, den das Opfer nachweisen muss.[12] Je komplexer und je grösser die Opazität einer KI-Anwendung bei gleichzeitig zunehmender Verbreitung im Alltag ausfällt, desto schwieriger dürfte es sein, das Verschulden des Nutzers zu begründen, sollte sich die KI-Anwendung «ungewöhnlich», d.h. in einer nicht vernünftigerweise vorhersehbaren Weise,[13] verhalten. Bei Algorithmen, die ja ohne physische Präsenz auskommen, ist eine direkte Schädigung eines Menschen oder einer Sache praktisch ausgeschlossen.[14] Für diese Schadenart braucht es einen Menschen als Mittler zwischen der digitalen und der analogen Umwelt.

Andererseits führt die Entwicklung hin zur Vollautomatisierung nach Lohmann dazu, dass Unfälle zunehmend auf Produktfehler zurückgeführt werden können.[15] Als eigentliches «Einfallstor» für die Haftung von KI-Anwendungen sehen deshalb viele Autoren die Produkthaftung.[16] Dass ein Roboter unter geltendem Recht als «Produkt» qualifiziert wird, scheint recht klar. Gleiches gilt für andere, stationäre Geräte, welche durch Algorithmen gesteuert werden. Nicht als Produkt klassifiziert wird jedoch der Algorithmus selbst. Die Produkteigenschaft muss vielmehr der Software zugesprochen werden,[17] welche den Algorithmus implementiert. Bei der Produkthaftung darf im Übrigen nicht vergessen werden, dass sie nur Konsumenten schützt. Als umfassende Haftungsnorm, die auch gewerbliche Geschädigte schützt, taugt sie somit (ohne erneuten gesetzgeberischen Eingriff) nicht.[18]

Wer nach neuen Haftungsregelungen wie der angeführten «Roboterhaftung» ruft, möge bedenken, dass es bereits heute verschiedene Gefährdungshaftungen gibt, die in umfassender Weise die charakteristischen Risiken bestimmter Tätigkeiten abdecken. Dieser Gedanke findet sich auch bei Eichelberger, wonach die bestehenden Gefährdungshaftungen nicht an KI-spezifische Risiken («Intelligenzrisiken») anknüpfen, sondern an die besondere Gefährlichkeit des Einsatzbereichs. Die besonderen Risiken von KI-Systemen werden insoweit haftpflichtrechtlich nur mittelbar erfasst. Es ist aber zu prüfen, ob sich auf diese Weise nicht viele der mit den in der Einleitung genannten KI-Anwendungen verbundenen Risiken bereits heute zumindest teilweise abdecken lassen: Roboter als Taxifahrer über die Halterhaftung (Art. 58 SVG), Roboter als Bauarbeiter über die Werkeigentümerhaftung (Art. 58 OR) oder die Grundeigentümerhaftung (Art. 679/679a ZGB). Je nach Umfeld, in dem die Roboter sich bewegen, können weitere spezialgesetzliche Haftungsregelungen wie die Eisenbahnbetriebshaftung (Art. 40b EBG) oder die Haftung für Rohrleitungen (Art. 33 RLG) zur Anwendung kommen. Haftungslücken können sich hingegen in nicht spezialgesetzlich regulierten Bereichen ergeben, etwa, wenn ein Roboter als Pflegeassistent, Lagerist oder Hotelportier eingesetzt wird. Hier lehnt Eichelberger eine analoge Anwendung der Gefährdungshaftungen auf KI-Systeme ab. Soweit notwendig, müsste hier der Gesetzgeber korrigierend eingreifen. Im EU-Recht hätte die Umsetzung der Richtlinie über KI-Haftung vorderhand für eine gewisse Abhilfe bei der Anwendung der verschuldensabhängigen Haftung sorgen sollen.[19] Auch Wildhaber sieht angesichts der bestehenden sektorspezifischen Regelungen, die ohnehin meist technologieneutral ausgestaltet sind, für ein horizontales Haftungsregime für KI keinen grossen Anwendungsbereich. Es sei für die Schweiz sinnvoller, die sektorspezifischen Vorschriften zu aktualisieren, um so «die Kohärenz des geltenden Haftpflichtrechts zu bewahren».[20]

Dogmatische Probleme mit KI-Anwendungen

Das Scharnier ins nationale Recht

In der Schlussfolgerung zu ihrem Bericht über die Auswirkungen künstlicher Intelligenz, des Internets der Dinge und der Robotik in Hinblick auf Sicherheit und Haftung hält die EU-Kommission fest, dass die bestehenden Haftungsregelungen der Union und der Mitgliedstaaten «grundsätzlich» auch für die neu entstehenden digitalen Technologien («emerging digital technologies») geeignet seien.[21] Mit Blick auf die unionsrechtlichen Vorschriften zu Produktsicherheit und Produkthaftung ist zu beachten, dass diese Vorschriften durch die nicht harmonisierten zivilrechtlichen Haftungsnormen auf nationaler Ebene ergänzt werden müssen.[22] Deshalb erscheint es sinnvoll, dass der Bericht eine Reihe von dogmatischen Herausforderungen bei der Anwendung der nationalen Haftungsnormen streift und auf deren Grenzen hinweist. Diese Grenzen können im Einzelfall dazu führen, dass die durch eine KI-Anwendung geschädigten Personen nicht ausreichend oder überhaupt nicht entschädigt werden. Im Bericht wird namentlich die Frage thematisiert, «wie das Konzept des Verschuldens auf durch künstliche Intelligenz verursachte Schäden anzuwenden wäre».[23] Ferner wirft die Kommission auf, dass die Angemessenheit der bestehenden Haftungsregelungen fragwürdig sein könne, insbesondere wenn man bedenke, dass diese Vorschriften vor Jahrzehnten oder sogar Jahrhunderten formuliert worden seien, auf noch älteren Konzepten basierten und ein primär anthropozentrisches und monokausales Modell der Schadenszufügung zum Ausgangspunkt hätten.[24] Ziel eines technologieneutralen Haftungsrahmens muss es sein, dass es für die geschädigte Person nicht darauf ankommt, ob sie von einem menschlichen Mitarbeiter oder von einem Roboter verletzt wurde. Die Opazität des Steuerungsalgorithmus einer KI-Anwendung darf nicht zu unüberwindlichen Beweisproblemen für die geschädigte Person im Prozess führen.

Diese Ausführungen können in ihrem Kern für die Betrachtungen unter dem Schweizer Recht übernommen werden, welchem im europarechtlichen Konzept die Rolle des nationalen Rechts zukäme.[25] Am Ausgangspunkt des Normengeflechts steht die Grundnorm von Art. 41 ff. OR.[26] Nach dieser Norm wird der Einsatz einer KI-Anwendung als Einsatz eines Werkzeugs durch einen Menschen beurteilt. Vor allem bei mechanischen Werkzeugen sind das ordnungsgemässe Funktionieren des Werkzeugs und das erwartete Ergebnis bekannt. Ein sorgfältiger Einsatz des Werkzeugs ist deshalb in seinen Einzelheiten meist recht leicht zu ermitteln. Demgegenüber bringen die neuen digitalen Technologien dieses herkömmliche Bild ins Wanken. Wie die EU-Kommission in ihrem Bericht darlegt, liegt dies einerseits an ihrer schnellen Entwicklung, andererseits an den in Kapitel I beschriebenen charakteristischen Merkmalen (Undurchsichtigkeit, Offenheit, Autonomie und begrenzte Vorhersagbarkeit). Dadurch wird die Beurteilung der verschuldensabhängigen Haftung zwar nicht verunmöglicht. Die Beurteilung wird jedoch komplexer und bietet eigene Herausforderungen auf zwei Ebenen:[27] Auf einer strukturellen Ebene kann die Autonomie und Selbstlernfähigkeit der Technologie zu einer Unterbrechung des Kausalzusammenhangs zwischen dem Verhalten des Akteurs und dem Schaden führen. Nach Ansicht der EU-Kommission könnte dieses Problem dadurch gelöst werden, dass alle Auswirkungen der neuen digitalen Technologie ihrem Anwender als verantwortlicher Person zugerechnet werden.[28] Ausserhalb des Anwendungsbereichs der (für das Schweizer Recht noch zu überarbeitenden) Produkthaftung wäre hierzu eine entsprechende, ausdrücklich formulierte Zurechnungsnorm erforderlich, die im aktuellen Schweizer Recht noch fehlt. Ansonsten bleibt der geschädigten Person der Rückgriff auf die verschuldensabhängige Haftung. Auf der verfahrensrechtlichen Ebene der Tatsachenfeststellung ist dort zu befürchten, dass die Tatsachen, von denen die Haftung abhängt, unter Umständen schwer zu ermitteln und dem Gericht mitzuteilen sind.[29] Im EU-Recht greifen hier die neuen beweisrechtlichen Bestimmungen der Richtlinie über KI-Haftung ein. Auch hier besteht für das Schweizer Recht Anpassungsbedarf. Soll der Anwender in die Pflicht genommen werden, ist mit Beck et al. gleichzeitig darauf zu achten, dass nicht blosse Erfüllungsgehilfen (wie etwa das Pflegepersonal für Pflegeroboter) als «Bauernopfer» oder «Haftungsknechte» herangezogen werden.[30] Haften sollen in erster Linie die Wirtschaftsakteure, die den wirtschaftlichen Vorteil aus dem Einsatz von KI-Anwendungen ziehen. Haftungslücken, die dazu führen, dass trotz massiver Schäden niemand verantwortlich gemacht werden kann, sind dabei zu vermeiden. Dies würde einerseits falsche Anreize setzen; andererseits könnte im Gegenzug das Misstrauen gegenüber neuen Technologien in der breiten Gesellschaft zunehmen.[31]

Schaden

Ein grundlegendes Problem im Deliktsrecht betrifft die Frage nach dem ersatzfähigen Schaden. Es geht dabei namentlich um die Frage nach dem Ersatz eines reinen Vermögensschadens, aber auch von Datenverlusten oder von Persönlichkeitsverletzungen.[32] Es handelt sich keineswegs um ein Problem, das typisch für KI-Anwendungen wäre.[33] Es tritt in der digitalen Welt nur akzentuierter auf. Es liegt in der Natur der Sache, dass in der digitalen Welt die typischen Schäden häufig mit Datenverlusten zusammenhängen oder anderweitig aus Eingriffen ins Vermögen resultieren. Es ist deshalb zu erwarten, dass die neuen Technologien zunehmend rechtlich geschützte Interessen immaterieller Art schädigen.[34] In Bezug auf immaterielle Schäden muss geprüft werden, «ob und inwieweit der aktuelle Rechtsrahmen für Sicherheit und Haftung noch geeignet ist, den Nutzer zu schützen».[35]. Dies gilt in besonderem Masse für Algorithmen, denen eine physische Präsenz abgeht. Dass Algorithmen unmittelbar Personen- und Sachschäden verursachen, erscheint als wenig wahrscheinlich, solange sie nicht in eine Maschine wie ein selbstfahrendes Auto eingebaut sind oder dazu dienen, einen Roboter zu steuern, der mit Menschen interagiert und mit Sachen hantiert. Um diese Umstände für die rechtliche Diskussion systematisch zu erfassen und aufzuarbeiten, wird in Abschnitt 4 eine Typologie der Unfallszenarien im Zusammenhang mit Algorithmen und Robotern versucht.

Davon abgesehen führt der Einsatz von KI-Anwendungen zu keinen fundamental neuen Herausforderungen. So bleiben die Schadensarten (materiell/immateriell) die gleichen. Ebenso stellen sich weiterhin die gleichen Probleme bei der Schadensberechnung, etwa, wenn es sich um hypothetische Kausalverläufe handelt.[36] Vielmehr lässt sich aus der grundsätzlichen Betrachtung des Schadens und seiner Regulierung als Wechselspiel der finanziellen Interessen der Beteiligten ein Grundprinzip des Deliktsrechts bestätigen: Mit der EU-Kommission ist nämlich festzuhalten, dass der Schaden als Voraussetzung für die Haftung ein flexibles Konzept ist: Die in Frage stehenden Interessen können mehr oder weniger bedeutend sein und das Ausmass der Schädigung kann variieren. Diese Einschätzung kann Auswirkungen auf die Gesamtbeurteilung haben, ob ein Schadensersatzanspruch im Einzelfall gerechtfertigt erscheint oder nicht.[37] Auf dieses Argument kann wiederum der Gesetzgeber eine Motivation für neue Regelungen für KI-Anwendungen aufsetzen. Wie schon bei der Produkthaftung findet sich hier der Leitgedanke, dass mit zunehmender Entwicklung möglicherweise nur eine verschuldensunabhängige Haftung des Herstellers der neuen Technologie das Problem einer gerechten Zuweisung der Risiken, die mit der modernen technischen Produktion verbunden sind, in sachgerechter Weise zu lösen vermag.[38]

Kausalität

Das Vorliegen einer ausreichenden Nähe oder Verbindung zwischen dem Eintritt des Schadens beim Geschädigten und der Risikosphäre des Schädigers ist eine weitere wesentliche Voraussetzung für jede Haftung.[39]

In der Regel muss die geschädigte Person beweisen, dass der von ihr erlittene Schaden durch ein Verhalten verursacht wurde, das dem Beklagten als Verursacher zuzurechnen ist. Nach den allgemeinen Prinzipien liegt die Beweislast im zivilrechtlichen Verfahren grundsätzlich bei der Klägerin. Auch dies ist kein neues Problem und kann bereits in der «analogen Welt» schwierig genug sein. Bei neuen Technologien in der «digitalen Welt» sind die relevanten Zusammenhänge häufig nicht direkt einsehbar und können selbst für Experten oder gar die an der Entwicklung einer KI-Anwendung direkt Beteiligten nicht leicht nachvollziehbar sein.[40] Man spricht hier gerne vom Problem der Opazität (Intransparenz) oder dem «Blackbox»-Effekt[41]. Bei Software braucht es vertiefte technische Kenntnisse, um die Funktionsweise der Anwendung zu verstehen und um allfällige Fehler eruieren zu können. Eine weitere Verschärfung des Problems stellen Updates der Software dar, insbesondere, wenn die Updates nicht vom ursprünglichen Hersteller stammen sollten.[42] Noch weiter verschärft wird das Problem bei selbstlernenden Algorithmen, bei denen die Kriterien, die einer falschen Entscheidung möglicherweise zugrunde lagen, erst im Verlauf des realen Einsatzes der KI-Anwendung von dieser autonom entwickelt worden sind.[43] Weiter kann die Fehlerursache auch in den Daten zu finden sein, welche den Algorithmus trainiert haben, und die aus verschiedenen Quellen stammen können.[44] Hier kommt hinzu, dass KI-Systeme grundsätzlich mit Korrelationen arbeiten, welche sie in den Inputdaten identifizieren und aus denen sie Kausalitäten bloss induzieren.[45] Im Rahmen des probabilistischen Schliessens besteht die Gefahr, dass aus zufälligen Übereinstimmungen zwischen Daten scheinbare Kausalitäten abgeleitet werden, die wiederum zu falschen Schlüssen führen können.[46]

Das Prozessrisiko für die geschädigte Person wird erhöht, wenn ihr der Nachweis der Kausalität trotz teurer Gutachten nicht gelingen sollte. Um dieses Risiko zu vermindern und die Interessen der beteiligten Personen auszugleichen, hätte die neue Richtlinie über KI-Haftung vorgesehen, in ihrem sachlichen Anwendungsbereich gewisse Beweiserleichterungen zugunsten der Klägerin anzubieten.[47] So sah Art. 4 Abs. 1 im Richtlinienvorschlag eine gezielte widerlegbare Vermutung für den Kausalzusammenhang vor. Diese Kausalitätsvermutung sollte jedoch nur dann zulässig sein, «wenn es als wahrscheinlich angesehen werden kann, dass das betreffende Verschulden das einschlägige Ergebnis des KI-Systems oder das Fehlen desselben beeinflusst hat, was auf der Grundlage der Gesamtumstände des Falles beurteilt werden kann».[48] Diese Vermutung hätte nichts daran geändert, dass die Klägerin beweisen muss, dass das KI-System (d. h. sein Ergebnis oder das Fehlen eines Ergebnisses) den von ihr erlittenen Schaden tatsächlich verursacht hat (Art. 4 Abs. 1 Bst. c). Ferner müsste entweder die Klägerin das Verschulden des Beklagten nachgewiesen haben oder das Gericht müsste dieses auf der Grundlage von Art. 3 Abs. 5 vermuten (Art. 4 Abs. 1 Bst. a). Steht ein Hochrisiko-KI-System im Verdacht, einen Schaden verursacht zu haben, sah Art. 3 des Richtlinienvorschlags zudem Vorschriften über die Offenlegung von Beweismitteln vor, die es der Klägerin erlauben sollten, ihren Schadenersatzanspruch plausibel zu machen oder zu belegen. Zu diesen Beweismitteln hätten namentlich die technische Dokumentation und die Protokollierung, d.h. die Aufzeichnung von Vorgängen und Ereignissen zur Überwachung des Betriebs des fraglichen KI-Systems, gehört.

Bei selbstlernenden Algorithmen, die sich autonom weiterentwickeln, stellt sich sodann die Frage, ab welchem Grad der Autonomie von einem Unterbruch des Kausalzusammenhangs gesprochen werden kann oder muss.[49] Dies lässt sich besonders deutlich bei der klassischen Haftungsgrundlage nach Art. 41 ff. OR illustrieren, bei der die KI-Anwendung als Werkzeug aufgefasst wird, welches von einem Nutzer ausgewählt und eingesetzt wird. Der Einsatz von neuen Technologien «verlängert» gewissermassen die Kausalkette. Die Rechtsgutverletzung wird nicht direkt durch eine Handlung des beteiligten menschlichen Akteurs herbeigeführt, sondern erfolgt mittelbar durch die KI-Anwendung. Am Beispiel eines Rasenmähroboters wird deutlich, dass dies sogar in Abwesenheit des menschlichen Akteurs geschehen kann. Das «Smart Product» handelt autonom, ohne dass zunächst eine menschliche Handlung erkennbar ist.[50] Kann der Nutzer nicht mehr oder nicht mehr als einziger verantwortlich gemacht werden und kommt der KI-Anwendung (noch) keine eigene Rechtspersönlichkeit zu, muss nach einer Gefährdungshaftung gesucht werden, deren Anwendungsbereich gross genug ist, um auch diesen zweiten, neu hinzutretenden Kausalverlauf mit abzudecken.[51]

In ihrem Bericht aus dem Jahr 2019 rundete die HEG-KI ihre Ausführungen zu dogmatischen und verfahrensrechtlichen Problemen bei der Kausalität mit einer kurzen Übersicht zu den unterschiedlichen Lösungsansätzen im nationalen Recht der Mitgliedstaaten ab. Das bestehende nationale Recht kenne zwei klassische Antworten auf Fälle der alternativen Verursachung, in denen unklar bleibt, welche von mehreren möglichen Ursachen den entscheidenden Einfluss auf die Auslösung des Schadens hat: Entweder haftet niemand (da die Beweise des Geschädigten nicht ausreichen, um die Kausalität einer Ursache zu beweisen). Oder alle beteiligten Akteure haften gesamtschuldnerisch. Das erste Ergebnis sei für die geschädigte Person unerwünscht. Das zweite Ergebnis sei vor allem für jene Akteure nachteilig, die zwar tatsächlich keinen Schaden verursacht haben, die aber aufgrund ihrer prozessualen Verfügbarkeit (Sitz im selben Staat wie die Klägerin) oder ihrer vielversprechenderen finanziellen Möglichkeiten («deep pockets») ein attraktives Ziel für Klagen auf Schadenersatz darstellen. Das Problem, wer den fraglichen Schaden wirklich verursacht hat, werde daher häufig nicht in der ersten Runde des von der geschädigten Person angestrengten Rechtsstreits gelöst, sondern auf der Ebene der Auseinandersetzung zwischen den tatsächlichen oder vermeintlichen Schädigern.[52] Interessant erscheint der Hinweis auf erste weiterführende Ansätze, die in einigen Fällen eine verhältnismässige Haftung vorsehen würden. Dabei werde der Anspruch der geschädigten Person gegen jeden potenziellen Schädiger auf eine Quote reduziert, die der Wahrscheinlichkeit entspricht, dass jeder von ihnen den fraglichen Schaden tatsächlich verursacht hat.[53]

Widerrechtlichkeit und Verschulden

Wie die HEG-KI anmerkt, ist das europäische Deliktsrecht traditionell verschuldensbasiert ausgestaltet, sodass das Verschulden üblicherweise an ein Abweichen des Schädigers von einem sozial erwarteten Verhalten geknüpft wird. Ganz unabhängig von weiteren dogmatischen Feinheiten in der Ausgestaltung der Haftungsnormen ist es deshalb in jedem Fall zentral, die geforderte Sorgfaltspflicht zu bestimmen und zu untersuchen, wie der Schädiger ihr nachgekommen ist. Sorgfaltspflichten sind sodann entweder im gesetzten Recht enthalten oder werden vom Gericht fallweise auf der Grundlage der gesellschaftlichen Erwartungen entwickelt. Die neuen digitalen Technologien erschweren die Anwendung dieser eingespielten, verschuldensabhängigen Haftungsregeln, wofür die HEG-KI gleich mehrere Gründe ausmachte.[54]

Der erste Grund betrifft in seinem Kern das Konzept des Verschuldens an sich: Die in KI-Anwendungen ablaufenden Prozesse könnten nicht alle an den für menschliches Verhalten vorgesehenen Sorgfaltspflichten gemessen werden, zumindest nicht ohne Anpassungen, die einer weiteren Rechtfertigung bedürfen würden.[55] Ohne dies weiter zu vertiefen, spricht die HEG-KI damit den Umstand an, dass die herkömmlichen Haftungsregeln auf ein anthropozentrisches Weltbild aufbauen. In der traditionellen Vorstellung der Verantwortung, wie sie sich im «Urbild» nach Jonas widerspiegelt, ist der Mensch der Massstab.[56] Wenn Omlar schreibt, dass das «Verschulden als Zurechnungsgrund auf der Willensfreiheit der Menschen» beruhe, meint er nichts anderes.[57] Nach diesem Urbild setzt Verschulden eine normative Vorhersehbarkeit des schadensverursachenden Geschehensablaufs voraus. Dies ist umso weniger der Fall, je autonomer und komplexer sich die Abläufe innerhalb der KI-Anwendung zeigen. Die Roboterethiker anerkennen in der Mehrheit, dass die Zuschreibung von Verantwortung bei künstlichen Akteuren daran scheitert, dass ihnen zumindest teilweise, wenn nicht grösstenteils die subjektive Seite der Verantwortung abgeht, nämlich die Urteilsfähigkeit. Die Idee, den künstlichen Akteuren einen menschlichen Beobachter erster Ordnung zuzuordnen, der diese Defizite ausgleicht, mag zwar vielversprechend erscheinen – umso mehr, als sich diese Idee gut in bekannte soziologische Konzepte einordnen lässt.[58] Aber es ist klar, dass dies nicht ohne Anpassungen an der Rechtsordnung, wie wir sie kennen, geht, wofür es in der Tat vertiefter weiterer Überlegungen bedarf. Die industrielle Praxis und die Rechtsanwendung werden zeigen müssen, wie das Konzept der menschlichen Aufsicht, welches nun in Art. 14 der KI-Verordnung Eingang gefunden hat, am zweckmässigsten umgesetzt werden kann.

Der zweite Grund betrifft das bisherige Fehlen allgemein anerkannter Modelle für das ordnungsgemässe Funktionieren der neuen Technologien. Gesetzliche Anforderungen müssten von Industriestandards (oder Praktiken) unterschieden werden, die vom Gesetzgeber noch nicht anerkannt sind. Ihre Relevanz für eine Klage aus unerlaubter Handlung sei zwangsläufig schwächer, auch wenn die Gerichte auch solche Anforderungen berücksichtigen könnten, wenn sie zu beurteilen haben, ob das Verhalten im Einzelfall den Sorgfaltspflichten entsprach, die unter den gegebenen Umständen zu erfüllen gewesen wären.[59] Dieser zweite Grund stellt ebenfalls keine völlig neue Thematik dar, sondern trat bereits früher in verschiedenen Bereichen von Hochtechnologie auf. Es liegt dabei in der Natur der Sache, dass es – je nach Gebiet – mehr oder weniger viel Zeit braucht, bis sich neue wissenschaftliche Erkenntnisse in anerkannten Regeln der Technik niederschlagen. Die mathematisch-statistischen Grundlagen der KI gehen bereits über Jahrzehnte zurück und es gibt bereits eine recht breite Fachliteratur zu diesen Grundlagen.[60] Neue Erscheinungen wie einzelne Roboter, die immer komplexere Funktionen ausführen können, werden der Welt vorgestellt und von der Forschungsgemeinschaft kritisch begutachtet und diskutiert.[61] Es ist eine Frage der Zeit, bis sich zumindest ein Stand der Technik etablieren wird. Lohmann anerkennt, dass KI-Systeme ab einem gewissen Grad der Autonomie für den Hersteller unbeherrschbar werden können. Dennoch habe der Hersteller zumindest teilweise Einfluss auf den Aktionsradius der KI und könne Metriken und Qualitätskriterien bestimmen, die das System zu erfüllen hat.[62] Wenn es anspruchsvoll sein kann, anerkannte Regeln der Technik für KI zu entwickeln,[63] so sollte es leichter sein, für diese Vorbereitungshandlungen verlässliche Sorgfaltsstandards zu definieren. In der Zwischenzeit können ethische Richtlinien für die Entwicklung und den Einsatz von KI[64] eine wichtige Brücke darstellen, um zumindest für gewisse Eckpunkte für das Verhalten der Beteiligten zu sorgen.

Den naheliegenden gesetzgeberischen Lösungsansatz erblickt die EU-Kommission in der Produktsicherheit und in der Produkthaftpflicht. Die europäischen Rechtssysteme neigten dazu, Produkt- und Sicherheitsanforderungen stärker im Voraus zu regeln als andere Rechtsordnungen. Die KI-Verordnung sieht nun verschiedene besondere Pflichten für die Anbieter von Hochrisiko-KI-Systemen vor, so z.B. eine Protokollierungspflicht («logging requirement»), die eine nachträgliche Analyse der Geschehnisse und der Einhaltung der geforderten Sorgfaltspflichten des Anbieters oder des Nutzers erleichtern soll (Art. 12 der KI-Verordnung). Prozessual führt diese Protokollierungspflicht zu einer Erleichterung der Beweislast zugunsten der geschädigten Person – jedenfalls im sachlichen Anwendungsbereich der Richtlinie über KI-Haftung (dort Art. 3).[65] Mit Blick auf selbstlernende Algorithmen stellt sich sodann die Frage, ob die Entscheidung, das System auf dem Markt zuzulassen oder es in einer Umgebung einzusetzen, in der es später zu Schäden kam, an sich schon einen Verstoss gegen die für solche Entscheidungen geltenden Sorgfaltspflichten darstellen sollte.[66] Den Hersteller oder Anbieter träfe so die Verantwortung, seine Produkte so zu entwickeln, dass die Nutzer ihrerseits ihren Pflichten nachkommen können.[67] Damit liessen sich Haftungslücken infolge der verschiedenen, hier identifizierten dogmatischen Schwierigkeiten wohl recht effizient schliessen. Zu bedenken ist dabei, dass sich die Verschuldenshaftung durch Erhöhen des Sorgfaltspflichtstandards (Objektivierung des subjektiven Verschuldens) immer mehr der Kausalhaftung annähert.[68] Ob dies gesellschaftlich akzeptabel ist, ist letztlich eine Wertungsfrage, deren Beantwortung, wie schon Max Weber unterstrich, zu den ureigensten Aufgaben des Gesetzgebers gehört.[69] Einen ersten Schritt in Richtung einer Objektivierung von Sorgfaltspflichten machten die EU-Gesetzgeber mit den besonderen Anforderungen an Hochrisiko-KI-Systeme in Kapitel 2 des dritten Titels der KI-Verordnung.[70] Verletzungen dieser besonderen Anforderungen können es dem Kläger u.U. erleichtern, das Verschulden des Anbieters oder Nutzers vor Gericht nachzuweisen.[71] So stellt Art. 10 der KI-Verordnung nun klar, dass ein selbstlernender Algorithmus zwingend nach gewissen fachmännischen Standards trainiert, validiert und getestet werden muss (Daten Governance). Gelingt es dem Kläger nachzuweisen, dass dies bei dem KI-System, welches für seinen Schaden ursächlich ist, nicht korrekt gemacht wurde, gilt dies bereits als Sorgfaltspflichtverletzung und dadurch als Verschulden. Im Einzelfall mag dieser Nachweis immer noch schwierig zu erbringen sein. Immerhin aber bietet das Gesetz über KI konkrete Anhaltspunkte dafür, was als sorgfältiger Umgang mit KI-Systemen gilt.

Geschäftsherrenhaftung

Herausforderungen im Zusammenhang mit neuen Technologien sah die HEG-KI nicht nur bei den allgemeinen Voraussetzungen für eine deliktische Haftung (Schaden, Kausalität, Widerrechtlichkeit und Verschulden), sondern auch bei verschiedenen weiteren haftungsrelevanten Sonderthemen, so bei der Geschäftsherrenhaftung («vicarious liability»).[72]

Die Haftung für Hilfspersonen geht zwar ursprünglich auf das römische Recht zurück.[73] Die nationalen Rechte der europäischen Staaten haben sich bei der Lösung des Problems der Hilfspersonenhaftung teilweise unterschiedlicher Ansätze bedient, wie die HEG-KI in ihrem Bericht gleich zu Beginn herausstrich:[74] Einige Mitgliedstaaten rechnen das Verhalten einer Hilfsperson dem Geschäftsherrn ohne weitere Voraussetzungen zu, ausser dass die Hilfsperson auf Anweisung des Geschäftsherrn und zum Nutzen des Geschäftsherrn gehandelt haben muss. Andere machen den Geschäftsherrn nur unter sehr aussergewöhnlichen Umständen haftbar, z.B. bei bekannter besonderer Gefährlichkeit der Hilfskraft oder deren völliger Ungeeignetheit für die zugewiesene Aufgabe (so in Österreich[75]) oder wenn der Beklagte bei der Auswahl oder Beaufsichtigung der Hilfskraft schuldhaft gehandelt hat (so in Deutschland[76]). Einzelne Länder kombinieren beide Ansätze.[77] Diese Unterschiede in den nationalen Rechtsordnungen erschwerten eine unionsrechtliche Harmonisierung. Hier hätte der Vorschlag für eine Richtlinie über KI-Haftung angesetzt.[78]

Für die Charakterisierung der unterschiedlichen Ansätze zur Regelung der Geschäftsherrenhaftung spielt die Frage nach dem Sorgfaltsmassstab eine zentrale Rolle. Je nachdem handelt es sich um eine Verschuldenshaftung oder um eine (milde) Kausalhaftung).[79] Nach der Darstellung der HEG-KI betrachten Rechtsordnungen mit einer neutralen (d.h. breiter gefassten) Definition der verschuldensunabhängigen Haftung die Hilfspersonenhaftung als eine blosse Variante der Kausalhaftung. Wird hingegen der Begriff der Kausalhaftung mit der Haftung für ein bestimmtes Risiko (d.h. eine gefährliche Sache oder Tätigkeit) gleichgesetzt, werde die Hilfspersonenhaftung eher mit der Verschuldenshaftung assoziiert, als Haftung des Geschäftsherrn ohne eigenes Verschulden, aber für das (weitergegebene bzw. zugerechnete) Verschulden seiner Hilfsperson, auch wenn das Verhalten der Hilfsperson dann nicht unbedingt nach den für diese selbst geltenden Massstäben beurteilt wird, sondern nach den Massstäben für den Geschäftsherrn.[80]

Ungeachtet dieser – u.E. nicht zuletzt terminologischer – Unterschiede in den nationalen Rechten wird das Konzept der Geschäftsherrenhaftung von manchen Stimmen als ein möglicher «Katalysator» für das Argument gesehen, dass die Betreiber von Maschinen, Computern, Robotern oder ähnlichen Technologien ebenfalls streng für ihre Handlungen haften sollten, und zwar auf der Grundlage einer Analogie: Wenn jemand für das Fehlverhalten eines menschlichen Helfers haftbar gemacht werden könne, sei nicht einzusehen, weshalb derjenige, der in vergleichbarer Weise den (wirtschaftlichen) Vorteil aus der Unterstützung durch eine KI-Anwendung bekomme, nicht ebenso für durch diese KI-Anwendung verursachten Schäden haften solle.[81] Wenn die Haftung für Hilfspersonen bereits in der analogen Welt gewissermassen das Korollar zur Arbeitsteilung in der Wirtschaft darstellt und derjenige, der seinen wirtschaftlichen Aktionsradius durch Arbeitsteilung erweitern kann, auch die damit verbundenen Risiken tragen soll,[82] spricht das Prinzip der Technologieneutralität dafür, dieses Ergebnis auch für die digitale Welt zu fordern. Die verbreitete Meinung, dass Gefährdungshaftungstatbestände als Ausnahmegesetze nicht analogiefähig seien,[83] sowie der oben zitierte Entscheid des Bundesgerichts zum algorithmischen Market Making[84] legen jedoch nahe, dass hier der Gesetzgeber aktiv werden muss, um diese Wertungsgleichheit herzustellen.[85]

Bei der Geschäftsherrenhaftung braucht es eine Zuordnung der Verantwortung von der Hilfsperson auf den Geschäftsherrn, weil die dem Schaden tatsächlich näherstehende Hilfsperson als rechtsfähige Person theoretisch selbst haften könnte, dies aus wirtschaftlichen Gründen jedoch nicht sachgerecht wäre. Bei künstlichen Akteuren als «Hilfspersonen» erscheint das Problem umgekehrt: Grundsätzlich können diese selbst mangels eigener Rechtspersönlichkeit nicht selbst haften, sodass nur die für den Einsatz der künstlichen Akteure verantwortliche Person einem «Geschäftsherrn» vergleichbar als Haftungssubjekt in Frage kommt.[86] Nach dem aktuellen Recht gibt es dann genau zwei mögliche Lösungswege, eine verantwortliche Person in die Haftung zu nehmen: Erstens könnte der Hersteller oder Nutzer des künstlichen Akteurs über den Umweg der Produkthaftung belangt werden. Zweitens könnten die am Einsatz des künstlichen Akteurs beteiligten Personen wie gewohnt über die verschuldensabhängige deliktische Haftung ins Recht gefasst werden.

Sollte sich der eingeschlagene Lösungsweg in der Praxis als ungenügend erweisen, so wird wohl die Forderung an Gewicht gewinnen, dass eine Zuordnung der Handlungen des künstlichen Akteurs an den Geschäftsherrn nach dem Muster der klassischen Geschäftsherrenhaftung positivrechtlich festgeschrieben werden soll. Ein solcher Schritt wäre keineswegs so revolutionär, wie es die Einführung einer (wenn auch nur) beschränkten Rechtsfähigkeit für künstliche Akteure wäre. Einerseits wurde bereits die klassische Produkthaftung in der Schweiz ursprünglich, d.h. vor dem Erlass des PrHG nach europäischem Vorbild, als Anwendungsfall der Geschäftsherrenhaftung behandelt.[87] Andererseits werden in manchen anderen Ländern technische Hilfsmittel, deren Risiken der Gesetzgeber noch nicht berücksichtigen konnte oder wollte, analog einer Hilfsperson behandelt.[88]

Kausalhaftung

Als weiteres haftungsrelevantes Spezialthema besprach die HEG-KI die Kausalhaftung (strict liability). Besonders seit dem 19. Jh. habe es einen Trend zur Kausal- oder Gefährdungshaftung gegeben, motiviert durch das Aufkommen der damals neuen Technologien: neue Transportmittel wie Eisenbahnen oder Autos, Energieformen wie die Kernkraft sowie zugehörige Infrastrukturen wie Stromleitungen und Pipelines.[89] Als ältere Beispiele für die Kausalhaftung wurden im Bericht natürlich die Tierhalterhaftung[90] und die Grundeigentümerhaftung[91] genannt. Trotz dieser langen gemeinsamen Rechtstradition musste die HEG-KI auf die grossen Unterschiede in den nationalen Rechten der Mitgliedstaaten in Bezug auf die Verwendung der Kausalhaftung hinweisen. Teilweise würden die Mitgliedstaaten (wie z.B. Kroatien oder die Tschechische Republik) eine recht weitgehende Kausalhaftung für gefährliche Handlungen im Allgemeinen kennen.[92] Andere Länder würden eher die verschuldensabhängige Haftung durch Einschränkung der Befreiungsmöglichkeiten ausdehnen. Unterschiede zwischen den nationalen Rechten gebe es auch bei der Fahrzeughalterhaftung. Dennoch sollte sich die Halterhaftung auf selbstfahrende Autos anwenden lassen, obgleich die HEG-KI viele mögliche Haftungslücken («many potential liability gaps») befürchtete.[93]

Demgegenüber sei eine Kausalhaftung für den Betrieb von Computersystemen oder Datenbanken in den Mitgliedstaaten allgemein unbekannt.[94] Diese Feststellung gilt für das Schweizer Recht genauso.

In der neueren Fachdiskussion drängte sich für viele Autoren die Kausal- oder Gefährdungshaftung für die Lösung des Problems der KI-Haftung geradezu auf.[95] Die HEG-KI gab jedoch zu bedenken, dass die Einführung von Kausalhaftungen für neue Technologien Innovation und Fortschritt behindern könne, namentlich, wenn die Haftungsfrage unvorhersehbar würde.[96] Die Vor- und Nachteile aus Sicht der geschädigten Personen von Kausalhaftungen für «gefährliche» neue Technologien sind somit sorgfältig mit den wirtschaftlichen Interessen der an ihrer Entwicklung, Inverkehrsetzung und ihrem Betrieb beteiligten Personen abzuwägen. Der Umstand, dass eine Technologie neu ist, ist nach der Ansicht der HEG-KI allein jedenfalls noch kein Grund zur breiten Einführung einer Kausalhaftung.[97] Diese Position wurde durch die Konsultation der Interessenträger zum zwischenzeitlich sistierten Vorschlag für die neue Richtlinie über KI-Haftung gestützt, bei der eine Mehrheit der befragten Unternehmen die Einführung einer Gefährdungshaftung als unverhältnismässig ablehnten.[98] Mit ihrem Vorschlag für die Richtlinie über KI-Haftung schloss sich die EU-Kommission dieser Position an und wählte Option 3 mit dem stufenweisen Ansatz, bei dem in seiner ersten Stufe erst einmal auf die Einführung einer verschuldensunabhängigen Haftung verzichtet wurde.[99] In einer nächsten Stufe wäre bereits die Einführung einer Kausalhaftung für KI-Anwendungen mit spezifischem Risikoprofil vorgesehen gewesen, dies in Kombination mit einer Versicherungspflicht, wie dies namentlich bei der Fahrzeughalterhaftung bereits heute umgesetzt ist.[100] Bei den spezifischen Risikoprofilen müsste eine Gefahrenquelle gegeben sein, die auch ein umsichtiger Hersteller oder Nutzer nie vollständig unter Kontrolle behalten kann, sodass immer ein Restrisiko übrig bleibt.[101]

Produkthaftung

Produktbegriff

Für die Produkthaftung stellte die EU-Kommission fest, dass das Regime der Produkthaftung im Wesentlichen technologieneutral gedacht war und ausgestaltet wurde. Obwohl sich dieses Regime über die Jahrzehnte bewährt habe, zeige sich nun doch angesichts des Aufkommens neuer Technologien die Notwendigkeit einer Klärung einzelner Kernbegriffe.[102] So stand bei der Schaffung der Richtlinie die Haftung des Herstellers für herkömmliche, industriell gefertigte bewegliche Sachen im Vordergrund.[103] Solche industriell gefertigten Produkte wurden und werden als einmalige Handlung in Verkehr gebracht. Nach dem Inverkehrbringen hat die Herstellerin regelmässig keine Kontrolle mehr über das Produkt.[104]

Ob das Regime der Produkthaftung, wie von der EU-Kommission erklärt, bewusst technologieneutral gedacht war, erscheint aus heutiger Sicht zweifelhaft. Vielmehr gab es in den 80er Jahren schlicht weniger konkrete Veranlassung, sich über neue Technologien Gedanken zu machen, obwohl z.B. Software bereits ab den 70er Jahren immer mehr als eigenständiges «Produkt» und nicht mehr bloss als Steuerungsteil der Hardware wahrgenommen wurde. Die EU-Kommission ist immerhin der Meinung, dass es unter der EWG-Richtlinie bislang kaum Probleme damit gab, Produkte von Dienstleistungen zu unterscheiden.[105] Bei den neuen KI-Anwendungen sei diese Unterscheidung jedoch nicht mehr so leicht vorzunehmen, da bei KI-Anwendungen Produkte und Dienstleistungen ständig miteinander kommunizierten und deshalb eine scharfe Trennung unmöglich sei. Es sei bereits fraglich, ob Software als Produkt oder Bestandteil eines Produkts qualifiziert.[106] Strittig sei vor allem, ob die Qualifizierung einer Software als Produkt davon abhänge, ob es sich um eine eingebaute oder nicht eingebaute Software (embedded / non-embedded software) handle oder um eine Software, welche fernmeldetechnisch aktualisiert werden kann.[107] So kam die EU-Kommission in ihrem Bericht zu Sicherheit und Haftung von 2020 zum provisorischen Schluss, dass der Anwendungsbereich des Begriffs «Produkt», obwohl in der Richtlinie weit gefasst, weiter präzisiert werden könnte, «um der Komplexität neuer Technologien besser Rechnung zu tragen und sicherzustellen, dass für durch fehlerhafte Produkte verursachte Schäden, die auf Software oder andere digitale Merkmale zurückzuführen sind, stets Schadenersatz gewährt wird».[108]

Die Frage, ob Software oder zumindest gewisse Spielarten von Software sowie verschiedene intellektuelle Leistungen vom Produktbegriff nach Art. 3 PrHG abgedeckt sind, wurde in der schweizerischen Literatur eingehend diskutiert.[109] Zunächst ist nochmals festzustellen, dass der Produktbegriff nach Art. 3 PrHG zwar sehr breit ist.[110] Als Produkt in Frage kommen aufgrund des Wortlauts vorab bewegliche körperliche Sachen sowie Naturkräfte, die der rechtlichen Herrschaft unterworfen werden können und nicht zu den Grundstücken gehören.[111]

Auffällig ist, dass in Art. 3 PrHG mit der Elektrizität nur gerade ein einziges nicht-körperliches Gut genannt wird, welches neben der generischen Klasse der beweglichen Sachen als Produkt qualifiziert. In dieser Tatsache sahen manche den Grund, dass alle anderen unkörperlichen Güter eben keine Produkte im Sinne des PrHG sein sollten. Dafür spricht die herkömmliche Sichtweise, dass es sich bei Produkten grundsätzlich um industriell gefertigte, körperliche Güter handelt. Andererseits lässt sich auch vertreten, dass die Nennung der Elektrizität nur beispielhaft erfolgt ist, sodass einer Weiterentwicklung des Produktbegriffs auf Güter wie Software nichts entgegensteht.[112]

Dienstleistungen werden offensichtlich vom Produktbegriff nicht erfasst.[113] Gleiches gilt allgemein für alle unkörperlichen Arbeitserfolge. Erst wenn geistige Leistungen eine gewisse Körperlichkeit erlangen, indem sie bspw. in einem Buch (bewegliche Sache) umgesetzt werden, können sie als Produkte i.S.v. Art. 3 PrHG gelten. Neben Büchern sind hier Tonbänder, Schallplatten, Pläne oder Zeichnungen zu nennen.[114] Die Abgrenzung ist im Einzelnen jedoch umstritten. So hat ein Teil der Lehre die Produkteigenschaft von traditionellen Druckwerken als Ergebnis einer geistigen Leistung allgemein verneint. Diese Meinung anerkennt die Haftung des Produzenten nur an, wenn der Schaden aus der Körperlichkeit des Buches selbst entstanden ist, etwa in Folge eines gesundheitsschädigenden Einbands. Für den eigentlichen Inhalt, d.h. eine bloss falsche Information,[115] lehnt diese Meinung eine spezifische Produktehaftung hingegen ab[116]. Ein anderer Teil der Lehre vertritt demgegenüber die Ansicht, dass sich das Druckerzeugnis nicht von seinem geistigen Inhalt trennen lässt. Folglich erstrecken die Vertreter dieser Meinung die Produkteeigenschaft auch auf den (geistigen) Inhalt.[117] Nach der von Fellmann vertretenen mittleren Meinung ist nach der Art des Fehlers zu differenzieren, der mit den Produktionsmethoden verknüpft ist: Verbreitet der Autor mit seinem Buch falsche Informationen, realisiere sich kein mit moderner technischer Produktion (eben der Massenproduktion von Büchern oder anderen Schriften, abgesehen von digitalen Medien, die noch einfacher zu verbreiten sind) spezifisch verbundenes Risiko. Daher sei eine Produktehaftung des Autors für eine unzutreffende Meinung abzulehnen. Ein typisches Risiko der Massenproduktion wäre hingegen in Druckfehlern, Auslassungen im Text, Verwechslungen oder Entstellungen von Texten zu erblicken. In diesen Fällen liege ein Fehler vor, für den der Hersteller des Druckwerkes, nicht aber der Autor, einzustehen habe.[118]

Eine Variante dieser Lehrdiskussion betrifft die Frage, ob Software als Produkt i.S.v. Art. 3 PrHG qualifiziert wird oder nicht. Software kann gewissermassen als (kommerziell) nutzbare Umsetzung eines Algorithmus verstanden werden. Über die Software kann ein (Computer‑)Programm bestehend aus einem oder mehreren Algorithmen, auf einem Computer abgespielt werden.[119] Nach Fellmann ist «seit jeher anerkannt», dass eine Sache, die Software enthält, ein Produkt i.S.v. Art. 3 PrHG darstelle.[120] Es ist umstritten, wie es sich bei isolierter Software verhält, die als eigenständiges «Produkt» angeboten wird.

Während Software in den Anfangszeiten als integrierender Bestandteil von Geräten (Hardware) gesehen wurde, verstand man ab den 70er Jahren Software immer mehr als eigenständiges Produkt. Hier greift das Problem des Produktbegriffs nach dem PrHG. Weist in ein Gerät integrierte Software einen Fehler auf, führt dieser Fehler im Programm zu einer Fehlfunktion des Gerätes. Da das Gerät selbst ohne Weiteres ein Produkt darstellt, eröffnet sich in diesem Fall der sachliche Anwendungsbereich des PrHG.[121] Komplizierter wird die Betrachtung bei einer isolierten, eigenständigen Software, die etwa auf einer Diskette erworben werden kann. Weist eine solche Software Fehler auf, stellen sich analoge Fragen, wie sie zuvor für herkömmliche Druckerzeugnisse gestellt wurden: Ist nur die Diskette mit dem Inhalt als verkörperte intellektuelle Leistung als Produkt zu qualifizieren? Oder ist der Inhalt selbstständig als Produkt anzuerkennen? Einige Autoren betrachten Computerprogramme als immaterielles Wirtschaftsgut und verneinen somit, dass sie als Produkt i.S.d. PrHG zu betrachten sind.[122] Andere Autoren qualifizieren zumindest Standard-Software als Produkt i.S.d. PrHG.[123] Die Unterscheidung hat weniger mit Körperlichkeit zu tun als mit der Art und Weise der Produktion. Handelt es sich um eine individuell erarbeitete und erstellte Lösung oder um ein Massenprodukt? Diese Unterscheidung sollte eigentlich keine Rolle spielen, denn auch ein Unikat ist ein Produkt i.S.v. Art. 3 PrHG. Der Produktionsprozess wird von der Legaldefinition nicht angesprochen. Konsequent erscheinen demnach die neueren Lehrmeinungen, die Individualsoftware und Standardsoftware in jeder Form und unabhängig von der Art der Überlassung als Produkte qualifizieren.[124] Bei der Frage der Überlassung geht es darum, ob die Software beim Kauf auf einer Diskette gespeichert war oder ob sie über das Internet heruntergeladen werden kann.[125] Die zweite Variante der Distribution ist die heute gängige, während Disketten als veraltet gelten müssen. Die Vertreter dieser Lehrmeinung befürworten die Produkteigenschaft für Software bereits angesichts der Risiken, die mit der rasch fortschreitenden Digitalisierung (Stichworte IoT und KI) verbunden sind. Für diese Autoren ist die entscheidende Frage denn auch weniger, ob Software überhaupt ein Produkt ist, als vielmehr, wann Software i. S. v. Art. 4 PrHG fehlerhaft ist, und eine produkttypische Schädigungsgefahr darstellt.[126];[127] Von der Motivation her ist diese Meinung sicher zu begrüssen. Ihre Ableitung erscheint jedoch nicht unbedingt überzeugend, wird doch das Problem der vom Wortlaut von Art. 3 PrHG geforderten Sachqualität keineswegs adressiert. Für Fellmann ist dabei eine Trennung zwischen der Substanz der Sache und der über sie vermittelten Information weder mit dem Wortlaut noch mit dem Sinn und Zweck der EWG-Richtlinie, den Verbraucher zu schützen, vereinbar.[128]

Diese kurze Übersicht zum Meinungsstand bezüglich des Produktbegriffs, insbesondere im Zusammenhang mit Software, zeigt den Klärungsbedarf klar auf. Ursprünglich ging der Gesetzgeber von traditionellen, d.h. in herkömmlicher Weise industriell gefertigten Produkten aus, welche zu einem bestimmten Zeitpunkt auf den Markt gebracht werden und über welche die Herstellerin anschliessend keine Kontrolle mehr ausüben konnte. Diese Vorstellung ist nicht mehr zeitgemäss. Bereits seit längerem gibt es digitale Produkte und Dienstleistungen, welche mittels Updates regelmässig aktualisiert werden. Im Falle von vorinstallierten digitalen Inhalten, die regelmässig online (d.h. über Telekommunikation statt über einen zusätzlichen Datenträger) aktualisiert werden, liesse sich nach Meinung des ELI argumentieren, dass ein Fehler in den aktualisierten Inhalten nicht mehr ein Fehler ist, der mit der Sache selbst verknüpft ist, auf der die Aktualisierung installiert wurde.[129] Nun kommen noch diverse KI-Anwendungen hinzu, die sich selbstlernend laufend aktualisieren oder verändern können.

Wenig problematisch ist die Frage, ob ein Roboter als Produkt qualifiziert. Da die hier unterstellte Definition eines Roboters wesentlich ein körperliches Element umfasst,[130] ist unzweifelhaft, dass es sich bei einem Roboter um eine bewegliche Sache und somit um ein Produkt i.S.v. Art. 3 PrHG handelt. Dies gilt umso mehr, als es keine Sondernorm gibt, welche Robotern einen eigenen Rechtsstatus zuerkennt und so einem Tier vergleichbar dem Sachenrecht (zumindest teilweise) entziehen könnte.[131] Bei nicht-körperlichen KI-Anwendungen wie KI-Agenten ist eine Anwendung der Produkthaftpflicht hingegen nicht ohne Weiteres gegeben.

Fehlerbegriff

Wenn es um KI-Anwendungen geht, ist sodann die Auslegung des Begriffs des Fehlers zu diskutieren: Nach Art. 4 Abs. 1 PrHG ist ein Produkt fehlerhaft, wenn es nicht die Sicherheit bietet, die man unter Berücksichtigung aller Umstände zu erwarten berechtigt ist. Zu berücksichtigen ist dabei a) die Art und Weise, in der es dem Publikum präsentiert wird; b) der Gebrauch, mit dem vernünftigerweise gerechnet werden kann; und c) der Zeitpunkt, in dem es in Verkehr gebracht wurde. Natürlich hatte der Gesetzgeber bei dieser Definition herkömmliche, industriell gefertigte Produkte wie Autos, Bohrmaschinen oder ähnliche Werkzeuge und Maschinen vor Augen, deren potenzielle Gefährlichkeit augenfällig ist.

Von dieser Grunddefinition des Fehlers musste die EU-Kommission in ihrem Bericht ausgehen. Dabei warf sie die entscheidende Frage auf, ob bei fortgeschrittenen KI-Anwendungen mit selbstlernenden Elementen eine unerwartete Abweichung vom erwarteten Entscheidungsweg als Fehler angesehen werden könne.[132] Z.B. könne eine gewisse Unsicherheit darüber bestehen, wie und in welchem Umfang die Produkthaftungsrichtlinie auf bestimmte Arten von Fehlern Anwendung findet, etwa wenn diese auf Schwächen bei der Cybersicherheit des Produkts zurückzuführen seien.[133] Selbst wenn dies der Fall sei, so die EU-Kommission weiter, werde die Herstellerin wohl häufig die Entlastung über das Entwicklungsrisiko («state-of-the-art defence») anrufen können.

Fehler können an verschiedenen Stellen einer KI-Anwendung sowie zu verschiedenen Zeitpunkten ihres Lebenszyklus auftreten. Wie bereits erwähnt,[134] unterschieden Rechtsprechung und Literatur zur Produkthaftung nach Art. 55 OR zwischen Fabrikations- und Konstruktionsfehlern. Selbst wenn diese Unterscheidung für das aktuelle PrHG nicht mehr entscheidend sein sollte,[135] bietet sie für die Erörterung des Fehlerbegriffs bei selbstlernender KI doch einen Denkanstoss: Ein Fabrikationsfehler ist ein Fehler, der während des Herstellungsprozesses eines ansonsten korrekt konzipierten Produkts auftritt.[136] Ein Konstruktionsfehler liegt demgegenüber vor, wenn ein Produkt so erdacht oder geplant wurde, dass es bei korrekter Anwendung eine Gefahr für den Anwender darstellt.[137]

Im Zusammenhang mit Software oder einer KI-Anwendung ist bei Fabrikationsfehlern in erster Linie an einfache Programmierfehler zu denken. Moderne Software besteht aus Tausenden Seiten von Programmcode. Schon rein statistisch gesehen wird Software niemals fehlerfrei sein.[138] Ein Beispiel für einen Programmierfehler liegt vor, wenn in einer Korrelationstabelle zur Schätzung des Risikos verschiedener Anlageklassen oder Finanzinstrumente ein Zahlenpaar vertauscht ist und somit die geschätzten Risiken falsch ausgewiesen werden. Zu den Fabrikationsfehlern gehören ferner die bei Hänseberger neben Programmierfehlern genannten sonstigen Defekte oder Fehlfunktionen von physischen Komponenten des Produkts (z. B. überhitzender Akku, Lötfehler etc.).[139]

Als Konstruktionsfehler bei KI-Anwendungen kommen verschiedene systematische Fehler in Daten oder Algorithmen in Frage.[140] Systematische Fehler führen dazu, dass die geschätzten Werte systematisch vom tatsächlichen oder «wahren» Wert abweichen.[141] Die Ursache für einen systematischen Fehler kann einerseits bei den eingesetzten Daten, andererseits bei den für die konkrete Aufgabe ausgewählten Schätzmethoden liegen.[142] Ein klassisches Beispiel für den ersten Fall ist das Verwenden einer Stichprobe aus einer für die zu untersuchende Frage nicht repräsentativen Bevölkerungsgruppe oder eine Stichprobe mit historisch bedingten Verzerrungen, die zu falschen Schlussfolgerungen Anlass geben.[143] Ein Beispiel für den zweiten Fall ist das nicht korrekte Anwenden einer mathematisch-statistischen Methode zur Schätzung der unbestimmten Variablen. Die Erfahrung hat gezeigt, dass je nach Art der zu untersuchenden Daten bestimmte Schätzmethoden geeigneter sind als andere.[144] Systematische Fehler sind besonders gravierend, denn anders als bei den zufälligen Fehlern (den Fabrikationsfehlern) wird der Effekt des systematischen Fehlers mit wachsender Zahl der Untersuchungseinheiten grösser.[145]

Unter diesem Gesichtspunkt betrachtet, erscheint es leicht, diese Art Fehler als Fehler i.S.v. Art. 4 PrHG zu qualifizieren und die Herstellerin dafür haften zu lassen. Die Auswahl der Schätzmethoden und die Programmierung liegen in der Risikosphäre der Herstellerin. Gleiches gilt wohl für die Auswahl der Daten für das erste Training und die Erprobung.

Selbstlernende Algorithmen trainieren sich während ihres Einsatzes beim Nutzer fortlaufend weiter. In der Literatur finden sich unterschiedliche Meinungen dazu, ob Fehlentscheidungen selbstlernender KI-Anwendungen als Produktfehler zu betrachten sind.[146] Die Lernfähigkeit beruht auf bestimmten Algorithmen, deren Methoden zum Zeitpunkt des Inverkehrbringens feststehen. Wie eben geschrieben, kann von einem Konstruktionsfehler gesprochen werden, wenn die ausgewählten Methoden für die Aufgabe grundsätzlich ungeeignet sind. Mit Wagner ist einig zu gehen, dass nicht die Lernfähigkeit selbst der Produktmangel sein kann, sondern die «Standardabweichung» der vom System getroffenen Entscheidungen gegenüber der berechtigten (und sicheren) Erwartung.[147] Die Herstellerin muss sich dieser Unsicherheit bewusst sein und das System im Rahmen des «objektiv Gebotenen und Zumutbaren»[148] fachmännisch so bauen, dass es Spielraum für unerwartete Abweichungen gibt, bevor das System zu einer Gefahr für seine Nutzer und für Dritte wird. Ebenfalls auf dieser Linie argumentiert Hänseberger, für den eine Produkthaftung nur greifen kann, wenn z. B. die Softwarearchitektur, die den Entscheidungsprozess ermöglicht, fehlerhaft und nicht ausreichend geprüft worden ist.[149] Zur fachmännischen Herstellung gehört für Lohmann eine sorgfältige Auswahl der Methoden sowie der vom System zu erfüllenden Metriken und Qualitätskriterien samt der zu durchlaufenden Testverfahren.[150]

Schwieriger wird es mit einzelnen Fehlentscheidungen des Produkts nach dem Inverkehrbringen. Eine sich später beim Nutzer auswirkende Fehlentscheidung kann bereits durch ungeeignete Daten im Training bei der Herstellerin angelegt worden sein. Dann wäre wohl von einem Fabrikationsfehler auszugehen. Hingegen lehnt Hänseberger einen Produktfehler ab, wenn die getroffene Entscheidung noch innerhalb des von der Herstellerin bestimmten Handlungsspielraums des lernfähigen Algorithmus liegt.[151] Ein solcher Handlungsspielraum ist nicht nur, wie Hänseberger schreibt, eine Voraussetzung für den Betrieb der KI-Anwendung. Er ist unverzichtbar, damit überhaupt von einem autonomen System gesprochen werden kann. Ein rein deterministisches System ist nicht autonom.[152]

Nach der anderen Ansicht Fellmanns erstreckt sich die Produkthaftung der Herstellerin beim Inverkehrbringen lern- und entscheidungsfähiger Algorithmen auf alle aus dieser Lernfähigkeit entstehenden Schäden.[153] Fellmann begründet dies damit, dass das Risiko eines Fehlentscheids der KI-Anwendung «keineswegs Ergebnis eines schicksalhaften Verlaufs» sei, wie er bei menschlichen Entscheidungen vorkommen könne. Es komme nicht darauf an, ob die Herstellerin die fragliche Entwicklung vorausgesehen und einkalkuliert oder damit nicht gerechnet habe (vorbehaltlich einer Entlastung infolge Entwicklungsrisikos). Jeder Hersteller müsse das Gefahrenpotenzial beherrschen.[154]

Für eine geschädigte Person wird es in aller Regel sehr schwierig sein, vor Gericht den Nachweis eines solchen Fehlers zu führen. Die Herstellerin müsste die Grundkonzeption der fraglichen KI-Anwendung und ihre Datenhaltung offenlegen müssen. Erst auf dieser Grundlage könnten Sachverständige eine Meinung ablegen, ob und wieweit die Herstellerin bei der Konzeption und Umsetzung der KI-Anwendung lege artis vorgegangen ist. Wie in Abschnitt III.3.2 dargestellt, hat der Begriff lege artis ausserhalb bestimmter Fachgebiete wie namentlich der Medizin eine eher vage Kontur. Dennoch gibt es in der mathematischen Statistik eine reiche Literatur zur Frage der Wahl und Parametrisierung von Schätzmethoden. Unter Mathematikern dürfte es einen Konsens geben, was eine sorgfältige Schätzung ausmacht.

In Zusammenhang mit Produktfehlern hat die EU-Kommission als Sicherheitsrisiko in der Zeit nach dem Inverkehrbringen vor allem die Daten ausgemacht. Deshalb sollen auf Seiten der Produktsicherheit als Pendant[155] zur Produkthaftung weitere Massnahmen geprüft werden:

«Die Produktsicherheitsvorschriften der Union könnten sowohl spezifische Anforderungen vorsehen, um die Sicherheitsrisiken auszuräumen, die von fehlerhaften Daten in der Phase der Auslegung ausgehen, als auch Mechanismen, mit denen sichergestellt wird, dass die Qualität der Daten während der gesamten Nutzung der KI-Produkte und -Systeme aufrechterhalten wird.»[156]

Eine Regulierung der Datenqualität und des Umgangs mit Daten erscheint auf den ersten Blick einfacher als die Kontrolle von Methoden, umso mehr als der Gesetzgeber mit Datenregulierung bereits Erfahrungen machen konnte.[157]

Ergänzend ist festzuhalten, dass durch selbstlernende Elemente sich die Rolle des Herstellers verwischt. Zur Herstellerin treten weitere Beteiligte wie Datenlieferanten oder auch der Anwender selbst hinzu. Als Beispiel kann man sich den Besitzer eines «Smart Home» denken, der die Bedienungsanleitung nicht genau studiert und die einzelnen Komponenten des Systems falsch installiert oder ungenügend aufeinander abstimmt.[158] Hier spielt die klassische Frage des Selbstverschuldens der geschädigten Person hinein. Wie ist aber zu urteilen, wenn das richtige Verhalten ein vertieftes Wissen und Erfahrung bedingt, was bei einem normalen Anwender nicht mehr erwartet werden kann?

Zeitpunkt des Inverkehrbringens

Heute markiert der Zeitpunkt des Inverkehrbringens die zeitliche Grenze der Produkthaftung.[159] Die Herstellerin haftet nicht, wenn sie beweist, dass nach den Umständen davon auszugehen ist, dass der Fehler, der den Schaden verursacht hat, noch nicht vorlag, als sie das Produkt in Verkehr brachte (Art. 5 Abs. 1 Bst. b PrHG). Nach Ansicht der EU-Kommission sollte diese Grenze nicht absolut sein. So sollte die Herstellerin auch für nachträglich ausgelieferte Updates haften, wenn ein einmal verkauftes Produkt plan- und regelmässig solche Updates benötigt.[160] Nach Lohmann offenbart sich am Aspekt der «Updates und Upgrades», über die der Hersteller auch nach dem Inverkehrbringen Einfluss auf das Produkt nimmt, dass die Konzeption von Produkt und Hersteller nicht mehr zeitgemäss ist.[161] Aus Sicht der Produktsicherheit könne umgekehrt geradezu von einer «Updatepflicht» ausgegangen werden.[162] Eine solche Pflicht, für regelmässige Updates zu sorgen, um das System in gutem Zustand zu halten, wäre im Zusammenhang mit den Pflichten nach Inverkehrbringen zu sehen.[163]

Für Fellmann ist eine Entlastung des Herstellers für Updates u.ä. schon unter dem geltenden Schweizer Recht fraglich. Die Bestimmung von nach Art. 5 Abs. 1 lit. b PrHG habe vorab Sicherheitsmängel im Auge, die sich infolge unsachgemässer oder zweckwidriger Verwendung des Produkts einstellen. Eine Entlastung bei Konstruktionsfehlern, welche die Sicherheit ab Fertigung auf Dauer beeinträchtigen, sei demgegenüber nicht möglich. Dies muss auch bei Schäden gelten, die aus einer (zwar unabsehbaren) autonomen Fehlentwicklung entstehen, die aber auf die vom Hersteller programmierte Lernfähigkeit zurückzuführen ist.[164]

Entwicklungsrisiko und autonome KI

Die zeitliche Grenze nachträglich gesetzter Ursachen für Schäden wird auch im Hinblick auf das Entwicklungsrisiko in Frage gestellt.[165] Es geht um Fehler, die bereits im Zeitpunkt des Inverkehrbringens vorhanden waren, aber mit dem damaligen Wissen und den damaligen Erfahrungen noch nicht erkannt werden konnten. Bei selbstlernenden KI-Anwendungen entsteht der eine Schädigung verursachende Fehler möglicherweise erst nachträglich. Wie Lohmann zutreffend schreibt, sind z.B. lernfähige, selbstfahrende Fahrzeuge «nicht mit einem festgelegten Bewertungsmuster im Sinne eines deterministischen Wenn-dann-Algorithmus ausgestattet, sondern entwickeln eigenständig Entscheidungsregeln».[166] Bei solchen Produkten ist natürlich fraglich, ob dem Hersteller Schäden zugeteilt werden können, die auf die Eigendynamik bzw. Autonomie der selbstlernenden KI-Anwendung zurückgehen. Dann könnte man zumindest argumentieren, dass der Fehler zwar erst nach dem Inverkehrbringen entstanden und sich ausgewirkt hat, dass er jedoch bereits vorher angelegt war. Nach Meinung der EU-Kommission sollte sich eine Herstellerin nicht auf die Entlastung aufgrund eines Entwicklungsrisikos berufen können, wenn z.B. infolge von Machine Learning von Beginn an zu erwarten ist, dass das zukünftige Verhalten des Produkts nicht vorhersehbar sein wird.[167] Das Risiko eines unerwarteten Verhaltens der KI-Anwendung steigt natürlicherweise mit dem Grad ihrer Autonomie. Ein unvorhersehbares Verhalten zu zeigen, erscheint als charakteristisches Risiko einer autonomen KI-Anwendung.[168] Dies führt nach Ansicht der EU-Kommission nicht nur dazu, dass die Entlastung aufgrund eines Entwicklungsrisikos nicht greifen sollte, sondern dass die Herstellerin zusätzliche Sicherheitsmassnahmen ergreifen müsste:

«Das autonome Verhalten bestimmter KI-Systeme während ihres Lebenszyklus kann zu erheblichen sicherheitsrelevanten Änderungen der Produkte führen, die eine neue Risikobewertung erforderlich machen können. Darüber hinaus kann es nötig sein, als Schutzmassnahme die Kontrolle durch den Menschen ab der Phase der Auslegung und während des gesamten Lebenszyklus der KI-Produkte und -Systeme vorzusehen.»[169]

Ob es zweckmässig ist, einer KI-Anwendung nicht nur, wie hier vorgeschlagen, einen menschlichen Beobachter zur weiteren Ausbildung ihres funktionalen Bewusstseins,[170] sondern gleich einen menschlichen Aufpasser beizugeben, soll an dieser Stelle offenbleiben. Schneller zu einer möglicherweise tragfähigen Lösung könnte folgender Gedanke der EU-Kommission führen: Angenommen, der Einsatz einer Technologie (z.B. einer KI-Anwendung) sei rechtlich zulässig unter der Voraussetzung, dass der Entwickler zum Zeitpunkt der Einführung des Systems den damals aktuellen Stand der Technik berücksichtigte. Dann müssen spätere Entscheidungen, die die selbstlernende KI-Anwendung unabhängig davon trifft, nicht zwangsläufig auf einen Fehler in ihrer ursprünglichen Konzeption zurückzuführen sein. Es stellt sich daher die Frage, ob die Entscheidung, das System auf dem Markt zuzulassen oder es in einer Umgebung einzusetzen, in der es später zu Schäden kam, an sich schon einen Verstoss gegen die für solche Entscheidungen geltenden Sorgfaltspflichten darstellt.[171] Dieser Gedanke deckt sich weitgehend mit der Idee einer der Tierhalterhaftung nachgebildeten «Roboterhaftung», welche die Gefahr absichert, die sich in charakteristischer Weise aus der Autonomie einer KI-Anwendung ergibt.[172] Wie bereits die Tierhalterhaftung bei den Anforderungen an die Haltung verschiedener Tierarten differenziert angewandt werden kann, wäre es hier möglich, je nach Einsatzgebiet unterschiedliche Anforderungen an das sorgfältige Inverkehrbringen zu stellen.

Die Lösung der überarbeiteten Richtlinie

Die EU-Produkthaftungsrichtlinie wurde nicht umfassend neugefasst, sondern behutsam überarbeitet.[173] Für Koch/Pichonnaz war diese Überarbeitung der Produkthaftungsrichtlinie «längst überfällig».[174] Für Wagner ist die EU-Kommission ihrer Aufgabe, einen Reformvorschlag vorzulegen, «hervorragend gerecht geworden».[175] Dies sieht auch St. Müller so, vor allem bezüglich der Konturierung des Fehlerbegriffs und der Erweiterung des Kreises der Haftungsadressaten.[176]

Als Überarbeitung steht die neue Richtlinie vollkommen in der Linie der alten, und die wesentlichen Konzepte des Produkthaftungsrechts behalten ihre Gültigkeit. Diese Behutsamkeit der Überarbeitung zeigt sich exemplarisch an der zentralen Definition des Produkts, welche im Kern beibehalten wurde. Neben der Elektrizität werden zusätzlich «digitale Konstruktionsunterlagen» und – praktisch besonders bedeutsam – Software zu den beweglichen Sachen als Produkte hinzugenommen (Art. 4 Ziff. 1). Mit dieser Ergänzung wurde die lange, letztlich nicht besonders produktive Kontroverse in der Literatur beendet, ob Software als Produkt gelten kann oder nicht.[177] Beim Kreis der potentiell Haftpflichtigen ist mit Wagner festzustellen, dass mit der Digitalisierung der Einfluss des Nutzers auf das Produkt noch weiter zurückgeht, sodass der Hersteller als das «richtige Haftungssubjekt» gelten muss.[178] Die Aufzählung der potenziell haftenden Wirtschaftsakteure stellt dazu ergänzend klar, dass die Entwickler von Software, die als Komponente in Hardware integriert und mit dieser als Endprodukt ausgeliefert wird, für deren Fehler nunmehr eigenständig und direkt belangt werden können (Art. 8 Abs. 1 Bst. b). Dies erlaubt eine schärfere und gerechtere Zuteilung der Verantwortlichkeit auf die Person, aus deren Sphäre der schadenverursachende Fehler unmittelbar entsprang.[179]

Die Definition der Fehlerhaftigkeit eines Produkts wurde ausführlicher und damit hoffentlich anwendungsfreundlicher gestaltet (Art. 7). Das Grundprinzip des Produktsicherheitsrechts wurde dabei übernommen, sodass ein Produkt weiterhin dann fehlerhaft ist, wenn es nicht die Sicherheit bietet, die die breite Öffentlichkeit unter Berücksichtigung aller Umstände erwarten darf (Art. 7 Abs. 1). Mit Blick auf digitale Produkte und deren zunehmende Vernetzung und um der Rechtsprechung des EuGH zur alten Richtlinie Rechnung zu tragen, wurden zu den genannten Umständen weitere Faktoren wie die für das digitale Zeitalter besonders bedeutsamen sicherheitsrelevanten Cybersicherheitsanforderungen hinzugenommen (Art. 7 Abs. 1 Bst. f).[180] Dadurch, dass diese Formulierung nach wie vor sehr offenbleibt, ermöglicht sie eine Anwendung auf ein breites zukünftiges Produktspektrum. Der Preis für diese mehr erhoffte als erwiesene und erprobte Technologieoffenheit ist, dass klare Vorgaben für die Beurteilung der Fehlerhaftigkeit eines Produkts im Einzelfall fehlen.[181]

Eine weitere grosse Neuerung betrifft die Verteilung der Beweislast. Die alte Richtlinie beschränkte sich noch darauf, die allgemeine zivilrechtliche Regel zu wiederholen, dass derjenige, der einen Schaden klageweise durchsetzen will, alle Voraussetzungen für einen Schadenersatz beweisen muss. Bei der als Kausalhaftung ausgestalteten Produkthaftung konnte bislang nur auf den Nachweis des Verschuldens des Herstellers verzichtet werden. Darin, dass der Kläger die dreifache Beweislast des Nachweises von Fehler, Schaden und Kausalität tragen musste, wurde ein rechtspolitisch gewollter Ausgleich der Interessen der beteiligten Personen gesehen.[182] Die neue Regelung zielt nun darauf ab, diese Interessen differenzierter zu behandeln. So kann das nationale Gericht unter Umständen von einer Fehlerhaftigkeit des fraglichen Produkts ausgehen, sodass die geschädigte Person diesen für sie gerade bei Produkten nicht zu erbringen braucht, die sich durch eine komplexe oder intransparente Funktionsweise auszeichnen (Art. 10 Abs. 2–3). Dem beklagten Wirtschaftsakteur steht jedoch der Gegenbeweis zu (Art. 10 Abs. 5). Für St. Müller ist allerdings die Vermutung der Fehlerhaftigkeit nach Art. 10 Abs. 4 als überschiessend zu beurteilen.[183] Diese offene Regelungsarchitektur stelle die gerichtliche Rechtsfindung vor beachtliche Herausforderungen und erschwere zudem dem Rechtsberater die belastbare Beurteilung der Compliance-Anforderungen für die betroffenen Wirtschaftsakteure.

Die Tatbestände, welche zur Befreiung von der Haftung führen können, wurden ebenfalls im Kern beibehalten (Art. 11). Sie wurden nur leicht ausführlicher formuliert (z.B. bei Abs. 1 Bst. a–b), systematisch leicht anders eingeordnet und von den Haftungsminderungsgründen (Art. 13) getrennt. Hervorzuheben ist, dass der Tatbestand, der sich auf den Stand von Wissenschaft und Technik im Zeitpunkt des Inverkehrbringens abstützt (Art. 7 Bst. e der alten Richtlinie), im Hinblick auf digitale Produkte ergänzt wurde: Als zeitliche Grenze kommt nun der spätere Zeitpunkt hinzu, ab dem das Produkt nicht mehr unter Kontrolle des Herstellers steht (Art. 11 Abs. 1 Bst. e der neuen Richtlinie). Die Mitgliedstaaten dürfen von dieser Haftungsbefreiung nicht mehr absehen, sodass in allen Mitgliedstaaten für gleiche Wettbewerbsvoraussetzungen und einen einheitlichen Standard des Konsumentenschutzes gesorgt ist.[184] Neu hinzugekommen sind besondere Ausnahmen für Hersteller von Komponenten (Abs. 1 Bst. f) und für Personen, die Produkte nachträglich verändern (Abs. 1 Bst. g). Im Hinblick auf digitale Produkte, die nach dem Zeitpunkt der Inverkehrbringung durch Softwareupdates oder durch digitale Services punktuell oder laufend weiter vom Hersteller modifiziert werden können, wurden in Abs. 2 drei Gegenausnahmen für die Haftungsbefreiung aufgenommen.[185] Insbesondere bleibt der Hersteller für sein Produkt auch nach erfolgter Inverkehrbringung haftbar, wenn Softwareupdates für den laufenden und weiterhin sicheren Betrieb des Produkts notwendig sind. Diese Verschiebung des massgeblichen Zeitpunkts nach hinten macht fachlich Sinn und wurde nach Koch/Pichonnaz schon durch die Erweiterung des Produktbegriffs auf Komponenten erforderlich. Updates, die nach erfolgter Inverkehrbringung aufgespielt werden, sollten zumindest dann für die Haftung berücksichtigt werden, wenn sie weiterhin unter der Kontrolle des Herstellers erfolgen, sei es dass sie von ihm selbst bereitgestellt, sei es, dass sie von ihm genehmigt werden.[186]

Unfälle mit KI

Versuch einer Typologie von Unfallszenarien

Das Spektrum möglicher Unfälle in der modernen Welt ist beinahe grenzenlos.[187] Bei der Beurteilung deliktsrechtlicher Ansprüche stellt sich deshalb erst einmal die Frage, in welchen Szenarien sich KI-Anwendungen überhaupt als Unfallursache wirksam manifestieren können. Hierzu sei an das grundlegende Schädigungsschema des Haftpflichtrechts erinnert: Dieses besteht aus einem Akteur als Schädiger, einer von ihm ausgeführten Handlung (Ursache) sowie einer durch diese Handlung ausgelösten Wirkung in der Umwelt, die zu einem Schaden bei der geschädigten Person führt. Ursache und Wirkung können jeweils in der analogen oder digitalen Umwelt angesiedelt sein bzw. auftreten. Aus diesem Schema lassen sich wie schon in der Einleitung beschrieben vier Fallgruppen bilden, die hier wiederholt seien:[188]

Ursache | Wirkung | Fallgruppe
analog | analog | Herkömmliche Unfälle und trad. Deliktsrecht
analog | digital | Datenverluste u.ä.
digital | analog | KI-Anwendungen in der natürlichen Umwelt
digital | digital | Rein digitale Interaktionen («Metaverse»)

Die ersten beiden Fallgruppen sollen uns nicht weiter interessieren. Sie repräsentieren die bekannten haftpflichtrechtlichen Probleme. Die vierte Fallgruppe mit digitaler Ursache und digitaler Wirkung dürfte demgegenüber in der weiteren Zukunft des digitalen Wandels liegen. Als Schadensarten können hier nur reine Vermögensschäden, Datenverluste und gewisse immaterielle Schäden auftreten, was den Anwendungsbereich des Deliktsrechts in vielen Rechtsordnungen, namentlich im Schweizer Recht, aktuell weiter einschränkt.[189] Das mittlerweile wieder aus den Schlagzeilen verschwundene Metaverse mit seinen rein digitalen Interaktionen mag als passende Illustration für diese Fallgruppe dienen.[190] Wir wollen uns vielmehr auf die dritte Fallgruppe mit digitaler Ursache und analoger Wirkung fokussieren. Sie repräsentiert die neuen deliktsrechtlichen Probleme, die mit der Digitalisierung kurz- und mittelfristig auftreten werden. Als schädigende Akteure treten KI-Agenten und Roboter auf.

In Kapitel IV wurden KI-Systeme als das «Gehirn» eines Roboters dargestellt, während Algorithmen die Verhaltensmuster und gelernten Abläufe des Roboters abbilden.[191] Daraus ergibt sich eine weitere Unterteilung der Unfallszenarien aus der Fallgruppe 3 nach dem Typus des schädigenden künstlichen Akteurs. Ein Roboter ist bekanntlich eine sich in der natürlichen Umwelt des Menschen befindliche Maschine, die fühlt, denkt und handelt[192] und kann so im Unterschied zu einem KI-Agenten als rein software-basierte KI-Anwendung direkt physisch in die reale Umwelt des Menschen eingreifen.[193] Deshalb ist es deutlich einfacher, sich Unfälle unter Beteiligung von Robotern vorzustellen. Bei der Beteiligung von Robotern am menschlichen Alltag können Verletzungen auftreten, wie sie auch beim Zusammenwirken zwischen Menschen unter sich auftreten können. Nimmt ein Roboter die Stelle eines Menschen ein, bleibt der Sachverhalt bzw. der Handlungsablauf ansonsten unverändert. In diesen Fällen handelt der Roboter als tatsächliches Handlungssubjekt und könnte somit theoretisch (!) als moralisches Handlungssubjekt in Frage kommen.[194] Wenn in der Zukunft Roboter eine reguläre Stelle im menschlichen Alltag gewinnen, können sich punktuell Anpassungen an den gesetzlichen Regelungen aufdrängen, damit menschliche Akteure nicht zu viel Verantwortung tragen müssen, sondern diese mit den Robotern «teilen» können. So weit ist es heute noch nicht. Auch Borio argumentiert, dass Pflegeroboter heute noch nicht über ausreichend Autonomie verfügen, um einen Unterbrechungsgrund für den Kausalzusammenhang setzen zu können. Deshalb lasse sich die Verantwortung immer noch einer natürlichen oder juristischen Person zuordnen, sodass der Pflegeroboter als Sache (Werkzeug) qualifiziert werden kann. Borio schliesst daraus, dass sich die Haftung eines Pflegeheims gegenüber den Pflegebedürftigen über die Zurechnung des Fehlverhaltens des Pflegepersonals an das Pflegeheim vertraglich, d. h. vermittels der Hilfspersonenhaftung nach Art. 101 OR, abstützen lasse.[195] Falls die Fehlursache ausserhalb des Einflussbereichs des Pflegepersonals liegen sollte, sieht Borio die Möglichkeit, eine ausservertragliche Haftung über das PrHG oder über die Geschäftsherrenhaftung nach Art. 55 OR abzuleiten. Entsprechende Anwendungen des Deliktsrechts werden anhand der Beispiele 1 und 2 ausführlich besprochen.

Der Anwendungsbereich für die deliktische Haftung von KI-Agenten ist dagegen deutlich beschränkt. Mangels eigener physischer Präsenz sind solche KI-Anwendungen nur indirekt über ihre Kommunikation mit Menschen in der Lage, Personen- und Sachschäden zu verursachen. Wer den Schaden direkt verursacht, ist immer ein Mensch, der dadurch in erster Linie als moralisches Handlungssubjekt in Frage kommt und zivilrechtlich verantwortlich gemacht werden kann. Letzteres kann je nach den Umständen und dem Verhältnis zwischen Schädiger und geschädigter Person nach den Grundsätzen der vertraglichen oder der ausservertraglichen Haftung geschehen. In beiden Fällen werden regelmässig die Aspekte der Zurechnung von Wissen und der angemessenen Sorgfalt auf Seiten des menschlichen Schädigers und allfällig weiterer beteiligter Personen ins Spiel kommen.

Dies gilt für Anwendungen in der Telemedizin, die den Nutzern auf Distanz Diagnosen und medizinische Ratschläge bieten, etwa, wie in einem Notfall unmittelbar reagiert werden soll. Ein Arzt könnte sich bei der Diagnose durch ein KI-System unterstützen oder leiten lassen und als Folge einer fehlerhaften Analyse ein ungeeignetes Medikament verschreiben. Da gegenüber seinem Patienten immer noch der Arzt für die Behandlung verantwortlich ist, greifen die bekannten Prinzipien der Arzthaftung[196]: Darf der Arzt auf Algorithmen vertrauen? Ist im konkreten Fall der Einsatz der betreffenden Algorithmen lege artis? In gleicher Weise werden Chatbots oder Sprachassistenzsysteme nur indirekt als Unfallursache in Frage kommen. Etwa, indem sie einem Menschen unzureichende Informationen geben und dieser Mensch gestützt auf diese Informationen eine Handlung vornimmt, die zu einem Unfall führt. In diesen Fällen wird sich regelmässig die Frage nach einer Haftung für falsche Auskünfte stellen. Ein solches Szenario wird anhand des Beispiels 3 besprochen.[197]

Beispiel 1: Selbstfahrender Lieferwagen

Sachverhalt

Im Zentrum des Sachverhalts steht ein selbstfahrender Lieferwagen, wie es sie heute bereits als Prototypen gibt. Dieser Lieferwagen ist im Auftrag eines Spediteurs unterwegs, um bei einer Brauerei eine Ladung mit Bierkästen abzuholen. An einer Stelle des Weges erkennt der Steuerungsalgorithmus des Lieferwagens auf der linken Strassenseite einen hoch aufgerichteten Mistkran. Angesichts dieser vermeintlichen Bedrohung vollzieht der Lieferwagen eine scharfe Rechtswende. Dabei stürzt das Fahrzeug über die Böschung auf der rechten Strassenseite und beschädigt eine auf der tieferliegenden Wiese abgestellte Mähmaschine und ein daneben abgestelltes Modellflugzeug.[198]

Bei dem Lieferwagen handelt es sich um ein selbstfahrendes Fahrzeug auf der höchsten Stufe der Vollautomatisierung, bei dem das KI-System die Aufgabe, das Fahrzeug zu steuern, vollständig übernimmt und kein Mensch mehr einzugreifen braucht.[199] Anstelle eines selbstfahrenden Fahrzeugs hätte man sich auch ein herkömmliches Fahrzeug vorstellen können, welches durch einen humanoiden Roboter gesteuert wird. Dass aber ein Roboter ein Fahrzeug steuert, erscheint heute noch einiges utopischer, als es die zu Beginn genannten Anwendungsbeispiele wie Lagerist, Bauarbeiter oder Staplerfahrer tun, die für die nahe Zukunft als realistisch gesehen werden.[200]

Deshalb übernimmt im erdachten Szenario statt eines Roboters ein Steuerungsalgorithmus als künstlicher Akteur die Stelle des den Unfall unmittelbar verursachenden Menschen.[201]

An der Unfallstelle sind keine Menschen präsent. An den Vorgängen, die unmittelbar zum Sachschaden führen, sind nur Maschinen beteiligt: ein selbstfahrendes Fahrzeug sowie (passiv) ein Mistkran. Als am Geschehen indirekt beteiligte menschliche Akteure kommen in Frage: die Personen, die den selbstfahrenden Lieferwagen hergestellt, programmiert und für die Fahrt unmittelbar vorbereitet haben (soweit dies nötig war), sowie die Person, die den Mistkran an der Strassenseite aufgestellt hat. Es gibt keine Hinweise, dass mit dem Fahrzeug selbst irgendetwas nicht in Ordnung gewesen wäre. Die Mähmaschine gehört dem Bauern, dem auch die Wiese auf der rechten Strassenseite gehört.

Anmerkung zur Zulassung selbstfahrender Fahrzeuge

Die Frage nach der Zulässigkeit von selbstfahrenden Fahrzeugen oder (zukünftig) gar von humanoiden Robotern als Fahrern im Strassenverkehr soll hier nicht behandelt werden.[202] Bis vor kurzem ging das Strassenverkehrsgesetz davon aus, dass jedes Fahrzeug einen Fahrer aufweisen und dieser das Fahrzeug ständig beherrschen muss (Art. 31 Abs. 1 SVG). Dass es sich beim Fahrer um einen menschlichen Fahrer handeln muss, ist historisch klar und einsichtig, wird aber spätestens dann deutlich, wenn man einen Blick auf die Anforderungen an den Zustand des Fahrers wirft (Art. 2 VRV), die allesamt auf Menschen gemünzt sind. Ferner darf der Fahrer das Steuer des Fahrzeuges während der Fahrt nie aus der Hand lassen (Art. 3 Abs. 3 VRV). Diese Vorschrift setzte dem Einsatz von blossen Fahrassistenzsystemen auf Schweizer Strassen eine enge Grenze.[203] Seit dem 1. März 2025 wurde diese Grenze teilweise durchstossen, indem das Gesetz um einen neuen Titel IIa über Fahrzeuge mit einem Automatisierungssystem ergänzt wurde (Art. 25a–25h SVG).[204]

Für das Folgende wird vereinfacht davon ausgegangen, dass selbstfahrende Fahrzeuge zugelassen sind.

Beispiel 2: Pflegeroboter

Sachverhalt

Wenn die pflegebedürftige Frau A ihr Zimmer in der Pflegeeinrichtung X verlässt, um einen Spaziergang zu machen, wird sie vom Pflegeroboter Z begleitet und unterstützt. Der Pflegeroboter Z wurde ihr von der Pflegeeinrichtung als Dienstleistung unter ihrem Pflegevertrag zur Verfügung gestellt. Eines Tages besucht die Tochter von Frau A, Frau B, ihre Mutter. Als Z Frau A eine Tür öffnet und Platz lässt, damit Frau A durch die Tür geht, stösst er Frau B an, die daraufhin einen Treppenabsatz hinunterfällt und sich einen Arm bricht.

Als zweites Beispiel dient ein hypothetisches Unfallszenario, bei dem die direkte, körperliche Interaktion eines Roboters mit Menschen zu einem Personenschaden führt. Dieses zweite Beispiel soll bewusst nicht utopisch sein, sondern sich in die Reihe der in naher Zukunft als realistisch gesehenen KI-Anwendungen wie Lagerist, Bauarbeiter oder Staplerfahrer einreihen, die eingangs genannt wurden.[205]

Anmerkungen zum Einsatz von Robotik in der Pflege

Im Pflegebereich wurden bereits verschiedene Typen von Robotern versuchsweise eingesetzt, die sich u.a. in Serviceroboter, Assistenzroboter und Unterhaltungsroboter unterteilen lassen.[206] Assistenzroboter unterstützen das Pflegepersonal bei der Betreuung der Patienten, etwa beim Heben und Umlagern von Patienten[207] oder mit alltäglichen Arbeiten wie Essenstransport, Reinigung der Räumlichkeiten oder Medikamentenverteilung.[208] Je nach Definition der Kategorie können Assistenzroboter aber auch ältere Pflegebedürftige direkt unterstützen und ihnen einen Teil ihrer verlorenen Autonomie zurückgeben. Solche Roboter unterstützen die Pflegebedürftigen in ihrem Alltagsleben mit vielfältigen Handreichungen.[209]

Zur Kategorie der Assistenzroboter zählen insbesondere sogenannte Gehhilfen. Gehhilfen werden in erster Linie entwickelt, um Behinderungen älterer Menschen zu kompensieren und gleichzeitig das Gleichgewicht, die Stabilität und die Unterstützung beim Gehen zu verbessern. Sie helfen auch bei der Erleichterung der Mobilität wie des Manövrierens, Gehens, Stehens und Sitzens, wodurch sie die Selbstständigkeit erhöhen.[210] Diese Geräte können mit Informations- und Kommunikationstechnologie ausgestattet sein, um Sturzunfälle zu erkennen und im Bedarfsfall das medizinische Fachpersonal und die Pfleger zu alarmieren.[211] Wenn es auch bereits verschiedene Anwendungsbeispiele solcher Roboter gibt, kann ihre Entwicklung noch nicht als ausgereift gelten.[212] Neben teilweise mangelnder Akzeptanz und Annahme durch die Pflegebedürftigen selbst[213] kann eine mangelnde Koordination zwischen Mensch und Roboter, wie im zweiten Beispiel illustriert, zu Stürzen und anderen Unfällen führen.[214]

Anmerkungen zur Zulassung von Robotern

Öffentlich-rechtliche Aspekte sollen im Folgenden wiederum ausser Acht gelassen werden.[215] Mit Blick auf die Problematik bei den selbstfahrenden Autos ist wohl auch bei Robotern zu prüfen, ob sie allenfalls einer spezialgesetzlichen Zulassung bedürfen. So wirft Steinrötter die Frage auf, ob Pflegeroboter als Medizinprodukt im Sinne der Medizinproduktegesetzgebung gelten können.[216] Dies könnte insbesondere für solche Pflegeroboter in Betracht kommen, die der Diagnose, Verhütung, Überwachung, Vorhersage, Prognose, Behandlung oder Linderung von Krankheiten, Verletzungen oder Behinderungen dienen,[217] etwa, indem sie den Gesundheitszustand von Pflegebedürftigen kontrollieren oder Medikamente verabreichen. Auch sogenannte «Kuschelroboter» dürften nach Steinrötter als Medizinprodukte gelten. Pflegeroboter, die nicht als Medizinprodukte qualifizieren, müssen immerhin die Anforderungen des PrSG erfüllen.

Beispiel 3: Falsche Auskünfte eines Chatbots

Ein Anleger, der von einem Anlageberater beraten wird, wendet sich an eine Digitalbank, um eine Kontoverbindung zur Abwicklung des geplanten Geschäfts einzurichten. Die Digitalbank ermöglicht es dem Anleger, die Grundzüge des Geschäfts durch einen KI-Agenten auf seine wirtschaftliche Solidität zu prüfen. Wir könnten uns dies so vorstellen, dass die Digitalbank integriert in ihre e-Banking-Plattform einen Chatbot zur Verfügung der Kundschaft hält.[218] Der Anleger kann so ganz natürlich während der Vorbereitung seiner beabsichtigten Bankgeschäfte den Chatbot zu deren Voraussetzungen und Umständen befragen, bevor er die finalen Aufträge an die Digitalbank abschickt. Erst einige Zeit nach der Eröffnung der Kontobeziehung mit der Digitalbank entdeckt der Kunde, dass der Anlageberater einen Teil der auf das Konto einbezahlten Gelder veruntreute.[219]

Die falschen Auskünfte sind das Ergebnis von fehlerhaften Datenverarbeitungen in rein softwaregestützten KI-Systemen. Diese Datenverarbeitungen haben das Ziel, Informationen aufzubereiten, um menschlichen oder künstlichen Adressaten Input für deren eigene Entscheidungen zu liefern. Erst diese auf falscher Grundlage getroffenen Entscheidungen führen schliesslich zum Schaden. Anders als zuvor die Roboter verursacht das KI-System den Schaden also nur mittelbar über seine Kommunikation mit einem menschlichen Nutzer.

Einordnung in den bestehenden Haftungsrahmen

Bevor wir uns den Eigenheiten der unfallverursachenden KI-Anwendungen und den damit verbundenen dogmatischen Problemen zuwenden, lohnt es sich, erst einmal einen Schritt zurückzumachen. Letztlich geht es in allen Beispielen darum, den geschädigten Personen zu ihrem Schadenersatz zu verhelfen. Ergänzend kann die Frage nach den Regressmöglichkeiten hinzutreten, die der zuerst ins Recht gefassten Person zustehen. Um den Lösungsweg zur Verwirklichung dieses Ziels zu finden, sind die Sachverhalte in den bestehenden Haftungsrahmen einzuordnen.

Im Beispiel 1 zum Einsatz eines selbstfahrenden Lieferwagens wird sich die Haftung des Halters des Strassenfahrzeugs als dominierend zeigen. Es ist davon auszugehen, dass sich die geschädigte Person immer dann, wenn eine Gefährdungshaftung zur Verfügung steht, an das zugehörige Haftungssubjekt halten wird. Häufig (aber nicht immer) wird diese Person der wirtschaftlich potente Akteur sein, der vielleicht sogar gegen Schäden versichert ist. Deshalb treten die Probleme mit der Haftung der natürlichen Personen, die den Einsatz des Roboters verantworteten oder die diesen hergestellt hatten und die im Kausalverlauf weiter hinten zu finden sind, zumindest aus Sicht der geschädigten Person in den Hintergrund. Ergänzend kann je nach Umständen auf die Produkthaftung abgestellt werden, insbesondere wenn ihre Voraussetzungen und Entlastungen mit Blick auf die Besonderheiten im Zusammenhang mit KI-Anwendungen gesetzgeberisch geklärt oder zumindest verbessert werden (wie dies nun in der EU mit der überarbeiteten Produkthaftungsrichtlinie vorbereitet wurde).

Ähnliche Lösungswege für die Schadensregulierung aus Sicht der geschädigten Person sind in anderen Situationen gut denkbar. Stösst ein Roboter, der auf einem Bahnhof als Gepäckträger dient, einen wartenden Pendler vor einen einfahrenden Zug, greift anstelle der Halterhaftung die Haftung für den Inhaber des Eisenbahnbetriebs.[220] Ausserhalb des Bahngeländes fiele dieser Sonderhaftungstatbestand weg. Vielleicht griffe dort eine andere Haftung, wie erneut die Fahrzeughalterhaftung (Roboter stösst Passanten vor ein Auto) oder die Werkeigentümerhaftung (Roboter stösst Passanten eine Kellertreppe hinunter). Diesen Fällen ist gemein, dass jeweils ein nur zufällig beteiligter Dritter für den Schaden einstehen muss und nicht das Dienstleistungsunternehmen, welches mit dem Roboter Gewinne einfährt. Angesichts der dogmatischen Unsicherheiten[221] ist gut denkbar, dass sich der Hersteller des Roboters einem Anspruch nach dem PrHG entziehen könnte. Um hier Haftungslücken zu vermeiden und für einen sachgerechten Interessenausgleich zu sorgen, könnte der Gesetzgeber eine der Tierhalterhaftung nachempfundene «Roboterhalterhaftung» einführen, welche die charakteristischen Betriebsrisiken beim Einsatz von Robotern von den geschädigten Personen auf die Einsatzbetriebe umleitet.[222]

Bei der Frage nach dem Regress ist zu untersuchen, wie die mit KI verbundenen Risiken in der Kaskadenordnung von Art. 51 Abs. 2 OR[223] zugeordnet werden können. Insbesondere ist das Zusammentreffen der Verschuldenshaftung von Mitarbeitern und Kausalhaftung (Produktfehler) zu betrachten.

Auch in Beispiel 2 ergeben sich a priori mehrere Möglichkeiten, eine Haftung anzuknüpfen: Produkthaftung des Herstellers des Pflegeroboters sowie Haftung der an der Herstellung oder am Einsatz des Roboters beteiligten Personen (Mitarbeiter des Herstellers bzw. des Dienstleisters, der den Pflegeroboter zur Verfügung stellt).

Aus praktischer (insbesondere beweisrechtlicher) Sicht erst an letzter Stelle stehen wird die Verschuldenshaftung der natürlichen Personen, die den Einsatz der künstlichen Akteure vorbereitet haben. Denkbar ist ein Regress des Einsatzbetriebs als Arbeitgeber der für den Einsatz des KI-Systems verantwortlichen Mitarbeiter oder ein Regress des Herstellers gegen die Entwickler und Programmierer des Steuerungsalgorithmus des KI-Systems.

Typischerweise kommen falsche Auskünfte im Rahmen vorbestehender Vertragsverhältnisse oder im Vorfeld eines Vertragsabschlusses vor, sodass regelmässig die vertragliche Haftung im Vordergrund steht.[224] Auf das Deliktsrecht ist hingegen abzustellen, wenn die Auskunftserteilung weder in Ausübung eines Gewerbes noch sonst gegen Entgelt erfolgt. Dann ist die Auskunftserteilung nach ständiger Rechtsprechung des Bundesgerichts nicht als Erfüllung einer übernommenen vertraglichen Verpflichtung anzusehen, sondern als ausservertragliches Handeln.[225] Dies gilt wie in Beispiel 3 für Bankauskünfte, die ein Kunde unabhängig von einem bestimmten Geschäft erbittet und erhält.[226]

Kausalhaftung (Betriebsgefahr, Werk)

Beurteilung unter aktuellem Recht

Halterhaftung

Der Geschädigte aus Beispiel 1 kann sich zunächst auf die Halterhaftung berufen und den Spediteur auf Schadenersatz einklagen: Wird durch den Betrieb eines Motorfahrzeuges ein Sachschaden verursacht, so haftet der Halter für den Schaden (Art. 58 Abs. 1 SVG).[227] Der Halter wird nur von der Haftpflicht befreit, wenn er beweist, dass der Unfall durch höhere Gewalt oder grobes Verschulden des Geschädigten oder eines Dritten verursacht wurde, ohne dass ihn selbst oder Personen, für die er verantwortlich ist, ein Verschulden trifft und ohne dass eine fehlerhafte Beschaffenheit des Fahrzeuges zum Unfall beigetragen hat (Art. 59 Abs. 1 OR). Da es sich um eine Kausalhaftung handelt, gibt es im vorliegenden Fall keinerlei Probleme mit dem «Verschulden» des Steuerungsalgorithmus oder dem Verschulden der an der Vorbereitung des selbstfahrenden Lieferwagens beteiligten Personen.

Der selbstfahrende Lieferwagen war im Zeitpunkt des Unfalls offensichtlich in Betrieb, da es bestimmungsgemäss in Bewegung war.[228] Anzeichen auf höhere Gewalt oder grobes Verschulden des Geschädigten oder eines Dritten gibt es in der Beschreibung des Sachverhalts keine. Eine fehlerhafte Beschaffenheit des Fahrzeugs würde vorliegen, wenn das Fahrzeug hinsichtlich Materials, Ausstattung oder Unterhalt bezüglich Betriebs- und Verkehrssicherheit nicht dem Stand der Technik entspricht oder wenn seine Vorrichtungen auf andere Weise versagen.[229] Hierzu gibt es im Fall von Beispiel 1 keine Hinweise. Insbesondere wird davon ausgegangen, dass der selbstfahrende Lieferwagen ordentlich zugelassen ist.

Bei einem vollautomatisierten Fahrzeug haftet sinngemäss der Halter, da sich Unfallschäden dem Betrieb des Fahrzeugs und damit dessen Betriebsgefahr zuordnen lassen. Für Lohmann/Müller-Chen ist die primäre Anknüpfung an die Halterhaftpflicht beim selbstfahrenden Fahrzeug stimmig, da der Halter den Hauptnutzen aus dem Fahrzeug mitsamt der vollautomatischen Technik ziehe. Wenn schon heute der Halter für das Verhalten des Lenkers einstehen müsse, müsste dies auch für die Zukunft gelten, wenn das Fahrzeug ohne Lenker auskommt.[230] In diesem Sinn äussert sich auch Weichbold, wonach der Halter unabhängig vom Automatisierungsgrad die Betriebsgefahr veranlasst, indem er über den Einsatz des Fahrzeugs bestimmt und daraus den Nutzen zieht.[231]

Sofern keine Einwirkung Dritter von aussen auszumachen ist und kein Fall von höherer Gewalt vorliegt, wird nach Lohmann/Müller-Chen eine Entlastung des Halters kaum möglich sein, da ihm eine fehlerhafte Beschaffenheit des Fahrzeugs zuzurechnen sein wird.[232] Dies lässt sich dadurch begründen, dass ein Fehlverhalten des Steuerungsalgorithmus mit einem Fahrfehler eines menschlichen Fahrers zu vergleichen ist.[233] Solche Fahrfehler gehören nach geltendem Rechtsverständnis zur Betriebsgefahr bei Fahrzeugen und fallen grundsätzlich unter die Haftung des Halters.[234] Eine Entlastung ist in diesem Fall nicht möglich, wenn keine Dritteinwirkung und kein Selbstverschulden des Geschädigten vorliegen.

Werkeigentümerhaftung

Im Fall von Beispiel 2 könnte die geschädigte Frau B ihren Schadenersatzanspruch allenfalls auf die Werkeigentümerhaftung gründen. Als Werk käme dabei nicht etwa der Pflegeroboter Z in Frage, sondern das Gebäude der Pflegeeinrichtung. Mängel an der Ausführung der Treppenanlage in der Pflegeeinrichtung gelten als Werkmangel des Gebäudes.[235] Die Beurteilung, ob dies hier der Fall ist, kann offenbleiben.[236] Die diesbezüglichen Überlegungen wären weitgehend unabhängig von den hier interessierenden Eigenheiten von KI-Anwendungen im Alltagseinsatz. Die Pflegeeinrichtung wäre gut beraten, den Platzbedarf für einen Einsatz von Pflegerobotern Z insbesondere im Bereich der Treppe gebührend zu berücksichtigen.

Verbesserungen: Vorschau

Aufgrund der Besprechung der Beispiele 1 und 2 drängen sich u.E. keine unmittelbaren Anpassungen an den besprochenen Haftungsnormen auf. Auf prozessuale Verbesserungen gehen wir in den Abschnitten VI.6.3 und VI.7.2 ein.

Produkthaftung

Beurteilung unter aktuellem Recht

Treten mit selbstfahrenden Fahrzeugen im vollautomatisierten Modus wie in Beispiel 1 Unfälle auf, so lässt dies gemäss Lohmann/Müller/Chen – mangels menschlichen Fehlverhaltens – in vielen Fällen auf einen Produktfehler schliessen.[237]

Der direkt geschädigte Eigentümer der durch das Fahrzeug beschädigten Sache könnte also seinen Anspruch auf Schadenersatz auf die Produkthaftpflicht abstützen. Dies gilt jedoch nicht für den Bauern, da er die beschädigte Mähmaschine nicht privat nutzt (Art. 1 Abs. 1 Bst. b PrHG). Unternehmen aller Art, seien sie gewerblich, industriell oder kaufmännisch, sind nach dem Willen des Gesetzgebers hinsichtlich Sachschäden vom Anwendungsbereich des PrHG ausgeschlossen.[238] Auf das PrHG berufen kann sich nur der Eigentümer des beschädigten oder zerstörten Modellflugzeugs. Nur bei Personen- oder Körperschäden spielt die Unterscheidung nach dem gewerblichen oder privaten Gebrauch keine Rolle.

Der Nachweis eines Produktfehlers stellt für den Geschädigten eine Herausforderung dar,[239] ganz ähnlich wie dies beim Nachweis des Verschuldens von Hilfspersonen der Fall ist. Für eine Fehlfunktion am Fahrzeug selbst gibt es im Sachverhalt von Beispiel 1 keine Anhaltspunkte. Der Steuerungsalgorithmus ist offensichtlich ein wesentlicher Bestandteil des Fahrzeugs. Wird er isoliert als eigenes Produkt gesehen, stellt sich das Problem, ob Software als Produkt i.S.v. Art. 3 PrHG gilt oder nicht. Je nachdem kann der Geschädigte entweder den Hersteller des Fahrzeugs als Endprodukt oder aber gezielt den Hersteller des Steuerungsalgorithmus als integrierte Produktkomponente einklagen.[240]

Aufgrund des Sachverhalts steht fest, dass das Wendemanöver nicht notwendig gewesen wäre; es gab keinen Grund, dem Mistkran auszuweichen, der nicht auf der Strasse, sondern in der angrenzenden Wiese stand. Der Steuerungsalgorithmus erkannte den Mistkran nur fälschlicherweise als Hindernis – wohl aufgrund seiner ungewohnten, hoch aufragenden Stellung.[241] Im übertragenen Sinn beging der Steuerungsalgorithmus mit seinem der Situation nicht angemessenen Verhalten einen «Fahrfehler» – als solchen würde man es wohl bei einem menschlichen Fahrer bezeichnen. Hier ist zu prüfen, ob dieser «Fahrfehler» als Produktfehler i.S.v. Art. 4 Abs. 1 PrHG zu qualifizieren ist.[242]

Von aussen ist kaum zu beurteilen, ob die Herstellerin bei der Programmierung des Steuerungsalgorithmus vollkommen ungeeignete Algorithmen ausgewählt hat oder ob Programmierfehler oder sonstige Defekte am Algorithmus vorliegen. Allenfalls liesse sich vermuten, dass bei der Programmierung und dem initialen Training des Algorithmus ein dem Unfallszenario vergleichbares Szenario gefehlt hat. Dem Geschädigten dürfte es jedenfalls schwerfallen, solche Mängel festzustellen und gerichtsfest nachzuweisen. Nach der für den Geschädigten günstigen Meinung von Fellmann erstreckt sich die Produkthaftung der Herstellerin beim Inverkehrbringen lern- und entscheidungsfähiger Algorithmen auf alle aus dieser Lernfähigkeit entstehenden Schäden.[243] Ein Gericht, welches dieser Meinung folgte, müsste hier einen Produktfehler erkennen. Nach Hänseberger liegt hingegen kein Produktfehler vor, wenn die getroffene Entscheidung noch innerhalb des von der Herstellerin bestimmten Handlungsspielraums des lernfähigen Algorithmus liegt.[244]

Für das Gericht stellt sich somit die Frage, ob das unfallursächliche Verhalten des Steuerungsalgorithmus noch innerhalb oder bereits ausserhalb des von der Herstellerin definierten Handlungsspielraums zu liegen kommt. Wie die Erfahrung und die umfangreiche Rechtsprechung zum SVG zeigen, machen Menschen regelmässig Fehler im Strassenverkehr. Es ist wichtig, bei der Beurteilung von Unfällen mit Robotern oder selbstfahrenden Fahrzeugen realistisch zu bleiben und keine überspannten Erwartungen an die Sicherheit einer KI-Anwendung zu stellen. Als Vergleichsmassstab könnte das Verhalten eines menschlichen Fahrers dienen, dem kein Verschulden vorgeworfen werden kann.

Der Verschuldensbegriff des SVG stimmt mit jenem des allgemeinen Deliktsrechts nach Art. 41 ff. OR überein.[245] In der Regel[246] kommt im Strassenverkehr nur fahrlässiges Verhalten in Frage, wobei zwischen leichtem, mittlerem und schwerem Verschulden unterschieden wird. Grobe Fahrlässigkeit und damit ein schweres Verschulden liegt nach der Rechtsprechung vor, wenn die elementarsten Vorsichtsgebote missachtet werden.[247] Hierfür ist ausreichend, dass der Unfallfahrer das Risiko hätte erkennen müssen. Unterhalb dieser Schwelle ist – immer abhängig von den konkreten Umständen – von einem mittleren oder leichten Verschulden auszugehen.[248] Nicht die subjektive Aufmerksamkeit des Unfallfahrers ist massgeblich, sondern die objektivierte Aufmerksamkeit eines durchschnittlichen Verkehrsteilnehmers.[249]

Was die objektivierte Aufmerksamkeit betrifft, verlangt Art. 31 Abs. 1 SVG vom Lenker, dass er sein Fahrzeug ständig so zu beherrschen hat, dass er seinen Vorsichtspflichten nachkommen kann. Er muss jederzeit in der Lage sein, auf die jeweils erforderliche Weise auf das Fahrzeug einzuwirken und auf jede Gefahr ohne Zeitverlust zweckmässig zu reagieren.[250] Weitere Konkretisierungen dieser Pflichten finden sich in Art. 3 VRV zur Bedienung des Fahrzeugs. Der Lenker hat seine ganze Aufmerksamkeit auf die Strasse und den Verkehr zu richten. (Telefonate oder E-Mails lenken ab.) Auch Ereignisse am Strassenrand, wie spielende Kinder, müssen beobachtet werden.[251]

Im vorliegenden Fall hätte sich ein menschlicher Fahrer von einem hochaufgerichteten Mistkran vielleicht ebenfalls erschrecken lassen. Sollte der Mistkran jedoch schon von Weitem sichtbar gewesen sein, hätte der Fahrer vorher abgelenkt sein müssen. In unübersichtlichem Gelände hätte der Fahrer seine Geschwindigkeit anpassen müssen. Alles in allem spricht vieles dafür, dass ein vergleichbarer Unfall einem menschlichen Fahrer als leichtes bis mittleres Verschulden ausgelegt würde. Dies wiederum spricht dafür, die Reaktion des Algorithmus als ausserhalb eines akzeptablen Handlungsspielraums befindlich anzusehen. Folgt man dieser Argumentation, so ist im Ergebnis von einem Produktfehler auszugehen.

Ohne das abrupte Wendemanöver zur Seite des Abhangs hin, wäre der Unfall nicht geschehen, womit die natürliche Kausalität erstellt ist. Zwar ist es der selbstfahrende Lieferwagen und nicht der Steuerungsalgorithmus, der das Modellflugzeug beschädigt. Nach der üblichen Formel des gewöhnlichen Laufs der Dinge[252] erscheint der «Fahrfehler» des Steuerungsalgorithmus jedoch adäquat kausal für das Stürzen des Fahrzeugs von der Fahrbahn auf das Modellflugzeug und somit für dessen Beschädigung oder Zerstörung.

Fraglich ist zuletzt, ob der Hersteller einen Entlastungsgrund nach Art. 5 PrHG geltend machen könnte. Zunächst einmal könnte die zeitliche Grenze des Inverkehrbringens des Produkts, d.h. des selbstfahrenden Lieferwagens bzw. des Steuerungsalgorithmus, den Anspruch auf Schadenersatz abschneiden (Art. 5 Abs. 1 Bst. b PrHG).[253] Wie bereits besprochen, muss die Anwendung dieses Entlastungstatbestandes auf selbstlernende KI-Systeme unter dem geltenden Recht als unklar gelten. Alternativ könnte auch ein Fehler vorliegen, der vom Hersteller nicht vorhergesehen werden konnte (Art. 5 Abs. 1 Bst. e PrHG).[254] Im vorliegenden Fall scheint der Steuerungsalgorithmus beim Training mit Daten zu verschiedenen Verkehrssituationen nicht adäquat vorbereitet worden zu sein. Wie das reale Beispiel mit dem Fuhrmann gezeigt hat,[255] können einem Menschen ähnliche Fehler unterlaufen. Keine Rolle kann hier spielen, den einen Fahrfehler im Sinne einer «Standardabweichung»[256] mit dem Verhalten während seiner bisherigen Einsätze zu vergleichen. Auch wenn der Steuerungsalgorithmus zuvor unfallfrei unterwegs war, spricht der schliesslich eingetretene Unfall nicht gegen einen Produktfehler bzw. seine Vorhersehbarkeit durch die Herstellerin.

Die Überlegungen zum Training des Steuerungsalgorithmus müssen in analoger Weise auch für das Beispiel 2 geführt werden. Da hier ein Personenschaden vorliegt, greift die Produkthaftung.[257] Ob das Produkt selbst, das den Schaden verursacht hat, gewerblich oder privat genutzt wird, spielt in diesem Fall keine Rolle.[258] Der Hersteller müsste genügend geeignete Trainingsdaten bereitstellen, um Begegnungen zwischen verschiedenen Personen an unterschiedlichen Orten zu simulieren. In der Literatur sind Probleme von Pflegerobotern mit der Koordination bei verschiedenen Bewegungsabläufen wie dem Durchschreiten von Türen dokumentiert.[259] Der im Sachverhalt von Beispiel 2 beschriebene Unfall erscheint deshalb bereits weniger aussergewöhnlich als der Unfall aus Beispiel 1. Das Gefahrenpotential eines Zusammentreffens des Pflegeroboters mit seinem Schützling und einer weiteren Person wie Frau B in der Nähe der Treppe sollte tendenziell noch innerhalb der «Standardabweichung» der erwartbaren Situationen zu liegen kommen, die der Steuerungsalgorithmus des Pflegeroboters noch unfallfrei meistern können sollte. Dies spricht für die Annahme eines Produktfehlers.

Verbesserungen: überarbeite Produkthaftungsrichtlinie

Als Nächstes wollen wir besprechen, wie eine Nachführung der überarbeiteten Produkthaftungsrichtlinie bei der Klärung einiger der zuvor angesprochenen Unklarheiten (Software als Produkt, eigene Haftung von Herstellern von Komponenten, Zeitpunkt des Inverkehrbringens) helfen könnte[260].

Software wird neu ausdrücklich in den Produktbegriff einbezogen (Art. 4 Ziff. 1). Über den Begriff der Komponente (Art. 4 Ziff. 4),[261] welche vom Hersteller des Endprodukts selbst oder unter seiner Kontrolle in dieses integriert wird, lässt sich in Beispiel 1 der Steuerungsalgorithmus (als Software umgesetzt in ein Steuerungsmodul) direkt in den sachlichen Anwendungsbereich der Produkthaftung einbeziehen. Dadurch haftet neben der Herstellerin des selbstfahrenden Lieferwagens (als (End‑)Produkt) auch direkt die Herstellerin des Steuerungsmoduls für den Schaden, der durch den fehlerhaften Steuerungsalgorithmus (Komponente) verursacht wurde (Art. 8 Abs. 1 Bst. b). Das Gleiche gilt für den Steuerungsalgorithmus des Pflegeroboters aus Beispiel 2.

Als weiteres Problem wurde das Trainieren des Steuerungsalgorithmus ausgemacht: Die Anwendung auf selbstlernende KI-Systeme des Entlastungstatbestandes nach Art. 5 PrHG für Fehler, die erst nach Inverkehrbringen des relevanten Produkts entstanden sind, muss unter dem geltenden Recht als unklar gelten. Die überarbeitete Produkthaftungsrichtlinie sieht nun vor, dass die Fähigkeit, nach Einsatzbeginn weiter zu lernen, bei der Beurteilung der Fehlerhaftigkeit eines Produkts berücksichtigt werden soll (Art. 7 Abs. 2 Bst. c).[262] Die Erläuterungen der EU-Kommission zum Vorschlag dokumentieren, dass es tatsächlich darum geht, dass «Hersteller für Änderungen an Produkten, die sie bereits in Verkehr gebracht haben, haftbar gemacht werden können, auch wenn diese Änderungen durch Software-Updates oder maschinelles Lernen ausgelöst werden».[263]

Bei der Gegenausnahme zur Haftungsbefreiung für eine Fehlerhaftigkeit, die erst nach dem Zeitpunkt des Inverkehrbringens oder der Inbetriebnahme entstanden ist (Art. 11 Abs. 2 Bst. c), ist jedoch nur noch von Software einschliesslich Upgrades die Rede (Art. 11 Abs. 2 Bst. b). Hier geht es um die «fortdauernde Einflussnahme des Herstellers auf die sicherheitsrelevanten Produkteigenschaften nach Inverkehrbringen im Wege von Updates und Upgrades».[264] Maschinelles Lernen wird hier nicht mehr erwähnt. Daraus könnte man schliessen, dass es bei selbstlernenden KI-Systemen der Beurteilung des Gerichts überlassen ist, diese Fähigkeit angemessen zu berücksichtigen, was das Ergebnis offenlässt.

In jedem Fall muss der Kläger beweisen, dass der Fehler auf ein unzweckmässiges oder ungeeignetes Training als Ursache nach Inverkehrbringen zurückgeht, nachdem der Beklagte die Voraussetzungen der Entlastung nach Bst. c nachgewiesen hat.[265] So liegt für Roegels ein Konstruktionsfehler vor, für den der Hersteller einzutreten hat, wenn der Eintritt des Schadens durch eine bessere Konstruktion des Algorithmus, durch präzisere (Trainings‑)Daten oder durch ein besseres Training hätte vermieden werden können.[266] Um dem Kläger diesen Beweis zu erleichtern, enthält die überarbeitete Richtlinie gewisse Erleichterungen. So kann der Kläger vom Gericht verlangen, dass dieses den Beklagten anweist, relevante Beweismittel offenzulegen, sofern sein Schadenersatzanspruch «ausreichend» plausibel dargelegt ist (Art. 9 Abs. 1).

Verbesserungen: KI-Regulierung und Beweisrecht

Im Anwendungsbereich der KI-Verordnung qualifizierte das Steuerungsmodul des selbstfahrenden Lieferwagens als Hochrisiko-KI-System i.S.v. Art. 6 des Gesetzes über KI.[267] Dann könnte der Kläger aus Beispiel 1 etwa Daten über das Training und die Validierung des Steuerungsalgorithmus (Daten und Daten-Governance nach Art. 10) oder die Protokolle aus dem Betrieb des Systems (Art. 12) herausverlangen.[268] Aufgrund der für das Training des Steuerungsalgorithmus verwendeten Datensätze könnte allenfalls nachgewiesen werden, ob die Herstellerin ein Szenario wie das des hochaufgerichteten Mistkrans vorausgesehen und mitberücksichtigt hat. Wobei das beurteilende Gericht sich dazu äussern müsste, ob von einem umsichtigen Hersteller erwartet werden kann, dass er ein solches Szenario in seine Programmierung einbezieht, oder ob es nicht vielmehr ausserhalb des vernünftigerweise Erwartbaren zu verstehen ist.[269]

In analoger Weise qualifizierte auch der Steuerungsalgorithmus des Pflegeroboters aus Beispiel 2 als Hochrisiko-KI-System.[270] In diesem Fall scheint m.E. mehr dafür zu sprechen, das Zusammentreffen von Frau A und Frau B in unmittelbarer Nähe zur Treppenanlage als für die Entwickler des Pflegeroboters durchaus vorhersehbares Szenario anzusehen. Dies spricht für die Annahme eines Produktfehlers.

Kommt der Beklagte der Anordnung zur Offenlegung von Beweismitteln nicht nach, hat das Gericht im Sinne einer widerlegbaren Vermutung von einer Fehlerhaftigkeit des fraglichen Produkts auszugehen.[271] Diese Vermutung greift auch, wenn es dem Kläger nachzuweisen gelingt, dass das Produkt verbindliche Sicherheitsanforderungen des Unionsrechts oder des nationalen Rechts, die einen Schutz gegen das Risiko des eingetretenen Schadens bieten sollen, nicht erfüllt.[272] Zu denken ist namentlich an das Erfordernis, für Hochrisiko-KI-Systeme ein Risikomanagementsystem (Art. 9) einzurichten und eine Qualitätskontrolle (Art. 16 Bst. b) sicherzustellen. Ein solches Risikomanagementsystem müsste sicherstellen, dass Erfahrungen aus Einsätzen des selbstfahrenden Lieferwagens auf Überlandstrassen und ähnlichem Gelände in das laufende Training des Steuerungsalgorithmus einfliessen.

Im Sinne eines Ausblicks müssen in Bezug auf die Produkthaftung und ihre Ausnahmen Praxis und Erfahrungen mit zukünftigen KI-Anwendungen zeigen, ob der Vorschlag der EU-Kommission, «als Schutzmaßnahme die Kontrolle durch den Menschen ab der Phase der Auslegung und während des gesamten Lebenszyklus der KI-Produkte und -Systeme vorzusehen»,[273] ein gangbarer oder gar notwendiger Weg ist. Dieser Vorschlag wurde mit dem Konzept der menschlichen Aufsicht in die KI-Verordnung übernommen (Art. 14). Wie diese Vorschrift zu verstehen und umzusetzen ist, muss die Praxis zeigen. Eine Überwachung des gesamten Betriebs des Steuerungsmoduls in Echtzeit kann realistischerweise nicht erwartet werden. Die Vorschrift könnte so umgesetzt werden, dass der Nutzer durch den laufenden Einsatz des KI-Systems Rückmeldungen an den Hersteller bzw. das lernende KI-System selbst geben kann, sodass es sich immer besser an das Umfeld anpasst, in dem es sich zu bewähren hat. Sowohl im Fall von Beispiel 1 als auch bei jenem von Beispiel 2 müsste der Unfall zu einem Update des jeweiligen Steuerungsmoduls führen, sodass ein ähnlicher Unfall in Zukunft nicht mehr vorkommen sollte.

Verschulden der menschlichen Akteure

Beurteilung unter aktuellem Recht

Mitarbeiter des Einsatzbetriebes

Im Fall des Beispiels 1 kann die geschädigte Person neben dem Halter auch den Lenker ins Recht fassen, um sich für ihren Schaden entschädigen zu lassen (Art. 41 ff. OR). Bei einem menschlichen Fahrer würde überdies der Spediteur als Geschäftsherr für jedes Fehlverhalten seines Fahrers als seiner Hilfsperson haften (Art. 58 Abs. 4 SVG).[274] Bei Beispiel 1 findet die Lenkerhaftung jedoch keine Anwendung, da der Steuerungsalgorithmus bzw. der selbstfahrende Lieferwagen mangels Rechtspersönlichkeit nicht Hilfsperson sein können.[275] Als haftende Hilfspersonen kommen nur die Mitarbeiter des Spediteurs in Frage, die den Einsatz des selbstfahrenden Lieferwagens angeordnet oder vorbereitet haben.[276] Diese Vorbereitungsarbeiten müssen sich auf den Betrieb des Fahrzeugs beziehen, damit sie i.S.v.Art. 58 Abs. 4 SVG als «mitwirkend» gelten und dem Halter zugerechnet werden.[277] Für die analoge Welt nennt Weissenberger als Beispiel eine Hilfsperson, die dem Lenker bei einem Fahrmanöver falsche Anweisungen gibt.[278] Im Gegensatz dazu beziehe sich das unrichtige Einstellen der Bremsen durch den Garagisten nicht auf den Betrieb selbst, sondern auf den Zustand des Fahrzeugs.[279] Trägt der Zustand bzw. die fehlerhafte Beschaffenheit des Fahrzeugs zum Unfall bei, schneidet dieser Umstand dem Halter die Möglichkeit zur Entlastung ab (Art. 59 Abs. 1 SVG). Der Halter haftet diesfalls allein.[280]

Diese Abgrenzung bei vollautomatisierten Fahrzeugen sauber zu ziehen, könnte sich als schwieriger als gedacht erweisen. Für Lohmann/Müller-Chen dürften sich die Hilfspersonen des Halters nur durch einen mangelhaften Systemcheck oder infolge mangelhafter Wartung des Systems in mitwirkender Weise verantwortlich machen können.[281]

Die Hilfspersonen (Mitarbeiter) des Spediteurs sind in der Kausalkette nicht nur örtlich ziemlich weit vom Unfallort entfernt. Wann ihre Vorbereitungshandlungen für den eingetretenen Schaden im beschriebenen Sinn als adäquat kausal anzusehen sind, muss genau geprüft werden. Dies gilt insbesondere, wenn es sich beim Steuerungsalgorithmus des selbstfahrenden Lieferwagens um eine selbstlernende KI-Anwendung handelt. Im Beispiel 1 verfügt der Steuerungsalgorithmus über ein gewisses Niveau an Autonomie, sodass durchaus von einem «Fahrfehler in Analogie» gesprochen werden kann.[282] Der Nutzer eines KI-gestützten Systems, das völlig autonom operiert, muss alle objektiv angemessenen Sicherheitsmassnahmen ergriffen haben, um jeglichen Schaden zu vermeiden. Wie diese Massnahmen konkret aussehen, hängt wie immer von den Umständen ab.[283] Selbst wenn ein Gericht die Kausalität zwischen den Vorbereitungshandlungen der Mitarbeiter und dem Unfall als adäquat einschätzen würde, müsste diesen Mitarbeitern immer noch eine Sorgfaltspflichtverletzung vorgeworfen werden können. Dazu müsste ihr Verhalten anhand eines objektivierten Massstabs beurteilt werden: Entsprach ihr Entscheid, auf dieser konkreten Route einen selbstfahrenden Lieferwagen des gewählten Typs einzusetzen, dem aktuellen Standard?[284] Die geschädigte Person könnte vorbringen, der konkrete Typ Lieferwagen sei für die konkrete Fahrstrecke nicht geeignet gewesen. Die Fahrstrecke führte über Land, sodass der Steuerungsalgorithmus mit verschiedenen Hindernissen wie Landmaschinen oder Tieren konfrontiert wurde, für die er nicht geeignet vorbereitet, d.h. trainiert wurde. Das Training des Steuerungsalgorithmus sei vielmehr auf den geregelten Verkehr innerorts in einem (vor‑)städtischen Umfeld ausgerichtet gewesen, in dem als Hindernisse nur andere Fahrzeuge und Passanten vorkommen. Fahrstrecken, in einer Stadt wie La Chaux-de-Fonds, mit ihrem rechtwinkligen Strassenmuster aus Einrichtungsstrassen[285] sind für einen Steuerungsalgorithmus wohl einfacher zu bewältigen als eine unübersichtliche Situation wie am Zürcher Central. Weniger hektisch geht es in einem Industriequartier zu, obwohl dort der Verkehr mit seinen Anlieferungen weniger regelmässig und gleichförmig fliessen dürfte. So hat jede Umgebung ihre eigenen Herausforderungen. Diese Argumente deuten bereits an, dass sich der Nachweis des Verschuldens der Mitarbeiter des Spediteurs als hohe Hürde für die geschädigte Person erweisen dürfte, obwohl der beschriebene Unfallhergang von aussen betrachtet einem herkömmlichen Unfallereignis entspricht und für einen zufällig anwesenden Zeugen kaum Fragen offenlässt.

Der Roboter aus Beispiel 2 qualifiziert nicht als Werk, sondern er muss als Werkzeug behandelt werden.[286] Deshalb müssen wir die Personen in den Blick nehmen, welche den Roboter hergestellt, trainiert oder für seinen Einsatz vorbereitet haben. Es kommen dafür a priori das Pflegepersonal einschliesslich der behandelnden Ärzte, der Hersteller des Pflegeroboters bzw. dessen Programmierer und Trainer sowie andere Akteure wie etwa die Leitung der Pflegeeinrichtung in Frage.[287] Dazu müssen wir wiederum die Voraussetzungen an eine klassische Verschuldenshaftung dieser Personen prüfen: Schaden, Widerrechtlichkeit, Kausalzusammenhang und Verschulden. Hier verlangen nur die letzten beiden Aspekte nach einer speziellen Erörterung; das Auftreten von KI bringt für die beiden ersten Aspekte keine Besonderheiten ins Spiel: Beim Schaden handelt es sich um einen Körper- oder Personenschaden, der aus dem Sachverhalt vorausgesetzt werden kann. Die Widerrechtlichkeit ergibt sich ohne Weiteres aus der Verletzung der Person des Geschädigten als Verletzung eines absoluten Rechts.

Zum natürlichen Kausalzusammenhang (conditio sine qua non)[288] ist bei Beispiel 2 davon auszugehen, dass der Unfall nicht geschehen wäre, hätten die Verantwortlichen bei der Pflegeeinrichtung nicht entschieden, für die Begleitung der pflegebedürftigen Frau A einen Roboter einzusetzen. Ein menschlicher Pfleger hätte in der gleichen Situation aller Voraussicht nach[289] in einer Weise reagiert, dass der Unfall so nicht geschehen wäre. Etwas mehr Überlegung braucht es für die Adäquanz. Haben einzelne Beteiligte einzelne oder mehrere Handlungen vorgenommen, die als Ursachen «nach dem gewöhnlichen Lauf der Dinge und den Erfahrungen des Lebens geeignet waren, einen Erfolg wie den eingetretenen herbeizuführen oder mindestens zu begünstigen»[290]? Dabei zählt die objektive Voraussehbarkeit des Schadensereignisses aus der nachträglichen Perspektive einer unabhängigen Drittperson.[291] Das Kriterium der objektiven Vorhersehbarkeit ist bei Unfällen, die wie hier durch technische Anwendungen verursacht wurden, eng verknüpft mit der Erkennbarkeit des Schadenspotentials eines Produkts nach dem jeweiligen Stand von Wissenschaft und Technik im Zeitpunkt seines Inverkehrbringens.

Für den Einsatz von KI-Systemen in der Pflege gibt es nach Beck et al. nur erste Ansätze zu einem anerkannten Sorgfaltsmassstab.[292] Dazu zählte insbesondere eine regelmässige Überprüfung der Systeme. Das Gericht müsste klären, ob die verantwortlichen Mitarbeiter der Pflegeeinrichtung einen für die gestellte Aufgabe geeigneten Roboter ausgewählt und genügend vorbereitet haben. Die Aufgabe bestand im Begleiten und Unterstützen von pflegebedürftigen, insbesondere gehbehinderten Personen innerhalb der Pflegeeinrichtung und in gewissen Grenzen in ihrer näheren Umgebung. Das Gericht könnte sich kritisch fragen, ob es sinnvoll war, einen Roboter auf einem Flur mit Treppenabgängen einzusetzen, wenn die Erfahrung zeigt, dass es bei den Treppenabgängen häufig gedrängt zugeht. Es handelt sich um eine Frage der Praxis, die umso eher positiv zu beantworten ist, als es erfolgreiche Beispiele zu vergleichbaren Anwendungen gibt. Bei der Beantwortung dieser Frage ist zu beachten, dass es nicht darum gehen kann, zu leichtfertig Gefahren anzunehmen. Aus Risikoüberlegungen würde so jeder weitere Fortschritt von vornherein erschwert, wenn nicht gar ausgeschlossen.

Mitarbeiter des Herstellers

Beck/Faber/Gerndt bringen vor, dass insbesondere «Hersteller, Programmierer und Trainer den größten Einfluss auf die Entwicklung der [KI-] Systeme haben»,[293] sodass sie möglicherweise ebenfalls ins Recht gefasst werden können.

Mit Blick auf diese Mitarbeiter und vor dem Hintergrund der in Kapitel V besprochenen technischen Grundlagen können wir uns den folgenden Fragen zuwenden: i) Wurden bei der Entwicklung und Herstellung des Roboters die richtigen mathematisch-statistischen Methoden ausgewählt, um den Steuerungsalgorithmus des Roboters zu programmieren? ii) Wurde der Algorithmus des Roboters zweckmässig anhand der realistischen Umstände trainiert?

Für die Beantwortung dieser Fragen ist jeweils der Stand der Wissenschaft und Technik zu konsultieren. Es spielt eine Rolle, welche Methoden und welches Vorgehen sich in vergleichbaren Situationen bereits bewährt haben. Je mehr einschlägige Erfahrungen zur Praxistauglichkeit der betreffenden KI-Anwendung vorliegen, desto einfacher ist die Beurteilung, ob die Beteiligten den Umständen und der Praxis gemäss sorgfältig, d.h. lege artis, vorgegangen sind. Der Faktor Zeit spielt eine Rolle: Es macht einen Unterschied, ob der konkrete Einsatz eines Roboters im Zeitpunkt der Beurteilung noch eher als Experiment gesehen werden muss, oder ob es sich nur um eine neue Variante eines ansonsten bereits bewährten Alltagseinsatzes handelt. Ist einmal der Grundsatzentscheid gefallen, welcher Typ von selbstlernendem KI-Algorithmus auf ein geplantes Einsatzgebiet zur Anwendung kommen soll, kommt als nächster Schritt das Training des Algorithmus anhand geeigneter Daten. Dabei ist sorgfältig darauf zu achten, dass die Auswahl der Daten auf das geplante Anwendungsgebiet hin erfolgt. Insbesondere dürfen sich in den Daten keine versteckten Muster («Bias») befinden, welche beim Training des Algorithmus dazu führen, dass der Algorithmus ein «falsches» bzw. nicht situationsgerechtes Verhalten lernt.[294] Soll der Algorithmus des Pflegeroboters lernen, Menschen und anderen beweglichen Hindernissen auszuweichen, könnte es einen Unterschied machen, ob die dafür herangezogenen Bewegungsdaten von Passanten stammen, die alle diszipliniert in eine oder zwei Richtungen laufen (wie etwa in einem engen Zugangstunnel zu einer U-Bahn), oder ob es sich um die erratischen Bewegungsmuster von Personen handelt, die sich in verschiedene Richtungen bewegen und zuweilen völlig überraschende Richtungswechsel vornehmen. Allgemein anerkannte Standards, wie man bei der Auswahl von Daten vorgehen kann, gibt es (noch) nicht. Gefragt sind die technische Expertise und die Erfahrung der mit diesen Aufgaben betrauten Mitarbeiter des Herstellers. Gefordert sind je nach Komplexität der KI-Anwendung möglicherweise auch deren spätere Nutzer. Niemand wird das zukünftige Einsatzgebiet einer KI-Anwendung besser kennen als die Nutzer. Denkbar ist auch, dass die Nutzer erst einmal mit dem Roboter ein weiteres, initiales Training absolvieren müssen, um den Roboter an sein Einsatzgebiet zu «gewöhnen». Möglicherweise gibt es seitens des Herstellers dazu konkrete Vorgaben (Instruktionen[295]). Gleichzeitig dürfte es klar sein, dass eine sorgfältige Vorbereitung eines Roboters Zeit und somit Geld kostet. Die Nutzer könnten versucht sein, den Aufwand für das initiale Training zu minimieren – schliesslich dürfte der Einsatz von Robotern anstelle von Menschen regelmässig der Kosteneinsparung dienen. Es braucht in jedem Fall praktische Erfahrung in der Rechtsprechung, um die Erwartungen an die Sorgfaltspflichten von Funktionsträgern wie Programmierern und Data Scientists zu formulieren und zu testen.

Verbesserungen: KI-Regulierung und Beweisrecht

Wäre der im Beispiel 1 geschilderte Unfall mit einem menschlichen Fahrer geschehen, könnte sich das Gericht je nach Umständen mit den folgenden Fragen konfrontiert sehen: Hatte der Fahrer einen Führerausweis der geforderten Kategorie? War der Fahrer ausgeruht zu seinem Dienst erschienen? Wurde der Fahrer während der Fahrt durch einen Anruf auf sein Smartphone oder in anderer Weise abgelenkt? War der Fahrer alkoholisiert? Die Liste dieser Fragen liesse sich erweitern – je nach den gemachten Erfahrungen mit vergleichbaren Unfällen in der analogen Welt. Es ist die grosse Anzahl vergleichbarer Unfälle, welche es den untersuchenden Personen erlaubt, die richtigen Fragen zu stellen, welche zur Unfallursache geführt haben können. Auch im analogen Fall müssen die untersuchenden Personen Zugang zu den einschlägigen Beweismitteln haben: Der Fahrer muss den Führerausweis vorlegen. Der Spediteur muss die Fahrtenkontrolle vorlegen. Der Fahrer muss zum Unfallhergang befragt werden. Die zur Unfallstelle gerufene Polizei muss beim Fahrer eine Alkoholprobe vornehmen. Wiederum führt die Routine im Umgang mit vergleichbaren Fällen schnell zur Liste der nützlichen Beweismittel. Das Strassenverkehrsrecht sorgt auch gleich dafür, dass diese erhoben und zur Prävention weiterer Unfälle analysiert und ausgewertet werden.[296]

Die Menschen müssen erst entsprechende Erfahrungen mit Unfällen machen, an denen künstliche Akteure bzw. KI-Systeme beteiligt sind. Für die Frage nach den für den Kläger nützlichen Beweismitteln bei Unfällen mit Beteiligung von KI-Systemen gibt es erste Anknüpfungspunkte in der KI-Verordnung, die dem Schweizer Gesetzgeber Anregung geben mögen.[297] Dazu zählen insbesondere die Bestimmungen zu Transparenz und Bereitstellung von Informationen für den Betreiber (Art. 13):[298] Bei der Frage, ob der selbstfahrende Lieferwagen überhaupt in der Lage war, eine Fahrstrecke wie die aus dem Beispiel 1 unfallfrei abzufahren, könnte demnach neben der technischen Dokumentation (Art. 11) und den Aufzeichnungspflichten (Art. 12) die Betriebsanleitung (Art. 13) eine entscheidende Rolle spielen.[299] In dieser Betriebsanleitung müssen insbesondere die Merkmale, Fähigkeiten und Leistungsgrenzen des Hochrisiko-KI-Systems, einschliesslich seiner Zweckbestimmung, dokumentiert sein (Art. 13 Abs. 3 Bst. i). Dabei müssen die Betreiber auf alle bekannten oder vorhersehbaren Umstände im Zusammenhang mit der bestimmungsgemässen Verwendung des Hochrisiko-KI-Systems oder einer vernünftigerweise vorhersehbaren Fehlanwendung hingewiesen werden (iii). Je nach Bedarf müssen schliesslich die Spezifikationen für die Eingabedaten oder sonstiger relevanter Informationen über die verwendeten Trainings‑, Validierungs- und Testdatensätze unter Berücksichtigung der Zweckbestimmung des KI-Systems angegeben werden (vi).

Im Rahmen der Angaben zur Zweckbestimmung und zur bestimmungsgemässen Verwendung könnte die Herstellerin des Steuerungsalgorithmus bzw. des selbstfahrenden Lieferwagens Angaben machen, welche Einsatzgebiete für das Fahrzeug mehr oder weniger geeignet sind. Eine Herstellerin, welche bestimmte Einsatzgebiete als ungeeignet ausweist, kann sich damit vielleicht einer (Mit‑)Haftung für Unfälle vorbeugen. Sie schränkt damit auch ihre Verkaufschancen ein. Für den Betreiber hilfreich könnte ein Hinweis sein, dass das Fahrzeug mit seinem selbstlernenden Steuerungsalgorithmus anhand von Testfahrten auf den vorgesehenen Strecken weiter trainiert werden muss. Ein solches Vorgehen hätte den Unfall aus Beispiel 1 nicht unbedingt verhindern können. Einmal ist das erste Mal, dass der Steuerungsalgorithmus mit einem unvorhergesehenen Ereignis wie dem unvermittelten Auftauchen des Mistkrans konfrontiert wird. Bei Fahrzeugen, die für einen Personentransport vorgesehen sind, könnten solche Testfahrten ohne Passagiere immerhin das Schadenspotential vermindern. Ein solches Testen und Trainieren des Pflegeroboters an seinem zukünftigen Einsatzort hätte aber wohl gute Chancen gehabt, den Unfall aus Beispiel 2 zu verhindern. Wobei noch zu klären wäre, wer von den beiden Wirtschaftsakteuren, die Herstellerin oder der Betreiber, welchen Anteil an der Verantwortung für das Trainieren des Pflegeroboters tragen sollte. Eine geteilte Verantwortung scheint gerade bei einem selbstlernenden Algorithmus zweckmässig. Entsprechend sollte die Herstellerin dies in ihrer technischen Dokumentation bzw. in der Gebrauchsanweisung ausdrücklich herausstreichen. Die Anforderung aus Art. 13 der KI-Verordnung macht somit a priori Sinn. Die konkrete Erfüllung dieser neuen Sorgfaltspflicht muss im Einzelfall gut überlegt sein. Auch müssen sich die Nutzer selbstlernender KI-Systeme darüber klarwerden, dass es sich bei diesen nicht um «fertige» Produkte handelt, die man (wie etwa einen Staubsauger) einfach aus dem Regal nehmen und einsetzen kann.

Sodann könnten Aufzeichnungspflichten (wie in Art. 12 der KI-Verordnung) bei der Klärung der Unfallursachen helfen. Das Auslesen der während des Betriebs des unfallverursachenden KI-Systems erstellten Protokolle sollte dabei helfen, die Ereignisse bis zum Unfall nachvollziehen zu können. In der analogen Welt müsste dazu der Fahrer befragt werden. Selbst wenn der Fahrer wahrheitsgemäss aussagen wollte, könnte seine Erinnerung unvollständig oder schlicht unzutreffend sein. Maschinell aufgezeichnete Protokolle dürften demgegenüber für eine höhere Zuverlässigkeit gut sein.

Für die Offenlegung von Beweismitteln und das Beweismass im Schadensprozess sah die mittlerweile zurückgezogene Richtlinie über KI-Haftung verschiedene Anpassungen im nationalen Recht vor, welche die Ausgangslage für die geschädigten Personen hätten erleichtern sollen.[300] Selbst wenn die EU-Kommission ihren Richtlinienvorschlag nicht zurückgezogen hätte, wäre es keine ausgemachte Sache gewesen, dass die Schweiz diese Anpassungen in ihr nationales Recht umgesetzt hätte. Eine Beweislastumkehr dürfte politisch immer einen schweren Stand haben.

In den Beispielen 1 und 2 gälte es im Prozess nachzuprüfen, ob die Herstellerinnen der Steuerungsalgorithmen des selbstfahrenden Lieferwagens bzw. des Pflegeroboters für fehlerhaftes Training oder Validieren verantwortlich sind.[301] Das fehlerhafte Verhalten könnte hier nicht nur in einer unsachgemässen Auswahl oder Anwendung der statistischen oder rechnerischen Methoden erblickt werden. Ein fehlerhaftes Verhalten könnte auch damit begründet werden, dass der verbaute Steuerungsalgorithmus für das vorgesehene Einsatzgebiet (Überlandstrasse bzw. Treppenhaus in der Pflegeeinrichtung) nicht adäquat vorbereitet wurde.[302] Das kann daran liegen, dass für das Training nur Datenreihen eingesetzt wurden, die harmlose, unproblematische Situationen darstellten. Die in den Beispielen 1 und 2 unmittelbar zu den Unfällen führenden Situationen stellten somit für die Algorithmen nicht vorstellbare, undenkbare Ereignisse dar, mit denen sie buchstäblich nicht rechnen (!) konnten. In beiden Fällen war diese Vorbereitung also nicht gut genug gewesen, wobei dies u.E. für das Beispiel 2 mehr zutrifft als für das Beispiel 1. Das unvermittelte Erscheinen des Mistkrans in seinem Blickfeld hätte vielleicht auch einen menschlichen Fahrer erschrecken können.

In beiden Beispielen könnten sich der Spediteur bzw. die Pflegeeinrichtung als Betreiber (Nutzer) verantwortlich gemacht haben.[303] Die KI-Regulierung könnte vorsehen, dass die Betreiber bestimmte Dokumente wie die von den KI-Systemen während des Betriebs erzeugten Protokolle und andere Nachweise der Erfüllung ihrer Kontrollpflichten aufbewahren.[304] Diese Unterlagen könnten der geschädigten Person dabei helfen, vor Gericht den Nachweis für die Haftungsvoraussetzungen zu erbringen. Das Prozessrecht könnte vorsehen, dass der Beklagte diese Unterlagen im Schadensprozess vorlegen muss.[305]

Verantwortungsnetzwerk

Wie wir in den vorangehenden Abschnitten dargestellt haben, kommen für die Beispiele 1 und 2 jeweils mehrere Akteure als Schädiger und Beklagte für den Schadensprozess in Frage. Dies eröffnet den Anwendungsbereich der Kaskadenordnung von Art. 50/51 OR:[306]

In den Zeilen 1–3 sind die drei Stufen der Kaskadenordnung von Art. 51 Abs. 2 OR abgebildet. In den Spalten der rechten Hälfte finden sich die am Unfall beteiligten Akteure und Personen aufgetragen, die potenziell als Schädiger in Frage kommen.

In Beispiel 1 kommen als Schädiger in Frage: der Spediteur als Halter des selbstfahrenden Lieferwagens (Einsatzbetrieb), die Mitarbeiter des Spediteurs, welche den Lieferwagen vorbereitet und in den Einsatz geschickt haben, sowie der Hersteller des selbstfahrenden Lieferwagens bzw. des Steuerungsalgorithmus und dessen Mitarbeiter. Der Roboter als künstlicher Akteur steht nach aktuellem Recht nicht zur Verfügung.

Aus Sicht der geschädigten Person als Gläubigerin des Anspruchs auf Schadenersatz herrscht a priori Anspruchskonkurrenz. Die Schädiger haften der geschädigten Person solidarisch. Aus praktischen Gründen empfiehlt es sich für den Geschädigten, den Spediteur als (solventen) kausal haftenden Halter auf Schadenersatz einzuklagen. Nach der kreativen Auslegung der Stufenfolge von Art. 51 Abs. 2 OR könnte der Spediteur anschliessend Regress auf die übrigen Beteiligten nehmen, jeweils nach dem Beitrag ihrer individuellen Verantwortung.[307]

Als Erstes könnte der Spediteur gegen die Herstellerin des Roboters vorgehen und vertraglich oder aus der Produkthaft Regress verlangen. Dann müsste geklärt werden, ob es der Herstellerin gelänge, sich auf die Entlastung aufgrund des Entwicklungsrisikos zu berufen. Hier stellen sich die verschiedenen, zuvor besprochenen Probleme mit der Auslegung des PrHG und seiner Anwendung auf neue Technologien.[308] Eine Umsetzung der überarbeiteten Produkthaftungsrichtlinie in das Schweizer Recht dürfte die meisten zuvor angesprochenen Probleme beseitigen, wobei die beweisrechtlichen Herausforderungen immer noch beträchtlich sein dürften.

Bei einem eigenen Verschulden seiner Mitarbeiter könnte der Spediteur Rückgriff auf diese nehmen. Ein Verschulden einzelner Mitarbeiter vor Gericht nachzuweisen, muss mangels etablierter Standards und Normen sowie besonderer prozessualer Hilfen[309] zum aktuellen Zeitpunkt als schwierig gelten. Erst die wachsende Erfahrung der Gerichte mit Unfällen unter Beteiligung von KI-Systemen wird hier wohl Abhilfe schaffen können.

Das Gericht könnte aufgrund der Umstände den Schaden wie folgt verteilen: 50% des Schadens hat der Spediteur aufgrund der Betriebsgefahr des selbstfahrenden Lieferwagens, die auch bei einem herkömmlichen, von einem menschlichen Fahrer geführten Lieferwagen bestanden hätte, zu tragen. Die anderen 50% trägt die Herstellerin. Die hälftige Aufteilung liesse sich je nach Umständen dadurch begründen, dass die Herstellerin den Spediteur als Nutzer nicht ausreichend über die Grenzen der Eignung des Steuerungsalgorithmus informiert hat.

Eine einseitige Zuteilung des Schadens von 100% zulasten des Spediteurs könnte sich aufdrängen, wenn bspw. die Herstellerin ausdrücklich darauf hingewiesen hat, dass der selbstfahrende Lieferwagen nicht ausserhalb eines überwachten Betriebsgeländes eingesetzt werden darf.

Liesse sich hingegen belegen, dass die Mitarbeiter des Spediteurs bei der Vorbereitung des Lieferwagens auf seinen Einsatz gewisse Spezifikationen für die Eingabedaten oder sonstige relevante Informationen über die verwendeten Trainings- und Validierungsdaten und Testdatensätze unter Berücksichtigung der Zweckbestimmung des KI-Systems[310] nicht berücksichtigt haben, könnten sie sich direkt verantwortlich gemacht haben. In diesem Fall könnte die Verantwortung insgesamt wie folgt verteilt werden: 75% für den Spediteur aus Betriebshaftung, wovon dieser zu 25% Rückgriff auf seine Mitarbeiter nehmen kann, und 25% für den Hersteller des selbstfahrenden Lieferwagens bzw. des Steuerungsalgorithmus.

Diese Zuteilungen der Haftung sprechen dafür, dass die Verantwortung umso besser und gerechter unter den beteiligten Akteuren nach ihren massgeblichen Beiträgen verteilt werden kann, je mehr das beurteilende Gericht Einblick in die Abläufe bei der Herstellung und dem Betrieb des KI-Systems und in die Funktionsweise der beteiligten Technologie hat. Je mehr diese Transparenz durch eine kluge KI-Regulierung sichergestellt werden kann, desto weniger besteht Bedarf danach, einen Teil der Verantwortung durch mehr oder weniger abenteuerliche juristische Konstruktionen pauschal von den künstlichen Akteuren selbst tragen zu lassen. Schliesslich zeigt sich, dass das Gericht die Beteiligung von KI im Rahmen der Kaskadenordnung von Art. 50/51 OR berücksichtigen kann. Auf spezielle Konzepte wie eine Netzwerkhaftung[311] liesse sich so verzichten.

Vertrauenshaftung?

Falsche menschliche Auskunft

Im Schweizer Recht gibt es keinen besonderen Haftungstatbestand für falsche Auskünfte oder andere Datenfehler. Es kommen also die allgemeinen Regeln nach Art. 41 ff. OR zur Anwendung, auf deren Grundlage die Rechtsprechung die Fallgruppen des berechtigten Vertrauens entwickelte.[312] Wenn infolge einer falschen Auskunft ein Vermögensschaden entsteht, kann nach alter bundesgerichtlicher Rechtsprechung als Grundlage eine ungeschriebene Verhaltensnorm zum Schutz fremden Vermögens zur Anwendung gelangen.[313] Das Bundesgericht umschreibt das dabei geforderte Verhalten wie folgt:

«Wer über Verhältnisse befragt wird, in die er kraft seiner Stellung besonderen Einblick besitzt, hat – wenn er sich überhaupt auf eine Antwort einlässt – wahrheitsgetreu Auskunft zu geben, sofern für ihn erkennbar ist, dass diese für den Adressaten voraussichtlich folgenschwere Bedeutung hat oder haben kann. Er darf nicht absichtlich falsche Tatsachen behaupten oder leichtfertig Angaben machen, deren Unrichtigkeit oder Ungenauigkeit ihm ohne lange Prüfung in die Augen springen muss.»[314]

Diese Verhaltensnorm verbietet nicht nur inhaltlich falsche Auskünfte, sondern auch das bewusste Erteilen einer unvollständigen Auskunft. Nach dieser Rechtsprechung handelt der Angefragte nicht bloss dann widerrechtlich, «wenn er wider besseres Wissen oder leichtfertig unrichtige positive Angaben macht, sondern ebenso, wenn er Tatsachen verschweigt, die ihm bekannt sind und von denen er sich sagen muss, dass ihre Kenntnis den in Frage stehenden Entschluss beeinflussen könnte».[315] Im realen Ausgangsfall mit dem Bankdirektor stellte die Vorinstanz fest, dass das beim Kunden erweckte Vertrauen in der Folge «treuwidrig enttäuscht worden» sei.[316] Im Kern geht es um das berechtigte Vertrauen[317] der um Rat fragenden Person, die dafür mit falschen, irreführenden oder unvollständigen Informationen bedient wird. Aus welchen Gründen dies geschieht, ist seitens des Beraters eine Frage des Verschuldens und situativ zu beurteilen.[318] Zu beachten ist, dass der Bankdirektor dem Kunden keine eigentliche Beratung oder gar Due Diligence für das geplante Geschäft anbot, sondern einzig für den Kunden eine Kontoverbindung eröffnen sollte. Im Rahmen des geschäftlichen Mandats beging der Bankdirektor keinen Fehler. Deshalb konnte seine Bank vertraglich nicht haftbar gemacht werden. Nach dieser Rechtsprechung hätte der Bankdirektor über sein eigentliches Mandat hinaus nützliche Informationen geben sollen. Da er dies unterliess, machte er sich bzw. die Bank, für die er handelte, ausservertraglich haftbar.

Falsche Auskunft des KI-Agenten

Es versteht sich von selbst, dass diese Grundsätze für eine Auskunftserteilung durch Menschen entwickelt wurden. Ein gut programmierter Algorithmus würde situativ nicht anders antworten, als die ihm zur Verfügung gestellten Informationen die «richtige» oder adäquate Antwort nahelegen. Er wird sich von keinen über die konkrete Situation hinausgehenden Motiven wie dem Erreichen von Geschäftszielen oder von anderen privaten Gründen beeinflussen lassen. Ebenso wenig wird er es aus blosser Gefälligkeit, Unaufmerksamkeit oder Müdigkeit unterlassen, die ihm notwendig erscheinenden Nachfragen zu stellen. Darin kann gerade ein Vorteil des Einsatzes von Algorithmen gesehen werden. Dies setzt jedoch voraus, dass der fragliche Algorithmus für die Fragen, die er zu beantworten hat, optimal programmiert und vorbereitet wird. Dies gilt insbesondere dann, wenn es sich um einen selbstlernenden Algorithmus handelt, der auf seinen Einsatz mit Testdaten trainiert wird und sich nach seiner Inbetriebnahme mit jeder Kommunikation (Frage – Antwort) laufend zu verbessern sucht. Das heisst, dass alle an der Entwicklung, Vorbereitung, Inbetriebnahme und am Einsatz des Algorithmus beteiligten Personen (Netzwerk) jeweils ihre Aufgaben mit gebotener Sorgfalt (lege artis) erfüllen müssen. Dabei hängt das geforderte Mass an Sorgfalt vom Einsatzgebiet ab. Dieses ist umso höher anzusetzen, je bedeutsamer die Antworten für die ratsuchenden Personen sind. Ein Algorithmus, der den Besuchern einer Webseite sagt, wo sie welche Informationen finden, muss weniger hohe Anforderungen erfüllen als einer, der in der Telemedizin eingesetzt wird.

Im Beispiel 3 hätte der Chatbot den Kunden wahrscheinlich genauso wenig auf den Umstand aufmerksam gemacht, dass die Digitalbank die beiden Anlageberater nicht beaufsichtigt, sondern als reine Zahlstelle fungiert – und diese Information allein hätte den Kunden misstrauisch machen oder zu einer Nachfrage veranlassen können. Der Chatbot würde diesen Umstand nicht aus irgendwelchen ihm eigenen Motiven verschweigen, etwa, weil er das Geschäft nicht gefährden wollte. Er würde schlicht nichts dazu mitteilen, weil eine genauere Prüfung (Due Diligence) des Geschäfts nicht zu seiner Aufgabe gehörte. Wenn schon, hätte der Kunde von sich aus den Chatbot über das Verhältnis der Anlageberater zur Bank befragen müssen. (Die Frage wäre genausogut dem Kunden im realen Fall anzuraten gewesen, sie scheint eigentlich naheliegend. Aber thematisiert wurde dies im Urteil nicht.) Da dies so ist, können auch die Programmierer des Algorithmus nicht für die falsche bzw. unterlassene Auskunft verantwortlich gemacht werden.

Hingegen könnte sich das Management der Digitalbank verantwortlich gemacht haben, welches einen Chatbot zur Bedienung der Kundschaft ausgewählt hat, der nicht in der Lage ist, bedürfnisgerechte Auskünfte zu erteilen. Damit die bundesgerichtliche Rechtsprechung in technologieneutraler Weise auf den digitalen Sachverhalt angewandt werden kann, müsste der klagende Kunde den Nachweis erbringen, dass die Bank dem Kunden gegenüber die (unzutreffende) Erwartung erweckt hat, sie würde tatsächlich eine Due Diligence für sein Geschäft durchführen. Bei digitalen Dienstleistungen kommt somit der vorgängigen Offenlegung ihrer Eigenschaften und Funktionsweise, d.h. dem Prinzip der Transparenz, eine gesteigerte Bedeutung zu. Sollte die Digitalbank ihre Dienstleistungen nicht in unlauterer Weise dargestellt haben, kann der Kunde nicht erwarten, von einem Chatbot genauso breit und umfassend informiert zu werden, wie von einem erfahrenen, menschlichen Kundenberater, der den Typus des «trusted advisor» repräsentiert. An dieser Position sollte sich auch dadurch nichts ändern, dass viele Menschen Chatbots der neuesten Generation «übernatürliche» Fähigkeiten andichten. Erfüllt die Bank ihre Informationspflichten, d.h. informiert sie ihre Kunden vorgängig umfassend und klar, erscheint der Anwendungsbereich der bundesgerichtlichen Rechtsprechung zu falschen Auskünften für digitale Bankdienstleistungen als sehr eng.

Fazit

Die Besprechung der Beispiele 1 und 2 nach dem aktuell geltenden Recht stützt die Position, dass bei einem Zusammenspiel von Menschen und Robotern bestehende Gefährdungs- oder Betriebshaftungen in vielen Fällen für eine angemessene Schadensregulierung sorgen können: Aufgrund des dichten Normengeflechts des bestehenden Haftpflichtrechts ist es den Geschädigten in beiden Unfallszenarien möglich, ihren Schaden beim wirtschaftlich potentesten Schädiger einzuklagen. Im Beispiel 1 bietet sich dazu der Spediteur als Halter des Fahrzeugs an. Im Beispiel 2 kommt diese Rolle der Herstellerin des Pflegeroboters zu. Je nach den konkreten Umständen und der Beweislage sind Rückgriffe auf weitere beteiligte Schädiger denkbar. Wenn der Erfolg solcher Rückgriffe für den Geschädigten häufig unwichtig ist, ist ein differenzierter interner Rückgriff gesellschaftlich gesehen längerfristig wichtig, um die von den Wirtschaftsakteuren eingegangenen Risiken adäquat abzugelten bzw. zu bepreisen.

Die beiden Beispiele illustrieren, dass die geschädigten Personen angesichts der in der digitalen gegenüber der analogen Welt längeren und weniger gut einsehbaren Kausalketten und der noch nicht gefestigten Sorgfaltsstandards im Umgang mit KI-Systemen mit grösseren Schwierigkeiten beim Nachweis der Haftungsvoraussetzungen rechnen müssen. Gleiches gilt spiegelbildlich für den Schädiger beim Versuch, sich zu entlasten, sowie bei einem möglichen Rückgriff auf Dritte wie den Hersteller des Roboters.

Das gesetzgeberische Ziel muss es deshalb sein, mit geeigneten Massnahmen im Produktsicherheitsrecht und im Prozessrecht dafür zu sorgen, dass es bei Unfällen mit KI gegenüber herkömmlichen Unfällen nicht zu grundsätzlich neuen Problemen kommt. Bei einem Unfall wie in Beispiel 1 sollte der Halter den Schaden ersetzen müssen, ganz unabhängig davon, ob ein Steuerungsalgorithmus oder ein menschlicher Fahrer das Fahrzeug führt.[319] Die Betriebsrisiken sollten nicht – jedenfalls nicht für unbeteiligte Dritte – dadurch wesentlich verändert werden, dass ein menschlicher Fahrer durch ein KI-System ersetzt wird. Dies entspräche dem Grundsatz der Technologieneutralität. Bei der Behandlung der beiden Beispiele haben wir aufgezeigt, wie die neusten Regelungen aus dem EU-Recht zur Produkthaftung für gewisse Klarstellungen sorgen und gleichzeitig die Stellung der geschädigten Person im Schadensprozess verbessern können. Eine wichtige Neuerung bestünde darin, die Möglichkeiten der Herstellerin zur Entlastung von der Produkthaftung für nachträglich auftretende Fehler bzw. für das Entwicklungsrisiko einzuschränken.[320] Die Entlastungsmöglichkeit soll so beschränkt werden, dass gewisse erst nach dem Inverkehrbringen auftretende Verhaltensweisen der KI-Anwendung als Bestandteil des Produktdesigns betrachtet werden und somit in den zeitlichen Verantwortungsbereich der Herstellerin fallen.

Ebenfalls konnten wir aufzeigen, dass die Durchsetzung von Schadenersatzansprüchen nicht nur von den zivilrechtlichen Haftungsnormen selbst abhängt. Zentrales Element sind wie schon in der analogen Welt die anzuwendenden Sorgfaltsstandards. Für viele Bereiche des alltäglichen Lebens hat die Rechtsprechung über die Jahre in Fallgruppen solche Standards entwickelt. Dies betrifft etwa die Haftung des Arztes oder des Anlageberaters. Für zahlreiche technische und industrielle Sektoren werden die Standards durch das Produktsicherheitsrecht gesetzt, dies sogar unter Einbezug der Interessenvertreter aus den betroffenen Industrien. Entsprechende Anstrengungen werden für die KI unternommen werden müssen. Einen ersten Versuch hat die EU-Kommission mit ihrer KI-Verordnung vorgelegt. Möglicherweise werden zusätzlich verschiedene spezialgesetzliche Regelungen (etwa für KI-Anwendungen in der Medizin oder für Finanzdienstleistungen) folgen müssen. In der Technikregulierung, nicht im Haftpflichtrecht, sollte sich die gesetzgeberische und normsetzende Innovation konzentrieren. Eine kluge KI-Regulierung sollte nicht nur präventiv für ein angemessenes Sicherheitsniveau sorgen, sondern es den geschädigten Personen erleichtern, die für die Durchsetzung ihrer Schadenersatzansprüche notwendigen Nachweise zu erbringen.

Der Gerichtspraxis schliesslich wird es obliegen, die Beteiligung von KI an komplexen Unfällen im Zusammenspiel von künstlichen und menschlichen Akteuren im Rahmen der Kaskadenordnung von Art. 50/51 OR in sachgerechter Weise zu berücksichtigen.

COM(2020) 64 final, S. 1 f.; COM(2020) 65 final, S. 14 ff. ↵

Ebers, in: Ebers/Heinze/Krügel/Steinrötter, Rechtshandbuch, § 3 Rz 61. ↵

COM(2020) 64 final, S. 16; vgl. Lohmann, Haftungsrahmen, S. 112. ↵

A.a.O. ↵

COM(2020) 64 final, 65 final, vgl. ELI. Response, S. 26 ff. ↵

Diese Unfallszenarien gehören zur dritten Kategorie der in Abschnitt I.1.1 definierten Fallgruppe von digitaler Ursache und analoger Wirkung. ↵

FAZ vom 12.06.2023 (Rolf Schwartmann): KI als Sollbruchstelle des Rechtsstaats. ↵

Dieser Ansatz ist von den drei Szenarien Human in/on/off the loop bei Quadroni, S. 347 abzugrenzen. Hier geht es um den (schädigenden) Kontakt der AI-Anwendung mit der Umwelt, dort geht es um die Verteilung des Verschuldens zwischen verschiedenen Beteiligten. Vgl. bei Roegels, S. 187, wonach der Arzt für die Entscheidung über den Einsatz des richtigen KI-Medizinprodukts haftet. Der Arzt soll insbesondere für die Entscheidung haften, ob KI überhaupt eingesetzt wird, aber auch für die Auswahl des konkreten Produkts und natürlich für seine korrekte Anwendung. ↵

Vgl. das Schema in COM(2020) 64 final, S. 53. ↵

Im deutschen Recht §§ 832–836 BGB. ↵

Omlar, S. 222. ↵

ELI-Response, S. 27. Hier ist auch die Idee von Weichbold, S. 142 ff. und S. 204 zu sehen, die Haftung des Fahrzeugherstellers in die Strassenverkehrsgesetzgebung (konkret für Österreich das EKHG) zu integrieren. Nach dieser Idee hafteten die Hersteller solidarisch mit dem Halter für Unfälle beim Betrieb eines Strassenfahrzeugs. ↵

Vgl. Art. 9 Abs. 2 Bst. b) der KI-Verordnung. ↵

Vgl. die vier Fallgruppen in Abschnitt I.1.1. Denkbar bleiben reine Vermögensschäden, etwa im Rahmen einer digitalen Vermögensverwaltung. ↵

Lohmann, Regress, S. 353. ↵

So wörtlich Fellmann, Digitalisierung, S. 106 f.; vgl. Borio, Widmer Lüchinger u.a. ↵

Vgl. die erweiterte Definition des Produkts in Art. 4 Ziff. 1 der überarbeiteten Produkthaftungsrichtlinie. ↵

Zu recht kritisch ELI-Response, S. 17 und Fellmann, Digitalisierung, S. 109. ↵

Siehe Art. 1 Abs. 2 im Vorschlag zur RL über KI-Haftung; COM(2022) 496 final, S. 3, 13. ↵

Wildhaber, Haftung und KI, Rz 52–54. ↵

COM(2020) 64 final, S. 20. ↵

COM(2020) 64 final, S. 14. ↵

A.a.O. ↵

Siehe COM(2020) 64 final, S. 19 ff., Abschnitt B.III. Der Bericht wird in Fellmann, Digitalisierung ausgiebig zitiert. Die römisch-rechtlichen Ursprünge des Haftpflichtrechts wurden in Kapitel III vorgestellt. Der Aspekt der anthropozentrischen Betrachtung wurde ausgiebig im Rahmen der roboterethischen Diskussion in Kapitel IV beleuchtet. ↵

Wäre die Schweiz Mitgliedstaat der EU. Nach Fellmann, Digitalisierung, S. 111 «beruhigt hierzulande die Hoffnung auf dereinstigen autonomen Nachvollzug»; kritisch Büyüksagis, S. 24 mit Blick auf die im Vergleich zur DSGVO ungenügende haftungsrechtliche Absicherung bei automatischen Einzelentscheidungen im revidierten DSG. ↵

Vgl. das Diagramm in COM(2020) 64 final, S. 53, welches nur den Fall eines Menschen abbildet, der ein Werkzeug einsetzt. ↵

COM(2020) 64 final, S. 53. ↵

COM(2020) 64 final, S. 54. ↵

Siehe Abschnitt VI.3.4. ↵

Beck/Faber/Gerndt, S. 252. ↵

Beck/Faber/Gerndt, S. 255; zum Kreis der potenziell haftpflichtigen Personen vgl. Ebers in: Ebers/Heinze/Krügel/Steinrötter, Rechtshandbuch, § 3 Rz 61. ↵

Vgl. COM(2020) 64 final, S. 19 m.w.H. ↵

Vgl. Karner/Koch/Geistfeld, S. 9. ↵

COM(2020) 64 final, S. 4; vgl. ELI Innovation Paper, Guiding Principle 7: «[…] damage might not only be caused to individuals themselves and physical items of property, but also digital items and, more significantly, data created by an individual, whether stored on a physical device or on a digital service (cloud)». Als kritisches Beispiel wird dort eine IT-Applikation präsentiert, welche Daten auf einem Laptop löscht. ELI-Response, S. 30 sprach sich schliesslich gegen einen Eingriff der EU-Gesetzgeber in die nationalen Definitionen des ersatzfähigen Schadens aus. ↵

COM(2020) 64 final, S. 4; vgl. hierzu Art. 82 (1) DSGVO, wonach jede Person, der wegen eines Verstosses gegen diese Verordnung ein materieller oder immaterieller Schaden entstanden ist, Anspruch hat auf Schadenersatz gegen den Verantwortlichen oder gegen den Auftragsverarbeiter. ↵

Bei IDAG, Bericht KI, S. 95 wird vielmehr darauf hingewiesen, dass die KI bei der Berechnung von Schadenersatzansprüchen nützlich sein könnte. Zu hypothetischen Kausalverläufen bei einem eingeklagten Schaden aus nicht instruktionsgemäss ausgeführten Börsentransaktionen siehe z.B. BGer 4A_606/2020. ↵

Vgl. HEG-KI, Liability, S. 20 m.w.H. ↵

So die Präambel Richtlinie 85/374/EWG. ↵

HEG-KI, Liability, S. 20. Zu den Voraussetzungen der Haftung siehe Kapitel III. ↵

Zur möglichen Zuordnung der Verantwortlichkeiten entwickelt Quadroni, S. 347 die drei Szenarien human in the loop (Mensch entscheidet, System bereitet vor und führt aus), human on the loop (Mensch überwacht) und human off the loop (System agiert autonom). Mit dieser Kategorisierung solle es relativ einfach sein, den Kausalzusammenhang zwischen der KI-Anwendung und ihrem Nutzer oder Anbieter herzustellen. Dies scheint leicht vereinfachend. ↵

COM(2022) 496 final, S. 2; Ebers, in: Ebers/Heinze/Krügel/Steinrötter, Rechtshandbuch, § 3 Rz 25. ↵

HEG-KI, Liability, S. 21; ELI-Response, S. 12. ↵

HEG-KI, Liability, S. 20; vgl. Lohmann, Haftungsrahmen, S. 115 ff. ↵

HEG-KI, Liability, S. 22; vgl. ELI Innovation Paper, Guiding Principle 8. Wird ein Schaden von externen Daten verursacht, welche ein KI-System als Input benötigt, so sollte nach dem ELI der Hersteller den Nachweis erbringen müssen, dass der Schaden nicht vom KI-System selbst, sondern durch die externen Daten verursacht wurde. ↵

Ebers, in: Ebers/Heinze/Krügel/Steinrötter, Rechtshandbuch, § 3 Rz 16. ↵

Ebers, in: Ebers/Heinze/Krügel/Steinrötter, Rechtshandbuch, § 3 Rz 20, welcher als Beispiel die Korrelation zwischen IQ und Schuhgrösse bringt. Zwischen beiden Grössen besteht zwar eine positive Korrelation. Entscheidend aber ist das Alter des Heranwachsenden. ↵

Siehe Abschnitt II.3.4. ↵

COM(2022) 496 final, S. 16. ↵

Vgl. Ebers, in: Ebers/Heinze/Krügel/Steinrötter, Rechtshandbuch, § 3 Rz 22–24 mit Verknüpfung zur Thematik, dass KI-Systeme für Menschen regelmässig weder vorhersehbar noch nachvollziehbar sind. ↵

Rempe, S. 18 mit Hinweis auf Hanisch, S. 109. ↵

Vgl. für das deutsche Recht Rempe S. 18 mit Verweis auf Staudinger, § 823, Rn. 61 und Sprau, § 823, Rn. 45, wonach eine mittelbare Schadensverursachung dem Eigentümer eines «Smart Products» nur über die Vernachlässigung oder Unterlassung einer Verkehrssicherungspflicht zugerechnet werden kann. ↵

Vgl. zum Regress Abschnitt III.7.2. ↵

HEG-KI, Liability, S. 22. ↵

HEG-KI, Liability, S. 23. ↵

HEG-KI, Liability, S. 23. ↵

Siehe Abschnitt IV.2.2 a). ↵

Omlar, S. 222. ↵

Siehe Abschnitt IV.3. ↵

HEG-KI, Liability, S. 23. ↵

Siehe Abschnitt V.3. ↵

Siehe z.B. die Liste bei Loh, S. 94. ↵

Lohmann, Haftungsrahmen, S. 112. ↵

Lohmann, Haftungsrahmen, S. 117 mit Verweis auf Amato, S. 94. ↵

Siehe z.B. UNESCO, Empfehlung zur Ethik der Künstlichen Intelligenz, verabschiedet am 23. November 2021; EU-Kommission, Ethische Leitlinien für Lehrkräfte über die Nutzung von KI und Daten für Lehr- und Lernzwecke, 2022; vgl. Quadroni, S. 350 m.w.H. Siehe ferner die Überlegungen und Aktivitäten des Deutschen Ethikrats (https://​www.​ethikrat.org/), insbesondere die am 20.03.2023 veröffentlichte Stellungnahme «Mensch und Maschine – Herausforderungen durch künstliche Intelligenz». Exemplarisch behandelt werden darin die Anwendungsbereiche Medizin, schulische Bildung, öffentliche Kommunikation und Meinungsbildung sowie öffentliche Verwaltung. ↵

Siehe Abschnitt II.3.4 und Abschnitt II.2.3; vgl. HEG-KI, Liability, S. 23 und Roegels, S. 108 und S. 189 (Rz 1.8). ↵

HEG-KI, Liability, S. 24. ↵

HEG-KI, Liability, S. 52: «Thus, proving fault requires proving that the product was not of a required quality and that the producer intentionally or negligently breached an applicable standard of conduct with regard to this product.» ↵

HEG-KI, Liability, S. 44. ↵

Zum sozialpolitischen Charakter eines Problems und den zu seiner Lösung notwendigen Wertungen siehe Weber Max, Objektivität, S. 83. ↵

Siehe Abschnitt III.6.2. ↵

So vorgesehen in Art. 4 Abs. 2 des Vorschlags zu einer Richtlinie über KI-Haftung. ↵

Zur Rechtslage unter dem Schweizer Recht nach Art. 55 OR sowie zur Abgrenzung zur vertragsrechtlichen Hilfspersonenhaftung nach Art. 101 OR siehe Abschnitt III.4.3. ↵

Siehe Abschnitt III.2.1. ↵

HEG-KI, Liability, S. 24; vgl. Renner. ↵

§ 1315 ABGB: «Überhaupt haftet derjenige, welcher sich einer untüchtigen oder wissentlich einer gefährlichen Person zur Besorgung seiner Angelegenheiten bedient, für den Schaden, den sie in dieser Eigenschaft einem Dritten zufügt.» Zusätzlich ist $ 1314 ABGB zu betrachten: «Wer eine Dienstperson ohne Zeugnis aufnimmt oder wissentlich eine durch ihre Leibes- oder Gemütsbeschaffenheit gefährliche Person im Dienste behält oder ihr Aufenthalt gibt, haftet dem Hausherrn und den Hausgenossen für den Ersatz des durch die gefährliche Beschaffenheit dieser Personen verursachten Schadens.» ↵

§ 831 BGB: «Wer einen anderen zu einer Verrichtung bestellt, ist zum Ersatz des Schadens verpflichtet, den der andere in Ausführung der Verrichtung einem Dritten widerrechtlich zufügt. Die Ersatzpflicht tritt nicht ein, wenn der Geschäftsherr bei der Auswahl der bestellten Person und, sofern er Vorrichtungen oder Gerätschaften zu beschaffen oder die Ausführung der Verrichtung zu leiten hat, bei der Beschaffung oder der Leitung die im Verkehr erforderliche Sorgfalt beobachtet oder wenn der Schaden auch bei Anwendung dieser Sorgfalt entstanden sein würde.» Zur Rechtslage unter dem Schweizer Recht nach Art. 55 OR siehe Abschnitt III.4.3. ↵

HEG-KI, Liability, S. 24 mit Verweis auf das polnische und dänische Recht. ↵

Siehe Abschnitt II.3.3. ↵

Zur Kontroverse über diese Unterscheidung im Schweizer Recht siehe Abschnitt III.4.3. ↵

HEG-KI, Liability, S. 25. ↵

HEG-KI, Liability, S. 25. ↵

Honsell, Hilfspersonen, S. 55; vgl. Abschnitt III.4.3. ↵

Honsell, Gefährdungshaftung, S. 297 ff. ↵

BGer 4A_305/2021 Urteil vom 2. November 2021 E. 7.2. ↵

Zur gleichen Diskussion bei der (vertraglichen) Erfüllungsgehilfenhaftung siehe Lohmann/Pressler, S. 883 ff. und Yacoubian, S. 197 ff. ↵

BGer 4A_305/2021 Urteil vom 2. November 2021 E. 7.2. ↵

Siehe Abschnitt III.6. ↵

Borio, S. 226 mit Verweis auf BSK OR I-Widmer Lüchinger/Wiegand, Art. 101 OR N 9, die wiederum auf das österreichische Recht verweisen. ↵

HEG-KI, Liability, S. 25 mit Verweis auf M. Martín-Casals (ed), The Development of Liability in Relation to TechnologicalChange (2010). ↵

Vgl. Article VI-3:202 DCFR. ↵

Vgl. Article VI-3:202 DCFR. ↵

Vgl. auch Art. 1242 des französischen Code Civil, der eine Verantwortung für bewegliche Sachen, die jemand in seiner Obhut hat, vorsieht. ↵

HEG-KI, Liability, S. 26; Beispiele dazu finden sich auf S. 16, die teilweise von besonderes engen gesetzlichen Voraussetzungen in einzelnen Ländern abhängen. ↵

Die genannte Ausnahme in den §§ 89e, 91b Abs. 8 des österr. Gerichtsorganisationsgesetzes erscheint als Sonderfall. ↵

Vgl. Omlar, S. 222, wonach sich die «Liste von sozial nützlichen Gefahrenquellen […] friktionslos um KI-Anwendungen erweitern» liesse. ↵

HEG-KI, Liability, S. 27: hier könnten sogenannte «Sandboxen» helfen, die aus der Finanzmarktregulierung bekannt sind, siehe dazu Volz, S. 51–68. ↵

HEG-KI, Liability, S. 40. Eine Kausalhaftung erscheine am geeignetsten für KI-Anwendungen, die sich physisch im öffentlichen Raum bewegen (wie Drohnen), weniger für Smart Home Lösungen. ↵

COM(2022) 496 final, S. 9. ↵

COM(2022) 496 final, S. 10; siehe Abschnitt II.3.4. ↵

HEG-KI, Liability, S. 19. ↵

Vgl. Büyüksagis, S. 24. ↵

COM(2020) 64 final, S. 27; für eine Übersicht der mit den neuen Technologien verbundenen Fragen siehe Ebers in: Ebers/Heinze/Krügel/Steinrötter, Rechtshandbuch, § 3 Rz 65 ff. ↵

So auch BSK OR I-Fellmann, Art. 3 PrHG N 1. ↵

COM(2020) 64 final, S. 28. ↵

Zur fehlenden europäisch einheitlichen Definition des Dienstleistungsbegriffs siehe Joggert/Wendt, S. 13. ↵

Vgl. Roberto, Produkthaftpflicht und Software; Lohmann, Haftungsrahmen, S. 115. ↵

COM(2020) 64 final, S. 28. Interessant ist in diesem Zusammenhang die Antwort von Lord Cockfield vom 15. November 1988 im Namen der Kommission auf die schriftliche Anfrage Nr. 706/88 von Herrn Gijs de Vries (LDR – NL) vom 5.7.1988, 89/C 114/76 (berichtet bei Lohmann, S. 115). Da als Produkt jegliche bewegliche Sache, ausgenommen landwirtschaftliche Naturprodukte und Jagderzeugnisse, gelte, sei die Richtlinie auf Computer-Software anwendbar, «ebenso wie auf kunstgewerbliche und künstlerische Erzeugnisse». Die Antwort erscheint nicht besonders tragfähig. Wahrscheinlich wurde «Computer-Software» mit Disketten gleichgesetzt, auf welchen Software abgespeichert war. Dafür spricht auch der Vergleich mit kunstgewerblichen und künstlerischen Erzeugnissen, die eine Verkörperung in einer Sache suggerieren – von geistigen Schöpfungen ist nicht die Rede. Koch/Pichonnaz, S. 631 m.w.H. vermuten denn auch, dass der Entwurf der Richtlinie von 1985 vom deutschen Begriff der Sache nach § 90 BGB ausging, welcher wie das Schweizer Recht nur körperliche Sachen umfasst. ↵

COM(2020) 64 final, S. 17. ELI Guiding Prinicples, Guiding Principle 4, spricht von einem veralteten Produktbegriff. Das ELI thematisiert dort auch das Verhältnis von Produkt und Komponenten bzw. eingebetteten Dienstleistungen. Vgl. Abschnitt II.2.4. ↵

Für das deutsche Recht siehe etwa die Übersicht bei Omlar, S. 223 (Fn 11): Ablehnend Oechsler, in: Staudinger 2018, § 2 ProdHaftG Rn. 65 f.; Förster, in: BeckOK BGB, Stand: 1.5.2020, § 2 ProdHaftG Rn. 23; bejahend Wagner, in: MünchKomm BGB, 7. Auflage 2017, § 2 ProdHaftG Rn. 17 ff.; Rebin, in: BeckOGK BGB, Stand: 1.3.2020, § 2 ProdHaftG Rn. 56, jeweils m. w. N.; Joggert/Wendt, S. 13 f. ↵

Siehe Abschnitt III.6.1. ↵

So BSK OR I-Fellmann, Art. 3 PrHG N 2; überspitzt erscheint die Position bei Alexia Sidiropoulos, Haftung für Gerätefehler bei der medizinischen Diagnostik und Behandlung, Sicherheit & Recht 1/2020, S. 49 ff., S. 51, dass die Anwendbarkeit des PrHG im Grundsatz schon deshalb fraglich sei, weil das durch KI gewonnene Resultat nicht Resultat menschlicher Tätigkeit sei. Teilweise mag sich hier der Gedanke widerspiegeln, dass die Autonomie der KI den Kausalverlauf unterbricht. ↵

Widmer Lüchinger, S. 7 m.w.H. ↵

BSK OR I-Fellmann, Art. 3 PrHG N 8; vgl. Holliger-Hagmann, Art. 2 N 35; Widmer Lüchinger, S. 7. ↵

BSK OR I-Fellmann, Art. 3 PrHG N 9. ↵

Zur Haftung für falsche Auskünfte siehe Abschnitt III.3.5. ↵

Borsari, S. 24 f.; Honsell/Isenring/Kessler, § 21 Rz 31. ↵

Höckelmann, S. 37. ↵

Rolland, § 2 N 20. ↵

Zu Software und Programmierung siehe Abschnitt V.2.2. ↵

Fellmann, S. 106. ↵

Fellmann, Produkte- und Fehlerbegriff, S. 44; Straub, Rz 16. ↵

Honsell, Standardsoftware, S. 315; Honsell/Isenring/Kessler, § 21 Rz 31. ↵

Borsari, S. 27; Holliger-Hagmann, N 33; Chr. Müller, Rz 443; Roberto, Haftpflichtrecht, Rz 09.10; Schwimann-Posch, § 4 PHG N 10; MK-Wagner, § 2 N 15. ↵

Hänsenberger, Rz 14; Holliger-Hagmann, N 33 f.; Rey/Wildhaber, Rz 1427; Roberto, Rz 364; Straub, Rz 15 ff.; Werro, Rz 627; vgl. für das deutsche Recht Joggert/Wendt, S. 14, wonach Individualsoftware näher bei der Dienstleistung liege; vgl. jetzt Roegels, S. 33 und S. 188 (Rz 1.1), die den Einbezug von Standalone Software neben Embedded Software in das ProdHaftG fordert. ↵

Widmer Lüchinger, S. 7 und Borio, S. 228, wonach es einen Unterschied mache, ob die zur Steuerung des Roboters eingesetzte Software erst nach dem Kauf des Roboters über das Internet heruntergeladen werden muss. ↵

Hänsenberger, Rz 14 ff.; Lohmann, AJP 2017, 155 ff.; s. Art. 4 N 28a f. ↵

BSK OR I-Fellmann, Art. 3 PrHG N 10; Lohmann, Haftungsrahmen, S. 115. ↵

Fellmann, S. 107 m.w.H. ↵

ELI-Response, S. 12. ↵

Siehe Abschnitt IV.2.1. ↵

Fellmann, Produkte- und Fehlerbegriff, S. 44; vgl. auch Lohmann, Roboter als Wundertüten, S. 155 f.; Straub, Rz 16. ↵

COM(2020) 64 final, S. 28; vgl. Art. 6 Abs. 1 EWG-Richtlinie. ↵

COM(2020) 65 final, S. 14. ↵

Abschnitt III.6.2. ↵

BSK OR I-Fellmann, Art. 4 PrHG N 4. ↵

BGE 137 III 226, 232, E. 3.2. ↵

BGE 133 III 81, 86, E. 3.2. ↵

Lohmann, S. 116 mit Verweis auf Rosenthal, Autonome Informatiksysteme, S. 136. ↵

Hänsenberger, Rz 9 ff. ↵

IDAG, Bericht KI, S. 8; vgl. eingehend Roegels, S. 70 ff. und S. 188 (Rz 1.4). ↵

Zu den statistischen Methoden für Schätzungen siehe Abschnitt V.3.2. ↵

Vgl. IDAG, Bericht KI, S. 32. ↵

Zur systematischen Diskriminierung von Personengruppen siehe IDAG, Bericht KI, S. 38; ferner fehlerhafte Zusammenhänge, S. 24, Scheinkausalitäten, S. 32. ↵

Siehe z.B. McCullagh/Nelder, S. 7 oder S. 14. ↵

Vgl. IDAG, Bericht KI, S. 32. ↵

Lohmann, Haftungsrahmen, S. 116; so Widmer Lüchinger, S. 11; zu Fehlentscheidungen an sich Hänsenberger, Rz 11 m.w.H. ↵

Wagner, Roboter als Haftungssubjekte? S. 14; vgl. den Ansatz bei Quadroni, S. 350 die «allgemeine Erfolgsquote bei der Erledigung der zugewiesenen Aufgabe» einer KI-Anwendung zu berücksichtigen. ↵

Günther, S. 182. ↵

Hänseberger, Rz 9 ff. ↵

Lohmann, Haftungsrahmen, S. 117; Stengel/Wirthensohn/Stäuble, S. 410. ↵

Hänseberger, Rz 9 ff. ↵

Siehe Abschnitt IV.2.2 b). ↵

BSK OR I-Fellmann, Art. 4 PrHG N 28e. ↵

A.a.O. mit Verweis auf Lohmann/Müller-Chen, SZW 2017, 55 f. ↵

Vgl. COM(2020) 64 final, S. 14, der von «zwei einander ergänzenden Mechanismen» spricht. ↵

A.a.O. ↵

Z.B. in Deutschland mit § 31 BDSG zum Schutz des Wirtschaftsverkehrs bei Scoring und Bonitätsauskünften oder auf Stufe EU bei der Verordnung (EU) 2016/1011 (Benchmark-Verordnung). ↵

Siehe dazu die Beispiele bei COM(2020) 64 final, S, 29. ↵

Vgl. bei Lohmann, Haftungsrahmen, S. 118: «Nach mir die Sintflut: Die Zäsur des Inverkehrbringens». ↵

COM(2020) 64 final, S. 43; vgl. ELI Innovation Paper, Guiding Principle 9. ↵

Lohmann, Haftungsrahmen, S. 118. ↵

A.a.O. ↵

Art. 8 PrSG. Zur Produktebeobachtung im Gesundheitswesen siehe Drittenbass, S. 207–221. ↵

BSK OR I-Fellmann, Art. 4 PrHG N 28e; siehe dazu Abschnitt VI.3.7 b). ↵

Art. 5 Abs. 1 Bst. e PrHG, Art. 7 Bst. e EWG-Richtlinie; vgl. ELI Innovation Paper, Guiding Principle 9. ↵

Lohmann/Müller-Chen, S. 54; vgl. Lohmann, Roboter als Wundertüten, S. 158. ↵

COM(2020) 64 final, S. 43; vgl. Fellmann, Digitalisierung, S. 108 zum Überlegungsfehler der KI als Produktfehler. Wörtlich schreibt die EU Kommission: «In view of the need to share benefits and risks efficiently and fairly, the development risk defence, which allows the producer to avoid liability for unforeseeable defects, should not be available in cases where it was predictable that unforeseen developments might occur.» Grundsätzlich für eine verschuldensunabhängige Haftung für aus der Lernfähigkeit resultierende Schäden nach Art. 1 PrHG tritt Lohmann, Roboter als Wundertüten, S. 158 ein. ↵

Vgl. Abschnitt III.4.4 zur Tierhalterhaftung. ↵

COM(2020) 65 final, S. 18. ↵

Siehe Abschnitt IV.3.2. ↵

COM(2020) 64 final, S. 24. ↵

Vgl. Ebers in: Ebers/Heinze/Krügel/Steinrötter, Rechtshandbuch, § 3 Rz 61. ↵

Siehe Abschnitt II.2. ↵

Koch/Pichonnaz, S. 642. ↵

Wagner, Richtlinie über KI-Haftung, S. 123. ↵

Müller St., S. 10. ↵

Siehe Unterabschnitt VI.3.7 a). ↵

Wagner, Richtlinie über KI-Haftung, S. 123. ↵

Koch/Pichonnaz, S. 630. Die Forderung nach einer Ausweitung des Kreises der potenziell haftpflichtigen Personen fand sich auch in ELI Innovation Paper, Guiding Principle 5 über eine breitere Auslegung des Begriffs des Herstellers. Als Hersteller sollten auch Lieferanten von Software, Software-Updates und anderen Komponenten gelten. Ferner sollten gewisse Online-Plattformen miterfasst werden, die digitale Produkte vertreiben. ↵

COM(2022) 495 final, S. 15. ↵

Joggert/Wendt, S. 15. ↵

Siehe Abschnitt III.5.1 und Klindt, S. 484 sowie ELI Innovation Paper, Guiding Principle 2. ↵

Müller St., S. 10. ↵

COM(2022) 495 final, S. 12. ↵

Joggert/Wendt, S. 16. ↵

Koch/Pichonnaz, S. 630. ↵

So auch Eichelberger in: Ebers/Heinze/Krügel/Steinrötter, Rechtshandbuch, § 5 Rz 4, der ebenfalls für eine Betrachtung typischer Konstellationen eintrat. ↵

Siehe Abschnitt I.1.1. ↵

Zu den Schadensarten siehe Abschnitt VI.3.2. ↵

Im Metaverse interagieren die Parteien rein digital, z.B. über Avatare miteinander und schliessen digital Verträge ab, deren Abwicklung von «Smart Contracts» übernommen wird. Vgl. z.B. Haas/Rodieux zum international diskutierten Problem des Schutzes der Urheberrechte im Metaverse. ↵

Siehe Abschnitt IV.2.1. ↵

Siehe die Definition von George Bekey aus Lin/Abney/Bekey, S. 18. ↵

Vgl. Rochel, S. 42 ff. ↵

Siehe Kapitel IV. ↵

Borio, S. 229; vgl. Steinrötter in: Ebers/Heinze/Krügel/Steinrötter, Rechtshandbuch, § 26 Rz 41 ff. In diesem Sinn siehe auch den Hinweis auf die Instrumente des Vertragsrechts in ELI-Response, S. 8. ↵

Siehe Abschnitt III.3.3. ↵

Ähnliche Fragen stellen sich bei den verschiedenen Anwendungen im Personalwesen; siehe dazu eingehend Wildhaber/Lohmann/Kasper, S. 459–489. ↵

Der Sachverhalt ist inspiriert von BGer 4A_25/2021 vom 24. August 2021, Sachverhalt A, besprochen in Abschnitt III.4.4. Zu den Grenzen der Möglichkeiten der aktuellen KI im Umgang mit unvorhergesehenen Ereignissen siehe höchst passend Le Cun, S. 311: «Quand nous apprenons à conduire sur une route bordée par un ravin sur la droite, nous savons, par notre modèle du monde, que si nous tournons le volant vers la droite, la voiture ira vers le ravin, et notre connaissance de la gravité nous permet de prédire qu’elle fera une vilaine chute. Nul besoin d’essayer». ↵

Vgl. Niderrée/Nejdl, in: Ebers/Heinze/Krügel/Steinrötter, Rechtshandbuch, § 2 Rz 133; Lohmann, Selbstlernende Fahrzeuge, S. 48 mit Verweis auf Berichte der Bundesanstalt für Strassenwesen (Hrsg.), Bremerhaven 2012, S. 9; zu den verschiedenen Automatisierungsstufen siehe Schwartz, S. 78 sowie Niderrée/Nejdl, § 2 Rz 134. ↵

In Japan wurde mit offenbar mässigem Erfolg ein humanoider Roboter entwickelt, der ein Spielzeugauto steuert, siehe https://spectrum.ieee.org/humanoid-robot-nao-learns-to-drive (zuletzt besucht am 07.08.2025). Probst, S. 52 f. schreibt dazu in wohl realistischer Weise: «Mit anderen Worten: ein ‹selbstfahrendes› Auto ist nicht, was ein Laie intuitiv darunter verstehen würde, nämlich ein fahrerloses Auto, das mit derselben operationellen Allgemeintauglichkeit im Verkehr einsatzfähig ist, wie wir es von einem Auto mit Fahrer gewohnt sind. Die Vision, dass dereinst ‹selbstfahrende› Autos ohne menschliche Kontrolle auf unseren Strassen unterwegs sein werden, möglicherweise gar mit einem humanoiden Roboter am Steuer, der mit übermenschlichen Fähigkeiten alle Verkehrsgefahren voraussieht, Tag und Nacht fahrbereit ist, nie müde wird, keinen Alkohol trinkt, stets gut gelaunt ist und seine Passagiere immer unfallfrei und rechtzeitig ans Ziel fährt, mag vielleicht als Reklame für Science-Fiction taugen, stellt aber jedoch kein tragfähiges Konzept für die künftige Mobilität unserer Gesellschaft dar.» ↵

Ein humanoider Roboter hätte als Fahrer den Vorteil gehabt, dass er nicht nur das Fahrzeug steuern, sondern dieses allenfalls auch noch be- und entladen könnte. Die Fähigkeiten eines selbstfahrenden Autos sind doch eher beschränkt. ↵

Zur Frage der Zulassung selbstfahrender Fahrzeuge siehe Lohmann, Automatisierte Fahrzeuge; Lohmann, Ländervergleich, S. 617 ff.; für die EU und Österreich im Besonderen siehe Weichbold, S. 19 ff; für Deutschland siehe das Achte Gesetz zur Änderung des Strassenverkehrs 16.6.2017, BGBl. I, 1648; zu den strafrechtlichen Aspekten siehe Kuhlen, S. 353 ff. ↵

Zu Fahrassistenzsystemen siehe Lohmann/Rusch, S. 350 f. und Weichbold, S. 7 ff. ↵

Siehe dazu die Medienmitteilung des BR vom 13. Dezember 2024 https://​www.​news.​admin.ch/de/nsb?id=103529 (zuletzt besucht am 07.08.2025). Die Ausführungsbestimmungen finden sich in der VAF. ↵

Siehe Abschnitt I.1.2. ↵

Borio, S. 223; vgl. Goher/Mansouri/Fadlallah, S. 1 und Hasseler, S. 41. ↵

Borio, S. 223. ↵

Beck/Faber/Gerndt, S. 250.; Haddadin/Knobbe, in: Ebers/Heinze/Krügel/Steinrötter, Rechtshandbuch, § 1 Rz 83; Steinrötter, a.a.O., § 26. ↵

Weitere aktuelle Anwendungsbeispiele aus Medizin und Pflege finden sich bei Beck/Faber/Gerndt, S. 249 f. Goldschmidt et al., S. 176 bringen das Beispiel von KI-Anwendungen, die Ferndiagnosen ohne direkten Arzt-Patient-Kontakt ermöglichen, was besonders in Pandemiezeiten von Interesse sein kann. Vgl. Rosa, S. 91 ff., der darlegt, dass Pflegeroboter in einer zunehmend parametrisierten Pflege eine positive Rolle spielen könnten, weil Roboter (anders als Menschen) die Pflegebedürftigen nicht als hilfsbedürftig erkennen. ↵

Bei Hasseler, S. 43 als Ambient Assistent Living (AAL) bezeichnet. ↵

Goher/Mansouri/Fadlallah, S. 3. ↵

Kritisch insbesondere aus praktischer Sicht zeigt sich Gisinger, S. 113 ff, wonach aufgrund technischer und physikalischer Herausforderungen in Zukunft keine robotischen Systeme für die Pflege zu erwarten seien, die die physisch anstrengenden Tätigkeiten oder die Aufgaben und Tätigkeiten einer menschlichen Pflegefachperson übernehmen könnten. Hasseler, S. 60 ist der Ansicht, dass es «keiner Roboter für die patient:innennahe Versorgung, sondern grundsätzlich für die Aufgaben und Verantwortlichkeiten, die fern der Patient:innen und Pflegebedürftigen anzusetzen sind» bedarf. Auch Beck/Faber/Gerndt, S. 250 f. weisen auf die Gefahr hin, dass Robotik in der Pflege die zwischenmenschlichen Kontakte reduzieren könnte (Gefahr der Enthumanisierung und der Zweiklassenmedizin), ohne dabei das menschliche Personal zu entlasten und für die Interaktion mit den Pflegebedürftigen freizumachen. Eine Übersicht zu weiteren ethischen Fragen in diesem Zusammenhang findet sich über Diebel-Fischer, S. 131 ff. Von einigen Autoren wird insbesondere die Möglichkeit verlangt, als Patient oder Pflegebedürftiger auf den Einsatz von KI-Systemen zu verzichten. ↵

Goher/Mansouri/Fadlallah, S. 2 ff.; vgl. Hasseler, S. 58, wonach positive Berichte in der Literatur zum Einsatz von Pflegerobotern häufig an einem mangelnden Verständnis der tatsächlichen Aufgaben und Abläufe in der Pflege krankten. ↵

Goher/Mansouri/Fadlallah, S. 4. ↵

Zur Frage der Zulassung von KI-Systemen in Medizin und Pflege siehe Beck/Faber/Gerndt, S. 247 und S. 258 ff. ↵

Steinrötter in: Ebers/Heinze/Krügel/Steinrötter, Rechtshandbuch, § 26 Rz 23. Hervorzuheben ist der Hinweis auf die «faktische Zulassungsregulierung» durch die Regelung der Kostenübernahme durch die gesetzliche Krankenversicherung, welche nur dann erfolgt, wenn das fragliche Produkt im Leistungskatalog verzeichnet ist (für die Schweiz die KLV). ↵

Vgl. für das Schweizer Recht Art. 3 Abs. 1 Bst. c Nr. 1–2 MepV. ↵

Ganz so wie es unter Microsoft Windows möglich ist, Copilot in MS Word oder andere Office-Applikationen zu integrieren, um so ein durchgängig von der KI unterstütztes Arbeiten zu ermöglichen. Es ist z.B. heute ohne Weiteres möglich, gängige LLMs nach der rechtlichen Zulässigkeit verschiedener Bankgeschäfte im Ausland zu fragen. Gerade bei solchen Anwendungen hängt die Qualität der Antworten stark von der Formulierung der Prompts ab. Regelmässig erscheint am Ende der Antwort ein Hinweis, wonach es ratsam sei, zusätzlich einen Rechtsanwalt zu konsultieren. ↵

Der Sachverhalt ist inspiriert von BGer 4C.193/2000 Urteil vom 21. September 2001, Sachverhalt A. Ein Bankdirektor empfing einen Anleger aus Deutschland sowie zwei externe Anlageberater, die später wegen Betrugs, Veruntreuung und ungetreuer Geschäftsführung verurteilt wurden. Im Verlauf des Gesprächs erweckte der Bankdirektor gegenüber dem Anleger den Anschein, «dass diese Geschäfte seriös seien». Jedoch unterliess er es, den Anleger korrekt darauf hinzuweisen, dass seine Bank einzig als Zahlstelle eingesetzt war und entgegen dem Eindruck, den die anwesenden zwei Anlageberater erweckten, die Verwendung des Geldes des Anlegers nicht überwachen würde. ↵

Vgl. das Diagramm in Abschnitt VI.1. Zu Recht würde die SBB als Betreiberin der S-Bahn jedoch einwenden, dass sie für diesen Unfall nicht allein dafür verantwortlich gemacht werden könne, da sie ansonsten das Betriebsrisiko des Dienstleistungsunternehmens vollumfänglich tragen müsste, welches Roboter anstelle von menschlichen Gepäckträgern einsetzt. Umgekehrt liesse sich bei einem Roboter als Gepäckträger heute sicher noch argumentieren, dass die Betriebssicherheit eines Roboters nicht ausreichend hoch ist, um ihn in Gefahrenzonen, wie sie potenziell stark frequentierte und entsprechend enge Bahnsteige darstellen, einzusetzen. Die SBB könnte nach der neueren Rechtsprechung zu Art. 50/51 OR versuchen, auf die anderen am Unfall beteiligten Personen Rückgriff zu nehmen. ↵

Siehe Abschnitt VI.2. ↵

Siehe dazu später in Abschnitt VI.9.1. ↵

Siehe dazu Abschnitt III.7.2. ↵

Vgl. Ziffer 6 in den AGB für Microsofts Copilot für Bing (https://www.bing.com/new/termsofuse, Fassung vom 15.01.2024: «Die Onlinedienste dienen der Unterhaltung. Sie sind nicht fehlerfrei, funktionieren möglicherweise nicht wie erwartet und können falsche Informationen generieren. Verlassen Sie sich nicht auf die Onlinedienste, und nutzen Sie sie nicht, um sich Ratschläge erteilen zu lassen. Die Nutzung der Onlinedienste erfolgt auf eigenes Risiko.» ↵

BGer 4C.193/2000 Urteil vom 21. September 2001, E. 4 a); besprochen in Wyss/von der Crone, S. 112–119. ↵

A.a.O. mit Verweis auf BGE 124 III 363 E. II/5a S. 368 mit Hinweisen. ↵

Vgl. das Beispiel in ELI-Response, S. 23. Die Halterhaftungen der EU-Mitgliedstaaten würden nach dem ELI auch bei vollkommen autonom selbstfahrenden Fahrzeugen greifen. ↵

Weissenberger, Kommentar SVG und OBG, Art. 58 N 8. ↵

Lohmann/Müller-Chen, S. 51. ↵

Lohmann/Rusch, S. 352; nach Schwartz, S. 79 gilt dies auch unter deutschem Recht. Schwartz behandelt sodann die Erhöhung oder Reduktion der Betriebsgefahr aufgrund des Verhaltens des Steuerungssystems: Ob ein Halter für einen Unfall eines selbstfahrenden Fahrzeugs allein oder überwiegend verantwortlich gemacht werden kann, werde sich in vielen Fällen danach richten, ob das Steuerungssystem sich während des Unfallgeschehens verkehrsrichtig verhalten hat. Zu dieser Beurteilung sei ein «menschlich-maschineller Massstab» erforderlich. Ähnlich Weichbold, S. 29 ff. und S. 199, wonach bei Fahrassistenzsystemen ab Stufe 5 die Zuschreibung der Lenkereigenschaft gegenüber einem menschlichen Fahrer «nicht mehr sinnvollerweise möglich» sei. ↵

Weichbold, S. 66 f. und S. 201. ↵

Lohmann/Müller-Chen, S. 51 m.w.H. Die Autoren weisen wohl zutreffend darauf hin, dass die Einführung vollautomatisierter Fahrzeuge bei einer Beibehaltung der Gefährdungshaftung (Betriebshaftung) des Halters «keineswegs zu einer vermehrten Entlastung des Halters» führen wird. ↵

Vgl. Lohmann/Müller-Chen, S. 51. Siehe im Detail in Abschnitt VI.6.1. ↵

Weissenberger, Kommentar SVG und OBG, Art. 58 N 27. ↵

Nach BSK OR I-Kessler, Art. 58 N 12 gehören zu einem Gebäude als Werk auch Teile und Zugehör, wenn sie mit dem Werk oder mit dem Boden fest verbunden sind, z. B. Treppen, Aufzüge und Leitungen. ↵

Zu den Kriterien siehe BSK OR I-Kessler, Art. 58 N 13 ff. ↵

Lohmann/Müller-Chen, S. 56. ↵

Kritisch dazu Fellmann, S. 109. ↵

Lohmann/Rusch, S. 352 mit Hinweis auf Berichte der Bundesanstalt für Strassenwesen (BASt), Rechtsfolgen zunehmender Fahrzeugautomatisierung, Bremerhaven 2012, S. 22 und S. 40 (wobei der Schuldvorwurf an der Verwendung des defekten Systems ohne vorgängige Prüfung oder ausserhalb dessen «Domäne» anknüpfen könnte); Hanisch, S. 58; Hochstrasser, S. 689 f.; Hötitzsch/Lutz, S. 14. ↵

Vgl. Koch/Pichonnaz, S. 630. ↵

So verhielt es sich beim Pferd im Originalsachverhalt! ↵

Vgl bei Lohmann/Müller-Chen, S. 54 das Beispiel eines Fahrsystems, welches trotz einwandfreiem Programmcode eine falsche Entscheidung trifft: Ein Fahrsystem erlernt mittels maschinellen Lernens z.B. ein Strassenmerkmal falsch und verursacht deshalb einen Unfall. ↵

Abschnitt VI.3.7 b). ↵

Abschnitt VI.3.7 b). ↵

BGer 4A_83/2015, Urteil vom 15. Juni 2015, E. 3.1. ↵

Siehe aber Art. 90 Abs. 3 und 4 SVG («Raserdelikte»). ↵

Vgl. Art. 90 Abs. 2 SVG. ↵

Zürich, Handelsgericht, HG140117, Urteil vom 05.04.2018, E. 2.3.3 mit zahlreichen Verweisen auf die Literatur. ↵

BGer 4A_83/2015, Urteil vom 15. Juni 2015. ↵

BGer 6B_309/2016, Urteil vom 10.11.2016, E. 4.1. ↵

BGE 129 IV 282, E. 2.2.1. ↵

Z.Bsp. BGE 129 II 312, 318 E. 3.3. ↵

Siehe Abschnitt VI.3.7 c). ↵

Siehe Abschnitt VI.3.7 d). ↵

Siehe Abschnitt III.4.4. ↵

Siehe Abschnitt VI.3.7 b). ↵

Art. 6 Abs. 1 Bst. a der Produkthaftungsrichtlinie; Art. 1 Abs. 1 Bst. a PrHG. ↵

Deshalb sind folgende Überlegungen nur am Rande von Interesse: Innerhalb der Pflegeeinrichtung ersetzt der Roboter gewissermassen einen menschlichen Pfleger. Denkbar wäre aber auch ein Einsatz des Pflegeroboters in der privaten Wohnung einer pflegebedürftigen Person. Diese würde den Pflegeroboter privat nutzen, während gleichzeitig der Pflegeroboter von der Pflegeeinrichtung im Rahmen einer gewerblichen Tätigkeit (z.B. über einen Mietvertrag) zur Verfügung gestellt würde. ↵

Goher/Mansouri/Fadlallah, S. 4. ↵

Der besseren Lesbarkeit wegen wird im Folgenden auf die Verwendung des Konditionals verzichtet und angenommen, diese Nachführung ins Schweizer Recht habe bereits stattgefunden. ↵

Der Begriff der Komponente wird noch weiter durch den «verbundenen Dienst» (Art. 4 Abs. 4) erweitert, womit digitale Dienste gemeint sind, die als wesentlicher Bestandteil in ein Produkt integriert werden, um bestimmte Funktionen des Produkts zu unterstützen. Koch/Pichonnaz, S. 631 nennen als Beispiel die Bereitstellung von Verkehrsdaten im Rahmen eines Navigationssystems. ↵

Vgl. Koch/Pichonnaz, S. 633; Roegels, S. 188 (Rz 1.3). ↵

COM(2022) 495 final, S. 6 und Präambel 37; weniger konkret die allgemeine Aussage in Präambel 23. ↵

Koch/Pichonnaz, S. 635. ↵

Koch/Pichonnaz, S. 635. ↵

Roegels, S. 188 (Rz 1.4). ↵

Siehe Anhang I Abschnitt B der KI-Verordnung via die Verordnung (EU) Nr. 168/2013 über die Genehmigung und Marktüberwachung von zwei- oder dreirädrigen und vierrädrigen Fahrzeugen und/oder die Verordnung (EU) 2018/858 über die Genehmigung und die Marktüberwachung von Kraftfahrzeugen und Kraftfahrzeuganhängern sowie von Systemen, Bauteilen und selbstständigen technischen Einheiten für diese Fahrzeuge. ↵

Über die Umsetzung von Art. 10 Abs. 1 der Produkthaftungsrichtlinie ins nationale Recht. ↵

Ganz in der Weise wie das Bundesgericht in BGer 4A_25/2021 die Reaktion des Kutschers auf die Konfrontation seines Pferdes mit dem Mistkran beurteilen musste. ↵

Siehe Anhang I Abschnitt A zur KI-Verordnung, in diesem Fall via die Maschinenrichtlinie bzw. neu die Maschinenverordnung. ↵

Vgl. Art. 10 Abs. 2 Bst. a der Produkthaftungsrichtlinie. ↵

Vgl. Art. 10 Abs. 2 Bst. b der Produkthaftungsrichtlinie. ↵

COM(2020) 65 final, S. 18; siehe oben Abschnitt VI.3.7 c). ↵

Über die subsidiär anwendbare klassische Geschäftsherrenhaftung aus Art. 55 OR haftet der Spediteur, entweder als juristische Person oder als Inhaber einer Einzelunternehmung. ↵

Vgl. den in Abschnitt III.4.3 besprochenen Entscheid BGer 4A_305/2021. ↵

Nach Lohmann, Haftungsrahmen, S. 112, bestimmen diese Personen, dass ein System lernen kann, und definieren Metriken und Qualitätsrisiken, die das System erfüllen muss. ↵

Weissenberger, Kommentar SVG und OBG, Art. 58 N 31. ↵

A.a.O. ↵

A.a.O. ↵

Lohmann/Müller-Chen, S. 51. ↵

Lohmann/Müller-Chen, S. 52. ↵

Nach Lohmann/Müller-Chen, S. 51 werden bei vollautomatisierten Fahrzeugen «klassische Fahrfehler» nicht mehr relevant sein. ↵

Quadroni, S. 350 zum Verschulden im Szenario «human off the loop». ↵

Vgl. bei Lohmann/Müller-Chen, S. 52 die Liste des denkbaren automatisierungsbezogenen Fehlverhaltens, hier namentlich (1) der Einsatz i.e.S. als Aktivierung bzw. Deaktivierung des Systems in einer konkreten Situation und (2) der Einsatz i.w.S. als Inbetriebnahme des Systems als solche. Der Entscheid zu einem Einsatz i.w.S. könne eigentlich nicht zu einer Haftung führen, sofern das Fahrzeug ordentlich zugelassen worden ist. ↵

Die im Kanton Neuenburg gelegene Stadt verdankt ihrer rechtwinklig angelegten Bebauung (Planstadt) und ihren zahlreichen Jugendstilbauten den Status als UNESCO-Welterbe, den sie 2009 erhielt. ↵

Siehe Abschnitt VI.2. ↵

Vgl. Beck/Faber/Gerndt, S. 252 f. ↵

Siehe Abschnitt VI.3.3. ↵

Das Beweismass für den Nachweis der natürlichen Kausalität ist die der überwiegenden Wahrscheinlichkeit (BGE 133 III 462). ↵

Nach der bekannten Formel der ständigen Rechtsprechung, siehe Abschnitt VI.3.3. ↵

BGE 131 IV 145, 147, E. 5.1. ↵

Beck/Faber/Gerndt, S. 253 mit Verweis auf Steinrötter, § 26 Rn. 46. ↵

Beck/Faber/Gerndt, S. 254. ↵

Zum Thema «Bias» siehe z.B. Sharona Hoffman/Andy Podgurski, Artificial Intelligence and Discrimination in Health Care (2020). 19(3) Yale Journal of Health Policy, Law, and Ethics 1 (2020), Case Legal Studies Research Paper No. 2020–29, abrufbar auf SSRN: https://ssrn.com/abstract=3747737. Im Oktober 2019 fanden Forscher heraus, dass ein Algorithmus, der bei mehr als 200 Millionen Menschen in US-Krankenhäusern eingesetzt wurde, um vorherzusagen, welche Patienten zusätzliche medizinische Versorgung benötigen würden, weisse Patienten gegenüber schwarzen Patienten stark bevorzugte. Die Hautfarbe war zwar keine explizite Variable des Modells. Das Datum korrelierte aber mit den vergangenen Gesundheitskosten. Aus näher zu untersuchenden Gründen hatten schwarze Patienten im Durchschnitt niedrigere Gesundheitskosten als weisse Patienten mit denselben Erkrankungen. Dies konnte damit zusammenhängen, dass schwarze Patienten einen weniger leichten Zugang zur medizinischen Versorgung hatten und somit für diese Gruppe weniger aussagekräftige Daten vorlagen. ↵

Zum Zusammenhang mit dem Produktfehler siehe Abschnitt III.6.2. ↵

Siehe Art. 51 Abs. 2 SVG. Das Informationssystem Strassenverkehrsunfälle (Art. 89j ff. SVG) dient nicht nur dem Erstellen der Unfallstatistik, sondern auch dem Auswerten und der Analyse von Unfällen. Diese Informationen können einerseits die Aufklärung einzelner Unfälle für die Zwecke der Schadensregulierung erleichtern als auch der Prävention von Unfällen dienen. Für Hochrisiko-KI-Systeme vgl. jetzt die Verpflichtung der Anbieter zur Meldung schwerwiegender Vorfälle und Fehlfunktionen nach Art. 73 der KI-Verordnung. Diese Massnahme ist Teil der Marktüberwachung für solche Systeme. ↵

Als Sicherheitsbauteil gilt der Steuerungsalgorithmus eines selbstfahrenden Lieferwagens als Hochrisiko-KI-System, sodass die Anforderungen aus dem Kapitel III der KI-Verordnung anwendbar wären. ↵

Diese Verpflichtung trifft den Anbieter eines Hochrisiko-KI-Systems. ↵

Hier sei erwähnt, dass Pohle, S. 374 die Transparenzbestimmungen des Gesetzes über KI, namentlich Art. 13 zur technischen Nutzerdokumentation, «unscharf» findet. Die Herausforderung wird nicht nur rein technisch sein, sondern es wird darum gehen, dem Nutzer (jetzt Betreiber genannt) die relevanten Informationen in einer für ihn zugänglichen Sprache zukommen zu lassen. ↵

Siehe Abschnitt II.3. ↵

Vgl. die ausdrückliche Nennung dieses Punkts in Art. 4 Abs. 2 Bst. a im Vorschlag zu einer Richtlinie über KI-Haftung. ↵

Siehe diesen Vorwurf unter Abschnitt VI.7.1 a). ↵

Siehe Abschnitt VI.7.1 a). ↵

Vgl. Art. 26 der KI-Verordnung. ↵

Vgl. Art. 3 im Vorschlag zu einer Richtlinie über KI-Haftung. ↵

Siehe Abschnitt III.7. ↵

Im Detail siehe hierzu Abschnitt III.7.2. ↵

Siehe Abschnitt VI.3.7. ↵

Siehe Abschnitt VI.7.2. ↵

Vgl. Art. 13(3)(v) des Gesetzes über KI. ↵

Vgl. z.B. Beckers/Teubner, S. 208 ff. zu «Vernetzungsrisiken» und «Schwärmen». ↵

Siehe Abschnitt III.3.5. ↵

BGer 4C.193/2000 Urteil vom 21. September 2001, E. 4a) mit Verweis auf BGE 57 II 81, 86 E. 2. ↵

BGer 4C.193/2000 Urteil vom 21. September 2001, E. 4a). ↵

BGer 4C.193/2000 Urteil vom 21. September 2001, E. 4a). ↵

BGer 4C.193/2000 Urteil vom 21. September 2001, E. 2. ↵

Deshalb entwickelte das Bundesgericht die alternative Anspruchsgrundlage der Vertrauenshaftung, aus welcher sich höhere Anforderungen ergeben als die aus dem Massstab der Widerrechtlichkeit oder des Verstosses gegen die guten Sitten abzuleitende Forderung des ethischen Minimums, das von jedermann und in jeder Lage zu respektieren ist; BGer 4C.193/2000 Urteil vom 21. September 2001, E. 4,a); vgl. Wyss/von der Crone, S. 114 f. mit Verweis auf BGE 120 II 331 (Swissair). ↵

Das Bundesgericht ging auf die Motive des Bankdirektors nicht weiter ein, sondern entschied in E. 4 c) nur, dass die Vorinstanz ein Verschulden zu Recht angenommen habe. ↵

Vgl. ELI-Response, S. 23: «[…] victims can effectively access justice and claim damages under equal and fair conditions regardless of the technology employed». ↵

Vgl. Art. 11 Abs. 2 der überarbeiteten Produkthaftungsrichtlinie. ↵

7

Ausblick

Haftung der Betreiber («Roboterhaftung»)

In der EU sollte die überarbeitete Produkthaftungsrichtlinie einen gewichtigen Beitrag dazu leisten, dass die ausservertraglichen zivilrechtlichen Haftungsregime in den Mitgliedstaaten für die Herausforderungen des digitalen Wandels fit gemacht werden. An vorderster Front sind hier sicher die Präzisierungen in der Terminologie zu nennen, die dafür sorgen, dass KI-Systeme mit selbstlernenden Algorithmen als Produkte gelten. Die Besprechung der Beispiele 1 und 2 in Kapitel VI strich zudem die Bedeutung der neuen Regeln zur Offenlegung von Beweismitteln und zur Beweislastverteilung hervor, welche die prozessuale Stellung der geschädigten Personen verbessern werden. Für die Schweiz wäre es zu wünschen, dass bei einer zukünftigen Revision des PrHG auch diese prozessualen Regeln übernommen werden. Gleichzeitig zeigte sich bei den Überlegungen zum Nachweis der Fehlerhaftigkeit der Steuerungsalgorithmen, dass ein solcher Nachweis nicht ohne vertiefte technische Kenntnisse zu leisten sein wird. Schadensprozesse an der Schnittstelle zwischen analoger und digitaler Welt (Fallgruppe 3) haben das Potenzial, schon bei alltäglichen Unfällen wie im Beispiel 1 zum Tummelfeld technischer Gutachter zu werden.[1] So fragen wir uns, ob die Hürden für die Kläger nicht wenigstens in den Fällen weiter vermindert werden sollten, die sich im Alltag der Menschen erfahrungsgemäss mit einiger Regelmässigkeit ereignen.[2] Dies gilt insbesondere für Situationen, in denen wie in den Beispielen 1 und 2 des Kapitels VI unbeteiligte Dritte zu Schaden kommen, die keinerlei Vorteil aus dem Einsatz des unfallverursachenden KI-Systems ziehen können.

Im Sinne dieses Gedankens forderte das Europäische Parlament in einer Entschliessung von 2020 die Einführung einer Gefährdungshaftung für die Betreiber von KI-Systemen.[3] Die EU-Kommission ist dieser Forderung bislang nicht nachgekommen.[4] Das Parlament stellte dazu fest, dass bei einem Personen- oder Sachschaden die Geschädigten häufig keine vertraglichen Haftungsansprüche gegen den Betreiber geltend machen können, sondern dass ihnen nur ein Anspruch aus verschuldensabhängiger deliktischer Haftung zustünde, «und es sich für sie schwierig gestalten könnte, das Verschulden des Betreibers des KI-Systems nachzuweisen».[5] Diese Probleme hätte selbst die mittlerweile wieder zurückgenommene Richtlinie über KI-Haftung nur sehr eingeschränkt lösen können.[6]

Im Schrifttum lehnte Wagner die Einführung einer Gefährdungs- oder Kausalhaftung für die Betreiber von KI-Systemen als zu radikal ab:[7] Einerseits sei die Haftung der Hersteller in der Produkthaftung «im Grundsatz» ausreichend sichergestellt. Andererseits sei beim gegenwärtigen Stand der Technik nicht zu erwarten, dass es beim Einsatz von KI zu massenhaften Schäden komme. Im Gegenteil sei vielmehr zu erwarten, dass die Einführung von KI in vielen Bereichen zu einer Reduktion der Anzahl Unfälle führe. Schliesslich sei der Betreiber oder Nutzer ohnehin der falsche Adressat, «denn er hat allenfalls geringen Einfluss auf das Verhalten des Systems». Gleichzeitig weist Wagner auf das Bestehen von speziellen Gefährdungstatbeständen für Bereiche mit erhöhtem Risikopotential hin.[8] Diese würden «umstandslos» auch für Maschinen gelten, in denen KI zum Einsatz gelangt. Dieser Denkansatz erscheint vernünftig, richtet er sich doch nach dem Risikopotential. Roboter als KI-Systeme mit physischer Präsenz sind sicher anders zu beurteilen als Webbots oder Backoffice-Tools. Wir haben diesen Denkansatz bei unserem Überblick zum bestehenden Haftungsrahmen dargestellt.[9]

Ähnlich kritisch sieht Steinrötter die Schaffung eines Gefährdungshaftungstatbestands für Roboter im Sinne einer allgemeinen, dem Modell der Tierhalterhaftung folgenden «Roboterhaftung». Ein «einheitliches, kategorienübergreifendes Haftpflichtrecht für autonome Roboter ohne jegliche Spezifizierung» erscheine «nicht überzeugend darstellbar».[10] Eine solche Haftung könne innovationsfeindlich wirken und über das Ziel hinausschiessen. Es müssten schon zuerst einzelne «Roboterkategorien» geschaffen werden, die das realistische Risikopotential verschiedener Anwendungen adäquat abbildeten. Roboter ist nicht gleich Roboter.

In Kapitel V haben wir versucht darzustellen, dass ein charakteristisches Risiko für KI wohl nur bei Anwendungen der starken KI anzunehmen ist. Die Einführung einer der Tierhalterhaftung nachgebildeten «Roboterhaftung» würde u.E. nur für Anwendungen der starken KI mit physischer Präsenz Sinn machen, die über ein hohes Mass an Autonomie verfügen. Mit dem Nutzer würde so in erster Linie die Person ins Recht gefasst, die in unmittelbarer Weise den grössten Nutzen aus dem Einsatz des KI-Systems zieht. Diesem Nutzer sollte wie heute dem Tierhalter die Möglichkeit zur Entlastung offenstehen. Er müsste nachweisen, alle einschlägigen Sorgfaltspflichten erfüllt zu haben. Selbstverständlich würde es Sinn machen, diese Sorgfaltspflichten zu spezifizieren, wie dies die EU-Gesetzgeber in der KI-Verordnung versucht haben. Gelingt dem Nutzer die Entlastung, bliebe das Autonomierisiko als Restrisiko, welches der Geschädigte tragen müsste. Die Realisierung des Autonomierisikos in dieser Situation entspräche dem Zufall im klassischen Haftpflichtrecht.

Funktionales Verschulden des Roboters

Können die an Herstellung, Training und Vorbereitung eines KI-Systems beteiligten Personen nicht ins Recht gefasst werden, bliebe neben spezialgesetzlichen Haftungsnormen immer noch die Möglichkeit einer Haftung des künstlichen Akteurs nach eigenem Recht denkbar. Hier spielen nebst anderen Überlegungen philosophische Aspekte eine Rolle: Je mehr man geneigt ist, der KI eigene Fähigkeiten zuzuschreiben, desto eher sollte sie aus eigenem Recht in die Haftung genommen werden können. Dies wäre aber definitiv neues Terrain und bedingte die Einführung einer zumindest eingeschränkten Rechtspersönlichkeit für künstliche Akteure. Dies klingt revolutionär, muss es aber nicht wirklich sein. Wie bereits Omlar bemerkte, müsste der künstliche Akteur nicht zwingend mit denselben Rechten und Pflichten wie ein Mensch ausgestattet werden. Ihm wäre «lediglich die Rechtsfähigkeit im Privatrecht zuzuerkennen, die Savigny zutreffend als (schlichte) Vermögensfähigkeit umschrieb».[11] Doch selbst die Einführung einer beschränkten Rechtspersönlichkeit in die bestehende Rechtsordnung würde eine Vielzahl von Fragen aufwerfen, die nicht leichtgenommen werden sollten. Wir lehnen solche Entwicklungen zum jetzigen Zeitpunkt ab.

Die in Kapitel IV skizzierten Überlegungen zur funktionalen Verantwortlichkeit künstlicher Akteure könnten jedoch dazu dienen, dem Konzept der menschlichen Aufsicht aus Art. 14 der KI-Verordnung eine schärfere Kontur zu verleihen. Um die Urteilsfähigkeit des Roboters zu simulieren, treten, so der frühere Vorschlag, die Beobachter erster Ordnung in Aktion:[12] Die vorgeschlagene Simulation von Verantwortung funktionierte so, dass ein (urteilsfähiger) menschlicher Beobachter von aussen das Handeln des KI-Systems als Akteur beobachtet und nach einem ihm vorliegenden moralischen Massstab beurteilt. Die Beurteilung erfolgt anhand von Zuständen und Vorgängen, die dieser Beobachter wahrnehmen kann.[13] In Beispiel 2 aus Kapitel VI des Roboters, der in einer Pflegeeinrichtung als Pflegeroboter eingesetzt wird, bedeutete dies, dass der menschliche Beobachter den Einsatz des Roboters verfolgt und dem Roboter ein Signal geben muss, wenn dieser angesichts einer ihm neuen Situation nicht weiss, wie er zu reagieren hat. Angenommen, eine Besucherin Frau B wie im Beispiel B versperrt dem Roboter nicht nur den Weg, sondern versucht sogar, ihn die Treppe hinunterzustossen. Möglicherweise wurde der Roboter von seinen Herstellern so programmiert, dass er sich in einer solchen Situation im Freien durchaus angemessen verhalten würde. Angesichts der räumlichen Enge im Treppenhaus der Pflegeeinrichtung, die seine Bewegungen einschränkt, könnte er mit der Situation jedoch überfordert sein. Der Beobachter müsste dem Roboter Hinweise (aber keine Anweisungen[14]) geben, wie er insgesamt angemessen reagieren, sich allenfalls gar gegen die Angreiferin zur Wehr setzen kann. Der Beobachter würde damit den Lernprozess des Algorithmus anregen, der durch das konkrete äussere Ereignis angestossen wurde. Entscheidet sich der Roboter positiv gegen den Hinweis des Beobachters, der seinerseits mit dem massgeblichen moralischen Massstab im Einklang steht, handelt der Roboter «simuliert schuldhaft». Dies wäre beispielhaft der Fall, wenn der Roboter, anstatt einfach zurückzuweichen, die Angreiferin die Treppe hinunterstösst, um anschliessend seinen Weg fortzusetzen und die Patientin an ihren Bestimmungsort zu begleiten.[15]

Das Konzept sieht nicht vor, dass der menschliche Beobachter laufend, d.h. in Echtzeit («real-time»), sämtliche Handlungen des Roboters verfolgt und kommentiert. Dies wäre kaum praktikabel und würde den Roboter definitiv von einem mehr oder weniger autonomen Gerät zu einem Werkzeug degradieren.[16] Die Idee ist vielmehr, dass der Beobachter abgeschlossene Einsätze des Roboters nachträglich verifiziert und beurteilt und dem Algorithmus entsprechendes Feedback zum Verhalten einspielt. Das Fehlverhalten des Roboters im besprochenen Fall geschähe somit trotz der dem Roboter bis dahin zur Verfügung gestellten Trainingsdaten und Erfahrungswerte. Das Fehlverhalten entstünde aus der dem Roboter zugestandenen Autonomie heraus, für Probleme, mit denen er konfrontiert wird, innerhalb des definierten Handlungsspielraums selbständig Lösungen zu finden. Entsprechend sollte nicht der Beobachter selbst für das Fehlverhalten verantwortlich gemacht werden können. Ein schuldhaftes Verhalten würde dem Betreiber zugerechnet werden. Der Beobachter soll sich nur nach den Regeln haftbar machen können, die für die anderen an der Herstellung und Vorbereitung des Roboters beteiligten Personen gelten.[17]

Vertrauenshaftung

Die breite Verwendung und Akzeptanz von KI-Anwendungen im Alltag hängen davon ab, ob die Menschen dieser neuen Technologie grundsätzlich vertrauen.[18] Das bedingt, dass die Nutzer von KI-Anwendungen die dahinterstehenden Algorithmen nicht ständig hinterfragen oder ihre Funktionsweise gar nachvollziehen wollen. Wie die Reisenden des frühen 19. Jh. sich auf die Fahrt mit der damals neuen, zuweilen gefährlich anmutenden Eisenbahn einlassen mussten, müssen sich heute Büroarbeiter, Ärzte, Studenten, Anwälte oder Anleger auf die Erfahrung, mit einem Chatbot zu diskutieren, einlassen. Es kann nicht überraschen, wenn Anbieter solcher Chatbots in ihren Nutzungsbedingungen jegliche Haftung für die Richtigkeit oder Nützlichkeit der gelieferten Informationen ablehnen. Zu neu scheint noch die Technik, zu breit jedenfalls das Spektrum der möglichen Fragen. Dennoch sollte anerkannt sein, dass ganz unabhängig vom Vertragsverhältnis zwischen den Nutzern eines Chatbots (oder einer anderen KI-Anwendung, die aufbereitete Informationen liefert) und der Anbieterin, die diesen im Rahmen ihrer Geschäfts- oder anderer Tätigkeiten zur Verfügung stellt,[19] in konkreten, vom Gesetz oder von der Rechtsprechung noch zu bestimmenden Fällen die Möglichkeit einer ausservertraglichen Haftung dieser Anbieterin offenstehen sollte. Ansonsten dürfte die Verbreitung solcher Anwendungen im Alltag in bescheidenem Rahmen bleiben.

Panorama der Argumente

Zu Beginn dieser Arbeit formulierten wir die Arbeitshypothese, wonach die Dogmatik des traditionellen Haftpflichtrechts auch in Zukunft als tragfähiges Gerüst dienen könne, um haftpflichtrechtliche Probleme beim Umgang mit KI befriedigend zu lösen. Das sollte nicht heissen, dass es keinerlei Bedarf für gesetzgeberische Neuerungen gibt. Solche Neuerungen könnten jedoch als Justierungen bewährter Bestimmungen minimal-invasiv bleiben.[20]

In diesem letzten Kapitel stellen wir die wichtigsten Aussagen, die im Laufe der vorstehenden Kapitel zur Stützung der Arbeitshypothese entwickelt und besprochen wurden, zusammen. Das Panorama dieser Aussagen kann einerseits dazu dienen, auf wenig Raum die Schlüssigkeit der Argumentation für die Arbeitshypothese aufzuzeigen. Andererseits kann die Diskussion von dieser Stelle leicht weitergeführt werden, wenn neue Ideen vorgeschlagen werden oder sich neue Entwicklungen manifestieren.

Im Vorwort zu seinen «Grundsätzen des Völckerrechts» von 1754 reklamierte Christian v. Wolff für sich selbstbewusst, dass «es nun endlich klar sey, was Cicero sehr geschicklich gesagt, dass die Rechtswissenschaft nicht aus den zwölf Tafeln, noch aus den Befehlen der Prätoren, sondern allerdings aus dem innersten der Philosophie herzuholen sey».[21] Vermag dieses Zitat aus einer anderen Zeit für heutige Juristen fremd klingen, eignet es sich immer noch als methodische Richtschnur für die wissenschaftliche Beratung der Gesetzgeber:[22] Wolff sagt uns im Wesentlichen, dass Konsistenz und logische Stimmigkeit ebenso wichtige Qualitätskriterien für gute Gesetzgebung sind wie Zweckmässigkeit und wirksame Handhabbarkeit in der Rechtsanwendung. Für die vorliegende Diskussion heisst dies konkret: Sofern Schäden, die von neuen Technologien wie der KI verursacht werden, nach neuen haftpflichtrechtlichen Lösungen verlangen, muss sich jedes neue Instrument konsistent in das traditionelle Haftpflichtrecht einbetten lassen. Dies spricht gegen allzu innovative neue Ansätze, welche bewährte juristische Konzepte vorschnell und ohne gebührende Berücksichtigung des grossen Ganzen ersetzen sollen. Orientieren wir uns zusätzlich am gesamtheitlichen Wissenschaftsverständnis der Aufklärung, spricht dabei nichts gegen die sachgerechte Berücksichtigung ausserjuristischer Argumente aus Technik und Wirtschaftslehre.

Der in Kapitel III präsentierte historische Abriss zum Haftpflichtrecht zeigt eindrücklich die Flexibilität und die Möglichkeiten dieses Teilgebiets des Zivilrechts auf, sich über die Jahrhunderte zu bewähren und sich dabei immer wieder an soziale und wirtschaftliche Entwicklungen anzupassen.[23] Dieser historische Befund suggeriert eine Stärke der überlieferten haftpflichtrechtlichen Konzepte, welche unsere von Wolff inspirierte programmatische Forderung, wenn immer möglich neue Instrumente nur minimal-invasiv einzuführen, nicht als voreilige Verengung der Diskussion, sondern als vernünftige Anforderung an die Lösungsfindung ausweist.

Diese Stärke der haftpflichtrechtlichen Konzepte liegt zum Teil darin begründet, dass viele Fragen, die sich heute im Zusammenhang mit dem Einsatz von KI stellen, in ähnlicher Form bereits in früheren Phasen der Industrialisierung erkannt und beantwortet wurden. Erste Vorarbeiten zur Entwicklung einer Generalklausel des Deliktsrechts, welche später Eingang in verschiedene moderne Kodifikationen finden sollte, leisteten bereits die Vertreter der Naturrechtslehre des 17. und 18. Jh. Schon damals lag das grösste Problem bei der Verschuldenshaftung darin, das fehlerhafte menschliche Verhalten zu identifizieren und seinen adäquat kausalen Beitrag zum Schaden zu bestimmen und zu belegen.[24] Im Zuge der Industrialisierung im 19. Jh. («Industrialisierung 1.0») wurde neben der Verschuldenshaftung das Konzept der Gefährdungshaftung wiederbelebt und weiter verfeinert. Die Gefährdungshaftung kann als eine der interessantesten Entwicklungen im Haftpflichtrecht gesehen werden. Die Grundidee besteht darin, dem Einzelnen als Gegenleistung für die Erlaubnis, eine an sich mit Gefahren verknüpfte Tätigkeit zu seinem eigenen Vorteil auszuführen, eine Haftung als Gegenleistung an das Kollektiv (die Gesellschaft oder Gemeinschaft) aufzuerlegen.[25] Aus historischer Perspektive betrachtet, ist es nichts als zweckmässig, neue Technologien wie die KI haftpflichtrechtlich geeignet zu erfassen, so wie es im 19. Jh. für die Dampfmaschine und andere damalige technische Errungenschaften geschah.

Die Qualifikation als «besondere» Lösung muss sich nicht auf das eigentliche Juristische beziehen. Das überlieferte juristische Konzept der Gefährdungshaftung lässt sich nicht korrekt umsetzen, ohne die Berücksichtigung der spezifischen Eigenschaften der fraglichen Gefahrenquelle. Dies gilt insbesondere für Gefahrenquellen, die mit einer Technologie verknüpft sind. Es erscheint nicht leicht, diese Gefahrenquellen für die KI ganz allgemein auszumachen. Anders als etwa bei der Atomenergie oder bei der Haltung von Tieren sind bei der KI keine Naturkräfte im Spiel. Opazität ist jedenfalls in vielen Bereichen des modernen Lebens präsent, ohne dass sie als charakteristisches Risiko im Haftpflichtrecht gilt. Wahrscheinlich bedarf es erst praktisch relevanter Anwendungen starker KI, um deren ausgeprägte Autonomie als charakteristisches Risiko zu identifizieren – vergleichbar mit der unberechenbaren Natur eines Tieres. Auf der Grundlage unserer Überlegungen aus den Kapiteln III bis V sind wir der Ansicht, dass erst die Existenz von starker KI die Rechtswissenschaft konzeptionell herausfordert.[26]

Die KI-Verordnung der EU gilt in den Medien als die «weltweit erste Regulierung von KI». Sie stellt u.E. jedoch keine revolutionäre Regulierung einer neuen Technologie dar. Die KI-Verordnung leistet vielmehr eine verhältnismässig konservative Regulierung der allgemeinen KI im bewährten Rahmen der Produktsicherheit, vergleichbar mit der entsprechenden sektorspezifischen Lösung für Medizinprodukte.[27] So betrachtet erfüllt die KI-Verordnung die von Wolffs Zitat inspirierte Forderung nach einem minimal-invasiven Eingriff in das bestehende Normengefüge.[28]

Für die Schweiz ist im Besonderen zu wünschen, dass bei der Regulierung von KI auf Kompatibilität mit dem EU-Recht geachtet wird. Auf ein «Swiss Finish» kann verzichtet werden. Die Regulierung von KI muss jedoch ausreichend konkret sein, um dem Zivilrecht die notwendigen Inputs liefern zu können.[29]

Das zu Beginn dieses Panoramas angesprochene gesamtheitliche Wissenschaftsverständnis der Aufklärung motiviert zum Nachdenken, wie heutige Philosophen und Soziologen mit der Frage nach der (moralischen) Verantwortung von künstlichen Akteuren wie Robotern oder KI-Agenten umgehen. Zwar zeigen die in Kapitel IV vorgestellten Modelle einen gewissen Spielraum für eine Zuordnung von vereinfachter Verantwortung an artifizielle Systeme auf. Dabei darf nicht übersehen werden, dass die gängige, in der roboterethischen Literatur vertretene Meinung vom genauen Gegenteil ausgeht, d.h. von der Absage an die aktuelle Möglichkeit, in bestimmten KI-Systemen potenzielle Verantwortungssubjekte zu sehen. Heutige Roboter (und umso mehr blosse Algorithmen) sind mangels wesentlicher Eigenschaften wie Bewusstsein oder Intentionalität keine Subjekte, sondern nur Objekte oder allenfalls Adressaten von Verantwortung, auf die sich ein verantwortliches menschliches Handeln jeweils bezieht.[30] Die von Loh und Neuhäuser vorgeschlagene Idee des Verantwortungsnetzwerks ist von sich aus nicht in der Lage, das Problem der Verantwortungszuschreibung für künstliche Akteure zu lösen. In ihm fliessen vielmehr zwei anspruchsvolle Probleme zusammen, die auch der Rechtswissenschaft bekannt sind: Zum einen ist dies die Zuschreibung von Verantwortung angesichts einer Vielzahl von potenziellen Verantwortungssubjekten, seien sie horizontal auf gleicher Stufe oder vertikal auf unterschiedlichen Hierarchiestufen angeordnet. Dieses seit längerem bekannte und debattierte Problem stellt sich ungeachtet dessen, ob nur menschliche oder auch künstliche Akteure im Spiel sind.[31] Es geht um geteilte Verantwortung in arbeitsteiligen Umgebungen. Kritischer noch als die Frage nach einer Verantwortung künstlicher Akteure ist dort die Gefahr einer Verantwortungsdiffusion zu erkennen.[32]

Wir postulieren, dass es Aufgabe der Gerichtspraxis sein soll, die Beteiligung von KI im Rahmen der Kaskadenordnung von Art. 50/51 OR in sachgerechter Weise zu berücksichtigen. Im Gegenzug kann u.E. auf spezielle Konzepte wie eine «Netzwerkhaftung» verzichtet werden.[33]

Der Ausflug in die Roboterethik zeigt, dass sich die Philosophen und Soziologen zwar anderer Methoden bedienen, bei der Frage der Verantwortung aber zu vergleichbaren Ergebnissen gelangen wie die Juristen bei der Betrachtung der Haftung. Die Idee der Soziologie, den künstlichen Akteuren einen menschlichen Beobachter erster Ordnung zuzuordnen, der ihre kognitiven Defizite ausgleicht, erscheint zumindest auf einer theoretischen Ebene vielversprechend, umso mehr, als sich diese Idee gut in bekannte soziologische Konzepte einordnen lässt.[34] Die Idee könnte dem Regulierungsinstrument der in Art. 14 des Gesetzes über KI vorgesehenen menschlichen Aufsicht Pate gestanden haben. Die menschliche Aufsicht stellt damit eines der wenigen innovativen Instrumente des ansonsten im bewährten Produktsicherheitsrecht wurzelnden Gesetzes über KI dar. Seine Umsetzung und Bewährung in der Praxis stehen natürlich noch aus.

Solange die KI auf algorithmisch lösbare Probleme beschränkt bleibt, in gewisser Weise also nur simuliert, wirklich intelligent zu sein, stellt eine KI-Anwendung nicht viel mehr dar als eine besonders ausgeklügelte Rechenmaschine. In diesen Fällen wird sich die Frage nach der Haftung und Verantwortung für von der KI verursachte Fehler tendenziell wohl immer auf Fehler beim Design des der KI-Anwendung zugrundeliegenden Algorithmus oder beim Training der KI-Anwendung zurückführen lassen.[35] Viele Haftungsfragen sollten sich durch ein nachgeführtes Produkthaftungsrecht befriedigend beantworten lassen.

Derselbe Umstand, aus anderem Blickwinkel betrachtet, führt dazu, eine Anwendung der schwachen KI bei aller technischen Komplexität immer noch als blosses Werkzeug zu verstehen, welches von menschlichen Akteuren in bestimmten Situationen eingesetzt wird. Die Besprechung der beiden ersten Beispiele in Kapitel VI nach dem aktuell geltenden Recht deutet an, dass bei einem Zusammenspiel von Menschen und Robotern bereits bestehende Gefährdungs- oder Betriebshaftungen in vielen Fällen für eine angemessene Schadensregulierung sorgen könnten. Wenn der Erfolg solcher Rückgriffe für den Geschädigten aus praktischen Gründen häufig nicht im Vordergrund steht, ist ein differenzierter interner Rückgriff gesellschaftlich gesehen längerfristig wichtig, um die von den Wirtschaftsakteuren eingegangenen Risiken adäquat abzugelten bzw. zu bepreisen.[36]

Demgegenüber erscheint die Einführung einer vollen oder eingeschränkten Rechtspersönlichkeit für künstliche Akteure aktuell verzichtbar. Vielmehr genügt es, an einzelnen Stellen des neuen Haftungsregimes weiter nachzujustieren, etwa beim Schutz unbeteiligter Dritter. Erst wenn sich Anwendungen der starken KI im Alltag durchzusetzen beginnen, bietet es sich an, nach dem Vorbild von Normen wie Art. 58 SVG (Halterhaftung) oder Art. 56 OR (Tierhalterhaftung) eine eigene Gefährdungshaftung für Roboter einzuführen. So könnte der Dienstleister als Einsatzbetrieb eines solchen Roboters verschuldensunabhängig, d.h. kausal für den Schaden, haftbar gemacht werden, den der Roboter bei einem unbeteiligten Dritten verursacht hat.[37]

Es ist beruhigend festzustellen, dass selbst eine solche «Roboterhaftung» sich noch konsistent in den überlieferten Rahmen des Haftpflichtrechts einfügte, sodass Wolffs Leitlinie weiterhin gefolgt würde.

Berücksichtigung der Gesetzgebung: bis zum 28. Februar 2025

*..*..*

*

*

*

Das Beispiel des Prozesses zum ICE-Unfall in Eschede von 1998 zeigt auf, dass auch Prozesse zu Unfällen, die sich allein in der analogen Welt abspielen, manchmal nicht ohne vertiefte und spezialisierte technische Abklärungen geführt werden können – nur handelt es sich in diesen Fällen meist um Vorfälle mit grösserer Komplexität oder anderen Besonderheiten; für eine ausführliche Darstellung des Strafprozesses zum ICE-Unfall samt Informationen zu den technischen Gutachten siehe Kühlwetter. ↵

Vgl. die Option 2b mit einer Umkehr der Beweislast in COM(2022) 495 final. ↵

Entschliessung EP 20, Ziff. 11–13. ↵

Stattdessen folgte der Vorschlag zur Richtlinie über KI-Haftung, siehe Abschnitt II.3. ↵

Entschliessung EP 20, Ziff. 11. ↵

Siehe dazu Abschnitt VI.7.2. ↵

Wagner, Richtlinie über KI-Haftung, S. 133. ↵

Wagner, Richtlinie über KI-Haftung, S. 133, so z.B. die Halterhaftung nach § 7 StVG. ↵

Siehe Abschnitt VI.2. ↵

Steinrötter in: Ebers/Heinze/Krügel/Steinrötter, Rechtshandbuch, § 26 Rz 48. ↵

Omlar, S. 223. Möglicherweise ist die Einführung einer Versicherungspflicht für die Nutzer bestimmter KI-Systeme für den angestrebten Zweck, geschädigte Dritte zu entschädigen, bereits ausreichend und deshalb vorzuziehen. In diesem Sinn siehe ELI Innovation Paper, Guiding Principle 3. ↵

Siehe Abschnitt IV.3. Ein alternatives Konzept wird in Beck/Faber/Gerndt, S. 255 ff. unter dem Titel «Human in the Loop» bzw. «Meaningful Human Control (MHC)» beschrieben. MHC soll sicherstellen, dass Menschen bei gemeinsamen Entscheidungen mit einer Maschine nur dann verantwortlich zu machen, wenn dies angesichts der konkreten Umstände tatsächlich angemessen erscheint. Der menschliche «Letztentscheider», der nur wenig in die Funktionsweise des KI-Systems Einblick hat, soll eben gerade nicht als «Haftungsknecht» missbraucht werden. ↵

Siehe Abschnitt IV.2.2 d) und Abschnitt IV.3.2. ↵

Die Funktion des Beobachters ist nicht die eines externen Bedieners (wie etwa bei einer Drohne), sondern dient einzig aber immerhin der Beurteilung von konkreten Situationen anhand des massgeblichen moralischen Massstabs. Dies unterscheidet die Beobachterfunktion von der Situation «Human on the loop» bei Quadroni, S. 347. ↵

Falsche Gewichtung der in Frage stehenden Rechtsgüter. ↵

Vgl. dazu bei Probst, S. 58 das Beispiel eines Shuttlebuses, der zwar keinen Fahrer mehr braucht, in dem dafür aber eine Sicherheitsperson mitfährt. Dies laufe betriebswirtschaftlich auf ein «Nullsummenspiel» hinaus und sei insofern unternehmerisch wenig attraktiv. Das Ziel müsse daher sein, «die Sicherheitsperson durch Teleoperation bzw. Tele-controlling zu ersetzen, damit im Fall einer Betriebsstörung der Teleoperator bzw. Telecontroller per Fernsteuerung das Fahrzeug wieder auf Kurs bringen oder nötigenfalls in eine möglichst risikolose Position steuern kann, wo es anschliessend vom Notfalldienst vor Ort überprüft und wieder in Gang gesetzt werden kann». ↵

Siehe Abschnitt VI.7. ↵

Siehe Abschnitt V.4.3. ↵

Dies muss nicht die Herstellerin sein, sondern es kann sich um eine Person handeln, die den Chatbot von einem Hersteller zur Erbringung ihrer Dienstleistungen einkauft. ↵

Zur Arbeitshypothese siehe Abschnitt I.3.1. Vgl. dazu in Abschnitt I.2.1 den Überblick über den Stand der Debatte in der juristischen Literatur. ↵

Siehe Abschnitt III.2.2. Das Zitat von Cicero findet sich in De legibus I.17. ↵

Zu beachten ist, dass sich Wolffs Zitat nicht auf das Recht selbst, sondern auf die Rechtswissenschaft bezieht, also auf die wissenschaftliche Bearbeitung des Rechts. ↵

Siehe Abschnitt III.8. ↵

Siehe Abschnitt III.8. ↵

Siehe Abschnitt III.8. ↵

Siehe Abschnitt V.6. ↵

Siehe Abschnitt II.5. ↵

Damit ist auch gesagt, dass die in den Medien oft geäusserte Befürchtung, die KI-Verordnung würge die Innovation in Europa ab, übertrieben ist. Die Einführung der Eisenbahnhaftpflicht 1837 hat die Entwicklung der Eisenbahn zum leistungsfähigen Massentransportmittel keineswegs verhindert. ↵

Siehe Abschnitt VI.3.1. ↵

Siehe Abschnitt IV.2. ↵

Siehe Abschnitt IV.5. ↵

Siehe Abschnitt IV.4.1. ↵

Siehe Abschnitt VI.8. ↵

Siehe Abschnitt IV.3. ↵

Siehe Abschnitt V.5. ↵

Siehe Abschnitt VI.9. ↵

Siehe Abschnitt VI.9. ↵