Automatisierte Einzelentscheidungen im
(Schweizer) Datenschutzrecht

Phänomen, Entstehungsgeschichte,
Regelungsziele und Begriff

Dissertation
der Rechtswissenschaftlichen Fakultät
der Universität Zürich

zur Erlangung der Würde einer Doktorin der Rechtswissenschaft

vorgelegt von

Fabienne Suter
von Schwyz, SZ

genehmigt auf Antrag von

Prof. Dr. Florent Thouvenin
und
Prof. Dr. Peter Georg Picht, LL.M. (Yale)

Die Rechtswissenschaftliche Fakultät gestattet hierdurch die Drucklegung der vorliegenden Dissertation, ohne damit zu den darin ausgesprochenen Anschauungen Stellung zu nehmen.

Zürich, den 6. Dezember 2023

Der Dekan: Prof. Dr. Thomas Gächter

Fabienne Suter

Automatisierte Einzelentscheidungen im
(Schweizer) Datenschutzrecht

Phänomen, Entstehungsgeschichte,
Regelungsziele und Begriff

EIZ Publishing
Zürich

Automatisierte Einzelentscheidungen im (Schweizer) Datenschutzrecht Copyright © by Fabienne Suter is licensed under a Creative Commons Namensnennung-Keine Bearbeitung 4.0 International, except where otherwise noted.

© 2024 – CC BY-NC-ND (Werk), CC BY-SA (Text)

Autor: Fabienne Suter
Verlag: EIZ Publishing (eizpublishing.ch)
Produktion, Satz & Vertrieb: buch & netz (buchundnetz.com)
ISBN:
978-3-03805-675-1 (Print – Softcover)
978-3-03805-676-8 (Print – Hardcover)
978-3-03805-677-5 (PDF)
978-3-03805-678-2 (ePub)
DOI: https://doi.org/10.36862/eiz-676
Version: 1.01 – 20240419

Die Dissertation wurde publiziert mit Unterstützung des Schweizerischen Nationalfonds zur Förderung der wissenschaftlichen Forschung.

Die vorliegende Dissertation wurde von Fabienne Suter eingereicht und von der Rechtswissenschaftlichen Fakultät der Universität Zürich abgenommen.
Sie wurde betreut von Prof. Dr. Florent Thouvenin.

Das Werk ist als gedrucktes Buch und als Open-Access-Publikation in verschiedenen digitalen Formaten verfügbar: https://eizpublishing.ch/publikationen/automatisierte-einzelentscheidungen-​im-​​schweizer-datenschutzrecht/.

Die Publikation ist auch auf der Webseite der Zentralbibliothek Zürich abrufbar:
https://www.zb.uzh.ch/de/

1

Vorwort

Die vorliegende Arbeit entstand im Zeitraum vom Mai 2018 bis Januar 2023 und wurde im Herbstsemester 2023 von der Rechtswissenschaftlichen Fakultät der Universität Zürich als Dissertation angenommen. Der Fokus dieser Arbeit liegt auf der Regulierung automatisierter Einzelentscheidungen im Schweizer Datenschutzrecht. Berücksichtigt werden auch die einschlägigen Rechtsnormen der Europäischen Union und des Europarates, sowie der französische Regelungsansatz aus dem Jahr 1978, der diesen Regelungen voranging. Literatur und Rechtsprechung wurden bis am 31. Oktober 2022 einbezogen.

Zum Gelingen dieser Arbeit haben viele Personen auf unterschiedlichste Art und Weise beigetragen. Ihnen allen gebührt mein Dank. Meinem Doktorvater Prof. Florent Thouvenin bin ich zutiefst für die hilfeichen Inputs im Rahmen der Themenauswahl und -eingrenzung sowie für die bei der Ausarbeitung der Dissertation gewährten Freiheiten dankbar. Ihm sei zudem für die schnelle Ausfertigung des Erstgutachtens sowie die Aufnahme in die Schriftenreihe des ITSL gedankt.

Ein grosser Dank gilt auch Herrn Prof. Peter Picht für die Erstellung des Zweitgutachtens. Der Universität Zürich gebührt mein herzlicher Dank für die Förderung der vorliegenden Arbeit im Rahmen des Candoc-Forschungskredits (UZH Candoc Grant, Verfügung Nr. FK-19-011) und die dadurch gewährte freie Forschungszeit. Dem Volkswirtschaftsdepartement des Kantons Schwyz danke ich für die flexible Arbeitszeitgestaltung, insbesondere während der intensiven Schlussphase meiner Dissertation.

Ein herzliches Dankeschön gebührt auch Sebastian. Du warst nicht nur bei technischen Fragen eine verlässliche Anlaufstelle, sondern eine wichtige Stütze während der gesamten Schreib- und Arbeitszeit. Für die Korrektur (und alles andere) geht mein herzlicher Dank zudem an Délia, Gabriel, Martina und Yvonne.

Gewidmet sei die vorliegende Arbeit aber meinen Eltern, die mir meine Ausbildung ermöglicht und mich auf meinem Weg immer vorbehaltslos unterstützt haben.

Zürich, 17. Januar 2024 Fabienne Suter

2

Inhaltsübersicht

Vorwort

Inhaltsübersicht

Inhaltsverzeichnis

Abbildungsverzeichnis

Abkürzungsverzeichnis

Literaturverzeichnis

Materialienverzeichnis

Einleitung

Neue Schweizer Regulierung automatisierter Einzelentscheidungen

Forschungsstand

Fragestellung und Zielsetzung

Aufbau der Untersuchung

Teil 1: Das Phänomen der automatisierten Entscheidungen

Beschreibung des Phänomens der automatisierten Entscheidungen

Historie automatisierter Entscheidungssysteme

Definition einer «automatisierten Entscheidung»

Was ist eine Entscheidung?

Was bedeutet «Automatisierung»?

Die Rolle der Algorithmen

Zwischenfazit

Gesellschaftliche und rechtliche Debatte

Übersicht: Chancen und Risiken automatisierter Entscheidungssysteme

Ausgewählte gesellschaftliche (Heraus‑)Forderungen

Rechtsfragen automatisierter Entscheidungen

Maschinelles Lernen

Vorbemerkungen

Begriff, Funktion und Möglichkeiten

Lernen

Entwicklung eines ADM-Systems

Erkenntnisse zum Phänomen der automatisierten Entscheidungen

Entscheidungsgrundlagen automatisierter Systeme

Vergleich menschlicher und automatisierter Entscheidungen

Abgrenzung menschliche oder automatisierte Entscheidung

Würdigung der gesellschaftlichen Herausforderungen automatisierter
Entscheidungen

Teil 2: Die Regulierung automatisierter Einzelentscheidungen
im (Schweizer) Datenschutzrecht

Einführung zum zweiten Teil

Vorbemerkungen

Ein Blick zurück

Vorstellung und Vergleich der aktuellen Regelungsansätze des Europarates,
der EU und der Schweiz

Entstehungsgeschichte der Regulierung automatisierter
Entscheidungen

Erste Regulierung in Frankreich

Übernahme durch die Europäische Union

Übernahme durch den Europarat

Übernahme durch die Schweiz

Ziele der Regulierung automatisierter Entscheidungen

Regelungsziele in Frankreich

Regelungsziele in der EU

Regelungsziele des Europarates

Regelungsziele in der Schweiz

Erkenntnisse aus der Entstehungsgeschichte, den Regelungszielen
und dem Regelungsumfang

Von Frankreich über Europa in die Schweiz

Weshalb im Datenschutzrecht?

Entwicklung des Regelungsumfangs

Entwicklung der Regelungsziele

«Automatisierte Einzelentscheidung» im Sinne des DSG

Vorbemerkungen

Geltungsbereich des DSG

Tatbestandsmerkmale «automatisierter Einzelentscheidungen»

Fazit und Prüfschema «ausschliesslich automatisierte Einzelentscheidung»

Beantwortung der Forschungsfragen

Anhang

Curriculum Vitae

3

Inhaltsverzeichnis

Vorwort

Inhaltsübersicht

Inhaltsverzeichnis

Abbildungsverzeichnis

Abkürzungsverzeichnis

Literaturverzeichnis

Materialienverzeichnis

Materialien Europäische Union

Materialien Europarat

Materialien Frankreich

Materialien Schweiz

Einleitung

Neue Schweizer Regulierung automatisierter Einzelentscheidungen

Forschungsstand

Schweiz: DSG

Europäisches Umfeld: DSGVO und SEV Nr. 108+

Bedeutung der EU-Forschung für die Schweiz

Algorithmen, künstliche Intelligenz und automatisierte Entscheidungen

Fragestellung und Zielsetzung

Forschungsgegenstand

Zielgruppe

Forschungsfragen

Abgrenzung der Forschungsfragen

Aufbau der Untersuchung

Teil 1: Das Phänomen der automatisierten Entscheidungen

Beschreibung des Phänomens der automatisierten Entscheidungen

Historie automatisierter Entscheidungssysteme

Symbolverarbeitungsansatz und Expertensysteme

Konnektionismus, maschinelles Lernen und künstliche Intelligenz

Definition einer «automatisierten Entscheidung»

Für das Phänomen verwendete Begriffe

Definitionsansätze

Abgrenzung künstliche Intelligenz

Zwischenfazit

Was ist eine Entscheidung?

Begriff

Entscheidungsprozess

Entscheidungsgrundlagen

Menschliche Grenzen bei der Entscheidungsfällung

Was bedeutet «Automatisierung»?

Begriff

Automatisierungsmöglichkeiten

Automatisierungsstufen

Abgrenzungen

Autonomie

Anwendung eines Regelwerks / Routinemässiger Ablauf

Die Rolle der Algorithmen

Begriff

Historie

Algorithmen-Arten

Zwischenfazit

Gesellschaftliche und rechtliche Debatte

Übersicht: Chancen und Risiken automatisierter Entscheidungssysteme

Erkenntnisse und Effizienzgewinne vs. umfangreiche Datenbearbeitungen
und Intransparenz

Schnelle Verarbeitung und Verbreitung vs. Monopolisierung,
Verminderung der Vielfalt und Absprachen

Massgeschneiderte Angebote vs. zunehmende Personalisierung

Bessere Entscheidungen vs. fehlende Flexibilität

Ausgewählte gesellschaftliche (Heraus‑)Forderungen

Vorbemerkungen

Teilhabe, Diskriminierung und Fairness

Transparenz und Nachvollziehbarkeit

Ethik und Moral

Informationelle Selbstbestimmung und Privatsphäre

Rechtsfragen automatisierter Entscheidungen

Maschinelles Lernen

Vorbemerkungen

Begriff, Funktion und Möglichkeiten

Lernen

Training – verschiedene Lernstile

Überwachtes Lernen – Vorhersagen erstellen

Unüberwachtes Lernen – Muster erkennen

Bestärkendes Lernen – Muster erkennen und Vorhersagen verbessern

Künstliche neuronale Netze und Deep Learning

Generalisierung

Anpassung der Entscheidungsstrukturen

Entwicklung eines ADM-Systems

Entwicklungsprozess einer ML-Lösung

Die Rolle des Menschen

Erkenntnisse zum Phänomen der automatisierten Entscheidungen

Entscheidungsgrundlagen automatisierter Systeme

Die prägende Rolle der Daten

Die prägende Rolle des Menschen

Vergleich menschlicher und automatisierter Entscheidungen

Entscheidungsgegenstand

Entscheidungsprozess

Abgrenzung menschliche oder automatisierte Entscheidung

Vorbemerkungen

Systementwicklung

Einzelfallentscheidung

Würdigung der gesellschaftlichen Herausforderungen automatisierter
Entscheidungen

Entscheidungsqualität und Diskriminierungsgefahr

Entscheidungstransparenz

Ethik und Moral

Informationelle Selbstbestimmung und Privatsphäre

Zwischenfazit

Teil 2: Die Regulierung automatisierter Einzelentscheidungen
im (Schweizer) Datenschutzrecht

Einführung zum zweiten Teil

Vorbemerkungen

Ein Blick zurück

Vorstellung und Vergleich der aktuellen Regelungsansätze des Europarates,
der EU und der Schweiz

Vorbemerkungen

Umsetzung SEV Nr. 108+ im DSG

DSGVO vs. DSG

Terminologie und Regelungsgegenstand

Zulässigkeit automatisierter Entscheidungen

Schutzrechte der betroffenen Personen

Ausnahmetatbestände

Informationspflicht

Besonders schützenswerte Personendaten

Auskunftsrecht

Entstehungsgeschichte der Regulierung automatisierter
Entscheidungen

Erste Regulierung in Frankreich

Überblick

Gesetzgebungsprozess

Vorarbeiten

Loi n° 78-17 du 6 janvier 1978 relative à l’informatique, aux fichiers et
aux libertés

E-LIFL 1976

E-LIFL 1977

Übernahme durch die Europäische Union

Überblick

Gesetzgebungsprozess

Datenschutzrichtlinie vom 24. Oktober 1995

Vorarbeiten

E-DSRL 1990

E-DSRL 1992

Datenschutz-Grundverordnung vom 27. April 2016

Vorarbeiten

E-DSGVO 2012

E-DSGVO 2014

E-DSGVO 2015

Informeller «Trilog»

Übernahme durch den Europarat

Überblick

Gesetzgebungsprozess

Entschliessungen (73) 22 und (74) 29

Konvention SEV Nr. 108 vom 28. Januar 1981

Empfehlung zum Schutz des Menschen bei der automatischen
Verarbeitung personenbezogener Daten im Zusammenhang mit
Profiling vom 23. November 2010

Bericht über die Anwendung der SEV Nr. 108 auf den
Profilingmechanismus

Profiling-Empfehlungen

Zusatzprotokoll SEV Nr. 223 vom 10. Oktober 2018

Vorarbeiten

E-SEV Nr. 108+ 2012

E-SEV Nr. 108+ 2016

Übernahme durch die Schweiz

Überblick

Gesetzgebungsprozess

Vorarbeiten

VE-DSV 1975

Richtlinien 1981

E-DSG 1983 und 1987

Bundesgesetz über den Datenschutz vom 19. Juni 1992

Teilrevision des Datenschutzgesetzes vom 24. März 2006

Weiterentwicklung des Schengen-Besitzstandes vom 19. März 2010

Bundesgesetz über den Datenschutz vom 25. September 2020

Vorarbeiten

VE-DSG 2016

E-DSG 2017

Schengen-Datenschutzgesetz

Parlamentarische Beratungen zur Totalrevision des
Bundesgesetzes über den Datenschutz

Verordnung über den Datenschutz vom 31. August 2022

Ziele der Regulierung automatisierter Entscheidungen

Regelungsziele in Frankreich

Regelungsziele in der EU

Datenschutzrichtlinie vom 24. Oktober 1995

Datenschutz-Grundverordnung vom 27. April 2016

Vorbemerkungen

Verhindern, dass jemand zum Objekt einer automatisierten
Entscheidung wird

Schutz vor den (Diskriminierungs‑)Risiken automatisierter
Entscheidungen

Transparenz, Fairness und Richtigkeit automatisierter Entscheidungen

Regelungsziele des Europarates

Verhindern, dass jemand zum Objekt einer automatisierten Entscheidung
wird

Negative Folgen automatisierter Entscheidungen verhindern

Schutz der Menschenwürde

Transparenz automatisierter Entscheidungen

Würdigung

Regelungsziele in der Schweiz

Vorbemerkungen

Anpassung an die Regulierung des Europarates und der Europäischen Union

Transparenz der Datenbearbeitung und Stärkung der Betroffenenrechte

Schutz der betroffenen Person vor den (unklaren) Risiken
automatisierter Entscheidungen?

Nicht: Richtigkeitskontrolle der einer automatisierten Entscheidung
zugrundeliegenden Daten

Nicht: Verhindern, dass jemand zum Objekt einer automatisierten
Entscheidung wird

Erkenntnisse aus der Entstehungsgeschichte, den Regelungszielen
und dem Regelungsumfang

Von Frankreich über Europa in die Schweiz

Regulierung automatisierter Entscheidungen

Auskunftsrecht betreffend automatisierte Entscheidungen

Weshalb im Datenschutzrecht?

Vorbemerkungen

Frankreichs Entschluss, automatisierte Entscheidungen im
Datenschutzrecht zu regeln

Übernahme des Regelungsortes durch die EU

DSRL

DSGVO

Übernahme des Regelungsortes durch den Europarat

Übernahme des Regelungsortes durch die Schweiz

Fazit

Entwicklung des Regelungsumfangs

Frankreich

EU

DSRL

DSGVO

Europarat

Schweiz

Fazit

Entwicklung der Regelungsziele

Vorbemerkungen

Frankreich, EU, Europarat

Schweiz

«Automatisierte Einzelentscheidung» im Sinne des DSG

Vorbemerkungen

Geltungsbereich des DSG

Sachlicher Geltungsbereich

Vorbemerkungen

Bearbeiten

Personendaten

Fazit

Persönlicher Geltungsbereich

Private Personen und Bundesorgane

Verantwortliche

Räumlicher Geltungsbereich

Tatbestandsmerkmale «automatisierter Einzelentscheidungen»

Vorbemerkungen

Entscheidung

Umfang und Gegenstand

Auswahl aus verschiedenen Möglichkeiten

Umsetzung eines Entscheids und (fehlendes) Ermessen

Wenn-dann-Entscheidung und Komplexität

Entscheidungsträger

(Individuell-konkreter) Einzelfall

Entscheidungsfolgen

Rechtsfolge

Rechtliche Wirkung

Erheblichkeitsschwelle

Positive und negative Wirkungen

Erhebliche Beeinträchtigung

(Nur) negative Wirkungen

Erheblichkeitsschwelle

Beispiele

Prüfschema «Einzelentscheidung»

Ausschliesslich automatisierte Bearbeitung

Vorbemerkungen

Automatisierte Bearbeitung

Ausschliesslichkeit der Automatisierung

Vorbemerkungen

Entwicklung eines ADM-Systems

Entscheidung und zugrundeliegende Datenbearbeitung

Inhaltliche Prüfung und menschliches Dazwischentreten

Willensbildung durch einen Menschen

Profiling und Bewertung von Personendaten

Vorbemerkungen

Profiling mit und ohne hohes Risiko

Abgrenzung Profiling und automatisierte Einzelentscheidung

Profiling keine Voraussetzung einer automatisierten
Einzelentscheidung

Auf Profiling gestützte automatisierte Einzelentscheidung

Prüfschema «ausschliessliche Automatisierung»

Würdigung

Tatbestandsprüfung

Vorbemerkungen

Prüfperspektive

Zeitpunkt: Einzelfall- oder Systemprüfung?

Prüfer/in

Art und Weise

Fazit und Prüfschema «ausschliesslich automatisierte Einzelentscheidung»

Beantwortung der Forschungsfragen

Anhang

Curriculum Vitae

4

Abbildungsverzeichnis

Abbildung 1: Prüfschema Einzelentscheidung

Abbildung 2: Prüfschema ausschliessliche Automatisierung

Abbildung 3: Prüfschema ausschliesslich automatisierte Einzelentscheidung im
Sinne des DSG (Teil 1)

Abbildung 4: Prüfschema ausschliesslich automatisierte Einzelentscheidung im
Sinne des DSG (Teil 2)

5

Abkürzungsverzeichnis

a.A.

anderer Ansicht

AB

Amtliches Bulletin der Bundesversammlung

ABl.

Amtsblatt der Europäischen Gemeinschaft/Union

Abs.

Absatz

ACM

Association for Computing Machinery

ADM

Automated/Algorithmic Decision Making / automatisierte Entscheidung

aDSG 1992

Bundesgesetz über den Datenschutz vom 19. Juni 1992 (Stand am 1. Juli 1993, nicht mehr in Kraft)

aDSG 2008

Bundesgesetz über den Datenschutz vom 19. Juni 1992 (Stand am 1. Januar 2008, nicht mehr in Kraft)

AI

Artificial Intelligence [= KI]

AJP

Aktuelle Juristische Praxis

AöR

Archiv des öffentlichen Rechts

Art.

Artikel

Aufl.

Auflage

Az.

Aktenzeichen

BBl

Bundesblatt [= FF]

BGE

Entscheidungen des Schweizerischen Bundesgerichts

Bitkom e.V.

Bundesverband Informationswirtschaft, Telekommunikation und neue Medien e.V.

BJ

Bundesamt für Justiz

BJM

Basler Juristische Mitteilungen

BR

Bundesrat / Bundesrätin

BSK

Basler Kommentar

bspw.

beispielsweise

BV

Schweizerische Bundesverfassung vom 18. April 1999, SR 101

BVGer

Bundesverwaltungsgericht (Schweiz)

bzw.

beziehungsweise

CAHDATA

Ad hoc Committee on Data Protection

CB

Compliance Berater

CCJ

European Committee on Legal Co-Operation

CdE

Conseil de l’Europe [= COE]

CETS

Council of Europe Treaty Series [= SEV]

CIL

Commission de l’Informatique et des Libertés

CNIL

Commission Nationale de l’Informatique et des Libertés

COE

Council of Europe [= CdE]

CR

Computer und Recht

CRISP-DM

Cross Industry Standard Process for Data Mining

DB

Der Betrieb

DFKI

Deutsches Forschungszentrum für Künstliche Intelligenz GmbH

d.h.

das heisst

digma

Zeitschrift für Datenrecht und Informationssicherheit

DRV

Zeitschrift Deutsche Rentenversicherung

DSG

Bundesgesetz über den Datenschutz vom 25. September 2020, SR 235.1

DSGVO/
DS-GVO

Verordnung (EU) 2016/679 des Europäischen Parlaments und des Rates vom 27.04.2016 zum Schutz natürlicher Personen bei der Verarbeitung personenbezogener Daten, zum freien Datenverkehr und zur Aufhebung der Richtlinie 95/46/EG (Datenschutz-​​Grundverordnung), ABl. L 119 vom 4. Mai 2016, 1–88 [= GDPR]

DSRL

Richtlinie 95/46/EG des Europäischen Parlaments und des Rates vom 24.10.1995 zum Schutz natürlicher Personen bei der Verarbeitung personenbezogener Daten und zum freien Datenverkehr (Datenschutzrichtlinie), ABl. L 281 vom 23. November 1995, 1–50

DSS

Decision Support System/Entscheidungsunterstützungssystem

DSV

Verordnung über den Datenschutz vom 31. August 2022, SR 235.11

DSWR

Datenverarbeitung – Steuern – Wirtschaft – Recht

DuD

Datenschutz und Datensicherheit

DVR

Datenverarbeitung und Recht

E.

Erwägung/en

E-

Entwurf

EDÖB

Eidgenössischer Datenschutz- und Öffentlichkeitsbeauftragter

edpd

European Data Protection Board

EDPL

European Data Protection Law Review

EDSB

Europäischer Datenschutzbeauftragter

E-DSG 1983

Entwurf für ein Bundesgesetz über den Schutz von Personendaten vom Dezember 1983

E-DSG 2003

Entwurf zur Änderung des Bundesgesetzes über den Datenschutz vom 19. Februar 2003, BBl 2003 2156–2165

E-DSG 2017

Entwurf zum Bundesgesetz über die Totalrevision des Bundesgesetzes über den Datenschutz und die Änderung weiterer Erlasse zum Datenschutz vom 15. September 2017, BBl 2017 7193–7276

E-DSGVO 2012

Vorschlag für Verordnung des Europäischen Parlaments und des Rates zum Schutz natürlicher Personen bei der Verarbeitung personenbezogener Daten und zum freien Datenverkehr (Datenschutz-Grundverordnung) vom 25. Januar 2012

E-DSGVO 2014

Schutz natürlicher Personen bei der Verarbeitung personenbezogener Daten, Legislative Entschließung des Europäischen Parlaments vom 12. März 2014 zu dem Vorschlag für eine Verordnung des Europäischen Parlaments und des Rates zum Schutz natürlicher Personen bei der Verarbeitung personenbezogener Daten und zum freien Datenverkehr (allgemeine Datenschutzverordnung), ABl. C 378 vom 9. November 2017, 399–492

E-DSGVO 2015

Vorschlag für eine Verordnung des Europäischen Parlaments und des Rates zum Schutz natürlicher Personen bei der Verarbeitung personenbezogener Daten und zum freien Datenverkehr (Datenschutz-Grundverordnung) vom 11. Juni 2015

E-DSRL 1990

Vorschlag für eine Richtlinie des Rates zum Schutz von Personen bei der Verarbeitung personenbezogener Daten vom 13. September 1990

E-DSRL 1992

Geänderter Vorschlag der Kommission für eine Richtlinie des Rates zum Schutz natürlicher Personen bei der Verarbeitung personenbezogener Daten und zum freien Datenverkehr vom 15. Oktober 1992

EF

Expert Focus

EG

Europäische Gemeinschaften

EGE

European Group on Ethic / Europäische Gruppe für Ethik der Naturwissenschaften und der Neuen Technologien

EJDP

Eidgenössisches Justiz- und Polizeidepartement

E-LIFL 1976

Projet de loi relatif à l’informatique et aux libertés par M. Jean Lecanuet, 9. août 1976

E-LIFL 1977

Rapport fait au nom de la Commission des Lois constitutionnelles, de Législation, du Suffrage universel, du Règlement et d’Administration générale sur le projet de loi, adopté par l’Assemblée Nationale, relatif a l’informatique et aux libertés par M. Jacques Thyraud, 10. novembre 1977

endg.

endgültig

ERA Forum

Journal of the Academy of European Law

E-SEV Nr. 108+ 2012 I

Modernisation of Convention 108: new proposals, 18 January 2021

E-SEV Nr. 108+ 2012 II

Modernisation of Convention 108: new proposals, 5 March 2012

E-SEV Nr. 108+ 2012 III

Modernisation of Convention 108: new proposals, 27 April 2012

E-SEV Nr. 108+ 2012 IV

Final document on the modernisation of Convention 108, 15 June 2012

E-SEV Nr. 108+ 2012 V

Final document on the modernisation of Convention 108, 17 September 2012

E-SEV Nr. 108+ 2012 VI

Final document on the modernisation of Convention 108, 16 October 2012

E-SEV Nr. 108+ 2012 VII

Propositions of Modernisation, 18 December 2012

E-SEV Nr. 108+ 2016

Draft modernised Convention for the Protection of Individuals with Regard to the Processing of Personal Data, September 2016

et al.

et alii, et aliae

etc.

et cetera

EU

Europäische Union / European Union

EuGH

Gerichtshof der Europäischen Union

EuZ

Zeitschrift für Europarecht

e.V.

eingetragener Verein

E-VDSG 2021

Entwurf für eine Verordnung zum Bundesgesetz über den Datenschutz vom 23. Juni 2021

ex/ante

Zeitschrift der juristischen Nachwuchsforschung

FAQ

Frequently Asked Questions

FER

Forschungspolitische Früherkennung

FF

Feuille fédérale / Foglio federale [= BBl]

FinfraV

Verordnung über die Finanzmarktinfrastrukturen und das Marktverhalten im Effekten- und Derivatehandel vom 25. November 2015 (Finanzmarktinfrastrukturverordnung), SR 958.11

Fn.

Fussnote/n

fr

französisch

GDPR

Regulation (EU) 2016/679 of the European Parliament and of the Council of 27 April 2016 on the protection of natural persons with regard to the processing of personal data and on the free movement of such data, and repealing Directive 95/46/EC (General Data Protection Regulation), ABl. L 119 vom 4. Mai 2016, 1–88 [= DSGVO]

GlG

Bundesgesetz über die Gleichstellung von Frau und Mann vom 24. März 1995 (Gleichstellungsgesetz), SR 151.1

GmbH

Gesellschaft mit beschränkter Haftung

GPK-SR

Geschäftsprüfungskommission des Ständerates

HAVE

Haftung und Versicherung

HEG-KI

Hochrangige Expertengruppe für künstliche Intelligenz [= HLEG-AI]

Hg.

Herausgeber/in

HLEG-AI

High-Level Expert Group on Artificial Intelligence [= HEG-KI]

IDPL

International Data Privacy Law

InTeR

Zeitschrift zum Innovations- und Technikrecht

IPRG

Bundesgesetz über das Internationale Privatrecht vom 18. Dezember 1987, SR 291

it

italienisch

i.V.m.

in Verbindung mit

JIPITEC

Journal of Intellectual Property, Information Technology and Electronic Commerce Law

JO

Journal officiel de la République franc¸aise

JuS

Juristische Schulung

JZ

Juristenzeitung

KI

künstliche Intelligenz [= AI]

LeGes

Gesetzgebung und Evaluation, Mitteilungsblatt der Schweizerischen Gesellschaft für Gesetzgebung und der Schweizerischen Evaluationsgesellschaft

LIFL

Loi n° 78-17 du 6 janvier 1978 relative à l’informatique, aux fichiers et aux libertés

LIFL 1978

Loi n° 78-17 du 6 janvier 1978 relative à l’informatique, aux fichiers et aux libertés (Stand am 6. Januar 1978), JO 6/1978, 227–231

lit.

litera

LSR

Life Science Recht

LugÜ

Übereinkommen vom 30. Oktober 2007 über die gerichtliche Zuständigkeit und die Anerkennung und Vollstreckung von Entscheidungen in Zivil- und Handelssachen (Lugano-Übereinkommen), SR 0.275.12

ML

maschinelles Lernen / machine learning

MLOps

Machine Learning Model Operationalization Management

MMR

Multimedia und Recht

m.w.N.

mit weiteren Nachweisen

N

Note (Randnote)

NJW

Neue Juristische Wochenschrift

No./N°

number / numéro

Nr.

Nummer

NR

Nationalrat

NVwZ

Neue Zeitschrift für Verwaltungsrecht

OECD

Organisation for Economic Co-operation and Development / Organisation für wirtschaftliche Zusammenarbeit und Entwicklung

OFK

Orell Füssli Kommentar

OR

Bundesgesetz betreffend die Ergänzung des Schweizerischen Zivilgesetzbuches (Fünfter Teil: Obligationenrecht) vom 30. März 1911, SR 220

o.S.

Ohne Seitenangabe

PinG

Privacy in Germany

PwC

PricewaterhouseCoopers AG

rev

revidiertes

RK-SR

Kommission für Rechtsfragen des Ständerates

SAV

Schweizerischer Anwaltsverband

SBVg

Schweizerische Bankiervereinigung

SDA

Schweizerische Depeschenagentur

SDSG

Bundesgesetz über den Datenschutz im Rahmen der Anwendung des Schengen-Besitzstands in Strafsachen vom 28. September 2018 (Schengen-Datenschutzgesetz), SR 235.3

SEV

Sammlung der Europäischen Verträge des Europarates [= CETS]

SEV Nr. 108

Übereinkommen Nr. 108 vom 28. Januar 1981 des Europarates zum Schutz des Menschen bei der automatischen Verarbeitung personenbezogener Daten, SR 0.235.1

SEV Nr. 108+

Convention for the Protection of Individuals with regard to Automatic Processing of Personal Data as it will be amended by its Protocol CETS No. 223

SEV Nr. 181

Zusatzprotokoll zum Übereinkommen zum Schutz des Menschen bei der automatischen Verarbeitung personenbezogener Daten bezüglich Kontrollstellen und grenzüberschreitendem Datenverkehr, SR 0.235.11

SEV Nr. 223

Protokoll zur Änderung des Übereinkommens zum Schutz des Menschen bei der automatischen Verarbeitung personenbezogener Daten vom 10. Oktober 2018

sgv

Schweizerischer Gewerbeverband

SJZ

Schweizerische Juristen-Zeitung

SPK-N

Staatspolitische Kommission des Nationalrates

SPK-S

Staatspolitische Kommission des Ständerates

SR

Ständerat / Systematische Sammlung des Bundesrechts

SVPW

Schweizerisches Jahrbuch für Politische Wissenschaft

SZW

Schweizerische Zeitschrift für Wirtschafts- und Finanzmarktrecht

T-PD

Consultative Committee for Convention 108

VDSG

Verordnung zum Bundesgesetz über den Datenschutz vom 14. Juni 1993 (nicht mehr in Kraft)

VE-

Vorentwurf

VE-DSG 2001

(Vor‑)Entwurf zur Teilrevision des Bundesgesetzes über den Datenschutz (DSG) vom August 2001

VE-DSG 2016

Vorentwurf für das Bundesgesetz über die Totalrevision des Datenschutzgesetzes und die Änderung weiterer Erlasse zum Datenschutz vom Dezember 2016

VE-DSV 1975

Vorentwurf für eine Verordnung über den Datenschutz in der elektronischen Datenverarbeitung vom 19. Dezember 1975

vs.

versus

VUD

Verein Unternehmens-Datenschutz

VwVG

Bundesgesetz über das Verwaltungsverfahren vom 20. Dezember 1968 (Verwaltungsverfahrensgesetz), SR 172.021

VZBV

Verbraucherzentrale Bundesverband e.V.

z.B.

zum Beispiel

ZD

Zeitschrift für Datenschutz

ZGB

Schweizerisches Zivilgesetzbuch vom 10. Dezember 1907, SR 210

zit.

zitiert

Ziff.

Ziffer

ZRP

Zeitschrift für Rechtspolitik

6

Literaturverzeichnis

Abel Ralf B.: Automatisierte Entscheidungen im Einzelfall gem. Art. 22 DS-GVO, ZD (2018) 7/9, 304–307.

Albrecht Jan Philipp/Jotzo Florian: Das neue Datenschutzrecht der EU, Baden-Baden 2017.

Algorithm Watch: Automating Society, Januar 2019, <https://algorithmwatch.org/wp-content/uploads/2019/02/Automating_Society_Report_2019.pdf> (18.10.2022) (zit. Algorithm Watch, Automating).

Algorithm Watch: Atlas der Automatisierung, April 2019, <https://atlas.algorithm​watch.org/report> (18.10.2022) (zit. Algorithm Watch, Atlas).

Alla Sridhar/Adari Suman Kalyan: Beginning MLOps with MLFlow, Berkeley 2021.

Allen Robin/Masters Dee: Artificial Intelligence: the right to protection from discrimination caused by algorithms, machine learning and automated decision-making, ERA Forum (2020) 4/20, 585–598.

Alpar Paul/Alt Rainer/Bensberg Frank/Weimann Peter: Anwendungsorientierte Wirtschaftsinformatik, Wiesbaden 2019.

Alpaydin Ethem: Maschinelles Lernen, 2. Aufl., Berlin/Boston 2019 (zit. Alpaydin, Maschinelles Lernen).

Alpaydin Ethem: Introduction to machine learning, 4. Aufl., Cambridge/London 2020 (zit. Alpaydin, Introduction).

Alpaydin Ethem: Machine Learning, 2. Aufl., Cambridge/London 2021 (zit. Alpaydin, Machine Learning).

Alpmann Josef A./Krüger Rolf/Wüstenbecker Horst (Hg.): Alpmann Brockhaus, Studienlexikon Recht, 4. Aufl., München 2014.

Amann Erwin: Entscheidungstheorie, Wiesbaden 2019.

Araujo Theo/Helberger Natali/Kruikemeier Sanne/De Vreese Claes H.: In AI we trust? Perceptions about automated decision-making by artificial intelligence, AI & Soc (2020) 3/35, 611–623.

Arnet Ruth: Freiheit und Zwang beim Vertragsabschluss, Bern 2008.

Aubert Jean-Franc¸ois/Mahon Pascal (Hg.): Petit commentaire de la constitution fédérale de la confédération Suisse du 18 avril 1999, Zürich/Basel/Genf 2003 (zit. Bearbeiter/in, in: Aubert/Mahon, BV).

Auf der Maur Rolf/Fehr-Bosshard Delia: Personalisierte Werbung, in: Thouvenin/Weber (Hg.): Werbung – Online, Zürich 2017, 23–60.

Aunkofer Benjamin: Maschinelles Lernen mit Entscheidungsbaumverfahren, 13. Februar 2017, <https://data-science-blog.com/blog/2017/02/13/entscheidungsbaumver​fahren-artikelserie/> (18.10.2022) (zit. Aunkofer, Entscheidungsbaumverfahren).

Aunkofer Benjamin: Machine Learning: Online vs Offline, 8. März 2018, <https://data-science-blog.com/blog/2018/03/08/machine-learning-online-vs-offline-​lernen/> (19.10.2022) (zit. Aunkofer, ML: Online vs Offline).

Bacher Bettina/Dubois Camille: Zum Stand der Revision des Datenschutzgesetzes, in: Epiney/Nüesch (Hg.): Die Revision des Datenschutzes in Europa und die Schweiz, Zürich/Basel/Genf 2016, 129–148.

Baeriswyl Bruno/Pärli Kurt (Hg.): Datenschutzgesetz, Bern 2015 (zit. Bearbeiter/in, in: SHK aDSG).

Baggi Denis L./Bürgi-Schmelz Adelheid H./Fichtner Wolfgang/Kriz Jiri: Expertensysteme im betrieblichen und gesellschaftlichen Zusammenhang, B/30, Bern 1989.

Bambauer Jane/Zarsky Tal: The Algorithm Game, Arizona Legal Studies Discussion Paper No. 18-09/2018, 1–48.

Barocas Solon/Selbst Andrew D.: Big Data’s Disparate Impact, California Law Review (2016) 104, 671–732.

Barth Armin P.: Algorithmik für Einsteiger, 2. Aufl., Wiesbaden 2013.

Barton Thomas/Müller Christian (Hg.): Künstliche Intelligenz in der Anwendung, Wiesbaden/Heidelberg 2021.

Basden Andrew: On the application of expert systems, International Journal of Man-Machine Studies (1983) 5/19, 461–477.

Bayamlioğlu Emre: Contesting Automated Decisions, EDPL (2018) 4/4, 433–446.

Beck Susanne: Der rechtliche Status autonomer Maschinen, AJP 2/2017, 183–191.

Becker Wolfgang/Ulrich Patrick/Botzkowski Tim: Data Analytics im Mittelstand, Wiesbaden 2016.

Beckmann Martin J.: A flow model of communication – Towards an economic theory of information, Cowles Foundation Discussion Paper No. 20/1956, 1–17.

Behrens Tristan: Der Blackbox-Mythos, Wirtschaftsinformatik & Management (2020) 2/12, 75–77.

Beining Leonie: Wie Algorithmen verständlich werden, November 2019, <https://www.bertelsmann-stiftung.de/de/publikationen/publikation/did/wie-algorithmen-verstaendlich-werden> (18.10.2022).

Belser Eva Maria: § 2 Entwicklung des Datenschutzes, in: Belser/Epiney/Waldmann (Hg.): Datenschutzrecht, Bern 2011, 33–51.

Belser Eva Maria/Epiney Astrid/Waldmann Bernhard (Hg.): Datenschutzrecht, Bern 2011.

Belser Eva Maria/Noureddine Hussein: § 7 Die Datenschutzgesetzgebung des Bundes, in: Belser/Epiney/Waldmann (Hg.): Datenschutzrecht, Bern 2011, 412–460.

Berk Richard/Heidari Hoda/Jabbari Shahin/Kearns Michael/Roth Aaron: Fairness in Criminal Justice Risk Assessments: The State of the Art, 30. Mai 2017, <http://​arxiv.​org/pdf/1703.09207v2> (18.10.2022).

Biaggini Giovanni (Hg.): BV Kommentar, 2. Aufl., Zürich 2017 (zit. Bearbeiter/in, in: OFK BV).

Bieri Adrian/Powell Julian: Informationspflicht nach dem totalrevidierten Datenschutzgesetz, AJP 12/2020, 1533–1542 (zit. Bieri/Powell, Informationspflicht).

Bieri Adrian/Powell Julian: Die Totalrevision des Bundesgesetzes über den Datenschutz, in: Jusletter 16. November 2020 (zit. Bieri/Powell, Totalrevision).

Bittorf Wilhelm: Automation, Darmstadt 1956.

Blarer Albert/Buffat Marcel/Busch Christoph/Egloff Daniel/Fanzun Daniel/Haefliger Gregor/Langer Philipp/Loison Bertrand/Luder Thomas/Malz Arié/Scheidegger Eric/Schneider Thomas/Schöll Michael/Schwaar Peter/Stämpfli Michael/Weber Verena: Herausforderungen der künstlichen Intelligenz, Bericht der interdepartementalen Arbeitsgruppe «Künstliche Intelligenz» an den Bundesrat, <https://www.sbfi.admin.ch/sbfi/de/home/bfi-politik/bfi-2021-2024/trans​versale-themen/digitalisierung-bfi/kuenstliche-intelligenz.html> (18.10.2022).

Born Tobias: Bonitätsprüfungen im Online-Handel, ZD (2015) 2/5, 66–72.

Boucher Philippe: Safari ou la chasse aux Franc¸ais, Le monde vom 21. März 1974, 9.

Bratschi Rebekka: «Frau im Sinne dieser Badeordnung ist auch der Bademeister». Legaldefinitionen aus redaktioneller Sicht, LeGes 2/2009, 191–213.

Braun Binder Nadja: Vollautomatisierte Verwaltungsverfahren im allgemeinen Verwaltungsverfahrensrecht?, NVwZ 14/2016, 960–965 (zit. Braun Binder, Verwaltungsverfahren).

Braun Binder Nadja: Künstliche Intelligenz und automatisierte Entscheidungen in der öffentlichen Verwaltung, SJZ (2019) 15/115, 467–476 (zit. Braun Binder, Künstliche Intelligenz).

Braun Binder Nadja: Automatisierte Entscheidungen: Perspektive Datenschutzrecht und öffentliche Verwaltung, SZW 1/2020, 27–34 (zit. Braun Binder, Automatisierte Entscheidungen).

Brecht Corinna/Steinbrück Anne/Wagner Manuela: Der Arbeitnehmer 4.0?, PinG 1/2018, 10–15.

Brink Stefan/Wolff Heinrich Amadeus (Hg.): BeckOK Datenschutzrecht, 41. Aufl. 2022 (zit. Bearbeiter/in, in: Brink/Wolff, BeckOK Datenschutzrecht).

Britz Gabriele: Einzelfallgerechtigkeit versus Generalisierung, Tübingen 2008.

Brühann Ulf/Zerdick Thomas: Umsetzung der EG-Datenschutzrichtlinie, CR (1996) 7/12, 429–436.

Bucher Andreas: Natürliche Personen und Persönlichkeitsschutz, 4. Aufl., Basel 2009.

Bühlmann Lukas/Lagler Marion: Informationspflichten und Auskunftsrecht nach dem neuen Datenschutzrecht, SZW 1/2021, 16–22.

Bühlmann Lukas/Schüepp Michael: Begriff und Rechtsfolgen des Profilings im nDSG und der DSGVO, in: Jusletter 12. September 2022.

Bull Hans Peter: Verwaltung durch Maschinen, Köln 1964.

Bundesverband Informationswirtschaft, Telekommunikation und neue Medien e.V./Deutsches Forschungszentrum für Künstliche Intelligenz GmbH: Positionspapier, Entscheidungsunterstützung mit Künstlicher Intelligenz, 2017, <https://www.​bitkom.​org/Bitkom/Publikationen/Entscheidungsunterstuetzung-mit-Kuenstlicher-​Intelligenz-Wirtschaftliche-Bedeutung-gesellschaftliche-Herausforderungen-menschliche-Verantwortung.html> (18.10.2022).

Bürgi-Schmelz Adelheid H.: Expertensystemtechnologie in der Praxis, in: Baggi/Bürgi-Schmelz/Fichtner/Kriz (Hg.): Expertensysteme im betrieblichen und gesellschaftlichen Zusammenhang, B/30, Bern 1989, 8–19.

Busch Christoph: Algorithmic Accountability, 2018, <https://www.abida.de/de/blog-item/gutachten-algorithmic-accountability> (26.10.2022).

Buss David M. (Hg.): The Handbook of Evolutionary Psychology, New Jersey 2015.

Bygrave Lee A.: Automated Profiling, Computer Law & Security Report (2001) 1/17, 17–24.

Caliskan Aylin/Bryson Joanna J./Narayanan Arvind: Semantics derived automatically from language corpora contain human-like biases, Science (2017) 6334/356, 183–186.

Carstens Karl/Peters Hans (Hg.): Festschrift für Hermann Jahrreiss zu seinem siebzigsten Geburtstag, 19. August 1964, Köln/Berlin/Bonn/München 1964.

Christen Markus/Mader Clemens/Čas Johann/Abou-Chadi Tarik/Bernstein Abraham/​Braun Binder Nadja/Dell’Aglio Daniele/Fábián Luca/George Damian/Gohdes Anita/Hilty Lorenz/Kneer Markus/Krieger-Lamina Jaro/Licht Hauke/Scherer Anne/Som Claudia/Sutter Pascal/Thouvenin Florent: Wenn Algorithmen für uns entscheiden: Chancen und Risiken der künstlichen Intelligenz, Zürich 2020.

Colliard Claude-Albert: libertés publiques, 7. Aufl., Paris 1989.

Corbett-Davies Sam/Goel Sharad: The Measure and Mismeasure of Fairness: A Critical Review of Fair Machine Learning, 14. August 2018, <https://doi.org/10.48550/​arXiv.​1808.00023> (18.10.2022).

Corbett-Davies Sam/Pierson Emma/Feller Avi/Goel Sharad/Huq Aziz: Algorithmic Decision Making and the Cost of Fairness, in: Matwin/Yu, S./Farooq (Hg.): Proceedings of the 23rd ACM SIGKDD International Conference on Knowledge Discovery and Data Mining, New York 2017, 797–806.

Cormen Thomas H./Leiserson Charles Eric/Stein Clifford/Rivest Ronald Linn: Algorithmen – eine Einführung, 4. Aufl., München 2013.

Cornelius Kai: Vertragsabschluss durch autonome elektronische Agenten, MMR 6/2002, 353–358.

Corrales Marcelo/Fenwick Mark/Forgó Nikolaus (Hg.): Robotics, AI and the Future of Law, Singapur 2018.

Council of Europe/European Court of Human Rights/European Data Protection Supervisor/European Union Agency for Fundamental Rights: Handbuch zum europäischen Datenschutzrecht, Luxemburg 2019.

Crawford Kate: Artificial Intelligence’s White Guy Problem, 25. Juni 2016, <https://​www.nytimes.com/2016/06/26/opinion/sunday/artificial-intelligences-white-​guy-problem.html> (23.10.2022).

Daedelow Romy: Wenn Algorithmen (unfair) über Menschen entscheiden…, in: Jusletter 26. November 2018.

Dal Molin-Kränzlin Alexandra/Schneuwly Anne Mirjam/Stojanovic Jasna (Hg.): Digitalisierung – Gesellschaft – Recht, Zürich/St. Gallen 2019.

Dammann Ulrich: Erfolge und Defizite der EU-Datenschutzgrundverordnung, ZD (2016) 7/6, 307–314.

Dammann Ulrich/Simitis Spiros: EG-Datenschutzrichtlinie, Kommentar, Baden-Baden 1997.

Danner George E.: The Executive’s How-To Guide to Automation, Cham 2019.

Datenethikkommission der Bundesregierung: Gutachten der Datenethikkommission, Oktober 2019, <https://www.bmi.bund.de/SharedDocs/downloads/DE/publika​tionen/themen/it-digitalpolitik/gutachten-datenethikkommission.html> (18.10.2022).

Däubler Wolfgang/Wedde Peter/Weichert Thilo/Sommer Imke (Hg.): EU-DSGVO und BDSG, Kompaktkommentar, 2. Aufl., Frankfurt am Main 2020 (zit. Bearbeiter/in, in: Däubler et al., Kompaktkommentar DSGVO).

Degrandi Benno: Die automatisierte Verwaltungsverfügung, Dissertation, Zürich 1977.

Desai Deven R./Kroll Joshua A.: Trust But Verify: A Guide to Algorithms and the Law, Harvard Journal of Law & Technology (2017) 1/31, 1–64.

Deuster Lisa: Automatisierte Entscheidungen nach der Datenschutz-Grundverordnung, PinG 2/2016, 75–78.

Diakopoulos Nicholas: Accountability in algorithmic decision making, Communications of the ACM (2016) 2/59, 56–62.

Dichtl Erwin/Issing Otmar (Hg.): Vahlens großes Wirtschaftslexikon, München 1987.

Dietvorst Berkeley J./Simmons Joseph P./Massey Cade: Algorithm Aversion: People Erroneously Avoid Algorithms After Seeing Them Err, Journal of experimental psychology: General (2015) 1/144, 114–126.

Digard Sylvie/Romnicianu Michel: Informatique et libertés, Paris 1981.

Diregger Ekkehard: Handbuch Datenschutzrecht, Wien 2018.

Domingos Pedro: A few useful things to know about machine learning, Communications of the ACM (2012) 10/55, 78–87.

Dovas Maria-Urania: Automatisierte Einzelentscheidungen, digma 2/2017, 98–103.

Dräger Jörg/Müller-Eiselt Ralph: Wir und die intelligenten Maschinen, München 2019.

Dreyer Stephan/Schulz Wolfgang: Was bringt die Datenschutz-Grundverordnung für automatisierte Entscheidungssysteme?, April 2018, <https://www.bertelsmann-stiftung.de/de/publikationen/publikation/did/was-bringt-die-datenschutz​grund​verordnung-fuer-automatisierte-entscheidungssysteme> (18.10.2022).

Drittenbass Joel: Regulierung von autonomen Robotern, Dissertation, Zürich/Baden-Baden 2021.

Drösser Christoph: Total berechenbar?, München 2016.

Duden, Recht A – Z, 3. Aufl., Berlin 2015.

Dudenredaktion (Hg.): Das Bedeutungswörterbuch, 5. Aufl., Berlin 2018.

Duisberg Alexander: Machine Learning und rechtliche Rahmenbedingungen, in: Jusletter IT 26. September 2018.

Eberle Carl-Eugen/Garstka Hansjürgen: B. Automation Juristischer Entscheidungen / 1. Die juristische Entscheidung, in: Steinmueller (Hg.): ADV und Recht, Berlin 1976, 65–72.

Eberle Carl-Eugen/Garstka Hansjürgen/Wegscheider Herbert: B. Automation juristischer Entscheidungen / 3. Automation juristischer Entscheidungsinstanzen, in: Steinmueller (Hg.): ADV und Recht, Berlin 1976, 106–112.

Ebers Martin: § 3 Regulierung von KI und Robotik, in: Ebers/Heinze/Krügel/Steinrötter (Hg.): Künstliche Intelligenz und Robotik, München 2020, 75–137.

Ebers Martin/Navas Susana (Hg.): Algorithms and Law, Cambridge 2020.

Edwards Lilian/Veale Michael: Slave to the Algorithm? Why a ‘Right to an Explanation’ Is Probably Not the Remedy You Are Looking For, Duke Law & Technology Review 16/2017, 18–84.

Ehmann Eugen/Helfrich Marcus: EG-Datenschutzrichtlinie, Kurzkommentar, Köln 1999.

Ehmann Eugen/Selmayr Martin (Hg.): Beck’sche Kurz-Kommentare, DS-GVO, 2. Aufl., München/Wien 2018 (zit. Bearbeiter/in, in: Ehmann/Selmayr, DSGVO).

Eilon Samuel: What Is a Decision?, Management Science (1969) 4/16, B172-B189.

Emmenegger Susan (Hg.): Banken und Datenschutz, Basel 2019.

Epiney Astrid: § 9 Allgemeine Grundsätze, in: Belser/Epiney/Waldmann (Hg.): Datenschutzrecht, Bern 2011, 510–558.

Epiney Astrid/Nüesch Daniela (Hg.): Big Data und Datenschutzrecht, Zürich/Basel/Genf 2016.

Epiney Astrid/Nüesch Daniela (Hg.): Die Revision des Datenschutzes in Europa und die Schweiz, Zürich/Basel/Genf 2016.

Epiney Astrid/Rovelli Sophia (Hg.): Künstliche Intelligenz und Datenschutz, Zürich/Basel/Genf 2021.

Epiney Astrid/Sangsue Déborah (Hg.): Datenschutz und Gesundheitsrecht, Zürich 2019.

Ernst Christian: Algorithmische Entscheidungsfindung und personenbezogene Daten, JZ (2017) 21/72, 1026–1036.

Ertel Wolfgang: Grundkurs Künstliche Intelligenz, Wiesbaden 2016.

Eßer Martin/Kramer Philipp/Lewinski Kai von (Hg.): Auernhammer, DSGVO BDSG, Kommentar, 7. Aufl., Hürth 2020 (zit. Bearbeiter/in, in: Auernhammer, DSGVO).

Europäische Gruppe für Ethik der Naturwissenschaften und der Neuen Technologien: Erklärung zu künstlicher Intelligenz, Robotik und „autonomen“ Systemen, 9. März 2018, <https://op.europa.eu/en/publication-detail/-/publication/dfebe62e-​4ce9-​11e8-​be1d-01aa75ed71a1/language-de/format-PDF> (26.10.2022).

Expertengruppe zur Zukunft der Datenbearbeitung und Datensicherheit: Bericht der Expertengruppe zur Zukunft der Datenbearbeitung und Datensicherheit, 17. August 2018, <https://www.admin.ch/gov/de/start/dokumentation/medienmittei​lun​gen.msg-id-72083.html> (26.10.2022).

Fiedler Herbert: Rechenautomaten als Hilfsmittel der Gesetzesanwendung, DRV (1962) 3/1962, 149–155 (zit. Fiedler, Rechenautomat).

Fiedler Herbert: Wandlungen der «Automationsgerechten Rechtssetzung», DVR 1/1972, 41–55 (zit. Fiedler, Wandlungen).

Fiedler Herbert: Automationsgerechte Rechtsetzung, data report (1974) 2/9, 12–17 (zit. Fiedler, Rechtssetzung).

Fiedler Herbert: Automationsgerechte Rechtssetzung im Rahmen der Gesetzgebungstheorie, in: Rödig/Altmann/Baden/Kindermann/Motsch/Thieler-Mevissen (Hg.): Studien zu einer Theorie der Gesetzgebung, Berlin/Heidelberg 1976, 666-678 (zit. Fiedler, Gesetzgebungstheorie).

Forstmoser Peter: 10 Jahre Gesetz – 30 Jahre Diskussion, digma 2/2003, 3–9.

Frochte Jörg: Maschinelles Lernen, 3. Aufl., München 2021.

Früh Alfred/Haux Dario: Foundations of Artificial Intelligence and Machine Learning, July 2022, <https://doi.org/10.34669/WI.WS/29> (15.11.2022).

Garriga Gemma: Machine Learning und die Versicherung der Zukunft, Digitale Welt 4/2018,/span> 49–51.

Gauch Peter/Schluep Walter R./Schmid Jörg/Emmenegger Susan: Schweizerisches Obligationenrecht Allgemeiner Teil, 11. Aufl., Zürich 2020.

Geffray Édouard/Guérin-Franc¸ois Alexandra: Code de la protection des données personnelles, Annoté et commenté, 4. Aufl., Paris 2021.

Geiß Karlmann/Gerstenmaier Klaus.-A./Winkler Rolf M./Mailänder Peter (Hg.): Festschrift für Karl Peter Mailänder zum 70. Geburtstag am 23. Oktober 2006, Berlin 2006.

George Damian: Prinzipien und Rechtmässigkeitsbedingungen im privaten Datenschutzrecht, Dissertation, Zürich 2021.

Gerhold Maximilian: 40 Jahre CNIL – Ein Blick auf den französischen Gendarmen des Privatlebens, DuD 6/2018, 368–372.

Gethmann Carl Friedrich/Buxmann Peter/Distelrath Julia/Humm Bernhard G./Lingner Stephan/Nitsch Verena/Schmidt Jan C./Spiecker genannt Döhmann Indra: 1 Einführung, in: Gethmann/Buxmann/Distelrath/Humm/Lingner/Nitsch/Schmidt/Spiecker genannt Döhmann (Hg.): Künstliche Intelligenz in der Forschung, Berlin 2022, 1–11 (zit. Gethmann, et al., Einführung).

Gethmann Carl Friedrich/Buxmann Peter/Distelrath Julia/Humm Bernhard G./Lingner Stephan/Nitsch Verena/Schmidt Jan C./Spiecker genannt Döhmann Indra (Hg.): Künstliche Intelligenz in der Forschung, Berlin 2022.

Gierschmann Sibylle/Schlender Katharina/Stentzel Rainer/Veil Winfried (Hg.): Kommentar Datenschutz-Grundverordnung, Köln 2018 (zit. Bearbeiter/in, in: Gierschmann et al., DSGVO).

Glatthaar Matthias: Robot Recruiting, SZW 1/2020, 43–52.

Göbel Elisabeth: Entscheidungstheorie, 2. Aufl., Konstanz/München/Stuttgart 2018.

Göksu Tarkan: Rassendiskriminierung beim Vertragsabschluss als Persönlichkeitsverletzung, Dissertation, Freiburg 2003.

Gola Peter/Heckmann Dirk (Hg.): Datenschutz-Grundverordnung – Bundesdatenschutzgesetz, Kommentar, 3. Aufl., München 2022 (zit. Bearbeiter/in, in: Gola/Heckmann, DSGVO).

Golla Sebastian J.: Abgenickt von Algorithmik, PinG 2/2014, 61–65.

Goodman Bryce/Flaxman Seth: European Union regulations on algorithmic decision-making and a «right to explanation», AI Magazine (2017) 3/38, 50–57.

Goram Mandy: Supervised und unsupervised Learning: Ansätze und Vorgehensweisen beim maschinellen Lernen, 5. September 2022, <https://www.computerwoche.​de/​a/ansaetze-und-vorgehensweisen-beim-maschinellen-lernen,3331036> (19.10.2022).

Gordon Clara-Ann/Lutz Tanja: Haftung für automatisierte Entscheidungen – Herausforderungen in der Praxis, SZW 1/2020, 53–61.

Grabitz Eberhard/Hilf Meinrad/Nettesheim Martin (Hg.): Das Recht der Europäischen Union, 40. Aufl. (zit. Bearbeiter/in, in: Grabitz/Hilf/Nettesheim, Recht der EU).

Grob Heinz Lothar/Bensberg Frank: Kosten- und Leistungsrechnung, München 2005.

Groh Gunnar: Entscheidung, in: Weber, Klaus/Creifelds (Hg.): Rechtswörterbuch, München 2019.

Gröttrup Helmut: Die automatisierte Entscheidung, Studium Generale (1968) 7/21, 1107–1129.

Grützmacher Malte/Heckmann Jan: Autonome Systeme und KI – vom vollautomatisierten zum autonomen Vertragsschluss?, CR 9/2019, 553–561.

Güting Ralf Hartmut/Dieker Stefan: Datenstrukturen und Algorithmen, Wiesbaden 2018.

Häfelin Ulrich/Müller Georg/Uhlmann Felix: Allgemeines Verwaltungsrecht, 8. Aufl., Zürich 2020.

Handle Marco: Der urheberrechtliche Schutz der Idee, Dissertation, Bern 2013.

Hänold Stefanie: Profiling und automatisierte Einzelentscheidungen im Versicherungsbereich, 2017, <https://www.repo.uni-hannover.de/handle/123456789/5167> (19.10.2022) (zit. Hänold, Versicherungsbereich).

Hänold Stefanie: Profiling and Automated Decision-Making: Legal Implications and Shortcomings, in: Corrales/Fenwick/Forgó (Hg.): Robotics, AI and the Future of Law, Singapur 2018, 123–153 (zit. Hänold, Profiling).

Harel David/Feldman Yishai A.: Algorithmik, Berlin 2006.

Härting Niko: Profiling: Vorschläge für eine intelligente Regulierung, CR 8/2014, 528–536.

Hartmann Ernst A. (Hg.): Digitalisierung souverän gestalten II, Berlin 2022.

Haselton Martie G./Nettle Daniel/Andrews Paul W.: The Evolution of Cognitive Bias, in: Buss (Hg.): The Handbook of Evolutionary Psychology, New Jersey 2015, 724–746.

Haun Matthias: Cognitive Organisation, Berlin 2016.

Hausammann Christina: Instrumente gegen Diskriminierung im schweizerischen Recht – ein Überblick, November 2008, <https://www.edi.admin.ch/dam/edi/de/​doku​mente/​instrumente_gegendiskriminierungimrecht.pdf.download.pdf/instru​mente_​gegendiskriminierungimrecht.pdf> (26.10.2022).

Heesen Jessica (Hg.): Handbuch Medien- und Informationsethik, Stuttgart 2016.

Heinemann Andreas: Algorithmen als Anlass für einen neuen Absprachebegriff?, SZW 1/2019, 18–30.

Heise Nele: Algorithmen, in: Heesen (Hg.): Handbuch Medien- und Informationsethik, Stuttgart 2016, 202–209.

Henke Ferdinand: Die Datenschutzkonvention des Europarates, Dissertation, Frankfurt am Main 1986.

Henseler Simon: Was ist eine automatisierte Entscheidung?, in: Meier/Staffler/Zurkinden (Hg.): Recht und Innovation, Zürich/St. Gallen 2020, 301–315.

Heuberger Olivier: Profiling im Persönlichkeits- und Datenschutzrecht der Schweiz, Dissertation, Zürich 2020.

High-Level Expert Group on Artificial Intelligence: A definition of AI: Main capabilities and scientific disciplines, 8. April 2019, <https://digital-strategy.ec.europa.eu/en/library/definition-artificial-intelligence-main-capabilities-and-scientific-disci​pli​nes> (19.10.2022) (zit. HLEG-AI, Definition AI).

Hill Hermann/Martini Mario/Wagner Edgar (Hg.): Die digitale Lebenswelt gestalten, Baden-Baden 2015.

Hochrangige Expertengruppe für künstliche Intelligenz: Ethik-Leitlinien für eine vertrauenswürdige KI, 8. April 2019, <https://op.europa.eu/de/publication-detail/-/publication/d3988569-0434-11ea-8c1f-01aa75ed71a1> (19.10.2022) (zit. HEG-KI, Ethik-Leitlinien).

Höfer Sebastian: Algorithmen, maschinelles Lernen und die Grenzen der KI, in: Jusletter 26. November 2018.

Hoffmann Hanna/Kevekordes Johannes: Das Right to Explanation, DuD (2021) 9/45, 609–615.

Hoffmann-Riem Wolfgang: Verhaltenssteuerung durch Algorithmen – Eine Herausforderung für das Recht, AöR (2017) 1/142, 1.

Hofmann Susanne/Meyer Michael Adrian: Datenschutz in der Schweiz, EF 6-7/2017, 422–425.

Hogrebe Edmund F. M.: Verwaltungsautomation und Datenschutz in Frankreich, Berlin 1976.

Holleaux André: La loi du 6 Janvier 1978 sur l’informatique et les libertés -I-, La Revue administrative (1978) 181/31, 31–40.

Horton Forest Woody: Information Resources Management, New Jersey 1985.

Hötzendorfer Walter/Tschohl Christof/Kummer Franz (Hg.): International Trends in Legal Informatics, Bern 2020.

Huber Hans: Das Recht im technischen Zeitalter, Rektoratsrede, Bern 28. November 1959.

Jaedtke Kathleen: Was ist maschinelles Lernen?, 3. Januar 2019, <https://www.lernen-wie-maschinen.ai/ki-pedia/was-ist-maschinelles-lernen/> (18.10.2022).

Jain Lakhmi C./Lim Chee Peng: Advances in Decision Making, in: Rakus-Andersson/Yager/Ichalkaranje/Jain (Hg.): Recent Advances in Decision Making, Berlin/Heidelberg 2009, 1-6.

Jarchow Thomas/Estermann Beat: Big Data: Chancen, Risiken und Handlungsbedarf des Bundes, 26. Oktober 2015, <https://www.uvek.admin.ch/dam/uvek/de/​doku​mente/anlaesse/2015-ab-juli/BFH%20Big%20Data%20Studie.pdf.down​load.​pdf/BFH_Big-Data-Studie.pdf> (19.10.2022).

Jasberg Kevin/Sizov Sergej: Unsicherheiten menschlicher Entscheidungsfindung in Empfehlungssystemen, Information. Wissenschaft & Praxis (2018) 1/69, 21–30.

Jaume-Palasí Lorena/Spielkamp Matthias: Ethik und algorithmische Prozesse zur Entscheidungsfindung oder -vorbereitung, 2017, <https://algorithmwatch.org/​pu​blication/ethik-und-algorithmische-prozesse-zur-entscheidungsfindung-oder-vorbereitung/> (18.10.2022).

Kahneman Daniel/Sibony Olivier/Sunstein Cass R.: Noise, München 2021.

Kahneman Daniel/Slovic Paul/Tversky Amos (Hg.): Judgment under uncertainty: Heuristics and biases, 28. Aufl., Cambridge 2018.

Kasper Gabriel: People Analytics in privatrechtlichen Arbeitsverhältnissen, Dissertation, St. Gallen 2020.

Kaulartz Markus: Kapitel 2.2, Trainieren von Machine-Learning-Modellen, in: Kaulartz/Braegelmann (Hg.): Rechtshandbuch Artificial Intelligence und Machine Learning, München 2020, 32–36.

Kaulartz Markus/Braegelmann Tom (Hg.): Rechtshandbuch Artificial Intelligence und Machine Learning, München 2020.

Kelleher John D./Tierney Brendan: Data science, Cambridge/London 2018.

Kianička Michael Martin: Die Agentenerklärung, Dissertation, Zürich 2012.

Kilian Wolfgang: Juristische Entscheidung und elektronische Datenverarbeitung, Darmstadt 1974.

Kirste Moritz/Schürholz Markus: Einleitung: Entwicklungswege zur KI, in: Wittpahl (Hg.): Künstliche Intelligenz, Berlin 2019, 21–35.

Klaus Samuel: KI trifft Datenschutz – Risiken und Lösungsansätze, in: Epiney/Rovelli (Hg.): Künstliche Intelligenz und Datenschutz, Zürich/Basel/Genf 2021, 81–95.

Kleinberg Jon/Mullainathan Sendhil/Raghavan Manish: Inherent Trade-Offs in the Fair Determination of Risk Scores, 17. November 2016, <https://doi.org/10.48550/arXiv.1609.05807> (18.10.2022).

Klett Kathrin: Vertragsfreiheit und Kontrahierungszwang, BJM 4/2005, 161–183.

Klug Ulrich: Elektronische Datenverarbeitungsmaschinen im Recht, in: Carstens/Peters (Hg.): Festschrift für Hermann Jahrreiss zu seinem siebzigsten Geburtstag, 19. August 1964, Köln/Berlin/Bonn/München 1964, 189–199 (zit. Klug, Datenverarbeitungsmaschinen).

Klug Ulrich: Juristische Logik, 3. Aufl., Berlin/Göttingen/Heidelberg 1966 (zit. Klug, Logik).

Knobloch Tobias/Husted Carla: Der maschinelle Weg zum passenden Personal, 24. Juni 2019, <https://www.bertelsmann-stiftung.de/de/publika​tionen/publika​tion/​did/der-maschinelle-weg-zum-passenden-personal> (19.10.2022).

Köbler Gerhard: Juristisches Wörterbuch, 17. Aufl., München 2018.

Koeszegi Sabine T.: Automated Decision Systems: Why Human Autonomy is at Stake, in: Szapiro/Kacprzyk (Hg.): Collective Decisions: Theory, Algorithms And Decision Support Systems, Cham 2022.

Körner Sven: Kapitel 2.4, Nachvollziehbarkeit von KI-basierten Entscheidungen, in: Kaulartz/Braegelmann (Hg.): Rechtshandbuch Artificial Intelligence und Machine Learning, München 2020, 44–51.

Kriz Jiri: Expertensysteme: Möglichkeiten und Grenzen, in: Baggi/Bürgi-Schmelz/Fichtner/Kriz (Hg.): Expertensysteme im betrieblichen und gesellschaftlichen Zusammenhang, B/30, Bern 1989, 25–33.

Kroll Joshua A./Huey Joanna/Barocas Solon/Felten Edward W./Reidenberg Joel R./Robinson David G./Yu Harlan: Accountable Algorithms, University of Pennsylvania Law Review (2017) 165, 633–705.

Krüger Julia/Lischka Konrad: Damit Maschinen den Menschen dienen, Mai 2018, <https://www.bertelsmann-stiftung.de/de/publikationen/publikation/did/​da​mit-​maschinen-den-menschen-dienen/> (19.10.2022).

Krüger Sven: Die KI-Entscheidung, Wiesbaden 2021.

Kuch Paweł: Taming the algorithm – The right not to be subject to an automated decision in the General Data Protection Regulation, Dissertation, Zürich 2022.

Kühling Jürgen/Buchner Benedikt (Hg.): Datenschutz-Grundverordnung/BDSG, Kommentar, 3. Aufl., München 2020 (zit. Bearbeiter/in, in: Kühling/Buchner, DS-GVO).

Kühling Jürgen/Martini Mario/Heberlein Johanna/Kühl Benjamin/Nink David/Weinzierl Quirin/Wenzel Michael: Die Datenschutz-Grundverordnung und das nationale Recht, Münster 2016.

Kunkel Carsten/Schoewe Juliana: Zur Zulässigkeit automatisierter Entscheidungen im Einzelfall einschließlich Profling im Sinne des Art. 22 DSGVO – Praxisrelevanz und Wirksamkeit der Norm in Zeiten von Big Data und KI, in: Barton/Müller, C. (Hg.): Künstliche Intelligenz in der Anwendung, Wiesbaden/Heidelberg 2021, 9–23.

Laux Helmut/Gillenkirch Robert M./Schenk-Mathes Heike Y.: Entscheidungstheorie, 10. Aufl., Berlin 2018.

Lawlor Reed C.: What Computers Can Do: Analysis and Prediction of Judicial Decisions, American Bar Association Journal (1963) 4/49, 337–344.

Lemke Christian: Mit Reinforcement Learning auf dem Weg zur Allgemeinen KI, 18. Oktober 2019, <https://digitaleweltmagazin.de/2019/10/18/mit-reinforcement-learning-auf-dem-weg-zur-allgemeinen-ki/> (19.10.2022).

Lewinski Kai von: Regulierungsbedarf und Regulierungsfelder von algorithmischen Systemen, InTeR 4/2018, 168–176.

Linderkamp Jörn: Der digitale Preis – eine automatisierte Einzelfallentscheidung?, ZD (2020) 10/10, 506–511.

Lischka Konrad/Klingel Anita: Wenn Maschinen Menschen bewerten, Mai 2017, <https://www.bertelsmann-stiftung.de/de/publikationen/publikation/did/wenn-maschinen-menschen-bewerten/> (18.10.2022).

Luber Stefan/Litzel Nico: Was ist Prescriptive Analytics?, 10. Januar 2018, <https://www.bigdata-insider.de/was-ist-prescriptive-analytics-a-675521/> (23.10.2022).

Mag Wolfgang: Grundzüge der Entscheidungstheorie, München 1990.

Maisl Herbert: La maîtrise d’une interdependance, La semaine juridique I/1978, 2891, N 1–62.

Malgieri Gianclaudio: Automated Decision-Making in the EU Member States, 20. Mai 2019, <https://papers.ssrn.com/sol3/papers.cfm?abstract_id=3233611> (19.10.2022).

Manhart Klaus: Was Sie über Maschinelles Lernen wissen müssen, 30. September 2020, <https://www.computerwoche.de/a/was-sie-ueber-maschinelles-lernen-wissen-muessen,3329560> (18.10.2022).

Manske Julia/Knobloch Tobias: Datenpolitik jenseits von Datenschutz, 2. November 2017, <https://www.stiftung-nv.de/de/publikation/datenpolitik-jenseits-von-​da​ten​schutz> (18.10.2022).

Marr Bernard: What Is The Difference Between Artificial Intelligence And Machine Learning?, 6. Dezember 2016, <https://www.forbes.com/sites/bernardmarr/2016/12/06/what-is-the-difference-between-artificial-intelligence-and-machine-learning/?sh=77da2f422742> (18.10.2022) (zit. Marr, Difference).

Marr Bernard: Supervised V Unsupervised Machine Learning — What’s The Difference?, 16. März 2017, <https://www.forbes.com/sites/bernardmarr/2017/03/16/supervised-v-unsupervised-machine-learning-whats-the-difference/?sh=4e4e45cb485d#4422d2d4485d> (23.10.2022) (zit. Marr, Supervised).

Martin Jürg/Seltmann Jan/Loher Silvan: Die Verfügung in der Praxis, 2. Aufl., Zürich 2016.

Martini Mario: Big Data als Herausforderung für das Datenschutzrecht und den Persönlichkeitsschutz, in: Hill/Martini/Wagner, E. (Hg.): Die digitale Lebenswelt gestalten, Baden-Baden 2015, 97–162 (zit. Martini, Big Data).

Martini Mario: Algorithmen als Herausforderung für die Rechtsordnung, JZ (2017) 21/72, 1017–1025 (zit. Martini, Herausforderung).

Martini Mario: Blackbox Algorithmus – Grundfragen einer Regulierung Künstlicher Intelligenz, Berlin 2019 (zit. Martini, Blackbox).

Martini Mario/Nink David: Wenn Maschinen entscheiden …, NVwZ 10/2017, 681-682.

Matwin Stan/Yu Shipeng/Farooq Faisal (Hg.): Proceedings of the 23rd ACM SIGKDD International Conference on Knowledge Discovery and Data Mining, New York 2017.

Maurer-Lambrou Urs/Honsell Heinrich (Hg.): Basler Kommentar, Datenschutzgesetz, Öffentlichkeitsgesetz, 3. Aufl., Basel 2014 (zit. Bearbeiter/in, in: BSK aDSG).

Meier Julia/Staffler Lukas/Zurkinden Nadine (Hg.): Recht und Innovation, Zürich/​St. Gallen 2020.

Mendoza Isak/Bygrave Lee A.: The Right Not to be Subject to Automated Decisions Based on Profiling, in: Synodinou/Jougleux/Markou/Prastitou (Hg.): EU Internet Law, Cham 2017, 77–98.

Menges Hanno: Moralische Entscheidungen autonomer Technologien: eine Aufgabe für den Gesetzgeber?, in: Dal Molin-Kränzlin/Schneuwly/Stojanovic (Hg.): Digitalisierung – Gesellschaft – Recht, Zürich/St. Gallen 2019, 45–63.

Meyer Stephan: Rechtliche Herausforderungen der Künstlichen Intelligenz und ihre Bewältigung, in: Barton/Müller, C. (Hg.): Künstliche Intelligenz in der Anwendung, Wiesbaden/Heidelberg 2021, 25–48.

Mishra Sanatan: Unsupervised Learning and Data Clustering – Towards Data Science, 19. Mai 2017, <https://towardsdatascience.com/unsupervised-learning-and-data-clustering-eeecb78b422a> (23.10.2022).

Misselhorn Catrin: Grundfragen der Maschinenethik, 4. Aufl., Ditzingen 2018.

Mitchell Tom M.: Machine learning, New York 1997.

Mohabbat Kar Resa/Thapa Basanta/Parycek Peter (Hg.): (Un)berechenbar?, Berlin 2018, <https://www.oeffentliche-it.de/documents/10181/14412/(Un)berechenbar​+-​+Algorithmen+und+Automatisierung+in+Staat+und+Gesellschaft>.

Möller Jan/Florax Björn-Christoph: Datenschutzrechtliche Unbedenklichkeit des Scoring von Kreditrisiken?, NJW 38/2003, 2724–2726.

Monsch Martin: Hochfrequenzhandel, Dissertation, Zürich 2018.

Naguib Tarek: Diskriminierende Verweigerung des Vertragsabschlusses über Dienstleistungen Privater: Diskriminierungsschutzrecht zwischen Normativität, Realität und Idealität, AJP 8/2009, 993–1017.

Nahrstedt Harald: Algorithmen für Ingenieure, 3. Aufl., Wiesbaden 2018.

Ng Annalyn/Soo Kenneth: Data Science – was ist das eigentlich?!, Berlin 2018.

Nick Franz Josef: Kreditscoring und Datenschutz, in: Geiß/Gerstenmaier/Winkler/Mailänder (Hg.): Festschrift für Karl Peter Mailänder zum 70. Geburtstag am 23. Oktober 2006, Berlin 2006, 45–63.

Niebler Paul/Lindner Dominic: Datenbasiert entscheiden, Wiesbaden 2019.

Niederée Claudia/Nejdl Wolfgang: § 2 Technische Grundlagen der KI, in: Ebers/Heinze/Krügel/Steinrötter (Hg.): Künstliche Intelligenz und Robotik, München 2020, 38–74.

Nink David: Justiz und Algorithmen, Dissertation, Speyer 2020.

Nitzsch Rüdiger von: Entscheidungslehre, 11. Aufl., Wiesbaden/Heidelberg 2021.

Nof Shimon Y.: Automation: What It Means to Us Around the World, in: Nof (Hg.): Springer Handbook of Automation, Berlin/Heidelberg 2009, 13–52 (zit. Nof, Automation).

Nof Shimon Y. (Hg.): Springer Handbook of Automation, Berlin/Heidelberg 2009.

Oberlin Jutta Sonja/Bossardt Matthias: Datenschutz-Compliance: Die Anforderungen der EU-DSGVO und des VE-DSG der Schweiz, CB 7/2017, 245–249.

OECD: Artificial Intelligence in Society, August 2019, <https://doi.org/10.1787/eedf​ee​77-​en> (26.10.2022).

Osswald Albert: Verwaltungsreform und elektronische Datenverarbeitung, Vortrag, Bad Wildungen 20. April 1969.

Paal Boris P./Pauly Daniel A. (Hg.): Beck’sche Kompakt-Kommentare, Datenschutz-Grundverordnung, Bundesdatenschutzgesetz, 3. Aufl., München 2021 (zit. Bearbeiter/in, in: Paal/Pauly, DS-GVO).

Parasuraman Raja/Riley Victor: Humans and Automation: Use, Misuse, Disuse, Abuse, Human Factors (1997) 2/39, 230–253.

Parasuraman Raja/Sheridan Thomas B./Wickens Christopher D.: A model for types and levels of human interaction with automation, IEEE Transactions on Systems Man and Cybernetics – Part A Systems and Humans (2000) 3/30, 286–297.

Pentenrieder Annelie/Hartmann Ernst A./Künzel Matthias: Nachweislich eine gute Entscheidung: Qualitätssicherung für künstlich-intelligente Verfahren in der Industrie, in: Hartmann (Hg.): Digitalisierung souverän gestalten II, Berlin 2022, 51–63.

Pérez Asinari Maria Verónica/Palazzi Pablo (Hg.): Défis du droit à la protection de la vie privée / Challenges of privacy and data protection law, Brüssel 2008.

Petkova Bilyana/Boehm Franziska: Profiling and the Essence of the Right to Data Protection, in: Selinger/Polonetsky/Tene (Hg.): The Cambridge Handbook of Consumer Privacy, Cambridge 2018, 285–300.

Pfister Hans-Rüdiger/Jungermann Helmut/Fischer Katrin: Die Psychologie der Entscheidung, 4. Aufl., Berlin/Heidelberg 2017.

Pieper Fritz-Ulli: Künstliche Intelligenz: Im Spannungsfeld von Recht und Technik, InTeR 1/2018, 9–15.

Plath Kai-Uwe (Hg.): DSGVO/BDSG, Kommentar, 3. Aufl., Köln 2018 (zit. Bearbeiter/in, in: Plath, DSGVO).

Podesta John/Pritzker Penny/Moniz Ernest J./Holdren John/Zients Jeffrey: Big Data: Seizing Opportunities, Preserving Values, Mai 2014, <https://obamawhitehouse.archives.gov/sites/default/files/docs/big_data_privacy_report_​may_​1_​2014.pdf> (18.10.2022).

Prieur Yvonne: Datenschutz durch «Big-Data-Geschäfte» auf dem Prüfstand, AJP 12/2015, 1643–1653.

Pultke Bruno D.: Automationsgerechte Rechtssetzung aus der Sicht der Datenverarbeitung, in: Rödig/Altmann/Baden/Kindermann/Motsch/Thieler-Mevissen (Hg.): Studien zu einer Theorie der Gesetzgebung, Berlin/Heidelberg 1976, 679–695.

Rakus-Andersson Elisabeth/Yager Ronald R./Ichalkaranje Nikhil/Jain Lakhmi C. (Hg.): Recent Advances in Decision Making, Berlin/Heidelberg 2009.

Ramge Thomas: Mensch und Maschine, Ditzingen 2018.

Rechsteiner David: Der Algorithmus verfügt, in: Jusletter 26. November 2018.

Reudt-Demont Janine/Gordon Clara-Ann/Egli Luisa: Das revidierte Datenschutzgesetz, LSR 4/2021, 264–269.

Riegel Reinhard: Europäische Gemeinschaften und Datenschutz, ZRP 4/1990, 132–135.

Rosenthal David: Der Vorentwurf für ein neues Datenschutzgesetz: Was er bedeutet, in: Jusletter 20. Februar 2017 (zit. Rosenthal, VE-DSG).

Rosenthal David: Der Entwurf für ein neues Datenschutzgesetz, in: Jusletter 27. November 2017 (zit. Rosenthal, E-DSG).

Rosenthal David: Das neue Datenschutzgesetz, in: Jusletter 16. November 2020 (zit. Rosenthal, revDSG).

Rosenthal David/Jöhri Yvonne (Hg.): Handkommentar zum Datenschutzgesetz, Zürich 2008 (zit. Bearbeiter/in, in: Rosenthal/Jöhri, aDSG).

Rost Martin: Künstliche Intelligenz, DuD 9/2018, 558–565.

Roth Alexander D.: Documents on Data Protection, International Legal Materials (1980) 2/19, 282–324.

Roth Simon: Die automatisierte Einzelentscheidung, digma 2/2017, 104–109 (zit. Roth, S., Einzelentscheidung).

Roth Simon: Das Profiling im neuen Datenschutzrecht, SZW 1/2021, 34–39 (zit. Roth, S., Profiling).

Runkler Thomas A.: Data Mining, Wiesbaden 2015.

Sancho Diana: Automated Decision-Making under Article 22 GDPR, in: Ebers/Navas (Hg.): Algorithms and Law, Cambridge 2020, 136–156.

SAP (Schweiz) AG: Was ist maschinelles Lernen?, <https://www.sap.com/swiss/​in​sights/​what-is-machine-learning.html> (23.10.2022).

Sarkar Dipanjan/Bali Raghav/Sharma Tushar: Practical Machine Learning with Python, New York 2018.

Schaaf Nina: Neuronale Netze: Ein Blick in die Black Box, 14. Januar 2020, <https://​www.informatik-aktuell.de/betrieb/kuenstliche-intelligenz/neuronale-netze-ein-blick-in-die-black-box.html> (23.10.2022).

Schael Christopher: Künstliche Intelligenz in der modernen Gesellschaft, DuD 9/2018, 547–551.

Schillmöller Jan: Die Informationsfreiheit in der Filterblase, InTer 3/2020, 150–153.

Schirmer Jan-Erik: Artificial Intelligence and Legal Personality: Introducing “Teilrechtsfähigkeit”: A Partial Legal Status Made in Germany, in: Wischmeyer/Rademacher (Hg.): Regulating Artificial Intelligence, Cham 2020, 123–142.

Science and Technology Committee: Algorithms in decision-making, 23. Mai 2018, <https://publications.parliament.uk/pa/cm201719/cmselect/cmsctech/351/351.pdf> (26.10.2022).

Selinger Evan/Polonetsky Jules/Tene Omer (Hg.): The Cambridge Handbook of Consumer Privacy, Cambridge 2018.

Sesing Andreas/Baumann Jonas S.: Automatisierung von Vertragsbeziehungen in der Industrie 4.0, InTeR 3/2020, 134–141.

Simitis Spiros: Automation in der Rechtsordnung – Möglichkeiten und Grenze, Karlsruhe 1967 (zit. Simitis, Automation).

Simitis Spiros: Informationskrise des Rechts und Datenverarbeitung, Karlsruhe 1970 (zit. Simitis, Informationskrise).

Simitis Spiros/Hornung Gerrit/Spiecker genannt Döhmann Indra (Hg.): Datenschutzrecht, Baden-Baden 2019 (zit. Bearbeiter/in, in: Simitis/Hornung/Spiecker genannt Döhmann, Datenschutzrecht).

Söbbing Thomas: Rechtsfragen künstlicher Intelligenz im Hochfrequenzhandel, InTeR 2/2019, 64–70.

Sommerville Ian: Software Engineering, 10. Aufl., Hallbergmoos 2018.

Spiecker genannt Döhmann Indra: Profiling, Big Data, Artificial Intelligence und Social Media – Gefahren für eine Gesellschaft ohne effektiven Datenschutz, in: Hötzendorfer/Tschohl/Kummer (Hg.): International Trends in Legal Informatics, Bern 2020, 345–372 (zit. Spiecker genannt Döhmann, Profiling).

Spiecker genannt Döhmann Indra: 6 Die Regulierungsperspektive von KI/ BigData in der Wissenschaft, in: Gethmann/Buxmann/Distelrath/Humm/Lingner/Nitsch/Schmidt/Spiecker genannt Döhmann (Hg.): Künstliche Intelligenz in der Forschung, Berlin 2022, 147–172 (zit. Spiecker genannt Döhmann, Regulierungsperspektive).

Stadler Gerhard: Elektronische Datenverarbeitung und Kybernetik in der Gesetzgebung, DVR 2/1973, 1-35.

Steier Andreas: KI und Machine Learning: Warum wir mit dem Datenschutz von heute die Zukunft verspielen, Digitale Welt 4/2018, 45–46.

Steinauer Paul-Henri: L’Informatique et l’application du droit, Dissertation, Freiburg 1975.

Stengel Cornelia/Stäuble Luca: Vom Persönlichkeitsprofil zum Profiling mit hohem Risiko, in: Jusletter 20. Januar 2020.

Stiemerling Oliver: Kapitel 2.1, Technische Grundlagen, in: Kaulartz/Braegelmann (Hg.): Rechtshandbuch Artificial Intelligence und Machine Learning, München 2020, 15–31.

Stiller Sebastian/Jäger Jule/Giessler Sebastian: Automatisierte Entscheidungen und Künstliche Intelligenz im Personalmanagement, 2. März 2020, <https://algorithm​watch.org/de/auto-hr/leitfaden/> (26.10.2022).

Straub Wolfgang: Softwareschutz, Zürich 2011.

Stutz Manuel: Haftungsfragen beim Robo Advice aus Sicht des Anlegers, ex/ante 2/2019, 17–31.

Styczynski Zbigniew A./Rudion Krzysztof/Naumann André: Einführung in Expertensysteme, Berlin 2017.

Sydow Gernot/Marsch Nikolaus (Hg.): DS-GVO | BDSG, Handkommentar, 3. Aufl., Baden-Baden 2022 (zit. Bearbeiter/in, in: Sydow/Marsch, DSGVO).

Synodinou Tatiana-Eleni/Jougleux Philippe/Markou Christiana/Prastitou Thalia (Hg.): EU Internet Law, Cham 2017.

Szapiro Tomasz/Kacprzyk Janusz (Hg.): Collective Decisions: Theory, Algorithms And Decision Support Systems, Cham 2022.

Taeger Jürgen/Gabel Detlev (Hg.): Kommentar, DSGVO – BDSG – TTDSG, 4. Aufl., Frankfurt am Main 2022 (zit. Bearbeiter/in, in: Taeger/Gabel, DSGVO).

Tamò-Larrieux Aurelia: Designing for Privacy and its Legal Framework, Dissertation, Cham.

Temme Merle: Algorithms and Transparency in View of the New General Data Protection Regulation, EDPL (2017) 4/3, 473–485.

Thouvenin Florent: Privatversicherungen: Datenschutzrecht als Grenze der Individualisierung?, in: Epiney/Sangsue (Hg.): Datenschutz und Gesundheitsrecht, Zürich 2019, 15–42.

Thouvenin Florent/Früh Alfred: Automatisierte Entscheidungen: Grundfragen aus der Perspektive des Privatrechts, SZW 1/2020, 3–17.

Thouvenin Florent/Früh Alfred/George Damian: Datenschutz und automatisierte Entscheidungen, in: Jusletter 26. November 2018.

Thouvenin Florent/Früh Alfred/Henseler Simon: Article 22 GDPR on Automated Individual Decision-Making: Prohibition or Data Subject Right?, EDPL (2022) 2/8, 183–198.

Thouvenin Florent/Früh Alfred/Rudolph Teresa/Henseler Simon/Bayamlioğlu Emre/Braun Binder Nadja/Katzenbach Christian/Kroll Joshua A./Malik Momin/Spielkamp Matthias: Towards Principled Regulation of Automated Decision-Making (ADM), September 2019, <https://www.itsl.uzh.ch/dam/jcr:​edba​006c-​8452-​4ffc-bbb0-fd8fde62d114/Workshop%20Report%20Lavin.pdf> (26.10.2022).

Thouvenin Florent/Suter Fabienne/George Damian/Weber Rolf H.: Big Data in the Insurance Industry, JIPITEC 2/2019, 209–243.

Thouvenin Florent/Weber Rolf H. (Hg.): Werbung – Online, Zürich 2017.

Tiedemann Klaus/Sasse Christoph: Delinquenzprophylaxe, Kreditsicherung und Datenschutz in der Wirtschaft, Köln 1973.

Tischbirek Alexander: Artificial Intelligence and Discrimination: Discriminating Against Discriminatory Systems, in: Wischmeyer/Rademacher (Hg.): Regulating Artificial Intelligence, Cham 2020, 104–121.

Toren Naomi: Drei wesentliche Veränderungen im Datenschutzrecht der Schweiz, in: Jusletter IT 5. Dezember 2019.

Tosoni Luca: The right to object to automated individual decisions: resolving the ambiguity of Article 22(1) of the General Data Protection Regulation, IDPL (2021) 2/11, 145–162.

Trabs Mathias/Jirak Moritz/Krenz Konstantin/Reiß Markus: Statistik und maschinelles Lernen, Berlin 2021.

Trudel Pierre: Hypothèses sur l’évolution des concepts du droit de la protection des données personnelles dans l’Etat en réseau, in: Pérez Asinari/Palazzi (Hg.): Défis du droit à la protection de la vie privée / Challenges of privacy and data protection law, Brüssel 2008, 531–558.

Tschudi Andreas: Anatomie der Entscheidung, DSWR 9/1975, 265–270.

Tversky Amos/Kahneman Daniel: Judgment under uncertainty: Heuristics and biase, in: Kahneman/Slovic/Tversky (Hg.): Judgment under uncertainty: Heuristics and biases, Cambridge 2018.

Vallone Vera: Wenn sich Algorithmen absprechen, ex/ante 2/2018, 35–45.

Vasella David: Profiling nach der DSGVO und dem E-DSG bei Banken, in: Emmenegger (Hg.): Banken und Datenschutz, Basel 2019, 189–211.

Vedder Anton/Naudts Laurens: Accountability for the use of algorithms in a big data environment, International Review of Law, Computers & Technology (2017) 2/31, 206–224.

Verbraucherzentrale Bundesverband e.V.: Algorithmenbasierte Entscheidungsprozesse, 7. Dezember 2017, <https://www.vzbv.de/sites/default/files/downloads/2018/05/22/dm_17-12-07_vzbv_thesenpapier_algorithmen.pdf> (18.10.2022) (zit. VZBV, Entscheidungsprozesse).

Verbraucherzentrale Bundesverband e.V.: Thesenpapier: Algorithmische Entscheidungsfindung, in: Mohabbat Kar/Thapa/Parycek (Hg.): (Un)berechenbar?, Berlin 2018, 516-541 (zit. VZBV, Entscheidungsfindung).

Vieth Kilian/Wagner Ben: Teilhabe, ausgerechnet, Juni 2017, <https://www.bertels​mann-stiftung.de/de/publikationen/publikation/did/teilhabe-ausgerechnet> (26.10.2022).

Voigt Paul/Bussche Axel von dem: EU-Datenschutz-Grundverordnung (DSGVO), Berlin 2018.

Wachter Sandra/Mittelstadt Brent/Floridi Luciano: Why a Right to Explanation of Automated Decision-Making Does Not Exist in the General Data Protection Regulation, IDPL (2017) 2/7, 76–99.

Wachter Sandra/Mittelstadt Brent/Russel Chris: Why fairness cannot be automated: Bridging the gap between EU non-discrimination law and AI, 3. März 2020, <https://arxiv.org/ftp/arxiv/papers/2005/2005.05906.pdf> (18.10.2022).

Waldmann Bernhard: Nationalitätsbedingte Erhöhung der Autoversicherungsprämien Kurzbegutachtung eines Einzelfalls von grundlegender Tragweite, HAVE 1/2007, 65–79.

Waldmann Bernhard/Belser Eva Maria/Epiney Astrid (Hg.): Basler Kommentar, Bundesverfassung, Basel 2015 (zit. Bearbeiter/in, in: BSK BV).

Waldmann Bernhard/Weissenberger Philippe (Hg.): Praxiskommentar Verwaltungsverfahrensgesetz, 2. Aufl., Zürich 2016 (zit. Bearbeiter/in, in: Waldmann/Weissenberger, VwVG).

Walter Jean-Philippe: La Convention 108+, une réponse adéquate à l’ère du numérique !, 6. Oktober 2020, <https://swissprivacy.law/15/> (19.10.2022).

Weber Karl: Forschungspolitische Früherkennung: Instrument und Aktor der Forschungspolitik, SVPW-Jahrbuch 29/1989, 123–141.

Weber Klaus/Creifelds Carl (Hg.): Rechtswörterbuch, 23. Aufl., München 2019.

Weber Martina: Der betriebliche Datenschutzbeauftragte im Lichte der EG-Datenschutzrichtlinie, DuD (1995) 12/19, 698–702.

Weber Rolf H.: Big Data: Herausforderungen für das Datenschutzrecht, in: Epiney/Nüesch (Hg.): Big Data und Datenschutzrecht, Zürich/Basel/Genf 2016, 1–22 (zit. Weber, R.H., Big Data).

Weber Rolf H.: Big Data in the Insurance Industry, in: Jusletter 12. Dezember 2016 (zit. Weber, R.H., Insurance).

Weber Rolf H.: Dürfen Maschinen über Menschen entscheiden?, 31. Januar 2019, <https://schweizermonat.ch/duerfen-maschinen-ueber-menschen-%E2%80​%A8​entscheiden/#> (18.10.2022) (zit. Weber, R.H., Maschinen).

Weber Rolf H./Baisch Rainer: Regulierung von Robo-Advice, AJP 8/2016, 1065–1078.

Weber Rolf H./Henseler Simon: Regulierung von Algorithmen in der EU und in der Schweiz, EuZ 2/2020, 28–42.

Weber Rolf H./Oertly Dominic: Aushöhlung des Datenschutzes durch De-Anonymisierung bei Big Data Analytics?, in: Jusletter IT 21. Mai 2015.

Wegscheider Herbert: A. Rechtsinformatik / 3.2.3. Programmierung, in: Steinmueller (Hg.): ADV und Recht, Berlin 1976, 48–54.

Widmer Barbara: Ada, die Algorithmen und das Immaterialgüterrecht, AJP 9/2016, 1273–1274 (zit. Widmer, Immaterialgüterrecht).

Widmer Barbara: Ada, die Algorithmen und das Kartellrecht, AJP 10/2016, 1414–1415 (zit. Widmer, Kartellrecht).

Widmer Lüchinger Corinne: Apps, Algorithmen und Roboter in der Medizin: Haftungsrechtliche Herausforderungen, HAVE 1/2019, 3–15.

Wiener Norbert: Mensch und Menschmaschine, Frankfurt am Main/Berlin 1952.

Wildhaber Isabelle: Robotik am Arbeitsplatz: Robo-Kollegen und Robo-Bosse, AJP 2/2017, 213–224.

Winkler Markus: Credit Scoring, AML Software & Risk Profiling: Automatisierte Entscheidungen im Rahmen von Finanzdienstleistungen, SZW 1/2020, 62–72.

Wittpahl Volker (Hg.): Künstliche Intelligenz, Berlin 2019.

Wuermeling Ulrich: Umsetzung der Europäischen Datenschutzrichtlinie, Der Betrieb 13/1996, 663–671.

Wurst Matthias: Europa 1992: Auf dem Weg zu einem einheitlichen Datenschutzrecht in der europäischen Gemeinschaft, JuS (1991) 6/31, 448–453.

Wuttke Laurenz: Deep Learning: Definition, Beispiele & Frameworks, <https://data​so​lut.​com/was-ist-deep-learning> (23.10.2022) (zit. Wuttke, Deep Learning).

Wuttke Laurenz: Machine Learning: Definition, Algorithmen, Methoden und Beispiele, <https://datasolut.com/was-ist-machine-learning/> (18.10.2022) (zit. Wuttke, Machine Learning).

Wuttke Laurenz: Reinforcement Learning: Wenn KI auf Belohnungen reagiert, <https://datasolut.com/reinforcement-learning/> (23.10.2022) (zit. Wuttke, Reinforcement Learning).

Wuttke Laurenz: Was ist Unsupervised Learning (Unüberwachtes Lernen)?, 18. Oktober 2021, <https://datasolut.com/wiki/unsupervised-learning/> (23.10.2022) (zit. Wuttke, Unsupervised Learning).

Zahariev Martin: The evolution of EU data protection law on automated data profiling, PinG 2/2017, 73–79.

Zarsky Tal: The Trouble with Algorithmic Decisions: An Analytic Road Map to Examine Efficiency and Fairness in Automated and Opaque Decision Making, Science, Technology, & Human Values (2016) 1/41, 118–132.

Zeidler Karl: Über die Technisierung der Verwaltung, Karlsruhe 1959.

Zerilli John/Knott Alistair/Maclaurin James/Gavaghan Colin: Transparency in Algorithmic and Human Decision-Making: Is There a Double Standard?, Philosophy & Technology (2019) 4/32, 661–683.

Ziegenbalg Jochen/Ziegenbalg Oliver/Ziegenbalg Bernd: Algorithmen von Hammurapi bis Gödel, Wiesbaden 2016.

Zobl Martin/Lysakowski Michael: E-Persönlichkeit für Algorithmen?, digma 1/2019, 42–47.

Zweig Katharina A.: Wo Maschinen irren können, Februar 2018, <https://www.bertels​mann-stiftung.de/de/publikationen/publikation/did/wo-maschinen-irren-koen​nen/> (26.10.2022).

7

Materialienverzeichnis

Materialien Europäische Union

Artikel-29-Datenschutzgruppe: Leitlinien zu automatisierten Entscheidungen im Einzelfall einschließlich Profiling für die Zwecke der Verordnung 2016/679, 3. Oktober 2017/6. Februar 2018, <https://ec.europa.eu/newsroom/article29/items/612​053/​en> (23.10.2022).

Europäische Kommission: Mitteilung der Kommission an das Europäische Parlament, den Rat, den Europäischen Wirtschafts- und Sozialausschuss und den Ausschuss der Regionen, Gesamtkonzept für den Datenschutz in der Europäischen Union, KOM(2010) 609 endgültig, 4. November 2010, <https://eur-lex.europa.eu/legal-content/DE/TXT/PDF/?uri=CELEX:52010DC0609&from=de> (25.10.2022) (zit. EU Kommission, KOM(2010) 609).

Europäische Kommission: Arbeitsdokument der Kommissionsdienststellen, Zusammenfassung der Folgenabschätzung, SEK(2012) 73, 25. Januar 2012, <https://eur-lex.eu​ropa.eu/legal-content/DE/TXT/PDF/?uri=CELEX:52012SC0073&from=SK> (25.10.2022) (zit. EU Kommission, SEK(2012) 73).

Europäische Kommission: Vorschlag für Verordnung des Europäischen Parlaments und des Rates zum Schutz natürlicher Personen bei der Verarbeitung personenbezogener Daten und zum freien Datenverkehr (Datenschutz-Grundverordnung), KOM(2012) 11 endgültig, 25. Januar 2012, <https://eur-lex.europa.eu/LexUriServ/LexUriServ.do?uri=COM:2012:0011:FIN:DE:PDF> (25.10.2022) (zit. EU Kommission, KOM(2012) 11).

Europäischer Datenschutzbeauftragter: Empfehlungen des EDSB zu den Optionen der EU für die Datenschutzreform, ABl. C 301 vom 12. September 2015, 1–8 (zit. ABl. C 301).

Europäischer Datenschutzbeauftragter: Stellungnahme 7/2015: Bewältigung der Herausforderungen in Verbindung mit Big Data, 19. November 2015, <https://edps.eu​ro​pa.eu/data-protection/our-work/publications/opinions/meeting-challenges-big-data_de> (19.10.2022) (zit. EDSB, Stellungnahme 07/2015).

Europäischer Wirtschafts- und Sozialausschuss: Stellungnahme zu dem Vorschlag für eine Richtlinie des Rates zum Schutz von Personen bei der Verarbeitung personenbezogener Daten, ABl. C 159 vom 17. Juni 1991, 38-48 (zit. ABl. C 159).

Europäisches Parlament: Entschließung über den Schutz der Rechte des Einzelnen angesichts der fortschreitenden technischen Entwicklung auf dem Gebiet der automatischen Datenverarbeitung, ABl. C 60 vom 13. März 1975, 48 (zit. ABl. C 60).

Europäisches Parlament: Entschließung zum Schutz der Rechte des einzelnen angesichts der fortschreitenden technischen Entwicklung auf dem Gebiet der automatischen Datenverarbeitung, ABl. C 100 vom 3. Mai 1976, 27 (zit. ABl. C 100).

Europäisches Parlament: Entschließung zum Schutz der Rechte des einzelnen angesichts der fortschreitenden technischen Entwicklung auf dem Gebiet der Datenverarbeitung, ABl. C 140 vom 5. Juni 1979, 34–38 (zit. ABl. C 140).

Europäisches Parlament: Entschließung zum Schutz der Rechte des einzelnen angesichts der fortschreitenden technischen Entwicklung auf dem Gebiet der Datenverarbeitung, ABl. C 87 vom 5. April 1982, 39–41 (zit. ABl. C 87).

Europäisches Parlament: Protokoll der Sitzung vom Mittwoch, 11. März 1992, ABl. C 94 vom 13. April 1992 (zit. ABl. C 94).

Europäisches Parlament: Protokoll der Sitzung vom Mittwoch, 14. Juni 1995, ABl. C 166 vom 3. Juli 1995, 44-76 (zit. ABl. C 166).

Europäisches Parlament: Schutz natürlicher Personen bei der Verarbeitung personenbezogener Daten, Legislative Entschliessung des Europäischen Parlaments vom 12. März 2014 zu dem Vorschlag für eine Verordnung des Europäischen Parlaments und des Rates zum Schutz natürlicher Personen bei der Verarbeitung personenbezogener Daten und zum freien Datenverkehr (allgemeine Datenschutzverordnung) (COM(2012)0011 — C7-0025/2012 — 2012/0011(COD)), ABl. C 378 vom 9. November 2017, 399–492 (zit. ABl. C 378).

European Commission: Commission Staff Working Paper, Impact Assessment, Accompanying the document Regulation of the European Parliament and of the Council on the protection of individuals with regard to the processing of personal data and on the free movement of such data (General Data Protection Regulation) and Directive of the European Parliament and of the Council on the protection of individuals with regard to the processing of personal data by competent authorities for the purposes of prevention, investigation, detection or prosecution of criminal offences or the execution of criminal penalties, and the free movement of such data, SEC(2012) 72 final, 25. Januar 2012, <https://www.europarl.europa.eu/cms​data/59702/att_20130508ATT65856-1873079025799224642.pdf> (25.10.2022) (zit. EU Commission, SEC(2012) 72).

European Communities the Council: Amended proposal for a Directive on the protection of individuals with regard to the processing of personal data and on the free movement of such data, Note from: Permanent Representation of France, signed by Jean-Franc¸ois Dobelle, ST 5579/93, 22. März 1993 (zit. EG Rat, ST 5579/93).

European Data Protection Board: Endorsement 1/2018, 25. Mai 2018, <https://edpb.eu​ro​pa.eu/sites/default/files/files/news/endorsement_​of_wp29_documents_​en_​0.​pdf> (23.10.2022).

Kommission der Europäischen Gemeinschaften: Aktionsprogramm für die Politik auf dem Gebiet von Wissenschaft und Technologie (1. Teil), KOM(73) 1250 – 1. Teil, 17. Juli 1973 (zit. EG Kommission, KOM(73) 1250).

Kommission der Europäischen Gemeinschaften: Empfehlung der Kommission vom 29. Juli 1981 betreffend ein Übereinkommen des Europarats zum Schutz des Menschen bei der automatischen Verarbeitung personenbezogener Daten, ABl. L 246 vom 29. August 1981, 31 (zit. ABl. L 246).

Kommission der Europäischen Gemeinschaften: Mitteilung der Kommission zum Schutz von Personen bei der Verarbeitung personenbezogener Daten in der Gemeinschaft und zur Sicherheit der Informationssysteme: Vorschlag für eine Richtlinie des Rates zum Schutz von Personen bei der Verarbeitung personenbezogener Daten, KOM(90) 314 endg. – SYN 287, 13. September 1990, <https://eur-lex.europa.eu/legal-content/DE/TXT/PDF/?uri=CELEX:51990DC0314&qid=1666197304624​&​from=DE> (19.10.2022) (zit. EG Kommission, KOM(90) 314).

Kommission der Europäischen Gemeinschaften: Geänderter Vorschlag der Kommission für eine Richtlinie des Rates zum Schutz natürlicher Personen bei der Verarbeitung personenbezogener Daten und zum freien Datenverkehr, KOM(92) 422 endg. – SYN 287, 15. Oktober 1992, <https://eur-lex.europa.eu/legal-content/DE/TXT/PDF/?uri=CELEX:51992PC0422&from=DE> (19.10.2022) (zit. EG Kommission, KOM(92) 422).

Kommission der Europäischen Gemeinschaften: Geänderter Vorschlag für eine Richtlinie des Rates zum Schutz natürlicher Personen bei der Verarbeitung personenbezogener Daten und zum freien Datenverkehr, ABl. C 311 vom 27. November 1992, 30-61 (zit. ABl. C 311).

LRDP KANTOR Ltd/Centre for Public Reform: Vergleichende Studie über verschiedene Ansätze zur Bewältigung neuer Herausforderungen für den Schutz der Privatsphäre insbesondere aufgrund technologischer Entwicklungen, Schlussbericht, Januar 2010, <https://op.europa.eu/de/publication-detail/-/publication/9c7a​02​b9-​ecba-​405e-8d93-a1a8989f128b> (19.10.2022).

Rat der Europäischen Union: Gemeinsamer Standpunkt (EG) Nr. 1/95 vom Rat festgelegt am 20. Februar 1995 im Hinblick auf den Erlass der Richtlinie 95/…/EG des Europäischen Parlaments und des Rates vom … zum Schutz natürlicher Personen bei der Verarbeitung personenbezogener Daten und zum freien Datenverkehr, ABl. C 93 vom 13. April 1995, 1-24 (zit. ABl. C 93).

Rat der Europäischen Union: Rahmenbeschluss 2008/977/JI des Rates vom 27. November 2008 über den Schutz personenbezogener Daten, die im Rahmen der polizeilichen und justiziellen Zusammenarbeit in Strafsachen verarbeitet werden, ABl. L 350 vom 30. Dezember 2008, 60–71 (zit. ABl. L 350).

Rat der Europäischen Union: Vorschlag für eine Verordnung des Europäischen Parlaments und des Rates zum Schutz natürlicher Personen bei der Verarbeitung personenbezogener Daten und zum freien Datenverkehr (Datenschutz-Grundverordnung) – Vorbereitung einer allgemeinen Ausrichtung, ST 9565/15, 11. Juni 2015, <https://data.consilium.europa.eu/doc/document/ST-9565-2015-INIT/en/pdf> (19.10.2022) (zit. EU Rat, ST 9565/15).

Rat der Europäischen Union: Vorschlag für eine Verordnung des Europäischen Parlaments und des Rates zum Schutz natürlicher Personen bei der Verarbeitung personenbezogener Daten und zum freien Datenverkehr (Datenschutz-Grundverordnung) [erste Lesung] – Analyse des endgültigen Kompromisstextes im Hinblick auf eine Einigung, ST 15039/15, 15. Dezember 2015, <https://data.consilium.eu​ropa.​eu/doc/document/ST-15039-2015-INIT/de/pdf> (25.10.2022) (zit. EU Rat, ST 15039/15).

Rossi Francesca: Artificial Intelligence: Potential Benefits and Ethical Considerations, Oktober 2016, <https://www.europarl.europa.eu/RegData/etudes/BRIE/2016/571380/IPOL_BRI(2016)571380_EN.pdf> (18.10.2022).

Materialien Europarat

Ad hoc Committee on Data protection: Convention for the protection of individuals with regard to automatic processing of personal data (ETS No. 108), Draft Explanatory Report, 2. Juni 2016, <https://www.coe.int/en/web/data-protection/back​ground-modernisation#{%2220422070%22:[0]}> (25.10.2022) (zit. CAHDATA, Draft Explanatory Report).

Ad hoc Committee on Data protection: Draft modernised Convention for the Protection of Individuals with Regard to the Processing of Personal Data, September 2016, <https://www.coe.int/en/web/data-protection/background-modernisation#​{%2220422070%22:[0]}> (25.10.2022) (zit. CAHDATA, E-SEV Nr. 108+ 2016).

Bureau of the Consultative Committee of the Convention 108: Report on the lacunae of the Convention for the protection of individuals with regard to automatic processing of personal data (ETS No 108) resulting from technological developments, <https://rm.coe.int/the-bureau-of-the-consultative-committee-of-the-conven​tion-for-the-pro/168073cb31> (25.10.2022).

Conseil de l’Europe: Protection de la vie priveé des personnes physiques vis-a-vis des banques de donneés électroniques dans le secteur public, Résolution (74) 29 adoptée par le Comité des Ministres du Conseil de I’Europe le 20 septembre 1974 et Rapport explicatif, Strasbourg 1975 (zit. CdE, Rapport Explicatif Resolution (74) 29).

Consultative Committee for Convention 108: Consultative Committee on the Convention for the protection of individuals with regard to automatic processing of personal data 14th meeting (Strasbourg, 2-4 September 1998), Report to the Committee of Ministers approved by the Consultative Committee, 9. November 1998, <https://search.coe.int/cm/Pages/result_details.aspx?ObjectId=09000016805​e3214> (25.10.2022) (zit. T-PD, CM(98)182).

Consultative Committee for Convention 108: Modernisation of Convention 108: new proposals, T-PD-BUR(2012)01EN, 18. Januar 2012, <https://www.coe.int/en/web/data-protection/background-modernisation> (19.10.2022) (zit. T-PD, E-SEV Nr. 108+ 2012 I).

Consultative Committee for Convention 108: Modernisation of Convention 108: new proposals, T-PD-BUR(2012)01Rev en, 5. März 2012, <https://www.coe.int/en/web/data-protection/background-modernisation> (19.10.2022) (zit. T-PD, E-SEV Nr. 108+ 2012 II).

Consultative Committee for Convention 108: Modernisation of Convention 108: new proposals, T-PD-BUR(2012)01Rev2 en, 27. April 2012, <https://www.coe.int/en/web/data-protection/background-modernisation> (19.10.2022) (zit. T-PD, E-SEV Nr. 108+ 2012 III).

Consultative Committee for Convention 108: Final document on the modernisation of Convention 108, T-PD (2012)04Mos, 15. Juni 2012, <https://www.coe.int/en/web/data-protection/background-modernisation> (19.10.2022) (zit. T-PD, E-SEV Nr. 108+ 2012 IV).

Consultative Committee for Convention 108: Final document on the modernisation of Convention 108, T-PD(2012)04 rev en, 17. September 2012, <https://www.coe.int/en/web/data-protection/background-modernisation> (19.10.2022) (zit. T-PD, E-SEV Nr. 108+ 2012 V).

Consultative Committee for Convention 108: Final document on the modernisation of Convention 108, T-PD(2012)04 rev2 en, 16. Oktober 2012, <https://www.coe.int/en/web/data-protection/background-modernisation> (19.10.2022) (zit. T-PD, E-SEV Nr. 108+ 2012 VI).

Consultative Committee for Convention 108: Propositions of Modernisation, T-PD 2012 04 rev4 E, 18. Dezember 2012, <https://www.coe.int/en/web/data-protection/background-modernisation> (19.10.2022) (zit. T-PD, E-SEV Nr. 108+ 2012 VII).

Council of Europe: Resolution (73) 22 on the Protection of the Privacy of Individuals vis-a-vis Electronic Data Banks in the Private Sector, 26. September 1973, <https://​search.​coe.int/cm/Pages/result_details.aspx?ObjectId=0900001680502830> (18.10.2022) (zit. COE, Resolution (73) 22).

Council of Europe: Resolution (74) 29 on the Protection of the Privacy of Individuals vis-à-vis Electronic Data Banks in the Public Sector, 20. September 1974, <https://​search.​coe.int/cm/Pages/result_details.aspx?ObjectId=09000016804d1c51> (18.10.2022) (zit. COE, Resolution (74) 29).

Council of Europe: Explanatory Report to the Convention for the Protection of Individuals with regard to Automatic Processing of Personal Data, 28. Januar 1981, <https://rm.coe.int/16800ca434> (19.10.2022) (zit. COE, Explanatory Report SEV Nr. 108).

Council of Europe: The protection of individuals with regard to automatic processing of personal data in the context of profiling, Recommendation CM/Rec(2010)13 and explanatory memorandum, 23. November 2010, <https://rm.coe.int/16807096c3> (19.10.2022) (zit. COE, CM/Rec(2010)13).

Council of Europe: Explanatory Report to the Protocol amending the Convention for the Protection of Individuals with regard to Automatic Processing of Personal Data, 10. Oktober 2018, <https://rm.coe.int/cets-223-explanatory-report-to-the-protocol-amending-the-convention-fo/16808ac91a> (19.10.2022) (zit. COE, Explanatory Report SEV Nr. 223).

Council of Europe: The protection of individuals with regard to automatic processing of personal data in the context of profiling, Recommendation CM/Rec(2021)8, 21. November 2020, <https://edoc.coe.int/en/international-law/10670-protection-of-individuals-with-regard-to-automatic-processing-of-personal-data-in-the-con​text-of-profiling-recommendation-cmrec20218.html> (26.10.2022) (zit. COE, CM/Rec(2021)8).

Dinant Jean-Marc/Lazaro Christophe/Poullet Yves/Lefever Nathalie/Rouvroy Antoinette: Application of Convention 108 to the profiling mechanism, 11. Januar 2008, <https://rm.coe.int/16806840b9> (25.10.2022).

European Committee on Legal Co-Operation: Addendum to the report on the 21st meeting of the CCJ, Draft resolution on the protection of privacy of individuals vis-a-vis electronic data banks in the public sector and draft explanatory report, CCJ (74) 38 Addendum I, 29. Juli 1974, <https://search.coe.int/cm/Pages/result_de​tails.aspx?ObjectId=09000016806ce698> (18.10.2022) (zit. CCJ, (74) 38 Addendum I).

Parliamentary Assembly of the Council of Europe: Recommendation 509(1968), Human rights and modern scientific and technological developments, <https://assem​bly.coe.int/nw/xml/XRef/Xref-XML2HTML-EN.asp?fileid=14546&lang=en> (19.10.2022) (zit. Parliamentary Assembly of the Council of Europe, Recommendation 509 (1968)).

Terwangne Cécile de/Moiny Jean-Philippe/Poullet Yves: Part II, in: Bureau of the Consultative Committee of the Convention 108 (Hg.): Report on the lacunae of the Convention for the protection of individuals with regard to automatic processing of personal data (ETS No 108) resulting from technological developments, <https://rm.coe.int/the-bureau-of-the-consultative-committee-of-the-conven​tion-for-the-pro/168073cb31> (25. Oktober 2022), 12–62.

Materialien Frankreich

Caillavet Henri: Proposition de loi tendant à créer un Directoire et un Tribunal de l’Informatique, N° 144, 2. April 1974, <https://www.senat.fr/leg/1973-1974/i1973_1974_0144.pdf> (25.10.2022).

Commission de l’Informatique et des Libertés: Rapport de la Commission de l’Informatique et des Libertés (Bericht von Chenot Bernard/Aydalot Maurice/Tricot Bernard/Catala Pierre), 27. Juni 1975, <https://www.cnil.fr/sites/default/files/atoms/files/rapport_tricot_1975_vd.pdf> (25.10.2022) (zit. CIL, Rapport Tricot).

Couste Pierre-Bernard: Proposition de loi tendant à créer une Commission de contrôle des moyens d’informatique afin d’assurer la protection de la vie privée et des libertés individuelles des citoyens, N° 1004, 4. April 1974, <https://www.senat.fr/leg/ppl73-1004.pdf> (25.10.2022).

Decret n° 74-938 du 8 novembre 1974 portant creation de la commission lnformatique et libertes, JO 265/1974, 11403-11404 (zit. JO N° 0265 du 13.11.1974).

Foyer Jean: Rapport fait au nom de la commission des lois constitutionnelles, de la législation et de l’administration générale de la république – Tome I, N° 3125, 4. Oktober 1977, <http://www.senat.fr/rap/l77-3125/l77-31251.pdf> (25.10.2022) (zit. Foyer, N° 3125, Tome I).

Foyer Jean: Rapport fait au nom de la commission des lois constitutionnelles, de la législation et de l’administration générale de la république – Tome II, N° 3125, 4. Oktober 1977, <http://www.senat.fr/rap/l77-3125/l77-31251.pdf> (25.10.2022) (zit. Foyer, N° 3125, Tome II).

Lecanuet Jean: Projet de loi relatif à l’informatique et aux libertés, N° 2516, 9. August 1976, <https://www.senat.fr/leg/pjl76-2516.pdf> (25.10.2022).

Thyraud Jacques: Rapport fait au nom de la Commission des Lois constitutionnelles, de Législation, du Suffrage universel, du Règlement et d’Administration générale sur le projet de loi, adopté par l’Assemblée Nationale, relatif a l’informatique et aux libertés, N° 72, 10. November 1977, <https://www.senat.fr/rap/l77-072/l77-0721.pdf> (25.10.2022).

Materialien Schweiz

Arbeitsgruppe Datenschutz im Privatbereich: Protokoll der 1. Sitzung vom 21. September 1979 (G.62.04), in: Schweizerisches Bundesarchiv: E4001E#1991/200#104*, Az. 0162, Datenschutz im Privatbereich: Allgemeines, Arbeitsgruppe (Dossier), 1979 – 1982 (zit. Arbeitsgruppe Datenschutz im Privatbereich, Protokoll vom 21. September 1979).

Arbeitsgruppe Datenschutz in der Bundesverwaltung: Begleitbericht zu den Richtlinien für den Datenschutz in der Bundesverwaltung vom 7. März 1980, in: Schweizerisches Bundesarchiv: E4001E#1991/200#105*, Az. 0162, Datenschutz in der Bundesverwaltung: Richtlinien, Arbeitsgruppe Pedrazzini, 1976-1981 (zit. Arbeitsgruppe Datenschutz in der Bundesverwaltung, Begleitbericht Richtlinien 1980).

Arbeitsgruppe Datenschutz in der Bundesverwaltung: Arbeitspapier I, Bundesgesetz über die Bearbeitung von Daten, Februar 1979, in: Schweizerisches Bundesarchiv: E4110B#1992/42#319*, Az. G.62, Arbeitsgruppe Datenschutz in der Bundesverwaltung, 1979 (zit. Arbeitsgruppe Datenschutz in der Bundesverwaltung, Arbeitspapier I).

Arbeitsgruppe Datenschutz in der Bundesverwaltung: Arbeitspapier IV, Erste Lesung des Gesetzesentwurfes, Juli 1979, in: Schweizerisches Bundesarchiv: E4110B#1992/42#319*, Az. G.62, Arbeitsgruppe Datenschutz in der Bundesverwaltung, 1979 (zit. Arbeitsgruppe Datenschutz in der Bundesverwaltung, Arbeitspapier IV).

Arbeitsgruppe Datenschutz in der Bundesverwaltung: Arbeitspapier V, Bundesgesetz über die Bearbeitung von Daten im Bund, 10/79, in: Schweizerisches Bundesarchiv: E4110B#1992/42#320*, Az. G.62, Arbeitsgruppe Datenschutz in der Bundesverwaltung, 1980 (zit. Arbeitsgruppe Datenschutz in der Bundesverwaltung, Arbeitspapier V).

Arbeitsgruppe Datenschutz in der Bundesverwaltung: Arbeitspapier VII Entwurf 4, Bundesgesetz über den Persönlichkeitsschutz gegenüber der Bearbeitung von Daten im Bund, 1980, in: Schweizerisches Bundesarchiv: E4110B#1992/42#320*, Az. G.62, Arbeitsgruppe Datenschutz in der Bundesverwaltung, 1980 (zit. Arbeitsgruppe Datenschutz in der Bundesverwaltung, Arbeitspapier VII Entwurf 4).

Arbeitsgruppe Datenschutz in der Bundesverwaltung: Arbeitspapier VIII, Oktober 1980, in: Schweizerisches Bundesarchiv: E4110B#1992/42#321*, Az. G.62, Arbeitsgruppe Datenschutz in der Bundesverwaltung, 1981 (zit. Arbeitsgruppe Datenschutz in der Bundesverwaltung, Arbeitspapier VIII).

Arbeitsgruppe Datenschutz in der Bundesverwaltung: Arbeitspapier IX, Bundesgesetz über den Schutz von Personendaten in der Bundesverwaltung, Mai 1981, in: Schweizerisches Bundesarchiv: E4110B#1992/42#321*, Az. G.62, Arbeitsgruppe Datenschutz in der Bundesverwaltung, 1981 (zit. Arbeitsgruppe Datenschutz in der Bundesverwaltung, Arbeitspapier IX).

Bericht vom 27. Oktober 1975 «Zur Frage der Datenschutz-Gesetzgebung», in: Schweizerisches Bundesarchiv: E4110B#1992/42#62*, Az. G.62, 10.513 Bemerkungen zu den Vorentwürfen, 1975 – 1976 (zit. Bericht vom 27. Oktober 1975).

Bolliger Christian/Féraud Marius/Epiney Astrid/Hänni Julia: Evaluation des Bundesgesetzes über den Datenschutz, Schlussbericht, 10. März 2011, <https://www.bue​ro​vatter.ch/pdf/2011-Evaluation%20Datenschutzgesetz.pdf> (25.10.2022).

Botschaft zur Genehmigung des Protokolls vom 10. Oktober 2018 zur Änderung des Übereinkommens zum Schutz des Menschen bei der automatischen Verarbeitung personenbezogener Daten, BBl 2019 565–596 (zit. Botschaft Änderungsprotokoll SEV Nr. 223).

Botschaft über die Genehmigung und die Umsetzung des Notenaustauschs zwischen der Schweiz und der EU betreffend die Übernahme des Rahmenbeschlusses 2008/977/JI vom 27. November 2008 über den Schutz von Personendaten im Rahmen der polizeilichen und justiziellen Zusammenarbeit in Strafsachen, BBl 2009 6749–6786 (zit. Botschaft Schengener Weiterentwicklung Datenschutz 2009).

Botschaft zum Bundesgesetz über den Datenschutz (DSG) vom 23. März 1988, BBl 1988 413–534 (zit. Botschaft aDSG 1988).

Botschaft zum Bundesgesetz über die Totalrevision des Bundesgesetzes über den Datenschutz und die Änderung weiterer Erlasse zum Datenschutz vom 15. September 2017, BBl 2017 6941–7192 (zit. Botschaft DSG 2017).

Botschaft zur Änderung des Bundesgesetzes über den Datenschutz (DSG) und zum Bundesbeschluss betreffend den Beitritt der Schweiz zum Zusatzprotokoll vom 8. November 2001 zum Übereinkommen zum Schutz des Menschen bei der automatischen Verarbeitung personenbezogener Daten bezüglich Aufsichtsbehörden und grenzüberschreitende Datenübermittlung, BBl 2003 2101-2155 (zit. Botschaft aDSG 2003).

Bundesamt für Justiz: Erläuterungen zu den Richtlinien für die Bearbeitung von Personendaten in der Bundesverwaltung vom 16. März 1981, in: Schweizerisches Bundesarchiv: E4001E#1991/200#105*, Az. 0162, Datenschutz in der Bundesverwaltung: Richtlinien, Arbeitsgruppe Pedrazzini, 1976-1981 (zit. BJ, Erläuterungen Richtlinien 1981).

Bundesamt für Justiz: Normkonzept zur Revision des Datenschutzgesetzes, 29. Oktober 2014, <https://www.bj.admin.ch/bj/de/home/staat/gesetzgebung/datenschutz​staerkung/berichte.html> (18.10.2022) (zit. BJ, Normkonzept).

Bundesamt für Justiz: Erläuternder Bericht zum Vorentwurf für das Bundesgesetz über die Totalrevision des Datenschutzgesetzes und die Änderung weiterer Erlasse zum Datenschutz, 21. Dezember 2016, <https://www.bj.admin.ch/bj/de/home/staat/gesetzgebung/datenschutzstaerkung.html> (25.10.2022) (zit. BJ, Erläuterungen Vorentwurf).

Bundesamt für Justiz: Vorentwurf für das Bundesgesetz über die Totalrevision des Datenschutzgesetzes und die Änderung weiterer Erlasse zum Datenschutz, Zusammenfassung der Ergebnisse des Vernehmlassungsverfahrens, 10. August 2017, <https://www.bj.admin.ch/dam/bj/de/data/staat/gesetzgebung/datenschutz​staerkung/ve-ber-d.pdf.download.pdf/ve-ber-d.pdf> (18.10.2022) (zit. BJ, Ergebnisse Vernehmlassung Vorentwurf).

Bundesamt für Justiz: Erläuternder Bericht zum Bundesgesetz über die Umsetzung der Richtlinie (EU) 2016/680 zum Schutz natürlicher Personen bei der Verarbeitung personenbezogener Daten zum Zwecke der Verhütung, Ermittlung, Aufdeckung oder Verfolgung von Straftaten oder der Strafvollstreckung, Oktober 2018, <https://www.bj.admin.ch/dam/bj/de/data/staat/gesetzgebung/datenschutz​staerkung/erlaeuterungen-d.pdf> (25.10.2022) (zit. BJ, Erläuterungen SDSG).

Bundesamt für Justiz: Totalrevision der Verordnung zum Bundesgesetz über den Datenschutz Erläuternder Bericht zur Eröffnung des Vernehmlassungsverfahrens, 23. Juni 2021, <https://www.bj.admin.ch/bj/de/home/staat/gesetzgebung/da​ten​schutz​staerkung.html> (25.10.2022) (zit. BJ, Erläuterungen Vernehmlassung VDSG).

Bundesamt für Justiz: Totalrevision der Verordnung zum Bundesgesetz über den Datenschutz (VDSG), Bericht über das Ergebnis des Vernehmlassungsverfahrens, 31. August 2022, <https://www.bj.admin.ch/bj/de/home/staat/gesetzgebung/daten​schutzstaerkung.html> (25.10.2022) (zit. BJ, Ergebnisse Vernehmlassung VDSG).

Bundesamt für Justiz: Verordnung über den Datenschutz (Datenschutzverordnung, DSV), Erläuternder Bericht, 31. August 2022, <https://www.admin.ch/gov/de/start/dokumentation/medienmitteilungen.msg-id-90134.html> (07.09.2022) (zit. BJ, Erläuternder Bericht DSV).

Bundesamt für Justiz: FAQ Datenschutzrecht, 1. September 2022, <https://www.ad​min.​ch/gov/de/start/dokumentation/medienmitteilungen.msg-id-90134.html> (18.10.2022) (zit. BJ, FAQ).

Economiesuisse: Stellungnahme zum Vorentwurf zum Bundesgesetz über die Totalrevision des Datenschutzgesetzes (VE-DSG), 31. März 2017, in: Bundesamt für Justiz (Hg.): Stärkung des Datenschutzes: Stellungnahmen der Organisationen A – H.

Eidgenössisches Justiz- und Polizeidepartement: Bundesgesetz über den Schutz von Personendaten: Entwurf, in: Schweizerisches Bundesarchiv: E3120B#1996/434#391*, Az. 122.525, Entwurf 12. 1983 Vernehmlassungsverfahren bei den Kantonen politischen Parteien und intern. Organisationen, 1983-1985 (zit. EJPD, E-DSG 1983).

Eidgenössisches Justiz- und Polizeidepartement: Erläuternder Bericht zum Entwurf eines Bundesgesetzes über den Schutz von Personendaten, Dezember 1983 (zit. EJPD, Erläuternder Bericht 1983).

Eidgenössisches Justiz- und Polizeidepartement: Entwurf zur Teilrevision des Bundesgesetzes über den Datenschutz (DSG) und Zusatzprotokoll zum Übereinkommen zum Schutz des Menschen bei der automatischen Verarbeitung personenbezogener Daten bezüglich Aufsichtsbehörden und grenzüberschreitender Datenübermittlung, Vernehmlassungsentwurf, Text des Zusatzprotokolls und erläuternder Bericht, August 2001, <https://www.bj.admin.ch/bj/de/home/staat/gesetzgebung/archiv/datenschutz.html> (25.10.2022) (zit. EJPD, Teilrevision aDSG 2001).

Entwurf für eine Verordnung zum Bundesgesetz über den Datenschutz, 23. Juni 2021, <https://www.bj.admin.ch/bj/de/home/aktuell/mm.msg-id-84103.html> (05.11.2022) (zit. E-VDSG 2021).

Entwurf zum Bundesgesetz über die Totalrevision des Bundesgesetzes über den Datenschutz und die Änderung weiterer Erlasse zum Datenschutz vom 15. September 2017, BBl 2017, 7193–7276 (zit. E-DSG 2017).

Entwurf zur Änderung des Bundesgesetzes über den Datenschutz vom 19. Februar 2003, BBl 2003, 2156-2165 (zit. E-DSG 2003).

Furgler Kurt: Arbeitsgruppe Datenschutz im Privatbereich; Eröffnungssitzung, Einführungsreferat, in: Schweizerisches Bundesarchiv (Hg.): E4001E#1991/200#104*, Az. 0162, Datenschutz im Privatbereich: Allgemeines, Arbeitsgruppe (Dossier), 1979 – 1982.

Kommission des Nationalrates: 88.032 Datenschutzgesetz, Protokolle der Kommissionssitzungen 1, in: Schweizerisches Bundesarchiv: E1070#1997/16#36*, Az. G-88.032, Datenschutzgesetz. Protokolle Kommission Nationalrat 1, 1988-1992 (zit. Kommission des Nationalrates, Protokolle der Kommissionssitzungen 1).

Kommission des Nationalrates: 88.032 Datenschutzgesetz, Protokolle der Kommissionssitzungen 2, in: Schweizerisches Bundesarchiv: E1070#1997/16#37*, Az. G-88.032, Datenschutzgesetz. Protokolle Kommission Nationalrat 2, 1988-1992 (zit. Kommission des Nationalrates, Protokolle der Kommissionssitzungen 2).

Kommission des Ständerates: 88.032 Datenschutzgesetz, Protokolle der Kommissionssitzungen 1, in: Schweizerisches Bundesarchiv: E1070#1997/16#34*, Az. G-88.032, Datenschutzgesetz. Protokolle Kommission Ständerat 1, 1988-1992 (zit. Kommission des Ständerates, Protokolle der Kommissionssitzungen 1).

Kommission des Ständerates: 88.032 Datenschutzgesetz, Protokolle der Kommissionssitzungen 2, in: Schweizerisches Bundesarchiv: E1070#1997/16#35*, Az. G-88.032, Datenschutzgesetz. Protokolle Kommission Ständerat 2, 1988-1992 (zit. Kommission des Ständerates, Protokolle der Kommissionssitzungen 2).

Message concernant la loi fédérale sur la révision totale de la loi fédérale sur la protection des données et sur la modification d’autres lois fédérales du 15 septembre 2017, FF (fr) 2017 6565–6802 (zit. Botschaft DSG 2017 (fr)).

Messaggio concernente la legge federale relativa alla revisione totale della legge sulla protezione dei dati e alla modifica di altri atti normativi sulla protezione dei dati del 15 settembre 2017, FF (it) 2017 5939–6172 (zit. Botschaft DSG 2017 (it)).

Pricewaterhouse Coopers AG: Regulierungsfolgenabschätzung (RFA) zur Revision des eidg. Datenschutzgesetzes (DSG), 11. Juli 2016, <https://www.seco.admin.ch/seco/de/home/Publikationen_Dienstleistungen/Publikationen_und_Formulare/​Re​gu​lierung/regulierungsfolgenabschaetzung/vertiefte-rfa/datenschutz​ge​setz​–​dsg–2016/datenschutzgesetz-2016.html> (26.10.2022).

Richtlinien für die Bearbeitung von Personendaten in der Bundesverwaltung vom 16. März 1981, BBl I/1981, 1298–1304 (zit. Richtlinien 1981).

Santésuisse: Stellungnahme Totalrevision DSG, 4. April 2017, in: Bundesamt für Justiz (Hg.): Stellungnahmen des Vernehmlassungsverfahrens, Stellungnahmen der Organisationen S – Z, <https://www.bj.admin.ch/dam/bj/de/data/staat/gesetzge​bung/datenschutzstaerkung/organisa​tio​nen-​s-z.pdf.download.pdf/organisa​tio​nen-​s-z.pdf> (18. Oktober 2022).

Schweizerische Bankiervereinigung: Stellungnahme SBVg: Vorentwurf zum Bundesgesetz über die Totalrevision des Datenschutzgesetzes und die Änderung weiterer Erlasse zum Datenschutz, 4. April 2017, in: Bundesamt für Justiz (Hg.): Stellungnahmen des Vernehmlassungsverfahrens, Stellungnahmen der Organisationen S – Z, <https://www.bj.admin.ch/dam/bj/de/data/staat/gesetzgebung/datenschutz​staerkung/organisationen-s-z.pdf.download.pdf/organisationen-s-z.pdf> (18. Oktober 2022).

Schweizerischer Anwaltsverband: Prise de position Revision LPD, 31. März 2017, in: Bundesamt für Justiz (Hg.): Stellungnahmen des Vernehmlassungsverfahrens, Stellungnahmen der Organisationen S – Z, <https://www.bj.admin.ch/dam/bj/de/data/staat/gesetzgebung/datenschutzstaerkung/organisationen-s-z.pdf.down​load.pdf/organisationen-s-z.pdf> (18. Oktober 2022).

Schweizerischer Gewerbeverband: Vernehmlassung vom 3. April 2017, in: Bundesamt für Justiz (Hg.): Stellungnahmen des Vernehmlassungsverfahrens, Stellungnahmen der Organisationen S – Z, <https://www.bj.admin.ch/dam/bj/de/data/staat/gesetz​gebung/datenschutzstaerkung/organisa​tio​nen-​s-z.pdf.download.pdf/organisa​tio​nen-​s-z.pdf> (18. Oktober 2022).

Schweizerischer Wissenschaftsrat: Forschungspolitische Früherkennung, Interview Künstliche Intelligenz, Brief vom 13. September 1989, in: Schweizerisches Bundesarchiv: E4114A#1992/246#801*, Az. 33/89.33.0054, Forschungspolitische Früherkennung. Künstliche Intelligenz / Expertensysteme (11.876) (MITB), 1989-1991 (zit. Schweizerischer Wissenschaftsrat, Interview KI).

Staatspolitische Kommission des Nationalrates: Protokoll, Staatspolitische Kommission, Donnerstag, 23. Januar 2020, 10.15 – 17.00 Uhr/Freitag, 24. Januar 2020, 8.15 – 12.20 Uhr, Bern, Parlamentsgebäude, Kommissionszimmer 3 (zit. SPK-N, Sitzungsprotokoll vom 23./24.01.2020).

Staatspolitische Kommission des Nationalrates: Protokoll, Staatspolitische Kommission, Donnerstag, 23. Mai 2019, 10.15 – 18.05 Uhr/Freitag, 24. Mai 2019, 8.15 – 12.15 Uhr, Bern, Parlamentsgebäude, Kommissionszimmer 3 (zit. SPK-N, Sitzungsprotokoll vom 23./24.05.2019).

Staatspolitische Kommission des Nationalrates: Protokoll, Staatspolitische Kommission, Donnerstag, 31. Januar 2019, 10.15 – 17.50 Uhr/Freitag, 1. Februar 2019, 8.15 – 17.30 Uhr, Bern, Parlamentsgebäude, Kommissionszimmer 3 (zit. SPK-N, Sitzungsprotokoll vom 31.01.2019 und 01.02.2019).

Staatspolitische Kommission des Ständerates: Protokoll, Staatspolitische Kommission des Ständerates, Montag, 18. November 2019, 10.15 – 18.10 Uhr/Dienstag, 19. November 2019, 9.15 – 11.40 Uhr, Bern, Parlamentsgebäude, Kommissionszimmer 3 (zit. SPK-S, Sitzungsprotokoll vom 18./19.11.2019).

Verein Unternehmens-Datenschutz: Vernehmlassung vom 10. März 2017, in: Bundesamt für Justiz (Hg.): Stellungnahmen des Vernehmlassungsverfahrens, Stellungnahmen der Organisationen S – Z, <https://www.bj.admin.ch/dam/bj/de/data/staat/ge​setz​gebung/datenschutzstaerkung/organisationen-s-z.pdf.download.pdf/orga​nisa​tionen-s-z.pdf> (18. Oktober 2022).

Vorentwurf für das Bundesgesetz über die Totalrevision des Datenschutzgesetzes und die Änderung weiterer Erlasse zum Datenschutz, Dezember 2016, <https://​www.​bj.​admin.ch/bj/de/home/staat/gesetzgebung/datenschutzstaerkung.​html#:​~:​text​=Am%2021.,Totalrevision%20des%20DSG%20(Medienmitteilung).> (05.11.2022) (zit. VE-DSG 2016).

Vorentwurf für eine Verordnung über den Datenschutz in der elektronischen Datenverarbeitung vom 19. Dezember 1975, in: Schweizerisches Bundesarchiv: E4110B#1992/42#61*, Az. G.62, 10.512 Vorentwürfe, 1975 – 1976 (zit. VE-DSV 1975).

Vorlage der Redaktionskommission für die Schlussabstimmung, Bundesgesetz über den Datenschutz (Datenschutzgesetz, DSG) vom 25. September 2020, <https://​www.parlament.ch/centers/eparl/curia/2017/20170059/Schluzssabstimmungs​text​%203%20NS%20D.pdf> (25.10.2022) (zit. Vorlage der Redaktionskommission).

Main Body

1

Einleitung

Neue Schweizer Regulierung automatisierter Einzelentscheidungen

Automatisierte Entscheidungen sind kein neues Phänomen.[1] Bereits in den 1950er-Jahren gab es erste Bestrebungen relativ einfache Entscheidungsvorgänge an eine Maschine zu delegieren, sei dies die Regelung des Strassenverkehrs durch Ampeln oder die automatisierte Rechnungsstellung von Telefongebühren.[2] Seither haben sich die Möglichkeiten der automatisierten Entscheidungsfällung jedoch grundlegend geändert und deren Anwendungsbereiche ausgeweitet. Intelligente Maschinen, Algorithmen und künstliche Intelligenz (KI)[3] und mit ihnen Systeme, die automatisiert Entscheidungen treffen, sind immer mehr Teil unseres Lebens und nehmen Einfluss auf unseren Alltag und auf das Verhältnis Privater.[4] Automatisierte Entscheidungen betreffen bspw. den Inhalt unseres Newsfeed, unseren Scorewert und unser Risikoprofil oder digitale Assessments im Rahmen eines Bewerbungsverfahrens.[5]

Ebenso wie das Phänomen der automatisierten Entscheidungen ist auch deren Regulierung in verschiedenen Datenschutzgesetzen nicht gänzlich neu. Eine erste datenschutzrechtliche Regelung automatisierter Entscheidungen findet sich bereits in Art. 2 des französischen LIFL aus dem Jahr 1978, welcher gewisse auf automatisierter Bearbeitung beruhende Entscheidungen verbot. Dieser Regelungsansatz verbreitete sich in den letzten 45 Jahren zuerst über Art. 15 DSRL und die diesbezüglichen mitgliedsstaatlichen Ausführungsbestimmungen sowie zuletzt über Art. 22 DSGVO und Art. 9 lit. a SEV Nr. 108+ in ganz Europa. Mit diesen Bestimmungen einher gingen jeweils Regelungen betreffend die Auskunftserteilung über das Vorliegen automatisierter Entscheidungen und deren zugrundeliegende Logik.[6] In den letzten Jahren kamen sodann Informationspflichten für den Fall der automatisierten Entscheidungsfällung hinzu.[7]

Diese Entwicklungen im europäischen Umfeld hatten zur Folge, dass im Rahmen der Totalrevision des aDSG auch die Schweiz entsprechende Regelungen in seine Datenschutzgesetzgebung aufnahm. In Art. 21 DSG werden sämtliche Bundesorgane und privaten Datenbearbeiter verpflichtet, über automatisierte Einzelentscheidungen zu informieren und den betroffenen Personen gewisse diesbezügliche Anhörungs- und Überprüfungsrechte einzuräumen. Ebenso wurde das datenschutzrechtliche Auskunftsrecht auf das Vorliegen einer automatisierten Einzelentscheidung sowie die Logik, welche dieser Entscheidung zugrunde liegt, ausgeweitet.[8] Dabei handelt es sich, abgesehen von wenigen bereichsspezifischen Bestimmungen mit eng definiertem Anwendungsbereich,[9] um die schweizweit ersten Regelungen, welche automatisierte Entscheidungen für ein breites Anwendungsfeld regeln.

Damit diese Regelungen zur Anwendung kommen, ist – neben der Eröffnung des Geltungsbereichs des DSG – die Erfüllung des mit Art. 21 Abs. 1 DSG eingeführten Tatbestands der automatisierten Einzelentscheidung vorausgesetzt. Entsprechend stellt sich die Frage, welche Datenbearbeitungen diesen neuen Tatbestand erfüllen. Die Übernahme der in der EU bereits bestehenden und vom Europarat geplanten ähnlichen Regelungen zu automatisierten Entscheidungen ins DSG wirft zudem die Fragen auf, woher diese Regulierung ursprünglich stammt, welche Ziele damit verfolgt werden und ob die Schweiz denselben Regulierungsansatz verfolgt wie die bereits bestehenden Regelungen.

Forschungsstand

Schweiz: DSG

Per Ende Oktober 2022 wurden die im DSG enthaltenen Regelungen automatisierter Entscheidungen bereits verschiedentlich in der Lehre thematisiert.[10] Thouvenin und Früh (und wechselnde Co-Autoren) haben sich schon mehrmals zur automatisierten Entscheidungsfällung geäussert. Ihr Fokus lag jedoch meist in einer Übersicht über oder einer Einordnung und kritischen Würdigung der (neuen) Regelungen in der DSGVO sowie dem DSG bzw. dessen Entwurf aus dem Jahr 2017.[11] Zudem beschäftigen sie sich mit dem Phänomen automatisierter Entscheidungen an sich[12] oder dem Regelungsgegenstand von Art. 22 DSGVO.[13] Daneben hat sich insbesondere Rosenthal im Zusammenhang mit seinen Analysen des VE-DSG 2016, des E-DSG 2017 und des DSG bis anhin am weitestgehenden mit den neuen Schweizer Regelungen automatisierter Entscheidungen auseinandergesetzt.[14] Ausserdem finden sich in den Materialien zu den neuen Regelungen[15] sowie in vereinzelten Berichten von der Bundesverwaltung einige Hinweise auf die datenschutzrechtliche Regelung automatisierter Entscheidungen oder die mit solchen Entscheidungen einhergehenden Befürchtungen.[16]

Darüber hinaus enthalten die verschiedenen Publikationen, welche sich meist nur am Rande mit automatisierten Einzelentscheidungen auseinandersetzen, selten mehr als ein paar wenige Sätze oder Absätze zu den neuen Regelungen.[17] Die Autoren beschränken sich dabei oftmals darauf, die in den Materialien, insbesondere der Botschaft zum DSG, zu den neuen Regelungen angeführten Begründungen zu wiederholen oder nehmen vorwiegend auf die Bemerkungen von Rosenthal Bezug.[18] Bei einem Teil der Ausführungen handelt es sich zudem lediglich um sehr kurze Verweise auf die geplanten neuen Regelungen und deren Umfang, ohne dass die neuen Bestimmungen genauer vorgestellt werden.[19]

Damit befindet sich die Forschung zur datenschutzrechtlichen Regulierung automatisierter Einzelentscheidungen in der Schweiz noch gänzlich am Anfang. Insbesondere findet sich in der Lehre weder eine vertiefte Analyse der Fragen, woher die neuen Regelungen stammen,[20] weshalb sich diese im Datenschutzrecht finden und welche Zielsetzungen damit verfolgt werden, noch findet sich eine tiefergehende Auseinandersetzung mit dem neuen, im totalrevidierten DSG enthaltenen, Tatbestand der automatisierten Einzelentscheidung.

Europäisches Umfeld: DSGVO und SEV Nr. 108+

Gänzlich anders sieht die Situation mit Blick auf die bisherigen und aktuellen Regelungen der EU aus. Da automatisierte Entscheidungen in der EU seit Mitte der 1990er-Jahre in Art. 15 DSRL reguliert sind, wurde die Thematik automatisierter Entscheidungen bereits in den DSRL-Kommentaren vertieft analysiert.[21] Nennenswert erscheint daneben insbesondere die Analyse von Bygrave, der sich im Jahr 2001 vertieft mit Art. 15 DSRL und dessen Auswirkungen auf Profilingprozesse auseinandersetzte.[22] Darüber hinaus fand im Verlauf der Jahre bspw. die mitgliedstaatliche Umsetzungsbestimmung von Deutschland regelmässig Eingang in die Diskussion betreffend die Bonitätsprüfung und das Kreditscoring[23] oder wurde selbstständig analysiert.[24]

Mit der Verabschiedung und dem späteren Inkrafttreten der DSGVO und der Übernahme von Art. 15 DSRL in Art. 22 DSGVO wurde die Diskussion über die Regulierung automatisierter Entscheidungen in der EU nochmals aufgenommen und vertieft. Es finden sich nicht nur in den zahlreich vorhandenen DSGVO-​Kommentaren,[25] sondern auch in verschiedenen Publikationen der letzten Jahre Ausführungen explizit zur automatisierten Entscheidungsfindung, den diesbezüglichen Regelungen in der DSGVO und den damit einhergehenden Problemfeldern.[26] In den datenschutzrechtlichen Kommentaren finden sich bereits kurze Analysen der Entstehungsgeschichte der Regelungen automatisierter Entscheidungen sowie ausführlichere Analysen der einzelnen Tatbestandsmerkmale einer automatisierten Entscheidung im Sinne der DSGVO.[27] Analysiert wurden in der Lehre aber auch der Anwendungsbereich und Inhalt der Regelung automatisierter Entscheidungen im Einzelfall gemäss Art. 22 DSGVO,[28] was die DSGVO mit Blick auf automatisierte Entscheidungen leisten kann und was nicht,[29] oder was die Regelungen automatisierter Entscheidungen in der DSGVO für den Versicherungsbereich bedeuten.[30] Daneben wurden im europäischen Umfeld auch die (allenfalls fehlende) Nachvollziehbarkeit algorithmischer Entscheidungen und die Frage, welche Rolle das in der DSGVO vorgesehene Recht, Auskunft über die einer automatisierten Entscheidung zugrundeliegende Logik zu erhalten, diesbezüglich spielen kann, sowie der Umgang der DSGVO mit der digitalen Ungleichbehandlung durch Algorithmen thematisiert.[31] Von Seiten der Behörden wurden von der Artikel-29-Datenschutzgruppe bereits im Jahr 2017 Empfehlungen zu automatisierten Einzelentscheidungen im Sinne der DSGVO veröffentlicht,[32] welche der Europäische Datenschutzausschuss anlässlich seiner ersten Plenarsitzung bestätigt hat.[33]

Weniger weit ist die Forschung mit Blick auf die in Art. 9 Abs. 1 lit. a und c der SEV Nr. 108+ vorgesehenen Regelungen betreffend die automatisierte Entscheidungsfällung. Diesbezügliche Erkenntnisse ergeben sich hauptsächlich aus den Materialien zur Modernisierung der Konvention SEV Nr. 108[34] sowie den vom Ministerkomitee des Europarates verabschiedeten Empfehlungen zum Schutz des Menschen bei der automatischen Verarbeitung personenbezogener Daten im Zusammenhang mit Profiling aus den Jahren 2010 und 2020.[35]

Bedeutung der EU-Forschung für die Schweiz

Im Gegensatz zur Schweizer Regelung und der Regelung des Europarates wurden die in der DSGVO enthaltenen Bestimmungen zu automatisierten Einzelentscheidungen somit bereits umfangreich analysiert und aufgearbeitet. Dies bildet eine gute Ausgangslage, damit im vorliegenden Projekt aus der Forschung zur DSGVO Erkenntnisse für die Schweiz übernommen oder abgeleitet werden können. Dass sich Erkenntnisse zu den in der DSGVO enthaltenen Regelungen automatisierter Entscheidungen oftmals auch analog für das Schweizer Recht verwerten lassen, kommt daher, dass die Rechtslage betreffend automatisierte Einzelentscheidungen, insbesondere die Umschreibung der Tatbestandsmerkmale, in der Schweiz und in der EU ähnlich ist.[36] Ebenso ist unbestritten, dass die Regelungen automatisierter Entscheidungen in der Schweiz insbesondere aufgrund der diesbezüglichen Entwicklungen im europäischen Umfeld Eingang ins totalrevidierte DSG gefunden haben und die Schweiz anstrebte den Angemessenheitsbeschluss der EU nicht zu gefährden sowie die Voraussetzungen zur Ratifizierung der SEV Nr. 108+ zu schaffen.[37] Hinzu kommt, dass den Datenschutzregelungen der EU in gewissen Fällen eine extraterritoriale Wirkung auf die Schweiz zukommt.[38]

Algorithmen, künstliche Intelligenz und automatisierte Entscheidungen

Die technologische Entwicklung und sämtliche damit einhergehenden Möglichkeiten sind in der Rechtswissenschaft seit einiger Zeit ein aktuelles, viel erforschtes Thema. Die Forschung zur datenschutzrechtlichen Regulierung automatisierter Entscheidungen wird ergänzt durch eine umfangreiche Debatte über künstliche Intelligenz (KI), Algorithmen oder die Automatisierung und deren (datenschutz‑)rechtliche Erfassung.[39] Einige rechtswissenschaftliche Zeitschriften widmeten diesen Themen bereits ganze Ausgaben.[40] Intensiv analysiert wurden bspw. automatisierte Entscheidungen im Verwaltungsverfahren, sowie deren Voraussetzungen und Möglichkeiten.[41] Immer wieder thematisiert werden sodann ganz allgemein die Chancen und Risiken künstlicher Intelligenz und des Einsatzes von Algorithmen.[42] Darüber hinaus wurden unter anderem auch das Phänomen automatisierter Entscheidungen an sich sowie die damit einhergehenden Anwendungsfälle, Möglichkeiten, Risiken und Gefahren für den Einzelnen und die Gesellschaft bereits vertieft aufgearbeitet.[43] Ebenfalls oft diskutiert – auch ausserhalb der Rechtswissenschaft – wird die Frage, wie Algorithmen und deren Entscheidungen fair(er) sowie qualitativ einwandfrei und nachvollziehbar, d.h. transparent, ausgestaltet werden können.[44]

Dabei handelt es sich nur um einen kleinen Auszug betreffend den Forschungsstand hinsichtlich des Phänomens automatisierter Entscheidungen, künstlicher Intelligenz und Algorithmen. Die Publikationen und Diskussionen rund um diese Themen haben in den letzten Jahren nicht nur in der Rechtswissenschaft, sondern auch in weiteren Fachbereichen und der Gesellschaft stark zugenommen.

Fragestellung und Zielsetzung

Forschungsgegenstand

Die Tatsache, dass sich die Forschung in der Schweiz mit Blick auf die datenschutzrechtlichen Regelungen automatisierter Entscheidungen noch am Anfang befindet, hat zur Folge, dass diese Regelungen sowohl für die Lehre als auch die Praxis noch wenig greifbar sind sowie unklar ist, welche Regelungsziele mit den neuen Bestimmungen verfolgt werden und in welchen Fällen eine datenschutzrechtlich relevante «automatisierte Einzelentscheidung» vorliegt.[45] Um dieser Problematik entgegenzuwirken, untersucht die vorliegende Arbeit sowohl das Phänomen der automatisierten Entscheidungen allgemein als auch mit Blick auf deren datenschutzrechtliche Regulierung. Bei der Betrachtung des Phänomens der automatisierten Entscheidungen stehen dessen Herkunft und Begriffsbestimmung, die diesbezügliche gesellschaftliche und rechtliche Debatte sowie dessen technische Grundlagen im Zentrum der Betrachtung. Im Fokus der datenschutzrechtlichen Aufarbeitung stehen auf der einen Seite die Entstehungsgeschichte der datenschutzrechtlichen Regulierung automatisierter Entscheidungen von der ersten französischen Regelung aus dem Jahr 1978, über die DSRL, DSGVO und die modernisierte Konvention SEV Nr. 108+ hin zum Schweizer Regelungsansatz und die mit diesen Regelungen verfolgten Zielsetzungen. Auf der anderen Seite bilden die einzelnen Tatbestandsmerkmale einer automatisierten Einzelentscheidung im Sinne von Art. 21 Abs. 1 DSG einen zentralen Aspekt der datenschutzrechtlichen Betrachtung.

Die Untersuchung soll einen Beitrag dazu leisten, einen Teil der bestehenden Forschungslücken zu schliessen. Währenddem die Analyse der Entstehungsgeschichte der Regulierung automatisierter Entscheidungen vorwiegend dazu dient, aufzuzeigen, woher die diesbezüglichen Regelungen stammen und welche Ziele mit ihnen verfolgt werden, soll die Analyse des Tatbestands der automatisierten Einzelentscheidung im Sinne des DSG die neuen Regelungen für die Praxis greifbarer machen.

Zielgruppe

Zur Zielgruppe gehört zunächst die Rechtswissenschaft. Insbesondere die detaillierte Aufarbeitung der Entstehungsgeschichte der Regulierung automatisierter Entscheidungen, aber auch die Analyse von deren Zielsetzung und Tatbestandsmerkmalen soll eine Grundlage für zukünftige Forschung in diesem Bereich bilden. Daneben richtet sich die Arbeit jedoch auch an private Datenbearbeiter, welchen aufgezeigt werden soll, in welchen Anwendungsfällen die neuen Regelungen überhaupt von Relevanz sind. Ebenso soll die Politik angesprochen werden, welche sich zukünftig unter Umständen erneut mit der Thematik der automatisierten Entscheidungen befassen muss. Ihr soll ein Einblick in das Phänomen automatisierter Entscheidungen gegeben sowie aufgezeigt werden, wo der bisherige Gesetzgebungsprozess und die mit den neuen Regelungen verfolgten Ziele allenfalls Schwächen aufweisen und welche Stolpersteine mit dem Tatbestand der automatisierten Einzelentscheidung aktuell noch einhergehen.

Forschungsfragen

Vor dem dargestellten Hintergrund lauten die beiden übergeordneten Forschungsfragen der vorliegenden Arbeit:

Forschungsfrage 1: Welche Regelungsziele werden mit den im DSG vorgesehenen Bestimmungen zu automatisierten Einzelentscheidungen verfolgt?

Forschungsfrage 2: Was ist eine automatisierte Einzelentscheidung im Sinne des DSG?

Um diese beiden Hauptfragen zu beantworten, werden vorgängig in kausal zusammenhängender Reihenfolge die nachstehenden sechs Vorfragen angegangen:

Was ist eine automatisierte Entscheidung?

Welches sind die Entscheidungsgrundlagen automatisierter Systeme?

Welche Unterschiede und Gemeinsamkeiten bestehen zwischen der automatisierten und der menschlichen Entscheidungsfällung?

Woher stammt die datenschutzrechtliche Regulierung automatisierter Entscheidungen im DSG?

Weshalb werden automatisierte Entscheidungen im Datenschutzrecht reguliert?

Wie unterscheidet sich der Schweizer Regulierungsansatz von demjenigen der EU und des Europarates?

Abgrenzung der Forschungsfragen

Die vorliegende Arbeit konzentriert sich in erster Linie auf die neuen datenschutzrechtlichen Regelungen automatisierter Entscheidungen für private «Verantwortliche». Dabei handelt es sich um private Datenbearbeiter, d.h. natürliche oder juristische Personen, welche allein oder zusammen mit anderen über den Zweck und die Mittel einer Datenbearbeitung entscheiden.[46] Auf die Datenbearbeitung durch öffentliche Organe des Bundes wird nur insofern Bezug genommen, als daraus Erkenntnisse für private Datenbearbeiter gezogen werden können. Der Fokus auf private Datenbearbeiter kommt zum einen daher, dass automatisierte Entscheidungen bzw. deren zugrundeliegende Datenbearbeitungen durch Bundesorgane aufgrund von Art. 34 Abs. 1 DSG – im Gegensatz zur Datenbearbeitung durch Private – jeweils einer gesetzlichen Grundlage bedürfen, welche sich unter Umständen zusätzlich zur Art und Weise oder zum Umfang der automatisierten Entscheidungsfällung äussern oder weitere diesbezügliche Vorgaben enthalten. Zum anderen spielen bei der Entscheidungsfällung durch Bundesorgane regelmässig andere rechtliche Institute, wie der Grundsatz des rechtlichen Gehörs gemäss Art. 29 Abs. 2 BV,[47] eine Rolle. Damit unterstehen automatisierte Einzelentscheidungen durch Bundesorgane anderen Bedingungen, weshalb diese grösstenteils ausgeblendet werden. Viele der erarbeiteten datenschutzrechtlichen Ausführungen und Erkenntnisse dürften jedoch auch für automatisierte Einzelentscheidungen durch Bundesorgane relevant sein, zumal sich die in Art. 21 DSG und in Art. 25 Abs. 2 lit. f DSG enthaltenen Vorgaben auch an Bundesorgane richten.

Da das DSG, wie bereits das aDSG, nur die Datenbearbeitung durch Private oder Bundesorgane regelt, nicht aber durch kantonale Behörden,[48] sind auch automatisierte Einzelentscheidungen durch kantonale Behörden nicht Gegenstand der vorliegenden Arbeit. Auch für diese lassen sich unter Umständen jedoch gewisse Erkenntnisse ableiten, abhängig davon, wie die diesbezüglichen Vorgaben von Art. 9 Abs. 1 lit. a und lit. c SEV Nr. 108+ in den kantonalen Datenschutzgesetzen umgesetzt werden.

Darüber hinaus setzt die vorliegende Arbeit den Fokus auf den neuen datenschutzrechtlichen Tatbestand der automatisierten Einzelentscheidung im Sinne des DSG sowie die Entstehungsgeschichte der diesbezüglichen Regelungen. Dies bedeutet auf der einen Seite, dass nicht thematisiert wird, welche allgemeinen datenschutzrechtlichen Vorgaben mit Blick auf die einer solchen Entscheidung zugrundeliegende Datenbearbeitung oder bei der Entwicklung entsprechender Systeme eingehalten werden müssen, welche Probleme automatisierte Entscheidungen diesbezüglich mit sich bringen oder wie diese allgemeinen Regelungen entstanden sind. Auf der anderen Seite wird nicht vertieft analysiert, welche neuen Rechte und Pflichten im Zusammenhang mit automatisierten Entscheidungen das Inkrafttreten des DSG für private Datenbearbeiter und betroffene Personen zur Folge haben wird. Zwar werden die neuen Rechte und Pflichten vorgestellt und mit ihren europäischen Vorbildern verglichen. Auf eine weiterführende Analyse der Regelungen wurde hingegen bewusst verzichtet. Die Durchführung einer spezifischen Untersuchung in diesem Bereich bietet genügend Material für ein eigenständiges Dissertationsprojekt und würde den Rahmen dieser Arbeit überschreiten. Die vorliegende Untersuchung soll die Grundlage für die weitergehende Erforschung der Regelungen automatisierter Einzelentscheidungen im DSG und der damit einhergehenden Folgen für Private bieten.

Räumlich bezieht sich die Abhandlung in erster Linie auf die Rechtsverhältnisse in der Schweiz, d.h. den räumlichen Geltungsbereich gemäss Art. 3 DSG. Aufgrund der Tatsache, dass sich die Schweizer Regelungen automatisierter Entscheidungen in ihrem Kern auf das französische Vorbild aus dem Jahr 1978 sowie die anschliessend erlassenen Regelungen in der DSRL, der DSGVO und der modernisierten Konvention SEV Nr. 108+ zurückführen lassen und wesentlich durch das europäische Vorbild geprägt wurden,[49] findet insbesondere im Rahmen der Analyse der Entstehungsgeschichte und Zielsetzungen auch eine vertiefte Auseinandersetzung mit diesen Regelungen statt. Nicht vertieft angesprochen werden hingegen die nach dem Inkrafttreten der DSRL erlassenen Umsetzungsbestimmungen der einzelnen Mitgliedstaaten oder die Rechtslage ausserhalb Europas, da diese für die Entwicklung in der Schweiz keine Rolle gespielt haben.

Aufbau der Untersuchung

Um den Tatbestand automatisierter Einzelentscheidungen im datenschutzrechtlichen Sinn genauer analysieren zu können, ist es wesentlich zu verstehen, um was es sich bei automatisierten Entscheidungen überhaupt handelt. Dazu beleuchtet der erste Teil der vorliegenden Arbeit das Phänomen automatisierter Entscheidungen aus allgemeiner Perspektive .

Gestartet wird mit einer kurzen historischen Einführung, welche die Möglichkeiten und Entwicklung der automatisierten Entscheidungsfällung kurz darstellt. Anschliessend folgt eine Beschreibung des Phänomens, welche sich aus einem kurzen Überblick über die Geschichte automatisierter Entscheidungen, einer Einführung in die verwendete Terminologie und die bestehenden Definitionsansätze, einer Analyse der Begriffe der Entscheidung und Automatisierung sowie aus einer Darstellung der Rolle der Algorithmen zusammensetzt. Nach einer Schilderung der ersten Erkenntnisse werden im Folgenden ein Einblick in die gesellschaftliche Debatte und eine Übersicht über die mit automatisierten Entscheidungen einhergehenden rechtlichen Fragen gegeben. Angesichts der Tatsache, dass moderne Systeme zur automatisierten Entscheidungsfällung regelmässig auf Algorithmen des maschinellen Lernens basieren und viele mit solchen Entscheidungen einhergehenden Befürchtungen mit der Verwendung dieser Algorithmen zusammenhängen, werden sodann deren Grundlagen und Möglichkeiten vorgestellt. Ziel ist es, die technische Basis zu klären, auf der automatisierte Entscheidungen heute beruhen, und die Entwicklung entsprechender Systeme zu verstehen.

Diese im ersten Teil gemachten Analysen sollen die Grundlage für die im zweiten datenschutzrechtlichen Teil vorgenommenen Untersuchungen bilden und dazu beitragen, die dortigen Ausführungen nachvollziehen zu können. Der erste Teil wird abgeschlossen mit einer Darstellung der aus den Analysen des Phänomens der automatisierten Entscheidung gewonnenen Erkenntnisse.

Der zweite Teil widmet sich gänzlich dem Datenschutzrecht und startet mit einem Blick zurück in die rechtswissenschaftliche Auseinandersetzung mit dem Phänomen automatisierter Entscheidungen in den 1950er- bis 1970er-Jahren sowie einer Vorstellung und einem Vergleich der aktuell für die Schweiz relevanten Regulierungsansätze betreffend automatisierte Entscheidungen. Dieser Vergleich soll aufzeigen, welche datenschutzrechtlichen Vorgaben zu automatisierten Entscheidungen gegenwärtig bestehen, sowie klären, inwieweit die Erkenntnisse zur DSGVO auch für die Schweiz von Relevanz sein können und wo dies von vornherein ausgeschlossen ist.

Anschliessend liegt der Fokus in einem nächsten Schritt vorwiegend auf einer Aufarbeitung der Entstehungsgeschichte und Zielsetzungen der Regulierung automatisierter Entscheidungen. Diese Untersuchung bildet, nebst den allgemeinen Recherchen im ersten Teil, eine wichtige Grundlage, um anschliessend die Frage, aus welchen Tatbestandsmerkmalen sich eine automatisierte Einzelentscheidung im Sinne des DSG zusammensetzt, zu beantworten. Wenn klar ist, woher die diesbezüglichen Regelungen stammen und welche Zielsetzungen der Gesetzgeber mit ihnen verfolgt, kann geklärt werden, welche Tatbestände von den neuen Regelungen erfasst werden sollen.

Die geschichtliche Aufarbeitung gliedert sich im Wesentlichen in vier jeweils ähnlich aufgebaute Abschnitte zur ursprünglichen Regelung in Frankreich und zur anschliessenden Entwicklungen in der EU, im Europarat und in der Schweiz. Nach einer kurzen Übersicht über die in Frage stehenden Regelungen wird jeweils aufgezeigt, wie sich die Gesetzgebungsprozesse, die zur Regulierung automatisierter Entscheidungen geführt haben, gestalteten. Im Anschluss an die historische Aufarbeitung erfolgt eine Analyse, welche Zielsetzungen mit den verschiedenen Regelungen automatisierter Entscheidungen damals und heute verfolgt werden. Diese beiden Teile werden abgeschlossen mit einer Aufarbeitung der ersten Erkenntnisse.

In einem nächsten Abschnitt widmet sich die vorliegende Arbeit der zentralen Frage, welche Tatbestandsmerkmale erfüllt sein müssen, damit eine automatisierte Einzelentscheidung im Sinne des DSG vorliegt. Dazu werden, nach einer kurzen Übersicht über den Geltungsbereich des DSG, die einzelnen Tatbestandsmerkmale einer automatisierten Einzelentscheidung identifiziert und analysiert. In verschiedenen Abschnitten mit diversen Unterkapiteln werden der datenschutzrechtliche Begriff der Einzelentscheidung, die geforderten Entscheidungsfolgen und der Tatbestand der ausschliesslich automatisierten Bearbeitung dargestellt. Hinzu kommt eine Auseinandersetzung mit den Fragen nach dem Vorliegen eines Profilings oder der Bewertung von Personendaten sowie der Art und Weise der Tatbestandsprüfung.

Nach einem kurzen Fazit und der Würdigung des Kapitels betreffend die Tatbestandsmerkmale automatisierter Einzelentscheidungen im Sinne des DSG werden abschliessend die vorne angeführten Forschungsfragen beantwortet.

Thouvenin/Früh/George, N 2. ↵

Huber, 13; Zeidler, 16–17. ↵

Zum Begriff siehe hinten II.2.3. ↵

Algorithm Watch, Automating, 8; Dräger/Müller-Eiselt, 7; Ernst, 1026. ↵

Siehe dazu hinten II.1.2 sowie die Nachweise in den Fn. 90–94. ↵

Art. 3 LIFL 1978; Art. 12 lit. a DSRL; Art. 15 Abs. 1 lit. h DSGVO; siehe auch Art. 9 Abs. 1 lit. c SEV Nr. 108+. ↵

Art. 13 Abs. 2 lit. f und Art. 14 Abs. 2 lit. g DSGVO. ↵

Art. 25 Abs. 2 lit. f DSG. ↵

Siehe bspw. Art. 31 und Art. 41 FinfraV; Art. 11 SDSG, siehe dazu auch hinten VII.4.2.e)iv. ↵

Siehe bspw. Bacher/Dubois, 139; Bieri/Powell, Informationspflicht, 1538–1539; Braun Binder, Automatisierte Entscheidungen; Braun Binder, Künstliche Intelligenz, 475–476; Bühlmann/Lagler, 19; Christen et al., 217–218, 293, 295; Drittenbass, N 446–448; Heuberger, N 185–206; Oberlin/Bossardt, 249; Rosenthal, revDSG, N 106–113, 119; Rosenthal, E-DSG, N 100–103, 107; Rosenthal, VE-DSG, N 58–66; Roth, S., Einzelentscheidung; Thouvenin/Früh; Thouvenin/Früh/George; Wildhaber, 216–217; siehe auch Glatthaar, 45–46. ↵

Siehe dazu Thouvenin et al., Regulation; Thouvenin/Früh/George; siehe auch Thouvenin/Früh. ↵

Siehe dazu Thouvenin/Früh. ↵

Siehe dazu Thouvenin/Früh/Henseler zur Frage, ob es sich bei Art. 22 DSGVO um ein Verbot oder ein Betroffenenrecht handelt. ↵

Siehe dazu Rosenthal, revDSG, N 106–114, 119; Rosenthal, E-DSG, N 100–103, 107; Rosenthal, VE-DSG, N 59–66. ↵

Siehe dazu Botschaft DSG 2017, 7056–7058, 7067; BJ, Erläuterungen Vorentwurf, 59–60; PwC, 30–32; BJ, Normkonzept, 26–27. ↵

Siehe bspw. Blarer et al., passim; Expertengruppe zur Zukunft der Datenbearbeitung und Datensicherheit, 170. ↵

Siehe immerhin Roth, S., Einzelentscheidung, welcher sich ausführlich mit Art. 15 VE-DSG 2016 und dessen Folgen, unter anderem auf die Privatautonomie, auseinandersetzte. ↵

Siehe bspw. Bieri/Powell, Informationspflicht, 1538–1539; Bühlmann/Lagler, 19; Drittenbass, N 446–448. ↵

Siehe bspw. Braun Binder, Künstliche Intelligenz, 475; Hofmann/Meyer, M.A., 423; Oberlin/Bossardt, 249; Weber, R.H./Henseler, 35; Winkler, M., 69. ↵

Siehe dazu immerhin Thouvenin/Früh/George, N 19–29. ↵

Siehe bspw. Brühann, in: Grabitz/Hilf/Nettesheim, Recht der EU, Art. 15 DSRL; Dammann/Simitis, Art. 15 DSRL; Ehmann/Helfrich, Art. 15 DSRL. ↵

Siehe dazu Bygrave. ↵

Siehe bspw. Born, 69–70; Möller/Florax, 2725; Nick, 56–58. ↵

Siehe bspw. Golla. ↵

Siehe bspw. Buchner, in: Kühling/Buchner, DS-GVO, Art. 22 DSGVO; Helfrich, in: Sydow/Marsch, DSGVO, Art. 22 DSGVO; Herbst, in: Auernhammer, DSGVO, Art. 22 DSGVO; Hladjk, in: Ehmann/Selmayr, DSGVO, Art. 22 DSGVO; Kamlah, in: Plath, DSGVO, Art. 22 DSGVO; Lewinski, in: Brink/Wolff, BeckOK Datenschutzrecht, Art. 22 DSGVO; Martini, in: Paal/Pauly, DS-GVO, Art. 22 DSGVO; Scholz, in: Simitis/Hornung/Spiecker genannt Döhmann, Datenschutzrecht, Art. 22 DSGVO; Schulz, in: Gola/Heckmann, DSGVO, Art. 22 DSGVO; Taeger, in: Taeger/Gabel, DSGVO, Art. 22 DSGVO; Weichert, in: Däubler et al., Kompaktkommentar DSGVO, Art. 22 DSGVO. ↵

Siehe bspw. Abel; Deuster; Dovas; Dreyer/Schulz; Hänold, Profiling; Hänold, Versicherungsbereich; Henseler; Hoffmann/Kevekordes; Kuch; Kunkel/Schoewe; Mendoza/Bygrave; Sancho; Thouvenin/Früh/Henseler; Tosoni. ↵

Siehe dazu die Nachweise in Fn. 25. ↵

Siehe bspw. Abel; Dreyer/Schulz; Kunkel/Schoewe; Thouvenin/Früh/Henseler. ↵

Siehe bspw. Dreyer/Schulz; Wachter/Mittelstadt/Floridi. ↵

Siehe bspw. Hänold, Profiling; Hänold, Versicherungsbereich. ↵

Siehe bspw. Daedelow; Edwards/Veale; Goodman/Flaxman; Malgieri; Temme; Vedder/Naudts; Wachter/Mittelstadt/Floridi. ↵

Siehe dazu Artikel-29-Datenschutzgruppe. ↵

edpb, 1. ↵

Siehe bspw. CAHDATA, E-SEV Nr. 108+ 2016, 3; CAHDATA, Draft Explanatory Report, 70–76; COE, Explanatory Report SEV Nr. 223, N 70–77; Terwangne/Moiny/Poullet, 41–42; siehe dazu hinten VII.3.2.d). ↵

Siehe dazu COE, CM/Rec(2010)13, passim; COE, CM/Rec(2021)8, passim; hinten VII.3.2.c). ↵

Siehe dazu hinten VI.3.3. ↵

Siehe dazu hinten VIII.4.2. ↵

Zur extraterritorialen Wirkung der DSGVO auf die Schweiz siehe Kasper, 109–112, m.w.N. ↵

Siehe bspw. Busch; Desai/Kroll; Duisberg; Epiney/Rovelli; Lewinski; Martini, Herausforderung; Meyer, S.; Rost. ↵

Siehe bspw. Jusletter 26. November 2018, Schwerpunkt-Ausgabe: Algorithmen und Recht; Jusletter IT 23. November 2017, Special Issue: Artificial Intelligence, Smart Contracts, Robotics, Autonomous Cars; AJP 02/2017, Roboterrecht; digma 02/2017, dessen Fokus klar auf der automatisierten Entscheidungsfindung lag. ↵

Siehe bspw. Braun Binder, Künstliche Intelligenz; Braun Binder, Verwaltungsverfahren; Martini/Nink; Rechsteiner. ↵

Siehe bspw. Blarer et al. ↵

Siehe bspw. Algorithm Watch, Atlas; Algorithm Watch, Automating; Araujo et al.; Bitkom e.V./DFKI; Krüger, J./Lischka; Lischka/Klingel; VZBV, Entscheidungsfindung; Vieth/Wagner, B.; Zarsky; Zweig. ↵

Siehe bspw. Corbett-Davies/Goel; Corbett-Davies et al.; Kroll et al.; Zweig. ↵

Ähnlich bereits Thouvenin/Früh, 13. ↵

Art. 2 Abs. 1 lit. a i.V.m. Art. 5 lit. j DSG. ↵

Siehe dazu bspw. Roth, S., Einzelentscheidung, 104–107. ↵

Art. 2 Abs. 1 DSG. ↵

Siehe dazu hinten IX.1. ↵

I

Teil 1: Das Phänomen der automatisierten Entscheidungen

2

Beschreibung des Phänomens der automatisierten Entscheidungen

Historie automatisierter Entscheidungssysteme

Symbolverarbeitungsansatz und Expertensysteme

Wie bereits in der Einleitung festgestellt, ist die Delegation gewisser Entscheidungen vom Menschen an eine Maschine kein neues Phänomen.[1] Die ersten automatisierten Entscheidungen lassen sich einige Jahrzehnte zurückverfolgen. So wurde bereits in den 1950er-Jahren die Möglichkeit erkannt, einfache und routinemässige Entscheidungen vom Menschen auf die Maschine zu übertragen.[2] Damals wurden relativ einfache Vorgänge bereits als automatisierte Entscheidungen eingestuft. Als automatisierte Entscheidung angesehen wurde bspw. die Regelung des Strassenverkehrs anstatt von Verkehrskadetten durch eine Ampel, die Berechnung von Steuerbescheiden mithilfe einer Elektronenrechenanlage oder die automatisierte Rechnungsstellung von Telefongebühren.[3] Darauf folgten die (teilweise) automatisierte Verfolgung strassenverkehrsrechtlicher Vergehen, die maschinelle Erstellung und Begründung von Rentenbescheiden sowie Vorschläge zur Automatisierung des Grundbuch- oder Personenstandswesens.[4] Im Vordergrund stand dabei zu Beginn die Übertragung gewisser Abläufe an mechanische Maschinen, welche fähig waren, Informationen anhand einer gewissen Logik zu verarbeiten.[5]

Während Ende der 1950er-Jahre noch von Lochkartenmaschinen oder Magnetbändern die Rede war,[6] standen Mitte der 1970er-Jahre bereits elektronische Datenverarbeitungsanlagen und Computer im Fokus der wissenschaftlichen Auseinandersetzung.[7] Die elektronische Datenverarbeitung steht denn auch im Zentrum der Entwicklung automatisierter Entscheidungen. Nachdem die Lochkartenmaschinen und spätere Computer anfangs nur Wissen speichern und mitteilen konnten, wurden sie so weit entwickelt, dass sie Wissen und Informationen bald auch selber in einer Weise verwerten konnten, wie es bis anhin dem Menschen vorbehalten war.[8] Zur Automatisierung von Entscheidungen wurde die Entscheidungsfindung nach logischen Gesetzen strukturiert und durch eine Symbolreihe ausgedrückt.[9] Diese vorbestimmten Verfahrensregeln wurden als Programm auf einem Computer gespeichert.[10] Wurde dieser anschliessend mit Eingabeinformationen («Input», Daten) gefüttert, konnte er diese, basierend auf dem (maschinellen) Ablauf der gespeicherten logischen Operationen, in eine neue Ausgabeinformation («Output», Entscheidung) verarbeiten.[11] Diese automatisierte Art der Datenbearbeitung führte zu Effizienzgewinnen und neuen (Entscheidungs‑)Erkenntnissen.[12] Entsprechend waren insbesondere Kosten- und Effizienzgründe der Antrieb für diese Entwicklungen.[13]

Die damals verwendeten Programme beruhten meist auf kausalen Deduktionen, welche dem menschlichen Denken bzw. der Art und Weise, wie Menschen ihre Entscheidungsprozesse darstellen, nachempfunden waren.[14] Abhängig von der konkreten Ausgestaltung dieser Systeme ist heute im Rückblick die Rede vom Symbolverarbeitungsansatz[15] sowie dessen Weiterentwicklung, den Expertensystemen.[16] Bei Letzteren wurde die Fachkompetenz von Experten in Form einfacher Wenn-dann-Regeln in einer Wissensdatenbank abgespeichert, in welcher das Programm mittels Rückfragen diejenigen Parameter ermittelte, die zur Lösung eines Problems oder zur Beantwortung einer Frage nötig waren.[17]

Damit eine Entscheidung maschinell ausgeführt werden konnte, mussten verschiedene Voraussetzungen, insbesondere begriffliche Eindeutigkeit und Bestimmtheit sowie die Formalisierbarkeit des Ablaufs, gegeben sein.[18] Es war erforderlich, sämtliche Probleme in konsequente Schritte von Wenn-dann-Verzweigungen zu zergliedern und eindeutig zu beschreiben.[19] Dies bedeutet, dass die zu treffende Entscheidung als eine Handlungsvorschrift mit einer Abfolge klar definierter Schritte (Algorithmus) dargestellt werden musste.[20] Verwendet wurden traditionell-deterministische Algorithmen, bei welchen der Weg zur Entscheidung Schritt für Schritt kodiert wurde und dieselbe Eingabe immer zu derselben Ausgabe führte.[21] Dazu war es notwendig, sämtliche Entscheidungsmöglichkeiten bereits bei der Entwicklung vorherzusehen oder Mechanismen zur Erkennung von für das Programm bislang unbekannten Entscheidungsmöglichkeiten sowie zur Rückweisung an die manuelle Bearbeitung zu entwickeln.[22] Entsprechend musste bereits im Rahmen der Entwicklung das Problem strukturiert und das spätere Verarbeitungsergebnis determiniert werden.[23]

Ein wesentlicher Schwachpunkt dieser Systeme war, dass sie nicht die umfassende Komplexität verschiedener Lebenssachverhalte abbilden konnten.[24] Die verwendeten Entscheidungsmodelle mussten auf bestimmte zum Voraus bekannte Kriterien vereinfacht werden, um sie als Programm erfassen zu können.[25] Jede notwendigerweise zu berücksichtigende Ausnahme geschah dabei auf Kosten dieser Vereinfachung.[26] Es gelang noch nicht, das menschliche Verhalten lückenlos zu erfassen und durch ein künstliches System zu simulieren.[27] Der Computer konnte die formalisierten Daten ohne weiteres menschliches Zutun nur programmgemäss berechnen, vergleichen, ordnen und speichern, ohne dabei Rücksicht auf die einzelnen Bedeutungsinhalte nehmen zu können.[28] Daraus folgte, dass der Maschine zwar gewisse (einfache) Entscheidungen delegiert werden konnten, die einer Entscheidung vorhergehende Denkarbeit, die Identifizierung der Alternativen und deren Bewertung, d.h. die Willensbildung, jedoch weiterhin vorab im Rahmen der Systementwicklung vom Menschen vorgenommen werden musste.[29] Diese Programme erstellten somit keine eigenständigen Prognosen oder Differenzierungen, sondern waren auf die Abarbeitung der einprogrammierten Schritte nach einem exakten Schema beschränkt.[30] Die Erfassung des menschlichen Wissens und die Umwandlung in die für ein Expertensystem notwendige Wissensbasis waren zudem mit einem immensen Aufwand verbunden.[31] Diese Entwicklungen wurden entsprechend nicht nur positiv beurteilt, sondern den von der Maschine vorgenommenen Vereinfachungen wurde misstraut und der Maschine Grobschlächtigkeit und mangelnde Differenzierung unterstellt.[32]

Neben diesen inhaltlichen Beschränkungen wurden die Programme auch durch die Leistungsfähigkeit der damaligen Computer, insbesondere durch deren Speicherkapazität und Verarbeitungsgeschwindigkeit, eingeschränkt.[33] Sehr leistungsfähige Computer verursachten höhere Kosten als bescheidenere Maschinen, weshalb auch die Wirtschaftlichkeit dem Einsatz solcher Maschinen Grenzen setzte.[34] Die hohen Kosten für die Rechenleistung führten dazu, dass sie ausschliesslich Expertinnen und Experten in ausgewählten Bereichen der Forschung und Wirtschaft vorbehalten war.[35] Systeme zur automatisierten Entscheidungsfällung konnten sich deshalb lange Zeit nicht auf breiter Front durchsetzen.[36]

Konnektionismus, maschinelles Lernen und künstliche Intelligenz

Einige Jahrzehnte später ist die digitale Transformation und mit ihr die automatisierte Datenbearbeitung und Entscheidungsfällung allgegenwärtig.[37] Erkenntnisse aus algorithmischen Klassifikationen finden sich überall, sei es die Antwort des Sprachassistenten auf die Frage nach dem besten Restaurant in der Nähe, die Aufzeichnung der Gesundheitsdaten über ein Fitnessarmband oder die Suche nach Produkten in einem Onlineshop.[38] Wie eingangs angeführt, sind Systeme, die automatisiert Entscheidungen treffen, immer mehr Teil unseres Lebens und nehmen Einfluss auf unseren Alltag und auf das Verhältnis zwischen Privaten.[39] Ohne dass uns dies bewusst ist, werden täglich kleinere und grössere Entscheidungen automatisiert vorbereitet oder getroffen.[40] Im Onlineshop wird unsere Aufmerksamkeit auf bestimmte Artikel gelenkt;[41] unser Newsfeed entscheidet, welche meinungsbildenden Artikel wir lesen;[42] unser «Scorewert» beeinflusst, ob und zu welchem Zinssatz wir einen Kredit bekommen oder welche Zahlungsart uns im Onlinehandel zur Verfügung steht;[43] digitale Assessments entscheiden über die Einladung zu einem Bewerbungsgespräch[44] und unser Risikoprofil ist Grundlage des individualisierten Preises und Umfangs unserer Versicherungsdeckung.[45] Darüber hinaus entscheidet unser Kartendienst, welcher Route wir folgen,[46] Apps werden im Gesundheitsmanagement eingesetzt[47] und auch die Werbung, die wir sehen, wird personalisiert.[48]

Zentrale Treiber dieser Entwicklung waren unter anderem die Dezentralisierung der Datenbearbeitung, verbesserte und umfangreichere Speichermöglichkeiten, die Datenerhebung in Echtzeit, die Interoperabilität verschiedener Systeme sowie der Durchbruch bei den Möglichkeiten, Daten parallel in Grafikprozessoren zu verarbeiten.[49] Nicht nur steht heute mehr Rechenleistung auf deutlich kleinerem Raum zur Verfügung, auch die Preise dafür sind im Vergleich zu vor 50 Jahren massiv gesunken, Rechenleistung kann neu direkt aus der Cloud bezogen werden und Computer sowie Gegenstände sind digital miteinander vernetzt.[50] Inzwischen stehen für den kommerziellen, massenhaften Einsatz (umfangreichere) Computersysteme bereit, welche früher bloss Einzelnen vorbehalten waren.[51] Tablets und Smartphones wurden zu einem unverzichtbaren Teil unseres beruflichen und sozialen Alltags und Informationen werden heute hauptsächlich digital gespeichert, verarbeitet oder übermittelt.[52]

Wir leben im Zeitalter von «Big Data»[53] in dessen digitalisiertem Alltag jede Tätigkeit eine digitale Datenspur hinterlässt, die erfasst, verarbeitet und ausgewertet werden kann.[54] Nachdem Daten früher hauptsächlich in Rechenzentren von Unternehmen gespeichert und verarbeitet wurden, produziert und verbraucht seit dem Siegeszug des Personal Computer und der stetigen Verfügbarkeit drahtloser Kommunikationstechnologien inzwischen jede Person Daten.[55] Diese Datenmasse ist jedoch oftmals zu komplex, zu schlecht strukturiert und zu schnelllebig, um mit traditionellen Auswertungsmethoden oder von Menschenhand nützliche Schlüsse daraus ziehen zu können.[56] So führen unter anderem die enormen Menge an Daten, das Fehlen von qualifizierten Kräften für deren Analyse und die Kostspieligkeit manueller Analysen dazu, dass gewisse umfangreiche Datenanalysen heute nicht länger von Menschen vorgenommen werden können.[57] Es besteht deshalb ein wachsendes Interesse an (automatisierten) Modellen, welche «lernen», d.h. Daten analysieren und aus ihnen Informationen extrahieren können.[58]

Hier kommen Algorithmen des maschinellen Lernens (ML), Systeme mit sogenannter künstlicher Intelligenz und mit ihnen das Forschungsgebiet der Datenwissenschaften (Data Science) ins Spiel. Data Science ermöglicht uns nahezu beliebige Datenmengen zu analysieren und zu bearbeiten.[59] Das Forschungsgebiet der Datenanalyse (Data Analytics) beschäftigt sich sodann vorwiegend mit der Entwicklung von Systemen, welche zur Entscheidungsunterstützung grosse Datenmengen analysieren können.[60]

Bei künstlicher Intelligenz besteht das Ziel darin, Systeme zu schaffen, die komplexe Probleme eigenständig lösen können.[61] Auch diese Versuche sind kein neues Phänomen. Bereits in den 1950er-Jahren gab es erste Bemühungen, KI-Systeme zu entwickeln.[62] Dazu wurden aussagenlogische Systeme verwendet, welche auf einfachen logischen Verknüpfungen, wie «und», «oder», «nicht», die mit Aussagen mit einem Wahrheitsgehalt («wahr», «falsch») kombiniert wurden, basierten.[63] Später lagen KI-Systemen die vorne[64] angeführten Expertensysteme und Wissensdatenbanken zugrunde.[65] Die aktuell bahnbrechenden Erfolge von KI basieren jedoch auf Algorithmen des maschinellen Lernens (bzw. deren Kombination) und damit nicht mehr auf regelbasierten Ansätzen, sondern auf statistischen Verfahren.[66]

Beim maschinellen Lernen handelt es sich um eine Technologie, die genutzt wird, um Systeme zu entwickeln, welche aus Erfahrung lernen, um basierend darauf für neue Situationen Vorhersagen zu erstellen.[67] Dies geschieht, indem Muster und Zusammenhänge in Daten erkannt und diese auf einen neuen Datensatz angewandt werden.[68] Es geht mithin im Kern darum, aus einer Stichprobe Schlussfolgerungen zu ziehen.[69] Grundlage dazu bilden statistische Theorien, welche zur Konstruktion mathematischer Modelle verwendet werden.[70] Um mittels künstlicher Intelligenz ein komplexes Problem zu lösen, wird dieses in eine Reihe einfacher Vorhersageaufgaben unterteilt, welche jeweils durch einen ML-Algorithmus gelöst werden.[71] Neben Lernverfahren können KI-Systeme jedoch auch weiterhin algorithmische, statistische oder regelungstechnische Elemente enthalten.[72]

Lernende Algorithmen sind keineswegs neu. Schon 1959 beschrieb der US-amerikanische Informatiker und KI-Pionier Arthur L. Samuel maschinelles Lernen als «Forschungsgebiet, das Computer in die Lage versetzen soll, zu lernen, ohne explizit darauf programmiert zu sein».[73] Bereits in den 1980er-Jahren wurde im Bereich der Mustererkennung, auf welchem das maschinelle Lernen beruht, geforscht und die Grundlage für die Ansätze des maschinellen Lernens gelegt.[74] Aufgrund technischer Beschränkungen stagnierte diese Forschung jedoch ziemlich lange.[75] Erst in den letzten Jahren standen genügend Daten zur Verfügung, welche in Kombination mit den inzwischen leistungsfähigeren Computern sowie deren gestiegener und einfacher verfügbarer Rechenleistung die Nutzung dieser intelligenten Algorithmen in einer neuen Art ermöglichten und zu enormen Fortschritten im maschinellen Lernen und Anwendungen mit «künstlicher Intelligenz» führten.[76] Darüber hinaus wurden vortrainierte Modelle des maschinellen Lernens mittels Cloud-Computing und technischer Kommunikationsprotokolle für jedermann verfügbar und dadurch massentauglich.[77]

Im Gegensatz zu den früheren Expertensystemen sind Algorithmen des maschinellen Lernens nicht mehr (ausschliesslich) dem menschlichen Denk- bzw. Entscheidungsprozess nachempfunden, sondern es wird mit den Mitteln der Informatik versucht, die neuronale Struktur des menschlichen Gehirns zu (re‑)konstruieren.[78] Bei diesem sogenannten Konnektionismus stehen die Verbindungen zwischen den einzelnen Neuronen und die Fähigkeit des Lernens im Vordergrund.[79] Algorithmen des maschinellen Lernens basieren jedoch nicht ausschliesslich auf solchen subsymbolischen Systemen wie künstlichen neuronalen Netzen.[80] Zur Anwendung kommen auch symbolische Ansätze wie aussagenlogische Systeme. In diesen wird das Wissen, wie die Beispiele oder die induzierten Regeln, explizit repräsentiert.[81] Ein Beispiel dafür bilden durch Algorithmen des maschinellen Lernens erstellte Entscheidungsbäume, bei welchen Datenpunkte durch eine Abfolge binärer Fragen in immer homogenere Untergruppen aufgeteilt werden und so zur Entscheidung führen.[82] Solche Entscheidungsbäume basieren intern weiterhin auf einer Kaskade von Wenn-dann-Regeln.[83] Diese werden jedoch nicht mehr vom Menschen vorgegeben, sondern vom Algorithmus selber gelernt.[84]

Das Lernen übernehmen die Algorithmen des maschinellen Lernens gestützt auf Trainingsdaten oder durch Interaktion mit der Umgebung kombiniert mit einem Belohnungssystem selbst.[85] Im Wesentlichen werden die Systeme dahingehend trainiert, durch einen Trial-and-Error-Ansatz Feedback zu ihren Resultaten zu produzieren, gestützt auf welches die vorgenommenen Schätzungen so lange angepasst werden, bis diejenigen Zusammenhänge eruiert worden sind, welche die zu erklärenden Muster möglichst gut erkennen.[86] Mit dieser Rückkoppelung passen sich die Entscheidungsregeln an das Erlernte an, weshalb die Programme, im Gegensatz zu früheren Expertensystemen, welche auf traditionell deterministischen Algorithmen beruhten, nicht mehr statisch sind.[87] Dieses Vorgehen ermöglicht dem Algorithmus vielmehr, selbstständig Lösungen für ein Problem zu finden, anstatt dass ihm wie bis anhin eine akribisch genaue Anleitung zur Problemlösung vorgegeben wird.[88] Dabei verändern sich nicht die Algorithmen selbst, sondern sie modifizieren lediglich selbstständig die vorgenommenen Berechnungen und damit ihre Entscheidungsprozesse.[89] Der Algorithmus an sich enthält nach wie vor ein vordefiniertes Set von Handlungsanweisungen. Zum Zeitpunkt der Entwicklung eines auf einem Algorithmus des maschinellen Lernens basierenden Modells ist jedoch (bewusst) noch nicht vorhersehbar, welches Ergebnis am Ende herauskommt.[90]

Intelligente Systeme sind inzwischen fähig, eigene Prognosen und Vorhersagen zu erstellen, ohne dass der Mensch bei der Systementwicklung schon sämtliche Bearbeitungsschritte vordenken muss.[91] So können bspw. noch unbekannte Trends in Datensätzen aufgespürt, mithilfe dieser Trends Vorhersagen erstellt, die Wahrscheinlichkeit möglicher Ergebnisse berechnet oder sehr schnell exakte Resultate geliefert werden.[92] Die so ermöglichte automatisierte Auswertung von (grossen) Datenmengen führte zu neuen Lösungen für (Entscheidungs‑) Probleme, an denen herkömmliche Computerprogramme und Menschen bis anhin gescheitert sind.[93] Dabei wird ein System meist erst durch die Kombination verschiedener Komponenten in die Lage versetzt, Entscheidungen (im engeren Sinne) zu treffen.[94] Systeme zur automatisierten Entscheidungsfindung basieren deshalb heute regelmässig nicht mehr ausschliesslich auf einfachen Wenn-dann-Systemen, sondern auch auf Algorithmen des maschinellen Lernens,[95] wobei weiterhin die automatisierte Verarbeitung von Daten und Informationen im Zentrum steht.

Durch die technische Entwicklung und die Fortschritte lernender Algorithmen weitete sich der Anwendungsbereich automatisierter Entscheidungen auf eindrückliche Art und Weise aus und es gab eine qualitative und insbesondere auch quantitative Zunahme automatisierter Entscheidungen.[96] Inzwischen können nicht mehr nur einfache, routinemässige, sondern auch komplexere Entscheidungen automatisiert getroffen werden.[97] Angesichts des enormen Potenzials für Erkenntnis- und Effizienzgewinne durch den technischen Fortschritt der letzten Jahre ist es nicht überraschend, dass eine zunehmende Anzahl von Entscheidungen automatisiert gefällt oder zumindest vorbereitet wird.[98]

Definition einer «automatisierten Entscheidung»

Für das Phänomen verwendete Begriffe

Der Begriff der automatisierten Entscheidung wurde bis anhin vorwiegend von der (Rechts‑) Wissenschaft geprägt. Die in der Lehre für das Phänomen verwendeten Begriffe sind vielfältig: Anstatt automatisierte Entscheidung werden auch Begriffe wie algorithmenbasierter Entscheidungsprozess,[99] algorithmische Entscheidung,[100] KI-Entscheidung[101] oder die englischen Begriffe Algorithmic Decision Making[102] oder Automated Decision Making[103] benutzt. In den letzten Jahren hat sich jedoch überwiegend der Begriff der automatisierten Entscheidung bzw. des Automated Decision Making (ADM) eingebürgert.[104] Werden Entscheidungen bloss automatisiert vorbereitet, aber nicht automatisiert gefällt, ist hingegen teilweise von Entscheidungsunterstützungssystem bzw. von Decision Support System (DSS) die Rede.[105]

Definitionsansätze

So vielfältig wie die verwendeten Bezeichnungen sind auch die Definitionsansätze für das Phänomen automatisierter Entscheidungen. Eine allgemeingültige Definition hat sich jedoch noch nicht durchgesetzt.[106] Obwohl verschiedene Bezeichnungen verwendet werden, ist vorwiegend die Rede von Entscheidungen, die durch algorithmische Verfahren getroffen werden.[107] Genannt wird auch die Delegation der Vorbereitung oder gar der Umsetzung von Entscheidungen an Maschinen.[108] Teilweise erfolgt eine dahingehende Eingrenzung der Definition automatisierter Entscheidungen, wonach es um die Bewertung von Menschen oder ihnen zugeordneten Eigenschaften oder Erzeugnissen gehen muss.[109]

Die Definitionen werden ergänzt mit Ausführungen zu den zur Automatisierung eingesetzten Maschinen, Softwareanwendungen, Algorithmen, künstlichen Intelligenzen oder Expertensystemen sowie deren technischen Hintergründen.[110] Oftmals werden mit oder anstatt einer Definition des Phänomens automatisierter Entscheidungen auch verschiedene Beispiele vorgebracht.[111] Diese Beispiele reichen von automatisierten Entscheidungen im Rahmen eines Bewerbungsverfahrens, beim täglichen Newsfeed und dem Onlineshopping bis hin zur automatisierten (Kredit‑)Risikoprüfung oder personalisierter Werbung.[112] Anwendungsfälle, welche mit automatisierten Entscheidungen in Verbindung gebracht werden, finden sich in verschiedenen Bereichen des täglichen Lebens, von der Arbeit, dem Bank- und Versicherungswesen über die Bildung oder Gesundheit bis hin zur Sicherheit und Überwachung.[113] Die angeführten Beispiele betreffen dabei nicht notwendigerweise Menschen, sondern bspw. auch den Aktienhandel.[114]

Die vielen Definitionen und Beispiele eint, dass nicht mehr nur der Mensch an einer Entscheidung beteiligt ist, sondern dieser auf technische Hilfsmittel zurückgreift, um eine Entscheidung zu fällen. Computer, Programm, Software, Anwendersystem oder künstliche Intelligenz, unabhängig davon, wie Systeme zur automatisierten Entscheidungsfindung genannt werden, alle haben gemeinsam, dass sie auf einzelnen oder meist mehreren zusammenhängenden Algorithmen basieren.[115] Im Kern geht es bei automatisierten Entscheidungen somit um den Einsatz von Algorithmen, welche die menschliche Beurteilung ganz oder teilweise ersetzen.[116]

Abgrenzung künstliche Intelligenz

Im Zusammenhang mit automatisierten Entscheidungen oft verwendet wird auch der unscharfe Begriff der künstlichen Intelligenz.[117] Dabei handelt es sich weder um ein einzelnes System zur automatisierten Entscheidungsfällung noch um einen einzelnen Algorithmus, sondern eher um ein Forschungsgebiet.[118] Es gibt keine allgemeingültige Definition des Begriffs der künstlichen Intelligenz.[119] Im Wesentlichen handelt es sich um das Konzept, wonach Maschinen fähig sind, Aufgaben in einer Weise, die wir als «intelligent» ansehen, auszuführen,[120] wobei keineswegs klar ist, was «Intelligenz» genau ausmacht.[121] Laien gehen oft davon aus, dass es sich bei KI um Systeme handelt, die ungefähr so denken wie Menschen, während sich dies hingegen aus Expertensicht anders darstellt.[122] Von Experten werden KI-Systeme in zwei unterschiedliche Gruppen eingeteilt: starke bzw. generelle oder schwache bzw. angewandte KI.[123] Eine starke oder generelle KI zeigt über ein breites Spektrum von Anwendungen intelligentes Denken und Handeln.[124] Solche Systeme, die mit menschlichem Denken vergleichbar sind oder dieselben intellektuellen Fähigkeiten besitzen wie ein Mensch, gibt es noch nicht.[125] Die heute bereits bestehenden KI-Systeme, wie bspw. Zeichen‑, Text‑, Bild- und Spracherkennung,[126] sowie die in naher Zukunft zu erwartenden KI-Systeme fallen alle in den Bereich der schwachen KI.[127] Dabei handelt es sich um Systeme, welche dazu entworfen wurden, einzelne oder wenige spezifische Aufgaben intelligent auszuführen.[128] Die Vorstellung der Allgemeinheit, was eine KI ist, und die tatsächlich bereits bestehenden KI-Systeme stimmen dementsprechend nicht miteinander überein.

Bei genauerer Betrachtung wird klar, dass auch in den Debatten betreffend künstliche Intelligenz oftmals die automatisierte Entscheidungsfällung im Zentrum steht.[129] Diesbezüglich ist festzuhalten, dass es zwar möglich, aber nicht notwendig ist, dass automatisierte Entscheidungen auf KI basieren.[130] Aus den verschiedenen Definitionsansätzen ergibt sich lediglich, dass die Vorbereitung, das Fällen oder auch die Umsetzung von Entscheidungen ganz oder teilweise an eine Maschine delegiert werden.[131] Diese Maschinen müssen nicht zwingend hochgradig komplexe neuronale Netze wie eine KI sein, sondern es kann sich auch um simple Softwareanwendungen handeln, welche basierend auf einfachen (Wenn-dann‑)Regelwerken Daten miteinander vergleichen, gewichten und sortieren.[132]

Zwischenfazit

Beim Phänomen der automatisierten Entscheidungen geht es um den Einsatz von Algorithmen, welche die Entscheidungsfällung für den Menschen übernehmen oder diesen bei der Entscheidungsfällung unterstützen. Auch wenn dies ein intuitives Verständnis dafür schafft, welche Vorgänge als automatisierte Entscheidungen gelten, sind sie weiterhin nicht wirklich fassbar.[133] Dies mag daran liegen, dass die vielen illustrativen Beispiele unterschiedliche Sachverhalte betreffen, dass nicht klar feststeht, welche Vorgänge als Entscheidung angesehen werden, oder dass der Begriff «automatisiert» viel Interpretationsspielraum lässt. Die folgenden Abschnitten gehen deshalb dem Phänomen der automatisierten Entscheidungen genauer nach, um zu klären, worum es im Kern geht. Dazu wird analysiert, was eine Entscheidung ist und wie eine solche zustande kommt, was unter dem Begriff der Automatisierung verstanden wird und welche Rolle Algorithmen dabei spielen.

Was ist eine Entscheidung?

Begriff

Entscheidungen begegnen uns überall, sei es bei der täglichen Wahl unseres Mittagessens oder unserer Kleidung sowie bei der weniger alltäglichen Wahl unseres Berufes oder unseres Lebenspartners.[134] Das menschliche Leben ist von Entscheidungen geprägt, auch wenn man sich dessen nicht immer bewusst ist oder die eigenen Entscheidungen hinterfragt.[135] Ständig werden wir mit vielen Informationen konfrontiert, auf deren Grundlage wir Entscheidungen treffen (müssen).[136] Regelmässig mit Entscheidungssituationen konfrontiert sind nicht nur Menschen, sondern auch private oder gesellschaftliche Institutionen wie Unternehmen oder Staaten.[137] Dies können Entscheidungen im Zusammenhang mit der Gründung eines Betriebes oder vielfältige alltägliche Entscheidungen solcher Organisationen, wie über den laufenden Geschäftsbetrieb oder die Zukunft des Unternehmens, sein.[138]

Im allgemeinen Sprachgebrauch spricht man von einer Entscheidung, wenn man zwischen verschiedenen Möglichkeiten auswählt, ein Problem löst oder eine offene Frage klärt.[139] Entscheidungen können das Ergebnis eines mehr oder weniger überlegten, bewussten, abwägenden und zielorientierten Handelns sein oder auch rasch und ohne längeres Nachdenken getroffen werden, bspw. bei trivialen oder bereits bekannten Problemen.[140] Eine Entscheidung ist somit das Ergebnis einer bewussten oder unbewussten Wahl aus verschiedenen Möglichkeiten. Auch wenn Menschen intuitiv wissen, was eine Entscheidung ist, und darunter verschiedene Wahlakte verstanden werden können, ist meist nur beim Vorliegen eines Wahlproblems von besonderer Bedeutung, von dessen Ausgang vieles abhängt, von einer Entscheidung die Rede.[141]

Aufgrund der Vielzahl zu treffender Entscheidungen überrascht es nicht, dass sich seit Mitte des vergangenen Jahrhunderts mit der Entscheidungstheorie ein eigenes, von starker Interdisziplinarität geprägtes Forschungsfeld entwickelt hat.[142] In diesem wird unter anderem analysiert, wie Entscheidungen durch Individuen oder Gruppen (rational) getroffen werden und welcher Logik Entscheidungen folgen sollen (normative oder präskriptive Entscheidungstheorie) oder wie reales Entscheidungsverhalten beschrieben werden kann (deskriptive Entscheidungstheorie).[143] Im Blickpunkt stehen dabei alle möglichen Wahlakte und nicht nur besonders bedeutende.[144] Das Ziel ist es einerseits, den Menschen Hilfestellungen zu geben, um «vernünftige Entscheidungen» treffen zu können, und andererseits, eine Erklärung über das Zustandekommen realer Entscheidungen zu liefern.[145]

Aus Sicht der Entscheidungstheorie wird eine Entscheidung im Wesentlichen definiert als eine Kombination von Willensbildung und anschliessendem Entschluss,[146] wobei die Entscheidung das Ergebnis eines Wahlprozesses ist.[147] Unter Berücksichtigung der gegenwärtigen oder zukünftigen äusseren Gegebenheiten (Umweltzustände)[148] wird aus mindestens zwei Alternativen eine Handlungsalternative gewählt.[149] Dabei kann auch das Unterlassen, etwas zu tun, eine dieser Alternativen sein.[150] Die Wahl erfolgt anhand einer Entscheidungslogik und im Hinblick auf eine zu erreichende Zielvorstellung.[151] Eine Entscheidung aus wissenschaftlicher Sicht besteht somit aus verschiedenen Alternativen, der zu erreichenden Zielvorstellung, einer gewissen Logik und den (erwarteten) Ergebnissen.[152]

Den Kern einer Entscheidung bildet somit, sowohl im allgemeinen Sprachgebrauch als auch aus wissenschaftlicher Perspektive, eine Wahl aus verschiedenen Möglichkeiten.[153] Entscheidungsträger ist dabei jeweils der Mensch als Individuum oder in einer Gruppe bzw. Organisation.

Entscheidungsprozess

Der Entscheidungsprozess bezeichnet den (geistigen) Ablauf einer Entscheidung eines Individuums oder einer Organisation und besteht aus dem eigentlichen Entschluss und dessen Vorbereitung.[154] Zum Entscheidungsprozess gibt es zahlreiche unterschiedliche theoretische Konzeptionen, formale Modelle und empirische Untersuchungen, welche den Ablauf einer Entscheidung genauestens analysieren, beschreiben und erklären.[155] Die komplette Analyse und Darstellung des Entscheidungsprozesses würde den Rahmen dieser Arbeit sprengen, weshalb der Entscheidungsprozess (in Anlehnung und Ergänzung des verhaltenswissenschaftlichen Ansatzes) exemplarisch anhand der folgenden sieben Schritte vorgestellt wird.[156] Die Aufteilung des Entscheidungsprozesses in diese sieben Schritte ist leicht verständlich und macht den Prozess, unabhängig von tiefergehenden entscheidungstheoretischen Fachbegriffen und Modellen, nachvollziehbar.

(1) Problemformulierung: In einem ersten Schritt muss die Notwendigkeit einer Entscheidung erkannt und das damit zu erreichende Ziel ausformuliert werden. Die Problemformulierung kann bewusst oder unbewusst sowie unmittelbar evident erfolgen oder auch einen Suchprozess erfordern. Es ist möglich, dass zum Zeitpunkt der Problemformulierung noch nicht klar ist, dass eine Entscheidung erforderlich ist.[157]

(2) Daten- und Informationsbeschaffung: Es folgt die Beschaffung der Daten und Informationen zum Problem, inklusive der Abklärung der gegenwärtigen und zukünftigen äusseren Gegebenheiten. Dies dient der Validierung der Problemformulierung sowie dem späteren Aufspannen eines Lösungsfelds. Da die zusammengetragenen Informationen sowohl ein Verständnis für das Problem und dessen Ursachen schaffen als auch die Grundlage der folgenden Alternativensuche bilden, haben sie einen starken Einfluss auf die Entscheidungsqualität.[158]

(3) Alternativensuche: In einem dritten Schritt wird analysiert, welche Möglichkeiten zur Zielerreichung zur Auswahl stehen.[159] Diese Analyse basiert auf den vorhandenen Informationen, mittels welcher sich ein Lösungsfeld möglicher Alternativen aufspannen lässt.[160] Es sollen möglichst alle Wege gefunden werden, die zum gewünschten Ziel führen.[161] Dabei kann es sich um Ja/Nein-Alternativen, ein allfälliges Unterlassen oder einen Kompromiss handeln.[162] Mögliche Handlungsalternativen ergeben sich durch Filterung und Reduzierung des Lösungsfelds entsprechend den gegebenen Randbedingungen.[163]

(4) Bewertung (Willensbildung): Die zur Auswahl stehenden Möglichkeiten müssen anschliessend im Hinblick auf das verfolgte Ziel bewertet und verglichen werden.[164] Dabei handelt es sich um die Phase der Willensbildung. Auf Grundlage der Informationen der vorhergehenden Schritte wird antizipiert, mit welcher der zur Verfügung stehenden Möglichkeiten die Zielvorstellung am ehesten erreicht werden kann.[165] Der Entscheidungsträger muss sich mittels einer Prognose oder Schätzung eine Vorstellung davon verschaffen, wie sich die Alternativen zukünftig entwickeln und wie sie zum Entscheidungszeitpunkt aussehen werden.[166]

(5) Entscheidung im engeren Sinn (Entschluss): Das Fällen der eigentlichen Entscheidung erfolgt durch die Auswahl einer der identifizierten Möglichkeiten.[167] Die gedankliche Phase der Willensbildung wird durch diese Wahl, den Entschluss, abgeschlossen.[168] Dabei ist zu beachten, dass die eigentliche Entscheidung keine Kunst mehr ist, sondern – zumindest bei rationalem Handeln – im Wesentlichen auf der Wahl der im vorhergehenden Schritt gemachten (besten) Bewertung basiert.[169]

(6) Realisierung: Die getroffene Entscheidung wird in die Realität umgesetzt, entweder durch eine ausführende Handlung, deren Unterlassung oder auch bloss, indem die Entscheidung kommuniziert wird.[170]

(7) Kontrolle: Nach einem Entschluss und seiner Realisierung wird unter Umständen geprüft, ob die erwartete(n) Folge(n) eingetreten ist (sind) und das Ziel mit der ausgewählten Alternative erreicht wurde. Ist dies nicht der Fall, wird analysiert, weshalb und wo eine Abweichung stattgefunden hat. Die Erfahrungen aus der Kontrolle fliessen in zukünftige Bewertungen ein.[171]

Diese Darstellung des Entscheidungsprozesses zeigt, dass es sich bei der Entscheidungsfindung um einen vorwiegend kognitiven Prozess handelt, in welchem ein Entscheidungswille gebildet wird. Zu Beginn werden im Rahmen der Problemformulierung (Schritt 1) der Gegenstand der Entscheidung und insbesondere auch die damit verfolgten Ziele definiert. Grundlage des eigentlichen Entschlusses bildet die diesem vorhergehende Bewertung (Schritt 4), in welcher die Willensbildung stattfindet. Dabei wird analysiert, mit welcher der identifizierten Alternativen die Zielvorstellung am ehesten erreicht werden kann, und bewertet, welche Möglichkeit dazu die geeignetste ist. Als die Entscheidung im eigentlichen Sinne, deren Kernelement, wird der Entschluss (Schritt 5) angesehen.

Nachdem ein Entschluss gefällt wurde, folgt die Realisierungsphase (Schritt 6), um die Entscheidung in die Realität um- und den gebildeten Willen durchzusetzen. Dabei sind auch physische Aktivitäten möglich, bspw. im Rahmen einer ausführenden Handlung. Im Zuge der anschliessenden Kontrolle werden ausserdem Erfahrungen gesammelt sowie allfällige zukünftige Ungewissheiten verringert und dadurch wird die Willensbildung für eine nächste Entscheidung vereinfacht.[172]

Entscheidungsgrundlagen

Entscheidungen sind zukunftsgerichtet, was bedeutet, dass der Entscheidungsträger bis zum Entschluss und dessen anschliessender Verwirklichung im Ungewissen darüber ist, welche der für möglich gehaltenen Entwicklungen tatsächlich eintrifft.[173] Die Kapazität eines Menschen zur Informationsverarbeitung ist begrenzt, weshalb er regelmässig nicht in der Lage ist, alle möglichen Verhaltensalternativen zu kennen.[174] Die Bewertung und Entscheidung muss trotz dieser Ungewissheit vorgenommen werden.[175]

Um die Ungewissheit zu verkleinern, stehen zum Entschlusszeitpunkt idealerweise sämtliche für eine Entscheidung relevanten Informationen (Schritt 2) zur Verfügung[176] und die zur Auswahl stehenden Möglichkeiten wurden identifiziert (Schritt 3). Eine wesentliche Rolle zur Identifizierung und Bewertung der Möglichkeiten spielen Vorhersagen und Prognosen über deren Entwicklung, weil damit Unsicherheiten reduziert werden können und der Entscheidungsprozess verbessert werden kann.[177] Die Prognosen wiederum lassen sich verbessern, wenn genügend Informationen zur Verfügung stehen. Diese werden aus Daten gewonnen.[178] Daten sind zum Zweck der Verarbeitung zusammengefasste Zeichen, welche aufgrund bekannter oder angenommener Voraussetzungen zu Informationen werden.[179] Die Informationsgewinnung geschieht dabei direkt vom Menschen beim Lesen der Daten[180] oder indem diese mit automatisierten oder manuellen Mitteln verarbeitet und so formatiert werden, dass aus ihnen diejenigen Informationen entstehen, welche die Grundlage zur Befriedigung des Entscheidungsbedürfnisses bilden.[181] Daten und die daraus gefolgerten Informationen sind entsprechend das Rohmaterial und die Grundlage der anschliessenden Willensbildung zur Entscheidungsfällung.[182]

Menschliche Grenzen bei der Entscheidungsfällung

Weder eine private noch eine unternehmerische Entscheidung findet in der Regel genauso strukturiert statt, wie dies im Entscheidungsprozess dargestellt wurde.[183] Trifft ein Mensch eine Entscheidung, wendet er zwar immer eine Reihe von Regeln an, dies kann jedoch auch intuitiv und unbewusst oder für ihn selbst unzulänglich geschehen.[184] Die einzelnen Schritte sind sodann oftmals nicht klar voneinander abzugrenzen, werden übersprungen, vorweggegriffen, retrospektiv angewendet oder zyklisch wiederholt.[185] Menschliche Entscheidungen und Urteile, ihre Wahrnehmung und ihr Denken sind zudem geprägt von den subjektiven Grundlagen des Entscheidenden und systematisch von Fehlern, sogenannten kognitiven Verzerrungen, behaftet.[186] Einfluss auf die Entscheidung haben bspw. die Präferenzen, Gefühle, Vorlieben, Abneigungen, Wertvorstellungen, Erfahrungen oder die Risikobereitschaft des Entscheidenden.[187] Hinzu kommt, dass Menschen in der Regel träge und bequem sind, Wissenslücken haben, ihre eigenen Präferenzen nicht sicher kennen, nur notgedrungen auf Probleme reagieren, bevorzugt alles beim Alten belassen oder sich von ihren Mitmenschen sowie der aktuellen Situation beeinflussen lassen und Entscheidungen an einem Tag so und am nächsten anders fällen.[188] Ebenso werden Informationen von menschlichen Entscheidenden oftmals nur selektiv wahrgenommen, ignoriert, falsch verstanden, verzerrt oder vereinfacht.[189] Dies kommt unter anderem daher, dass die Kapazität des Menschen, bspw. hinsichtlich Aufmerksamkeit, Energie, Motivation oder Informations- und Datenverarbeitung, begrenzt ist.[190]

Im menschlichen Entscheidungsverhalten wurden bereits verschiedentlich mittels experimenteller Studien Heuristiken[191] und Tendenzen («Biases») aufgedeckt, welche fehlerhafte oder suboptimale Entscheidungen zur Folge haben.[192] Heuristiken sind auf Vorwissen und Erfahrung basierende Vereinfachungen, wie bewährte Denkmuster oder einfache Faustregeln, die zur Lösung komplexer Probleme herangezogen werden.[193] Der Rückgriff darauf ist oftmals nützlich und liefert meist ausreichende Antworten, führt aber manchmal auch zu fehlerhaften Antworten und Verzerrungen.[194] Menschen unterliegen Denkfehlern und agieren weder rational noch fair, sondern irren sich und diskriminieren oder sie bewerten Gleiches unterschiedlich.[195] Nachgewiesen ist auch, dass sich Menschen in ihren Entscheidungen häufig als unbeständig und sprunghaft erweisen und nicht immer zu demselben Ergebnis kommen.[196] Ebenso geschieht es häufig, dass der Mensch zuerst entscheidet und erst nachträglich begründet, weshalb er so entschieden hat, d.h., er rationalisiert die Entscheidung.[197] Die Lehre führt dieses Verhalten darauf zurück, dass der Mensch (unbewusst) eine bestimmte Alternative bevorzugt und deshalb nur nach bestätigenden Informationen sucht.[198] Informationen, die nicht in dieses Bild passen, werden übersehen oder die eigenen Fähigkeiten werden über- und Probleme oder Risiken unterschätzt.[199] Ein weiteres bekanntes Phänomen ist der «Sunk Cost Bias», in dessen Rahmen Entscheidungsträger dazu tendieren, diejenigen Projekte fortzusetzen, in die sie in der Vergangenheit bereits (viele) Mittel investiert haben.[200] Dies, obwohl diese Kosten für neue Entscheidungen nicht mehr relevant sind, da sie bereits angefallen und durch die neuen Entscheidungen nicht neutralisiert werden können.[201]

Dies sind nur einige der bereits wissenschaftlich dokumentierten Schwächen des menschlichen Entscheidungsverhaltens. Sie sollen aufzeigen, dass die Qualität menschlicher Entscheidungsfällung durch verschiedene innere und äussere Faktoren begrenzt wird und dass von Menschen getroffene Entscheidungen nicht immer rational und auch nicht immer nachvollziehbar sind.[202] Hinzu kommt, dass es durchaus auch (Entscheidungs‑)Probleme gibt, an denen Menschen bis anhin gescheitert sind, bspw. weil sie die grosse Menge an Daten, auf welchen eine Entscheidung basieren soll, nicht mehr in nützlicher Zeit auswerten können.[203]

Die menschliche Entscheidungsfällung hat jedoch durchaus ihre positiven Seiten, so kann der Mensch im Einzelfall bspw. auch Kriterien berücksichtigen, die in einem (vor‑)programmierten Bewertungsraster eigentlich nicht vorgesehen sind, wodurch der Mensch bei unerwarteten Abweichungen flexibler entscheiden kann als ein System.[204] Dies gilt, insbesondere im geschäftlichen Kontext, jedoch nur so weit, als einem menschlichen Entscheider nicht nur ein eingeschränkter Entscheidungsspielraum zukommt, bspw. wenn dieser sich an von oben vorgegebene Regeln oder Schwellenwerte halten muss.[205]

Was bedeutet «Automatisierung»?

Begriff

Bei der Automatisierung handelt es sich um die Einrichtung und Durchführung von Arbeiten oder Prozessen mit der Hilfe von geeigneten technischen Aggregaten, damit der Mensch nicht unmittelbar tätig werden braucht.[206] Im Englischen wird der Begriff «Automation» verwendet,[207] wobei es sich dabei im Deutschen gleichzeitig um ein Synonym für den Begriff «Automatisierung» handelt.[208] Automation stammt vom griechischen Ausdruck «autómatos» ab, was sich selbst bewegend, aus eigenem Antrieb, Willen oder spontan handelnd bedeutet.[209] Im Allgemeinen bedeutet Automatisierung somit, unabhängig und ohne menschliches Zutun zu arbeiten, zu handeln oder sich selbst zu regulieren.[210] Bei der Automatisierung führen vom Menschen entwickelte Maschinen, Werkzeuge, Geräte, Installationen und Systeme selbstständig eine bestimmte Reihe von Aktivitäten durch.[211] Der Mensch braucht für die Umsetzung dieser Aktivitäten nicht unmittelbar tätig zu werden. Die Prozesse einschliesslich ihrer Steuerung, Regelung und zum Teil Kontrolle erfolgen selbstständig.[212] Im Kern geht es bei der Automatisierung entsprechend darum, dass eine Maschine oder ein algorithmisches System (ganz oder teilweise) eine Aufgabe übernimmt, die davor (ganz oder teilweise) von einem Menschen ausgeführt wurde oder ausgeführt werden konnte.[213] Automatisiert werden jedoch oftmals auch Aufgaben, die der Mensch selbst nicht ausführen kann, wie bspw. komplexe und schnelle Computerberechnungen oder die umfassende Auswertung von Daten.[214]

Automatisierungsmöglichkeiten

Mit der Entwicklung der modernen Informations- und Kommunikationstechnologie hat sich das Anwendungsgebiet der Automatisierung auf alle Lebens- und Arbeitsbereiche ausgeweitet.[215] Die Digitalisierung hat dazu geführt, dass intelligente Maschinen konstruiert werden können, welche ohne permanente Überwachung durch den Menschen auch komplexe Aufgaben meistern können.[216] Heute wird unter dem Begriff der Automatisierung nicht mehr nur die Übertragung von Aufgaben an Roboter oder Fliessbänder, sondern insbesondere auch die Übertragung von Aufgaben an Algorithmen verstanden.[217] Im Vordergrund steht nicht mehr nur die physische, sondern auch die kognitive Automatisierung, in der Urteilsvermögen und Schlussfolgerungen (bspw. betreffend unvollständige Daten) im Fokus stehen.[218] So können psychisch-mentale Komponenten, wie die Regulierung und Organisation einzelner Arbeitsschritte oder die Kontrolle und Korrektur technischer Anlagen oder eben auch Entscheidungen vom Menschen auf die Maschine übertragen werden.[219] Anstatt dass der Mensch manuell Informationen erfasst, bewertet und basierend darauf eine Entscheidung fällt, welche er anschliessend umsetzt, können diese Aufgaben ganz oder teilweise durch ein System übernommen werden.[220]

Die Art und Komplexität verschiedener Automatisierungssysteme reicht von der Informationsbeschaffung, der einfachen Organisation der Informationsquellen über deren ausführliche Analyse bis hin zur Ausarbeitung von Vorschlägen für Entscheidungsoptionen, die den eingehenden Informationen am besten entsprechen, oder sogar zur Wahl oder Ausführung der eruierten Möglichkeiten.[221] So können Algorithmen unter anderem eingesetzt werden für deskriptive Analysen («Descriptive Analytics», vergangenheitsbezogen), bspw. zur Auswertung grossvolumiger Daten, sowie für prädiktive Analysen («Predictive Analytics», Zukunftsprognose), bspw. zur Prognose und Klassifikation von Geschäftsfällen oder des künftigen menschlichen Verhaltens.[222] Einen Schritt weiter geht die präskriptive Analyse («Prescriptive Analytics»), welche versucht, das beste Ergebnis zu erzielen, indem verschiedene Handlungsmöglichkeiten auf das Ergebnis hin analysiert werden, wobei nicht nur Eintretenswahrscheinlichkeiten, sondern direkt auch passende Handlungsempfehlungen generiert werden.[223]

Automatisierungsstufen

Bei der Automatisierung handelt es sich nicht um ein «Alles-oder-nichts-Konzept».[224] Die Tatsache, dass der Mensch weiterhin an einem Prozess oder einer Aktivität beteiligt ist, schliesst die Verwendung des Begriffs der Automatisierung nicht per se aus. Zwischen vollständiger Automatisierung und vollständiger menschlicher Kontrolle können verschiedene Automatisierungsstufen identifiziert werden.[225] Abhängig davon, wie gross der Anteil der automatisierten Funktionen an den Gesamtfunktionen einer Anlage oder eines Systems ist, hat die Anlage oder das System einen stärkeren oder schwächeren Automatisierungsgrad.[226] Die Rede ist von Voll- oder Teilautomatisierung, je nachdem, ob sämtliche Aktivitäten oder nur ein Teil davon an ein System oder eine Maschine übertragen werden.[227] Letzteres bedarf eines häufigeren menschlichen Eingreifens,[228] bspw. wenn die Entscheidungsfähigkeit von Entscheidungsträgern durch den Einsatz spezifischer Systeme nur ergänzt, aber nicht übernommen wird.[229] Realisiert hingegen eine Anwendung den gesamten Entscheidungsprozess, übernimmt der Mensch im Extremfall nur noch die Entwicklung, Überwachung oder gegebenenfalls die Anpassung des Systems.[230]

Mit Blick auf die auf Algorithmen basierende Entscheidungsfällung ist in der Regel nicht die Rede von voll- oder teilautomatisierten Entscheidungen, sondern es wird – wie eingangs angeführt – unterschieden zwischen automatisierten Entscheidungen (Automated Decision Making, ADM) und Entscheidungsunterstützungssystemen (Decision Support Systems, DSS).[231] Eine differenziertere Betrachtung findet sich im Gutachten der deutschen Datenethikkommission aus dem Jahre 2019, welche zwischen algorithmenbasierten, algorithmengetriebenen und algorithmendeterminierten Entscheidungen unterscheidet.[232] Algorithmenbasiert bedeutet, dass sich menschliche Entscheidungen auf algorithmisch berechnete (Teil‑)Informationen stützen, wobei diese die Entscheidung auf subtile Weise signifikant beeinflussen können.[233] Letzteres kann bspw. der Fall sein, wenn eine von einem Algorithmus berechnete Information eine Wertung beinhaltet, welche dem Menschen nicht bewusst ist.[234] Bei algorithmengetriebenen Entscheidungen werden die menschlichen Entscheidungen bereits wesentlich durch die Ergebnisse algorithmischer Systeme geprägt und bewegen sich in den algorithmisch ermittelten und vorgegebenen Bahnen, wodurch der tatsächliche Entscheidungsspielraum und die Selbstbestimmung des Menschen eingeschränkt werden.[235] Ganz unabhängig von einem menschlichen Akteur erfolgen algorithmendeterminierte und damit vollständig automatisierte Entscheidungen. Die Ergebnisse eines algorithmischen Systems führen bei diesen, ohne ausdrückliche menschliche Beteiligung, direkt zu Konsequenzen. Der Mensch ist nur insofern involviert, als dass er darüber entscheidet, das System zu diesem Zweck und in dieser Art und Weise einzusetzen.[236] Die Zuordnung, in welche dieser Kategorien ein spezifisches System in der Praxis gehört, ist jedoch vielfach schwierig, zumal auch Mischformen möglich sind oder der Determinierungsgrad des menschlichen Akteurs auch beim selben Punkt unterschiedlich hoch sein kann.[237]

Abgrenzungen

Autonomie

Der Begriff der Automatisierung ist vom Begriff der Autonomie abzugrenzen. Letztere bedeutet zwar ebenfalls Unabhängigkeit oder Selbstständigkeit, wird jedoch im allgemeinen Sprachgebrauch nicht im Zusammenhang mit der Übertragung von Aufgaben an eine Maschine, sondern betreffend die Verwaltung sowie insbesondere im Zusammenhang mit der Willensfreiheit verwendet.[238] Von einem autonomen Vorgang wird dabei unter anderem gesprochen, wenn dieser selbstständig, unabhängig oder eigenständig abläuft.[239] Beim philosophischen Autonomiebegriff geht es darum, dass sich der Mensch eigene Vorschriften auferlegt sowie Regeln und Gesetze formuliert und wählt, nach denen sich sein Verhalten richtet.[240] Der Begriff der Autonomie im ethischen Sinne war ursprünglich wesentlicher Aspekt der Menschenwürde und konnte nur dem Menschen, nicht jedoch einer Maschine zugeschrieben werden.[241] Nur Wesen, die Handlungsfreiheit besitzen, können im Grundsatz autonom handeln.[242] Trotzdem wird beim Einsatz von Algorithmen von autonomen Systemen gesprochen, wenn diese die Aufgaben unabhängig von menschlicher Steuerung oder Aufsicht durchführen, da sich dies in der wissenschaftlichen Literatur und der öffentlichen Debatte so durchgesetzt hat.[243] Die Autonomie eines Systems bezeichnet dabei ein Höchstmass an Automatisierung und maximale Unabhängigkeit vom Menschen.[244]

Anwendung eines Regelwerks / Routinemässiger Ablauf

Es gibt Definitionsansätze, welche die Automatisierung als die Lösung eines Problems durch die Anwendung eines bestimmten Regelwerks ansehen, unabhängig davon, ob die Problemlösung durch den Menschen oder eine Maschine erfolgt.[245] Ebenfalls werden die Adjektive «automatisch» oder «automatisiert» oftmals im Sinne eines routinemässigen, instinktiven oder unwillkürlichen Ablaufs bestimmter Schritte, wie bspw. der Betätigung der Kupplung beim Autofahren, gebraucht.[246]

Wie sich den eingangs vorgestellten Definitionsansätzen entnehmen lässt, ist im Zusammenhang mit dem gesellschaftlich rege diskutierten Phänomen der automatisierten Entscheidungen die Delegation der Vorbereitung, des Fällens oder auch der Umsetzung von Entscheidungen ganz oder teilweise an einen Algorithmus der zentrale Punkt.[247] Auch wenn der Begriff des Algorithmus nicht zwingend das Vorhandensein einer Software oder den Einsatz eines Computers voraussetzt,[248] werden in einzelne Aufgaben aufgeteilte und basierend auf vordefinierten Regeln oder instinktiv von einem Menschen ausgeführte Entscheidungsprozesse in der vorliegenden Arbeit nicht als automatisierte Entscheidungen betrachtet. Diesen Vorgängen fehlt die im Zusammenhang mit dem Phänomen «automatisierter Entscheidungen» vorausgesetzte Delegation des Entscheidungsprozesses vom Menschen an einen Algorithmus.

Die Rolle der Algorithmen

Begriff

Es gibt nicht eine einzige, scharfe, allgemein akzeptierte Definition des Begriffs Algorithmus.[249] Den meisten Definitionen ist jedoch gemeinsam, dass sie einen Algorithmus als eine Handlungsvorschrift, bestehend aus eindeutig definierten Schritten, welche zur Lösung eines Problems abgearbeitet werden müssen, beschreiben.[250] Dabei wird anhand einer bestimmten, endlichen Abfolge von klar definierten Schritten, Anweisungen oder Befehlen eine Eingabe in eine Ausgabe umgewandelt.[251] Der Algorithmus beschreibt die Aktivitäten, aus welchen sich der Prozess, um von der Eingabe zur Ausgabe zu kommen, zusammensetzt.[252] Dazu wird jedoch kein direktes Abbild der Realität erstellt, sondern es wird ein eigens für die zu lösende Fragestellung erstelltes Modell der Realität entworfen.[253] Je nachdem, in welche Teilstücke die Fragestellung zerlegt wird, entsteht ein anderes Modell.[254]

Algorithmen sind in der Mathematik und insbesondere in der Informatik von grosser Bedeutung.[255] Sie bilden unter anderem das Herzstück sowie den Antrieb von softwarebasierten Ökosystemen.[256] Computeralgorithmen zeichnen sich dadurch aus, dass sie in Programmiersprache verfasst werden und vorgeben, wie die Prozesse eines Computersystems ablaufen.[257] Sie bedürfen zur Ausführung keines menschlichen kognitiven Mitwirkungsaktes mehr.[258] Solche Computeralgorithmen bilden das Fundament der elektronischen Datenbearbeitung und können bspw. eingesetzt werden, um Kategorien zu bilden, Informationen zu filtern, Daten zu analysieren, Korrelationen, Muster und Beziehungen zu finden oder Daten in anderer Weise zu bearbeiten.[259] Da Entscheidungen auf der Analyse und Auswertung von Informationen zum Entscheidungsproblem basieren,[260] sind Computeralgorithmen für automatisierte Entscheidungen entsprechend von besonderer Relevanz.

Die Ein- und Ausgabe eines Algorithmus muss jedoch nicht zwingend in mathematischer oder computergestützter Form erfolgen.[261] Auch Kochrezepte, bei denen durch die «Eingabe» von Lebensmitteln und einzelnen Handlungen ein fertiges Gericht als «Ausgabe» resultiert,[262] das Umsetzen der Vorgaben einer Gebrauchsanweisung[263] oder ein aufwändiger Fragebogen[264] werden als Algorithmen angesehen. Algorithmen finden sich auch in den Natur- oder Sprachwissenschaften, der Wirtschaft, der Medizin oder in der Kunst.[265] Oft werden unterschiedliche Wissensgebiete durch algorithmenbasierte Anwendungen miteinander verbunden oder Algorithmen aus einem Fachgebiet auf ein anderes Fachgebiet übertragen.[266]

Algorithmen werden nicht zwangsläufig ausschliesslich computergesteuert oder zur Entscheidungsfindung ausgeführt.[267] Dennoch nimmt die vorliegenden Arbeit mit dem Terminus «Algorithmus» stets auf eine in Software implementierte Handlungsvorschrift zur automatisierten Entscheidungsfindung Bezug. Der Einfachheit halber ist im Folgenden zudem jeweils regelmässig von «einem» Algorithmus die Rede. Es ist jedoch durchaus möglich bzw. vielmehr wahrscheinlich, dass die zur automatisierten Entscheidungsfällung verwendeten Systeme auf mehreren Algorithmen basieren.[268]

Historie

Algorithmen sind kein neuartiges Phänomen und weder ein Produkt des Maschinenzeitalters noch der Digitalisierung.[269] In mehr oder weniger präziser Form gibt es Algorithmen bereits, seitdem es die menschliche Sprache gibt.[270] Der erste nichttriviale Algorithmus wird vor über 2300 Jahren verortet.[271] Dieser sogenannte Euklidische Algorithmus diente der Bestimmung des grössten gemeinsamen Teilers zweier positiver ganzer Zahlen.[272]

Mit der Erschaffung der ersten Rechenmaschinen und dem anschliessenden Aufschwung der Informationstechnologie haben Algorithmen immens an Bedeutung gewonnen.[273] Dies kommt daher, dass mit dem Computer eine Maschine geschaffen wurde, welche die in Algorithmen enthaltenen Handlungsanweisungen selbstständig abarbeiten konnte.[274] Der Erschaffung des Computers lag denn auch das Motiv zugrunde, ein Gerät zur Ausführung von Algorithmen zu haben.[275] Der Computer wurde zum unverzichtbaren Hilfsmittel zur Problemlösung mittels Algorithmen.[276] Auch wenn die Entstehung der Algorithmen zunächst nichts mit Computern zu tun hatte und diese viel älter als Computer sind, werden Algorithmen heutzutage mit Computern verbunden.[277]

Algorithmen-Arten

Es gibt eine unüberschaubare Vielfalt von Algorithmen,[278] welche je nach Sichtweise in verschiedene Algorithmen-Arten oder -Klassifizierungen unterteilt werden können.[279] Die Einteilung erfolgt dabei unter anderem anhand der Art des Verfahrens, der Problemstellung, der Anzahl Rechenschritte oder der zu erfüllenden Funktion.[280] Die Lehre unterscheidet bspw. zwischen Algorithmen zur Datenauswertung, Wissensgenerierung für Entscheidungskriterien oder zur Entscheidungsfällung an sich,[281] Entscheidungs- und Optimierungsalgorithmen,[282] zwischen numerischen, deterministischen, randomisierten oder iterativen Algorithmen[283] oder zwischen Priorisierungs‑, Klassifizierungs‑, Zuordnungs- und Filterprozessen.[284] Die Wahl der verwendeten Algorithmen hängt von den Aufgaben ab, die sie erledigen sollen, sowie von den verfügbaren Daten(-typen) und der Form der von ihnen ermittelten Ergebnisse.[285]

Es gibt dabei nicht den einen Algorithmus zur automatisierten Entscheidungsfällung. Vielmehr reicht die Spannweite automatisierter Entscheidungssysteme von simplen Algorithmen, welche basierend auf einfachen vordefinierten Regelwerken lediglich Daten miteinander vergleichen oder sortieren, bis hin zu komplexen Algorithmen, welche eigenständig lernen, Kategorien oder Vorhersagen zu erstellen und zu entscheiden.[286] In diesem Sinne unterscheidet die Lehre im Zusammenhang mit ADM-Systemen generell auch zwischen traditionell-deterministischen Algorithmen, die einem vorher festgelegten Programm folgen, und lernenden Algorithmen, die in der Lage sind, sich neuen und unbekannten Problemsituationen anzupassen.[287]

Zwischenfazit

Bei einer Entscheidung geht es im Kern um die Wahl einer von verschiedenen Möglichkeiten durch ein Individuum oder eine Mehrzahl von Individuen, welche auf Grundlage verschiedener Informationen und im Hinblick auf ein bestimmtes Ziel getroffen wird. Diese Wahl ist zukunftsgerichtet und das Ergebnis der dem Entschluss vorangehenden Willensbildung, d.h. der Bewertung der zur Verfügung stehenden Entscheidungsalternativen. Bis zur Verwirklichung einer Entscheidung besteht Ungewissheit darüber, ob die identifizierten möglichen Entwicklungen wie erwartet eintreffen. Zur Verminderung dieser Ungewissheit müssen Vorhersagen und Prognosen vorgenommen werden, anhand derer die verschiedenen Entscheidungsalternativen bewertet werden. Eine gute Informationsbasis, d.h. genügend Daten, sowie deren Auswertung, ist entsprechend wesentlich, um die Ungewissheit über die zukünftige Entwicklung der verschiedenen Alternativen zu vermindern und so zu besseren Entscheidungen zu kommen.[288]

Der kognitive Prozess, in welchem der Entscheidungswille gebildet wird, basiert damit wesentlich auf den gesammelten Informationen zum Problem, zu den Alternativen und zur Zielvorstellung sowie auf bereits gemachten Erfahrungen. Indem sie die Grundlage der Willensbildung zur Entscheidungsfällung darstellen, sind Daten und die daraus gewonnenen Informationen das Rohmaterial für Entscheidungen. Die notwendige Informationsgewinnung aus den Daten kann direkt vom Menschen beim Lesen der verfügbaren Daten geschehen oder indem diese mit automatisierten oder manuellen Mitteln verarbeitet und so formatiert werden, dass aus ihnen diejenigen Informationen entstehen, welche die Grundlage zur Befriedigung des Entscheidungsbedürfnisses bilden.[289]

Die menschliche Entscheidungsfällung hat ihre Grenzen. Anders als die vorgestellte Analyse des Entscheidungsprozesses vermuten lässt, folgen Menschen bei der Entscheidungsfällung nicht immer starren Regeln, sondern Entscheidungen werden oftmals auch intuitiv und unbewusst gefällt. Menschliche Entscheidungen können zudem geprägt sein von verschiedenen inneren Einstellungen wie Heuristiken oder Biases sowie von externen Einflüssen. Hinzu kommt, dass die Kapazität des Menschen, bspw. hinsichtlich Aufmerksamkeit, Energie, Motivation oder Informations- und Datenverarbeitung, beschränkt ist. Nimmt ein Mensch die Informationsbeschaffung und Alternativensuche vor, ist er, aufgrund seiner beschränkten Kapazität zur Datenverarbeitung, an gewisse Grenzen gebunden, weshalb seine Prognosen möglicherweise unvollständig sind oder er nicht in der Lage ist, eine Prognose vorzunehmen.[290]

Hier kommt die Automatisierung ins Spiel, in deren Rahmen (lernende) Algorithmen einzelne Aufgaben des Entscheidungsprozesses oder diesen als Ganzes übernehmen.[291] Kombiniert man die Begriffe Entscheidung und Automatisierung, kommt man zum Ergebnis, dass eine Entscheidung «automatisiert» ist, wenn eine vom Menschen entwickelte Maschine eine bestimmte Anzahl oder sämtliche Aktivitäten des (kognitiven) Entscheidungsprozesses, d.h. der Wahl zwischen verschiedenen Möglichkeiten, übernimmt. Aufgrund der Notwendigkeit der Informationsverarbeitung zur Entscheidungsfällung geht es bei der Automatisierung von Entscheidungen nicht um die Übertragung von Aufgaben an (mechanische) Roboter, Maschinen oder Fliessbänder, sondern vorwiegend um die Übertragung der kognitiven Entscheidungsaufgaben an Algorithmen zur Datenaus- und -bewertung. Anstatt dass der Mensch selbst Informationen erfasst, bewertet und basierend darauf eine Entscheidung fällt, welche er anschliessend umsetzt, werden diese Aufgaben ganz oder teilweise durch einen oder mehrere Algorithmen übernommen.[292] Bei automatisierten Entscheidungen geht es damit im Kern um den Einsatz von Algorithmen, welche die menschliche Informationsverarbeitung und -bewertung ganz oder teilweise ersetzen.

Um eine automatisierte Entscheidung zu identifizieren, müssen somit die folgenden zwei Fragen mit ja beantwortet werden:

Liegt eine Entscheidungssituation, d.h. eine notwendige Wahl zwischen verschiedenen Möglichkeiten, vor?

Wird ein Teil des oder der ganze Entscheidungsprozess an einen Algorithmus übertragen?

Bei Algorithmen handelt es sich um eine Abfolge von klar definierten Schritten, Anweisungen oder Befehlen, anhand derer eine Eingabe in eine Ausgabe umgewandelt wird.[293] Mit Blick auf die automatisierte Entscheidungsfällung bedeutet dies, dass Eingabeinformationen zu einer Entscheidung oder einer Entscheidungsvorstufe (bspw. verschiedenen Alternativen) verarbeitet werden. Die Art und Komplexität algorithmenbasierter Automatisierungssysteme reicht dabei von der Informationsbeschaffung, der einfachen Organisation der Informationsquellen über deren ausführliche Analyse bis hin zur Ausarbeitung von Vorschlägen für Entscheidungsoptionen, die den eingehenden Informationen am besten entsprechen, oder sogar zur Wahl oder Ausführung der eruierten Möglichkeiten.[294] Automatisiert werden können entsprechend sämtliche Schritte des Entscheidungsprozesses von der Problemformulierung über den Entschluss bis hin zur Kontrolle oder auch nur einzelne Schritte wie die Informationsbeschaffung, Alternativensuche und -bewertung oder die Realisierung einer Entscheidung.

Je nachdem, welche Teile des Entscheidungsprozesses an einen Algorithmus übertragen werden, handelt es sich um eine voll- oder teilautomatisierte Entscheidung. Bei Letzterer ist ein grösseres menschliches Eingreifen nötig als bei Ersterer. Bestehen ein Höchstmass an Automatisierung und maximale Unabhängigkeit vom Menschen, ist dabei teilweise auch die Rede von autonomen Systemen. Mit Blick auf automatisierte Entscheidungen wird jedoch regelmässig nicht von Voll- oder Teilautomatisierung gesprochen, sondern von automatisierten Entscheidungen und Entscheidungsunterstützungssystemen.[295]

Die blosse Tatsache, dass eine Entscheidung als automatisiert angesehen wird, sagt noch nichts über den zugrundeliegenden Algorithmen aus. Die Wahl des passenden Algorithmus für ein ADM-System ist abhängig von den zu erreichenden Zielen und somit von der konkreten Ausgestaltung des Entscheidungsproblems, welches gelöst werden soll, sowie dem gewünschten Automatisierungsgrad. Es gibt nicht nur eine, sondern eine Vielzahl verschiedener Algorithmen-Arten, welche automatisierten Entscheidungen einzeln oder kombiniert zugrunde liegen können. Die verschiedenen Algorithmen werden je nach Sichtweise in unterschiedliche Kategorien eingeteilt: bspw. anhand der Art des Verfahrens, der Problemstellung, der Anzahl Rechenschritte oder der zu erfüllenden Funktion.[296]

Mit Blick auf die automatisierte Entscheidungsfällung wird heute oftmals zwischen traditionell-deterministischen Algorithmen und Algorithmen des maschinellen Lernens unterschieden. Die Vermutung liegt nahe, dass diese Unterscheidung unter anderem geprägt ist von der historischen Entwicklung automatisierter Entscheidungssysteme, welche ursprünglich vorwiegend auf traditionell-deterministischen Algorithmen basierten, während heute vermehrt (aber nicht ausschliesslich) Algorithmen des maschinellen Lernens zum Einsatz kommen. Dass Letztere und mit ihnen Systeme mit sogenannter künstlicher Intelligenz heute eine wichtige Grundlage moderner ADM-Systeme bilden, lässt sich insbesondere auf die Tatsache zurückführen, dass bei der Automatisierung von Entscheidungen die Möglichkeit, Daten auszuwerten und neue Erkenntnisse sowie Vorhersagen aus ihnen zu gewinnen, eine zentrale Rolle spielt. Ebenso wie der Mensch für seine Entscheidungsfällung auf Informationen bzw. Daten angewiesen ist, basieren auch die zur Automatisierung eingesetzten (ML‑)Algorithmen auf Daten, welche verarbeitet und in neue Informationen umgewandelt werden. Durch die Übertragung der Datensammlung, -bearbeitung und -auswertung an einen ML-Algorithmus, können umfassendere Prognosen erstellt und Entscheidungsprobleme gelöst werden, an denen der Mensch bis anhin gescheitert ist.

Siehe dazu vorne I.1; Thouvenin/Früh/George, N 2. ↵

Wiener, 169–170; siehe auch Bittorf, 17; Zeidler, 15–17. ↵

Zeidler, 16–17; Huber, 13. ↵

Degrandi, 27, 52–53; Simitis, Informationskrise, 98–100. ↵

Klug, Datenverarbeitungsmaschinen, 189. ↵

Siehe bspw. Zeidler, 17. ↵

Siehe bspw. Degrandi, 12–13. ↵

Simitis, Informationskrise, 101. ↵

Thouvenin/Früh/George, N 5. ↵

Degrandi, 13. ↵

Klug, Datenverarbeitungsmaschinen, 190; ebenso Kilian, 16. ↵

Thouvenin/Früh, 6. ↵

Thouvenin/Früh, 5. ↵

Thouvenin/Früh, 7, m.w.N. ↵

Zum Begriff siehe Misselhorn, 21–22. ↵

Thouvenin/Früh, 6–7, Fn. 28; Thouvenin/Früh/George, N 5–6, m.w.N.; zum Begriff der Expertensysteme siehe Styczynski/Rudion/Naumann, 10–14; zu Expertensystemen in den frühen 1980er-Jahren siehe bspw. Basden. ↵

Styczynski/Rudion/Naumann, 10–12; Thouvenin/Früh/George, N 6. ↵

Degrandi, 34–36; siehe auch Eberle/Garstka/Wegscheider, 106; Fiedler, Rechenautomat, 151. ↵

Degrandi, 35; Kilian, 21. ↵

Degrandi, 35; Kilian, 21; zur Definition des Begriffs Algorithmus siehe hinten II.5.1 und die Nachweise in Fn. 299. ↵

Degrandi, 36; Expertengruppe zur Zukunft der Datenbearbeitung und Datensicherheit, 38; Niederée/Nejdl, 46. ↵

Degrandi, 36. ↵

Kilian, 21. ↵

Thouvenin/Früh, 7. ↵

Degrandi, 46. ↵

Thouvenin/Früh/George, N 6. ↵

Degrandi, 46. ↵

Degrandi, 13, m.w.N.; zur Formalisierung siehe Wegscheider, 49–50. ↵

Zu den einzelnen Schritten des Entscheidungsprozesses siehe hinten II.3.2. ↵

In diese Richtung Degrandi, 35–36, wonach der Maschinenlauf keine geistige Tätigkeit darstelle; ähnlich Bull, 68–70, m.w.N., welcher davon ausging, dass Maschinen keine Entscheidungen im eigentlichen Sinne treffen, sondern nur im Sinne der vorgegebenen menschlichen Programmierung arbeiten würden. ↵

Kirste/Schürholz, 24. ↵

Siehe bspw. Huber, 13; siehe dazu auch hinten VI.2. ↵

Degrandi, 53. ↵

Degrandi, 55–56. ↵

Expertengruppe zur Zukunft der Datenbearbeitung und Datensicherheit, 32. ↵

Thouvenin/Früh, 7; siehe auch Kirste/Schürholz, 24. ↵

Braun Binder, Künstliche Intelligenz, 467; siehe auch Dräger/Müller-Eiselt, 7; Kasper, 71. ↵

Martini, Blackbox, 4; siehe auch Martini, Big Data, 136. ↵

Siehe dazu vorne I.1; sowie die Nachweise in Fn. 4. ↵

Algorithm Watch, Atlas, 3, siehe auch 26–43, in welchen aufgezeigt wird, wo die automatisierte Entscheidungsfällung in unserem Alltag bereits vorkommt. ↵

Martini, Blackbox, 4; Martini, Big Data, 136; siehe auch Busch, 12–13. ↵

Martini, Blackbox, 4; Martini, Big Data, 136. ↵

Born, 66–67; Ernst, 1026; Martini, Blackbox, 4. ↵

Siehe dazu Busch, 13–15; Kasper, 43–45, m.w.N. ↵

Siehe dazu Busch, 13; Ernst, 1026; Thouvenin et al., N 1–2; Weber, R.H., Insurance, N 3–4. ↵

In diese Richtung Algorithm Watch, Atlas, 6. ↵

Algorithm Watch, Atlas, 30–31; siehe auch Dräger/Müller-Eiselt, 60–62. ↵

Zur personalisierten Werbung siehe Auf der Maur/Fehr-Bosshard. ↵

Kasper, 71–74, m.w.N.; Manhart, o.S. ↵

Expertengruppe zur Zukunft der Datenbearbeitung und Datensicherheit, 31–32, 34. ↵

Expertengruppe zur Zukunft der Datenbearbeitung und Datensicherheit, 32. ↵

Alpaydin, Introduction, 1. ↵

Zum Begriff siehe Martini, Big Data, 101–105, welcher das Phänomen «Big Data» als Kombination von Volume (Datenmenge), Velocity (erhöhte Verarbeitungsgeschwindigkeit), Variety (technische Möglichkeit, Daten aus unterschiedlichen Kontexten zusammenzuführen) und Analysis (verfeinerte Analysemethoden) beschreibt. ↵

Alpaydin, Introduction, 15; COE et al., 414. ↵

Alpaydin, Introduction, 2; Alpaydin, Maschinelles Lernen, 1. ↵

COE et al., 414. ↵

Alpaydin, Introduction, 13; siehe auch Niebler/Lindner, 3–4. ↵

Alpaydin, Introduction, 13. ↵

Ng/Soo, VIII. ↵

Runkler, 2. ↵

Kirste/Schürholz, 21; siehe auch Marr, Difference, o.S.; ausführlich zum Begriff der künstlichen Intelligenz siehe hinten II.2.3. ↵

Siehe dazu Kirste/Schürholz, 23. ↵

Kirste/Schürholz, 23. ↵

II.1.1, bei Fn. 65 und 66. ↵

Kirste/Schürholz, 24. ↵

Blarer et al., 20–21; siehe auch Kirste/Schürholz, 22–23; Marr, Difference, o.S. ↵

Blarer et al., 20; siehe auch OECD, 15, 19. ↵

Blarer et al., 21; Wuttke, Machine Learning, o.S. ↵

Alpaydin, Introduction, 3; siehe dazu hinten IV.3.3. ↵

Alpaydin, Introduction, 3; Körner, 46; siehe auch Trabs et al., 5. ↵

Blarer et al., 21. ↵

Blarer et al., 20. ↵

Zitiert nach: Jaedtke, o.S. ↵

Kirste/Schürholz, 24; Manhart, o.S. ↵

Manhart, o.S. ↵

Braun Binder, Künstliche Intelligenz, 467; Christen et al., 53; Garriga, 50; Gethmann et al., Einführung, 7; Niebler/Lindner, 4. ↵

Garriga, 50; eine Übersicht über Services zur Entwicklung intelligenter Anwendungen ohne spezielles Wissen zu maschinellem Lernen findet sich bei Manhart, o.S. ↵

Thouvenin/Früh/George, N 7. ↵

Misselhorn, 22; siehe dazu auch hinten IV.3.2. ↵

Manhart, o.S. ↵

Manhart, o.S. ↵

Ng/Soo, 107–108, 167. ↵

Behrens, 76. ↵

Aunkofer, Entscheidungsbaumverfahren, o.S.; siehe auch Alpar et al., 217; Alpaydin, Introduction, 217; Kelleher/Tierney, 137. ↵

Siehe dazu Wuttke, Machine Learning, o.S.; hinten IV.3.1. ↵

Blarer et al., 20; Kirste/Schürholz, 24–25. ↵

Kirste/Schürholz, 24; siehe dazu jedoch auch hinten IV.3.4. ↵

Jaedtke, o.S.; siehe auch Garriga, 50. ↵

Expertengruppe zur Zukunft der Datenbearbeitung und Datensicherheit, 38. ↵

Duisberg, N 4. ↵

Siehe dazu Alpaydin, Machine Learning, 18; Krüger, J./Lischka, 13. ↵

Ng/Soo, XX. ↵

Krüger, J./Lischka, 15; Niebler/Lindner, 4; siehe auch Alpaydin, Machine Learning, 16–18. ↵

Blarer et al., 27. ↵

Siehe dazu Algorithm Watch, Atlas, 7; Krüger, J./Lischka, 11. ↵

Thouvenin/Früh/George, N 2, 7. ↵

Ramge, 8, 38; Thouvenin/Früh, 3; siehe auch Thouvenin/Früh/George, N 7; Danner, 7; Algorithm Watch, Atlas, 8; COE et al., 414; Niebler/Lindner, 4. ↵

Thouvenin/Früh, 1. ↵

Siehe bspw. VZBV, Entscheidungsfindung; VZBV, Entscheidungsprozesse; ähnlich: Zweig. ↵

Siehe bspw. Ernst; Lischka/Klingel, 36; Martini, Blackbox, 27; siehe auch Christen et al., 94; VZBV, Entscheidungsfindung; Zweig. ↵

Siehe bspw. Christen et al., 71–75. ↵

Siehe bspw. Busch, 7; Dreyer/Schulz, 13; Zarsky. ↵

Siehe bspw. Araujo et al.; Bayamlioğlu; Braun Binder, Künstliche Intelligenz, 467; Hänold, Profiling, 125. ↵

Siehe bspw. Araujo et al.; Algorithm Watch, Atlas, 3; Algorithm Watch, Automating, 9; Hänold, Profiling; Jaume-Palasí/Spielkamp, 2; Malgieri; Sancho; Thouvenin et al., Regulation; VZBV, Entscheidungsfindung, 516; VZBV, Entscheidungsprozesse, 3; siehe auch Dreyer/Schulz, 12–13; Zweig, 9–10. ↵

Siehe bspw. Araujo et al., 613; Algorithm Watch, Automating, 9; Busch; Thouvenin/Früh, 13; Thouvenin et al., Regulation. ↵

Ebenso Gordon/Lutz, 54; siehe auch Thouvenin/Früh, 13; Thouvenin et al., Regulation, 1. ↵

Algorithm Watch, Automating, 9; Jaume-Palasí/Spielkamp, 2; ähnlich Christen et al.; Lischka/Klingel, 5; VZBV, Entscheidungsfindung; VZBV, Entscheidungsprozesse; Zweig. ↵

Algorithm Watch, Atlas, 7; ähnlich Hänold, Versicherungsbereich, 5. ↵

Siehe bspw. Vieth/Wagner, B., 13; Zweig, 12. ↵

Siehe bspw. Algorithm Watch, Atlas, 7; Algorithm Watch, Automating, 9. ↵

Thouvenin/Früh, 5–6; VZBV, Entscheidungsprozesse, 3. ↵

Siehe dazu die Nachweise in Fn. 90–97. ↵

Eine ausführliche Auflistung verschiedener Anwendungen automatisierter Entscheidungssysteme findet sich für Deutschland in Algorithm Watch, Atlas; sowie für Europa in Algorithm Watch, Automating; siehe auch Busch, 12–17; Hänold, Profiling, 127–128; Lischka/Klingel; vorne II.1.2 bei Fn. 90–97. ↵

Siehe bspw. Algorithm Watch, Atlas, 42, betreffend den Hochfrequenzhandel. ↵

COE et al., 416; Krüger, J./Lischka, 9; Ziegenbalg, J./Ziegenbalg, O./Ziegenbalg, B., 1; Zweig, 13; siehe auch Cormen et al., 13. ↵

In diesem Sinne bereits Koeszegi, 157. ↵

Siehe bspw. Blarer et al., 7; Braun Binder, Künstliche Intelligenz, passim; Bitkom e.V./DFKI, passim; Pieper, passim; Stiller/Jäger/Giessler, passim. ↵

Nahrstedt, 5; siehe auch Braun Binder, Künstliche Intelligenz, 468. ↵

Braun Binder, Künstliche Intelligenz, 468; Blarer et al., 19; Pieper, 9; ähnlich Marr, Difference, o.S.; Niederée/Nejdl, 42; OECD, 22; eine Übersicht verschiedener Definitionsansätze findet sich in Ertel, 1–6. ↵

Marr, Difference, o.S.; siehe auch Niederée/Nejdl, 42. ↵

Blarer et al., 19; zum Intelligenzbegriff siehe bspw. Schael, 548. ↵

Stiller/Jäger/Giessler, 3. ↵

Braun Binder, Künstliche Intelligenz, 468; Christen et al., 72; HLEG-AI, Definition AI, 5. ↵

Christen et al., 72. ↵

Niederée/Nejdl, 42; Stiller/Jäger/Giessler, 3; siehe auch Krüger, J./Lischka, 13; Ramge, 25. ↵

Braun Binder, Künstliche Intelligenz, 468. ↵

Christen et al., 72; HLEG-AI, Definition AI, 5. ↵

Marr, Difference, o.S.; HLEG-AI, Definition AI, 5. ↵

Algorithm Watch, Automating, 18; Braun Binder, Künstliche Intelligenz, 467; siehe bspw. Christen et al.; Martini, Blackbox. ↵

Krüger, J./Lischka, 11–14. ↵

Algorithm Watch, Atlas, 7; Algorithm Watch, Automating, 9; Braun Binder, Künstliche Intelligenz, 470. ↵

Algorithm Watch, Atlas, 7; siehe auch Braun Binder, Künstliche Intelligenz, 470; Krüger, J./Lischka, 13. ↵

Ebenso bereits Thouvenin/Früh, 13, zum Anwendungsbereich der datenschutzrechtlichen ADM-Bestimmungen. ↵

Göbel, 31–32. ↵

Amann, VII. ↵

Jain/Lim, 1. ↵

Siehe dazu Amann, VII. ↵

Göbel, 36–37. ↵

Brockhaus: Entscheidung (allgemein), <https://brockhaus.de/ecs/enzy/article/entschei​dung-allgemein> (18.10.2022); Göbel, 31. ↵

Pfister/Jungermann/Fischer, 2–3; siehe auch Nitzsch, 5–9. ↵

Laux/Gillenkirch/Schenk-Mathes, 3. ↵

Gillenkirch Robert: Gabler Wirtschaftslexikon, Entscheidungstheorie, <https://wirt​schaftslexikon.gabler.de/definition/entscheidungstheorie-32315/version-255858> (18.10.2022). ↵

Gillenkirch Robert: Gabler Wirtschaftslexikon, Entscheidungstheorie, <https://wirt​schaftslexikon.gabler.de/definition/entscheidungstheorie-32315/version-255858> (18.10.2022); Laux/Gillenkirch/Schenk-Mathes, XXV, 3–4; siehe auch Amann; Göbel. ↵

Laux/Gillenkirch/Schenk-Mathes, 3. ↵

Gillenkirch Robert: Gabler Wirtschaftslexikon, Entscheidungstheorie, <https://wirt​schafts​lexikon.gabler.de/definition/entscheidungstheorie-32315/version-255858> (18.10.2022). ↵

Gillenkirch Robert/Winter Eggert: Gabler Wirtschaftslexikon, Entscheidung, <https://​wirt​schaftslexikon.gabler.de/definition/entscheidung-36360/version-259815> (18.10.2022). ↵

Göbel, 32; ebenso aus psychologischer Sicht Pfister/Jungermann/Fischer, 2. ↵

Bei den Umweltzuständen handelt es sich um äussere Gegebenheiten, welche das Ergebnis einer Entscheidung mitbestimmen, die der Entscheidende kurzfristig jedoch nicht beeinflussen kann. Siehe dazu Gillenkirch Robert: Gabler Wirtschaftslexikon, Umweltzustand, <https://wirt​schaftslexikon.gabler.de/definition/umweltzustand-47013/version-​270284> (18.10.2022); Göbel, 32. ↵

Gillenkirch Robert/Winter Eggert: Gabler Wirtschaftslexikon, Entscheidung, <https://​wirtschaftslexikon.gabler.de/definition/entscheidung-36360/version-259815> (18.10.2022); Dichtl/Issing, 492; Göbel, 31–32. ↵

Göbel, 32. ↵

Göbel, 32. ↵

Göbel, 32. ↵

Dies gilt auch im Rahmen der psychologischen Entscheidungsforschung (siehe dazu Pfister/Jungermann/Fischer, 2). ↵

Gillenkirch Robert: Gabler Wirtschaftslexikon, Entscheidungsprozess, <https://wirt​schaftslexikon.gabler.de/definition/entscheidungsprozess-35511/version-258991> (18.10.2022). ↵

Pfister/Jungermann/Fischer, 4; siehe dazu bspw. Eilon, B173–B177; Gillenkirch Robert: Gabler Wirtschaftslexikon, Entscheidungsprozess, <https://wirtschaftslexikon.gabler.de/definition/entscheidungsprozess-35511/version-258991> (18.10.2022); Göbel, 31–36, welche den Entscheidungsprozess jeweils unterschiedlich beschreiben. ↵

Zu den verschiedenen möglichen Schritten von Entscheidungsprozessen siehe Alpar et al., 270; Becker/Ulrich/Botzkowski, 12–13, 15, m.w.N.; Gillenkirch Robert: Gabler Wirtschaftslexikon, Entscheidungsprozess, <https://wirtschaftslexikon.gabler.de/definition/entscheidungsprozess-35511/version-258991> (18.10.2022); Göbel, 44; Haun, 49; Laux/Gillenkirch/Schenk-Mathes, 12–15; Mag, 2–3; Nink, 30; Pfister/Jungermann/Fischer, 3–4; Tschudi, 265–270; Wikipedia: Entscheidungsprozess, <https://de.wikipedia.org/wiki/Entscheidungsprozess> (18.10.2022). ↵

Zum Ganzen Gillenkirch Robert: Gabler Wirtschaftslexikon, Entscheidungsprozess, <https://wirtschaftslexikon.gabler.de/definition/entscheidungsprozess-35511/version-​258991> (18.10.2022); Wikipedia: Entscheidungsprozess, <https://de.wikipedia.org/wiki/Entscheidungsprozess> (18.10.2022); siehe auch Alpar et al., 271; Laux/Gillenkirch/Schenk-Mathes, 13; Tschudi, 266. ↵

Zum Ganzen Wikipedia: Entscheidungsprozess, <https://de.wikipedia.org/wiki/Ent​schei​dungsprozess> (18.10.2022); siehe auch Becker/Ulrich/Botzkowski, 12, 14; Göbel, 45; Haun, 49. ↵

Gillenkirch Robert: Gabler Wirtschaftslexikon, Entscheidungsprozess, <https://wirt​schaftslexikon.gabler.de/definition/entscheidungsprozess-35511/version-258991> (18.10.2022); Tschudi, 266; Wikipedia: Entscheidungsprozess, <https://de.wikipedia.org/wiki/Entscheidungsprozess> (18.10.2022); siehe auch Alpar et al., 271; Laux/Gillenkirch/Schenk-Mathes, 14. ↵

Wikipedia: Entscheidungsprozess, <https://de.wikipedia.org/wiki/Entscheidungspro​zess> (18.10.2022). ↵

Tschudi, 266. ↵

Wikipedia: Entscheidungsprozess, <https://de.wikipedia.org/wiki/Entscheidungspro​zess> (18.10.2022). ↵

Wikipedia: Entscheidungsprozess, <https://de.wikipedia.org/wiki/Entscheidungspro​zess> (18.10.2022); siehe auch Alpar et al., 271. ↵

Wikipedia: Entscheidungsprozess, <https://de.wikipedia.org/wiki/Entscheidungspro​zess> (18.10.2022). ↵

Tschudi, 267–268; siehe auch Becker/Ulrich/Botzkowski, 15. ↵

Becker/Ulrich/Botzkowski, 15; siehe auch Mag, 6; Laux/Gillenkirch/Schenk-Mathes, 15; Tschudi, 267. ↵

Gillenkirch Robert: Gabler Wirtschaftslexikon, Entscheidungsprozess, <https://wirt​schaftslexikon.gabler.de/definition/entscheidungsprozess-35511/version-258991> (18.10.2022); siehe auch Laux/Gillenkirch/Schenk-Mathes, 15; Nink, 30. ↵

Tschudi, 267–268. ↵

Tschudi, 268; siehe auch Göbel, 40. ↵

Tschudi, 269; Wikipedia: Entscheidungsprozess, <https://de.wikipedia.org/wiki/Ent​scheidungsprozess> (18.10.2022); siehe auch Mag, 3; Pfister/Jungermann/Fischer, 4. ↵

Zum Ganzen Tschudi, 269; siehe auch Alpar et al., 270–271; Pfister/Jungermann/Fischer, 4. ↵

Siehe dazu Tschudi, 269–270. ↵

Becker/Ulrich/Botzkowski, 15. ↵

Haun, 49; Nink, 32–33, m.w.N. ↵

Becker/Ulrich/Botzkowski, 15. ↵

Siehe dazu Becker/Ulrich/Botzkowski, 1. ↵

Blarer et al., 26. ↵

Horton, 253. ↵

Wohltmann Hans-Werner/Lackes Richard/Siepermann Markus: Gabler Wirtschaftslexikon, Daten, <https://wirtschaftslexikon.gabler.de/definition/daten-30636/version-​254213> (18.10.2022). Zur datenschutzrechtlichen Definition des Begriffs «Daten» siehe hinten X.2.1.c). ↵

Niebler/Lindner, 3. ↵

Horton, 253. ↵

Becker/Ulrich/Botzkowski, 14; siehe auch Beckmann, 7. ↵

Gillenkirch Robert: Gabler Wirtschaftslexikon, Entscheidungsprozess, <https://wirt​schaftslexikon.gabler.de/definition/entscheidungsprozess-35511/version-258991> (18.10.2022); Wikipedia: Entscheidungsprozess, <https://de.wikipedia.org/wiki/Entschei​dungs​prozess> (18.10.2022); siehe auch Becker/Ulrich/Botzkowski, 13; Laux/Gillenkirch/Schenk-Mathes, 16. ↵

Bambauer/Zarsky, 7. ↵

Haun, 48; ähnlich Gillenkirch Robert: Gabler Wirtschaftslexikon, Entscheidungsprozess, <https://wirt​schaftslexikon.gabler.de/definition/entscheidungsprozess-35511/version-​258991> (18.10.2022). ↵

Dräger/Müller-Eiselt, 33–34. ↵

Wikipedia: Entscheidungsprozess, <https://de.wikipedia.org/wiki/Entscheidungspro​zess> (18.10.2022); siehe auch Ernst, 1028. ↵

Göbel, 185. ↵

Göbel, 181; siehe auch Nitzsch, 37–43. ↵

Göbel, 181; Haun, 49; siehe auch Nitzsch, 37–47; Zweig, 15. ↵

Siehe dazu Nitzsch, 15–17; Pfister/Jungermann/Fischer, 132–134, m.w.N. ↵

Alpar et al., 272; Tversky/Kahneman; siehe dazu weiterführend Haselton/Nettle/Andrews, 725–727, m.w.N. ↵

Nink, 35; Pfister/Jungermann/Fischer, 132, m.w.N. ↵

Kahneman/Sibony/Sunstein, 179; Pfister/Jungermann/Fischer, 132. ↵

Dräger/Müller-Eiselt, 33–36; siehe auch Nitzsch, 35–47. ↵

Siehe dazu ausführlich Jasberg/Sizov, 21–30, m.w.N. ↵

Göbel, 182; Thouvenin/Früh/George, N 9. ↵

Göbel, 182–183; siehe auch Kahneman/Sibony/Sunstein, 187–190. ↵

Zum Ganzen Göbel, 182–183. ↵

Alpar et al., 272. ↵

Alpar et al., 272; Grob/Bensberg, 47–48. ↵

Wikipedia: Entscheidungsprozess, <https://de.wikipedia.org/wiki/Entscheidungspro​zess> (18.10.2022). ↵

Christen et al., 53; Niebler/Lindner, 4. ↵

Zweig, 15; siehe dazu jedoch auch hinten III.1.3 bei Fn. 385. ↵

PwC, 32; Rosenthal, E-DSG, N 100. ↵

Brockhaus: Automatisierung, <https://brockhaus.de/ecs/enzy/article/automatisierung> (18.10.2022). ↵

Siehe bspw. Nof, Automation, passim. ↵

Brockhaus: Automatisierung, <https://brockhaus.de/ecs/enzy/article/automatisierung> (18.10.2022); Duden Online: Automatisierung, <https://www.duden.de/rechtschreibung/Automatisierung> (19.10.2022); ob der Begriff Automatisierung oder Automation verwendet wird, ist unter anderem abhängig vom Forschungsgebiet (Brockhaus: Automatisierung, <https://brockhaus.de/ecs/enzy/article/automatisierung> (18.10.2022)). ↵

Munzinger Online: Automation/Automatisierung, <https://www.munzinger.de/search/document?index=duden-d0&id=D000000492&type=text/html&query.key=HwVEaGuI&​template=/publikationen/duden/document.jsp#D00000014300> (19.10.2022); Nof, Automation, 14. ↵

Nof, Automation, 14. ↵

Cambridge Dictionary, automation, <https://dictionary.cambridge.org/dictionary/eng​lish/automation> (19.10.2022); Merriam-Webster, automation, <https://www.merriam-webster.com/dictionary/auto​mation#learn-more> (19.10.2022); Nof, Automation, 14; siehe auch Brockhaus: Automatisierung, <https://brockhaus.de/ecs/enzy/article/automatisierung> (18.10.2022). ↵

Brockhaus: Automatisierung, <https://brockhaus.de/ecs/enzy/article/automatisierung> (18.10.2022); Voigt Kai-Ingo: Gabler Wirtschaftslexikon, Automatisierung, <https://wirt​schaftslexikon.gabler.de/definition/automatisierung-27138/version-250801> (18.10.2022). ↵

Parasuraman/Sheridan/Wickens, 287; Parasuraman/Riley, 231. ↵

Nof, Automation, 22. ↵

Brockhaus: Automatisierung, <https://brockhaus.de/ecs/enzy/article/automatisierung> (18.10.2022); Gethmann et al., Einführung, 7. ↵

Misselhorn, 7. ↵

Danner, 7, 36; Expertengruppe zur Zukunft der Datenbearbeitung und Datensicherheit, 152. ↵

Danner, 7, 14, 36; siehe auch Gethmann et al., Einführung, 7; zum Zusammenspiel zwischen kognitiver und physischer Automatisierung siehe Stiemerling, 28. ↵

Brockhaus: Automatisierung, <https://brockhaus.de/ecs/enzy/article/automatisierung> (18.10.2022). ↵

Parasuraman/Sheridan/Wickens, 287–288; zum (menschlichen) Entscheidungsprozess siehe vorne II.3.2. ↵

Parasuraman/Sheridan/Wickens, 286, 288. ↵

Alpar et al., 273; Daedelow, N 9; Luber/Litzel, o.S. ↵

Alpar et al., 273; Luber/Litzel, o.S. ↵

Parasuraman/Sheridan/Wickens, 287, 289; Parasuraman/Riley, 232, m.w.N. ↵

Parasuraman/Riley, 232. ↵

Nof, Automation, 40. ↵

Nof, Automation, 39–40; Voigt Kai-Ingo: Gabler Wirtschaftslexikon, Automatisierung, <https://wirtschaftslexikon.gabler.de/definition/automatisierung-27138/version-​250801> (18.10.2022); siehe auch Parasuraman/Riley, 232. ↵

Nof, Automation, 39. ↵

Alpar et al., 272. ↵

Alpar et al., 271–272; zur Rolle des Menschen bei der Entwicklung eines Automatisierungssystems siehe hinten IV.4.2. ↵

Siehe dazu vorne II.2.1. ↵

Datenethikkommission der Bundesregierung, 161. ↵

Datenethikkommission der Bundesregierung, 161. ↵

Datenethikkommission der Bundesregierung, 161. ↵

Datenethikkommission der Bundesregierung, 161. ↵

Zum Ganzen Datenethikkommission der Bundesregierung, 161. ↵

Datenethikkommission der Bundesregierung, 162. ↵

Duden Online: Autonomie, <https://www.duden.de/rechtschreibung/Autonomie> (18.10.2022); Munzinger Online: Autonomie, <https://www.munzinger.de/search/go/do​cu​ment.jsp?id=D000000493> (18.10.2022). ↵

Siehe dazu Munzinger Online: autonom, <https://www.munzinger.de/search/go/do​cu​ment.jsp?id=D000000492> (18.10.2022). ↵

EGE, 10. ↵

EGE, 10–11. ↵

Jaume-Palasí/Spielkamp, 10. ↵

EGE, 7, 11. ↵

EGE, 11; siehe aber Ramge, 3–4, welcher davon ausgeht, dass es keine autonome Technologien gibt. ↵

Thouvenin et al., Regulation, 1; Thouvenin/Früh, 13; ähnlich Danner, 40; siehe auch Nof, Automation, 20 (Tabelle 3.5); Barth, 1. ↵

Siehe bspw. Drösser, 26; Munzinger Online: automatisch, <https://www.munzinger.de/search/document?index=duden-d0&id=D000000492&type=text/html&query.key=rajL8​MdI​&template=/publikationen/duden/document.jsp#D000000​14298> (19.10.2022). ↵

Siehe dazu vorne II.2.2. ↵

Siehe dazu hinten II.5.1 bei Fn. 310. ↵

Güting/Dieker, 1; eine Auflistung verschiedener Definitionsansätze findet sich in Ziegenbalg, J./Ziegenbalg, O./Ziegenbalg, B., 24–25; siehe auch Vieth/Wagner, B., 9; Nahrstedt, 3. ↵

Siehe bspw. Busch, 9; Höfer, N 2; Nahrstedt, 1; siehe auch Ernst, 1026–1027; Krüger, J./Lischka, 9; Martini, Blackbox, 18. ↵

Cormen et al., 5; Barth, 8; siehe auch Martini, Blackbox, 19. ↵

Harel/Feldman, 5. ↵

Vieth/Wagner, B., 11. ↵

Vieth/Wagner, B., 11. ↵

Krüger, J./Lischka, 9; Nahrstedt, 1; Ziegenbalg, J./Ziegenbalg, O./Ziegenbalg, B., 1; siehe auch Barth, 7. ↵

Martini, Blackbox, 19. ↵

Martini, Blackbox, 18. ↵

Martini, Blackbox, 19. ↵

Expertengruppe zur Zukunft der Datenbearbeitung und Datensicherheit, 38; Podesta et al., 46; siehe auch Heuberger, N 18; Cormen et al., 13. ↵

Siehe dazu vorne II.3.2. ↵

Vieth/Wagner, B., 13. ↵

Siehe bspw. Harel/Feldman, 5; Höfer, N 1–2; Barth, 6. ↵

Barth, 6. ↵

Vieth/Wagner, B., 13; siehe auch Harel/Feldman, 6. ↵

Nahrstedt, 3; Heise, 203; Hoffmann-Riem, 4; siehe auch Barth, 7; Ziegenbalg, J./​Ziegenbalg, O./Ziegenbalg, B., 1–2. ↵

Nahrstedt, 3. ↵

Vieth/Wagner, B., 13. ↵

Blarer et al., 27, welche von einer Kombination verschiedener KI-Technologien sprechen; siehe auch Domingos, 85–86; Zweig, 13. ↵

Ernst, 1026; Martini, Blackbox, 17; Ziegenbalg, J./Ziegenbalg, O./Ziegenbalg, B., 2. ↵

Ziegenbalg, J./Ziegenbalg, O./Ziegenbalg, B., 33. ↵

Harel/Feldman, 7; siehe auch Barth, 10; Nahrstedt, 1. ↵

Harel/Feldman, 7. ↵

Ernst, 1026; Barth, 10, 16; siehe auch Nahrstedt, 2. ↵

Ziegenbalg, J./Ziegenbalg, O./Ziegenbalg, B., 5. ↵

Ziegenbalg, J./Ziegenbalg, O./Ziegenbalg, B., 2. ↵

Nahrstedt, 6. ↵

Ziegenbalg, J./Ziegenbalg, O./Ziegenbalg, B., 2. ↵

Ernst, 1027. ↵

Nahrstedt, 4–5. ↵

Siehe bspw. Busch, 17–19; Diakopoulos, 57–58; Ernst, 1026; Nahrstedt, 4–5. ↵

Ernst, 1026. ↵

Nahrstedt, 5. ↵

Nahrstedt, 4. ↵

Diakopoulos, 57–58; Busch, 17–19. ↵

Ng/Soo, 7, 11. ↵

Algorithm Watch, Atlas, 7; Algorithm Watch, Automating, 9. ↵

Siehe bspw. Busch; Duisberg, N 4; siehe auch Christen et al., 118; Expertengruppe zur Zukunft der Datenbearbeitung und Datensicherheit, 38; Thouvenin/Früh, 6–7. ↵

Siehe zum Ganzen vorne II.3.1; II.3.2; II.3.3. ↵

Siehe dazu vorne II.3.3. ↵

Siehe dazu vorne II.3.4. ↵

Siehe dazu vorne II.4.1. ↵

Siehe dazu vorne II.4.2. ↵

Siehe dazu vorne II.5.1. ↵

Siehe dazu vorne II.5.3. ↵

Siehe dazu vorne II.4.3. ↵

Siehe dazu vorne II.5.3. ↵

3

Gesellschaftliche und rechtliche Debatte

Übersicht: Chancen und Risiken automatisierter Entscheidungssysteme

Der Einsatz von Algorithmen (des maschinellen Lernens) und von Systemen zur automatisierten Entscheidungsfällung eröffnet in fast allen Feldern der gesellschaftlichen Entwicklung erhebliche Chancen.[1] Mit algorithmischen Systemen sind denn auch hohe Erwartungen verbunden, welche von der Hoffnung auf bahnbrechende wissenschaftliche Erkenntnisse über ein bequemeres Alltagsleben bis hin zu neuen Potenzialen wirtschaftlicher Wertschöpfung reichen.[2] Sämtlichen Chancen der automatisierten Entscheidungsfindung stehen jedoch auch gewisse Risiken gegenüber,[3] welche im Folgenden diskutiert werden. Vorab ist anzumerken, dass viele dieser Chancen, und insbesondere Risiken, nicht immer ausschliesslich im Zusammenhang mit der automatisierten Entscheidungsfällung, sondern oftmals auch unter den Stichworten Algorithmen, Big Data, maschinelles Lernen und künstlicher Intelligenz oder dem Begriff des Profilings angeführt werden.[4] Dies ändert jedoch nichts an der Bedeutung, die sie auch für die automatisierte Entscheidungsfällung haben, zumal entsprechende Systeme regelmässig auf solchen Technologien basieren,[5] womit deren Chancen und Risiken auch für die automatisierte Entscheidungsfällung relevant sind.

Erkenntnisse und Effizienzgewinne vs. umfangreiche Datenbearbeitungen und Intransparenz

Einige Vorteile automatisierter Entscheidungs- oder Entscheidungsunterstützungssysteme im Vergleich mit einem menschlichen Entscheider lassen sich teilweise direkt aus den vorne genannten Grenzen der menschlichen Entscheidungsfällung ableiten.[6] Im Gegensatz zum Menschen, der schnell den Überblick verliert oder für einzelne Aufgaben viel Zeit braucht, ist es algorithmischen Systemen möglich, Muster in grossen Datenmengen zu erkennen oder Berechnungen in kürzerer Zeit, effizienter, präziser und günstiger vorzunehmen.[7] Algorithmen sind (bei genügend Rechen- und Speicherkapazität) weder langsam noch limitiert in der Informationsverarbeitung und können insbesondere auch aus nahezu beliebig vielen und aus unstrukturierten Daten lernen.[8] Vor allem in Kombination mit Big Data können mit den verbesserten Analysetechniken neue Erkenntnisse gewonnen, bisher unbekannte oder unerwartete Zusammenhänge entdeckt und bessere Prognosen oder Vorhersagen erstellt werden.[9] Dadurch können Aufgaben gelöst werden, an denen Menschen bis anhin gescheitert sind.[10] Stimmen die Datengrundlage und der Entscheidungsrahmen, besteht im Ergebnis das Potenzial, dass Entscheidungen von intelligenten Systemen besser, schneller und billiger getroffen werden können, als es Menschen möglich ist.[11] Der Einsatz automatisierter Entscheidungssysteme kann insgesamt dazu beitragen, die Effizienz zu erhöhen, Ressourcen einzusparen und dadurch Gewinne zu steigern.[12] Diese positiven Effekte erhofft sich die Wirtschaft bei der Anwendung von ADM-Systemen.[13]

Mit Blick auf die durch ADM-Systeme möglichen Prognosen und Vorhersagen ist jedoch zu berücksichtigen, dass die Systeme nicht wirklich eine Vorhersage erstellen, sondern darauf trainiert werden, die Erkenntnisse aus der Vergangenheit auf die Zukunft zu projizieren. Damit erhalten sie den Status quo aufrecht.[14] Die Zuverlässigkeit der Systeme wird gefährdet, sobald diese nicht mehr mit neuen Daten gefüttert werden oder wenn sich herausstellt, dass die von den Systemen erkannten und verwendeten Korrelationen keine überzeugenden Ergebnisse liefern.[15]

Da für neue Erkenntnisgewinne möglichst grosse Datenmengen nötig oder zumindest von Vorteil sind, haben Unternehmen mit Zugriff auf enorm grosse Datensätze, wie bspw. Alibaba, Amazon, Baidu, Facebook, Google oder Microsoft, einen kompetitiven Vorteil. Dies bringt die Gefahr der Monopolbildung mit sich.[16] Diesbezüglich darf auch nicht ausser Acht gelassen werden, dass solche datengetriebenen Unternehmen von einem Geschäftsmodell leben, welches darauf beruht, möglichst viele Daten zu erheben und zu verarbeiten, und dass diese Unternehmen oftmals eigene Interessen verfolgen.[17] So verbergen sich hinter auf den ersten Blick harmlosen Anwendungen häufig neugierige Datensammler.[18] Gleichzeitig entsteht aus Sicht der Unternehmen, insbesondere bei auf maschinellem Lernen und Big Data basierenden ADM-Systemen, eine starke Abhängigkeit von der Verfügbarkeit und Qualität der genutzten Daten.[19]

Die neuen Möglichkeiten, jederzeit und umfassend Daten zu sammeln und zu verarbeiten, stehen dabei ganz grundsätzlich den individuellen und gesellschaftlichen Interessen entgegen, den Zugang zu und die Verbreitung von Informationen zu beschränken.[20] Die einer automatisierten Entscheidung oftmals zugrundeliegende notwendige Menge an zu verarbeitenden Daten sowie die Möglichkeiten, Daten aus verschiedenen Quellen zu kombinieren und neue (Personen‑)Daten zu generieren, führen zu Herausforderungen und Risiken in Bezug auf die Privatsphäre des Einzelnen, dessen informationelle Selbstbestimmung sowie den Datenschutz.[21]

Aus Sicht der betroffenen Personen bringt der Einsatz moderner ADM-Systeme das Risiko mit sich, dass die gewonnenen neuen Erkenntnisse auf komplexen Systemen basieren können, deren Zusammenhänge, Wirkmechanismen und Entscheidungslogik möglicherweise vom Einzelnen oder auch von Experten nicht ohne weiteres erschlossen werden können.[22] Auch falls die Systeme grundsätzlich erklärbar sind, bleibt die in Programmiersprache transformierte Entscheidungslogik für die Betroffenen so lange unklar, bis ihnen diese bekannt gemacht wird. Dies birgt die Gefahr der Intransparenz der automatisiert getroffenen Entscheidungen.[23] Intransparenz besteht auch, wenn die Art und Weise der Entscheidungsfällung den betroffenen Personen nicht bewusst ist oder nicht mitgeteilt wird.[24] Den durch ADM-Prozesse gewonnenen Effizienzgewinnen steht zudem das Risiko gegenüber, dass diese verdecken können, dass insgesamt nur zu geringe oder inadäquate Mittel für die Entscheidungsfällung zur Verfügung stehen.[25]

Schnelle Verarbeitung und Verbreitung vs. Monopolisierung, Verminderung der Vielfalt und Absprachen

Ein weiterer Vorteil der neuen technischen Möglichkeiten ist, dass die grossen Datenmengen in Echtzeit verarbeitet, analysiert und die entsprechenden Systeme direkt angepasst werden können.[26] Auf Algorithmen des maschinellen Lernens basierende Systeme passen sich, abhängig vom verwendeten Modell, selbstständig neuen Umständen an.[27] Dies wird insofern begrenzt, als dass neue Modelle erstellt werden müssen, wenn sich die Anwendungssituation ändert.[28] Darüber hinaus sind ADM-Systeme regelmässig skalier- oder kopierbar und können auf nahezu unbegrenzt viele Fälle angewendet werden.[29] Einmal trainiert sind lernende Algorithmen in der Lage, innert kürzester Zeit in grosser Zahl hochwertige Entscheidungen vorzubereiten oder zu treffen.[30]

Als Folge der leichten Kopier- und Skalierbarkeit droht jedoch die Monopolisierung der Entscheidungsfindung durch einen einzelnen Algorithmus und dadurch die Verminderung der Vielfalt der eingesetzten ADM-Systeme.[31] Der zunehmende Einsatz von ADM-Systemen in sämtlichen Lebensbereichen führt ferner dazu, dass möglicherweise immer weniger Menschen von Menschen bewertet werden und dass unter Umständen häufiger maschinelle Bewertungen erfolgen, als dies gesellschaftlich gewünscht ist.[32] Mit dem vermehrten Einsatz von automatisierten Entscheidungssystemen gehen sodann die Gefahr der möglicherweise unzulässigen algorithmengesteuerten (direkten oder indirekten) Absprachen zwischen verschiedenen Unternehmen sowie die Gefahr der Nutzung gewonnener Informationsvorteile zur Festsetzung von überhöhten oder diskriminierenden Preisen einher.[33] Zu berücksichtigen ist zudem, dass die Tatsache, dass ein automatisiertes System mit geringem Mehraufwand auf beliebig viele Fälle angewandt werden kann, dazu führt, dass Fehler aufgrund der steigenden Anzahl getroffener Entscheidungen insgesamt häufiger werden, auch wenn sich die Fehlerquote nicht verändert.[34] Wird dieselbe Entscheidungslogik konsistent auf eine grosse Anzahl von Entscheidungen angewendet, können selbst geringfügige Fehler grössere Folgen mit sich bringen.[35]

Massgeschneiderte Angebote vs. zunehmende Personalisierung

Die Fähigkeiten von ADM-Systemen ermöglichen neue, tiefere Einblicke in die Persönlichkeiten, Bedürfnisse und Präferenzen von Kunden, welche wiederum zu massgeschneiderten Angeboten und personalisierten Services führen.[36] Der Zugang zu gewissen Angeboten und Dienstleistungen kann dadurch demokratisiert und Personen zur Verfügung gestellt werden, die bis anhin aufgrund der (hohen) Kosten davon ausgeschlossen waren.[37] Der Mensch kann bspw. bei Aufgaben wie der Informationssuche oder Produktauswahl bedürfnisorientiert unterstützt werden.[38]

Die zunehmende Personalisierung ermöglicht es Unternehmen, ihren Kunden auf sie zugeschnittene Angebote vorzulegen, Preise zu individualisieren oder gezielt neue Produkte zu entwickeln sowie neue Märkte zu erschliessen.[39] Im Gegensatz zu früher können intelligente Systeme nicht mehr nur einfache vorprogrammierte schematische Entscheidungen treffen, sondern die Entscheidungsregeln werden vom System selber gelernt und verbessert. Beim Vorliegen von sehr vielen (Trainings‑)Daten vermögen ADM-Systeme die Spezialität eines Einzelfalls möglicherweise besser zu erkennen oder vorherzusagen, als es dem Menschen jemals möglich sein wird.[40] Ebenso können positive Filterblasen entstehen, in welchen einer Person bspw. nur diejenigen Suchergebnisse angezeigt werden, die für diese einen Mehrwert bringen bezüglich Inhalt und Relevanz, wodurch für die einzelne Person die Informationsflut reduziert wird.[41]

Gleichzeitig geht mit der zunehmenden Personalisierung die Gefahr negativer Effekte für den Einzelnen oder die Gesellschaft einher. So können auch negative Filterblasen entstehen, in deren Rahmen einem Suchmaschinennutzer bspw. nur Ergebnisse angezeigt werden, welche diesem keinen Wissenszuwachs bringen, da sie ohnehin seinen (bisherigen) Kenntnissen und Präferenzen entsprechen.[42] Dem Nutzer werden dadurch möglicherweise gewisse Informationen vorenthalten oder es wird für ihn aufwändiger, Vergleichsinformationen zu finden, was ein gewisses Risiko der Manipulation und Verhaltenssteuerung mit sich bringt.[43] Ebenso besteht die Gefahr, dass mittels personalisierter Preise die maximale Kaufkraft des Gegenübers abgeschöpft werden soll, was mithin als unfair angesehen wird.[44]

Bessere Entscheidungen vs. fehlende Flexibilität

Ein weiterer Vorteil, der mit Blick auf automatisierte Entscheidungssysteme angeführt wird, ist deren Potenzial, dank besserer Datenauswertung faktenbasiert, anhand klarer Kriterien, konsistenter, ohne Vorurteile sowie unabhängig von der Tagesform und damit objektiver sowie diskriminierungsfreier Entscheidungen treffen zu können.[45] Algorithmen unterliegen (auf den ersten Blick) bspw. keinen kognitiven Verzerrungen.[46] Ebenso können sich lernende Systeme im Laufe der Zeit verbessern und dadurch zu besseren Ergebnissen kommen.[47]

Der angepriesenen Konsistenz automatisierter Entscheidungen wird entgegengehalten, dass einer Software bei ungewöhnlichen Fällen im Gegensatz zum Menschen möglicherweise die Flexibilität fehlt, Unerwartetes auszuwerten oder darauf zu reagieren.[48] Auch werden bspw. Fehler in den Trainingsdaten, der Programmierung oder der Entscheidungslogik vom System einfach angewendet.[49] Algorithmen haben im Grundsatz zwar keine Absicht zu diskriminieren.[50] Trotzdem muss beachtet werden, dass die Ergebnisse von Algorithmen keineswegs immer wertneutral sind und ebenfalls diskriminierend sein können.[51]

Bei der Gestaltung eines automatisierten Entscheidungssystems müssen jedoch gewisse normative Entscheidungen, wie bspw. die verwendeten Fairnesskriterien, vor dem Einsatz des Systems entschieden und deshalb diskutiert werden, was sich wiederum positiv auf die Entscheidungsqualität auswirken kann.[52] Auch wenn automatisierte Systeme Diskriminierung nicht ohne weiteres verhindern können und ihnen selbst ein gewisses Diskriminierungspotenzial innewohnt, können die diesbezügliche Diskussion und Reflexion sowie die Auseinandersetzung mit den für die Entscheidung verwendeten Kriterien dazu führen, möglicherweise diskriminierende Praktiken offenzulegen und zu verhindern, was die Chance mit sich bringt, dadurch insgesamt zu besseren Entscheidungsprozessen zu gelangen.[53]

Ausgewählte gesellschaftliche (Heraus‑)Forderungen

Vorbemerkungen

Als Folge der rasanten Entwicklungen und des damit zusammenhängenden qualitativen und quantitativen Anstiegs softwarebasierter Automatisierung wuchs der Einfluss von ADM-Systemen auf verschiedene Aspekte der Gesellschaft.[54] Aufgrund der möglichen Konsequenzen automatisierter Entscheidungen für den Einzelnen, für Gruppen und für die Gesellschaft insgesamt sind diese in den letzten Jahren in zunehmendem Mass in den Fokus von Politik, Recht und Ethik gerückt[55] und unter dem Stichwort KI vermehrt auch in den Medien diskutiert worden.[56]

Im Zentrum der gesellschaftlichen Debatte stehen dabei meist nicht ADM-Systeme, welche auf einfachen Wenn-dann-Algorithmen oder stets nachvollziehbaren Expertensystemen basieren. Diskutiert werden vorwiegend, wenn auch nicht ausschliesslich, auf selbstlernenden Algorithmen beruhende oder mit dem Schlagwort künstliche Intelligenz umschriebene Systeme zur automatisierten Entscheidungsfällung oder -vorbereitung. Im Fokus der Diskussion stehen unter anderem Fragen der Fairness, Teilhabe[57] und Diskriminierung durch automatisierte Entscheidungen, deren Nachvollziehbarkeit und Transparenz sowie die Ethik automatisierter Entscheidungen und diesen zugrundeliegender Systeme.[58] Hinzu kommen Fragen der Menschenwürde sowie der oftmals datenschutzrechtlich geprägte Blick auf den Schutz der Privatsphäre und die informationelle Selbstbestimmung beim Einsatz von ADM-Systemen.[59] Welche Befürchtungen und (Heraus‑)Forderungen konkret angeführt werden, wird im Folgenden kurz dargestellt.

Teilhabe, Diskriminierung und Fairness

Im Hinblick auf die Teilhabe und das Diskriminierungspotenzial von automatisierten Entscheidungssystemen werden die Fragen gestellt, inwiefern diese den Zugang Einzelner zu verschiedenen Gütern und Leistungen erschweren und ob ihr Einsatz Rechtsgüter und -interessen gefährdet oder soziale Ungleichheiten reproduziert oder verstärkt.[60] Von Diskriminierung wird dabei gesprochen, wenn Personen aufgrund bestimmter Kriterien, wie bspw. Hautfarbe, Geschlecht oder Religion, welche im Hinblick auf die zu beurteilende Frage nicht relevant sind, ungleich behandelt werden.[61] Der Begriff der Teilhabe erfasst hingegen nicht nur abstrakt die systematische Benachteiligung bestimmter Gruppen, sondern soll auch die Aufmerksamkeit dafür schaffen, wo Benachteiligungen stattfinden können.[62] Im Wesentlichen geht es bei der Teilhabe um den (aktiven und passiven) Zugang zu öffentlichen Gütern und Leistungen sowie die Wahrnehmung eigener Rechte und damit insgesamt um die Mitwirkung am gesellschaftlichen Leben.[63]

Befürchtet wird insbesondere, dass die (automatisierte) Entscheidungsfindung massgeblich dadurch beeinflusst wird, dass Vorurteile durch eine vermeintlich objektive Datenbearbeitung in ein objektives Faktum verwandelt werden.[64] Die diesbezügliche Diskussion kommt unter anderem daher, dass von automatisierten Entscheidungssystemen nach aussen eine gewisse Objektivität suggeriert wird, da die auf mathematischen Formeln beruhenden Algorithmen Präzision verheissen und das Gefühl vermitteln, es handle sich stets um berechenbare und zuverlässige Ergebnisse.[65] Dieser Eindruck wird verstärkt durch den vorne[66] angeführten Vorteil, wonach die Berechnungen regelmässig auf grossen Datensätzen und entsprechenden Fakten basieren und Algorithmen weder tagesabhängige Stimmungsschwankungen noch Neid oder Antipathie kennen sowie frei von Emotionen oder irrationaler Willkür agieren und nicht bestechlich sind.[67] Automatisierte Entscheidungen werden deshalb auch als Gegenvorschlag für auf Werturteilen oder Stereotypen basierende Diskriminierungen durch den Menschen präsentiert.[68]

Trotz der scheinbaren Objektivität sind die Antworten von Algorithmen keineswegs immer wertneutral[69] und es gibt sowohl ungerechtfertigte als auch diskriminierende automatisierte Entscheidungen.[70] Verzerrungen der Ergebnisse eines Algorithmus können dabei verschiedene Gründe haben.[71] Oftmals unterschätzt werden die Rolle des Menschen und dessen Einfluss auf ein ADM-System.[72] Da die zugrundeliegenden Algorithmen von Menschen entworfen und implementiert und von diesen wichtige Parameter festgelegt und konfiguriert werden, ist ihre Ausgestaltung eng mit den persönlichen Einstellungen, Werten, Neigungen und Tendenzen dieser Personen verknüpft.[73] Entsprechend besteht die Gefahr, dass diese Elemente bewusst oder unbewusst in die Ausgestaltung der ADM-Systeme einfliessen.[74] Teilweise wird auch befürchtet, dass gewisse Parameter absichtlich oder unabsichtlich so programmiert werden, dass bestimmte Interessen oder Werte gegenüber anderen privilegiert beurteilt werden.[75]

Insbesondere auf maschinellem Lernen basierende Systeme können diskriminierendes Verhalten an den Tag legen, ohne dass jemand die Absicht hatte, Schaden anzurichten.[76] Das Diskriminierungspotenzial automatisierter Entscheidungen liegt dabei oftmals in den Möglichkeiten der heutigen intelligenten Technologien, welche nicht nur die gesellschaftlichen Verhältnisse spiegeln, sondern auch aus ihnen lernen können.[77] Algorithmen des maschinellen Lernens bilden regelmässig das ab, was sie von den Trainingsdaten lernen.[78] Diesem Lernprozess liegt die Annahme zugrunde, dass die in den Daten enthaltenen vorangehenden Entscheidungen richtig waren.[79] Konkret speichert ein lernender Algorithmus die in den Daten enthaltenen Wertungsmuster für sein zukünftiges Verhalten als Erkenntnis ab (d.h. er generalisiert)[80] und spiegelt bzw. reproduziert dadurch die in den Daten (implizit) enthaltenen Vorurteile, Verzerrungen und Diskriminierungen.[81] Es besteht somit die Gefahr, dass Trainingsdaten historisch gewachsene Vorurteile enthalten, welche vom Algorithmus gelernt, in ein vermeintlich objektives Faktum umgewandelt und in die Zukunft projiziert werden, was die automatisierte Entscheidungsfindung wesentlich beeinflusst.[82]

Im Hinblick auf den Einsatz von selbstlernenden Systemen muss deshalb beachtet werden, dass die Qualität des Datenmaterials von entscheidender Bedeutung ist.[83] Bereits die Auswahl der verwendeten Trainingsdaten hat einen wesentlichen Einfluss auf das Ergebnis.[84] Die verwendeten Daten können falsch, unvollständig, veraltet, nicht repräsentativ oder nicht feinkörnig genug sein.[85] Kritisch betrachtet werden diesbezüglich insbesondere Systeme, welche Daten verwenden, die rechtlich als besonders sensibel eingestuft werden, wie bspw. das Geschlecht oder die Herkunft.[86] Eine weitere Problematik findet sich im Umstand, dass die für die Entscheidungsfällung eingesetzten Algorithmen in der Regel lediglich statistische Zusammenhänge (Korrelationen) ermitteln, von welchen nicht ohne Weiteres auf Wirkmechanismen oder Ursachen (kausale Effekte) geschlossen werden kann.[87]

Schleichen sich diskriminierende Muster über die Entwicklung, die Ziele, die Daten oder die Art und Weise, wie die Systeme genutzt werden, in ADM-Systeme ein, kann es nicht nur zur Diskriminierung Einzelner, sondern zudem auch, mit jeder durch das System getroffenen Entscheidung, zu einer selbstverstärkenden Rückkoppelung kommen, wodurch die Reproduktion oder Verstärkung von Vorurteilen, Verzerrungen und sozialen Ungleichheiten droht.[88] Dies bringt Befürchtungen hinsichtlich der Teilhabe mit sich. Diskriminierungen und die Verhärtung bereits bekannter Stereotype durch ADM-Systeme können zu sozialer und kultureller Trennung und Ausgrenzung führen.[89] Es besteht die Gefahr, dass aufgrund der grossen Anzahl betroffener Personen der einem System inhärente (diskriminierende) Effekt eine Breitenwirkung entfalten kann, die ein einzelner oder mehrere menschliche Entscheidungsträger nicht erreichen können.[90] Hinzu kommt, dass beim Entstehen von Algorithmenmonokulturen, welche in einzelnen Sachbereichen vorherrschen und andere Systeme bzw. Ansätze verdrängen, Einzelne, die ansonsten nur durch Entscheidungen eines Systems betroffen wären, möglicherweise systematisch in ihren Teilhabechancen gehemmt werden.[91]

Nicht nur die den ADM-Systemen oftmals zugrundeliegenden Generalisierungen, sondern auch ihr Abstützen auf Klassifizierungen und typisierende Kriterien können zu Diskriminierungen unterschiedlicher Art führen.[92] In Situationen, in denen Personen aufgrund ihrer Daten automatisiert in verschiedene Gruppen eingeteilt und Entscheidungen auf Grundlage dieser Zugehörigkeit getroffen werden, sind algorithmische Klassifikationen meist sogar inhärent diskriminierend.[93] Erfüllt eine Person die Kriterien einer computergenerierten Klasse und wird dieser zugeteilt, werden alle betreffend diese Klasse gemachten (negativen) Schlussfolgerungen auch auf diese Person projiziert, auch wenn dies im konkreten Fall vielleicht gar nicht zutreffend ist.[94] Die getroffene Aussage basiert bloss auf einer sogenannten Gruppenwahrscheinlichkeit.[95] Damit einhergehend besteht die Gefahr, dass neue, mehr oder weniger zufällig zusammengewürfelte Gruppen systematisch und ohne rechtfertigenden Grund mit negativen Folgen konfrontiert oder von gewissen Gütern ausgeschlossen werden.[96] Es stellt sich die Frage, wie viel Generalisierungsungerechtigkeit zugunsten anderer Ziele hingenommen werden darf und muss und welches Mass an Einzelfallgerechtigkeit zu fordern ist.[97] Zu berücksichtigen ist jedoch, dass diese Problematik der Generalisierung auch besteht, wenn der Mensch ohne maschinelle Hilfe gewisse Gruppen definiert, welche für alle angewandt werden.

Das Gesagte bedeutet jedoch nicht, dass alle Systeme zur automatisierten Entscheidungsfällung inhärent diskriminierend sind. Bei gegebenen Voraussetzungen (bspw. keine Diskriminierungen im Trainingsdatensatz enthalten oder im Programmcode implementiert) ist es durchaus möglich, dass Algorithmen diskriminierungsfrei entscheiden.[98] Gewisse Anforderungen an Algorithmen, bspw. hinsichtlich Genauigkeit und Fairness, lassen sich jedoch grundsätzlich nicht gleichzeitig erreichen,[99] weshalb diesbezüglich anspruchsvolle Kompromisse notwendig sind.[100] Bei entsprechenden Abwägungen werden selbst gutmeinende Entscheidungsträger vor schwierige Entscheidungen gestellt.[101]

Damit die Diskriminierung im Rahmen der Systementwicklung bereits berücksichtigt werden kann, fordern gewisse Autoren, dass ein Massstab festgelegt wird, an welchem sich die Diskriminierung messen lässt, bspw. indem die Gesellschaft einen (in Zahlen) messbaren Diskriminierungsbegriff festlegt.[102] Die Kriterien für Nichtdiskriminierung und Gerechtigkeit sollen dabei kontextspezifisch und demokratisch ausgehandelt werden.[103] Ebenso sei eine Sensibilisierung derjenigen nötig, welche an der Entwicklung und dem Einsatz von Systemen zur automatisierten Entscheidungsfällung mitwirken, damit diese Diskriminierungen so weit wie möglich von Beginn weg vermieden werden können oder ihnen gegengesteuert werden kann.[104]

Da automatisierte Entscheidungen immer nur so gut sind wie die Daten, die ihnen zugrunde liegen,[105] fordern Experten zudem (ganz allgemein und nicht nur mit Blick auf mögliche Diskriminierungen) die Sicherstellung einer genügenden Datenqualität sowie das Testen und Dokumentieren aller verwendeten Prozesse und Datensätze in sämtlichen Schritten wie Planung, Ausbildung, Erprobung und Einsatz.[106] Um negative Auswirkungen zu vermeiden, wird sodann angeführt, dass bei der Erarbeitung von Entscheidungsprozessen mit Algorithmen eine hochgradig interdisziplinäre Zusammenarbeit verschiedener Fachbereiche, wie Datenanalysten, Programmierern, Algorithmenspezialisten, aber auch Branchenkenner, und ein übergreifendes Fachwissen sowie ein gemeinsames Verständnis nötig seien.[107] Die Entscheidung darüber, welche Kriterien für Nichtdiskriminierung und Gerechtigkeit in welchem Kontext angemessen seien, dürfe dabei nicht alleine den Technikentwicklern überlassen werden, da es sich hier nicht um eine technische, sondern um eine gesellschaftliche und politische Frage handle.[108]

Transparenz und Nachvollziehbarkeit

Während Algorithmen immer mehr über uns zu «wissen» scheinen, verstehen wir immer weniger, wie die Algorithmen, denen wir die Organisation unseres Lebens oder wichtige (Geschäfts‑)Entscheidungen anvertrauen, tatsächlich funktionieren.[109] Dies kommt unter anderem daher, dass das Verhalten von KI-Systemen bzw. Algorithmen des maschinellen Lernens – im Gegensatz zu bisherigen deterministischen Systemen, die auf einer Abfolge von durch den Programmierer vorgegebenen Befehlen basierten – durch eine Menge verschiedener Regeln, Zahlen und Gewichtungen definiert wird, die sich auch einem erfahrenen Betrachter nicht immer auf den ersten Blick erschliessen.[110] Die mathematischen Gesetzmässigkeiten, denen ADM-Systeme unterliegen, sind als solche zwar nicht irrational.[111] Im praktischen Einsatz basiert ihre Konstruktionslogik, insbesondere aus Sicht eines durchschnittlichen Nutzers, trotzdem oftmals auf dem Prinzip «vertrauen statt verstehen».[112]

Die gesellschaftliche Debatte über ADM-Systeme wird entsprechend wesentlich geprägt durch die Forderung nach Transparenz und Nachvollziehbarkeit. Diese beiden Punkte hängen eng mit der Angst vor Diskriminierung und ungerechtfertigter Behandlung zusammen und bilden die Voraussetzung für eine belastbare ethische und rechtliche Bewertung.[113] Nur wer weiss, ob, nach welchen Kriterien und auf Grundlage welcher Informationen (automatisiert) Entscheidungen getroffen werden, kann sich nötigenfalls gegen diese zur Wehr setzen.[114] Dies erlaubt Fehler aufzudecken oder Entscheidungen anzufechten oder korrigieren zu können.[115] Ebenso lassen sich nur transparente Systeme hinsichtlich der Legitimität ihres Einsatzzweckes prüfen.[116]

Auch aus datenschutzrechtlicher Perspektive ist Transparenz von grosser Bedeutung. Kann die einer automatisierten Entscheidung zugrundeliegende Datenbearbeitung nicht nachvollzogen werden, widerspricht dies den datenschutzrechtlichen Prinzipien der Transparenz und Zweckbindung und verhindert möglicherweise die wirksame Durchsetzung des Datenschutzrechts.[117] Auch wenn die Herausforderungen von Algorithmen oftmals im Kontext des Datenschutzes thematisiert werden, beschränkt sich die Forderung nach Transparenz nicht nur auf die Datenein- und -ausgabe.[118] Gefordert wird auch Transparenz hinsichtlich des Einsatzes und der Funktionsweise von algorithmischen Systemen.[119] Den betroffenen Personen soll die Tatsache der automatisierten Entscheidungsfällung an sich ebenso mitgeteilt werden wie der zugrundeliegende Algorithmus, welche (Trainings‑) Daten das System verwendet, welche Entscheidungskriterien vom Menschen festgelegt wurden oder sich aus dem Lernprozess ergaben, wie diese gewichtet werden (wie das System zu seinem Ergebnis kommt) oder was ein System leisten kann und wo seine Grenzen liegen.[120]

Damit automatisierte Entscheidungen für Betroffene transparent und nachvollziehbar gemacht werden können, wird gefordert, dass die Informationen zum einen aktiv zur Verfügung gestellt (Transparenz) und zum anderen so aufbereitet werden, dass die Betroffenen auch tatsächlich verstehen, wie das System ihr Leben beeinflussen kann (Nachvollziehbarkeit).[121] Dabei ist zu beachten, dass der Programmcode keine Kommunikationsform zwischen Menschen ist, sondern die Kommunikation zwischen Mensch und Maschine darstellt.[122] Die blosse Bekanntgabe des Codes nützt einer betroffenen Person in der Regel nicht sehr viel, sofern sie diesen nicht versteht.[123] Bei auf lernenden Algorithmen basierenden Systemen lässt sich nur mit dem Programmcode allein, ohne die Daten, die verwendet wurden, um den Algorithmus zu trainieren, meist nicht bewerten, ob das Gesamtsystem den gewünschten Zielen entspricht.[124] Gleichzeitig nützt auch das Zugänglichmachen sämtlicher Testdaten für sich allein ohne Erklärung meist nicht sehr viel, zumal Menschen nur begrenzt über Wissen, Zeit oder Datenverarbeitungskapazität verfügen.[125] Finden sich bspw. Einseitigkeiten oder Befangenheiten in den Daten, ist dies für Nutzer oftmals nicht ersichtlich, da diese nicht in der Lage sind, entsprechende Verzerrungen in den grossen Trainingsdatensätzen zu identifizieren.[126] Die Herausforderung besteht entsprechend darin, den Sachverhalt so darzustellen, dass er für die betroffene Person verständlich ist, ohne dass diese mit Informationen überlastet wird.[127]

In der Praxis steht die Forderung nach Transparenz vor gewissen Hürden. Martini macht für die Intransparenz algorithmischer Systeme rechtliche und technische Gründe verantwortlich.[128] Aus rechtlicher Sicht könne die Qualifizierung von Algorithmen als Amts‑, Geschäfts- oder Betriebsgeheimnisse sowie allenfalls Urheber- und Patentrecht die Transparenz einschränken.[129] Aus technischer Perspektive wird insbesondere die Undurchdringbarkeit des maschinellen Lernens als Herausforderung für die Transparenz vorgebracht.[130] So besteht bei gewissen komplexen Systemen die Gefahr, dass selbst Fachleuten nicht immer alle Einzelkomponenten eines Systems und deren Zusammenspiel klar sind und sie diese nicht in angemessener Zeit nachvollziehen können.[131] Insbesondere mit Blick auf das Deep Learning wird das sogenannte Black-Box-Problem hervorgehoben, welches daher rührt, dass sich die Entscheidstrukturen lernender Algorithmen mit jedem Trainingszyklus verändern, wobei die Gleichungen nicht zwingend eine offensichtliche physikalische oder logische Basis haben.[132] Aber auch bei technisch einfachen Systemen besteht die Gefahr der fehlenden Transparenz, bspw. wenn diese ihrerseits in komplexe Systeme eingebunden sind, in denen eine Vielzahl von Beteiligten mitwirkt.[133] Nicht vergessen werden darf dabei jedoch, dass nicht jedes ADM-System notwendigerweise intransparent ist. Ob dies der Fall ist, hängt vom konkreten System ab. Zudem gibt es verschiedene Ansätze, um intelligente Systeme transparent und nachvollziehbar zu machen.[134]

Transparenz soll nicht nur gegenüber den Betroffenen, sondern auch gegenüber der Öffentlichkeit gewahrt werden, damit basierend auf einer ausreichenden Informationsgrundlage ein gesellschaftspolitischer Diskurs über algorithmische Systeme geführt werden kann.[135] Um grobe Fehleinschätzungen sofort zu erkennen, wird, insbesondere bei nicht erklärbaren Entscheidungen, auch gefordert, dass zumindest die mit dem System arbeitenden Personen in der Lage sind, die Plausibilität von dessen Ergebnissen abzuschätzen.[136] Für mehr Transparenz wird sodann empfohlen, die Entwicklung automatisierter Entscheidungssysteme sowie die diesbezüglichen Verantwortlichkeiten im Voraus zu definieren und festzuhalten, um allfällige Fehlerquellen zu identifizieren.[137] Gleichzeitig müsse die Technik so weiterentwickelt werden, dass eine Offenlegung von Informationen einfacher werde und die Komplexität reduziert werden könne.[138]

Einen Beitrag zur Schaffung von Transparenz und Nachvollziehbarkeit automatisierter Entscheidungen in der Schweiz werden – zumindest zu einem gewissen Masse – die neuen datenschutzrechtlichen Informations- und Auskunftspflichten für automatisierte Einzelentscheidungen sowie die diesbezüglichen Anhörungs- und Überprüfungsrechte leisten können, vorausgesetzt die neuen Regelungen sind auf eine automatisierte Entscheidung anwendbar.[139]

Im Zusammenhang mit der Forderung nach (mehr) Transparenz ist jedoch anzuführen, dass es auch Gründe geben kann, die Mechanismen eines ADM-Systems nicht transparent zu machen.[140] So können betroffene Personen versuchen, ihr Verhalten anzupassen, um Systeme zu überlisten und bessere Ergebnisse zu erzielen oder um gegen Systeme zu protestieren.[141] Bei genügend hoher Gewinnerwartung werden auch Kriminelle keinen Aufwand scheuen, um manipulierend einzugreifen oder wichtige Technologien zu kopieren.[142] Diesbezüglich wird im gesellschaftlichen Kontext sogar vorgeschlagen, dass ein Recht auf Intransparenz eines Algorithmus denkbar wäre.[143]

Ethik und Moral

Aufgrund des mit algorithmischen Systemen einhergehenden tiefgreifenden Wandels der Gesellschaft kommt auch der ethischen Debatte ein starkes Gewicht zu.[144] Diese soll die Grundlagen dafür bieten, das Potenzial der mit der digitalen Transformation einhergehenden Fehlentwicklungen zu erkennen.[145] Mit Blick auf künstliche Intelligenz und autonome Systeme werden unter anderem Themen wie die Würde des Menschen, Autonomie, Verantwortung, Gerechtigkeit, Gleichbehandlung und Solidarität, Demokratie, Rechtsstaatlichkeit und Rechenschaftspflicht, Sicherheit, Schutz, körperliche und geistige Unversehrtheit, Datenschutz und Privatsphäre sowie Nachhaltigkeit diskutiert.[146]

Mit Blick auf die Menschenwürde ist festzuhalten, dass diese durch die Verwendung von (autonomen) Technologien nicht verletzt werden darf.[147] Auch beim Einsatz von intelligenten Systemen ist der Einzelne vor Eingriffen in seine physische oder psychische Integrität zu schützen und die Menschenwürde soll unantastbar sein.[148] Gefährdungen für die Menschenwürde werden mit Blick auf automatisierte Entscheidungen insofern befürchtet, als dass der Mensch nicht oder nur unter bestimmten Voraussetzungen der Entscheidung einer Maschine unterworfen werden dürfe (Objektformel):[149] Die Menschenwürde gebiete es, dass alle Menschen mit Respekt und als Subjekte und nicht blosse Objekte, die es zu sieben, zu sortieren, zu bewerten, zu gruppieren, zu konditionieren oder zu manipulieren gelte, zu behandeln seien.[150] Zentral sei dabei der Schutz des dem Menschen inhärenten Wertes, was bedeute, dass dieser nicht über alle seine Lebensbereiche und Tätigkeiten hinweg in ein klassifizierendes System eingeordnet oder wie ein Gegenstand mit einem Preis versehen und dementsprechend behandelt werde.[151] Jeder Mensch sei ein Individuum und nicht nur ein Muster aus Datenpunkten.[152] Wichtig sei auch, dass der Mensch wisse, ob, wann und wo er mit einer Maschine und nicht mit einem Menschen interagiere, und dass er sich das Recht vorbehalten könne, bestimmte Aufgaben einer Maschine oder einem Menschen zu übertragen.[153]

Die Entwicklungen der letzten Jahre wecken bei vielen Betroffenen Ängste, welche oft diffus sind und mit einem grundsätzlichen Misstrauen gegenüber dem technischen Fortschritt sowie der Angst vor dem Verlust der menschlichen Autonomie einhergehen.[154] Befürchtet wird bspw. die Verdrängung menschlicher Kontroll‑, Eingriffs‑, Steuerungs- oder Entscheidungsmöglichkeiten durch digitale Technologien[155] oder dass der Mensch schutzlos der «Macht des Computers» ausgeliefert und zunehmend fremdbestimmt wird.[156] Auch der maschinellen Kategorisierung der eigenen Person wird mit Sorge begegnet («fear of being categorized»).[157] Die Anerkennung der Menschenwürde hingegen erfordere, dass der Mensch technischen Systemen nicht vollständig oder unwiderruflich unterworfen werden dürfe, sondern immer «über der Technik» zu stehen habe.[158] Entsprechend wird gefordert, dass beim Einsatz algorithmenbasierter Prognose- und Entscheidungsprozesse der Grundsatz der menschlichen Gestaltungshoheit gewahrt wird.[159]

Diskutiert wird auch der Umgang von algorithmischen Systemen mit ethischen Dilemmata, zumal deren Entwicklung immer auch eine moralische Wertung mit möglicherweise gesellschaftlichen oder rechtlichen Auswirkungen beinhaltet.[160] Ein Algorithmus stellt lediglich Zusammenhänge zwischen Daten her und projiziert Wissen in die Zukunft, kann jedoch nicht selbstständig kritisch reflektieren, weshalb der Mensch gewisse ethische und moralische Reflexionsaufgaben weiterhin selber übernehmen muss.[161] Ethische Dilemmata, wie bspw. die Entscheidung über Leben und Tod beim autonomen Fahren, müssen deshalb bereits bei der Entwicklung bedacht werden, wenn ein Algorithmus sie in Zukunft selbstständig lösen soll.[162] Es wird empfohlen, automatisierte Entscheidungssysteme in sensiblen Bereichen, in denen solche ethischen Dilemma auftreten könnten, nur einzusetzen, wenn dadurch die Wahrscheinlichkeit ihres Auftretens vermindert werden kann.[163] In diesem Sinne wird denn auch gefordert, dass KI-Systeme weder Schäden verursachen, verschärfen noch sich auf andere Weise negativ auf den Menschen auswirken dürfen.[164] Im Grundsatz sollen KI- oder Robotik-Anwendungen keine unannehmbare Gefahr für Menschen darstellen dürfen.[165]

Vor diesem Hintergrund überrascht es nicht, dass mit Blick auf immer autonomere Systeme und deren Handlungen vermehrt auch die Verantwortung und Zurechenbarkeit diskutiert und die Frage nach der Haftung, Erklärbarkeit, Vorhersagbarkeit und Kontrolle gestellt wird.[166] Gerade mit Blick auf ethische Dilemmata, aber auch bei anderen Entscheidungen, vor deren Konsequenzen der Mensch sich scheut, ist die Versuchung gross, dass durch den Einsatz eines Systems zur automatisierten Entscheidungsfällung die Entscheidungsverantwortung vom Menschen an einen Algorithmus delegiert wird.[167] Ethische Fragen stellen sich dabei insbesondere betreffend die (moralische) Verantwortung beim Einsatz von ADM-Systemen und die damit verbundenen Rechenschaftspflichten für die involvierten Akteure.[168] Es ist zu klären, wer für unerwünschte Ergebnisse verantwortlich ist, wem die moralische Verantwortung zugewiesen wird – dem Menschen, dem Algorithmus oder beiden – und welche moralischen Verpflichtungen den Involvierten, wie bspw. den Entwicklern oder Nutzern, zukommen.[169]

Die Grenze, ob es der Mensch oder das ADM-System ist, welche eine moralische Entscheidung trifft, verwischt dabei umso mehr, je grösser die Fortschritte der künstlichen Intelligenz und der dieser zugeschriebenen Autonomie sind.[170] In diesem Zusammenhang stellt sich grundsätzlich die Frage, welche Entscheidungen automatisiert werden dürfen und ob es überhaupt vertretbar ist, moralische Entscheidungen, insbesondere bei ethischen Dilemmata, den Algorithmus treffen zu lassen oder diese vorab zu programmieren.[171] Dabei herrscht mit Blick auf die moralische Verantwortung für sensitive Entscheidungen, bspw. betreffend autonome Waffensysteme oder Fahrzeuge, breiter Konsens darüber, dass eine sinnvolle menschliche Kontrolle («Meaningful Human Control») unverzichtbar ist.[172] In der Praxis erschwert unter anderem die Komplexität algorithmischer Systeme die Verantwortungszuschreibung,[173] denn mit der Komplexität steigt deren Undurchsichtigkeit,[174] womit wieder das Thema der Nachvollziehbarkeit angesprochen wird.[175]

Mit den Fragen bezüglich Verantwortung und Kontrolle eng verbunden ist jene des Vertrauens in KI-Systeme.[176] Die Evidenz diesbezüglich ist uneinheitlich.[177] So wird einerseits vorgebracht, dass Menschen dazu tendieren, softwarebasierte Prognosen als verlässlicher, objektiver und aussagekräftiger als andere Informationen anzusehen, diesen mithin vorbehaltlos vertrauen oder die Ergebnisse einer Software übernehmen, ohne diese zu hinterfragen.[178] Andererseits gibt es jedoch auch Studien, die zum Ergebnis kamen, dass Menschen grundsätzlich eher einer menschlichen Entscheidung vertrauen, auch wenn sie wissen, dass die Entscheidung der Software in Wahrheit objektiver oder besser ist.[179] Unabhängig davon wird indes davon ausgegangen, dass algorithmenbasierte (KI‑)Systeme vertrauenswürdig sein müssen, damit sie vom Menschen und von der Gesellschaft entwickelt, eingeführt, genutzt und auch akzeptiert werden.[180]

Die «Hochrangige Expertengruppe für künstliche Intelligenz», welche 2018 von der Europäischen Kommission eingesetzt wurde, hat verschiedene Anforderungen entwickelt, die ein KI-System erfüllen muss, um als vertrauenswürdig eingestuft zu werden.[181] Diese spiegeln zu einem gewissen Masse die soeben angeführten ethischen Überlegungen sowie die weiteren im Zusammenhang mit automatisierten Entscheidungen genannten gesellschaftlichen Forderungen. Nebst Kriterien wie dem Vorrang menschlichen Handelns und der menschlichen Aufsicht,[182] Transparenz, Nichtdiskriminierung und Fairness[183] werden auch technische Robustheit und Sicherheit der Systeme[184] gefordert, um nur einige Kriterien zu nennen. Damit übereinstimmend wird auch in der Lehre angeführt, den Betroffenen müsse vermittelt werden, dass die Prinzipien von Fairness, Verantwortung oder Erklärbarkeit in den verwendeten Systemen als Grundlagen der Entscheidungsfindung verankert seien, um Vertrauen zu generieren.[185]

Als ethischer Massstab für den Einsatz algorithmischer Systeme werden allgemeine ethische und rechtliche Grundsätze wie die Menschenwürde, Selbstbestimmung, Privatheit, Sicherheit, Demokratie, Gerechtigkeit, Solidarität und Nachhaltigkeit vorgebracht.[186] Aufgrund dieser Vielzahl der zu berücksichtigenden Faktoren gestaltet sich die Bewertung algorithmischer Systeme in ethischer Hinsicht in der Praxis als überaus komplex.[187] Hinzu kommt, dass Ethik zudem jeweils abhängig von der strukturellen und situativen Kontextualisierung, wie bspw. dem Anwendungsbereich sowie der Datenbasis oder -auswahl, ist.[188] Weil die blosse Diskussion der ethischen Fragen grundsätzlich keine endgültigen Antworten liefert, wird gefordert, dass diesbezüglich Festlegungen getroffen und ethische Anforderungen an Systeme explizit festgehalten werden müssen, wobei zu klären sei, wer diese Entscheidungen trifft.[189]

Informationelle Selbstbestimmung und Privatsphäre

Mit Blick auf die den automatisierten Entscheidungen zugrundeliegenden zunehmenden Datenbearbeitungen, aber auch hinsichtlich dieser Art der Entscheidungsfällung als Konsequenz der Datenverarbeitung, werden die Risiken für die informationelle Selbstbestimmung, die Persönlichkeitsrechte, die individuelle Autonomie, die Wahrung der eigenen Handlungsfähigkeit oder das Recht in Ruhe gelassen zu werden sowie das Grundrecht auf Datenschutz diskutiert.[190] Diese Risiken wurden bereits vor dem Einsatz von KI-Systemen, maschinellem Lernen und automatisierten Entscheidungen ganz grundsätzlich mit Blick auf die automatisierte Datenbearbeitung thematisiert. So wurde in der Botschaft zum aDSG im Jahre 1988 einleitend festgehalten: «Der Einsatz der modernen Informations- und Kommunikationstechnologien in fast allen Lebensbereichen und die enorme Intensivierung der Datenverarbeitung und -verbreitung in Gesellschaft, Wirtschaft und Staat haben die Risiken von Persönlichkeitsverletzungen stark anwachsen lassen.»[191] Die in den letzten Jahren nochmals verbesserten technischen Möglichkeiten führten jedoch dazu, dass sich die Problematik verschärfte.[192] Dies kommt daher, dass Daten sowohl die Grundlage für die Analyse und Bewertung von Personen als auch für diese betreffende automatisierte Entscheidungen bilden.[193] Dabei sind in zunehmendem Masse personenbezogene Daten (wie bspw. Wohnort, bisherige Einkaufspräferenzen oder vergangenes Geschäftsverhalten) sowohl Quelle als auch Ziel von intelligenten Entscheidungssystemen.[194] Mithilfe von Algorithmen können auch unstrukturierte Daten aus verschiedenen Quellen kombiniert sowie ohne Beteiligung der betroffenen Personen detaillierte Persönlichkeitsprofile erstellt werden.[195] Die neuen intelligenten Technologien sind entscheidend auf den Zugriff auf und die Verarbeitung von grossen Datenmengen angewiesen, was gleichzeitig den Trend zur Folge hat, möglichst viele Daten zu sammeln und zu speichern.[196]

Während die eingesetzten Systeme nicht immer transparent sind, macht die Analyse grosser Datenbestände den Einzelnen extrem transparent.[197] Gleichzeitig haben die Betroffenen vermehrt das Gefühl, keine Kontrolle über die Sammlung und Bearbeitung der eigenen Daten zu haben.[198] Im Fokus der Diskussion um automatisierte Entscheidungen steht deshalb unter anderem auch das Recht des Einzelnen, das eigene Leben sowie die Bearbeitung der eigenen Daten kontrollieren zu können.[199] So werden die Privatsphäre und die informationelle Selbstbestimmung im Kontext der Digitalisierung auf der einen Seite als Ausdruck der Menschenwürde angesehen.[200] Auf der anderen Seite bedeuten informationelle Selbstbestimmung, Privatsphäre und Autonomie im digitalen Bereich, dass der Einzelne selber bestimmen können soll, welche Daten über ihn erhoben, gespeichert, verwendet oder weitergegeben werden.[201] Daneben beinhaltet Privatsphäre auch die Rechte in Ruhe gelassen zu werden, sich abzugrenzen, nicht ständig zur Verfügung zu stehen oder offline zu sein.[202]

Bilden Algorithmen des maschinellen Lernens die Grundlage eines ADM-Systems, stellen sich Datenschutzfragen sowohl bei der Erstellung und dem Training des Systems als auch bei dessen Einsatz oder den anschliessenden Rückmeldungen zum System.[203] Basieren automatisierte Entscheidungen auf umfangreichen Datensammlungen und -auswertungen, stellen sich regelmässig die gleichen Fragen, wie sie in der Lehre bereits ausführlich im Zusammenhang mit der Big-Data-Problematik besprochen wurden.[204] Spannungsfelder ergeben sich insbesondere mit Blick auf die Grundsätze der Datenminimierung, Zweckbindung, Informationspflichten und Transparenzanforderungen sowie auf diverse spezifische datenschutzrechtliche Bestimmungen, unter anderem betreffend Profiling und automatisierte Einzelentscheidungen an sich, welche es einzuhalten gilt.[205]

Hinzu kommen verschiedene Problemfelder, wie bspw. die zunehmend erschwerte Differenzierung von personenbezogenen und nicht personenbezogenen Daten, der Verlust der Kontrolle seitens der Betroffenen über ihre Daten, Probleme mit rechtlichen Grauzonen, die unübersichtliche Akteurslandschaft oder Datenhandel.[206] Eine Schwierigkeit, welche bei umfangreichen Datenbearbeitungen allgemein, aber insbesondere auch bei der automatisierten Entscheidungsfällung besteht, ist zudem, dass betroffene Personen regelmässig keine Kenntnis darüber haben, welche Daten über sie gespeichert oder im Rahmen der Entscheidungsfällung genutzt werden.[207] Auch im Zusammenhang mit der informationellen Selbstbestimmung und der Privatsphäre stellen sich deshalb wieder die Fragen nach Transparenz und Nachvollziehbarkeit.

Mit Blick auf die informationelle Selbstbestimmung und Privatsphäre wird gefordert, dass Systeme zur automatisierten Entscheidungsfällung den Datenschutz in sämtlichen Phasen ihres Einsatzes zu gewährleisten haben,[208] sowie teilweise, dass diese Rechte ergänzt werden sollen um das Recht auf sinnvollen zwischenmenschlichen Kontakt und das Recht, nicht profiliert, gemessen, analysiert, angeleitet oder angestossen zu werden.[209] Dabei sei jedoch zu beachten, dass die Debatte um den Datenschutz keine eindimensionale sei und vielmehr auf einem Kompromiss zwischen Verlangen nach Datenschutz und dem etablierten Wunsch nach Personalisierung beruhe, denn Personalisierung beruhe nun einmal auf persönlichen Daten.[210]

Rechtsfragen automatisierter Entscheidungen[211]

Mit der Automatisierung von Entscheidungen und den dahinterliegenden Prozessen geht nicht nur eine ausgeprägte gesellschaftliche Debatte einher. Die Tatsache, dass in vielen verschiedenen Bereichen des täglichen Lebens und der öffentlichen Verwaltung Entscheidungskompetenzen vermehrt vom Menschen auf Maschinen übertragen werden, bringt viele Rechtsfragen mit sich, welche geklärt werden wollen.[212] Zwar begründet der Einsatz von Systemen zur automatisierten Entscheidungsfällung für sich noch keinen direkten staatlichen Handlungs- oder Regulierungsbedarf, zumal es sich dabei – wie bei jeder anderen Technologie auch – in erster Linie um ein Hilfsmittel handelt, dessen Anwendung durch Private im Grundsatz zulässig ist.[213] Deren Nutzung hat jedoch das geltende Recht zu respektieren und erfolgt nicht im rechtsfreien Raum.[214] Trotzdem stellen sich gewisse neue Fragen, welche vom geltenden Recht (noch) nicht adressiert werden. Mögliche rechtliche Fragestellungen, welche mit dem Einsatz von automatisierten Entscheidungssystemen durch Private einhergehen, werden im Folgenden kurz skizziert.

Einige Rechtsfragen stellen sich mit Blick auf den rechtlichen Status automatisierter Entscheidungssysteme.[215] Dies kommt daher, dass es in der Schweiz aktuell keine Rechtspersönlichkeit für ADM-Systeme gibt,[216] sondern diese bloss als Rechtsobjekt und nicht als Rechtssubjekt angesehen werden.[217] Vor diesem Hintergrund stellt sich insbesondere, aber nicht ausschliesslich, im Vertrags-[218] und im Haftpflichtrecht[219] die Frage, wem die Entscheidungen von Algorithmen zugerechnet werden. Verträge werden heute in aller Regel von Menschen durch den Austausch von Willenserklärungen abgeschlossen, weshalb sich die Frage stellt, ob eine solche auch von einem Algorithmus abgegeben werden kann.[220] Zu klären ist diesbezüglich auch, ob und wie weit (fehlerhafte) Willenserklärungen von automatisierten Entscheidungssystemen bindend oder anfechtbar sind.[221] Aus haftpflichtrechtlicher Sicht stellt sich die grundlegende Frage, wer für den durch eine automatisierte Entscheidung (möglicherweise) verursachten Schaden zu haften hat.[222] Mit der zunehmenden Autonomie der Maschinen, und der damit einhergehenden vermehrten Übertragung von Entscheidungen vom Menschen an Software, entsteht eine Lücke in der rechtlichen und moralischen Verantwortungskette und mit ihr die Frage, ob und wie diese Lücke geschlossen werden kann.[223]

Die Frage der Rechtsfähigkeit stellt sich auch mit Blick auf die Schutzfähigkeit von durch ADM-Systemen generierten Ergebnissen. Aus Sicht des Patentrechts werden bspw. nur Menschen (allenfalls, je nach Auslegung noch juristische Personen), nicht jedoch KI-Systeme als Erfinder angesehen.[224] Aus Sicht der finanzierenden Unternehmen und der hinter einem ADM-System stehenden Entwickelnden stellt sich zudem die Rechtsfrage, ob und wie weit die einem ADM-System zugrundeliegende Software bzw. dessen Algorithmen rechtlich geschützt werden können.[225] Dabei stehen nicht nur die ADM-Systeme als solche, sondern auch ihre «Ergebnisse» sowie die rechtliche Einordnung von Schutzrechtsverletzungen durch entsprechende Systeme, bspw. indem urheberrechtlich geschützte Daten zum Training eines Algorithmus verwendet werden, im Fokus der juristischen Betrachtung.[226]

Falsche Vorhersagen, die Festigung bestehender Klischees, die Einschränkung der Wahlfreiheit, die Verweigerung von Leistungen, der beschränkte Zugang zu Gütern, das Abstützen auf geschützte Merkmale oder generell die Ungleichbehandlung verschiedener Personen – das im Zusammenhang mit automatisierten Entscheidungen vorgebrachte Diskriminierungspotenzial[227] bringt darüber hinaus verschiedene Fragen des Antidiskriminierungsrechts mit sich.[228] Relevant sind diesbezüglich insbesondere, aber nicht ausschliesslich, die in der Rechtsordnung enthaltenen Kriterienkataloge, welche zur Differenzierung zwischen Personen nicht herangezogen werden dürfen.[229] Ein solcher Katalog enthält bspw. Art. 8 Abs. 2 BV, dessen Diskriminierungsverbot jedoch nur Personen, die einer benachteiligten Gruppe angehören, schützt und direkt nur den Staat, nicht aber Private verpflichtet.[230]

Unabhängig vom Anwendungskontext automatisierter Entscheidungen, spielt aus rechtlicher Sicht auch der Datenschutz eine grosse, wenn nicht die grösste, Rolle beim Einsatz von ADM-Systemen.[231] Dies zum einen, da Systeme zur automatisierten Entscheidungsfällung – wie bereits festgestellt – wesentlich auf Algorithmen zur Analyse und Auswertung von (grossen) Datenmengen und damit auf umfangreichen Datenbearbeitungen basieren.[232] Handelt es sich dabei um Personendaten oder führen die Auswertungen zu neuen Personendaten, werden diese Datenbearbeitungen von den Schweizer und unter Umständen auch von den europäischen Datenschutzvorgaben erfasst.[233] Das Datenschutzrecht ist zum anderen insbesondere relevant, da sich dort bis anhin die einzigen allgemeinen Regelungen zur automatisierten Entscheidungsfällung für den Staat und Private finden.[234] Diese erfassen jedoch nicht sämtliche automatisierten Entscheidungen, sondern ausschliesslich automatisierte Einzelentscheidungen, welche für die betroffene Person mit spezifischen Folgen einhergehen.[235] Weitere datenschutzrechtliche Spannungsfelder ergeben sich unter anderem mit Blick auf die Grundsätze der Datenminimierung, Zweckbindung oder Informationspflichten und Transparenzanforderungen.[236] Eng mit datenschutzrechtlichen Vorgaben gehen sodann gewisse Fragen des Arbeitsrechts einher, bspw. wenn ein Arbeitgeber im Rahmen der Einstellung oder zur Bewertung der Leistung der Angestellten Personalentscheidungen an einen Algorithmus delegiert.[237]

Da der Zugang zu und die Kontrolle über grosse Datenmengen einen entscheidenden Faktor bei der Entwicklung von KI-Systemen und damit auch für die automatisierte Entscheidungsfällung darstellen, spielen wettbewerbsrechtliche Aspekte eine weitere Rolle in der rechtlichen Diskussion, in deren Rahmen unter anderem Datenmonopole und Netzwerkeffekte diskutiert werden.[238] Führt der Einsatz von Algorithmen zu einem wettbewerbswidrigen Verhalten, bspw. indem beim Einsatz von (dynamischen) Preisalgorithmen eine Angleichung der Preise erfolgt, greifen unter Umständen auch die Regelungen des Kartellrechts.[239] Das Finanzmarktrecht wird hingegen relevant, wenn bspw. im Rahmen des Hochfrequenzhandels automatisiert Entscheidungen über den An- und Verkauf von Wertpapieren gefällt werden.[240] Gleichzeitig wird das Finanzdienstleistungs- und (wiederum) das Haftungsrecht relevant, wenn ein Algorithmus eine (vollautomatisierte) Anlageberatung bietet.[241]

Auch wenn ADM-Systeme verschiedene Rechtsbereiche betreffen, hat sich der Bundesrat Anfang des Jahres 2022 mit Blick auf die automatisierte Entscheidungsfällung und KI dahingehend vernehmen lassen, dass diesbezüglich derzeit kein neuer allgemeiner gesetzlicher Rahmen nötig, sondern die automatisierte Entscheidungsfällung durch KI mit den geltenden Rechtsgrundlagen abgedeckt sei. Wenn dies nicht der Fall sei, müssten punktuelle Lösungen gefunden werden, wobei dies bspw. bereits im Rahmen der Totalrevision des aDSG geschehen sei. In letzter Zeit seien verschiedene nationale Berichte mit Blick auf den Einsatz von KI ausgearbeitet worden oder entsprechende Analysen seien noch im Gange. Ebenso beteilige sich die Schweiz aktiv in internationalen Gremien zur Entwicklung von Normen zu KI und verfolge die diesbezüglichen europäischen Entwicklungen genau.[242]

Allgemein zu Algorithmen: Hoffmann-Riem, 5. ↵

Martini, Blackbox, 14. ↵

Eine Übersicht dazu findet sich in Lischka/Klingel, 37–38. ↵

Siehe bspw. Christen et al., 70–71; COE et al., 418–420; Jarchow/Estermann, 13–15; Martini, Blackbox, 6; Niederée/Nejdl, 62–63. ↵

Niebler/Lindner, 4; Ramge, 8, 38; Stengel/Stäuble, N 36; Thouvenin/Früh, 3; Thouvenin/​Früh/George, N 7; siehe dazu auch vorne II.1.2 und II.5. ↵

Siehe dazu vorne II.3.3; Zweig, 15. ↵

Lischka/Klingel, 37; Knobloch/Husted, 3. ↵

Zweig, 15. ↵

COE et al., 418–419; Jarchow/Estermann, 13–14; Niederée/Nejdl, 62; siehe auch Blarer et al., 27. ↵

Krüger, J./Lischka, 15. ↵

Ramge, 8. ↵

Artikel-29-Datenschutzgruppe, 5; Christen et al., 188. ↵

Expertengruppe zur Zukunft der Datenbearbeitung und Datensicherheit, 41. ↵

Thouvenin et al., Regulation, 3. ↵

Zum Ganzen Thouvenin et al., Regulation, 3; zum Vergangenheitsbezug siehe hinten IV.3.3. ↵

Christen et al., 58; siehe auch Martini, Herausforderung, 1017–1018. ↵

Martini, Blackbox, 6. ↵

Martini, Blackbox, 6. ↵

Niederée/Nejdl, 62; siehe dazu auch hinten IV.3.3 bei Fn. 701. ↵

George, 13–14; siehe dazu ausführlich Tamò-Larrieux, 28–30. ↵

Siehe dazu Christen et al., 131–137; EGE, 22; Expertengruppe zur Zukunft der Datenbearbeitung und Datensicherheit, 39, 71–72, 76–78; Hänold, Profiling, 124; Jarchow/Estermann, 14; zur Problematik des Datenschutzes siehe auch hinten III.2.5. ↵

Siehe dazu Bitkom e.V./DFKI, 8; Martini, Blackbox, 28–29, 334; Stiemerling, 26; siehe auch Datenethikkommission der Bundesregierung, 169. ↵

Siehe dazu Martini, Herausforderung, 1018; siehe auch Martini, Blackbox, 28–29. ↵

Christen et al., 184; Martini, Blackbox, 29, m.w.N.; Weber, R.H./Henseler, 30; siehe auch Barth, 1; Expertengruppe zur Zukunft der Datenbearbeitung und Datensicherheit, 170. ↵

Lischka/Klingel, 38. ↵

COE et al., 418–419; Garriga, 50. ↵

Lischka/Klingel, 37; zur Anpassung der Entscheidungsstrukturen beim maschinellen Lernen siehe auch hinten IV.3.4. ↵

Niederée/Nejdl, 62. ↵

Lischka/Klingel, 37; Zweig, 15. ↵

Zweig, 15. ↵

Lischka/Klingel, 37; siehe auch Dreyer/Schulz, 15. ↵

Lischka/Klingel, 37–38. ↵

Siehe dazu ausführlich Ebers, 119–120, m.w.N. ↵

Zweig, 5. ↵

Zweig, 5. ↵

Hänold, Versicherungsbereich, 20; Jarchow/Estermann, 13–14; Zweig, 15–16. ↵

Lischka/Klingel, 38. ↵

Zweig, 15. ↵

Niebler/Lindner, 5. ↵

Thouvenin/Früh, 9; Thouvenin/Früh/George, N 31. ↵

Expertengruppe zur Zukunft der Datenbearbeitung und Datensicherheit, 70. ↵

Expertengruppe zur Zukunft der Datenbearbeitung und Datensicherheit, 70. ↵

Expertengruppe zur Zukunft der Datenbearbeitung und Datensicherheit, 70; Hoffmann-​Riem, 11–15; siehe auch Härting, 532; zum Phänomen der Filterblasen siehe Schillmöller; zur Manipulation und Verhaltenssteuerung durch Algorithmen siehe Ebers, 110–115, m.w.N. ↵

Linderkamp, 506–507, m.w.N. ↵

Algorithm Watch, Atlas, 26; Jarchow/Estermann, 13–14; Knobloch/Husted, 3, 16; Niederée/​Nejdl, 62; Zweig, 15. ↵

Zweig, 15. ↵

Bitkom e.V./DFKI, 8. ↵

Lischka/Klingel, 37. ↵

Lischka/Klingel, 37. ↵

Daedelow, N 12. ↵

Martini, Blackbox, 48; siehe auch Hänold, Profiling, 124; siehe auch hinten III.2.2. ↵

Lischka/Klingel, 37. ↵

Christen et al., 160; Datenethikkommission der Bundesregierung, 167. ↵

Algorithm Watch, Atlas, 8. ↵

Dreyer/Schulz, 13. ↵

Siehe dazu Christen et al., 67–70, welche mittels einer quantitativen Medienanalyse die Entwicklung der internationalen KI-Debatte beleuchten. ↵

Zum Begriff der Teilhabe siehe Algorithm Watch, Atlas, 7; hinten III.2.2. ↵

Siehe bspw. Algorithm Watch, Atlas, 10–14; Beining, 9–10; Christen et al., 56–57; Dreyer/Schulz, 14–17; Edwards/Veale, 27–43; Expertengruppe zur Zukunft der Datenbearbeitung und Datensicherheit, 6; Hänold, Profiling, 129–131; Jaume-Palasí/Spielkamp; Martini, Herausforderung, 1018–1019; Pentenrieder/Hartmann/Künzel, 51–52; Rossi, 4; VZBV, Entscheidungsfindung; Vieth/Wagner, B., 2; Weber, R.H./Henseler, 29–32; Zarsky, 123–130; Zerilli et al. ↵

Hänold, Profiling, 131–147; Lewinski; Pieper, 13–14; Weber, R.H./Henseler, 32–41. ↵

Algorithm Watch, Atlas, 7; Dreyer/Schulz, 14–15; Knobloch/Husted, 3. ↵

Christen et al., 115; Expertengruppe zur Zukunft der Datenbearbeitung und Datensicherheit, 166; siehe auch Goodman/Flaxman, 53, m.w.N. ↵

Algorithm Watch, Atlas, 7. ↵

Algorithm Watch, Atlas, 7, 9; Krüger, J./Lischka, 14, m.w.N.; siehe auch Vieth/Wagner, B., 9. ↵

Expertengruppe zur Zukunft der Datenbearbeitung und Datensicherheit, 39. ↵

Martini, Blackbox, 47. ↵

Siehe dazu vorne III.1.4. ↵

Martini, Blackbox, 47; Zweig, 15; Ernst, 1029. ↵

Hänold, Profiling, 129. ↵

Martini, Blackbox, 48. ↵

Daedelow, N 12. ↵

Busch, 21. ↵

Ernst, 1029; zur Rolle des Menschen siehe hinten IV.4.2. ↵

Christen et al., 56; Ernst, 1029; Martini, Herausforderung, 1018; siehe auch Crawford, o.S.; Vieth/Wagner, B., 11. ↵

Martini, Blackbox, 48. ↵

Christen et al., 56. ↵

Tischbirek, N 4. ↵

Daedelow, N 12. ↵

Expertengruppe zur Zukunft der Datenbearbeitung und Datensicherheit, 39. ↵

Martini, Blackbox, 50–51. ↵

Siehe dazu hinten IV.3.3. ↵

Martini, Blackbox, 50–51; Christen et al., 56; siehe auch Datenethikkommission der Bundesregierung, 167. ↵

Busch, 21; Expertengruppe zur Zukunft der Datenbearbeitung und Datensicherheit, 38–39, 170; Lischka/Klingel, 37; siehe bspw. Caliskan/Bryson/Narayanan; Barocas/Selbst, 680–681; siehe auch Datenethikkommission der Bundesregierung, 167. ↵

Expertengruppe zur Zukunft der Datenbearbeitung und Datensicherheit, 38; siehe dazu auch hinten IV.3.3. ↵

Allen/Masters, 589; Tischbirek, N 5–6. ↵

Expertengruppe zur Zukunft der Datenbearbeitung und Datensicherheit, 38; Barocas/Selbst, 684. ↵

Datenethikkommission der Bundesregierung, 168. ↵

Busch, 20. ↵

Dreyer/Schulz, 14; Knobloch/Husted, 3; siehe auch Allen/Masters, 588–589; Artikel-29-Datenschutzgruppe, 6; Datenethikkommission der Bundesregierung, 167. ↵

EDSB, Stellungnahme 07/2015, 9. ↵

Datenethikkommission der Bundesregierung, 167. ↵

Dreyer/Schulz, 15. ↵

Busch, 20; Ernst, 1032. ↵

Goodman/Flaxman, 53. ↵

Daedelow, N 11; ausführlich zu diesem sogenannten «Generalisierungsunrecht» sowie der «statistischen Diskriminierung» Britz, 2–3, 8–11. ↵

Ebers, 88. ↵

Datenethikkommission der Bundesregierung, 168. ↵

Ebers, 88; Britz, 134. ↵

Zweig, 15. ↵

Christen et al., 57, 108; mit Verweis auf Berk et al.; Kleinberg/Mullainathan/Raghavan; siehe auch Corbett-Davies/Goel; Corbett-Davies et al.; Datenethikkommission der Bundesregierung, 169; Martini, Blackbox, 55–57. ↵

Berk et al., 3. ↵

Christen et al., 108. ↵

Zweig, 15. ↵

Datenethikkommission der Bundesregierung, 169. ↵

Datenethikkommission der Bundesregierung, 168. ↵

Christen et al., 219. ↵

HEG-KI, Ethik-Leitlinien, 21. ↵

Expertengruppe zur Zukunft der Datenbearbeitung und Datensicherheit, 39. ↵

Datenethikkommission der Bundesregierung, 169. ↵

Martini, Blackbox, 333. ↵

Stiemerling, 26. ↵

Martini, Blackbox, 29; siehe auch Stiemerling, 26. ↵

Martini, Blackbox, 29. ↵

Datenethikkommission der Bundesregierung, 169. ↵

VZBV, Entscheidungsfindung, 529; siehe auch HEG-KI, Ethik-Leitlinien, 16. ↵

Beining, 9. ↵

Datenethikkommission der Bundesregierung, 169. ↵

Expertengruppe zur Zukunft der Datenbearbeitung und Datensicherheit, 39; siehe auch Heuberger, N 23. ↵

Expertengruppe zur Zukunft der Datenbearbeitung und Datensicherheit, 39. ↵

Beining, 6–7. ↵

Beining, 11; siehe auch VZBV, Entscheidungsfindung, 529. ↵

Beining, 9. ↵

Zweig, 29. ↵

Martini, Blackbox, 28, Fn. 2. ↵

Zweig, 30. ↵

Beining, 13. ↵

Christen et al., 56. ↵

Beining, 13. ↵

Martini, Blackbox, 33. ↵

Martini, Blackbox, 33–39; Datenethikkommission der Bundesregierung, 170. ↵

Martini, Blackbox, 41–47. ↵

Datenethikkommission der Bundesregierung, 169. ↵

Christen et al., 56; zum Deep Learning siehe hinten IV.3.2; zur Veränderung der Entscheidungsstrukturen siehe hinten IV.3.4. ↵

Datenethikkommission der Bundesregierung, 169. ↵

In diese Richtung Stiemerling, 26; zur Nachvollziehbarkeit von KI-basierten Entscheidungen siehe Körner, 44–48. ↵

Datenethikkommission der Bundesregierung, 169. ↵

Christen et al., 163. ↵

Zweig, 17. ↵

Datenethikkommission der Bundesregierung, 170. ↵

So bereits: Christen et al., 218; zur Regulierung automatisierter Einzelentscheidungen aus datenschutzrechtlicher Sicht siehe hinten Teil 2. ↵

Zweig, 29. ↵

Bambauer/Zarsky, 1. ↵

Zweig, 29; siehe auch Busch, 22. ↵

Zweig, 29. ↵

Christen et al., 104; Expertengruppe zur Zukunft der Datenbearbeitung und Datensicherheit, 6. ↵

Expertengruppe zur Zukunft der Datenbearbeitung und Datensicherheit, 3. ↵

Christen et al., 105–106; Datenethikkommission der Bundesregierung, 43–48; EGE, 9–10, 18–22; Expertengruppe zur Zukunft der Datenbearbeitung und Datensicherheit, 166–167. ↵

EGE, 18. ↵

Weber, R.H., Maschinen, o.S. ↵

Weber, R.H., Maschinen, o.S.; kritisch dazu Thouvenin et al., Regulation, 2. ↵

HEG-KI, Ethik-Leitlinien, 13. ↵

Datenethikkommission der Bundesregierung, 43; siehe auch Expertengruppe zur Zukunft der Datenbearbeitung und Datensicherheit, 171–172. ↵

Datenethikkommission der Bundesregierung, 43. ↵

EGE, 18; siehe auch Christen et al., 105; Datenethikkommission der Bundesregierung, 4. ↵

Thouvenin/Früh, 3–4; mit Verweis auf Busch, 65; Expertengruppe zur Zukunft der Datenbearbeitung und Datensicherheit, 166, 169; Schulz, in: Gola/Heckmann, DSGVO, Art. 22 DSGVO N 2; zum Begriff der Autonomie siehe vorne II.4.4. ↵

Expertengruppe zur Zukunft der Datenbearbeitung und Datensicherheit, 2. ↵

Härting, 532. ↵

Dreyer/Schulz, 15, m.w.N. ↵

Datenethikkommission der Bundesregierung, 43. ↵

Datenethikkommission der Bundesregierung, 43. ↵

Menges, 46. ↵

Martini, Blackbox, 49. ↵

Expertengruppe zur Zukunft der Datenbearbeitung und Datensicherheit, 170. ↵

Expertengruppe zur Zukunft der Datenbearbeitung und Datensicherheit, 177. ↵

HEG-KI, Ethik-Leitlinien, 15. ↵

EGE, 19. ↵

Christen et al., 103. ↵

In diese Richtung Beck, 184; Zobl/Lysakowski, 43. ↵

Christen et al., 110. ↵

Christen et al., 110; EGE, 9. ↵

Misselhorn, 10. ↵

Ebers, 92; Hoffmann-Riem, 19. ↵

Christen et al., 110–111; EGE, 11–12. ↵

Datenethikkommission der Bundesregierung, 171. ↵

Jaume-Palasí/Spielkamp, 5. ↵

Siehe dazu vorne III.2.3. ↵

Christen et al., 111. ↵

Christen et al., 57, m.w.N. ↵

Lischka/Klingel, 38; Christen et al., 57, m.w.N. ↵

Christen et al., 57; mit Verweis auf Dietvorst/Simmons/Massey. ↵

HEG-KI, Ethik-Leitlinien, 6. ↵

HEG-KI, Ethik-Leitlinien, 17–29. ↵

HEG-KI, Ethik-Leitlinien, 19–20; siehe auch Datenethikkommission der Bundesregierung, 163–164. ↵

HEG-KI, Ethik-Leitlinien, 22–23. ↵

HEG-KI, Ethik-Leitlinien, 20–21. ↵

Krüger, S., 392. ↵

Datenethikkommission der Bundesregierung, 163, 43–48. ↵

Datenethikkommission der Bundesregierung, 171. ↵

Jaume-Palasí/Spielkamp, 4–5. ↵

Christen et al., 110. ↵

Dreyer/Schulz, 9; Expertengruppe zur Zukunft der Datenbearbeitung und Datensicherheit, 24; siehe auch Daedelow, N 4; VZBV, Entscheidungsfindung, 518. ↵

Botschaft aDSG 1988, 414. ↵

Christen et al., 197; Expertengruppe zur Zukunft der Datenbearbeitung und Datensicherheit, 40. ↵

Heuberger, N 4; siehe auch Bitkom e.V./DFKI, 7; COE et al., 416; zu den Daten als Grundlage von Entscheidungen siehe vorne II.3.2. ↵

Ebers, 104; Ernst, 1026; siehe auch Christen et al., 217. ↵

Christen et al., 198; siehe auch Artikel-29-Datenschutzgruppe, 8. ↵

Christen et al., 115. ↵

Hänold, Profiling, 131. ↵

Edwards/Veale, 33. ↵

Expertengruppe zur Zukunft der Datenbearbeitung und Datensicherheit, 166; HEG-KI, Ethik-Leitlinien, 13. ↵

Expertengruppe zur Zukunft der Datenbearbeitung und Datensicherheit, 166; siehe dazu vorne III.2.4. ↵

Expertengruppe zur Zukunft der Datenbearbeitung und Datensicherheit, 166. ↵

Expertengruppe zur Zukunft der Datenbearbeitung und Datensicherheit, 166. ↵

In diese Richtung, aber für KI-Anwendungen Klaus, 85; zur Entwicklung von ML-Lösungen siehe hinten IV.4.1. ↵

Zu den Herausforderungen von Big Data für das Datenschutzrecht in der Schweiz siehe Prieur, 1643–1653; Weber, R.H., Big Data, 1–22; betreffend Deutschland/Europa siehe Martini, Big Data, 97–162; Spiecker genannt Döhmann, Profiling, 345–372. ↵

Klaus, 86; siehe auch Heuberger, N 23. ↵

Manske/Knobloch, 2. ↵

Christen et al., 217. ↵

HEG-KI, Ethik-Leitlinien, 21; EGE, 22; Klaus, 85. ↵

EGE, 22. ↵

Christen et al., 199. ↵

Klaus, 85. ↵

Übersichten über die verschiedenen betroffenen Regulierungsfelder finden sich in Christen et al., 114–139; Klaus, 85; Lewinski; Weber, R.H./Henseler; siehe auch Ebers. ↵

Blarer et al., 35. ↵

Blarer et al., 35. ↵

Zum rechtlichen Status von (autonomen) Systemen siehe Beck; Cornelius; Grützmacher/Heckmann, J.; Kianička; Schirmer; Sesing/Baumann, 139–141; Zobl/Lysakowski; siehe auch Postulat Reynard Mathias (17.3040), Die Schaffung einer Rechtspersönlichkeit für Roboter prüfen, <https://www.parlament.ch/de/ratsbetrieb/suche-curia-vista/geschaeft?Affair​Id=20173040> (29.10.2022). ↵

Kianička, 63–64, 212; Zobl/Lysakowski, 42; für das deutsche Recht siehe Cornelius, 354, m.w.N. ↵

Blarer et al., 36; Zobl/Lysakowski, 43. ↵

Siehe dazu Grützmacher/Heckmann, J.; Sesing/Baumann. ↵

Siehe dazu Christen et al., 116–124; Duisberg, N 14–20; Ebers, 98–101; Gordon/Lutz; Stutz; Widmer Lüchinger. ↵

Grützmacher/Heckmann, J., 554. ↵

Sesing/Baumann, 140–141. ↵

Christen et al., 116; Duisberg, N 14. ↵

Beck, 183; Zobl/Lysakowski, 42–43. ↵

Christen et al., 128–129, m.w.N.; siehe auch Blarer et al., 40. ↵

Zum Schutz von Algorithmen oder Software im Allgemeinen siehe Christen et al., 124–128; Handle, § 8; Straub; Widmer, Immaterialgüterrecht. ↵

Christen et al., 124, 128–131; siehe auch Blarer et al., 40, 96. ↵

Siehe dazu vorne III.2.2. ↵

Siehe dazu Allen/Masters; Busch, 46–48; Corbett-Davies/Goel; Daedelow; Tischbirek; Wachter/Mittelstadt/Russel; Weber, R.H./Henseler, 39–41. ↵

Ernst, 1032. ↵

Biaggini, in: OFK BV, Art. 8 BV N 8, 18; Mahon, in: Aubert/Mahon, BV, Art. 8 BV N 14, 17; siehe dazu auch hinten X.3.2.d)ii(3). ↵

Siehe dazu Christen et al., 131–137; Thouvenin/Früh/George, N 19–29. ↵

Vorne II.6; siehe auch Christen et al., 132. ↵

Art. 2 Abs. 1 DSG, Art. 2 Abs. 1 DSGVO. ↵

Art. 21 und Art. 25 Abs. 2 lit. f DSG; Art. 13 Abs. 2 lit. f, Art. 14 Abs. 2 lit. g, Art. 15 Abs. 1 lit. h und Art. 22 DSGVO; Art. 9 Abs. 1 lit. a und c SEV Nr. 108+; automatisierte Entscheidungen werden zwar auch in Art. 31 und 41 FinfraV ausdrücklich geregelt, dies jedoch ausschliesslich mit Blick auf den Hochfrequenzhandel. ↵

Was genau eine automatisierte Einzelentscheidung aus datenschutzrechtlicher Sicht ist, wird hinten im 2. Teil analysiert. ↵

Siehe dazu vorne III.2.5. ↵

Siehe dazu Brecht/Steinbrück/Wagner, M.; Glatthaar; Kasper; Widmer, Kartellrecht; Wildhaber; siehe auch Stiller/Jäger/Giessler. ↵

Christen et al., 196–197. ↵

Siehe dazu Busch, 44–45; Expertengruppe zur Zukunft der Datenbearbeitung und Datensicherheit, 40, 100; Heinemann; Vallone; Widmer, Kartellrecht. ↵

Siehe dazu Monsch; Söbbing; Weber, R.H./Henseler, 41. ↵

Siehe dazu Stutz; Weber, R.H./Baisch; siehe auch Winkler, M. ↵

Zum Ganzen Postulat Marti Min Li (21.4406), Bericht zur Regulierung von automatisierten Entscheidungssystemen, <https://www.parlament.ch/de/ratsbetrieb/suche-curia-vis​ta/​geschaeft?AffairId=20214406> (19.10.2022); siehe auch Interpellation Schlatter Marionna (21.3239), Braucht es eine unabhängige Kontrollinstanz für Algorithmen (Anwendungen künstlicher Intelligenz)?, <https://www.parlament.ch/de/ratsbetrieb/suche-​cu​ria-vista/geschaeft?AffairId=20213239> (19.10.2022); Postulat Storni Bruno (20.4388), Künstliche Intelligenz. Sicherheitsvorschriften, Transparenz und Information bei Anwendungen von maschinellem Lernen, <https://www.parlament.ch/de/ratsbetrieb/suche-curia-vista/geschaeft?AffairId=20204388> (19.10.2022). ↵

4

Maschinelles Lernen

Vorbemerkungen

Wie vorne dargestellt, haben neben der Zunahme der auswertbaren Daten und der neu verfügbaren Rechen- und Speicherleistung insbesondere auch die damit zusammenhängenden Entwicklungen im Bereich des maschinellen Lernens zu einer wesentlichen Ausweitung des Anwendungs- und Einsatzbereichs automatisierter Entscheidungen geführt.[1] Viele der soeben geschilderten mit automatisierten Entscheidungen einhergehenden Befürchtungen, wie bspw. mögliche Diskriminierungen und mangelnde Transparenz,[2] sind oftmals auf Besonderheiten des maschinellen Lernens zurückzuführen,[3] weshalb die diesbezüglichen Hintergründe im Folgenden genauer betrachtet werden.

Um ein besseres Verständnis für auf maschinellem Lernen basierende Entscheidungssysteme zu erhalten, wird unter anderem nochmal kurz dargestellt, was maschinelles Lernen ist[4] und welche Möglichkeiten damit einhergehen, sowie ein Blick darauf geworfen, wie das Lernen dieser Algorithmen funktioniert; wie weit solche Entscheidungsalgorithmen auf Erfahrungswerte, Intuition etc. zurückgreifen können oder auf konkrete Vorgaben angewiesen sind; wie ein auf maschinellem Lernen basierendes ADM-System entwickelt wird und welche Rolle der Mensch dabei spielt.[5]

Begriff, Funktion und Möglichkeiten

Wie aus dem Namen ersichtlich und bereits vorne angeführt, liegt beim maschinellen Lernen – anders als bei der traditionellen Softwareentwicklung – der Schwerpunkt auf dem selbstständigen Lernen aus Daten.[6] Mitchell definierte maschinelles Lernen 1997 wie folgt: «Ein Computerprogramm soll aus Erfahrung E in Bezug auf eine Klasse von Aufgaben T und Leistungsmaß P lernen, wenn sich seine Leistung bei Aufgaben T, gemessen durch P, mit Erfahrung E verbessert.»[7] Die Idee des maschinellen Lernens ist es, den Computer mithilfe von (Trainings‑)Daten (= Erfahrung) in die Lage zu versetzen selbstständig Lösungen für ein Problem zu finden (= Aufgabe lösen), anstatt dass ihm eine genaue Anleitung zur Problemlösung vorgegeben wird.[8] Die Anweisungen, die ein lernender Algorithmus enthält, sind nicht vollständig kodiert, sondern in seinen Zielen enthalten.[9] Wie diese Ziele erreicht werden, ist dem Lernen des Algorithmus überlassen.[10] Dadurch ist der Ablauf von Algorithmen des maschinellen Lernens nicht deterministisch, sondern abhängig von deren Training.[11] Der Algorithmus an sich ist dabei zwar weiterhin vorgegeben, er lernt jedoch mit jedem dazugekommenen Datensatz und passt seine Entscheidungsprozesse entsprechend an.[12]

Bei den Algorithmen des maschinellen Lernens handelt es sich um das primäre Werkzeug zur Erkennung von Mustern in Datensätzen und für daraus abgeleitete Prognosen.[13] Ihr Ziel ist es Daten intelligent miteinander zu verknüpfen, Strukturen in Datenbeständen zu erkennen, Dinge zu klassifizieren, Zusammenhänge und unbekannte Muster zu erkennen, Rückschlüsse zu ziehen und Vorhersagen zu treffen.[14] Mithilfe von maschinellem Lernen kann deskriptiv Wissen aufgrund von Daten erlangt werden oder können prädiktiv Vorhersagen für die Zukunft erstellt werden oder beides zusammen.[15] Basierend auf bereits erhobenen Daten kann bspw. das aktuelle Verhalten von Menschen bewertet oder eine Vorhersage über ihr zukünftiges Verhalten gemacht werden.[16] Bemerkenswert ist, dass die lernenden Algorithmen für eine erfolgreiche Vorhersage selbstständig erkennen, welche Regeln und Muster in den Daten relevant und hilfreich sind.[17] Da Vorhersagen eine wesentliche Grundlage für Entscheidungen bilden,[18] eignen sich lernende Algorithmen besonders zum Einsatz in Systemen zur automatisierten Entscheidungsfällung.[19] Entsprechend überrascht es nicht, dass die automatisierte Entscheidungsfällung zusammen mit den Fortschritten bei der Entwicklung von Algorithmen des maschinellen Lernens eine quantitative und qualitative Zunahme erlebt hat.

Lernen

Training – verschiedene Lernstile

Maschinelles Lernen beruht im Kern auf Modellen, welche auf der Grundlage von Trainingsdaten trainiert werden und (bei erfolgreichem Training) Vorhersagen zur Klassifizierung von unklassifizierten Daten machen können.[20] Das Modell besteht aus einer Kombination von Daten und Algorithmen des maschinellen Lernens.[21] Der eigentliche Wert eines auf maschinellem Lernen basierenden Systems wird deshalb durch das «Modell» repräsentiert.[22] Eine Voraussetzung dafür, dass ein Modell, welches mittels eines Algorithmus trainiert wird, funktioniert und selbstständig eine Entscheidung treffen kann, ist das Modelltraining.[23] Wie dieses Training konkret geschieht, unterscheidet sich je nach Art des gewählten Algorithmus des maschinellen Lernens.[24] Eine Art der Unterscheidung ist die Differenzierung zwischen dem überwachten, unüberwachten oder bestärkenden Lernen.[25] Zur Erreichung einer bestmöglichen Genauigkeit werden diese Ansätze bei komplexen oder unvorhersehbaren Daten auch kombiniert eingesetzt.[26]

Überwachtes Lernen – Vorhersagen erstellen

Beim überwachten Lernen (supervised learning) ist der Output dem Algorithmus im Voraus bekannt, er muss jedoch lernen, wie er von den Eingabe- zu den Ausgabedaten kommt.[27] Dabei sollen die Vorhersagen des Algorithmus auf bestimmten, in den Trainingsdaten enthaltenen, Mustern fussen.[28] Es geht mithin darum, dass der Algorithmus generelle Regeln findet, anhand derer er von den bekannten Eingabedaten zu den gewünschten Ausgabedaten kommt, um anschliessend mit neuen Eingabedaten neue Ausgaben vorherzusagen.[29] Zum Trainieren von Algorithmen des überwachten Lernens werden bereits klassifizierte (gelabelte) Trainingsdaten verwendet.[30] Zum Labeln der Daten bewerten bspw. ein oder mehrere Personen oder Experten aus dem entsprechenden Anwendungsgebiet eine Menge an Trainingsbeispielen.[31] Dazu hinterlegen diese bspw. einem Foto die Information, ob eine Katze oder ein Hund zu sehen ist.[32] Durch die Analyse vieler solcher gekennzeichneter Fotos lernt der Algorithmus selbstständig zu unterscheiden, ob es sich bei einem Foto um eine Katze oder einen Hund handelt.

Algorithmen des überwachten Lernens sind heutzutage am meisten verbreitet.[33] Sie bieten sich insbesondere an, um Vorhersagen zu bisher unbekannten Daten zu erstellen.[34] Eingesetzt werden kann überwachtes Lernen bspw. im Bereich der Preis- oder Einkommensentwicklung, zur Bestimmung der Kreditwürdigkeit, für Spamfilter oder zur Betrugserkennung.[35]

Unüberwachtes Lernen – Muster erkennen

Unüberwachte Algorithmen (unsupervised learning) sind deshalb unüberwacht, da ihnen nur die Eingabedaten zur Verfügung stehen, ohne dass die Ausgabewerte bereits bekannt sind.[36] Im Gegensatz zum überwachten Lernen enthalten die verwendeten Trainingsdaten kein Label mit Zusatzinformationen.[37] Dies bedeutet, dass der Algorithmus im Wesentlichen «blind» an seine Aufgabe herangeht und das Problem lediglich aufgrund seiner implementierten logischen Operationen lösen muss.[38] Dabei sind die möglichen Ergebnisse gänzlich offen.[39]

Algorithmen des unüberwachten Lernens sind komplexer und weit weniger verbreitet als diejenigen des überwachten Lernens.[40] Sie bieten sich an, um Regelmässigkeiten, Muster und versteckte Strukturen in Daten zu erkennen.[41] Auf unüberwachtem Lernen basierenden Modellen ist es bspw. möglich, Gruppen von Daten zu finden, die einander ähnlicher sind als andere Datenpunkte.[42] Dadurch können anfänglich unbekannte Kategorien identifiziert, Ausreisser bestimmt oder Elemente erkannt werden, die ungewöhnlich sind.[43] Ein Anwendungsbereich ist bspw. die Einteilung von Kunden in verschiedene Gruppen, indem die gemeinsamen Vorlieben oder Eigenschaften der Kunden ermittelt und analysiert werden, um ihnen anschliessend individualisierte Werbung anzuzeigen.[44] Die Ausreissererkennung wird unter anderem verwendet, um im Rahmen der Analyse von Bankgeschäften abnormale Transaktionen oder Anfragen und dadurch mögliche Betrugsversuche zu identifizieren.[45] Auf unüberwachtem Lernen basierende Modelle können aber auch eingesetzt werden, um einen Einblicke in die Struktur der vorhandenen Daten zu gewinnen.[46]

Bestärkendes Lernen – Muster erkennen und Vorhersagen verbessern

Die dritte Methode von ML-Algorithmen ist das bestärkende Lernen (reinforcement learning), bei welchem das Lernen ein interaktiver Prozess ist.[47] Im Gegensatz zum überwachten und unüberwachten Lernen, bei welchen das System eine Reihe von Elementen beobachtet und aus ihnen lernt, soll das System durch die Bewertung des Erfolgs lernen.[48] Im Vordergrund steht beim bestärkenden Lernen nicht eine einzelne Aktion, sondern ein Ablauf korrekter Aktionen (Taktik), die zum Ziel führen.[49] Dabei werden nicht Trainingsdaten im vorne genannten Sinn nötig, sondern ein «Agent» interagiert mit seiner simulierten Umgebung.[50] Dem Algorithmus wird nicht gesagt, was er zu tun hat, sondern nur Feedback dazu gegeben, wie gut er in der Vergangenheit abgeschnitten hat.[51] Die Bildung der Datenbasis erfolgt durch Trial-and-Error-Abläufe.[52] Der Algorithmus erhält am Ende eines Ablaufs ein positives oder negatives Feedback zu seinem Ergebnis, mittels dessen er lernt seine Taktik zu verbessern.[53] Weil das erhaltene Feedback fortlaufend zur Verbesserung genutzt wird, verändert sich das Modell fortwährend selbst.[54] Nicht mehr die Entwickler statten das Programm mit Anweisungen aus, die unmittelbar das bestmögliche Vorgehen bestimmen, sondern das System lernt selber, für welche Züge es sich entscheiden wird.[55]

Bestärkendes Lernen wird als der aussichtsreichste Weg hin zu einer starken oder generellen KI angesehen, welche – im Gegensatz zu herkömmlichen Systemen, die auf die Bewältigung bestimmter Probleme ausgelegt sind – imstande ist eigenständig Lösungsansätze für die unterschiedlichsten Aufgabenstellungen zu finden und in die Anwendung einzubringen.[56] Es wird heute typischerweise eingesetzt, wenn der Algorithmus eine Folge von Entscheidungen treffen soll, wobei jede Entscheidung die weiteren Entscheidungen beeinflusst, wie dies bspw. bei einem Spiel der Fall ist.[57] Anwendungszwecke sind auch die Optimierung und Steuerung von Systemen, bspw. im Rahmen des autonomen Fahrens, bei intelligenten Stromnetzen oder zur Fabrikautomatisierung.[58] Darüber hinaus können Algorithmen des bestärkenden Lernens theoretisch auch eingesetzt werden für Empfehlungssysteme, welche für jeden Kunden ein Set von Empfehlungen abgeben, oder für die Wirtschaft, wo eine Reihe von Kauf- oder Verkaufsentscheidungen zu treffen ist.[59]

Künstliche neuronale Netze und Deep Learning

Beim maschinellen Lernen wird zuweilen auch differenziert zwischen aussagenlogischen Systemen, in denen das Wissen – sowohl die Beispiele als auch die induzierten Regeln – explizit repräsentiert ist, und künstlichen neuronalen Netzen (KNN), die nach dem Vorbild des menschlichen Gehirns funktionieren und in denen das Wissen implizit repräsentiert ist.[60] Bei den dem Konnektionismus zugehörigen künstlichen neuronalen Netzen geht es im Grundsatz um die Nachbildung kognitiver Prozesse.[61] Vereinfacht gesagt handelt es sich um mathematische Modelle, welche in ihrer Struktur, Organisation und Funktionsweise dem menschlichen Gehirn nachempfunden sind.[62] Die Gehirnstrukturen werden jedoch nicht eins zu eins abgebildet.[63] Währenddem Neuronen die biologische Grundeinheit des Konnektionismus sind,[64] sind dies bei den künstlichen neuronalen Netzen die (Rechen‑)Knoten.[65] Neuronen und Rechenknoten sind Elemente, die unterschiedlich gewichtete Eingaben entgegennehmen, verarbeiten und eine Ausgabe erzeugen.[66] Im Vordergrund steht – wie beim Gehirn – die informatorische Umsetzung des Konzeptes der Verschaltungsstärke bzw. Gewichtung.[67]

Die Informationsverarbeitung findet in einem Netz einfacher, vielfältig miteinander verknüpfter Knoten statt, welche in mehreren parallel arbeitenden Schichten gruppiert werden.[68] Wie viele Schichten zur Lösung eines bestimmten Problems nötig sind, lässt sich nicht pauschal definieren, sondern muss im Einzelfall mittels Training und Validierung ermittelt werden.[69] Die einzelnen Knoten des Netzes sind jeweils mit den Knoten der nächsthöheren und der nächstniedrigeren Schicht verbunden,[70] wobei das Ergebnis einer Schicht die Eingabe der nächsten Schicht bildet.[71] Sämtliche dieser Verbindungen zwischen den Knoten haben eine Richtung sowie eine unterschiedliche Gewichtung.[72] Empfängt ein Knoten ein Signal, wird dieses verarbeitet und, sofern es einen gewissen Schwellenwert überschreitet (Aktivierung), an weitere mit ihm verbundene Knoten übermittelt.[73] Dadurch wird die Aktivität des ersten Knotens an den nächsten Knoten übertragen.[74] Je nach Stärke einer Gewichtung hat ein Knoten auf den nächsten einen verstärkenden oder hemmenden Einfluss.[75] Ob und wie stark ein Knoten aktiviert wird, bestimmt sich durch seine Aktivierungsregel.[76] Die Verstärkung oder Abschwächung legt fest, welche Knoten aktiviert werden und welche nicht, wodurch ein spezifisches Aktivitätenmuster entsteht.[77] Dieses Vorgehen führt, analog dem menschlichen Gehirn, zu einer verbesserten Mustererkennung, Fachkenntnis und allgemeinem Lernen.[78]

Damit ein neuronales Netz die gewünschte Funktion erfüllen kann, muss es trainiert werden.[79] Ziel des Trainings ist es, die richtigen Gewichte für die Verbindungen zwischen den Knoten zu finden.[80] Das Lernen aus Erfahrung findet statt, indem die Verbindungsstärke der verschiedenen Knoten verändert wird.[81] Das Lernen basiert heute in der Regel auf Methoden des überwachten Lernens.[82] Neuronale Netze können jedoch auch für unüberwachtes und für bestärkendes Lernen eingesetzt werden.[83]

Grundsätzlich kann ein neuronales Netz aus nur einer Ein- und Ausgabeschicht bestehen.[84] Die Datenverarbeitungsmöglichkeiten eines Netzes werden jedoch durch dazwischenliegende, versteckte Schichten massgeblich erhöht.[85] Nicht überraschend ist deshalb das Deep Learning die derzeit erfolgreichste Implementierung eines künstlichen neuronalen Netzes.[86] Das Wort «deep» (tief) bezieht sich nicht auf dessen besonders tiefes Problem- oder Lösungsverständnis,[87] sondern auf die Tiefe bzw. Anzahl der Schichten und zwar unabhängig von der konkreten Netzstruktur.[88] Es handelt sich bei Deep-Learning-Netzen entsprechend um künstliche neuronale Netze mit mehreren Schichten versteckter Einheiten.[89]

Für die Problemlösung im Bereich grosser Datenmengen bietet Deep Learning ein mächtiges Werkzeug.[90] Es wird unter anderem eingesetzt zur Spracherkennung und zum Erkennen von Bildern, um im Marketing eine konsequentere Personalisierung zu erreichen, um zur Betrugsbekämpfung ungewöhnliche Transaktionen frühzeitig zu erkennen oder um im Personalwesen präzise Vorhersagen zur Leistungsfähigkeit und Leistungsbereitschaft von Bewerbenden zu treffen.[91]

Der grösste Vorteil des Deep Learnings, die Komplexität des neuronalen Netzes und die damit verbundene Fähigkeit zur Annäherung an beliebig komplexe Funktionen, ist auch sein grösster Kritikpunkt.[92] Die Inhalte der vielen Schichten und Knoten sowie die vom System gelernten Zusammenhänge und Datenrepräsentationen werden zunehmend komplexer und abstrakter und dadurch schlechter nachvollziehbar.[93] Oftmals bleibt unklar, welchen Regeln das neuronale Netz folgt und welche Variablen die einzelnen Knoten als signifikant einstufen.[94] Dadurch wird die Erklärbarkeit der Ergebnisse schwieriger.

Diese Komplexität ist eine technische Ursache des Black-Box-Problems sowie der fehlenden Transparenz bzw. Interpretierbarkeit gewisser auf maschinellem Lernen basierender Systeme,[95] welche im Zusammenhang mit der automatisierten Entscheidungsfindung als Herausforderungen angeführt werden. Inzwischen gibt es jedoch verschiedene Ansätze, um dieses Problem zu entschärfen. Diese reichen von spezifischen neuronalen Netzen, die bspw. komplexe Probleme in Teilprobleme zerlegen und die gelernten Filter jeder Schicht visualisieren, bis hin zu spezifischen Verfahren, mittels derer die gelernten Parameter nachvollziehbarer gemacht werden können.[96] Es wird bspw. beobachtet, welche künstlichen Neuronen bei einer Berechnung aktiviert werden und welchen Einfluss diese auf das Endergebnis haben, oder es wird mittels geringfügiger Veränderungen der Architektur geprüft, welche Auswirkungen die einzelnen Komponenten auf das Gesamtergebnis haben.[97] Ebenso wird versucht künstliche neuronale Netze mittels sogenannter White-Box-Modelle, wie Entscheidungsbäumen oder Entscheidungsregeln, abzubilden und dadurch erklärbarer zu machen.[98]

Generalisierung

Maschinelles Lernen beruht auf statistischen Verfahren, bei denen basierend auf der Analyse von Stichproben Rückschlüsse über die Charakteristika der zugehörigen Grundgesamtheit getroffen werden.[99] Damit ein Algorithmus aus Erfahrung lernen und das Gelernte schliesslich auf weitere Fälle anwenden kann, muss er generalisieren, d.h. verallgemeinern, können.[100] Ein Ziel der Algorithmen des maschinellen Lernens ist entsprechend die Erstellung von Modellen, welche aus Datensätzen geeignete Verallgemeinerungen kodieren.[101] In Bezug auf das zu lösende Problem sollen diese Modelle eine kompakte Repräsentation der Daten abbilden.[102] Nach dem Ende der Lernphase soll der Algorithmus in der Lage sein, sein «Wissen» auf neue Daten anzuwenden.[103]

Das blosse Speichern und Auswendiglernen eines Datensatzes ermöglicht es einem Vorhersagemodell in den meisten Fällen nicht, auch für neue Beispiele gute Vorhersagen zu erstellen.[104] Egal wie viele Trainingsdaten zur Verfügung stehen, ist es sehr unwahrscheinlich, dass in neuen Daten, für welche Rückschlüsse gezogen oder Vorhersagen getroffen werden sollen, genau dieselben Beispiele enthalten sind, weshalb die Generalisierung unerlässlich ist, um auch für neue Daten zu guten Ergebnissen zu kommen.[105] Die Verallgemeinerung basiert darauf, dass der Algorithmus Muster, Beziehungen und Gesetzmässigkeiten in den Daten erkennt, welche auf neue Daten projiziert werden können.[106] Eine solche Gesetzmässigkeit ist bspw. die Tatsache, dass ähnliche Autos ähnlich viel Wert haben.[107] Die Fähigkeit zur Generalisierung ist ein Schlüsselelement des maschinellen Lernens.[108] Sie ermöglicht es einem Algorithmus für ähnliche Situationen, die nicht Teil der Trainingsdaten sind, Entscheidungen zu treffen.[109]

Die Notwendigkeit der Generalisierung hat verschiedene Konsequenzen. Insbesondere ist der Datensatz, mit welchem der Algorithmus trainiert wird, die Grundlage der gemachten Verallgemeinerung.[110] Die Präzision der erzielten Ergebnisse verbessert sich deshalb mit einer Erhöhung des Datendurchsatzes, d.h. mit jedem neu eingespeisten Datensatz.[111] Gleichzeitig ist die Generalisierung beschränkt auf die verwendeten Daten.[112] Sind diese Daten nicht repräsentativ, wird das vom Algorithmus generierte Modell nicht genau sein.[113] Deshalb sind bei selbstlernenden Algorithmen die Verfügbarkeit und die Qualität des Datenmaterials von grosser Bedeutung und es gilt zu beachten, dass dieses ungenau, falsch, unvollständig, veraltet, nicht feinkörnig genug oder falsch ausgewählt sein kann.[114] Ist die Qualität der verwendeten Daten für das zu erreichende Ziel nicht gut genug, können sich entsprechend Fehler in die Entscheidungsstrukturen des Algorithmus einschleichen.

Die verwendeten Daten bilden zudem immer nur die Vergangenheit ab, denn sie enthalten Repräsentationen von Beobachtungen, die in der Vergangenheit gemacht wurden.[115] Dies bedeutet, dass lernende Algorithmen in der Vergangenheit nach Mustern suchen, die sich auf die Zukunft verallgemeinern lassen.[116] Ein Prozess oder ein Verhalten kann sich im Verlauf der Zeit ändern, weshalb diese aus der Vergangenheit gemachten Annahmen und Vorhersagen nicht immer zutreffen.[117] Ebenso können Trainingsdaten historisch gewachsene Vorurteile enthalten, welche vom Algorithmus gelernt, in ein vermeintlich objektives Faktum umgewandelt und in die Zukunft projiziert werden, was die Entscheidungsfindung wesentlich beeinflussen kann.[118] Ist dies der Fall, kann es anschliessend mit jeder durch das System getroffenen Entscheidung zu einer selbstverstärkenden Rückkoppelung kommen, durch welche die bereits in den verwendeten Daten enthaltenen Vorurteile oder Verzerrungen verstärkt werden.[119]

Gelingt die Generalisierung nicht ausreichend, kann es sein, dass ein System über- oder unterangepasst ist. Bei der Überanpassung werden zufällige Abweichungen in den Daten fehlinterpretiert, weshalb das System zwar sehr genaue Vorhersagen für die Trainingsdaten machen kann, die Vorhersagen lassen sich aber nicht oder nur schlecht auf neue Daten übertragen.[120] Bei einer Unteranpassung hingegen ist der Algorithmus zu unempfindlich und ignoriert auch offensichtliche Strukturen in den Daten, weshalb weder für die Trainingsdaten noch für neue Daten zuverlässige Aussagen gemacht werden und die Vorhersagen ungenau sind.[121] Eine Verzerrung kann darüber hinaus auch durch die Auswahl des Algorithmus entstehen, da jeder lernende Algorithmus die Art der Verallgemeinerungen aus einem Datensatz anders kodiert.[122]

Die vorne angeführten Befürchtungen betreffend den Einfluss von ADM- Systemen auf die Teilhabe sowie die mit deren Einsatz verbundene Gefahr der (statistischen) Diskriminierung oder des Generalisierungsunrechts[123] hängen eng mit diesem den lernenden Algorithmen zugrundeliegenden Konzept der Generalisierung zusammen.

Anpassung der Entscheidungsstrukturen

Ein Vorteil, der mit Algorithmen des maschinellen Lernens verbunden wird, ist die Tatsache, dass diese in der Lage sind, ihre Entscheidungsprozesse anzupassen.[124] Dies bedeutet jedoch nicht zwingend, dass ein auf lernenden Algorithmen basierendes ADM-System während der Nutzung ständig seine Entscheidungsprozesse anpasst.[125] Wann und wie lange die Entscheidungsprozesse selbstständig vom Algorithmus angepasst werden, hängt davon ab, wie das verwendete Modell oder die ausführende Software ausgestaltet wird. So kann bspw. zwischen Offline- oder Online-Lernsystemen unterschieden werden.[126] Bei Offline-Szenarien findet das Lernen getrennt vom Anwendungsszenario statt und das Gelernte wird erst anschliessend verwendet und nicht mehr verändert.[127] Konkret wird bei Offline-Systemen zwischen der Trainings- und Nutzungsphase unterschieden. Das Verhalten des Systems ändert sich nur während der Trainings‑, nicht aber während der Nutzungsphase.[128] Bei gleichen Eingabewerten resultiert in diesen Fällen immer das gleiche Ergebnis.[129] Anpassungen werden in der Regel im Hintergrund vorbereitet und müssen anschliessend in das produktive System überführt werden, um wirksam zu werden.[130]

Um ein Online-Lernsystem handelt es sich hingegen, wenn sich das Verhalten des Algorithmus innerhalb des Anwendungsszenarios verändert und beständig angepasst wird.[131] Das Verhalten des System ändert sich dabei im laufenden Betrieb aufgrund des Feedbacks aus vorhergehenden Entscheidungen.[132] Da die Ergebnisse abhängig sind von den vorhergehenden Eingabedaten, resultieren bei gleichen Eingabewerten zu unterschiedlichen Zeitpunkten nicht immer dieselben Ergebnisse.[133]

Entwicklung eines ADM-Systems

Entwicklungsprozess einer ML-Lösung

Es hat sich eine Reihe bekannter Schritte etabliert, die zur Erstellung eines auf maschinellem Lernen basierenden Systems im Allgemeinen zu absolvieren sind.[134] Wie beim Entscheidungsprozess[135] gibt es auch diesbezüglich verschiedene Vorgehensweisen und theoretische Modelle.[136] Ihre ausführliche Vorstellung erscheint für die vorliegende Arbeit weder notwendig noch zielführend, weshalb sich die folgende Darstellung auf eine Zusammenfassung der wichtigsten Entwicklungsschritte beschränkt.

(1) Problemformulierung: Bevor ein oder mehrere Algorithmen ausgewählt und ein Modell zur automatisierten Entscheidungsfällung erstellt werden kann, ist zu eruieren, was das Problem ist, was dagegen getan werden kann, was bereits getan wurde und weshalb es sich lohnt dieses Problem zu lösen.[137] Neben der Identifizierung des Problems ist zu definieren, welche Ziele mit dem Endergebnis erreicht werden sollen.[138] Dazu muss ein Verständnis für den geschäftlichen Kontext geschaffen werden und das zu lösende Geschäftsproblem in ein (Daten‑) Analyseproblem umgewandelt werden.[139]

(2) Datensammlung, -vorbereitung und -verständnis: In einem nächsten Schritt sind die relevanten Daten zu identifizieren und zu sammeln.[140] Ebenso müssen die Daten, welche analysiert werden sollen, für die Analyse aufbereitet werden: So sind bspw. beim Einsatz von Algorithmen des überwachten Lernens Trainingsbeispiele zu annotieren, d.h. mit Labeln zu versehen.[141] Aus den vorhandenen Datensätzen sind diejenigen Merkmale auszuwählen, welche zum geplanten Algorithmus passen, oder Merkmale müssen extrahiert, umgruppiert oder zusammengefasst werden.[142] Fehlende Daten sind nach Möglichkeit zu ergänzen oder der Umgang mit ihnen ist zu definieren und die Daten sind in eine einheitliche Form, bspw. eine Tabelle, zu bringen.[143] Bevor mit der tatsächlichen Datenanalyse begonnen werden kann, ist es zudem wichtig, dass die Daten im Detail verstanden werden.[144] Es gilt herauszufinden, wie die Daten aufgebaut sind und welche Abhängigkeiten bestehen.[145]

(3) Algorithmen- und Modellauswahl: In einem nächsten Schritt werden die für die Datenanalyse geeigneten Algorithmen ausgewählt.[146] Aus der Kombination von einem oder mehreren Algorithmen und den verfügbaren Daten soll ein Modell entstehen, welches versucht zu generalisieren und Ergebnisse im Form von Erkenntnissen oder Vorhersagen zu produzieren.[147] Die Auswahl der verwendeten Modelle basiert unter anderem auf den zu erledigenden Aufgaben, den verfügbaren Daten und den darin identifizierten Merkmalen, der Evaluation verschiedener Verfahren, geschäftlichen Zielen sowie den Anforderungen und Grenzen der verschiedenen Algorithmen.[148]

(4) Modellerstellung, Training und Optimierung: Wurden ein oder mehrere passende Modelle ausgewählt, müssen diese trainiert und optimiert werden,[149] damit sie anschliessend zur Erstellung von Prognosen auf neue Daten angewendet werden können.[150] Ein ausgewähltes Modell wird dazu mit Blick auf die gewünschten Funktionen und mit dem Ziel, die aus Daten gelernten Darstellungen zu verallgemeinern sowie Fehler zu reduzieren, trainiert und seine Parameter werden laufend angepasst.[151] In diesem Schritt lernt der Algorithmus aus den Daten oder dem erhaltenen Feedback.[152]

(5) Evaluation und Validierung: Während verschiedener Stadien des Entwicklungsprozesses sind unterschiedliche Evaluationen und Validierungen erforderlich. Im Rahmen der Modellauswahl ist eine Evaluation notwendig, um herauszufinden, welcher Algorithmus mit den verfügbaren Daten voraussichtlich zu den besten Ergebnissen kommt.[153] Sobald ein Modell endgültig ausgewählt und trainiert worden ist, hat zudem eine detaillierte Bewertung und Überprüfung dieses Modells sowie von dessen Ergebnissen stattzufinden.[154] Dabei wird bspw. die Genauigkeit eines Modells mit einem Datensatz geprüft, den das Modell noch nie gesehen hat.[155] Bei den verschiedenen Evaluationen wird berücksichtigt, welche Ziele mit dem System verfolgt werden, wie diese erreicht werden, welche Kosten mit dem gewählten Ansatz einhergehen, wie ein Modell performt, ob es genügend robust ist und ob es reproduzierbare Ergebnisse liefert.[156]

(6) Deployment: Erst nach dem Training, der Evaluation und der Validierung des Modells ist dieses bereit, Vorhersagen zu treffen.[157] Im anschliessend letzten Schritt geht es darum, das entwickelte Modell in die produktive Nutzung zu überführen, d.h. das Modell in Betrieb zu nehmen und auf unbekannte Daten anzuwenden.[158] Ebenso muss die Kontrolle der Leistung und Ergebnisse des Systems sichergestellt werden und im laufenden Betrieb ist zu gewährleisten, dass ein System bei Bedarf ausser Betrieb genommen, ersetzt oder aktualisiert wird.[159]

Diese Darstellung der Entwicklungsschritte bis zur Inbetriebnahme eines auf lernenden Algorithmen basierenden Systems zeigt, dass der Mensch einen grossen Einfluss auf die Ausgestaltung eines ADM-Systems hat. Die Einflussnahme beginnt damit, dass im Voraus entschieden werden muss, welches Problem mit dem Algorithmus optimiert, welche Fragestellung gelöst und welche Ziele angestrebt werden (Schritt 1).[160] Anschliessend folgt der zentralste und auch zeitaufwändigste Schritt: die Datensammlung und -vorbereitung sowie das Verstehen der Daten (Schritt 2).[161] Alleine die Datenvorbereitung nimmt schnell einmal 60‑70% der Zeit eines ganzen auf maschinellem Lernen basierenden Projekts in Anspruch.[162] Weil Modelle des maschinellen Lernens das abbilden, was sie aus den Daten lernen, ist die Qualität des Datenmaterials von entscheidender Bedeutung.[163] Da bei schlechter Datenqualität auch die ausgefeiltesten Analysen keine guten Ergebnisse hervorbringen,[164] ist es wichtig, mit Blick auf das zu erreichende Ziel, nur Daten zu verwendeten, welche von ausreichender Qualität sind.[165] Ebenso kann unzureichendes Wissen über die Daten im späteren Prozess zu negativen Auswirkungen führen.[166] Wie bereits vorne festgestellt,[167] können die verwendeten Daten falsch, unvollständig, veraltet, nicht repräsentativ oder nicht feinkörnig genug sein[168] oder historisch gewachsene Vorurteile enthalten,[169] was sich wesentlich auf die von einem Algorithmus produzierten Resultate auswirkt. Bereits die blosse Auswahl der verwendeten Trainingsdaten durch den zuständigen Experten hat deshalb einen wesentlichen Einfluss auf das Ergebnis.[170]

Nach der Datenvorbereitung folgt die Auswahl der geeigneten Algorithmen und Modelle (Schritt 3). Diese Auswahl geschieht mit Blick auf die zu erledigenden Aufgaben, d.h. das zu lösende Problem und die zu erreichenden Ziele, allfällige vorhandene Beschränkungen, die Leistung der Modelle sowie die vorhandenen Daten.[171] Gewisse Algorithmen können besser oder schlechter mit den zur Verfügung stehenden Datentypen umgehen.[172] Diese Auswahl der Methode bestimmt, in welcher Art und Weise bspw. nach Mustern in den Daten gesucht und wie am Schluss über neue Daten entschieden wird, weshalb auch dieser dritte Schritt erheblichen Einfluss auf die am Schluss resultierenden Ergebnisse eines Systems hat.[173] Welcher Algorithmus und welches Modell sich für den konkreten Fall am besten eignen, wird mittels Evaluierung (Schritt 5) herausgefunden, indem verschiedene Verfahren getestet und miteinander verglichen werden.[174]

Abhängig von der Einstellung der Parameter kann ein und derselbe Algorithmus bzw. ein und dasselbe Modell zu unterschiedlichen Ergebnissen kommen.[175] Um zum gewünschten Ergebnis zu gelangen, muss das Modell, nach dessen Auswahl, trainiert und optimiert werden (Schritt 4). Im Vordergrund steht dabei, dass die Leistung und die Ergebnisse des Modells den definierten Erfolgskriterien entsprechen, die Ergebnisse reproduzierbar und konsistent sind und das Modell skalierbar, robust und in der Zukunft erweiterbar ist.[176] Auch dabei soll mittels Evaluation (Schritt 5) herausgefunden werden, wie geeignet ein Modell für die Aufgabe ist.[177] Dazu ist zu prüfen, ob das ausgewählte Modell den soeben angeführten Kriterien gerecht wird.[178] Es wird unter anderem getestet, ob ein Modell auch mit neuen Daten realistische Resultate liefert, d.h. ob und wie gut es generalisieren kann oder ob es nur die Trainingsdaten speichert.[179] Die goldene Regel der Evaluation lautet, dass ein Modell nie mit den Daten getestet werden darf, mit denen es trainiert wurde.[180] Im Grundsatz gilt, dass das Modell, welches die genauesten Vorhersagen für die Testdaten macht, das beste ist.[181] Zum Schluss muss das ausgewählte und optimierte Modell in die produktive Nutzung überführt werden (Schritt 6).

Die genannten Schritte finden nicht immer in einer fixen Reihenfolge statt. Es wird insbesondere nicht nur ein Datensatz erstellt und nur ein Modell getestet.[182] Vielmehr handelt es sich um eine Art Kreislauf, bei dem während der Entwicklung neue Erkenntnisse gewonnen werden, die in die jeweiligen vorhergehenden Schritte einfliessen und entsprechende Änderungen zur Folge haben.[183] In einem iterativen Prozess wird jeweils ein Modell trainiert, die Ergebnisse werden analysiert, die Daten oder das Modell angepasst und der Prozess wird anschliessend wiederholt, um dasjenige Modell zu finden, welches die im ersten Schritt definierten Vorgaben am besten erfüllen kann.[184] In der Praxis werden diese Schlaufen oft mehrmals durchlaufen, bis das Ergebnis die gewünschte Qualität erreicht hat.[185]

Die Rolle des Menschen

Der soeben vorgestellte Entwicklungsprozess zeigt auf, dass ein auf maschinellem Lernen basierendes ADM-System durch den Menschen entwickelt wird.[186] Bei der Analyse des Phänomens der automatisierten Entscheidung hat sich gezeigt, dass dabei vom Menschen entwickelte Systeme selbstständig eine bestimmte Anzahl oder sämtliche Aktivitäten des (kognitiven) Entscheidungsprozesses durchführen.[187] Dabei ist das eingesetzte ADM-System das vom Menschen entwickelte Werkzeug zur Entscheidungsfällung oder -unterstützung.

Der Mensch entscheidet, ob und in welchem Kontext ein ADM-System eingesetzt wird, wie dieses ausgestaltet ist, wann und wie dessen Entscheidungen überprüft werden[188] oder welches Entscheidungsproblem mittels maschinellen Lernens gelöst werden soll.[189] Sowohl die Entscheidung für den Einsatz eines Systems zur Entscheidungsfällung oder -unterstützung als auch die Zielvorgabe dieses Systems erfolgt durch den Menschen.[190] Ebenso entscheidet der Mensch, welche Daten möglicherweise relevant sind und welche Modelle eingesetzt werden, um diese Daten zu analysieren.[191] Auch darüber hinaus ist die Entwicklung von (selbstlernenden) ADM-Systemen in vielen weiteren Entwicklungsschritten abhängig von menschlichen Entscheidungen und dem Urteilsvermögen des Menschen.[192] Dies hat zur Folge, dass Algorithmen zur automatisierten Entscheidungsfindung nicht per se objektiv oder neutral sind, sondern abgesehen von den Datensätzen, auf die sie sich stützen, auch auf menschlichen Modellierungen beruhen und die Ansichten, Neigungen oder Wertungen von Menschen in ihre Entwicklung miteinfliessen.[193]

Im Wesentlichen handelt es sich bei der Datenwissenschaft, in deren Rahmen aus Daten Informationen gewonnen werden wollen, um eine Partnerschaft zwischen dem Menschen und dem Computer.[194] Zwar können mittels lernender Algorithmen und Daten verschiedene (Entscheidungs‑)Modelle generiert werden; deren Nützlichkeit ist jedoch von der Expertise des Menschen abhängig.[195] Ebenso liegt es an den Entwickelnden, Nutzenden und der Gesellschaft, welche automatisierte Entscheidungssysteme einsetzen, ob sich deren Chancen oder die damit einhergehenden Risiken verwirklichen.[196]

Der Bestandteil «Mensch» im Prozess der Modellentwicklung ist nicht zwingend eine einzelne Person. Die Erarbeitung von Entscheidungsalgorithmen bedingt regelmässig eine interdisziplinäre Zusammenarbeit zwischen Datenanalysten, Softwareentwicklern, Algorithmusspezialisten sowie, abhängig von der Fragestellung, spezifischen Fachpersonen aus dem betroffenen Bereich, bspw. aus der Politik, Werbung, Psychologie oder Produktion.[197] Ebenso sind ADM-Systeme jeweils sowohl in einem bürokratischen und organisatorischen Verfahren[198] als auch einem politischen und wirtschaftlichen Ökosystem[199] eingebettet.

Bei an Modellen des maschinellen Lernens delegierten, automatisierten Entscheidungen bleibt der Mensch deshalb weiterhin ein Teil des Entscheidungsprozesses, sowohl im Rahmen der Entwicklung des dem System zugrundeliegenden Modells als auch während seines späteren Einsatzes und seiner Überprüfung.

Vorne II.1.2; Thouvenin/Früh/George, N 7. ↵

Dazu vorne III.2.2 und III.2.3. ↵

Siehe bspw. Höfer, N 36–38. ↵

Siehe dazu bereits vorne II.1.2 bei Fn. 116–139. ↵

Es ist anzumerken, dass dieser Fokus auf das maschinelle Lernen nicht bedeutet, dass ADM-Systeme immer auf lernenden Algorithmen basieren müssen. Entscheidungen können auch mit deterministischen Computerprogrammen automatisiert getroffen oder unterstützt werden (siehe dazu vorne II.2.3 und Fn. 181). ↵

Wuttke, Machine Learning, o.S.; siehe dazu vorne II.1.2. ↵

Mitchell, 2; Übersetzung nach Jaedtke, o.S. ↵

Jaedtke, o.S. ↵

Science and Technology Committee, 7. ↵

Science and Technology Committee, 7. ↵

Expertengruppe zur Zukunft der Datenbearbeitung und Datensicherheit, 38. ↵

Expertengruppe zur Zukunft der Datenbearbeitung und Datensicherheit, 38. ↵

Ng/Soo, VIII. ↵

Manhart, o.S.; Niebler/Lindner, 10; Wuttke, Machine Learning, o.S.; SAP, o.S. ↵

Alpaydin, Introduction, 3. ↵

Zweig, 11. ↵

Garriga, 50. ↵

Blarer et al., 26; siehe dazu auch vorne II.3.2. ↵

Siehe auch Wuttke, Machine Learning, o.S.; SAP, o.S. ↵

Kaulartz, 32. ↵

Sarkar/Bali/Sharma, 51. ↵

Kaulartz, 32. ↵

Wuttke, Machine Learning, o.S. ↵

Kaulartz, 35. ↵

Sarkar/Bali/Sharma, 35; Wuttke, Machine Learning, o.S.; siehe auch Krüger, J./​Lischka, 12. ↵

SAP, o.S. ↵

Marr, Supervised, o.S. ↵

Ng/Soo, 9, 172. ↵

Kirste/Schürholz, 25. ↵

Kaulartz, 35. ↵

Alpaydin, Introduction, 23; Höfer, N 13. ↵

Frochte, 21; Kaulartz, 33. ↵

Marr, Supervised, o.S. ↵

Kirste/Schürholz, 26; Ng/Soo, 9. ↵

Goram, o.S.; Kirste/Schürholz, 26. ↵

Alpaydin, Introduction, 11. ↵

Wuttke, Unsupervised Learning, o.S. ↵

Marr, Supervised, o.S. ↵

Kirste/Schürholz, 26. ↵

Marr, Supervised, o.S. ↵

Alpaydin, Introduction, 11; Frochte, 25. ↵

Alpaydin, Introduction, 11; Kelleher/Tierney, 102. ↵

Christen et al., 87. ↵

Ng/Soo, 19–28; siehe auch Frochte, 26. ↵

Christen et al., 87; siehe auch Wuttke, Unsupervised Learning, o.S. ↵

Mishra, o.S. ↵

Höfer, N 22. ↵

Christen et al., 87. ↵

Alpaydin, Machine Learning, 159; Alpaydin, Introduction, 12. ↵

Alpaydin, Machine Learning, 161–163; Lemke, o.S.; Wuttke, Reinforcement Learning, o.S. ↵

Alpaydin, Machine Learning, 162. ↵

Alpaydin, Machine Learning, 163; Lemke, o.S.; Wuttke, Reinforcement Learning, o.S. ↵

Alpaydin, Machine Learning, 163; Alpaydin, Introduction, 12; Höfer, N 22. ↵

Ng/Soo, 10. ↵

Misselhorn, 10–11. ↵

Wuttke, Reinforcement Learning, o.S. ↵

Alpaydin, Machine Learning, 177–178. ↵

Lemke, o.S. ↵

Alpaydin, Machine Learning, 178. ↵

Manhart, o.S. ↵

Lackes Richard/Siepermann Markus: Gabler Wirtschaftslexikon, Konnektionismus, <https://​wirtschaftslexikon.gabler.de/definition/konnektionismus-40878/version-​264​254> (18.10.2022); siehe auch Misselhorn, 22; zum Konnektionismus siehe auch vorne II.1.2. ↵

Misselhorn, 22; siehe auch Christen et al., 86; Manhart, o.S.; Ng/Soo, 129. ↵

Misselhorn, 22; Kirste/Schürholz, 31. ↵

Misselhorn, 23. ↵

SAP, o.S.; Schaaf, o.S. ↵

Schaaf, o.S. ↵

Kirste/Schürholz, 31. ↵

Lackes Richard/Siepermann Markus: Gabler Wirtschaftslexikon, Konnektionismus, <https://​wirtschaftslexikon.gabler.de/definition/konnektionismus-40878/version-​264​254> (18.10.2022); SAP, o.S. ↵

Schaaf, o.S. ↵

Misselhorn, 23. ↵

Ng/Soo, 135. ↵

Kelleher/Tierney, 123; Misselhorn, 23. ↵

Misselhorn, 23; SAP, o.S. ↵

Misselhorn, 23; SAP, o.S. ↵

Manhart, o.S. ↵

Ng/Soo, 139. ↵

Misselhorn, 23–24. ↵

SAP, o.S. ↵

Kirste/Schürholz, 32; Ng/Soo, 139. ↵

Kelleher/Tierney, 127; Schaaf, o.S. ↵

Manhart, o.S. ↵

Christen et al., 86; Manhart, o.S. ↵

Kirste/Schürholz, 32; siehe auch Alpaydin, Machine Learning, 173–174; Christen et al., 86; Misselhorn, 24. ↵

Misselhorn, 23. ↵

Misselhorn, 23; siehe auch Manhart, o.S.; a.A. Ng/Soo, 137. ↵

Manhart, o.S. ↵

Schaaf, o.S. ↵

Kelleher/Tierney, 131; Kirste/Schürholz, 29. ↵

Kelleher/Tierney, 131. ↵

Wuttke, Deep Learning, o.S. ↵

Manhart, o.S.; Wuttke, Deep Learning, o.S. ↵

Schaaf, o.S. ↵

Retresco: Künstliche Intelligenz, <https://www.retresco.de/lexikon/kuenstliche-intelli​genz/> (23.10.2022); Schaaf, o.S. ↵

Martini, Blackbox, 43. ↵

Christen et al., 56, 87; Schaaf, o.S. ↵

Behrens, 76. ↵

Martini, Blackbox, 194. ↵

Schaaf, o.S. ↵

Christen et al., 132. ↵

Domingos, 80; Höfer, N 20; Steier, 45. ↵

Kelleher/Tierney, 143. ↵

Niederée/Nejdl, 45. ↵

Niederée/Nejdl, 45. ↵

Kelleher/Tierney, 145. ↵

Domingos, 80; siehe auch Alpaydin, Machine Learning, 47. ↵

Niederée/Nejdl, 45. ↵

Alpaydin, Machine Learning, 48–49. ↵

Domingos, 80; Höfer, N 20. ↵

Höfer, N 20. ↵

Kelleher/Tierney, 143. ↵

Duisberg, N 4; Höfer, N 20. ↵

Höfer, N 31. ↵

Kelleher/Tierney, 143; Pratt Mary K.: What is Machine Learning Bias (AI Bias)?, <https://​searchenterpriseai.techtarget.com/definition/machine-learning-bias-algo​rithm-​bias-or-AI-bias> (23.10.2022). ↵

Expertengruppe zur Zukunft der Datenbearbeitung und Datensicherheit, 38; Kelleher/Tierney, 143; siehe dazu auch ausführlich Heuberger, N 29, m.w.N. ↵

Kelleher/Tierney, 150. ↵

Kelleher/Tierney, 150; siehe auch Alpaydin, Machine Learning, 12, 14. ↵

Kelleher/Tierney, 150. ↵

Busch, 21; Expertengruppe zur Zukunft der Datenbearbeitung und Datensicherheit, 38–39, 170; siehe auch Caliskan/Bryson/Narayanan; Barocas/Selbst, 680–681. ↵

Allen/Masters, 589; Dreyer/Schulz, 14. ↵

Ng/Soo, 12, 172. ↵

Ng/Soo, 12, 172. ↵

Kelleher/Tierney, 144. ↵

Siehe dazu vorne III.2.2. ↵

Siehe dazu vorne III.1.2; siehe auch II.1.2 bei Fn. 137–138. ↵

Stiemerling, 27. ↵

Kirste/Schürholz, 25; die Begriffe Offline und Online werden im Zusammenhang mit maschinellem Lernen jedoch auch noch für andere Unterscheidungen benutzt, siehe dazu bspw. Alpaydin, Machine Learning, 110–111; Aunkofer, ML: Online vs Offline, o.S.; Sarkar/Bali/Sharma, 43–44. ↵

Kirste/Schürholz, 25. ↵

Stiemerling, 27. ↵

Stiemerling, 27. ↵

Stiemerling, 27. ↵

Kirste/Schürholz, 25. ↵

Stiemerling, 27. ↵

Stiemerling, 27. ↵

Alla/Adari, 2; Ng/Soo, 1; für einen Data-Mining-Prozess siehe Runkler, 2–3. ↵

Siehe dazu vorne II.3.2. ↵

So gibt es bspw. den CRISP-DM-Zyklus (siehe dazu Kelleher/Tierney, 97–98; Sarkar/Bali/Sharma, 45–52) oder das MLOps-Modell (siehe dazu Alla/Adari, 79–124). ↵

Alla/Adari, 2. ↵

Alpaydin, Introduction, 605; Mishra, o.S. ↵

Sarkar/Bali/Sharma, 46. ↵

Alla/Adari, 3; Kelleher/Tierney, 97. ↵

Höfer, N 13. ↵

Ng/Soo, 4–5. ↵

Alla/Adari, 3; Goram, o.S.; Ng/Soo, 2–7. ↵

Sarkar/Bali/Sharma, 48. ↵

Goram, o.S. ↵

Ng/Soo, 7, siehe auch 8–11. ↵

Sarkar/Bali/Sharma, 51; siehe auch Kelleher/Tierney, 98; zum Begriff des Modells siehe auch Früh/Haux, 20–21. ↵

Goram, o.S.; Ng/Soo, 7; Sarkar/Bali/Sharma, 51. ↵

Goram, o.S.; Wuttke, Machine Learning, o.S. ↵

Goram, o.S. ↵

Sarkar/Bali/Sharma, 54. ↵

Wuttke, Machine Learning, o.S. ↵

Alla/Adari, 7. ↵

Sarkar/Bali/Sharma, 52. ↵

Alla/Adari, 7. ↵

Sarkar/Bali/Sharma, 51–52. ↵

Alla/Adari, 9. ↵

Wuttke, Machine Learning, o.S. ↵

Sarkar/Bali/Sharma, 52. ↵

Wuttke, Machine Learning, o.S. ↵

Ng/Soo, 2; Wuttke, Machine Learning, o.S. ↵

Sarkar/Bali/Sharma, 50. ↵

Expertengruppe zur Zukunft der Datenbearbeitung und Datensicherheit, 38. ↵

Ng/Soo, 2. ↵

Wuttke, Machine Learning, o.S. ↵

Sarkar/Bali/Sharma, 48. ↵

Siehe dazu vorne IV.3.3 bei Fn. 699–701 und 705–706. ↵

Barocas/Selbst, 684; Expertengruppe zur Zukunft der Datenbearbeitung und Datensicherheit, 38. ↵

Busch, 21; Expertengruppe zur Zukunft der Datenbearbeitung und Datensicherheit, 38–39, 170; siehe auch Barocas/Selbst, 680–681; Caliskan/Bryson/Narayanan. ↵

Siehe dazu bspw. Allen/Masters, 589. ↵

Ng/Soo, 7–11; Sarkar/Bali/Sharma, 51. ↵

Ng/Soo, 11. ↵

Zweig, 18. ↵

Goram, o.S.; Kelleher/Tierney, 144. ↵

Ng/Soo, 11–12. ↵

Sarkar/Bali/Sharma, 51. ↵

Goram, o.S. ↵

Sarkar/Bali/Sharma, 51–52. ↵

Kelleher/Tierney, 145–147. ↵

Kelleher/Tierney, 146. ↵

Ng/Soo, 16. ↵

Domingos, 84; siehe auch Goram, o.S. ↵

Goram, o.S.; siehe auch Sarkar/Bali/Sharma, 53; Zweig, 18. ↵

Domingos, 84; Sarkar/Bali/Sharma, 51. ↵

Wuttke, Machine Learning, o.S. ↵

Siehe dazu vorne IV.4.1. ↵

Siehe dazu vorne II.4.1. ↵

Christen et al., 74; siehe auch Koeszegi, 158–159. ↵

Koeszegi, 158. ↵

Vieth/Wagner, B., 11. ↵

Koeszegi, 158–159. ↵

Sommerville, 55. ↵

Ernst, 1029; Martini, Blackbox, 48–49; Martini, Herausforderung, 1018; Vieth/​Wagner, B., 11. ↵

Kelleher/Tierney, 97. ↵

Kelleher/Tierney, 149. ↵

Knobloch/Husted, 3. ↵

Expertengruppe zur Zukunft der Datenbearbeitung und Datensicherheit, 39; siehe auch Heise, 205; Hoffmann-Riem, 9. ↵

Krüger, J./Lischka, 10. ↵

Algorithm Watch, Atlas, 9. ↵

5

Erkenntnisse zum Phänomen der automatisierten Entscheidungen

Entscheidungsgrundlagen automatisierter Systeme

Die prägende Rolle der Daten

Daten und daraus gewonnene Information bilden die zentrale Grundlage von Entscheidungen, unabhängig davon, ob diese durch einen Menschen oder eine Maschine getroffen werden. Die Daten zum zu lösenden Problem dienen dazu, das mögliche Lösungsfeld aufzuspannen, ein Verständnis für die Fragestellung zu schaffen und zu eruieren, welche Entscheidungsalternativen zur Verfügung stehen. Je mehr Informationen der Entscheidungsträger hat, desto besser kann er eine Vorhersage über die zukünftige Entwicklung der identifizierten Entscheidungsalternativen machen und die mit der Entscheidung einhergehende Unsicherheit vermindern. Eine gute Daten- und Informationsbasis ist entsprechend die Grundlage für qualitativ gute Entscheidungen.[1]

Bilden Algorithmen des maschinellen Lernens die Grundlage von ADM-Systemen, spielen Daten auch für die Entwicklung des Systems eine wichtige Rolle. Dies insbesondere bei auf überwachtem oder unüberwachtem Lernen basierenden Systemen, welche mithilfe von Trainingsdaten selbstständig lernen.[2] Dieses Lernen beruht auf Verallgemeinerungen, welche es dem Algorithmus ermöglichen Muster zu erkennen, Vorhersagen zu erstellen und sein «Wissen» auf neue Daten anzuwenden.[3] Damit handelt es sich bei den Trainingsdaten und Feedbackregeln um einen Teil der den automatisierten Entscheidungen zugrundeliegenden Informationen, welche zur Identifizierung und Bewertung der Entscheidungsmöglichkeiten genutzt werden. Diese Informationen müssen dem Algorithmus bereits während seines Lernens bereitstehen, ansonsten kann er selber keine eigenständigen Lösungswege lernen.

Dieses Abstützen auf Daten beim maschinellen Lernen hat unterschiedliche Folgen. Zum einen bedeutet dies, dass der Algorithmus, wie der Mensch, für seine Entscheidungen oder Entscheidungsvorschläge ebenfalls auf Erfahrungswerte zurückgreift. Diese Erfahrungswerte werden insbesondere während des Trainings mit Daten aus diesen gewonnen. Handelt es sich um ein Online-Lernsystem, werden zudem mit jedem neuen Datensatz, welcher bearbeitet wird, neue Erfahrungswerte eingespeist, welche wiederum in den vom Algorithmus generierten Lösungsweg einfliessen. Bei Offline-Lernsystemen verändert sich die einmal gelernte Erfahrung nicht bzw. nur, wenn durch die Entwickelnden im Laufe des Betriebs Anpassungen am System vorgenommen werden.[4]

Zum anderen haben diese Abhängigkeit von (Trainings‑)Daten und das Abstützen auf Verallgemeinerungen zur Folge, dass die Ergebnisse der Systeme wesentlich durch die in den Daten vorhandenen Informationen geprägt werden. Sind diese Informationen falsch, unvollständig oder veraltet oder finden sich in den Daten (bis anhin unerkannte) Vorurteile, hat dies Einfluss auf die Ergebnisse des Algorithmus. Wie bei der Entscheidungsfällung an sich ist deshalb auch beim maschinellen Lernen wichtig, dass im Hinblick auf das zu erreichende Ziel genügend und qualitativ hochwertige Daten verwendet werden, um zu guten Entscheidungsergebnissen zu kommen.

Die prägende Rolle des Menschen

Zu Beginn eines auf maschinellem Lernen basierenden Projekts steht, wie auch beim Entscheidungsprozess, immer die Frage, welches Problem zu lösen ist und welche Aufgabe(n) der Algorithmus übernehmen soll (Problemformulierung, Schritt eins des Entscheidungs- oder ML-Entwicklungsprozesses).[5] Der Mensch bestimmt, ob, in welchem Kontext, mit welcher Zielsetzung und von wem das erstellte ADM-System eingesetzt wird.[6]

Die Aufarbeitung der technischen Grundlagen eines auf maschinellem lernen basierenden ADM-Systems zeigt zwar auf, dass bei selbstlernenden Algorithmen die Trainingsdaten oder die vorgesehenen Feedbackregeln zu einem grossen Teil bestimmen, welche Entscheidungsregeln zur Anwendung kommen oder welche Entscheidungsalternativen dem System schlussendlich zur Auswahl stehen. Die Trainingsdaten oder notwendigen (Feedback‑)Informationen werden jedoch durch den Menschen ausgewählt und aufbereitet (Schritt zwei des ML-Entwicklungsprozesses). Auch die Auswahl des zur Problemlösung eingesetzten Algorithmus bzw. Modells hat durch den Menschen zu erfolgen (Schritt drei des ML-Entwicklungsprozesses). Entsprechend kommt dem Menschen auch in diesem Schritt eine prägende Rolle zu und er kann Einfluss auf die Entscheidungsregeln oder -alternativen nehmen.

Beim Training und der Optimierung des Algorithmus (Schritt vier des ML-Entwicklungsprozesses) bestimmt der Mensch sodann im Rahmen der Parametereinstellung, welches Modell wie verwendet wird. Ebenso muss der Entwickler seinen Algorithmus evaluieren, indem er bspw. die Präzision der durch den Algorithmus gemachten Vorhersagen oder Unterscheidungen überprüft, wodurch er direkt Einfluss auf die Ergebnisse nehmen kann.[7]

Die Darstellung des ML-Entwicklungsprozesses eines auf maschinellem Lernen basierenden ADM-Systems macht deutlich, dass die grundlegenden Weichenstellungen einer spezifischen automatisierten Entscheidung nicht erst bei der Dateneingabe im produktiven System erfolgen, sondern bereits im Rahmen der Entwicklung des ausführenden ADM-Systems vorgenommen werden (müssen). Dies macht die an der Entwicklung von ADM-Systemen beteiligten Menschen zu prägenden Akteuren.[8]

Die notwendige Beteilung des Menschen an der Ausarbeitung eines ADM-Systems zeigt zudem, dass es sich bei Systemen zur automatisierten Entscheidungsfällung um der menschlichen Kontrolle unterworfene Werkzeuge des Menschen zur Entscheidungsfällung handelt.[9] Gleichzeitig offenbart sich, dass ein Algorithmus nicht einfach (wahllos) irgendwelche Entscheidungen oder Entscheidungsmöglichkeiten ausgibt, sondern seine Ergebnisse vor, aber auch während der produktiven Nutzung eines Systems vom Menschen evaluiert, überwacht und ausgewertet werden. Nur weil eine Entscheidung als automatisiert eingestuft wird, heisst dies somit nicht zwingend, dass die Maschine autonom und ohne menschliche Kontrolle entscheidet.

Vergleich menschlicher und automatisierter Entscheidungen

Entscheidungsgegenstand

Zum Vergleich menschlicher und automatisierter Entscheidungen kann nicht der Entscheidungsprozess dem Entwicklungsprozess einer ML-Lösung eines auf lernenden Algorithmen basierenden ADM-Systems gegenübergestellt werden. Diese beiden Prozesse verfolgen nicht dasselbe Ziel. Währenddem beim Entscheidungsprozess eine individuelle, eine oder mehrere Personen (oder eine Organisation) betreffende Entscheidung im Vordergrund steht,[10] ist dies beim Entwicklungsprozess die Erstellung eines (auf maschinellem Lernen basierenden) ADM-Systems, eines Werkzeugs, um viele gleichartige Entscheidungen automatisiert treffen zu können.[11] Um den menschlichen und den automatisierten Entscheidungsprozess miteinander zu vergleichen, ist deshalb der Entscheidungsablauf innerhalb eines konkreten ADM-Systems dem menschlichen Entscheidungsprozess gegenüberzustellen, was sich nur im Einzelfall bei Vorliegen eines spezifischen ADM-Systems vornehmen lässt.

Aus der Gegenüberstellung der vorgestellten Grundlagen des maschinellen Lernens, dessen Entwicklungsprozesses sowie des Entscheidungsprozesses lassen sich jedoch trotzdem gewisse allgemeine Erkenntnisse ableiten. So wird klar, dass ein Algorithmus zur automatisierten Entscheidungsfällung – im Gegensatz zum Menschen, der intuitiv weiss, was eine Entscheidung ist – initial entwickelt und mit der Entscheidungsaufgabe betreut werden muss. Erst nachdem ein ADM-System entwickelt, trainiert, implementiert und in die produktive Nutzung überführt wurde, ist es in der Lage, basierend auf seinem zugrundeliegenden Algorithmus und den vom Modell gelernten Kriterien, eigenständig Entscheidungen zu treffen oder den Menschen bei der Entscheidungsfällung zu unterstützen.

Ein Algorithmus übernimmt dabei nur jeweils denjenigen Teil des Entscheidungsprozesses bzw. den Entscheidungsgegenstand, der ihm übertragen wurde. Damit wird der Entscheidungsgegenstand eines ADM-Systems im Verlaufe von dessen Entwicklung festgeschrieben und vom Menschen definiert.

Entscheidungsprozess

Um eine Entscheidung zu treffen, ist, unabhängig vom Entscheidungsträger, eine Vorhersage zu erstellen, welche der identifizierten Möglichkeit sich am besten zur Erreichung des angestrebten Ziels eignet. Dazu sind die zur Verfügung stehenden Alternativen zu identifizieren und nach deren Eignung zur Zielerreichung zu bewerten (Schritt drei und vier des Entscheidungsprozesses). Die Wahl für oder gegen eine Alternative im Rahmen des tatsächlichen Entschlusses fällt in der Regel (zumindest bei rationalem Handeln) auf die am besten bewertete Möglichkeit. Dies gilt sowohl für menschliche als auch automatisierte Entscheidungen.[12]

Auch bei einem Entschluss im Rahmen einer automatisierten Entscheidungsfällung handelt es sich, wie bei der Entscheidungsfällung durch den Menschen, um die logische Folge der vorhergehenden Alternativensuche und -bewertung. Die Analyse des Phänomens der automatisierten Entscheidungen und seiner technischen Grundlagen zeigt jedoch auf, dass Algorithmen zur Entscheidungsunterstützung oder -fällung – trotz dieser Gemeinsamkeit – nicht denselben Entscheidungsprozess durchlaufen wie die Menschen. Der Unterschied zur menschlichen Entscheidung ist, dass gewisse Schritte des Entscheidungsprozesses zum Teil oder gänzlich durch ein ADM-System übernommen werden. Dies hat zur Folge, dass gewisse Weichenstellungen einer späteren Entscheidung bereits im Rahmen der Systementwicklung zu erfolgen haben, sei dies indem einzelne Möglichkeiten oder Bewertungskriterien durch den Menschen fest vorgegeben (bspw. traditionell-deterministische Algorithmen) oder durch das ADM-System selbstständig gelernt und übernommen werden.

Das System zur automatisierten Entscheidungsfällung folgt bei einer Einzelfallentscheidung diesen vorformulierten Regeln und nicht denselben Schritten wie der menschliche Entscheidungsprozess. Die Entscheidungsvorbereitung oder -fällung in einem spezifischen Fall passiert, indem die dem ADM-System zugrundeliegenden (selbstgelernten) Regeln auf die eingegebenen Daten angewandt werden. Wie eine automatisierte Entscheidung im Einzelfall genau abläuft, hängt davon ab, was für ein System eingesetzt wird und auf welchen technischen Grundlagen dieses beruht. So kann ein Algorithmus bspw. lernen, Eingabedaten selbstständig zu klassifizieren (jede Klasse als eine Entscheidungsalternative) oder Vorhersagen über deren Entwicklung zu erstellen (Bewertung der möglichen Alternativen). Auch können mehrere kombinierte Algorithmen diese beiden Schritte gemeinsam übernehmen. Abhängig vom ADM-System wird anschliessend dem Menschen eine mögliche Auswahl an Entscheidungsalternativen präsentiert (bspw. verschiedene Klassen) oder die vorgegebenen oder selbstgelernten Klassen werden mit einem Wahrscheinlichkeitswert (bspw. Kreditscore) versehen, wobei der Mensch gestützt darauf den Entschluss selber fällen kann. Alternativ kann das ADM-System basierend auf der vorgenommenen Klassifizierung oder Vorhersage direkt selber eine Alternative auswählen, d.h. den Entschluss fällen, ohne dass ein Mensch beteiligt ist.

Abgrenzung menschliche oder automatisierte Entscheidung

Vorbemerkungen

Wie vorne gezeigt, ist von einer automatisierten Entscheidung die Rede, sobald ein Algorithmus einen Teil des Entscheidungsprozesses oder den ganzen übernimmt.[13] Abhängig davon, welcher Prozessschritt an die Maschine übertragen wird, handelt es sich um ein Entscheidungsunterstützungssystem oder um eine vollautomatisierte Entscheidung.[14] Da es sich beim eingesetzten ADM-System um das Werkzeug zur Entscheidungsfällung handelt, spricht die vorne dargestellte notwendige menschliche Beteiligung im Rahmen der Entwicklung eines ADM-Systems nicht gegen die Verwendung des Terminus der «automatisierten» Entscheidung.

Vor dem Hintergrund der weitreichenden Beteiligung des Menschen im Rahmen der Entwicklung eines automatisierten Entscheidungssystems steht jedoch die Frage im Raum, ab wann von einer teil- oder vollautomatisierten Entscheidung die Rede ist, d.h. wann eine Entscheidung als (ausschliesslich) vom Menschen getroffen zu qualifizieren ist und wann eine Entscheidung einem Algorithmus zuzuschreiben ist. Um diese Frage zu beantworten, ist zu differenzieren zwischen der menschlichen Beteiligung im Rahmen der Entwicklung eines ADM-Systems und im Rahmen einer individuell zu treffenden Entscheidung.

Systementwicklung

Bei der Entwicklung eines ADM-Systems geht es um eine Vielzahl gleichartiger Entscheidungen, währenddem es sich bei seinem anschliessenden Einsatz um eine konkrete, eine einzelne oder mehrere Person(en) betreffende Entscheidung handelt. Der Mensch stellt bei einer automatisierten Entscheidung zwar die grundlegenden Weichen, aber selbst der Entwickler kann – insbesondere beim Deep Learning oder bei Online-Lernsystemen, die ihre Entscheidungsprozesse laufend anpassen – nicht immer vorhersehen (oder nachvollziehen), wie eine spätere Einzelfallentscheidung eines Algorithmus tatsächlich zustande kommt und auf welchen Kriterien dessen zugrundeliegende Bewertungen basieren werden. Ebenso geht es bei der Systementwicklung nur um die Erstellung des Werkzeuges zur automatisierten Entscheidungsfällung. Die Beteiligung des Menschen im Rahmen der Entwicklung sagt nichts über seine anschliessend notwendige Beteiligung(-sintensität) bei der produktiven Anwendung des Systems aus. Aus diesen Gründen ist die Beteiligung des Menschen im Rahmen der Systementwicklung zur Bestimmung des Automatisierungsgrades einer spezifischen Entscheidung nicht von Relevanz.

Einzelfallentscheidung

Mit Blick auf eine einzelne Entscheidung könnte, unter Bezugnahme auf den vorgestellten Entscheidungsprozess, davon ausgegangen werden, dass diese (ausschliesslich) vom Algorithmus getroffen wurde, wenn dieser den Entschluss an sich an Stelle des Menschen übernimmt. Umgekehrt wäre diesfalls im Grundsatz davon auszugehen, dass es sich um eine (teilautomatisierte) menschliche Entscheidung, d.h. ein Entscheidungsunterstützungssystem, handelt, sobald der Mensch den Entschluss übernimmt, zumal es sich dabei um das Kernelement einer Entscheidung handelt.[15]

Vor dem Hintergrund, dass der tatsächliche Entschluss für oder gegen eine Alternative in der Regel die logische Folge der vorhergehenden Alternativensuche und Bewertung, d.h. der Willensbildung, ist, stellt sich jedoch die Frage, ob es ausreichend ist, wenn der Mensch den blossen Entschluss übernimmt, nicht jedoch dessen zugrundeliegende Willensbildung. Diesfalls kann einerseits vorgebracht werden, dass der Mensch beim Einsatz eines Systems, welches die Alternativensuche und/oder deren Bewertung vorbereitet, die abschliessende Auswahl aber dem Menschen überlässt, unter Umständen keinen Einfluss auf seinen «eigenen» Entschluss hat, da die wesentliche Willensbildung bereits vom Algorithmus vorgenommen worden ist. Dies zumindest in denjenigen Fällen, in denen der Mensch die Vorschläge des Algorithmus ungeprüft übernimmt. Andererseits kann argumentiert werden, dass der Mensch in diesen Fällen trotzdem die (theoretische) Möglichkeit hätte, sich einen eigenen Willen zu bilden, bspw. indem er die Vorschläge des ADM-Systems verifiziert und/oder von den Systemvorschlägen abweicht, weshalb es sich trotzdem um eine menschliche Entscheidung handelt.

Zur Beantwortung der Frage, ob ein Entschluss im engeren Sinne durch den Menschen oder den Algorithmus gefällt wurde, kommt es somit zu einem wesentlichen Mass auf die im Einzelfall konkret vom Algorithmus übernommenen Schritte des Entscheidungsprozesses sowie die tatsächlich erfolgte Beteiligung des Menschen an. Diese Abgrenzung kann nur im Rahmen einer Einzelfallprüfung eruiert werden, in deren Rahmen zumindest die Möglichkeiten eines spezifischen ADM-Systems oder die einzelnen Schritte eines spezifischen Entscheids identifiziert werden müssen, um zu klären, wer oder was die Willensbildung tatsächlich vornimmt. Da sich in der Praxis jedoch regelmässig nicht nachvollziehen lässt, auf welchen tatsächlichen, inneren Beweggründen ein Mensch entschieden hat, ist zumindest in Frage zu stellen, ob sich überhaupt prüfen lässt, ob der Mensch sich im Einzelfall tatsächlich noch einen eigenen Willen gebildet oder bloss die Vorschläge der Maschine übernommen hat, zumal der Mensch häufig erst entscheidet und dies nachträglich rationalisiert. Dies macht die Abgrenzung, ob es sich um ein Entscheidungsunterstützungssystem oder eine vollautomatisierte Entscheidung handelt, im Einzelfall sehr schwierig.

Würdigung der gesellschaftlichen Herausforderungen automatisierter Entscheidungen

Entscheidungsqualität und Diskriminierungsgefahr

Wie vorne festgestellt, bilden sowohl bei menschlichen als auch bei automatisierten Entscheidungen Daten eine wesentliche Grundlage der Entscheidungsfindung. Nicht nur ADM-Systeme, sondern auch der Mensch kann sich bei seinen Entscheidungsprozessen auf falsche, unvollständige oder veraltete Daten abstützen, ohne dass ihm dies bewusst ist. Währenddem ein Algorithmus möglicherweise historisch gewachsene Vorurteile aus den Daten übernimmt oder diesen zum Durchbruch verhilft,[16] sind menschliche Entscheidungen geprägt von den subjektiven Grundlagen des Entscheidenden, kognitiven Verzerrungen, individuellen Präferenzen, Gefühlen, Vorlieben, Abneigungen, Wertvorstellungen und Erfahrungen oder der Risikobereitschaft des Entscheidenden.[17]

Einfluss auf die Entscheidungsqualität haben bei ADM-Systemen sodann die individuellen Erfahrungen und Vorlieben der an der Entwicklung beteiligten Personen. Diese haben im Rahmen der Ausgestaltung des Systems verschiedene Entscheidungen zu treffen, welche alle für sich den menschlichen Grenzen der Entscheidungsfällung unterliegen. Die Funktionsweise eines Algorithmus und des darauf basierenden ADM-Systems hängt vom Wissen, von der Erfahrung, dem Motiv oder den Vorurteilen sowie dem gewünschten Ergebnis der jeweiligen Entwickler ab. Dadurch können bewusst oder unbewusst gewisse Ansichten, Neigungen oder Wertungen der Entwickelnden in die Systementwicklung einfliessen und die Ergebnisse des Systems beeinflussen.[18]

Damit sind weder menschliche noch automatisierte Entscheidungen gänzlich objektiv, wertneutral oder diskriminierungsfrei. Es lässt sich nicht pauschal eine Aussage über die Qualität der unterschiedlichen Arten, Entscheidungen zu fällen machen, sondern diese hängt von den Umständen im Einzelfall ab. Die Qualität von Entscheidungen wird im Grundsatz nicht gesteigert, wenn anstatt eines Algorithmus ein Mensch entscheidet. Aufgrund der viel grösseren Anzahl von Entscheidungen, die ein automatisiertes System in kurzer Zeit treffen kann, ist ihr Gefährdungspotenzial jedoch insofern höher, als dass auch eine geringe Fehlerquote bei vielen Fällen absolut zu mehr Fehlern oder Diskriminierungen führt.[19] Solche Fehlentscheidungen können als gemachte Erfahrungen wiederum die Datenbasis für weitere Entscheidungen bilden und, sofern sie nicht erkannt werden, zu einer Verstärkung des Fehlers oder der Diskriminierung führen. Die Teilhaberelevanz automatisierter Entscheidungen ist deshalb um einiges höher als diejenige menschlicher Entscheidungen.

Nichtsdestotrotz sind nicht nur bei automatisierten, sondern auch bei menschlichen Entscheidungen die zugrundeliegenden Daten sorgfältig auszuwählen, die Ergebnisse regelmässig auf mögliche Fehler und Vorurteile zu überprüfen und Strukturen zu schaffen, welche es ermöglichen, unabhängig vom Entscheidungsträger fehlerhafte oder vorurteilsbelastete Entscheidungsprozesse zeitnah zu identifizieren, um langfristig eine gute Entscheidungsqualität sicherzustellen.

Entscheidungstransparenz

Währenddem mit Blick auf automatisierte Entscheidungen die Befürchtungen vorherrschen, dass diese nicht transparent oder nachvollziehbar sein könnten,[20] wird teilweise ausser Acht gelassen, dass auch menschliche Entscheidungen nicht notwendigerweise transparent oder nachvollziehbar sind. Menschliche Entscheidungen sind geprägt von den individuellen Werteinstellungen des Entscheidenden und der Mensch tendiert dazu, seine Entscheidungen im Nachhinein zu rationalisieren.[21] Diese inneren Einstellungen lassen sich nur schwer überprüfen. Deshalb kann auch bei menschlichen Entscheidungen nicht davon ausgegangen werden, dass die individuellen Beweggründe ohne weiteres transparent gemacht werden (können). Im Gegensatz dazu gibt es aus technischer Perspektive bereits verschiedene Ansätze und Bemühungen, welche darauf hinarbeiten, ADM-Systeme transparenter und nachvollziehbarer zu machen.[22] Dieses Argument ist bei der Beurteilung automatisierter Entscheidungen zu berücksichtigen.

Ethik und Moral

Aus ethischer Sicht fällt auf, dass automatisierten Entscheidungen bzw. den diese fällenden Systemen nicht dasselbe Reflexionsvermögen wie einem Menschen zugeschrieben wird. Vielmehr wird davon ausgegangen, dass ADM-Systemen die Abwägung von Ethik und Moral, wie dies bspw. bei einem ethischen Dilemma der Fall ist, nicht übertragen werden kann, sondern diese weiterhin vom Menschen vorzunehmen ist.[23]

Hinsichtlich der Gefahr der Verletzung der Menschenwürde durch automatisierte Systeme und der Forderung, dass der Mensch nicht oder nur unter bestimmten Voraussetzungen der Entscheidung einer Maschine unterworfen werden darf, ist Folgendes zu berücksichtigen: Solange der Mensch den dargestellten wesentlichen Einfluss auf den Einsatz und die Ausgestaltung von ADM-Systemen sowie deren Ergebnisse nehmen kann,[24] ist in Frage zu stellen, ob der Mensch der «Maschine» unterworfen wird oder nicht doch eher anderen Menschen oder Organisationen.[25] So wie die Entscheidung für den Einsatz eines ADM-Systems durch den Menschen gefällt wird, wird auch die Auswahl von dessen Grundlagen und somit über dessen Abstützen auf Gruppenmerkmale, Sortierungen, Klassifizierungen oder Bewertungen für eine Entscheidung durch den Menschen vorgegeben. Die Verantwortung, ob und inwieweit ein ADM-System die Menschenwürde eines jeden Einzelnen, über den es entscheidet, gewährleistet, obliegt entsprechend denjenigen Personen, welche das System entwickeln und/oder einsetzen. Der Mensch wird somit nicht schutzlos der Macht des Computers bzw. Algorithmus, sondern vielmehr der Macht der diesen einsetzenden Personen ausgeliefert, was es zu berücksichtigen gilt.

In Anbetracht der wesentlichen Einflussnahme, welche die Entwickelnden auf ein ADM-System heute noch haben, erscheint auch die menschliche Gestaltungshoheit aktuell noch nicht gefährdet. Die menschliche Kontrolle ändert jedoch nichts an der Tatsache, dass die Betroffenen gegebenenfalls über den Einsatz entsprechender Systeme zu informieren sind, um ihre Menschenwürde zu gewährleisten.

Mit Blick auf das Vertrauen, welches in automatisierte oder menschliche Entscheidungen gesetzt wird, ist die Evidenz uneinheitlich. Es gibt Studien, welche zum Ergebnis kommen, dass softwarebasierte Prognosen als verlässlicher, objektiver und aussagekräftiger eingestuft werden als andere Informationen. Gleichzeitig gibt es jedoch auch Untersuchungen, welche darauf hindeuten, dass Menschen grundsätzlich einer menschlichen Entscheidung mehr vertrauen als einer automatisierten, auch wenn Letztere in Wahrheit objektiver oder besser ist. Es hängt entsprechend vom Einzelfall ab, ob automatisierten oder menschlichen Entscheidungen mehr Vertrauen entgegengebracht wird.[26]

Informationelle Selbstbestimmung und Privatsphäre

Sowohl menschliche als auch automatisierte Entscheidungen basieren wesentlich auf Daten, welche zumindest zu einem gewissen Masse die von einer Entscheidung betroffenen Person betreffen. Risiken für die informationelle Selbstbestimmung und die Privatsphäre ergeben sich deshalb sowohl bei der menschlichen als bei auch der automatisierten Entscheidungsfällung. Die Menge an Daten, welche von einem Menschen manuell verarbeitet werden kann, ist aber aufgrund seiner beschränkter Kapazität zur Informationsverarbeitung[27] um einiges kleiner, weshalb die diesbezüglichen Risiken bei der menschlichen Entscheidungsfällung weniger ins Gewicht fallen. Automatisierte Entscheidungen können hingegen auf sehr weitreichenden Datenbearbeitungen basieren sowie in grösserer Anzahl getroffen werden,[28] wodurch sich die diesbezüglichen Risiken akzentuieren.

Die mit Blick auf den Einsatz automatisierter Entscheidungssysteme angeführten Risiken für die informationelle Selbstbestimmung und Privatsphäre hängen jedoch oftmals nicht mit der Art und Weise der Entscheidungsfällung zusammen, sondern sind Folge der umfangreichen Datenbearbeitungen zur Ermittlung und Analyse der verschiedenen Entscheidungsmöglichkeiten oder zur Erstellung von Persönlichkeitsprofilen. Datenschutzfragen stellen sich dabei unabhängig davon, ob ein System am Ende den Entschluss an sich übernimmt oder dem Menschen blosse Entscheidungsalternativen zur Verfügung stellt, indem bspw. ein Profil einer betroffenen Person erstellt wird.

Zwischenfazit

Auch wenn viele der mit automatisierten Entscheidungen und intelligenten Systemen einhergehenden Befürchtungen im Kontext der technischen Grundlagen solcher Systeme nachvollziehbar sind, scheint in manchen Fällen eine ungerechtfertigte oder zumindest unbegründete Differenzierung zwischen menschlichen und automatisierten Entscheidungen vorgenommen zu werden. So wird teilweise nicht berücksichtigt, dass automatisierte Entscheidungssysteme, zumindest heute noch, vom Menschen erstellte Werkzeuge sind. Die Entwicklung, insbesondere von intelligenten Systemen, geschieht nicht über Nacht, sondern unter Beteiligung vieler verschiedener Experten, wobei die mit dem Algorithmus zu lösende Frage zu Beginn definiert werden muss. Welche Entscheidungen ein Algorithmus schlussendlich in einem spezifischen Einzelfall fällt, mag bei seiner Produktivsetzung noch nicht bekannt sein. Der Einsatz entsprechender Systeme wird jedoch in der Regel vorab getestet und während des laufenden Betriebs überwacht. Dem Bestandteil «Mensch» kommt deshalb auch bei automatisierten Entscheidungen eine prägende Rolle zu.

Siehe dazu vorne II.3.3. ↵

Siehe dazu vorne IV.3.1. ↵

Siehe dazu vorne IV.3.3. ↵

Siehe dazu vorne IV.3.4. ↵

Siehe dazu vorne IV.4.1. ↵

Siehe dazu vorne IV.4.2. ↵

Siehe zum Ganzen vorne IV.4. ↵

Ebenso bereits Ernst, 1026. ↵

Ebenso bereits Thouvenin/Früh, 8. ↵

Siehe dazu vorne II.3.2. ↵

Siehe dazu vorne IV.4.1. ↵

Siehe dazu vorne II.3.2. ↵

Siehe dazu vorne II.6. ↵

Siehe dazu vorne II.4.3. ↵

Siehe dazu vorne II.3.2. ↵

Siehe dazu vorne IV.3.3. ↵

Siehe dazu vorne II.3.4. ↵

Siehe dazu vorne IV.4.2. ↵

Siehe dazu vorne III.1.2; III.2.2. ↵

Siehe dazu vorne III.2.3. ↵

Siehe dazu vorne II.3.4. ↵

Siehe dazu vorne IV.3.2. ↵

Siehe dazu vorne III.2.4. ↵

Siehe dazu vorne V.1.2. ↵

Ähnlich Buchner, in: Kühling/Buchner, DS-GVO, Art. 22 DSGVO N 1. ↵

Siehe dazu vorne III.2.4. ↵

Siehe dazu vorne II.3.4. ↵

Siehe dazu vorne III.1.1; III.1.2. ↵

II

Teil 2: Die Regulierung automatisierter Einzelentscheidungen im (Schweizer) Datenschutzrecht

6

Einführung zum zweiten Teil

Vorbemerkungen

Nachdem im ersten Teil das Phänomen automatisierter Entscheidungen aus allgemeiner Perspektive analysiert worden ist, werden automatisierte Entscheidungen im folgenden zweiten Teil aus datenschutzrechtlicher Perspektive beleuchtet. Ebenso wie das Phänomen der automatisierten Entscheidungen ist auch deren Regulierung im Datenschutzrecht nicht neu. Frankreich nahm bereits im Jahr 1978 diesbezügliche Regelungen in sein Datenschutzgesetz auf.[1] Die Europäische Union (EU) folgte im Jahr 1995 mit der Aufnahme ähnlicher Regelungen in die DSRL[2] und deren Überführung im Jahr 2016 in die DSGVO[3]. Ebenso ergänzte der Europarat mit dem am 10. Oktober 2018 zur Unterzeichnung aufgelegten Protokoll SEV Nr. 223 das Übereinkommen SEV Nr. 108 (neu: SEV Nr. 108+) mit Regelungen zu automatisierten Entscheidungen.[4] In der Schweiz hingegen waren diese im Datenschutzrecht bis anhin nicht ausdrücklich reguliert. Mit der Aufnahme von Art. 21 und Art. 25 Abs. 2 lit. f ins totalrevidierte DSG hat sich dies geändert.

Diese neuen Schweizer Bestimmungen stehen im Zentrum des zweiten Teils dieser Arbeit, in welchem in einem ersten Schritt die Entstehungsgeschichte der datenschutzrechtlichen Regulierung automatisierter Entscheidungen aufgearbeitet und in einem zweiten Schritt den mit diesen Regulierungen verfolgten Zielen auf den Grund gegangen wird. Ist dies geklärt, können anschliessend die einzelnen Tatbestandsmerkmale einer «automatisierten Einzelentscheidung» im Sinne des DSG analysiert werden.

Vorab wird in einem kurzen Rückblick vorgestellt, ab wann, in welchem Umfang und mit welchem Fokus automatisierte Entscheidungen zu Beginn ihres Aufkommens in der Lehre thematisiert worden sind. Anschliessend werden vorab die Regelungen zu automatisierten Entscheidungen des Europarates, der EU und der Schweiz vorgestellt und miteinander verglichen.

Ein Blick zurück

Der amerikanische Mathematiker und Philosoph Norbert Wiener prophezeite bereits Anfang der 1950er-Jahre, dasses der Maschine egal sei, welche Arbeit sie übernehme. Es sei absehbar, dass die Maschine bald auch Arbeiten erobere, welche in der Ausführung von Entscheidungen einfacher Art bestehen. Dies geschehe in ähnlicher Weise, wie die (erste) industrielle Revolution die menschliche Kraft auf allen Gebieten verdrängt habe.[5] Mit dem Aufkommen von automatisierten Ampelanlagen sowie (später) elektronischen Datenverarbeitungsanlagen wurde die Automatisierung von Entscheidungen ab Ende der 1950er-Jahre auch in der Rechtswissenschaft thematisiert.[6] Dabei wurden die Automatisierungsentwicklungen nicht nur positiv beurteilt. Zwar war man sich einig, dass die technische Entwicklung neue Möglichkeiten biete, zukünftig eine andere Verwendung der Maschine gestatten würde und es ihr möglich sein werde, gewisse Prozesse vom Menschen zu übernehmen.[7] Diese Entwicklungen wurden jedoch insofern kritisch betrachtet, als dass man teilweise davon ausging, dass die neuen technischen Möglichkeiten eine untergeordnete Rolle einnehmen würden und bloss technische Hilfsmittel seien.[8] Insbesondere war man sich einig, dass noch keine selbstständigen maschinellen Entscheidungen möglich seien, da es der Maschine an der Fähigkeit sich einen Willen zu bilden, zu reflektieren oder schöpferisch und geistig tätig zu werden fehle.[9] Man ging davon aus, dass eine Maschine bzw. elektronische Rechenanlagen nur einfache Berechnungen vornehmen und nur den vorab strikt vorgegebenen logischen und mathematischen Gesetzen folgen können.[10] Es fehle der Maschine an der Fähigkeit im Einzelfall von diesem vorgegebenen Pfad abzuweichen und bewusst unlogisch zu entscheiden und individuelle Besonderheiten zu berücksichtigen.[11] Die typische menschliche Entscheidungsfindung sei deshalb nicht automatisierbar.[12] Entsprechend war man sich einig, dass weiterhin der Mensch die Verantwortung für Entscheidungen sowie den Einsatz entsprechender Maschinen zu tragen habe.[13]

Die Tatsache, dass der Maschine bloss die Fähigkeit einfache logische Berechnungen vorzunehmen zugeschrieben wurde, führte dazu, dass den (möglichen) maschinellen Entscheidungen Grobschlächtigkeit, mangelnde Differenzierung sowie die Vernachlässigung der Individualität des Einzelfalls vorgeworfen und diese als Entscheidungsersatz als indiskutabel angesehen wurden.[14] Vereinzelt wurde deshalb bereits 1967 gefordert, dass es einer betroffenen Person vorbehalten bleiben soll, gegen eine automatisierte Entscheidung vorgehen zu können, wenn diese der Ansicht sei, dass ihre individuelle Situation ein anderes Ergebnis nahelege.[15]

Im Jahr 1977 wurde sodann, vor dem Hintergrund der Komplexität automatisierter Verfahren und der deshalb abnehmenden Transparenz gegenüber dem Bürger,[16] gefordert, dass der Bevölkerung grundlegende Informationen über das Wesen der Automation allgemein sowie den Ablauf einzelner automatisierter Verwaltungsverfahren mitgeteilt werden müsse.[17] Konkret wurde die Veröffentlichung der zur Automatisierung verwendeten Computerprogramme und, zum Verständnis der darin enthaltenen Regelungen, deren Programmdokumentationen und eigentlichen Arbeitsanweisungen gefordert.[18] Gleichzeitig wurde angeführt, dass den Betroffenen zudem weiterhin die Möglichkeit gegeben werden müsse, direkt mit den Amtsstellen zu verkehren, sei es schriftlich, telefonisch oder im Rahmen persönlicher Vorsprache.[19] Dadurch solle das Vertrauen des Bürgers in die Verwaltungsautomation gefördert und sichergestellt werden, dass die zuständige Verwaltungsabteilung trotz der Automatisierung die Kontrolle über die Verfahren behielt.[20]

Darüber hinaus wurde in den 1950er- bis 1970er-Jahren insgesamt vorgebracht, dass den mit den technischen Entwicklungen und der Automatisierung von Entscheidungen sowie der Verwaltung einhergehenden Fragen begegnet und diesen sowohl in der Gesetzgebungsarbeit, der Verwaltung wie auch der rechtswissenschaftlichen Dogmatik eine zunehmende Beachtung geschenkt werden solle.[21] Im Fokus der wissenschaftlichen Auseinandersetzungen standen in diesem Sinne denn auch die Verwaltungsautomation,[22] die automationsgerechte Rechtsetzung,[23] das Verhältnis der elektronischen Datenverarbeitung zur Gesetzgebung[24] oder die Automatisierung der juristischen Arbeit.[25] Die Datenverarbeitung an sich sowie datenschutzrechtliche Problemstellungen wurden dabei, wenn überhaupt, nur teilweise thematisiert.[26] Mit Blick auf die Automatisierung von Entscheidungen bzw. Verwaltungsakten wurde immerhin gefordert, dass mit der Produktion von Daten vorsichtig umzugehen sei, damit diese nicht in den Zugriff von Dritten gerieten.[27] Mit Verweis auf das Amtsgeheimnis wurde sodann darauf hingewiesen, dass der Schutz der Vertraulichkeit der verarbeiteten Daten mittels besonderer Vorkehrungen sicherzustellen sei.[28] Der mangelnde Fokus auf datenschutzrechtliche Problemstellungen überrascht jedoch nicht, zumal sich die Datenschutzdiskussion in diesem Zeitraum noch ganz am Anfang befand und selber ebenfalls erst durch die Folgen des technischen Fortschritts der Datenbearbeitung und der Entwicklung der Informationstechnologie an Bedeutung gewann.[29]

Trotz der aufgezeigten bereits in den 1950er-Jahren startenden Diskussion über die Möglichkeiten und Grenzen von Maschinen zur Automatisierung von Entscheidungen und der in der Wissenschaft geforderten diesbezüglich notwendigen juristischen und auch gesetzlichen Auseinandersetzung dauerte es bis ins Jahr 1978, bis in Frankreich eine erste Regelung automatisierter Entscheidungen Eingang in ein (Datenschutz‑)Gesetz fand.

Vorstellung und Vergleich der aktuellen Regelungsansätze des Europarates, der EU und der Schweiz

Vorbemerkungen

Die Tatsache, dass die Regelungen automatisierte Entscheidungen im europäischen Umfeld, insbesondere in der EU, vor den Schweizer Regulierungsbestrebungen ausgearbeitet wurden und teilweise bereits in Kraft sind, führte dazu, dass die Regelungen der EU in der Lehre bereits umfassender erforscht wurden als die neuen Schweizer Vorschriften.[30] Bevor im Folgenden die Entstehungsgeschichte der Regulierung automatisierter Entscheidungen und deren Regelungsziele analysiert sowie die einzelnen Tatbestandsmerkmale einer automatisierten Einzelentscheidung im Sinne des DSG eruiert werden, werden deshalb die Regelungen der SEV Nr. 108+, der DSGVO und des DSG vorgestellt und miteinander verglichen, um Gemeinsamkeiten und Unterschiede aufzuzeigen.

Dies dient dazu zu klären, inwieweit die bestehenden Erkenntnisse auch für die Schweiz von Relevanz sein können und wo dies von vornherein ausgeschlossen ist. Dabei ist jedoch zu beachten, dass auch bei vergleichbaren Regelungen für das DSG nicht dasselbe gelten muss, was für die DSGVO (oder die SEV Nr. 108+) als richtig erkannt worden ist. Auch bei Übereinstimmungen kann deshalb nicht einfach ungeprüft auf die Erfahrungswerte, Lehrmeinungen oder Behörden- und Gerichtsentscheidungen zur DSGVO (oder der SEV Nr. 108+) abgestellt werden.[31] Gemäss bundesgerichtlicher Rechtsprechung ist jedoch das Bestreben, eine schweizerische Regelung dem Recht der EU wenn möglich anzugleichen, bei der Auslegung der entsprechenden Gesetzesnormen im Rahmen der teleologischen und historischen Interpretation zu berücksichtigen.[32]

Zu beachten ist auch Folgendes: Die automatisierte Entscheidungen betreffenden Bestimmungen sowohl des Europarates und der EU als auch der Schweiz finden sich im Datenschutzrecht. Dieses knüpft in allen drei Anwendungsgebieten an die Bearbeitung von Personendaten an, was entsprechend Voraussetzung für das Vorliegen einer datenschutzrechtlich relevanten automatisierten Entscheidung ist.[33] Nur die Regelungen des DSG und der DSGVO sind jedoch direkt für einen privaten Datenverarbeiter anwendbar. Die Regelungen der SEV Nr. 108+ hingegen richten sich an die Mitgliedstaaten des Europarates und enthalten lediglich Massnahmen, welche von den Mitgliedstaaten in ihrem nationalen Recht umzusetzen sind.[34] Anstatt dass der Schweizer Regulierungsansatz mit den Regelungen des Europarates verglichen wird, wird deshalb aufgezeigt, inwiefern die Schweiz mit Blick auf die automatisierte Entscheidungsfällung die Vorgaben des Europarates umgesetzt hat.

Umsetzung SEV Nr. 108+ im DSG

Art. 9 Abs. 1 lit. a SEV Nr. 108+ räumt der von einer Datenbearbeitung betroffenen Person das Recht ein, nicht einer automatisierten Entscheidung unterworfen zu werden, die erhebliche Auswirkungen auf sie hat, ohne dass ihr Standpunkt berücksichtigt wird. Diese Bestimmung ist systematisch den Betroffenenrechten zugeordnet und auch in ihrem Wortlaut als Betroffenenrecht ausgestaltet.[35] Die Frage, ob es sich um ein Betroffenenrecht oder ein Verbot automatisierter Entscheidungen handelt, ist jedoch nur von geringer Bedeutung, da die Regelungen der SEV Nr. 108+ nicht direkt anwendbar sind, sondern von den Mitgliedstaaten des Europarates im nationalen Recht umgesetzt werden müssen.[36] Den Mitgliedstaaten des Europarates wird dabei im Ergebnis nicht vorgeschrieben, dass sie die automatisierte Entscheidungsfällung vollständig zu verbieten haben, sondern den von einer automatisierten Entscheidung betroffenen Personen ist (lediglich) das Recht einzuräumen, im Falle der automatisierten Entscheidungsfällung, die sich erheblich auf sie auswirkt, ihren Standpunkt darlegen zu können bzw. angehört zu werden.[37] Art. 9 Abs. 1 lit. c SEV Nr. 108+ fordert zudem, dass jeder Person das Recht zukommen soll, die einer Datenverarbeitung zugrundeliegende Logik auf Antrag hin zu erfahren, sofern die Verarbeitungsergebnisse sie betreffen. Aus der in Art. 8 Abs. 1 lit. e SEV Nr. 108+ enthaltenen allgemeinen Pflicht zur Information über die Mittel zur Ausübung der in Art. 9 SEV Nr. 108+ enthaltenen Rechte, ergibt sich sodann indirekt die Pflicht der Mitgliedsstaaten, eine Informationspflicht über automatisierte Entscheidungen einzuführen.[38] Haben die betroffenen Personen keine Kenntnis von der automatisierten Entscheidungsfällung, können sie ihre diesbezüglich in Art. 9 SEV Nr. 108+ enthaltenen Rechte nicht geltend machen.

In diesem Sinne finden sich in der Schweiz in Art. 21 DSG die Informationspflicht bei einer automatisierten Einzelentscheidung (Abs. 1) sowie die Rechte der betroffenen Person, auf Antrag hin ihren Standpunkt darlegen und die Überprüfung einer automatisierten Entscheidung durch einen Menschen verlangen zu können (Abs. 2). Während die Informationspflicht sicherstellt, dass die betroffene Person Kenntnis erhält von der Art, wie eine Entscheidung gefällt wird, stellt das Anhörungs- und Überprüfungsrecht sicher, dass der Standpunkt der betroffenen Person bei der automatisierten Entscheidungsfällung angehört und die Entscheidung von einem Menschen überprüft wird, zumindest wenn die betroffene Person dies verlangt. Darüber hinaus wird der betroffenen Person in Art. 25 Abs. 2 lit. f DSG das Recht eingeräumt, Auskunft sowohl über das Vorliegen einer automatisierten Einzelentscheidung (= Ergebnis einer automatisierten Datenbearbeitung) als auch die Logik, auf der diese Entscheidung beruht, verlangen zu können. Entsprechend ist davon auszugehen, dass mit der Aufnahme dieser Regelungen ins totalrevidierte DSG die Anforderungen der SEV Nr. 108+ betreffend die automatisierte Entscheidungsfällung in der Schweiz umgesetzt wurden.[39]

DSGVO vs. DSG

Terminologie und Regelungsgegenstand

Ein feiner Unterschied zwischen der Regulierung automatisierter Entscheidungen in der Schweiz und in der EU findet sich in der verwendeten Terminologie. So ist in Art. 21 und Art. 25 Abs. 2 lit. f DSG die Rede von «automatisierten Einzelentscheidungen», während die DSGVO von einer «automatisierten Entscheidung im Einzelfall»[40] oder der «automatisierten Entscheidungsfindung»[41] spricht. In den Legaldefinitionen der beiden Gesetze[42] ist der Begriff der automatisierten (Einzel‑)Entscheidung nicht enthalten. Vielmehr findet sich eine definitionsähnliche Beschreibung des Tatbestands der automatisierten (Einzel‑)Entscheidung in beiden Gesetzen erst bei den materiellen Vorgaben in Art. 21 Abs. 1 DSG bzw. Art. 22 Abs. 1 DSGVO.[43] Diese Beschreibungen haben gemeinsam, dass sie den Fokus auf die Regulierung von Einzelfallentscheidungen bzw. Entscheidungen im Einzelfall legen, welche ausschliesslich auf einer automatisierten Bearbeitung beruhen. Auch wenn damit bei beiden Regulierungsansätzen an einen Datenbearbeitungsprozess angeknüpft wird, der «auf einer automatisierten Bearbeitung»[44] bzw. «auf einer automatisierten Verarbeitung»[45] beruht, geht es nicht um die Regulierung dieser Datenbearbeitung, sondern im Vordergrund steht die Regelung des Ergebnisses dieser Bearbeitung, die automatisierte Entscheidung.[46] Sowohl das DSG als auch die DSGVO regulieren zudem nur automatisierte Entscheidungen, die für die betroffene Person mit einer Rechtsfolge verbunden sind oder diese erheblich beeinträchtigen. Bezüglich des letzten Punkts besteht insofern der Unterschied, als dass in Art. 22 Abs. 1 DSGVO nur die Rede ist von «sie [die betroffene Person] in ähnlicher Weise [wie eine Rechtsfolge] erheblich beeinträchtigt», während Art. 21 Abs. 1 DSG nur von «sie [die betroffene Person] erheblich beeinträchtigt» spricht. In der DSGVO findet sich sodann der Zusatz «einschliesslich Profiling», welcher im DSG fehlt.[47]

Die aufgezeigten Gemeinsamkeiten und Unterschiede in der Formulierung haben unter Umständen Einfluss auf die Möglichkeit der Bezugnahme und des Abstützens auf die Literatur und Materialien zur DSGVO bei der hinten erfolgenden Analyse des Tatbestands der automatisierten Einzelentscheidungen im Sinne des DSG. Sie ändern jedoch nichts an der Tatsache, dass in Art. 21 DSG und in Art. 22 DSGVO bzw. in der Schweiz und in der EU im Grundsatz der gleiche Vorgang geregelt wird.

Zulässigkeit automatisierter Entscheidungen

Ein grosser Unterschied zwischen dem schweizerischen und dem EU-Regulierungsansatz findet sich in der Frage der Zulässigkeit automatisierter Entscheidungen. Das DSG enthält weder ein ausdrückliches Verbot noch ein Recht der betroffenen Personen, keiner automatisierten Einzelentscheidung unterworfen zu werden.[48] Vorgesehen sind (lediglich) eine Informationspflicht,[49] Anhörungs- und Überprüfungs- sowie gegebenenfalls entsprechende Auskunftspflichten,[50] falls eine Entscheidung automatisiert getroffen wird. Aus datenschutzrechtlicher Sicht sind automatisierte Einzelentscheidungen in der Schweiz damit zulässig, auch wenn ihnen die Bearbeitung von Personendaten zugrunde liegt.[51] Analog zu den restlichen Datenbearbeitungen im Geltungsbereich des DSG braucht es in der Schweiz für die automatisierte Entscheidungsfällung sodann keine Rechtfertigung, sofern bei deren zugrundeliegender Datenbearbeitung die allgemeinen datenschutzrechtlichen Grundsätze[52] eingehalten werden, die betroffene Person dieser Datenbearbeitung nicht widersprochen hat[53] und einem Dritten nicht besonders schützenswerte Personendaten mitgeteilt werden.[54]

Art. 22 Abs. 1 DSGVO hingegen enthält das Recht der betroffenen Person, nicht einer ausschliesslich auf einer automatisierten Verarbeitung beruhenden Entscheidung unterworfen zu werden. Trotz der Formulierung «Recht der betroffenen Person» und der systematischen Stellung der Regelung bei den Betroffenenrechten spricht sich eine Mehrheit der Lehre inzwischen dafür aus, dass es sich dabei um ein Verbot automatisierter Entscheidungen und nicht um ein subjektives Betroffenenrecht handelt.[55] Es gibt jedoch durchaus auch Gegenstimmen, welche dieser Auslegung nach ausführlichen Analysen widersprechen und sich für das Vorliegen eines Betroffenenrechts aussprechen.[56] Unabhängig von dieser Frage muss eine automatisierte Entscheidungsfällung unter der DSGVO, im Gegensatz zum DSG, durch einen Ausnahmetatbestand gerechtfertigt werden, um zulässig zu sein.[57] Damit ist der Schweizer Lösungsansatz liberaler als derjenige der DSGVO.[58]

Schutzrechte der betroffenen Personen

Sowohl das DSG als auch die DSGVO sehen bei einer (ausnahmsweise zulässigen) automatisierten Einzelentscheidung besondere Schutzrechte für die betroffenen Personen vor. Art. 21 Abs. 2 DSG enthält die Pflicht des Verantwortlichen, der betroffenen Person bei einer automatisierten Entscheidung die Rechte einzuräumen, (i) auf Antrag ihren Standpunkt darlegen zu können (Anhörungspflicht) und (ii) verlangen zu können, dass die Entscheidung von einer natürlichen Person überprüft wird (Überprüfungspflicht).[59] Art. 22 Abs. 3 DSGVO hält in ähnlicher Weise fest, dass der Verantwortliche im Falle der ausnahmsweise zulässigen automatisierten Entscheidungsfällung zusätzliche Massnahmen ergreifen muss, um die Rechte, Freiheiten und Interessen der betroffenen Person zu schützen, wobei der betroffenen Person mindestens das Recht auf Erwirkung des Eingreifens einer Person seitens des Verantwortlichen (Überprüfungspflicht[60] oder Recht auf menschliche Intervention[61]), auf Darlegung des eigenen Standpunkts[62] und auf Anfechtung der Entscheidung eingeräumt werden muss. Was genau mit Anfechtungsrecht gemeint ist, ist unklar bzw. umstritten. Im privatrechtlichen Bereich wird unter anderem die einem solchen allfälligen Rechtsbehelf entgegenstehende Vertragsfreiheit vorgebracht.[63] Ein Mehrheit geht davon aus, dass es sich dabei, mindestens bei privatrechtlichen Verhältnissen, ebenfalls bloss um einen Anspruch auf Überprüfung der Entscheidung, handelt.[64]

Damit müssen den betroffenen Personen sowohl im Geltungsbereich des DSG als auch der DSGVO im Grundsatz gewisse Anhörungs- und Überprüfungsrechte gewährt werden, wenn eine Entscheidung (ausnahmsweise) automatisiert gefällt wird.[65] In dieser Hinsicht sind sich der schweizerische und der EU-Regelungsansatz sehr ähnlich, auch wenn die Schweizer Regelung den Schutz der Rechte, Freiheiten und Interessen der betroffenen Person nicht ausdrücklich erwähnt. Ein allfälliges privatrechtliches Anfechtungsrecht automatisierter Entscheidungen enthält das DSG hingegen nicht.

Ausnahmetatbestände

Art. 21 Abs. 3 DSG und Art. 22 Abs. 2 lit. a und c DSGVO enthalten zwei auf den ersten Blick gleichlautende Ausnahmetatbestände.[66] In beiden Bestimmungen findet sich eine Ausnahme im Fall der ausdrücklichen Einwilligung der betroffenen Person. Diese Ausnahme unterscheidet sich im DSG und der DSGVO nur in der Terminologie, aber nicht inhaltlich. Eine weitere Ausnahme, die sich in beiden Erlassen findet, betrifft den Fall des Vorliegens eines Vertragsverhältnisses. Diese Ausnahme greift im DSG nur, wenn ein unmittelbarer Zusammenhang zwischen automatisierter Entscheidung und dem Vertrag besteht und wenn dem Begehren der betroffenen Person stattgegeben wird.[67] Nach Art. 22 Abs. 2 lit. a DSGVO liegt eine Ausnahme beim Vorliegen eines Vertragsverhältnisses hingegen nur vor, wenn die automatisierte Entscheidung für den Vertragsabschluss erforderlich ist.[68] Art. 22 Abs. 2 lit. a DSGVO enthält (im Gegensatz zu Art. 15 Abs. 2 lit. a DSRL) keine Vorgaben dazu, ob dem Begehren der betroffenen Person stattgegeben wird oder nicht.[69]

Sämtliche dieser im DSG und in der DSGVO vorgesehenen Ausnahmen unterscheiden sich trotz der ähnlichen Terminologie grundsätzlich im Hinblick auf die Frage, wofür sie eine Rechtfertigung bieten. Die in Art. 21 Abs. 3 DSG vorgesehenen Ausnahmetatbestände erlauben den Verzicht auf die Information der betroffenen Personen[70] sowie die Einschränkung ihrer Anhörungs- und Überprüfungsrechte.[71] Es handelt sich damit bei Art. 21 Abs. 3 DSG um Ausnahmen von den durch den Verantwortlichen bei der automatisierten Entscheidungsfindung einzuhaltenden Pflichten. Bei den Tatbeständen in Art. 22 Abs. 2 DSGVO hingegen handelt es sich um Ausnahmen vom in Art. 22 Abs. 1 DSGVO enthaltenen Verbot automatisierter Entscheidungen. Das Vorliegen einer der Ausnahmetatbestände ist somit direkte Voraussetzung für die Rechtmässigkeit einer automatisierten Entscheidung.[72] Sie beziehen sich weder auf die zusätzlichen Anhörungs- und Überprüfungsrechte der betroffenen Personen[73] noch auf die ADM-Informationspflichten.[74] Vielmehr setzen die Ausnahmen nach Art. 22 Abs. 2 lit. a und c DSGVO voraus, dass der Verantwortliche entsprechende Massnahmen zum Schutz der betroffenen Personen trifft.[75] Im Gegensatz zum DSG enthält die DSGVO keine Ausnahmen von den Anhörungs- und Überprüfungsrechten der betroffenen Personen bei ausnahmsweise zulässigen automatisierten Entscheidungen. Betreffend die Informationspflichten über die automatisierte Entscheidungsfällung[76] sieht die DSGVO sodann gänzlich andere Ausnahmetatbestände vor, unter anderem für den Fall, dass die betroffene Person bereits über die Informationen verfügt.[77]

Informationspflicht

Sowohl Art. 21 Abs. 1 DSG als auch Art. 13 Abs. 2 lit. f und Art. 14 Abs. 2 lit. g DSGVO schreiben dem Verantwortlichen vor, dass die betroffene Person über eine automatisierte (Einzel‑)Entscheidung informiert werden muss. Diese Informationspflicht findet sich in der DSGVO nicht bei der materiellen ADM-Regelung, sondern wurde in die Bestimmungen zu den Informationspflichten des Verantwortlichen in Art. 13 und Art. 14 DSGVO aufgenommen. Im DSG hingegen wurde diese Pflicht in Art. 21 DSG systematisch der materiellen Regelung automatisierter Entscheidungen zugeordnet. Eine inhaltliche Verbindung zwischen den allgemeinen Informationspflichten in Art. 19 DSG und der ADM-Informationspflicht in Art. 21 Abs. 1 DSG scheint nicht zu bestehen.[78]

Die Informationspflichten gemäss DSGVO umfassen – im Gegensatz zu denjenigen im DSG – nebst der Information über die automatisierte Entscheidung auch «aussagekräftige Informationen über die involvierte Logik sowie die Tragweite und die angestrebten Auswirkungen einer derartigen Verarbeitung für die betroffene Person» und sind somit umfassender. Des Weiteren fällt auf, dass sich die Regelungen hinsichtlich der Angabe des Informationszeitpunkts unterscheiden: Aus dem Wortlaut von Art. 21 Abs. 1 DSG ist nicht ersichtlich, zu welchem Zeitpunkt die ADM-Information erfolgen muss. In der DSGVO hingegen ist festgehalten, dass dies entweder zum Zeitpunkt der Datenerhebung bei der betroffenen Person[79] oder, bei der Datenbeschaffung bei Dritten, innerhalb einer angemessenen Frist (längstens ein Monat), zum Zeitpunkt der Mitteilung an die betroffene Person oder zum Zeitpunkt der Offenlegung an einen anderen Empfänger[80] zu erfolgen hat.[81]

Während sich die Ausnahmen von der Informationspflicht gemäss DSG nach den vorne genannten Tatbeständen (Vertragsabschluss oder Einwilligung)[82] richten, sieht die DSGVO mit Blick auf die Informationspflicht eine gänzlich andere Ausnahme vor: Keine Information über eine automatisierte Entscheidung hat zu erfolgen, wenn die betroffene Person bereits über die Informationen verfügt.[83] Die Möglichkeit, dass die betroffene Person schon über die Information verfügt, findet in der Botschaft nur dahingehend Berücksichtigung, als dass die betroffene Person bereits informiert worden sein muss, um rechtsgültig ausdrücklich in die automatisierte Entscheidung einzuwilligen.[84] Im Falle der Datenbeschaffung bei Dritten gibt es in der DSGVO zudem zusätzliche Ausnahmen wie die Unmöglichkeit der Information, unverhältnismässiger Aufwand oder spezifische Rechtsvorschriften,[85] wobei vorliegend offengelassen werden kann, ob die ersten beiden Möglichkeiten im Zusammenhang mit der automatisierten Entscheidung relevant sind, zumal diese in der Regel an die betroffene Person übermittelt werden muss.

Besonders schützenswerte Personendaten

Ein Unterschied zwischen der Regelung automatisierter Entscheidungen im DSG und derjenigen in der DSGVO findet sich mit Blick auf die Verarbeitung sensitiver oder besonders schützenswerter Daten als Grundlage automatisierter Entscheidungen. Das DSG enthält diesbezüglich keine konkreten Vorschriften,[86] sondern es müssen einfach die allgemeinen Vorgaben zur Bearbeitung besonders schützenswerter Personendaten eingehalten werden.[87] Die DSGVO hingegen sieht vor, dass ausnahmsweise zulässige automatisierte Entscheidungen nicht auf besonderen Kategorien personenbezogener Daten gemäss Art. 9 Abs. 1 DSGVO beruhen dürfen, sofern nicht eine der Ausnahmen nach Art. 9 Abs. 2 lit. a oder g DSGVO gegeben ist und angemessene Massnahmen zum Schutz der betroffenen Person getroffen werden.[88] Erwägungsgrund 71 der DSGVO enthält zudem den Hinweis, dass automatisierte Entscheidungen keine Kinder betreffen sollten. Das DSG enthält weder eine entsprechende Regelung noch findet sich in der Botschaft diesbezüglich ein Hinweis.[89]

Auskunftsrecht

Sowohl im DSG als auch in der DSGVO ist vorgesehen, dass über automatisierte Entscheidungen Auskunft erteilt werden muss. Der Umfang dieser Auskunftsrechte ist ähnlich, aber nicht deckungsgleich ausgestaltet. Gemäss Art. 15 Abs. 1 lit. h DSGVO haben die betroffenen Personen bei einer automatisierten Entscheidungsfällung das Recht auf «aussagekräftige Informationen über die involvierte Logik sowie die Tragweite und die angestrebten Auswirkungen einer derartigen Verarbeitung für die betroffene Person». In Art. 25 Abs. 2 lit. f DSG ist hingegen vorgesehen, dass bei Vorliegen einer automatisierten Entscheidung über «die Logik, auf der die Entscheidung beruht» Auskunft erteilt werden muss. Gemeinsam ist den Bestimmungen somit, dass im Falle der automatisierten Entscheidungsfällung über die Entscheidungslogik Auskunft gegeben werden muss. Der Verantwortliche muss im Schweizer Recht hingegen, wie auch bei der Informationspflicht,[90] nicht über die Tragweite und die angestrebten Auswirkungen der automatisierten Entscheidung Auskunft geben.[91] Damit ist das Auskunftsrecht betreffend die automatisierte Entscheidung in der EU umfassender ausgestaltet als in der Schweiz.

Ein Unterschied findet sich sodann darin, dass sich im DSGVO-Auskunftsrecht ein Verweis auf Entscheidungen nach Art. 22 Abs. 1 und 4 DSGVO findet, während in Art. 25 Abs. 2 lit. f DSG ein ausdrücklicher Verweis auf Art. 21 DSG fehlt. In der parlamentarischen Debatte war umstritten, ob und inwieweit die Definition des Begriffs der automatisierten Einzelentscheidung in Art. 21 Abs. 1 DSG für die Regelung in Art. 25 Abs. 2 lit. f DSG Geltung hat.[92] Nach hier vertretener Meinung hat der Schweizer Gesetzgeber den Begriff der automatisierten Einzelentscheidung jedoch klar in Art. 21 Abs. 1 DSG eingeführt und gleichzeitig definiert,[93], weshalb auch ohne Verweis auf diese Bestimmung davon auszugehen ist, dass Art. 25 Abs. 2 lit. f DSG nur automatisierte Einzelentscheidungen im Sinne von Art. 21 DSG betrifft.

Art. 2 LIFL 1978. ↵

Erwägungsgrund 41, Art. 12 lit. a und Art. 15 DSRL. ↵

Erwägungsgrund 71, Art. 13 Abs. 2 lit. f., Art. 14 Abs. 2 lit. g, Art. 15 Abs. 1 lit. h und Art. 22 DSGVO. ↵

Art. 9 Abs. 1 lit. a und c SEV nr. 108+. ↵

Zum Ganzen Wiener, 169–170. ↵

Siehe bspw. Bull, 93–108; Zeidler, 15–18. ↵

Bull, 138; Fiedler, Rechenautomat, 152–154; Huber, 5; Zeidler, 14. ↵

Simitis, Automation, 21; Zeidler, 14; siehe auch Gröttrup, 1116–1117, 1128–1129. ↵

Bull, 68; Degrandi, 36, 46; Zeidler, 14; siehe auch Gröttrup, 1119, 1122. ↵

Bull, 68; Degrandi, 35–36, 45–46; Fiedler, Rechenautomat, 152–154. ↵

Bull, 68; Simitis, Automation, 18. ↵

Degrandi, 171, siehe auch 34–38, 43–49. ↵

Bull, 138; Gröttrup, 1129. ↵

Simitis, Automation, 18, 21; Huber, 13. ↵

Simitis, Automation, 18. ↵

Degrandi, 126. ↵

Degrandi, 128. ↵

Degrandi, 168. ↵

Degrandi, 129. ↵

Degrandi, 128–129. ↵

Fiedler, Rechenautomat, 155; Zeidler, 32. ↵

Siehe bspw. Bull; Degrandi; Eberle/Garstka/Wegscheider, 108–109; Gröttrup, 1107–1129; Hogrebe; Osswald, 20–21. ↵

Siehe bspw. Eberle/Garstka/Wegscheider, 107–108; Fiedler, Wandlungen, 41–55; Fiedler, Rechtssetzung, 12–17; Fiedler, Gesetzgebungstheorie, 665–678; Pultke, 679–695. ↵

Siehe bspw. Stadler, 1–35; siehe auch Eberle/Garstka/Wegscheider, 111–112. ↵

Siehe bspw. Eberle/Garstka, 65–72; Eberle/Garstka/Wegscheider, 110–111; Fiedler, Rechenautomat, 149–155; Klug, Datenverarbeitungsmaschinen, 189–199; Klug, Logik, 157–172; Lawlor, 337–344; Simitis, Automation, 1–24; Simitis, Informationskrise, 43–48; Steinauer. ↵

Siehe bspw. Bull, 114–116, 127–133; Pultke, 679–695. ↵

Gröttrup, 1128. ↵

Degrandi, 112. ↵

Belser, § 2 N 12, siehe auch ausführlich zur Entwicklung des Datenschutzes § 2, I. Die Anfänge des Datenschutzes. ↵

Siehe dazu vorne I.2. ↵

Siehe dazu ausführlich Rosenthal, revDSG, N 10–12. ↵

BGE 144 III 285, E. 2.2.2. ↵

Thouvenin/Früh, 11; zum Geltungsbereich des DSG siehe hinten X.2. ↵

Art. 3 und Art. 4 SEV Nr. 108+; Botschaft DSG 2017, 6995–6996. ↵

Thouvenin/Früh, 11–12. ↵

Thouvenin/Früh, 12 Fn. 60. ↵

Art. 9 Abs. 1 lit. a SEV Nr. 108+; Thouvenin/Früh, 12. ↵

Thouvenin/Früh, 12, 14. ↵

Ebenso Botschaft DSG 2017, 6994, 7056. ↵

Art. 22 DSGVO, Überschrift. ↵

Art. 13 Abs. 2 lit. f, Art. 14 Abs. 2 lit. g und Art. 15 Abs. 1 lit. h DSGVO. ↵

Art. 5 DSG; Art. 4 DSGVO. ↵

Zum Tatbestand der automatisierten Einzelentscheidung im Sinne des DSG siehe hinten X.3. ↵

Art. 21 Abs. 1 DSG. ↵

Art. 22 Abs. 1 DSGVO. ↵

Für die DSGVO Buchner, in: Kühling/Buchner, DS-GVO, Art. 22 DSGVO N 11; Henseler, 303; Kamlah, in: Plath, DSGVO, Art. 22 DSGVO N 1; Lewinski, in: Brink/Wolff, BeckOK Datenschutzrecht, Art. 22 DSGVO N 3; Stengel/Stäuble, N 36. ↵

Der Zusatz «einschliesslich Profiling» wurde im Rahmen der parlamentarischen Beratungen aus dem Gesetzesentwurf gestrichen. Siehe dazu hinten VII.4.2.e) sowie Fn. 1287–1292. ↵

Thouvenin/Früh, 12; siehe auch Rosenthal, E-DSG, N 100. ↵

Art. 21 Abs. 1 DSG. ↵

Art. 21 Abs. 2 und Art. 25 Abs. 2 lit. f DSG. ↵

Thouvenin/Früh, 12; siehe auch Rosenthal, E-DSG, N 100. ↵

Art. 6 und Art. 8 DSG. ↵

Art. 30 Abs. 2 lit. b DSG. ↵

Art. 30 Abs. 2 lit. c DSG; zum allgemeinen Regelungskonzept des DSG siehe Rosenthal, revDSG, N 7. ↵

Siehe dazu Abel, 305; Buchner, in: Kühling/Buchner, DS-GVO, Art. 22 DSGVO N 12; Helfrich, in: Sydow/Marsch, DSGVO, Art. 22 DSGVO N 39–40; Herbst, in: Auernhammer, DSGVO, Art. 22 DSGVO N 4; Martini, in: Paal/Pauly, DS-GVO, Art. 22 DSGVO N 1, 15, 29b; Dreyer/Schulz, 19; Scholz, in: Simitis/Hornung/Spiecker genannt Döhmann, Datenschutzrecht, Art. 22 DSGVO N 1; Voigt/Bussche, 240. Vereinzelt wird auch angeführt, dass es sich bei Art. 22 DSGVO um die Festlegung zusätzlicher Art. 6 DSGVO ergänzender Rechtmässigkeitsvoraussetzungen handle (siehe dazu Albrecht/Jotzo, N 62; Lewinski, in: Brink/Wolff, BeckOK Datenschutzrecht, Art. 22 DSGVO N 3; Taeger, in: Taeger/Gabel, DSGVO, Art. 22 DSGVO N 7, 26–28; Weichert, in: Däubler et al., Kompaktkommentar DSGVO, Art. 22 DSGVO N 16). ↵

Siehe dazu Thouvenin/Früh/Henseler, 197–198; Tosoni, 161; ähnlich: Kamlah, in: Plath, DSGVO, Art. 22 DSGVO N 4; Thouvenin/Früh, 12; siehe auch Schulz, in: Gola/Heckmann, DSGVO, Art. 22 DSGVO N 5, der jedoch für die praktische Anwendung von einem mittelbaren Verbotscharakter ausgeht. ↵

Art. 22 Abs. 2 DSGVO; Martini, in: Paal/Pauly, DS-GVO, Art. 22 DSGVO N 30; zu den Ausnahmetatbeständen siehe hinten VI.3.3.d). ↵

Toren, N 19. ↵

Die in Art. 21 Abs. 2 DSG enthaltenen Rechte der betroffenen Person werden als Pflichten des Verantwortlichen angeführt, da Art. 21 DSG systematisch dem 3. Kapitel des DSG betreffend die Pflichten des Verantwortlichen (und nicht dem 4. Kapitel des DSG betreffend die Rechte der betroffenen Person) zugeordnet ist. ↵

Siehe dazu Helfrich, in: Sydow/Marsch, DSGVO, Art. 22 DSGVO N 70; Lewinski, in: Brink/Wolff, BeckOK Datenschutzrecht, Art. 22 DSGVO N 48; Scholz, in: Simitis/Hornung/Spiecker genannt Döhmann, Datenschutzrecht, Art. 22 DSGVO N 59; Taeger, in: Taeger/Gabel, DSGVO, Art. 22 DSGVO N 69. ↵

Siehe dazu Veil, in: Gierschmann et al., DSGVO, Art. 22 DSGVO N 93; ähnlich Martini, in: Paal/Pauly, DS-GVO, Art. 22 DSGVO N 39a. ↵

Siehe dazu Helfrich, in: Sydow/Marsch, DSGVO, Art. 22 DSGVO N 71; Lewinski, in: Brink/Wolff, BeckOK Datenschutzrecht, Art. 22 DSGVO N 49; Martini, in: Paal/Pauly, DS-GVO, Art. 22 DSGVO N 39b; Veil, in: Gierschmann et al., DSGVO, Art. 22 DSGVO N 94. ↵

Siehe dazu Veil, in: Gierschmann et al., DSGVO, Art. 22 DSGVO N 95–96. ↵

Siehe dazu Buchner, in: Kühling/Buchner, DS-GVO, Art. 22 DSGVO N 31; Herbst, in: Auernhammer, DSGVO, Art. 22 DSGVO N 20; Lewinski, in: Brink/Wolff, BeckOK Datenschutzrecht, Art. 22 DSGVO N 50–53; Taeger, in: Taeger/Gabel, DSGVO, Art. 22 DSGVO N 69; Veil, in: Gierschmann et al., DSGVO, Art. 22 DSGVO N 95–96; in diese Richtung auch Martini, in: Paal/Pauly, DS-GVO, Art. 22 DSGVO N 39c; Scholz, in: Simitis/Hornung/Spiecker genannt Döhmann, Datenschutzrecht, Art. 22 DSGVO N 61; a.A. Helfrich, in: Sydow/Marsch, DSGVO, Art. 22 DSGVO N 72–73, welcher ein Sonderkündigungsrecht für möglich hält; Hladjk, in: Ehmann/Selmayr, DSGVO, Art. 22 DSGVO N 15. ↵

Siehe dazu auch Thouvenin/Früh, 15. ↵

Thouvenin/Früh, 14; Art. 22 Abs. 3 lit. b DSGVO sieht zudem vor, dass Rechtsvorschriften der Union oder der Mitgliedstaaten weitere Ausnahmen vorsehen können, sofern sie angemessene Massnahmen zum Schutz der betroffenen Personen enthalten (sog. Öffnungsklausel). ↵

Art. 21 Abs. 3 lit. a DSG; Thouvenin/Früh, 14. ↵

Siehe dazu Herbst, in: Auernhammer, DSGVO, Art. 22 DSGVO N 19; Hladjk, in: Ehmann/Selmayr, DSGVO, Art. 22 DSGVO N 11; Martini, in: Paal/Pauly, DS-GVO, Art. 22 DSGVO N 31, 31a; Scholz, in: Simitis/Hornung/Spiecker genannt Döhmann, Datenschutzrecht, Art. 22 DSGVO N 42–43; Taeger, in: Taeger/Gabel, DSGVO, Art. 22 DSGVO N 53; Veil, in: Gierschmann et al., DSGVO, Art. 22 DSGVO N 75–78. ↵

Siehe dazu Kamlah, in: Plath, DSGVO, Art. 22 DSGVO N 8; Scholz, in: Simitis/Hornung/Spiecker genannt Döhmann, Datenschutzrecht, Art. 22 DSGVO N 40; Martini, in: Paal/Pauly, DS-GVO, Art. 22 DSGVO N 32. ↵

Art. 21 Abs. 1 DSG. ↵

Art. 21 Abs. 2 DSG. ↵

Siehe dazu Helfrich, in: Sydow/Marsch, DSGVO, Art. 22 DSGVO N 53; Lewinski, in: Brink/Wolff, BeckOK Datenschutzrecht, Art. 22 DSGVO N 42; Martini, in: Paal/Pauly, DS-GVO, Art. 22 DSGVO N 30; siehe auch Albrecht/Jotzo, N 62; Lewinski, in: Brink/Wolff, BeckOK Datenschutzrecht, Art. 22 DSGVO N 3; Taeger, in: Taeger/Gabel, DSGVO, Art. 22 DSGVO N 7, 26–28; Weichert, in: Däubler et al., Kompaktkommentar DSGVO, Art. 22 DSGVO N 16, welche mit Blick auf Art. 22 DSGVO davon ausgehen, dass es sich dabei um die Festlegung zusätzlicher Art. 6 DSGVO ergänzender Rechtmässigkeitsvoraussetzungen handelt. ↵

Art. 22 Abs. 3 DSGVO. ↵

Art. 13 Abs. 2 lit. f und Art. 14 Abs. 2 lit. g DSGVO. ↵

Art. 22 Abs. 3 DSGVO. ↵

Art. 13 Abs. 2 lit. f und Art. 14 Abs. 2 lit. g DSGVO. ↵

Art. 13 Abs. 4 und Art. 14 Abs. 5 DSGVO; siehe dazu Bäcker, in: Kühling/Buchner, DS-GVO, Art. 13 DSGVO N 83–87; Däubler, in: Däubler et al., Kompaktkommentar DSGVO, Art. 13 DSGVO N 28–33; Kamlah, in: Plath, DSGVO, Art. 13 DSGVO N 31-31f; Veil, in: Gierschmann et al., DSGVO, Art. 13 und 14 DSGVO N 135–177. ↵

Siehe dazu jedoch hinten VII.4.2.f); VIII.4.3. ↵

Art. 13 Abs. 2 lit. f DSGVO. ↵

Art. 14 Abs. 2 lit. g i.V.m. Art. 14 Abs. 3 DSGVO. ↵

Siehe dazu Veil, in: Gierschmann et al., DSGVO, Art. 13 und 14 DSGVO N 43–48. ↵

Art. 21 Abs. 2 DSG; siehe dazu vorne VI.3.3.d). ↵

Art. 13 Abs. 4 und Art. 14 Abs. 5 lit. a DSGVO. ↵

Botschaft DSG 2017, 7058. ↵

Art. 14 Abs. 5 lit. b-d DSGVO. ↵

Toren, N 17. ↵

Siehe bspw. Art. 6 Abs. 7 lit. a, Art. 22 Abs. 2 lit. a oder Art. 30 Abs. 1 lit. c DSG. ↵

Art. 22 Abs. 4 DSGVO. ↵

Toren, N 18. ↵

Siehe dazu vorne VI.3.3.e). ↵

Thouvenin/Früh/George, N 29; Die urspünglich vorgesehene Pflicht, Auskunft über das Ergebnis, das Zustandekommen und die Auswirkungen einer aufgrund einer Datenbearbeitung gefällten Entscheidung, insbesondere einer automatisierten Einzelentscheidung zu erteilen (Art. 20 Abs. 3 VE-DSG 2016), wurde im Verlauf des Gesetzgebungsprozesses gestrichen. Siehe dazu hinten VII.4.2.e). ↵

Siehe dazu hinten VII.4.2.e) und Fn. 1293–1296, 1298–1305. ↵

Siehe dazu hinten X.3.1 bei Fn. 1577. ↵

7

Entstehungsgeschichte der Regulierung automatisierter Entscheidungen

Erste Regulierung in Frankreich

Überblick

Am 6. Januar 1978 trat das französische Datenschutzgesetz, die «Loi n° 78-17 du 6 janvier 1978 relative à l’informatique, aux fichiers et aux libertés» (LIFL 1978) in Kraft. Frankreich war damit zwar nicht die erste Nation überhaupt, welche ein Datenschutzgesetz erliess.[1] Mit dem in Art. 2 LIFL 1978[2] vorgesehenen Verbot (ausschliesslich) auf automatisiert erstellten Persönlichkeitsprofilen basierender gerichtlicher, behördlicher und privater Entscheidungen nahm Frankreich jedoch als erste und lange Zeit einzige Nation eine ausdrückliche Regelung automatisierter Entscheidungen in sein Datenschutzgesetz auf. Dieses Verbot wurde ergänzt durch Art. 3 LIFL 1978,[3] welcher der betroffenen Person das Recht einräumte, die bei der automatisierten Verarbeitung verwendeten Informationen und die Überlegungen derjenigen Ergebnisse, welche ihr entgegenstünden, zu kennen und anzufechten.

Gesetzgebungsprozess[4]

Vorarbeiten

Wesentlicher Ausgangspunkt für den Erlass des französischen Datenschutzgesetzes war das Bekanntwerden des nationalen Informatikprojekts «SAFARI», in dessen Rahmen geplant wurde, jedem Bürger eine Identifizierungsnummer zuzuordnen und sämtliche staatlich verfügbaren Daten über eine Person durch diese Nummer miteinander zu verbinden.[5] Die Zeitung «Le Monde» veröffentlichte die Pläne für dieses Projekt am 21. März 1974 im Artikel «Safari ou la chasse aux Franc¸ais»[6], nachdem sie durch einen Whistleblower davon erfahren hatte.[7] Bereits in den Jahren davor wurde in Frankreich über die Notwendigkeit eines Datenschutzgesetzes diskutiert.[8] Ebenso hat die französische Regierung bereits im Jahr 1969 diesbezüglich erste Abklärungen und Untersuchungen in die Wege geleitet.[9] Die Veröffentlichung des Safari-Artikels brachte die Datenschutzdiskussion jedoch zum ersten Mal an eine breite Öffentlichkeit und verlieh ihr eine neue Bedeutung.[10]

Die öffentliche Diskussion führte dazu, dass das Projekt Safari vorerst nicht genehmigt wurde und – für die spätere Inkraftsetzung der ersten Regelung zur automatisierten Entscheidungsfällung bedeutend – die französische Regierung mit Dekret vom 8. November 1974[11] die Expertenkommission «Commission de l’Informatique et des Libertés» (CIL)[12] ins Leben rief.[13] Diese wurde beauftragt der Regierung innerhalb von sechs Monaten Massnahmen zu präsentieren, welche im öffentlichen und halböffentlichen Sektor sowie im privaten Bereich die Entwicklung der Informationstechnologie unter Achtung des Privatlebens sowie der individuellen und öffentlichen Freiheiten sicherstellen.[14] Dazu analysierte die CIL, welche Arten von gesetzlich anerkannten Freiheiten durch die missbräuchliche Sammlung, Verarbeitung und Weitergabe bestimmter Informationen bedroht sein könnten.[15] Die CIL untersuchte in ihrem Bericht sämtliche Anwendungen der automatisierten Datenverarbeitung und beschränkte sich nicht nur auf die Verarbeitung personenbezogener Daten.[16] Ihre Schlussfolgerungen und Empfehlungen hielt die CIL im in Anlehnung an den Generalberichterstatter der CIL, Staatsrat Bernard Tricot, genannten «Rapport Tricot» fest.[17] Dieser Bericht vom 27. Juni 1975 ebnete in Frankreich den Weg für ein modernes Datenschutzrecht[18] und war – wie im Folgenden gezeigt wird – wegweisend für die erste datenschutzrechtliche Regelung automatisierter Entscheidungen.

Im Rapport Tricot wurden eingangs die erwarteten Entwicklungen der Informationstechnologie, geplante Automatisierungsvorhaben sowie der damit zusammenhängende erwartete vermehrte Einsatz von Computern vorgestellt.[19] Anschliessend wurden die damit zusammenhängenden Risiken für die Freiheit des Einzelnen analysiert. Im Fokus dieser Analyse standen insbesondere die damals mit den neuen Informationstechnologien einhergehenden Möglichkeiten, wie die umfangreiche Speicherung und die Weitergabe und der Austausch, aber auch die Auswertung von Daten, die daraus resultierenden Ergebnisse sowie die neu vom Computer anstatt dem Menschen vorgenommenen Schlussfolgerungen und damit zumindest indirekt auch die Automatisierung von Entscheidungen.[20]

Die CIL identifiziert die weit verbreitete Ansicht, der Computer läge (fast) nie falsch (1), die Gefahr einer zunehmenden detaillierteren Kategorisierung von Individuen (2), die mit den neuen Informationstechnologien einhergehende Möglichkeit, dass Daten langfristig und umfangreicher gespeichert (3) und die Aktivitäten eines Individuums überwacht, analysiert und verglichen werden können (4), sowie den immer einfacheren und vermehrt erfolgenden Austausch von Informationen (5) als Risiken für die Freiheiten des Einzelnen.[21]

Konkret wurde angeführt, dass die Ergebnisse eines Computers von einer gewissen Autorität umgeben seien und als unfehlbar gelten würden, weshalb insbesondere diejenigen, die Computer nutzen, ein gewisses Interesse daran hätten, sich auf dessen Ergebnisse zu berufen. Bei dieser Ansicht werde jedoch nicht berücksichtigt, dass sich in den Daten oder in der Logik der Programmierung Fehler befinden können und der Computer fragwürdige Ergebnisse nicht immer erkennen könne. Ebenso würden auch einer perfektionierten Maschine gewisse von Gefühlen oder Moral geprägte Nuancen fremd bleiben. Wenn mittels der neuen Technologien gewisse Vorfälle aufgedeckt, klassifiziert und (lebenslänglich) gespeichert werden, bestehe die Gefahr, dass diese die Betroffenen ihr Leben lang verfolgen würden. Gleichzeitig beträfe das Wissen um die Möglichkeit, dass nichts Wichtiges vergessen werde, das intimste Gefühl der Freiheit der einzelnen Personen. Ebenfalls würden die neuen Möglichkeiten der Überwachung, Analyse und Vergleichung nicht im Sinne der Freiheit wirken. Die zunehmend vereinfachte Möglichkeit des Austausches und der Weitergabe von Informationen bringe sodann die Gefahr mit sich, dass Informationen für Entscheidungen berücksichtigt werden, die nicht beigezogen werden dürfen.[22]

Vor diesem Hintergrund warnte die CIL ausdrücklich davor, sich darauf zu verlassen, dass sämtliche Ergebnisse eines Computers richtig seien. Sie sah es als Resignation an, sich bei der Einschätzung menschlicher Situationen ausschliesslich auf die Informationstechnologie zu verlassen. Ebenso forderte die CIL, es sei sicherzustellen, dass nur diejenigen Informationen ausgetauscht werden, welche zur Erfüllung einer Aufgabe rechtmässig verwendet werden dürfen.[23]

Währenddem bei sämtlichen dieser von der CIL adressierten Risiken ein Bezug zur Thematik der automatisierten Entscheidungsfällung besteht, hängen insbesondere das erste und zweite Risiko eng damit zusammen. Automatisierte Entscheidungen wurden im zweiten identifizierten Risiko denn auch ausdrücklich angesprochen.[24]

Im Hinblick auf den allgemeinen Einsatz der Informationstechnologie empfahl die CIL, dass die Bearbeitung von personenbezogenen Daten («informations nominatives» oder «données nominatives») besonderen Vorsichtsmassnahmen unterliegen solle. Unter anderem aufgrund ihrer Natur werfe deren Bearbeitung am meisten Fragen in Bezug auf die Freiheiten auf.[25] Nebst der Definition des Begriffs der personenbezogenen Daten führte die CIL grundsätzliche Vorgaben an, die im Zusammenhang mit der automatisierten und auch manuellen Datenverarbeitung durch Behörden oder Private beachtet werden sollten.[26] Auch legte die CIL für den öffentlichen und privaten Sektor ausführlich dar, wie, in welchem Umfang und mit welchen Ausnahmen ein Recht auf Zugang des Einzelnen zu persönlichen Informationen ausgestaltet sein könnte.[27] So führte die CIL unter anderem an, dass ein solches Zugangsrecht, neben dem Verarbeitungszweck, auch die Grundzüge des Verarbeitungsvorgangs und die Art der bearbeiteten Informationen umfassen solle.[28] Gleichzeitig brachte die CIL zum Ausdruck, dass nicht nur die ursprünglichen Originaldaten, sondern insbesondere auch die darauf basierenden Ergebnisse, welche durch Kombination oder durch Interpretation der Ersteren entstanden seien, bekannt gegeben werden müssen.[29]

Die CIL thematisierte die automatisierte Entscheidungsfällung im Rapport Tricot nicht nur indirekt. Sie stellte explizit die Frage in den Raum, inwiefern eine betroffene Person noch frei sei, wenn eine sie betreffende Entscheidung auf Grundlage eines ihr unbekannten Programms und auf Grundlage von Daten, die sie nicht kontrollieren könne, gefällt werde.[30] Auch zeigte die CIL die Möglichkeiten auf, welche die Informationstechnologie im Hinblick auf sehr komplexe Situationen, über deren Weiterentwicklung eine Entscheidung getroffen werden müsse, biete. Sie stellte fest, dass neu alle für eine Entscheidung relevanten Daten berücksichtigt, innert kürzester Zeit ausgewertet und für verschiedene Entscheidungshypothesen verschiedene mögliche Konsequenzen berechnet werden könnten. Dabei kritisierte die CIL die Schwierigkeit, sämtliche Variablen der zu beurteilenden komplexen Situationen zu berücksichtigten, ohne dass etwas ausgelassen werde. Ebenfalls wurde vorgebracht, dass die Schwäche von maschinellen Prognosen darin läge, dass sie oftmals mathematischer Ausdruck schlecht verstandener Kausalzusammenhänge seien.[31]

Die CIL merkte an, dass die Kritik bzw. das (bereits vorgebachte) Risiko, wonach solche Systeme fehleranfällig seien, bspw. aufgrund fehlender Daten, falscher Hochrechnungen oder schlecht bekannter Zusammenhänge, in der Praxis oft vergessen gehe. Weil die Spezialisten, welche die Modelle entwickeln, beträchtliche Kenntnisse über die behandelten Themen sammeln würden, erschienen sie ihren Partnern sehr schnell kompetenter als jeder andere. Gleichzeitig seien die tatsächlich Verantwortlichen nicht in der Lage die Modelle nachzuvollziehen und sich diesen anscheinend wissenschaftlichen Erkenntnissen zu widersetzen. Dadurch fände eine Machtverschiebung statt, in deren Rahmen die Spezialisten in den Entscheidungsprozessen eine immer wichtigere Rolle einnehmen würden. Diese Machtübertragung könne zu einem Machtmissbrauch führen, falls die Modelle, ohne das Wissen der Verantwortlichen, so ausgestaltet würden, dass einzelne Kriterien unangemessen gewichtet würden.[32]

Als Lösung, welche es ermögliche diese Gefahren unter Kontrolle zu bringen, schlug die CIL vor, die Aufmerksamkeit der Entscheidungsträger darauf zu richten, dass Systemanalysen nur ein Arbeitsinstrument unter vielen seien und man sich nie auf ihre Schlussfolgerungen allein verlassen sollte.[33] Damit bestätigte die CIL ihre bereits zu Beginn des Rapport Tricot geäusserte Ansicht, wonach es als Resignation angesehen werde, sich bei der Einschätzung von Situationen bloss auf die Informationstechnologie zu verlassen. Als weiteren Lösungsvorschlag präsentierte die CIL die Verpflichtung der Spezialisten, welche die Modelle konstruieren würden, die Art und Herkunft der von ihnen berücksichtigten Daten sowie alle intellektuellen Schritte, die den Bau der Modelle ermöglicht haben, uneingeschränkt bekannt zu machen. Ebenfalls wurde vorgeschlagen, dass Beamte zu verpflichten seien, mit Hilfe solcher Techniken getroffene Entscheide, welche öffentliche oder private Freiheiten betreffen, zu deklarieren. Sodann wurde angeführt, dass die Beamten zudem bereit sein müssen, die Fragen der von einer (noch einzurichtenden) Kontrollinstanz ernannten Experten zu beantworten.[34]

Loi n° 78-17 du 6 janvier 1978 relative à l’informatique, aux fichiers et aux libertés

E-LIFL 1976

Nachdem die CIL den Rapport Tricot vorgelegt hatte, wurde im Auftrag des Premierministers Jacques Chirac von Jean Lecanuet ein Entwurf für ein Datenschutzgesetz (E-LIFL 1976)[35] ausgearbeitet und dieser am 9. August 1976 zuhanden der französischen Nationalversammlung eingereicht.[36] Dieser Entwurf enthielt bereits die später in ähnlicher Form in Kraft getretenen Regelungen zur automatisierten Entscheidungsfällung. Art. 2 E-LIFL 1976 besagte, dass keine Gerichts- oder Verwaltungsentscheidung, die eine Beurteilung menschlichen Verhaltens beinhaltet, allein auf der automatisierten Verarbeitung von Informationen beruhen dürfe.[37] Nicht von Art. 2 E-LIFL 1976 erfasst waren solche Entscheidungen durch Private. Art. 3 E-LIFL 1976 sah vor, dass jeder Person das Recht zukomme, die bei der automatisierten Verarbeitung verwendeten Informationen und die Überlegungen derjenigen Ergebnisse, welche ihr entgegenstünden, zu kennen und anzufechten, womit der vorgeschlagene Wortlaut in Art. 3 E-LIFL 1976 enthaltenen Informations- und Anfechtungsrechts bereits der 1978 in Kraft getretenen Version entsprach.[38]

Der E-LIFL 1976 wurde als Ergebnis der Untersuchungen und Überlegungen der CIL und des Rapport Tricot präsentiert.[39] Der E-LIFL 1976 sowie dessen kurzen Erläuterungen nehmen jedoch nur in allgemeiner Form auf den Rapport Tricot Bezug[40] und liefern weder zu Art. 2 E-LIFL 1976 noch zu Art. 3 E-LIFL 1976 eine ausführliche Begründung. Vergleicht man die vorne aufgeführten Ausführungen des Rapport Tricot mit dem E-LIFL 1976, finden sich die im Bericht gemachten Empfehlungen jedoch klar im Gesetzesentwurf umgesetzt.[41] So verhindert das in Art. 2 E-LIFL 1976 vorgesehene Verbot von Gerichts- und Verwaltungsentscheidungen, welche ausschliesslich auf automatisiert erstellten Persönlichkeitsprofilen basieren, dass sich diese Regierungsstellen nur auf maschinell erstellte Auswertungen und Schlussfolgerungen stützen können. Dadurch können die Entscheidungsträger entsprechende Systeme, wie von der Kommission vorgeschlagen, nur als ein Arbeitsinstrument unter vielen nutzen. Ein weiterer Nebeneffekt dieses Verbots ist, dass nicht blind auf Computerergebnisse vertraut und diesen ein womöglich zu starkes Gewicht verliehen werden kann. Gleichzeitig wird das Interesse von Verwaltungs- und Gerichtsbehörden automatisierte Bewertungen als einzige Entscheidungsgrundlagen zu verwenden geschmälert.

Die Auskunftsverpflichtung nach Art. 3 E-LIFL 1976 bietet den betroffenen Personen sodann die Möglichkeit, die einer Entscheidung zugrundeliegenden Informationen zu überprüfen und eine Erklärung zu verlangen, wie die automatisiert erstellten Ergebnisse zustande gekommen sind.[42] Dies stimmt mit der Forderung der CIL überein, wonach über die Art und Herkunft der berücksichtigten Daten Auskunft erteilt werden müsse. Ebenso kann dadurch darauf hingewirkt werden, dass nur Faktoren berücksichtigt werden, die zur Fällung des spezifischen Entscheids notwendig und rechtmässig vorgesehen sowie richtig sind. Das in Art. 3 E-LIFL 1976 vorgesehene Recht, die bei der automatisierten Verarbeitung verwendeten Daten und Überlegungen zu erfahren und anfechten zu können, spiegelt zudem die Empfehlung der CIL, wonach sowohl über die verarbeiteten Daten als auch über die Verarbeitungsergebnisse oder Interpretationen der ursprünglichen Informationen Auskunft gegeben werden müsse.

Im Jahr 1977 wurden zum E-LIFL 1976 zusätzliche Erläuterungen veröffentlicht.[43] Aus diesen ergibt sich, dass Art. 2 LIFL 1978 zudem wesentlich durch das GAMIN-Projekt des Gesundheitsministeriums inspiriert worden sei. Im Rahmen dieses Projekts wurde geplant, sämtliche Gesundheitsdaten, die sich im Besitz des Departements für Mütter- und Kinderschutz befanden, computergestützt zu nutzen sowie alle sozialen und morpho-medizinischen Informationen, die während der ersten 24 Monate ausgestellt werden, in den obligatorischen ärztlichen Zeugnissen zusammenzufassen. Die Entscheidungsfindung auf der Grundlage von Profilen sollte dadurch erleichtert werden und «gefährdete» Kinder sollten so einfacher erkannt werden. Dieses Vorhaben habe sowohl bei der Ärzteschaft als auch innerhalb der französischen Ärztekammer ernsthafte Vorbehalte hervorgerufen.[44]

E-LIFL 1977

Die Nationalversammlung nahm die vorgeschlagenen Art. 2 und 3 E-LIFL 1976 ohne grosse Diskussionen an.[45] Im Senat hingegen wurde im Verlaufe des Gesetzgebungsprozesses beantragt Art. 2 E-LIFL 1976 dahingehend abzuändern, dass von diesem Artikel neu auch private Entscheidungen, die eine Beurteilung eines menschlichen Verhaltens beinhalten, erfasst sowie solche Gerichts- und Verwaltungsentscheidungen unterschiedlich reguliert werden. Während der E-LIFL 1976 noch allgemein von wertenden Entscheidungen, die auf einer automatisierten Datenbearbeitung beruhen, sprach, war im Vorschlag des Senats in Art. 2 E-LIFL 1977 zudem nur noch die Rede von wertenden Entscheidungen, die auf einer zu einem Persönlichkeitsprofil führenden automatisierten Datenbearbeitung beruhen. Neu sollten Entscheidungen von Behörden und von Privaten nicht ausschliesslich auf einer automatischen Datenbearbeitung beruhen dürfen, die ein Persönlichkeitsprofil der betreffenden Person ermöglichen, während Entscheidungen von Gerichten überhaupt nicht auf solchen Datenbearbeitungen beruhen dürfen.[46]

Der Rechtsausschuss des Senats fand es insbesondere wichtig, dass zwischen Gerichts- und sonstigen Entscheidungen unterschieden wird. Bei Ersteren dürfe der Computer unter keinen Umständen eingreifen und bei Entscheidungen im privaten oder administrativen Bereich sei der Computer nur teilweise erlaubt.[47] Die Ausweitung auf private Entscheidungen wurde zum einen mit der Tendenz begründet, dass immer mehr Personalentscheidungen auf Computersystemen basierten. Es solle sichergestellt werden, dass in denjenigen Bereichen, in denen graduelle Unterschiede wichtig sind und Feingefühl erforderlich ist, die traditionellen Mittel – d.h. der Mensch – nicht durch die Automatisierung verdrängt würden.[48] Zum anderen wollte der Rechtsausschuss des Senats bewusst den zwar fehlbaren, aber dafür menschlichen Charakter richterlicher Entscheidungen bewahren.[49] Der absolute Ausschluss der Verwendung von automatisiert erzeugten Persönlichkeitsprofilen, welche die Beurteilung durch den Richter ersetzen könnten, wurde dabei mit der damaligen Entwicklung in den USA, Gefährlichkeitskoeffizienten für Straftäter automatisiert zu berechnen, begründet.[50] Darüber hinaus wurde angeführt, dass die neue Formulierung bezwecke, dass sich Personalchefs oder Richter aus der Verantwortung ziehen können, indem diese die Computer als Entschuldigung dafür benutzen bestimmte heikle Probleme nicht mehr selbst zu entscheiden.[51]

Diese vom Senat vorgeschlagenen Änderungen wurden angenommen,[52] wodurch Art. 2 LIFL die am 6. Januar 1978 in Kraft getretene Formulierung erhielt. Im Senat gab es darüber hinaus verschiedene Änderungs- und Erweiterungsanträge zu Art. 3 E-LIFL 1976, welche sich jedoch nicht durchzusetzen vermochten,[53] weshalb dieser am 6. Januar 1978 unverändert als Art. 3 LIFL 1978 in Kraft trat.

Übernahme durch die Europäische Union

Überblick

Mit Inkrafttreten der DSRL fand im Jahr 1995 eine Regelung zur automatisierten Entscheidungsfällung Eingang in das gesamteuropäische Datenschutzkonzept. Art. 15 Abs. 1 DSRL schrieb den Mitgliedstaaten vor, dass sie den betroffenen Personen das Recht einräumen müssen, keiner Entscheidung unterworfen zu werden, die für sie mit rechtlichen Folgen oder einer erheblichen Beeinträchtigung verbunden ist und die ausschliesslich auf der automatisierten Bewertung einzelner Aspekte ihrer Person basiert. Daneben war in Art. 12 lit. a DSRL ein Auskunftsrecht enthalten, welches den logischen Aufbau der einer automatisierten Entscheidung zugrundeliegenden Datenbearbeitung umfasste. Dieses Recht wurde zudem in Erwägungsgrund 41 DSRL ausdrücklich angesprochen. Die Bestimmungen der DSRL waren in den Mitgliedstaaten nicht direkt anwendbar, sondern es oblag diesen, die in der DSRL enthaltenen Vorgaben in ihr nationales Recht umzusetzen.[54]

21 Jahre nach dem Inkrafttreten der DSRL wurde im Jahr 2016 die DSGVO verabschiedet, welche am 25. Mai 2018 in Kraft trat und die DSRL ablöste.[55] Im Gegensatz zur DSRL sind die Bestimmungen der DSGVO in den Mitgliedsstaaten direkt anwendbar und keine mitgliedstaatlichen Umsetzungsrechtsakte erforderlich.[56] Art. 22 DSGVO enthält das Recht[57] der betroffenen Person, nicht einer automatisierten Entscheidung unterworfen zu werden (Abs. 1), verschiedene diesbezügliche Ausnahmetatbestände (Vertragsabschluss und Einwilligung, Abs. 2) sowie unterschiedliche Zusatzvoraussetzungen für ausnahmsweise zulässige automatisierte Entscheidungen, wie das Erwirken des Eingreifens einer Person seitens des Verantwortlichen, die Darlegung des eigenen Standpunkts, die Anfechtung der Entscheidung oder das Vorliegen bestimmter nationaler Rechtsvorschriften (Abs. 2). Art. 22 Abs. 4 DSGVO enthält zudem Vorgaben betreffend die Verarbeitung besonderer Kategorien personenbezogener Daten im Rahmen der automatisierten Entscheidungsfällung. Des Weiteren finden sich, abhängig davon, wo die verarbeiteten Daten erhoben werden, in Art. 13 Abs. 2 lit. f und Art. 14 Abs. 2 lit. g DSGVO Informationspflichten zur automatisierten Entscheidungsfällung. Auch in der DSGVO ist im Rahmen des allgemeinen Auskunftsrechts vorgesehen, dass über das Bestehen der automatisierten Entscheidungsfällung sowie deren Logik, Tragweite und angestrebte Auswirkungen informiert werden muss.[58] Darüber hinaus äussert sich Erwägungsgrund 71 zu den Hintergründen der Bestimmungen betreffend die automatisierte Entscheidungsfällung.

Gesetzgebungsprozess

Datenschutzrichtlinie vom 24. Oktober 1995[59]

Vorarbeiten

Währenddem die Datenschutzproblematik vom Europäischen Parlament ab Mitte der 1970er-Jahre ausdrücklich thematisiert wurde und entsprechende Regelungen gefordert wurden,[60] wich die Kommission der Europäischen Gemeinschaften diesen Forderungen aus und zog es anfänglich vor, den Mitgliedstaaten lediglich die Unterzeichnung und Ratifizierung der Datenschutzkonvention SEV Nr. 108 des Europarates zu empfehlen.[61] Darüber hinaus unternahm die Kommission der Europäischen Gemeinschaften mit Blick auf eine datenschutzrechtliche Gemeinschaftsregelung keine fühlbaren Aktivitäten oder beschränkte sich auf wirtschaftlich, urheber- und gewerberechtlich ausgerichtete Bemühungen und Massnahmen, bei welchen das informationelle Selbstbestimmungsrecht des Einzelnen eher im Hintergrund stand.[62]

E-DSRL 1990

Im Jahr 1990 kam die datenschutzrechtliche Wende.[63] Mit der Mitteilung der Kommission zum Schutz von Personen bei der Verarbeitung personenbezogener Daten in der Gemeinschaft und zur Sicherheit der Informationssysteme vom 13. September 1990[64] legte die Kommission der Europäischen Gemeinschaften ein Massnahmenpaket vor, mit welchem sie ein gemeinschaftliches Datenschutzsystem anstrebte.[65] Teil davon waren der Vorschlag für eine Richtlinie zum Schutz von Personen bei der Verarbeitung personenbezogener Daten (E-DSRL 1990) und deren Erläuterungen.[66] In Art. 14 Ziff. 2 E-DSRL 1990 war vorgesehen, dass betroffene Personen im privaten Bereich keiner Verwaltungsmassnahme oder Entscheidung unterworfen werden dürfen, welche eine Beurteilung ihres Verhaltens enthält und sich allein auf eine rechnergestützte Verarbeitung personenbezogener Daten stützt, die ein Persönlichkeitsprofil des Betroffenen erstellt.[67] Art. 14 Ziff. 4 E-DSRL 1990 sah zudem ein allgemeines Auskunftsrecht der betroffenen Person vor, welches sich jedoch nicht spezifisch zur automatisierten Entscheidungsfällung äusserte.[68]

Gemäss den Erläuterungen sollten die betroffenen Personen mit Art. 14 Ziff. 2 E-DSRL 1990 davor geschützt werden, Gegenstand einer Entscheidung zu sein, die eine Beurteilung ihres menschlichen Verhaltens impliziert und alleine auf einer rechnergestützten Datenverarbeitung basiert. Gleichzeitig sollte das Interesse der betroffenen Person an der Beteiligung an den Prozessen der für sie wichtigen Entscheidungen geschützt werden. Es wurde befürchtet, dass die Verwendung umfangreicher Datenprofile durch öffentliche und private Einrichtungen dem Einzelnen die Möglichkeit entziehe, die Entscheidungsprozesse dieser Einrichtungen zu beeinflussen, insbesondere wenn bloss auf Grundlage des «Datenschattens» eines Einzelnen entschieden werde.[69] Darüber hinaus wurde nicht erläutert, weshalb Art. 14 Ziff. 2 E-DSRL 1990 Eingang in den Richtlinienentwurf fand. Es ist jedoch unbestritten und wurde im späteren Verlauf des Gesetzgebungsprozesses auch explizit angeführt, dass diese Bestimmung aus dem französischen Recht übernommen worden ist.[70]

E-DSRL 1992

Art. 14 Ziff. 2 E-DSRL 1990 wurde im Laufe des Gesetzgebungsprozesses auf Ansinnen des Europäischen Parlaments mit einem Ausnahmetatbestand im Zusammenhang mit dem Vorliegen eines Vertrags oder eines vertragsähnlichen Vertrauensverhältnisses versehen.[71] Gleichzeitig schlug das Europäische Parlament vor, Art. 14 E-DSRL 1990 mit einer Ziffer 2a zu ergänzen, welche vorsah, dass die bei der automatisierten Verarbeitung verwendeten Informationen und Behauptungen von den betroffenen Personen erfahren und angefochten werden können, sofern ihnen die Verarbeitungsergebnisse Schaden zufügen.[72]

Im Anschluss daran wurde die Regelung zur automatisierten Entscheidungsfällung in einem geänderten Vorschlag der Kommission der Europäischen Gemeinschaften nochmals umformuliert, in den eigenständigen Art. 16 E-DSRL 1992 überführt, und zudem wurden die Ausnahmetatbestände erweitert und angepasst.[73] In der Überschrift von Art. 16 E-DSRL 1992 fand zum ersten Mal der Begriff der automatisierten Einzelentscheidung ausdrücklich Eingang in einen Gesetzesentwurf. Art. 16 Ziff. 1 E-DSRL 1992 enthielt das Recht der betroffenen Person, keiner beschwerenden Verwaltungsmassnahme oder Entscheidung im privaten Bereich unterworfen zu werden. Die Vorgaben, dass sich diese Entscheidung auf eine ausschliesslich automatisierte Verarbeitung stütze, welche ein Persönlichkeitsprofil der betroffenen Person erstelle, blieben gleich wie im E-DSRL 1990 und wurden lediglich sprachlich umformuliert.[74] Die Ausnahmetatbestände wurden wie folgt abgeändert: Die Einwilligung der betroffenen Person im Rahmen eines Vertrags oder einer vertragsähnlichen Beziehung galt neu nur in denjenigen Fällen als Rechtfertigung, in denen die betroffene Person zufriedengestellt wird oder in denen geeignete Massnahmen getroffen werden, um die Interessen der betroffenen Person zu gewährleisten.[75] Als geeignete Massnahme wurde die Möglichkeit, den eigenen Standpunkt geltend zu machen, in den Entwurf aufgenommen.[76] Ebenso wurde die Erlaubnis in einem (mitgliedstaatlichen) Gesetz, sofern dieses Garantien zur Wahrung der Interessen der betroffenen Person beinhaltet, als weiterer Ausnahmetatbestand ergänzt.[77]

Das allgemeine Auskunftsrecht in Art. 13 Ziff. 5 E-DSRL 1992 wurde von der Kommission der Europäischen Gemeinschaften mit dem Recht der betroffenen Person ergänzt, bei automatisierten Verarbeitungen, deren Ergebnisse ihr entgegengehalten werden, auf Antrag hin die verwendeten Begründungen zu erfahren .[78] Damit setzte die Kommission der Europäischen Gemeinschaften den Input des Europäischen Parlaments, Art. 14 E-DSRL 1990 mit einer Ziffer 2a zu ergänzen, um.[79] Auch wenn sich aus den Materialien kein direkter Verweis auf das französische Datenschutzgesetz ergibt, ist darauf hinzuweisen, dass der Formulierungsvorschlag von Art. 13 Ziff. 5 E-DSRL 1992 stark an den Wortlaut von Art. 3 LIFL 1978 erinnert.

Die Überarbeitung von (neu) Art. 16 Abs. 1 E-DSRL 1992 hatte gemäss den Erläuterungen zum Ziel, die Bestimmung genauer auf diejenigen Fälle anzupassen, auf welche die Regelung abzielte. Als Hauptgrund für das Verbot ausschliesslich automatisierter Entscheidungen wurde neu zudem die missbräuchliche Verwendung der Informatik bei der Entscheidungsfindung, welche eine der Hauptgefahren der Zukunft sei, vorgebracht. Man befürchtete, dass der menschliche Entscheidungsträger, wenn er seiner Verantwortung nicht nachkomme, den von einer Maschine gelieferten Ergebnissen übermässige Bedeutung beimessen könne, da diese einen scheinbar objektiven und unbestreitbaren Charakter hätten. Ebenso wurde angeführt, dass Raum für die menschliche Beurteilung sein müsse. Die Informatik könne zwar eine Hilfe für eine Entscheidung darstellen, dürfe in keinem Fall aber die einzige Grundlage für diese sein.[80] Das Auskunftsrecht in Art. 13 Ziff. 5 E-DSRL 1992 wiederum bezweckte eine zusätzliche Sicherung im Falle von automatisierten Entscheidungen, welche den Interessen einer betroffenen Person entgegenstünden.[81]

Im Rahmen der Ausarbeitung des E-DSRL 1992 präsentierte die französische Delegation dem Rat der Europäischen Gemeinschaft eine Gegenüberstellung von Art. 16 E-DSRL 1992 und Art. 2 LIFL 1978 sowie die mit ihrer eigenen Regelung bis anhin gemachten Erfahrungen, ohne jedoch konkrete Abänderungsanträge zu stellen.[82] Daran zeigt sich, dass die französische(n) Regelung(en) im Rahmen des Gesetzgebungsprozesses eine Rolle gespielt hatte(n), auch wenn sie in den Gesetzgebungsmaterialien nur vereinzelt ausdrücklich angeführt werden.[83]

Gegen Ende des Gesetzgebungsprozesses wurde das Auskunftsrecht der betroffenen Personen mit Blick auf die automatisierte Entscheidungsfällung umformuliert. Es betraf neu die Auskunft über den logischen Aufbau der automatisierten Verarbeitung der sie betreffenden Daten, zumindest im Fall automatisierter Entscheidungen im Sinne von Art. 15 Abs. 1 DSRL.[84] Mit dem Verweis auf automatisierte Entscheidungen wurde zum Ausdruck gebracht, dass den Mitgliedstaaten erlaubt wurde, den Auskunftsanspruch über die Logik der Datenverarbeitung nur für den Fall der automatisierten Entscheidungsfällung vorzusehen. Gleichzeitig wurde die DSRL im Hinblick auf dieses Auskunftsrecht mit dem Erwägungsgrund Nummer 41 ergänzt,[85] welcher kurz darauf noch betreffend das Verhältnis des Auskunftsrechts über die Logik und das Geschäftsgeheiminis angepasst wurde.[86] Damit hatten die Regelungen zur automatisierten Entscheidungsfällung ihre am 13. Dezember 1995 in Kraft getretene Form.

Datenschutz-Grundverordnung vom 27. April 2016[87]

Vorarbeiten

15 Jahre nach Erlass der DSRL hielt die Europäische Kommission im Jahr 2010 fest, dass deren grundsätzlich verfolgten Ziele, der Schutz des Grundrechts auf Datenschutz und die Vollendung des Binnenmarktes durch den freien Verkehr personenbezogener Daten, unverändert gelten würden.[88] Es wurde jedoch konstatiert, dass der Datenschutz in der EU aufgrund der Globalisierung und der raschen technologischen Entwicklung vor neue Herausforderungen gestellt werde.[89] Diese Einschätzung wurde im Rahmen verschiedener Konsultationen von einer Mehrheit der wichtigsten Interessengruppen bestätigt und führte zur Schlussfolgerung, dass die bestehende Regelung angepasst werden müsse.[90]

E-DSGVO 2012

Daraufhin präsentierte die Europäische Kommission am 25. Januar 2012, nach Abwägung verschiedener Regulierungsmöglichkeiten,[91] einen Vorschlag für eine Verordnung des Europäischen Parlaments und des Rates zum Schutz natürlicher Personen bei der Verarbeitung personenbezogener Daten und zum freien Datenverkehr (E-DSGVO 2012).[92] Art. 15 DSRL wurde darin mit einigen Änderungen und zusätzlichen Garantien in Art. 20 E-DSGVO 2012 überführt, wobei nicht mehr von automatisierten Einzelentscheidungen, sondern von «auf Profiling basierenden Massnahmen» die Rede war.[93] Art. 20 Abs. 1 E-DSGVO 2012 enthielt das Recht der betroffenen Person, nicht einer auf einer rein automatisierten Verarbeitung von Daten basierenden Massnahme unterworfen zu werden, die ihr gegenüber rechtliche Wirkungen entfalte oder sie in massgeblicher Weise beeinträchtige und deren Zweck in der Auswertung bestimmter Merkmale ihrer Person oder in der Analyse bzw. Voraussage etwa ihrer beruflichen Leistungsfähigkeit, ihrer wirtschaftlichen Situation, ihres Aufenthaltsorts, ihres Gesundheitszustands, ihrer persönlichen Vorlieben, ihrer Zuverlässigkeit oder ihres Verhaltens bestehe.[94] Dieses Recht wurde ohne weitergehende Erläuterungen auch in Erwägungsgrund 58 E-DSGVO 2012 festgehalten.[95] Darüber hinaus fanden sich in Art. 20 E-DSGVO 2012 Einschränkungen betreffend das Abstützen auf besondere Kategorien personenbezogener Daten (Abs. 3), gewisse Ausnahmebestimmungen (Abs. 2) sowie, wenn diese Ausnahmen greifen, eine Ergänzung der in Art. 14 E-DSGVO 2012 enthaltenen Informationspflicht über die mit einer Datenbearbeitung nach Art. 20 E-DSGVO 2012 einhergehenden Zwecke und die damit angestrebten Auswirkungen auf die betroffene Person (Abs. 4).[96]

Art. 15 Abs. 1 lit. h E-DSGVO 2012 enthielt ein Auskunftsrecht betreffend die Tragweite der Verarbeitung sowie die mit ihr angestrebten Auswirkungen, zumindest im Falle von auf Profiling basierenden Massnahmen. Nicht in dieser Bestimmung vorgesehen war hingegen eine ausdrückliche Auskunftsverpflichtung über den logischen Aufbau automatisierter Entscheidungen, wie sie noch in Art. 12 DSRL enthalten war. Es wurde aber in Erwägungsgrund 51 E-DSGVO 2012 angeführt, dass jede Person, zumindest in Fällen, in denen die Verarbeitung auf Profiling basiere, ein Anrecht darauf haben soll zu wissen und zu erfahren, nach welcher Logik ihre Daten verarbeitet werden und welche Folgen eine solche Verarbeitung haben könne.[97] Die Europäische Kommission ging somit davon aus, dass das Auskunftsrecht auch die Logik von auf Profiling basierenden Massnahmen umfasse, auch wenn dies in Art. 15 Abs. 1 lit. h E-DSGVO 2012 nicht ausdrücklich erwähnt wurde.[98]

Der Wortlaut der vorgeschlagenen Regelungen im E-DSGVO 2012 war dem Wortlaut der Regelungen zur automatisierten Entscheidungsfällung in der DSRL sehr ähnlich. Die neuen Regelungen waren, im Gegensatz zu denjenigen der DSRL, jedoch nicht mehr auf automatisierte Einzelentscheidungen ausgerichtet, sondern setzten den Fokus auf den Begriff des «Profilings» sowie darauf beruhende Massnahmen.[99] Im Vordergrund stand damit vorerst das Verbot der auf Grundlage von Verhaltensanalysen berechneten Prognosen künftigen Verhaltens und nicht mehr der Aspekt der automatisierten Einzelentscheidung.[100]

Zusätzlich fand sich in Art. 33 Abs. 1 E-DSGVO 2012 die Pflicht der Verantwortlichen zur Durchführung einer Datenschutz-Folgenabschätzung, sofern eine Datenverarbeitung aufgrund ihres Wesens, Umfangs oder ihrer Zwecke konkrete Risiken für die betroffene Person birgt. Gemäss Art. 33 Abs. 2 lit. a E-DSGVO 2012 lag ein solches Risiko unter anderem bei der systematischen und umfassenden Auswertung persönlicher Aspekte einer natürlichen Person vor, welche auf einer automatisierten Verarbeitung von Daten basiere und als Grundlage für Massnahmen diene, welche Rechtswirkung gegenüber der betroffenen Person entfalte oder erhebliche Auswirkungen für diese mit sich bringe.[101]

E-DSGVO 2014

In der Folge überarbeitete das Europäische Parlament den DSGVO-Entwurf aus dem Jahr 2012 und legte am 12. März 2014 seinen Standpunkt fest (E-DSGVO 2014).[102] Dabei nahm das Europäische Parlament vom generellen Verbot des Profilings Abstand.[103] Neu sollte das Profiling den Zulässigkeitsvoraussetzungen des Art. 6 E-DSGVO 2014 unterworfen und den betroffenen Personen ein diesbezügliches Widerspruchsrecht eingeräumt werden.[104] Art. 20 Abs. 3 E-DSGVO 2014 sah zudem einen ausdrücklichen Schutz vor Diskriminierung aufgrund gewisser gesetzlich definierter Merkmale vor. Die bereits in Art. 20 Abs. 4 E-DSGVO 2012 vorgesehene Informationspflicht fand sich neu im systematisch passenderen Art. 14 E-DSGVO 2014.[105] Konkret enthielt dessen Abs. 1 lit. ga und gb die Pflicht des Verantwortlichen, der betroffenen Person das Vorhandensein eines Profilings, darauf gestützter Massnahmen, die beabsichtigten Auswirkungen des Profilings sowie Informationen über die Logik einer automatisierten Datenverarbeitung mitzuteilen.[106]

Das Auskunftsrecht wurde vom Europäischen Parlament mit der ausdrücklichen Verpflichtung ergänzt, der betroffenen Person auf Antrag hin Informationen über die Logik einer automatisierten Datenbearbeitung zu erteilen.[107] Dahingegen war diesbezüglich in Erwägungsgrund 51 E-DSGVO 2014 nur noch von der «allgemeinen» Logik die Rede, da der Vermerk «zumindest in Fällen, in denen die Verarbeitung auf Profiling basiert» gestrichen wurde.[108]

Art. 33 E-DSGVO 2012 betreffend die Datenschutz-Folgenabschätzung wurde abgeändert und auf verschiedene Bestimmungen aufgeteilt. Neu war in Art. 32a Abs. 1 E-DSGVO 2014 zusätzlich eine Risikoanalyse im Hinblick auf die möglichen Risiken eines Datenverarbeitungsvorgangs vorgesehen.[109] Ein Profiling, auf dessen Grundlage Massnahmen getroffen werden, welche Rechtswirkungen oder erhebliche Auswirkungen für die betroffenen Person mit sich bringen, war dabei als solcher Verarbeitungsvorgang mit konkretem Risiko aufgeführt.[110] Ebenso als Risiko angesehen wurden Datenbearbeitungen für die Erbringung von diversen gesundheitlichen Dienstleistungen, sofern die Daten im Hinblick auf Massnahmen oder Entscheidungen, die einen Einzelnen betreffen, verarbeitet werden.[111] Die Datenschutzfolgeabschätzungen sollte gemäss Erwägungsgrund 71a E-DSGVO 2014 sicherstellen, dass sich Datenverarbeiter von Beginn an sämtlicher möglicher Konsequenzen ihrer Verarbeitungsvorgänge bewusst sind.[112]

E-DSGVO 2015

Ein Jahr später brachte der Rat der Europäischen Union in seiner allgemeinen Ausrichtung vom 15. Juni 2015 (E-DSGVO 2015)[113] den Begriff der automatisierten Entscheidung zurück in den Gesetzesentwurf. In Erwägungsgrund 58,[114] bei den Informationspflichten[115] und dem Auskunftsrecht[116] war wieder von automatisierten oder auf einer automatisierten Verarbeitung beruhenden Entscheidungen die Rede. Ebenso wurde der bisherige Art. 20 E-DSGVO 2014 mit der vom Europäischen Parlament vorgesehenen Überschrift «Profiling» umbenannt in «Automatisierte Generierung von Einzelentscheidungen».[117] Gleichzeitig wurde das Widerspruchsrecht der betroffenen Person gegen ein Profiling vom Rat der Europäischen Union gestrichen[118] und mit dem Recht der betroffenen Person «nicht einer allein auf einer automatisierten Verarbeitung – einschliesslich Profiling – beruhenden Entscheidung unterworfen zu werden» ersetzt.[119] Das Anliegen des Rates war es, nicht mehr Profiling, sondern nur noch ausschliesslich automatisierte Einzelentscheidungen zu verbieten.[120]

Der Verweis, dass die einer automatisierten Entscheidung zugrundeliegende Datenbearbeitung die Auswertung bestimmter Merkmale einer Person bezwecken müsse, fand keinen Eingang in den E-DSGVO 2015, sondern es wurde lediglich der Vermerk «einschliesslich Profiling» angeführt. Damit wurde eine offenere Formulierung gewählt, als sie noch in Art. 15 DSRL enthalten war. Die Lehre geht mehrheitlich davon aus, dass trotz dieser offenen Formulierung weiterhin nur automatisierte Verarbeitungen erfasst werden sollen, die ein mit dem explizit genannten Profiling vergleichbares Mindestmass an Komplexität aufweisen.[121] Anderer Ansicht war jedoch die Artikel-29-Datenschutzgruppe, welche davon ausging, dass eine automatisierte Entscheidung mit oder ohne Profiling getroffen werden könne und sowohl auf abgeleiteten oder hergeleiteten Daten einer Person, d.h. einem Profil, aber auch auf sonstigen Daten zur betroffenen Person beruhen könne.[122]

Darüber hinaus präzisierte, verschärfte oder ergänzte der Rat der Europäischen Union die Ausnahmebestimmungen in Art. 20 Abs. 1a E-DSGVO 2015 sowie die bereits vom Europäischen Parlament aufgenommenen diesbezüglichen Massnahmen zum Schutz der Rechte, Freiheiten und berechtigten Interessen der betroffenen Person in Art. 20 Abs. 1b E-DSGVO 2015.[123] So wurde neu insbesondere vorgesehen, dass im Falle einer ausnahmsweisen Zulässigkeit automatisierter Entscheidungen der betroffenen Person mindestens das Recht auf persönliches Eingreifen des für die Verarbeitung Verantwortlichen, auf Darlegung des eigenen Standpunkts und auf Anfechtung der Entscheidung gewährt werden müsse.[124] Gestrichen wurde vom Rat der Europäischen Union hingegen das vom Europäischen Parlament aufgenommene Diskriminierungsverbot.[125] In Erwägungsgrund 58 E-DSGVO 2015 wurde diesbezüglich jedoch vermerkt, dass der Verantwortliche geeignete mathematische oder statistische Verfahren für das Profiling verwenden soll, um der betroffenen Person gegenüber eine faire und transparente Verarbeitung zu gewährleisten. Ebenso seien technische und organisatorische Massnahmen zu treffen, mit denen in geeigneter Weise sichergestellt werde, dass Faktoren, die zu unzutreffenden Daten führen, korrigiert werden, das Risiko von Fehlern minimiert werde, und personenbezogene Daten in einer Weise gesichert werden, dass den potenziellen Bedrohungen für die Interessen und Rechte der betroffenen Person Rechnung getragen werde. Es solle verhindert werden, dass es gegenüber Menschen aufgrund von Rasse, ethnischer Herkunft, politischer Überzeugung, Religion oder Weltanschauung, Mitgliedschaft in einer Gewerkschaft, sexueller Orientierung oder Geschlechtsidentität zu diskriminierenden Wirkungen oder Massnahmen komme.[126]

Die Bestimmung zur Datenschutz-Folgenabschätzung wurde vom Rat der Europäischen Union ebenfalls nochmals angepasst und fand sich (wieder) in Art. 33 E-DSGVO 2015.[127] Dabei wurde unter anderem präzisiert, in welchen Fällen eine Datenbearbeitung ein hohes Risiko für die persönlichen Rechte und Freiheiten zur Folge hat, wobei unter anderem eine Diskriminierung angeführt wurde.[128] Weiterhin vorgesehen war eine Datenschutz-Folgenabschätzung für Entscheidungen mit Rechtswirkungen oder erheblichen Auswirkungen für die betroffene Person, sofern diese auf einem Profiling mittels systematischer und umfassender Bewertungen persönlicher Aspekte der natürlichen Personen basieren.[129] Erwägungsgrund 71 E-DSGVO 2015 hielt diesbezüglich ergänzend fest, dass eine Datenschutz-Folgenabschätzung nicht nur beim Treffen von Entscheidungen in Bezug auf Einzelpersonen im Anschluss an eine systematische und eingehende Bewertung persönlicher Aspekte natürlicher Personen auf der Grundlage eines Profilings dieser Daten, sondern auch im Anschluss an die Verarbeitung spezifischer Kategorien von personenbezogenen Daten, biometrischen Daten oder von Daten in Bezug auf strafrechtliche Verurteilungen und Straftaten sowie damit zusammenhängende Sicherungsmassregeln durchgeführt werden solle.[130] Hingegen wurde die Pflicht zur Durchführung einer Datenschutz-Folgenabschätzung im Zusammenhang mit der Auswertung gesundheitsbezogener Daten vom Rat der Europäischen Union aus dem Entwurf gestrichen.

Informeller «Trilog»

Auf Grundlage dieser drei unterschiedlichen Entwürfe aus den Jahren 2012, 2014 und 2015 nahmen das Europäische Parlament, der Rat der Europäischen Union und die Europäische Kommission am 24. Juni 2015 im Rahmen eines informellen «Trilogs» Mitentscheidungsverhandlungen auf.[131] Die verschiedenen Vorschläge und die noch offenen Fragen wurden dabei intensiv geprüft.[132] Aus diesen Verhandlungen ging ein Kompromisstext hervor, welcher am 15. Dezember 2015 vorgestellt wurde.[133] Die im E-DSGVO 2015 enthaltenen Bestimmungen betreffend die automatisierte Entscheidungsfällung wurden im Wesentlichen in diesen Kompromisstext übernommen, wobei vereinzelte sprachliche Anpassungen und Konkretisierungen erfolgt sind.[134] Inhaltlich wurden keine wesentlichen Änderungen vorgenommen. Erwähnenswert ist einzig die vorgenommene Ergänzung von Art. 20 Abs. 1 E-DSGVO 2015 mit dem Zusatz «in ähnlicher Weise» (erheblich beeinträchtigt).[135]

Der finale Text der DSGVO passierte am 7. April 2016 den Rat der Europäischen Union sowie eine Woche später am 14. April 2016 das Plenum des Europäischen Parlaments.[136] Die Bestimmungen zur automatisierten Entscheidungsfällung wurden, im Vergleich zum Kompromisstext vom 15. Dezember 2015, erneut geringfügig sprachlich angepasst sowie mit einer neuen Nummerierung versehen, aber inhaltlich nicht mehr verändert. Am 25. Mai 2016 trat die DSGVO in Kraft.[137] Zwei Jahre später, am 25. Mai 2018, wurden die DSGVO und die darin enthaltenen Bestimmungen zur automatisierten Entscheidungsfällung in der EU unmittelbar anwendbares Recht.[138]

Übernahme durch den Europarat

Überblick

Das im Jahr 1985 in Kraft getretene Übereinkommen SEV Nr. 108 des Europarates war das erste verbindliche völkerrechtliche Instrument im Bereich des Datenschutzes.[139] Die Konvention enthielt in ihrer ursprünglichen Form keine ausdrücklichen Bestimmungen zur automatisierten Entscheidungsfällung.

Zur Anpassung des Übereinkommens an die technologischen Entwicklungen und die Herausforderungen der Digitalisierung wurde in den letzten Jahren vom Europarat ein Änderungsprotokoll erarbeitet.[140] Erst dieses Protokoll SEV Nr. 223 ergänzte die SEV Nr. 108 mit Regelungen betreffend die automatisierte Entscheidungsfällung. Die modernisierte Konvention SEV Nr. 108+ verpflichtet die Mitgliedstaaten in Art. 9 Abs. 1, den betroffenen Personen das Recht zur Mitsprache im Falle vollständig automatisierter Entscheidungen (lit. a) sowie zum Erhalt der dieser Datenbearbeitung zugrundeliegenden Gründe (lit. c) einzuräumen.

Gesetzgebungsprozess[141]

Entschliessungen (73) 22 und (74) 29

Die Datenschutzdiskussion wurde im Europarat bereits im Jahr 1968 angesprochen, als die beratende Versammlung dem Ministerkomitee empfahl, es möge angesichts der modernen Informationstechnologien prüfen, ob aus der Konvention zum Schutz der Menschenrechte und Grundfreiheiten (EMRK) sowie den nationalen Gesetzen ein adäquater Datenschutz abgeleitet werden könne.[142] Als Folge davon nahm das Ministerkomitee in den Jahren 1973 und 1974 je eine Entschliessung zum Schutz der Privatsphäre des Einzelnen gegenüber elektronischen Datenbanken im privaten[143] sowie im öffentlichen[144] Sektor an.[145] Damit sollte die Entwicklung nationaler Datenschutzgesetzgebungen in Gang gesetzt und gleichzeitig sichergestellt werden, dass Differenzen zwischen den nationalen Regelungen vermieden werden.[146]

In den Erläuterungen zur Entschliessung für den öffentlichen Sektor wurde festgehalten, dass die neuen Informationstechnologien die Möglichkeiten der Verwaltung zur Sammlung, Bearbeitung und Nutzung von Daten, auf welchen deren Entscheidungen beruhen, verbessern würde.[147] Ebenso wird bekräftigt, dass die Richtigkeit und Aktualität der computergestützten Information gewährleistet werden müsse, zumal solche Informationen in der Regel als besonders genau angesehen würden und Fehler dem Einzelnen erheblichen Schaden zuführen können, insbesondere wenn eine für diese Person ungünstige Entscheidung gestützt auf falsche oder veraltete Daten getroffen werde.[148] Dabei ging es jedoch nicht um die Thematik der automatisierten Entscheidungsfällung, sondern allgemein um das in der Entschliessung enthaltene Prinzip der Datenrichtigkeit. In den beiden Entschliessungen waren denn auch keine ausdrücklichen Regelungen zur automatisierten Entscheidungsfällung enthalten.[149]

Konvention SEV Nr. 108 vom 28. Januar 1981

Die beiden Entschliessungen aus den Jahren 1973 und 1974 stellten bloss ein Durchgangsstadium auf dem Weg zu einem internationalen Abkommen dar.[150] Mit dem Ziel, die nationalen Datenschutzgesetze zu harmonisieren, wurde zwischen November 1976 und Mai 1979 ein Konventionsentwurf zum Schutz des Einzelnen bei der Verarbeitung personenbezogener Daten vorbereitet.[151] Dieser Entwurf bildete die Grundlage der Konvention SEV Nr. 108, welche am 17. September 1980 durch das Ministerkomitee angenommen und am 28. Januar 1981 zur Unterzeichnung aufgelegt wurde.[152]

Die SEV Nr. 108 hatte in erster Linie zum Ziel, jedermanns Rechte und Grundfreiheiten und insbesondere das «Recht auf einen Persönlichkeitsbereich bei der automatischen Verarbeitung personenbezogener Daten» zu schützen.[153] Weder der Konventionsentwurf[154] noch das angenommene Übereinkommen SEV Nr. 108 enthielten jedoch konkrete Regelungen zur automatisierten Entscheidungsfällung. In den Erläuterungen zum Übereinkommen wurde das Thema Entscheidungen lediglich im Zusammenhang mit der Informationsmacht («information power») angesprochen. Es wurde angemerkt, dass viele einzelne Personen betreffende Entscheidungen auf der Grundlage von Informationen gefällt würden, die in digitalen Datenbanken («computerised data files») gespeichert sind. Die Vorteile, welche sich aus der automatischen Datenverarbeitung ergäben, dürften nicht zu einer Schwächung der Position der betroffenen Personen führen. Die Daten sollten deshalb nur zweckgebunden gespeichert und verwendet, nicht unbefugt offengelegt und vor Missbrauch und physischen Gefahren geschützt werden. Ebenfalls müsse eine gute Datenqualität aufrechterhalten werden.[155] Wie bereits die vorne angeführten Erläuterungen zur Entschliessung aus dem Jahr 1974 betreffend den öffentlichen Bereich bezogen sich diese Ausführungen nicht auf die Thematik automatisierter Entscheidungen, sondern auf die elektronische Datenbearbeitung an sich.

Die Konvention SEV Nr. 108 wurde im Jahr 1999 abgeändert, um der Europäischen Gemeinschaft den Beitritt zu ermöglichen.[156] Im Jahr 2001 wurden zudem die in der Konvention bestehenden Schutzmassnahmen mit dem Zusatzprotokoll SEV Nr. 181 im Hinblick auf die Einrichtung unabhängiger Aufsichtsbehörden sowie mit Vorgaben zum grenzüberschreitenden Datenverkehr ergänzt.[157] Dabei fanden weder Bestimmungen zur Thematik automatisierter Entscheidungen Eingang in die Konvention SEV Nr. 108 noch wurden diese angesprochen.

Die Schweiz ratifizierte die Konvention SEV Nr. 108 in ihrer ursprünglichen Form am 2. Oktober 1997 sowie deren Zusatzprotokoll bezüglich Aufsichtsbehörden und grenzüberschreitende Datenübermittlung am 20. Dezember 2007.

Empfehlung zum Schutz des Menschen bei der automatischen Verarbeitung personenbezogener Daten im Zusammenhang mit Profiling vom 23. November 2010

Bericht über die Anwendung der SEV Nr. 108 auf den Profilingmechanismus

Unabhängig von allfälligen Revisionsbestrebungen hat das Ministerkomitee des Europarates seit dem Inkrafttreten der SEV Nr. 108 verschiedene Empfehlungen verabschiedet, um sicherzustellen, dass die Erhebung und Verarbeitung von Daten in unterschiedlichen Sektoren (bspw. Banken, Versicherungen, Gesundheitswesen, Polizei etc.) in Übereinstimmung mit den Grundsätzen der SEV Nr. 108 geschehen.[158] In diesem Rahmen legte ein Expertenteam dem beratenden Ausschuss des Übereinkommens im Jahr 2008 einen Bericht über die Anwendung der SEV Nr. 108 auf den Profilingmechanismus vor.[159]

In diesem Bericht wurde die automatisierte Entscheidungsfällung als eine Folge bzw. Problematik des Profilings behandelt. Es wurde davon ausgegangen, dass ein Profiling vorliege, wenn mithilfe eines computergestützten Verfahrens, durch die Auswertung von Daten ermöglicht werden soll, Personen mit einer bestimmten Wahrscheinlichkeit einer bestimmten Kategorie zuzuordnen, um gestützt darauf individuelle Entscheidungen in Bezug auf diese Personen zu treffen.[160] Mit Profiling sei regelmässig der Zweck verbunden, spezifische Entscheidungen über einzelne Personen zu treffen.[161] Die grösste Gefahr des Profilings wurde darin gesehen, dass eine Person auf ein solches durch ein automatisiertes Verfahren erstelltes Profil reduziert werde, welches als Grundlage für die Entscheidungsfindung verwendet werden könne.[162] Ebenso sei Profiling unter anderem geeignet, einzelne Personen vom Zugang zu gewissen Gütern wie Arbeit, Krediten oder Wohnungen auszuschliessen oder für diese zu höheren Preisen zu führen.[163] Individuen seien in unterschiedlichem Masse von den Auswirkungen des Profilings betroffen. Diese Auswirkungen könnten jedoch durch damit verbundene Entscheidungsprozesse noch verschärft werden. Auch wenn Profiling in der Praxis nur mit geringen Fehlerquoten einherginge, würden bestimmte Personen in diesen Fällen durch Entscheidungen, die in ihrem Fall nicht gerechtfertigt seien, beeinträchtigt. Dies sei insbesondere für diejenigen Menschen ärgerlich, die aufgrund gewisser Umstände gezwungen seien, sich mit Maschinen auseinanderzusetzen, die unfähig seien gesunden Menschenverstand anzuwenden.[164] In Profilingvorgänge verwickelte Personen, welchen ihre Komplexität, Logik oder gar Existenz nicht bekannt seien, würden Gefahr laufen, sich in einer unheimlichen und bedrohlichen Situation wiederzufinden, und seien nicht in der Lage, die Kontrolle über ihr Profil («computer image») auszuüben oder auch nur zu verstehen, mit welchen Mitteln dieses erstellt worden sei.[165]

Vor dem Hintergrund, dass festgestellt wurde, dass die Konvention SEV Nr. 108 im Gegensatz zur DSRL (seltsamerweise) keine Bestimmungen zum Profiling und zur automatisierten Entscheidungsfällung enthalte,[166] wurde empfohlen, dass für Personen, die Gegenstand automatisierter Profiling-Entscheidungen seien, dem Vorbild von Art. 15 DSRL folgend, das Recht bzw. ein Rechtsbehelf auf einen nicht automatisierten Weg einzuräumen sei.[167] Dies insbesondere wenn eine Entscheidung die Ausübung eines Grundrechts betreffe.[168] Ebenso wurde angeregt, dass ein allfälliger in der SEV Nr. 108 bzw. einem Zusatzprotokoll vorgesehener Schutz über den Schutzstandard der DSRL hinausgehen müsse. Dieser solle insbesondere nicht auf Entscheidungen beschränkt werden, welche mit rechtlichen Folgen oder einer erheblichen Beeinträchtigung für die betroffene Person einhergingen. Um das Recht zu haben, über ein Profiling und dessen zugrundeliegende Logik informiert zu werden und dieses anfechten zu können, solle vielmehr das Vorliegen eines Profilings mit dem Zweck, bestimmte Aspekte der Persönlichkeit zu bewerten, ausreichen.[169]

Profiling-Empfehlungen

Als Folge des Berichts aus dem Jahr 2008 wurde angeregt, dass auch zum Thema Profiling eine Empfehlung ausgearbeitet wird, was im Jahr 2009 denn auch in Auftrag gegeben wurde.[170] Ein Jahr später wurde die Konvention SEV Nr. 108 durch das Ministerkomitee des Europarates um die Empfehlung zur automatisierten Datenbearbeitung im Kontext des Profilings (Profiling-Empfehlung) ergänzt.[171]

In dieser Empfehlung wurde der Begriff des Profilings definiert als ein Verfahren der automatisierten Datenverarbeitung, welches darin bestehe, einer natürlichen Person ein Profil zuzuordnen, um insbesondere Entscheidungen in Bezug auf ihre Person zu treffen oder um ihre persönlichen Vorlieben, Verhaltensweisen und Einstellungen zu analysieren oder vorherzusagen.[172] Damit es sich um ein Profiling handle, wurde nicht die blosse Auswahl von Personen auf Basis von korrekten Daten gefordert, sondern ein Prozess der statistischen Exploration, der sowohl teilweise genaue als auch teilweise ungenaue Ergebnisse liefere.[173] Diesbezüglich wurde zum einen das Risiko vorgebracht, dass der Einsatz von Profiling, auch wenn Unternehmen, Regierungen oder sonstige Unternehmen davon profitieren würden, für eine Minderheit der betroffenen Personen zu bedauerlichen Fehlern führen könne, weshalb Vorsichtsmassnahmen zu ergreifen seien.[174] Zum anderen wurde mit Blick auf das Profiling im öffentlichen Bereich festgehalten, dass ein solches unter anderem grosse Risiken mit sich bringe, weil es zu Entscheidungen führen könne, die erhebliche negative Auswirkungen auf die profilierten Personen haben, und sich auf eine Fülle von Daten stützen könne, die von allen Dienststellen der öffentlichen Verwaltung stammen würden.[175] Mit Letzterem wurde eine Befürchtung vorgebracht, die über 30 Jahre zuvor bereits in ähnlicher Weise im Rapport Tricot angeführt worden ist.[176]

Das Ministerkomitee des Europarates hat in der Profiling-Empfehlung angeregt, dass den betroffenen Personen bei alleine auf Profiling basierenden Entscheidungen, bei Vorliegen von zwingenden, schutzwürdigen, sich aus ihrer Situation ergebenden Gründen ein Widerspruchsrecht einzuräumen sei und dass ihnen die Logik, die der Verarbeitung ihrer personenbezogenen Daten zugrunde liegt und die verwendet wurde, um ihr ein Profil zuzuordnen, zumindest im Falle einer automatisierten Entscheidung bekannt zu geben sei.[177] Ohne das Verständnis dieser Elemente könne es keine wirksamen anderen Garantien, wie bspw. das Recht auf Widerspruch, geben.[178]

Die Empfehlung zum Schutz des Menschen bei der automatischen Verarbeitung personenbezogener Daten im Zusammenhang mit Profiling aus dem Jahr 2010 wurde im Jahr 2020 aktualisiert und an die Entwicklung des Profilings sowie dessen Auswirkungen angepasst.[179] Da dies nach der Modernisierung der Konvention SEV Nr. 108 geschah, ist diese aktualisierte Profiling-Empfehlung für die Aufarbeitung der Entstehungsgeschichte nicht relevant, weshalb sie nicht näher dargestellt wird.

Zusatzprotokoll SEV Nr. 223 vom 10. Oktober 2018

Vorarbeiten

Der beratende Ausschuss der Konvention SEV Nr. 108 hat im Jahr 2009 entschieden, dass die Ausarbeitung von Änderungen der SEV Nr. 108 seine erste Priorität des Arbeitsprogrammes im Jahr 2009 sowie darüber hinaus sei.[180] Als potenzielle zu Änderungen der Konvention führende Umstände wurde vom Ausschuss bereits damals, neben der technologischen Entwicklung, unter anderem die automatisierte Entscheidungsfällung angeführt.[181] Die Priorisierung dieser Arbeiten durch den beratenden Ausschuss wurde im Jahr 2010 vom Ministerkomitee des Europarates formell genehmigt, welches den Ausschuss gleichzeitig offiziell aufforderte mit der Modernisierung des Übereinkommens SEV Nr. 108 zu beginnen.[182] Im gleichen Jahr hat der beratende Ausschuss der Konvention SEV Nr. 108 einen weiteren Bericht in Auftrag gegeben, in dessen Rahmen zu prüfen war, ob und inwieweit die Bestimmungen der Konvention und seines Zusatzprotokolls aus dem Jahr 2001 den aktuellen Erwartungen und Bedenken im Zusammenhang mit den technologischen Entwicklungen noch gerecht werden.[183]

Die aus diesem Auftrag resultierenden Erkenntnisse wurden im Bericht über die Lücken des Übereinkommens SEV Nr. 108 veröffentlicht.[184] Betreffend automatisierte Entscheidungen wurde in diesem Bericht festgehalten, dass das in Art. 15 DSRL vorgesehene Recht, nicht einer vollautomatisierten Einzelentscheidung unterworfen zu werden, im Namen der Menschenwürde («in the name of human dignity») stehe.[185] Es wurde vorgeschlagen, dem Beispiel in Art. 15 DSRL folgend, automatisierte Entscheidungen, die eine Person massgeblich betreffen und die allein auf einer automatisierten Datenverarbeitung zur Bewertung bestimmter Aspekte ihrer Persönlichkeit basieren, zu verbieten.[186] Mit Blick auf die technologische Entwicklung, welche dazu führe, dass immer mehr automatisierte Entscheidungen getroffen werden, wurde befürchtet, dass «Individuen zu blossen Objekten werden, die auf der Grundlage von computergenerierten ‹Profilen›, Wahrscheinlichkeiten und Vorhersagen behandelt (und sogar diskriminiert) werden» ohne oder mit wenig Möglichkeit, den zugrunde liegenden Algorithmen entgegenzuwirken, sowie dass blind auf automatisierte Entscheidungen vertraut werde, «weil das so im Computer steht».[187] Mit Verweis auf die bestehende Regelung in der DSRL sowie die Ausführungen in der Profiling-Empfehlung betreffend die Auskunft über die Logik einer automatisierten Datenverarbeitung wurde zudem angeregt, dass der betroffenen Person auch die Daten, die zur Entscheidungsfindung verwendet wurden, zur Verfügung gestellt werden sollen.[188] Dies erlaube die Richtigkeit der Daten zu gewährleisten.[189]

E-SEV Nr. 108+ 2012

Mit dem Ziel, die Anliegen von Regierungen, der Zivilgesellschaft und dem privaten Sektor einzuholen, startete der Europarat im Januar 2011 eine öffentliche Konsultation zur Modernisierung der Konvention SEV Nr. 108.[190] Ein Jahr später wurde vom beratenden Ausschuss der Konvention im Januar 2012 ein erster Modernisierungsentwurf veröffentlicht (E-SEV Nr. 108+ 2012 I),[191] welcher im gleichen Jahr mehrmals überarbeitet wurde.[192] Dazu wurden die Entwürfe jeweils verschiedenen Ausschüssen des Europarates sowie den Interessenvertretern des privaten Sektors und der Zivilgesellschaft vorgelegt und deren Rückmeldungen im Rahmen verschiedener Lesungen berücksichtigt.[193] Insgesamt wurden im Jahr 2012 sieben verschiedene Entwürfe für eine modernisierte Konvention SEV Nr. 108 veröffentlicht.[194]

In Übereinstimmung mit den im Bericht zur Anwendung des Übereinkommens SEV Nr. 108 auf das Profiling, in der Empfehlung zum Profiling und im Bericht über die Lücken des Übereinkommens SEV Nr. 108 vorgeschlagenen Ergänzungen hinsichtlich der automatisierten Entscheidungsfällung war in Art. 8 lit. b des ersten Entwurfs des beratenden Ausschusses vom Januar 2012 (E-SEV Nr. 108+ 2012 I) bereits ein Recht der betroffenen Person vorgesehen, nicht einer Entscheidung unterworfen zu werden, die allein auf der Grundlage einer automatisierten Datenverarbeitung beruht, ohne dass ihr das Recht zukommt, ihre Meinung zu äussern.[195] Damit wurde insbesondere die bereits im Jahr 2009 geäusserte Empfehlung umgesetzt, wonach ein entsprechendes Recht nicht auf Entscheidungen beschränkt werden solle, welche mit einer rechtlichen Wirkung oder einer erheblichen Beeinträchtigung für die betroffene Person einhergehen.[196] In Art. 8 lit. b E-SEV Nr. 108+ 2012 I wurde zudem die Ausweitung des Auskunftsrechts der betroffenen Person auf die Logik, welche einer Datenverarbeitung zugrunde liegt, sofern eine automatisierte Entscheidung vorliegt, vorgeschlagen.[197] Ausnahmen von diesen Bestimmungen waren nur in einem engen Rahmen vorgesehen, unter anderem bei Vorliegen gesetzlicher Regelungen zum Schutz der Staatssicherheit, der öffentlichen Sicherheit, wirtschaftlicher und finanzieller Interessen des Staates oder der Verhütung und Unterdrückung von Straftaten.[198]

Das ursprünglich geplante Recht der betroffenen Person, nicht einer automatisierten Entscheidung unterworfen zu werden, wurde im Verlaufe der Überarbeitungen auf automatisierte Entscheidungen eingeschränkt, welche die betroffene Person erheblich beeinflussen oder für sie rechtliche Wirkungen zur Folge haben.[199] Das Erfordernis einer rechtlichen Wirkung wurde anschliessend jedoch wieder gestrichen und es wurden nur noch Entscheidungen genannt, welche die betroffene Person erheblich beeinflussen («significantly affecting»).[200] Gleichzeitig wurde das Recht der betroffenen Person, keiner automatisierten Entscheidung unterworfen zu werden, «ohne dass sie das Recht hat, ihre Meinung zu äussern», umformuliert in «ohne dass ihre Meinung berücksichtigt wird».[201]

Das Recht, Auskunft über die einer automatisierten Entscheidung zugrundeliegende Logik der Datenbearbeitung verlangen zu können,[202] wurde im Verlaufe der verschiedenen Anpassungsrunden ausgeweitet in das Recht der betroffenen Person, Kenntnis über die der Datenverarbeitung zugrunde liegenden Überlegungen («reasoning»), deren Ergebnisse auf sie angewendet werden, zu erhalten.[203] Im Entwurf des erläuternden Berichts wurde diesbezüglich hervorgehoben, dass dieses Recht insbesondere bei der automatisierten Entscheidungsfällung wichtig sei.[204] Später wurde das Auskunftsrecht dahingehend eingeschränkt, dass die Auskunft (nur) auf Antrag hin erteilt werden müsse.[205]

Darüber hinaus wies bereits der E-SEV Nr. 108 2012 I in den Präambeln ausdrücklich auf die Würde und den Schutz der Grundrechte und -freiheiten jeder Person hin und hielt fest, dass diese insbesondere durch das Recht auf Kontrolle der eigenen Daten garantiert werden soll.[206] Diesbezüglich wurde im Verlauf der verschiedenen Überarbeitungen angeregt, dass im Entwurf des erläuternden Berichts festgehalten wird, dass die Kontrolle des Einzelnen ein wichtiges Ziel der Konvention sei. Die Menschenwürde setze nämlich voraus, dass Personen nicht als blosse Objekte behandelt werden können, die Maschinen ausgeliefert seien. Entscheidungen, die allein auf einer automatisierten Datenverarbeitung basieren, sollen folglich nicht getroffen werden, ohne dass der Einzelne das Recht habe, seine Meinung zu äussern.[207]

Anlässlich der 29. Plenarsitzung des beratenden Ausschusses am 27. und 30. November 2012 wurde eine Einigung über die Vorschläge erzielt und Bestimmungen zur automatisierten Entscheidungsfällung, inklusive der oben vorgestellten Änderungen, wurden in Art. 8 lit. a und b E-SEV Nr. 108+ 2012 VII übernommen.[208] In Art. 8 lit. f E-SEV Nr. 108+ 2012 VII fand sich zudem der Vorschlag, der betroffenen Person das Recht auf ein Rechtsmittel einzuräumen, wenn eine Entscheidung, die sie erheblich betrifft, getroffen wurde, ohne ihre Ansichten zu berücksichtigen.[209]

E-SEV Nr. 108+ 2016

Ein Ad-hoc-Ausschuss überprüfte zwischen 2013 und 2016 die Vorschläge des beratenden Ausschusses aus dem Jahr 2012 und arbeitete den E-SEV Nr. 108+ 2016[210] aus.[211] In diesem Rahmen erfolgte die Aufnahme einer weiteren Ausnahme vom Recht der betroffenen Person, sich zu einer ausschliesslich automatisierten Entscheidung äussern zu können, in den Entwurf. Konkret wurde festgehalten, dass von dieser Bestimmung abgewichen werden könne, wenn eine automatisierte «Entscheidung durch ein Gesetz zugelassen ist, dem der für die Verarbeitung Verantwortliche unterliegt, und das ausserdem geeignete Massnahmen zum Schutz der Rechte, Freiheiten und berechtigten Interessen der betroffenen Person vorsieht».[212] Das in Art. 8 lit. f E-SEV Nr. 108+ 2012 VII vorgesehene Recht der betroffenen Person auf ein Rechtsmittel, wenn eine sie betreffende Entscheidung getroffen wurde, ohne ihre Ansichten zu berücksichtigen, findet sich im E-SEV Nr. 108+ hingegen nicht mehr. Der Ad-hoc-Ausschuss nahm lediglich das allgemeiner formulierte Recht jeder Person in den Entwurf auf, wonach ihr ein Rechtsmittel nach Art. 10 E-SEV Nr. 108+ 2016 zustehen soll, wenn ihre Rechte gemäss der Konvention verletzt werden.[213]

Darüber hinaus wurde der Entwurf des erläuternden Berichts mit Ausführungen zu den Bestimmungen betreffend die automatisierte Entscheidungsfällung ergänzt. Dabei wurde die grundlegende Bedeutung des Rechts einer Person, die einer rein automatisierten Entscheidung unterworfen werde, diese Entscheidung anzufechten, indem sie ihren Standpunkt und ihre Argumente in sinnvoller Weise darlegen könne, hervorgehoben. Die betroffene Person solle insbesondere die Möglichkeit haben, die mögliche Unrichtigkeit der personenbezogenen Daten vor ihrer Verwendung sowie die Irrelevanz des anzuwendenden Profils für ihre besondere Situation oder andere Faktoren, die sich auf das Ergebnis der automatisierten Entscheidung auswirken werden, darzulegen. Dies sei vor allem dann der Fall, wenn Personen durch die Anwendung algorithmischer Überlegungen stigmatisiert werden.[214]

Zum Auskunftsrecht wurde ergänzt, dass die betroffene Person, unabhängig davon, ob eine Verarbeitung automatisiert erfolge, das Recht haben solle, die der Verarbeitung ihrer Daten zugrunde liegende Logik sowie die Folgen dieser Logik, welche zu Schlussfolgerungen geführt haben, zu kennen. Im Falle einer Kreditwürdigkeitsprüfung solle die betroffene Person bspw. das Recht haben, die Logik zu erfahren, die der Verarbeitung ihrer Daten zugrunde liege und zu einer «Ja»- oder «Nein»-Entscheidung führt, und nicht nur Informationen über die Entscheidung selbst. Andere wesentliche Garantien, wie das Widerspruchsrecht und das Recht auf Beschwerde bei einer zuständigen Behörde, würden ohne das Verständnis dieser Elemente nicht wirksam ausgeübt werden können.[215]

Im September 2016 wurde dieser neue Entwurf zur Diskussion und Annahme an das Ministerkomitee des Europarates überwiesen, welches die Vorschläge in den folgenden zwei Jahren überprüfte und am 18. Mai 2018 ein entsprechendes Änderungsprotokoll verabschiedete.[216] Die vorne vorgestellten, mehrmals überarbeiteten Bestimmungen zur automatisierten Entscheidungsfällung fanden in der Version vom September 2016 unverändert Eingang in das am 10. Oktober 2018 zur Unterzeichnung aufgelegte Protokoll SEV Nr. 223.[217] Ebenso wurden die Ausführungen zur automatisierten Entscheidungsfällung vom September 2016 in den erläuternden Bericht übernommen.[218] Das Änderungsprotokoll SEV Nr. 223, und mit ihm die modernisierte Konvention SEV Nr. 108+, tritt in Kraft, nachdem es durch alle Vertragsparteien der SEV Nr. 108 ratifiziert wurde oder am 11. Oktober 2023, wenn es zu diesem Zeitpunkt 38 Vertragsparteien des Protokolls gibt.[219]

Am 21. November 2019 hat die Schweiz das Zusatzprotokoll SEV Nr. 223 unterzeichnet.[220] Anlässlich seiner Sitzung vom 6. Dezember 2019 hat der Bundesrat die Botschaft über die Genehmigung des Protokolls zur Änderung der Datenschutzkonvention des Europarates verabschiedet[221] und damit die Ratifizierung der SEV Nr. 108+ durch die Schweiz in die Wege geleitet.[222] National- und Ständerat haben diesem Vorhaben im Sommer 2020 zugestimmt.[223] Die Referendumsfrist ist ungenutzt abgelaufen.[224] Mit Inkrafttreten des totalrevidierten DSG wird die Schweiz das Änderungsprotokoll SEV Nr. 223 ratifizieren.[225]

Übernahme durch die Schweiz

Überblick

Nachdem die Datenschutzdiskussion in der Schweiz bereits in den 1970er-Jahren begonnen hatte, trat das erste nationale Schweizer Datenschutzgesetz erst viele Jahre später am 1. Juni 1993 in Kraft, ohne jedoch automatisierte Einzelentscheidungen selbstständig zu regeln. Obwohl die französische und die EU-Entwicklung hinsichtlich einer datenschutzrechtlichen Regelung der automatisierten Entscheidungsfällung in der Schweiz damals nicht unbemerkt blieben, dauerte es anschliessend nochmals fast 30 Jahre, bis die Schweiz im Rahmen der Totalrevision des aDSG im Jahr 2020 eine entsprechende Regelung ins DSG aufnahm.

Art. 21 DSG statuiert im Zusammenhang mit automatisierten Einzelentscheidungen eine Informationspflicht des Verantwortlichen (Abs. 1), das Recht der betroffenen Person ihren Standpunkt darzulegen und die Entscheidung von einer natürlichen Person überprüfen zu lassen (Anhörungs- und Überprüfungsrecht, Abs. 2), verschiedene diesbezügliche Ausnahmetatbestände (Vertragsabschluss und Einwilligung, Abs. 3) sowie eine Kennzeichnungspflicht bei der automatisierten Entscheidungsfällung durch Bundesorgane (Abs. 4). Des Weiteren wurde das Auskunftsrecht der betroffenen Person dahingehend erweitert, dass ihr gegebenenfalls Informationen über das Vorliegen einer automatisierten Entscheidung sowie deren Logik mitgeteilt werden müssen.[226]

Gesetzgebungsprozess[227]

Vorarbeiten

VE-DSV 1975

Die datenschutzrechtliche Kodifikationsbewegung in der Schweiz begann schon Anfang der 1970er-Jahre.[228] Als Folge des parlamentarischen Vorstosses zur «Gesetzgebung über Computer»[229] aus dem Jahr 1971 wurde vom EJPD ein Vorentwurf für eine erste «Bundesdatenschutz-Verordnung» (VE-DSV 1975)[230] ausgearbeitet und im Jahr 1976 den interessierten Bundesstellen zur Vernehmlassung vorgelegt.[231] Bereits 1975 wurde dabei thematisiert, dass für verschiedene Entscheidungen (Stellenbewerber, Versicherungen, Kredite etc.) aufgrund der neuen technischen Möglichkeiten viel rascher auf Informationen aus allen Lebensbereichen zugegriffen werden könne und die Gefahr bestehe, dass die Entscheidungen aufgrund falscher oder veralteter Informationen falsch bzw. zu Lasten der betroffenen Person ausfallen würden.[232] Diese Befürchtungen wurden jedoch nicht explizit mit Blick auf die automatisierte Entscheidungsfällung an sich vorgebracht, sondern im Zusammenhang mit der fortschreitenden technischen Entwicklung ganz grundsätzlich mit Blick auf die Risiken der Speicherung, Verarbeitung, Nutzung oder Weitergabe von falschen oder unvollständigen Informationen sowie der Bekanntgabe von Informationen an unberechtigte Personen geäussert. Es wurde davon ausgegangen, dass diese Risiken bei der automatisierten Datenbearbeitung viel grösser seien als beim nicht automatisierten Bearbeiten von Daten.[233] Entsprechend fanden sich im VE-DSV 1975 keine ausdrücklichen Bestimmungen zur automatisierten Entscheidungsfällung, sondern lediglich allgemeine Regelungen betreffend die elektronische Datenbearbeitung.[234] Dieser Vorentwurf vermochte sich nicht durchzusetzen.[235]

Richtlinien 1981

Erst nachdem die Bundesdatenschutz-Verordnung verworfen worden war und Nationalrat Gerwig 1977 zwei die Anliegen des Datenschutzrechts bis dahin am umfassendsten umschreibende parlamentarische Initiativen eingereicht hatte, lief der Gesetzgebungsmotor in der Schweiz langsam an.[236] Bundesrat Furgler, der damalige Vorsteher des EJPD, setzte im Anschluss an die Initiativen Gerwigs eine erste Expertenkommission (Arbeitsgruppe I) zur Ausarbeitung allgemeiner gesetzlicher Datenschutzvorschriften für die Bundesverwaltung ein.[237] Die Arbeitsgruppe I erstellte vom Februar 1979 bis im Mai 1981 unterschiedliche Entwürfe für ein Bundesgesetz über den Datenschutz,[238] wobei unter anderem bereits in verschiedenen Arbeitspapieren aus dem Jahr 1979 vorgesehen war, dass «Verfügungen, Entscheide und Urteile, die auf eine Wertung menschlichen Verhaltens abzielen, […] nicht auf einem Persönlichkeitsbild beruhen [dürfen], das überwiegend mit Hilfe automatischer Verfahren erstellt wurde».[239] Dieser Vorschlag wurde im Verlauf der folgenden Arbeitspapiere abgeändert und lautete im Arbeitspapier VII aus dem Jahr 1980: «Verfügungen, Entscheide und Urteile, die auf eine Wertung menschlichen Verhaltens abzielen, dürfen nicht auf einer Qualifikation und einem Persönlichkeitsbild beruhen, die überwiegend mit Hilfe automatischer Verfahren erstellt wurden».[240] Im darauffolgenden Arbeitspapier VIII wurde diese Bestimmung nochmals geringfügig abgeändert und in Art. 10 Abs. 2 Arbeitspapier VIII betreffend die Verwendung von Personendaten verschoben.[241] Zudem war im Arbeitspapier VIII vorgesehen, dass das vorsätzliche Treffen von Entscheidungen oder das Fällen von Urteilen, welche menschliches Verhalten bewerteten und auf einem Persönlichkeitsbild beruhten, das überwiegend mit Hilfe automatischer Verfahren erstellt worden war, mit Gefängnis bis zu sechs Monaten oder Busse unter Strafe zu stellen war.[242] Damit hatte die Arbeitsgruppe I ursprünglich geplant, Werturteile über Personen aufgrund von automatisierten Verfahren ganz oder teilweise zu verbieten.[243] Im Arbeitspapier IX aus dem Mai 1981 finden sich die diesbezüglichen Regelungen hingegen nicht mehr.[244]

Als Ergebnis der Tätigkeit der Arbeitsgruppe I traten per 1. Juli 1981 die Richtlinien für die Bearbeitung von Personendaten in der Bundesverwaltung vom 16. März 1981 (Richtlinien 1981)[245] in Kraft, welche die Zeit bis zum Inkrafttreten des aDSG 1992 im Jahr 1993 überbrückten.[246] Im Begleitbericht vom 7. März 1980 zu den Richtlinien 1981 wurden zwar mit Bezug auf Ziffer 1 der Richtlinien 1981[247] die Gefahren der Bildung von Persönlichkeitsprofilen und der darauf basierenden Entscheidungsfällung im Hinblick auf das Grundrecht der persönlichen Freiheit adressiert. Konkret wurde angeführt, dass besonders die automatisierte Datenverarbeitung Gefährdungsmöglichkeiten berge, indem personenbezogene Daten mit grosser Effizienz erhoben, gespeichert, verknüpft und vielfältigsten Verwendungen zugeführt werden können. Es wurde gefordert, dass in staatlichen Dateien keine Persönlichkeitsbilder entstehen dürften, aufgrund derer Entscheidungen zu Lasten von Betroffenen gefällt würden, da das Verhalten der Bürger ansonsten kontrollier- und steuerbar zu werden drohe und ihre Entfaltungsfreiheit beeinträchtigt würde. Aus diesem Grund forderten die Richtlinien 1981, dass die grundrechtliche Position eines jeden Bürgers durch Massnahmen des Datenschutzes gewahrt werden müsse.[248] Mit Blick auf den (bereits damals) in den Richtlinien 1981 enthaltenen Grundsatz der Datenrichtigkeit wurde zudem festgehalten, dass unrichtige und unvollständige Daten zu berichtigen seien, da ansonsten ein unrichtiger, eventuell nachteiliger Eindruck über die betroffene Person entstehe, den diese sich nicht zu gefallen lassen brauche.[249]

Trotz diesen kritischen Worten zu Entscheidungen gestützt auf automatisiert erstellte Persönlichkeitsbilder fanden die in den Entwürfen aus den Jahren 1979 und 1980 vorgesehenen Regelungen zur automatisierten Entscheidungsfällung jedoch weder Eingang in das Arbeitspapier IX vom Mai 1981 noch in die daraufhin in Kraft getretene Richtlinie 1981. Ebenso wurden die im Begleitbericht gemachten Erwägungen nur in gekürzter und abgeänderter Form in die Erläuterungen zu den Richtlinien 1981 aufgenommen.[250] So findet sich der Abschnitt betreffend die Gefahr von Persönlichkeitsprofilen nicht mehr in den Erläuterungen. Die Aussage betreffend die drohende Kontrollier- und Steuerbarkeit des Bürgers wurde abgeschwächt. Die Erläuterungen halten nur noch fest, dass die staatliche Datenbearbeitung die Grundrechte der betroffenen Personen, in erster Linie deren persönliche Freiheit, berühren könne. Die betroffenen Personen könnten durch unrechtmässige und übermässige Bearbeitungen von Daten beeinflusst, kontrolliert, gesteuert oder benachteiligt werden.[251] Hingegen wurde in den Erläuterungen neu ausdrücklich festgehalten, dass unrichtige oder als unvollständig erkannte Personendaten bereits deshalb zu berichtigen seien, um Fehlentscheidungen zu vermeiden.[252]

Damit lag der Fokus in diesem Stadium der Vorarbeiten zum aDSG 1992 zwar zu Beginn auch auf der Regelung von automatisiert erstellten Persönlichkeitsprofilen und allfälligen darauf basierenden Entscheidungen.[253] Nach und nach wurde dieser Fokus jedoch weniger scharf und der Richtliniengeber strich entsprechende Regelungsvorschläge wieder aus den Entwürfen. Weshalb dieser Wandel stattgefunden hat, konnte von der Autorin nicht eruiert werden. Die Materialien zeigen indes, dass der Richtliniengeber bereits damals nicht nur automatisiert erstellte Persönlichkeitsprofile, sondern auch die automatisierte Entscheidungsfällung genauer betrachtete und die Verwendung des Persönlichkeitsprofils und dessen Regelung als eng mit der Entscheidungsfällung verknüpft ansah.

E-DSG 1983 und 1987

Im Jahr 1979 setzte der damalige Vorsteher des EJPD, Bundesrat Furgler, eine weitere Expertenkommission ein, welche Regelungen für den Datenschutz im Privatbereich ausarbeiten sollte (Arbeitsgruppe II).[254] Anlässlich der Eröffnungssitzung der Arbeitsgruppe II führte Bundesrat Furgler im Hinblick auf die Notwendigkeit einer Datenschutzgesetzgebung unter anderem an, dass die Würde eines Menschen geschützt und dessen Entfaltung zu fördern sei. Die persönlichen Freiheiten des Menschen seien vor unzulässigen und übermässigen Informationsverarbeitungen zu schützen. Der Mensch solle das Recht haben, allein und unkontrolliert zu sein, wenn er dies wolle, und das Bild, das die Umwelt von ihm habe, zu kennen sowie gegebenenfalls kontrollieren zu können. So solle bspw. kein Urteil über einen Menschen gefällt werden, welches auf einem vorwiegend durch automatische Informationsverarbeitung entstandenen Persönlichkeitsprofil beruhe. Der Einzelne solle weder ständig durchleuchtet werden noch überall, wohin er sich hinwende, schon mit allen seinen Vorzügen und Mängeln bekannt sein.[255] Nebst Bundesrat Furgler hielt an dieser Eröffnungssitzung auch der damalige Direktor der französischen CNIL eine Rede. Dieser verwies in seinem Bericht zum Datenschutz im privaten Bereich unter anderem auf die Problematik der Verwendung von Dateien («fichiers») bzw. Persönlichkeitsprofilen als Entscheidungshilfen und merkte an, dass Frankreich diesbezüglich eine Lösung gefunden habe.[256] Der Arbeitsgruppe II war somit bereits zu Beginn ihrer Arbeiten die Problematik der auf Persönlichkeitsbildern basierenden Entscheidungen und damit die Thematik der automatisierten Entscheidungsfällung und -unterstützung bewusst.

Im November 1982 wurde ein Ausschuss von Mitgliedern beider Arbeitsgruppen beauftragt, die von ihnen ausgearbeiteten Vorentwürfe zu einem einzigen Gesetzesentwurf zusammenzuführen.[257] Daraus resultierten 1983 der Entwurf eines Bundesgesetzes über den Schutz von Personendaten (E-DSG 1983)[258] und dessen erläuternder Bericht.[259] Die Problematik der automatisierten Entscheidungen wurde in diesen Erläuterungen erneut ausdrücklich thematisiert. Es wurde vermerkt, dass die Frage, ob entsprechend Art. 2 LIFL 1978 die Nutzung automatisch erstellter Persönlichkeitsprofile eingeschränkt oder untersagt werden sollte, eingehend diskutiert worden sei. Angedacht sei folgende Bestimmung gewesen: «Verfügungen, Entscheide und Urteile, die auf eine Wertung menschlichen Verhaltens abzielen, [dürfen] nicht auf einem Persönlichkeitsbild beruhen […], das überwiegend mit Hilfe automatisierter Verfahren erstellt worden ist.» Die Kommission sei jedoch zum Schluss gekommen, dass die Möglichkeit, umfassende Persönlichkeitsbilder zu erstellen, bereits ohnehin durch Art. 17 (Allgemeine Voraussetzungen für jedes Bearbeiten) und Art. 18 E-DSG 1983 (Bearbeiten von besonders schützenswerten Personendaten) eingeschränkt werde. Daneben dürften die in Art. 29 Abs. 1 E-DSG 1983 (Vorbereitende Massnahmen: Bearbeitungsordnung) vorgesehene Vorprüfung von EDV-Projekten sowie der Grundsatz des rechtlichen Gehörs «eine bloss automatisiert ablaufende Entscheidung über menschliches Handeln verhindern».[260] Als Konsequenz dieser Diskussion wurde (erneut) auf die Aufnahme einer Regelung im Sinne von Art. 2 LIFL 1978 in den E-DSG 1983 verzichtet.

Der E-DSG 1983 wurde am 25. Januar 1984 in die Vernehmlassung geschickt.[261] Nach Abschluss des Vernehmlassungsverfahrens nahm der Bundesrat 1985 von seinen Ergebnissen Kenntnis und gab einer kleineren Arbeitsgruppe den Auftrag den E-DSG 1983 unter Berücksichtigung der Vernehmlassungsresultate nochmals zu überarbeiten.[262] Dies resultierte 1987 in einem weiteren Gesetzesentwurf mit Kommentar.[263] In diesen im Anschluss an den E-DSG 1983 erstellten Entwürfen und Berichten finden sich jedoch weder weitere Hinweise auf eine erneute Auseinandersetzung mit der Thematik automatisierter Entscheidungen noch entsprechende Regulierungsvorschläge.

Bundesgesetz über den Datenschutz vom 19. Juni 1992

Der Entwurf aus dem Jahr 1987 wurde von der Vorsteherin des EJPD als (immer noch) zu kompliziert erachtet, weshalb er nochmals wesentlich überarbeitet, vereinfacht und gestrafft wurde.[264] Dies resultierte in einem weiteren Entwurf für ein Datenschutzgesetz, welcher 1988 weitgehend unverändert zum Entwurf und zur Botschaft des Bundesrates über das Bundesgesetz über den Datenschutz wurde.[265] In diesem Entwurf und dem anschliessendem zum aDSG 1992 führenden Gesetzgebungsprozess wurde die Thematik der automatisierten Entscheidungsfällung nicht mehr direkt angesprochen. Ähnlich wie bereits in den Berichten aus den Jahren 1975[266], 1980[267] oder 1981[268] wurde 1988 in der Botschaft zum aDSG 1992[269] vom Bundesrat lediglich festgehalten, dass von einer Datenbearbeitung Betroffene benachteiligt oder unbillig behandelt werden können, wenn unrichtige, unvollständige oder nicht mehr aktuelle Angaben für private oder behördliche Entscheidungen verwendet würden.[270] Ebenfalls wurde ausgeführt, inwiefern sich die Informationstätigkeit durch den Einsatz der modernen Informations- und Kommunikationstechnologien geändert habe und welche Möglichkeiten die automatisierte Datenbearbeitung mit sich bringe. Dabei wurde hervorgehoben, dass die Technik es neu ermögliche, Daten beinahe unbeschränkt zu erfassen, zusammenzuführen oder aufzubereiten und dass Daten(-sammlungen) auch gezielt ausgewertet werden könnten.[271] Aus der Überschrift zu diesen Ausführungen ergibt sich allerdings, dass diese bezweckten, das allgemeine Bedürfnis nach einem Datenschutzgesetz zu begründen. Die geschilderten Entwicklungen sollten zudem aufzeigen, dass das Potenzial für Persönlichkeitsverletzungen und die Gefahr des Herrschaftsverlustes über die eigenen Daten mit dem Aufkommen neuer Informationstechniken gewachsen seien.[272] Es ging dabei somit nicht primär um automatisierte Entscheidungen. Weder in der Botschaft noch in den Materialien zum aDSG 1992 finden sich Anhaltspunkte, dass eine erneute Auseinandersetzung mit der Thematik der (ausschliesslich) automatisierten Entscheidungsfällung und der Frage, ob diesbezügliche Regelungen Eingang ins Datenschutzgesetz finden sollen, stattgefunden hat. Es erfolgte nur, aber immerhin die Aufnahme des Begriffs des Persönlichkeitsprofils[273] sowie des in Betracht fallenden überwiegenden persönlichen Interesses an einer Datenbearbeitung zur Prüfung der Kreditwürdigkeit als Rechtfertigungsgrund[274] in das aDSG 1992.

Die Aufnahme des Begriffs des Persönlichkeitsprofils wurde in der Botschaft unter anderem damit begründet, dass durch die Auswertungsmöglichkeiten der automatisierten Datenverarbeitung und durch die Verknüpfung automatisierter Datenbestände die Erstellung von Persönlichkeitsprofilen leichter und häufiger geworden sei.[275] Das Bestehen dieser Profile sei den Betroffenen häufig nicht bekannt, weshalb sie weder deren Richtigkeit noch Verwendung kontrollieren können.[276] Persönlichkeitsprofile würden, sobald sie erstellt seien, die Betroffenen der Freiheit berauben, sich so darzustellen, wie sie wollen. Sie vermöchten die Entfaltung der Persönlichkeit ganz wesentlich zu beeinträchtigen.[277] In der Botschaft zum aDSG 1992 finden sich jedoch weder im Zusammenhang mit der Definition des Persönlichkeitsprofils noch bei den Erläuterungen des für die Prüfung der Kreditwürdigkeit vorgesehenen Rechtfertigungsgrunds Verweise auf die Thematik von auf Profiling gestützten (automatisierten) Entscheidungen. Vielmehr wurde die Entscheidungsfällung in diesem Zusammenhang nicht (mehr) angesprochen.[278] Es fällt indes auf, dass diese im Zusammenhang mit den zu Persönlichkeitsprofilen geäusserten Befürchtungen des Bundesrates, den damals im europäischen Umfeld genannten Argumenten mit Blick auf die automatisierte Entscheidungsfällung nicht unähnlich waren.

Zur gleichen Zeit wie die Veröffentlichung der Botschaft zum aDSG 1992 wurden im Rahmen des durch den Bundesrat in Auftrag gegebenen Projekts «Forschungspolitische Früherkennung» (FER)[279] des Schweizerischen Wissenschaftsrats der Umgang mit künstlicher Intelligenz und Expertensystemen sowie deren praktische Relevanz in der Schweiz untersucht. Dabei wurde unter anderem ein Sammelband zu Expertensystemen im betrieblichen und gesellschaftlichen Zusammenhang veröffentlicht.[280] Als Expertensysteme wurden damals Computersysteme bezeichnet, welche anstelle von menschlichen Experten Probleme lösen sollten.[281] Es wurde erkannt, dass solche Systeme für die elektronische Datenbearbeitung neue Einsatzgebiete schaffen und mit ihnen ein enormes wirtschaftliches Potenzial einhergehen würde.[282] Gleichzeitig wurde erwartet, dass Expertensysteme in einigen Jahrzehnten ebenso selbstverständlich genutzt werden wie damals bereits die Datenverarbeitung.[283] Von einer Entscheidungsfällung allein durch die Maschine war jedoch noch nicht die Rede. Vielmehr wurden Expertensysteme auch in der Schweiz als blosse Unterstützung von Fachleuten und nicht als deren Ersatz angesehen.[284] In einem der 1989 erschienenen Expertenberichte wurde zwar festgestellt, dass die juristischen Probleme der Haftung und des Urheberrechts im Zusammenhang mit der Entwicklung und dem Einsatz von Expertensystemen zur Entscheidungsunterstützung noch ungeklärt seien.[285] Eine allfällige datenschutzrechtliche Problematik wurde darin jedoch nicht aufgeführt. Im Rahmen eines Experteninterviews mit dem damaligen Leiter des Dienstes für Datenschutz beim Bundesamt für Justiz wurde von diesem immerhin vorgebracht, dass Expertensysteme insbesondere im Zusammenhang mit Bewertungen, bspw. Personalbeurteilungen, besonders anspruchsvoll seien und in diesen Fällen den Betroffenen Mitwirkungsrechte eingeräumt werden müssten.[286] Ebenso führte dieser aus, dass zu klären sei, inwiefern künstliche Intelligenz das Recht auf informationelle Selbstbestimmung einschränke.[287]

Diese Berichte zeigen, dass die Thematik der (zumindest teilweisen) Automatisierung von Entscheidungen parallel zum Gesetzgebungsprozess des aDSG 1992 im Auftrag des Bundesrates von der Wissenschaft analysiert wurde. Trotzdem wurde die Thematik der Expertensysteme und der (ausschliesslich) automatisieren Entscheidungsfällung weder in den auf die Botschaft 1988 folgenden vorbereitenden Kommissionssitzungen des National- und Ständerates[288] noch in den darauffolgenden parlamentarischen Beratungen[289] ausdrücklich angesprochen. Es scheint, als sei auf die Regulierung automatisierter Entscheidungen bzw. auf den diesbezüglichen (französischen) Regulierungsansatz[290] bereits Anfang der 1980er-Jahre von der Arbeitsgruppe I und dem Ausschuss von Mitgliedern beider Arbeitsgruppen verzichtet worden und der Fokus nicht auf die Regulierung der Art und Weise der Entscheidungsfällung, sondern auf die Sammlung und Auswertung von Daten sowie daraus entstehende Persönlichkeitsprofile gelegt worden.

Das Bundesgesetz über den Datenschutz wurde am 19. Juni 1992, ohne eine Regelung zu automatisierten Einzelentscheidungen, vom Parlament verabschiedet[291] und trat am 1. Juli 1993 in Kraft.

Teilrevision des Datenschutzgesetzes vom 24. März 2006

Die erste Teilrevision des aDSG 1992 wurde aufgrund der Motion 98.3529 der Geschäftsprüfungskommission des Ständerates (Erhöhter Schutz für Personendaten bei Online-Verbindungen)[292] vom 17. November 1998 und der Motion 00.3000 der Kommission für Rechtsfragen des Ständerates (Erhöhte Transparenz bei der Erhebung von Personendaten)[293] vom 28. Januar 2000 in Angriff genommen.[294] In diesem Rahmen wurde die Regulierung automatisierter Entscheidungen in der Schweiz erneut ins Auge gefasst. Die beiden Motionen enthielten zwar keine konkreten Forderungen nach einer Regulierung automatisierter Einzelentscheidungen. Die zuständige Bundesbehörde nahm die Teilrevision jedoch zum Anlass, um im Revisionsvorentwurf zusätzliche Angleichungen des aDSG 1992 ans EU-Recht vorzunehmen.[295] Ein Teil davon war die Aufnahme einer «Informationspflicht betreffend automatisierte Einzelentscheidungen» in Art. 7b des Vorentwurfs für ein teilrevidiertes Bundesgesetz über den Datenschutz (VE-DSG 2001).[296] Diese Informationspflicht wurde nach der Vernehmlassung fast unverändert[297] in Art. 7b des Entwurfs des Bundesrates (E-DSG 2003)[298] aufgenommen und lautete wie folgt: «Die betroffene Person muss ausdrücklich darüber informiert werden, wenn ein Entscheid, der für sie rechtliche Folgen hat oder sie sonst wesentlich betrifft, ausschliesslich auf einer automatisierten Datenbearbeitung beruht, welche die Bewertung einzelner Aspekte ihrer Persönlichkeit bezweckt».[299]

Ziel dieser Bestimmung war es zu gewährleisten, dass die betroffene Person über die Art und Weise des Zustandekommens einer Entscheidung informiert wird.[300] Es sollte verhindert werden, «dass die Bewertung von Persönlichkeitsaspekten der betroffenen Person ausschliesslich in automatisierter Form erfolgt, ohne dass eine Beurteilung durch Menschen vorgenommen und ohne dass die betroffene Person darüber informiert wird, wie dieser Entscheid getroffen wurde».[301] Der betroffenen Person sollte damit zu einem gewissen Mass das rechtliche Gehör gewährt werden.[302] Der Vorschlag ging aber nicht so weit wie Art. 15 DSRL, welcher einer betroffenen Person das Recht zuerkannte, überhaupt keiner Entscheidung unterworfen zu werden, die allein gestützt auf eine automatisierte Datenverarbeitung getroffen wurde.[303]

Die geplante Informationspflicht für automatisierte Entscheidungen war im Rahmen der parlamentarischen Beratungen bis zuletzt umstritten. Dies unter anderem aufgrund ihres möglichen Anwendungsbereichs und Umfangs sowie der unklaren Tragweite. Als Argument für die neue Regelung wurde vorgebracht, dass automatisierte Entscheidungen aktuell noch die Ausnahme seien, weshalb die Umsetzung in der Praxis nicht mit viel Aufwand verbunden sein werde. Ein einfacher Hinweis in Form eines Standardsatzes auf einem Formular sei zudem ausreichend, um die Informationspflicht zu erfüllen. Es gehe um die Stärkung der Transparenz der Datenbearbeitung, welche auch dazu führe, das Vertrauen von Bürgern und Konsumenten zu stärken. Insbesondere wenn eine automatisierte Datenbearbeitung eine Persönlichkeitsbewertung zum Ziel habe, könne eine Person davon stark betroffen sein, weshalb ein Anspruch auf Information bestehen soll. Als Gegenargument wurde angeführt, dass diese Bestimmung nicht nötig sei, um die Motion 00.3000 über die Stärkung der Transparenz umzusetzen. Die Tragweite der Regelung sei in der Praxis nicht absehbar. Die Bestimmung sei geeignet, gewisse Datenbearbeitungen ungebührlich zu erschweren und zu einem administrativen Mehraufwand zu führen. Mit Blick auf den Umfang der Regelung wurde insbesondere auch befürchtet, dass diese (zukünftig) zu einer Begründungspflicht automatisierter Entscheidungen führen könnte. Sodann wurde angeführt, dass für die Betroffenen nur der Inhalt einer Entscheidung relevant sei, unabhängig davon, ob diese von einem Menschen oder einer Maschine getroffen werde. Die Information über die Art der Entscheidungsfällung nütze den Betroffenen, insbesondere vor dem Hintergrund der weiterhin bestehenden Vertragsfreiheit, wenig.[304] Schlussendlich wurde die Regelung auf Druck des Nationalrates im Rahmen der Differenzbereinigung aus dem Entwurf gestrichen.[305] Die Teilrevision des aDSG 1992 wurde am 24. März 2006 verabschiedet.[306] Am 1. Januar 2008 trat das revidierte aDSG 2008 ohne eine ausdrückliche Regelung zur automatisierten Entscheidungsfällung in Kraft.

Weiterentwicklung des Schengen-Besitzstandes vom 19. März 2010

In den folgenden Jahren rückte die Thematik automatisierter Entscheidungen in der Schweiz auf Stufe der Datenschutzgesetzgebung in den Hintergrund. Im Jahr 2010 fand jedoch trotzdem eine erste datenschutzrechtliche Regelung automatisierter Entscheidungen indirekt Eingang ins Schweizer Recht: Der von der Schweiz übernommene Rahmenbeschluss 2008/977/JI vom 27. November 2008 über den Schutz von Personendaten im Rahmen der polizeilichen und justiziellen Zusammenarbeit in Strafsachen (Weiterentwicklung des Schengen-Besitzstandes)[307] sah in Art. 7 vor, dass eine ausschliesslich automatisiert getroffene Entscheidung, welche mit nachteiligen Rechtsfolgen oder einer erheblichen Beeinträchtigung der betroffenen Person einhergehe, nur zulässig sei, wenn dies in einem Gesetz vorgesehen sei, welches Garantien zur Wahrung der schutzwürdigen Interessen dieser Person festlege.[308] Der Bundesrat ging in der Botschaft betreffend die Übernahme und Umsetzung des Rahmenbeschlusses davon aus, dass diese Bestimmung in der Schweiz direkt anwendbar sei, allerdings – mangels Anwendungsfällen – keine Auswirkungen auf die Schweizer Gesetzgebung habe.[309] Eine Umsetzung der Regelung ins Schweizer Recht erfolgte deshalb nicht. Auch wenn diese Einschränkung der Zulässigkeit automatisierter Entscheidungen für die Schweiz mit Annahme des Rahmenbeschlusses direkt anwendbar wurde, hatte sie nur einen eng begrenzten Geltungsbereich. Sie war ausschliesslich für Datenbekanntgaben im Rahmen der Schengener Zusammenarbeit anwendbar.[310] Ebenso galten die diesbezüglichen Vorgaben nur für Schweizer Bundesbehörden. Die Übernahme des Rahmenabkommens und dessen die automatisierte Entscheidungsfällung betreffende Regelung hatte damit insbesondere auf das Verhältnis zwischen Privaten keine Auswirkungen.

Bundesgesetz über den Datenschutz vom 25. September 2020

Vorarbeiten

Vor dem Hintergrund der technologischen Entwicklungen und der damit verbundenen neuen Herausforderungen für den Datenschutz begann im Jahr 2010 eine ausführliche Evaluation des Datenschutzgesetzes, welche im März 2011 mit der Veröffentlichung eines Schlussberichts abgeschlossen wurde.[311] Ziel dieser Evaluation war es, verschiedene Teilaspekte des aDSG hinsichtlich ihrer Effektivität, ihrer Wirksamkeit und ihrer Effizienz zu überprüfen.[312] Als technologische Herausforderungen für den Datenschutz wurden dabei insbesondere die zunehmende Leistungsfähigkeit und Speicherkapazitäten, die zunehmende Miniaturisierung und Digitalisierung, die zunehmende Mengen persönlicher Daten («Big Data») sowie die verbesserten Auswertungsmethoden von Daten identifiziert.[313] Man befürchtete, dass diese Entwicklungen zu einem grösseren Missbrauchspotenzial und zu zunehmend intransparenten Datenbearbeitungen führen könnten, welche den Selbstschutz der Betroffenen sowie die Kontrolle durch das Aufsichtsorgan erschweren könnten.[314] Entsprechend wurde die zunehmend fehlende Transparenz als eine Herausforderung für die Wirkungsmechanismen des aDSG identifiziert.[315] Mit Blick auf automatisierte Entscheidungen wurde im Schlussbericht zur Evaluation des aDSG vermerkt, dass im europäischen Gemeinschaftsrecht diesbezügliche Sonderregeln bestünden[316] und dass im Rahmen der Modernisierung der Konvention SEV Nr. 108 des Europarates die Rechte der betroffenen Personen unter anderem durch ein Widerspruchsrecht gegen solche Entscheidungen gestärkt werden sollten.[317] Eine weitergehende Auseinandersetzung mit der Thematik automatisierter Entscheidungen sowie den diesbezüglichen Regelungen im europäischen Umfeld findet sich im Evaluationsbericht nicht.

Die Evaluation zeigte insgesamt auf, dass sich die Bedrohungen für den Datenschutz in den letzten Jahren durch die fortschreitenden technologischen und gesellschaftlichen Entwicklungen akzentuiert haben.[318] Als Folge dieses Evaluationsergebnisses gab der Bundesrat dem EJPD den Auftrag, gesetzgeberische Massnahmen zur Stärkung des Datenschutzes zu prüfen.[319] Im Vordergrund stand dabei die Frage, mit welchen gesetzgeberischen Massnahmen diesen neuen Gefahren für die Privatsphäre Rechnung getragen werden kann.[320] Zur Umsetzung dieses Auftrags und um die Arbeiten zur Revision des aDSG zu begleiten, wurde vom Bundesamt für Justiz eine Arbeitsgruppe gebildet.[321] Diese sollte unter anderem prüfen, wie die Transparenz der Bearbeitung erhöht werden kann und die Kontrollmöglichkeiten der betroffenen Personen über ihre Daten verbessert werden können.[322] Im von dieser Arbeitsgruppe ausgearbeiteten Normkonzept zur Revision des Datenschutzgesetzes vom 29. Oktober 2014 wurde von der Mehrheit der Arbeitsgruppe vorgeschlagen, in Übereinstimmung mit Art. 8 lit. a E-SEV Nr. 108+,[323] in der Schweiz jeder Person das Recht einzuräumen, keiner automatisierten Entscheidung unterworfen zu werden, die sie in massgeblicher Weise betreffe, ohne dass ihrem Standpunkt vor oder nach der automatisierten Entscheidung Rechnung getragen werde.[324] Es wurde davon ausgegangen, dass ein erhöhtes Schutzbedürfnis der betroffenen Personen bestehe, wenn solche Entscheidungen auf der Bewertung einzelner Merkmale einer Person basieren.[325] Dieser Vorschlag wurde damit begründet, dass dadurch die Bewertung von Persönlichkeitsaspekten in ausschliesslich automatisierter Form, ohne Beurteilung durch einen Menschen und ohne dass die betroffene Person erfährt, wie diese Entscheidung gefällt wurde, verhindert werden soll. Die Regelung führe dazu, dass das menschliche Element im Entscheidungsprozess trotz automatisierter Datenbearbeitung Berücksichtigung finden könne.[326] Darüber hinaus wurde angeregt, das Auskunftsrecht der betroffenen Person auf den (logischen) Aufbau bzw. den Hintergrund einer Datenbearbeitung, deren Ergebnisse auf die betroffene Person angewandt werden, auszuweiten.[327] Diese Erweiterung wurde mit der Verbesserung der Transparenz der Datenbearbeitung begründet.[328]

Im April 2015 nahm der Bundesrat das Normkonzept zur Kenntnis, beschloss, dass das aDSG revidiert werden soll, und beauftragte das Bundesamt für Justiz bis Ende August 2016 einen entsprechenden Vorentwurf auszuarbeiten.[329] Ziel dieses Vorentwurfs war unter anderem die Schaffung der Voraussetzungen, damit die Schweiz die modernisierte Europarats-Konvention zum Schutz des Menschen bei der automatischen Verarbeitung personenbezogener Daten (SEV Nr. 108+) ratifizieren und soweit erforderlich die EU-Datenschutzerlasse im Rahmen der Weiterentwicklung des Schengen/Dublin-Besitzstands übernehmen sowie ein angemessenes Datenschutzniveau im Sinne der EU-Vorgaben beibehalten kann.[330]

Vor dem Hintergrund dieser geplanten Revisionsarbeiten wurde das Unternehmen PricewaterhouseCoopers (PwC) mit einer Regulierungsfolgenabschätzung beauftragt.[331] In deren Rahmen wurde unter anderem geprüft, welche Unternehmen von der Ausweitung des Auskunftsrechts über den Aufbau der Datenbearbeitung und von der Regulierung der automatisierten Entscheidungsfällung betroffen wären, welchen Nutzen dies bringen würde und welche Kosten zu erwarten wären.[332] PwC führte aus, dass die Erweiterung des Auskunftsrechts, die Informationspflicht für rein automatisierte Entscheidungen und das diesbezügliche Anhörungsrecht der betroffenen Person auf die Vorgaben der geplanten Modernisierung der Konvention SEV Nr. 108 zurückzuführen seien.[333] Die Einführung des Anhörungsrechts bei einer automatisierten Entscheidungsfällung solle dem Problem Rechnung tragen, dass die auf das Erkennen gewisser Muster ausgelegte automatisierte Datenauswertung möglicherweise Spezialitäten des Einzelfalls nicht erkennen könne.[334] Ebenso würden Unternehmen über Schlussfolgerungen ihrer Datenbearbeitung, welche sie möglicherweise selber nicht für angemessen halten würden, ins Bild gesetzt werden können.[335] Die Erweiterung der Auskunftspflicht wurde wiederum damit begründet, dass dies die Transparenz verbessern könne.[336] Gleichzeitig wurde erwartet, dass sowohl die Erweiterung des Auskunftsrechts als auch die Regulierung der automatisierten Entscheidungsfällung der Wahrung des informationellen Selbstbestimmungsrechts diene, die Rechte der Datensubjekte stärke und die erhöhte Nachvollziehbarkeit über die Methoden der Datenbearbeitung, die Bereitschaft der Betroffenen, ihre Daten zur Verfügung zu stellen, positiv beeinflusse sowie deren Vertrauen und die Glaubwürdigkeit stärke.[337]

VE-DSG 2016

Im Anschluss an die Regulierungsfolgenabschätzung schickte der Bundesrat Ende 2016 einen Vorentwurf zur Totalrevision des aDSG (VE-DSG 2016)[338] in die Vernehmlassung.[339] Art. 15 VE-DSG 2016 lautete wie folgt:

«Art. 15 Informations- und Anhörungspflicht bei einer
automatisierten Einzelentscheidung

1 Der Verantwortliche informiert die betroffene Person, wenn eine Entscheidung erfolgt, die ausschliesslich auf einer automatisierten Datenbearbeitung beruht, und diese rechtliche Wirkungen oder erhebliche Auswirkungen auf die betroffene Person hat.

2 Er gibt der betroffenen Person die Möglichkeit, sich zur automatisierten Einzelentscheidung und zu den bearbeiteten Personendaten zu äussern.

3 Die Informations- und Anhörungspflicht gilt nicht, wenn ein Gesetz eine automatisierte Einzelentscheidung vorsieht.»[340]

In Art. 20 VE-DSG 2016 war zudem vorgesehen, dass der betroffenen Person im Rahmen des Auskunftsrechts Informationen über das Vorliegen einer automatisierten Einzelentscheidung (Abs. 2 lit. e) sowie über das Ergebnis, das Zustandekommen und die Auswirkungen einer aufgrund einer Datenbearbeitung gefällten Entscheidung, insbesondere einer automatisierten Einzelentscheidung (Abs. 3), mitgeteilt werden müssen.[341]

Die Einführung des Begriffs der automatisierten Einzelentscheidung wurde vom Gesetzgeber als notwendig angesehen, da solche Entscheidungen sich in allen Wirtschaftsbereichen verbreiten und teilweise auf der Grundlage falscher Daten getroffen würden.[342] Die diesbezügliche Informationspflicht solle zusammen mit dem Anhörungsrecht der betroffenen Person sicherstellen, dass diese nicht Entscheidungen unterworfen werde, die ohne menschliches Dazutun erfolgen würden.[343] Darüber hinaus solle die Möglichkeit der betroffenen Person, ihren Standpunkt darzustellen und zu den Daten Stellung nehmen zu können, sicherstellen, dass sie nicht fälschlicherweise einen rechtlichen oder tatsächlichen Nachteil erleide, weil die Datenbearbeitung auf unvollständigen, veralteten oder unzutreffenden Daten beruhe.[344] Die Erweiterung des Auskunftsrechts hingegen solle es der betroffenen Person ermöglichen, weitere Informationen zu einer Entscheidung zu erhalten, damit sie nachvollziehen könne, wie die Entscheidung zustande gekommen sei und welche Folgen mit ihr einhergingen.[345]

Im Gegensatz zum Normkonzept nicht mehr angeführt wurde ein möglicherweise mit der automatisierten Entscheidungsfällung einhergehendes erhöhtes Schutzbedürfnis der betroffenen Person. Darüber hinaus ergibt sich aus dem erläuternden Bericht zum Vorentwurf jedoch erneut, dass die Rechte und Pflichten im Zusammenhang mit der automatisierten Entscheidungsfällung mit den Vorgaben des damals vorliegenden E-SEV Nr. 108+ 2016 übereinstimmen bzw. der E-SEV Nr. 108+ 2016 diesbezügliche Regelungspflichten vorsieht, welche im VE-DSG 2016 umgesetzt werden.[346]

Die Notwendigkeit, der Umfang und die genaue Ausgestaltung der für die automatisierte Entscheidungsfällung vorgesehenen Regelungen in Art. 15 VE-DSG 2016 waren in der vom Dezember 2016 bis April 2017 dauernden Vernehmlassung umstritten.[347] Die Rückmeldungen reichten unter anderem von der Ansicht, der Artikel sei eine willkommene Ergänzung des Gesetzes, über den Wunsch, die Bestimmung in den zivilrechtlichen Teil des Gesetzes aufzunehmen bis hin zu dem Verlangen einer Begründungspflicht im öffentlich-rechtlichen Bereich.[348] Die Gegner hingegen verlangten die Streichung der ADM-Informations-[349] und/oder Auskunftspflicht[350] oder der Möglichkeit zu einer automatisierten Entscheidung Stellung nehmen zu können.[351]

E-DSG 2017

Auf Grundlage der Vernehmlassungsergebnisse erarbeitete der Bundesrat einen neuen Gesetzesentwurf (E-DSG 2017)[352], welchen er mit der dazugehörigen Botschaft im September 2017 veröffentlichte.[353] Die Informationspflicht für automatisierte Einzelentscheidungen fand sich in angepasster Form in Art. 19 E-DSG 2017 und lautete wie folgt:

«Art. 19 Informationspflicht bei einer automatisierten Einzelentscheidung

1 Der Verantwortliche informiert die betroffene Person über eine Entscheidung, die ausschliesslich auf einer automatisierten Bearbeitung, einschliesslich Profiling, beruht und die für sie mit einer Rechtsfolge verbunden ist oder sie erheblich beeinträchtigt.

2 Er gibt der betroffenen Person auf Antrag die Möglichkeit, ihren Standpunkt darzulegen. Die betroffene Person kann verlangen, dass die Entscheidung von einer natürlichen Person überprüft wird.

3 Die Absätze 1 und 2 gelten nicht, wenn:

a. die Entscheidung in unmittelbarem Zusammenhang mit dem Abschluss oder der Abwicklung eines Vertrags zwischen dem Verantwortlichen und der betroffenen Person steht und ihrem Begehren stattgegeben wird; oder

b. die betroffene Person ausdrücklich eingewilligt hat, dass die Entscheidung automatisiert erfolgt.

4 Ergeht die automatisierte Einzelentscheidung durch ein Bundesorgan, so muss es die Entscheidung entsprechend kennzeichnen. Absatz 2 gilt nicht, wenn der betroffenen Person gegen die Entscheidung ein Rechtsmittel zur Verfügung steht.»[354]

Im Vergleich zum VE-DSG 2016 fällt insbesondere auf, dass die Möglichkeit, eine automatisierte Einzelentscheidung von einer natürlichen Person überprüfen zu lassen, und weitergehende Ausnahmen in die Bestimmung aufgenommen wurden. Die in Art. 20 Abs. 2 lit. f und Art. 20 Abs. 3 VE-DSG 2016 vorgesehenen Auskunftsrechte wurden in Art. 23 Abs. 2 lit. f E-DSG 2017 zusammengeführt, wobei die Verpflichtung, über die Auswirkungen einer automatisierten Entscheidung Auskunft zu erteilen, gestrichen wurde. Die angepasste Auskunftspflicht umfasste neu «gegebenenfalls das Vorliegen einer automatisierten Einzelentscheidung sowie die Logik, auf der die Entscheidung beruht».[355]

In der Botschaft beibehalten wurde die Begründung, wonach der Begriff der automatisierten Einzelentscheidung eingeführt werde, weil solche Entscheidungen aufgrund der technologischen Entwicklung immer häufiger auftreten würden.[356] Als Problematik der automatisierten Entscheidungsfällung hebt die Botschaft jedoch nur noch die Möglichkeit hervor, dass diese auf falschen oder veralteten Daten beruhen könne, welche nicht die tatsächliche Situation der betroffenen Person widerspiegle.[357] Wenn dies der Fall sei, führe eine automatisierte Entscheidung zu einer ungerechtfertigten Beeinträchtigung der betroffenen Person.[358] Mit dem Anhörungsrecht der betroffenen Person solle verhindert werden, dass die Datenbearbeitung auf solchen unvollständigen, veralteten oder unzutreffenden Daten beruhe.[359] Dies läge auch im Interesse des Verantwortlichen, weil unzutreffende automatisierte Einzelentscheidungen auch für diesen negative Konsequenzen nach sich ziehen können.[360] Das Argument, dass eine Person nicht Entscheidungen unterworfen werde solle, die ohne menschliches Dazutun erfolgen, findet sich in der Botschaft nicht mehr.

Das Auskunftsrecht über die Logik, die einer automatisierten Entscheidung zugrunde liegt, wird in der Botschaft nicht mehr begründet. Es wird nur ganz allgemein festgehalten, dass das Auskunftsrecht in seinem Kern bezwecke, der betroffenen Person zu ermöglichen ihre im Datenschutzgesetz enthaltenen Rechte wahrzunehmen.[361] Indirekt angeführt wurde dafür erneut das möglicherweise mit einer automatisierten Entscheidung einhergehende erhöhte Schutzbedürfnis der betroffenen Person. Dies geschah jedoch nicht mit Blick auf die Regelung automatisierter Entscheidungen in Art. 19 E-DSG 2017, sondern zu Art. 20 E-DSG 2017 betreffend die Datenschutz-Folgenabschätzung. Im Zusammenhang mit dem in Art. 20 Abs. 2 lit. b E-DSG 2017 festgehaltenen Vorliegen eines hohen Risikos im Falle eines Profilings wurde vermerkt, dass bei automatisierten Entscheidungen ein hohes Risiko bestehen könne, da die automatisierten Entscheidungen für die betroffene Person gegebenenfalls mit erheblichen Folgen verbunden sein können.[362] Bei der Auflistung der wesentlichen Änderungen gegenüber dem Vorentwurf wurde in der Botschaft zudem angeführt, dass durch gewisse automatisierte Einzelentscheidungen von Bundesorganen ein schwerwiegender Eingriff in die Grundrechte der betroffenen Person entstehen könne.[363] Wiederum hervorgehoben wurde sodann die Notwendigkeit der Aufnahme von Regelungen zur automatisierten Entscheidungsfällung ins Schweizer Datenschutzrecht aufgrund der in der E-SEV Nr. 108[364] vorgesehenen Bestimmungen, wobei festgehalten wurde, dass die geplanten Regelungen mit diesen Vorgaben übereinstimmen.[365]

Schengen-Datenschutzgesetz

Die Revisionsvorlage des Bundesrates wurde von der staatspolitischen Kommission des Nationalrates (SPK-N) Anfang 2018 in zwei Etappen aufgeteilt. Ziel war es, die fristgerechte Umsetzung der Richtlinie 2016/680 zum Schutz natürlicher Personen bei der Verarbeitung personenbezogener Daten im Bereich des Strafrechts, welche den Rahmenbeschluss 2008/977/JI ersetzt,[366] zu gewährleisten und die Totalrevision des aDSG anschliessend ohne Zeitdruck angehen zu können.[367] Im Folgenden wurde in der ersten Etappe das Bundesgesetz über die Umsetzung der Richtlinie (EU) 2016/680 verabschiedet, welches am 1. März 2019 in Kraft getreten ist.[368] Mit diesem Bundesgesetz wurde das Schengen-Datenschutzgesetz vom 28. September 2018 (SDSG) eingeführt. In dessen Art. 3 Abs. 2 lit. d ist folgende Legaldefinition automatisierter Einzelentscheidungen vorgesehen: «jede Entscheidung, die ausschliesslich auf einer automatisierten Bearbeitung, einschliesslich Profiling, beruht und die für die betroffene Person mit einer Rechtsfolge verbunden ist oder sie erheblich beeinträchtigt». Art. 11 SDSG enthält zudem eine Informations- und Kennzeichnungspflicht (Abs. 1) automatisierter Einzelentscheidungen sowie ein diesbezügliches Anhörungs‑, Auskunfts- und Überprüfungsrecht der betroffenen Person (Abs. 2).

Die Einführung des Begriffs der automatisierten Einzelentscheidung erfolgte gemäss dem erläuternden Bericht zum SDSG, um den Anforderungen von Art. 11 der Richtlinie (EU) 2016/680 Rechnung zu tragen. Zur Definition findet sich der Hinweis, dass es massgebend sei, inwieweit eine natürliche Person eine inhaltliche Prüfung vornehmen und darauf aufbauend die endgültige Entscheidung fällen könne, wobei allerdings erforderlich sei, dass die Entscheidung eine gewisse Komplexität aufweise.[369] Die Informationspflicht sei erforderlich, damit eine von einer automatisierten Entscheidung betroffene Person ihre Rechte nach Art. 11 Abs. 2 SDSG geltend machen könne.[370] Diese sollen unter anderem verhindern, dass eine Datenbearbeitung auf unvollständigen, veralteten oder unzutreffenden Daten beruhe.[371]

Das SDSG gilt nur für die Bearbeitung von Personendaten durch Bundesorgane in Strafsachen im Rahmen der Anwendung des Schengen-Besitzstands.[372] Entsprechend ist es – wie bereits der Rahmenbeschluss 2008/977/JI –[373] nur in beschränktem Umfang für gewisse Bundesorgane und insbesondere nicht auf das Verhältnis zwischen Privaten anwendbar. Im Wesentlichen wurden mit dem SDSG die bereits mit Übernahme des Rahmenbeschlusses 2008/977/JI vom 27. November 2008 über den Schutz von Personendaten im Rahmen der polizeilichen und justiziellen Zusammenarbeit in Strafsachen indirekt ins Schweizer Recht aufgenommenen Bestimmungen zur automatisierten Entscheidungsfällung für Bundesorgane ausdrücklich kodifiziert. Zur Vermeidung von Doppelspurigkeiten mit dem DSG wird das SDSG aufgehoben, sobald das totalrevidierte DSG in Kraft tritt.[374]

Parlamentarische Beratungen zur Totalrevision des Bundesgesetzes über den Datenschutz

In der zweiten Etappe der Datenschutzrevision hat sich das Parlament in den Jahren 2019 und 2020 der Totalrevision des aDSG gewidmet. Die in Art. 19 E-DSG 2017 und Art. 23 Abs. 2 lit. f E-DSG 2017 vorgesehenen Bestimmungen zu automatisierten Entscheidungen waren in den parlamentarischen Debatten in ihren Grundzügen unbestritten. Es gab jedoch verschiedene Änderungsvorschläge sowie daraus resultierend vereinzelte Anpassungen.

In der Kommissionssitzung der SPK-N wurde bspw. diskutiert, ob auch teilweise automatisierte Entscheidungen von Art. 19 E-DSG erfasst werden sollen. Vor dem Hintergrund, dass bereits zum Zeitpunkt der Diskussion keine Entscheidung nicht zumindest teilweise automatisiert erfolge, sprachen sich die Mitglieder der SPK-N jedoch gegen eine Ausweitung der Bestimmung auf teilweise automatisierte Entscheidungen aus. Es wurde vorgebracht, dass die Ausschliesslichkeit mit dem Recht, eine Überprüfung durch eine natürliche Person zu verlangen, korreliere, was nur dann sinnvoll erscheine, wenn man von ausschliesslich automatisierten Entscheidungen spreche. Ebenso würde dieser Antrag über den europäischen Datenschutz hinausgehen.[375] Ziel sei es, in denjenigen Fällen, in denen nur noch elektronisch ohne eine Person mit Entscheidungskompetenzen entschieden werde, einen gewissen Schutz sicherzustellen.[376] Daraufhin wurde der diesbezügliche Antrag anlässlich der Kommissionssitzung der SPK-N zurückgezogen.[377] Diskutiert wurde von der SPK-N auch die Frage, ob direkt über das der Entscheidung zugrundeliegende Verfahren informiert werden müsse.[378] Der diesbezügliche Antrag wurde damit begründet, dass das Wissen, auf welches Verfahren sich eine Entscheidung stütze, der betroffenen Person eine substanziellere Basis bieten würde, um einen Antrag auf weitergehende Informationen stellen zu können. Als Gegenargument wurde das im Gesetz vorgesehene Zusammenspiel zwischen Informationspflicht und Auskunftsrecht erläutert und die Verhältnismässigkeit vorgebracht. Ebenso wurde dargelegt, dass die Offenlegung der Logik oft sehr kompliziert und aufwendig sei. Auch dieser Antrag wurde im Folgenden bereits anlässlich der Kommissionssitzung der SPK-N zurückgezogen.[379]

Sowohl der National- als auch der Ständerat sprachen sich im Rahmen der parlamentarischen Beratungen für eine Streichung des in Art. 19 Abs. 1 E-DSG 2017 enthaltenen Verweises auf das Profiling aus.[380] Hintergrund dieser durch die SPK-N initiierten Streichung waren die Diskussion über die Regelung des Profilings im revidierten Datenschutzgesetz[381] sowie die Tatsache, dass eine Streichung nach Ansicht der SPK-N materiell keine Änderung darstellte, da diese ein Profiling als blosse Teilmenge einer automatisierten Entscheidung ansah.[382] Auch die Staatspolitische Kommission des Ständerates (SPK-S) hat in diesem Sinne festgehalten, dass das Profiling eher exemplarisch erwähnt worden sei.[383] Eine automatisierte Entscheidung müsse immer die Voraussetzungen gemäss Art. 19 E-DSG 2017 erfüllen, ganz unabhängig davon, ob ein Profiling vorliege.[384] Diese Ansicht wurde vom Ständerat geteilt, wobei festgehalten wurde, dass ein entsprechender Einschub nicht nötig sei und mit der Streichung die Rechtslage nicht verändert werde.[385]

Zwischen National- und Ständerat umstrittener war die Ausgestaltung des Wortlautes der in Art. 23 Abs. 2 lit. f E-DSG 2017 enthaltenen Auskunftspflicht betreffend automatisierte Entscheidungen. Der Nationalrat sprach sich für die folgende hervorgehobene Ergänzung des Wortlautes aus: «gegebenenfalls das Vorliegen einer automatisierten Einzelentscheidung sowie die Logik, auf der die Entscheidung beruht, sofern diese mit einer Rechtsfolge oder einer erheblichen Beeinträchtigung verbunden ist».[386] Anlässlich der Kommissionssitzung der SPK-N wurde zu diesem Änderungsvorschlag festgehalten, es werde damit bezweckt, dass nur in den Fällen gemäss Art. 19 E-DSG 2017 weiterführende Auskünfte zur Logik erfolgen müssen. Dies entspreche der Logik des Bundesrates, denn es mache nur in diesen Fällen Sinn Anschlussinformationen zur Logik verlangen zu können, da dieses Thema dort eingeführt worden sei. Bestehe keine Informationspflicht, mache es auch keinen Sinn entsprechende Zusatzinformationen zu bekommen. Mithin handle es sich um eine blosse Wiederholung, ohne materielle Änderung.[387] Es gab jedoch auch Stimmen, welche die vorgeschlagene Ergänzung als Einschränkung des bundesrätlichen Vorschlags auffassten.[388] Der (Minderheits‑)Antrag, am Vorschlag des Bundesrates festzuhalten, konnte sich weder in der SPK-N noch im Nationalrat durchsetzen.[389] Ebenfalls nicht durchzusetzen vermochte sich ein Antrag auf Streichung des Art. 23 Abs. 2 lit. f E-DSG 2017. Dieser Antrag wurde bereits anlässlich der Kommissionssitzung der SPK-N zurückgezogen.[390]

Auch in der Kommissionssitzung der SPK-S wurde kurz diskutiert, ob die vom Nationalrat vorgenommene Ergänzung des Wortlauts von Art. 23 Abs. 2 lit. f E-DSG 2017 eine Einschränkung des Auskunftsrechts zur Folge habe oder ob es sich bloss um eine Wiederholung ohne materielle Änderung handle, wobei man geteilter Ansicht war.[391] Zuhanden des Ständerates wurde anschliessend jedoch beantragt, zur Fassung des Bundesrates zurückzukehren.[392] Dieser Antrag wurde vom Ständerat ohne grosse Diskussion angenommen.[393]

Damit kam es betreffend den Wortlaut von Art. 23 Abs. 2 lit. f E-DSG 2017 zur Differenzbereinigung. Anlässlich der diese Differenz betreffenden Kommissionssitzung der SPK-N wurde präzisiert, dass auch in der Variante des Bundesrates (d.h. ohne die vorne hervorgehobene Ergänzung) ein Bezug zu Art. 19 E-DSG 2017 bestehe. Zuerst müsse man über die Information verfügen, dass eine automatisierte Entscheidung vorliege, und dann könne man verlangen, dass über die diesbezügliche Logik Auskunft erteilt werde.[394] Es gab jedoch auch anlässlich dieser Kommissionssitzung wiederum Äusserungen, wonach die Version des Bundesrates sämtliche automatisierten Entscheidungen umfasse.[395] Die Thematik wurde indes nicht vertieft diskutiert, sondern es wurde lediglich entschieden, der Version des Ständerates zu folgen, d.h. zum bundesrätlichen Vorschlag zurückzukehren.[396] Der Nationalrat schloss sich diesem Antrag der SPK-N an.[397] Anlässlich der parlamentarischen Beratungen wurde diesbezüglich festgehalten, dass die Mehrheit der SPK-N der Ansicht sei, dass im Falle automatisierter Entscheidungen die betroffene Person stets über die Existenz solcher Entscheidungen und die dahinter stehende Logik informiert werden solle und deshalb der Version des Ständerates zu folgen sei.[398] Mit diesem Einlenken des Nationalrates waren die Bestimmungen zur automatisierten Entscheidungsfällung im E-DSG 2017 bereinigt.

In den darauffolgenden Differenzbereinigungen waren sich National- und Ständerat hauptsächlich im Hinblick auf die Ausgestaltung der Bestimmungen zum Profiling[399] uneinig, weshalb die ganze Vorlage absturzgefährdet war. Umstritten war insbesondere, ob und wie das Profiling geregelt werden sollte. Der Ständerat schlug vor, zwischen normalem Profiling und solchem mit hohem Risiko zu unterscheiden. Erst anlässlich der notwendig gewordenen Einigungskonferenz vom 24. September 2020 stimmte der Nationalrat diesem Vorschlag des Ständerates, und somit höheren Hürden beim automatisierten Auswerten von Personendaten, im letzten Moment zu. Dadurch wurde ein Totalabsturz der Gesetzesvorlage abgewendet.[400] Am 25. September 2020 wurde das totalrevidierte Datenschutzgesetz nach dreijähriger Beratung von beiden Räten angenommen.[401] Die Redaktionskommission nahm bei der Ausarbeitung des Schlussabstimmungstextes noch eine Änderung der ADM-Bestimmung vor, indem sie Art. 21 Abs. 1 DSG (ehemals Art. 19 Abs. 1 E-DSG 2017) am Ende mit der Klammerbemerkung «(automatisierte Einzelentscheidung)» ergänzte.[402]

Verordnung über den Datenschutz vom 31. August 2022

Der Bundesrat hat am 23. Juni 2021 die Vernehmlassung zur Totalrevision der Verordnung zum Bundesgesetz über den Datenschutz eröffnet, welche bis am 14. Oktober 2021 dauerte.[403] Nach Auswertung der Vernehmlassung wurde der Entwurf für eine Verordnung zum Bundesgesetz über den Datenschutz (E-VDSG 2021)[404] in mehreren Punkten angepasst und am 31. August 2022 als Verordnung über den Datenschutz (DSV) verabschiedet.[405]

Obwohl in der Botschaft zum DSG 2017 angeführt wurde, dass der Begriff der automatisierten Einzelentscheidung falls erforderlich in der Verordnung präzisiert werde,[406] findet sich weder im E-VDSG 2021 noch in der verabschiedeten DSV eine diesbezügliche Bestimmung. In Art. 17 E-VDSG 2021 war lediglich vorgesehen, dass eine Person, die von ihren Rechten nach Art. 21 Abs. 2 DSG Gebrauch macht, deswegen nicht benachteiligt werden dürfe.[407] Begründet wurde dieser Artikel damit, dass die betroffene Person nicht von der Ausübung ihrer Rechte abgeschreckt werden solle.[408] Art. 13 E-VDSG 2021 regelte zudem die Modalitäten der Informationspflicht und hielt fest, dass die Information über die Beschaffung von Personendaten in präziser, verständlicher und leicht zugänglicher Form mitgeteilt werden müsse (Abs. 1) und zur Information verwendete Piktogramme maschinenlesbar sein müssten (Abs. 2).[409] Gemäss dem erläuternden Bericht zum E-VDSG 2021 sollten diese Regelungen auch für die Informationspflicht nach Art. 21 Abs. 1 DSG gelten.[410]

In der DSV findet sich hingegen keine solche den Art. 21 DSG konkretisierende Regelung mehr. Art. 17 E-VDSG 2021 wurde, wohl aufgrund der diesbezüglich in der Vernehmlassung angeführten Kritik,[411] nicht in die DSV aufgenommen. Art. 13 DSV regelt weiterhin die Modalitäten der Informationspflicht, jedoch wurde unter anderem die Regelung betreffend Piktogramme gestrichen.[412] In den Erläuterungen zur DSV findet sich zudem kein Hinweis mehr, dass die in Art. 13 DSV vorgesehenen Modalitäten für die Informationspflicht auch für die Regelung in Art. 21 Abs. 1 DSG gelten würden. Vielmehr wird nur noch auf die Informationspflicht in Art. 19 DSG verwiesen.[413] Neu wurde in den Erläuterungen zur DSV einzig mit Blick auf die Datensicherheit und den damit zusammenhängenden Schutzbedarf von Personendaten angeführt, dass dieser bspw. bei einer vollständig automatisierten Entscheidung höher sein könne.[414]

Das totalrevidierte DSG, die neue DSV und mit ihnen die neuen Regelungen zu automatisierten Einzelentscheidungen treten am 1. September 2023 in Kraft.[415]

Das weltweite erste Datenschutzgesetz erliess 1970 das deutsche Bundesland Hessen (Simitis/Hornung/Spiecker genannt Döhmann, in: Simitis/Hornung/Spiecker genannt Döhmann, Datenschutzrecht, Einleitung N 1). Schweden folgte 1974 mit einem ersten national geltenden (umfassenden) Datenschutzgesetz (Diregger, 1–2, m.w.N.). ↵

Art. 2 LIFL 1978: «Aucune décision de justice impliquant une appréciation sur un comportement humain ne peut avoir pour fondement un traitement automatisé d’informations donnant une définition du profil ou de la personnalité de l’intéressé. Aucune décision administrative ou privée impliquant une appréciation sur un comportement humain ne peut avoir pour seul fondement un traitement automatisé d’informations donnant une déﬁnition du profil ou de la personnalité de l’intéressé.» ↵

Art. 3 LIFL 1978: «Toute personne a le droit de connaître et de contester les informations et les raisonnements utilisés dans les traitements automatisés dont les résultats lui sont opposés.» ↵

Ein Abdruck der verschiedenen Gesetzgebungsentwürfe von Art. 2 und 3 LIFL findet sich in Anhang 1. ↵

Geffray/Guérin-Franc¸ois, 268–269; Gerhold, 368. ↵

Boucher, 9. ↵

Gerhold, 368. ↵

Siehe dazu Colliard, 301; Hogrebe, 161–172; Maisl, Ziff. 2, m.w.N.; Tiedemann/Sasse, 88, m.w.N. ↵

CIL, Rapport Tricot, 7; Colliard, 301. ↵

Gerhold, 368; Maisl, Ziff. 2; siehe auch CIL, Rapport Tricot, 7. ↵

JO N° 0265 du 13.11.1974, 11403–11404. ↵

Dabei handelte es sich um die Vorgängerin der heutigen «Commission Nationale de l’Informatique et des Libertés» (CNIL). ↵

Maisl, Ziff. 2; CIL, Rapport Tricot, 7. ↵

JO N° 0265 du 13.11.1974, 11403; CIL, Rapport Tricot, 7. ↵

CIL, Rapport Tricot, 20. ↵

CIL, Rapport Tricot, 20. ↵

CIL, Rapport Tricot, 8–9; Geffray/Guérin-Franc¸ois, 269; Maisl, Ziff. 2. ↵

Gerhold, 368. ↵

Zum Ganzen CIL, Rapport Tricot, 13–15. ↵

Zum Ganzen CIL, Rapport Tricot, 15–17. ↵

CIL, Rapport Tricot, 15–17. ↵

Zum Ganzen CIL, Rapport Tricot, 15–17. ↵

Zum Ganzen CIL, Rapport Tricot, 15–17. ↵

Siehe dazu CIL, Rapport Tricot, 15–16. ↵

CIL, Rapport Tricot, 29. ↵

Siehe dazu CIL, Rapport Tricot, 29–36. ↵

Siehe dazu CIL, Rapport Tricot, 37–44. ↵

CIL, Rapport Tricot, 41. ↵

CIL, Rapport Tricot, 41. ↵

CIL, Rapport Tricot, 21. ↵

Zum Ganzen CIL, Rapport Tricot, 82. ↵

Zum Ganzen CIL, Rapport Tricot, 82. ↵

Zum Ganzen CIL, Rapport Tricot, 83. ↵

Zum Ganzen CIL, Rapport Tricot, 83; ein ähnliches Vorgehen wurde in der Schweiz einige Jahre später auch von Degrandi im Zusammenhang mit der automatisierten Verwaltungsverfügung empfohlen (Degrandi, 128, 168). ↵

Lecanuet, 1–18. ↵

Lecanuet, 1; siehe auch Caillavet; Foyer, N° 3125, Tome I, 13; Zwischen 1970 und 1974 wurden zuhanden der franzözischen Nationalversammlung bereits verschiedene Gesetzesentwürfe eingereicht. Diese betrafen jedoch bloss die Schaffung von Informatikaufsichtskommissionen oder Spezialgerichten (siehe dazu Couste; Hogrebe, 228–234). ↵

Art. 2 E-LIFL 1976: «Aucune décision juridictionnelle ou administrative impliquant une appréciation sur un comportement humain ne peut avoir pour seul fondement un traitement automatisé d’informations» (Lecanuet, 6). ↵

Art. 3 E-LIFL 1976: «Toute personne a le droit de connaître et de contester les informations et les raisonnements utilisés dans les traitements automatisés dont les résultats lui sont opposés» (Lecanuet, 6). ↵

Lecanuet, 2. ↵

Lecanuet, 2. ↵

Ähnlich bereits Maisl, Ziff. 6, insbesondere Fn. 32bis, welcher im Hinblick auf Art. 2 und Art. 3 LIFL 1978 auf den Rapport Tricot verweist. In diese Richtung auch Geffray/Guérin-Franc¸ois, 344, wonach es sich beim aktuellen Art. 47 LIFL um ein Echo des Rapport Tricot handle. ↵

Siehe dazu Holleaux, 32. ↵

Foyer, N° 3125, Tome I, 1. ↵

Zum Ganzen Foyer, N° 3125, Tome II, 2. ↵

JO N° 79 Assemblée Nationale du 05.10.1977, 5791. ↵

Zum Ganzen JO N° 77 Sénat du 18.11.1977, 2769–2770; Thyraud, 22, 41, 61. ↵

JO N° 77 Sénat du 18.11.1977, 2769. ↵

Thyraud, 22. ↵

Thyraud, 22. ↵

Thyraud, 22. ↵

Thyraud, 22. ↵

Siehe dazu JO N° 77 Sénat du 18.11.1977, 2770. ↵

Siehe dazu JO N° 77 Sénat du 18.11.1977, 2770; Thyraud, 23–24, 41–42, 61–62. ↵

Wolf, in: Grabitz/Hilf/Nettesheim, Recht der EU, A. EG-Verbraucher- und Datenschutzrecht N 20; siehe auch Brühann/Zerdick, 429–430. ↵

Voigt/Bussche, 2. ↵

Voigt/Bussche, 2. ↵

Siehe dazu vorne VI.3.3.b) bei Fn. 869–870. ↵

Art. 15 Abs. 1 lit. h DSGVO. ↵

Ein Abdruck der verschiedenen Gesetzgebungsentwürfe von Art. 12 und 15 DSRL findet sich in Anhang 2. ↵

ABl. C 60, 13.03.1975, 48; ABl. C 100, 03.05.1976, 27; ABl. C 140, 05.06.1979, 35; Dammann/Simitis, Einleitung N 1; Riegel, 133; Wurst, 448–449; siehe auch ABl. C 87, 05.04.1982, 39–41. ↵

ABl. L 246, 29.08.1981, 31; Dammann/Simitis, Einleitung N 1. ↵

Dammann/Simitis, Einleitung N 1; EG Kommission, KOM(73) 1250; Wurst, 449; Riegel, 133. ↵

Wurst, 449; Dammann/Simitis, Einleitung N 3. ↵

EG Kommission, KOM(90) 314. ↵

EG Kommission, KOM(90) 314, 5. ↵

EG Kommission, KOM(90) 314, 11–75. ↵

EG Kommission, KOM(90) 314, 63. ↵

EG Kommission, KOM(90) 314, 64. ↵

Zum Ganzen EG Kommission, KOM(90) 314, 32. ↵

ABl. C 159, 17.06.1991, 38, 43; Brühann, in: Grabitz/Hilf/Nettesheim, Recht der EU, Art. 15 DSRL N 2; Bygrave, 17; Dammann/Simitis, Einleitung N 39; Petkova/Boehm, 286; Thouvenin/Früh/George, N 21; Wuermeling, 668. ↵

ABl. C 94, 13.04.1992, 76, 186. ↵

ABl. C 94, 13.04.1992, 76, 186. ↵

EG Kommission, KOM(92) 422, 91; ABl. C 311, 27.11.1992, 50. ↵

EG Kommission, KOM(92) 422, 26–27, 91. ↵

Art. 16 Ziff. 2 lit. a E-DSRL 1992; EG Kommission, KOM(92) 422, 91. ↵

Art. 16 Ziff. 2 lit. a E-DSRL 1992; EG Kommission, KOM(92) 422, 91. ↵

Art. 16 Ziff. 2 lit. b E-DSRL 1992; EG Kommission, KOM(92) 422, 91. ↵

EG Kommission, KOM(92) 422, 24, 87. ↵

EG Kommission, KOM(92) 422, 5; siehe auch ABl. C 94, 13.04.1992, 76, 186. ↵

Zum Ganzen EG Kommission, KOM(92) 422, 26–27. ↵

EG Kommission, KOM(92) 422, 24. ↵

EG Rat, ST 5579/93, Annex, 1–7. ↵

Siehe immerhin ABl. C 159, 17.06.1991, 43. ↵

ABl. C 93, 13.04.1995, 11, 21. ↵

ABl. C 93, 13.04.1995, 4. ↵

ABl. C 166, 03.07.1995, 105. ↵

Ein Abdruck der verschiedenen Gesetzgebungsentwürfe von Erwägungsgrund 71, Art. 13–​15 und 22 DSGVO findet sich in Anhang 3. ↵

EU Kommission, KOM(2010) 609, 2 und Fn. 4. ↵

EU Kommission, KOM(2010) 609, 2. ↵

EU Kommission, KOM(2012) 11, 4. ↵

Siehe dazu EU Commission, SEC(2012) 72; EU Kommission, SEK(2012) 73, 5–10. ↵

EU Kommission, KOM(2012) 11. ↵

EU Kommission, KOM(2012) 11, 10, 61–62. ↵

EU Kommission, KOM(2012) 11, 61–62. ↵

EU Kommission, KOM(2012) 11, 30. ↵

EU Kommission, KOM(2012) 11, 61–62. ↵

EU Kommission, KOM(2012) 11, 28. ↵

EU Kommission, KOM(2012) 11, 57–58. ↵

Siehe dazu EU Kommission, KOM(2012) 11, 28-30, 57, 61-62; a.A. Scholz, in: Simitis/Hornung/Spiecker genannt Döhmann, Datenschutzrecht, Art. 22 DSGVO N 13. ↵

Helfrich, in: Sydow/Marsch, DSGVO, Art. 22 DSGVO N 12. ↵

Zum Ganzen EU Kommission, KOM(2012) 11, 71–72. ↵

ABl. C 378, 09.11.2017, 399. ↵

Helfrich, in: Sydow/Marsch, DSGVO, Art. 22 DSGVO N 20; Martini, in: Paal/Pauly, DS-GVO, Art. 22 DSGVO N 10; Weichert, in: Däubler et al., Kompaktkommentar DSGVO, Art. 22 DSGVO N 2. ↵

Art. 20 Abs. 1 E-DSGVO 2014; Martini, in: Paal/Pauly, DS-GVO, Art. 22 DSGVO N 10; Weichert, in: Däubler et al., Kompaktkommentar DSGVO, Art. 22 DSGVO N 2. ↵

Helfrich, in: Sydow/Marsch, DSGVO, Art. 22 DSGVO N 25. ↵

ABl. C 378, 09.11.2017, 433–434. ↵

Art. 15 Abs. 1 lit. ha E-DSGVO 2014; ABl. C 378, 09.11.2017, 435. ↵

ABl. C 378, 09.11.2017, 408. ↵

ABl. C 378, 09.11.2017, 448. ↵

Art. 32a Abs. 2 lit. c E-DSGVO 2014; ABl. C 378, 09.11.2017, 448. ↵

Art. 32a Abs. 2 lit. d E-DSGVO 2014; ABl. C 378, 09.11.2017, 448. ↵

ABl. C 378, 09.11.2017, 412. ↵

EU Rat, ST 9565/15. ↵

EU Rat, ST 9565/15, 32. ↵

Art. 14 Abs. 1a lit. h und Art. 14a Abs. 2 lit. h E-DSGVO 2015; EU Rat, ST 9565/15, 93–96. ↵

Art. 15 Abs. 1 lit. h E-DSGVO 2015; EU Rat, ST 9565/15, 98. ↵

Art. 20 E-DSGVO 2015; EU Rat, ST 9565/15, 106. ↵

Das (ausdrückliche) Widerspruchsrecht gegen Profiling (Art. 21 Abs. 1 DSGVO) wurde erst im Rahmen des informellen «Trilogs» wieder in das Gesetz aufgenommen (EU Rat, ST 15039/15, 111; Helfrich, in: Sydow/Marsch, DSGVO, Art. 21 DSGVO N 42). ↵

Art. 20 Abs. 1 E-DSGVO 2015; EU Rat, ST 9565/15, 106. ↵

Martini, in: Paal/Pauly, DS-GVO, Art. 22 DSGVO N 12. ↵

Abel, 305; Buchner, in: Kühling/Buchner, DS-GVO, Art. 22 DSGVO N 17–18; Lewinski, in: Brink/Wolff, BeckOK Datenschutzrecht, Art. 22 DSGVO N 12–13; Schulz, in: Gola/Heckmann, DSGVO, Art. 22 DSGVO N 19; a.A. Artikel-29-Datenschutzgruppe, 8; Dammann, 312. ↵

Artikel-29-Datenschutzgruppe, 8; siehe auch Vasella, 195. ↵

EU Rat, ST 9565/15, 106; Helfrich, in: Sydow/Marsch, DSGVO, Art. 22 DSGVO N 30–31; Martini, in: Paal/Pauly, DS-GVO, Art. 22 DSGVO N 12. ↵

Art. 20 Abs. 1b und Erwägungsgrund 58 E-DSGVO 2015; EU Rat, ST 9565/15, 32, 139. ↵

Art. 20 Abs. 3 E-DSGVO 2014; EU Rat, ST 9565/15, 106; Helfrich, in: Sydow/Marsch, DSGVO, Art. 22 DSGVO N 34. ↵

Zum Ganzen EU Rat, ST 9565/15, 32. ↵

EU Rat, ST 9565/15, 122–124. ↵

Art. 33 Abs. 1 E-DSGVO 2015; EU Rat, ST 9565/15, 122. ↵

Art. 33 Abs. 2 lit. a E-DSGVO 2015; EU Rat, ST 9565/15, 122. ↵

EU Rat, ST 9565/15, 41. ↵

ABl. C 301, 12.09.2015, 1. ↵

EU Rat, ST 15039/15, 2. ↵

EU Rat, ST 15039/15. ↵

Siehe dazu EU Rat, ST 15039/15, 37, 99-106, 112-113, 129; siehe auch Helfrich, in: Sydow/Marsch, DSGVO, Art. 22 DSGVO N 36; Martini, in: Paal/Pauly, DS-GVO, Art. 22 DSGVO N 13. ↵

EU Rat, ST 15039/15, 112. ↵

Simitis/Hornung/Spiecker genannt Döhmann, in: Simitis/Hornung/Spiecker genannt Döhmann, Datenschutzrecht, Einleitung N 202. ↵

Art. 99 Abs. 1 DSGVO. ↵

Art. 99 Abs. 2 DSGVO; Simitis/Hornung/Spiecker genannt Döhmann, in: Simitis/Hornung/Spiecker genannt Döhmann, Datenschutzrecht, Einleitung N 202. ↵

Eidgenössisches Justiz- und Polizeidepartement: Datenschutzkonvention des Europarates: Bundesrat verabschiedet Botschaft, <https://www.ejpd.admin.ch/ejpd/de/home/aktu​ell/news/2019/2019-12-061.html> (18.10.2022). ↵

Eidgenössisches Justiz- und Polizeidepartement: Datenschutzkonvention des Europarates: Bundesrat verabschiedet Botschaft, <https://www.ejpd.admin.ch/ejpd/de/home/aktu​ell/news/2019/2019-12-061.html> (18.10.2022). ↵

Ein Abdruck der verschiedenen Gesetzgebungsentwürfe von Art. 9, 11 und 12 SEV Nr. 108+ findet sich in Anhang 4. ↵

Parliamentary Assembly of the Council of Europe, Recommendation 509 (1968); Henke, 44; Roth, A.D., 282, 300. ↵

COE, Resolution (73) 22. ↵

COE, Resolution (74) 29. ↵

Roth, A.D., 282. ↵

Council of Europe: Convention 108 and Protocols, Background, <https://www.coe.int/en/web/data-protection/convention108/background> (18.10.2022); Henke, 45. ↵

CdE, Rapport Explicatif Resolution (74) 29, 9. ↵

CdE, Rapport Explicatif Resolution (74) 29, 15; siehe auch CCJ, (74) 38 Addendum I, 10. ↵

Siehe dazu COE, Resolution (74) 29; COE, Resolution (73) 22. ↵

Henke, 45. ↵

Roth, A.D., 282, 284–298. ↵

Henke, 46. ↵

Art. 1 SEV Nr. 108. ↵

Siehe Roth, A.D., 284–298. ↵

Zum Ganzen COE, Explanatory Report SEV Nr. 108, 1; siehe auch Roth, A.D., 299, «Entwurf eines erläuternden Berichts zum Übereinkommensentwurf». ↵

COE, CM/Rec(2010)13, 19; T-PD, CM(98)182. ↵

COE, CM/Rec(2010)13, 19. ↵

COE, CM/Rec(2010)13, 20; eine Übersicht der verschiedenen Empfehlungen im Bereich des Datenschutzes findet sich hier: Council of Europe: Protection of personal data and privacy, <https://www.coe.int/de/web/portal/personal-data-protection-and-privacy> (18.10.2022). ↵

Dinant et al.; siehe auch COE, CM/Rec(2010)13, 21. ↵

Dinant et al., 5. ↵

Dinant et al., 32. ↵

Dinant et al., 6. ↵

Dinant et al., 32–33. ↵

Zum Ganzen Dinant et al., 32. ↵

Dinant et al., 33. ↵

Dinant et al., 12. ↵

Dinant et al., 32. ↵

Dinant et al., 32. ↵

Zum Ganzen Dinant et al., 34. ↵

COE, CM/Rec(2010)13, 21. ↵

COE, CM/Rec(2010)13. ↵

COE, CM/Rec(2010)13, 9. ↵

COE, CM/Rec(2010)13, 26. ↵

COE, CM/Rec(2010)13, 26. ↵

COE, CM/Rec(2010)13, 34. ↵

Siehe dazu vorne VII.1.2.a); CIL, Rapport Tricot, 16. ↵

COE, CM/Rec(2010)13, 13–14. ↵

COE, CM/Rec(2010)13, 51. ↵

COE, CM/Rec(2021)8, 6–7. ↵

T-PD, E-SEV Nr. 108+ 2012 IV, 4. ↵

T-PD, E-SEV Nr. 108+ 2012 IV, 4. ↵

T-PD, E-SEV Nr. 108+ 2012 IV, 4. ↵

T-PD, E-SEV Nr. 108+ 2012 IV, 4; Terwangne/Moiny/Poullet, 12. ↵

Terwangne/Moiny/Poullet, 12. ↵

Terwangne/Moiny/Poullet, 16. ↵

Terwangne/Moiny/Poullet, 41. ↵

Terwangne/Moiny/Poullet, 41; mit Verweis auf LRDP KANTOR Ltd/Centre for Public Reform, 21–22. ↵

Terwangne/Moiny/Poullet, 42. ↵

Terwangne/Moiny/Poullet, 42; mit Verweis auf Trudel, 547. ↵

T-PD, E-SEV Nr. 108+ 2012 II, 2. ↵

T-PD, E-SEV Nr. 108+ 2012 I. ↵

Council of Europe: Modernisation of Convention 108, Background, <https://www.coe.int/en/web/data-protection/background-modernisation> (18.10.2022). ↵

CAHDATA, Draft Explanatory Report, 1. ↵

Council of Europe: Modernisation of Convention 108, Background, <https://www.coe.int/en/web/data-protection/background-modernisation> (18.10.2022); T-PD, E-SEV Nr. 108+ 2012 I; T-PD, E-SEV Nr. 108+ 2012 II; T-PD, E-SEV Nr. 108+ 2012 III; T-PD, E-SEV Nr. 108+ 2012 IV; T-PD, E-SEV Nr. 108+ 2012 V; T-PD, E-SEV Nr. 108+ 2012 VI; T-PD, E-SEV Nr. 108+ 2012 VII. ↵

T-PD, E-SEV Nr. 108+ 2012 I, 16. ↵

Siehe dazu Dinant et al., 34. ↵

T-PD, E-SEV Nr. 108+ 2012 I, 15. ↵

Art. 9 E-SEV Nr. 108+ 2012 I; T-PD, E-SEV Nr. 108+ 2012 I, 17–18. ↵

Art. 8 lit. e E-SEV Nr. 108+ 2012 II; T-PD, E-SEV Nr. 108+ 2012 II, 16; siehe auch T-PD, E-SEV Nr. 108+ 2012 III, 16; T-PD, E-SEV Nr. 108+ 2012 IV. ↵

Art. 8 lit. a E-SEV Nr. 108+ 2012 V; T-PD, E-SEV Nr. 108+ 2012 V, 9. ↵

Art. 8 lit. a E-SEV Nr. 108+ 2012 V; T-PD, E-SEV Nr. 108+ 2012 V, 9. ↵

Art. 8 lit. b E-SEV Nr. 108+ 2012 I; T-PD, E-SEV Nr. 108+ 2012 I, 15. ↵

Art. 8 lit. d E-SEV Nr. 108+ 2012 III; T-PD, E-SEV Nr. 108+ 2012 III, 16. ↵

T-PD, E-SEV Nr. 108+ 2012 IV, 38. ↵

Art. 8 lit. d E-SEV Nr. 108+ 2012 V; T-PD, E-SEV Nr. 108+ 2012 V, 10. ↵

Präambeln E-SEV Nr. 108+ 2012 I; T-PD, E-SEV Nr. 108+ 2012 I, 8. ↵

Zum Ganzen T-PD, E-SEV Nr. 108+ 2012 II, 8; T-PD, E-SEV Nr. 108+ 2012 IV, 31. ↵

Council of Europe: Modernisation of Convention 108, Background, <https://www.coe.int/en/web/data-protection/background-modernisation> (18.10.2022); T-PD, E-SEV Nr. 108+ 2012 VII, 4–5. ↵

T-PD, E-SEV Nr. 108+ 2012 VII, 5. ↵

CAHDATA, E-SEV Nr. 108+ 2016, 1–11. ↵

Council of Europe: Modernisation of Convention 108, Background, <https://www.coe.int/en/web/data-protection/background-modernisation> (18.10.2022). ↵

Art. 8 Abs. 2 E-SEV Nr. 108+ 2016; CAHDATA, E-SEV Nr. 108+ 2016, 4. ↵

Art. 8 lit. f E-SEV Nr. 108+ 206, CAHDATA, E-SEV Nr. 108+ 2016, 3. ↵

Zum Ganzen CAHDATA, Draft Explanatory Report, 15. ↵

Zum Ganzen CAHDATA, Draft Explanatory Report, 16. ↵

Council of Europe: Modernisation of Convention 108, Background, <https://www.coe.int/en/web/data-protection/background-modernisation> (18.10.2022). ↵

Art. 11 SEV Nr. 223 bzw. Art. 9 SEV Nr. 108+ . ↵

Siehe dazu COE, Explanatory Report SEV Nr. 223, N 75, 77. ↵

Art. 37 SEV Nr. 223; BJ, FAQ, 5; Council of Europe: Details zum Vertrag-Nr. 223, <https://​www.coe.int/de/web/conventions/by-member-states-of-the-council-of-eu​rope?​mo​dule​=treaty-detail&treatynum=223> (18.10.2022). ↵

Council of Europe: Treaty list for a specific State, Switzerland, <https://www.coe.int/en/web/conventions/full-list?module=treaties-full-list-signature&CodePays=SWI> (18.10.2022). ↵

Botschaft Änderungsprotokoll SEV Nr. 223. ↵

Eidgenössisches Justiz- und Polizeidepartement: Datenschutzkonvention des Europarates: Bundesrat verabschiedet Botschaft, <https://www.ejpd.admin.ch/ejpd/de/home/aktu​ell/news/2019/2019-12-061.html> (18.10.2022). ↵

AB NR 2020, 1184; AB SR 2020, 629; BBl 2019 5725. ↵

Bundeskanzlei: Übersicht fakultative Referenden 2011 - 2020, <https://www.bk.admin.ch/ch/d/pore/vr/vor_2_2_6_1_2011.html> (18.10.2022). ↵

BJ, FAQ, 5. ↵

Art. 25 Abs. 2 lit. f DSG. ↵

Ein Abdruck der verschiedenen Gesetzgebungsentwürfe von Art. 21 und 25 DSG sowie der diesbezüglichen Verordnungsbestimmungen findet sich in Anhang 5. ↵

Husi-Stämpfli, in: SHK aDSG, Entstehungsgeschichte N 7. ↵

Motion Bussey (10.898), Gesetzgebung über Computer, AB NR 1972 V, 2127–2131. ↵

VE-DSV 1975, 1–7. ↵

EJPD, Erläuternder Bericht 1983, 31; Seethaler, in: BSK aDSG, Entstehungsgeschichte des Datenschutzgesetzes N 14. ↵

Bericht vom 27. Oktober 1975, 1–3. ↵

Zum Ganzen Bericht vom 27. Oktober 1975, 3. ↵

VE-DSV 1975, 1–7. ↵

Seethaler, in: BSK aDSG, Entstehungsgeschichte des Datenschutzgesetzes N 14; siehe auch EJPD, Erläuternder Bericht 1983, 31–32; Forstmoser, 4. ↵

Seethaler, in: BSK aDSG, Entstehungsgeschichte des Datenschutzgesetzes N 13, m.w.N.; siehe auch Botschaft aDSG 1988, 426. ↵

EJPD, Erläuternder Bericht 1983, 46–47; Seethaler, in: BSK aDSG, Entstehungsgeschichte des Datenschutzgesetzes N 13, 18. ↵

Arbeitsgruppe Datenschutz in der Bundesverwaltung, Arbeitspapier IX; Arbeitsgruppe Datenschutz in der Bundesverwaltung, Arbeitspapier VIII; Arbeitsgruppe Datenschutz in der Bundesverwaltung, Arbeitspapier VII Entwurf 4; Arbeitsgruppe Datenschutz in der Bundesverwaltung, Arbeitspapier V; Arbeitsgruppe Datenschutz in der Bundesverwaltung, Arbeitspapier IV; Arbeitsgruppe Datenschutz in der Bundesverwaltung, Arbeitspapier I. ↵

Art. 13 Abs. 2 Arbeitspapier I, Verwendung der Daten; Arbeitsgruppe Datenschutz in der Bundesverwaltung, Arbeitspapier I, 13; ähnlich auch Arbeitsgruppe Datenschutz in der Bundesverwaltung, Arbeitspapier IV, 17; Arbeitsgruppe Datenschutz in der Bundesverwaltung, Arbeitspapier V, 12. ↵

Art. 21 Abs. 2 Arbeitspapier VII, Verwendung automationsunterstützter Datensammlungen; Arbeitsgruppe Datenschutz in der Bundesverwaltung, Arbeitspapier VII Entwurf 4, 24. ↵

Arbeitsgruppe Datenschutz in der Bundesverwaltung, Arbeitspapier VIII, 11. ↵

Art. (a) Arbeitspapier VIII, Unzulässige Bearbeitungen von Personendaten; Arbeitsgruppe Datenschutz in der Bundesverwaltung, Arbeitspapier VIII, 54. ↵

Arbeitsgruppe Datenschutz in der Bundesverwaltung, Arbeitspapier IV, 17. ↵

Siehe dazu Arbeitsgruppe Datenschutz in der Bundesverwaltung, Arbeitspapier IX. ↵

Richtlinien 1981, 1298–1304. ↵

Forstmoser, 4; Seethaler, in: BSK aDSG, Entstehungsgeschichte des Datenschutzgesetzes N 15. ↵

Ziff. 1 Richtlinien 1981: «Zweck: Bei der Bearbeitung von Personendaten soll der Schutz der Grundrechte, insbesondere der Schutz der Persönlichkeit, gewährleistet sein» (Richtlinien 1981, 1298). ↵

Zum Ganzen Arbeitsgruppe Datenschutz in der Bundesverwaltung, Begleitbericht Richtlinien 1980, 5. ↵

Arbeitsgruppe Datenschutz in der Bundesverwaltung, Begleitbericht Richtlinien 1980, 8. ↵

Siehe dazu BJ, Erläuterungen Richtlinien 1981, 7. ↵

Siehe dazu BJ, Erläuterungen Richtlinien 1981, 7. ↵

BJ, Erläuterungen Richtlinien 1981, 18. ↵

Der Fokus auf die Regelung von Persönlichkeitsprofilen blieb auch im weiteren Verlaufe des Gesetzgebungsprozesses bestehen und manifestierte sich bspw. in Art. 3 lit. d und Art. 11 Abs. 3 aDSG. ↵

EJPD, Erläuternder Bericht 1983, 47–49; Seethaler, in: BSK aDSG, Entstehungsgeschichte des Datenschutzgesetzes N 19. ↵

Zum Ganzen Furgler, 4. ↵

Arbeitsgruppe Datenschutz im Privatbereich, Protokoll vom 21. September 1979, 15. ↵

EJPD, Erläuternder Bericht 1983, 51; Seethaler, in: BSK aDSG, Entstehungsgeschichte des Datenschutzgesetzes N 20. ↵

EJPD, E-DSG 1983. ↵

EJPD, Erläuternder Bericht 1983. ↵

Zum Ganzen EJPD, Erläuternder Bericht 1983, 130. ↵

Botschaft aDSG 1988, 428. ↵

Botschaft aDSG 1988, 430. ↵

Botschaft aDSG 1988, 430. ↵

Botschaft aDSG 1988, 430; Seethaler, in: BSK aDSG, Entstehungsgeschichte des Datenschutzgesetzes N 29. ↵

Seethaler, in: BSK aDSG, Entstehungsgeschichte des Datenschutzgesetzes N 29. ↵

Siehe dazu vorne VII.4.2.a) bei Fn. 1139. ↵

Siehe dazu vorne VII.4.2.a) bei Fn. 1156. ↵

Siehe dazu vorne VII.4.2.a) bei Fn. 1159. ↵

Botschaft aDSG 1988. ↵

Botschaft aDSG 1988, 416. ↵

Botschaft aDSG 1988, 416–417. ↵

Botschaft aDSG 1988, 416–417. ↵

Art. 3 lit. d aDSG 1992. ↵

Art. 13 Abs. 2 lit. c aDSG 1992. ↵

Botschaft aDSG 1988, 447. ↵

Botschaft aDSG 1988, 447. ↵

Botschaft aDSG 1988, 447. ↵

Siehe dazu Botschaft aDSG 1988, 446–447, 461. ↵

Siehe dazu Weber, Karl, 123–141. ↵

Siehe dazu Baggi et al. ↵

Kriz, 25. ↵

Kriz, 29. ↵

Kriz, 32. ↵

Kriz, 32; ähnlich Bürgi-Schmelz, 16. ↵

Bürgi-Schmelz, 16; siehe auch Schweizerischer Wissenschaftsrat, Interview KI, Frage 22. ↵

Schweizerischer Wissenschaftsrat, Interview KI, Frage 3. ↵

Schweizerischer Wissenschaftsrat, Interview KI, Frage 1. ↵

Siehe dazu Kommission des Ständerates, Protokolle der Kommissionssitzungen 1; Kommission des Ständerates, Protokolle der Kommissionssitzungen 2; Kommission des Nationalrates, Protokolle der Kommissionssitzungen 1; Kommission des Nationalrates, Protokolle der Kommissionssitzungen 2. ↵

Siehe dazu Parlamentsdienste: Verhandlungsheft, 88.032 Datenschutzgesetz, <https://​www.​parlament.ch/centers/documents/de/verhandlungen-88032-1988-d-f.pdf> (18.10.2022). ↵

Siehe dazu vorne VII.1. ↵

BBl 1992 III 959. ↵

Motion GPK-SR (98.3529), Erhöhter Schutz für Personendaten bei On-line-Verbindungen, AB SR 1999, 209–212. ↵

Motion RK-SR (00.3000), Erhöhte Transparenz bei der Erhebung von Personendaten, AB SR 2000, Frühjahrssession, Beilagen Ständerat, 134. ↵

EJPD, Teilrevision aDSG 2001, 3–4. ↵

Siehe dazu EJPD, Teilrevision aDSG 2001, 13. ↵

EJPD, Teilrevision aDSG 2001, 23–24 und Vorentwurf, 3, Art. 7b. ↵

Der Wortlaut wurde einzig dahingehend angepasst, dass die Information gemäss Art. 7b VE-DSG 2001 «angemessen» und gemäss Art. 7b E-DSG 2003 «ausdrücklich» erfolgen musste. ↵

E-DSG 2003, 2156–2165. ↵

E-DSG 2003, 2158. ↵

Botschaft aDSG 2003, 2117; siehe auch EJPD, Teilrevision aDSG 2001, Erläuternder Bericht, 13. ↵

Botschaft aDSG 2003, 2134; siehe auch EJPD, Teilrevision aDSG 2001, 23. ↵

Botschaft aDSG 2003, 2134. ↵

Botschaft aDSG 2003, 2117, 2134; siehe auch EJPD, Teilrevision aDSG 2001, 24. ↵

Zum Ganzen AB NR 2005, 1446–1447; AB SR 2005, 1157–1158; AB NR 2006, 135–138; AB SR 2006, 251. ↵

AB NR 2006, 135, 138; AB SR 2006, 251. ↵

Seethaler, in: BSK aDSG, Entstehungsgeschichte des Datenschutzgesetzes N 89. ↵

BBl 2010, 2107–2108; ABl. L 350, 30.12.2008, 60–71. ↵

ABl. L 350, 30.12.2008, 66. ↵

Botschaft Schengener Weiterentwicklung Datenschutz 2009, 6766. ↵

Botschaft Schengener Weiterentwicklung Datenschutz 2009, 6750. ↵

Bolliger et al., 3–5. ↵

Bolliger et al., 4. ↵

Bolliger et al., 23–24. ↵

Bolliger et al., I. ↵

Bolliger et al., 30. ↵

Bolliger et al., 28. ↵

Bolliger et al., 229. ↵

BJ, Normkonzept, 3. ↵

BJ, Normkonzept, 3. ↵

BJ, Normkonzept, 3. ↵

Botschaft DSG 2017, 6954. ↵

BJ, Normkonzept, 3. ↵

Das Normkonzept nimmt Bezug auf den «Modernisierungsentwurf zur Datenschutzkonvention SEV 108» ohne anzugeben, auf welche der verschiedenen Versionen (siehe dazu vorne VII.3.2.d), bei Fn. 1101) verwiesen wird. Das Normkonzept datiert vom 29. Oktober 2014, weshalb davon auszugehen ist, dass der E-SEV Nr. 108+ 2012 VII gemeint ist. ↵

BJ, Normkonzept, 26. ↵

BJ, Normkonzept, 26. ↵

Zum Ganzen BJ, Normkonzept, 26. ↵

BJ, Normkonzept, 24. ↵

BJ, Normkonzept, 24. ↵

Botschaft DSG 2017, 6954; Bundesrat: Der Datenschutz soll gestärkt werden, Medienmitteilung vom 1. April 2015, <https://www.bj.admin.ch/bj/de/home/aktuell/news/2015/ref_2015-04-010.html> (25.10.2022). ↵

Botschaft DSG 2017, 6955; siehe auch Bundesrat: Der Datenschutz soll gestärkt werden, Medienmitteilung vom 1. April 2015, <https://www.bj.admin.ch/bj/de/home/aktuell/news/2015/ref_2015-04-010.html> (25.10.2022). ↵

PwC, 19. ↵

PwC, 29–32, 51. ↵

PwC, 29–30. ↵

PwC, 31. ↵

PwC, 31. ↵

PwC, 29. ↵

PwC, 29, 31. ↵

VE-DSG 2016, 1–48. ↵

Bundesamt für Justiz: Mehr Transparenz und stärkere Kontrolle über die eigenen Daten, Medienmitteilung vom 21. Dezember 2016, <https://www.bj.admin.ch/ejpd/de/home/aktuell/news/2016/2016-12-21.html> (25.10.2022). ↵

VE-DSG 2016, 8. ↵

VE-DSG 2016, 9–10. ↵

BJ, Erläuterungen Vorentwurf, 59. ↵

BJ, Erläuterungen Vorentwurf, 60. ↵

BJ, Erläuterungen Vorentwurf, 60. ↵

BJ, Erläuterungen Vorentwurf, 66. ↵

BJ, Erläuterungen Vorentwurf, 28–30, 58; Dem erläuternden Bericht zum VE-DSG 2016 ist nicht zu entnehmen, auf welche der verschiedenen Entwürfe zur SEV Nr. 108+ (dazu vorne VII.3.2.d)) Bezug genommen wird. Aufgrund des Zeitpunkts der Veröffentlichung der Erläuterungen im Dezember 2016, ist davon auszugehen, dass sich diese auf den E-SEV Nr. 108+ 2016 beziehen. ↵

BJ, Ergebnisse Vernehmlassung Vorentwurf, 5, 30–31, 36–37. ↵

BJ, Ergebnisse Vernehmlassung Vorentwurf, 30. ↵

BJ, Ergebnisse Vernehmlassung Vorentwurf, 31; siehe bspw. sgv, 11–12. ↵

BJ, Ergebnisse Vernehmlassung Vorentwurf, 36; siehe bspw. Economiesuisse, 11; Santésuisse, 11; SBVg; sgv, 13–14; kritisch auch SAV, 12; VUD, 12. ↵

BJ, Ergebnisse Vernehmlassung Vorentwurf, 31; siehe bspw. Economiesuisse, 11; SAV, 9; SBVg, 25. ↵

E-DSG 2017, 7193–7276. ↵

Botschaft DSG 2017, 6941, 6955. ↵

E-DSG 2017, 7215. ↵

Art. 23 Abs. 2 lit. f E-DSG 2017; E-DSG 2017, 7217. ↵

Botschaft DSG 2017, 7056. ↵

Botschaft DSG 2017, 7057–7058. ↵

Botschaft DSG 2017, 7058. ↵

Botschaft DSG 2017, 7058. ↵

Botschaft DSG 2017, 7058. ↵

Botschaft DSG 2017, 7066. ↵

Botschaft DSG 2017, 7061. ↵

Botschaft DSG 2017, 6979. ↵

Aus der Botschaft zum DSG geht nicht hervor, auf welche der verschiedenen Entwürfe zur SEV Nr. 108+ (siehe dazu vorne VII.3.2.d)) Bezug genommen wird. Aufgrund des Zeitpunkts der Veröffentlichung der Botschaft im September 2017 ist davon auszugehen, dass sich diese auf den E-SEV Nr. 108+ 2016 bezieht. ↵

Botschaft DSG 2017, 6994, 7056. ↵

BJ, Erläuterungen SDSG, 4. ↵

Staatspolitische Kommission des Nationalrates: Revision des Datenschutzrechtes in zwei Etappen, Medienmitteilung vom 1. Januar 2018, <https://www.parlament.ch/press-re​lea​ses/​Pages/mm-spk-n-2018-01-12.aspx> (04.05.2021). ↵

Eidgenössischer Datenschutz- und Öffentlichkeitsbeauftragter: Das Schengen-Datenschutzgesetz, SDSG, <https://www.edoeb.admin.ch/edoeb/de/home/datenschutz/po​lizei--verteidigung-und-migration/die-abkommen-von-schengen-und-dublin/Schen​gen-​DSG.html> (18.10.2022). ↵

BJ, Erläuterungen SDSG, 9. ↵

BJ, Erläuterungen SDSG, 15. ↵

BJ, Erläuterungen SDSG, 16. ↵

Art. 1 Abs. 1 SDSG; siehe auch Eidgenössischer Datenschutz- und Öffentlichkeitsbeauftragter: Das Schengen-Datenschutzgesetz, SDSG, <https://www.edoeb.admin.ch/edoeb/de/home/datenschutz/polizei--verteidigung-und-migration/die-abkommen-von-schen​gen-und-dublin/Schengen-DSG.html> (18.10.2022); BJ, Erläuterungen SDSG, 5. ↵

Dazu vorne VII.4.2.d). ↵

BBl 2020, 7669; siehe auch BJ, Erläuterungen SDSG, 4. ↵

Zum Ganzen SPK-N, Sitzungsprotokoll vom 31.01.2019 und 01.02.2019, 39. ↵

SPK-N, Sitzungsprotokoll vom 31.01.2019 und 01.02.2019, 40. ↵

SPK-N, Sitzungsprotokoll vom 31.01.2019 und 01.02.2019, 40. ↵

SPK-N, Sitzungsprotokoll vom 31.01.2019 und 01.02.2019, 39. ↵

Zum Ganzen SPK-N, Sitzungsprotokoll vom 31.01.2019 und 01.02.2019, 40. ↵

AB NR 2019, 1810; AB SR 2019, 1244. ↵

SPK-N, Sitzungsprotokoll vom 31.01.2019 und 01.02.2019, 40. ↵

SPK-N, Sitzungsprotokoll vom 31.01.2019 und 01.02.2019, 39. ↵

SPK-S, Sitzungsprotokoll vom 18./19.11.2019, 56. ↵

SPK-S, Sitzungsprotokoll vom 18./19.11.2019, 56. ↵

AB SR 2019, 1244. ↵

AB NR 2019, 1817–1818 (Hervorhebung hinzugefügt). ↵

Zum Ganzen SPK-N, Sitzungsprotokoll vom 23./24.05.2019, 5. ↵

SPK-N, Sitzungsprotokoll vom 23./24.05.2019, 3–4. ↵

SPK-N, Sitzungsprotokoll vom 23./24.05.2019, 5; AB NR 2019, 1817. ↵

Siehe dazu SPK-N, Sitzungsprotokoll vom 23./24.05.2019, 3–5. ↵

SPK-S, Sitzungsprotokoll vom 18./19.11.2019, 23–24. ↵

SPK-S, Sitzungsprotokoll vom 18./19.11.2019, 24. ↵

AB SR 2019, 1245. ↵

Zum Ganzen SPK-N, Sitzungsprotokoll vom 23./24.01.2020, 16. ↵

SPK-N, Sitzungsprotokoll vom 23./24.01.2020, 16. ↵

SPK-N, Sitzungsprotokoll vom 23./24.01.2020, 16. ↵

AB NR 2020, 152. ↵

AB NR 2020, 150. ↵

Art. 5 lit. f und g DSG. ↵

Zum Ganzen SDA: Debatte im Ständerat, Medienmitteilung vom 24. September 2020, <https://​www.​parlament.ch/de/ratsbetrieb/suche-curia-vista/geschaeft?Affair​Id=​2017​0059> (26.10.2022); SDA: Debatte im Ständerat, Medienmitteilung vom 23. September 2020, <https://www.parlament.ch/de/ratsbetrieb/suche-curia-vista/geschaeft?Affair​Id=​20170​059> (26.10.2022); SDA: Debatte im Nationalrat, Medienmitteilung vom 17. September 2020, <https://www.parlament.ch/de/ratsbetrieb/suche-curia-vista/gescha​eft?​Affair​Id=​2017​0059> (26.10.2022). ↵

SDA: Debatte im Ständerat, Medienmitteilung vom 24. September 2020, <https://​www.​parlament.ch/de/ratsbetrieb/suche-curia-vista/geschaeft?AffairId=20170059> (26.10.2022); siehe auch AB NR 2020, 1954; AB SR 2020, 1069. ↵

Vorlage der Redaktionskommission, 11. ↵

Bundesrat/Eidgenössisches Justiz- und Polizeidepartement/Bundesamt für Justiz: Revision der Datenschutzverordnung: Bundesrat eröffnet Vernehmlassung, Medienmitteilung vom 23. Juni 2021, <https://www.bj.admin.ch/bj/de/home/aktuell/mm.msg-id-84103.html> (25.10.2022). ↵

E-VDSG 2021, 1–83. ↵

Bundesrat: Neues Datenschutzrecht ab 1. September 2023, Medienmitteilung vom 31. August 2022, <https://www.admin.ch/gov/de/start/dokumentation/medienmitteilun​gen.​msg-​id-90134.html> (23.10.2022). ↵

Siehe dazu Botschaft DSG 2017, 7056. ↵

E-VDSG 2021, 8. ↵

BJ, Erläuterungen Vernehmlassung VDSG, 31. ↵

E-VDSG 2021, 7. ↵

BJ, Erläuterungen Vernehmlassung VDSG, 30. ↵

Siehe dazu BJ, Ergebnisse Vernehmlassung VDSG, 50–51. ↵

siehe dazu BJ, Erläuternder Bericht DSV, 37. ↵

BJ, Erläuternder Bericht DSV, 37. ↵

BJ, Erläuternder Bericht DSV, 19. ↵

Bundesrat: Neues Datenschutzrecht ab 1. September 2023, Medienmitteilung vom 31. August 2022, <https://www.admin.ch/gov/de/start/dokumentation/medienmitteilungen.​msg-​id-90134.html> (23.10.2022). ↵

8

Ziele der Regulierung automatisierter Entscheidungen

Regelungsziele in Frankreich

Die vorangehende historische Aufarbeitung zeigt auf, dass die ersten französischen Regelungen zur automatisierten Entscheidungsfällung wesentlich vom Rapport Tricot und den dort angeführten Einschätzungen, dem GAMIN-Projekt, den damaligen Entwicklungen und Möglichkeiten automatisierter Personalentscheidungen sowie automatisiert berechneter Gefährlichkeitskoeffizienten für Straftäter geprägt waren.[1] Es ist anzunehmen, dass ein wesentliches Ziel des französischen Verbots von Entscheidungen, die eine Beurteilung des menschlichen Verhaltens beinhalten und welche (ausschliesslich) auf einer zu einem Persönlichkeitsprofil beruhenden Datenbearbeitung beruhen, darin bestand, den Einsatz technischer Hilfsmittel auf die blosse Entscheidungsunterstützung einzuschränken. Dies erfolgte, um dem Risiko der zu starken Gewichtung von Computerergebnissen zu begegnen und negative Auswirkungen, wie bspw. langfristige Klassifizierungen, für die betroffene Person zu verhindern.[2] Damit zusammenhängend sollte gleichzeitig sichergestellt werden, dass in all denjenigen Bereichen, in welchen Feingefühl erforderlich ist, weiterhin ein Mensch entscheidet.[3]

Im Verlaufe des Gesetzgebungsprozesses gewann zudem der Zweck, zu verhindern, dass sich der Mensch aus der Verantwortung ziehen kann, indem er eine Entscheidung an eine Maschine delegiert, an Bedeutung.[4] Ganz grundsätzlich wurde befürchtet, dass der Computer über den Menschen urteilt.[5] Das Abstützen auf die Definition der Persönlichkeit oder des Profils einer betroffenen Person deutet zudem darauf hin, dass mit der Regelung in Art. 2 LIFL 1978 zu einem gewissen Masse auch das Profiling reguliert werden sollte. Es ging mithin bei Art. 2 LIFL 1978 im Vordergrund darum, wie Computer zur Entscheidungsfindung eingesetzt werden dürfen. Die Frage, welche Datenbearbeitungsarten einer Entscheidung zugrunde liegen dürfen, spielte dabei immerhin insofern eine Rolle, als der Anwendungsbereich von Art. 2 LIFL 1978 an die einer solchen Entscheidung zugrundeliegende Datenbearbeitung anknüpfte.

Es ist zudem davon auszugehen, dass das ebenfalls ins französische Datenschutzgesetz in Art. 3 LIFL 1978 aufgenommene Auskunftsrecht über die Verarbeitungsergebnisse sowie insbesondere auch über deren Hintergründe bzw. die Logik der automatisierten Entscheidungsfällung bezweckte, Transparenz zu schaffen, damit bei der Entscheidungsfällung nur Faktoren berücksichtigt werden, die notwendig sind und rechtmässig verwendet werden dürfen.

Mit Blick auf Systeme zur automatisierten Entscheidungsfällung und deren zugrundeliegende Datenbearbeitung ergibt sich aus dem Rapport Tricot sodann die Befürchtung, dass veraltete Daten oder falsch verstandene Zusammenhänge in eine (automatisierte) Entscheidung einfliessen könnten.[6] Ebenso wurden im Gesetzgebungsprozess Vorbehalte betreffend Entscheidungen vorgebracht, welche gestützt auf Persönlichkeitsprofile getroffen werden, die auf umfassenden Datensammlungen basieren.[7] Abgesehen von den Befürchtungen der Entmenschlichung und der Delegation der Entscheidungsverantwortung sollte mit den Regelungen zur automatisierten Entscheidungsfällung im LIFL 1978 auch bezweckt werden, deren zugrundeliegende Datenbearbeitung, insbesondere die Verwendung möglicherweise falscher oder veralteter Daten für eine Entscheidung zu verhindern sowie das Abstellen auf Persönlichkeitsprofile einzuschränken.

Regelungsziele in der EU

Datenschutzrichtlinie vom 24. Oktober 1995

Bei der im ersten Entwurf für eine DSRL vorgesehenen Regelung zur automatisierten Entscheidungsfällung[8] legte der Richtliniengeber den Fokus darauf, dass die betroffene Person davor geschützt werden soll, Gegenstand einer automatisierten Entscheidung zu sein, und brachte zum Ausdruck, dass die vorgesehene Regelung die Beteiligung der betroffenen Person an sie betreffenden Entscheidungen sicherstellen solle.[9] Zu Beginn ging es dem EU-Richtliniengeber entsprechend darum, die betroffene Person vor den Folgen der automatisierten Entscheidungsfällung und der Gefahr, dass sie zum blossen Objekt einer computergenerierten Bewertung ihrer Persönlichkeit wird, zu schützen sowie ihre Beteiligung an den wichtigen sie betreffenden Entscheidungen sicherzustellen.[10] Dieses Ziel sollte erreicht werden, indem der betroffenen Person die Möglichkeit eingeräumt wurde, auf die sie betreffenden automatisierten Entscheidungen Einfluss nehmen bzw. die automatisierte Entscheidungsfällung ablehnen zu können.[11]

Im darauffolgenden Entwurf wurde die Gefahr der missbräuchlichen Verwendung der Informatik bei der Entscheidungsfindung als eine der Hauptgefahren der Zukunft hervorgehoben und als Grund für das geplante Verbot automatisierter Entscheidungen angegeben.[12] Es wurden neu die Bedenken geäussert, dass der menschliche Entscheidungsträger dem scheinbar objektiven und unbestreitbaren Charakter eines maschinell gelieferten Ergebnisses übermässige Bedeutung zukommen lassen könnte.[13] Damit kam im Verlaufe des Gesetzgebungsprozesses der Gedanke dazu, dass die die Persönlichkeitsrechte eines Einzelnen berührenden Entscheidungen stets von einer natürlichen Person verantwortet werden müssen und nicht einem Computerprogramm überlassen werden dürfen.[14] Es ging bei Art. 15 DSRL somit im Wesentlichen nicht nur um die Sicherstellung einer ausreichenden Beteiligung der betroffenen Person, sondern auch um die persönliche bzw. menschliche Verantwortung für zu treffende Entscheidungen.[15]

Darüber hinaus ergibt sich aus den Materialien mit Blick auf das in Art. 12 DSRL enthaltene Auskunftsrecht, dass dieses eine zusätzliche Sicherung im Falle von automatisierten Entscheidungen, deren Ergebnisse den Interessen der betroffenen Person entgegenstehen, zum Ziel hatte.[16] Es ging dabei im Kern um die Erhöhung der Transparenz der Vorgänge, Bewertungen und Berechnungen, auf deren Grundlage automatisierte Entscheidungen getroffen werden, sowie um die Stärkung der Rechte der betroffenen Person, indem diese in die Lage versetzt wird, automatisierte Entscheidungsabläufe nachzuvollziehen und zu verstehen.[17]

Wie bereits das französische Vorbild befasste sich die Regelung in Art. 15 DSRL damit primär nicht mit der Frage, ob die der Entscheidung zugrundeliegenden Daten verarbeitet werden dürfen, sondern hauptsächlich mit der Art und Weise, wie eine Entscheidung gefällt wird.[18] Ebenfalls nur am Rande wurde das Konzept der informationellen Selbstbestimmung angesprochen.[19] Damit verliess die DSRL den klassischen Regelungsbereich der damaligen Datenschutzgesetze, welche sich auf den Schutz vor der Bearbeitung zu vieler oder unrichtiger Informationen sowie vor technischen Risiken der automatisierten Datenbearbeitung konzentrierten.[20] Dies markierte deutlich die Entwicklung der DSRL in Richtung eines umfassenden Schutzes der Grundrechte und -freiheiten.[21]

Datenschutz-Grundverordnung vom 27. April 2016

Vorbemerkungen

Aus dem im Januar 2010 veröffentlichten Schlussbericht der vergleichenden Studie über die verschiedenen Ansätze zur Bewältigung neuer Herausforderungen für den Schutz der Privatsphäre, insbesondere aufgrund der technologischen Entwicklung, ergibt sich die Befürchtung, dass «immer häufigere und zunehmend automatische Analysen einer immer grösseren Zahl an immer noch leichter zugänglichen Daten drohen, die Menschen zu blossen Objekten zu machen, die auf der Grundlage von computergenerierten ‹Profilen›, Wahrscheinlichkeiten und Vorhersagen behandelt (und sogar diskriminiert) werden und die dabei nur geringe oder keine Möglichkeiten haben, sich gegen die zugrundeliegenden Algorithmen zur Wehr zu setzen.»[22] Es bestehe das Risiko, dass Entscheidungen von grosser Tragweite zunehmend getroffen würden, weil das so im Computer stehe, ohne dass die die Entscheidung umsetzenden Personen deren Grund vollständig erklären können. Mit den neuen Technologien können die Machtverhältnisse von der Einzelperson in Richtung derer verschoben werden, die über die Daten der Einzelperson verfügen. Den Begriffen «Datensubjekt» und «Datenkontrolleur/-in» komme damit eine tiefere, düsterere Bedeutung zu. Ebenso sei die uneingeschränkte Nutzung der neuen Technologien geeignet, die demokratische Gesellschaft zu unterminieren.[23]

Nach wie vor wurde somit aufgrund der verbesserten technologischen Möglichkeiten und der damit einhergehenden Entwicklungen befürchtet, dass der Mensch zum blossen Objekt einer Datenbearbeitung werden könnte, sich nicht gegen diese wehren kann und blind auf die Ergebnisse des Computers vertraut werde. Es fällt auf, dass sich diese Ausführungen im Vergleich zu den in den Materialien zu Art. 15 DSRL enthaltenen Befürchtungen betreffend die automatisierte Entscheidungsfällung nicht gross verändert haben. Wirklich neu ist nur die Befürchtung, dass die neuen Technologien die demokratische Gesellschaft zu unterminieren vermögen.

Nebst diesen Befürchtungen, welche zwei Jahre vor der Veröffentlichung des E-DSGVO 2012 geäussert wurden, lassen sich den DSGVO-Gesetzgebungsmaterialien, im Gegensatz zu denjenigen zur DSRL, keine vertieften Erläuterungen zu den konkreten Hintergründen oder dem Regelungszweck der in der DSGVO enthaltenen Bestimmungen zur automatisierten Entscheidungsfällung entnehmen.[24] Der Verordnungsgeber hat im Verlaufe des Gesetzgebungsprozesses keine Rechenschaft darüber abgegeben, welche Ziele mit den Regelungen automatisierter Entscheidungen verfolgt werden.[25] Aus dem Wortlaut von Art. 22 DSGVO sowie von Erwägungsgrund 71 der DSGVO lässt sich immerhin ableiten, dass es dem Verordnungsgeber darum ging, dass die betroffene Person nicht ohne Weiteres einer automatisierten Entscheidung unterworfen wird, die sich erheblich auf sie auswirken kann. Gleichzeitig ergibt sich aus Erwägungsgrund 71, dass der betroffenen Person im Falle der ausnahmsweisen Zulässigkeit einer automatisierten Entscheidung Massnahmen zu ihrem Schutz zur Verfügung gestellt werden sollen. Mit Art. 22 DSGVO hat der Verordnungsgeber somit erneut zum Ausdruck gebracht, dass er in der automatisierten Entscheidungsfällung ein besonders hohes Risiko- und Gefährdungspotenzial für die betroffene Person sieht.[26] Welche Risiken dies genau sind, dazu hat sich der Verordnungsgeber jedoch nicht wirklich geäussert. Aus Erwägungsgrund 71 ergibt sich diesbezüglich zumindest die Befürchtung, dass bei der Entscheidungsfindung auf gewisse geschützte Merkmale abgestellt oder die betroffene Person unfair behandelt wird. Die fehlenden Ausführungen, welche Risiken angesprochen sind, erwecken den Eindruck, dass diese Ansicht mehr oder weniger ungeprüft aus der DSRL übernommen worden ist.

Verhindern, dass jemand zum Objekt einer automatisierten Entscheidung wird

Aus den als angemessen angesehenen Massnahmen (Information der betroffenen Person, Anspruch auf direktes Eingreifen einer Person, auf Darlegung des eigenen Standpunkts sowie auf Erläuterung der Entscheidung und Recht auf Anfechtung der Entscheidung) lässt sich folgern, dass betreffend Art. 22 DSGVO und die in Art. 13-15 DSGVO enthaltenen Informationspflichten und Auskunftsrechte zur automatisierten Entscheidungsfällung ähnliche Befürchtungen eine Rolle spielten, wie sie bereits im Zusammenhang mit Art. 15 DSRL geäussert wurden.[27] In diesem Sinne geht auch die Lehre davon aus, dass mit den in der DSGVO enthaltenen ADM-Regelungen die betroffene Person davor geschützt werden sollte, zum blossen Objekt einer ohne menschliches Eingreifen erstellten algorithmenbasierten Entscheidung zu werden.[28] Ebenso wie seine Vorgängernorm soll durch Art. 22 DSGVO gewährleistet werden, dass Fragen, welche das Leben Einzelner beeinflussen können, nicht allein durch eine Maschine entschieden oder bewertet werden.[29] Die Bestimmung bezwecke, dass die inhaltliche Verantwortung für den Einzelnen belastende Wertentscheidungen immer bei einer natürlichen Person liege[30] und dass die ungeprüfte Unterwerfung einer Person unter die Entscheidung einer Maschine verhindert werde.[31] Im Vordergrund steht damit auch bei Art. 22 DSGVO nicht die Datenverarbeitung an sich, sondern vielmehr der Schutz vor beeinträchtigenden Wirkungen im Nachgang einer automatisierten Datenbearbeitung, d.h. vor den Entscheidungskonsequenzen für den Einzelnen.[32] Wie bereits Art. 2 LIFL 1978 und Art. 15 DSRL hat auch das in der DSGVO vorgesehene Verbot automatisierter Entscheidungen somit keinen originären datenschutzrechtlichen Zweck, sondern es geht im Kern um die Art der Entscheidungsfällung und deren Folgen.[33]

Schutz vor den (Diskriminierungs‑)Risiken automatisierter Entscheidungen

Welche Risiken für die betroffene Person mit der automatisierten Entscheidungsfällung einhergehen, ergibt sich nicht aus den Materialien. Die vom Verordnungsgeber im Zusammenhang mit automatisierten Entscheidungen möglicherweise befürchteten Risiken, ergeben sich einzig aus Erwägungsgrund 71 DSGVO. In diesem wurde festgehalten, dass mit Blick auf automatisierte Entscheidungen eine faire und transparente Verarbeitung gewährleistet und sichergestellt werden soll, dass Faktoren, die zu unrichtigen personenbezogenen Daten führen, korrigiert werden sowie das Risiko von Fehlern minimiert und den potenziellen Bedrohungen für die Interessen und Rechte der betroffenen Person Rechnung getragen wird. Insbesondere solle verhindert werden, dass die betroffene Person im Rahmen einer solchen Datenbearbeitung aufgrund von Rasse, ethnischer Herkunft, politischer Meinung, Religion oder Weltanschauung, Gewerkschaftszugehörigkeit, genetischen Anlagen oder Gesundheitszustand sowie sexueller Orientierung diskriminiert wird.

Der Verordnungsgeber befürchtete somit, dass automatisierte Entscheidungen zu unfairen Datenbearbeitungen oder diskriminierenden Behandlungen führen sowie dass entsprechende Entscheidungen auf falschen Daten beruhen könnten. Auch wenn die Regelungen automatisierter Entscheidungen in der DSGVO Diskriminierungen nicht direkt verbieten, bezwecken sie zumindest ein Stück weit, dass Diskriminierungs- und Fairnessaspekte im datenschutzrechtlichen Kontext zu einem gewissen Mass dennoch Berücksichtigung finden.[34] Diesbezüglich ist anzumerken, dass sich weder Erwägungsgrund 71 DSGVO noch den Materialien entnehmen lässt, inwiefern sich automatisierte Entscheidungen in dieser Hinsicht von menschlichen Entscheidungen unterscheiden.

Ob die in Art. 13-15 DSGVO enthaltenen Betroffenenrechte bei der automatisierten Entscheidungsfällung über das Instrument der Nachvollziehbarkeit (dazu sogleich) teilweise auch einen Diskriminierungsschutz bezwecken sollen, ist zu bezweifeln, zumal die diesbezüglich vorgesehenen Regelungen im Verlauf des Gesetzgebungsprozesses gestrichen wurden. Ebenso ist fraglich, ob dies Aufgabe des Datenschutzrechts ist. Nichtsdestotrotz gibt die DSGVO den Betroffenen mit diesen Bestimmungen, insbesondere mit der Auskunft über die Logik sowie die Tragweite und die angestrebten Auswirkungen einer automatisierten Entscheidung nach Art. 15 Abs. 1 lit. h DSGVO, gewisse Instrumente in die Hand, Diskriminierungsfälle aufzudecken oder Diskriminierungsrisiken vorab zu minimieren.[35]

Transparenz, Fairness und Richtigkeit automatisierter Entscheidungen

Aus Erwägungsgrund 71 ergibt sich zudem, dass es dem Verordnungsgeber zu einem gewissen Masse auch um die Sicherstellung der Transparenz automatisierter Entscheidungen ging. Die geforderte Transparenz gewährleisten dabei die in Art. 13-15 DSGVO enthaltenen Informations- und Auskunftspflichten zur automatisierten Entscheidungsfällung. Nur wer darüber Bescheid weiss, welche seiner Daten zu welchem Zweck und von wem verarbeitet werden, kann seine eigenen Rechte mit Blick auf den Datenschutz wahrnehmen und prüfen, ob diese Daten korrekt sind.[36] Dies gilt für die Datenbearbeitung an sich, aber auch spezifisch im Zusammenhang mit der automatisierten Entscheidungsfällung. Transparenz ist auch ein wesentlicher Grundstein, um die Wahrung des informationellen Selbstbestimmungsrechts des Einzelnen sicherzustellen,[37] weshalb zumindest die in der DSGVO enthaltenen Informations- und Auskunftspflichten im Zusammenhang mit der automatisierten Entscheidungsfällung in der Lehre als Ausdruck des informationellen Selbstbestimmungsrechts angesehen werden: Lebt der Einzelne in permanenter Unsicherheit, welche personenbezogenen Daten ein Algorithmus den ihn betreffenden Entscheidungen zugrunde legt und wie diese Daten verwendet werden, beeinträchtigt dies seine grundrechtlich geschützte Freiheit zur individuellen Selbstentfaltung.[38]

Nur wenn eine betroffene Person darüber informiert wird, dass eine Entscheidung automatisiert gefällt wird,[39] kann sie zudem von ihren weiteren Betroffenenrechten Gebrauch machen.[40] Dasselbe gilt auch hinsichtlich des Auskunftsrechts nach Art. 15 Abs. 1 lit. h DSGVO, welches sicherstellen soll, dass die betroffene Person sich bewusst ist, welche Daten, die sie betreffen, verarbeitet werden.[41] Die weiterführenden Informationen zu einer automatisierten Entscheidung ermöglichen dem Betroffenen denn auch, die Nachvollziehbarkeit und Richtigkeit dieser Entscheidung grob einzuschätzen und, falls bspw. eine diskriminierende Behandlung vermutet wird, weitere Rechte geltend zu machen.[42]

Aufgrund dieser Folgen sowie der Bemerkungen in Erwägungsgrund 71 DSGVO ist davon auszugehen, dass es dem Verordnungsgeber neben der Transparenz auch zu einem gewissen Masse um Fairness[43] und damit zusammenhängend um eine Richtigkeits- und Plausibilitätskontrolle[44] sowie um die Stärkung der Betroffenenrechte ging. Darin spiegeln sich wiederum die bereits zu Art. 15 DSRL vorgebrachten Bestrebungen, dass die betroffene Person sich an den wichtigen sie betreffenden Entscheidungen beteiligen und auf diese Einfluss nehmen kann.

Regelungsziele des Europarates

Verhindern, dass jemand zum Objekt einer automatisierten Entscheidung wird

Im Rahmen des Modernisierungsprozesses der SEV Nr. 108 führte der Europarat, im Zusammenhang mit automatisierten Entscheidungen, (ebenfalls) die Befürchtung an, dass eine Person zum blossen Objekt eines computergenerierten Profils und dessen Wahrscheinlichkeiten und Vorhersagen werden kann.[45] Gleichzeitig wurden die Bedenken geäussert, dass ohne einen angemessenen Datenschutz auch Entscheidungen von erheblicher Tragweite vermehrt deshalb getroffen werden, weil blind auf die Ergebnisse eines Computers vertraut werde, ohne dass die Beamten oder Angestellten, die die Entscheidung treffen, in der Lage seien, die Gründe dafür vollständig zu erläutern.[46] Bereits anhand dieser im Zusammenhang mit dem Profiling und automatisierten Entscheidungen geäusserten Befürchtungen zeigt sich, dass auch im Europarat ähnliche Bedenken und damit auch ähnliche Zwecke eine Rolle spielen, wie sie auch in Frankreich und in der EU zur automatisierten Entscheidungsfällung vorgebracht worden sind.

Die Übernahme des Verbots der automatisierten Entscheidungen in die modernisierte Konvention SEV Nr. 108 bezweckt somit, wie bereits die diesbezüglichen Regelungen in Frankreich und der EU, zu verhindern, dass Einzelne zum Objekt von Computerberechnungen werden und dass entsprechenden, möglicherweise nicht nachvollziehbaren Resultaten zu viel Gewicht gegeben wird. Hierzu ist anzumerken, dass die soeben angeführten Befürchtungen des Europarates im Wesentlichen fast wortwörtlich aus der von der Europäischen Kommission in Auftrag gegebenen vergleichenden Studie vom Januar 2010 (LRDP KANTOR Ltd/Centre for Public Reform) übernommen wurden, auf welche denn auch explizit verwiesen wurde.

Negative Folgen automatisierter Entscheidungen verhindern

Die Entstehungsgeschichte der Konvention SEV Nr. 108+ zeigt, dass die ersten Empfehlungen zur Regulierung automatisierter Entscheidungen auf Stufe des Europarates auch auf den Befürchtungen basierten, dass Personen durch Profilingvorgänge kategorisiert und auf ihr digitales Abbild reduziert werden könnten.[47] Hinzu kam die Befürchtung, dass auf Profiling basierende (automatisierte) Entscheidungen für vereinzelte Personen zu ungerechtfertigten Folgen und Beeinträchtigungen, mithin zu negativen Auswirkungen, führen können. Dies bspw. indem diese von bestimmten Gütern ausgeschlossen oder von ihnen höhere Preise verlangt würden.[48] Ein Profiling umfasste gemäss der Definition des Europarates insbesondere auch darauf basierende Entscheidungen oder hatte die Bildung von Grundlagen für individuelle Entscheidungen zum Zweck.[49] Gleichzeitig wurde davon ausgegangen, dass sich die Gefahren des Profilings durch anschliessend darauf gestützte Entscheidungen verschärfen würden.[50] Auch wenn diese Befürchtungen vom Europarat teilweise im Zusammenhang mit dem Profiling vorgebracht wurden, galten sie deshalb auch für darauf gestützte (automatisierte) Entscheidungen.

Die Befürchtungen, dass Personen durch die Anwendung algorithmischer Überlegungen stigmatisiert und dadurch in ihren Rechten oder ihrem Zugang zu gewissen Leistungen eingeschränkt werden können, finden sich nochmals ausdrücklich im erläuternden Bericht zum Zusatzprotokoll SEV Nr. 223.[51]

Schutz der Menschenwürde

Im Rahmen der Modernisierung der Konvention SEV Nr. 108 wurde sodann allgemein zum Verhältnis von Datenschutz und Menschenwürde vorgebracht, dass der Mensch ein Subjekt sei und nicht zu einem blossen Objekt der Überwachung und Kontrolle durch einen anderen reduziert werden könne.[52] Der Achtung der Menschenwürde stehe insbesondere der Gedanke nahe, dass der Mensch nicht der Maschine unterworfen werden dürfe, sondern dass diese ihm vielmehr zu Diensten sein müsse, denn die Maschine könne die Grundwerte des Einzelnen untergraben.[53] Dieser Fokus auf die Menschenwürde hat seinen Ursprung zumindest zu einem Teil in den mit der automatisierten Entscheidungsfällung einhergehenden Befürchtungen. So wurde die Aufnahme der Menschenwürde in die Präambel der modernisierten Konvention SEV Nr. 108+ im Entwurf für den erläuternden Bericht ursprünglich damit begründet, dass automatisierte Entscheidungen nicht getroffen werden sollen, ohne dass der Einzelne das Recht habe, seine Meinung zu äussern.[54] Diesbezüglich ergibt sich aus den Materialien zudem, dass es dem Europarat auch darum ging, dass dem Einzelnen die Möglichkeit geboten werde, auf unrichtige Daten und die Irrelevanz des verwendeten Profils aufmerksam machen zu können.[55] Daraus lässt sich schliessen, dass die Erweiterung des Rechts der betroffenen Person, nicht einer automatisierten Entscheidung unterworfen zu werfen, um den Passus «ohne dass ihre Ansichten berücksichtigt werden» bezweckt, die Würde eines jeden Einzelnen zu schützen, indem ihm ein gewisses Mass an Kontrolle zurückgegeben wird.[56] Es geht mithin darum, der betroffenen Person die Einflussnahme auf sie betreffende Entscheidungen, die sich erheblich auf sie auswirken können, zu ermöglichen.

Transparenz automatisierter Entscheidungen

Voraussetzung dafür, dass die betroffene Person von ihren Rechten betreffend die automatisierte Entscheidungsfällung Gebrauch machen kann, ist das Wissen um diese. Dies war auch dem Europarat klar. So wurde im Verlaufe des Modernisierungsprozesses diverse Male angeführt, dass diese Rechte nur wirksam geltend gemacht werden können, wenn die betroffene Person Kenntnis erhält über die Logik einer Datenbearbeitung, die verwendet wurde, um ein Profil oder Schlussfolgerungen über diese Person zu erstellen sowie eine darauf gestützte Entscheidung zu treffen.[57] Das Auskunftsrecht über die Gründe, die der Datenverarbeitung zugrunde liegen, wenn die Ergebnisse einer solchen Verarbeitung auf sie angewendet werden, bezweckt entsprechend die Sicherstellung der Möglichkeit zur Durchsetzung der in der SEV Nr. 108+ vorgesehenen weiteren Rechte zur automatisierten Entscheidungsfällung. Es geht damit wie bei den Vorbild-Regelungen der EU darum, die notwendige Transparenz (der Datenbearbeitung) zu schaffen und dadurch die Rechte der betroffenen Personen zu stärken.[58]

Würdigung

Während mit der Bezugnahme auf das Risiko der Beeinträchtigung der Menschenwürde durch die automatisierte Entscheidungsfällung vom Europarat ein neuer Aspekt beleuchtet wurde, finden sich in den Materialien zur Modernisierung der Konvention ansonsten dieselben Befürchtungen, die bereits im Zusammenhang mit den diesbezüglichen französischen und EU-Regelungen geäussert wurden. Dies überrascht jedoch nicht, zumal Art. 15 DSRL klar als Vorbild für die ADM-Regelungen in Art. 9 SEV Nr. 108+ diente und teilweise ausdrücklich auf Materialien der DSGVO Bezug genommen wurde. Darüber hinaus fand die Modernisierung des Übereinkommens im Kontext verschiedener parallel stattfindender Reformen internationaler Datenschutzinstrumente statt, wobei ein Ziel der Modernisierung des Übereinkommens SEV Nr. 108 unter anderem darin lag, die Kohärenz mit der gleichzeitig erfolgten Überarbeitung der EU-Datenschutzgesetzgebung sicherzustellen.[59]

Regelungsziele in der Schweiz

Vorbemerkungen

Die vorgestellte Entstehungsgeschichte des DSG zeigt, dass die Bestrebungen zur Totalrevision des aDSG ihren Ursprung in der technologischen Entwicklung und den damit einhergehenden neuen Gefahren für den Datenschutz und insbesondere für die Privatsphäre eines jeden Einzelnen haben, welchen der Gesetzgeber begegnen wollte.[60] Die Anpassung des Datenschutzgesetzes an die rasante technologische Entwicklung wurde denn auch – neben der Sicherstellung der Europarechtskonformität (dazu sogleich) – zu einer der wesentlichen Zielsetzungen der Revision.[61] Die im totalrevidierten DSG vorgesehenen Neuerungen beruhen auf sieben Leitlinien, an welchen sich die Revisionsarbeiten orientierten. Neben dem technologieneutralen Charakter der Revisionsvorlage, der Modernisierung der Terminologie, der Verbesserung des grenzüberschreitenden Datenverkehrs und der Stärkung der Kontrolle des Beauftragten haben insbesondere auch ein risikobasierter Ansatz, die geplante Präzisierung der Pflichten des Verantwortlichen sowie die Stärkung der Rechte der betroffenen Personen die Revisionsarbeiten geprägt.[62] Daneben stand im Vordergrund der Revisionsarbeiten, dass insgesamt die Transparenz der Datenbearbeitungen erhöht werden soll, um den Datenschutz zu stärken.[63]

Wie im Folgenden[64] gezeigt wird, spielten die Vorgaben des Europarates und der EU mit Blick auf automatisierte Entscheidungen eine wesentliche Rolle für die Aufnahme diesbezüglicher Regelungen ins DSG. Die Erfüllung europarechtlicher Vorgaben ist jedoch lediglich eine politische Zielsetzung, welche sich mit dem Inkrafttreten des DSG verwirklicht. Diese Zielsetzung sagt nichts über die inhaltlich mit den neuen Regelungen angestrebten Zwecke aus, welche im Folgenden genauer analysiert werden. Auch wenn bei der Aufnahme der ADM-Regelungen ins Schweizer Datenschutzrecht die Angleichung an das Recht des Europarates und der EU im Vordergrund stand, können die zu automatisierten Entscheidungen im Europarat und in der EU geäusserten Befürchtungen sowie die mit deren Regelungen verfolgten Ziele nicht einfach ungeprüft für die Schweiz übernommen werden. Vielmehr ist im Folgenden mit Blick auf die Schweizer Gesetzgebungsmaterialien zu klären, welche Gedanken und Befürchtungen den Schweizer Regelungen automatisierter Entscheidungen (inhaltlich) zugrunde liegen und welche Ziele, nebst der bezweckten Angleichung an das Recht des Europarates und der EU, damit (möglicherweise) verfolgt werden.

Diesbezüglich ist jedoch anzumerken, dass die in der Schweiz mit der Regelung automatisierter Entscheidungen verfolgten inhaltlichen Ziele, auch nach intensivem Studium der Gesetzgebungsmaterialien, nicht ohne Weiteres klar sind. Dies liegt wohl hauptsächlich daran, dass der Schweizer Gesetzgeber sich bei der Regelung automatisierter Entscheidungen darauf konzentrierte, die Vorgaben der SEV Nr. 108+ und der DSGVO zu übernehmen, ohne dass diese inhaltlich tatsächlich überprüft worden sind. So findet sich in den Gesetzgebungsmaterialien weder eine Analyse der mit automatisierten Entscheidungen (tatsächlich) einhergehenden Risiken noch wird begründet, weshalb automatisierte Entscheidungen anders zu behandeln sind als menschliche Entscheidungen. Nichtsdestotrotz lassen sich aus den eingangs angeführten Umständen der Revision, den allgemein mit dieser verfolgten Zielen sowie aus einzelnen kurzen Aussagen in den Materialien ein paar inhaltliche Regelungsziele ableiten, welche im Folgenden detailliert vorgestellt werden.

Anpassung an die Regulierung des Europarates und der Europäischen Union

Ein erklärtes Ziel der Totalrevision des aDSG war es, einerseits die Voraussetzungen zu schaffen, damit die Schweiz die modernisierte Datenschutzkonvention SEV Nr. 108+ ratifizieren kann, und andererseits die schweizerische Datenschutzgesetzgebung der EU-Gesetzgebung anzugleichen, um die Angemessenheitsentscheidung der EU nicht zu gefährden.[65] Die Verfolgung dieser Ziele äussert sich mit Blick auf die Regulierung automatisierter Entscheidungen dahingehend, dass in jedem Schritt des Gesetzgebungsprozesses, von der Evaluation des aDSG bis hin zur Botschaft zum DSG im Jahr 2017, entweder auf die zur automatisierten Entscheidungsfällung bestehenden Regelungen der EU und des Europarates verwiesen oder festgehalten wurde, dass die Schweiz ihr Datenschutzrecht diesen Vorgaben anzupassen habe und die geplanten Schweizer Regelungen diesen Anforderungen entsprechen würden.[66] Auch wenn die Anpassung des aDSG an die technologische Entwicklung ebenfalls eine Zielsetzung der Totalrevision war,[67] weckt dieser starke Fokus auf die europäischen Rahmenbedingungen den Eindruck, dass die Tatsache der Regulierung automatisierter Entscheidungen im totalrevidierten DSG insgesamt weniger einem Bedürfnis des Schweizer Gesetzgebers, als den diesbezüglichen Vorgaben des Europarates und der EU geschuldet ist.

Transparenz der Datenbearbeitung und Stärkung der Betroffenenrechte

Dass die Aufnahme einer allgemeinen Informationspflicht die Transparenz der Datenbearbeitung stärkt, wurde in der Botschaft zu Art. 19 DSG (Informationspflicht bei der Beschaffung von Personendaten) ausdrücklich festgehalten. Es wurde darauf hingewiesen, dass die betroffene Person ohne Information nicht erkennen könne, dass Daten über sie bearbeitet werden, und dass sie ihre Rechte gemäss dem DSG nur wahrnehmen könne, wenn ihr eine Datenbearbeitung bekannt sei.[68] Ein solcher ausdrücklicher Hinweis auf die Stärkung der Transparenz fehlt zwar in den Erläuterungen zu Art. 21 DSG. Aus den diesbezüglichen Materialien ergibt sich jedoch, dass zumindest zu Beginn der Revisionsarbeiten befürchtet worden ist, dass eine betroffene Person keine Kenntnis über die Art und Weise einer Entscheidungsfällung erhält.[69] Dieser Befürchtung begegnete der Gesetzgeber mit der Aufnahme einer Informationspflicht. Die Informationspflicht bei vollständig automatisierten Einzelentscheidungen sowie die diesbezüglichen Anhörungs- und Überprüfungsrechte finden sich in der Botschaft sodann bei den Neuerungen betreffend die Erhöhung der Transparenz von Datenbearbeitungen sowie die Verstärkung der Kontrolle der betroffenen Personen.[70] Ebenso hielt die SPK-N anlässlich ihrer Kommissionssitzungen ausdrücklich fest, dass es bei Art. 21 DSG um die Erhöhung der Transparenz der Datenbearbeitung gehe.[71] Entsprechend sollen die in Art. 21 DSG vorgesehenen neuen Rechte und Pflichten, analog Art. 19 DSG, dazu beitragen, die Transparenz der einer automatisierten Entscheidung zugrundeliegenden Datenbearbeitung zu erhöhen und die Rechte der betroffenen Person zu stärken.[72]

Dieselben Motive wie bei der allgemeinen Informationspflicht gelten auch für das in Art. 21 Abs. 2 lit. f DSG vorgesehene Auskunftsrecht der betroffenen Person über das Vorliegen einer automatisierten Einzelentscheidung sowie über die Logik, auf der die Entscheidung beruht: So ergibt sich aus den Materialien ausdrücklich, dass es dem Gesetzgeber bei der Einführung des Auskunftsrechts betreffend automatisierte Einzelentscheidungen und deren zugrundeliegende Logik von Beginn weg darum ging, die Transparenz der Datenbearbeitung zu verbessern.[73] In den Materialien finden sich zudem Hinweise auf die Erwartung, dass die Erweiterung des Auskunftsrechts auf automatisierte Entscheidungen und deren Hintergründe dazu führt, dass diese für betroffene Personen nachvollziehbarer werden, wodurch gleichzeitig deren Bereitschaft, ihre Daten zur Verfügung zu stellen, positiv beeinflusst wird.[74] Auch wenn sich diese Erläuterungen nicht mehr eins zu eins in der Botschaft wiederfinden, wurde das Auskunftsrecht an sich in der Botschaft ebenfalls unter dem Stichwort der Erhöhung der Transparenz von Datenbearbeitungen sowie der Verstärkung der Kontrolle der betroffenen Personen als Neuerung vorgestellt.[75] Ebenso wurde zum Auskunftsrecht explizit ausgeführt, dass dieses die zentrale Grundlage dafür bilde, dass die betroffene Person ihre im Datenschutzgesetz vorgesehenen Rechte wahrnehmen könne.[76] Damit bezweckt auch das die automatisierte Entscheidungsfällung betreffende Auskunftsrecht, die Rechte der betroffenen Person zu stärken und die Transparenz der einer automatisierten Entscheidung zugrundeliegenden Datenbearbeitung zu erhöhen. Zusätzlich dazu kommt zumindest zu einem gewissen Masse der Zweck, automatisierte Entscheidungen für die betroffenen Personen nachvollziehbarer zu machen.[77]

Schutz der betroffenen Person vor den (unklaren) Risiken automatisierter Entscheidungen?

Der vom Gesetzgeber gewählte risikobasierte Ansatz bedeutet, dass sich die Revisionsentwürfe konsequent an den potenziellen Risiken für die betroffenen Personen orientierten. Der Gesetzgeber ging dabei davon aus, dass die Gefahren für die Privatsphäre der betroffenen Personen weitgehend von den Aktivitäten der verschiedenen Verantwortlichen und Auftragsbearbeiter abhängen.[78] Dass automatisierte Entscheidungen mit Risiken für die betroffenen Personen (und deren Privatsphäre) einhergehen, wurde bereits zu Beginn der Revisionsbestrebungen ausdrücklich zum Ausdruck gebracht: Ähnlich wie schon in Frankreich,[79] der EU[80] und im Europarat,[81] wurde der erste Vorschlag zur Regulierung automatisierter Entscheidungen in der Schweiz im Normkonzept zur Revision damit begründet, dass die menschliche Beteiligung an zunehmend automatisiert erfolgenden Entscheidungsprozessen sichergestellt und die potenziellen Risiken solcher Entscheidungen adressiert werden sollten. Der Schweizer Gesetzgeber stand der Entscheidungsfällung durch eine Maschine anstatt durch einen Menschen durchaus skeptisch gegenüber, zumindest in denjenigen Fällen, in denen diese auf einer Bewertung von Persönlichkeitsaspekten der betroffenen Person, mithin einem Profiling, basierten. Als ein potenzielles Risiko für die betroffene Person, vor welchem diese geschützt werden sollte, wurde die fehlende Kenntnis der betroffenen Person über die Art der Entscheidungsfällung angeführt.[82]

Das Argument bezüglich des potenziellen Risikos für eine betroffene Person im Zusammenhang mit einer automatisierten Entscheidung, fehlt im anschliessend an das Normkonzept veröffentlichten erläuternden Bericht zum VE-DSG 2016. Es fand, wenn auch in anderer Form, in gewisser Weise jedoch wieder Eingang in die Botschaft zum E-DSG 2017. Dort wurde zum einen mit Blick auf automatisierte Entscheidungen durch Bundesorgane festgehalten, dass diese zu einem schwerwiegenden Eingriff in die Grundrechte einer betroffenen Person führen können. Zum anderen wurde im Zusammenhang mit der Datenschutz-Folgenabschätzung vermerkt, dass eine automatisierte Entscheidung mit einem hohen Risiko für die betroffene Person einhergehen könne. Nicht mehr angeführt wurde jedoch, dass dieses Risiko insbesondere mit der Bewertung von einzelnen Merkmalen einer Person zusammenhänge. Ebenso wurde in den Erläuterungen zur DSV mit Blick auf die Datensicherheit und den damit zusammenhängenden Schutzbedarf von Personendaten angegeben, dass dieser bspw. bei einer vollständig automatisierten Entscheidung höher sein könne.[83]

Dass der Gesetzgeber in automatisierten Entscheidungen ein erhöhtes Risiko für die betroffene Person sieht, welchem es zu begegnen gilt, ergibt sich zudem bereits aus der Tatsache, dass automatisierte Entscheidungen, unter Verweis auf die technologische Entwicklung und die damit einhergehende Zunahme solcher Entscheidungen, ausdrücklich im totalrevidierten Datenschutzgesetz geregelt wurden. Dies vor dem Hintergrund, dass die Revision wie eingangs dargelegt der technologischen Entwicklung begegnen sollte und sich die Revisionsentwürfe konsequent an den potenziellen Risiken für die betroffenen Personen orientiert haben. Sodann werden von den Regelungen in Art. 21 DSG nur automatisierte Entscheidungen erfasst, welche mit einer rechtlichen Wirkung oder einer erheblichen Beeinträchtigung für die betroffene Person einhergehen, d.h. welche geeignet sind, sich nicht bloss geringfügig auf diese auszuwirken. Damit bezwecken die Regulierungen automatisierter Entscheidungen im DSG zumindest zu einem gewissen Mass, die betroffenen Personen vor aus automatisierten Entscheidungen resultierenden Risiken zu schützen.[84]

Welche Risiken dies genau sind, ergibt sich aus den Materialien nicht ohne Weiteres. Zum einen findet sich in den Materialien keine fundierte Analyse der mit der automatisierten Entscheidungsfällung einhergehenden Risiken.[85] Zum anderen haben sich die mit Blick auf die Regelungen automatisierter Entscheidungen angeführten Befürchtungen im Verlauf des Gesetzgebungsprozesses geändert: Ursprünglich wurde im Normkonzept das Risiko für die betroffene Person grundsätzlich darin gesehen, dass (i) eine Entscheidung durch eine Maschine und nicht einen Menschen gefällt wird, (ii) diese Entscheidung auf der Bewertung einzelner Merkmale einer Person basiert, (iii) dabei gewisse Gesichtspunkte möglicherweise nicht berücksichtigt werden und (iv) die betroffene Person von der Art der Entscheidungsfällung keine Kenntnis erhalten könnte.[86] Ähnlich wie Punkt (iii) wurde in der Regulierungsfolgenabschätzung das Risiko angeführt, dass bei automatisierten Entscheidungen, welche auf das Erkennen gewisser Muster angelegt seien, möglicherweise gewisse Spezialitäten des Einzelfalls nicht erkannt werden.[87] Inwiefern sich diese Punkte negativ auf eine betroffene Person auswirken könnten (oder sich von manuellen Entscheidungen unterscheiden), ergibt sich jedoch weder aus dem Normkonzept noch der Regulierungsfolgenabschätzung.

Ein grosser Teil dieser möglichen «Risiken» automatisierter Entscheidungen, welche oftmals bereits in den 1950er- bis 1970er-Jahren mit Blick auf die automatisierte Entscheidungsfällung geäussert wurden und sich auch in den Materialien zur Regulierung automatisierter Entscheidungen im LIFL 1978 und in der DSRL sowie teilweise in der DSGVO und in der SEV Nr. 108+ finden,[88] wurde vom Gesetzgeber sodann nicht in die anschliessend ausgearbeiteten Materialien übernommen. Lediglich das Argument, dass eine betroffene Person nicht einer Entscheidung unterworfen werden soll, die ohne menschliches Dazutun erfolgt, findet sich noch im erläuternden Bericht zum VE-DSG 2016, fehlt aber in der Botschaft zum E-DSG 2017 gänzlich. Vielmehr wurde im Verlauf des Gesetzgebungsprozesses der Fokus darauf gelegt, dass die einer automatisierten Entscheidung zugrundeliegende Datenbearbeitung auf unvollständigen, veralteten oder unzutreffenden Daten beruhen und deshalb zu einem rechtlichen oder tatsächlichen Nachteil bzw. einer ungerechtfertigten Beeinträchtigung für die betroffene Person führen könnte.[89] Als Beispiel für einen solchen Nachteil wurde die Verweigerung eines Kredits angeführt, wobei sich aus den weiteren Erläuterungen ergibt, dass insgesamt eine Einschränkung der betroffenen Person in wirtschaftlichen oder persönlichen Belangen befürchtet wurde.[90] Damit nahm der Gesetzgeber ein Argument wieder auf, welches er in ähnlicher Art und Weise bereits in den 1970er- und 1980er-Jahren sowie auch in der Botschaft zum aDSG 1992 angeführt hatte, damals jedoch zu Entscheidungen ganz allgemein und nicht zur automatisierten Entscheidungsfällung.[91] Damals fand dieses Argument insofern Eingang ins aDSG 1992, als dass in dessen Art. 5 Abs. 1, welcher heute noch Geltung hat, der Grundsatz der Datenrichtigkeit verankert wurde.[92]

Neben dem Verweis auf die Zunahme automatisierter Entscheidungen aufgrund der technologischen Entwicklung, handelt es sich bei der Befürchtung, dass falsche oder veraltete Daten in eine automatisierte Entscheidung einfliessen könnten, um das einzige Risiko, welches zur Begründung der Regulierung automatisierter Entscheidungen in der Botschaft zum DSG noch angeführt wird. Darüber hinaus ist den Kommissionsprotokollen der SPK-N zu entnehmen, dass auch die Kommissionsmitglieder von einem gewissen Schutzbedürfnis ausgingen, wenn nur noch elektronisch, ohne eine Person mit Entscheidungskompetenzen, entschieden wird. Es wurde jedoch ebenfalls nicht begründet, wovor eine betroffene Person geschützt werden muss.[93]

Damit bleibt unklar, worin der Gesetzgeber das Risiko der automatisierten Entscheidungsfällung für die betroffene Person sieht,[94] zumal falsche oder veraltete Daten auch bei der Entscheidungsfällung durch einen Menschen zu ungerechtfertigten Entscheidungen führen können (wenn auch, aufgrund der regelmässig kleineren Anzahl Entscheidungen, in geringerem Masse). Der Gesetzgeber hat weder Rechenschaft darüber abgelegt, inwiefern sich die (aus dem Abstützen auf falsche oder veraltete Daten resultierenden) nachteiligen Folgen einer automatisierten Entscheidung von den Folgen einer menschlichen Entscheidung unterscheiden, noch weshalb automatisierte und menschliche Entscheidungen in dieser Hinsicht anders zu behandeln sind. Es wird weder erklärt, weshalb die Entscheidungsfällung durch einen Computer an einem höheren Standard gemessen wird als die Entscheidungsfällung durch einen Menschen, noch woher diese grundsätzliche Skepsis gegenüber der «Maschine» stammt. Ebenfalls begründet der Gesetzgeber nicht, inwiefern der Grundsatz der Datenrichtigkeit[95] die Richtigkeit der einer automatisierten Entscheidung zugrundeliegenden Daten nicht zu gewährleisten vermag.

Die vom Gesetzgeber vorgebrachten Befürchtungen betreffend die automatisierte Entscheidungsfällung und deren möglicherweise zugrundeliegenden falschen oder veralteten Daten scheinen auf der Vorstellung zu basieren, der Mensch berücksichtige bei seinen Entscheidungen immer sämtliche relevanten sowie nur aktuelle und richtige Daten und komme so zu besseren Ergebnissen. Dieselbe Vorstellung ergibt sich auch aus dem in Art. 21 Abs. 2 DSG der betroffenen Person eingeräumten Recht, die Überprüfung durch eine natürliche Person verlangen zu können. Dieses Recht impliziert, dass der Mensch bessere Entscheidungen fällt als ein System zur automatisierten Entscheidungsfällung. Dabei handelt es sich jedoch nach der Auffassung der Autorin um eine Illusion, zumal auch der Mensch Fehler macht, seine Entscheidungsqualität nicht zwingend besser oder einzelfallgerechter ist als diejenige eines Algorithmus und auch der Mensch oftmals nicht von vordefinierten Regeln abweichen kann.[96]

Ebenso ist anzumerken, dass diese mit den neuen Regelungen zur automatisierten Entscheidungsfällung vom Gesetzgeber angesprochenen unklaren Risken, welche zum Teil bereits im europäischen Umfeld in ähnlicher (unreflektierter) Weise geäussert worden sind, den Eindruck verstärken, dass die ADM-Vorgaben der SEV Nr. 108+ und der DSGVO in ihren Grundzügen übernommen worden sind, ohne dass dies tatsächlich einem Bedürfnis des Schweizer Gesetzgebers entsprach. Unabhängig davon, welchem Risiko automatisierter Entscheidungen der Schweizer Gesetzgeber letztendlich begegnen wollte, hat er dieses offensichtlich als nicht so hoch eingestuft, dass wie in der EU ein Recht der betroffenen Person, keiner automatisierten Entscheidung unterworfen zu werden, als notwendig angesehen wurde.

Nicht: Richtigkeitskontrolle der einer automatisierten Entscheidung zugrundeliegenden Daten

Trotz des im vorhergehenden Abschnitt Gesagten[97] ergibt sich aus den Gesetzgebungsmaterialien, dass der Gesetzgeber den Zweck der Informationspflicht über automatisierte Entscheidungen und der Gewährung der diesbezüglichen Auskunfts‑, Anhörungs- und Überprüfungspflichten zu einem gewissen Masse darin zu sehen scheint, dass damit eine Richtigkeitskontrolle der einer automatisierten Entscheidung zugrundeliegenden Daten sichergestellt und die betroffene Person vor fehlerhaften und ungerechtfertigten Entscheidungen geschützt werden kann.[98] Eine diesbezügliche Zielsetzung steht zwar im Einklang mit der geplanten Stärkung der Betroffenenrechte und der Erhöhung der Transparenz automatisierter Entscheidungen, vermag jedoch aufgrund der fehlenden Auseinandersetzung des Gesetzgebers mit der Frage, welche Risiken tatsächlich mit der automatisierten Entscheidungsfällung einhergehen, nicht wirklich zu überzeugen. Dies insbesondere vor dem Hintergrund, dass Art. 6 Abs. 5 DSG (wie bereits Art. 5 Abs. 1 Satz 2 aDSG) ausdrücklich festhält, dass der Verantwortliche alle angemessenen Massnahmen treffen muss, damit diejenigen Daten berichtigt, gelöscht oder vernichtet werden, die im Hinblick auf den Zweck ihrer Beschaffung oder Bearbeitung unrichtig oder unvollständig sind.

Die angeführten Befürchtungen, wonach automatisierte Entscheidungen auf falschen Daten beruhen können, wirken zu einem gewissen Mass so, als obliege es der betroffenen Person im Falle der Verwendung falscher oder veralteter Daten für eine automatisierte Entscheidung, von der Möglichkeit, ihren Standpunkt geltend machen zu können, Gebrauch zu machen und eine Berichtigung der einer Entscheidung zugrundeliegenden Daten zu verlangen. Bei der Möglichkeit, zu einer automatisierten Entscheidung Stellung nehmen und deren Überprüfung durch eine natürliche Person verlangen zu können, handelt es sich jedoch klarerweise um ein Recht und nicht um eine Pflicht der betroffenen Person.[99] Die Pflicht, die Richtigkeit der bearbeiteten Daten sicherzustellen, liegt gemäss Art. 6 Abs. 5 DSG beim Verantwortlichen, welcher diese Pflicht nicht mit Verweis auf die erfolgte Information über eine automatisierte Entscheidung und die damit einhergehende Möglichkeit der betroffenen Person, ihren Standpunkt darzustellen, als erledigt ansehen bzw. auf die betroffene Person abwälzen darf. Vielmehr darf der Verantwortliche, wenn er von ihm gespeicherte Personendaten als falsch erkennt, mit deren Berichtigung nicht zuwarten, bis sich jemand beschwert.[100]

Die blosse Information über eine automatisierte Entscheidung sowie die Möglichkeit, den eigenen Standpunkt darzustellen, und das Recht, die Überprüfung durch eine natürliche Person zu verlangen, führen weder zu einem Anspruch auf Berichtigung einer (Fehl‑)Entscheidung noch zum Anspruch auf Berichtigung oder Löschung der verwendeten Daten. Dass eine (Fehl‑)Entscheidung durch den Verantwortlichen nicht abgeändert werden muss, ergibt sich aus dem Grundsatz der Vertragsfreiheit. Dieser gewährt einer Person die Freiheit, im Rahmen der gesetzlichen Bestimmungen selbst zu bestimmen, mit wem und unter welchen Bedingungen sie einen Vertrag abschliessen möchte.[101] Die Vertragsfreiheit soll gemäss den Materialien durch Art. 21 DSG gerade nicht berührt werden.[102] Der Anspruch auf Berichtigung oder Löschung der verwendeten Daten hingegen ist direkt gestützt auf das in Art. 32 DSG enthaltene Berichtigungs- und Löschungsrecht geltend zu machen. Dass mit den neuen Rechten und Pflichten betreffend automatisierte Entscheidungen zu einem gewissen Mass eine Richtigkeitskontrolle der einer automatisierten Entscheidung zugrundeliegenden Daten einhergeht und damit Fehlentscheidungen vermieden werden, kann nach Ansicht der Autorin aufgrund des Gesagten deshalb bloss positiver Nebeneffekt, nicht jedoch das Regelungsziel der neuen ADM-Bestimmungen sein.

Nicht: Verhindern, dass jemand zum Objekt einer automatisierten Entscheidung wird

Darüber hinaus ist nach hier vertretener Meinung davon auszugehen, dass es dem Schweizer Gesetzgeber mit den neuen Regelungen automatisierter Entscheidungen nicht darum ging zu verhindern, dass die betroffene Person zum blossen Objekt einer auf der Grundlage eines computergenerierten Profils erstellten Entscheidung wird.[103] Diese Meinung stützt sich zum einen auf die Tatsache, dass die diesbezüglichen Befürchtungen, insbesondere diejenigen mit Blick auf das Profiling als (notwendige) Grundlage einer automatisierten Entscheidung, bereits früh keinen Eingang mehr in die Materialien gefunden haben. Zum anderen hat sich der Gesetzgeber mit der Informationspflicht sowie den Anhörungs- und Überprüfungsrechten für die Zulässigkeit und gegen ein allgemeines Verbot automatisierter Entscheidungen ausgesprochen. Ebenso hat der Gesetzgeber im Verlaufe des Gesetzgebungsverfahrens Abstand davon genommen, dass nur auf einem Profiling beruhende automatisierte Entscheidungen von den neuen Regelungen erfasst werden.

Zur Entstehungsgeschichte von Art. 2 und Art. 3 LIFL 1978 und die damals angeführten Befürchtungen siehe vorne VII.1.2 sowie die Nachweise in den Fn. 930, 937–940, 951 und 955. ↵

Siehe dazu CIL, Rapport Tricot, 15–17; siehe auch Holleaux, 32. ↵

Siehe dazu Thyraud, 22. ↵

Siehe dazu Thyraud, 22. ↵

Digard/Romnicianu, 32. ↵

CIL, Rapport Tricot, 15, 82. ↵

Foyer, N° 3125, Tome II, 2. ↵

Art. 14 Abs. 2 E-DSRL 1990. ↵

EG Kommission, KOM(90) 314, 31–32. ↵

Dammann/Simitis, Art. 15 DSRL N 2; siehe auch Weber, M., 702. ↵

Siehe auch Tosoni, 150. ↵

EG Kommission, KOM(92) 422, 26. ↵

EG Kommission, KOM(92) 422, 26. ↵

Dammann/Simitis, Art. 15 DSRL N 1; siehe auch Brühann, in: Grabitz/Hilf/Nettesheim, Recht der EU, Art. 15 DSRL N 1. ↵

Dammann/Simitis, Art. 15 DSRL N 1. ↵

EG Kommission, KOM(92) 422, 24. ↵

Brühann, in: Grabitz/Hilf/Nettesheim, Recht der EU, Art. 12 DSRL N 10. ↵

Dammann/Simitis, Art. 15 DSRL N 1; Dinant et al., 12; Bygrave, 17; Mendoza/Bygrave, 79. ↵

Dammann/Simitis, Art. 15 DSRL N 1. ↵

Dammann/Simitis, Art. 15 DSRL N 1; siehe auch Mendoza/Bygrave, 79–80. ↵

Brühann, in: Grabitz/Hilf/Nettesheim, Recht der EU, Art. 15 DSRL N 1. ↵

LRDP KANTOR Ltd/Centre for Public Reform, 21–22. ↵

Zum Ganzen LRDP KANTOR Ltd/Centre for Public Reform, 22. ↵

Mendoza/Bygrave, 83. ↵

Thouvenin/Früh, 8. ↵

Schulz, in: Gola/Heckmann, DSGVO, Art. 22 DSGVO N 1; siehe auch Weichert, in: Däubler et al., Kompaktkommentar DSGVO, Art. 22 DSGVO N 16, wonach die Nutzung des automatisierten Datenauswertungsvorgangs als besonders sensitiv angesehen wird. ↵

Ebenso bereits Mendoza/Bygrave, 83–84. ↵

Buchner, in: Kühling/Buchner, DS-GVO, Art. 22 DSGVO N 1, 11; Martini, in: Paal/Pauly, DS-GVO, Art. 22 DSGVO N 1, 20; Martini/Nink, 681; Scholz, in: Simitis/Hornung/Spiecker genannt Döhmann, Datenschutzrecht, Art. 22 DSGVO N 3; Taeger, in: Taeger/Gabel, DSGVO, Art. 22 DSGVO N 9, m.w.N.; Weichert, in: Däubler et al., Kompaktkommentar DSGVO, Art. 22 DSGVO N 16. ↵

Albrecht/Jotzo, 61; ebenso Abel, 305; Voigt/Bussche, 240; ähnlich Dovas, 98–99; Helfrich, in: Sydow/Marsch, DSGVO, Art. 22 DSGVO N 3. ↵

Scholz, in: Simitis/Hornung/Spiecker genannt Döhmann, Datenschutzrecht, Art. 22 DSGVO N 3; mit Verweis auf Brühann, in: Grabitz/Hilf/Nettesheim, Recht der EU, Art. 15 DSRL N 1; Dammann/Simitis, Art. 15 DSRL N 1–2; siehe auch Buchner, in: Kühling/Buchner, DS-GVO, Art. 22 DSGVO N 11. ↵

Lewinski, in: Brink/Wolff, BeckOK Datenschutzrecht, Art. 22 DSGVO N 2. ↵

Dreyer/Schulz, 18. ↵

Ernst, 1031; siehe auch Scholz, in: Simitis/Hornung/Spiecker genannt Döhmann, Datenschutzrecht, Art. 22 DSGVO N 4, m.w.N. ↵

Daedelow, N 38; Scholz, in: Simitis/Hornung/Spiecker genannt Döhmann, Datenschutzrecht, Art. 22 DSGVO N 3; siehe dazu auch Veil, in: Gierschmann et al., DSGVO, Art. 22 DSGVO N 105–109. ↵

Siehe dazu ausführlich Daedelow, 28–32. ↵

Dreyer/Schulz, 23. ↵

Dreyer/Schulz, 23. ↵

Ernst, 1030, m.w.N. ↵

Art. 13 Abs. 2 lit. f und Art. 14 Abs. 2 lit. g DSGVO. ↵

Knyrim, in: Ehmann/Selmayr, DSGVO, Art. 13 DSGVO N 63. ↵

Ehmann, in: Ehmann/Selmayr, DSGVO, Art. 15 DSGVO N 1. ↵

Dreyer/Schulz, 36. ↵

Scholz, in: Simitis/Hornung/Spiecker genannt Döhmann, Datenschutzrecht, Art. 22 DSGVO N 3. ↵

Lewinski, in: Brink/Wolff, BeckOK Datenschutzrecht, Art. 22 DSGVO N 23. ↵

Terwangne/Moiny/Poullet, 41; mit Verweis auf LRDP KANTOR Ltd/Centre for Public Reform, 21–22. ↵

Terwangne/Moiny/Poullet, 41; mit Verweis auf LRDP KANTOR Ltd/Centre for Public Reform, 21–22. ↵

Siehe dazu vorne VII.3.2.c)i; Dinant et al., 6. ↵

Zum Ganzen Dinant et al., 32–33; COE, CM/Rec(2010)13, 26, 34. ↵

Siehe dazu vorne VII.3.2.c)i; VII.3.2.c)ii; COE, CM/Rec(2010)13, 9; Dinant et al., 5, 26, 32. ↵

Dinant et al., 6, 32. ↵

Siehe dazu COE, Explanatory Report SEV Nr. 223, N 75. ↵

Terwangne/Moiny/Poullet, 16. ↵

Zum Ganzen Terwangne/Moiny/Poullet, 16. ↵

Siehe dazu T-PD, E-SEV Nr. 108+ 2012 II, 8; T-PD, E-SEV Nr. 108+ 2012 IV, 31; Terwangne/Moiny/Poullet, 16. ↵

Siehe dazu CAHDATA, Draft Explanatory Report, 15. ↵

Ähnlich bereits Walter, o.S. ↵

CAHDATA, Draft Explanatory Report, 16; COE, CM/Rec(2010)13, 51. ↵

Ähnlich bereits Walter, o.S. ↵

COE, Explanatory Report SEV Nr. 223, N 1. ↵

Siehe dazu vorne VII.4.2.e); BJ, Normkonzept, 3. ↵

BJ, Erläuterungen Vorentwurf, 5, 17; Botschaft DSG 2017, 6943, 6969. ↵

Botschaft DSG 2017, 6970–6971. ↵

Botschaft DSG 2017, 6943–6944, 6972. ↵

Siehe dazu hinten VIII.4.2. ↵

Siehe dazu BJ, Normkonzept, 5–6; BJ, Erläuterungen Vorentwurf, 18; Botschaft DSG 2017, 6969–6970. ↵

Siehe dazu Bolliger et al., 28, 229; BJ, Normkonzept, 26; PwC, 29–30; BJ, Erläuterungen Vorentwurf, 28–30, 58; Botschaft DSG 2017, 7056. ↵

Siehe dazu hinten VIII.4.3. ↵

Botschaft DSG 2017, 7050. ↵

Siehe dazu BJ, Normkonzept, 26. ↵

Zum Ganzen Botschaft DSG 2017, 6944, 6972. ↵

SPK-N, Sitzungsprotokoll vom 31.01.2019 und 01.02.2019, 38. ↵

Ebenso bereits Hofmann/Meyer, M.A., 422–423 ↵

BJ, Normkonzept, 24; PwC, 29; BJ, Erläuterungen Vorentwurf, 66. ↵

PwC, 29, 31; BJ, Erläuterungen Richtlinien 1981, 66–67. ↵

Botschaft DSG 2017, 6944, 6972–6973. ↵

Botschaft DSG 2017, 7066. ↵

Ebenso bereits Hofmann/Meyer, M.A., 422, 424. ↵

BJ, Erläuterungen Vorentwurf, 18; Botschaft DSG 2017, 6970. ↵

Siehe dazu vorne VII.1.2. ↵

Siehe dazu vorne VII.2.2. ↵

Siehe dazu vorne VII.3.2.c); VII.3.2.d). ↵

Zum Ganzen BJ, Normkonzept, 26. ↵

BJ, Erläuternder Bericht DSV, 19. ↵

In diese Richtung bereits Heuberger, N 189. ↵

Thouvenin/Früh, 5. ↵

Siehe dazu BJ, Normkonzept, 26. ↵

PwC, 31. ↵

Siehe dazu vorne VI.2; VII.1.2; VII.2.2; VII.3.2.d); VIII.1; VIII.2; VIII.3. ↵

Siehe dazu BJ, Erläuterungen Vorentwurf, 60; Botschaft DSG 2017, 7057–7058. ↵

Botschaft DSG 2017, 7057–7058. ↵

Siehe dazu vorne VII.4.2.a); VII.4.2.b). ↵

Siehe dazu Botschaft aDSG 1988, 450; hinten VIII.4.5. ↵

Siehe dazu SPK-N, Sitzungsprotokoll vom 31.01.2019 und 01.02.2019, 40. ↵

Im Gegensatz zum Schweizer Gesetzgeber hat sich die Lehre bereits umfassend mit den Chancen und Risiken automatisierter Entscheidungen und deren zugrundeliegenden Technologien auseinandergesetzt. Siehe dazu vorne III. ↵

Art. 6 Abs. 5 DSG, siehe dazu hinten VIII.4.5. ↵

Siehe dazu vorne II.3.4; Rosenthal, E-DSG, N 100; siehe auch Thouvenin/Früh, 9. ↵

Siehe dazu vorne VIII.4.4. ↵

In diese Richtung auch Bacher/Dubois, 139–140; Rosenthal, E-DSG, N 100–101; siehe auch Rosenthal, revDSG, N 107. ↵

Siehe dazu Botschaft DSG 2017, 6987, wo explizit angeführt wird, dass im DSG keine Pflichten der betroffenen Person vorgesehen sind. ↵

Rosenthal, revDSG, N 37. ↵

Gauch et al., N 612–618a, m.w.N. ↵

Siehe dazu BJ, Erläuterungen Richtlinien 1981, 60; Botschaft DSG 2017, 7058. ↵

A.A. Heuberger, N 189–190. ↵

9

Erkenntnisse aus der Entstehungsgeschichte, den Regelungszielen und dem Regelungsumfang

Von Frankreich über Europa in die Schweiz

Regulierung automatisierter Entscheidungen

Frankreich war das erste – und lange Zeit einzige – Land, welches in Art. 2 LIFL 1978 Entscheidungen, die auf automatisiert erstellten Persönlichkeitsprofilen beruhen, in seinem Datenschutzgesetz ausdrücklich regulierte. Die im Jahr 1995 in Kraft getretene Regelung automatisierter Einzelentscheidungen in Art. 15 DSRL ist auf diese bereits bestehende französische Regelung in Art. 2 LIFL 1978 zurückzuführen, auch wenn sich dies aus den Materialien zur DSRL nur an wenigen Stellen zeigt. Mit dieser Übernahme erhielt der ursprünglich französische Ansatz gesamteuropäische Bedeutung. Es ist unbestritten, dass die Aufnahme von Art. 22 DSGVO auf die Vorgängernorm in Art. 15 DSRL zurückzuführen ist. Damit ist auch Art. 22 DSGVO zumindest indirekt dem französischen Vorbild nachgebildet.

Mit der Überführung von Art. 15 DSRL in Art. 22 DSGVO erhielt die Regulierung automatisierter Entscheidungen mehr Gewicht; dies weil die DSGVO nicht mehr als Richtlinie, sondern als direkt anwendbare Verordnung ausgestaltet wurde, bei welcher es keine innerstaatlichen Umsetzungsbestimmungen mehr braucht, die automatisierte Entscheidungen regulieren.[1] Die gesteigerte Bedeutung kommt aber auch daher, dass sich der Anwendungsbereich automatisierter Entscheidungen in den letzten Jahrzehnten durch die technische Entwicklung vergrössert hat.[2] Inzwischen sind intelligente Systeme nicht mehr nur Einzelnen vorbehalten, sondern einer breiten Masse zugänglich. Damit haben sich auch die möglichen Anwendungsfälle der Regulierung automatisierter Entscheidungen wesentlich ausgeweitet.

Der Europarat folgte zunächst nicht dem französischen Vorbild, weshalb die Konvention SEV Nr. 108 im Jahr 1981 ohne eine ausdrückliche Regelung der automatisierten Entscheidungsfällung verabschiedet wurde.[3] Dies änderte sich erst im Jahr 2018, als im Wege der Modernisierung der SEV Nr. 108 im Zusatzübereinkommen SEV Nr. 223 festgelegt wurde, dass automatisierte Entscheidungen in der Konvention SEV Nr. 108+ ausdrücklich geregelt werden. Die neuen Bestimmungen orientierten sich vorwiegend an Art. 15 DSRL und an der DSGVO.[4] Da diese Regelungen automatisierter Entscheidungen in der EU auf den französischen Regulierungsansatz zurückzuführen sind, lassen sich deshalb auch die Regelungen des Europarates zu automatisierten Entscheidungen in der modernisierten Konvention SEV Nr. 108+ indirekt auf Art. 2 LIFL 1978 zurückführen.

Der Schweizer Gesetzgeber hat sich im Jahr 1981, nachdem von der Arbeitsgruppe I verschiedene Entwürfe ausgearbeitet und mehrmals abgeändert worden waren, ursprünglich dafür entschieden, keine dem französischen Vorbild in Art. 2 LIFL 1978 folgende Regelung von auf automatisiert erstellten Persönlichkeitsprofilen beruhenden Entscheidungen in die Richtlinie 1981 aufzunehmen. Vielmehr wurden entsprechende Regelungsvorschläge, obwohl sie sich in verschiedenen Arbeitspapieren fanden, kurz vor dem Erlass der Richtlinien 1981 aus dem Entwurf gestrichen.[5] Auch im anschliessend ausgearbeiteten E-DSG 1983 betreffend ein Bundesgesetz über den Schutz von Personendaten fand sich keine Regelung zur automatisierten Entscheidungsfällung. Der Gesetzgeber ging davon aus, dass die übrigen im E-DSG 1983 vorgesehenen Bestimmungen die Möglichkeit, Persönlichkeitsbilder zu erstellen, genügend beschränken sowie bloss automatisiert ablaufende Entscheidungen verhindern werden.[6] Damit war die Thematik vorerst erledigt.

Zwischen Persönlichkeitsprofilen und automatisierten Entscheidungen lässt sich insofern ein Zusammenhang erstellen, als dass sich aus den Materialien zu den Vorarbeiten zum aDSG 1992 ergibt, dass in der Schweiz die Erstellung von Persönlichkeitsbildern zu Beginn gemeinsam mit darauf gestützten Entscheidungen (kritisch) betrachtet wurde.[7] In diesem Sinne sahen die im Jahr 1979 von der Arbeitsgruppe I geprüften, aber später wieder verworfenen Regelungen in Anlehnung an Art. 2 LIFL 1978 vor, dass Entscheidungen, die auf eine Wertung des menschlichen Verhaltens abzielen, nicht auf überwiegend automatisiert erstellten Persönlichkeitsbildern beruhen dürfen.[8] Trotz dieses Zusammenhangs wurden im aDSG 1992 jedoch (nur) Persönlichkeitsprofile geregelt, ohne dass darauf gestützte (automatisierte) Entscheidungen in dem auf den E-DSG 1983 folgenden Gesetzgebungsprozess nochmals thematisiert wurden.[9]

Knapp 20 Jahre nachdem der erste ADM-Regelungsvorschlag verworfen worden war, wurde die Frage der Regulierung automatisierter Entscheidungen in der Schweiz erneut geprüft. Vor dem Hintergrund der bestehenden Regelung automatisierter Entscheidungen in Art. 15 DSRL wurde im Rahmen der geplanten Revision des aDSG 1992 im Jahr 2001 die Aufnahme einer Regelung automatisierter Entscheidungen ins Schweizer Datenschutzrecht vorgeschlagen. Die geplante Bestimmung vermochte sich jedoch in den parlamentarischen Beratungen nicht durchzusetzen.[10] Im Jahr 2010 fand im Rahmen der Weiterentwicklung des Schengen-Besitzstands indirekt jedoch trotzdem eine erste datenschutzrechtliche Regelung automatisierter Entscheidungen Eingang ins Schweizer Recht. Diese hatte aber auf das Verhältnis zwischen Privaten keine Auswirkungen.[11]

Anschliessend dauerte es nochmals über zehn Jahre, bis mit Art. 21 und Art. 25 Abs. 2 lit. f DSG Regelungen betreffend automatisierte Entscheidungen Eingang ins Schweizer Datenschutzrecht fanden. Die im Rahmen der Totalrevision ins DSG aufgenommenen Regelungen zu automatisierten Einzelentscheidungen sind im Wesentlichen auf die diesbezüglich geplanten Regelungen des Europarates zurückzuführen, welche die Schweiz zur Ratifizierung der modernisierten Konvention SEV Nr. 108+ in ihr Datenschutzgesetz aufzunehmen hatte. Wichtig waren zudem die Regelungen der EU zur automatisierten Entscheidungsfällung in der DSGVO, zumal die Schweiz mit der Totalrevision des aDSG auch den Angemessenheitsbeschluss der EU nicht gefährden wollte.[12] Da ohne die französische Regelung womöglich keine entsprechenden europäischen Regulierungsansätze geschaffen worden wären, können die Schweizer Regelungen automatisierter Entscheidungen in ihren Grundzügen zwar nicht direkt, aber zumindest indirekt auf Art. 2 LIFL 1978 zurückgeführt werden.

Auskunftsrecht betreffend automatisierte Entscheidungen

Mit Blick auf die Auskunftsrechte betreffend automatisierte Entscheidungen ergibt sich aus den Gesetzgebungsmaterialien nicht ganz so deutlich, ob und wie weit Art. 3 LIFL 1978 Vorbild für die später folgenden Regelungen war. Die aktuell in der EU, dem Europarat und der Schweiz bestehenden Auskunftsrechte im Zusammenhang mit automatisierten Entscheidungen lassen sich in ihren Grundzügen hingegen klar auf die Vorgängernorm in Art. 12 lit. a DSRL zurückführen: Nachdem diese Bestimmung Eingang in die DSRL gefunden hatte, erfolgten die weiteren Regulierungen automatisierter Entscheidungen jeweils gemeinsam mit einem diesbezüglichen Auskunftsrecht, welches regelmässig auch die bereits in Art. 12 lit. a DSRL enthaltene Auskunft über die einer automatisierten Entscheidung zugrundeliegende Logik umfasste.

Vor dem Hintergrund, dass Art. 2 LIFL 1978 klar das Vorbild für die Regelung in Art. 15 DSRL war, ist nicht auszuschliessen, dass Art. 3 LIFL 1978 bei der Aufnahme des ADM-Auskunftsrechts in Art. 12 lit. a DSRL eine prägende Rolle gespielt hat. Diese Einschätzung wird dadurch bestärkt, dass ein Blick in die Entstehungsgeschichte von Art. 12 lit. a DSRL aufzeigt, dass deren zu Beginn vom Europäischen Parlament vorgeschlagene und von der Kommission der Europäischen Gemeinschaften in Art. 13 Ziff. 5 E-DSRL 1992 aufgenommene Formulierung stark an den Wortlaut von Art. 3 LIFL 1978 erinnerte.[13] Ganz grundsätzlich ist zudem davon auszugehen, dass wohl kein Auskunftsrecht betreffend automatisierte Entscheidungen in die DSRL aufgenommen worden wäre, wenn das Verbot automatisierter Entscheidungen keinen Eingang in die DSRL gefunden hätte.

Aufgrund dessen ist davon auszugehen, dass das soeben für die Regulierung automatisierter Entscheidungen Gesagte in seinen Grundzügen auch für die Auskunftsrechte betreffend automatisierte Entscheidungen gilt und diese mithin in ihrem Kern durch Art. 3 LIFL 1978 beeinflusst worden sind. Diesbezüglich ist abschliessend anzumerken, dass das heute in Art. 9 Abs. 1 lit. c SEV Nr. 108+ vorgesehene Recht der betroffenen Person, Kenntnis über die der Datenverarbeitung zugrunde liegenden Überlegungen zu erlangen, wenn die Ergebnisse dieser Verarbeitung auf diese Person Anwendung finden, sich in seinem Wortlaut wiederum der damals in Art. 3 LIFL 1978 enthaltenen Regelung angenähert hat.

Weshalb im Datenschutzrecht?

Vorbemerkungen

Angesichts der Befürchtungen und Rechtsfragen mit denen automatisierte Entscheidungen einhergehen,[14] verwundert deren Regulierung im Datenschutzrecht auf den ersten Blick. Dies insbesondere auch, wenn man bedenkt, dass die frühe rechtliche Auseinandersetzung mit automatisierten Entscheidungen in den 1950er- bis 1970er-Jahren nicht vorwiegend datenschutzrechtlicher Natur war, sondern der Fokus vielmehr auf die Automatisierung der Verwaltung und die automationsgerechte Rechtsetzung gelegt wurde und datenschutzrechtliche Bedenken oftmals nur am Rande angesprochen wurden.[15] Betrachtet man jedoch die Entstehungsgeschichte der Regulierung automatisierter Entscheidungen, insbesondere die Anfänge in Frankreich, erscheint deren Regelung im Datenschutzgesetz als die logische Folge der damaligen Entwicklungen.

Frankreichs Entschluss, automatisierte Entscheidungen im Datenschutzrecht zu regeln

Weder der Rapport Tricot noch die darauffolgenden erläuternde Berichte zu den Gesetzgebungsentwürfen legen ausdrücklich dar, weshalb auf automatisiert erstellten Persönlichkeitsprofilen basierende Entscheidungen in Frankreich im Datenschutzrecht geregelt werden (sollten).[16] Die Vorarbeiten zum LIFL 1978 zeigen jedoch auf, dass insbesondere die neuen Möglichkeiten zur automatisierten Datenverarbeitung, -speicherung und -auswertung von Beginn an im Fokus der den Rapport Tricot ausarbeitenden CIL standen. Die von der CIL vorgeschlagenen Massnahmen bezweckten, den durch diese mit der neuen Informationstechnologie einhergehenden elektronischen Datenbearbeitungen ausgelösten Risiken für die Privatsphäre sowie die individuellen und öffentlichen Freiheiten zu begegnen.[17] Diese auf die automatisierte Datenbearbeitung ausgerichteten Vorschläge bildeten anschliessend die Grundlage für die LIFL 1978,[18] welches zwar nicht als Datenschutzgesetz bezeichnet wurde, aber klarerweise als solches aufzufassen ist.

Bereits damals (aber auch noch heute) hingen zudem sowohl die automatisierte Erstellung von Persönlichkeitsprofilen als auch Systeme zur automatisierten Entscheidungsfällung oder -vorbereitung unbestrittenermassen eng mit den Möglichkeiten der elektronischen Datenbearbeitung zusammen. Die Möglichkeit automatisiert Entscheidungen zu fällen, war eine direkte Folge der neuen Datenverarbeitungsmöglichkeiten. Hinzu kommt die Tatsache, dass Art. 2 LIFL 1978, auch wenn es sich dabei unbestrittenermassen um eine Regelung automatisierter Entscheidungen handelte, weniger die Art und Weise, wie eine Entscheidung gefällt wird, regulierte, sondern vielmehr an die einer Entscheidung zugrundeliegenden Daten bzw. Datenbearbeitungen anknüpfte. So war noch nicht die Rede von automatisierten Entscheidungen, sondern von Entscheidungen, welche eine Beurteilung menschlichen Verhaltens beinhalten und die auf einer automatisierten Verarbeitung von Informationen beruhen, welche eine Definition des Profils oder der Persönlichkeit der betreffenden Person ergibt. In Art. 3 LIFL 1978 war sodann nicht die Rede von Entscheidungen, sondern von den in automatisierten Verarbeitungen, deren Ergebnisse einer betroffenen Person entgegengehalten werden, verwendeten Informationen und Überlegungen. Anknüpfungspunkte der französischen ADM-Regelung waren mithin das Abstützen auf ein automatisiert erstelltes Persönlichkeitsprofil zur Entscheidungsfällung sowie die Verwendung von aus automatisierten Datenbearbeitungen resultierenden Schlussfolgerungen, welche für die betroffene Person nachteilig sind.

An dieser Ausgangslage ändert auch die Tatsache nichts, dass mit Art. 2 LIFL 1978 der Entmenschlichung von Entscheidungen entgegengewirkt werden sollte[19] – ein Punkt, der an sich keinen Bezug zur Datenbearbeitung hat, sondern sich vorwiegend auf die Art der Entscheidungsfällung konzentriert. Die Regelung automatisierter Entscheidungen zusammen mit der Regulierung der (automatisierten) Datenbearbeitung im LIFL 1978 überrascht deshalb nicht, sondern erscheint vielmehr als logische Folge der damaligen Gegebenheiten.

Übernahme des Regelungsortes durch die EU

DSRL

In den Gesetzgebungsmaterialien zur DSRL finden sich keine Ausführungen dazu, weshalb automatisierte Entscheidungen im Datenschutzrecht zu regeln waren.[20] Im Rahmen der Ausarbeitung der DSRL wurden im Zusammenhang mit automatisierten Entscheidungen verschiedene Bedenken geäussert. Man befürchtete, dass der Mensch zum Objekt einer rein rechnergestützten Datenverarbeitung wird. Die Verwendung umfangreicher Datenprofile könne einer Person die Möglichkeit entziehen, die für sie relevanten Entscheidungsprozesse zu beeinflussen. Dies insbesondere wenn bloss auf Grundlage des «Datenschattens» eines Einzelnen entschieden werde. Ebenso wurde die missbräuchliche Verwendung der Informatik als Hauptgefahr für die Zukunft vorgebracht.[21] Dem Richtliniengeber ging es somit neben der Art und Weise der Entscheidungsfällung auch um deren zugrundeliegende automatisierte Datenbearbeitung. Art. 15 DSRL verbot denn auch nur automatisierte Entscheidungen, deren zugrundeliegende Datenbearbeitung zum Zweck der Bewertung einzelner Aspekte einer Person ausschliesslich automatisiert erfolgte.

Im Verlaufe der Ausarbeitung der DSRL wurde ebenfalls das Risiko der Entmenschlichung vorgebracht.[22] Ein Punkt, der nicht mit der Datenbearbeitung an sich, sondern der Art, wie eine Entscheidung getroffen wird, zusammenhängt. Das in Art. 12 DSRL vorgesehene Auskunftsrecht betreffend den logischen Aufbau der automatisierten Datenverarbeitung, zumindest im Fall automatisierter Entscheidungen, zielte denn auch weniger auf die Auskunft über die verarbeiteten Daten ab (diese wurde im Absatz davor separat geregelt), sondern scheint mehr mit dem Unbehagen des Gesetzgebers gegenüber der automatisierten Entscheidungsfällung und der Befürchtung, dass der Einzelne für ihn relevante Entscheidungsprozesse nicht mehr beeinflussen kann, zusammenzuhängen.

Auffallend ist, dass die in Bezug auf die automatisierte Entscheidungsfällung vorgebrachten Befürchtungen oftmals gleich oder sehr ähnlich waren wie diejenigen, die bereits in Frankreich geäussert wurden. Dies überrascht jedoch nicht, zumal unbestritten ist, dass die Regelung automatisierter Entscheidungen aus dem französischen Recht übernommen worden ist.[23] Auch wenn die der automatisierten Entscheidungsfällung zugrundeliegende Datenbearbeitung bei der Ausarbeitung von Art. 15 DSRL durchaus eine Rolle spielte, wird aufgrund des Gesagten insgesamt der Eindruck erweckt, als habe die EU nicht nur die ADM-Regelungen aus dem LIFL 1978 übernommen,[24] sondern auch gleich deren Regelungsort im Datenschutzgesetz, ohne dass dies gross hinterfragt worden ist.

DSGVO

Zu ähnlichen Ergebnissen kommt man mit Blick auf die Regelungen automatisierter Entscheidungen in der DSGVO. Im Gegensatz zu Art. 15 DSRL und Art. 2 LIFL 1978 wurde im Wortlaut von Art. 22 Abs. 1 DSGVO das Abstützen auf die Bewertung einzelner Aspekte der betroffenen Person zwar gelöscht. Angeknüpft wird jedoch weiterhin an die automatisierte (Daten‑)Bearbeitung, auf welcher eine Entscheidung beruht. Entsprechend spielt auch im Geltungsbereich der DSGVO die einer automatisierten Entscheidung zugrundeliegende Datenbearbeitung weiterhin eine gewisse Rolle. In den Gesetzgebungsmaterialien zur DSGVO finden sich wiederum keine Ausführungen dazu, weshalb automatisierte Entscheidungen (erneut) im Datenschutzrecht zu regeln waren.[25] Vor dem Hintergrund, dass davon auszugehen ist, dass die Regelungen zur automatisierten Entscheidungsfällung in der DSGVO zu einem grossen Teil auf denselben Befürchtungen basieren, wie sie bereits im Zusammenhang mit der DSRL geäussert wurden,[26] liegt auch hier die Schlussfolgerung nahe, dass automatisierte Entscheidungen deshalb erneut im Datenschutzrecht geregelt wurden, weil die Vorgängerbestimmung bereits datenschutzrechtlicher Natur war. So ist denn auch unbestritten, dass Art. 22 DSGVO im Wesentlichen die Regelung aus Art. 15 DSRL übernommen hat.

Übernahme des Regelungsortes durch den Europarat

Wie vorne festgestellt, ist die Aufnahme der Regelung automatisierter Entscheidungen in die SEV Nr. 108+ im Wesentlichen auf die schon bestehenden EU-Regelungen zurückzuführen.[27] Dabei wurde, wie bereits in Frankreich und der EU, zu Beginn der Ausarbeitung der modernisierten Konvention SEV Nr. 108+ unter anderem befürchtet, dass Individuen zum blossen Objekt von computergenerierten Profilen, Wahrscheinlichkeiten oder Vorhersagen werden.[28] Der Europarat qualifizierte automatisierte Entscheidungen (zumindest ursprünglich) denn auch nicht als selbstständiges Phänomen, sondern als eine Folge des Profilings und damit als Folge eines Datenbearbeitungsvorgangs.[29] Damit stand zumindest zu Beginn des Modernisierungsprozesses der SEV Nr. 108 zu einem gewissen Mass die einer automatisierten Entscheidung zugrundeliegende automatisierte Auswertung von Daten im Fokus.

Dieser Fokus wurde beibehalten, auch wenn in den später ausgearbeiteten Erläuterungen zur SEV Nr. 108+ die Gefahr der Stigmatisierung von Personen, durch die Anwendung algorithmischer Überlegungen und damit zusammenhängende Einschränkungen ihrer Rechte, insbesondere der Menschenwürde, hervorgehoben wurde.[30] Art. 9 Abs. 1 lit. a SEV Nr. 108+ knüpft trotzdem klar an die einer (automatisierten) Entscheidung zugrundeliegende automatisierte Datenbearbeitung an.

Weshalb automatisierte Entscheidungen in der Datenschutzkonvention zu regeln waren, wurde jedoch auch in den Materialien zur SEV Nr. 108 nicht ausdrücklich begründet.[31] Auch diesbezüglich wird deshalb zu einem gewissen Masse der Eindruck erweckt, dass die Regelung automatisierter Entscheidungen im Datenschutzrecht nicht gross hinterfragt, sondern der Regelungsort der Vorgängerregelungen in der DSRL und der DSGVO übernommen worden ist.

Übernahme des Regelungsortes durch die Schweiz

Wie in den französischen Gesetzgebungsmaterialien und auch den Materialien zur DSRL, DSGVO und SEV Nr. 108+ wird in den Materialien zum DSG weder geprüft noch ausdrücklich dargelegt, weshalb automatisierte Entscheidungen im Datenschutzgesetz reguliert werden sollen.[32] Wie sich aus der Entstehungsgeschichte und der Analyse der Regelungsziele zeigt, ist die Aufnahme diesbezüglicher Regelungen ins DSG im Wesentlichen der Tatsache geschuldet, dass sowohl die modernisierte SEV Nr. 108+ als auch die DSGVO entsprechende Regelungen enthalten.[33] Die Analyse der mit den Schweizer ADM-Regelungen verfolgten Ziele zeigte jedoch, dass es dem Schweizer Gesetzgeber nur indirekt um die Art und Weise der Entscheidungsfällung ging. Der Fokus des Gesetzgebers wechselte im Laufe des Gesetzgebungsprozesses von den (ursprünglich bereits in Frankreich und der EU geäusserten) Befürchtungen betreffend die Art und Weise der Entscheidungsfällung, der Entmenschlichung und dem Unterworfensein unter eine automatisierte Entscheidung hin zur Angst davor, dass automatisierte Entscheidungen auf falschen oder veralteten Daten beruhen könnten.[34] Darüber hinaus stand in der Schweiz hauptsächlich die Stärkung der Transparenz von Datenbearbeitungen sowie der Kontrolle der betroffenen Personen im Vordergrund.[35]

Mit dem Fokus auf der Transparenz der einer automatisierten Entscheidung zugrundeliegenden Datenbearbeitung sowie den Bestrebungen, dass solche Entscheidungen nicht auf falschen oder veralteten Daten beruhen, ist die Regelung automatisierter Entscheidungen im Datenschutzgesetz in der Schweiz zu einem gewissen Masse nachvollziehbarer als im europäischen Umfeld. Nichtsdestotrotz weckt die Entstehungsgeschichte der Schweizer Regulierung automatisierter Entscheidungen den Eindruck, dass diese ebenfalls im Datenschutzgesetz erfolgt ist, weil dies in der DSGVO und der SEV Nr. 108+ bereits der Fall war.

Fazit

Aus dem Gesagten ergibt sich, dass die Einordnung der Regelungen automatisierter Entscheidungen im Datenschutzrecht darauf zurückzuführen ist, dass solche Entscheidungen auf einer (automatisierten) Datenbearbeitung beruhen, welche ihrerseits von den datenschutzrechtlichen Regelungen erfasst wird. Eine Auseinandersetzung mit der Frage, ob das Datenschutzrecht (weiterhin) der richtige Regelungsort für die Vorgaben zur automatisierten Entscheidungsfällung ist, fand in keinem der angeführten Gesetzgebungsprozesse statt. Das Fehlen einer solchen Auseinandersetzung in Frankreich und allenfalls auch betreffend die DSRL lässt sich noch nachvollziehen. Nach Ansicht der Autorin überrascht es hingegen, dass spätestens bei der Ausarbeitung der DSGVO, der Modernisierung der SEV Nr. 108+ und im Rahmen der Totalrevision des DSG die Frage, ob das Datenschutzrecht tatsächlich der richtige Regelungsort ist, nicht zumindest angesprochen worden ist. Dies insbesondere vor dem Hintergrund, dass die in den letzten Jahren mit Blick auf automatisierte Entscheidungen geführte gesellschaftliche Debatte nicht ausschliesslich datenschutzrechtlicher Natur war, sondern verschiedene andere Punkte wie die Teilhabe, Diskriminierung und Fairness oder auch ethische Gesichtspunkte angesprochen worden sind.[36] Ebenso sind einige in den Materialien der mit Blick auf automatisierte Entscheidungen angeführte Befürchtungen oder die mit den Regelungen verfolgten Ziele nicht primär datenschutzrechtlicher Natur. Beispiele dafür sind die Angst vor der Unterwerfung unter eine Maschine oder das Ziel des Diskriminierungsschutzes.[37] Entsprechend stellen sich beim Einsatz automatisierter Systeme zur Entscheidungsfällung klarerweise nicht nur datenschutzrechtliche Fragen, sondern es sind viele verschiedene Rechtsgebiete betroffen, was in den letzten Jahren ebenfalls intensiv diskutiert worden ist.[38]

Auch wenn automatisierte Entscheidungen unbestrittenermassen auf einer Datenbearbeitung beruhen und die diesbezüglichen Regelungen zumindest indirekt an dieser Datenbearbeitung anknüpfen, wird insgesamt der Eindruck erweckt, dass sich die heutigen ADM-Regelungen nur deshalb im Datenschutzrecht finden, weil sie im Jahr 1978 in Frankreich im Datenschutzgesetz geregelt worden sind und diese Einordnung im Verlauf der letzten Jahrzehnte nicht mehr überprüft, sondern einfach übernommen worden ist.

Entwicklung des Regelungsumfangs

Frankreich

Vom Regelungsumfang des Art. 2 LIFL 1978 waren nur Entscheidungen erfasst, die (ausschliesslich) auf einer automatisierten Verarbeitung von Informationen beruhten, welche zu einer Definition des Profils oder der Persönlichkeit der betroffenen Personen führten, d.h. die auf einem automatisiert erstellten Persönlichkeitsprofil beruhten. Verboten war dabei jedoch nicht die automatisierte Datenverarbeitung bzw. das automatisierte Erstellen von Persönlichkeitsprofilen, sondern das Abstützen auf dieses Datenverarbeitungsergebnis für eine Entscheidung. Während das Abstützen auf solche automatisierten Verarbeitungsvorgänge für Gerichtsentscheidungen komplett verboten war, durften Entscheidungen von Behörden nur nicht ausschliesslich auf einer solchen Datenbearbeitung beruhen. Erfasst waren sodann nur solche Entscheidungen, welche eine Beurteilung des menschlichen Verhaltens beinhalteten, unabhängig davon, wie sich diese Entscheidung auf die betroffene Person auswirkte. Die (möglicherweise negativen) Auswirkungen einer Datenauswertung für die betroffene Person waren hingegen für das Auskunfts- und Anfechtungsrecht nach Art. 3 LIFL 1978 relevant, welches sich nur auf die automatisiert verarbeiteten Daten und die verwendeten Argumentation bezog, deren Ergebnisse einer betroffenen Person entgegengehalten wurden.[39]

EU

DSRL

Mit Übernahme der Regelungen automatisierter Entscheidungen in die DSRL wurde das Verbot automatisierter Entscheidungen ein wenig abgeschwächt. So bezog sich Art. 15 Abs. 1 DSRL[40] anders als Art. 2 LIFL 1978 nicht mehr auf alle Entscheidungen, welche eine Beurteilung menschlichen Verhaltens beinhalten, sondern nur noch auf Entscheidungen, die mit einer Rechtsfolge oder einer erheblichen Beeinträchtigung für die betroffene Person einhergingen. Eine Beurteilung des menschlichen Verhaltens war weiterhin vorausgesetzt, zumal in Art. 15 Abs. 1 DSRL, ähnlich wie in Art. 2 LIFL 1978, die Rede war von Entscheidungen, die auf einer automatisierten Datenbearbeitung zum Zweck der Bewertung einzelner Aspekte einer Person basieren.

Im Vergleich zum französischen Vorbild war nicht mehr festgehalten, dass Entscheidungen nicht (ausschliesslich) auf entsprechenden automatisierten Bearbeitungen beruhen dürfen, sondern Art. 15 Abs. 1 DSRL räumte den betroffenen Personen das Recht ein, nicht ausschliesslich automatisierten Entscheidungen unterworfen zu werden. Damit wurde in der DSRL nicht mehr unterschieden zwischen gerichtlichen, behördlichen und privaten Entscheidungen und es fand sich in Art. 15 DSRL kein absolutes Verbot automatisierter Entscheidungen mehr, wie dies in Art. 2 LIFL 1978 für Gerichtsentscheidungen vorgesehen war. Abschwächend hinzugekommen sind zudem die in Art. 15 Abs. 2 DSRL vorgesehenen Ausnahmetatbestände. Im Gegensatz zum französischen Vorbild fand sich der Begriff der automatisierten Einzelentscheidung in der DSRL sodann ausdrücklich in der Überschrift von Art. 15 DSRL.

Ausgeweitet, konkretisiert und explizit auf automatisierte Entscheidungen zugeschnitten wurde hingegen das diesbezügliche Auskunftsrecht. Dieses umfasste gemäss Art. 12 lit. a DSRL[41] den logischen Aufbau der automatisierten Datenverarbeitung, wobei ausdrücklich auf automatisiert getroffene Entscheidungen verwiesen wurde. Damit konkretisierte die EU den französischen Regelungsansatz, welcher in Art. 3 LIFL 1978 ein nicht explizit auf automatisierte Entscheidungen lautendes Auskunftsrecht enthielt. Dieses sah vor, dass über die bei einer automatisierten Verarbeitung, die einer Person entgegengehalten wurde, verwendeten Daten sowie über die dieser Verarbeitung zugrundeliegenden Überlegungen Auskunft erteilt werden musste. Eine Ausweitung erfolgte dabei insofern, als dass Art. 12 lit. a DSRL im Gegensatz zu Art. 3 LIFL 1978 nicht mehr daran anknüpfte, dass die Auskunftspflicht nur besteht, wenn die Ergebnisse der Verarbeitung der betroffenen Person entgegengehalten werden. Einschränkend war es jedoch den Mitgliedstaaten auch im Geltungsbereich von Art. 12 lit. a DSRL möglich, den Anspruch nur für den Fall automatisierter Entscheidungen im Sinne von Art. 15 Abs. 1 DSRL vorzusehen. Dieser setzte wiederum voraus, dass die automatisierte Entscheidung mit gewissen Auswirkungen für die betroffene Person einherging.

Im Gegensatz zu Art. 3 LIFL 1978 sah die DSRL kein ausdrückliches Recht der betroffenen Person vor, die bei der automatisierten Datenverarbeitung verwendeten Überlegungen, welche einer betroffenen Person entgegengehalten wurden, anfechten zu können. Art. 15 Abs. 2 lit. a DSRL regelte die ausnahmsweise Zulässigkeit einer automatisierten Entscheidung im Rahmen des Abschlusses oder der Erfüllung eines Vertrags. Dabei wurde immerhin vorgegebenen, dass die berechtigten Interessen der betroffenen Person durch geeignete Massnahmen zu wahren seien, sofern ihrem Ersuchen nicht stattgegeben wurde. Als geeignete Massnahme wurde in Art. 15 Abs. 2 lit. a DSRL zum ersten Mal explizit die Möglichkeit der betroffenen Person, ihren Standpunkt geltend zu machen, angeführt.

DSGVO

Gleich wie Art. 15 Abs. 1 DSRL knüpft auch Art. 22 Abs. 1 DSGVO[42] an die Auswirkungen der automatisierten Entscheidung für die betroffene Person an und unterscheidet nicht zwischen verschiedenen Entscheidungsträgern. Ebenso ist in beiden Bestimmungen die Rede von einem Recht der betroffenen Person. Zumindest der Wortlaut von Art. 22 Abs. 1 DSGVO erfasst jedoch nicht mehr (nur) Entscheidungen, die auf einer automatisierten Datenbearbeitung zum Zweck der Bewertung einzelner Aspekte einer Person basieren, sondern sämtliche Entscheidungen, die ausschliesslich auf einer automatisierten Verarbeitung, einschliesslich Profiling, beruhen. Im Zusammenhang mit automatisierten Entscheidungen nennt nur noch in Erwägungsgrund 71 DSGVO, der keine Verbindlichkeit bei der Normanwendung hat, die Bewertung persönlicher Aspekte. Die herrschende Lehre geht, entgegen der Meinung der Artikel-29-Datenschutzgruppe, jedoch davon aus, dass damit keine Ausweitung des Regelungsumfangs erfolgte, sondern bei der Anwendung von Art. 22 Abs. 1 DSGVO weiterhin an eine mit einem Profiling vergleichbare Komplexität der Datenbearbeitung anzuknüpfen ist.[43]

Die Ausnahmen in Art. 22 Abs. 2 DSGVO wurden im Vergleich zu Art. 15 Abs. 2 DSRL zwar umformuliert, blieben aber relativ ähnlich, zumal sie weiterhin Vertragsabschlüsse und mitgliedstaatliche Erlaubnistatbestände erfassen. Neu hinzu kam die Zulässigkeit automatisierter Entscheidungen, wenn diese mit ausdrücklicher Einwilligung der betroffenen Person erfolgen,[44] womit eine weitere Aufweichung des Verbots automatisierter Entscheidungen stattfand. Gleichzeitig ist jedoch mit Blick auf die notwendige Wahrung der Interessen der betroffenen Person bei der ausnahmsweise zulässigen automatisierten Entscheidungsfällung nicht mehr ausreichend, dass diese ihren Standpunkt darlegen kann. Vielmehr fordert Art. 22 Abs. 3 DSGVO, dass der betroffenen Person darüber hinaus auch das Recht auf Erwirkung des Eingreifens einer Person seitens des Verantwortlichen sowie auf Anfechtung der Entscheidung eingeräumt wird. Damit wurden die Rechte der betroffenen Person, trotz der Ausweitung der Ausnahmen, gestärkt. Auch wenn die Materialien zur DSGVO diesbezüglich keine Hinweise oder Verweise auf Art. 3 LIFL 1978 enthalten, lässt sich die Ähnlichkeit der Formulierung des Anfechtungsrechts in Art. 22 Abs. 3 DSGVO mit dem in Art. 3 LIFL 1978 enthaltenen Anfechtungsrecht nicht von der Hand weisen. Neu vorgesehen ist zudem, dass automatisierte Entscheidungen nur noch unter bestimmten Voraussetzungen auf besonderen Kategorien personenbezogener Daten beruhen dürfen,[45] was eine Einschränkung im Vergleich zur Regelung in der DSRL darstellt.

Das in Art. 15 Abs. 1 lit. h DSGVO[46] enthaltene Auskunftsrecht im Zusammenhang mit automatisierten Entscheidungen wurde im Vergleich zu Art. 12 lit. a DSRL (erneut) ausgebaut. Mitgeteilt werden müssen nicht mehr nur Informationen über die involvierte Logik, sondern auch über die Tragweite und die angestrebten Auswirkungen einer automatisierten Entscheidung. Im Vergleich zur DSRL und zum LIFL 1978 ebenfalls neu sind die in Art. 13 und Art. 14 DSGVO[47] vorgesehenen ausdrücklichen Informationspflichten im Zusammenhang mit der automatisierten Entscheidungsfällung.

Europarat

Obwohl im Europarat das Phänomen der automatisierten Entscheidungsfällung ursprünglich als Teil des Profilings behandelt wurde,[48] ist im Wortlaut von Art. 9 Abs. 1 lit. a SEV Nr. 108+[49] wie bereits in Art. 22 Abs. 1 DSGVO nicht die Rede davon, dass die automatisierte Entscheidung bzw. deren zugrundeliegende Datenbearbeitung mit einer Bewertung der Persönlichkeit oder des Profils der betroffenen Person einhergehen muss. Im Gegensatz zur DSGVO findet sich in der SEV Nr. 108+ auch kein Einschub oder Verweis auf das Profiling. Darüber hinaus ist in Art. 9 Abs. 1 lit. a SEV Nr. 108+ auch nicht mehr die Rede von Entscheidungen, welche für die betroffene Person mit einer Rechtsfolge oder einer erheblichen Beeinträchtigung einhergehen. Die Einschränkung mit Blick auf die Auswirkungen auf die betroffene Person wurde jedoch beibehalten, zumal der Wortlaut des in Art. 9 Abs. 1 lit. a SEV Nr. 108+ vorgesehenen Rechts der betroffenen Person, keiner ausschliesslich automatisiert getroffenen Entscheidung unterworfen zu werden, sich nur auf Entscheidungen bezieht, welche sich erheblich auf die betroffene Person auswirken.[50]

Art. 22 DSGVO erachtet automatisierte Entscheidungen nur in gewissen in Art. 22 Abs. 2 DSGVO vorgesehenen Fällen (insbesondere im Rahmen eines Vertragsschlusses oder bei der Einwilligung der betroffenen Person) als zulässig, bei deren Vorliegen wiederum angemessene Massnahmen zum Schutz der betroffenen Person getroffen werden müssen. Im Gegensatz dazu sind die Anforderungen von Art. 9 Abs. 1 lit. a SEV Nr. 108+ unabhängig vom Anwendungskontext erfüllt, wenn bei der automatisierten Entscheidungsfällung sichergestellt wird, dass der Standpunkt der betroffenen Person berücksichtigt wird. Es kann offengelassen werden, ob es sich dabei um eine Verbotsvorschrift oder ein Recht der betroffenen Person handelt. Die SEV Nr. 108+ schreibt den Mitgliedstaaten des Europarates nicht vor, automatisierte Entscheidungen zu verbieten, sondern sie haben der von einer automatisierten Entscheidung betroffenen Person (lediglich) das Recht einzuräumen, im Falle der automatisierten Entscheidungsfällung ihren Standpunkt darlegen zu können bzw. angehört zu werden. Damit geht die Regelung in Art. 9 Abs. 1 lit. a SEV Nr. 108+ weniger weit als die Vorgaben in Art. 22 DSGVO.

Das in Art. 9 Abs. 1 lit. c SEV Nr. 108+[51] vorgesehene Auskunftsrecht hat sich in seinem Wortlaut hingegen dem ehemaligen in Art. 3 LIFL 1978 enthaltenen Auskunftsrecht angenähert. Es nennt die automatisierte Entscheidungsfällung nicht ausdrücklich, sondern hält fest, dass der betroffenen Person auf Antrag hin Informationen über die einer Datenverarbeitung zugrunde liegenden Überlegungen mitzuteilen sind, wenn deren Ergebnisse auf diese Person angewandt werden. Im Gegensatz zu Art. 3 LIFL 1978 müssen diese Ergebnisse der betroffenen Person jedoch nicht entgegengehalten, sondern bloss angewendet werden.

Schweiz

Die Schweiz hat sich im Vergleich zu den Vorgängernormen im LIFL 1978, in der DSRL und der DSGVO teilweise für einen anderen, liberaleren Weg entschieden. Der unterschiedliche Umgang der Schweiz mit automatisierten Entscheidungen begann bereits Ende der 1970er‑, Anfang der 1980er-Jahre, als im Rahmen der Vorarbeiten zum späteren aDSG 1992 entschieden wurde, dass keine Notwendigkeit einer Regelung im Sinne von Art. 2 LIFL 1978 bestehe, sondern bloss automatisiert ablaufende Entscheidungen durch die übrigen geplanten datenschutzrechtlichen Regelungen verhindert werden dürften.[52] Anschliessend entschied sich die Schweiz zur Regulierung von Persönlichkeitsprofilen, ohne dass die Regulierung automatisierte Entscheidungen nochmals angesprochen worden ist.[53] Damit hat die Schweiz ursprünglich einen anderen Regelungsansatz gewählt als den von Frankreich und später auch von der EU mit der DSRL und DSGVO verfolgten Weg.

Erst im Rahmen der Totalrevision des Datenschutzgesetzes fand eine für private Datenbearbeiter gültige Regelung automatisierter Entscheidungen Eingang in das Schweizer Regelungskonzept. Indem kein Recht, keiner automatisierten Entscheidung unterworfen zu werden, eingeführt worden ist, hat sich in der Schweiz dabei weiterhin ein liberalerer Ansatz als in der EU durchgesetzt.[54] Mit der vorgesehenen Informationspflicht sowie den spezifischen Anhörungs‑, Überprüfungs- und Auskunftsrechten der betroffenen Person im Falle der automatisierten Entscheidungsfällung[55] sind automatisierte Entscheidungen in der Schweiz grundsätzlich erlaubt und haben lediglich diesen sowie den allgemeinen datenschutzrechtlichen Vorgaben zu genügen.

Gleich wie in der DSGVO wurden im DSG die ADM-Regelungen auf Entscheidungen beschränkt, welche für die betroffene Person mit einer rechtlichen Wirkung oder einer erheblichen Beeinträchtigung einhergehen. Ebenfalls nicht im Wortlaut der Schweizer ADM-Regelungen enthalten ist die Vorgabe, dass die automatisierte Entscheidung auf der Bewertung persönlicher Aspekte der betroffenen Person oder einem Profiling beruht. Mit Blick auf die Betroffenenrechte zeigt sich, dass sich die in Art. 21 Abs. 2 DSG vorgesehenen Regelungen und die in Art. 22 Abs. 3 DSGVO enthaltenen Vorgaben für den Fall der ausnahmsweise zulässigen automatisierten Einzelentscheidung durchaus ähnlich sind. Im Gegensatz zur EU ist in der Schweiz jedoch nicht die Rede von einem Anfechtungsrecht automatisierter Entscheidungen, womit der Schweizer Regelungsansatz auch diesbezüglich liberaler ausgestaltet ist.

Mit Blick auf das Auskunftsrecht betreffend automatisierte Entscheidungen ist die Schweiz dahingehend dem Vorbild der EU gefolgt, als dass Art. 25 Abs. 2 lit. f DSG der betroffenen Person das Recht einräumt, Auskunft über das Vorliegen einer automatisierten Entscheidung sowie die Logik, auf der diese Entscheidung beruht, zu erhalten. Die Auskunftsverpflichtung geht aber insofern weniger weit als Art. 15 Abs. 1 lit. h DSGVO, als dass Art. 25 Abs. 2 lit. f DSG keine Verpflichtung enthält, Auskunft über die Tragweite und die angestrebten Auswirkungen einer automatisierte Entscheidung zu erteilen. Eine entsprechende im VE-DSG 2016 vorgesehene Regelung wurde in der Schweiz im Verlaufe des Gesetzgebungsprozesses gestrichen.

Abschliessend ist anzumerken: Die Schweiz begründet die Aufnahme der Regelungen automatisierter Entscheidungen zur Hauptsache mit der Umsetzung der Vorgaben der SEV Nr. 108+ und führt das Bestehen entsprechender Regelungen in der DSGVO jeweils eher in einem Nebensatz an.[56] Trotzdem fällt mit Blick auf den Regelungsumfang und die konkrete Ausgestaltung der einzelnen Bestimmungen auf, dass sich diese stärker am Wortlaut der diesbezüglichen Regelungen der DSGVO orientieren als am Wortlaut der Vorgaben in der SEV Nr. 108+.

Fazit

Im Ergebnis hat sich der Anwendungsbereich der Regelungen betreffend automatisierte Entscheidungen in den letzten 40 Jahren in einzelnen Bereichen ausgeweitet, während er in anderen Bereichen eingeschränkt wurde. Zum einen wurde zu Beginn in Frankreich und der EU nicht explizit zwischen der Erstellung von Persönlichkeitsprofilen und der automatisierten Entscheidungsfällung unterschieden. Die Regulierung Letzterer setzte regelmässig voraus, dass die Entscheidung auf einer automatisierten Datenverarbeitung beruhte, die eine Definition der Persönlichkeit der betroffenen Person ermöglichte. Heute hingegen ist zumindest in den Regelungen automatisierter Entscheidungen des Europarates und der Schweiz nicht mehr die Rede vom Vorliegen einer automatisierten Bewertung der Persönlichkeit einer betroffenen Person oder eines Profilings.[57] Zum anderen sind heute nur noch Entscheidungen von den Regelungen in der DSGVO, der SEV Nr. 108+ und dem DSG erfasst, welche für die betroffene Person mit erheblichen Auswirkungen bzw. einer erheblichen Beeinträchtigung einhergehen oder rechtliche Wirkungen für diese zur Folge haben. Im Vergleich zu Art. 2 LIFL 1978 sind die Regelungen in der EU insofern weniger weitgehend, als dass nur ausschliesslich automatisierte Entscheidungen verboten bzw. eingeschränkt werden. Die Schweiz hingegen hat mit dem Verzicht auf die Beschränkung der Zulässigkeit automatisierter Entscheidungen den bis anhin liberalsten Ansatz gewählt.

Die Auskunftspflichten betreffend automatisierte Entscheidungen wurden teilweise erweitert. Sie umfassen nicht mehr nur, wie es in Art. 3 LIFL 1978 vorgesehen war, die bei einer Verarbeitung, deren Ergebnisse der betroffenen Person entgegengehalten werden, verwendeten Daten und zugrundeliegenden Überlegungen. Vielmehr sprechen die aktuellen Auskunftsregelungen die automatisierte Entscheidungsfällung jeweils explizit an und halten fest, dass deren zugrundeliegende Logik sowie teilweise auch die mit der automatisierten Entscheidung angestrebten Auswirkungen vom Auskunftsrecht umfasst werden.[58] Sowohl im Geltungsbereich der DSGVO als auch dem des DSG besteht dieser Auskunftsanspruch unabhängig davon, ob das Ergebnis der automatisierten Entscheidung der betroffenen Person entgegengehalten wird. Die SEV Nr. 108+ nennt eine automatisierte Entscheidungsfällung nicht ausdrücklich. Aber auch der Europarat knüpft den Auskunftsanspruch über die einer Datenverarbeitung zugrunde liegenden Überlegungen nicht an die Voraussetzung an, dass die Ergebnisse dieser Datenverarbeitung der betroffenen Person entgegengehalten werden. Es reicht die Anwendung der Datenverarbeitungsergebnisse auf eine betroffene Person.[59] Ansonsten hat sich der Wortlaut von Art. 9 Abs. 1 lit. c SEV Nr. 108+ demjenigen von Art. 3 LIFL 1978 hingegen wieder angenähert.

Entwicklung der Regelungsziele

Vorbemerkungen

Automatisierte Entscheidungssysteme haben sich in den letzten 40 Jahren massgeblich weiterentwickelt. Sie beruhen heute regelmässig nicht mehr auf einfachen Wenn-dann-Systemen, sondern auf in gewissem Masse intelligenten, selbstlernenden Systemen.[60] Trotzdem veränderten sich die diesbezüglich in den Gesetzgebungsprozessen geäusserten Befürchtungen und die mit den ADM-Bestimmungen einhergehenden Regelungsziele erstaunlich wenig. Ganz grundsätzlich scheinen die verschiedenen Gesetzgeber auch heute noch davon auszugehen, dass automatisierte Entscheidungen von schlechterer Qualität als menschliche Entscheidungen sind.

Mit Blick auf die Regelungsziele fällt insbesondere auf, dass während den Modernisierungen und Totalrevisionen der letzten Jahre weder in der EU oder vom Europarat noch in der Schweiz geprüft worden ist, ob die Entwicklung der Informationstechnologie in den letzten Jahrzehnten und die damit einhergehende Verbesserung der automatisierten Entscheidungsfällung eine Regelung im Datenschutzrecht überhaupt noch als nötig erscheinen lässt. Ebenso nehmen die Materialien so gut wie kein Bezug auf die umfangreichen Debatten über automatisierte Entscheidungen, welche in der Gesellschaft und in den Wissenschaften in den letzten Jahren geführt wurden.

Frankreich, EU, Europarat

Sowohl in den 1970er-Jahren in Frankreich, in den 1990er-Jahren betreffend die DSRL, aber auch in den 2010er-Jahren betreffend die DSGVO und die SEV Nr. 108+ herrschten die Befürchtungen vor, dass dem scheinbar objektiven Charakter automatisiert erstellter Persönlichkeitsprofile zu stark oder blind vertraut, die menschliche Verantwortung bei der Entscheidungsfindung zu wenig wahrgenommen und der Mensch zum blossen Objekt einer Datenbearbeitung werde. Seit jeher bezwecken die ADM-Regelungen in Frankreich und der EU sowie teilweise auch diejenigen des Europarates, die Entmenschlichung der Entscheidungsfällung zu verhindern. Es soll, insbesondere bei Entscheidungen, welche für die betroffene Person mit erheblichen Folgen einhergehen können, sichergestellt werden, dass die Entscheidungsverantwortung weiterhin von einem Menschen übernommen wird, dass der Mensch nicht der Maschine unterworfen und dass der Einzelne vor den negativen Folgen einer automatisierten Entscheidung geschützt wird. Während in Frankreich ursprünglich eher die Sicherstellung der Beteiligung des Menschen von Seiten des Entscheidungsträgers im Vordergrund stand, wurde in der EU und insbesondere auch vom Europarat zusätzlich der Fokus darauf gelegt, dass die betroffene Person die Möglichkeit bekommt, sich an automatisierten Entscheidungsprozessen zu beteiligen. Auf Stufe der EU und des Europarates ging es mithin (seit jeher) auch darum, die Kontrolle der betroffenen Person über sie betreffende Entscheidungsprozesse sicherzustellen. Im Vordergrund standen damit in Frankreich, der EU und dem Europarat nicht ausschliesslich originär datenschutzrechtliche Zwecke. Vielmehr regulier(t)en Art. 2 LIFL 1978, Art. 15 DSRL, Art. 22 DSGVO und auch Art. 9 Abs. 1 lit. a SEV Nr. 108+ primär die Art und Weise, wie eine Entscheidung gefällt wird.[61]

Es ist jedoch nicht so, dass datenschutzrechtliche Aspekte bei der Regelung automatisierter Entscheidungen überhaupt keine Rolle gespielt haben. Wie vorne gezeigt, spielt die Datenbearbeitung bei automatisierten Entscheidungen eine wesentliche Rolle und es wurde mit Blick auf automatisierte Entscheidungen durchaus an der zugrundeliegenden Datenbearbeitung angeknüpft und in den Materialien wurden auch gewisse (zumindest teilweise) datenschutzrechtliche Punkte angesprochen.[62]

Ebenso hängt ein Teil der nicht originär datenschutzrechtlichen Ziele, insbesondere das «nicht Objekt einer automatisierten Entscheidung werden», seit jeher eng mit der Datenverarbeitungsgrundlage solcher Entscheidungen zusammen. So zeigt bspw. ein Blick zurück nach Frankreich, dass bei den damaligen Regelungen automatisierter Entscheidungen der Fokus ursprünglich nicht ausschliesslich auf die Art der Entscheidungsfällung gelegt worden ist. Reguliert werden sollte insbesondere auch, auf welcher Grundlage Entscheidungen gefällt werden dürfen. Im Vordergrund stand die Tatsache, dass die (damals) moderne elektronische Datenverarbeitung ermöglichte, Daten umfangreich und langfristig zu speichern, zu analysieren und auszuwerten sowie gestützt darauf Persönlichkeitsbilder über betroffene Personen zu erstellen. In diesem Zusammenhang wurde in Frankreich die Besorgnis geäussert, dass mit den neuen Technologien einzelne Gesichtspunkte aufgedeckt, (langfristig) gespeichert und Menschen dadurch klassifiziert werden. Ebenso wurde befürchtet, dass Entscheidungen gestützt auf automatisiert erstellte Prognosen, welche auf schlecht verstandenen Kausalzusammenhängen basieren, getroffen werden.[63] Es ging dem französischen Gesetzgeber somit zu einem grossen Teil auch um das Abstützen auf Persönlichkeitsprofile der betroffenen Personen und damit zu einem gewissen Mass um die Regulierung solcher Bewertungsvorgänge.

Dieser Fokus hatte auch in den folgenden Jahrzehnten eine prägende Bedeutung. So wurde auch in der EU und vom Europarat mit Blick auf die Regulierung automatisierter Entscheidungen immer wieder vorgebracht, dass nicht bloss auf der Grundlage des «Datenschattens» eines Einzelnen entschieden oder der Mensch nicht kategorisiert sowie auf sein digitales Abbild reduziert werden dürfe. In den Materialien sowohl zur DSGVO als auch zur SEV Nr. 108+ finden sich die Befürchtungen, dass auf (ungeprüfte) computergenerierte Profile, Wahrscheinlichkeiten und Schlussfolgerungen abgestützt oder Personen durch die Anwendung algorithmischer Überlegungen stigmatisiert und dadurch von gewissen Leistungen ausgeschlossen werden.[64] Insgesamt wird dadurch der Eindruck erweckt, dass sowohl damals als auch heute mit der Regulierung automatisierter Entscheidungen zu einem gewissen Mass auch die Erstellung von Persönlichkeitsbildern bzw. das Abstützen auf die Ergebnisse eines Profilings reguliert werden sollte. Dennoch findet sich die Notwendigkeit des Abstützens auf Persönlichkeitsprofile heute weder im Wortlaut von Art. 22 Abs. 1 DSGVO noch im Wortlaut von Art. 9 Abs. 1 lit. a SEV Nr. 108+.

Dass das Profiling bei der Entstehung der heutigen ADM-Regelungen eine prägende Rolle spielte, zeigt sich eindrücklich daran, dass bei der Ausarbeitung der DSGVO zu Beginn nicht mehr der Tatbestand der automatisierten Entscheidung, sondern auf Profiling basierende Massnahmen geregelt werden sollten.[65] Ebenso ging die Profiling-Empfehlung des Europarates aus dem Jahre 2010 explizit davon aus, dass eine automatisierte Entscheidung eng mit Profiling zusammenhänge.[66] In beiden Fällen entschied man sich jedoch am Ende doch dafür, an die Art und Weise der Entscheidungsfällung anzuknüpfen und das Profiling, wenn überhaupt, bloss als mögliche zugrundeliegende Datenbearbeitung zu nennen.[67]

Ein Blick in die Materialien der ADM-Auskunftsrechte sowie der später eingeführten Informationspflichten über automatisierte Entscheidungen zeigt, dass die ADM-Regelungen von Beginn weg dazu dienten, nicht nur eine gewisse Transparenz über die Art und Weise der Entscheidungsfällung, sondern auch über die einer automatisierten Entscheidung zugrundeliegende Datenbearbeitung zu schaffen, auch wenn dies nicht immer explizit angeführt worden ist. Bereits Art. 3 LIFL 1978 bezweckte Transparenz über diejenigen Datenbearbeitungen zu schaffen, deren Ergebnisse einer betroffenen Person entgegengehalten wurden.[68] Der Zweck der Schaffung von Transparenz gewann mit der DSGVO und der SEV Nr. 108+ zunehmend an Bedeutung. Erwägungsgrund 71 DSGVO erwähnt eine transparente Datenbearbeitung ausdrücklich. Ebenso heben die Materialien zu Art. 9 Abs. 1 lit. c SEV Nr. 108+ die Transparenz insofern (indirekt) hervor, als dass die Wichtigkeit der Kenntnis über die einer automatisierten Verarbeitung zugrundeliegende Logik zur Geltendmachung der weiteren Rechte nach der SEV Nr. 108+ betont wird.[69] Mit der Forderung nach Transparenz eng zusammenhängend spielte bei der Ausarbeitung der in der DSGVO enthaltenen Auskunftsverpflichtung betreffend automatisierte Entscheidungen, aber auch hinsichtlich der diesbezüglichen Informationspflichten zu einem gewissen Mass auch die Sicherstellung der Nachvollziehbarkeit und Richtigkeit automatisierter Entscheidungen eine Rolle.[70]

Bereits in Frankreich wurde zudem befürchtet, dass automatisierte Entscheidungen auf falschen oder veralteten Daten beruhen können.[71] Während dieser Punkt bei der Ausarbeitung der ADM-Regelungen in der DSRL (mit Blick auf automatisierte Entscheidungen) nicht angesprochen worden ist, wurde die Vorgabe, dass Faktoren, welche zu unrichtigen personenbezogenen Daten führen, korrigiert und das Risiko von Fehlern minimiert werden solle, ausdrücklich in Erwägungsgrund 71 DSGVO aufgenommen. Auch dem Europarat ging es mit der Regelung automatisierter Entscheidungen darum, dass dem Einzelnen die Möglichkeit geboten werden soll, auf unrichtige Daten und die Irrelevanz des verwendeten Profils aufmerksam machen zu können.[72] Ob und wie weit diesen Befürchtungen mit Blick auf die Richtigkeit und Aktualität der einer automatisierten Entscheidung zugrundeliegenden Daten nicht mit den (bereits damals und auch heute noch) vorgesehenen Rechten der betroffenen Person, ihre Daten berichtigen (oder löschen) zu lassen, begegnet werden kann, dazu äusserten sich die verschiedenen Gesetzgeber jeweils nicht. Es ist jedoch davon auszugehen, dass das Erkennen falscher Daten wesentlich erleichtert wird, wenn über die Art und Weise der Entscheidungsfällung informiert und insbesondere über die für die Entscheidung verwendeten Daten Auskunft erteilt, d.h. eine automatisierte Entscheidung transparent gemacht wird.

Es lässt sich feststellen, dass die Gesetzgeber den datenschutzrechtlichen Aspekten, insbesondere der Transparenz, heute mehr Gewicht geben, als dies vor einigen Jahrzehnten noch der Fall gewesen ist. So wurden die soeben angeführten datenschutzrechtlichen Zielsetzungen in den letzten Jahren oftmals ausdrücklich angesprochen und begründet, während die eingangs genannten nicht originär datenschutzrechtlichen Zwecke in den neueren Materialien jeweils zwar wiederholt, aber nicht wirklich begründet worden sind. Zum anderen spricht die Tatsache, dass der Umfang der ADM-Auskunftspflichten im Vergleich zum französischen Ansatz ausgeweitet sowie zusätzlich ADM-Informationspflichten eingeführt worden sind, dafür, dass der Transparenz heute mehr Gewicht zukommt.

Im Zusammenhang mit der einer automatisierten Entscheidung zugrundeliegenden Datenbearbeitung hat in der EU zudem der Gedanke eine Rolle gespielt, dass nicht sämtliche Daten einer automatisierten Entscheidung zugrunde gelegt werden dürfen. So regelt Art. 22 Abs. 4 DSGVO, dass ausnahmsweise zulässige automatisierte Entscheidungen in der Regel nicht auf besonderen Kategorien personenbezogener Daten beruhen dürfen. Darüber hinaus wurde in Erwägungsgrund 71 DSGVO ausdrücklich festgehalten, dass automatisierte Entscheidungen gegenüber natürlichen Personen nicht aufgrund von gewissen geschützten Merkmalen diskriminierende Wirkungen zur Folge haben dürfen. Auch der Europarat befürchtete, dass einzelne Personen gestützt auf algorithmische Überlegungen von gewissen Leistungen ausgeschlossen werden können. Diese Entwicklung ist neu, zumal sowohl beim ursprünglich französischen Ansatz als auch bei der DSRL allfällig diskriminierende automatisierte Entscheidungen nicht explizit angesprochen worden sind. Diesbezüglich ist anzumerken, dass es sich bei einem allfälligen Schutz vor diskriminierenden Wirkungen nicht um eine originär datenschutzrechtliche Thematik handelt.

Schweiz

Beim Vergleich der in Frankreich, der EU und vom Europarat mit Blick auf die Regelung automatisierter Entscheidungen angeführten Befürchtungen mit den Schweizer Materialien zeigen sich einige Gemeinsamkeiten, aber auch zahlreiche Abweichungen. Abgesehen von der geteilten Skepsis gegenüber der Entscheidungsfällung durch eine Maschine fällt auf, dass in der Schweiz die Art und Weise, wie eine Entscheidung getroffen wird, seit jeher weniger Bedeutung erhielt als im europäischen Umfeld. Ein Rückblick in die 1970er- bis 1990er-Jahre offenbart, dass sich die damals in Frankreich und der EU angesprochenen Befürchtungen in Hinsicht auf automatisierte Entscheidungen auch in den Schweizer Gesetzgebungsmaterialien dieser Zeit finden. In der Schweiz wurden diese Befürchtungen jedoch oftmals unabhängig von der Art und Weise der Entscheidungsfällung, sondern ganz allgemein mit Blick auf die damals neuen Technologien, welche es ermöglichten, Daten effizienter zu erheben, zu speichern und zu analysieren, und die mit ihnen einhergehenden Risiken für Betroffene angeführt. Wie das europäische Umfeld stand auch die Schweiz bereits damals der Erstellung von Persönlichkeitsprofilen kritisch gegenüber. Im Gegensatz zu Frankreich und der EU entschied sich der Schweizer Gesetzgeber anschliessend jedoch früh, nicht die Art und Weise der Entscheidungsfällung zu regulieren. Im Gegenzug nahm der Schweizer Gesetzgeber bereits zu Beginn der 1990er-Jahre eine Regelung zu Persönlichkeitsprofilen ins aDSG 1992 auf, welche teilweise mit ähnlichen Argumenten begründet wurde wie die damals bereits bestehenden Regelungen automatisierter Entscheidungen. Damit entschied sich die Schweiz zwar ebenfalls dafür, an das Ergebnis einer Datenbearbeitung anzuknüpfen, dies jedoch unabhängig davon, ob gestützt darauf eine Entscheidung gefällt wurde.[73]

Diesen Fokus auf die Datenbearbeitung behielt die Schweiz auch im Rahmen der Ausarbeitung der neuen Regelungen automatisierter Entscheidungen im DSG bei. Ein Teil der bereits in Frankreich mit der Regulierung automatisierter Entscheidungen verfolgten, nicht originär datenschutzrechtlichen Zwecke, wurden später auch in der EU und vom Europarat aufgegriffen. Beispiele hierfür sind die Sicherstellung der menschlichen Beteiligung bei der (automatisierten) Entscheidungsfällung oder das «Sich-Nicht-Unterwerfen-Müssen» unter eine solche Entscheidung. Diese Ziele finden sich zwar in den frühen Materialien zum DSG, wurden jedoch im Verlaufe des Gesetzgebungsprozesses weitgehend aus den Materialien gestrichen. Stattdessen wurde im Rahmen der Totalrevision des DSG ganz allgemein, und deshalb auch mit Blick auf automatisierte Entscheidungen, der Fokus auf die Erhöhung der Transparenz einer zugrundeliegenden Datenbearbeitung sowie auf die Stärkung der datenschutzrechtlichen Betroffenenrechte gelegt, weshalb auch die im DSG vorgesehenen ADM-Bestimmungen diesen Zielsetzungen folgen.[74]

Der Schweizer Gesetzgeber sieht in automatisierten Entscheidungen weiterhin ein besonderes Risikopotenzial für die betroffenen Personen. Dies obwohl im Rahmen des Gesetzgebungsprozesses keine tatsächliche Auseinandersetzung mit der Frage stattgefunden hat, welche Risiken mit automatisierten Entscheidungen tatsächlich verbunden sind.[75] Die diesbezüglichen Risiken sind in der Schweiz jedoch offensichtlich als nicht so hoch eingeschätzt worden, dass dies wie in der EU zu einem Recht der betroffenen Person, keiner automatisierten Entscheidung unterworfen zu werden, geführt hätte. Vielmehr entschied sich der Schweizer Gesetzgeber dazu, dass über automatisierte Entscheidungen informiert werden muss und die diesbezüglichen Betroffenenrechte gestärkt werden müssen. Dem Schweizer Gesetzgeber ging es bei den neuen Regelungen automatisierter Entscheidungen entsprechend auch nicht darum, zu verhindern, dass die betroffene Person zum blossen Objekt einer auf der Grundlage eines computergenerierten Profils erstellten Entscheidung wird.[76]

Die Schweiz sah die automatisierte Entscheidungsfällung während der Vorarbeiten zum aDSG 1992, wie Frankreich und die EU, am ehesten noch als Problem des Abstützens auf Persönlichkeitsprofile an und regulierte sie dementsprechend. Aus den Materialien zum DSG zeigt sich allerdings, dass diesem Punkt bei der Ausarbeitung der aktuellen Regelungen weniger Bedeutung zukam als im Geltungsbereich des LIFL 1978 und der DSRL. Den Entwicklungen in Frankreich, der EU und des Europarates folgte der Schweizer Gesetzgeber hingegen mit Blick auf das Risiko, dass automatisierte Entscheidungen auf falschen oder veralteten Daten beruhen können und diese deshalb zu ungerechtfertigten Nachteilen für die betroffene Person führen können. Damit brachte der Schweizer Gesetzgeber eine Befürchtung wieder zur Sprache, welche bereits Ende der 1970er-Jahre im Rahmen der Vorarbeiten zum aDSG 1992 und später auch in der Botschaft zum aDSG 1992 ganz allgemein mit Blick auf die zunehmende elektronische Datenbearbeitung und den Grundsatz der Datenrichtigkeit geäussert wurde. Da die Richtigkeit der einer automatisierten Entscheidung zugrundeliegenden Daten bereits mit den diesbezüglich spezifischen Vorschriften des DSG gewährleistet werden und der Verantwortliche sich diesen Pflichten nicht mit Verweis auf die neuen ADM-Regelungen entziehen kann, kann die Richtigkeitskontrolle der einer automatisierten Entscheidung zugrundeliegenden Daten jedoch nicht Regelungsziel, sondern bloss positiver Nebeneffekt der neuen ADM-Bestimmungen sein.[77]

Nebst dem gewählten Regelungsumfang (Informationspflicht anstatt Verbot) ergibt sich auch aus den Materialien – soweit sich aus diesen die mit der Regelung automatisierter Entscheidungen einhergehenden (inhaltlichen) Zielsetzungen eruieren lassen –, dass in der Schweiz mit Fortschreiten des Gesetzgebungsprozesses der Fokus immer mehr auf (originär) datenschutzrechtliche Ziele gelegt worden ist. So spielten in der Schweiz zum Schluss sowohl die Erhöhung der Transparenz über die Art und Weise der Entscheidungsfällung und über deren zugrundeliegende Datenbearbeitung als auch die Verbesserung der Nachvollziehbarkeit automatisierter Entscheidungen und die Stärkung der Betroffenenrechte eine weit prägendere Rolle als die Verhinderung automatisierter Entscheidungen. Dabei handelt es sich wie vorne dargelegt bei der Stärkung der Transparenz und der Betroffenenrechte nicht um neue Regelungsziele. Bei den Vorgängerbestimmungen in Frankreich und der EU kam diesen Zielen zwar noch weniger Bedeutung zu. Diese Zwecke wurden jedoch bereits in den 1970er- bis 1990er-Jahren indirekt angeführt. In den letzten Jahren wurden sie hingegen regelmässig ausdrücklich festgehalten und haben zunehmend an Relevanz gewonnen. Damit folgte die Schweiz mit ihren Regelungszielen im Ergebnis dem allgemeinen Trend, setzt den Fokus im Vergleich zur EU und auch zum Europarat jedoch stärker auf originär datenschutzrechtliche Aspekte.

Siehe dazu vorne VII.2.1 bei Fn. 963. ↵

Siehe dazu vorne II.1.2 bei Fn. 145–146. ↵

Siehe dazu vorne VII.3.2.b). ↵

Siehe dazu vorne VII.3.2.d). ↵

Siehe dazu vorne VII.4.2.a)ii. ↵

Siehe dazu vorne VII.4.2.a)iii. ↵

Dazu vorne VII.4.2.a)i; VII.4.2.a)ii. ↵

Dazu vorne VII.4.2.a)ii sowie die Nachweise in Fn. 1146–1150. ↵

Siehe dazu vorne VII.4.2.b). ↵

Siehe dazu vorne VII.4.2.c). ↵

Siehe dazu vorne VII.4.2.d). ↵

Siehe zum Ganzen vorne VIII.4.2. ↵

Siehe dazu vorne VII.2.2.a)iii bei Fn. 985–986. ↵

Siehe dazu vorne III.2. ↵

Siehe dazu vorne VI.2. ↵

Siehe dazu vorne VII.1.2. ↵

Siehe dazu vorne VII.1.2.a) bei Fn. 921–922. ↵

Siehe dazu vorne VII.1.2.b)i bei Fn. 946. ↵

Siehe dazu vorne VIII.1. ↵

Siehe dazu vorne VII.2.2.a). ↵

Siehe dazu vorne VII.2.2.a)ii; VII.2.2.a)iii sowie die Nachweise in Fn. 976 und 987; siehe auch VIII.2.1. ↵

Siehe dazu vorne VII.2.2.a)iii sowie die Nachweise in Fn. 987. ↵

Siehe dazu vorne VII.2.2.a)ii sowie die Nachweise in Fn. 977. ↵

Dazu vorne IX.1. ↵

Siehe dazu vorne VII.2.2.b). ↵

Dazu vorne VIII.2.2. ↵

Siehe dazu vorne VII.3.2.d). ↵

Siehe dazu vorne VIII.3 sowie die Nachweise in Fn. 1367. ↵

Siehe dazu vorne VII.3.2.c)i; VII.3.2.c)ii sowie die Nachweise in Fn. 1067–1068. ↵

Siehe dazu vorne VIII.3 sowie die Nachweise in Fn. 1373. ↵

Siehe dazu vorne VII.3.2.d). ↵

Siehe dazu vorne VII.4.2.e). ↵

Siehe dazu vorne VIII.4.2 sowie die Nachweise in Fn. 1387. ↵

Siehe dazu vorne VII.4.2.e); VIII.4. ↵

Siehe dazu vorne VIII.4.3. ↵

Siehe dazu vorne III.2. ↵

Siehe dazu vorne VIII.2.2.b); VIII.2.2.c); VIII.3.1; VIII.3.2; VIII.3.3. ↵

Siehe dazu vorne III.3. ↵

Siehe zum Ganzen vorne VII.1. ↵

Zum Regelungsumfang von Art. 15 DSRL siehe vorne VII.2.2.a). ↵

Zum Regelungsumfang von Art. 12 lit. a DSRL siehe vorne VII.2.2.a). ↵

Zum Regelungsumfang von Art. 22 DSGVO siehe vorne VI.3.3; VII.2.2.b). ↵

Siehe dazu vorne VII.2.2.b)iv und die Nachweise in Fn. 1028–1029. ↵

Art. 22 Abs. 2 lit. c DSGVO. ↵

Art. 22 Abs. 4 DSGVO. ↵

Zum Regelungsumfang von Art. 15 Abs. 1 lit. h DSGVO siehe vorne VI.3.3.g); VII.2.2.b). ↵

Zum Regelungsumfang von Art. 13 und Art. 14 DSGVO betreffend automatisierte Entscheidungen siehe vorne VI.3.3.e); VII.2.2.b). ↵

Siehe dazu vorne VIII.3.2 bei Fn. 1371. ↵

Zum Regelungsumfang von Art. 9 Abs. 1 lit. a SEV Nr. 108+ siehe vorne VI.3.2; VII.3.2.d). ↵

Siehe dazu vorne VII.3.2.d)ii bei Fn. 1107. ↵

Zum Regelungsumfang von Art. 9 Abs. 1 lit. c SEV Nr. 108 siehe vorne VI.3.2; VII.3.2.d). ↵

Siehe dazu vorne VII.4.2.a). ↵

Siehe dazu vorne VII.4.2.b). ↵

Siehe dazu und zum Folgenden vorne VI.3.3. ↵

Art. 21 und Art. 25 Abs. 2 lit. f DSG. ↵

Siehe dazu vorne VIII.4.2. ↵

Zur Frage, ob der Tatbestand der automatisierten Einzelentscheidung im Sinne des DSG (trotzdem) ein Profiling voraussetzt, siehe hinten X.3.3.d). ↵

Art. 25 Abs. 2 lit. f DSG; Art. 15 Abs. 1 lit. h DSGVO. ↵

Art. 9 Abs. 1 lit. c SEV Nr. 108+. ↵

Siehe dazu vorne II.1. ↵

Siehe zum Ganzen vorne VIII.1; VIII.2; VIII.3. ↵

Siehe dazu vorne IX.2. ↵

Siehe zum Ganzen vorne VII.1; VIII.1. ↵

Siehe zum Ganzen vorne VII.2; VII.3; VIII.2; VIII.3. ↵

Siehe dazu vorne VII.2.2.b)ii. ↵

Siehe dazu vorne VII.3.2.c). ↵

Siehe dazu vorne VII.2.2.b)iv; VII.3.2.d). ↵

Siehe dazu vorne VIII.1. ↵

Siehe zum Ganzen vorne VIII.2.2.d); VIII.3.4. ↵

Siehe dazu vorne VIII.2.2.d). ↵

Siehe dazu vorne VIII.1. ↵

Siehe dazu vorne VIII.3.3. ↵

Siehe zum Ganzen vorne VII.4.2.a); VII.4.2.b). ↵

Siehe dazu vorne VII.4.2.e); VIII.4.3. ↵

Siehe dazu vorne VIII.4.4. ↵

Siehe dazu vorne VIII.4.6. ↵

Siehe dazu vorne VIII.4.5. ↵

10

«Automatisierte Einzelentscheidung» im Sinne des DSG

Vorbemerkungen

Die Analyse im ersten Teil hat gezeigt, dass eine Entscheidung «automatisiert» ist, wenn ein vom Menschen entwickeltes algorithmisches System selbstständig eine bestimmte Anzahl oder sämtliche Aktivitäten des (kognitiven) Entscheidungsprozesses übernimmt. Automatisiert werden können (theoretisch) sämtliche Schritte des Entscheidungsprozesses von der Problemformulierung über den Entschluss bis hin zur Kontrolle oder auch nur einzelne Schritte, wie die Informationsbeschaffung, Alternativensuche, Bewertung oder Realisierung.[1]

Auch wenn das Phänomen der automatisierten Entscheidungen damit im Grundsatz klar umrissen wurde, ist zu prüfen, ob und wie weit diese Definition auch aus datenschutzrechtlicher Sicht Geltung hat. Bei der Betrachtung der datenschutzrechtlichen ADM-Regelungen fällt auf, dass die Bestimmungen zu automatisierten Entscheidungen im Datenschutzrecht lediglich «ausschliesslich» automatisierte Entscheidungen regeln.[2] Der Regelungsgehalt der datenschutzrechtlichen ADM-Bestimmungen umfasst zudem nur Entscheidungen mit rechtlichen Folgen oder (ähnlich) erheblichen Beeinträchtigungen für die betroffene Person.[3] Bereits aus dem Wortlaut der Regelungen betreffend automatisierte Entscheidungen ergib sich somit, dass gewisse zusätzliche qualifizierende Merkmale erfüllt sein müssen, damit eine automatisierte Entscheidung von den diesbezüglichen datenschutzrechtlichen Regelungen erfasst wird. Welche dies sind, wird im Folgenden nachgegangen, indem die Beschreibung automatisierter Einzelentscheidungen in Art. 21 Abs. 1 DSG analysiert wird.

Wie bei sämtlichen datenschutzrechtlichen Problemstellungen ist vorab zu klären, ob und in welchem Umfang die Regelungen des DSG auf einen Sachverhalt überhaupt anwendbar sind. Nur wenn eine Datenbearbeitung in den Geltungsbereich des DSG fällt, kann es sich bei dieser möglicherweise um eine automatisierte Einzelentscheidung im Sinne von Art. 21 DSG handeln. Vor der konkreten Analyse der Tatbestandsmerkmale einer automatisierten Einzelentscheidung im Sinne des DSG werden deshalb kurz der Geltungsbereich des DSG sowie allfällige damit zusammenhängende Problemstellungen betrachtet.

Geltungsbereich des DSG

Nicht jede automatisierte Entscheidung, welche der vorne genannten Definition entspricht,[4] unterliegt den Vorschriften des DSG. Damit die einer automatisierten Entscheidung zugrundeliegende Datenbearbeitung vom Geltungsbereich des DSG erfasst wird, müssen in deren Rahmen Personendaten bearbeitet werden (sachlicher Geltungsbereich, Art. 2 Abs. 1 DSG), die Bearbeitung muss sich in der Schweiz auswirken (räumlicher Geltungsbereich, Art. 3 DSG) und durch eine private Person oder ein Bundesorgan[5] erfolgen (persönlicher Geltungsbereich, Art. 2 Abs. 1 DSG). Ebenfalls beachtet werden müssen die Ausnahmetatbestände nach Art. 2 Abs. 2 bis 4 DSG. Nur wenn die einer automatisierten Entscheidung zugrundeliegende Datenbearbeitung vom sachlichen, räumlichen und persönlichen Geltungsbereich des DSG erfasst wird, ist zu prüfen, ob diese auch die Tatbestandsmerkmale einer automatisierten Einzelentscheidung im Sinne des DSG erfüllt. Wird weder eine zu einer automatisierten Entscheidung führende Datenbearbeitung noch die Entscheidung an sich vom Geltungsbereich des DSG erfasst, ist ausgeschlossen, dass es sich dabei um eine datenschutzrechtlich relevante automatisierte Einzelentscheidung handelt.

Sachlicher Geltungsbereich[6]

Vorbemerkungen

Das DSG ist nur auf die Bearbeitung von Personendaten anwendbar,[7] womit zwei Tatbestandsmerkmale (Bearbeitung und Personendaten) gegeben sein müssen, um den Geltungsbereich des DSG zu eröffnen. Ausnahmen vom sachlichen (und indirekt auch persönlichen) Geltungsbereich finden sich in Art. 2 Abs. 2 DSG. Dieser nimmt Personendaten vom Geltungsbereich des DSG aus, die von einer natürlichen Person ausschliesslich zum persönlichen Gebrauch (lit. a), durch die eidgenössischen Räte und parlamentarische Kommissionen im Rahmen ihrer Beratungen (lit. b) oder durch gewisse in der Schweiz Immunität geniessende institutionelle Begünstigte (lit. c) bearbeitet werden. Ebenfalls ausgenommen vom sachlichen Geltungsbereich sind Datenbearbeitungen im Rahmen gewisser gerichtlicher oder behördlicher Verfahren, die durch das anwendbare Verfahrensrecht geregelt werden, sowie teilweise öffentliche Register des Privatrechtsverkehrs, welche spezialgesetzlich geregelt sind.[8]

Bearbeiten[9]

Ein Bearbeiten liegt bei jedem Umgang mit Personendaten vor, unabhängig von den angewandten Mitteln und Verfahren. Insbesondere das Beschaffen, Speichern, Aufbewahren, Verwenden, Verändern, Bekanntgeben, Archivieren, Löschen oder Vernichten von Personendaten stuft der Gesetzgeber als Bearbeitung ein.[10] Erfasst werden sowohl manuelle als auch automatisierte Bearbeitungen sowie sämtliche Zwischenformen.[11] Damit wird der Begriff des Bearbeitens umfassend verstanden. Mit Blick auf automatisierte Entscheidungen ist deshalb jeder Umgang mit Personendaten von Relevanz, unabhängig davon, ob dieser im Rahmen der Entscheidungsvorbereitung geschieht oder – sofern überhaupt möglich – bloss bei der Ausgabe des Ergebnisses, d.h. bei der tatsächlichen Fällung der Entscheidung.

Ein Blick auf den Entscheidungsprozess[12] zeigt, auch wenn mit dem Begriff der automatisierten Einzelentscheidung im Wesentlichen an das Ergebnis eines Datenverarbeitungsvorgangs und nicht an die Datenbearbeitung an sich angeknüpft wird, liegt diesem Ergebnis immer eine Datenbearbeitung zugrunde. Ohne die Verarbeitung der für eine Entscheidung relevanten Informationen können die Entscheidungsalternativen weder eruiert noch bewertet werden, wodurch auch keine Entscheidung gefällt werden kann.

Dabei zeigt der Blick auf die technischen Grundlagen der auf maschinellem Lernen basierenden (Entscheidungs‑)Systeme, dass oftmals zwischen zwei verschiedenen Datenbearbeitungsprozessen unterschieden werden muss. So findet zum einen eine umfangreiche Datenbearbeitung beim Training des Algorithmus statt, sei dies bspw., indem versucht wird, in ungelabelten Daten gewisse Muster zu erkennen, oder indem der Algorithmus anhand von gelabelten Daten selbstständig lernt, Vorhersagen zu erstellen.[13] Zum anderen findet anschliessend, während der Anwendung des produktiven Systems und damit bei der Entscheidungsfällung im Einzelfall, eine Datenbearbeitung statt, indem neue (Personen‑)Daten in die Entscheidungssysteme eingebracht und darauf die vorher gelernten Regeln angewendet werden.[14] Beim Einsatz eines Systems zur automatisierten Entscheidungsfällung findet damit grundsätzlich mindestens immer dann eine Datenbearbeitung statt, wenn Daten in das System eingegeben werden, um gestützt darauf ein Ergebnis zu erhalten.

Personendaten[15]

Bei Personendaten handelt es sich um alle Angaben, die sich auf eine bestimmte oder bestimmbare Person beziehen.[16] Vor der Totalrevision wurden vom Begriff der Personendaten sowohl die Daten natürlicher als auch juristischer Personen erfasst.[17] Der Schutz der Daten juristischer Personen wurde im Rahmen der Totalrevision aus dem aDSG gestrichen, um das Schweizer Recht den europäischen Bestimmungen anzugleichen und die Bekanntgabe von Daten juristischer Personen an ausländische Staaten zu erleichtern.[18] Mit dem Inkrafttreten des DSG kann es sich entsprechend nur noch um Personendaten handeln, wenn diese eine natürlicher Person betreffen.[19] Als natürliche Personen werden alle Menschen angesehen, unabhängig von ihrem Alter oder davon, ob sie urteils- oder handlungsfähig sind, welchem Geschlecht oder Staat sie angehören oder wo sie ihren Wohnsitz haben.[20]

Es ist unerheblich, in welcher Form, wie bspw. Wort oder Bild, die Angaben zu einer natürlichen Person vorliegen und ob es sich um objektive oder subjektive Angaben, d.h. Tatsachenfeststellungen oder Werturteile, zu einer Person handelt.[21] Personendaten liegen immer dann vor, wenn eine Person aus den Daten direkt oder indirekt identifiziert werden kann und zwar ohne unverhältnismässigen Aufwand.[22] Ergibt sich aus einer Information selbst, um welche Person es sich handelt, ist diese Person bestimmt.[23] Kann (nur) aufgrund zusätzlicher Informationen auf diese Person geschlossen werden, ist diese hingegen bestimmbar.[24] Die theoretische Möglichkeit, dass eine Person identifiziert werden kann, reicht dabei nicht aus, um von ihrer Bestimmbarkeit auszugehen. Vielmehr muss zur Beantwortung der Frage, ob eine Person bestimmbar ist, die Gesamtheit der erforderlichen Mittel zur Identifizierung geprüft und der dafür notwendige zeitliche und finanzielle Aufwand beurteilt werden, welcher nicht unverhältnismässig sein darf.[25] Muss nach der allgemeinen Lebenserfahrung nicht damit gerechnet werden, dass jemand den nötigen Aufwand zur Identifizierung auf sich nimmt, liegt ein unverhältnismässiger Aufwand und damit keine Bestimmbarkeit vor.[26] Die Bestimmbarkeit ist relativ und beurteilt sich im konkreten Fall aus der Sicht des Inhabers oder Empfängers einer Information.[27] Entsprechend ist zu prüfen, ob es dieser Person möglich ist herauszufinden, auf welche natürliche Person sich die Information bezieht. Anschliessend ist die Frage zu stellen, ob diese Person zudem bereit ist, den für die Identifizierung erforderlichen Aufwand zu betreiben.[28] Zu berücksichtigen sind dabei sowohl die zum Zeitpunkt der Bearbeitung verfügbaren Technologien als auch deren Weiterentwicklung.[29] Nicht anwendbar ist das DSG hingegen auf Fälle, in welchen Daten zu Personen bearbeitet werden, die für den Verantwortlichen oder den Datenempfänger nicht oder zumindest nicht ohne unverhältnismässigen Aufwand identifizierbar sind. In diesen Fällen fehlt es am Vorliegen von Personendaten.[30]

Vor dem Hintergrund der Big-Data-Problematik[31] stellt sich mit Blick auf die Verwendung anonymisierter Daten die Frage, inwiefern die Anonymisierung den Personenbezug noch effektiv zu entfernen vermag. Aufgrund der wachsenden Datenmengen und der immer besser werdenden Soft- und Hardware wird es zunehmend schwerer, Daten so irreversibel zu anonymisieren, dass tatsächlich kein Personenbezug mehr hergestellt werden kann.[32] Diese Problematik ist insbesondere relevant im Rahmen des Trainings von auf maschinellem Lernen basierenden Systemen, sofern dieses auf umfangreichen Datensätzen beruht, wie dies beim überwachten oder unüberwachten Lernen regelmässig der Fall ist.

Bearbeitet ein Algorithmus somit bspw. lediglich Sachdaten, anonymisierte oder pseudonymisierte Daten, ist dies nur in denjenigen Fällen datenschutzrechtlich relevant, wenn (z.B. aufgrund der Masse der Daten) ein Personenbezug ohne grossen Aufwand (wieder‑)hergestellt werden kann, die Verantwortlichen oder Empfänger über den Schlüssel der Pseudonymisierung verfügen oder wenn im Ergebnis ein Personendatum resultiert. Letzteres kann bspw. eine Vorhersage oder Aussage über eine Person oder die diese betreffende Entscheidung sein.

Die Anknüpfung an die Bearbeitung von Personendaten hat bspw. zur Folge, dass automatisierte Entscheide, welche nach dem Zufallsprinzip getroffen werden, ohne dass diesen die Bearbeitung von Personendaten zugrunde liegt, wie dies bspw. bei einem Glücksspielautomaten der Fall ist, nicht vom Geltungsbereich des DGS erfasst werden.[33]

Fazit

Aufgrund des Gesagten sind grundsätzlich sämtliche Datenverarbeitungen, welche zu automatisierten Einzelentscheidungen führen, vom sachlichen Geltungsbereich des DSG erfasst, wenn die zur Entscheidungsfällung bearbeiteten Daten oder das Ergebnis dieser Datenbearbeitung einen Bezug zu einer natürlichen Person aufweisen. Dies ist unter anderem der Fall, wenn Angaben über eine Person wie bspw. deren Name, Geburtsdatum oder Adresse zur automatisierten Entscheidungsfällung bearbeitet werden oder die betroffene Person für die Verantwortlichen ohne grossen Aufwand identifizierbar ist.

Zu berücksichtigen ist dabei, dass es durchaus möglich ist, dass der sachliche Geltungsbereich des DSG die Datenbearbeitung im Rahmen der Entwicklung des Entscheidungssystems nicht erfasst. Innerhalb der angeführten Einschränkungen, wie bspw. der Möglichkeit zur De-Anonymisierung, ist es denkbar, wenn nicht sogar regelmässig der Fall, dass zum Training eines auf maschinellem Lernen basierenden Systems keine Personendaten bearbeitet werden und dieses Training entsprechend datenschutzrechtlich nicht erfasst wird.[34] Spätestens wenn jedoch bei der Anwendung eines Systems neue Daten über eine natürliche Person in das System eingebracht werden, ist dies als datenschutzrechtlich relevante Datenbearbeitung zu qualifizieren. Auch wenn die Entwicklung des Systems, wie vorne gezeigt, einen wesentlichen Einfluss auf dessen spätere Entscheidungen hat,[35] knüpft der Begriff der automatisierten Einzelentscheidung, wie im Folgenden zu zeigen sein wird, sodann nicht an eine mögliche Datenbearbeitung im Rahmen der Entwicklung des Systems, sondern an die Datenbearbeitung im Rahmen der tatsächlichen Entscheidungsfällung, d.h. an die Anwendung des Systems im Einzelfall an.[36] Ebenfalls datenschutzrechtlich nicht relevant ist es, wenn für eine automatisierte Entscheidung keine Personendaten bearbeitet werden, wie dies bspw. bei anhand des Zufallsprinzips ausgewählten Gewinnern bei Glücksspielautomaten der Fall sein kann.

Mit Blick auf die Frage, ob eine automatisierte Einzelentscheidung im Sinne des DSG vorliegt, ist entsprechend zu prüfen, ob es sich bei der einer Entscheidung zugrundeliegenden Datenbearbeitung und/oder der Entscheidung an sich um eine Bearbeitung von Personendaten (der betroffenen Person) handelt.

Persönlicher Geltungsbereich[37]

Private Personen und Bundesorgane

Das DSG findet Anwendung auf Datenbearbeitungen, welche von privaten Personen oder Bundesorganen durchgeführt werden.[38] Bundesorgane im Sinne des DSG sind Behörden oder Dienststellen des Bundes oder auch Personen, die mit öffentlichen Aufgaben des Bundes betraut worden sind.[39] Der Begriff der privaten Personen erfasst alle natürlichen und juristischen Personen im weiteren Sinne.[40] Im Gegensatz zum sachlichen Anwendungsbereich sind juristische Personen vom persönlichen Geltungsbereich weiterhin erfasst. Entsprechend unterliegt die Datenbearbeitung durch juristische Personen dem Geltungsbereich des DSG, nicht jedoch die Bearbeitung von Daten über juristische Personen. Dies hat zur Folge, dass sich sowohl eine juristische als auch eine natürliche Person an die Vorgaben des DSG zu halten hat, wenn sie Daten natürlicher Personen bearbeitet.

Bei der Abgrenzung, ob es sich um eine Datenbearbeitung durch Private oder Bundesorgane handelt, ist nicht die Organisationsform des Datenbearbeiters, sondern die Rechtsnatur des zugrundeliegenden Verhältnisses zwischen Datenbearbeiter und betroffener Person massgebend.[41]

Verantwortliche[42]

Den an einer Datenbearbeitung beteiligten Akteuren kommen verschiedene datenschutzrechtliche Rollen zu.[43] Die Verantwortung für die Einhaltung des Datenschutzes überträgt das DSG – in Übereinstimmung mit dem persönlichen Geltungsbereich[44] – in erster Linie derjenigen privaten Person (oder dem Bundesorgan), welche allein oder zusammen mit anderen über den Zweck und die Mittel der Bearbeitung entscheidet (Verantwortlicher).[45] Verantwortlich für eine Datenbearbeitung ist somit, wer über die wesentlichen datenschutzrechtlichen Parameter und die Art und Weise, wie eine Datenbearbeitung ausgestaltet ist, bestimmt.[46] Auftragsdatenbearbeitende sind hingegen private Personen oder Bundesorgane, die im Auftrag des Verantwortlichen Personendaten bearbeiten.[47]

Beim Einsatz eines Systems zur automatisierten Entscheidungsfällung erfolgt mindestens ein Teil der Datenbearbeitung durch dieses System. Der Mensch ist seitens des Datenbearbeiters, abhängig vom Automatisierungsgrads des Systems, mehr oder weniger an der Entscheidungsfällung beteiligt. Das Schweizer Recht sieht keine Rechtspersönlichkeit für Automatisierungssysteme oder Algorithmen vor,[48] sondern diese werden bloss als Rechtsobjekt und nicht als Rechtssubjekt angesehen.[49] Bei einem ADM-System und seinem zugrundeliegenden Algorithmus handelt es sich entsprechend weder um eine private Person noch um ein Bundesorgan, womit auf den ersten Blick in Frage gestellt werden kann, ob die Datenbearbeitung oder Entscheidungsfällung durch einen Algorithmus dem persönlichen Geltungsbereich des DSG untersteht. Mit Blick auf den Einsatz von Hard- oder Software geht die Botschaft jedoch davon aus, dass es sich dabei nicht um Datenbearbeitende, sondern lediglich um ein Mittel zur Datenbearbeitung handelt, wobei deren möglicherweise autonomes Handeln nicht thematisiert wird.[50] Dies bedeutet, dass Handlungen oder Willenserklärungen von Algorithmen im Datenschutzrecht aktuell denjenigen Personen bzw. Datenbearbeitenden zugerechnet werden, welche diese einsetzen. Dasselbe gilt im Übrigen zurzeit auch für das Haftpflicht- oder Vertragsrecht,[51] auch wenn die Möglichkeiten einer (Teil‑)Rechtspersönlichkeit für digitale Systeme verschiedentlich diskutiert werden.[52]

Im Zusammenhang mit automatisierten Entscheidungen bedeutet das Gesagte, dass eine Datenbearbeitung zur Entscheidungsfällung nicht dem ADM-System zugeschrieben wird, sondern derjenigen natürlichen oder juristischen Person, welche diese einsetzt und über die Art und Weise der Datenbearbeitung bestimmt. «Verantwortlicher» ist entsprechend, wer über die Art des Systems zur Entscheidungsfällung sowie dessen Einsatz und Zweck und damit über dessen zugrundeliegende Datenbearbeitung entscheidet. Da es sich beim Verantwortlichen um eine private Person oder ein Bundesorgan im oben genannten Sinn handeln kann, ist der persönliche Geltungsbereich des DSG[53] eröffnet, sobald sich eine (zu einer automatisierten Entscheidung führende) Datenbearbeitung direkt (oder via Auftragsdatenbearbeiter) einem solchen «Verantwortlichen» zurechnen lässt.

Dies erscheint so lange folgerichtig, als dass Algorithmen zur Automatisierung von Entscheidungen definitionsgemäss als vom Menschen zur Erfüllung bestimmter Aufgaben konstruierte Werkzeuge angesehen werden[54] und entsprechende Systeme nur im Auftrag von natürlichen oder juristischen Personen «handeln», was zumindest heute noch der Fall ist. Anders sähe es möglicherweise aus, wenn ADM-Systeme zukünftig eigenständig agieren und selbst über die Zwecke der ihnen zugrundeliegenden Datenbearbeitung bestimmen könnten. Mangels Rechtspersönlichkeit von ADM-Systemen ist es zurzeit ausgeschlossen, dass eine solche Datenbearbeitung einem System allein zugerechnet wird. Da eine generelle künstliche Intelligenz aktuell noch weit entfernt ist,[55] stellt sich die Frage des Umgangs mit solchen Systemen momentan jedoch nicht.

Auch wenn man davon ausgeht, dass eigenständigen automatisierten Entscheidungssystemen (zukünftig) eine Rechtspersönlichkeit zugeschrieben werden könnte, hätte dies nicht automatisch eine vollständige Entlastung der diese anwendenden Person zur Folge.[56] Da im Schweizer Datenschutzrecht gemäss Art. 5 lit. j DSG derjenigen Person die Verantwortung obliegt, welche allein oder zusammen mit anderen über den Zweck und die Mittel der Bearbeitung entscheidet, können auch mehrere Personen gemeinsam «Verantwortlicher» sein. Folgt man diesbezüglich dem europäischen Vorbild der gemeinsam Verantwortlichen[57], wird für die Annahme der gemeinsamen Verantwortung keine erhebliche Einwirkungsmöglichkeit aller Beteiligten vorausgesetzt.[58] Möglich wäre in diesen Fällen eine gemeinsame Verantwortung der (privaten) Anwender und des Systems,[59] wodurch – mindestens teilweise – auch der persönliche Anwendungsbereich des DSG wiederum eröffnet wäre.

Räumlicher Geltungsbereich[60]

Währenddem sich im aDSG keine ausdrücklichen Angaben zum räumlichen Geltungsbereich fanden, ist dieser im totalrevidierten DSG in Art. 3 geregelt. Die Bestimmung hält jedoch lediglich fest, was bis anhin schon galt.[61] Im Hinblick auf die Regelungen des aDSG mit öffentlich-rechtlichem Charakter kam bis anhin das Territorialitätsprinzip zum Tragen, wobei auch Sachverhalte erfasst wurden, die sich in der Schweiz entfalteten, auch wenn sie im Ausland erfolgt sind.[62] Führte eine widerrechtliche Datenbearbeitung zu einer Persönlichkeitsverletzung, war bei der Datenbearbeitung durch Private im internationalen Verhältnis hingegen Art. 139 IPRG zu beachten.[63] Dasselbe galt bei internationalen Sachverhalten auch bei einer Verletzung des Auskunftsrechts.[64] Art. 3 Abs. 1 DSG hält nun ausdrücklich fest, dass das Gesetz für sämtliche Sachverhalte gilt, die sich in der Schweiz auswirken, auch wenn sie im Ausland veranlasst oder durchgeführt werden.[65] Noch ungeklärt ist dabei jedoch, wie eine Datenbearbeitung aussehen muss, um sich in der Schweiz auszuwirken.[66] Darüber hinaus ist in Art. 3 Abs. 2 DSG mit Blick auf die Datenbearbeitung Privater ein ausdrücklicher Verweis auf die Vorschriften des IPRG enthalten. Dies hat zur Folge, dass die betroffene Person bei internationalen Sachverhalten – wie bis anhin – das für die Beurteilung anwendbare Recht weitgehend auswählen kann,[67] sofern ein Gerichtsstand in der Schweiz begründet werden kann.[68] Entsprechend steht den durch eine Datenbearbeitung geschädigten Personen die Rechtswahl zu, wo sie ihre Rechte geltend machen wollen.[69] Hat ebendiese Person ihren gewöhnlichen Aufenthalt in der Schweiz, muss mit der Anwendbarkeit des DSG gerechnet werden, unabhängig davon, ob die Datenbearbeitung im Ausland stattfindet.[70] Dadurch wird verhindert, dass Datenbearbeitende sich durch die Wahl ihres Domizils datenschutzrechtliche Vorteile zu Lasten der betroffenen Person verschaffen.[71]

Damit das DSG auf eine Datenbearbeitung im Rahmen der automatisierten Entscheidungsfällung anwendbar wird, reicht es somit aus, wenn die zugrundeliegende Datenbearbeitung in der Schweiz erfolgt oder wenn sich diese in der Schweiz auswirkt. Verletzt eine im Ausland getroffene automatisierte Entscheidung bzw. ihre zugrundeliegende Datenbearbeitung die Persönlichkeitsrechte einer sich in der Schweiz aufhaltenden Person, kann diese die Beurteilung gestützt auf das DSG wählen. Solange sich die von einer Entscheidung betroffene Person in der Schweiz aufhält, können sich die Verantwortlichen nicht dem Geltungsbereich des DSG entziehen, indem sie die einer automatisierten Entscheidungsfällung zugrundeliegende Datenbearbeitung ins Ausland verlegen.

Tatbestandsmerkmale «automatisierter Einzelentscheidungen»

Vorbemerkungen

Erfasst der Geltungsbereich des DSG einen Datenbearbeitungsvorgang, stellt sich im Anschluss die Frage, ob es sich dabei um eine «automatisierte Einzelentscheidung» im Sinne des Gesetzes handelt. Erst wenn man dies bejaht, sind die diesbezüglichen Regelungen des DSG für den in Frage stehenden Verarbeitungsvorgang von Relevanz.

Der in Art. 21 Abs. 1 DSG verwendete Begriff der «automatisierten Einzelentscheidung» vermittelt zwar ein intuitives Verständnis, welche Phänomene der Gesetzgeber damit erfassen wollte.[72] Der Anwendungsbereich der diesbezüglichen datenschutzrechtlichen Regelungen ergibt sich jedoch nicht ohne Weiteres aus sich selbst.[73] Um den Begriff der «automatisierten Einzelentscheidungen» im Sinne des DSG besser fassbar zu machen, werden im Folgenden sämtliche möglichen Tatbestandsmerkmale, die sich im Zusammenhang mit der automatisierten Entscheidungsfindung aus dem DSG sowie dessen Materialien ergeben, ermittelt und (auf ihre Relevanz) analysiert.

Die historische Aufarbeitung zeigt, dass sich der Begriff der «automatisierten Einzelentscheidung» nicht im aDSG fand, sondern im Rahmen der Totalrevision an verschiedenen Stellen ins DSG aufgenommen wurde.[74] Bei den in Art. 5 DSG enthaltenen Legaldefinitionen findet sich weder eine Definition der Begriffe «automatisiert» oder «Einzelentscheidung» noch der «automatisierten Einzelentscheidung» als Ganzes. Vielmehr findet sich der Begriff der «automatisierten Einzelentscheidung» als Erstes in der Überschrift von Art. 21 DSG. In dessen Abs. 1 werden automatisierte Einzelentscheidungen anschliessend mittels einer Klammerdefinition ins Gesetz eingeführt und umschrieben.[75] Darüber hinaus ist in Art. 21 Abs. 2 (Betroffenenrechte), dessen Abs. 3 lit. a (Ausnahme) und Abs. 4 (Kennzeichnungspflicht für Bundesorgane) sowie in Art. 25 Abs. 2 lit. f (Auskunftspflicht) DSG die Rede von automatisierten Einzelentscheidungen. Obwohl in der Botschaft vermerkt wurde, dass der Bundesrat den Begriff der automatisierten Einzelentscheidung – falls erforderlich – in der Verordnung zum DSG präzisieren werde,[76] fand sich weder im E-VDSG eine entsprechende Konkretisierung noch hat eine solche Eingang in die vom Bundesrat verabschiedete DSV gefunden.

Aus der Formulierung «automatisierte Einzelentscheidung» lassen sich drei Dinge ableiten: Es geht um eine automatisierte (X.3.3.b) Entscheidung (X.3.2), welche einen Einzelfall (X.3.2.c) betrifft. In der die Klammerdefinition enthaltenden, materiellen Regelung in Art. 21 Abs. 1 DSG ist zudem nicht nur die Rede von einer «automatisierten Einzelentscheidung», sondern von einer «Entscheidung, die ausschliesslich auf einer automatisierten Bearbeitung beruht und die für sie [die betroffene Person] mit einer Rechtsfolge verbunden ist oder sie erheblich beeinträchtigt». Daraus folgt zum einen, dass nicht sämtliche automatisierten Entscheidungen datenschutzrechtlich relevant sind, sondern nur diejenigen, die ausschliesslich automatisiert getroffen werden (X.3.3.c). Zum anderen muss die Entscheidung für die betroffene Person mit einer Rechtsfolge verbunden sein (X.3.2.d)i)) oder diese erheblich beeinträchtigen (X.3.2.d)ii).

Als das Tatbestandsmerkmal «Entscheid» konkretisierendes Kriterium kommen zudem unter Umständen das Vorliegen einer gewissen Komplexität des Entscheids (X.3.2.a)iii) sowie die Notwendigkeit der Bewertung von Personendaten bzw. des Vorliegens eines Profilings (X.3.3.d)) in Frage. Diese Merkmale lassen sich nicht aus dem Gesetzestext ableiten, sondern ergeben sich aus den Materialien und der Lehre zur DSGVO. Zum einen ist in der Botschaft die Rede davon, dass eine gewisse Komplexität erforderlich sei und blosse Wenn-dann-Entscheidungen, wie dies bspw. von einem Bancomaten beim Geldbezug der Fall sei, vom Begriff der automatisierten Entscheidung nicht erfasst seien.[77] Es ist deshalb zu prüfen, ob und wie weit der Begriff der Entscheidung durch zusätzliche Kriterien eingeschränkt wird. Zum anderen fordert die Lehre mit Blick auf Art. 22 DSGVO teilweise, dass vom Begriff der automatisierten Entscheidung nur Entscheidungen erfasst werden sollen, die auf einer Bewertung von Personendaten bzw. einem Profiling basieren oder die ein mit diesem vergleichbares Mindestmass an Komplexität aufweisen.[78] Entsprechend ist zu klären, ob und wie weit dies auch für die Schweiz gilt, zumal der Verweis auf das Profiling im Rahmen des Gesetzgebungsprozesses aus Art. 21 Abs. 1 DSG gestrichen worden ist.[79]

Entscheidung

Umfang und Gegenstand

Auswahl aus verschiedenen Möglichkeiten

Damit die ADM-Regelungen des DSG zur Anwendung kommen, muss ein System zur automatisierten Entscheidungsfällung tatsächlich eine Entscheidung treffen.[80] Eine solche liegt – wie vorne festgestellt – vor, wenn zwischen mindestens zwei Möglichkeiten eine Wahl getroffen wird.[81] Welchen Sachverhalt diese Wahl betrifft, wird im ersten Schritt des Entscheidungsprozesses, der Problemformulierung, definiert.[82] Entsprechend bestimmt sich der Gegenstand einer Entscheidung bereits während ihrer Vorbereitung.

Gemäss Art. 21 Abs. 1 DSG muss eine Entscheidung zur Erfüllung des Tatbestands der automatisierten Einzelentscheidung mit einer rechtlichen Wirkung oder einer erheblichen Beeinträchtigung für die betroffene Person einhergehen. Diesbezüglich ist auch die Rede davon, dass es bei einer (automatisierten) Entscheidung um die Festlegung auf ein bestimmtes Ergebnis im Rahmen eines gestaltenden Aktes mit einer abschliessenden Wirkung geht.[83] Es geht mithin um eine Wirkung der Entscheidung in der Aussenwelt, die eine gewisse Relevanzschwelle überschreiten muss.[84] Folglich bestimmt sich der Entscheidungsgegenstand mit Blick auf die (angestrebten) Auswirkungen auf die betroffene Person.

Fraglich ist, ob eine Entscheidung im eingangs genannten Sinne vorliegt, wenn ein System Daten lediglich (vor‑)sortiert oder blosse Empfehlungen abgibt, bspw. indem eine Liste erstellt wird.[85] In diesen Fällen fehlt es auf den ersten Blick an der Wahl des Algorithmus zwischen verschiedenen Möglichkeiten. Das System wählt selbst keine der identifizierten Möglichkeiten aus, sondern sortiert oder bewertet diese nur und erstellt gestützt darauf bspw. eine Liste. Entsprechend übernimmt das System bspw. die Identifizierung oder Bewertung der verschiedenen Möglichkeiten. Vor dem Hintergrund, dass die Bewertung der Möglichkeiten wesentlich für den anschliessenden Entschluss ist und regelmässig die am besten bewertete Möglichkeit ausgewählt wird,[86] ist jedoch in Frage zu stellen, ob diesfalls das System nicht indirekt doch bereits eine Wahl und damit eine Entscheidung trifft. Dies insbesondere in denjenigen Fällen, in denen der Mensch bloss noch ungeprüft und ohne eigene Willensbildung den Vorschlag des Systems auswählt. In diesem Sinne ist denn auch in der Botschaft angeführt, dass eine automatisierte Entscheidung vorliegt, wenn sie durch eine natürliche Person mitgeteilt wird, sofern diese Person die Entscheidung nicht mehr beeinflussen kann.[87] Anders sieht es jedoch aus, wenn das System die Daten nur sortiert, ohne diese zu bewerten, oder wenn der Mensch die Bewertung des Systems als blosse Leitlinie sieht, ohne sich zwingend daran zu halten oder halten zu müssen. Dies führt zur Frage, ob und in welchen Fällen ein (angebliches) Entscheidungsvorbereitungssystem bereits eine Entscheidung fällt.

Wie vorne angeführt, bestimmt sich der Entscheidungsgegenstand anhand des im ersten Schritt eines Entscheidungsprozesses definierten Ziels sowie mit Blick auf die (angestrebten) Auswirkungen auf die betroffene Person. Mit diesem Blickwinkel ist zur Beantwortung der Frage, ob eine Entscheidungssituation vorliegt, (noch) nicht relevant, ob ein ADM-System eingesetzt wird oder ob es sich dabei um ein Entscheidungsunterstützungssystem handelt. Zur Bestimmung, ob eine Entscheidung vorliegt, ist nicht auf die Art und Weise der Entscheidungsfällung bzw. des verwendeten Systems abzustellen, sondern auf das vorab definierte Entscheidungsziel. Eine datenschutzrechtlich relevante Entscheidungssituation kann entsprechend auch vorliegen, wenn nicht sämtliche Schritte des Entscheidungsprozesses von einem Algorithmus übernommen werden. Ob es sich bei den von einem Entscheidungsunterstützungssystem vorgenommenen Berechnungen um eine ausschliesslich automatisierte Einzelentscheidung handelt, bestimmt sich erst anschliessend im Rahmen der Prüfung der Ausschliesslichkeit der Automatisierung.[88] Freilich erscheint es nicht sinnvoll, die Frage des Vorliegens einer relevanten Entscheidungssituation zu prüfen, wenn überhaupt kein System zur (teilweisen) Automatisierung des Entscheidungsprozesses eingesetzt wird.

Aufgrund der vielen verschiedenen Ausgestaltungsmöglichkeiten von Entscheidungsarchitekturen durch ADM-Systeme mit oder ohne Beteiligung eines Menschen stellt sich die Frage, was einen Prozessschritt im Einzelnen zu einer automatisierten Entscheidung im datenschutzrechtlichen Sinn werden lässt.[89] Aus einer technischen Perspektive wird diesbezüglich vereinzelt argumentiert, dass jede Wahl eines Algorithmus für oder gegen einen (einzelnen) Parameter als eine Entscheidung angesehen werden könne.[90] Aus dem Wortlaut von Art. 21 Abs. 1 DSG sowie der Botschaft lässt sich jedoch ableiten, dass es sich bei der Entscheidung um das Ergebnis einer ausschliesslich automatisierten Datenbearbeitung handelt.[91] Wie eingangs dargelegt, bestimmt sich der Gegenstand einer Entscheidung bereits vor der Entscheidungsfällung im Rahmen der Problemformulierung.[92] Bei automatisierten Entscheidungen kommt diesbezüglich der Umstand hinzu, dass das vom ADM-System zu lösende Problem und damit die vom System zu treffende Auswahl zu Beginn der Systementwicklung (erster Schritt des Entwicklungsprozesses) von den Verantwortlichen festzulegen und damit ebenfalls klar definiert ist.[93] Entsprechend ist bereits vor der tatsächlichen Entscheidungsfällung bestimmt, welches der Gegenstand einer spezifischen (automatisierten) Entscheidung ist bzw. welche Zielsetzung mit dem Einsatz eines entsprechenden Systems verfolgt wird. Bei einzelnen Zwischenentscheidungen des Systems, wie die Wahl für oder gegen einen einzelnen Parameter, handelt es sich mit Blick auf das definierte Endziel entsprechend nicht um einen relevanten Entschluss im eigentlichen Sinne.

Umsetzung eines Entscheids und (fehlendes) Ermessen

In Konstellationen, in denen eine frühere Entscheidung lediglich umgesetzt bzw. abgewickelt wird, kann vorgebracht werden, dass die geforderte Auswahl des Systems zwischen verschiedenen Möglichkeiten fehlt. In diesem Fall hat das System unter Umständen nur noch die Möglichkeiten «Ja» oder «Nein» zur Auswahl. Das blosse Nachvollziehen einer bereits vorab vertraglich oder gesetzlich festgelegten Entscheidung betrachtet die Lehre deshalb nicht als datenschutzrechtlich relevante Entscheidung.[94] In dieselbe Richtung geht auch die Forderung von Rosenthal, welcher sich dafür ausspricht, dass von den ADM-Regelungen nur Entscheidungen erfasst werden sollen, bei denen der Maschine eine Ermessensentscheidung übertragen wird.[95] Erforderlich sei, dass die der Maschine übertragene Entscheidung einen Spielraum zulasse, also eine Bewertung oder Interpretation verlange.[96] Es gehe um die Frage, ob der Entscheidungsträger Spielraum haben wolle und ob bei einer automatisierten Entscheidung unterschiedliche Faktoren auf unterschiedliche Weise berücksichtigt werden können.[97]

Wendet man diese Auslegung auf ein paar Beispiele an, kommt man zum Ergebnis, dass bspw. ein Geldbezug am Bancomat dann nicht als (relevante) Entscheidung zu qualifizieren ist, wenn bereits vorab vertraglich festgelegt oder (einseitig) entschieden wurde, in welchem Umfang Geld am Bancomat bezogen werden kann.[98] In diesem Fall würde es sich beim Geldbezug, bzw. dessen Gewährung oder Verweigerung, bloss um die Umsetzung dieser bereits vertraglich festgesetzten Entscheidung handeln und dem Bancomaten, bzw. dessen zugrundeliegendem System, kommt kein Spielraum zu.[99] Dasselbe gilt bei einem elektronischen Türschloss, welches öffnet, wenn der richtige (personalisierte) Badge vorgewiesen wird.[100] Die Auswahl, welche Personen berechtigt sind dieses Schloss zu öffnen, wurde bereits vorab getroffen, weshalb das Türschloss diese Entscheidung bloss umsetzt.[101] Zum gleichen Ergebnis kommt man, wenn ein System die Kreditwürdigkeit basierend auf einem vom Menschen festgelegten Schwellenwert (bspw. Jahreseinkommen mindestens Fr. 100‘000) prüft und einen Kredit nur gewährt bzw. gewähren darf, wenn dieser Schwellenwert überschritten wurde. Dem System kommt diesbezüglich kein Spielraum zu, sondern der Mensch hat diesen Spielraum vorab eingeschränkt und überlässt dem System bloss die Umsetzung dieser vorab festgelegten Entscheidung. Dies gilt zumindest so weit, als dass der Schwellenwert vom Menschen definiert und nicht vom System selbst gelernt wird, wobei auch in diesem Fall der Mensch im Rahmen der Systementwicklung wesentlich Einfluss nehmen kann.[102]

Dieser Argumentation und der daraus folgenden Einschränkung des Entscheidungsgegenstands ist nach Ansicht der Autorin nicht zu folgen. Es ist diesbezüglich zu berücksichtigen, dass immer angeführt werden kann, dass ein System zur automatisierten Entscheidungsfällung vom Menschen entwickelt wurde und dabei zumindest die Grundsatzentscheidungen bereits vorab festgelegt worden sind.[103] Auch wenn lernende Systeme eingesetzt werden, entscheidet der Mensch bei ihrer Entwicklung darüber, welche Modelle verwendet werden, um eine Entscheidungsaufgabe zu lösen, wie die verschiedenen Parameter gewichtet werden, ob die vom Modell gelieferten Ergebnissen den Zielerwartungen entsprechen oder ob bzw. in welchem Umfang ein entsprechendes System eingesetzt wird.[104] Das System kann sich im laufenden Betrieb immer nur an die selbstgelernten oder vom Menschen vorgegebenen Berechnungen und/oder die definierten Schwellenwerte halten. Es verfügt damit über kein eigenes «Ermessen» und setzt immer nur die bereits im Rahmen der Systementwicklung gemachten Entscheidungen um.[105] Dies unabhängig davon, ob das System ein Bancomat ist, welcher über die Geldausgabe entscheidet, oder ob es sich um ein System handelt, welches basierend auf der Berechnung eines Scorewerts oder bloss basierend auf einem vordefinierten Schwellenwert «selbstständig» über die Gewährung eines Kredits entscheidet.

Diese technischen Voraussetzungen machen die Abgrenzung, in welchen Fällen eine Entscheidung bloss noch umgesetzt wird oder wann dem System kein «Ermessen» zukommt, schwierig. Mit Blick auf die Gewährung eines Kredits kann bspw. ohne weiteres angeführt werden, es fehle an der Auswahl des Systems zwischen verschiedenen Möglichkeiten bzw. es handle sich um die blosse Umsetzung einer bereits davor von einem Menschen getroffenen Entscheidung, wenn eine automatisiert erfolgte Kreditentscheidung auf einem Scorewert basiert, dessen Mindestwert und Berechnung vorab vom Menschen festgelegt oder freigegeben wurde. Trotzdem entscheidet bzw. berechnet das System die Kreditwürdigkeit der betroffenen Person in diesem Fall zu einem gewissen Mass selbstständig. Auch wenn der Mindestwert für den Scorewert zuvor festgelegt wurde, stützt sich die anschliessende Entscheidung nicht nur auf einen Abgleich mit diesem Mindestwert, sondern auch auf die noch vorzunehmende Berechnung des Scorewerts, d.h. die Bewertung des Systems. Unabhängig vom angewandten System (Abstützen auf Schwellenwert oder auf Scorewert) wird sodann der Entschluss an sich jeweils vom System getroffen, wenn dieses über die Gewährung oder Verweigerung des Kredits entscheidet.

Diese Argumentation berücksichtigt sodann die Tatsache nicht, dass der Gegenstand des Entscheids und dessen Auswirkungen für die betroffene Person gleich bleiben, unabhängig davon, welche technischen Hilfsmittel eingesetzt werden oder ob und wie ein Algorithmus eine Entscheidung trifft und umsetzt. Am Beispiel der Kreditentscheidung bedeutet dies, dass die betroffene Person entweder einen Kredit erhält oder nicht, unabhängig vom angewandten Verfahren (Abstützen auf das Jahreseinkommen oder Berechnung des individuellen Scorewerts). Weshalb diese beiden Arten der Entscheidungsfällung datenschutzrechtlich unterschiedlich zu behandeln sein sollen, bleibt bei dieser Argumentation ungeklärt.[106]

Der Gesetzgeber hat den Begriff der Entscheidung in der Botschaft sodann selber weit ausgelegt, indem er bspw. den Geldbezug am Bancomat oder auch den automatisierten Versand einer Prämienrechnung als Entscheidung qualifiziert, unabhängig davon, ob ein System dabei bereits Entschiedenes umsetzt oder diesem kein Ermessen zukommt.[107] Der Gesetzgeber versucht den Anwendungsbereich des Begriffs der automatisierten Einzelentscheidung dabei vielmehr mittels weiterer Kriterien (Wenn-dann-Entscheidung und Komplexität) einzuschränken, welche im Folgenden vorgestellt und geprüft werden.

Auch wenn sich die Argumentation betreffend die Umsetzung eines Entscheids und die (fehlende) Übernahme von Ermessen auf den ersten Blick intuitiv und nachvollziehbar auf beliebige Entscheidungen übertragen lässt, ist sie aufgrund des Gesagten abzulehnen und der Entscheidungsgegenstand ist weit auszulegen.

Wenn-dann-Entscheidung und Komplexität

Gemäss der Botschaft und gewissen Lehrmeinungen zu Art. 22 DSGVO müssen automatisierte Entscheidungen eine gewisse Komplexität aufweisen und reine Wenn-dann-Entscheidungen werden von den ADM-Regelungen nicht erfasst.[108] Diese Anforderungen wurden insbesondere von Rosenthal kritisiert, welcher zu Art. 19 Abs. 1 E-DSG 2017 vorgebracht hatte, dass aus technischer Sicht aufgrund der Programmierung immer eine Serie von Wenn-dann-Regelungen vorgegeben sei, weshalb dies kein taugliches Abgrenzungskriterium sei.[109] Das Kriterium der Komplexität sei zudem ungeeignet, da in diesen Fällen bspw. auch Spamfilter unter die Regulierung fallen würden, deren Programmierung ebenso komplex sei wie eine Bonitätsprüfung.[110] In seinen Ausführungen zu Art. 21 DSG hat sich Rosenthal später hingegen mit der Forderung nach einer Ermessensentscheidung indirekt für das Erfordernis einer gewissen Komplexität und insbesondere gegen die Erfassung reiner «Wenn-dann-Entscheidungen» ausgesprochen.[111] So liege keine Entscheidung im engeren Sinne vor, wenn in der Sache kein Spielraum bestehe, zu welchem Ergebnis das System richtigerweise kommen müsse. Ein elektronisches Türschloss fälle bspw. keine Entscheidung über den Zutritt zum Gebäude, sondern habe lediglich zu öffnen, wenn ein gültiger Badge vorgelegt oder der richtige Code eingegeben werde. Dabei bestehe kein Interpretationsspielraum.[112]

Die Kritik von Rosenthal betreffend die Forderung nach einer gewissen Komplexität ist durchaus berechtigt. Das Abstellen auf ein zusätzliches Kriterium wie die Komplexität führt zu Abgrenzungsfragen, die sich weder aus dem Gesetz noch aus den Materialien beantworten lassen. Gefordert wäre diesfalls, gemäss der Definition des Begriffs «Komplexität», eine Vielschichtigkeit oder das Miteinander vieler Merkmale.[113] Es ist unklar, worauf sich dieses Argument tatsächlich bezieht, ob es um die Komplexität des Entscheidungsgegenstands oder doch um diejenige der Entwicklung des ADM-Systems geht und wann die geforderte Komplexität gegeben ist. Offen bleibt auch, aus wessen Perspektive dies beurteilt wird. Für einen Experten vermag die (manuelle oder automatisierte) Beurteilung der Kreditwürdigkeit einer Person relativ einfach sein, währenddem die betroffene Person die Berechnungen aufgrund ihrer Komplexität nicht nachvollziehen kann. Gleichzeitig zeigt das vorne angeführte Beispiel einer Kreditentscheidung,[114] dass gewisse Entscheidungen sowohl in komplexer Art und Weise als auch mittels einer einfachen Logik gefällt werden können. Beurteilt sich die Frage, ob einer Person ein Kredit gewährt wird, bspw. anhand ihres jährlichen Einkommens, handelt es sich nicht um einen komplexen Entscheid, sondern um einen einfachen Abgleich des Einkommens mit diesem Schwellenwert.[115] Die Komplexität findet sich diesbezüglich allenfalls bei der vorangehenden Festlegung des Schwellenwertes. Beruht dieselbe Entscheidung auf einem individuell berechneten Scorewert oder Profiling, beurteilt sich die Komplexität hingegen gänzlich anders.

Ähnliche Probleme ergeben sich auch im Falle eines Ausschlusses von sogenannten «Wenn-dann-Entscheidungen». Weder die Materialien noch das DSG definieren, was eine Wenn-dann-Entscheidung ist. In vereinfachter Form lässt sich jede beliebige Entscheidung, auch solche, welche durchaus komplex sind, in eine Wenn-dann-Formel verpacken. Bspw.: «Wenn die betroffene Person kreditwürdig ist, dann erhält sie einen Kredit». Dabei lässt sich die Frage, wann eine Person kreditwürdig ist, wie vorne dargelegt,[116] sowohl anhand eines einfachen Schwellenwerts als auch basierend auf einer komplexen Berechnung des Ausfallrisikos[117] dieser Person bestimmen.

Die Botschaft begründet nicht, weshalb eine gewisse Komplexität der automatisierten Entscheidung gefordert wird und reine Wenn-dann-Entscheidungen vom Anwendungsbereich der neuen ADM-Regelungen ausgenommen werden sollen. Die Autorin vermutet, dass mit der Einschränkung auf das Vorliegen einer gewissen Komplexität und dem Ausschluss von Wenn-dann-Entscheidungen der Zweck verfolgt wird, einfache oder nicht relevant erscheinende Entscheidungen vom Geltungsbereich der ADM-Bestimmungen auszuschliessen. Dadurch soll deren Anwendungsbereich zumindest zu einem gewissen Mass eingeschränkt werden, sodass nicht sämtliche alltäglichen automatisierten Entscheidungen, wie bspw. der Geldbezug am Bancomaten,[118] von den ADM-Regelungen erfasst werden. Es ist entsprechend davon auszugehen, dass es dem Gesetzgeber (und auch Rosenthal) um die Einführung einer gewissen Relevanz- oder Erheblichkeitsschwelle ging.

Ob in der Praxis eine solche Einschränkung des Entscheidungsgegenstands auf dessen Art (wenn-dann) oder Komplexität nötig ist, bezweifelt die Autorin. Eine Einschränkung des Entscheidungsgegenstandes erfolgt durch die in Art. 21 Abs. 1 DSG enthaltene Vorgabe, wonach eine automatisierte Einzelentscheidung für die betroffene Person mit einer Rechtsfolge verbunden sein oder sie erheblich beeinträchtigen muss. Diese Tatbestandsmerkmale schaffen, wie im Folgenden gezeigt wird,[119] eine ausreichende Relevanz- und Erheblichkeitsschwelle. Die Kriterien der Komplexität und der Wenn-dann-Entscheidung werden deshalb von der Autorin abgelehnt.[120]

Entscheidungsträger

Während im allgemeinen Sprachgebrauch und in der Entscheidungstheorie grundsätzlich die Wahl eines Individuums oder einer Organisation zwischen verschiedenen Möglichkeiten als eine Entscheidung verstanden wird,[121] weicht der rechtswissenschaftliche Gebrauch des Entscheidungsbegriffs davon ab. Im prozessrechtlichen Sprachgebrauch wird der Begriff «Entscheidung» hauptsächlich für das Erkenntnis eines Gerichts in einer bestimmten Frage verwendet.[122] Zwar handelt es sich dabei auch aus rechtwissenschaftlicher Sicht um eine Wahl aus verschiedenen Möglichkeiten, zumal das Gericht auf Grundlage der Parteieingaben die rechtserheblichen Tatsachen feststellt und anschliessend über deren Rechtsfolgen entscheidet.[123] Im juristischen Sprachgebrauch ist die Entscheidung aber klar einem bestimmten Akteur, dem Gericht, zugeordnet. Es stellt sich deshalb die Frage, ob der Begriff der (automatisierten) Entscheidungen im Sinne des DSG bloss Entscheidungen durch Gerichte erfasst.

Dies ist klar zu verneinen. Das DSG regelt, wie vorne dargelegt, die Bearbeitung von Personendaten sowohl durch private Personen als auch durch Bundesorgane.[124] Die Bearbeitung von Personendaten in Gerichtsverfahren und in Verfahren nach bundesrechtlichen Verfahrensordnungen ist hingegen vom Anwendungsbereich des DSG ausgeschlossen.[125] Dies gilt auch für die Bearbeitung von Personendaten im Rahmen kantonaler Gerichtsverfahren, welche den kantonalen Datenschutz- oder Verfahrensvorschriften unterliegt. Gleichzeitig richten sich die in Art. 21 DSG enthaltenen Pflichten direkt an den Verantwortlichen. Dies ergibt sich sowohl aus dem Wortlaut der Bestimmung als auch aus deren systematischer Stellung im dritten Kapitel «Pflichten des Verantwortlichen und des Auftragsbearbeiters». Nur Art. 21 Abs. 4 DSG adressiert ausschliesslich Bundesorgane und nicht private Verantwortliche. Art. 25 Abs. 2 lit. f DSG ist zwar systematisch dem vierten Kapitel «Rechte der betroffenen Person» zugeordnet, aber auch aus seinem Wortlaut wird klar, dass das Auskunftsrecht betreffend die automatisierte Entscheidungsfällung gegenüber dem Verantwortlichen geltend gemacht werden kann.

Verantwortlicher ist, wie vorne festgestellt,[126] gemäss Art. 5 lit. j DSG derjenige, welcher über den Zweck und die Mittel der Datenbearbeitung entscheidet. Beim Einsatz eines ADM-Systems ist die private Person (oder das Bundesorgan) verantwortlich, welche darüber entscheidet, welche Ziele mit der Entscheidung verfolgt werden und wie dessen zugrundeliegende Datenbearbeitung aussieht. Entscheidungsträger einer automatisierten Einzelentscheidung im Sinne des DSG kann somit eine private, d.h. natürliche oder juristische, Person oder ein Bundesorgan sein. Die Bearbeitung von Personendaten, welche zu einem Gerichtsentscheid führt, unterliegt hingegen in der Regel nicht den Vorgaben des DSG, weshalb dessen Entscheidungsbegriff nicht auf Gerichtsentscheidungen beschränkt sein kann.

Eine «Entscheidung» im Sinne von Art. 21 und Art. 25 Abs. 2 lit. f DSG liegt somit immer dann vor, wenn eine private Person oder ein Bundesorgan (automatisiert) zwischen verschiedenen Möglichkeiten auswählt. Die datenschutzrechtliche Verantwortlichkeit für die automatisiert getroffene Entscheidung bestimmt sich dabei, wie vorne dargelegt, anhand der Verantwortlichkeit für die zugrundeliegende Datenbearbeitung.[127] Der Entscheidungsbegriff im allgemeinen juristischen Begriffsverständnis unterscheidet sich somit vom Entscheidungsbegriff im vorliegenden datenschutzrechtlichen Sinn.

(Individuell-konkreter) Einzelfall

In Art. 21 und Art. 25 Abs. 2 lit. f DSG ist die Rede von einer automatisierten Einzelentscheidung bzw. einer «décision individuelle automatisée» in der französischen sowie einer «decisione individuali automatizzate» in der italienischen Sprachfassung. Der Begriff der Einzelentscheidung findet sich nicht im Wörterbuch. Aufgrund des Wortaufbaus und mit Blick auf die verschiedenen Sprachfassungen liegt die Auslegung nahe, dass damit eine Entscheidung in einem Einzelfall gemeint ist. Von einem Einzelfall wird im allgemeinen Sprachgebrauch im Zusammenhang mit einem konkreten, einzelnen Fall, der individuell beurteilt oder behandelt wird, oder bei etwas, das die Ausnahme darstellt bzw. nicht die Regel ist, gesprochen.[128] Ein Blick nach Europa zeigt, dass die Überschrift von Art. 22 DSGVO «Entscheidung im Einzelfall» lautet. Vor dem Hintergrund, dass die Regelung automatisierter Entscheidungen und damit auch der Begriff der Einzelentscheidung im Kern dem europäischen Vorbild folgt,[129] sind entsprechend auch im Schweizer DSG Entscheidungen im Einzelfall gemeint. Aus dem Wortlaut von Art. 21 Abs. 1 DSG ergibt sich darüber hinaus, dass diese Entscheidung im Einzelfall eine Person betrifft.

Die Botschaft konkretisiert den Begriff der Einzelfallentscheidung nur insofern, als dass sich der Hinweis findet, dass es sich bei automatisierten Einzelentscheidungen durch Bundesorgane grundsätzlich um Verfügungen handle.[130] Verfügungen sind gemäss Art. 5 VwVG individuell-konkrete Anordnungen von Behörden im Einzelfall.[131] Dies bedeutet, dass eine Verfügung einen oder mehrere klar bestimmte Adressatinnen oder Adressaten betrifft (individuell) und sich an einen einzelnen Fall oder eine definierte Fallgruppe richtet (konkret).[132] Dieser Hinweis in der Botschaft hat für das Verhältnis zwischen Privaten zwar keine direkte Bedeutung, bestätigt jedoch, dass auch der Gesetzgeber mit dem Begriff «Einzelentscheidungen» individuell-konkrete Entscheidungen verbindet. Aus den Erläuterungen zum Vorentwurf ergibt sich in diesem Sinne denn auch, dass es um eine konkrete Entscheidung gegenüber einer betroffenen Person gehe.[133]

Es geht somit bei einer Einzelfallentscheidung um eine Entscheidung über eine einzelne betroffene Person, d.h. gegenüber einem Individuum, in einem konkreten Fall.[134] Aufgrund des Geltungsbereichs des DSG, welcher nur noch die Bearbeitung von Daten natürlicher Personen und nicht mehr die Bearbeitung von Daten juristischer Personen erfasst,[135] sind nur Entscheidungen erfasst, die eine natürliche Person betreffen bzw. auf der Bearbeitung von Daten natürlicher Personen basieren.[136] Eine Einzelentscheidung liegt bspw. vor, wenn der Computer für einen bestimmten Kunden einen individualisierten Preis für einen konkreten Flug berechnet.[137]

Individuell-konkrete Entscheidungen im Einzelfall sind abzugrenzen von abstrakten Regelungen, wie Rechtsverordnungen und Allgemeinverfügungen, sowie von generellen oder strategischen (Unternehmens‑)Entscheidungen.[138] Als Abgrenzungskriterien können die Kriterien des öffentlichen Rechts analog zur Anwendung kommen: Entscheidungen mit individuell-konkretem Inhalt sind als Einzelentscheidungen anzusehen, nicht jedoch Entscheidungen mit generell-abstraktem Inhalt.[139] Gemäss von Lewinski ergeben sich diesbezüglich Abgrenzungsschwierigkeiten bei automatisiert getroffenen generell-konkreten oder individuell-abstrakten Entscheidungen.[140] Dabei ist jedoch fraglich, ob es Letztere, insbesondere in privatrechtlichen Verhältnissen, überhaupt gibt.[141] Zudem werden diese Entscheidungen vom Begriff der Einzelentscheidung nicht erfasst, wenn man konsequent dem Wortlaut und den vorne angeführten Materialien folgt. Die von von Lewinski vorgebrachten Entscheidungen sind nicht individuell-konkret, da sie sich entweder nicht an eine bestimmte Person richten oder keinen konkreten Fall betreffen. Keine Einzelentscheidung liegt bspw. vor, wenn eine Fluggesellschaft die Flugpreise für bestimmte Sitzplätze an eine bestimmte Destination zu einem bestimmten Zeitpunkt von einem Computer bestimmen lässt, da sich diese Entscheidung nicht individuell an eine bestimmte Person richtet (auch wenn sie einen konkreten Flug zum Gegenstand hat).[142]

Gefordert wird somit eine Entscheidung in einem individuell-konkreten Fall, die sich direkt auf eine einzelne Person auswirkt und auf diese Person individuell zugeschnitten ist. Hat eine Entscheidung hingegen Auswirkungen auf mehrere Personen gleichzeitig, ist analog zu den Abgrenzungskriterien des öffentlichen Rechts zu prüfen, ob es sich trotzdem um eine individuell-konkrete oder vielmehr um eine generell-abstrakte Entscheidung oder eine Zwischenform handelt, was der Einordnung als Einzelfallentscheidung widersprechen würde.

Das Abstützen auf das Vorliegen einer (individuell-konkreten) Einzelfallentscheidung hat zur Folge, dass für die Prüfung, ob ein Datenverarbeitungsvorgang vom sachlichen Geltungsbereich des DSG erfasst ist, nicht auf die Datenbearbeitung geschaut wird, welche im Rahmen der Entwicklung des Systems erfolgt, sondern lediglich auf die Datenbearbeitung, welche zur tatsächlichen Entscheidungsfällung notwendig ist.[143]

Entscheidungsfolgen

Rechtsfolge

Rechtliche Wirkung

Relevant sind nach Art. 21 Abs. 1 DSG nur diejenigen Entscheidungen, die für die betroffene Person mit einer Rechtsfolge verbunden sind oder sie erheblich beeinträchtigen. Der Begriff der Rechtsfolge wird im DSG nicht definiert. Gemäss Botschaft und Lehre handelt es sich dabei um eine unmittelbare, rechtlich vorgesehene Konsequenz für die betroffene Person, sei es, indem eine Rechtsposition begründet, geändert oder aufgehoben wird.[144] Dies bedeutet, dass sich die rechtliche Stellung der betroffenen Person durch die automatisierte Entscheidung in irgendeiner Weise ändert oder in ein Recht eingegriffen wird.[145] Im privatrechtlichen Bereich ist dies bspw. bei einer Entscheidung über einen Vertragsabschluss oder bei der Ausübung eines vertraglichen Rechts,[146] bei einseitigem rechtsgeschäftlichem Handeln (bspw. Kündigung eines Vertrags)[147] oder bei einer Entscheidung über ein Haus- oder Betretungsverbot[148] der Fall. Eine ablehnende Entscheidung betreffend einen Vertragsschluss führt hingegen nicht zu einer rechtlichen Wirkung.[149] In diesen Fällen ändert sich die Rechtsstellung der betroffenen Person nicht.[150] Sie erhält durch die Ablehnung weder neue Rechte noch wird ihr dadurch ein bestehendes Recht entzogen. Den wenigen Lehrmeinungen, welche auch die Ablehnung eines Vertragsangebotes oder die Verweigerung einer Leistung als rechtliche Wirkung qualifizieren,[151] ist deshalb nicht zu folgen. Solche Konstellationen führen unter Umständen, nicht aber zwingend, zu einer erheblichen Beeinträchtigung der betroffenen Person.[152] Dies hat (vorbehaltlich der Ausnahmeregelungen in Art. 21 Abs. 3 DSG) zur Folge, dass Entscheidungen desselben ADM-Systems betreffend einen Vertragsabschluss von den ADM-Regelungen erfasst werden, wenn ein Vertrag abgeschlossen wird, möglicherweise jedoch nicht, wenn ein Vertragsabschluss abgelehnt wird.

Erheblichkeitsschwelle

Im Grundsatz ist davon auszugehen, dass praktisch jede faktische Entscheidung auch eine zumindest mittelbare rechtliche Auswirkung mit sich bringen kann.[153] So ist bei einer vertraglichen Erfüllungshandlung (bspw. der Lieferung der Ware) der Untergang des Anspruchs auf Erfüllung die Rechtsfolge.[154] Eine rechtliche Wirkung kann unter Umständen auch nur mit Blick auf einzelne Besonderheiten eines Vertragsverhältnisses entstehen.[155]

Zu Art. 22 Abs. 1 DSGVO wird mit Blick auf das Erfordernis einer rechtlichen Wirkung vorgebracht, dass eine faktische Veränderung nicht ausreiche, auch wenn sie rechtliche Erheblichkeit besitze.[156] Aus dem gesetzlichen Wortlaut «in ähnlicher Weise erheblich» sei zu folgern, dass nur solche rechtlichen Wirkungen von Art. 22 DSGVO erfasst werden, die selbst mit einer gewissen Erheblichkeit für die betroffene Person verbunden seien.[157] Ebenso wird angeführt, dass eine weite Auslegung des Begriffs der «rechtlichen Wirkung» die Tatbestandsvariante der «erheblichen Beeinträchtigung» leerlaufen lassen würde, weshalb in einer einschränkende Auslegung bloss auf «Rechtsfolgen» abzustützen sei, die sich «entfalten».[158] Rein mittelbare rechtliche Auswirkungen würden deshalb nicht genügen.[159]

Es stellt sich entsprechend die Frage, ob vom Tatbestand der automatisierten Einzelentscheidung im Sinne von Art. 21 Abs. 1 DSG sämtliche Entscheidungen erfasst werden sollen, die zu einer (un)mittelbaren rechtliche Wirkung führen, oder ob der Gesetzgeber eine einschränkendere Auslegung vor Augen hatte, zumal er auf den Zusatz «in ähnlicher Weise» verzichtete.

Vergleicht man den Wortlaut von Art. 21 Abs. 1 DSG mit demjenigen von Art. 22 Abs. 1 DSGVO, lassen sich zwei Unterschiede feststellen. Zum einen ist in der DSGVO die Rede von der Entfaltung einer rechtlichen Wirkung für die betroffene Person, währenddem Art. 21 Abs. 1 DSG voraussetzt, dass eine Entscheidung für die betroffene Person mit einer Rechtsfolge verbunden ist. Zum anderen findet sich in Art. 21 Abs. 1 DSG der Zusatz «in ähnlicher Weise» nicht. Trotz dieser Unterschiede und auch wenn die betreffend Art. 22 Abs. 1 DSGVO vorgebrachten Argumente zur (notwendigen) Erheblichkeit einer rechtlichen Folge mit dem konkreten Wortlaut der Bestimmung begründet werden, haben die daraus gefolgerten Einschränkungen auch für die Schweiz zu gelten. Dies zum einen, weil es dem Gesetzgeber bei den ADM-Regelungen unter anderem darum ging, das Schweizer Recht den diesbezüglichen Vorgaben der EU anzugleichen.[160] Zum anderen fordert der Gesetzgeber, wie eingangs angeführt, in der Botschaft ausdrücklich, dass eine Entscheidung eine unmittelbare rechtlich vorgesehene Konsequenz für die betroffene Person zur Folge haben muss.[161] Dem Gesetzgeber ging es somit nicht um bloss mittelbare rechtliche Wirkungen. Dies brachte er auch zum Ausdruck, indem er mit Blick auf die Abwicklung eines bereits abgeschlossenen Vertrags, wie dies bspw. bei der Zusendung der Prämienrechnung im Rahmen eines bestehenden Versicherungsvertrags der Fall ist, festhielt, dass dies keine rechtliche Wirkung im Sinne von Art. 21 Abs. 1 DSG sei.[162]

Auch die Forderung des Gesetzgebers, wonach eine Entscheidung eine gewisse Komplexität aufweisen müsse,[163] kann dahingehend interpretiert werden, dass zumindest eine gewisse Erheblichkeitsschwelle überschritten werden muss, zumal damit klarerweise gewisse einfache Entscheidungen vom Anwendungsbereich der ADM-Regelungen ausschlossen werden sollten. Daraus lässt sich die Intention des Gesetzgebers ableiten, dass nicht nur eine allfällige Beeinträchtigung, sondern auch die Rechtsfolge für die betroffene Person eine gewisse Erheblichkeit aufweisen muss.[164] So ging es dem Gesetzgeber zwar zu einem gewissen Masse auch um den Schutz der betroffenen Person vor den Risiken automatisierter Entscheidungen.[165] Die angeführten Risiken, wie das Abstützen auf möglicherweise unrichtige Daten, wirken sich bei bloss unerheblichen oder mittelbaren Rechtsfolgen (ebenso wie bei nicht erheblichen Beeinträchtigungen) weniger einschneidend aus. Entsprechend vermag diese Auslegung auch vor dem Hintergrund der Entstehungsgeschichte der Schweizer Regelung automatisierter Entscheidungen sowie mit Blick auf deren Regelungsziele zu überzeugen.

Im Ergebnis ist deshalb zu fordern, dass die Rechtsfolge eine gewisse Erheblichkeit für die betroffene Person aufweisen muss, weshalb eine unmittelbare rechtliche Folge für die betroffene Person und nicht eine blosse mittelbare rechtliche Wirkung vorliegen muss. Eine andere Auslegung hätte zur Folge, dass (mittelbar) rechtliche Wirkungen auf die gleiche Stufe wie erhebliche Beeinträchtigungen gestellt werden oder die mit einer rechtlichen Wirkungen untrennbar verbundene gestaltende Wirkung einem gesonderten Massstab unterstellt würde.[166]

Positive und negative Wirkungen

Im Zusammenhang mit der geforderten Erheblichkeit der rechtlichen Wirkungen ist in der Lehre betreffend Art. 22 DSGVO umstritten, ob nur rechtliche Wirkungen mit negativen Folgen für die betroffene Person oder auch solche mit positiven Folgen erfasst werden (sollen). Die Mehrheit argumentiert, dass aufgrund der Formulierung «in ähnlicher Weise erheblich» davon auszugehen sei, dass auch Entscheidungen mit rechtlicher Wirkung eine Form der erheblichen Beeinträchtigung aufweisen müssen, weshalb positive Entscheidungen von den ADM-Regelungen nicht erfasst würden.[167] Ebenso wird vorgebracht, dass diese Auslegung dem Schutzzweck der Norm diene, denn der Einzelne brauche keinen Schutz vor einer vollständig begünstigenden (automatisierten) Entscheidung.[168] Die Einschränkung auf nur nachteilige rechtliche Wirkungen wird zudem damit begründet, dass die rechtlichen Wirkungen ansonsten per se als erheblich beeinträchtigend eingestuft oder die rechtlichen Wirkungen immanent liegende gestaltende Wirkung zu einem gesonderten Massstab erhoben würde, was beides unsinnig erscheine.[169] Eine Minderheit hingegen ist der Ansicht, es sei nicht von Bedeutung, ob eine Entscheidung eine vorteilhafte oder nachteilige Rechtsfolge auslöse, sondern lediglich ausschlaggebend, ob der rechtliche Status der betroffenen Person verändert werde.[170] Auch wenn der Verordnungsgeber insbesondere nachteilige Folgen im Blick hatte, werde eine Nachteilswirkung explizit nicht gefordert.[171] Die Missachtung der Regeln des Art. 22 DSGVO könne auch deswegen nicht mit dem fehlenden Nachteil gerechtfertigt werden, da bei dessen Feststellung immer eine subjektive Komponente mitschwinge.[172]

Wie bereits festgestellt, fehlt der Zusatz «in ähnlicher Weise erheblich» in Art. 21 Abs. 1 DSG, weshalb sich aus dessen Wortlaut keine Einschränkung auf bloss negative rechtliche Folgen ableiten lässt.[173] In der Botschaft werden sowohl der Abschluss eines Vertrags (der sowohl vorteilhafte als auch negative Folgen mit sich bringen kann) als auch dessen Kündigung (die wohl eher als negative Rechtsfolge für die betroffene Person anzusehen ist) als Beispiele für das Vorliegen einer Rechtsfolge genannt.[174] Gleichzeitig findet sich in Art. 21 Abs. 3 lit. a DSG eine Ausnahme von den in Art. 21 Abs. 1 und 2 DSG enthaltenen ADM-Pflichten. Diese entfallen, wenn die automatisierte Entscheidung in unmittelbarem Zusammenhang mit dem Abschluss oder der Abwicklung eines Vertrags steht und dem Begehren der betroffenen Person stattgegeben wird. Diese Ausnahme wird in der Botschaft damit begründet, dass die betroffene Person in diesen Fällen kein Interesse mehr an einer Information habe.[175] Diese Argumentation lässt sich zwar im Grundsatz auch auf positive Rechtsfolgen übertragen: Hat eine Entscheidung eine positive Rechtsfolge für die betroffene Person zur Folge, wie das vollständige Stattgeben ihres Begehrens, kann in Frage gestellt werden, ob diese überhaupt an der Information über die Art der Entscheidungsfällung sowie der Geltendmachung der weiteren ADM-Rechte interessiert ist. Aus der Ausnahme in Art. 21 Abs. 3 lit. a DSG und deren Begründung könnte entsprechend abgeleitet werden, dass es dem Gesetzgeber bei den ADM-Regelungen nicht um den Schutz vor begünstigenden automatisierten Entscheidungen ging. Das Vorliegen eines entsprechenden Ausnahmetatbestands lässt sich, dem widersprechend, hingegen nur dahingehend interpretieren, dass der Begriff der Rechtsfolgen weit ausgelegt wird und auch begünstigende und damit vorteilhafte Folgen erfasst werden sollen. Würden positive rechtliche Folgen, wie das Stattgeben des Begehrens einer Person im Rahmen eines Vertragsabschlusses, von den ADM-Regelungen gar nicht erfasst, wäre eine entsprechende Ausnahmeregelung nicht notwendig. Es ist deshalb davon auszugehen, dass auch positive Rechtsfolgen für die betroffene Person vom Tatbestand «mit einer Rechtsfolge verbunden» erfasst werden (sollen).

Vom Tatbestand «für die betroffene Person mit einer Rechtsfolge verbunden» sind deshalb sämtliche positiven oder negativen Rechtsfolgen erfasst, sofern diese eine gewisse Erheblichkeitsschwelle überschreiten und es sich nicht bloss um mittelbare rechtliche Wirkungen handelt.

Erhebliche Beeinträchtigung

(Nur) negative Wirkungen

Hat eine automatisierte Entscheidung keine rechtliche Wirkung für die betroffene Person zur Folge, erfüllt sie den datenschutzrechtlichen Tatbestand der automatisierten Einzelentscheidung gemäss Art. 21 Abs. 1 DSG dennoch, wenn sie die betroffene Person erheblich beeinträchtigt. Im allgemeinen Sprachgebrauch bedeutet «beeinträchtigen» auf jemanden oder etwas behindernd, hemmend einwirken.[176] Als Synonyme gelten die Begriffe beschränken, beschneiden, einschränken oder mindern.[177] Erheblich ist unter anderem gleichbedeutend mit «in grossem Ausmass», beachtlich, beträchtlich, enorm, sehr oder wesentlich.[178] In der italienischen Sprachfassung von Art. 21 Abs. 1 DSG ist die Rede von «conseguenze significative» (massgebliche, signifikante Konsequenzen) und in der französischen Fassung von «l’affecte de manière significative» (sie [die betroffene Person] in bedeutsamer Art und Weise tangieren/belasten). Die Einschränkung auf gewisse erhebliche Auswirkungen der automatisierten Entscheidung ist damit im deutschen Wortlaut eher negativ assoziiert, währenddem in der italienischen und (je nach Übersetzung des Begriffs «affecter» als tangieren oder belasten) auch der französischen Sprachfassung lediglich die Rede ist von denjenigen Folgen für die betroffene Person, welche eine gewisse Erheblichkeitsschwelle überschreiten. Es stellt sich entsprechend die Frage, ob eine erhebliche Beeinträchtigung bei positiven und negativen oder nur bei negativen Folgen für die betroffene Person vorliegen kann. Bereits diese, sich aus den unterschiedlichen Wortlauten ergebende, Unsicherheit zeigt, dass es sich bei der Erheblichkeit einer Beeinträchtigung um einen unscharfen, durch Wertung auszufüllenden Rechtsbegriff handelt.[179]

Aus dem erläuternden Bericht zum VE-DSG ergibt sich diesbezüglich, dass zu Beginn angedacht war, die tatsächlichen Konsequenzen einer automatisierten Einzelentscheidung, sofern sie einen gewissen Schweregrad erreichen, als erhebliche Auswirkungen auf die betroffene Person zu erfassen.[180] Dies spricht dafür, dass der Gesetzgeber ursprünglich die Erfassung sämtlicher Auswirkungen auf die betroffene Person mit einer gewissen Erheblichkeit im Sinne hatte. In der Botschaft findet sich hingegen nur noch der Hinweis, dass eine erhebliche Beeinträchtigung vorliege, wenn die betroffene Person durch eine Entscheidung auf nachhaltige Weise z.B. in ihren wirtschaftlichen oder persönlichen Belangen eingeschränkt wird.[181] Ähnlich lautet die französische Fassung der Botschaft, in welcher angeführt wird, dass eine erhebliche Beeinträchtigung vorliege, wenn die betroffene Person dauerhaft wirtschaftlich oder persönlich beeinträchtigt bzw. gehemmt wird («elle est durablement entravée sur le plan économique ou personnel»).[182] In der italienischen Sprachfassung ist hingegen die Rede vom Erleiden eines dauerhaften wirtschaftlichen oder persönlichen Nachteils («subisce durevolmente pregiudizi economici o personali»).[183] In sämtlichen Sprachfassungen wird zudem übereinstimmend angemerkt, dass eine blosse Belästigung nicht ausreichend sei und jeweils die Umstände des Einzelfalls zu berücksichtigen seien.[184]

Der Fokus auf das Vorliegen einer Einschränkung, der Verweis auf eine ungerechtfertigte Beeinträchtigung, das Heranziehen einer blossen Belästigung zur Abgrenzung und insbesondere die italienische Sprachfassung, in der von einem Nachteil die Rede ist, sprechen dafür, dass sich der Gesetzgeber im Verlaufe des Gesetzgebungsprozesses entschieden hat, nur negative Folgen vom Wortlaut der «erheblichen Beeinträchtigung» zu erfassen. Damit unterscheidet sich der Tatbestand der rechtlichen Wirkung, welcher auch positive Rechtsfolgen umfasst,[185] von demjenigen der erheblichen Beeinträchtigung.

Diese aus der Botschaft abgeleitete Schlussfolgerung zu Art. 21 Abs. 1 DSG stimmt im Wesentlichen mit den Lehrmeinungen zu Art. 22 DSGVO überein. In dessen Abs. 1 ist ebenfalls die Rede von einer erheblichen Beeinträchtigung, wenn auch von einer «in ähnlicher Weise» wie die rechtliche Wirkung.[186] In der Lehre wird davon ausgegangen, dass eine negative Folge, welche eine nachhaltige Beeinträchtigung oder Störung der wirtschaftlichen oder persönlichen Belange der betroffenen Person bewirkt und deren Verhalten wesentlich beeinflusst oder deren Rechte und Freiheiten betrifft, vorliegen muss, um von einer erheblichen Beeinträchtigung zu sprechen.[187]

Erheblichkeitsschwelle

Die Erheblichkeit bestimmt sich gemäss Botschaft und Lehre anhand der Umstände des Einzelfalls[188] sowie unter Berücksichtigung der Dauer der Beeinträchtigung, der alternativen Verfügbarkeit eines Gutes sowie der Sozialadäquanz einer Beeinträchtigung.[189] Die Auswirkungen einer Entscheidung sind jeweils dann nachhaltig, wenn sie die betroffene Person über einen längeren Zeitraum oder dauerhaft beeinträchtigen.[190] So liegt möglicherweise eine erhebliche Beeinträchtigung bei Entscheidungen vor, die sich auf die finanzielle Lage einer Person auswirken, den Zugang zu Gesundheitsdienstleistungen betreffen, den Zugang zu Arbeitsplätzen verwehren oder sich auf den Zugang zur Bildung auswirken.[191] E contrario dürfen die Auswirkungen nicht nur kurzfristig oder geringfügig sein.[192] Insbesondere blosse Belästigungen werden von den ADM-Regelungen nicht erfasst.[193] Es muss sich somit um mehr als eine bloss als Unbequemlichkeit empfundene Folge einer Entscheidung handeln.[194] Eine erhebliche Beeinträchtigung ist umso eher anzunehmen, je mehr sie mit der fraglichen Entscheidung notwendig verbunden ist und nicht bloss eine ungewollte Nebenwirkung einer Entscheidung darstellt.[195] Bei der Prüfung der Erheblichkeit ist entsprechend die Frage zu stellen, ob eine betroffene Person, selbst wenn sich ihre Rechte oder Pflichten nicht ändern, durch eine Entscheidung so stark beeinträchtigt wird, dass sie den Schutz der Bestimmungen zur automatisierten Entscheidungsfällung benötigt.[196] Diesfalls ist zu beachten, dass die Regelungen der automatisierten Entscheidungsfällung in der Schweiz weniger weit gehen als in Europa,[197] weshalb die Erheblichkeitsschwelle in der Schweiz nach Ansicht der Autorin im Einzelfall eher höher anzusetzen ist.

Die Erheblichkeit bezieht sich nach klarem Wortlaut der Bestimmung auf die Entscheidung, d.h. das beabsichtigte Geschäft, und dessen Folgen für die betroffene Person.[198] Im Fokus der Diskussion um das Vorliegen einer erheblichen Beeinträchtigung im Sinne von Art. 22 Abs. 1 DSGVO stehen Realakte sowie tatsächliche Handlungen, inklusive deren Unterlassen.[199] Die Rechtsform des Handelns ist dabei insofern irrelevant, als dass die Ausstrahlungswirkung auf die Persönlichkeitsrechte eines Handelns auf die betroffene Person erfasst werden sollen.[200] Dies erscheint insbesondere vor dem Hintergrund gerechtfertigt, dass sich die Regelungen zur automatisierten Entscheidungsfällung im Datenschutzgesetz finden, welches den Schutz der Persönlichkeit und der Grundrechte von natürlichen Personen, über welche Personendaten bearbeitet werden, bezweckt.[201]

Aufgrund des Zusatzes «in ähnlicher Weise» in Art. 22 Abs. 1 DSGVO fordert die DSGVO-Literatur als weiteres Kriterium, dass die Grenze, ab welcher eine Entscheidung als erheblich eingestuft wird, in etwa ähnlich sein muss wie die Grenze, ab welcher eine Entscheidung eine rechtliche Wirkung entfaltet.[202] Zwar fehlt ein entsprechender Zusatz in Art. 21 Abs. 1 DSG. Aufgrund dessen Wortlaut, welcher eine Einschränkung mit grossem Ausmass (= erhebliche Beeinträchtigung) fordert, in Kombination mit der Klarstellung des Bundesrates, wonach eine blosse Belästigung nicht ausreichend sei, ist indes auch in der Schweiz bei der Prüfung der Erheblichkeit – nebst den genannten anderen Kriterien – ein Vergleich mit allfälligen unmittelbaren rechtlichen Wirkungen vorzunehmen.

Dies rechtfertigt sich auch vor dem Hintergrund, dass auch betreffend die rechtliche Wirkung das Überschreiten einer gewissen Erheblichkeitsschwelle zu fordern ist.[203] Eine solche Vergleichsgrösse macht das Kriterium der erheblichen Beeinträchtigung greifbarer. Entscheidet ein Algorithmus bspw. über einen Vertragsabschluss, ist die rechtliche Wirkung des Vertragsabschlusses der Wirkung der Ablehnung des Vertrags gegenüberzustellen, um die Erheblichkeit der Beeinträchtigung dieser ablehnenden Entscheidung zu prüfen. Dieser Vergleich muss jedoch in Kombination und mit Blick auf die bereits genannten Kriterien sowie vor dem Hintergrund vorgenommen werden, dass vom Tatbestand der automatisierten Entscheidung, wie vorne festgestellt,[204] zwar positive und negative Rechtsfolgen, aber nur negative Beeinträchtigungen erfasst werden. Zu berücksichtigen ist dabei auch, dass es Rechtsfolgen mit bloss kurzfristigen oder geringfügigen Auswirkungen für die betroffene Person gibt, welche die vorne[205] geforderte Erheblichkeitsschwelle nicht überschreiten und deshalb nicht als automatisierte Einzelentscheidung im Sinne des DSG qualifiziert werden.

Nur weil die alternative Entscheidung des Algorithmus ein Vertragsschluss mit der betroffenen Person ist, hat dessen Ablehnung nicht zwingend eine erhebliche Beeinträchtigung der betroffenen Person zur Folge. Vielmehr ist es durchaus möglich und vom Gesetzgeber wohl auch gewollt,[206] dass Entscheidungen ein und desselben Systems für oder gegen einen Vertragsschluss zu unterschiedlichen datenschutzrechtlichen Folgen führen.

Beispiele

Die obige Darstellung der Kriterien, welche vorliegen müssen, um von einer erheblichen Beeinträchtigung auszugehen, bestätigt die eingangs gemachte Aussage, wonach es sich dabei um einen unscharfen, durch Wertung auszufüllenden Rechtsbegriff handelt.[207] Es werden jedoch von der Lehre, und teilweise vom Gesetzgeber, bereits verschiedene Beispiele dafür angeführt, welche Auswirkungen einer automatisierten Entscheidung als erheblich und welche als blosse Belästigung einzustufen sind. Einzelne dieser Fallbeispiele werden im Folgenden kurz dargestellt und kritisch analysiert, um den Begriff der erheblichen Beeinträchtigung weiter einzugrenzen und etwas greifbarer zu machen.

(Diskriminierend) abgelehnter Vertragsabschluss: Die Verweigerung eines Vertragsabschlusses wird regelmässig als unter Umständen erhebliche Beeinträchtigung angeführt, wobei oftmals die automatisierte Ablehnung eines Kreditantrages im Fokus der Betrachtung steht.[208] Unter Bezugnahme auf die vorne angegebenen Kriterien zur Festlegung der Erheblichkeitsschwelle[209] werden bei der Prüfung, ob bei der Verweigerung eines Vertragsabschlusses eine erhebliche Beeinträchtigung vorliegt, in der Lehre insbesondere der Vertragsgegenstand und die Angebotssituation auf dem Markt, bspw. ob es sich um ein Massengeschäft handelt oder monopolartige Strukturen bestehen, berücksichtigt.[210] Dabei wird eher davon ausgegangen, dass eine erhebliche Beeinträchtigung vorliegt, wenn der abgelehnte Vertrag ein Gut betrifft, welches für die Lebensentfaltung wesentliche Bereiche oder die Grundversorgung betrifft oder es keine alternativen Bezugsmöglichkeiten dafür gibt.[211]

Eine erhebliche Beeinträchtigung liegt gemäss Artikel-29-Datenschutzgruppe und einem grossen Teil der Lehre zu Art. 22 DSGVO bei einem abgelehnten Vertragsabschluss zudem immer dann vor, wenn eine Entscheidung zum Ausschluss oder zu einer rechtswidrigen Diskriminierung einer Person führt.[212] Mit Blick auf mögliche Diskriminierungen ist jedoch anzumerken, dass weder das in Art. 8 Abs. 1 BV vorgesehene Gleichbehandlungsgebot noch das in Art. 8 Abs. 2 BV vorgesehene Diskriminierungsverbot direkt zwischen Privaten Wirkung hat.[213] Ausgenommen davon sind wenige spezifische Bereiche, die spezialgesetzlich geregelt sind, wie der Lohngleichheitsanspruch für Frau und Mann,[214] die Vorgaben des Behindertengleichstellungsgesetzes sowie der strafrechtliche Schutz vor rassendiskriminierenden Äusserungen und Handlungen gemäss Art. 261bis StGB.[215] Daneben finden sich im Arbeitsrecht vereinzelt Bestimmungen, aus denen ein gewisser Schutz der Arbeitnehmenden vor Diskriminierung, bzw. die Pflicht der Arbeitgeberin ihre Arbeitnehmenden vor Diskriminierung zu schützen, abgeleitet wird.[216] Im Gegensatz zum öffentlichen Recht stehen sich im Privatrecht grundsätzlich Parteien gegenüber, die beide Träger von Grundrechten sind. Währenddem eine Seite den Anspruch hat, nicht diskriminiert zu werden, beruft sich die andere Seite auf ihre Privatautonomie, welche durch das Recht auf persönliche Freiheit und Privatsphäre[217] sowie die Wirtschafts- und Vertragsfreiheit[218] geschützt wird.[219]

Auch wenn der Privatautonomie ein hoher Stellenwert zukommt, gilt diese nicht absolut, sondern findet ihre Schranken unter anderem im Persönlichkeitsrecht.[220] So leitet die Lehre aus dem in Art. 28 ZGB enthaltenen zivilrechtlichen Schutz der Persönlichkeit ein mittelbares privatrechtliches Diskriminierungsverbot ab.[221] Es wird allgemein anerkannt, dass beim Abschluss eines Vertrags eine diskriminierende Persönlichkeitsverletzung vorliegen kann, bspw. bei der Verweigerung des Vertragsabschlusses oder bei für die betroffene Person ungünstigen Vertragsbedingungen, welche sachlich nicht gerechtfertigt sind.[222] Voraussetzung für das Vorliegen einer diskriminierenden Persönlichkeitsverletzung ist, dass die Beeinträchtigung der Persönlichkeit der betroffenen Person eine gewisse Intensität erreicht.[223] Unterschiedliche Behandlungen werden erst erfasst, wenn sie eine Herabwürdigung oder Ausgrenzung zum Ziel oder zur Folge haben,[224] wie dies bspw. bei einem diskriminierenden Motiv einer Vertragsverweigerung sein kann.[225] Aus den Persönlichkeitsrechten nicht abgeleitet werden kann hingegen ein allgemeines Recht auf Gleichbehandlung.[226]

Diese rechtlichen Hintergründe haben zur Folge, dass nicht ohne weiteres bei jeder Ungleichbehandlung durch (ablehnende) automatisierte Entscheidungen von einer persönlichkeitsverletzenden Diskriminierung auszugehen ist. Dies ist bei der Beurteilung der Frage, ob eine Entscheidung zu einer erheblichen Beeinträchtigung führt, zu beachten. Zu berücksichtigen ist dabei auch, dass das Datenschutzrecht zwar den Schutz der Persönlichkeit der betroffenen Personen bezweckt.[227] Es handelt sich aber nicht um ein Antidiskriminierungsgesetz. Entsprechend kann es auch nicht Aufgabe der Regelungen zur automatisierten Entscheidungsfällung sein, Private vor diskriminierenden Entscheidungen zu schützen, auch wenn die (neuen) Vorgaben des DSG zu einem gewissen Diskriminierungsschutz beitragen können.[228]

Mit Blick auf Art. 22 DSGVO wird sodann vereinzelt vorgebracht, dass bei automatisierten Vertragsabschlüssen auch der Grundsatz der Privatautonomie und insbesondere die Vertragsabschlussfreiheit zu beachten seien. Diese würde faktisch ausgehebelt, wenn über den Umweg des Art. 22 DSGVO ein faktischer Kontrahierungszwang eingeführt würde. Aus diesem Grund könne die Verweigerung eines Vertragsabschlusses nur bei Anbietern mit monopolartigen Strukturen und bei gewissen notwendigen Gütern wie Gas, Wasser oder Strom zu einer erheblichen Beeinträchtigung führen.[229] Im Gegensatz zu Art. 22 DSGVO verbietet Art. 21 DSG automatisierte Entscheidungen nicht, sondern sieht lediglich Informationspflichten des Verantwortlichen und Mitwirkungsrechte der betroffenen Person vor.[230] Die automatisierte Ablehnung eines Vertragsabschlusses hat für den Verantwortlichen nicht zur Folge, dass die Art, wie die Entscheidung getroffen wird, nicht zulässig ist, sondern dass – bei gegebenen Voraussetzungen – vom Verantwortlichen zusätzliche Pflichten einzuhalten und verschiedene Betroffenenrechte zu gewähren sind. Die Annahme einer erheblichen Beeinträchtigung für die betroffene Person im Zusammenhang mit der Ablehnung eines Vertragsabschlusses führt in der Schweiz deshalb nicht zu einem faktischen Kontrahierungszwang. Dieses Argument lässt sich somit nicht ohne Weiteres auf die Schweiz übertragen und ist daher abzulehnen.

Auf Grundlage falscher Daten verweigerter Kreditvertrag: Die Botschaft enthält das Beispiel eines verweigerten Kreditvertrags aufgrund eines negativen Kreditscorings, welches die Problematik der automatisierten Einzelentscheidungen aufzeigen soll. Der Gesetzgeber geht davon aus, dass eine ungerechtfertigte Beeinträchtigung vorliegt, wenn ein der Entscheidung zugrundeliegendes Kreditscoring auf falschen oder veralteten Daten beruht, die den tatsächlichen Verhältnissen der betroffenen Person widersprechen.[231] Offen bleibt, ob der Gesetzgeber die angeführte ungerechtfertigte Beeinträchtigung auch als erheblich einstuft.

Ob es sich bei einem diesem Beispiel entsprechenden Fall tatsächlich um eine erhebliche Beeinträchtigung handeln würde, ist zumindest in Frage zu stellen. So handelt es sich bei einem Kreditvertrag regelmässig um ein Massengeschäft, welches bei verschiedenen Anbietern bezogen werden kann, und nicht um ein Gut, für das es keine alternativen Bezugsmöglichkeiten gibt. Ein Kredit betrifft sodann auch nicht direkt die Grundversorgung. Beruht die Ablehnung auf falschen oder veralteten Daten, kann auch nicht davon ausgegangen werden, dass die Vertragsverweigerung eine Herabwürdigung oder Ausgrenzung zum Ziel hat oder dieser diskriminierende Motive zugrunde liegen. Es sind nicht die der Entscheidung zugrundeliegenden Bewertungskriterien, welche zur Ablehnung führen, sondern die verwendeten (falschen) Daten.

Anzumerken ist auch, dass nicht klar ist, weshalb die automatisierte Verweigerung eines Kredits aufgrund veralteter oder falscher Daten anders behandelt werden soll als ein entsprechender menschlicher Entscheid, der auf falschen oder veralteten Daten beruht. In beiden Fällen gilt der Grundsatz der Datenrichtigkeit nach Art. 6 Abs. 5 DSG, wonach sich derjenige, der Daten verarbeitet, d.h. in der Regel der Verantwortliche, über deren Richtigkeit vergewissern und angemessene Massnahmen treffen muss, um dies sicherzustellen.[232] Es sollte bereits aufgrund von Art. 6 Abs. 5 DSG somit gar nicht zu (automatisierten) Entscheidungen kommen, die auf falschen oder veralteten Daten beruhen. Was der Gesetzgeber mit diesem Beispiel aufzeigen wollte, bleibt entsprechend unklar.

Personalisierte Werbung und Bezahlverfahren: Nicht einig ist sich die Lehre hinsichtlich der Frage, ob bei Entscheidungen über die personalisierte Werbung[233] oder das Angebot nur bestimmter Bezahlverfahren[234] von einer erheblichen Beeinträchtigung auszugehen ist. Im Zusammenhang mit der personalisierten Werbung wird dabei insbesondere das zielgruppenorientierte Marketing in sozialen Netzwerken («Behavioral Advertising»), Preisdiskriminierung oder die massenhafte (E-Mail‑)Werbung auf Basis von individuellen Kunden- oder Nutzerprofilen (Werbescoring) kritisch beurteilt.[235] Die Artikel-29-Datenschutzgruppe hält es nicht für ausgeschlossen, dass beim Vorliegen gewisser Umstände, wie dem eingreifenden Charakter eines Profilings, den Erwartungen und Wünschen der betroffenen Person, der Art und Weise der Werbeanzeige oder wenn Schwachstellen der betroffenen Personen, an die sich die Anzeige richtet, ausgenutzt werden, auch bei der personalisierten Werbung das Vorliegen einer erheblichen Beeinträchtigung zu bejahen ist.[236] Zu berücksichtigen ist auch, dass das personalisierte Anzeigen von Meldungen nicht zwingend als Entscheidung einzustufen ist.[237]

Dasselbe hat auch für die Schweiz zu gelten. Die Frage, ob eine Entscheidung über das Angebot nur bestimmter Bezahlverfahren oder über die personalisierte Werbung objektiv betrachtet eine erhebliche Beeinträchtigung für die betroffene Person zur Folge hat, lässt sich nicht abschliessend beantworten. Diese Beurteilung ist nur möglich, wenn sämtliche Umstände des Einzelfalls berücksichtigt und die vorher genannten Kriterien (Vorliegen einer Entscheidungssituation,[238] private Person als Entscheidungsträger,[239] Einzelfallentscheidung,[240] relevante Entscheidungsfolgen[241]) in Betracht gezogen werden.

Prüfschema «Einzelentscheidung»

Damit ein Datenbearbeitungsprozess als (automatisierte) Einzelentscheidung angesehen wird, muss dieser, wie soeben gezeigt, im Ergebnis mit Blick auf eine individuelle Person und einen konkreten Fall zu einer Wahl aus verschiedenen Möglichkeiten führen. Diese Wahl wiederum muss für die betroffene Person im Ergebnis mit einer Rechtsfolge oder einer erheblichen Beeinträchtigung einhergehen.

Der Tatbestand der «Entscheidung» wird jeweils immer dann erfüllt, wenn eine Entscheidungssituation, d.h. eine Wahl aus verschiedenen Möglichkeiten, vorliegt. Der Gegenstand dieser Entscheidung bestimmt sich bereits vor der Entscheidungsfällung im Rahmen der Vorbereitung und anhand der anfänglich gemachten Problemformulierung. Zur Bestimmung des Entscheidungsgegenstands ist zu prüfen, welche Auswirkungen auf die betroffene Person angestrebt werden. (Noch) nicht relevant ist bei der Prüfung der Frage, ob eine Entscheidung vorliegt, ob und welche Teile des Entscheidungsprozesses vom Menschen oder einem Algorithmus übernommen werden. Diese Abgrenzung spielt erst anschliessend bei der Prüfung des Tatbestandsmerkmals der ausschliesslich automatisierten Bearbeitung eine Rolle.[242]

Darüberhinausgehende Einschränkungen des Gegenstands und Umfangs einer Entscheidung, wie bspw. der Ausschluss der blossen Umsetzung bereits getroffener Entscheidungen oder reiner Wenn-dann-Entscheidungen sowie die Forderung nach dem Vorliegen von Entscheidungsermessen oder einer gewissen Komplexität, sind hingegen abzulehnen. All diesen Fragen gemein ist die Tatsache, dass es am Ende darum geht, nur diejenigen automatisierten Entscheidungen zu erfassen, welche eine gewisse Relevanz- oder Erheblichkeitsschwelle überschritten haben.

Wie im Folgenden anhand einiger Beispiele gezeigt wird, ist eine Einschränkung des Entscheidungsgegenstands mittels weiterer, nicht im Wortlaut von Art. 21 Abs. 1 DSG genannter Kriterien nicht nötig. Der Gesetzgeber geht in den Materialien davon aus, dass nicht jede unerhebliche Entscheidung vom Tatbestand der automatisierten Entscheidung erfasst werden soll. Diesem Standpunkt wird dadurch Rechnung getragen, dass der Anwendungsbereich der Regelungen automatisierter Entscheidungen und mit ihm die in Frage stehenden Entscheidungen inhaltlich bereits ausreichend eingeschränkt werden. Dies geschieht durch die Vorgaben, wonach eine Entscheidung einen Einzelfall betreffen und für die betroffene Person mit einer Rechtsfolge einhergehen oder diese erheblich beeinträchtigen muss.[243] Mit diesen Kriterien hat der Gesetzgeber bereits im Gesetzestext eine Relevanzschwelle definiert, ohne dass weitere Kriterien zu Rate gezogen werden müssen.[244] Gleichzeitig lässt der Anwendungsbereich der Regelungen automatisierter Entscheidungen, wie im Folgenden anhand eines Beispiels gezeigt wird, auch dadurch einschränken, dass diese auf der Bearbeitung von Daten einer natürlichen Person beruhen müssen, ansonsten die fragliche Datenbearbeitung nicht in den Geltungsbereich des DSG fällt und es sich bereits deshalb nicht um eine automatisierte Einzelentscheidung im Sinne des DSG handeln kann.

Mit Blick auf den von Rosenthal[245] vorgebrachten Spamfilter kann bspw. offengelassen werden, ob die (automatisierte) Entscheidung, ob es sich um ein Spammail handelt, genügend komplex oder eine blosse Wenn-dann-Entscheidung ist oder mit genügend Ermessensspielraum einhergeht, um datenschutzrechtlich relevant zu sein. Spätestens die Frage nach der Rechtsfolge oder erheblichen Beeinträchtigung für die betroffene Person oder allenfalls auch nach dem Vorliegen einer Einzelentscheidung[246] kann beim Aussortieren eines Mails durch den Spamfilter verneint werden. Der Spamfilter wird in der Folge unabhängig von einem allfälligen Komplexitätserfordernis oder der Frage nach dem Interpretationsspielraum des Algorithmus nicht vom datenschutzrechtlichen ADM-Tatbestand erfasst.

Beim Beispiel mit dem Türschloss, welches bei Eingabe des richtigen Codes oder bei Vorlegen eines gültigen Badges öffnet,[247] stellt sich vorab die grundsätzliche Frage, ob das DSG überhaupt anwendbar ist. Dies ist immer dann zu verneinen, wenn die Eingabe des Codes ohne Angaben zu einer bestimmbaren Person erfolgt oder der Badge keiner bestimmten Person zugeordnet werden kann. In diesen Fällen fehlt es am Erfordernis der Bearbeitung von Personendaten. Ist der Code oder Badge hingegen personalisiert, d.h., werden durch das Schloss Personendaten bearbeitet, ist nach Ansicht der Autorin davon auszugehen, dass das Öffnen oder Nichtöffnen der Tür weder eine rechtliche Folge hat noch eine erhebliche Beeinträchtigung für die betroffene Person darstellt. Es fehlt insbesondere an der geforderten Erheblichkeit der Auswirkungen einer diesbezüglichen Entscheidung. Auch diesfalls erübrigt sich eine Prüfung, ob das System bloss eine bereits getroffene Entscheidung umsetzt, ob dessen Entscheidung genügend komplex ist oder ob dem Türschloss ein Interpretationsspielraum zukommt.

Mit Blick auf den Bancomaten scheint eine weitere Differenzierung ebenfalls nicht notwendig. Der einfache Geldbezug im Rahmen der Kontodeckung hat weder rechtliche Wirkungen noch eine erhebliche Beeinträchtigung für die betroffene Person zur Folge. Die Rechtsposition der betroffenen Person verändert sich mit einer Verweigerung der Geldausgabe nicht, da die zugrundeliegende Vertragsbeziehung zur Bank weiterbesteht. Es kann zudem kaum von einer erheblichen Beeinträchtigung gesprochen werden, wenn jemand, dessen Tages- oder Monatslimite aufgebraucht ist oder der kein Geld mehr auf dem Konto hat, kein Geld beziehen kann. Im Falle der aufgebrauchten Limite kann diese bei genügenden Mitteln ohne weiteres heraufgesetzt werden, um weiterhin Geld am Automaten beziehen zu können. Ist kein Geld mehr auf dem Konto des Betroffenen, hat das für diesen zwar negative Folgen, diese liegen jedoch nicht in der Weigerung des Bancomaten Geld auszugeben, sondern im Mangel an verfügbaren Mitteln. Der automatisierte Entscheid über die Geldausgabe des Bancomaten wird somit, mangels Vorliegens der geforderten erheblichen Entscheidungsfolgen, vom im DSG vorgesehenen Tatbestand der automatisierten Einzelentscheidung nicht erfasst.

Gewährt ein Algorithmus einer betroffenen Person einen Kredit, hat dies entweder eine rechtliche Folge (Abschluss eines Kreditvertrags) oder möglicherweise (bei einer – allenfalls diskriminierenden – Verneinung der Kreditwürdigkeit)[248] eine erhebliche Beeinträchtigung für die betroffene Person zur Folge. Diese Entscheidung würde deshalb unter Umständen von den datenschutzrechtlichen ADM-Regelungen erfasst, sofern auch die restlichen Tatbestandsmerkmale, insbesondere die ausschliessliche Automatisierung, bejaht werden.

Diese Beispiele zeigen, dass der (wahrscheinlich) angestrebte Ausschluss gewisser einfacher oder nicht relevant erscheinender Entscheidungen schon durch den Geltungsbereich des DSG sowie die im Wortlaut von Art. 21 Abs. 1 DSG vorgesehenen Tatbestandsmerkmale der Rechtsfolge oder erheblichen Beeinträchtigung geschieht, welche bereits von sich aus eine gewisse Erheblichkeitsschwelle definieren. Dies ganz unabhängig davon, wie die Entscheidung bzw. deren zugrundeliegendes System aufgebaut ist, wie komplex die Entscheidung ist, ob das System bloss eine bereits erfolgte Entscheidung umsetzt oder ob bei der zu treffenden Entscheidung dem System oder dem dahinterstehenden Verantwortlichen Ermessen zukommt.

Das Erfordernis des Vorliegens einer Entscheidung und mit ihm das Kriterium der «Auswahl zwischen verschiedenen Möglichkeiten» kann aufgrund des Gesagten weit ausgelegt werden, womit das Tatbestandsmerkmal der «Entscheidung» umfassend zu verstehen ist. Auch wenn der Gesetzgeber in der Botschaft gewisse zusätzliche Kriterien wie die Komplexität angeführt hat, scheint er zumindest indirekt ebenfalls dieser Ansicht zu folgen: So hat der Gesetzgeber den Begriff der Entscheidung in der Botschaft insofern weit ausgelegt, als dass er bspw. auch den automatisierten Versand einer Prämienrechnung als Entscheidung qualifizierte, diese Entscheidung jedoch erst aufgrund der fehlenden Rechtswirkung vom Anwendungsbereich der ADM-Regelungen ausschliesst.[249]

Falls in einer der oben genannten Konstellationen sämtliche Tatbestandsmerkmale, insbesondere dasjenige der Rechtsfolge oder erheblichen Beeinträchtigung für die betroffene Person, zu bejahen ist, erscheint es zudem angemessen, diese Entscheidung den Vorgaben des DSG zu unterstellen. Ziel und Zweck der im DSG enthaltenen ADM-Regelungen ist es in der Hauptsache, die Rechte der betroffenen Person zu stärken und die Transparenz der Datenbearbeitung sicherzustellen.[250] Geht eine automatisierte Entscheidung mit einer Rechtsfolge oder erheblichen Beeinträchtigung für die betroffene Person einher und überschreitet diese Folge eine gewisse Erheblichkeitsschwelle,[251] ist davon auszugehen, dass die betroffene Person ein Interesse an der Information über die automatisierte Entscheidung und an den damit einhergehenden Mitwirkungsrechten hat. Dies ganz unabhängig davon, wie komplex die Entscheidung oder der zugrundeliegende technische Mechanismus ist, ein Profiling vorliegt oder ob es sich bloss um eine sogenannte Wenn-dann-Entscheidung handelt. Im Vordergrund sollte bei der Prüfung der Tatbestandsmerkmale deshalb insbesondere die Auswirkung einer Entscheidung auf die (Persönlichkeits‑)Rechte der betroffenen Person stehen.[252]

Dieser Lösungsansatz hat als Nebeneffekt zur Folge dass – wie bereits von Rosenthal festgehalten[253] – die Tatsache, ob der Mensch versteht, weshalb das ADM-System in einer gewissen Weise entschieden hat oder wie sorgfältig das System entscheidet bzw. entwickelt wurde, keine Rolle spielt. Bedeutend für die Abgrenzung, ob es sich um eine datenschutzrechtlich relevante automatisierte Einzelentscheidung handelt, sind lediglich die gesetzlich vorgesehenen Kriterien, ganz unabhängig davon, ob das System die Entscheidungskriterien selber gelernt hat, diese von einem Mensch vorgegeben wurden oder die Entscheidungsgrundlage ein Zufallsalgorithmus oder die komplexe Auswertung einer grossen Datenmenge ist.[254] Ebenso ist nicht ausschlaggebend, ob der Mensch sich entscheidet, bei der Prüfung der Entscheidungsvoraussetzungen sein Ermessen einzuschränken.

Wird das Gesagte zusammengefasst, ergibt sich folgendes Prüfschema zur Bestimmung, ob eine relevante Einzelentscheidung im Sinne des DSG vorliegt:

Abbildung 1: Prüfschema Einzelentscheidung

Ausschliesslich automatisierte Bearbeitung

Vorbemerkungen

Gemäss Art. 21 Abs. 1 DSG muss die Entscheidung ausschliesslich auf einer automatisierten Bearbeitung beruhen. Aufgrund dieses Wortlautes könnte gefolgert werden, dass nur die einer Entscheidung zugrundeliegende Datenbearbeitung (ausschliesslich) automatisiert zu erfolgen hat, nicht jedoch die Entscheidung an sich. Mit «Bearbeitung» ist, wie bereits vorne ausgeführt,[255] gemäss der Legaldefinition in Art. 5 lit. d DSG «jeder Umgang mit Personendaten, unabhängig von den angewandten Mitteln und Verfahren, insbesondere das Beschaffen, Speichern, Aufbewahren, Verwenden, Verändern, Bekanntgeben, Archivieren, Löschen oder Vernichten von Daten» gemeint. Dementsprechend handelt es sich auch beim Fällen eines Entscheids um ein «Bearbeiten», zumal bei der Entscheidungsfällung im engeren Sinne ohne Weiteres ein Umgang mit (Personen‑)Daten vorliegt. Dies bspw., indem ein neues Datum (die Entscheidung) produziert wird oder die bestehenden Daten analysiert oder verändert werden. In der Botschaft wird diesbezüglich denn auch klar spezifiziert, dass immer dann eine Entscheidung vorliegt, die ausschliesslich auf einer automatisierten Bearbeitung beruht, wenn keine inhaltliche Bewertung und darauf gestützte Entscheidung durch eine natürliche Person stattgefunden hat.[256] Es geht somit um die Automatisierung der inhaltlichen Bewertung, d.h. der Willensbildung (Schritt 4 des Entscheidungsprozesses), und des Entschlusses im eigentlichen Sinne (Schritt 5 des Entscheidungsprozesses).[257]

Automatisierte Bearbeitung

In den Legaldefinitionen des DSG wird nicht festgelegt, was als automatisiert gilt. Wie vorne festgestellt, geht es bei der Automatisierung einer Entscheidung darum, eine oder mehrere Aufgaben des Entscheidungsprozesses an einen Algorithmus zu übertragen.[258] In diesem Sinne wird in der Botschaft bei der Erläuterung des neu eingeführten Begriffs des Profilings[259] angegeben, dass jede Auswertung mit Hilfe von computergestützten Analysetechniken als automatisierte Auswertung zu betrachten sei, wobei dazu auch Algorithmen verwendet werden können, dies aber nicht konstitutiv für das Vorliegen eines Profilings sei.[260] Aus den Erläuterungen zum VE-DSG 2016 war sodann zu entnehmen, dass eine automatisierte Einzelentscheidung vorliegt, wenn eine Auswertung von Daten, die zu einer konkreten Entscheidung gegenüber der betroffenen Person führt, ausschliesslich durch Algorithmen und ohne menschliches Dazutun erfolgt.[261] Im Ergebnis bedeutet dies, dass eine Datenbearbeitung, um als automatisiert zu gelten, mit Hilfe technischer Hilfsmittel und nicht manuell durch einen Menschen zu erfolgen hat.[262] Als technische Hilfsmittel werden in der Lehre jegliche Formen elektronischer Kommunikationssysteme angesehen.[263]

Voraussetzung für die Automatisierung einer Entscheidung ist somit, dass ein technisches Hilfsmittel, wie ein elektronisch ausgeführter Algorithmus, selbstständig eine Reihe oder sämtliche Arbeitsschritte im Entscheidungs- oder diesem zugrundeliegenden Datenbearbeitungsprozess übernimmt. Nicht als automatisiert werden hingegen Entscheidungen angesehen, die auf Zettelkästen, händisch verarbeiteten Lochkarten oder verschachtelten Ablagesystemen beruhen oder anhand eines manuellen Programmablaufplans oder anderer Ablaufdiagramme getroffen werden.[264]

Ausschliesslichkeit der Automatisierung

Vorbemerkungen

Die Abgrenzung, ob in einem konkreten Fall eine zumindest teilweise automatisierte Entscheidung vorliegt, ist nicht allzu schwer. Immer dann, wenn ein Teil oder die ganze Datenbearbeitung bzw. ein oder mehrere Schritte des Entscheidungsprozesses[265] und/oder der Entschluss an sich durch einen Algorithmus erfolgen, liegt eine Teilautomatisierung vor. Gleichzeitig sind Fälle, in denen eine Entscheidung gänzlich ohne Hilfe eines Algorithmus, auf Grundlage von ausschliesslich manueller Datenbearbeitung, bspw. anhand von Zettelkästen, spezifischen Ablagesystemen oder einer manuell abzuarbeitenden Anleitung, getroffen werden, klar als nicht automatisiert zu bewerten.[266] Art. 21 Abs. 1 DSG fordert jedoch, dass die Entscheidung sowie die ihr zugrundeliegende Datenbearbeitung ausschliesslich automatisiert erfolgt.[267] Entsprechend ist zu klären, welche Teilschritte von einem Algorithmus übernommen werden müssen, damit es sich um eine ausschliesslich automatisierte Entscheidung handelt und welche menschliche Einflussnahme ausreicht, um nicht von einer ausschliesslich automatisierten Entscheidung auszugehen. Dabei ist zu unterscheiden zwischen der (notwendigen) Beteiligung des Menschen im Rahmen der Auswahl, Entwicklung und Überprüfung eines ADM-Systems als Ganzes sowie der Beteiligung des Menschen an einer einzelnen Entscheidung.

Entwicklung eines ADM-Systems

Als Erstes stellt sich die Frage, welchen Einfluss die Beteiligung des Menschen im Rahmen der Auswahl, Entwicklung und Überprüfung eines ADM-Systems als Ganzes auf die Frage der Ausschliesslichkeit der Automatisierung hat. Dies insbesondere vor dem Hintergrund, dass der Mensch, wie in den technischen Grundlagen dargelegt, bei der Entwicklung eines entsprechenden Systems eine wesentliche Rolle einnimmt. So trifft der Mensch die Entscheidung, ob ein Algorithmus zur Entscheidungsfindung oder -unterstützung eingesetzt werden soll. Im Anschluss daran ist der Mensch sowohl massgeblich an der Entwicklung des ADM-Systems beteiligt als auch während dessen Einsatz und bei der Überprüfung der resultierenden Ergebnisse involviert. Dabei kann der Mensch grossen Einfluss auf die Resultate des Systems nehmen. Sei dies, indem beim Einsatz eines traditionell-deterministischen Algorithmus bereits vorab sämtliche Entscheidungsalternativen vorhergesehen und in den Programmcode implementiert werden oder indem der am besten passende selbstlernende Algorithmus (sowie die nötigen Trainingsdaten) ausgewählt, trainiert und validiert wird, bis die Ergebnisse den definierten Zielvorstellungen genügen, um das entstandene ADM-System einzusetzen.[268]

Bereits aufgrund dieser notwendigen Beteiligung des Menschen an der Auswahl, Entwicklung und Überprüfung eines ADM-Systems als Ganzes erscheint es ausgeschlossen, dass diese Mitwirkung die Ausschliesslichkeit der Automatisierung einer Entscheidung zu durchbrechen vermag. Eine gegenteilige Beurteilung hätte zur Folge, dass es – zumindest aktuell – noch keine ausschliesslich automatisierte Einzelentscheidungen gäbe. Die Lehre teilt diese Ansicht und führt an, die Tatsache allein, dass ein Algorithmus durch einen Menschen implementiert worden sei, reiche (selbstverständlich) nicht aus, um von einem Dazwischentreten eines Menschen auszugehen.[269] Dies gelte insbesondere mit Blick auf lernende Systeme, bei denen der Mensch im Rahmen der Lernphase sowie während der Verbesserung des Systems regelmässig eingreifen werde.[270]

Zum gleichen Ergebnis kommt man auch durch die Beantwortung der Frage, welche Tatbestände mit den Bestimmungen zur automatisierten Entscheidungsfällung des DSG erfasst werden sollen. Die Bestimmungen regeln den ausschliesslichen Einsatz eines ADM-Systems im Falle einer spezifischen, eine einzelne Person betreffenden (Einzel‑)Entscheidung.[271] Folglich steht nicht im Vordergrund, wie weit der Mensch bei der Entscheidlogik mitwirkt, sondern ob die Subsumtion eines konkreten Sachverhalts im Einzelfall durch einen Algorithmus erfolgt und danach nicht mehr vom Menschen überprüft wird.[272] Relevant ist, ob eine automatisierte Bewertung unmittelbar Anwendung auf einen Sachverhalt findet.[273] Wie vorne festgestellt, geht es bei der Entwicklung des ADM-Systems um eine Vielzahl gleichartiger Entscheidungen.[274] Die Interaktion zwischen Mensch und Maschine im Rahmen der Systementwicklung und/oder -überprüfung zielt nicht auf eine konkrete personenbezogene Entscheidung ab, sondern dient dem System selbst.[275]

Im Blickpunkt der ADM-Regelungen steht somit nicht das System zur automatisierten Entscheidungsfällung als Ganzes, sondern – wie das Erfordernis der Einzelfallentscheidung bereits besagt – jeweils eine spezifische einzelfallbezogene Entscheidung gegenüber einer bestimmten Person. Die blosse Tatsache, dass der Mensch an der Entwicklung oder Wartung eines ADM-Systems mitwirkt, hat deshalb keine Auswirkungen auf die Beantwortung der Frage, ob eine (später getroffene) Entscheidung, die eine spezifische Person betrifft, als ausschliesslich automatisiert zu qualifizieren ist. Aufgrund dessen ist es für die Frage der Ausschliesslichkeit der Automatisierung sodann auch nicht relevant, ob ein System auf einem traditionell-deterministischen Algorithmus beruht, dessen Entscheidungsmöglichkeiten vom Menschen alle vorhergesehen und definiert wurden, oder ob es sich um ein System handelt, welches die verschiedenen Entscheidungsmöglichkeiten selbstständig gelernt hat.

Entscheidung und zugrundeliegende Datenbearbeitung

Inhaltliche Prüfung und menschliches Dazwischentreten

Gemäss Botschaft liegt eine ausschliesslich automatisierte Entscheidung vor, wenn die inhaltliche Bewertung des Sachverhalts, auf welcher die Entscheidung beruht, und die Entscheidung, die auf der Basis dieser Sachverhaltsbeurteilung ergeht, ohne das Dazutun einer natürlichen Person erfolgen.[276] Dabei wird betont, dass zur Abgrenzung massgebend sei, inwiefern die natürliche Person selbst eine inhaltliche Prüfung vornehmen, Einfluss auf die Entscheidung nehmen und entsprechend entscheiden könne.[277] Im Kern geht es bei der Prüfung der Ausschliesslichkeit somit um die Frage, welche Intensität eine allfällige menschliche Beteiligung an einer Einzelfallentscheidung aufweisen muss, um nicht mehr von einer ausschliesslich automatisierten Entscheidung auszugehen.[278] Diese Frage wurde in der Lehre (insbesondere mit Blick auf Art. 22 DSGVO) bereits ausdrücklich analysiert. Zusammengefasst ergibt sich folgendes Bild:

Eine menschliche Beteiligung liegt immer dann vor, wenn eine Person an einer Entscheidung mitwirkt[279] oder eine menschliche Überprüfung des Ergebnisses stattfindet.[280] Damit nicht mehr eine ausschliesslich automatisierte Bearbeitung vorliegt, darf das menschliche Mitwirken oder Dazwischentreten nicht bloss formeller Art sein, sondern muss ein gewisse Erheblichkeitsschwelle überschreiten.[281] Nicht als genügendes Dazwischentreten sind die ausschliessliche Übermittlung des Entscheids,[282] die ungeprüfte Übernahme einer Entscheidungsempfehlung[283] oder die rein formale Bestätigung eines von einem Algorithmus ermittelten Ergebnisses[284] anzusehen. Beim Einbezug eines Menschen darf es sich nicht um eine bloss symbolische Geste handeln.[285] Die Lehre fordert vielmehr eine inhaltliche Mitwirkung eines Menschen, wobei die getroffene Entscheidung der Sache nach von einer natürlichen Person und nicht von einem Algorithmus verantwortet werden muss.[286] Dazu braucht es eine (ernsthafte) inhaltliche Bewertung,[287] eine wertende Auswahl[288] oder einen Abwägungsprozess[289] durch einen Menschen. Im Grundsatz darf das System nicht bereits eine wesentliche (inhaltliche) Vorentscheidung gefällt haben.[290]

Die Ausschliesslichkeit kann aber auch durchbrochen werden, wenn der Mensch über die automatisierte Bearbeitung hinausgehende Aspekte berücksichtigt.[291] Will sich der Mensch auf die Ergebnisse des ADM-Systems abstützen, hat er eine spezifische Richtigkeits- oder Plausibilitätskontrolle vorzunehmen, um die automatisierte Entscheidung dadurch in eine eigene Entscheidung zu übersetzen und die Ausschliesslichkeit zu durchbrechen.[292]

Die dazwischentretende Person muss sodann die fachliche Kompetenz aufweisen und die hinreichenden Informationen besitzen, um eine eigene Bewertung vornehmen zu können, sowie faktisch die Möglichkeit und Befugnis haben, eine eigene Entscheidung zu treffen oder den Entscheidungsprozess anzuhalten und zu eskalieren.[293] Für die menschliche Bewertung muss entsprechend genügend Spielraum vorhanden sein.[294]

Im Kern geht es bei diesen Kriterien um die Frage, ob die zu einer Auswahl zwischen verschiedenen Möglichkeiten führende Willensbildung tatsächlich von einem Menschen oder von einer Maschine vorgenommen wird.

Willensbildung durch einen Menschen

Wie vorne festgestellt, besteht eine Entscheidung nicht nur aus der Entscheidung bzw. dem Entschluss im eigentliche Sinne (fünfter Schritt des Entscheidungsprozesses). Die tatsächliche Willensbildung findet bereits in den vorhergehenden Schritten statt und zwar insbesondere im Rahmen der Bewertung der Alternativen (vierter Schritt des Entscheidungsprozesses). Diese basiert wiederum wesentlich auf der Informationssammlung und der Alternativensuche (zweiter und dritter Schritt des Entscheidungsprozesses). Beim Entschluss handelt es sich deshalb im Wesentlichen nur um die logische Konsequenz und den Ausdruck der vorhergehenden Willensbildung.[295]

Vergleicht man das soeben zur inhaltlichen Prüfung und zum Dazwischentreten des Menschen Gesagte[296] mit dem Entscheidungsprozess,[297] ergibt sich, dass sowohl der Gesetzgeber als auch die Lehre fordert, dass diejenigen Schritte des Entscheidungsprozesses, welche die Bewertung der verschiedenen Möglichkeiten zum Inhalt haben, durch den Menschen übernommen oder zumindest inhaltlich überprüft werden müssen, um die Ausschliesslichkeit der Automatisierung zu verneinen oder durchbrechen zu können. Die Beteiligung eines Menschen an einem automatisierten Entscheidungsprozess erscheint dabei umso relevanter, umso grösser sein Einfluss auf diejenigen Schritte des Entscheidungsprozesses ist, in welchen die Alternativen bewertet werden und der Wille gebildet sowie die Entscheidung im engeren Sinne (der Entschluss) getroffen wird. Gleichzeitig kann ein Mensch seinen Entscheidungswillen auch erst nach der automatisierten Bewertung und Entscheidung bilden und das Ergebnis eines ADM-Systems mit der eigenen Entscheidung ersetzen. Dies kann bspw. im Rahmen der Kontrolle (Schritt sieben des Entscheidungsprozesses) geschehen, wenn über die automatisierte Bearbeitung hinausgehende Aspekte berücksichtigt werden oder eine Richtigkeits- oder Plausibilitätskontrolle vorgenommen wird. Diesfalls wiederholt der Mensch in einem gewissen Mass einen Teil des Entscheidungsprozesses. Damit keine ausschliesslich automatisierte Entscheidung vorliegt, geht es im Kern darum, dass sich eine natürliche Person einen eigenen, fachlich abgestützten Entscheidungswillen bildet und auch befugt ist, diesen umzusetzen. Die Frage, ob eine Entscheidung ausschliesslich automatisiert getroffen wurde, darf deshalb nicht rein formal verstanden werden, sondern ist inhaltlich mit Blick auf die einzelnen Schritte des Entscheidungsprozesses zu beantworten.[298]

Profiling und Bewertung von Personendaten

Vorbemerkungen

Im Gegensatz zum Wortlaut von Art. 15 Abs. 1 DSRL,[299] dem aus dem ersten Revisionsentwurf des aDSG 1992 gestrichenen Art. 7b E-DSG 2003[300] und dem Erwägungsgrund 71 der DSGVO[301] ist in Art. 21 Abs. 1 DSG nicht die Rede davon, dass die der automatisierten Entscheidung zugrundeliegende Datenbearbeitung die Bewertung einzelner Aspekte der Person oder der Persönlichkeit der betroffenen Person zu bezwecken hat oder dass ein Profiling vorliegen muss. Genannt wird lediglich eine auf einer automatisierten Bearbeitung beruhende Entscheidung.

Mit Blick auf Art. 22 Abs. 1 DSGVO fordert die Lehre, wie bereits angeführt, teilweise, dass vom Begriff der automatisierten Entscheidung (weiterhin) nur solche automatisierten Verarbeitungen bzw. Entscheidungen erfasst werden sollen, die auf einer Bewertung von Personendaten bzw. einem Profiling basieren oder die ein mit diesem vergleichbares Mindestmass an Komplexität aufweisen.[302] Dies obwohl sich in Art. 22 Abs. 1 DSGVO lediglich der Vermerk «einschliesslich Profiling» findet und nicht angeführt wird, dass die einer automatisierten Entscheidung zugrundeliegende Datenbearbeitung die Auswertung bestimmter Merkmale einer Person bezwecken müsse. Der Hinweis auf eine (allenfalls) notwendige Bewertung persönlicher Aspekte der betroffenen Person findet sich nur (noch) in Erwägungsgrund 71.

Vor diesem Hintergrund ist zu prüfen, ob das Vorliegen eines Profilings oder einer ähnlich intensiven automatisierten Datenbearbeitung Voraussetzung für eine automatisierte Einzelentscheidung im Sinne des DSG ist, deren mögliche Datenbearbeitungsgrundlagen mithin durch dieses zusätzliche Kriterium eingegrenzt werden. Bevor dies geprüft werden kann, ist jedoch zu analysieren, um was es sich bei einem Profiling konkret handelt und ob bzw. inwiefern sich dieses von einer automatisierten Einzelentscheidung unterscheidet.

Profiling mit und ohne hohes Risiko

Um zu beantworten, ob und wie weit eine automatisierte Einzelentscheidung im Sinne des DSG auf einem Profiling oder einer ähnlichen Bewertung von Personendaten beruhen muss, ist vorab zu klären, um was es sich beim Profiling handelt. Im Gegensatz zum Begriff der automatisierten Einzelentscheidung ist der Tatbestand des Profilings bei den Legaldefinitionen des DSG aufgeführt. Art. 5 lit. f DSG definiert Profiling als «jede Art der automatisierten Bearbeitung von Personendaten, die darin besteht, dass diese Daten verwendet werden, um bestimmte persönliche Aspekte, die sich auf eine natürliche Person beziehen, zu bewerten, insbesondere um Aspekte bezüglich Arbeitsleistung, wirtschaftlicher Lage, Gesundheit, persönlicher Vorlieben, Interessen, Zuverlässigkeit, Verhalten, Aufenthaltsort oder Ortswechsel dieser natürlichen Person zu analysieren oder vorherzusagen». Dieser Tatbestand stimmt in seinem Wortlaut, abgesehen von ein paar sprachlichen Abweichungen, mit Art. 4 Ziff. 4 DSGVO überein.[303] Auch wenn dieser Wortlaut des Profilings erst im Rahmen der parlamentarischen Beratungen so ins Gesetz aufgenommen worden ist,[304] hatte der Gesetzgeber mit der Aufnahme des Begriffs des Profilings ins DSG von Beginn an im Sinne, das Schweizer Recht an die europäische Terminologie anzupassen,[305] was bei der Auslegung des Begriffs zu berücksichtigen ist.

In Art. 5 lit. g DSG findet sich sodann der Begriff des «Profilings mit hohem Risiko». Ein solches liegt vor, wenn ein Profiling ein hohes Risiko für die Persönlichkeit oder die Grundrechte einer betroffenen Person mit sich bringt, indem es zu einer Verknüpfung von Daten führt, die eine Beurteilung wesentlicher Aspekte der Persönlichkeit einer natürlichen Person erlaubt. Damit handelt es sich beim Profiling mit hohem Risiko um ein Profiling im Sinne von Art. 5 lit. f DSG, welches gewisse zusätzliche Kriterien erfüllt und deshalb mit einem erhöhten Risiko für die betroffene Person einhergeht.

Der Tatbestand des Profilings mit hohem Risiko fand sich nicht im E-DSG 2017, sondern wurde im Rahmen der parlamentarischen Debatte vom Ständerat in den Gesetzestext eingebracht.[306] Der Aufnahme dieser Bestimmung liegt der Gedanke zugrunde, dass nicht jedes Profiling zwingend zu einem hohen Risiko für die betroffenen Personen führt.[307] Die Aufteilung der Profiling-Definition in ein «normales» Profiling und ein solches mit hohem Risiko folgte im Sinne eines Mittelwegs einem risikobasierten Ansatz, um die nötigen Datenbearbeitungen zu gewähren und gleichzeitig keine Überregulierung zu schaffen.[308] Indirekt wurde damit zu einem gewissen Masse an den (altrechtlichen) Begriff des Persönlichkeitsprofils im Sinne von Art. 3 lit. d aDSG angeknüpft und dieser implizit wieder ins Gesetz aufgenommen.[309]

Voraussetzung für das Vorliegen eines Profilings ist gemäss Art. 5 lit. f DSG die Bearbeitung von Personendaten, welche automatisiert erfolgt und darin besteht, bestimmte persönliche Aspekte einer natürlichen Person zu bewerten.[310] Dass Personendaten bearbeitet werden müssen, ergibt sich bereits aus dem sachlichen Geltungsbereich des DSG,[311] weshalb diesbezüglich auf die Ausführungen vorne verwiesen wird.[312] Eine automatisierte Bearbeitung liegt – wie ebenfalls schon ausgeführt – bei jeder Auswertung mit Hilfe von computergestützten Analysetechniken vor, was bedeutet, dass die Datenbearbeitung mit Hilfe technischer Hilfsmittel zu erfolgen hat, um als automatisiert zu gelten. Als technische Hilfsmittel werden jegliche Formen elektronischer Kommunikationssysteme angesehen, nicht jedoch die Verwendung blosser Zettelkasten oder Sortiersysteme.[313]

In der Botschaft wird sodann gefordert, dass sowohl die Auswertung der Personendaten als auch die auf Grundlage dieser Auswertung stattfindende Bewertung der Merkmale einer individuellen Person automatisiert zu erfolgen hat, mithin der Bewertungsprozess vollständig automatisiert sein muss.[314] Diese Forderung wurde jedoch zu Art. 4 lit. f. E-DSG 2017 gemacht, dessen Wortlaut im Rahmen der parlamentarischen Beratungen gestrichen und durch die Übernahme der Legaldefinition von Art. 4 Ziff. 4 DSGVO ersetzt wurde.[315] Im Gegensatz zur Auffassung gemäss Botschaft reicht im Geltungsbereich der DSGVO auch eine teilweise automatisierte Bearbeitung aus.[316] So hat sich die Artikel-29-Datenschutzgruppe zu Art. 4 Ziff. 4 DSGVO dahingehend geäussert, dass – im Gegensatz zur in Art. 22 DSGVO geregelten automatisierten Entscheidung – jede Art einer automatisierten Verarbeitung ausreichend und nicht eine «ausschliesslich» automatisierte Verarbeitung gefordert sei. Das Eingreifen einer Person schliesse eine Aktivität nicht unbedingt aus dem Geltungsbereich des Profilings aus.[317]

Diese Argumentation lässt sich auch auf die Schweiz übertragen, zumal in Art. 5 lit. f DSG – im Gegensatz zu Art. 21 Abs. 1 DSG – nur die Rede ist von jeder Art der automatisierten Bearbeitung von Personendaten und nicht von einer ausschliesslich automatisierten Bearbeitung. Entsprechend hat auch bei einem Profiling im Sinne von Art. 5 lit. f DSG eine bloss teilweise automatisierte Datenbearbeitung auszureichen.[318] Diesbezüglich führt von Roth mit Verweis auf den Wortlaut von Art. 5 lit. f DSG richtigerweise an, dass die (teilweise) automatisierte Bearbeitung zumindest die Bewertung persönlicher Aspekte zum Gegenstand haben müsse und es nicht ausreichend sei, wenn der Bearbeitungsvorgang nur an irgendeiner Stelle automatisiert erfolge.[319]

Gemäss Rosenthal umfasst der in Art. 5 lit. f DSG verwendete Begriff des Bewertens nur Datenbearbeitungen, welche eine Wertung oder Interpretation der Eingangsdaten verlangen und damit eine subjektive Komponente wie bspw. eine Prognose enthielten. Die bloss objektive Feststellung eines Sachverhalts hingegen sei kein Profiling.[320] Roth spricht sich dafür aus, den Begriff des Bewertens im Einklang mit der Praxis zur DSGVO sowie der Profiling-Empfehlung des Europarates auszulegen. Demnach liege eine Bewertung vor, wenn ein grosser Datensatz auf Korrelationen analysiert und das in diesem Rahmen identifizierte Korrelationsmuster anschliessend auf den Datensatz einer oder mehrerer betroffenen Personen angewendet werde, um sich ein Urteil über gewisse bestehende (Analyse) oder künftige Aspekte (Prognose) dieser Person(en) zu bilden.[321]

Die gemachten Ausführungen zeigen, dass die Definition des Profilings (mit oder ohne hohes Risiko) an den Datenbearbeitungsprozess an sich und nicht an dessen In- oder Output anknüpft.[322] In diesem Sinne ergibt sich denn auch aus der Botschaft, dass es um eine bestimmte Form der Datenbearbeitung, d.h. einen dynamischen Prozess an sich, gehe, der auf einen bestimmten Zweck ausgerichtet sei.[323] Profiling beschreibt damit eine Art und Weise, wie Personendaten bearbeitet werden.[324] Konkret geht es darum, dass automatisiert gewisse Merkmale einer Person be- oder ausgewertet werden, um bestimmte Verhaltensweisen dieser Person zu analysieren oder vorherzusagen.[325] Ein Profiling kann damit insbesondere auch vorliegen, wenn es zu keiner Entscheidung gegenüber der betroffenen Person führt.[326]

In welchen Fällen ein Bewerten im Sinne von Art. 5 lit. f DSG gegeben ist, kann vorliegend offenbleiben. Das soeben angeführte Kriterium der Notwendigkeit der Bewertung bestimmter Aspekte einer Person und des Anknüpfens an einen Bearbeitungsprozess und nicht an dessen Ergebnis reichen für die Abgrenzung des Profilings zu automatisierten Einzelentscheidungen aus.

Abgrenzung Profiling und automatisierte Einzelentscheidung

Wie soeben dargelegt, knüpft der Begriff des Profilings (ohne hohes Risiko) an den Vorgang der automatisierten Bewertung an, unabhängig von deren Ergebnis.[327] Im Gegensatz dazu regelt Art. 21 Abs. 1 DSG nicht den einer automatisierten Entscheidung zugrundeliegenden Datenbearbeitungsprozess, sondern bezieht sich auf dessen Ergebnis, die automatisierte Entscheidung als solche,[328] sowie deren Auswirkungen (rechtliche Wirkung oder erhebliche Beeinträchtigung) auf die betroffene Person.[329] Wesentliches Unterscheidungsmerkmal zwischen Profiling und automatisierter Einzelentscheidung bildet damit der Anknüpfungspunkt der beiden unterschiedlichen Tatbestände.

Die Auswirkungen eines Profilings auf eine betroffene Person sind zwar auch für den Tatbestand des Profilings mit hohem Risiko relevant. Dabei erfolgt jedoch eine Anknüpfung an das Vorliegen eines hohen Risikos für die Persönlichkeit oder die Grundrechte der betroffenen Person und damit an andere Auswirkungen, als dies bei der automatisierten Einzelentscheidung der Fall ist, welche eine Rechtsfolge oder eine erhebliche Beeinträchtigung der betroffenen Person zu Folge haben muss. Insbesondere fordert Art. 21 Abs. 1 DSG nicht, dass eine automatisierte Einzelentscheidung mit einem hohen Risiko für die betroffene Person einhergehen muss.

Gemeinsam ist den beiden Tatbeständen, dass sowohl ein Profiling als auch eine automatisierte Einzelentscheidung auf einer automatisierten Datenbearbeitung zu basieren haben. Zu beachten ist dabei, dass die Datenbearbeitung bei einer automatisierten Einzelentscheidung im Gegensatz zum Profiling ausschliesslich automatisiert zu erfolgen hat. Der Spielraum, in welchem Ausmass ein Mensch an der einem Profiling zugrundeliegenden automatisierten Datenbearbeitung mitwirken kann, ist beim Profiling entsprechend grösser. Daraus kann jedoch nicht geschlossen werden, dass «lediglich» ein Profiling vorliegt, wenn das Ausschliesslichkeitserfordernis[330] bei einer automatisierten Einzelentscheidung nicht erfüllt wird, zumal die beiden Tatbestände wie soeben dargelegt an unterschiedliche Sachverhalte (Datenbearbeitungsprozess vs. Entscheidung) anknüpfen. Gleichzeitig ist jedoch nicht ausgeschlossen, dass eine Entscheidung, die aufgrund des qualifizieren Mitwirkens eines Menschen als nicht ausschliesslich automatisiert qualifiziert wird,[331] trotzdem auf einem Profiling beruht.

Profiling keine Voraussetzung einer automatisierten Einzelentscheidung

In der Botschaft finden sich mit Blick auf automatisierte Einzelentscheidungen der Vermerk «einschliesslich Profiling» sowie der Hinweis, dass auch über ein Profiling informiert werden müsse, wenn dieses zu einer Entscheidung führe, welche für die betroffene Person mit einer Rechtsfolge verbunden sei oder sie erheblich beeinträchtige.[332] Diese Ausführungen sind, wie die vorne aufgearbeitete Entstehungsgeschichte des DSG zeigt,[333] auf die Formulierung von Art. 19 Abs. 1 E-DSG 2017 zurückzuführen. Dort war noch die Rede von einer «Entscheidung, die ausschliesslich auf einer automatisierten Bearbeitung, einschliesslich Profiling, beruht». Die Nennung des Profilings wurde im Rahmen der parlamentarischen Beratungen jedoch gestrichen. Dies mit der Begründung, dass die Streichung materiell keine Änderung darstelle und eine automatisierte Entscheidung immer die Voraussetzungen gemäss Art. 19 Abs. 1 E-DSG 2017 erfüllen müsse, unabhängig davon, ob ein Profiling vorliege.[334] In den Erläuterungen zum VE-DSG 2016 wurde sogar noch explizit angeführt, dass eine automatisierte Einzelentscheidung nicht unbedingt auf einem Profiling beruhen müsse.[335]

Die Analyse des Entscheidungsprozesses hat aufgezeigt, dass eine Entscheidung jeweils auf einer Bewertung der verschiedenen Möglichkeiten basiert.[336] In dieser Richtung findet sich denn auch in der deutschsprachigen Botschaft der Hinweis, dass die automatisierte Entscheidung auf einer inhaltlichen Bewertung bzw. einer inhaltlichen Beurteilung des Sachverhalts beruht.[337] Wobei in der italienisch- und der französischsprachigen Botschaft die Rede ist von einer Datenanalyse («un’analisi di dati») oder -auswertung («exploitation de données»), welche zu einer Entscheidung oder einem Urteil über die betroffene Person führt.[338] In der französischsprachigen Botschaft ist sodann vermerkt, dass die Entscheidung gestützt auf eine Einschätzung der Situation («évaluation de la situation») erfolge.[339]

Auch wenn das Vorliegen einer Entscheidung eine Bewertung voraussetzt und auch in der (deutschsprachigen) Botschaft von der Notwendigkeit einer Bewertung ausgegangen wird, ist diese nicht mit der Bewertung, welche mit Blick auf das Profiling gefordert wird, gleichzusetzen. Damit eine (automatisierte) Entscheidung vorliegt, ist nur die Bewertung des Inhalts oder Sachverhalts erforderlich, womit gemäss italienisch- und französischsprachiger Botschaft die Vornahme einer Datenanalyse oder -auswertung gemeint ist. Dies stimmt mit dem vorgestellten Entscheidungsprozess überein, der im Rahmen der Willensbildung eine Bewertung der zur Auswahl stehenden Möglichkeiten auf Grundlage der vorhandenen Informationen vorsieht.[340] Eine solche Sachverhaltsbeurteilung wird bereits vorgenommen, wenn Informationen über die betroffene Person mit den zu erreichenden Zielen abgeglichen werden. Vorausgesetzt wird für das Fällen einer (automatisierten) Entscheidung entsprechend nicht die Bewertung von bestimmten persönlichen Merkmalen der betroffenen Person. Beim Profiling hingegen wird eine solche qualifizierte Art der Bewertung, mit einem bestimmten Fokus und Ziel, gefordert. Aus dem Vorliegen eines Profilings kann deshalb ebenso wenig auf das Vorliegen einer automatisierten Einzelentscheidung geschlossen werden, wie aus dem Vorliegen einer automatisierten Einzelentscheidung nicht auf das Vorliegen eines Profilings geschlossen werden kann.

Das Gesagte zeigt auf, dass es Wille des Gesetzgebers war, durch die Regelungen automatisierter Einzelentscheidungen auch Entscheidungen zu erfassen, die nicht auf einem Profiling, d.h. nicht auf einer automatisierten Bewertung persönlicher Aspekte der betroffenen Person, basieren. Gefordert wird lediglich eine Datenanalyse im Rahmen einer Sachverhaltsbeurteilung. Entsprechend wird der Gegenstand von automatisierten Entscheidungen nicht dahingehend eingeschränkt, dass nur Entscheidungen relevant sind, welche zwingend eine Bewertung persönlicher Aspekte der betroffenen Person erfordern bzw. auf einem Profiling beruhen.

Auch wenn das Profiling und eine automatisierte Einzelentscheidung verschiedene Sachverhalte regeln, ist es nicht ausgeschlossen, dass Ersteres Letzterem vorgelagert ist.[341] In der Praxis handelt es sich bei den Datenbearbeitungen, welche automatisierten Entscheidungen zugrunde liegen, wohl regelmässig um Profiling.[342] Dies zumindest in all denjenigen Fällen, in denen automatisiert bestimmte Aspekte einer natürlichen Person bewertet werden und gestützt auf diese Analyse oder Vorhersage eine automatisierte Entscheidung gefällt wird.

Auf Profiling gestützte automatisierte Einzelentscheidung

Führt der Datenbearbeitungsprozess im Rahmen eines Profilings, unabhängig davon, ob es sich um ein normales oder ein solches mit hohem Risiko handelt, zu einer automatisierten Einzelentscheidung, welche mit einer Rechtsfolge oder erheblichen Beeinträchtigung für die betroffene Person verbunden ist, hat dies die Anwendbarkeit von Art. 21 DSG und Art. 25 Abs. 2 lit. f DSG zur Folge.[343] Gleichzeitig müssen in diesen Fällen auch die (wenigen) spezifischen datenschutzrechtlichen Profiling-Vorgaben eingehalten werden.[344] So ist bspw. bei einem Profiling mit hohem Risiko gemäss Art. 22 Abs. 1 DSG eine Datenschutzfolgenabschätzung vorzunehmen, zumal eine solche für diejenigen Datenbearbeitungen zu erfolgen hat, die mit einem hohen Risiko für die Persönlichkeit oder die Grundrechte der betroffenen Person einhergehen. Es muss im Einzelfall somit jeweils konkret geprüft werden, ob einer automatisierten Entscheidung ein Profiling zugrunde liegt, um zu klären, ob die diesbezüglichen zusätzlichen datenschutzrechtlichen Vorgaben ebenfalls einzuhalten sind.

Prüfschema «ausschliessliche Automatisierung»

Aus dem Gesagten ergibt sich, dass die Frage der ausschliesslichen Automatisierung einer Einzelentscheidung in zwei Schritten zu prüfen ist. Zuerst ist zu klären, ob ein technisches Hilfsmittel, wie ein elektronisch ausgeführter Algorithmus, selbstständig eine Reihe von oder sämtliche Arbeitsschritte eines zu einer Entscheidung führenden Datenbearbeitungsprozesses übernimmt. Es geht um die Frage, ob Algorithmen zur Entscheidungsfindung eingesetzt werden bzw. ob eine Entscheidung (zumindest teilweise) automatisiert worden ist.[345] Nicht relevant ist dabei, ob der Algorithmus eine Bewertung persönlicher Merkmale der betroffenen Person bzw. ein Profiling vornimmt, solange zur Entscheidungsfällung im Einzelfall eine Bearbeitung von Personendaten erfolgt. Gefordert wird lediglich die Vornahme einer Bewertung des Inhalts oder Sachverhalts im Rahmen einer (einfachen oder komplexen) Datenanalyse. Dabei handelt es sich jedoch nicht um ein zusätzliches Kriterium für die einer automatisierten Entscheidung zugrundeliegende Datenbearbeitung, da das Fällen einer Entscheidung an sich bereits eine Bewertung der möglichen Alternativen voraussetzt.[346]

Falls dem so ist, ist in einem zweiten Schritt die Beteiligung des Menschen an einer solchen automatisierten Entscheidung zu untersuchen und zu analysieren, ob diese als genügend wesentlich angesehen wird, um die Ausschliesslichkeit der Automatisierung zu «durchbrechen». Dabei ist nicht von Relevanz, ob ein Mensch bei der Entwicklung des ADM-Systems mitgewirkt hat oder wie weitgehend der Mensch die Entscheidungsregeln bereits im Rahmen der Systementwicklung vorhergesehen und festgehalten hat.[347] Vielmehr geht es um die Frage, wie weit der Mensch beim anschliessenden Einsatz des ADM-Systems an einer spezifischen Entscheidung beteiligt ist. Damit diese Frage geklärt werden kann, braucht es neben der Analyse, was der Mensch inhaltlich zur Entscheidung beiträgt, auch eine Überprüfung von dessen Kompetenzen in fachlicher und organisatorischer Hinsicht.[348]

Zusammengefasst lässt sich folgendes Schema zur Prüfung, ob eine Entscheidung ausschliesslich automatisiert im Sinne des DSG erfolgt, ableiten:

Abbildung 2: Prüfschema ausschliessliche Automatisierung

Würdigung

Wann eine ausschliesslich automatisierte Entscheidung vorliegt, scheint vor diesem Hintergrund auf den ersten Blick durchaus nachvollziehbar zu sein. Auch basierend auf den vorne eruierten und in Abbildung 2 angeführten Kriterien lässt sich jedoch nur schwer eine tatsächliche Grenze der maximal möglichen oder mindestens notwendigen menschlichen Beteiligung ziehen. Zum einen sind viele der zu berücksichtigenden Kriterien nicht wirklich greifbar. Zum anderen lässt sich zwar meist überprüfen, ob ein Mensch sowohl kompetent genug als auch tatsächlich berechtigt ist, von einer automatisiert erstellten Vorauswahl oder der vom System vorgeschlagenen oder getroffenen Entscheidung abzuweichen. Ob sich eine natürliche Person einen eigenen Willen bildet und nicht bloss blind auf die Ergebnisse des Systems vertraut, lässt sich – wenn überhaupt – in der Praxis hingegen nur sehr aufwändig prüfen (bspw. mittels des Abfragens der konkreten Entscheidungsgründe). Bei der Anwendung sehr komplexer Systemen, deren Verarbeitungsvorgänge der Black-Box-Problematik unterliegen, besteht zudem möglicherweise die Schwierigkeit, dass keine Person vorhanden ist, welche die automatisiert vorgeschlagene oder getroffene Entscheidung tatsächlich nachvollziehen oder überprüfen kann. Dies ist bspw. insbesondere dann nicht möglich, wenn der Algorithmus zu Ergebnissen kommt, deren Berechnung auch vom Spezialisten nicht nachvollzogen werden kann.[349] Zudem gibt es durchaus Situationen, bei denen ein Mensch aufgrund der grossen Datenmenge selber nicht zu einer (fachlich abgestützten) Entscheidung kommen kann, sondern zumindest zu einem gewissen Masse immer auf Algorithmen zur Auswertung angewiesen ist.[350]

Im Einzelfall stellt sich damit stets die Frage, ob der Eingriff des Menschen tatsächlich ausreichte, um nicht mehr von einer automatisierten Entscheidung auszugehen. Das vorgestellte Schema vermag etwas Licht ins Dunkel zu bringen, aber die Problematik an sich nicht lösen. Thouvenin/Früh bringen deshalb zu Recht vor, dass es unmöglich erscheint, den (ungefähren) Grad der Automatisierung einer Entscheidung zu definieren.[351]

Tatbestandsprüfung

Vorbemerkungen

Mit Blick auf die Prüfung der vorgestellten Tatbestandsmerkmale automatisierter Einzelentscheidungen stellt sich die Frage, ob diese für jede einzelne Entscheidung eines ADM-Systems gesondert zu prüfen sind oder ob vorab in allgemeiner Art und Weise festgestellt werden kann, dass sämtliche (oder ein Teil der) Entscheide eines ADM-Systems als datenschutzrechtlich relevante automatisierte Einzelentscheidungen zu qualifizieren sind. Ebenso ist zu klären, aus welcher Perspektive die Tatbestandsmerkmale zu prüfen sind.

Prüfperspektive

Das DSG äussert sich nicht dazu, aus welcher Perspektive die Prüfung des Tatbestands der automatisierten Einzelentscheidung zu erfolgen hat. Der Gesetzgeber hat sich in der Botschaft zwar nicht ausdrücklich zu dieser Frage geäussert, aber immerhin mit Blick auf die Frage des Vorliegens einer erheblichen Beeinträchtigung angeführt, dass auf die konkreten Umstände des Einzelfalls abzustellen sei.[352] Die Lehre geht sodann davon aus, dass sich die Erheblichkeit einer Beeinträchtigung im Einzelfall anhand einer objektiven Betrachtungsweise bestimmt.[353] Konkret ist bei der Prüfung der Erheblichkeit auf eine objektive Betrachtungsweise nach dem Massstab eines durchschnittlichen Adressaten abzustellen.[354] Massgebend kann nicht sein, ob die betroffene Person ihre Betroffenheit als erheblich einstuft, sondern nur, ob eine andere Person in einer ähnlichen Situation, d.h. ein Durchschnittsmensch, dies auch so beurteilen würde.[355] Diese objektive Betrachtungsweise ist notwendig, da sich die subjektiven Befindlichkeiten einzelner Personen stark unterscheiden können und für den Verantwortlichen nicht ohne weiteres vorhersehbar sind. Das Abstützen auf die subjektive Betroffenheit würde deshalb zu einem Verlust an Rechtssicherheit führen.[356]

Diese Argumente lassen sich auch auf die Prüfung der restlichen Tatbestandsmerkmale automatisierter Einzelentscheidungen übertragen, zumindest auf diejenigen, die eine gewisse subjektive Bewertungskomponente beinhalten, wie bspw. das Überschreiten einer gewissen Relevanz- oder Erheblichkeitsschwelle. Bei allen Merkmalen, die subjektive Komponenten beinalten, ist deshalb auf eine objektive Betrachtungsweise im Sinne eines durchschnittlichen Adressaten abzustellen, um die Prüfung allgemeingültig und ohne Zusatzinfos zur betroffenen Person zu ermöglichen. Enthält ein Tatbestandsmerkmal keine subjektive Komponente, wie bspw. die Frage, ob eine relevante Entscheidung vorliegt, kommt sodann ohnehin ein objektiver Prüfmassstab zur Anwendung. Im Ergebnis hat die Prüfung, ob die Tatbestandsmerkmale einer automatisierten Einzelentscheidung erfüllt sind, somit grundsätzlich aus einer objektiven Perspektive zu erfolgen.

Zeitpunkt: Einzelfall- oder Systemprüfung?

Im Anschluss stellt sich die Frage, ob diese objektive Prüfung – wie in der Botschaft und von der Lehre mit Blick auf das Tatbestandsmerkmal der erheblichen Beeinträchtigung gefordert – in einem konkreten Einzelfall zu geschehen hat oder für ein ganzes System vorab vorgenommen werden kann.

Das DSG äussert sich nicht dazu, zu welchem Zeitpunkt, von wem und in welcher Art und Weise das Vorliegen einer automatisierten Einzelentscheidung zu prüfen ist. Nebst dem vorne angeführten Hinweis auf die Einzelfallprüfung betreffend das Vorliegen einer erheblichen Beeinträchtigung hat sich der Gesetzgeber in der Botschaft nicht zur Frage des Prüfzeitpunkts geäussert. In der Botschaft wird jedoch angeführt, dass das Gesetz nicht festhalte, wann eine betroffene Person informiert werden müsse und wann sie Gelegenheit erhalte, ihren Standpunkt darzulegen, weshalb dies vor oder nach der Entscheidung erfolgen könne.[357] Diese Aussage lässt sich dahingehend interpretieren, dass der Gesetzgeber davon ausging, dass bereits im Vorfeld definiert wird oder definiert werden kann, ob die Entscheidungen eines ADM-Systems als automatisierte Einzelentscheidung im Sinne des DSG qualifiziert werden, zumal eine Information vor der tatsächlichen Entscheidungsfällung ansonsten gar nicht möglich wäre.

Im Zusammenhang mit der Frage der Ausschliesslichkeit der Automatisierung sprechen sich viele Autoren dafür aus, dass blosse Stichproben durch Menschen die Ausschliesslichkeit nicht zu durchbrechen vermögen.[358] Wird aus mehreren Entscheidungen eine Stichprobe vom Menschen genauer angeschaut und inhaltlich überprüft, ist es durchaus möglich, dass diese spezifische Entscheidung nicht mehr als ausschliesslich automatisiert zu qualifizieren ist, wenn die menschliche Überprüfung die geforderte Intensität erreicht.[359] Diese Stichprobe hat hingegen keine Auswirkungen auf die Frage der Automatisierung aller anderen Entscheidungen dieses Systems. Die eingangs angeführte Schlussfolgerung der Lehre betreffend Stichproben kann entsprechend nur auf dem Hintergedanken beruhen, dass die Ausschliesslichkeit der Automatisierung anhand eines gesamten Systems und nicht auf Grundlage einer individuellen vom System getroffenen Entscheidung beurteilt wird. Entsprechend ist anzunehmen, dass zumindest ein Teil der Lehre davon ausgeht, dass eine Vorabprüfung des ADM-Systems möglich sein muss.

Aus den Materialien und der Lehre ergibt sich damit ein gespaltenes Bild. Auf der einen Seite, bei der Prüfung der erheblichen Beeinträchtigung, wird eine Einzelfallprüfung verlangt, welche jedoch durch eine objektive Betrachtungsweise relativiert wird. Auf der anderen Seite, bei der Prüfung der Ausschliesslichkeit, wird hingegen indirekt davon ausgegangen, dass die Entscheidungen eines Systems vorab geprüft werden können.

Zu beachten ist Folgendes: Auch wenn eine Überprüfung der Tatbestandsmerkmale einer automatisierten Einzelentscheidung für jede einzelne Entscheidung durchaus wünschenswert erscheint, stellt die Forderung nach einer solchen ausschliesslichen Einzelfallprüfung die Verantwortlichen vor praktische Umsetzungsprobleme. Es entsteht die Herausforderung, dass jeweils erst nach der tatsächlichen Entscheidungsfällung im Einzelfall beurteilt werden kann, ob es sich bei einer Entscheidung um eine automatisierte Einzelentscheidung im Sinne des DSG handelt. Erfolgt diese (nachträgliche) Prüfung durch einen Menschen, hat dies unter Umständen zur Folge, dass sämtliche mit der Automatisierung einhergehenden Effizienzgewinne wieder verloren gehen. Prüft diese Frage hingegen ein Algorithmus, stellen sich unter Umständen wiederum Abgrenzungsfragen oder es entsteht eine (Prüf‑)Schlaufe, da es sich bei dieser Entscheidung möglicherweise (erneut) um eine automatisierte Einzelentscheidung handelt. Dieses Vorgehen erscheint entsprechend wenig praktikabel. Aus Sicht der Autorin muss die Prüfung der Tatbestandsmerkmale automatisierter Einzelentscheidungen deshalb vorab für die verschiedenen Entscheidungsalternativen eines Systems möglich sein.

Dies vor dem Hintergrund, dass in der Regel bereits vorab bekannt ist, welche (ungefähren) Entscheidungsalternativen einem ADM-System zur Verfügung stehen; und dies wiederum aufgrund der Tatsache, dass der Entscheidungsgegenstand eines ADM-Systems bereits während dessen Entwicklung im Rahmen der Bestimmung des mit dem System verfolgten Ziels zu definieren ist und die grundlegenden Weichenstellungen einer spezifischen automatisierten Entscheidung nicht erst bei der Dateneingabe im produktiven System erfolgen, sondern bereits im Rahmen der Systementwicklung stattfinden (müssen).[360] Sodann vertraut wohl kein Verantwortlicher auf den Einsatz eines ADM-Systems, wenn ihm dessen Entscheidungsalternativen vorab nicht zumindest in den Grundzügen bekannt sind.

Bei der Prüfung der Tatbestandsmerkmale ist auf die unterschiedlichen möglichen Entscheidungsalternativen, welche einem ADM-System zur Verfügung stehen, abzustellen. Anschliessend sind diese Entscheidungsalternativen anhand einer objektiven Betrachtungsweise dahingehend einzuordnen, ob es sich bei allen oder einzelnen dieser Entscheidungsalternativen um automatisierte Einzelentscheidungen im Sinne des DSG handelt. Mit Blick auf die Prüfung der Ausschliesslichkeit der automatisierten Bearbeitung bzw. der Frage, ob eine allfällige Beteiligung des Menschen an einer konkreten Entscheidung diese Ausschliesslichkeit zu durchbrechen vermag, ist dabei von der organisatorisch geplanten Einflussnahme oder Interaktion des Menschen und dessen fachlicher und organisatorischer Kompetenz auszugehen. Dies vor dem Hintergrund, dass ADM-Systeme regelmässig in bürokratische und organisatorische Verfahren eingebettet sind,[361] deren Zielsetzungen bereits zu Beginn der Entwicklung zu definieren sind, und spätestens im Rahmen des Deployment festzuhalten ist, wie die Kontrolle der Leistung und der Ergebnisse des Systems sichergestellt wird.[362] Entsprechend sollte vor dem Einsatz von ADM-Systemen feststehen, welche Personen zu welchem Zeitpunkt und in welchem Umfang mit dem System interagieren und/oder dessen Ergebnisse überprüfen. Ist dies nicht der Fall, lässt sich die ausschliessliche Automatisierung (vorab) nicht abschliessend prüfen, was zur Folge hat, dass einzelne oder ausgewählte Entscheidungsalternativen des Systems nicht vorab geprüft werden können und entsprechend die Prüfung der einzelnen Tatbestandsmerkmale im Einzelfall zu erfolgen hat. Dies gilt auch, falls sich weitere Tatbestandsmerkmale vorab nicht abschliessend beurteilen lassen.

Muss sich der Verantwortliche vorab klar werden, über welche Entscheidungsmöglichkeiten das eingesetzte ADM-System verfügt, welche Folgen mit diesen Entscheidungen für eine betroffene Person einhergehen können sowie an welcher Stelle und wie weitgehend ein Mensch an der Willensbildung beteiligt ist, kann sich dies positiv auf die mit automatisierten Entscheidungen einhergehenden Risiken auswirken. Dies bspw. im Hinblick auf allfällige Diskriminierungs- und Intransparenzrisiken. Der Verantwortliche muss sich bei der Prüfung, ob gewisse Entscheidungsmöglichkeiten für die betroffenen Personen mit einer erheblichen Beeinträchtigung einhergehen können, bspw. bewusst werden, auf welche Bewertungskriterien das System zurückgreift und welches Diskriminierungspotenzial mit dem System einhergeht.

Diese Einräumung der Möglichkeit einer Vorabprüfung eines gesamten ADM-Systems bzw. von dessen Entscheidungsalternativen schliesst jedoch nicht aus, dass in einem konkreten Einzelfall eine erneute Prüfung der Tatbestandsmerkmale einer automatisierten Einzelentscheidung im Sinne des DSG vorgenommen werden kann, bspw. im Rahmen einer spezifischen Stichprobenkontrolle.

Prüfer/in

Anschliessend stellt sich die Frage, wer diese Tatbestandsprüfung vorzunehmen hat. Wie vorne angeführt, obliegt die datenschutzrechtliche Verantwortung in erster Linie derjenigen privaten Person (oder demjenigen Bundesorgan), welche allein oder zusammen mit anderen über den Zweck und die Mittel der Bearbeitung entscheidet (Verantwortlicher).[363] Abgesehen vom Auskunftsrecht in Art. 25 DSG, welches systematisch dem 4. Kapitel «Rechte der betroffenen Person» zugeordnet ist, sind sämtliche übrigen in Art. 21 DSG für automatisierte Einzelentscheidungen vorgesehenen Rechte und Pflichten systematisch dem 3. Kapitel «Pflichten des Verantwortlichen und des Auftragsbearbeiters» zugeordnet. Dementsprechend verpflichten die Regelungen zu automatisierten Entscheidungen in erster Linie den Verantwortlichen. Damit obliegt es auch diesem zu prüfen, ob Entscheidungen, die er trifft, den datenschutzrechtlichen Tatbestand der automatisierten Einzelentscheidung erfüllen. Er muss sicherstellen, falls es sich bei einem Datenbearbeitungsvorgang um eine automatisierte Einzelentscheidung im Sinne des DSG handelt, dass die diesbezüglichen Vorschriften eingehalten werden. Dem Verantwortlichen steht es frei, diese Prüfaufgabe an einen Auftragsdatenbearbeiter auszulagern,[364] was ihn jedoch nicht von der Verantwortung entbindet.

Art und Weise

Auf welche Art und Weise die Prüfung erfolgt, kann der Verantwortliche selber entscheiden, zumal es dessen Position auszeichnet, dass er über die wesentlichen datenschutzrechtlichen Parameter und die Art und Weise, wie eine Datenbearbeitung ausgestaltet ist, bestimmen kann.[365] In welcher Reihenfolge die einzelnen Tatbestandsmerkmale geprüft werden, ist nicht relevant, solange kein Merkmal vergessen geht. Empfehlenswert erscheint, mit demjenigen Tatbestandsmerkmal zu beginnen, welches am ehesten nicht erfüllt ist. Ist bereits das Vorliegen dieses Merkmals zu verneinen, kann ein unter Umständen erheblicher Prüfaufwand verhindert werden.

Ist sich ein Verantwortlicher unsicher, ob die durch ihn getroffenen Entscheidungen bzw. einzelne oder mehrere Entscheidungsalternativen des eingesetzten ADM-System sämtliche Tatbestandsmerkmale einer automatisierten Einzelentscheidung im Sinne des DSG erfüllen, steht es ihm frei, gegen Gebühr beim EDÖB um Beratung zu ersuchen.[366]

Fazit und Prüfschema «ausschliesslich automatisierte Einzelentscheidung»

Zur Klärung der Frage, ob es sich bei den möglichen Entscheidungen eines ADM-Systems um automatisierte Einzelentscheidungen im Sinne des DSG handelt, ist als Erstes zu prüfen, ob die einer Entscheidung zugrundeliegende Datenbearbeitung vom sachlichen, persönlichen und räumlichen Geltungsbereich des DSG erfasst wird.[367] Nur wenn dies der Fall ist, kann es sich um eine automatisierte Einzelentscheidung im Sinne des DSG handeln.

Anschliessend ist zu prüfen, ob eine konkrete Entscheidung oder bestimmte Entscheidungsalternativen eines ADM-Systems die Tatbestandsmerkmale einer automatisierten Einzelentscheidung im Sinne des DSG erfüllen. Konkret ist zu prüfen, ob eine Entscheidungssituation vorliegt, d.h. aus verschiedenen Entscheidungsalternativen eine auszuwählen ist, sowie, ob diese Entscheidung einen Einzelfall betrifft und mit einer rechtlichen Wirkung oder einer erheblichen Beeinträchtigung für die betroffene Person einhergeht.[368] Darüber hinaus hat die Entscheidungsfällung ausschliesslich automatisiert zu erfolgen.[369] Nicht vorausgesetzt ist, dass die Entscheidung oder das ADM-System eine gewisse Komplexität aufweisen oder die Entscheidung auf der Grundlage eines Profilings beruhen muss.[370]

Aus den gemachten Ausführungen lässt sich folgendes Prüfschema ableiten:

Abbildung 3: Prüfschema ausschliesslich automatisierte Einzelentscheidung im Sinne des DSG (Teil 1)

Abbildung 4: Prüfschema ausschliesslich automatisierte Einzelentscheidung im Sinne des DSG (Teil 2)

Auch wenn sowohl der Gesetzgeber als auch die Lehre mit Blick auf die erhebliche Beeinträchtigung eine einzelfallbezogene Betrachtungsweise fordert, muss nach Ansicht der Autorin eine Vorabprüfung der einem ADM-System zur Auswahl stehenden Entscheidungsalternativen möglich sein. Dies zumindest soweit diese Entscheidungsalternativen vorab tatsächlich feststehen und die Frage der Erfüllung der Tatbestandsmerkmale einer automatisierten Einzelentscheidung überprüft werden kann.[371] Mit Blick auf das Regelungsziel des Schutzes der betroffenen Person vor den (unklaren) Risiken einer automatisierten Entscheidung ist dabei zu fordern, dass eine Entscheidung im Zweifelsfall als ausschliesslich automatisierte Einzelentscheidung im Sinne des DSG qualifiziert werden muss. Nur so kann gewährleistet werden, dass eine betroffene Person Kenntnis von entsprechenden (kritischen) Entscheidungen erhält und von ihren diesbezüglichen datenschutzrechtlichen Rechten Gebrauch machen kann.

Bei der Prüfung der Folgen der verschiedenen Entscheidungsalternativen für die betroffenen Personen kann es ohne weiteres möglich sein, dass man zum Ergebnis kommt, dass (nur) gewisse dem System zur Verfügung stehende Entscheidungsalternativen datenschutzrechtlich relevant sind (weil sie bspw. mit einer Rechtsfolge für die betroffenen Personen einhergehen), ein anderer Teil der Alternativen hingegen nicht unter den datenschutzrechtlichen Tatbestand der automatisierten Einzelentscheidung fällt (weil bspw. die Ablehnung eines Vertrags keine erhebliche Beeinträchtigung zur Folge hat).[372]

Die Prüfung der Tatbestandsmerkmale ist vom Verantwortlichen vorzunehmen, welcher die verschiedenen Entscheidungsalternativen seines ADM-Systems oder konkrete einzelne automatisierte Entscheidungen entsprechend zu prüfen und einzuordnen hat.[373] Die Prüfung der einzelnen Tatbestandsmerkmale hat dabei jeweils anhand einer objektiven Betrachtungsweise und nach den Massstäben eines durchschnittlichen Adressaten zu erfolgen.[374]

In welcher Reihenfolge die Tatbestandsmerkmale automatisierter Entscheidungen geprüft werden, ist nicht relevant, solange kein Kriterium vergessen geht. Empfehlenswert erscheint, mit demjenigen Kriterium zu beginnen, welches am ehesten nicht erfüllt ist. Ist bereits das Vorliegen dieses Kriteriums zu verneinen, kann unter Umständen ein erheblicher Prüfaufwand verhindert werden.

Siehe dazu vorne II.6. ↵

Art. 21 Abs. 1 DSG; Art. 22 Abs. 1 DSGVO; Art. 9 Abs. 1 lit. a SEV Nr. 108+. ↵

Art. 21 Abs. 1 DSG; Art. 22 Abs. 1 DSGVO; siehe auch Art. 9 Abs. 1 lit. a SEV Nr. 108+. ↵

Siehe dazu vorne II.6; X.1. ↵

Wie bereits vorne dargelegt (siehe dazu I.3.4), behandelt die vorliegende Arbeit ausschliesslich die Datenbearbeitung durch private Personen. Aus diesem Grund wird im Folgenden darauf verzichtet die Datenbearbeitung durch Bundesorgane weiter auszuführen, auch wenn sie jeweils kurz vermerkt wird. ↵

Ausführlich zum sachlichen Geltungsbereich siehe Rosenthal, revDSG, N 82–87; siehe auch Belser/Noureddine, § 7 N 35–52. ↵

Art. 2 Abs. 1 DSG. ↵

Art. 2 Abs. 3 und 4 DSG; siehe dazu Rosenthal, revDSG, N 84–87. ↵

Zum Begriff des Bearbeitens siehe Belser/Noureddine, § 7 N 50–52; Rudin, in: SHK aDSG, Art. 3 aDSG N 32–39. ↵

Art. 5 lit. d DSG. ↵

Botschaft DSG 2017, 7021; Botschaft aDSG 1988, 447. ↵

Siehe dazu vorne II.3.2. ↵

Siehe dazu vorne IV.3.1. ↵

Siehe dazu vorne IV.3.4. ↵

Zum Begriff der Personendaten siehe Belser/Noureddine, § 7 N 36–49; Rosenthal, revDSG, N 19–20. ↵

Art. 5 lit. a DSG. ↵

Art. 2 Abs. 1 und Art. 3 lit. b aDSG. ↵

Botschaft DSG 2017, 6944, 6972, 7011. ↵

Art. 2 Abs. 1 DSG. ↵

Rosenthal/Jöhri, in: Rosenthal/Jöhri, aDSG, Art. 2 aDSG N 5; Rudin, in: SHK aDSG, Art. 2 aDSG N 11. ↵

BGE 136 II 508, E. 3.2; Belser/Noureddine, § 7 N 37; Botschaft aDSG 1988, 444. ↵

Botschaft DSG 2017, 7019. ↵

BGE 136 II 508, E. 3.2. ↵

BGE 136 II 508, E. 3.2. ↵

Botschaft DSG 2017, 7019. ↵

Botschaft aDSG 1988, 444–445; Rudin, in: SHK aDSG, Art. 3 aDSG N 10. ↵

BGE 136 II 508, E. 3.4, m.w.N.; Rosenthal, revDSG, N 19. ↵

Rosenthal, revDSG, N 19; siehe auch BGE 136 II 508, E. 3.2, 3.4. ↵

Botschaft DSG 2017, 7019; siehe auch BGE 136 II 508, E. 3.2. ↵

Rosenthal, E-DSG, N 102. ↵

Siehe dazu ausführlich Weber, R.H., Big Data, 1–22; Weber, R.H./Oertly, N 1–8. ↵

Zum Risiko der De-Anonymisierung siehe Weber, R.H./Oertly, N 14–19. ↵

Rosenthal, E-DSG, N 102. ↵

Ähnlich Lewinski, in: Brink/Wolff, BeckOK Datenschutzrecht, Art. 22 DSGVO N 13a. ↵

Siehe dazu vorne IV.4.1; V.1. ↵

Siehe dazu hinten X.3.2.c); X.3.3.c). ↵

Ausführlich zum persönlichen Geltungsbereich siehe Rosenthal/Jöhri, in: Rosenthal/Jöhri, aDSG, Art. 2 aDSG N 15–19; Belser/Noureddine, § 7 N 53–58; Rudin, in: SHK aDSG, Art. 2 aDSG N 14–19. ↵

Art. 2 Abs. 1 DSG. ↵

Art. 5 lit. i DSG. ↵

Rosenthal, revDSG, N 81; Rosenthal/Jöhri, in: Rosenthal/Jöhri, aDSG, Art. 2 aDSG N 15. ↵

BGE 122 I 153, E. 2.c; Rudin, in: SHK aDSG, Art. 2 aDSG N 15. ↵

Ausführlich zum Begriff des Verantwortlichen nach Art. 5 lit. j DSG siehe Rosenthal, revDSG, N 13–18; siehe auch Bieri/Powell, Totalrevision, N 11–17. ↵

Bieri/Powell, Totalrevision, N 11. ↵

Art. 2 Abs. 1 DSG. ↵

Art. 5 lit. j DSG; Bieri/Powell, Totalrevision, N 14; Rosenthal, revDSG, N 13. ↵

Rosenthal, revDSG, N 13. ↵

Art. 5 lit. k DSG. ↵

Kianička, 63–64, 212; Zobl/Lysakowski, 42; für das deutsche Recht siehe Cornelius, 354, m.w.N. ↵

Blarer et al., 36; Zobl/Lysakowski, 43. ↵

Botschaft DSG 2017, 7023; siehe auch Botschaft aDSG 1988, 448. ↵

Algorithm Watch, Atlas, 5, 11; Blarer et al., 36–37; Sesing/Baumann, 139–140; differenzierter Gordon/Lutz, 53–61; Grützmacher/Heckmann, J., N 13. ↵

So bspw. Beck, 183–191; Zobl/Lysakowski, 42–47; siehe auch Pieper, 13–14. ↵

Art. 2 Abs. 1 DSG. ↵

Siehe dazu Ernst, 1029; vorne II.6; IV.4.2. ↵

Ramge, 25; siehe auch Krüger, J./Lischka, 13; Niederée/Nejdl, 42; Stiller/Jäger/Giessler, 3; a.A.: Pieper, 13. ↵

Spiecker genannt Döhmann, Regulierungsperspektive, 160. ↵

Art. 26 DSGVO. ↵

Spiecker genannt Döhmann, Regulierungsperspektive, 161; EuGH Urteil C-210/16 vom 5. Juni 2018. ↵

Spiecker genannt Döhmann, Regulierungsperspektive, 161. ↵

Ausführlich zum räumlichen Geltungsbereich siehe Rosenthal, revDSG, N 88–91; siehe auch Belser/Noureddine, § 7 N 59–60. ↵

Rosenthal, revDSG, N 88, 91. ↵

BGE 138 II 346, E. 3.3; BVGer Urteil A-7040/2009 vom 30. März 2011, E. 5.4.1; Belser/Noureddine, § 7 N 59. ↵

Belser/Noureddine, § 7 N 60; Rosenthal, in: Rosenthal/Jöhri, aDSG, Art. 3 aDSG N 14; zu Art. 139 IPRG siehe Rosenthal, in: Rosenthal/Jöhri, aDSG, Art. 139 IPRG. ↵

Art. 139 Abs. 3 IPRG. ↵

Siehe dazu Bieri/Powell, Totalrevision, N 18–19. ↵

Bieri/Powell, Totalrevision, N 18. ↵

Art. 139 IPRG. ↵

Art. 129 IPRG, Art. 5 Ziff. 3 LugÜ; Rosenthal, revDSG, N 91. ↵

Belser/Noureddine, § 7 N 60. ↵

Art. 3 Abs. 2 DSG i.V.m. Art. 139 Abs. 3 i.V.m. Abs. 1 lit. a IPRG; Rosenthal, revDSG, N 91. ↵

Botschaft aDSG 1988, 489. ↵

Thouvenin/Früh, 13. ↵

Thouvenin/Früh, 13. ↵

Siehe dazu vorne VII.4; Botschaft DSG 2017, 7056; der Begriff der automatisierten Einzelentscheidung wurde davor zwar bereits im Rahmen der Weiterentwicklung des Schengen-Besitzstands indirekt ins Schweizer Recht übernommen sowie anschliessend in Art. 3 lit. d SDSG definiert, dies hatte für das Verhältnis zwischen Privaten jedoch keine Auswirkungen (siehe dazu vorne VII.4.2.d); VII.4.2.e)iv). ↵

Bei einer Klammerdefinition wird eine Legaldefinition direkt in eine materielle Regelung eingebettet, siehe dazu Bratschi, 194. ↵

Botschaft DSG 2017, 7056. ↵

Botschaft DSG 2017, 7057. ↵

Abel, 305; Buchner, in: Kühling/Buchner, DS-GVO, Art. 22 DSGVO N 17–18; Schulz, in: Gola/Heckmann, DSGVO, Art. 22 DSGVO N 19; Lewinski, in: Brink/Wolff, BeckOK Datenschutzrecht, Art. 22 DSGVO N 12–13; a.A. Artikel-29-Datenschutzgruppe, 8; Dammann, 312; siehe auch Martini, in: Paal/Pauly, DS-GVO, Art. 22 DSGVO N 15c; vorne VII.2.2.b)iv bei Fn. 1028 und 1029. ↵

Siehe dazu vorne VII.4.2.e)v. ↵

Dreyer/Schulz, 19. ↵

Siehe dazu vorne II.3.1; ebenso Abel, 305; Helfrich, in: Sydow/Marsch, DSGVO, Art. 22 DSGVO N 43; Martini, in: Paal/Pauly, DS-GVO, Art. 22 DSGVO N 15a; a.A. Mendoza/Bygrave, 87, welche eine Entscheidung als die Einnahme einer bestimmten Haltung gegenüber einer Person ansehen. ↵

Siehe dazu vorne II.3.2. ↵

Scholz, in: Simitis/Hornung/Spiecker genannt Döhmann, Datenschutzrecht, Art. 22 DSGVO N 17; Lewinski, in: Brink/Wolff, BeckOK Datenschutzrecht, Art. 22 DSGVO N 14; siehe auch Martini, in: Paal/Pauly, DS-GVO, Art. 22 DSGVO N 15a. ↵

Martini, in: Paal/Pauly, DS-GVO, Art. 22 DSGVO N 15a; zu den verschiedenen Relevanzschwellen siehe hinten X.3.2.d). ↵

Ablehnend bspw. Dreyer/Schulz, 19. ↵

Siehe dazu vorne II.3.2. ↵

Botschaft DSG 2017, 7057. ↵

Siehe dazu hinten X.3.3. ↵

Dreyer/Schulz, 19. ↵

Thouvenin et al., Regulation, 1. ↵

Siehe dazu Botschaft DSG 2017, 7056–7057; Botschaft DSG 2017 (fr), 6674; Botschaft DSG 2017 (it), 6045. ↵

Siehe dazu auch vorne II.3.2. ↵

Siehe dazu vorne IV.4.1. ↵

Lewinski, in: Brink/Wolff, BeckOK Datenschutzrecht, Art. 22 DSGVO N 18; in diesem Sinne auch Rosenthal, revDSG, N 108; Vasella, 195; Weichert, in: Däubler et al., Kompaktkommentar DSGVO, Art. 22 DSGVO N 17; ähnlich, aber mit anderer Begründung, Botschaft DSG 2017, 7057. ↵

Rosenthal, revDSG, N 107. ↵

Rosenthal, revDSG, N 107–108; gleicher Ansicht auch Bieri/Powell, Informationspflicht, 1539. ↵

Rosenthal, E-DSG, N 102. ↵

Beispiel übernommen aus Botschaft DSG 2017, 7057. ↵

Rosenthal, revDSG, N 108. ↵

Ähnlich bereits Rosenthal, E-DSG, N 102; siehe auch Rosenthal, revDSG, N 108. ↵

Zu berücksichtigen ist dabei auch, dass ein solcher «Entscheid» eines Türschlosses nur dann datenschutzrechtlich relevant ist, wenn dafür Personendaten bearbeitet werden, bspw. weil der Badge personenbezogen ist (siehe dazu vorne X.2.1). ↵

Siehe dazu vorne IV.4.2. ↵

Zur Rolle des Menschen bei der Entwicklung von ADM-Systemen siehe vorne IV.4.2; siehe auch hinten X.3.3.c)ii. ↵

Siehe dazu vorne IV.4.2. ↵

So auch Ernst, 1027; dies gilt insbesondere auch für Online-Lernsysteme, die ihre Entscheidungsprozesse zwar im laufenden Betrieb anpassen, dies aber im Rahmen des zugrundeliegenden Modells und der vorgegebenen Parameter (siehe dazu vorne IV.3.4). ↵

Diese Kritik lässt sich auch ganz grundsätzlich zur Unterscheidung zwischen menschlichen und automatisierten Entscheidungen vorbringen (siehe dazu auch vorne V.4); zur Frage, ob die Unterscheidung zwischen Mensch und Maschine sinnvoll ist, siehe auch Thouvenin/Früh, 13. ↵

Siehe dazu Botschaft DSG 2017, 7057. ↵

Botschaft DSG 2017, 7057; Lewinski, in: Brink/Wolff, BeckOK Datenschutzrecht, Art. 22 DSGVO N 12–13; Schulz, in: Gola/Heckmann, DSGVO, Art. 22 DSGVO N 19. ↵

Rosenthal, E-DSG, N 102; siehe dazu auch vorne X.3.2.a)i. ↵

Rosenthal, E-DSG, N 102. ↵

Siehe dazu Rosenthal, revDSG, 107–108. ↵

Zum Ganzen Rosenthal, revDSG, N 108; Rosenthal, E-DSG, N 102; zur Frage des Ermessensspielraums siehe vorne X.3.2.a)ii. ↵

Duden Online: Komplexität, <https://www.duden.de/rechtschreibung/Komplexitaet> (23.10.2022). ↵

Siehe dazu vorne X.3.2.a)ii. ↵

Ähnlich, aber in anderem Zusammenhang, COE, CM/Rec(2010)13, 25–26. ↵

Siehe dazu vorne X.3.2.a)ii. ↵

Zum Begriff siehe Heldt Cordula/Hölscher Reinhold/Helms Nils: Gabler Wirtschaftslexikon, Ausfallrisiko, <https://wirtschaftslexikon.gabler.de/definition/ausfallrisiko-27112/version-250775> (18.02.2022). ↵

Siehe dazu Botschaft DSG 2017, 7057; Rosenthal, revDSG, N 108. ↵

Siehe dazu hinten X.3.2.d); X.3.2.e). ↵

Ähnlich bereits Martini, in: Paal/Pauly, DS-GVO, Art. 22 DSGVO N 15b. ↵

Siehe dazu vorne II.3.1. ↵

Duden, Recht A-Z, 147; Groh, Entscheidung; Köbler, 127. Bis im Jahr 2009 war eine Entscheidung im juristischen Sinn zudem die Bezeichnung für eine Handlungsform des Europäischen Gemeinschaftsrechts, welche inzwischen «Beschluss» genannt wird (siehe dazu Alpmann/Krüger, R./Wüstenbecker, 432; Gillenkirch/Winter; Duden, Recht A-Z, 147; Groh, Entscheidung; Köbler, 127). ↵

Alpmann/Krüger, R./Wüstenbecker, 432; siehe auch Duden, Recht A-Z, 147; Groh, Entscheidung. ↵

Art. 2 Abs. 1 DSG. ↵

Art. 2 Abs. 3 DSG. ↵

Siehe dazu vorne X.2.2. ↵

Siehe dazu vorne X.2.2.b). ↵

Siehe dazu bspw. Duden Online: Einzelfall, <https://www.duden.de/rechtschreibung/Einzelfall> (23.10.2022); Munzinger Online: Einzelfall, <https://www.munzinger.de/se​arch/document?index=duden-d0&id=D000001256&type=text/html&query.key=HJm9​uw​op​&template=/publikationen/duden/document.jsp#D00000038203> (18.10.2022). ↵

Siehe dazu vorne VIII.4.2; IX.1; siehe auch Toren, N 16, welche davon ausgeht, dass der Begriff im E-DSG 2017 demjenigen der DSGVO folgt. ↵

Botschaft DSG 2017, 7059. ↵

Zum individuell-konkreten Charakter von Verfügungen siehe Uhlmann, in: Waldmann/Weissenberger, VwVG, Art. 5 VwVG N 45–51. ↵

Häfelin/Müller, G./Uhlmann, N 860; Martin/Seltmann/Loher, 5; Uhlmann, in: Waldmann/Weissenberger, VwVG, Art. 5 VwVG N 45, m.w.N. ↵

BJ, Erläuterungen Vorentwurf, 59; diese Aussage findet sich jedoch nicht mehr in der Botschaft zum DSG. ↵

Rosenthal, revDSG, N 110; Toren, N 16. ↵

Art. 2 Abs. 1 DSG. ↵

Siehe dazu auch vorne X.2.1.c). ↵

Rosenthal, E-DSG, N 102. ↵

Lewinski, in: Brink/Wolff, BeckOK Datenschutzrecht, Art. 22 DSGVO N 15; Rosenthal, revDSG, N 110. ↵

Lewinski, in: Brink/Wolff, BeckOK Datenschutzrecht, Art. 22 DSGVO N 15. ↵

Lewinski, in: Brink/Wolff, BeckOK Datenschutzrecht, Art. 22 DSGVO N 15; zu den Fallgruppen «generell-konkret» und «individuell-abstrakt» siehe Uhlmann, in: Waldmann/Weissenberger, VwVG, Art. 5 VwVG N 47–50, m.w.N. ↵

Kritisch zum öffentlichen Recht Uhlmann, in: Waldmann/Weissenberger, VwVG, Art. 5 VwVG N 48–49. ↵

Rosenthal, E-DSG, N 102. ↵

Siehe dazu vorne X.2.1.b). ↵

Botschaft DSG 2017, 7057; Mendoza/Bygrave, 88. ↵

Kamlah, in: Plath, DSGVO, Art. 22 DSGVO N 7a. ↵

Rosenthal, E-DSG, N 102. ↵

Artikel-29-Datenschutzgruppe, 23; Lewinski, in: Brink/Wolff, BeckOK Datenschutzrecht, Art. 22 DSGVO N 29, 31. ↵

Weichert, in: Däubler et al., Kompaktkommentar DSGVO, Art. 22 DSGVO N 28. ↵

Dreyer/Schulz, 20; Herbst, in: Auernhammer, DSGVO, Art. 22 DSGVO N 16; Rosenthal, E-DSG, N 102; Scholz, in: Simitis/Hornung/Spiecker genannt Döhmann, Datenschutzrecht, Art. 22 DSGVO N 34; Schulz, in: Gola/Heckmann, DSGVO, Art. 22 DSGVO N 24; Taeger, in: Taeger/Gabel, DSGVO, Art. 22 DSGVO N 45. ↵

Dreyer/Schulz, 20; Scholz, in: Simitis/Hornung/Spiecker genannt Döhmann, Datenschutzrecht, Art. 22 DSGVO N 34; Taeger, in: Taeger/Gabel, DSGVO, Art. 22 DSGVO N 45. ↵

Helfrich, in: Sydow/Marsch, DSGVO, Art. 22 DSGVO N 48; Weichert, in: Däubler et al., Kompaktkommentar DSGVO, Art. 22 DSGVO N 28. ↵

Siehe dazu sogleich X.3.2.d)ii; Taeger, in: Taeger/Gabel, DSGVO, Art. 22 DSGVO N 47; Schulz, in: Gola/Heckmann, DSGVO, Art. 22 DSGVO N 24. ↵

Lewinski, in: Brink/Wolff, BeckOK Datenschutzrecht, Art. 22 DSGVO N 28. ↵

Rosenthal, E-DSG, N 102. ↵

Weichert, in: Däubler et al., Kompaktkommentar DSGVO, Art. 22 DSGVO N 28. ↵

Scholz, in: Simitis/Hornung/Spiecker genannt Döhmann, Datenschutzrecht, Art. 22 DSGVO N 32. ↵

Schulz, in: Gola/Heckmann, DSGVO, Art. 22 DSGVO N 21. ↵

Lewinski, in: Brink/Wolff, BeckOK Datenschutzrecht, Art. 22 DSGVO N 28. ↵

Martini, in: Paal/Pauly, DS-GVO, Art. 22 DSGVO N 26; mit Verweis auf Lewinski, in: Brink/Wolff, BeckOK Datenschutzrecht, Art. 22 DSGVO N 28. ↵

Siehe dazu vorne VIII.4.2; Botschaft DSG 2017, 7056. ↵

Botschaft DSG 2017, 7057; siehe auch BJ, Erläuterungen Vorentwurf, 59. ↵

Botschaft DSG 2017, 7057. ↵

Botschaft DSG 2017, 7057; siehe dazu vorne X.3.2.a)iii. ↵

A.A. Rosenthal, E-DSG, N 102; Toren, N 20. ↵

Siehe dazu vorne VIII.4.4. ↵

So zur Frage, ob auch positive rechtliche Wirkungen von den ADM-Regelungen erfasst werden Schulz, in: Gola/Heckmann, DSGVO, Art. 22 DSGVO N 21; zur Frage, ob im DSG positive Rechtsfolgen erfasst werden, siehe jedoch sogleich: X.3.2.d)i(3). ↵

Brecht/Steinbrück/Wagner, M., 13; Buchner, in: Kühling/Buchner, DS-GVO, Art. 22 DSGVO N 25; Lewinski, in: Brink/Wolff, BeckOK Datenschutzrecht, Art. 22 DSGVO N 33; Schulz, in: Gola/Heckmann, DSGVO, Art. 22 DSGVO N 21, m.w.N.; Taeger, in: Taeger/Gabel, DSGVO, Art. 22 DSGVO N 50; ähnlich Kamlah, in: Plath, DSGVO, Art. 22 DSGVO N 7e; Mendoza/Bygrave, 89. ↵

Schulz, in: Gola/Heckmann, DSGVO, Art. 22 DSGVO N 21; Veil, in: Gierschmann et al., DSGVO, Art. 22 DSGVO 71; siehe auch Herbst, in: Auernhammer, DSGVO, Art. 22 DSGVO N 14. ↵

Schulz, in: Gola/Heckmann, DSGVO, Art. 22 DSGVO N 21. ↵

Helfrich, in: Sydow/Marsch, DSGVO, Art. 22 DSGVO N 48; Martini, in: Paal/Pauly, DS-GVO, Art. 22 DSGVO N 26. ↵

Weichert, in: Däubler et al., Kompaktkommentar DSGVO, Art. 22 DSGVO N 27. ↵

Weichert, in: Däubler et al., Kompaktkommentar DSGVO, Art. 22 DSGVO N 27. ↵

Zur Frage, ob eine erhebliche Beeinträchtigung zwingend mit einer negativen Folge für die betroffene Person einhergehen muss, siehe hinten X.3.2.d)ii(1). ↵

Botschaft DSG 2017, 7057. ↵

Botschaft DSG 2017, 7058. ↵

Dudenredaktion, 187. ↵

Dudenredaktion, 187. ↵

Dudenredaktion, 352. ↵

Lewinski, in: Brink/Wolff, BeckOK Datenschutzrecht, Art. 22 DSGVO N 26; siehe auch Veil, in: Gierschmann et al., DSGVO, Art. 22 DSGVO N 63. ↵

BJ, Erläuterungen Vorentwurf, 59. ↵

Botschaft DSG 2017, 7057. ↵

Botschaft DSG 2017 (fr), 6674. ↵

Botschaft DSG 2017 (it), 6045. ↵

Botschaft DSG 2017, 7057; Botschaft DSG 2017 (fr), 6674; Botschaft DSG 2017 (it), 6045. ↵

Siehe dazu vorne X.3.2.d)i(3). ↵

Zu diesem Unterschied siehe vorne VI.3.3.a); X.3.2.d)i(2) sowie nachfolgend X.3.2.d)ii(2). ↵

Helfrich, in: Sydow/Marsch, DSGVO, Art. 22 DSGVO N 51; Scholz, in: Simitis/Hornung/Spiecker genannt Döhmann, Datenschutzrecht, Art. 22 DSGVO N 35; Weichert, in: Däubler et al., Kompaktkommentar DSGVO, Art. 22 DSGVO N 29; a.A. Martini, in: Paal/Pauly, DS-GVO, Art. 22 DSGVO N 28, welcher zu einem gewissen Masse auch vorteilhafte Auswirkungen als relevant ansieht. ↵

Siehe dazu jedoch hinten X.3.4.a). ↵

Botschaft DSG 2017, 7057; Lewinski, in: Brink/Wolff, BeckOK Datenschutzrecht, Art. 22 DSGVO N 40; siehe auch Helfrich, in: Sydow/Marsch, DSGVO, Art. 22 DSGVO N 52; Martini, in: Paal/Pauly, DS-GVO, Art. 22 DSGVO N 27; Scholz, in: Simitis/Hornung/Spiecker genannt Döhmann, Datenschutzrecht, Art. 22 DSGVO N 35. ↵

Artikel-29-Datenschutzgruppe, 23. ↵

Artikel-29-Datenschutzgruppe, 24; siehe auch Botschaft DSG 2017, 7057–7058; Erwägungsgrund 71 DSGVO. ↵

Weichert, in: Däubler et al., Kompaktkommentar DSGVO, Art. 22 DSGVO N 29. ↵

Botschaft DSG 2017, 7057. ↵

Schulz, in: Gola/Heckmann, DSGVO, Art. 22 DSGVO N 25. ↵

Scholz, in: Simitis/Hornung/Spiecker genannt Döhmann, Datenschutzrecht, Art. 22 DSGVO N 35. ↵

Artikel-29-Datenschutzgruppe, 23; siehe auch Helfrich, in: Sydow/Marsch, DSGVO, Art. 22 DSGVO N 51. ↵

Siehe dazu vorne VI.3.3. ↵

Ähnlich Kamlah, in: Plath, DSGVO, Art. 22 DSGVO N 7e. ↵

Lewinski, in: Brink/Wolff, BeckOK Datenschutzrecht, Art. 22 DSGVO N 37; Taeger, in: Taeger/Gabel, DSGVO, Art. 22 DSGVO N 46. ↵

Martini, in: Paal/Pauly, DS-GVO, Art. 22 DSGVO N 27. ↵

Art. 1 DSG. ↵

Artikel-29-Datenschutzgruppe, 23; Taeger, in: Taeger/Gabel, DSGVO, Art. 22 DSGVO N 47. ↵

Siehe dazu vorne X.3.2.d)i(2). ↵

Siehe dazu vorne X.3.2.d)i(3); X.3.2.d)ii(1). ↵

Siehe dazu vorne X.3.2.d)i(2). ↵

Siehe dazu Botschaft DSG 2017, 7057. ↵

Lewinski, in: Brink/Wolff, BeckOK Datenschutzrecht, Art. 22 DSGVO N 26; siehe auch Veil, in: Gierschmann et al., DSGVO, Art. 22 DSGVO N 63. ↵

Botschaft DSG 2017, 7057–7058; Herbst, in: Auernhammer, DSGVO, Art. 22 DSGVO N 17; Lewinski, in: Brink/Wolff, BeckOK Datenschutzrecht, Art. 22 DSGVO N 37; Schulz, in: Gola/Heckmann, DSGVO, Art. 22 DSGVO N 26; Taeger, in: Taeger/Gabel, DSGVO, Art. 22 DSGVO 44; siehe auch Erwägungsgrund 71 DSGVO. ↵

Siehe dazu vorne X.3.2.d)ii(2). ↵

Lewinski, in: Brink/Wolff, BeckOK Datenschutzrecht, Art. 22 DSGVO N 39a; Schulz, in: Gola/Heckmann, DSGVO, Art. 22 DSGVO N 24; Taeger, in: Taeger/Gabel, DSGVO, Art. 22 DSGVO N 47, m.w.N.; Voigt/Bussche, 242, m.w.N. ↵

Kamlah, in: Plath, DSGVO, Art. 22 DSGVO N 7b; Martini, in: Paal/Pauly, DS-GVO, Art. 22 DSGVO N 27; Taeger, in: Taeger/Gabel, DSGVO, Art. 22 DSGVO N 47; Voigt/Bussche, 242. ↵

Artikel-29-Datenschutzgruppe, 23; Herbst, in: Auernhammer, DSGVO, Art. 22 DSGVO N 17; Martini, in: Paal/Pauly, DS-GVO, Art. 22 DSGVO N 27; Scholz, in: Simitis/Hornung/Spiecker genannt Döhmann, Datenschutzrecht, Art. 22 DSGVO N 35; Schulz, in: Gola/Heckmann, DSGVO, Art. 22 DSGVO N 23. ↵

Arnet, N 356; Biaggini, in: OFK BV, Art. 8 BV N 8, 18; Hausammann, 18; Waldmann, in: BSK BV, Art. 8 BV N 20, 55; siehe auch Naguib, 1006. ↵

Art. 8 Abs. 3 BV i.V.m. Art. 3 GlG. ↵

Hausammann, 18; siehe auch Biaggini, in: OFK BV, Art. 8 BV N 8; Gauch et al., N 680–680a. ↵

Hausammann, 19–21; siehe bspw. Art. 328 und Art. 336 OR. ↵

Art. 10 und 13 BV. ↵

Art. 27 BV; Art. 19 OR. ↵

Zum Ganzen Hausammann, 18; siehe auch Naguib, 1005, m.w.N. ↵

Naguib, 1005; mit Verweis auf Klett, 162; Waldmann, 68. ↵

Arnet, N 356; Gauch et al., N 1111; Hausammann, 18; Naguib, 1006, m.w.N.; siehe auch Göksu, N 214. ↵

Arnet, N 357; Gauch et al., N 1111a; siehe auch Klett, 176; Göksu, N 198–205. ↵

Hausammann, 18. ↵

Hausammann, 18. ↵

Klett, 176. ↵

Bucher, N 433. ↵

Art. 1 DSG. ↵

Zur Frage, ob aus dem datenschutzrechtlichen Grundsatz von Treu und Glauben ein gewisser Diskriminierungsschutz abgeleitet werden kann, siehe Thouvenin, 34–35. ↵

Zum Ganzen Schulz, in: Gola/Heckmann, DSGVO, Art. 22 DSGVO N 24; a.A. Kamlah, in: Plath, DSGVO, Art. 22 DSGVO N 7a. ↵

Siehe dazu vorne VI.3.3.b). ↵

Botschaft DSG 2017, 7057–7058. ↵

Zur Datenrichtigkeit siehe Rosenthal, revDSG, N 37; ausführlich zum aDSG Epiney, § 9 N 45–49. ↵

Siehe dazu Buchner, in: Kühling/Buchner, DS-GVO, Art. 22 DSGVO N 26, m.w.N.; Lewinski, in: Brink/Wolff, BeckOK Datenschutzrecht, Art. 22 DSGVO N 41, m.w.N.; Taeger, in: Taeger/Gabel, DSGVO, Art. 22 DSGVO N 49; ablehnend Martini, in: Paal/Pauly, DS-GVO, Art. 22 DSGVO N 27b; kritisch: Hladjk, in: Ehmann/Selmayr, DSGVO, Art. 22 DSGVO N 9; bejahend Scholz, in: Simitis/Hornung/Spiecker genannt Döhmann, Datenschutzrecht, Art. 22 DSGVO 26; Weichert, in: Däubler et al., Kompaktkommentar DSGVO, Art. 22 DSGVO N 31. ↵

Ablehnend Schulz, in: Gola/Heckmann, DSGVO, Art. 22 DSGVO N 25; bejahend: Weichert, in: Däubler et al., Kompaktkommentar DSGVO, Art. 22 DSGVO N 30. ↵

Scholz, in: Simitis/Hornung/Spiecker genannt Döhmann, Datenschutzrecht, Art. 22 DSGVO 37; Hladjk, in: Ehmann/Selmayr, DSGVO, Art. 22 DSGVO N 9. ↵

Artikel-29-Datenschutzgruppe, 24. ↵

Weichert, in: Däubler et al., Kompaktkommentar DSGVO, Art. 22 DSGVO N 31a; zur Frage, ob eine Entscheidungssituation vorliegt, siehe vorne X.3.2.a). ↵

Siehe dazu vorne X.3.2.a). ↵

Siehe dazu vorne X.3.2.b). ↵

Siehe dazu vorne X.3.2.c). ↵

Siehe dazu vorne X.3.2.d). ↵

Siehe dazu hinten X.3.3. ↵

Art. 21 Abs. 1 DSG. ↵

Ebenso bereits Thouvenin/Früh, 13. ↵

Siehe dazu Rosenthal, E-DSG, N 102; vorne X.3.2.a)iii bei Fn. 1612. ↵

Sortiert ein Spamfilter sämtliche E-Mails eines bestimmten Absenders als Spam aus, kann bspw. in Frage gestellt werden, ob dies noch ein Entscheid im Einzelfall ist, zumal diese «Entscheidung» verschiedene unterschiedliche Absender oder Empfänger und/oder unterschiedliche Mailinhalte umfassen kann. Zum Tatbestand der Einzelfallentscheidung siehe vorne X.3.2.c). ↵

Siehe dazu Rosenthal, revDSG, N 108; Rosenthal, E-DSG, N 102; vorne X.3.2.a)ii bei Fn. 1602–1603; X.3.2.a)iii bei Fn. 1614. ↵

Siehe dazu vorne X.3.2.d)ii(3). ↵

Zum Ganzen Botschaft DSG 2017, 7057. ↵

Siehe dazu vorne VIII.4.3. ↵

Siehe dazu vorne X.3.2.d)i(2); X.3.2.d)ii(2). ↵

Ähnlich, wenn auch in anderem Zusammenhang Martini, in: Paal/Pauly, DS-GVO, Art. 22 DSGVO N 27, welcher betreffend die erhebliche Beeinträchtigung von der Ausstrahlungswirkung auf die Persönlichkeitsrechte spricht. ↵

Rosenthal, revDSG, N 110. ↵

Rosenthal, revDSG, N 110. ↵

Siehe dazu vorne X.2.1.b). ↵

Botschaft DSG 2017, 7056. ↵

Zum Entscheidungsprozess siehe vorne II.3.2. ↵

Siehe dazu vorne II.6. ↵

Art. 5 lit. f DSG. ↵

Botschaft DSG 2017, 7022. ↵

BJ, Erläuterungen Vorentwurf, 20, 59. ↵

Roth, S., Profiling, 35; Rosenthal, revDSG, N 25; siehe auch Herbst, in: Kühling/Buchner, DS-GVO, Art. 4 Ziff. 2 DSGVO 2020 N 17. ↵

Heuberger, N 141. ↵

Lewinski, in: Brink/Wolff, BeckOK Datenschutzrecht, Art. 22 DSGVO N 22; dazu vorne X.3.3.b); siehe auch II.4.4.b). ↵

Siehe dazu vorne II.3.2. ↵

Lewinski, in: Brink/Wolff, BeckOK Datenschutzrecht, Art. 22 DSGVO N 22; siehe dazu auch vorne II.4.3; V.3. ↵

Botschaft DSG 2017, 7056. ↵

Zum Ganzen siehe vorne IV.4.2; siehe auch II.1.1. ↵

Martini, in: Paal/Pauly, DS-GVO, Art. 22 DSGVO N 19b; Martini, Blackbox, 173; Rechsteiner, N 5. ↵

Lewinski, in: Brink/Wolff, BeckOK Datenschutzrecht, Art. 22 DSGVO N 23.2; Martini, in: Paal/Pauly, DS-GVO, Art. 22 DSGVO N 19b. ↵

Siehe dazu vorne X.3.2.c). ↵

Rosenthal, E-DSG, N 102. ↵

Heuberger, N 193. ↵

Siehe dazu vorne V.3.2; siehe auch V.2.1. ↵

Lewinski, in: Brink/Wolff, BeckOK Datenschutzrecht, Art. 22 DSGVO N 23.2. ↵

Botschaft DSG 2017, 7056–7057; ebenso bereits BJ, Erläuterungen Vorentwurf, 59. ↵

Botschaft DSG 2017, 7057; ebenso bereits BJ, Erläuterungen Vorentwurf, 59. ↵

Kritisch Christen et al., 293, welche davon ausgehen, dass Art. 21 DSG nur Vorgänge erfasst, bei denen keinerlei menschliche Intervention erfolgt. ↵

Artikel-29-Datenschutzgruppe, 22 (e contrario); Buchner, in: Kühling/Buchner, DS-GVO, Art. 22 DSGVO N 15. ↵

Lewinski, in: Brink/Wolff, BeckOK Datenschutzrecht, Art. 22 DSGVO N 23. ↵

Buchner, in: Kühling/Buchner, DS-GVO, Art. 22 DSGVO N 15; Dreyer/Schulz, 19; Kühling et al., 62. ↵

Botschaft DSG 2017, 7057. ↵

Helfrich, in: Sydow/Marsch, DSGVO, Art. 22 DSGVO N 44; kritisch Toren, N 16, welche davon ausgeht, dass keine automatisierte Einzelentscheidung vorliegt sobald ein Mensch einen Computerentscheid «absegnet». ↵

Martini, in: Paal/Pauly, DS-GVO, Art. 22 DSGVO N 19; ähnlich auch Mendoza/Bygrave, 87. ↵

Artikel-29-Datenschutzgruppe, 22. ↵

Buchner, in: Kühling/Buchner, DS-GVO, Art. 22 DSGVO N 15; zur DSRL siehe Dammann/Simitis, Art. 15 N 3. ↵

Martini, Blackbox, 173; Taeger, in: Taeger/Gabel, DSGVO, Art. 22 DSGVO N 29; siehe auch Blarer et al., 37. ↵

Helfrich, in: Sydow/Marsch, DSGVO, Art. 22 DSGVO N 43; zur DSRL siehe Ehmann/Helfrich, Art. 15 DSRL N 16. ↵

Martini, in: Paal/Pauly, DS-GVO, Art. 22 DSGVO N 17a. ↵

Martini, in: Paal/Pauly, DS-GVO, Art. 22 DSGVO N 17. ↵

Helfrich, in: Sydow/Marsch, DSGVO, Art. 22 DSGVO N 42. ↵

Lewinski, in: Brink/Wolff, BeckOK Datenschutzrecht, Art. 22 DSGVO N 23. ↵

Artikel-29-Datenschutzgruppe, 22; Blarer et al., 37; Buchner, in: Kühling/Buchner, DS-GVO, Art. 22 DSGVO N 15; Dreyer/Schulz, 19; Helfrich, in: Sydow/Marsch, DSGVO, Art. 22 DSGVO N 43; Lewinski, in: Brink/Wolff, BeckOK Datenschutzrecht, Art. 22 DSGVO N 24; Kamlah, in: Plath, DSGVO, Art. 22 DSGVO N 1b; Martini, in: Paal/Pauly, DS-GVO, Art. 22 DSGVO N 17–18; Rosenthal, E-DSG, N 102; Scholz, in: Simitis/Hornung/Spiecker genannt Döhmann, Datenschutzrecht, Art. 22 DSGVO N 27; Vasella, 196. ↵

Schulz, in: Gola/Heckmann, DSGVO, Art. 22 DSGVO N 13. ↵

Siehe zum Ganzen vorne II.3.2. ↵

Siehe dazu vorne X.3.3.c)iii(1). ↵

Siehe dazu vorne II.3.2. ↵

In diesem Sinne auch Rechsteiner, N 6. ↵

Siehe dazu vorne VII.2.2.a). ↵

Siehe dazu vorne VII.4.2.c). ↵

Siehe dazu vorne VII.2.2.b). ↵

Siehe dazu vorne X.3.1 sowie die Nachweise in Fn. 1580. ↵

Stengel/Stäuble, N 20. ↵

AB NR 2019 1742. ↵

Botschaft DSG 2017, 7021. ↵

Siehe dazu AB SR 2019 1240–1241. ↵

Votum SR Fässler, AB SR 2019 1240–1241; siehe auch Rosenthal, revDSG, N 27. ↵

Votum SR Fässler, AB SR 2019 1240–1241. ↵

Reudt-Demont/Gordon/Egli, 268; Rosenthal, revDSG, N 27; Roth, S., Profiling, 36; siehe auch Voten BR Keller-Suter, AB SR 2020 991; und AB NR 2020 1599; Voten NR Wermuth und NR Gredig, AB NR 2020 1596, 1598. ↵

Siehe dazu ausführlich Bühlmann/Schüepp, N 49–129; Roth, S., Profiling, 34–36. ↵

Art. 2 Abs. 1 DSG; Roth, S., Profiling, 34. ↵

Zum sachlichen Geltungsbereich siehe vorne X.2.1. ↵

Siehe zum Ganzen vorne X.3.3.b) sowie die Nachweise in Fn. 1762–1766; siehe auch II.4.1. ↵

Botschaft DSG 2017, 7022. ↵

Rosenthal, revDSG, N 24. ↵

Stengel/Stäuble, N 9. ↵

Zum Ganzen Artikel-29-Datenschutzgruppe, 7. ↵

In diesem Sinne bereits Vasella, 197, zu Art. 4 lit. f E-DSG 2017. ↵

Roth, S., Profiling, 35. ↵

Zum Ganzen Rosenthal, revDSG, N 24. ↵

Zum Ganzen Roth, S., Profiling, 35; mit Verweis auf Artikel-29-Datenschutzgruppe, 7; COE, CM/Rec(2010)13; ähnlich auch Heuberger, N 145–146; ausführlich zum Erfordernis einer Bewertung siehe Bühlmann/Schüepp, N 83–115. ↵

Rosenthal, revDSG, N 24; siehe auch Stengel/Stäuble, N 10, 29. ↵

Botschaft DSG 2017, 7021. ↵

Botschaft DSG 2017, 7021; Heuberger, N 56. ↵

Botschaft DSG 2017, 7022. ↵

Ebenso bereits Heuberger, N 140. ↵

Rosenthal, revDSG, N 24. ↵

Siehe dazu Toren, N 11; sowie für die DSGVO Buchner, in: Kühling/Buchner, DS-GVO, Art. 22 DSGVO N 11; Henseler, 303; Kamlah, in: Plath, DSGVO, Art. 22 DSGVO N 1; Lewinski, in: Brink/Wolff, BeckOK Datenschutzrecht, Art. 22 DSGVO N 3; Stengel/Stäuble, N 36; Vasella, 195; siehe auch vorne VI.3.3. ↵

Siehe dazu vorne X.3.3.d)ii. ↵

Siehe dazu vorne X.3.3.c). ↵

Siehe dazu vorne X.3.3.c)iii. ↵

Botschaft DSG 2017, 7056–7057. ↵

Siehe dazu vorne VII.4.2.e). ↵

Siehe dazu AB SR 2019, 1244; SPK-N, Sitzungsprotokoll vom 31.01.2019 und 01.02.2019, 39; SPK-S, Sitzungsprotokoll vom 18./19.11.2019, 56; vorne VII.4.2.e)v. ↵

BJ, Erläuterungen Vorentwurf, 59. ↵

Siehe dazu vorne II.3.2. ↵

Botschaft DSG 2017, 7056. ↵

Botschaft DSG 2017 (fr), 6674; Botschaft DSG 2017 (it), 6045. ↵

Botschaft DSG 2017 (fr), 6674. ↵

Siehe dazu vorne II.3.2. ↵

Toren, N 11; siehe auch Artikel-29-Datenschutzgruppe, 8. ↵

Stengel/Stäuble, N 36. ↵

Votum BR Keller-Suter, AB SR 2019 1241. ↵

Siehe dazu ausführlich Roth, S., Profiling, 36–38; siehe auch Bühlmann/Schüepp, N 27–48. ↵

Siehe dazu vorne X.3.3.b). ↵

Siehe dazu vorne X.3.3.d). ↵

Siehe dazu vorne X.3.3.c)ii. ↵

Siehe dazu vorne X.3.3.c)iii. ↵

Siehe dazu vorne III.1.1; III.2.3; IV.3.2. ↵

Siehe dazu vorne II.3.4; III.1.1. ↵

Thouvenin/Früh, 13. ↵

Botschaft DSG 2017, 7057. ↵

Helfrich, in: Sydow/Marsch, DSGVO, Art. 22 DSGVO N 52; Herbst, in: Auernhammer, DSGVO, Art. 22 DSGVO N 17; Lewinski, in: Brink/Wolff, BeckOK Datenschutzrecht, Art. 22 DSGVO N 40; Martini, in: Paal/Pauly, DS-GVO, Art. 22 DSGVO N 27. ↵

Lewinski, in: Brink/Wolff, BeckOK Datenschutzrecht, Art. 22 DSGVO N 38; Scholz, in: Simitis/Hornung/Spiecker genannt Döhmann, Datenschutzrecht, Art. 22 DSGVO N 35; Veil, in: Gierschmann et al., DSGVO, Art. 22 DSGVO N 66; Zahariev, 76. ↵

Veil, in: Gierschmann et al., DSGVO, Art. 22 DSGVO N 66; Zahariev, 76. ↵

Veil, in: Gierschmann et al., DSGVO, Art. 22 DSGVO N 66. ↵

Botschaft DSG 2017, 7058. ↵

Buchner, in: Kühling/Buchner, DS-GVO, Art. 22 DSGVO N 15; Kühling et al., 62; Martini, in: Paal/Pauly, DS-GVO, Art. 22 DSGVO N 19; Martini, Blackbox, 173; Rosenthal, E-DSG, N 102; Scholz, in: Simitis/Hornung/Spiecker genannt Döhmann, Datenschutzrecht, Art. 22 DSGVO N 27; Toren, N 16. ↵

Siehe dazu vorne X.3.3.c)iii. ↵

Siehe dazu vorne IV.4; V.1.2. ↵

Siehe dazu vorne IV.4.2 sowie den Nachweis in Fn. 785. ↵

Siehe dazu vorne IV.4.1 bei Fn. 725 und 746. ↵

Art. 5 lit. j DSG; siehe dazu vorne X.2.1.d); siehe auch Bieri/Powell, Totalrevision, N 14; Rosenthal, revDSG, N 13. ↵

Art. 9 DSG. ↵

Rosenthal, revDSG, N 13. ↵

Art. 58 Abs. 1 lit. a i.V.m. Art. 59 Abs. 1 lit. e DSG. ↵

Siehe dazu vorne X.2. ↵

Siehe zum Ganzen vorne X.3.2. ↵

Siehe dazu vorne X.3.3. ↵

Siehe dazu vorne X.3.2.a)ii; X.3.2.a)iii; X.3.2.e). ↵

Siehe dazu vorne X.3.4.c). ↵

Siehe dazu vorne X.3.2.d). ↵

Siehe dazu vorne X.3.4.d). ↵

Siehe dazu vorne X.3.4.b). ↵

11

Beantwortung der Forschungsfragen

Abschliessend gilt es, die eingangs gestellten Vorfragen und anschliessend die beiden Forschungsfragen zu beantworten.

Was ist eine automatisierte Entscheidung?

Eine Entscheidung gilt als «automatisiert», wenn eine vom Menschen entwickelte Maschine eine bestimmte Anzahl oder sämtliche Aktivitäten des Entscheidungsprozesses, d.h. der Wahl zwischen verschiedenen Möglichkeiten, übernimmt. Aufgrund der Notwendigkeit der Informationsverarbeitung zur Entscheidungsfällung geht es bei der Automatisierung von Entscheidungen vorwiegend um die Übertragung der kognitiven Entscheidungsaufgaben an Algorithmen zur Datenaus- und -bewertung. Bei automatisierten Entscheidungen geht es damit im Kern um den Einsatz von Algorithmen, welche die notwendige menschliche Informationsverarbeitung und -bewertung im Verlaufe des Entscheidungsprozesses ganz oder teilweise ersetzen.[1]

Um eine automatisierte Entscheidung zu identifizieren, müssen die folgenden zwei Fragen mit ja beantwortet werden:

Liegt eine Entscheidungssituation, d.h. eine notwendige Wahl zwischen verschiedenen Möglichkeiten, vor?

Wird ein Teil oder der ganze Entscheidungsprozess an einen Algorithmus übertragen?

Automatisiert werden können (theoretisch) sämtliche Schritte des Entscheidungsprozesses, von der Problemformulierung über den Entschluss bis hin zur Kontrolle, oder auch nur einzelne Schritte, wie die Informationsbeschaffung, Alternativensuche und -bewertung oder die Realisierung einer Entscheidung. Je nachdem, welche Teile des Entscheidungsprozesses an einen Algorithmus übertragen werden, handelt es sich um eine voll- oder teilautomatisierte Entscheidung. Im Zusammenhang mit automatisierten Entscheidungen erfolgt jedoch regelmässig auch eine Unterscheidung zwischen automatisierten Entscheidungen (ADM) oder Entscheidungsunterstützungssystemen (DSS). Bei Letzteren ist ein grösseres menschliches Eingreifen nötig als bei Ersteren.[2] Die Tatsache allein, dass eine Entscheidung als (teil‑)automatisiert eingestuft wird, lässt keine Rückschlüsse darauf zu, welche Teile des Entscheidungsprozesses von einem Algorithmus übernommen werden. Dies lässt sich jeweils nur im Einzelfall mittels Analyse der konkreten Entscheidungssituation und des mit der Entscheidung verfolgten Ziels eruieren.[3]

Welches sind die Entscheidungsgrundlagen automatisierter Systeme?

Unabhängig davon, ob ein Mensch oder einen Algorithmus eine Entscheidung fällt, bilden Daten und daraus gewonnene Informationen jeweils die zentrale Grundlage einer Entscheidung. Die Daten zum zu lösenden Entscheidungsproblem dienen dazu, das mögliche Lösungsfeld aufzuspannen, ein Verständnis für die Fragestellung zu schaffen und zu eruieren, welche Entscheidungsalternativen zur Verfügung stehen. Je mehr Informationen dem Entscheidungsträger zur Verfügung stehen, desto besser kann er eine Vorhersage über die zukünftige Entwicklung der identifizierten Entscheidungsalternativen machen und die mit der Entscheidung einhergehende Unsicherheit vermindern. Eine gute Daten- und Informationsbasis ist entsprechend die Grundlage für qualitativ gute menschliche oder automatisierte Entscheidungen.[4]

Aufgrund der Tatsache, dass bei der Automatisierung von Entscheidungen die Möglichkeit, Daten auszuwerten und neue Erkenntnisse sowie Vorhersagen aus ihnen zu gewinnen, eine zentrale Rolle spielt, bilden insbesondere Algorithmen des maschinellen Lernens und mit ihnen Systeme mit sogenannter künstlicher Intelligenz eine wichtige Grundlage moderner ADM-Systeme.[5] Welche Algorithmen konkret zur Anwendung kommen, um ein Entscheidungsproblem zu lösen, hängt von verschiedenen Faktoren wie der Art des Problems oder der vorhandenen Daten ab und lässt sich nicht generell beantworten.[6]

Bilden Algorithmen des maschinellen Lernens die Grundlage von ADM-Systemen, spielen Daten nicht nur für die Entscheidungsfällung bei der produktiven Anwendung des Systems, sondern auch für die Entwicklung des Systems eine wichtige Rolle. Dies insbesondere bei auf überwachtem oder unüberwachtem Lernen basierenden Systemen, welche mithilfe von Trainingsdaten selbstständig lernen. Dieses Lernen beruht auf Verallgemeinerungen, welche es dem Algorithmus ermöglichen Muster zu erkennen, Vorhersagen zu erstellen und sein «Wissen» auf neue Daten anzuwenden. Damit handelt es sich bei den Trainingsdaten und Feedbackregeln um einen Teil der den automatisierten Entscheidungen zugrundeliegenden Informationen, welche zur Identifizierung und Bewertung der Entscheidungsmöglichkeiten genutzt werden. Diese Informationen müssen dem Algorithmus bereits während dessen Lernen bereitstehen, da er ansonsten selber keine eigenständigen Lösungswege lernen kann.[7]

Die Abhängigkeit von Daten hat zur Folge, dass die Entscheidungsergebnisse von auf maschinellem Lernen basierenden ADM-Systemen wesentlich durch die in den Daten vorhandenen Informationen geprägt werden. Sind diese Informationen falsch, unvollständig oder veraltet oder finden sich in den Daten (bis anhin unerkannte) Vorurteile, hat dies Einfluss auf die Ergebnisse des Algorithmus.[8]

Auch wenn eine Entscheidung als automatisiert im oben genannten Sinn angesehen wird, bedeutet dies nicht, dass der Mensch an den Entscheidungsgrundlagen nicht mehr beteiligt ist. Die wichtigste Grundlage eines ADM-Systems bildet nebst den Daten, dem Algorithmus und dem ausgewählten Modell[9] immer noch der Mensch. Dieser bestimmt von der Zielsetzung des Systems über die Auswahl und Aufbereitung des Algorithmus sowie der Trainingsdaten bis hin zur Wahl des Modells und der einzelnen Parametereinstellungen eines Systems sowie der Entscheidung über die Produktivsetzung des Systems die wesentlichen Grundlagen und Rahmenbedingungen dieses Systems. Die grundlegenden Weichenstellungen einer spezifischen automatisierten Entscheidung erfolgen deshalb nicht erst bei der Dateneingabe im produktiven System, sondern werden bereits im Rahmen der Entwicklung des ausführenden ADM-Systems gefällt.[10] Nur weil eine Entscheidung als automatisiert eingestuft wird, heisst dies somit nicht zwingend, dass die Maschine autonom und ohne menschliche Kontrolle entscheidet.[11]

Welche Unterschiede und Gemeinsamkeiten bestehen zwischen der automatisierten und der menschlichen Entscheidungsfällung?

Algorithmen zur Entscheidungsunterstützung oder -fällung durchlaufen nicht denselben Entscheidungsprozess wie der Mensch. Im Gegensatz zum Menschen weiss ein Algorithmus nicht intuitiv, was eine Entscheidung ist, sondern ein System zur automatisierten Entscheidungsfällung muss initial entwickelt und mit der Entscheidungsaufgabe betreut werden. Der Algorithmus übernimmt anschliessend nur jeweils denjenigen Teil des Entscheidungsprozesses, der ihm übertragen wurde. Damit wird der Entscheidungsgegenstand eines ADM-Systems bereits im Verlaufe der Systementwicklung, und vor einer tatsächlichen Entscheidungsfällung im Einzelfall, festgeschrieben und vom Menschen definiert.[12]

Sowohl bei menschlichen als auch bei automatisierten Entscheidungen ist eine Vorhersage zu erstellen, welche der identifizierten Entscheidungsmöglichkeiten sich am besten zur Erreichung des angestrebten Ziels eignet.[13] Dafür sind die verschiedenen Entscheidungsmöglichkeiten zu identifizieren und zu bewerten. Die Wahl für oder gegen eine Alternative im Rahmen des tatsächlichen Entschlusses fällt anschliessend in der Regel (zumindest bei rationalem Handeln) auf die am besten bewertete Möglichkeit. Damit ist der tatsächliche Entschluss die logische Folge der vorangehenden Bewertung (= Willensbildung).[14] Eine automatisierte und eine menschliche Entscheidung unterscheiden sich dahingehend, dass bei Ersterer der Entschluss und/oder dessen vorangehende Entscheidungsschritte zum Teil oder gänzlich durch einen Algorithmus übernommen werden. Die grundsätzlichen Weichenstellungen erfolgen deshalb bereits im Rahmen der Modellentwicklung, indem sie durch den Menschen vorgegeben und/oder durch das ADM-System selbstständig gelernt wurden.

Mit Blick auf den Einsatz von auf maschinellem Lernen basierenden ADM-Systemen bedeutet das Abstützen auf Daten, dass deren zugrundeliegender Algorithmus, ähnlich wie der Mensch, für seine Entscheidungen oder Entscheidungsvorschläge auf die in den Daten enthaltenen Erfahrungswerte zurückgreift.[15] Diese Erfahrungswerte generiert das System während des Lernens, d.h. des Trainings, oder auch später, bspw. wenn dem produktiven System im Nachgang einer Überprüfung neue Datensätze eingespeist werden. Je nachdem, ob es sich um ein Online- oder ein Offline-Lernsystem handelt, werden diese Erfahrungswerte einmal gelernt und anschliessend immer gleich angewendet (offline) oder das System aktualisiert seine Erfahrungswerte mit jeder neuen Dateneingabe (online).[16] Der (innere) menschliche Entscheidungsvorgang ist hingegen nicht so klar strukturiert. Auch der Mensch wendet bei der Entscheidungsfällung gewisse Regeln an, dies kann jedoch auch intuitiv und unbewusst geschehen.[17]

Währenddem die Kapazitäten eines Menschen zur Datenverarbeitung begrenzt sind, kann mit den heutigen Methoden des maschinellen Lernens eine schier unbegrenzte Anzahl an strukturierten und/oder unstrukturierten Daten verarbeitet werden.[18] Das Abstützen von ADM-Systemen auf eine viel grösser Datenbasis, als der Mensch in der Regel für seine Entscheidungen heranziehen kann, führt jedoch dazu, dass mit automatisierten Entscheidungen viel mehr Befürchtungen hinsichtlich des Schutzes der Privatsphäre Einzelner verbunden sind, als dies bei menschlichen Entscheidungen der Fall ist.[19]

Sowohl der Mensch als auch ein ADM-System kann sich bei einer Entscheidung oder bei deren Vorbereitung auf falsche oder veraltete Daten abstützen und so zu verzerrten oder diskriminierenden Ergebnissen kommen. Es lässt sich deshalb nicht pauschal eine Aussage über die Qualität der unterschiedlichen Arten, Entscheidungen zu fällen, machen, sondern diese hängt von den Umständen im Einzelfall ab. Die Qualität von Entscheidungen steigert sich nicht notwendigerweise, wenn anstatt eines Algorithmus ein Mensch entscheidet, zumal auch menschliche Entscheidungen gewissen Grenzen unterliegen. Aufgrund der viel grösseren Anzahl von Entscheidungen, die ein automatisiertes System in kurzer Zeit treffen kann, ist deren Gefährdungspotenzial jedoch insofern höher, als dass auch eine geringe Fehlerquote bei vielen Fällen absolut zu mehr Fehlern oder Diskriminierungen führt und die Gefahr einer rückkoppelnden Verstärkung grösser ist als bei (wenigen) menschlichen Entscheidungen.[20]

Hinsichtlich Transparenz unterscheiden sich menschliche und automatisierte Entscheidungen auf den ersten Blick sehr. Letzteren wird regelmässig vorgeworfen, nicht (genügend) transparent zu sein. Dabei darf nicht ausser Acht gelassen werden, dass auch menschliche Entscheidungen nicht notwendigerweise transparent sind. Währenddem es inzwischen diverse (technische) Ansätze gibt, die Entscheidungen von ADM-Systemen nachvollziehbarer zu machen, lassen sich die inneren Einstellungen von Menschen nur schwer überprüfen. Deshalb kann auch bei menschlichen Entscheidungen nicht davon ausgegangen werden, dass die individuellen Beweggründe ohne weiteres transparent gemacht werden (können). Damit kann auch nicht pauschal gesagt werden, menschliche Entscheidungen seien transparenter als automatisierte, vielmehr kommt es auch diesbezüglich wesentlich auf die konkreten Umstände des Einzelfalls an.[21]

Aus ethischer Perspektive fällt auf, dass automatisierten Entscheidungen bzw. den diese fällenden Systemen nicht dasselbe Reflexionsvermögen wie einem Menschen zugeschrieben wird. Vielmehr herrscht die Meinung vor, dass ADM-Systemen die Abwägung von Ethik und Moral, wie dies bspw. bei ethischen Dilemmata der Fall ist, nicht übertragen werden kann, sondern diese weiterhin vom Menschen vorzunehmen ist. Ebenso wird die Entscheidungsfällung durch einen Algorithmus anstatt durch einen Menschen teilweise als nicht mit der Menschenwürde vereinbar eingestuft. Es wird gefordert, dass ein Einzelner nicht einer Maschine unterworfen werden dürfe.[22] Bei dieser Betrachtung darf jedoch nicht vergessen werden, dass auch beim Einsatz von Algorithmen die Kontrolle über die Entscheidungsprozesse aktuell immer noch bei den die ADM-Systeme einsetzenden Menschen liegt.[23]

Mit Blick auf das Vertrauen, welches in automatisierte oder menschliche Entscheidungen gesetzt wird, ist die Evidenz uneinheitlich. Es gibt Studien, welche zum Ergebnis kommen, dass softwarebasierte Prognosen als verlässlicher, objektiver und aussagekräftiger eingestuft werden als andere Informationen. Gleichzeitig gibt es jedoch auch Untersuchungen, welche darauf hindeuten, dass Menschen grundsätzlich einer menschlichen Entscheidung mehr vertrauen als einer automatisierten, auch wenn Letztere in Wahrheit objektiver oder besser ist. Damit hängt es wiederum vom Einzelfall ab, ob automatisierten oder menschlichen Entscheidungen mehr Vertrauen entgegengebracht wird.[24]

Woher stammt die datenschutzrechtliche Regulierung automatisierter Entscheidungen im DSG?

Ausschlaggebend für die Regelung automatisierter Entscheidungen im DSG war auf der einen Seite die Tatsache, dass der Schweizer Gesetzgeber die Voraussetzungen dafür schaffen wollte, dass die Schweiz die modernisierte Datenschutzkonvention SEV Nr. 108 , welche in Art. 9 lit. a und c Regelungen betreffend automatisierte Entscheidungen vorsieht, ratifizieren kann. Auf der anderen Seite sollte die schweizerische Datenschutzgesetzgebung an die EU-Gesetzgebung, welche automatisierte Entscheidungen in Art. 22 und teilweise in Art. 12–15 DSGVO regelt, angeglichen werden, um die Angemessenheitsentscheidung der EU nicht zu gefährden.[25]

Daneben war die Anpassung des aDSG an die technologische Entwicklung zwar ebenfalls eine Zielsetzung der Revision. Mit Blick auf automatisierte Entscheidungen erweckt der starke Fokus auf die europäischen Rahmenbedingungen in den Materialien jedoch den Eindruck, dass die Tatsache der Regulierung automatisierter Entscheidungen im totalrevidierten DSG insgesamt weniger einem Bedürfnis des Schweizer Gesetzgebers, als den diesbezüglichen Vorgaben des Europarates und der EU geschuldet ist.

Die historische Aufarbeitung zeigt, dass sich die aktuellen ADM-Vorgaben des Europarates und insbesondere der EU in ihren Grundzügen auf Art. 2 und 3 LIFL 1978 zurückführen lassen. Diese ursprünglich in Frankreich vorgesehenen datenschutzrechtlichen Regelungen automatisierter Entscheidungen wurden im Jahr 1995 in ihren Grundzügen in Art. 15 und Art. 12 lit. a DSRL übernommen, womit sie Eingang ins gesamteuropäische Datenschutzkonzept fanden. Diese Übernahme bildete den Grundstein für die später in die DSGVO, aber auch in die SEV Nr. 108 aufgenommenen ADM-Regelungen, welche wiederum ausschlaggebend für die Regelungen im DSG waren. Auch wenn sich der Schweizer Gesetzgeber zu Beginn der 1980er-Jahre ursprünglich dafür entschieden hatte, den im Hinblick auf automatisierte Entscheidungen von Frankreich und der EU vorgebrachten Befürchtungen mittels der allgemeinen datenschutzrechtlichen Regelungen oder der Regelung des Persönlichkeitsprofils und nicht mit Regelungen zur automatisierten Entscheidungsfällung zu begegnen, lassen sich die ADM-Regelungen im totalrevidierten DSG im Ergebnis in ihrem Kern trotzdem auf den französischen Regelungsansatz zurückführen. Dies obwohl sich der Regelungsumfang der heutigen Schweizer Regelung stark vom französischen Ansatz der 1970er-Jahre unterscheidet.[26]

Weshalb werden automatisierte Entscheidungen im Datenschutzrecht reguliert?

Die Einordnung der Regelungen automatisierter Entscheidungen im Datenschutzrecht ist auf ihre Ursprünge in Frankreich zurückzuführen. Damals waren automatisierte Entscheidungen eine Folge der neuen Datenverarbeitungsmöglichkeiten. Der französische Gesetzgeber äusserte sich nicht dazu, weshalb automatisierte Entscheidungen im Datenschutzrecht zu regeln sind. Die Entstehungsgeschichte zeigt jedoch auf, dass beim Erlass des LIFL 1978 auf der einen Seite die Regulierung der neuen Möglichkeiten zur automatisierten Datenverarbeitung, -speicherung und -auswertung im Fokus stand. Auf der anderen Seite knüpften die französischen ADM-Regelungen an das Abstützen auf ein automatisiert erstelltes Persönlichkeitsprofil zur Entscheidungsfällung sowie die Verwendung von aus automatisierten Datenbearbeitungen resultierenden Schlussfolgerungen an, welche für die betroffene Person möglicherweise nachteilig sind. Damit ging es dem französischen Gesetzgeber zu einem gewissen Mass um die Regelung eines damals neuen Datenverarbeitungsvorgangs, auch wenn dazu teilweise an das Ergebnis dieses Vorgangs, die Entscheidung, angeknüpft wurde.[27]

Im anschliessenden Gesetzgebungsprozess zur DSRL wurde ebenfalls nicht begründet, weshalb automatisierte Entscheidungen im Datenschutzrecht zu regulieren sind. Der Richtliniengeber hatte beim Erlass der DSRL den Fokus in gewisser Weise durchaus auch auf die einer automatisierten Entscheidung zugrundeliegende Datenbearbeitung gelegt. Trotzdem erwecken die Umstände der Aufnahme einer diesbezüglichen Regelung in die DSRL sowie die in den Materialien angeführten, sehr ähnlichen Befürchtungen, wie sie bereits in Frankreich mit Blick auf automatisierte Entscheidungen vorgebracht worden sind, den Eindruck, dass nicht nur der französische Regulierungsansatz, sondern (ungeprüft) gleich auch dessen Regelungsort übernommen worden ist.[28]

Auch heute noch basieren automatisierte Entscheidungen und ihre zugrundeliegenden Systeme zu einem grossen Teil auf der Bearbeitung von Daten, auch wenn es sich dabei nicht immer um Personendaten handeln muss.[29] Die in den letzten Jahren mit Blick auf automatisierte Entscheidungen geführte gesellschaftliche Debatte war und ist jedoch nicht ausschliesslich datenschutzrechtlicher Natur. Angesprochen werden auch verschiedene andere Themenbereiche, wie die Teilhabe, Diskriminierung und Fairness oder auch ethische Gesichtspunkte.[30] Ebenso stellen sich beim Einsatz automatisierter Systeme zur Entscheidungsfällung klarerweise nicht nur datenschutzrechtliche Fragen, sondern es sind viele verschiedene Rechtsgebiete betroffen, was in den letzten Jahren ebenfalls intensiv diskutiert worden ist.[31] Trotz dieser Ausgangslage fand in keinem der auf die LIFL 1978 und die DSRL folgenden Gesetzgebungsprozesse zur DSGVO und zur SEV Nr. 108 eine Auseinandersetzung mit der Frage statt, ob das Datenschutzrecht (weiterhin) der geeignete Regelungsort für die Vorgaben zur automatisierten Entscheidungsfällung ist.[32] Dies weckt den Eindruck, dass der Regelungsort nie überprüft wurde, sondern automatisierte Entscheidungen jeweils im Datenschutzrecht geregelt wurden, weil auch die Vorgängerbestimmungen bereits datenschutzrechtlicher Natur waren.

Währenddem bei den ADM-Regelungen der EU und auch des Europarates die Art und Weise, wie eine Entscheidung gefällt wird, noch mehr im Fokus stand, ist die Schweiz im Laufe des Gesetzgebungsprozesses immer mehr von dieser Ausgangslage abgerückt und hat der einer automatisierten Entscheidung zugrundeliegenden Datenbearbeitung und deren Transparenz mehr Gewicht verliehen.[33] Diese Ausgangslage kombiniert mit den Bestrebungen des Schweizer Gesetzgebers, dass automatisierte Entscheidungen nicht auf falschen oder veralteten Daten beruhen, lässt die Regelung automatisierter Entscheidungen im DSG zu einem gewissen Masse nachvollziehbarer erscheinen, als dies im europäischen Umfeld der Fall ist. Dies ändert jedoch nichts daran, dass auch in der Schweiz keine Auseinandersetzung mit der Frage des richtigen Regelungsortes stattgefunden hat und insgesamt der Eindruck besteht, dass automatisierte Entscheidungen auch in der Schweiz nur deshalb im DSG geregelt wurden, weil sich die Vorbildregelungen der EU und des Europarates im Datenschutzrecht finden.[34]

Wie unterscheidet sich der Schweizer Regulierungsansatz von demjenigen der EU?

Es gibt verschiedene Gemeinsamkeiten und Unterschiede zwischen den Ansätzen der EU und der Schweiz zur datenschutzrechtlichen Regulierung automatisierter Entscheidungen. Auch wenn sich die Umschreibungen der Tatbestandsmerkmale einer automatisierten Einzelentscheidung in Art. 21 Abs. 1 DSG und Art. 22 Abs. 1 DSGVO in einzelnen Punkten geringfügig unterscheiden, wird in der Schweiz und in der EU im Grundsatz der gleiche Vorgang geregelt.[35] Im Gegensatz zu Art. 22 Abs. 1 DSGVO verbietet das DSG automatisierte Entscheidungen jedoch nicht. Vielmehr sind diese in der Schweiz grundsätzlich zulässig, sofern die zugrundeliegende Datenbearbeitung die datenschutzrechtlichen Grundsätze einhält.[36]

Art. 21 Abs. 3 DSG und Art. 22 Abs. 2 lit. a und c DSGVO enthalten zwei Ausnahmetatbestände betreffend die Einwilligung der betroffenen Person in die automatisierte Entscheidungsfällung und betreffend das Vorliegend eines Vertragsverhältnisses. Diese Ausnahmen sind sich inhaltlich und in ihrer Terminologie sehr ähnlich, aber nicht deckungsgleich. Der grösste Unterschied zwischen den Ausnahmen findet sich dabei im Hinblick auf die Frage, wofür sie eine Rechtfertigung bieten. Art. 21 Abs. 3 DSG befreit die Verantwortlichen von der Informationspflicht nach Art. 21 Abs. 1 DSG und der Gewährung der Anhörungs- und Überprüfungsrechte gemäss Art. 21 Abs. 2 DSG. Bei den in Art. 22 Abs. 2 DSGVO angeführten Tatbeständen hingegen handelt es sich um Ausnahmen vom in Art. 22 Abs. 1 DSGVO enthaltenen Verbot automatisierter Entscheidungen. Das Vorliegen eines Ausnahmetatbestands ist direkte Voraussetzung für die Rechtmässigkeit einer automatisierten Entscheidung im Geltungsbereich der DSGVO. Im Gegensatz zum DSG enthält die DSGVO keine Ausnahmen von den Anhörungs- und Überprüfungsrechten der betroffenen Personen bei ausnahmsweise zulässigen automatisierten Entscheidungen. Vielmehr setzen die Ausnahmen nach Art. 22 Abs. 2 lit. a und c DSGVO voraus, dass der Verantwortliche entsprechende Massnahmen zum Schutz der betroffenen Personen trifft.[37]

Sowohl Art. 21 Abs. 2 DSG als auch Art. 22 Abs. 3 DSGVO sehen bei einer (ausnahmsweise zulässigen) automatisierten Einzelentscheidung besondere Schutzrechte, wie Anhörungs- und Überprüfungsrechte, für die betroffenen Personen vor. Das DSG enthält jedoch kein (unklares) Anfechtungs- oder Überprüfungsrecht automatisierter Entscheidungen, wie dies in Art. 22 Abs. 3 DSGVO angetönt wird.[38]

Sowohl die Schweiz[39] als auch die EU[40] sehen eine Informationspflicht bei der automatisierten Entscheidungsfällung vor. Die Informationspflichten gemäss DSGVO umfassen – im Gegensatz zu denjenigen im DSG – nebst der Information über die automatisierte Entscheidung auch «aussagekräftige Informationen über die involvierte Logik sowie die Tragweite und die angestrebten Auswirkungen einer derartigen Verarbeitung für die betroffene Person» und sind somit umfassender. Die Regelungsansätze der EU und der Schweiz unterscheiden sich mit Blick auf die Informationspflicht zudem hinsichtlich der Ausnahmetatbestände. Während sich die Ausnahmen von der Informationspflicht gemäss DSG nach den vorne genannten Tatbeständen (Vertragsabschluss oder Einwilligung) richten,[41] sieht die DSGVO mit Blick auf die Informationspflicht eine gänzlich andere Ausnahme vor: Keine Information über eine automatisierte Entscheidung hat zu erfolgen, wenn die betroffene Person bereits über die Information verfügt.[42] Des Weiteren fällt auf, dass die EU den Zeitpunkt der Information über die automatisierte Entscheidungsfällung, im Gegensatz zur Schweiz, in Art. 13 Abs. 2 und Art. 14 Abs. 3 DSGVO ausdrücklich geregelt hat.[43]

Der Schweizer und der EU-Regelungsansatz unterscheiden sich sodann mit Blick auf die Verarbeitung sensitiver oder besonders schützenswerter Daten sowie Daten von Kindern als Grundlage automatisierter Entscheidungen. Ersteres ist in Art. 22 Abs. 4 DSGVO ausdrücklich geregelt, während Erwägungsgrund 71 DSGVO zumindest Letzteres anspricht. Im Gegensatz dazu finden sich diesbezüglich im DSG keine ausdrücklichen Regelungen mit Blick auf die automatisierte Entscheidungsfällung, sondern es kommen die allgemeinen Vorgaben zur Bearbeitung besonders schützenswerter Personendaten zur Anwendung.[44]

Eine Gemeinsamkeit zwischen der Schweiz und der EU findet sich mit Blick auf das datenschutzrechtliche Auskunftsrecht der betroffenen Person. Sowohl im DSG als auch in der DSGVO ist vorgesehen, dass über automatisierte Entscheidungen Auskunft erteilt werden muss.[45] Der Umfang dieser Auskunftsrechte ist ähnlich, aber nicht deckungsgleich ausgestaltet. Gemeinsam ist den Bestimmungen, dass im Falle der automatisierten Entscheidungsfällung über die Entscheidungslogik Auskunft gegeben werden muss. Der Verantwortliche muss im Schweizer Recht jedoch, wie auch bei der Informationspflicht, nicht über die Tragweite und die angestrebten Auswirkungen der automatisierten Entscheidung Auskunft erteilen, wie dies in der EU der Fall ist.[46]

Insgesamt hat die Schweiz im Vergleich zur EU einen liberaleren Regelungsansatz gewählt. Automatisierte Entscheidungen sind nicht verboten, sondern grundsätzlich erlaubt und die damit einhergehenden Pflichten des Verantwortlichen und Rechte der betroffenen Personen sind regelmässig weniger weitgehend.

Forschungsfrage 1:
Welche Regelungsziele werden mit den im DSG vorgesehenen Bestimmungen zu automatisierten Einzelentscheidungen verfolgt?

Politisch Betrachtet ging es bei der Regulierung automatisierter Entscheidungen im DSG in erster Linie darum, die Voraussetzungen zu schaffen, dass die SEV Nr. 108 ratifiziert werden kann. Gleichzeitig strebte man an, die schweizerische Datenschutzgesetzgebung an die EU-Gesetzgebung anzugleichen, um die Angemessenheitsentscheidung der EU nicht zu gefährden.[47]

Inhaltlich sollen die Regelungen automatisierter Entscheidungen im DSG die Erhöhung der Transparenz der Datenbearbeitung, die Stärkung der Betroffenenrechte und zu einem gewissen Masse die Verbesserung der Nachvollziehbarkeit automatisierter Entscheidungen für die betroffenen Personen bezwecken.[48] Im Gegensatz bspw. zur EU wurde damit in der Schweiz der Fokus stärker auf originär datenschutzrechtliche Ziele gelegt, auch wenn sich diese viel mehr aus den allgemeinen Leitlinien der Revision und weniger aus den expliziten Ausführungen zu den neuen Regelungen ableiten lassen.[49]

Daneben scheint der Schweizer Gesetzgeber in automatisierten Entscheidungen ein besonderes Risikopotenzial für die betroffenen Personen zu sehen, vor welchen diese zu schützen sind. Anders als die ausgeprägte gesellschaftliche und rechtliche Debatte der letzten Jahre betreffend automatisierte Entscheidungen erwarten lässt, hat im Rahmen des Gesetzgebungsprozesses jedoch keine Auseinandersetzung mit der Frage, welche Risiken mit automatisierten Entscheidungen tatsächlich einhergehen, stattgefunden. Als mögliches Risiko für die betroffene Person wird in der Botschaft zum DSG einzig die Gefahr angeführt, dass falsche oder veraltete Daten in eine automatisierte Entscheidung einfliessen könnten.[50]

Entsprechend scheint der Gesetzgeber den Zweck der Informationspflicht über automatisierte Entscheidungen und der Gewährung der diesbezüglichen Auskunfts‑, Anhörungs- und Überprüfungspflichten zu einem gewissen Masse darin zu sehen, dass damit eine Richtigkeitskontrolle der einer automatisierten Entscheidung zugrundeliegenden Daten sichergestellt und die betroffene Person vor fehlerhaften und ungerechtfertigten Entscheidungen geschützt werden kann. Die Pflicht, die Datenrichtigkeit sicherzustellen, liegt gemäss Art. 6 Abs. 5 DSG jedoch klar beim Verantwortlichen. Dieser kann sich dieser Pflicht nicht durch den Verweis der betroffenen Personen auf die ADM-Regelungen des DSG entziehen. Der Anspruch der betroffenen Person auf Berichtigung oder Löschung falscher oder veralteter Daten ergibt sich zudem direkt aus Art. 32 DSG und nicht aus den ADM-Regelungen des DSG. Dass mit den im DSG vorgesehenen Rechten und Pflichten betreffend automatisierte Entscheidungen zu einem gewissen Mass eine Richtigkeitskontrolle der einer automatisierten Entscheidung zugrundeliegenden Daten einhergeht und damit Fehlentscheidungen vermieden werden, kann nach Ansicht der Autorin aufgrund des Gesagten deshalb bloss positiver Nebeneffekt, nicht jedoch das Regelungsziel der neuen ADM-Bestimmungen sein.[51]

Nach hier vertretener Meinung ging es dem Schweizer Gesetzgeber mit den neuen ADM-Regelungen nicht darum zu verhindern, dass eine von einer automatisierten Entscheidung betroffene Person zum blossen Objekt einer auf der Grundlage eines computergenerierten Profils erstellten Entscheidung wird. Der Gesetzgeber hat diesbezügliche Befürchtungen aus den Materialien gestrichen und sich mit der Einführung einer Informationspflicht sowie den Anhörungs- und Überprüfungsrechten für die Zulässigkeit und gegen ein allgemeines Verbot automatisierter Entscheidungen ausgesprochen. Ebenso hat der Gesetzgeber im Verlaufe des Gesetzgebungsverfahrens Abstand davon genommen, dass nur auf einem Profiling beruhende automatisierte Entscheidungen von den neuen Regelungen erfasst werden.[52]

Forschungsfrage 2:
Was ist eine automatisierte Einzelentscheidung im Sinne des DSG?

Bei einer automatisierten Einzelentscheidung im Sinne des DSG handelt es sich um eine automatisierte Entscheidung, d.h. eine automatisierte Auswahl zwischen verschiedenen Möglichkeiten im oben genannten Sinn, welche jedoch nebst den Kriterien der Automatisierung und der Entscheidungsfällung verschiedene zusätzliche Voraussetzungen und Merkmale erfüllen muss.

Eine automatisierte Einzelentscheidung im Sinne des DSG kann nur vorliegen, wenn sie auf einer Datenbearbeitung beruht, die vom sachlichen, persönlichen und räumlichen Geltungsbereich des DSG erfasst wird. Entsprechend muss eine in Frage stehende automatisierte Entscheidung auf einer Bearbeitung von Daten natürlicher Personen beruhen, welche von einer natürlichen oder juristischen Person (oder einem Bundesorgan) durchgeführt wird. Ebenso hat diese Datenbearbeitung in der Schweiz zu erfolgen oder sich in der Schweiz auszuwirken.[53]

Damit von einer automatisierten Einzelentscheidung im Sinne des DSG die Rede ist, muss eine Entscheidungssituation vorliegen, d.h., es ist aus verschiedenen Entscheidungsalternativen eine auszuwählen. Dabei ist nicht relevant, ob eine unbeschränkte oder limitierte Anzahl an Entscheidungsmöglichkeiten vorliegt, dem Verantwortlichen oder dem System Ermessen zukommt oder eine Entscheidung bloss umgesetzt wird. Relevant ist einzig, ob eine Situation vorliegt, in welcher mit Blick auf eine bestimmte Zielsetzung aus verschiedenen Alternativen eine auszuwählen, d.h. eine Entscheidung zu treffen ist, wobei von einem umfassenden Entscheidungsbegriff auszugehen ist.

Die Entscheidung muss durch eine natürliche Person (oder ein Bundesorgan) verantwortet werden[54] und einen Einzelfall betreffen. Dies bedeutet, dass die Auswahl aus verschiedenen Möglichkeiten einen individuell-konkreten Fall betreffen muss und nicht bloss generell-abstrakt, generell-konkret oder individuell-abstrakt sein darf.[55]

Darüber hinaus müssen die in Frage stehenden Entscheidungsalternativen mit einer rechtlichen Wirkung oder einer erheblichen Beeinträchtigung für die betroffene Person einhergehen. Damit eine automatisierte Entscheidung datenschutzrechtlich relevant ist, müssen ihre Folgen für die betroffene Person in beiden Fällen eine gewisse Erheblichkeitsschwelle überschreiten. Erfasst werden dabei sowohl positive als auch negative unmittelbare Rechtsfolgen sowie negative aber nicht positive erhebliche Beeinträchtigungen für die betroffene Person. Zur Bestimmung einer allfälligen Beeinträchtigung sind die Ausstrahlungswirkungen eines Handelns auf die Persönlichkeitsrechte der betroffenen Person zu eruieren und zu bewerten.[56]

Sodann darf es sich bei den einem ADM-System möglichen Entscheidungen nur um ausschliesslich automatisierte Entscheidungen handeln, damit eine automatisierte Einzelentscheidung im Sinne des DSG vorliegt. Dies bedeutet, dass sowohl die den möglichen Entscheidungen zugrundeliegende Datenbearbeitung als auch die Entscheidungsfällung an sich automatisiert zu erfolgen hat und eine allfällig notwendige oder geplante menschliche Beteiligung nicht so intensiv sein darf, dass die Ausschliesslichkeit zu verneinen ist. Mit Blick auf allfällige Entscheidungsunterstützungssysteme, welche (vermeintlich) nur eine blosse Vorauswahl treffen, ist dabei zu prüfen, ob, an welcher Stelle und von wem eine zu einer Auswahl zwischen verschiedenen Möglichkeiten führende Willensbildung tatsächlich vorgenommen wird. Da sich die (tatsächlich vorgenommene) menschliche Willensbildung nur schwer überprüfen lässt und gewisse komplexe Entscheidungen vom Menschen gar nicht ohne Hilfe eines Algorithmus gefällt werden können, wird sich in der Praxis zeigen müssen, wie die zuständigen Behörden das Kriterium der Ausschliesslichkeit im Streitfall prüfen und abgrenzen.[57]

Nicht erforderlich ist, dass es sich bei der einer automatisierten Einzelentscheidung zugrundeliegenden Datenbearbeitung um ein Profiling oder die Bewertung persönlicher Aspekte der betroffenen Person handelt. Gefordert wird lediglich die Vornahme einer Bewertung des Inhalts oder Sachverhalts im Rahmen einer (einfachen oder komplexen) Datenanalyse. Dabei handelt es sich jedoch nicht um ein zusätzliches Kriterium, da das Fällen einer Entscheidung an sich bereits eine Bewertung der möglichen Alternativen voraussetzt.[58]

Siehe dazu vorne II.6. ↵

Siehe dazu vorne II.4.3. ↵

Siehe dazu vorne V.3.3. ↵

Siehe dazu vorne II.3.3; siehe auch V.1.1. ↵

Siehe dazu vorne II.1.2. ↵

Siehe dazu vorne II.5.3; IV.4.1. ↵

Siehe dazu vorne V.1.1; siehe auch IV.3. ↵

Siehe dazu vorne IV.3.3. ↵

Siehe dazu vorne IV.4.1. ↵

Siehe dazu vorne IV.4.2; V.1.2. ↵

Siehe dazu vorne V.1.2; V.4.3. ↵

Siehe dazu vorne V.2.1. ↵

Siehe dazu vorne II.3.3. ↵

Siehe dazu vorne II.3.2. ↵

Siehe dazu und zum Folgenden vorne V.1.1. ↵

Siehe dazu vorne IV.3. ↵

Siehe dazu vorne II.3.4. ↵

Siehe dazu vorne III.1.1. ↵

Siehe dazu vorne III.1.1; III.2.3; V.4.4. ↵

Siehe zum Ganzen vorne V.4.1. ↵

Siehe zum Ganzen vorne III.2.3. ↵

Siehe dazu vorne III.2.4. ↵

Siehe dazu vorne V.4.3. ↵

Siehe zum Ganzen vorne III.2.4; V.4.3. ↵

Siehe dazu vorne VIII.4.2; siehe auch IX.1. ↵

Siehe zum Ganzen vorne IX.1. ↵

Siehe zum Ganzen vorne IX.2.2. ↵

Siehe dazu vorne IX.2.3.a). ↵

Siehe dazu vorne II.2.2 bei Fn. 163; X.3.2.a)ii bei Fn. 1603; X.3.2.e) bei Fn. 1749. ↵

Siehe dazu vorne III.2. ↵

Siehe dazu vorne III.3. ↵

Siehe dazu vorne IX.2.3.b); IX.2.4. ↵

Siehe dazu vorne VIII.4.3. ↵

Siehe dazu vorne IX.2.5. ↵

Siehe dazu vorne VI.3.3.a). ↵

Siehe dazu vorne VI.3.3.b). ↵

Art. 22 Abs. 3 DSGVO; siehe zum Ganzen vorne VI.3.3.d). ↵

Siehe dazu vorne VI.3.3.c). ↵

Art. 21 Abs. 1 DSG. ↵

Art. 13 Abs. 2 lit. f und Art. 14 Abs. 2 lit. g DSGVO. ↵

Art. 21 Abs. 2 DSG. ↵

Art. 13 Abs. 4 und Art. 14 Abs. 5 lit. a DSGVO. ↵

Siehe zum Ganzen vorne VI.3.3.e). ↵

Siehe bspw. Art. 6 Abs. 7 lit. a, Art. 22 Abs. 2 lit. a oder Art. 30 Abs. 1 lit. c DSG. ↵

Art. 25 Abs. 2 lit. f DSG und Art. 15 Abs. 2 lit. h DSGVO. ↵

Siehe zum Ganzen vorne VI.3.3.d). ↵

Siehe dazu vorne VIII.4.2. ↵

Siehe dazu vorne VIII.4.3. ↵

Siehe dazu vorne VIII.4.4. ↵

Siehe dazu vorne VIII.4.4. ↵

Siehe dazu vorne VIII.4.5. ↵

Siehe dazu vorne VIII.4.6. ↵

Siehe dazu vorne X.2. ↵

Siehe dazu vorne X.3.2.b). ↵

Siehe dazu vorne X.3.2.c). ↵

Siehe zum Ganzen vorne X.3.2.d). ↵

Siehe zum Ganzen vorne X.3.3. ↵

Siehe dazu vorne X.3.3.d)iv. ↵

1

Anhang

Anhang 1: Chronologie der Gesetzgebungsentwürfe zu Art. 2 und 3 LIFL

E-LIFL 1976

Art. 2.

Aucune décision juridictionnelle ou administrative impliquant une appréciation sur un comportement humain ne peut avoir pour seul fondement un traitement automatisé d’informations.[1]

Art. 3.

Toute personne a le droit de connaître et de contester les informations et les raisonnements utilisés dans les traitements automatisés dont les résultats lui sont opposés.[2]

E-LIFL 1977

Art. 2.

Aucune décision de justice impliquant une appréciation sur un comportement humain ne peut avoir pour fondement un traitement automatisé d’informations donnant une définition du profil ou de la personnalité de l’intéressé.

Aucune décision administrative ou privée impliquant une appréciation sur un comportement humain ne peut l’avoir pour seul fondement un traitement automatisé d’informations donnant une définition du profil ou de la personnalité de l’intéressé.[3]

Art. 3.

Toute personne physique, toute personne morale sans but lucratif a le droit de connaître et de contester les informations nominatives qui la concernent.[4]

Art. 3 bis.

Toute personne physique, toute personne morale sans but lucratif a le droit de connaître et de contester les raisonnements utilisés dans les traitements automatisés dont les résultats lui sont opposés.[5]

LIFL 1978

Art. 2.

Aucune décision de justice impliquant une appréciation sur un comportement humain ne peut avoir pour fondement un traitement automatisé d’informations donnant une définition du profil ou de la personnalité de l’intéressé.

Aucune décision administrative ou privée impliquant une appréciation sur un comportement humain ne peut avoir pour seul fondement un traitement automatisé d’informations donnant une définition du profil ou de la personnalité de l’intéressé.

Art. 3.

Toute personne a le droit de connaître et de contester les informations et les raisonnements utilisés dans les traitements automatisés dont les résultats lui sont opposés.

Anhang 2: Chronologie der Gesetzgebungsentwürfe zu Art. 12 und 15 DSRL

E-DSRL 1990

Art. 14 | Ergänzende Rechte der betroffenen Person
Die Mitgliedstaaten erkennen nachstehende Rechte der betroffenen Person an: […]
2. | keiner Verwaltungsmassnahme oder Entscheidung im privaten Bereich unterworfen zu werden, die eine Beurteilung Ihres Verhaltens enthält und sich dabei allein auf eine rechnergestützte Verarbeitung personenbezogener Daten stützt, die ein Persönlichkeitsprofil des Betroffenen herstellt; […][6]

E-DSRL 1992

Art. 13
Auskunftsrecht

Die Mitgliedstaaten erkennen folgende Rechte der betroffenen Personen an: […]

5.
bei automatisierten Verarbeitungen, deren Ergebnisse der betroffenen Person entgegengehalten werden, auf Antrag die verwendeten Begründungen zu erfahren.[7]

Art. 16
Automatisierte Einzelentscheidungen

1.
Die Mitgliedstaaten räumen jeder Person das Recht ein, keiner sie beschwerenden Verwaltungsmassnahme oder Entscheidung im privaten Bereich unterworfen zu werden, die ausschliesslich aufgrund einer automatisierten, Verarbeitung ergangen ist, die ein Persönlichkeitsprofil erstellt.

2.
Die Mitgliedstaaten sehen unbeschadet der anderen Artikel dieser Richtlinie vor, dass eine Person einer Entscheidung nach Absatz 1 unterworfen werden kann, wenn:

a)
die Entscheidung im Rahmen eines Vertragsabschlusses oder seiner Erfüllung ergeht und das Begehren der betroffenen Person befriedigt wurde oder geeignete Massnahmen – unter diesen die Möglichkeit, ihren Standpunkt geltend zu machen – die Wahrung ihrer berechtigten Interessen garantieren, oder

b)
die Entscheidung durch ein Gesetz erlaubt ist, das Garantien zur Wahrung der berechtigten Interessen der betroffenen Person beinhaltet.[8]

DSRL

Art. 12
Auskunftsrecht

Die Mitgliedstaaten garantieren jeder betroffenen Person das Recht, vom für die Verarbeitung Verantwortlichen folgendes zu erhalten:

a)
frei und ungehindert in angemessenen Abständen ohne unzumutbare Verzögerung oder übermäßige Kosten […]

–
Auskunft über den logischen Aufbau der automatisierten Verarbeitung der sie betreffenden Daten, zumindest im Fall automatisierter Entscheidungen im Sinne von Artikel 15 Absatz 1; […]

Art. 15
Automatisierte Einzelentscheidungen

(1)
Die Mitgliedstaaten räumen jeder Person das Recht ein, keiner für sie rechtliche Folgen nach sich ziehenden und keiner sie erheblich beeinträchtigenden Entscheidung unterworfen zu werden, die ausschließlich aufgrund einer automatisierten Verarbeitung von Daten zum Zwecke der Bewertung einzelner Aspekte ihrer Person ergeht, wie beispielsweise ihrer beruflichen Leistungsfähigkeit, ihrer Kreditwürdigkeit, ihrer Zuverlässigkeit oder ihres Verhaltens.

(2)
Die Mitgliedstaaten sehen unbeschadet der sonstigen Bestimmungen dieser Richtlinie vor, daß eine Person einer Entscheidung nach Absatz 1 unterworfen werden kann, sofern diese

a)
im Rahmen des Abschlusses oder der Erfüllung eines Vertrags ergeht und dem Ersuchen der betroffenen Person auf Abschluß oder Erfüllung des Vertrags stattgegeben wurde oder die Wahrung ihrer berechtigten Interessen durch geeignete Maßnahmen — beispielsweise die Möglichkeit, ihren Standpunkt geltend zu machen — garantiert wird oder

b)
durch ein Gesetz zugelassen ist, das Garantien zur Wahrung der berechtigten Interessen der betroffenen Person festlegt.

Anhang 3: Chronologie der Gesetzgebungsentwürfe zu Erwägungsgrund 71, Art. 13–15 und 22 DSGVO

E-DSGVO 2012

Erwägungsgrund

(51)
Jede Person sollte ein Auskunftsrecht hinsichtlich der Daten, die bei ihr erhoben worden sind, besitzen und dieses Recht problemlos wahrnehmen können, um sich von der Rechtmäßigkeit ihrer Verarbeitung überzeugen zu können. Jede betroffene Person sollte daher ein Anrecht darauf haben zu wissen und zu erfahren, zu welchen Zwecken die Daten verarbeitet werden, wie lange sie gespeichert werden, wer die Empfänger der Daten sind, nach welcher Logik die Daten verarbeitet werden und welche Folgen eine solche Verarbeitung haben kann, zumindest in Fällen, in denen die Verarbeitung auf Profiling basiert. Dabei dürfen die Grundrechte und Grundfreiheiten anderer Personen, etwa das Geschäftsgeheimnis oder die Rechte an geistigem Eigentum und insbesondere das Urheberrecht an Software, nicht angetastet werden. Dies darf jedoch nicht dazu führen, dass der betroffenen Person jegliche Auskunft verweigert wird.[9]

(58)
Eine natürliche Person braucht sich keiner Maßnahme unterwerfen lassen, die auf Profiling im Wege der automatischen Datenverarbeitung basiert. Eine solche Maßnahme sollte allerdings erlaubt sein, wenn sie ausdrücklich per Gesetz genehmigt wurde, bei Abschluss oder in Erfüllung eines Vertrags durchgeführt wird oder wenn die betroffene Person ihre Einwilligung hierzu erteilt hat. In jedem Fall sollte eine solche Verarbeitung mit angemessenen Garantien verbunden werden wie der Unterrichtung der betroffenen Person oder dem Anspruch auf direkten persönlichen Kontakt sowie dem generellen Ausschluss von Kindern von einer solchen Maßnahme.[10]

Art. 15
Auskunftsrecht der betroffenen Person

1.
Die betroffene Person hat das Recht, von dem für die Verarbeitung Verantwortlichen jederzeit eine Bestätigung darüber zu verlangen, ob sie betreffende personenbezogene Daten verarbeitet werden oder nicht. Werden personenbezogene Daten verarbeitet, teilt der für die Verarbeitung Verantwortliche Folgendes mit: […]

h)
die Tragweite der Verarbeitung und die mit ihr angestrebten Auswirkungen, zumindest im Fall der Maßnahmen gemäß Artikel 20. […][11]

Art. 20
Auf Profiling basierende Maßnahmen

1.
Eine natürliche Person hat das Recht, nicht einer auf einer rein automatisierten Verarbeitung von Daten basierenden Maßnahme unterworfen zu werden, die ihr gegenüber rechtliche Wirkungen entfaltet oder sie in maßgeblicher Weise beeinträchtigt und deren Zweck in der Auswertung bestimmter Merkmale ihrer Person oder in der Analyse beziehungsweise Voraussage etwa ihrer beruflichen Leistungsfähigkeit, ihrer wirtschaftlichen Situation, ihres Aufenthaltsorts, ihres Gesundheitszustands, ihrer persönlichen Vorlieben, ihrer Zuverlässigkeit oder ihres Verhaltens besteht.

2.
Unbeschadet der sonstigen Bestimmungen dieser Verordnung darf eine Person einer Maßnahme nach Absatz 1 nur unterworfen werden, wenn die Verarbeitung

a)
im Rahmen des Abschlusses oder der Erfüllung eines Vertrags vorgenommen wird und der Abschluss oder die Erfüllung des Vertrags auf Wunsch der betroffenen Person erfolgt ist oder geeignete Maßnahmen ergriffen wurden, um die berechtigten Interessen der betroffenen Person zu wahren, beispielsweise durch das Recht auf direkten persönlichen Kontakt, oder

b)
ausdrücklich aufgrund von Rechtsvorschriften der Union oder der Mitgliedstaaten gestattet ist und diese Rechtsvorschriften geeignete Maßnahmen zur Wahrung der berechtigten Interessen der betroffenen Person enthalten oder

c)
mit Einwilligung der betroffenen Person nach Maßgabe von Artikel 7 und vorbehaltlich entsprechender Garantien erfolgt.

3.
Die automatisierte Verarbeitung personenbezogener Daten zum Zwecke der Auswertung bestimmter persönlicher Merkmale einer natürlichen Person darf sich nicht ausschließlich auf die in Artikel 9 genannten besonderen Kategorien personenbezogener Daten stützen.

4.
In Fällen gemäß Absatz 2 müssen die von dem für die Verarbeitung Verantwortlichen gemäß Artikel 14 erteilten Auskünfte auch Angaben zu einer etwaigen Verarbeitung für die unter Absatz 1 beschriebenen Zwecke und die damit angestrebten Auswirkungen auf die betroffene Person beinhalten.

5.
Die Kommission wird ermächtigt, delegierte Rechtsakte nach Maßgabe von Artikel 86 zu erlassen, um die Kriterien und Bedingungen, die für geeignete Maßnahmen zur Wahrung der berechtigten Interessen gemäß Absatz 2 gelten sollen, näher zu regeln.[12]

Art. 33
Datenschutz-Folgenabschätzung

1.
Bei Verarbeitungsvorgängen, die aufgrund ihres Wesens, ihres Umfangs oder ihrer Zwecke konkrete Risiken für die Rechte und Freiheiten betroffener Personen bergen, führt der für die Verarbeitung Verantwortliche oder der in seinem Auftrag handelnde Auftragsverarbeiter vorab eine Abschätzung der Folgen der vorgesehenen Verarbeitungsvorgänge für den Schutz personenbezogener Daten durch.

2.
Die in Absatz 1 genannten Risiken bestehen insbesondere bei folgenden Verarbeitungsvorgängen:

a)
systematische und umfassende Auswertung persönlicher Aspekte einer natürlichen Person, beispielsweise zwecks Analyse ihrer wirtschaftlichen Lage, ihres Aufenthaltsorts, ihres Gesundheitszustands, ihrer persönlichen Vorlieben, ihrer Zuverlässigkeit oder ihres Verhaltens oder zwecks diesbezüglicher Voraussagen, die sich auf eine automatisierte Verarbeitung von Daten gründet und ihrerseits als Grundlage für Maßnahmen dient, welche Rechtswirkung gegenüber der betroffenen Person entfalten oder erhebliche Auswirkungen für diese mit sich bringen; […][13]

E-DSGVO 2014

Erwägungsgrund

(51)
Jede Person sollte ein Auskunftsrecht hinsichtlich der Daten, die bei ihr erhoben worden sind, besitzen und dieses Recht problemlos wahrnehmen können, um sich von der Rechtmäßigkeit ihrer Verarbeitung überzeugen zu können. Jede betroffene Person sollte daher ein Anrecht einen Anspruch darauf haben zu wissen und zu erfahren, zu welchen Zwecken die Daten verarbeitet werden, wie lange sie voraussichtlich gespeichert werden, wer die Empfänger der Daten sind, nach welcher allgemeinen Logik die Daten verarbeitet werden und welche Folgen eine solche Verarbeitung haben kann, zumindest in Fällen, in denen die Verarbeitung auf Profiling basiert. Dabei dürfen sollten die Grundrechte und Grundfreiheiten anderer Personen, etwa das Geschäftsgeheimnis oder die Rechte an geistigem Eigentum und insbesondere das Urheberrecht geistige Eigentum, etwa im Zusammenhang mit Urheberrechten an Software, nicht angetastet werden. Dies darf jedoch nicht dazu führen, dass der betroffenen Person jegliche Auskunft verweigert wird.[14]

Art. 14
Information Unterrichtung der betroffenen Person

(1)
Einer Person, von der personenbezogene Daten erhoben werden, teilt der für die Verarbeitung Verantwortliche, nach der Bereitstellung der Hinweise gemäß Artikel 13a, zumindest Folgendes mit: […]

ga)
gegebenenfalls Angaben über das Vorhandensein eines Profilings, auf Profiling gestützte Maßnahmen und die beabsichtigten Auswirkungen des Profilings auf die betroffene Person;

gb)
aussagekräftige Informationen über die Logik einer automatisierten Datenverarbeitung; […]

(4)
Der für die Verarbeitung Verantwortliche erteilt die Informationen gemäß den Absätzen 1, 2 und 3

a)
zum Zeitpunkt der Erhebung der personenbezogenen Daten bei der betroffenen Person oder unverzüglich, wenn Ersteres nicht möglich ist; oder

aa)
auf Antrag einer Einrichtung, einer Organisation oder eines Verbands gemäß Artikel 73;

b)
falls die personenbezogenen Daten nicht bei der betroffenen Person erhoben werden, zum Zeitpunkt ihrer Erfassung oder innerhalb einer angemessenen Frist nach ihrer Erhebung, die den besonderen Umständen, unter denen die Daten erhoben oder auf sonstige Weise verarbeitet wurden, Rechnung trägt, oder, falls die Weitergabe an einen Empfänger beabsichtigt ist, spätestens zum Zeitpunkt der ersten Weitergabe, oder, wenn die Daten für die Kommunikation mit der betroffenen Person verwendet werden sollen, spätestens zum Zeitpunkt der ersten Kommunikation mit dieser Person; oder

ba)
nur auf Antrag, wenn die Daten von kleinen oder Kleinstunternehmen, die die personenbezogenen Daten nur als Nebentätigkeit verarbeiten, verarbeitet werden.

(5)
Die Absätze 1 bis 4 finden in folgenden Fällen keine Anwendung:

a)
Die betroffene Person verfügt bereits über die Informationen gemäß den Absätzen 1, 2 und 3 oder

b)
die Daten werden vorbehaltlich der in Artikel 81 oder Artikel 83 genannten Bedingungen und Garantien für historische, statistische oder wissenschaftliche Forschungszwecke verarbeitet, und werden nicht bei der betroffenen Person erhoben und die Unterrichtung erweist sich als unmöglich oder ist mit einem unverhältnismäßig hohen Aufwand verbunden und der für die Verarbeitung Verantwortliche hat die Informationen so veröffentlicht, dass sie von jedermann abgefragt werden können, oder

c)
die Daten werden nicht bei der betroffenen Person erhoben und die Erfassung oder Weitergabe ist ausdrücklich per in einem Gesetz geregelt, dem der für die Verarbeitung Verantwortliche unterliegt und das unter Berücksichtigung der aufgrund der Verarbeitung und der Art der personenbezogenen Daten bestehenden Risiken angemessene Maßnahmen zur Wahrung der berechtigten Interessen der betroffenen Person vorsieht, oder

d)
die Daten werden nicht bei der betroffenen Person erhoben und die Bereitstellung der Informationen greift nach Maßgabe des Unionsrechts oder des Rechts der Mitgliedstaaten gemäß Artikel 21 in die Rechte und Freiheiten anderer Personen ein.

da)
die Daten werden von einer Person, die nach dem Recht eines Mitgliedstaats oder dem Unionsrecht einem Berufsgeheimnis oder einer gesetzlichen Geheimhaltungspflicht unterliegt, in Ausübung ihrer beruflichen Tätigkeit verarbeitet, ihr anvertraut oder bekannt, es sei denn, die Daten werden unmittelbar bei der betroffenen Person erhoben. […][15]

Art. 15
Auskunftsrecht Recht der betroffenen Person auf Auskunft und auf Herausgabe der Daten

(1)
Die betroffene Person hat – vorbehaltlich des Artikels 12 Absatz 4 – das Recht, von dem für die Verarbeitung Verantwortlichen jederzeit eine Bestätigung darüber zu verlangen, ob sie betreffende personenbezogene Daten verarbeitet werden oder nicht, und folgende in einfacher und verständlicher Sprache abgefasste Informationen zu verlangen. Werden personenbezogene Daten verarbeitet, teilt der für die Verarbeitung Verantwortliche Folgendes mit: […]

ha)
aussagekräftige Informationen über die Logik einer automatisierten Datenverarbeitung; […][16]

Art. 20
Auf Profiling basierende Maßnahmen

(1)
Eine Unbeschadet der Bestimmungen des Artikels 6 hat jede natürliche Person hat das Recht, nicht einer auf einer rein automatisierten Verarbeitung von Daten basierenden Maßnahme unterworfen zu werden, die ihr gegenüber rechtliche Wirkungen entfaltet oder sie in maßgeblicher dem Profiling gemäß Artikel 19 zu widersprechen. Die betroffene Person ist über ihr Recht, dem Profiling zu widersprechen, in deutlich sichtbarer Weise beeinträchtigt und deren Zweck in der Auswertung bestimmter Merkmale ihrer Person oder in der Analyse beziehungsweise Voraussage etwa ihrer beruflichen Leistungsfähigkeit, ihrer wirtschaftlichen Situation, ihres Aufenthaltsorts, ihres Gesundheitszustands, ihrer persönlichen Vorlieben, ihrer Zuverlässigkeit oder ihres Verhaltens besteht. zu unterrichten.

(2)
Unbeschadet der sonstigen Bestimmungen dieser Verordnung darf eine Person einer Maßnahme nach Absatz 1 dem Profiling, das Maßnahmen zur Folge hat, durch die sich rechtliche Konsequenzen für die betroffene Person ergeben, oder die ähnlich erhebliche Auswirkungen auf die Interessen, Rechte oder Freiheiten der betroffenen Personen hat, nur unterworfen werden, wenn die Verarbeitung

a)
im Rahmen des Abschlusses für den Abschluss oder der die Erfüllung eines Vertrags erforderlich ist vorgenommen wird und der Abschluss oder die Erfüllung des Vertrags auf Wunsch der betroffenen Person erfolgt ist oder und geeignete Maßnahmen ergriffen wurden, um die berechtigten Interessen der betroffenen Person zu wahren, beispielsweise durch das Recht auf direkten persönlichen Kontakt, oder

b)
ausdrücklich aufgrund von Rechtsvorschriften der Union oder der Mitgliedstaaten gestattet ist und diese Rechtsvorschriften geeignete Maßnahmen zur Wahrung der berechtigten Interessen der betroffenen Person enthalten oder

c)
mit Einwilligung der betroffenen Person nach Maßgabe von Artikel 7 und vorbehaltlich entsprechender Garantien erfolgt.

(3)
Ein Profiling, das zur Folge hat, dass Menschen aufgrund von Rasse, ethnischer Herkunft, politischer Überzeugung, Religion oder Weltanschauung, Mitgliedschaft in einer Gewerkschaft, sexueller Orientierung oder Geschlechtsidentität diskriminiert werden, oder das zu Maßnahmen führt, die automatisierte eine solche Wirkung haben, ist untersagt. Der für die Verarbeitung personenbezogener Daten zum Zwecke der Auswertung bestimmter persönlicher Merkmale einer natürlichen Person Verantwortliche hat für einen wirksamen Schutz gegen mögliche Diskriminierung aufgrund von Profiling zu sorgen. Profiling darf sich nicht ausschließlich auf die in Artikel 9 genannten besonderen Kategorien personenbezogener Daten stützen.

(4)
In Fällen gemäß Absatz 2 müssen die von dem für die Verarbeitung Verantwortlichen gemäß Artikel 14 erteilten Auskünfte auch Angaben zu einer etwaigen Verarbeitung für die unter Absatz 1 beschriebenen Zwecke und die damit angestrebten Auswirkungen auf die betroffene Person beinhalten.

5)
Profiling, das Maßnahmen zur Folge hat, durch die Kommission wird ermächtigt, delegierte Rechtsakte sich rechtliche Konsequenzen für die betroffene Person ergeben, oder die ähnlich erhebliche Auswirkungen auf die Interessen, Rechte oder Freiheiten der betroffenen Personen hat, darf sich nicht ausschließlich oder vorrangig auf automatisierte Verarbeitung stützen und muss eine persönliche Prüfung, einschließlich einer Erläuterung der nach Maßgabe von Artikel 86 zu erlassen, um die Kriterien und Bedingungen, die für geeignete einer solchen Prüfung getroffenen Entscheidung enthalten. Zu den geeigneten Maßnahmen zur Wahrung der berechtigten Interessen gemäß Absatz 2 gelten sollen, näher zu regeln. gehören das Recht auf persönliche Prüfung und die Erläuterung der nach einer solchen Prüfung getroffenen Entscheidung. (5a) Der Europäische Datenschutzausschuss wird beauftragt, Leitlinien, Empfehlungen und bewährte Praktiken in Bezug auf die weitere Festlegung der Kriterien und Bedingungen für das Profiling gemäß Absatz 2 nach Maßgabe von Artikel 66 Absatz 1 Buchstabe b zu veröffentlichen. […][17]

E-DSGVO 2015

Erwägungsgrund

58)
Die betroffene Person sollte das Recht haben, keiner Entscheidung zur Bewertung von sie betreffenden persönlichen Aspekten unterworfen zu werden, die ausschließlich auf einer automatisierten Verarbeitung beruht und die rechtliche Wirkung für die betroffene Person entfaltet oder sie in erheblichem Maße beeinträchtigt, wie die automatische Ablehnung eines Online-Kreditantrags oder Online-Einstellungsverfahren ohne jegliches menschliche Eingreifen. Zu einer derartigen Verarbeitung zählt auch das “Profiling” in jeglicher Form automatisierter Verarbeitung personenbezogener Daten unter Bewertung persönlicher Aspekte in Bezug auf die betroffene Person, insbesondere zwecks Analyse oder Prognose von Aspekten bezüglich Arbeitsleistung, wirtschaftliche Lage, Gesundheit, persönliche Vorlieben oder Interessen, Zuverlässigkeit oder Verhalten, Aufenthaltsort oder Ortswechsel, soweit dies rechtliche Wirkung für die betroffene Person entfaltet oder sie in erheblichem Maße beeinträchtigt. Eine auf einer derartigen Verarbeitung, einschließlich Profiling, beruhende Entscheidungsfindung sollte allerdings erlaubt sein, wenn dies nach dem Unionsrecht oder dem Recht des Mitgliedstaats, dem der für die Verarbeitung Verantwortliche unterliegt, zulässig ist, auch um Betrug und Steuerhinterziehung zu überwachen und zu verhindern und die Sicherheit und Zuverlässigkeit eines von dem für die Verarbeitung Verantwortlichen bereitgestellten Dienstes zu gewährleisten, oder wenn dies für den Abschluss oder die Erfüllung eines Vertrags zwischen der betroffenen Person und einem für die Verarbeitung Verantwortlichen erforderlich ist oder wenn die betroffene Person ihre ausdrückliche Einwilligung hierzu erteilt hat. In jedem Fall sollte eine solche Verarbeitung mit angemessenen Garantien verbunden sein, einschließlich der spezifischen Unterrichtung der betroffenen Person und des Anspruchs auf direktes persönliches Eingreifen, auf Darlegung des eigenen Standpunkts, auf Erläuterung der nach einer entsprechenden Bewertung getroffenen Entscheidung sowie des Rechts auf Anfechtung der Entscheidung. Um unter Berücksichtigung der besonderen Umstände und Rahmenbedingungen, unter denen die personenbezogenen Daten verarbeitet werden, der betroffenen Person gegenüber eine faire und transparente Verarbeitung zu gewährleisten, sollte der für die Verarbeitung Verantwortliche geeignete mathematische oder statistische Verfahren für das Profiling verwenden, technische und organisatorische Maßnahmen treffen, mit denen in geeigneter Weise insbesondere sichergestellt wird, dass Faktoren, die zu unzutreffenden Daten führen, korrigiert werden und das Risiko von Fehlern minimiert wird, und personenbezogene Daten in einer Weise sichern, dass den potenziellen Bedrohungen für die Interessen und Rechte der betroffenen Person Rechnung getragen wird und mit denen verhindert wird, dass es gegenüber Menschen aufgrund von Rasse, ethnischer Herkunft, politischer Überzeugung, Religion oder Weltanschauung, Mitgliedschaft in einer Gewerkschaft, sexueller Orientierung oder Geschlechtsidentität zu diskriminierenden Wirkungen oder zu Maßnahmen kommt, die eine solche Wirkung haben. Automatisierte Entscheidungsfindung und Profiling auf der Grundlage besonderer Kategorien von personenbezogenen Daten sollten nur unter bestimmten Bedingungen erlaubt sein.[18]

71)
Dies sollte insbesondere für (…) umfangreiche Verarbeitungsvorgänge gelten, die dazu dienen, große Mengen personenbezogener Daten auf regionaler, nationaler oder supranationaler Ebene zu verarbeiten, eine große Zahl von Personen betreffen könnten und – beispielsweise aufgrund ihrer Sensibilität – wahrscheinlich ein hohes Risiko mit sich bringen und bei denen entsprechend dem jeweils aktuellen Stand der Technik in großem Umfang eine neue Technologie eingesetzt wird, sowie für andere Verarbeitungsvorgänge, die ein hohes Risiko für die Rechte und Freiheiten der betroffenen Personen mit sich bringen, insbesondere dann, wenn diese Verarbeitungsvorgänge den betroffenen Personen die Ausübung ihrer Rechte erschweren. Eine Datenschutz-Folgenabschätzung sollte auch in den Fällen durchgeführt werden, in denen die Daten für das Treffen von Entscheidungen in Bezug auf Einzelpersonen im Anschluss an eine systematische und eingehende Bewertung persönlicher Aspekte natürlicher Personen auf der Grundlage eines Profilings dieser Daten oder im Anschluss an die Verarbeitung spezifischer Kategorien von personenbezogenen Daten, biometrischen Daten oder von Daten in Bezug auf strafrechtliche Verurteilungen und Straftaten sowie damit zusammenhängende Sicherungsmaßregeln verarbeitet werden. Gleichermaßen erforderlich ist eine Datenschutz-Folgenabschätzung für die weiträumige Überwachung öffentlich zugänglicher Bereiche, insbesondere mittels optoelektronischer Vorrichtungen, oder für alle anderen Vorgänge, bei denen nach Auffassung der zuständigen Aufsichtsbehörde die Verarbeitung wahrscheinlich ein hohes Risiko für die Rechte und Freiheiten der betroffenen Personen mit sich bringt, insbesondere weil sie die betroffenen Personen an der Ausübung eines Rechts oder Nutzung einer Dienstleistung hindern oder weil sie systematisch in großem Umfang erfolgen. Die Verarbeitung (…) personenbezogener Daten sollte ungeachtet des Volumens oder der Art der Daten nicht als umfangreich gelten, wenn die Verarbeitung dieser Daten dem Berufsgeheimnis unterliegt (…), wie etwa die Verarbeitung personenbezogener Daten von Patienten oder Kunden durch einen einzelnen Arzt, einen Angehörigen der Gesundheitsberufe, ein Krankenhaus oder einen Anwalt. In diesen Fällen sollte eine Datenschutz-Folgenabschätzung nicht zwingend vorgeschrieben sein.[19]

Art. 14
Informationspflicht bei Erhebung der Daten bei der betroffenen Person

1.
Werden personenbezogene Daten bei der betroffenen Person erhoben, so teilt der für die Verarbeitung Verantwortliche der betroffenen Person zum Zeitpunkt der Erhebung dieser Daten Folgendes mit: […]

1a.
Zusätzlich zu den Informationen gemäß Absatz 1 stellt der für die Verarbeitung Verantwortliche der betroffenen Person zum Zeitpunkt der Erhebung der personenbezogenen Daten folgende weitere Informationen zur Verfügung, die unter Berücksichtigung der besonderen Umstände und Rahmenbedingungen, unter denen die personenbezogenen Daten verarbeitet werden, notwendig sind, um (…) eine faire und transparente Verarbeitung zu gewährleisten: […]

(h)
das Bestehen einer automatisierten Entscheidungsfindung einschließlich Profiling gemäß Artikel 20 Absätze 1 und 3 und Angaben zu (…) der verwendeten Logik sowie zur Tragweite und zu den angestrebten Auswirkungen einer derartigen Verarbeitung für die betroffene Person. […]

5.
Die Absätze 1, 1a und 1b finden keine Anwendung, wenn und soweit die betroffene Person bereits über die Informationen verfügt. […][20]

Art. 14a
Informationspflicht, wenn die Daten nicht bei der betroffenen Person erhoben wurden

1.
Werden personenbezogene Daten nicht bei der betroffenen Person erhoben, so teilt der für die Verarbeitung Verantwortliche der betroffenen Person Folgendes mit: […]

2.
Zusätzlich zu den Informationen gemäß Absatz 1 stellt der für die Verarbeitung Verantwortliche der betroffenen Person folgende weitere Informationen zur Verfügung, die unter Berücksichtigung der besonderen Umstände und Rahmenbedingungen, unter denen die personenbezogenen Daten verarbeitet werden, notwendig sind, um der betroffenen Person gegenüber eine faire und transparente Verarbeitung zu gewährleisten: […]

(h)
das Bestehen einer automatisierten Entscheidungsfindung einschließlich Profiling gemäß Artikel 20 Absätze 1 und 3 und Angaben zu der verwendeten Logik sowie zur Tragweite und zu den angestrebten Auswirkungen einer derartigen Verarbeitung für die betroffene Person.

3.
Der für die Verarbeitung Verantwortliche erteilt die Informationen gemäß den Absätzen 1 und 2

(a)
unter Berücksichtigung der spezifischen Umstände der Verarbeitung der Daten innerhalb einer angemessenen Frist nach Erhebung der Daten, längstens jedoch innerhalb eines Monats, oder,

(b)
falls die Weitergabe an einen anderen Empfänger beabsichtigt ist, spätestens zum Zeitpunkt der ersten Weitergabe. […]

4.
Die Absätze 1 bis 3a finden keine Anwendung, wenn und soweit

(a)
die betroffene Person bereits über die Informationen verfügt oder

(b)
die Erteilung dieser Informationen (…) sich als unmöglich erweist oder einen unverhältnismäßigen Aufwand erfordern würde; in diesen Fällen ergreift der für die Verarbeitung Verantwortliche geeignete Maßnahmen zum Schutz der Rechte und Freiheiten sowie der berechtigten Interessen der betroffenen Person; oder

(c)
die Erhebung oder Weitergabe durch Rechtsvorschriften der Union oder der Mitgliedstaaten, denen der für die Verarbeitung Verantwortliche unterliegt und die geeignete Maßnahmen zum Schutz der berechtigten Interessen der betroffenen Person vorsehen, ausdrücklich geregelt ist oder

(d)
(…);

(e)
die Daten gemäß dem Unionsrecht oder dem einzelstaatlichen Recht (…) vertraulich behandelt werden müssen. […][21]

Art. 15
Auskunftsrecht der betroffenen Person

1.
Die betroffene Person hat das Recht, von dem für die Verarbeitung Verantwortlichen in angemessenen Abständen unentgeltlich (…) eine Bestätigung darüber zu verlangen, ob sie betreffende personenbezogene Daten verarbeitet werden; ist dies der Fall, so hat sie ein Recht auf Auskunft über diese Daten und auf folgende Informationen: […]

(h)
im Fall von Entscheidungen, die auf einer automatisierten Verarbeitung einschließlich Profiling gemäß Artikel 20 Absätze 1 und 3 beruhen, Angaben zu der verwendeten Logik sowie zur Tragweite und zu den angestrebten Auswirkungen einer derartigen Verarbeitung. […][22]

Art. 20
Automatisierte Generierung von Einzelentscheidungen

1.
Die betroffene Person hat das Recht, nicht einer allein auf einer automatisierten Verarbeitung – einschließlich Profiling – beruhenden Entscheidung unterworfen zu werden, die ihr gegenüber rechtliche Wirkung entfaltet oder sie erheblich beeinträchtigt.

1a.
Absatz 1 gilt nicht, wenn die Entscheidung (…)

(a)
für den Abschluss oder die Erfüllung eines Vertrags zwischen der betroffenen Person und dem für die Verarbeitung Verantwortlichen erforderlich ist (…) oder

(b)
(…) aufgrund von Rechtsvorschriften der Union oder der Mitgliedstaaten, denen der für die Verarbeitung Verantwortliche unterliegt, zulässig ist und diese Rechtsvorschriften geeignete Maßnahmen zur Wahrung der Rechte und Freiheiten sowie der berechtigten Interessen der betroffenen Person enthalten oder

(c)
mit ausdrücklicher Einwilligung der betroffenen Person (…) erfolgt.

1b.
In den in Absatz 1a Buchstaben a und c genannten Fällen trifft der für die Verarbeitung Verantwortliche geeignete Maßnahmen, um die Rechte und Freiheiten sowie die berechtigten Interessen der betroffenen Person zu wahren, wozu mindestens das Recht auf persönliches Eingreifen des für die Verarbeitung Verantwortlichen, auf Darlegung des eigenen Standpunkts und auf Anfechtung der Entscheidung gehört.

2.
(…)

3.
Entscheidungen nach Absatz 1a (…) dürfen nicht auf besonderen Kategorien personenbezogener Daten nach Artikel 9 Absatz 1 beruhen, sofern nicht Artikel 9 Absatz 2 Buchstabe a oder g gilt und geeignete Maßnahmen zum Schutz der Rechte und Freiheiten sowie der berechtigten Interessen der betroffenen Person getroffen wurden. […][23]

Art. 33
Datenschutz-Folgenabschätzung

1.
Wenn eine Form der Verarbeitung, insbesondere bei Verwendung neuer Technologien, aufgrund der Art, des Umfangs, der Umstände und der Zwecke der Verarbeitung voraussichtlich ein hohes Risiko für die persönlichen Rechte und Freiheiten zur Folge hat, wie etwa Diskriminierung, Identitätsdiebstahl oder -betrug, finanzielle Verluste, Rufschädigung, unbefugte Umkehr der Pseudonymisierung, Verlust der Vertraulichkeit von dem Berufsgeheimnis unterliegenden Daten oder andere erhebliche wirtschaftliche oder gesellschaftliche Nachteile, so führt der für die Verarbeitung Verantwortliche (…) vorab eine Abschätzung der Folgen der vorgesehenen Verarbeitungsvorgänge für den Schutz personenbezogener Daten durch (…). […]

2.
Eine Datenschutz-Folgenabschätzung gemäß Absatz 1 ist insbesondere in folgenden Fällen erforderlich:

(a)
systematische und umfassende Bewertung persönlicher Aspekte natürlicher Personen, (…) die sich auf Profiling gründet und die ihrerseits als Grundlage für Entscheidungen dient, die Rechtswirkung gegenüber betroffenen Personen entfalten oder erhebliche Auswirkungen für diese mit sich bringen; […][24]

DSGVO

Erwägungsgrund

(71)
Die betroffene Person sollte das Recht haben, keiner Entscheidung — was eine Maßnahme einschließen kann — zur Bewertung von sie betreffenden persönlichen Aspekten unterworfen zu werden, die ausschließlich auf einer automatisierten Verarbeitung beruht und die rechtliche Wirkung für die betroffene Person entfaltet oder sie in ähnlicher Weise erheblich beeinträchtigt, wie die automatische Ablehnung eines Online-Kreditantrags oder Online-Einstellungsverfahren ohne jegliches menschliche Eingreifen. Zu einer derartigen Verarbeitung zählt auch das „Profiling“, das in jeglicher Form automatisierter Verarbeitung personenbezogener Daten unter Bewertung der persönlichen Aspekte in Bezug auf eine natürliche Person besteht, insbesondere zur Analyse oder Prognose von Aspekten bezüglich Arbeitsleistung, wirtschaftliche Lage, Gesundheit, persönliche Vorlieben oder Interessen, Zuverlässigkeit oder Verhalten, Aufenthaltsort oder Ortswechsel der betroffenen Person, soweit dies rechtliche Wirkung für die betroffene Person entfaltet oder sie in ähnlicher Weise erheblich beeinträchtigt. Eine auf einer derartigen Verarbeitung, einschließlich des Profilings, beruhende Entscheidungsfindung sollte allerdings erlaubt sein, wenn dies nach dem Unionsrecht oder dem Recht der Mitgliedstaaten, dem der für die Verarbeitung Verantwortliche unterliegt, ausdrücklich zulässig ist, auch um im Einklang mit den Vorschriften, Standards und Empfehlungen der Institutionen der Union oder der nationalen Aufsichtsgremien Betrug und Steuerhinterziehung zu überwachen und zu verhindern und die Sicherheit und Zuverlässigkeit eines von dem Verantwortlichen bereitgestellten Dienstes zu gewährleisten, oder wenn dies für den Abschluss oder die Erfüllung eines Vertrags zwischen der betroffenen Person und einem Verantwortlichen erforderlich ist oder wenn die betroffene Person ihre ausdrückliche Einwilligung hierzu erteilt hat. In jedem Fall sollte eine solche Verarbeitung mit angemessenen Garantien verbunden sein, einschließlich der spezifischen Unterrichtung der betroffenen Person und des Anspruchs auf direktes Eingreifen einer Person, auf Darlegung des eigenen Standpunkts, auf Erläuterung der nach einer entsprechenden Bewertung getroffenen Entscheidung sowie des Rechts auf Anfechtung der Entscheidung. Diese Maßnahme sollte kein Kind betreffen.

Um unter Berücksichtigung der besonderen Umstände und Rahmenbedingungen, unter denen die personenbezogenen Daten verarbeitet werden, der betroffenen Person gegenüber eine faire und transparente Verarbeitung zu gewährleisten, sollte der für die Verarbeitung Verantwortliche geeignete mathematische oder statistische Verfahren für das Profiling verwenden, technische und organisatorische Maßnahmen treffen, mit denen in geeigneter Weise insbesondere sichergestellt wird, dass Faktoren, die zu unrichtigen personenbezogenen Daten führen, korrigiert werden und das Risiko von Fehlern minimiert wird, und personenbezogene Daten in einer Weise sichern, dass den potenziellen Bedrohungen für die Interessen und Rechte der betroffenen Person Rechnung getragen wird und mit denen verhindert wird, dass es gegenüber natürlichen Personen aufgrund von Rasse, ethnischer Herkunft, politischer Meinung, Religion oder Weltanschauung, Gewerkschaftszugehörigkeit, genetischer Anlagen oder Gesundheitszustand sowie sexueller Orientierung zu diskriminierenden Wirkungen oder zu Maßnahmen kommt, die eine solche Wirkung haben. Automatisierte Entscheidungsfindung und Profiling auf der Grundlage besonderer Kategorien von personenbezogenen Daten sollten nur unter bestimmten Bedingungen erlaubt sein.

Art. 13
Informationspflicht bei Erhebung von personenbezogenen Daten bei der betroffenen Person

(1)
Werden personenbezogene Daten bei der betroffenen Person erhoben, so teilt der Verantwortliche der betroffenen Person zum Zeitpunkt der Erhebung dieser Daten Folgendes mit: […]

(2)
Zusätzlich zu den Informationen gemäß Absatz 1 stellt der Verantwortliche der betroffenen Person zum Zeitpunkt der Erhebung dieser Daten folgende weitere Informationen zur Verfügung, die notwendig sind, um eine faire und transparente Verarbeitung zu gewährleisten: […]

f)
das Bestehen einer automatisierten Entscheidungsfindung einschließlich Profiling gemäß Artikel 22 Absätze 1 und 4 und — zumindest in diesen Fällen — aussagekräftige Informationen über die involvierte Logik sowie die Tragweite und die angestrebten Auswirkungen einer derartigen Verarbeitung für die betroffene Person. […]

(4)
Die Absätze 1, 2 und 3 finden keine Anwendung, wenn und soweit die betroffene Person bereits über die Informationen verfügt.

Art. 14
Informationspflicht, wenn die personenbezogenen Daten nicht bei der betroffenen Person erhoben wurden

(1)
Werden personenbezogene Daten nicht bei der betroffenen Person erhoben, so teilt der Verantwortliche der betroffenen Person Folgendes mit: […]

(2)
Zusätzlich zu den Informationen gemäß Absatz 1 stellt der Verantwortliche der betroffenen Person die folgenden Informationen zur Verfügung, die erforderlich sind, um der betroffenen Person gegenüber eine faire und transparente Verarbeitung zu gewährleisten: […]

g)
das Bestehen einer automatisierten Entscheidungsfindung einschließlich Profiling gemäß Artikel 22 Absätze 1 und 4 und — zumindest in diesen Fällen — aussagekräftige Informationen über die involvierte Logik sowie die Tragweite und die angestrebten Auswirkungen einer derartigen Verarbeitung für die betroffene Person.

(3)
Der Verantwortliche erteilt die Informationen gemäß den Absätzen 1 und 2

a)
unter Berücksichtigung der spezifischen Umstände der Verarbeitung der personenbezogenen Daten innerhalb einer angemessenen Frist nach Erlangung der personenbezogenen Daten, längstens jedoch innerhalb eines Monats,

b)
falls die personenbezogenen Daten zur Kommunikation mit der betroffenen Person verwendet werden sollen, spätestens zum Zeitpunkt der ersten Mitteilung an sie, oder,

c)
falls die Offenlegung an einen anderen Empfänger beabsichtigt ist, spätestens zum Zeitpunkt der ersten Offenlegung. […]

Art. 15
Auskunftsrecht der betroffenen Person

(1)
Die betroffene Person hat das Recht, von dem Verantwortlichen eine Bestätigung darüber zu verlangen, ob sie betreffende personenbezogene Daten verarbeitet werden; ist dies der Fall, so hat sie ein Recht auf Auskunft über diese personenbezogenen Daten und auf folgende Informationen: […]

h)
das Bestehen einer automatisierten Entscheidungsfindung einschließlich Profiling gemäß Artikel 22 Absätze 1 und 4 und — zumindest in diesen Fällen — aussagekräftige Informationen über die involvierte Logik sowie die Tragweite und die angestrebten Auswirkungen einer derartigen Verarbeitung für die betroffene Person. […]

Art. 22
Automatisierte Entscheidungen im Einzelfall einschließlich Profiling

(1)
Die betroffene Person hat das Recht, nicht einer ausschließlich auf einer automatisierten Verarbeitung — einschließlich Profiling — beruhenden Entscheidung unterworfen zu werden, die ihr gegenüber rechtliche Wirkung entfaltet oder sie in ähnlicher Weise erheblich beeinträchtigt.

(2)
Absatz 1 gilt nicht, wenn die Entscheidung

a)
für den Abschluss oder die Erfüllung eines Vertrags zwischen der betroffenen Person und dem Verantwortlichen erforderlich ist,

b)
aufgrund von Rechtsvorschriften der Union oder der Mitgliedstaaten, denen der Verantwortliche unterliegt, zulässig ist und diese Rechtsvorschriften angemessene Maßnahmen zur Wahrung der Rechte und Freiheiten sowie der berechtigten Interessen der betroffenen Person enthalten oder

c)
mit ausdrücklicher Einwilligung der betroffenen Person erfolgt.

(3)
In den in Absatz 2 Buchstaben a und c genannten Fällen trifft der Verantwortliche angemessene Maßnahmen, um die Rechte und Freiheiten sowie die berechtigten Interessen der betroffenen Person zu wahren, wozu mindestens das Recht auf Erwirkung des Eingreifens einer Person seitens des Verantwortlichen, auf Darlegung des eigenen Standpunkts und auf Anfechtung der Entscheidung gehört.

(4)
Entscheidungen nach Absatz 2 dürfen nicht auf besonderen Kategorien personenbezogener Daten nach Artikel 9 Absatz 1 beruhen, sofern nicht Artikel 9 Absatz 2 Buchstabe a oder g gilt und angemessene Maßnahmen zum Schutz der Rechte und Freiheiten sowie der berechtigten Interessen der betroffenen Person getroffen wurden.

Art. 35
Datenschutz-Folgenabschätzung

(1)
Hat eine Form der Verarbeitung, insbesondere bei Verwendung neuer Technologien, aufgrund der Art, des Umfangs, der Umstände und der Zwecke der Verarbeitung voraussichtlich ein hohes Risiko für die Rechte und Freiheiten natürlicher Personen zur Folge, so führt der Verantwortliche vorab eine Abschätzung der Folgen der vorgesehenen Verarbeitungsvorgänge für den Schutz personenbezogener Daten durch. Für die Untersuchung mehrerer ähnlicher Verarbeitungsvorgänge mit ähnlich hohen Risiken kann eine einzige Abschätzung vorgenommen werden. […]

(3)
Eine Datenschutz-Folgenabschätzung gemäß Absatz 1 ist insbesondere in folgenden Fällen erforderlich:

a)
systematische und umfassende Bewertung persönlicher Aspekte natürlicher Personen, die sich auf automatisierte Verarbeitung einschließlich Profiling gründet und die ihrerseits als Grundlage für Entscheidungen dient, die Rechtswirkung gegenüber natürlichen Personen entfalten oder diese in ähnlich erheblicher Weise beeinträchtigen; […]

Anhang 4: Chronologie der Gesetzgebungsentwürfe zu Art. 9, 11 und 12 SEV Nr. 108+

E-SEV Nr. 108+ 2012 I

Art. 8
Additional safeguards for the data subject

Any person shall be enabled on request: […]

b
to obtain knowledge of the logic involved in the processing in the case of an automated decision. […]

e
not to be subject to a decision based solely on the grounds of an automated processing of data without having the right to expose his/her views. […][25]

Art. 9
Exceptions and restrictions

1
No exception to the provisions of Articles 5, 6, 7bis and 8 of this Convention shall be allowed except within the limits defined in this article.

2
Derogation from the provisions of Articles 5, 6, 7bis and 8 of this Convention shall be allowed when such derogation is provided for by the law of the Party and constitutes a necessary measure in a democratic society in the interests of:

a
protecting State security, public safety, the monetary interests of the State or the prevention and suppression of criminal offences;

b
protecting the data subject or the rights and freedoms of others.

3
Restrictions on the exercise of the rights specified in Article 7bis, 8 and 12 of this Convention may be provided by law with respect to data processing carried out solely for communication of public information, ideas or opinions of general interest, or for literary or artistic expression, when such restrictions are necessary to reconcile the right to private life and the freedom of expression and information.

4
Restrictions on the exercise of the rights specified in Article 7bis, 8 and 12 of this Convention may be provided by law with respect to personal data processing for statistical purposes or for the purposes of scientific research, when there is obviously no risk of an infringement of the privacy of the data subjects.[26]

E-SEV Nr. 108+ 2012 II

Art. 8
Rights of the data subject

Any person shall be entitled on request: […]

b
to obtain knowledge of the logic involved in the data processing in the case of an automated decision; […]

e
not to be subject to a decision significantly affecting him/her or producing legal effects concerning him/her, based solely on the grounds of an automated processing of data without having the right to express his/her views; […][27]

Art. 9
Exceptions and restrictions

1
No exception to the provisions of this Convention shall be allowed, except to the provisions of Articles 5.3, 6, 7.2, 7bis and 8 when such derogation is provided for by law and constitutes a necessary measure in a democratic society to:

a
protect State security, public security, the economic and financial interests of the State or the prevention and suppression of criminal offences;

b
protect the data subject or the rights and freedoms of others, notably freedom of expression and information. […]

3
Restrictions on the exercise of the rights specified in Articles 6, 7bis and 8 may be provided by law with respect to personal data processing for [statistical purposes or for] the purposes of scientific research, when there is obviously no risk of an infringement of the rights and freedoms of the data subjects.[28]

E-SEV Nr. 108+ 2012 III

Art. 8
Rights of the data subject

Any person shall be entitled on request:

a
not to be subject to a decision significantly affecting him/her or producing legal effects relating to him/her, based solely on the grounds of an automatic processing of data without having the right to express his/her views; […]

d
to obtain knowledge of the reasoning underlying in the data processing, the results of which are applied to him/her ; […][29]

Art. 9
Exceptions and restrictions

1
No exception to the basic principles expressed in this Chapter shall be allowed, except to the provisions of Articles 5.3, 6, 7.2, 7bis and 8 when such derogation is provided for by law and constitutes a necessary measure in a democratic society to:

a
protect State security, public security, the economic and financial interests of the State or the prevention and suppression of criminal offences;

b
protect the data subject or the rights and freedoms of others, notably freedom of expression and information.

2
Restrictions on the exercise of the provisions specified in Articles 6, 7bis and 8 may be provided by law with respect to personal data processing for statistical purposes or for the purposes of scientific research, when there is obviously no risk of an infringement of the rights and freedoms of the data subjects.[30]

E-SEV Nr. 108+ 2012 IV

Art. 8
Rights of the data subject

Any person shall be entitled on request:

a
not to be subject to a decision significantly affecting him/her or producing legal effects relating to him/her, based solely on the grounds of an automatic processing of data without having the right to express his/her views; […]

d
to obtain knowledge of the reasoning underlying in the data processing, the results of which are applied to him/her; […][31]

Art. 9
Exceptions and restrictions

1
No exception to the basic principles expressed in this Chapter shall be allowed, except to the provisions of Articles 5.3, 6, 7.2, 7bis and 8 when such derogation is provided for by law and constitutes a necessary measure in a democratic society to:

a
protect State security, public security, the economic and financial interests of the State or the prevention and suppression of criminal offences;

b
protect the data subject or the rights and freedoms of others, notably freedom of expression and information.

2
Restrictions on the exercise of the provisions specified in Articles 6, 7bis and 8 may be provided by law with respect to personal data processing for statistical purposes or for the purposes of scientific research, when there is obviously no risk of an infringement of the rights and freedoms of the data subjects.[32]

E-SEV Nr. 108+ 2012 V

Art. 8
Rights of the data subject

Any person shall be entitled on request:

a
not to be subject to a decision significantly affecting him/her or producing legal effects relating to him/her, based solely on on the grounds of an automatic processing of data without having the right to express his/her views taken into consideration; […]

d
to obtain, on request, knowledge of the reasoning underlying in the data processing, the results of which are applied to him/her ; […][33]

Art. 9
Exceptions and restrictions

1
No exception to the principles expressed in this Chapter shall be allowed, except to the provisions of Articles 5.3, 6, 7.2, 7bis and 8 when such derogation is provided for by an accessible and foreseeable law and constitutes a necessary measure in a democratic society to:

a
protect State security, public safety, the important economic and financial interests of the State or the prevention and suppression of criminal offences;

b
protect the data subject or the rights and freedoms of others, notably freedom of expression and information.

2
Restrictions on the exercise of the provisions specified in Articles 6, 7bis and 8 may be provided by law with respect to personal data processing for statistical purposes or for the purposes of scientific research, when there is obviously no risk of an infringement of the rights and fundamental freedoms of the data subjects.[34]

E-SEV Nr. 108+ 2012 VI

Art. 8
Rights of the data subject

Any person shall be entitled:

a
not to be subject to a decision significantly affecting him/her, based solely on an automatic processing of data without having his/her views taken into consideration; […]

d
to obtain, on request, knowledge of the reasoning underlying the data processing, the results of which are applied to him/her; […][35]

Art. 9
Exceptions and restrictions

1
No exception to the principles expressed in this Chapter shall be allowed, except to the provisions of Articles 5.3, 7.2, 7bis and 8 when such derogation is provided for by an accessible and foreseeable law and constitutes a necessary measure in a democratic society for:

a
the protection of national security, public safety, important economic and financial interests of the State or the prevention and suppression of criminal offences;

b
the protection of the data subject or the rights and freedoms of others, notably freedom of expression. […]

3
Restrictions on the exercise of the provisions specified in Articles 7bis and 8 may be provided by law with respect to personal data processing for statistical purposes or for the purposes of scientific research, when there is obviously no risk of infringement of the rights and fundamental freedoms of data subjects.[36]

E-SEV Nr. 108+ 2012 VII

Art. 8
Rights of the data subject

Any person shall be entitled:

a.
not to be subject to a decision significantly affecting him/her, based solely on an automatic processing of data without having their views taken into consideration; […]

d.
to obtain, on request, knowledge of the reasoning underlying the data processing, the results of which are applied to him/her ; […]

f.
to have a remedy if a decision significantly affecting them has been taken without taking into consideration their views or no response is given to a request for confirmation, communication, rectification, erasure or to an objection, as referred to in this Article; […][37]

Art. 9
Exceptions and restrictions

1
No exception to the principles expressed in this Chapter shall be allowed, except to the provisions of Articles 5.3, 7.2, 7bis and 8 when such derogation is provided for by law and constitutes a necessary measure in a democratic society for:

a.
the protection of national security, public safety, important economic and financial interests of the State or the prevention and suppression of criminal offences;

b.
the protection of the data subject or the rights and freedoms of others, notably freedom of expression. […]

3
Restrictions on the exercise of the provisions specified in Articles 7bis and 8 may be provided by law with respect to data processing for statistical purposes or for the purposes of scientific research, when there is obviously no risk of infringement of the rights and fundamental freedoms of data subjects.[38]

E-SEV Nr. 108+ 2016

Art. 8
Rights of the data subject

1.
Every individual shall have a right:

a.
not to be subject to a decision significantly affecting him or her based solely on an automated processing of data without having his or her views taken into consideration; […]

c.
to obtain, on request, knowledge of the reasoning underlying data processing where the results of such processing are applied to him or her; […]

f.
to have a remedy under Article 10 where his or her rights under this Convention have been violated; […]

2.
Paragraph 1.a shall not apply if the decision is authorised by a law to which the controller is subject and which also lays down suitable measures to safeguard the data subject’s rights and freedoms and legitimate interests.[39]

Art. 9
Exceptions and restrictions

1.
No exception to the provisions set out in this Chapter shall be allowed except to the provisions of Articles 5.4, 7.2, 7bis, paragraph 1 and Article 8 when such an exception is provided for by law, respects the essence of the fundamental rights and freedoms and constitutes a necessary and proportionate measure in a democratic society for:

a.
the protection of national security, defence, public safety, important economic and financial interests of the State, the impartiality and independence of the judiciary or the prevention, investigation and prosecution of criminal offences and the execution of criminal penalties, and other essential objectives of general public interest;

b.
the protection of the data subject or the rights and fundamental freedoms of others, notably freedom of expression.

2.
Restrictions on the exercise of the provisions specified in Articles 7bis and 8 may be provided for by law with respect to data processing for archiving purposes in the public interest, scientific or historical research purposes or statistical purposes when there is no recognisable risk of infringement of the rights and fundamental freedoms of data subjects. […][40]

Art. 10
Sanctions and remedies

Each Party undertakes to establish appropriate judicial and non-judicial sanctions and remedies for violations of the provisions of this Convention.[41]

SEV Nr. 108+

Art. 9
Rights of the data subject

1
Every individual shall have a right:

a
not to be subject to a decision significantly affecting him or her based solely on an automated processing of data without having his or her views taken into consideration; […]

c
to obtain, on request, knowledge of the reasoning underlying data processing where the results of such processing are applied to him or her; […]

f
to have a remedy under Article 12 where his or her rights under this Convention have been violated; […]

2
Paragraph 1.a shall not apply if the decision is authorised by a law to which the controller is subject and which also lays down suitable measures to safeguard the data subject’s rights, freedoms and legitimate interests.

Art. 11
Exceptions and restrictions

1
No exception to the provisions set out in this Chapter shall be allowed except to the provisions of Article 5, paragraph 4, Article 7, paragraph 2, Article 8, paragraph 1, and Article 9, when such an exception is provided for by law, respects the essence of the fundamental rights and freedoms and constitutes a necessary and proportionate measure in a democratic society for:

a
the protection of national security, defence, public safety, important economic and financial interests of the State, the impartiality and independence of the judiciary or the prevention, investigation and prosecution of criminal offences and the execution of criminal penalties, and other essential objectives of general public interest;

b
the protection of the data subject or the rights and fundamental freedoms of others, notably freedom of expression.

2
Restrictions on the exercise of the provisions specified in Articles 8 and 9 may be provided for by law with respect to data processing for archiving purposes in the public interest, scientific or historical research purposes or statistical purposes when there is no recognisable risk of infringement of the rights and fundamental freedoms of data subjects. […]

Art. 12
Sanctions and remedies

Each Party undertakes to establish appropriate judicial and non-judicial sanctions and remedies for violations of the provisions of this Convention.

Anhang 5: Chronologie der Gesetzgebungsentwürfe zu Art. 21 und 25 DSG sowie der diesbezüglichen Verordnungsbestimmungen

VE-DSG 2001

Art. 7b | (neu) Informationspflicht betreffend automatisierte Einzelentscheide
1 | Die betroffene Person muss angemessen darüber informiert werden, wenn ein Entscheid, der für sie rechtliche Folgen hat oder sie sonst wesentlich betrifft, ausschliesslich auf einer automatisierten Datenbearbeitung beruht, welche die Bewertung einzelner Aspekte ihrer Persönlichkeit bezweckt.[42]

E-DSG 2003

Art. 7b
(neu) Informationspflicht betreffend automatisierte Einzelentscheide

Die betroffene Person muss ausdrücklich darüber informiert werden, wenn ein Entscheid, der für sie rechtliche Folgen hat oder sie sonst wesentlich betrifft, ausschliesslich auf einer automatisierten Datenbearbeitung beruht, welche die Bewertung einzelner Aspekte ihrer Persönlichkeit bezweckt.[43]

VE-DSG 2016

Art. 15
Informations- und Anhörungspflicht bei einer automatisierten Einzelentscheidung

1
Der Verantwortliche informiert die betroffene Person, wenn eine Entscheidung erfolgt, die ausschliesslich auf einer automatisierten Datenbearbeitung beruht, und diese rechtliche Wirkungen oder erhebliche Auswirkungen auf die betroffene Person hat.

2
Er gibt der betroffenen Person die Möglichkeit, sich zur automatisierten Einzelentscheidung und zu den bearbeiteten Personendaten zu äussern.

3
Die Informations- und Anhörungspflicht gilt nicht, wenn ein Gesetz eine automatisierte Einzelentscheidung vorsieht.[44]

Art. 20
Auskunftsrecht

1
Jede Person kann vom Verantwortlichen kostenlos Auskunft darüber verlangen, ob Personendaten über sie bearbeitet werden.

2
Die betroffene Person erhält diejenigen Informationen, die erforderlich sind, damit sie ihre Rechte nach diesem Gesetz geltend machen kann und eine transparente Datenbearbeitung gewährleistet ist. In jedem Fall werden ihr folgende Informationen mitgeteilt: […]

e.
das Vorliegen einer automatisierten Einzelentscheidung; […]

3
Wird aufgrund einer Datenbearbeitung eine Entscheidung gefällt, insbesondere eine automatisierte Einzelentscheidung, erhält die betroffene Person Informationen über das Ergebnis, das Zustandekommen und die Auswirkungen der Entscheidung. […][45]

E-DSG 2017

Art. 19
Informationspflicht bei einer automatisierten Einzelentscheidung

1
Der Verantwortliche informiert die betroffene Person über eine Entscheidung, die ausschliesslich auf einer automatisierten Bearbeitung, einschliesslich Profiling, beruht und die für sie mit einer Rechtsfolge verbunden ist oder sie erheblich beeinträchtigt.

2
Er gibt der betroffenen Person auf Antrag die Möglichkeit, ihren Standpunkt darzulegen. Die betroffene Person kann verlangen, dass die Entscheidung von einer natürlichen Person überprüft wird.

3
Die Absätze 1 und 2 gelten nicht, wenn:

a.
die Entscheidung in unmittelbarem Zusammenhang mit dem Abschluss oder der Abwicklung eines Vertrags zwischen dem Verantwortlichen und der betroffenen Person steht und ihrem Begehren stattgegeben wird; oder

b.
die betroffene Person ausdrücklich eingewilligt hat, dass die Entscheidung automatisiert erfolgt.

4
Ergeht die automatisierte Einzelentscheidung durch ein Bundesorgan, so muss es die Entscheidung entsprechend kennzeichnen. Absatz 2 gilt nicht, wenn der betroffenen Person gegen die Entscheidung ein Rechtsmittel zur Verfügung steht.[46]

Art. 23
Auskunftsrecht

1
Jede Person kann vom Verantwortlichen kostenlos Auskunft darüber verlangen, ob Personendaten über sie bearbeitet werden.

2
Die betroffene Person erhält diejenigen Informationen, die erforderlich sind, damit sie ihre Rechte nach diesem Gesetz geltend machen kann und eine transparente Datenbearbeitung gewährleistet ist. In jedem Fall werden ihr folgende Informationen mitgeteilt: […]

f.
gegebenenfalls das Vorliegen einer automatisierten Einzelentscheidung sowie die Logik, auf der die Entscheidung beruht; […][47]

SDSG

Art. 3
Begriffe

1
In diesem Gesetz bedeuten: […]

d.
automatisierte Einzelentscheidung: jede Entscheidung, die ausschliesslich auf einer automatisierten Bearbeitung, einschliesslich Profiling, beruht und die für die betroffene Person mit einer Rechtsfolge verbunden ist oder sie erheblich beeinträchtigt; […]

Art. 11
Automatisierte Einzelentscheidung

1
Das Bundesorgan informiert die betroffene Person über eine ihr gegenüber ergangene automatisierte Einzelentscheidung (Art. 3 Abs. 1 Bst. d); es kennzeichnet die Entscheidung entsprechend.

2
Es gibt der betroffenen Person auf Antrag die Möglichkeit, ihren Standpunkt darzulegen. Die betroffene Person kann verlangen, dass ihr das angewandte Verfahren mitgeteilt und die Entscheidung von einer natürlichen Person überprüft wird.

3
Absatz 2 gilt nicht, wenn der betroffenen Person gegen die Entscheidung ein Rechtsmittel zur Verfügung steht.

DSG

Art. 21
Informationspflicht bei einer automatisierten Einzelentscheidung

1
Der Verantwortliche informiert die betroffene Person über eine Entscheidung, die ausschliesslich auf einer automatisierten Bearbeitung beruht und die für sie mit einer Rechtsfolge verbunden ist oder sie erheblich beeinträchtigt (automatisierte Einzelentscheidung).

2
Er gibt der betroffenen Person auf Antrag die Möglichkeit, ihren Standpunkt darzulegen. Die betroffene Person kann verlangen, dass die automatisierte Einzelentscheidung von einer natürlichen Person überprüft wird.

3
Die Absätze 1 und 2 gelten nicht, wenn:

a.
die automatisierte Einzelentscheidung in unmittelbarem Zusammenhang mit dem Abschluss oder der Abwicklung eines Vertrags zwischen dem Verantwortlichen und der betroffenen Person steht und ihrem Begehren stattgegeben wird; oder

b.
die betroffene Person ausdrücklich eingewilligt hat, dass die Entscheidung automatisiert erfolgt.

4
Ergeht die automatisierte Einzelentscheidung durch ein Bundesorgan, so muss es die Entscheidung entsprechend kennzeichnen. Absatz 2 ist nicht anwendbar, wenn die betroffene Person nach Artikel 30 Absatz 2 des Verwaltungsverfahrensgesetzes vom 20. Dezember 19686 (VwVG) oder nach einem anderen Bundesgesetz vor dem Entscheid nicht angehört werden muss.

Art. 25
Auskunftsrecht

1
Jede Person kann vom Verantwortlichen Auskunft darüber verlangen, ob Personendaten über sie bearbeitet werden.

2
Die betroffene Person erhält diejenigen Informationen, die erforderlich sind, damit sie ihre Rechte nach diesem Gesetz geltend machen kann und eine transparente Datenbearbeitung gewährleistet ist. In jedem Fall werden ihr folgende Informationen mitgeteilt: […]

f.
gegebenenfalls das Vorliegen einer automatisierten Einzelentscheidung sowie die Logik, auf der die Entscheidung beruht; […]

E-VDSG 2021

Art. 13 | Modalitäten der Informationspflichten
1 | Der Verantwortliche und der Auftragsbearbeiter teilen die Information über die Beschaffung von Personendaten in präziser, verständlicher und leicht zugänglicher Form mit.
2 | Teilt er die Informationen in Kombination mit Piktogrammen mit, die elektronisch dargestellt werden, so müssen diese maschinenlesbar sein.[48]
Art. 17 | Überprüfung einer automatisierten Einzelentscheidung
Verlangt eine von einer automatisierten Einzelentscheidung betroffene Person, dass sie ihren Standpunkt darlegen kann oder dass eine natürliche Person die Entscheidung überprüft, so darf sie deswegen nicht benachteiligt werden.[49]

DSV

Art. 13
Modalitäten der Informationspflicht

Der Verantwortliche muss der betroffenen Person die Information über die Beschaffung von Personendaten in präziser, transparenter, verständlicher und leicht zugänglicher Form mitteilen.

*

Lecanuet, 6. ↵

Lecanuet, 6. ↵

Thyraud, 41 (Hervorhebung im Original). ↵

Thyraud, 41 (Hervorhebung im Original). ↵

Thyraud, 41 (Hervorhebung im Original). ↵

EG Kommission, KOM(90) 314, 63. ↵

EG Kommission, KOM(92) 422, 85, 87. ↵

EG Kommission, KOM(92) 422, 91. ↵

EU Kommission, KOM(2012) 11, 28–29. ↵

EU Kommission, KOM(2012) 11, 30. ↵

EU Kommission, KOM(2012) 11, 57–58. ↵

EU Kommission, KOM(2012) 11, 61–62. ↵

EU Kommission, KOM(2012) 11, 71. ↵

ABl. C 378, 09.11.2017, 408 (Hervorhebung im Original). ↵

ABl. C 378, 09.11.2017, 433–435 (Hervorhebung im Original). ↵

ABl. C 378, 09.11.2017, 435 (Hervorhebung im Original). ↵

ABl. C 378, 09.11.2017, 439–440 (Hervorhebung im Original). ↵

EU Rat, ST 9565/15, 32 (Hervorhebung im Original). ↵

EU Rat, ST 9565/15, 41 (Hervorhebung im Original). ↵

EU Rat, ST 9565/15, 93–94 (Hervorhebung im Original). ↵

EU Rat, ST 9565/15, 95–97 (Hervorhebung im Original). ↵

EU Rat, ST 9565/15, 98 (Hervorhebung im Original). ↵

EU Rat, ST 9565/15, 106 (Hervorhebung im Original). ↵

EU Rat, ST 9565/15, 122 (Hervorhebung im Original). ↵

T-PD, E-SEV Nr. 108 2012 I, 15–16 (Hervorhebung im Original). ↵

T-PD, E-SEV Nr. 108+ 2012 I, 17–18 (Hervorhebung im Original). ↵

T-PD, E-SEV Nr. 108+ 2012 II, 15–16 (Hervorhebung im Original). ↵

T-PD, E-SEV Nr. 108 2012 II, 17–19 (Hervorhebung im Original). ↵

T-PD, E-SEV Nr. 108 2012 III, 16 (Hervorhebung im Original). ↵

T-PD, E-SEV Nr. 108 2012 III, 19–20 (Hervorhebung im Original). ↵

T-PD, E-SEV Nr. 108 2012 IV, 18 (Hervorhebung im Original). ↵

T-PD, E-SEV Nr. 108+ 2012 IV, 15–16 (Hervorhebung im Original). ↵

T-PD, E-SEV Nr. 108+ 2012 V, 9–10 (Hervorhebung im Original). ↵

T-PD, E-SEV Nr. 108+ 2012 V, 12 (Hervorhebung im Original). ↵

T-PD, E-SEV Nr. 108+ 2012 VI, 9–10 (Hervorhebung im Original). ↵

T-PD, E-SEV Nr. 108+ 2012 VI, 12 (Hervorhebung im Original). ↵

T-PD, E-SEV Nr. 108+ 2012 VII, 4–5. ↵

T-PD, E-SEV Nr. 108+ 2012 VII, 5–6. ↵

CAHDATA, E-SEV Nr. 108+ 2016, 3–4. ↵

CAHDATA, E-SEV Nr. 108+ 2016, 4. ↵

CAHDATA, E-SEV Nr. 108+ 2016, 4. ↵

EJPD, Teilrevision aDSG 2001, Vorentwurf, 3. ↵

E-DSG 2003, 2158. ↵

VE-DSG 2016, 8. ↵

VE-DSG 2016, 9–10. ↵

E-DSG 2017, 7215. ↵

E-DSG 2017, 7217. ↵

E-VDSG 2021, 7. ↵

E-VDSG 2021, 8. ↵

2

Curriculum Vitae

Fabienne Suter, geboren 1990, erwarb ihre Matura 2009 an der Kantonsschule Kollegium Schwyz. Anschliessend studierte sie bis 2015 Rechtswissenschaften an der Universität Zürich. Nach dem Studium absolvierte sie diverse Praktika beim Kanton Schwyz und arbeitete als Substitutin in der Anwaltskanzlei Acocella Keller Wolf und Schilter. 2017 wechselte sie an die Universität Zürich, wo sie bis 2019 zuerst am Center for Information Technology, Society, and Law (ITSL) sowie anschliessend in der Abteilung Recht und Datenschutz tätig war. Ende 2019 folgte ein Forschungsjahr, finanziert durch den Forschungskredit Candoc der Universität Zürich. Seit Anfang 2021 ist Fabienne Suter beim Volkswirtschaftsdepartement des Kantons Schwyz als Juristin tätig.

*