Wer heute mit seiner Bank chattet, spricht oft mit einem Sprachroboter – ohne es zu wissen. Muss die Bank darüber Auskunft geben? Das ist nur eine von vielen Fragen, die sich bei der zunehmenden Verbreitung künstlicher Intelligenz stellen.

Was soll in der Schweiz für Hersteller, Anbieter oder Anwender von künstlich intelligenten Systemen gelten? Der Eidgenössische Datenschutz- und Öffentlichkeitsbeauftragte (EDÖB), der Bürgerinnen und Bürger, Firmen und private Organisationen sowie die Bundesverwaltung bei datenschutzrechtlichen Belangen berät, hat Empfehlungen herausgegeben. Sie gehen deutlich weiter als jene anderer Fachleute:  

Partnerinhalte
 
 
 
 
  • Das Recht auf Transparenz. Wer KI-Systeme herstellt, anbietet oder verwendet, muss offenlegen, welchen Zweck er damit verfolgt, wie das System funktioniert und welche Datenquellen er verwendet. 
  • Das Recht, einer automatischen Bearbeitung meiner Personendaten zu widersprechen. Ohne mein Einverständnis dürfen KI-Systeme meine Personendaten nicht verwenden. Personendaten sind etwa Name, Adresse oder Geburtsjahr. Das Gesetz definiert zudem eine besondere Gruppe von Personendaten, bei deren Bearbeitung die Gefahr einer Grundrechtsverletzung besonders gross ist. Dazu gehören etwa religiöse, weltanschauliche oder politische Ansichten, Angaben über die Gesundheit, über administrative oder strafrechtliche Verfolgungen. Auch diese Daten darf eine KI nicht bearbeiten, wenn ich das nicht will. 
  • Das Recht, zu verlangen, dass automatisierte Einzelentscheidungen von einem Menschen überprüft werden. Banken setzen heute KI-Systeme ein, um zu beurteilen, ob jemand kreditwürdig ist. In Personalabteilungen trifft künstliche Intelligenz eine Vorentscheidung, ob jemand eingestellt wird oder nicht. Wenn ein Kreditantrag oder eine Stellenbewerbung nur von einer KI entschieden wurde, kann ich eine Neubeurteilung durch eine reale Person in der Firma verlangen. 
  • Das Recht, zu erfahren, ob ich mit einer Maschine spreche oder korrespondiere. Immer mehr Firmen setzen im Kundenkontakt auf künstlich intelligente Sprachroboter. Wenn ich nachfrage, muss mir das Unternehmen dazu Auskunft geben. Eng damit verbunden ist auch das nächste Recht.
  • Das Recht, zu erfahren, ob Programme verwendet werden, die die Verfälschung von Gesichtern, Bildern oder Sprachnachrichten von identifizierbaren Personen ermöglichen. 
  • Das Recht, zu erfahren, ob die von mir eingegebenen Daten zur Verbesserung der selbstlernenden Programme oder zu weiteren Zwecken weiterbearbeitet werden. Um zufriedenstellende Ergebnisse zu liefern, sind die meisten KI-Anwendungen auf immer neue Daten angewiesen. Ob auch meine Daten dazugehören, muss mir der Anwender der Software mitteilen. 
  • Recht auf Datenherausgabe oder Datenübertragung. Ich kann bei jedem Betreiber von künstlich intelligenten Anwendungen verlangen, dass er meine Personendaten herausgibt. 
  • Recht auf Berichtigung unrichtiger Daten und auf Löschung. Meine Personendaten müssen stimmen. Unrichtige Daten muss der Betreiber einer KI-Anwendung berichtigen. Wenn ich es verlange, muss er alle meine Personendaten löschen – ob sie richtig sind oder nicht. 
  • Recht auf Information über Verletzungen der Datensicherheit. Wenn ein Betreiber einer KI-Anwendung meine Personendaten verwendet und gehackt wird, muss er mir das mitteilen. Diese Meldepflicht besteht auch bei anderen Ereignissen (Malware, Verlust oder Diebstahl von Speichermedien), die die Datensicherheit verletzen. 

Der EDÖB empfiehlt Bürgerinnen und Bürger, die sich in ihren Rechten verletzt fühlen, ihre Forderungen schriftlich an die betreffenden Firmen zu senden. Falls sie mit der Antwort nicht zufrieden sind, gibt es die Möglichkeit, diese an den EDÖB weiterzuleiten. «Wir werden sie analysieren und bei gerechtfertigten Meldungen bei den Unternehmen vorstellig werden», so eine EDÖB-Sprecherin. 

Bei schweren individuellen Verletzungen der Ehre und der Persönlichkeit durch künstliche Intelligenz solle man sich eine Anwältin oder einen Anwalt nehmen. Falls dieser nicht zum Ziel komme, könne der Gang an Zivilgerichte angezeigt sein, da der EDÖB für Betroffene keine finanziellen Abgeltungen durchsetzen kann.

Der Datenschützer gehe zu weit, sagen andere Fachleute

Den beiden Datenschutzexperten David Rosenthal und Martin Steiger geht der EDÖB mit seiner Interpretation des Datenschutzgesetzes deutlich zu weit. Es gebe weder eine generelle Pflicht, offenzulegen, ob ein KI-System zur Anwendung komme, noch das generelle Recht, zu erfahren, ob ich mit einer Maschine spreche oder nicht. In der Schweiz sehe das Datenschutzgesetz zwar ein Recht auf Widerspruch vor, verlange grundsätzlich aber nicht eine Einwilligung für die Verwendung von Personendaten in KI-Systemen.

Der EDÖB stellt sich auf den Standpunkt, dass die Gerichte diese strittigen Fragen beurteilen müssen, wenn jemand seine Anordnungen bestreite.


Dieser Artikel erschien erstmals am 5. 2. 2024; aktualisiert am 16. 5. 2024.