«Der Computer sieht nur den Tumor»

Beobachter: Was können Maschinen, das sie vor kurzem noch nicht konnten?
Effy Vayena: Sie können selber lernen. Wir zeigen dem Computer zum Beispiel einige Tausend Bilder von Katzen – aber nicht, was diese ausmacht. Er leitet daraus dann eigene Regeln ab, wie er eine Katze erkennen kann. Der Computer findet also selber eine Lösung für ein Problem. Dieses «Machine Learning» Künstliche Intelligenz «Wir wollen den ‹Brain-Code› knacken» gibt es zwar schon länger. Aber weil Computer heute viel mehr Daten verarbeiten können als noch vor ein paar Jahren, und weil viel mehr Daten verfügbar sind, können wir das Prinzip nun in vielen Bereichen anwenden. Etwa in der Medizin, zur Analyse von Patientenbildern. Oder bei Übersetzungen.

Sind Computer also noch nicht klüger als wir?
Nein. Aber sie können einzelne Aufgaben besser lösen: schneller und genauer einen Tumor erkennen, den Verkehr effizient steuern Mobilität Ist dieses Wachstum noch zu bewältigen? , solche Sachen. Von menschlicher Erkenntnisfähigkeit sind sie aber weit entfernt. Ärztinnen und Ärzte untersuchen den Menschen ganzheitlich, fragen nach den Lebensumständen, merken, ob es jemandem psychisch schlecht geht. Der Computer sieht nur den Tumor.

Wird es jemals eine dem Menschen ähnliche, umfassende künstliche Intelligenz geben?
Ich möchte niemals nie sagen. Der Computer als selbst denkendes Wesen, das die Kontrolle über den Menschen übernimmt, ist für mich aber Science-Fiction. Ich setze mich lieber mit den Herausforderungen auseinander, die künstliche Intelligenz heute schon an uns stellt.
 

«Gefährlich wird es, wenn eine Firma exklusiven Zugang zu öffentlichen Daten bekommt.»

Effy Vayena, Professorin für Bioethik an der ETH Zürich

Um zu lernen, brauchen Computer unsere Daten. Wie können wir Forschung ermöglichen und zugleich verhindern, dass zum Beispiel heikle Gesundheitsdaten Elektronisches Patientendossier Die Gier nach Gesundheitsdaten bei der Krankenkasse landen?
Wer Zugriff auf welche Daten haben darf, ist durch Gesetze grundsätzlich definiert. Wir sollten uns jedoch bewusst sein, dass Missbrauch von Daten existiert, und uns mit den möglichen Konsequenzen auseinandersetzen. Denn für Fortschritte in der Medizin sind Gesundheitsdaten unabkömmlich. Darum müssen wir dafür sorgen, dass diese Forschung mit grösstmöglicher Sorgfalt durchgeführt wird und mögliche Risiken vermieden oder gemindert werden.

Ich will aber wissen, wem ich meine Daten gebe Datenschutz Wer darf was über mich wissen? – und wofür.
Ich glaube, Sie wollen vor allem sicher sein, dass Ihre Daten nur für sinnvolle, ethisch korrekte Forschung verwendet werden. Das können Sie aber kaum selber prüfen. Darum regeln wir das heute mit unterschiedlichen Formen von Einverständnis und institutionalisierter Kontrolle. Zum Beispiel mit einer Vollmacht, dem sogenannten Generalkonsent. Dabei entscheidet man grundsätzlich, ob man seine verschlüsselten Daten für die Forschung zur Verfügung stellen will oder nicht – und eine vertrauenswürdige Institution entscheidet dann, wer mit diesen Daten arbeiten darf.

Wer ist diese Institution?
Je nach Projekt ist dafür die kantonale Ethikkommission zuständig, oder das Forschungsprojekt wird von der wissenschaftlichen Ethikkommission der Forschungsinstitution geprüft.

Um Forschung zu ermöglichen, müssen wir also die Hoheit über unsere Daten an staatliche Stellen abgeben?
Nicht über unsere Daten, sondern über die Regeln, wie sie verwendet werden dürfen. Wie in anderen Bereichen auch wird die Wahrung des öffentlichen Interesses an Organisationen delegiert. Ein Ethikrat kann Forderungen stellen, Sicherheiten verlangen, Verbesserungen einbringen und Missbräuche einklagen. Wenn er seiner Kontrollaufgabe nicht nachkommt, kann man ihn dafür belangen. Ich bin überzeugt, wir erreichen mit diesem Prinzip sowohl grösstmöglichen Schutz als auch maximal sinnvolle Forschung.

Der Wissenschaftler Jürgen Schmidhuber hat vorgeschlagen, wir sollten die Freiheit erhalten, unsere Gesundheitsdaten zu verkaufen. Was halten Sie davon?
Ich bin keine Anhängerin dieser Idee. Wir verkaufen ja auch keine Körperteile. Weder in der öffentlichen Forschung noch in der Privatwirtschaft wäre das rechtlich zulässig. Denn die nächste Frage, die sich stellen würde, wäre: Wer kann sich davor schützen und wer ist gezwungen, zu verkaufen? Abgesehen davon haben die Daten von Einzelnen für die Forschung meistens keinen grossen Wert. Ich sehe hier keinen Markt, aber viele gravierende Risiken.

Die treibenden Kräfte in der Forschung zur künstlichen Intelligenz sind private Firmen. Wie verhindern wir, dass wir komplett von ihnen abhängig werden?
Gefährlich wird es, wenn eine Firma exklusiven Zugang zu öffentlichen Daten bekommt, sie die Lösung für ein Problem entwickeln kann und das Gesundheitswesen oder die Stadt von ihr abhängig wird. Wenn Private Zugang zu öffentlichen Daten erhalten, darf das nur unter Bedingungen geschehen, die das öffentliche Interesse schützen und Missbräuche ausschliessen.
 

«Der Computer, der die Kontrolle über den Menschen übernimmt, ist für mich Science-Fiction.»

Effy Vayena, Professorin für Bioethik an der ETH Zürich

In China Bewertungen Ich like dich. Du mich nicht? muss sich die Forschung nicht mit Datenschutz und Persönlichkeitsrechten herumschlagen. Verlieren wir den Anschluss, wenn wir an unseren Prinzipien festhalten?
Im Gegenteil. Unsere Forschungskultur bringt zurzeit immer noch die besten Ergebnisse hervor. Noch vor nicht allzu langer Zeit, man denke ein paar Jahrzehnte zurück, haben wir selber ethisch problematische Forschung betrieben, zum Beispiel gefährliche medizinische Experimente an Menschen – ohne deren Einwilligung. Wir haben aber gemerkt, dass Forschung, die Menschenwürde und Menschenrechte ignoriert, keinen wirklichen Fortschritt darstellt.

Millionen Menschen haben diesen Sommer ein Foto von sich auf Faceapp geladen, um zu sehen, wie sie in 20 Jahren aussehen könnten. Warum zögern wir, einem Spital unsere entpersonalisierten Blutdruckdaten zu geben, stellen aber selbst extrem persönliche Dinge irgendwelchen Firmen bedenkenlos zur Verfügung?
Ich glaube nicht, dass wir Menschen diese beiden Szenarien explizit vergleichen. Entscheidungen fallen manchmal spontan und ohne komplexe Abwägungen. Auch das macht uns Menschen aus, und es sollte nicht ausgenutzt werden.

Können Maschinen heute fundiertere Entscheidungen treffen als wir?
Computer können in bestimmten Fällen klar definierte Probleme besser lösen als wir. Aber wir sind komplexe Wesen in einer komplexen Welt. Wenn wir alle Entscheidungen einer Künstlichen Intelligenz überlassen, werden wir aber die Fähigkeit verlieren, abzuwägen, Vor- und Nachteile eines Entscheids herauszuarbeiten, auf den Bauch zu hören und unserem Urteil 
zu vertrauen. Wir werden handlungsunfähig. Darum müssen wir lernen, uns von Computern helfen zu lassen, Entscheidungen aber immer noch selber zu treffen Entscheidungen Gefühl oder Verstand? .