«Was Kinder heute lernen, wird bald bedeutungslos sein»

Yuval Harari ist unerreichbar. «Er ist momentan zur Meditation in der Wüste und mehrere Wochen für niemanden zu sprechen», sagt die Bürochefin des Professors aus Israel. Auch sein persönlicher Mitarbeiter und Ehemann vertröstet uns auf später. Die Fragen beantwortet der 42-Jährige schliesslich schriftlich. So könne er sich besser konzentrieren.

Beobachter: Herr Harari, Sie schreiben in Ihrem aktuellen Buch, die Menschen könnten alle Macht an Algorithmen verlieren. Müssen wir Angst haben?
Yuval Harari: Wir sollten sehr auf der Hut sein. Die Macht verlagert sich in immer mehr Bereichen weg von den Menschen und hin zu Algorithmen. Vielleicht werden bald sogar die wichtigsten Entscheide in Politik und Wirtschaft von Algorithmen getroffen.

Beobachter: Wie bitte?
Harari: Ich glaube zwar nicht, dass eine künstliche Intelligenz etwa den Platz der deutschen Kanzlerin Angela Merkel einnehmen wird. Aber ihre Entscheide werden von künstlicher Intelligenz beeinflusst werden. Merkel könnte dann nur noch aus Optionen auswählen, die auf der Analyse grosser Datenströme und algorithmischer Berechnungen beruhen. Ihre Entscheide werden eher die Sicht der künstlichen Intelligenz widerspiegeln als die Weltsicht der Menschen.

Beobachter: Auch heute entscheiden Politiker aufgrund von Sachzwängen.
Harari: Heute können Politiker weltweit auswählen, welche Wirtschaftspolitik sie betreiben wollen. Aber in nahezu allen Fällen bilden ihre Optionen nur die kapitalistische Perspektive ab. Die Politiker haben die Illusion einer Wahl, aber die wirklich wichtigen Entscheide wurden bereits zuvor gefällt – durch Ökonomen, Banker und Geschäftsleute. Innerhalb der nächsten Jahrzehnte werden die Politiker nur noch aus einem Menü auswählen können, das eine künstliche Intelligenz geschrieben hat.

Beobachter: Wie wird das unser Leben verändern?
Harari: Wenn Algorithmen die besseren Entscheide treffen als wir – in Politik, Wirtschaft, sogar in der Liebe –, wird sich unser Konzept von Menschlichkeit und vom Leben ändern. Die Menschen haben sich an die Vorstellung gewöhnt, dass das Leben ein Drama der Entscheidungsfindung Lebensplanung «Ich kann mich nie entscheiden» ist. Die Demokratie und die freie Marktwirtschaft sehen den Einzelnen als rationalen Menschen, der vernünftige Entscheide trifft. Kunstwerke – Shakespeares Theaterstücke, Jane Austens Bücher oder Hollywood-Komödien – drehen sich meist um Helden, die vor elementaren Entscheidungen stehen: Sein oder Nichtsein? Mr. Collins heiraten oder Mr. Darcy? Auch die christliche und die muslimische Religion fokussieren auf Entscheidungen, indem sie das ewige Seelenheil oder die Verdammnis vom Verhalten abhängig machen.

«Die Frage, wie wir die Macht der Algorithmen vernünftig einsetzen, ist weit wichtiger als die Wirtschaftskrise, die Kriege im Nahen Osten oder die Flüchtlingskrise in Europa. Die Zukunft der Menschheit hängt davon ab.»

Yuval Harari, Historiker und Bestsellerautor

Beobachter: Ist es schlimm, wenn wir uns bei solchen Entscheiden auf Algorithmen stützen?
Harari: Heute verlassen wir uns auf Amazon, um Bücher auszuwählen, und auf Google Maps, um an der Kreuzung zwischen links und rechts zu entscheiden. Doch mit genügend Daten und genügend Rechenkapazität werden wir bald von einer künstlichen Intelligenz abhängen, um das Studienfach zu wählen, den Arbeitsort und den Ehepartner.

Beobachter: Was ist die Folge?
Harari: Das Leben wird kein Drama der Entscheidungsfindung mehr sein. Demokratie und freie Marktwirtschaft ergeben nur noch wenig Sinn. Ebenso die meisten Religionen und Kunstwerke. Stellen Sie sich ein Shakespeare-Stück vor, in dem der Google-Algorithmus alle schweren Entscheide fällt. Hamlet hätte ein simples Leben. Aber wäre es auch sinnvoll? Wie sieht das Leben aus, wenn die Menschen die Entscheidungsfindung an einen Algorithmus delegieren? Haben wir Modelle, die so einem Leben Sinn geben?

Beobachter: Kann man die Macht der Codes beschränken?
Harari: Ja. Die Technologie selbst ist nie plangesteuert. Wir können mit denselben technologischen Durchbrüchen unterschiedliche Gesellschaftsmodelle kreieren. Im 20. Jahrhundert nutzten die Menschen die Technologie der industriellen Revolution – Züge, Elektrizität, Radio, Telefon –, um liberale Demokratien, kommunistische Diktaturen und faschistische Regime zu gründen. Im 21. Jahrhundert wird der Aufstieg der künstlichen Intelligenz Künstliche Intelligenz «Am Anfang sind sie doof» und der Biotechnologie die Welt verändern. Aber keine einzige Folge dieses Aufstiegs ist zwingend.

Beobachter: Welche Wahl haben wir?
Harari: Wir können die Macht der Algorithmen nutzen, um sehr unterschiedliche Arten von Gesellschaften entstehen zu lassen. Wie wir sie vernünftig und weise einsetzen, ist die derzeit wichtigste Frage der Menschheit. Sie ist weit wichtiger als die Wirtschaftskrise, die Kriege im Nahen Osten oder die Flüchtlingskrise in Europa. Die Zukunft der Menschheit und vielleicht des Lebens hängt davon ab, wie wir künstliche Intelligenz und Biotechnologie einsetzen werden.

«Sie könnten sich für einen Job bewerben und abgelehnt werden, nicht weil Sie schwul, ein Muslim oder schwarz sind, sondern weil Sie Sie sind. Weil der Algorithmus etwas an Ihrer DNA nicht mag.»

Yuval Harari

Beobachter: Können Algorithmen auch humanistische Werte wie Gleichheit stärken?
Harari: Die Machtverschiebung zu Algorithmen hat wahrscheinlich gute und schlechte Folgen. Sie stimmen mir wohl zu, dass es ungerecht ist, ethnische Minderheiten oder Homosexuelle zu diskriminieren. Aber wenn sich ein Schwuler in Ihrer Firma um einen Job bewirbt, diskriminieren Sie ihn unterbewusst vielleicht doch und stellen ihn nicht an. Wenn aber ein Computer die Bewerbungen aussiebt, den wir so programmiert haben, dass er Rasse und sexuelle Orientierung ignoriert, wird er sich daran halten. Der Computer hat kein Unterbewusstsein.

Beobachter: Können Maschinen besser sein als Menschen?
Harari: Es ist nicht einfach, eine Bewerbungssoftware Videobewerbung «Diese Methode ist unmenschlich» vorurteilsfrei zu programmieren. Es lauert immer die Gefahr, dass die Ingenieure ihre eigenen unterbewussten Vorurteile mit einprogrammieren. Aber es ist wohl einfacher, einen Algorithmus zu korrigieren, als die Menschen von rassistischen und homophoben Vorurteilen zu befreien. Die Maschinen könnten aber neue Arten von Vorurteilen einführen.

Beobachter: Produziert eine Maschine eigene Vorurteile?
Harari: Ein Algorithmus, der atemberaubende Mengen an biometrischen Daten auswertet, könnte etwa zum Schluss kommen, dass eine bestimmte Genkombination mit Unzuverlässigkeit zusammenhängt. Als Konsequenz könnte er Menschen mit dieser Genkombination diskriminieren. Wir würden vielleicht nie realisieren, dass der Algorithmus das tut. Und wenn wir es bemerkten, könnten wir unfähig sein, die extrem komplexen Berechnungen des Algorithmus zu verstehen. Sie könnten sich für einen Job bewerben und abgelehnt werden, nicht weil Sie schwul, ein Muslim oder schwarz sind, sondern weil Sie Sie sind. Weil der Algorithmus etwas an Ihrer DNA nicht mag – was Sie aber nie wissen werden.

«Bis 2050 wird die Idee komplett veraltet sein, ein Leben lang denselben Beruf zu haben.»

Yuval Harari

Beobachter: Sie sagen, der Arbeitsmarkt werde kollabieren, weil die Maschinen unsere Jobs besser machen als wir. Als die Dampfmaschine erfunden wurde, glaubten das viele Leute auch. Sie lagen falsch.
Harari: Früher konkurrierten Maschinen mit uns um körperliche Fähigkeiten. Jetzt konkurrieren sie mit uns auch um geistige Fähigkeiten. Viele, wenn nicht alle heutigen Berufe könnten bis 2050 verschwinden: T-Shirts nähen, Taxi fahren, Krankheiten heilen, Versicherungen verkaufen, Chemie lehren. Viele neue Stellen werden entstehen, aber das wird das Problem nicht unbedingt lösen. Menschen haben grundsätzlich zwei Arten von Fähigkeiten: körperliche und geistige. Wenn Computer uns in beiden Arten übertreffen, könnten sie uns in den neu entstehenden Jobs ebenfalls überlegen sein.

Beobachter: Die Arbeitswelt wird seit 200 Jahren automatisiert. Die Jobs sind noch immer da.
Harari: Bei früheren Automationsschritten fanden niedrig qualifizierte Arbeitnehmer immer eine neue Stelle. 1920 konnte ein Feldarbeiter, der wegen der Mechanisierung der Landwirtschaft entlassen wurde, eine neue Stelle in einer Traktorfabrik finden. 1980 fand ein entlassener Fabrikarbeiter eine Stelle an der Supermarktkasse. Die Stellenwechsel waren für Betroffene machbar, weil es sich immer um Arbeitsplätze für Niedrigqualifizierte handelte. Aber wenn Textilarbeiter im Jahr 2040 ihren Job an eine künstliche Intelligenz verlieren, können sie nicht als Softwareingenieur neu beginnen. Dazu fehlen ihnen die Fähigkeiten.

Beobachter: Werden die Arbeitslosenzahlen explodieren?
Harari: Wenn wir davon ausgehen, dass wir heute das immense Potenzial von künstlicher Intelligenz und Robotik bei weitem nicht ausschöpfen, wird die Revolution der künstlichen Intelligenz mehr sein als ein einmaliger Wendepunkt auf dem Arbeitsmarkt. Es wird eine Abfolge sein von immer grösseren Disruptionen. Bereits heute erwarten wenige Angestellte, dass sie ein Leben lang dieselbe Stelle haben werden. Bis 2050 wird sogar die Idee komplett veraltet sein, ein Leben lang denselben Beruf zu haben. Selbst wenn wir Menschen im Spiel bleiben, indem wir neue Arbeitsplätze erfinden und neue Fähigkeiten erwerben, müssen wir uns fragen, ob wir das emotionale Durchhaltevermögen haben für ein Leben im konstanten Umbruch. Veränderung ist stressig. Schon jetzt erleben wir eine globale Epidemie des Stresses. Wie viel mehr erträgt der menschliche Geist, bevor er zerbricht?

«Das meiste, was die Kinder heute in der Schule lernen, wird wahrscheinlich bedeutungslos sein, wenn sie 40 sind.»

Yuval Harari

Beobachter: Was sollten Kinder in der Schule lernen angesichts dieser Herausforderung?
Harari: Niemand weiss wirklich, wie der Arbeitsmarkt im Jahr 2050 aussehen wird. Daher weiss niemand, was junge Leute lernen sollten. Somit ist es wahrscheinlich, dass das meiste, was sie heute in der Schule lernen Digitalisierung Hightech macht Schule , bedeutungslos sein wird, wenn sie 40 sind.

Beobachter: Was würden Sie tun?
Harari: Mein bester Rat ist, sich auf die persönliche Belastbarkeit und emotionale Intelligenz zu fokussieren. Traditionellerweise war das Leben in zwei Hauptteile gesplittet – eine Lern- und eine Arbeitsperiode. Bis zum Jahr 2050 wird dieses Modell überholt sein. Menschen werden lebenslang lernen und sich wieder und wieder neu erfinden müssen. Die Welt wird eine komplett andere sein, eine extrem hektische. Das Tempo der Veränderung wird wahrscheinlich noch stärker zunehmen.

Beobachter: Ihre Prognosen sind düster. Was sagen Sie zu den euphorischen Perspektiven, die Firmen wie Google und Facebook verbreiten?
Harari: Konzerne und Unternehmer, die die technologische Revolution anführen, neigen naturgemäss dazu, ihre Erfindungen zu lobpreisen. Alarm schlagen müssen Soziologen, Philosophen und Historiker, wie ich es bin. Wir müssen erklären, was alles schrecklich schieflaufen kann Überwachung «Wir sind kollektiv in eine Honigfalle getappt» .