Harari funktioniert wie eine intellektuelle Wurstmaschine: Oben kommt ziemlich beliebiges Zeug rein, unten kommt etwas heraus, das vielen Menschen schmeckt. Das verwundert manche, weil das Ergebnis eigentlich nicht besonders gut gemacht ist.
Als Historiker pflegt Harari einen lockeren Umgang mit Technik und Politik, nimmt sich viel Zeit und Raum, Argumente auszuwalzen, die die Philosophie schon länger geklärt und gut systematisch aufbereitet hätte und weicht manchmal auch in schlicht mythische Gefilde aus.
In Nexus beschäftigt sich Harari mit KI und potenziellen Risiken und Nebenwirkungen. Gleich eingangs bemüht er Phaeton und Goethes Zauberlehrling, um zu “argumentieren”, dass sich Technik leicht zur Bedrohung für Menschen wandeln kann. Phaeton griechischer Halbgott, wollte den Sonnenwagen lenken und ließ´sich nicht davon abbringen, dass nur echte Götter die Pferde dieses Gespanns im Griff haben können. Die Geschichte ging nicht gut aus, seither geht die Sonne unter. Der Zauberlehrling wollte Arbeit an den Besen outsourcen, hatte den aber nicht so weit im Griff, ihn dann auch wieder abbremsen zu können, und musste peinlicherweise seinen Lehrherrn darum bemühen.
Beide Storys können als Technikallegorien gelesen werden, ebenso gut sind es aber auch Moritaten über Anmaßung und Herrschaft, über Souveränität und Kontrolle und über die Notwendigkeit der Unterordnung. Ist das wirklich der Horizont, vor dem wir über Technik und Verantwortung reden sollten?
Harari warnt vor negativen Folgen von Technologie und insbesondere künstlicher Intelligenz. KI habe, anders als andere Technologien, das Potenzial, sich weiterzuentwickeln, den Menschen zu umgehen, Prozesse in Gang zu setzen und damit kontrollierte Bahnen zu verlassen. Sie könne Entscheidungen treffen, die Menschen weder nachvollziehen und verstehen können – vom Büroklammer-Produzenten, der die Zivilisation ausrottet, bis zum berühmten AlphaGo-Spielzug fehlt hier keines der gängigen Beispiele.
Die Schwächen dieser Argumente sind zweierlei: Erstens sind auch in diesen Beispielen die Regeln von Menschen gemacht worden. Es gab klare Aufgabenstellungen und geforderte Ergebnisse. Insofern trifft das Argument der überraschenden Entscheidungen nicht ganz. Solche Entscheidungen sind vielmehr der Sinn und Zweck von Machine Learning. Zweitens sind die Visionen des Grenzen überwindenden Computers, der selbstständig handelt, noch zu einem sehr großen Teil Science Fiction. Artificial General Intelligence ist noch nicht hier und sogar bei OpenAI streitet man darüber, ob sie jemals realisiert werden kann. Anders als andere überwundene Hürden der Informatik ist das nicht in erster Linie eine Frage von Rechenkapazität, es ist eine strukturelle Frage, wie ein Computer nicht nur zum Beispiel Produkte recherchiert, sondern sie auch kauft, die Zustellung organisiert, dem Postboten die Tür öffnet und das Paket auspackt. Alles machbar, aber jemand muss die Systeme schaffen, deren Grenzen der Computer dann überwinden kann.
Harari ist in seiner Verwendung des Begriffs “Computer” sehr flexibel. Computer kann hier vom Smartphone bis zum Terminatoren steuernden Skynet alles sein. Ebenso flexibel und unscharf sind dann auch die meisten Argumente. Meistens kreisen sie um den Kern, dass Regulierung notwendig, aber schwierig ist. Darauf können sich auch Technobürokraten einigen. Was allerdings durchgehend fehlt, ist ein Bild dafür, was auf dem Spiel steht, was sich verändert, welche Kräfte hier einander gegenüberstehen und für Spannungen sorgen. Harari lässt Mensch und Technik als diffuses “wir” und “die” gegeneinander antreten, er setzt voraus, dass Technik dem Menschen, seiner Natur und deren Zielen entgegensteht. Allein die Trennung ist, liest man zeitgenössische Technikphilosophie, nicht ganz up to date. Harari bemüht viele Grundlagen (die für die weiteren Argumente im Buch mitunter gar nicht notwendig sind), die Rolle von Technologie bleibt aber großteils unscharf. Das zugrundeliegende Technikverständnis unterscheidet sich kaum vom pessimistischen Techno-Determinismus eines Jacques Ellul aus den 60er Jahren, der Technik als treibende Kraft sah, deren Entwicklung Gesellschaft, Mensch, Natur, Kultur oder was man auch als Antipode sehen möchte, schlicht ausgeliefert ist. Bei der engen Verwicklung von Mensch und Technik, die Smartphones in Körperteile, Social Networks in Bewusstseinsinhalte und Kommunikationsnetze in Hirnerweiterungen verwandelt, ist das eine schwer haltbare Annahme.
Hararis Ausflüge in Wahrheits- und Informationstheorie oder auch Politikwissenschaft sind mitunter befremdlich. Er greift vieles auf, das in den jeweiligen Disziplinen schon gut ausdiskutiert und -formuliert wurde, ignoriert dabei den Stand des Wissens, holt selbst weit aus und präsentiert einen mit anderen Worten ausgedrückten wissenschaftlichen Konsens als Ergebnis seiner Überlegungen. Kann man machen, ist im Sinn der Populärwissenschaftlichkeit vielleicht auch ein für viele Leser angenehm voraussetzungsloser Zugang, hinterlässt aber letztlich doch einen esoterisch-geheimwissenschaftlich-wissenschaftskritischen Nachgeschmack, insbesondere wenn Harari „seine“ Erkenntnisse gegen die eines „naiven“ Verständnisses abgrenzt.
Harari und auch seine Verleger wissen das wohl genau; 500 Seiten Text werden von 100 Seiten Anmerkungen begleitet, die diese Schwächen wieder ausgleichen. Das lesen vermutlich die wenigsten der begeisterten Harari-Leser, und so kann man 500 Seiten gelesen haben, glauben, viele neue Einsichten gewonnen zu haben – und dennoch nicht einen neuen oder neu interpretierten Gedanken gelesen haben. Das ist heute ein Erfolgsrezept.
