Es wird wild, meint Mustafa Suleyman. Das breitet er auf 300 Seiten aus und das ist in Summe dann schon ein wenig enttäuschend. Die Erwartungshaltung – jemand weiß so viel über AI und synthetische Biologie, dass er einen 300seitigen Bestseller darüber schreiben kann – ist deutlich zu spezifisch. Suleyman schreibt über alle möglichen Innovations- und Disruptionsthemen und streift seine eigentlichen Kernthemen jeweils an den Kapitelenden.
Seine zwei Kernthesen dabei:
- Containment, also die Begrenzung und Kontrolle von Technologie, ist nicht möglich.
- Containment ist lebensnotwendig.
Das sind natürlich Widersprüche, mit denen Suleyman in der Folge immer wieder spielt. Technologie ist als unaufhaltsame Welle beschrieben, die über die Zivilisation hereinbricht und alles verändert. Das ist eine deterministische Perspektive, die Menschen wenig Spielraum lässt. Technologie treibt und entscheidet und verändert. Mensch und Gesellschaft sind passive Objekte dieser Veränderungen. – Dass Menschen Technologie entwickeln, Gesellschaften Technologien nützen und verändern, um Probleme zu lösen, das sind wechselseitige Abhängigkeiten, die Deterministen noch nie Kopfschmerzen bereitet haben. Determinismus braucht Schwarzweiß-Kontraste.
Natürlich ist Suleyman, Co-Founder von DeepMind, dem Entwickler von AlphaGo, kein Technologie-Gegner. In Kombination mit Biologie und DNA-Synthetisierungsmaßnahmen eröffnen KI und verbesserte Rechenleistung neue Möglichkeiten, die erstens ungeahnte Veränderungen mit sich bringen und zweitens jedem offenstehen. Das birgt ungeheures Potenzial. Fraglich ist allerdings, ob Menschen damit umgehen können. Und diese Frage stellt sich nicht nur in Hinblick auf die Konsequenzen potenzieller überwältigender Entwicklungen, sondern auch in Hinblick auf die produktive Nutzung. KI kann viele Probleme lösen, Rechenleistung kann viele Probleme lösen, in Verbindung mit synthetischer Biologie können sich diese Möglichkeiten potenzieren und zu Verbesserungen oder zur absoluten Katastrophe führen. KI kann Medikamentierung finetunen oder bei der Entdeckung der tödlichsten Bio-Kampfstoffe helfen. Für die Technik macht das wenig Unterschied; die notwendigen Geräte, meint Suleyman, kann sich bald jeder leisten und in Küche oder Garage unterbringen.
Warum tut sich auf diesen Gebieten dann noch nicht mehr? Möglicherweise liegt das auch daran, dass KI und Technologie zwar viele Probleme lösen können, viele Menschen aber weder vor noch nach der Problemlösung wissen, dass es diese Probleme gibt. Noch weniger wissen sie, was man mit ihrer Lösung anfangen kann oder welche Bedrohung dahintersteckt. Cyberrisiken bleiben abstrakt, mit Ki manipulierte DNA noch viel mehr.
Diese Kluft zwischen Potenzial, Realität und Erwartung bremst das Buch öfters aus. Die Wiederholung von Superlativen ermüdet, es gibt eben keine Steigerung mehr zur Vielzahl finaler Krisen, ultimativer Fehler und überwältigender Veränderungen (von denen überdies – Druckerpresse, Dampfmaschine, Internet – doch einige schon in den letzten mehreren hundert Jahren in Gang gesetzt wurden), die den Leser abstumpfen, noch bevor das letzte Drittel des Buchs erreicht ist.
Zu dieser Kluft passt auch, dass eine der letzten großen Cyberattacken, die FBI und andere Geheimdienste aus aller Welt auf den Plan rief und die größten Streaming- und Social Network-Plattformen für längere Zeit lahmgelegt hatte, dann doch nicht das Meisterwerk einer bösartigen Strategie, sondern das Produkt gelangweilter Teenies und ihrer zwielichtigen Marketingideen war.
Weil Containment aber trotz allem notwendig ist, kommt Suleyman dann doch auf den Punkt. Technologie kann nicht mit Vorschriften und inhaltlichen Regulierungen beschränkt werden. Wer Technologie in den Griff bekommen will, muss sich mit Technologie und ihrer Natur beschäftigen, statt alte Kontrollidee auszugraben.
Technischen Problemen muss mit technischen Lösungen begegnet werden, dafür ist technisches Verständnis notwendig. Suleymans Regeln, die Chancen auf Containment gefährlicher Technologien erhalten sollen, gehen über das Beschwören von Gefahren, das Äußern kulturpessimistischer Positionen oder die Aufrufe zu politischem Handeln hinaus. Wer sich sinnvoll mit Technologie beschäftigen will, muss lernen, damit umzugehen, muss die grundlegenden Funktionsweisen verstehen und muss sich die Hände schmutzig machen.
Reflektierende Positionen sind wichtig, die Chance auf Lösungen lebt aber in Erfahrung, Anwendungen, selbstgeschriebenen Codezeilen und eigenen Experimenten. Daraus können Lösungen und Perspektiven entwickelt werden. Der Rest der Beiträge in Technologiedebatten sind hehre Prinzipien aus heißer Luft.
Damit kommt Suleyman letztlich doch zu erstaunlich konkreten Punkten – leider erst auf den letzten zwanzig Seiten seines Buchs. Es ist zu wünschen, dass viele der Prediger, Visionäre und Feuilletontechnologen auch so weit kommen. Und dann auch in Betracht ziehen, diese Empfehlungen ernstzunehmen.
Es wäre wünschenswert.
Der Stand aktueller Diskussionen rund um Klarnamenpflicht, KI–Regulierungen oder Daten und Machine Learning lässt anderes befürchten. Das ist schade. Denn Entwicklung wird dort möglich, wo Augenmerk auf scheinbar Selbstverständlichkeiten gelegt wird, wo Blackboxen geöffnet werden und normalerweise Unhinterfragtes im Detail analysiert wird. Damit wächst die Chance, Dinge in den Griff zu bekommen. Durch den Wettlauf um möglichst spitze Takes und aufrüttelnde Schreckensvisionen sinkt sie eher. Das ist eines der zentralen Argumente, die man aus Sulyemans Buch mitnehmen kann.
