In den 90ern war das Internet Nerdkram, Artificial Intelligence beschränkte sich für die Öffentlichkeit auf ein paar Spracherkennungs- und Simulationstools, Machine Learning bestand in Diagnostiksoftware und Big Data gab es noch nicht.

Diese Rahmenbedingungen muss man wohl vorausschicken, wenn man den Text von Collins und Kusch auf aktuelle Fragestellungen anwenden möchte. Eine wesentlich unterschiedliche Perspektive: Heute ist Bias eines der zentralen Themen rund um Artificial Intelligence und Data Science; der Themenkomplex beschreibt ein Defizit von Technologie, die durch menschliche Vorurteile und soziale Einflüsse verunreinigt wird. Damals wandten sich die Autoren gegen die ihrer Meinung nach naive Vorstellung, Maschinen könnten selbstständig handeln und entscheiden und kritisierten in dieser Vorstellung eine Verkürzung, die die Relevanz menschlicher und sozialer Einflüsse unzulässig ignoriere.

Können Maschinen handeln?

Das ist das zentrale Thema dieses Buchs: Wie weit und unter welchen Umständen können Maschinen, wenn überhaupt, so etwas wir Agency besitzen?

Harry Collins und Martin Kusch entwickeln detaillierte Handlungskonzepte, um diese Frage zu diskutieren. In erster Linie unterscheiden sie zwischen Handeln (action) und Verhalten (behavior). Verhalten ist eine reaktive Existenzweise, die mit ihrer Umwelt reagiert, aber keinen Plan verfolgt und immer in konkrete Kontextbedingungen eingebettet ist und von diesen ausgelöst und gesteuert wird. Handeln besteht aus Abläufen, die nicht nur Reaktionen auf äußere Einflüsse sind oder einem anderen vorgefertigten Bauplan folgen. Auch dabei unterscheiden Collins und Kusch unterschiedliche Typen: Mimeomorphe Handlungen folgen dem immer gleichen Plan, können imitiert werden und sind sehr spezifisch in ihrer Reichweite und Wirksamkeit. Mimeomorphe Handlungen können nicht angewendet werden, wenn sich Rahmenbedingungen ändern, wenn Entscheidungen zu anderen als bereits bekannten Fragen (mit bekannten Antworten) getroffen werden müssen. Dann sind polymorphe Handlungen notwendig, die keinem vorgegebenen Ablauf folgen müssen sondern auch unvorhergesehene Abzweigungen nehmen können.

Wiederholbarkeit und Relevanz

Dieses auf den ersten Blick einleuchtende Konzept offenbart seine Schwierigkeit auf den zweiten Blick: Was ist gleich, wo beginnen Unterschiede? Welche Unterschiede sind relevant? Inwiefern können und sollen in die Diagnose von Unterschieden auch Positionen und Perspektiven des Unterscheidenden einbezogen werden? Collins und Kusch deuten dazu eine „sociology of the same“ an: „The whole pattern of human life could be said to be a matter of what we see as the same and the way boundaries between things are shifted about“. Das ist ein spannender Gedanke, der sich in viele Dimensionen verzweigen lässt. Informationstheorien liegt eine Frage von Unterschieden zugrunde – Luciano Floridi führt dazu viel über Levels of Abstraction als Gradmesser von Unterschieden aus. Bei Carnap und Bar Hillel führt die Betonung der Relevanz von Unterschieden zum Informationsparadoxon: Je größer ein Unterschied ist, desto gehaltvoller ist Information – bis zu dem Preis, dass die gehaltvollste Information der logische Widerspruch ist. Die Diagnose von Unterschieden ist eine zentrale Aufgabe von Machine Learning-Prozessen, im Fall der Segmentierung oder Clusterbildung sollen dabei Unterschiede erkannt werden, die für den Menschen nicht ersichtlich gewesen wären. Unterschiede sind eines der Kernthemen von Data Science, die Entscheidungen verspricht – also die Diagnose von Unterschieden und die Auswahl von unterschiedlichen Optionen.

Für Collins und Kusch ist Wiederholung ein zentrales Unterscheidungskriterium. Wiederholung gleicher Abläufe, die mimeomorphe Handlungen ermöglicht, setzt unveränderliche Umgebungen voraus. Es sind sehr konkreten spezifische Kontextangaben erforderlich, um Automatisierung zu ermöglichen. Mit Wiederholung werden Abläufe sebstverständlich, Neuigkeiten diffundieren ins Allgemeinwissen; in der Wissenschaftsphilosophie werden solche Prozesse als Closure oder Black Boxing diskutiert. Collins und Kusch möchten hier allerdings noch einmal unterscheiden.

Verallgemeinerbarkeit und Abstraktion machen den Unterschied

Es reicht nicht aus, wenn Abläufe oder Erkenntnisse akzeptiert und nicht mehr hinterfragt werden (wie bei den Konzepten von Closure oder Black Boxing). Damit Abläufe als mimeomorphe Handlungen gesehen werden können, müssen sie nicht nur repetitiv und akzeptiert sein, sie müssen auch spezifisch und konkret sein. Das bedeutet, sie sind nicht verallgemeinerter und beziehen sich immer auf einen konkreten Kontext und Anlass. Die Autoren exerzieren das am Beispiel von Vakuumpumpen durch: Robert Boyle und dessen Assistenten mussten bei der Erfindung der Vakuumpumpe im 17. Jahrhundert eine Reihe von neuen Abläufen erdenken, ausprobieren und  einüben, um ihre Ergebnisse absichern zu können. Vieles davon ist heute grundlegendes Allgemeinwissen; ein technisch halbwegs versierter Mensch kann, mit einigen knappen Anleitungen, heute eine Vakuumpumpe in Betrieb nehmen und erkennen, ob sie funktioniert. 

Trotzdem bleibt aus der Ablauf des Inbetriebnehmens von Vakuumpumpen eine polymorphe Handlung die nicht automatisiert werden kann. In Anbetracht der Allgemeinheit von Vakuumpumpen gibt es zu viele Optionen und Unterschiedlichkeiten, als dass Abstraktion und Automatisierung möglich wären. Es kann allenfalls die Inbetriebnahme und Überwachung einer spezifischen Vakuumpumpe als mimeomorphe Handlung dokumentiert und automatisiert werden. 

Das erinnert an John Deweys Ausführungen zu Abstraktion, Wissenschaftlichkeit und Unabhängigkeit: Dewey betont, es könne keine distinterested Science geben, weil die für wissenschaftliche Methode notwendige Transparenz immer nur in Hinblick auf spezifische Kontexte gegeben ist. Wissenschaftliche Theorien müssten allerdings den Anspruch haben, in jedem möglichen konkreten Kontext zu gelten.

Wer entscheidet, was konkret ist – und was Zufall?

Konkrete und gültige Feststellungen brauchen also konkreten Kontext. Das wirft die Frage auf, wer diesen Kontext herstellt. Das wiederum ist, wenn wir zur Ausgangsfrage zurückkehren, was Maschinen tun können (und an Machine Learning, Data science und Artificial Intelligence denken), eine Frage, die das Potenzial hat, eine grundlegende Konzepte rund um Data science auf den Kopf zu stellen. Maschinen arbeiten und analysieren in einem vorgegebenen Umfeld, sie überschreiten fallweise Grenzen, die zu überschreiten ihnen ermöglicht wurde (oder die irrtümlich als Grenzen angenommen wurden). Sie machen also, was ihr Rahmen ihnen ermöglicht; der Rahmen wurde letztlich durch menschliche Aktivität abgesteckt. Gern zitiertes Gegenbeispiel ist etwa Conways Game of Life, bei dem ein simples Set von Regeln neue Regeln erzeugt. Schaffen damit automatisierte Systeme ihre eigenen Reproduktionsbedingungen, etwas, das lebenden Organismen vorbehalten schien? Auch die Abläufe in einmal in Gang gesetzten Game of Life-Prozessen sind allerdings davon abhängig, wie sie in Gang gesetzt wurden – und sie verlassen nicht den Rahmen ihrer vorgegebenen Möglichkeiten, sie können sich nicht ohne weiteren Anlass für etwas anderes als das Übliche entscheiden.

Collins und Kusch unterscheiden verschiedene Arten von Maschinen, um diese Frage konkreter zu behandeln: Behavers folgen immer gleichen Abläufen. Disjunctive Behavers können je nach Gegebenheit zwischen verschiedenen vorgegebenen Abläufen entscheiden. Feedback Behavers können ihre Abläufe an diverse Inputs anpassen. Learning Behavers verändern sich und ihr Verhalten im Lauf wiederholter Interaktion mit der Umwelt. In dieser Typologie wäre das Game of Life auf der ersten Stufe von schlichten Behavers anzusiedeln. Ein Beispiel für die oberste Stufe ist für Collins und Kusch ein paar Stiefel, das sich im Lauf der Zeit an Körper und Bewegung ihres Trägers anpasst.

Auch in einer anderen Maschinentypologie in diesem Buch sind Algorithmen, Artificial Intelligence und Neurone Netze nicht unbedingt auf der obersten Ebene von Maschinen anzusetzen: Werkzeuge (tools) verstärken unsere Fähigkeiten, Stellvertreter (proxies) ersetzen oder vertreten uns, Neuigkeiten (Innovationen) setzen Abläufe um, die für uns unmöglich sind. AI und neuronale Netze sind für Collins und Kusch Proxies; ein Beispiel für Novelties wären Tiefkühler.

Maschinen zu überschätzen, in dem ihnen Agency zuerkannt wird, ist für Collins und Kusch ein grundlegendes Missverständnis, das die Analyse der Handlungsfähigkeit von Maschinen verstellt. Denn Maschinen können in ihrer Handlungstypologie nie über mimeomorphe Abläufe hinauskommen. Sie können Menschen zwar vertreten – aber nur dort, wo Menschen ihre Aktivität auf mimeomorphe Handlungen reduzieren.

Eine spannende, im Buch nicht gestellte Frage: Wäre es möglich, einen durchschnittlichen menschlicne Lebensablauf zwischen Pflichtschule, Dienst nach Vorschrift und Konsum auf mimeomorphe Abläufe zu reduzieren?