Kate Crawford: Atlas der KI

Rezensiert von Hans-Dieter Kübler

Wenn derzeit von Künstlicher Intelligenz (KI bzw. AI) die Rede ist, dann werden vor allem ihre phantastischen Optionen in der algorithmischen Prozessoptimierung bis hin zur Automation und Robotik, im Personalmanagement und in der substitutiven Erweiterung bildlicher Verfahren etwa in der Medizin und anderen Sektoren gefeiert. All diese Verwendungschancen repräsentieren lediglich eine technokratisch, instrumentell und szientifisch verkürzte Sichtweise, kritisiert Kate Crawford. Die renommierte KI-Wissenschaftlerin und Journalistin lehrt international an diversen Universitäten und forscht bei Microsoft Research. Ihr Buch Atlas der KI, erschienen zuerst 2021, weltweit publiziert und rezipiert und in zehn Sprachen übersetzt, liegt nunmehr in der 3. deutschen Auflage vor.

KI sei von sich aus weder künstlich noch intelligent, behauptet Crawford bereits in der Einleitung (vgl. 16). Vielmehr rekurriere diese vielfältige, längst noch nicht ausgereifte Technologie oder – besser – technologische Infrastruktur auf “natürliche Rohstoffe, Kraftstoffe, menschliche Arbeitskraft [zumal ausgebeuteten, gering qualifizierten Arbeitenden], Infrastrukturen, Logistiken, Geschichten und Klassifikationen” (16), wie sie zunächst aufzählt. Deshalb firmiere für sie KI – recht pauschal und sozialwissenschaftlich allgemein – als Label für einen “gewaltigen industriellen Apparat”, “in den auch Politik, Arbeit, Kultur und Kapital involviert sind” (17) und in dem es letztlich – wie bei allen Großtechnologien zuvor – um Macht, Herrschaft, Diskriminierung, Überwachung, Ausbeutung, Kolonialismus, Profitinteressen, Waffenproduktion und militärische Überlegenheit geht. “Künstliche Intelligenz” – so ein vorweggenommenes Fazit – “ist […] eine Idee, eine Infrastruktur, eine Industrie, eine Form der Machtausübung und eine Art zu sehen” sowie zugleich “die Manifestation eines hochgradig organisierten Kapitals, das von riesigen Extraktions- und Logiksystemen gestützt wird, mit Lieferketten, die die ganze Welt umspannen” (27).

Um diese disparaten Dimensionen zu erfassen, bedürfe es eines ungewöhnlichen analytischen Zugangs: nämlich den des Atlas mit Karten, Grafiken, Schemata, verschiedenen Zeugnissen kollektiven Wissens, um einerseits den Leser*innen zu ermöglichen, “die Welt neu zu lesen” (18), andererseits aber auch das Bestreben der KI-Branche zu versinnbildlichen, “die Erde in eine computerlesbare Gestalt zu bringen” (19), sie mithin zu “kartieren” (20). Denn – so der Verdacht – der “kolonisierende Impuls” der KI “legt fest, wie die Welt gemessen und definiert wird, während er gleichzeitig die Tatsache leugnet, dass dies eine durch und durch politische Aktivität ist” (20).

Mit dieser Prämisse, die die Autorin vielfältig variiert, legt sie ihre eindrucksvollen, dichten und kompetenten Recherchen vor, die sie nicht zuletzt auf Reisen zu ganz unterschiedlichen Orten auf der Erde erarbeitete. Zunächst geht es in die Lithium-Minen in Nevada, dann zum Bergbau seltener Erden, aber auch zur Gewinnung fossiler Rohstoffe wie ÖL und Kohle, denn der Energiebedarf der KI-Branche ist enorm und der CO²-Fußabdruck entsprechend groß; ferner nach Malaysia, wo die letzten Bäume abgeholzt werden, um Latex für die ersten transatlantischen Unterseekabel zu produzieren, und schließlich in die Innere Mongolei an einen riesigen künstlichen See mit giftigen Rückständen. All diese Extraktionen von Rohstoffen sind nötig (oder werden so bewerkstelligt), um die moderne Computertechnik zu produzieren und weiter zu entwickeln.

Im zweiten Kapitel zeigt sie, wie “künstliche Intelligenz aus menschlicher Arbeit gemacht wird” (24). Digitale Tagelöhner optimieren scheinbar Datensysteme für einen Hungerlohn, damit sie “intelligenter wirken können, als sie es tatsächlich sind” (24): etwa bei Amazon, “wo Angestellte im Takt der Algorithmen eines riesigen Logistikimperiums bleiben müssen” (24) oder in Chicagoer Schlachthöfen, wo Arbeiter*innen lebendige Tierkörper im Tempo der Zerlegbänder zerstückeln müssen.

Arbeit unter der Maßgabe möglichst geringer Zeit, also Leistung, beherrscht das Arbeitsplatzmanagement auch bei Googles TrueTime, das mit KI-Systemen der Überwachung und Kontrolle optimiert wird. Gemäß der epistemischen Logik der Algorithmen werden alle menschlichen und maschinellen Aktivitäten zu Daten, deren riesige Mengen als Trainingsmaterial für KI-Modelle genutzt werden. Deshalb hält es die Autorin großenteils für angemessener, vom maschinellen Lernen statt von KI zu sprechen. Auf die vielseitigen algorithmischen Spezifika der Daten diverser Software und Tools geht sie allerdings nicht ein. Für sie zählt, dass diese keinesfalls interessensfrei und neutral, sondern von vielen Kontexten, Konditionen, Zufällen, Ideologien und Interessen beeinflusst sind und daher unzählige “grundlegende ethische, methodologische und erkenntnistheoretische Probleme” (25) aufwerfen.

Sie treten besonders hervor, wenn die hauptsächliche Verwendung der Daten – nämlich die Klassifikation – betrachtet wird. Gewissermaßen ist es ein “Regime des normativen Denkens” (25). Denn mit heutigen technischen Schablonen werden nicht nur menschliche Identität prognostiziert und daraus meist problematische Bewertungen des Charakters und der Kreditwürdigkeit gefolgert, sondern es werden auch ganze Gruppen nach Rassen, Ethnien, Klassen hierarchisiert und Ungleichheiten festgeschrieben. In die Bergdörfer von Papua-Neuguinea fuhr die Autorin, um die Geschichte der Emotionserkennung zu erforschen. Nach wenig plausiblen Theorien sollen dort indigene Gemeinschaften noch so isoliert vom Rest der Welt leben, dass aus ihren Gesichtsausdrücken eine geringe Anzahl universeller Emotionen oder Affekte deriviert werden können, die weitgehend autochthon und somit überall auf der Welt die gleichen sind (vgl. 165). Tech-Unternehmen setzten diese fragwürdige Hypothese gleichwohl in universale Systeme der Emotionserkennung um und erzielen inzwischen mit ihnen für die Personalrekrutierung, für Überwachungs- und Polizeisysteme sowie in der Beratung und Bildung enorme Erlöse.

Im staatlichen Handeln, das mit KI die Rationalisierung der Verwaltung, die Überwachung der Sozialsysteme, der Polizei, der Nachrichtendienste, der Justiz und vor allem militärische Gewalt realisiert, kulminieren die bereits genannten Formierungen. Insbesondere ist KI von militärischer Logik geprägt und wird in modernen Staaten von einem industriell-politischen Komplex gesteuert.

In ihrem Schlusskapitel fügt die Autorin die einzelnen Komponenten zusammen und charakterisiert KI mit dem Technikhistoriker Alex Campolo als “verzauberten Determinismus”: Als verzaubert lassen sich KI-Systeme deshalb erachten, weil sie “jenseits der bekannten Welt stehen” und erhebliche Phantasien wecken, die sowohl utopisch als auch dystopisch seien. Während die einen glauben, dass KI die Lösung für jedes Problem sei, sehen die anderen sie als die größte Gefahr an (vgl. 232).

Beide Diskurse seien zutiefst ahistorisch, da sie die Macht ausschließlich in der Technologie selbst lokalisieren. Tatsächlich sei KI deterministisch, weil sie Muster entdeckt, indem sie die Komplexität von Wirklichkeit extrem reduziert, sie rationalisiert und vorhersagbar macht. Dies sei auch die grundlegende Logik des maschinellen Lernens, das in seiner Extremform, dem so genannten Deep Learning, gewissermaßen sich selbst scheinbar mystifiziere, so dass ihre Entwicklerinnen und Entwickler zunehmend glauben, die Systeme nicht mehr durchschauen und regulieren zu können. Hinzu komme neuerdings eine “vehemente nationalistische Agenda” (241), die KI zudem als Instrument der Kontrolle, Steuerung und Eindämmung von Migration nutzt und so die Überwachung auf die gesamte Population ausdehnt, wie es vor allem in China, aber auch zunehmend in den USA der Fall ist.

Daher kann KI nicht als “objektive, universelle oder neutrale Computertechnik” gewertet werden, “die Entscheidungen ohne menschliche Anleitung trifft” (229) (wie es Techniker*innen gleichwohl tun). Vielmehr sind ihre Systeme “in soziale, politische, kulturelle und ökonomische Welten eingebettet und von Menschen, Institutionen und Imperativen bestimmt”, die darauf ausgerichtet sind, “zu diskriminieren, Hierarchien zu bestärken und eng gefasste Klassifizierungen zu kodieren” (229).

Nach all dieser grundsätzlichen, vorwiegend pauschalen Kritik und all diesen vehementen Invektiven fällt es schwer, wie die Autorin einräumt, Optionen der Begrenzung, Kontrolle oder gar Demokratisierung der KI vorzuschlagen: Ethik und freiwillige Selbstkontrolle sind zwar willkommen, bleiben aber, solange sie sich nicht auf die Macht der KI konzentrieren, idealistisch. Bleibt nur noch eine Politik der Verweigerung gegen die technologische Zwangsläufigkeit: “Wir sollten uns nicht fragen” – so das Credo der Autorin – “wo KI eingesetzt wird, einfach weil es geht, sondern vor allem, warum sie überhaupt angewendet werden sollte” (245). Und wenn solche Fragen gemeinschaftlich gestellt werden, etwa in “wachsenden Gerechtigkeitsbewegungen”, “die sich mit der Verflechtung von Kapitalismus, Datenverarbeitung und Kontrolle befassen” (246), lassen sich womöglich der “Bann des technischen Solutismus brechen”, und “alternative Solidaritäten” und nachhaltige Politiken entwickeln. Aber all dies klingt nach dem einsamen Rufer im düsteren, bedrohlichen Wald. Auch die von Tech-Milliardären wie Jeff Bezos und Elon Musk angestrebte Expansion in den Weltraum, die die Autorin in ihrer Coda noch unerwartet thematisiert, kann nicht trösten oder gar Courage erwecken. Sie mag allein signalisieren, dass selbst jenen unheimlichen Repräsentanten der KI – in ihrer Chuzpe – die Erde allmählich zu prekär und ungemütlich wird.

All diesen Dystopien dürfen aber nicht verkennen, welch riesiges Informationsmaterial die Autorin recherchiert und es zu ebenso relevanten wie prinzipiellen Einsichten zusammengefügt hat. Es sind nicht nur die “materiellen Wahrheiten hinter den neuen Datenimperien”, wie sie im Untertitel annonciert, sondern auch epistemologische und wissenschaftliche Erkenntnisse, die die Diskurse über KI auch für technologisch Interessierte über ihre engen technischen Grenzen hinaus beeindrucken und womöglich auch ein wenig leiten könnten.

Links:

• Verlagsinformationen zum Buch
• Webpräsenz von Cate Crawford
• Webpräsenz von Prof. Dr Hans-Dieter Kübler beim Verein Gesellschaft – Altern – Medien e. V