Bücher über KI schießen momentan wie Pilze aus dem Boden und wie das bei (Tech-)Hypes so ist, bilden sich zwei große Lager: die Propheten und die Mahner. Deepmind Gründer Mustafa Suleyman zeigt Haltung und fordert die Eindämmung der KI-Welle.
In den deutschen Buchhandlungen liegt The Coming Wave seit Mitte Februar auf den Büchertischen und zieht mit ausdrucksstarken Cover die Blicke potentieller Leser:innen auf sich. Der Untertitel verkündet das “größte Dilemma des 21. Jahrhunderts”. Das klingt herausfordernd. Wo soll man dieses Buch einordnen, das Deepmind-Gründer Mustafa Suleyman zusammen mit Michael Bhaskar geschrieben hat?
Unaufhaltsamer Fortschritt
Es beginnt mit einer interessanten, aber etwas holzschnittartigen Technikgeschichte, die vom Automobil auf den Faustkeil kommt. Die Umwege und Widersinnigkeiten, die jede technologische Entwicklung begleiten, werden zu gunsten einer geradlinigen, teleologischen Entwicklungsgeschichte ausgeblendet.
Technischer Fortschritt sei unaufhaltsam, so die These und weil sich künstliche Intelligenz zu schnell, zu weitreichend und mit unvorhersehbaren Folgen entwickelt, muss man sie aufhalten, bzw. eindämmen, fordern die Autoren. Hier mischt sich also frenetische Technik-Dystopie mit Ordnungspolitik. Eine sehr ungewöhnliche und interessante Mischung, war doch lange Zeit Facebooks “Move fast and breaks things” das Mantra der disruptiven Technikpropheten.
Endspiele
Mustafa Suleyman kein neuer, sondern ein echter KI-Experte. 2010 hat er das britische Start-Up Deepmind mitgegründet, das 2014 von Google aufgekauft wurde. Lange vor dem gegenwärtigen Hype hat Deepmind Meilensteine bei der KI-Entwicklung gesetzt und damit die Aufmerksamkeit der breiten Öffentlichkeit auf sich gezogen.
Der erste Durchbruch gelang in einem Bereich, in dem sich menschliche und künstliche Intelligenz seit jeher gerne messen: Brettspiele. Im Schach wurde die menschliche Intelligenz 1992 matt gesetzt, als Großmeister Garry Kasparov gegen IBMs Deep Blue verlor. Deepmind gelang der nächste Coup dann beim koreanischen Brettspiel Go, das aufgrund seiner hohen Komplexität an möglichen Spielzügen eine besondere Herausforderung für maschinelles Lernen darstellt.
Das Programm Alpha Go besiegte 2016 den Südkoreanischen Großmeister Lee Sedoul. Noch dazu hatte es mit einem ungewöhnlich kreativen und riskanten Zug die Partie besiegelt. Im Buch findet sich die reumütige Reflexion, dass es damals mehr war als nur ein Spiel, sondern eine Kränkung der asiatischen Kultur und ein problematisches Kräftemessen zwischen West und Ost.
Die Intelligenz des Lebens
Oft sind es in diesem Buch nicht die großen Thesen und Vorhersagen, sondern eher die beiläufigen Reflexionen und Bemerkungen, die besonders aufschlussreich sind.
“It’s no exaggeration to say the entirety of the human world depends on either living systems or our intelligence” (S. 7), dieser bemerkenswerte und provozierende Satz steht gleich am Anfang von The Coming Wave und markiert dessen weitreichende ontologische These: KI fordert nicht nur die zentrale Position der menschlichen Intelligenz heraus, sondern sie greift auch zunehmend in die Intelligenz lebendiger Systeme ein.
Beim Gemeinschaftsexperiment und KI-Wettbewerb CASP (Critical Assessment for Structure Prediction) treten seit 1993 die Programme verschiedener Forschungseinrichtungen gegeneinander an, um die Faltungsstrukturen von Proteinen vorherzusagen. Die Vorhersage von Deepminds Alpha Fold war 2020 so präzise, dass die Wissenschafts-Community das Problem der Faltungsstruktur von Proteinen für gelöst erklärte. Die Entschlüsselung von Proteinstrukturen trägt zur Erforschung von Krankheiten wie Krebs und Alzheimer bei, die durch Mutationen aufgrund fehlerhafter Faltungen ausgelöst werden.
Deshalb ist die synthetische Biologie, also die gentechnische Fabrikation neuen Lebens, das große, wenn auch etwas versteckte Thema dieses Buches. Durch KI aufgerüstete Gentechnik werde es zukünftig möglich machen, Organe im Labor zu züchten oder Organismen, die CO2 binden oder Schadstoffe zersetzen. In den 60er Jahren habe man Computerchips noch per Hand gebaut. In Zukunft werde man Lebewesen mit der Präzision herstellen können, mit der heute Computerchips gefertigt werden, so Suleymans Vorhersage. Beunruhigend an diesen möglichen Fortschritten, ist ihre potenzielle Frankensteinsche Kehrseite.
Wenig Worte zum Klimawandel
Gerade weil in diesem Buch so viel über die Biologie, das Leben und die Zukunft der Menschheit gesprochen wird, ist überraschend, wie sporadisch der Klimawandelt behandelt wird – die handfeste, dystopische Bedrohung der Menschheit.
Mögliche Lösungen werden hier eher eingestreut, als diskutiert: Enzyme sollen Plastik verdauen, Tracking das Waldsterben aufhalten und KI-Modelle dabei helfen, Alternativen zu Lithium-Ionen-Batterien zu entwickeln. Gerade hier bleibt Suleyman Technik-Prophet:
No one should pretend that technology is a near-magical answer to something as multifaceted and immense as climate change. But the idea that we can meet the century’s defining challenge without new technologies is completely fancifull. It’s also worth remembering that the technologies of the wave will make live easier, healthier, more productive, and more enjoyable for billions. (S. 140)
Keine Frage – wir brauchen innovative technische Lösungen für den Klimawandel und wer hat gesagt, dass es ohne ginge? Und das Leben soll durch die KI-Revolution leichter, gesünder, schöner und produktiver werden? Hier verliert der Autor die dunkle Kehrseite aus dem Blick, die jede technische Entwicklung mit sich führt. Bei KI-Technologien ist das die Datenextraktion, die Urheberrechte missachtet oder die prekarisierte Arbeit von Click-Workern.
Ein Ordnungsruf aus dem Silicon Valley
Bei aller politischen Naivität und argumentativen Schlichheit, die sich das Buch an vielen Stellen leistet, gehört Suleyman immerhin nicht zu den verantwortungslosen, libertären Tech-Apologeten im Stil von Elon Musk. Sein Ordnungsruf aus dem Silicon Valley überrascht da ein bisschen. Statt dem neoliberalen Standardargument folgend davor zu warnen, dass zu starke Regulierung die Fortschritte der KI abwürgen könnte, macht Suleyman konkrete Vorschläge, wie man sie eindämmen müsste.
Das vierte Kapitel macht in den sprechenden Unterkapiteln “Containment must be possible” und “Ten steps towards containment” deutlich, dass KI Regulierung braucht. Die Eindämmung und Regulierung sieht Suleyman als eine gesamtgesellschaftliche Aufgabe, bei der alle mitziehen müssen: Entwickler, Unternehmer, eine engagierte Zivilgesellschaft und allen voran natürlich die Politik mit einer vorausschauenden Gesetzgebung. Der AI Act der Europäischen Union ist aus seiner Sicht ein guter Anfang.