Rezension » Ecologies

The Coming Wave

Bücher über KI schießen momentan wie Pilze aus dem Boden und wie das bei (Tech-)Hypes so ist, bilden sich zwei große Lager: die Propheten und die Mahner. Deepmind Gründer Mustafa Suleyman zeigt Haltung und fordert die Eindämmung der KI-Welle.

In den deutschen Buchhandlungen liegt The Coming Wave seit Mitte Februar auf den Büchertischen und zieht mit ausdrucksstarken Cover die Blicke potentieller Leser:innen auf sich. Der Untertitel verkündet das “größte Dilemma des 21. Jahrhunderts”. Das klingt herausfordernd. Wo soll man dieses Buch einordnen, das Deepmind-Gründer Mustafa Suleyman zusammen mit Michael Bhaskar geschrieben hat?

Unaufhaltsamer Fortschritt

Es beginnt mit einer interessanten, aber etwas holzschnittartigen Technikgeschichte, die vom Automobil auf den Faustkeil kommt. Die Umwege und Widersinnigkeiten, die jede technologische Entwicklung begleiten, werden zu gunsten einer geradlinigen, teleologischen Entwicklungsgeschichte ausgeblendet.

Technischer Fortschritt sei unaufhaltsam, so die These und weil sich künstliche Intelligenz zu schnell, zu weitreichend und mit unvorhersehbaren Folgen entwickelt, muss man sie aufhalten, bzw. eindämmen, fordern die Autoren. Hier mischt sich also frenetische Technik-Dystopie mit Ordnungspolitik. Eine sehr ungewöhnliche und interessante Mischung, war doch lange Zeit Facebooks “Move fast and breaks things” das Mantra der disruptiven Technikpropheten.

Endspiele

Mustafa Suleyman kein neuer, sondern ein echter KI-Experte. 2010 hat er das britische Start-Up Deepmind mitgegründet, das 2014 von Google aufgekauft wurde. Lange vor dem gegenwärtigen Hype hat Deepmind Meilensteine bei der KI-Entwicklung gesetzt und damit die Aufmerksamkeit der breiten Öffentlichkeit auf sich gezogen.

Der erste Durchbruch gelang in einem Bereich, in dem sich menschliche und künstliche Intelligenz seit jeher gerne messen: Brettspiele. Im Schach wurde die menschliche Intelligenz 1992 matt gesetzt, als Großmeister Garry Kasparov gegen IBMs Deep Blue verlor. Deepmind gelang der nächste Coup dann beim koreanischen Brettspiel Go, das aufgrund seiner hohen Komplexität an möglichen Spielzügen eine besondere Herausforderung für maschinelles Lernen darstellt.

Das Programm Alpha Go besiegte 2016 den Südkoreanischen Großmeister Lee Sedoul. Noch dazu hatte es mit einem ungewöhnlich kreativen und riskanten Zug die Partie besiegelt. Im Buch findet sich die reumütige Reflexion, dass es damals mehr war als nur ein Spiel, sondern eine Kränkung der asiatischen Kultur und ein problematisches Kräftemessen zwischen West und Ost.

Die Intelligenz des Lebens

Oft sind es in diesem Buch nicht die großen Thesen und Vorhersagen, sondern eher die beiläufigen Reflexionen und Bemerkungen, die besonders aufschlussreich sind.

“It’s no exaggeration to say the entirety of the human world depends on either living systems or our intelligence” (S. 7), dieser bemerkenswerte und provozierende Satz steht gleich am Anfang von The Coming Wave und markiert dessen weitreichende ontologische These: KI fordert nicht nur die zentrale Position der menschlichen Intelligenz heraus, sondern sie greift auch zunehmend in die Intelligenz lebendiger Systeme ein.

Beim Gemeinschaftsexperiment und KI-Wettbewerb CASP (Critical Assessment for Structure Prediction) treten seit 1993 die Programme verschiedener Forschungseinrichtungen gegeneinander an, um die Faltungsstrukturen von Proteinen vorherzusagen. Die Vorhersage von Deepminds Alpha Fold war 2020 so präzise, dass die Wissenschafts-Community das Problem der Faltungsstruktur von Proteinen für gelöst erklärte. Die Entschlüsselung von Proteinstrukturen trägt zur Erforschung von Krankheiten wie Krebs und Alzheimer bei, die durch Mutationen aufgrund fehlerhafter Faltungen ausgelöst werden.

Deshalb ist die synthetische Biologie, also die gentechnische Fabrikation neuen Lebens, das große, wenn auch etwas versteckte Thema dieses Buches. Durch KI aufgerüstete Gentechnik werde es zukünftig möglich machen, Organe im Labor zu züchten oder Organismen, die CO2 binden oder Schadstoffe zersetzen. In den 60er Jahren habe man Computerchips noch per Hand gebaut. In Zukunft werde man Lebewesen mit der Präzision herstellen können, mit der heute Computerchips gefertigt werden, so Suleymans Vorhersage. Beunruhigend an diesen möglichen Fortschritten, ist ihre potenzielle Frankensteinsche Kehrseite.

Wenig Worte zum Klimawandel

Gerade weil in diesem Buch so viel über die Biologie, das Leben und die Zukunft der Menschheit gesprochen wird, ist überraschend, wie sporadisch der Klimawandelt behandelt wird – die handfeste, dystopische Bedrohung der Menschheit.

Mögliche Lösungen werden hier eher eingestreut, als diskutiert: Enzyme sollen Plastik verdauen, Tracking das Waldsterben aufhalten und KI-Modelle dabei helfen, Alternativen zu Lithium-Ionen-Batterien zu entwickeln. Gerade hier bleibt Suleyman Technik-Prophet:

No one should pretend that technology is a near-magical answer to something as multifaceted and immense as climate change. But the idea that we can meet the century’s defining challenge without new technologies is completely fancifull. It’s also worth remembering that the technologies of the wave will make live easier, healthier, more productive, and more enjoyable for billions. (S. 140)

Keine Frage – wir brauchen innovative technische Lösungen für den Klimawandel und wer hat gesagt, dass es ohne ginge? Und das Leben soll durch die KI-Revolution leichter, gesünder, schöner und produktiver werden? Hier verliert der Autor die dunkle Kehrseite aus dem Blick, die jede technische Entwicklung mit sich führt. Bei KI-Technologien ist das die Datenextraktion, die Urheberrechte missachtet oder die prekarisierte Arbeit von Click-Workern.

Ein Ordnungsruf aus dem Silicon Valley

Bei aller politischen Naivität und argumentativen Schlichheit, die sich das Buch an vielen Stellen leistet, gehört Suleyman immerhin nicht zu den verantwortungslosen, libertären Tech-Apologeten im Stil von Elon Musk. Sein Ordnungsruf aus dem Silicon Valley überrascht da ein bisschen. Statt dem neoliberalen Standardargument folgend davor zu warnen, dass zu starke Regulierung die Fortschritte der KI abwürgen könnte, macht Suleyman konkrete Vorschläge, wie man sie eindämmen müsste.

Das vierte Kapitel macht in den sprechenden Unterkapiteln “Containment must be possible” und “Ten steps towards containment” deutlich, dass KI Regulierung braucht. Die Eindämmung und Regulierung sieht Suleyman als eine gesamtgesellschaftliche Aufgabe, bei der alle mitziehen müssen: Entwickler, Unternehmer, eine engagierte Zivilgesellschaft und allen voran natürlich die Politik mit einer vorausschauenden Gesetzgebung. Der AI Act der Europäischen Union ist aus seiner Sicht ein guter Anfang.

Die Entdeckung der Nachhaltigkeit

Mi,Mrz,J | Rezension

Unsere Gesellschaft und Wirtschaft nachhaltiger zu machen, ist eine der großen Herausforderungen unserer Zeit. Der Journalist Ulrich Grober erzählt in seinem Buch facettenreich die Geschichte des Nachhaltigkeitsbegriffs und rekonstruiert Ideen und Konzepte nachhaltigen Handelns.

Im 17. Jahrhundert erlebt Sachsen ein bemerkenswertes Wirtschaftswunder. Im Erzgebirge hat der Silberbergbau seinen Höhepunkt erreicht. Der wirtschaftliche Boom zieht allerdings ein ökologisches Problem nach sich. Holz wird knapp, weil es an vielen Stellen im Bergbau benötigt wird. Die Bergleute stützen damit die Schächte und Stollen ab und die Köhler machen daraus Holzkohle, um die Hütten zu befeuern, die aus dem Erz das Silber schmelzen. Das Erzgebirge ist damals neben England eine der größten Bergbauregionen in Europa. Das macht den nachwachsenden Rohstoff Holz zur Mangelware. Die Landschaft rund um Freiberg ist durch den Raubbau beinahe entwaldet.

Ressourcenmangel

Um diese Holznot zu bekämpfen, wird Hans Carl von Carlowitz zum neuen Leiter des sächsischen Oberbergamts in Freiberg berufen. Carlowitz ist eine vielseitige Persönlichkeit. Aus seiner Jugend kennt er die Arbeit der Köhler, Schmelzer und Flösser in der Region. Als weltgewandter Adeliger hat er eine große Europareise unternommen und unter anderem in Frankreich und England Ideen für eine Reform der Forstwirtschaft gesammelt. Aus seinem Wissen und seiner Erfahrung macht der 1713 ein Buch mit dem Titel Sylvicultura oeconomica, was sich als „haushälterischen Waldbau“ (S. 118) übersetzen lässt. Darin skizziert Carlowitz eine Reihe innovativer Ideen: energiesparende Schmelzöfen, eine bessere Wärmedämmung im Hausbau oder Torf als Brennstoffalternative.

Aber Einsparung und Optimierung reichen für Carlowitz nicht aus. Um die Holznot zu lösen, muss man in die Zukunft denken. Die Formel, die er dafür findet, ist einfach und einleuchtend: Man darf nicht mehr Holz schlagen, als in Zukunft auch nachwachsen kann. Carlowitz bezeichnet dies als die „continuierliche beständige und nachhaltende Nutzung“ der Wälder und erfindet damit einen Begriff, der uns heute umso mehr beschäftigt: Nachhaltigkeit.

Begriffsgeschichten

Begriffe haben eine Geschichte. Sie sind keine neutralen Bezeichnungen für Dinge oder Sachverhalte, sondern sie führen Ideen und Erfahrungen mit sich und sind durch die konkreten gesellschaftlichen und politischen Kontexte geprägt, aus denen sie stammen. Der Journalist Ulrich Grober macht sich in seinem Buch Die Entdeckung der Nachhaltigkeit daran, in diesem Sinne eine Kulturgeschichte des Nachhaltigkeitsbegriffs zu erzählen. Nachhaltigkeit, so schreibt er, sei „weder Kopfgeburt moderner Technokraten noch ein Geistesblitz von Ökofreaks der Generation Woodstock”, sondern, „unser ursprünglichstes Weltkulturerbe”(S. 13).

Die Geschichte der Nachhaltigkeit erzählt er in Geschichten. Die eingangs erzählte führt in die sächsischen Wäldern, eine weitere nach Umbrien, zu Franz von Assisi und seiner Theologie der Armut und Demut, die den Menschen nicht als Herrscher, sondern als Teil der Schöpfung versteht. In einem anderen Kapitel versammelt Grober Gedanken und Bedeutungen von Nachhaltigkeit rund um das Bild der Blue Marbel. Die Apollo 17 Mission hat 1972 mit diesem Bild für einen radikalen Perspektivwechsel gesorgt. Zum ersten Mal sah man die Erde als blauer einsamer Planet im All und das schärft das Bewusstsein für die Fragilität unseres Planeten. Im gleichen Jahr veröffentlicht der Club of Rome seinen Bericht über die Grenzen des Wachstums.

Nachhaltigkeit ist auch eine Geschichte der internationalen Konferenzen und Gipfeltreffen. Auch hier richtet Grober den Blick nicht so sehr auf Jahreszahlen und politische Persönlichkeiten, sondern sondiert die gesellschaftlichen Kontexte, aus denen der Brundtland-Bericht oder die Agenda 2030 des Erdgipfels von Rio hervorgegangen sind. Das Buch ist 2010 erschienen, also lange vor dem jüngsten Meilenstein, der Pariser Klimakonferenz 2016, deren Ziele die heutigen Nachhaltigkeitsdebatte prägen.

Eine überwölbende Idee

Dass Ulrich Grober sich neben den “Urtexten” der Nachhaltigkeit bei Carlowitz, Spinoza, Franz von Assisi und anderen stark auf die 60er und 70er Jahre konzentriert, ist nicht seiner eigenen autobiographischen Nostalgie geschuldet, auch wenn Grober als 68er seine persönlichen Erfahrungen an vielen Stellen einfließen lässt. Der Ökologiehistoriker Joachim Radkau hat die Jahre um 1970 als Beginn einer weltweiten “ökologischen Revolution” (Radkau 2011, 124-165) bezeichnet, und Grober unterstreicht, dass das kulturelle und politische Klima einer Zeit darüber entscheidet, ob eine Gesellschaft in die Zukunft denken kann:

“Wir haben keine große Erzählung mehr, keine Visionen, die uns beflügeln und antreiben. Dieses Vakuum ist nicht gut. Um die Klimakatastrophe noch im letzten Moment nabzubremsen, sagen uns die Experten, bräuchten wir ein ‘Apollo-Projekt’: eine überwölbende Idee, die in kürzester Zeit große Potenzial aktiviert für etwas, das wir mache, koste es, was es wolle.” (S. 24)

Dieses Buch ist nicht nur am Schreibtisch entstanden, sondern profitiert sehr davon, dass Grober die Orte des Nachhaltigkeitsdenkens von Freiberg bis nach Umbrien teilweise selbst besucht hat und sie anschaulich beschreibt. So global der Nachhaltigkeitsdiskurs heute ist, an diesen Stellen wird er wieder ganz lokal und auf die Umwelt bezogen, in der sich Nachhaltigkeitsdenken entwickelt hat.

Gedankengänge

Die Entdeckung der Nachhaltigkeit ist eine Kulturgeschichte im besten Sinne, die nicht linear und fortschrittsgläubig erzählt wird, sondern ihr Thema in den einzelnen Kapitel essayistisch umkreist und dadurch in immer neuen und überraschenden Facetten erscheinen lässt. Die intellektuelle Qualität dieses Buches liegt darin, philosophische Gedankengänge in ihrem historischen Kontext zu verorten und ohne akademische Umständlichkeiten oder einen gezwungenen Aktualitätsbezug konzise auf den Punkt zu bringen. Durch Grobers essayistische Prägnanz sammelt man beim Lesen quasi im Vorübergehen viele wichtige Impulse – von der pantheistischen Naturphilosophie Baruch de Spionzas (1632-1677) bis zur sogenannten “Gaia-Hypothese” von James Lovelock und Lynn Margulies .

Der kulturhistorische und ideengeschichtliche Hintergrund, den dieses Buch so unterhaltsam und gut lesbar rekonstruiert, ist gerade heute wichtig, damit Nachhaltigkeit kein Buzzwort bleibt, sondern darüber hinaus seine politische und gesellschaftliche Wirkung entfalten kann.