Rezension: Christian Stöcker – Das Experiment sind wir

Christian Stöcker – Das Experiment sind wir

Es ist keine sonderlich aufregende Erkenntnis, dass wir uns in einem Zeitalter großer Umwälzungen befinden. Bedenkt man, dass erste Smartphone gerade einmal im Jahr 2007 verkauft wurde und dass wir seit kaum 25 Jahren im Internetzeitalter leben, wird einem erst klar, wie schnell und tiefgreifend sich die Welt gewandelt hat. Das Wachstum neuer technischer Möglichkeiten ist exponentiell, und der menschliche Geist ist völlig ungeeignet, in exponentiellen Kategorien zu denken. Deswegen, so argumentiert Christian Stöcker, verstehen wir viele der uns umgebenden Änderungen nicht nur nicht, sondern nehmen sie teilweise nicht einmal war. Wir leben quasi in einer Glocke der Ignoranz, die uns von einem realistischen Blick auf die Welt abhält – und das schadet uns allen. In diesem Buch unternimmt es Stöcker, uns durch einen notwendig knappen Rundgang durch die Veränderungen des frühen 20. Jahrhunderts zu führen.

Stöcker baut das Buch dabei nach thematisch sortierten Kapiteln auf, in denen er mit Anekdoten in das jeweilige Thema einführt, optionale Erklärtexte einschiebt (falls man etwa noch nicht weiß, was CRISPR ist) und dann die realen und potenziellen Auswirkungen auf unseren Alltag beschreibt. Zum Glück verfällt Stöcker nicht in Kulturpessismismus à la „Smartphones sind böse und stehlen Aufmerksamkeit!!elf!1!“, sondern geht wesentlich differenzierter an die Sache heran (seine Kritik an unwissenschaftlichem Unfug der Marke Manfred Spitzer erwärmt natürlich mein Herz).

Stöcker stellt im Endeffekt eine zweigleisige These auf.

Einerseits fehlt dem Großteil der Bevölkerung das Wissen, um die Vorgänge um uns herum zu verstehen. Das liegt nicht nur an den Bildungsplänen und der Fächerstruktur, die noch immer fest im 20. Jahrhundert verankert ist (und nicht an deren Ende…). Das liegt auch an der Mentalität der meisten Menschen, die eine immanente Unlust haben, sich mit diesen Themen auseinanderzusetzen und dazu neigen, sie gering zu schätzen.

Andererseits gibt es einen weit verbreiteten Unwillen, sich mit diesen Themen auseinanderzusetzen und diese Wissenslücken zu schließen. Schlimmer noch, es gibt eine Überhöhung und Mystifizierung dieses Unwillens; Nicht-Wissen gilt geradezu als chic. Wer jemals Eltern über die aktuellen Apps hat sprechen hören, kennt das.

Am relevantesten ist für Stöcker, quasi als verbindende Klammer, die Exponentialfunktion. Menschen verstehen exponentielles Wachstum nicht, und exponentielles Wachstum bestimmt inzwischen unser Leben. Das ist, um es milde auszudrücken, suboptimal. Exponentielles Wachstum, das er mit einigen griffigen Beispielen deutlich macht, ist die Grundlage der Digitalisierung, und diese wiederum führt zu einem – man ahnt es – exponentiellen Anstieg sowohl unserer Möglichkeiten als auch unseres Wissens. Von der Leistungsfähigkeit der Computer bis hin zu den massiven Entwicklungsschritten bei der KI bis hin zu Gentechnik zieht sich das Bild.

Gerade bei der KI kann Stöcker eindrücklich zeigen, was exponentielles Wachstum oft bedeutet. Ob bei Schach oder bei Go, die Maschinen überflügeln die Menschen und sind mittlerweile mit selbstlernenden Systemen so weit, dass sie nicht einmal mehr menschlichen Input brauchen. Die Konsequenzen dafür sind perspektivisch schwindelerregend. Eine selbstlernende Go-Maschine mag jetzt noch keine schwerwiegenden Folgen außerhalb der Go-Szene haben, aber das Potenzial ist schier endlos. Stöcker weist völlig zu Recht darauf hin, wie schlecht selbst Expert*innen immer darin sind, die Zeiträume abzuschätzen: so waren die Vorhersagen darüber, wann die KI alle menschlichen Spielenden schlagen würde, geradezu absurd daneben. Was in der Realität eine Sache von zwei bis drei Jahren war, wurde gerne in Jahrzehnten bemessen. Stöckers Vorhersage ist, nicht unangemessen, dass dies auf viele andere Bereiche von Gentechnik bis zum autonomen Fahren auch zutrifft.

Wir sind als Gesellschaft furchtbar schlecht auf diese Entwicklungssprünge vorbereitet. Nicht nur begreifen wir sie kognitiv nicht, wir haben auch keinerlei Mechanismen, mit den neuen Techniken umzugehen. Das betrifft soziale Netzwerke genauso wie autonome Fahrzeuge, Genscheren wie KI. Und das sind nur die eigentlichen grundsätzlich positiven Entwicklungen, die wir in exponentiellem Wachstum voranbringen.

Viel schlimmer ist das ebenfalls exponentiell wachsende Problem der Klimakrise. Unter dem Stichwort Kipppunkte wird das ja bereits länger diskutiert, aber angekommen ist diese Erkenntnis immer noch nicht. Auch hier sind unsere Reaktionen dem Problem geradezu katastrophal unangemessen.

Stöckers Buch ist daher sowohl informativ, weil es in die betreffenden Themen einführt – vom Aufbau her trennt Stöcker die Erklärung der Phänomene auch im Layout von seinen Analysen und erlaubt so auch ein Überblättern der Passagen, falls man sich bereits kompetent genug fühlt – als auch prophetisch-warnend. Die Lektüre lohnt in jedem Fall.

{ 22 comments… add one }
  • Tim 6. April 2022, 08:27

    Wir sind als Gesellschaft furchtbar schlecht auf diese Entwicklungssprünge vorbereitet. Nicht nur begreifen wir sie kognitiv nicht, wir haben auch keinerlei Mechanismen, mit den neuen Techniken umzugehen.

    Das verstehe in zweifacher Hinsicht nicht:
    – Schon früher haben sehr viele Menschen sehr viele Dinge „kognitiv“ nicht verstanden. Die Dampfmaschine von James Watt wird z.B. kaum jemand richtig erklären können, obwohl sie einfach aufgebaut ist. Dasselbe gilt für Sicherheitsschlösser oder Kühlschränke. Welche Gefahr ist daraus entstanden? Oder, falls es diese Gefahr damals nicht gab: Inwiefern ist unser heutiges Unwissen größer als das damalige und – nach in dieser Logik – gefährlicher?
    – In welcher Hinsicht können wir mit den neuen Techniken nicht richtig „umgehen“? Niemand hat ein Problem damit, Go gegen eine KI zu spielen oder sich Fotos automatisch nach Themen sortieren zu lassen. Natürlich sind die Probleme bei Missbrauch schwerwiegend, siehe etwa Videoüberwachung öffentlicher Räume. Aber die Probleme durch z.B. kriminelle Regimes waren auch ganz ohne KI schon immer schwerwiegend.

    Exponentielles Wachstum, das er mit einigen griffigen Beispielen deutlich macht, ist die Grundlage der Digitalisierung
    Ein populärer, aber schon immer merkwürdig sinnloser Satz. Man kann ihn übrigens relativ problemlos auch umstellen: Digitalisierung ist die Grundlage exponentiellen Wachstums. Ein Indikator, dass wenig Gehalt drinsteckt. 🙂

  • Thorsten Haupts 6. April 2022, 08:47

    Was in der Realität eine Sache von zwei bis drei Jahren war, wurde gerne in Jahrzehnten bemessen.

    ????? Enrtweder Stöcker oder der Rezensent sind seltsam ahistorisch unterwegs. Die ersten kommerziellen Schachprogramme und -computer kamen AFAIR Anfang der achtziger auf den Markt, der spezialisierte und von einem Expertenteam über viele Jahre entwickelte IBM Spezialcomputer „deep blue“ schlug in diesem mathematisch sehr simplen Spiel Kasparov in 1996/97.

    „Wir sind als Gesellschaft furchtbar schlecht auf diese Entwicklungssprünge vorbereitet. “

    Möglich. Und? Wir haben grössere Entwicklungssprünge hinter uns – die Insdustrialisierung war in täglich pro Kopf verbrauchten Kilokalorien ein Musterbeispiel für vorübergehend exponentielles Wachstum. Für die maschinell betriebene Landwirtschaft gilt gleiches. Wir sind also seit gut 150 Jahren schlecht auf unsere tägliche Umgebung vorbereitet, kommen dafür allerdings erstaunlich gut zurecht.

    Andererseits gibt es einen weit verbreiteten Unwillen, sich mit diesen Themen auseinanderzusetzen und diese Wissenslücken zu schließen.

    Boah, ist das ein tieffliegender Allgemeinplatz. Ich wüsste genau kein Thema, wo dessen Experten und Interessenten nicht in diese furchtbar unoriginelle Klage einstimmen würden. Könnte man ein eigenes Buch drüber schreiben.

    Gruss,
    Thorsten Haupts

    • Stefan Sasse 6. April 2022, 09:14

      Ich mag das etwas stark formuliert haben.

    • CitizenK 6. April 2022, 14:49

      „kommen dafür allerdings erstaunlich gut zurecht.“

      Inzwischen. Die Krisen auf diesem Weg (Weber-Aufstände, Arbeiterelend) sollen wir nicht wiederholen müssen.

      • Thorsten Haupts 6. April 2022, 17:33

        Ja und nein. Ich widerhole lieber diese Krisen, als die Krisen DAVOR (Hungersnöte, tägliche (Klein)Kriege und Plünderungen, tödliche und unentrinnbare Epidemien, >95% der Menschen dauerhaft an der Existenzgrenze etc.).

        Gruss,
        Thorsten Haupts

  • cimourdain 7. April 2022, 13:42

    Ich habe den Verdacht, Stöcker ist sich selber nicht klar was exponentielles Wachstum bedeutet, nämlich eine konstante relative Wachstumsrate. Daraus folgt vor allem eines: Bei realen physikalischen Prozessen ist es nur zeitlich begrenzt möglich. Irgendwann wird eine Grenze erreicht sein und entweder sich dieser Sättigungswert einstellen oder der Bestand komplett zusammenbrechen. Nimm das Bevölkerungswachstum, das in der 2. Hälfte des 20. Jahrhunderts sogar hyperexponentiell verlief. Inzwischen ist es linear. Auch das Mooresche Gesetz gilt nicht mehr. Seit 2010 hat sich das Wachstum klar verlangsamt, da die physikalischen Grenzen der Schaltungsdichte spürbar werden.
    Was viel relevanter ist, ist die Unkenntnis über Funktionsweisen. Damit meine ich nicht über technische Spezifika oder gar konkrete Apps, sondern ein Grundverständnis, wie die Dinge funktionieren. (Analogie Auto: Was ist ein Motor, Getriebe,… ) Genügend Leute wissen nicht einmal, was ein Algorithmus ist. Das ist relevant, weil ohne das Grundwerkzeug, um Argumente zu verstehen, nur blindes Vertrauen oder ebenso blindes Misstrauen bleibt.
    Schwieriger ist der Kontrollverlust bei Technologien, die sich selbst der Kontrolle entziehen. Da ist besonders Maschinenlernen wichtig. (Dein Spielebeispiel: Deep Blue hat Kasparov noch mit einen menschgeschriebenen Algorithmus und blanker Rechenleistung besiegt, AlphaGo ‚lernte‘ schon aus einer riesigen Musterpartiendatenbank gegen sich selbst zu spielen und hat dadurch die Meisterschaft im Spiel erworben. Aber je nach Grundlagendatenbank können Maschinenlernsysteme ‚schummeln‘ , so hatte ein programm, das trainiert wurde Hunde- von Wolfsbildern zu unterscheiden, primär darauf geachtet, ob auf dem Bild Schnee ist (weil das bei den meisten Trainings-Wolfsbildern der Fall war. Ist dann ein blindes Vertrauen in den Algorithmus da, können solche externen Faktoren das Urteil überlagern. (Das kann dazu führen, dass sich Maschinen systematisch Rassismus o.ä. anlernen).
    Nehmen wir konkret die gesellschaftliche Überforderung durch Corona; hier kannst du alle Probleme sehen:
    ‚exponentielles‘ Wachstum: 2020 hatten wir auf Verdopplungszahlen gestarrt und daraus ‚naiv‘ hochgerechnet, wann ganz Deutschland infiziert sein würde. Die Infektionszahlen sind dann irgendwann an eine Grenze gestoßen (auch verhaltensbedingt) und wieder zusammengebrochen.
    Unwissenheit: Weil den meisten Menschen nicht die Wirkung einer Impfung klarwar, konnten manche irrationale Ängste verbreiten und umgekehrt Medien und Politik falsche Versprechungen machen.
    Maschinenlernen: Hat seine Grenzen gezeigt: https://www.technologyreview.com/2021/07/30/1030329/machine-learning-ai-failed-covid-hospital-diagnosis-pandemic
    Die AI hatte dabei echt interessante Tricks gefunden um ‚Diagnosen‘ zu erstellen, etwa liegende (eher krank) von stehenden Patientenbildern zu unterscheiden oder sogar aus der Schriftart der Krankenakte die betroffeneren Krankenhäuser zu ermitteln.

    • Marc 7. April 2022, 17:04

      ‚exponentielles‘ Wachstum: 2020 hatten wir auf Verdopplungszahlen gestarrt und daraus ‚naiv‘ hochgerechnet, wann ganz Deutschland infiziert sein würde. Die Infektionszahlen sind dann irgendwann an eine Grenze gestoßen (auch verhaltensbedingt) und wieder zusammengebrochen.

      Die Omikron-Welle ist nicht an Grenzen gestoßen und sie hat den Großteil von Deutschland infiziert, sehr viele sogar mehrfach. Wir können die echten Inzidenzen gar nicht mehr abbilden, weil unser Testsystem nicht ausreicht. Da wir bei PCR Test eine Positivrate von weit Jenseits der 50% bewegt (ideal sind 5%), ist die Dunkelziffer doppelt so hoch oder noch größer.

      Das „naiv“ war völlig korrekt.

    • CitizenK 7. April 2022, 17:41

      Beim Übersetzen ist die KI weitaus effektiver als die mit einem „menschgetriebenen Algorithmus“jemals waren. Die heutige Qualität bei Sachtexten (z. B. von DeepL) ist weit besser als man das für möglich hielt – und selbst besser als die der großen Software-Konzerne. Bei künstlerischen Texten (Gedichten, Lieder) versagt aber auch sie noch immer kläglich.

      • Thorsten Haupts 7. April 2022, 18:34

        Das bestätige ich für deepL – besser, als ich es je für möglich hielt, allerdings begrenzt auf in erster Linie technische Texte. Scheint mir so, als hätten sich Ingenieure und Projektleute aus Ingenieur- und IT-Branchen auf diese Software gestürzt und die KI so trainiert. Neben dem ausgedehnten Schatz an Fachworten aus technischen Branchen und Projektmanagement ist auch die Fähigkeit von deepL, komplexere Sätze noch in eine grammatisch sinnvolle Form einer anderen Sprache zu bringen, ziemlich beeindruckend. Allerdings versagte dieselbe Software ziemlich, als ich sie vor 2 Jahren mit einem historisch-philosophischen Text fütterte.

        Gruss,
        Thorsten Haupts

        • Lemmy Caution 8. April 2022, 14:16

          Fachsprachen sind wesentlich einfacher als Literatur.
          Für IT Bücher in Englisch greife ich nie zu einem Wörterbuch, bei Geschichts/Politikbüchern in Spanisch extrem selten, ausser das Buch enthält lange Originalzitate aus einer anderen Zeit oder idiomatische Wendungen einer bestimmten Klasse wie z.B. Sprache in Armutsvierteln von Santiago in den 1980ern.
          Bei Literatur muss ich öfters nachschlagen. Da gibts auch im Spanischen größere Unterschiede in den einzelnen Ländern, die für Muttersprachler eines anderen spanischsprachigen Landes übrigens leichter zugänglich sind. Hab da ein paar mal nachgefragt. Es gibt da in der Muttersprache offenbar einen großen verborgenen passiven Wortschatz.

        • CitizenK 8. April 2022, 21:10

          Stimmt. Den Testsatz „Der Geist ist willig, aber das Fleisch ist schwach“, übersetzt auch DeepL genau so dämlich-wörtlich wie die allerersten Übersetzungsprogramme vor fünfzig Jahren.

          • Stefan Sasse 9. April 2022, 18:55

            Was wäre denn eine gute Übersetzung eigentlich?

            • pannaKraweel 11. April 2022, 15:46

              Was ist denn an „The spirit is willing but the flesh is weak.“ so daneben?

              • Stefan Sasse 11. April 2022, 17:06

                Exakt meine Frage.

                • pannaKraweel 11. April 2022, 19:15

                  Pardon, aufs falsche „Reply“ gedrückt. Ging eigentlich an CitizenK.

                  An sich begrüße ich Automatisierung auch auf diesem Gebiet. Persönlich macht sie mir das Leben anstrengender, weil ein sehr simples und offenkundiges Argument wegfällt, um fremdsprachliche Fächer an den Schüler zu bringen ;-).

              • CitizenK 13. April 2022, 19:59

                Ihr habt recht. Hab einen Muttersprachler gefragt – die Übersetzung ist korrekt. Genau so wird die Phrase dort genutzt.

      • Stefan Sasse 8. April 2022, 11:28

        Noch.

    • Stefan Sasse 8. April 2022, 11:22

      Danke für den Kontext!

  • Lemmy Caution 8. April 2022, 14:22

    Bin KEIN KI Experte, aber in GO ist es schon faszinierend wie Alpha Go die Perspektive auf das Spiel beeinflußt hat.
    Seit Jahrhunderten existieren sogenannte Joseki Sammlungen. Die besprechen sinnvolle Zug-Folgen zu Beginn einer Partie in einem Bereich des 19×19 Bretts. Seit Alpha Go haben sich nun in den Sammlungen optimale sehr frühe Züge geändert. Das ist schon erstaunlich. Go ist in China, Japan und Süd-Korea ein Profi-Sport, d.h. es gibt Leute, die sich seit sehr jungen Jahren damit hauptberuflich beschäftigen. Das ist schon sehr lange so. Der noch heute berühmte Go Seigen ist 1914 geboren und wurde ab den 1920ern in japanischen Profi-Go-Schulen ausgebildet. Die japanischen Go Schulen existierten vermutlich wesentlich länger. Und keiner dieser hochintelligenten Menschen ist auf Alpha Gos Züge gekommen.
    Auf einigen Plattformen im Internet ist „Korrespondenz-Go“ sehr beliebt. Da hat man 3 Tage Zeit für einem Zug. Am Anfang basieren die meisten Leute ihr Spiel auf Joseki-Sammlungen, die im Internet verfügbar sind. Es gibt da eine Vielzahl von Variationen, so dass es nicht so mechanisch ist wie es sich anhört. Bin selbst von bestimmten Alpha Go Zügen abgekommen, weil ich damit weniger Erfolg zu haben glaube.
    Was ich bezüglich KI gehört habe ist, dass es bei einer bestimmten Art von Algorithmen einen Fortschritt gegeben hat, auch dank besserer processing power.
    Grundsätzlich überschätzen Menschen die Rationalität ihrer Entscheidungen und das ist aus meiner Sicht DAS PROBLEM.
    Ich sehe das beruflich in Code Reviews, dass verschiedene Teams wirklich unterschiedliche Schwerpunkte setzen, was jetzt gut, akzeptabel oder schlecht ist. Es bildet sich in Teams eine Art kultureller Standpunkt, aus dem heraus opiniert wird. Vieles akzeptiere ich einfach, weil es sehr mühsam ist, da Veränderungen zu bewirken. Ich würde schätzen, dass 80% meiner Kollegen diesen kulturellen Standpunkt mit wissenschaftlicher Wahrheit verwechseln.

    Die unterschiedlichen Bewertungen des Russischen Angriffs auf die Ukraine in Deutschland und Chile ist absolut faszinierend. Gott sei Dank nicht auf der Ebene von Politik und Medien, aber sehr wohl bei vielen Bürgern. Die russische Propaganda ist da effektiver als es sich viele vorstellen.

    • Stefan Sasse 8. April 2022, 16:51

      Danke für die Einordnung!

    • CitizenK 8. April 2022, 21:19

      Auch bei der Beurteilung der gezielten Zerstörungen von Kliniken und Wohnhäusern? Und nach Bekanntwerden der Massaker?

      • Thorsten Haupts 8. April 2022, 21:47

        Sie überschätzen die Reihenfolge Fakt – Einordnung – Bewertung gegenüber der für Menschen wesentlich realistischeren Reihenfolge Bewertung – Einordnung – Fakten.

        Wenn Sie sich selbst einmal davon überzeugt haben, dass Putin einen gerechtfertigten Krieg führt und die USA daran schuld sind, ignorieren Sie ab da alle Fakten einfach mit „muss fake sein“. Ist umso einfacher, je mehr Sie Medien misstrauen – und dieses Misstrauen zu säen ist auch aufgrund der notorischen Fehlleistungen von Medien ziemlich einfach (ich selbst misstraue automatisch allen „liberalen“ Medienmeldungen aus dem Komplex Feminismus/Antirassismus/Sexismus und Militär. Aus Erfahrung).

        Gruss,
        Thorsten Haupts

Leave a Comment

I accept that my given data and my IP address is sent to a server in the USA only for the purpose of spam prevention through the Akismet program.More information on Akismet and GDPR.

Diese Website verwendet Akismet, um Spam zu reduzieren. Erfahre mehr darüber, wie deine Kommentardaten verarbeitet werden.