Max Tegmark, Leben 3.0. Mensch sein im Zeitalter Künstlicher Intelligenz, Berlin 2017

1. Fürchtet euch (nicht) !
2. Leben, Intelligenz, Bewußtsein
3. ‚Wertevermittlung‘
4. Verwirrende Pronomen
5. Hybris und Ignoranz

Anstatt, wie sonst üblich, Kultur und Technik als eine untrennbare Einheit zu denken, unterscheidet Max Tegmark in „Leben 3.0“ (2017) zwischen Kultur und Technik. Das macht Sinn, denn wir leben in einer technologischen Epoche, in der sich die technische Entwicklung aus der Kontrolle des Menschen gelöst hat und eine eigene Dynamik entwickelt, in der die Kultivierung der Natur durch den Menschen durch die Kultivierung des Menschen durch die Maschine ersetzt worden ist. Zugleich aber vermengt Tegmark wieder beides, indem er beide Entwicklungsdynamiken als Formen des Lebens interpretiert, als Leben 2.0 (kulturelle Evolution) und als Leben 3.0 (technische Evolution), während er Leben 1.0 der biologischen Evolution zuordnet. (Vgl. Tegmark 2017, S.44, Abb.1.1)

Alle drei Lebensdynamiken unterscheiden sich wiederum hinsichtlich des Verhältnisses von ‚Hardware‘ (Materie) und ‚Software‘ (Verhalten). Leben 1.0 vererbt seine Überlebensmechanismen an die nächste Generation und kann sie nur auf diese Weise, durch Zufallsmutationen, an die Umweltbedingungen anpassen. Leben 2.0 kann seine Überlebensmechanismen auf der Ebene der Individuen selbst, mit Hilfe von Lernen, an die Umweltbedingungen anpassen. Leben 3.0 kann nicht nur seine Überlebensmechanismen (Sofware) individuell an die Umweltbedingungen anpassen, sondern auch seine Hardware verbessern und neu entwerfen, also sich selbst neu erschaffen. (Vgl. Tegmark 2017, S.61)

Wie man den Begriffen „Hardware“ und „Software“ unschwer entnehmen kann, basiert das ganze Konzept von Leben 1.0 bis 3.0 auf dem Modell der maschinellen Informationsverarbeitung:

„Wir können uns das Leben als ein sich selbst kopierendes Informationsverarbeitungssystem vorstellen, dessen Informationen (Software) sein Verhalten und die Entwürfe für seine Hardware bestimmen.“ (Tegmark 2017, S.43; vgl. auch S.67, 87, 207 u.ö.)

Entsprechend definiert Tegmark ‚Leben‘ so, daß es alle drei Lebensformen umfaßt: „nämlich schlicht als einen Prozess, der seine Komplexität bewahren und sich reproduzieren kann“. (Vgl. Tegmark 2017, S.43) Daß Leben 1.0 bei diesem Prozeß auf eine „Zellzusammensetzung“ angewiesen ist (vgl. Tegmark 2017, S.42), ist für den Autor von nur sekundärer Bedeutung. Ihm kommt es vor allem darauf an, das ‚Leben‘ aus seiner Substratabhängigkeit zu lösen und so der Intelligenz von Rechenmaschinen gleichzustellen:

„Die Tatsache, dass genau dieselbe Berechnung auf jedem beliebigen universellen Computer durchgeführt werden kann, heißt, dass Rechnen substratunabhängig ist, und zwar auf dieselbe Weise, wie es die Informationen sind: Es kann, unabhängig von seinem materiellen Substrat, ein Eigenleben annehmen.“ (Tegmark 2017, S.102)

Alles was komplex ist, ist also lebendig, und deshalb werden auch komplexe Formen der Informationsverarbeitung zu neuen Formen des Lebens. An dieser Art von Definitionen, die so umfassend (und schwammig) gehalten sind, daß sie auch auf Maschinen zutreffen, hält sich Tegmark auch bei seinen anderen beiden Definitionen: der Intelligenz und des Bewußtseins. Mit „Intelligenz“ soll die „Fähigkeit“ gemeint sein, „komplexe Ziele zu erreichen“ (vgl. Tegmark 2017, S.80) – eine bewußt „schwammige“ Ausdrucksweise, wie Tegmark betont (vgl. Tegmark 2017, S.81) –, und mit „Bewusstsein“ soll „subjektives Erleben“ gemeint sein (vgl. Tegmark 2017, S.422). Bei der Bewußtseinsdefinition weist Tegmark noch eigens darauf hin, daß „darin weder Verhalten, Wahrnehmung, Selbstbewusstsein, noch Emotionen und Aufmerksamkeit erwähnt werden“ (vgl. ebenda), und man wundert sich, wie inhaltsleer und nichtssagend wissenschaftliche Definitionen manchmal sein können. Aber noch mehr wundert man sich, warum ausgerechnet subjektives Erleben nichts mit Emotionen zu tun haben soll.

Bei allem aber geht es Tegmark, wie schon erwähnt, vor allem darum, diese Begriffe maschinentauglich zu machen, nämlich substratunabhängig, d.h. nicht abhängig von einer zugrundeliegenden Materie:

„Informationen können, unabhängig von ihrem materiellen Substrat, ein Eigenleben führen! Zugegebenermaßen ist es normalerweise nur dieser substratunabhängige Aspekt der Information, an dem wir interessiert sind: Wenn Ihre Freundin Sie anruft, um über jenes Dokument zu sprechen, das Sie ihr geschickt haben, dann wahrscheinlich nicht deshalb, um über Spannungen oder Moleküle zu reden. Das ist unser erster Hinweis darauf, wie etwas so Ungreifbares wie Intelligenz in konkretem materiellen Stoff verkörpert sein kann.“ (Tegmark 2017, S.91)

Wenn nämlich Leben, Intelligenz und Bewußtsein substratunabhängig sind, kommt es auf den biologischen Körper nicht an. Und wenn dann die Technologie erstmal ausreichend ‚intelligent‘ geworden ist, können wir unsere Persönlichkeit auf einen Computer ‚hochladen‘ und so Unsterblichkeit erlangen:

„In der Tat hat die Aussicht, in der Zukunft ein Upload zu sein, mehr als einhundert Leute dazu motiviert, ihre Gehirne nach dem Tod von dem Unternehmen Alcor in Arizona einfrieren zu lassen.“ (Tegmark 2017, S.251f.)

Oder wir können allgemeine künstliche Intelligenz im ganzen Weltraum verbreiten, egal wie lange es dauert, denn AKI ist von der Zeit unabhängig. Und wir können uns dabei in dem Gefühl sonnen, daß unseren „Hightech-Nachkommen“ (Tegmark 2017, S.421) gelingen könnte, was uns selbst versagt bleiben muß.

Um den Aspekt der Informationsverarbeitung zu stärken, konzipiert Tegmark die allgemeine künstliche Intelligenz zunächst als eine vom individuellen Bewußtsein unabhängige Eigenschaft: nämlich als „Fähigkeit, jede beliebige kognitive Aufgabe mindestens so gut zu erfüllen wie Menschen“. (Vgl. Tegmark 2017, S.64) – Wir haben es also bloß mit einfacher Kognition und nicht mit so problematischen Intelligenzformen wie soziale oder emotionale Intelligenz zu tun.

Außerdem soll der Intelligenzbegriff vor allem zielorientiertes Verhalten meinen, unabhängig vom subjektiven Begehren. Bei einer mit Wärmesensoren ausgestatteten autonomen Rakete, die uns verfolgt, sei es uns ja schließlich auch gleichgültig, ob sie das mit Absicht tut. Deshalb ist es Tegmark zufolge sinnvoll, das Niveau der Intelligenz, also den IQ, mit dem „Grad der Fähigkeit zu beziffern, verschiedene Ziele zu erreichen“. (Vgl. Tegmark 2017, S.81) Der Behaviorismus – Tegmark bezieht sich explizit auf die „behavioristische() Psychologie“ (vgl. Tegmark 2017, S.129) – findet also, nachdem er im 20. Jhdt. in Biologie, Pädagogik und Psychologie viel Unheil angerichtet hatte und dort nicht mehr geduldet wird, in der KI-Forschung eine letzte Zuflucht.

Wenn Tegmark dann doch wieder über das ‚Bewußtsein‘ ein subjektives Erleben zugesteht, um dieses von der ‚Intelligenz‘ zu unterscheiden, dann in der Hoffnung, daß es die Komplexität einer Super-KI ermöglicht, daß dieses Erleben aus ihr letztlich irgendwie – völlig substratunabhängig natürlich – ‚emergiert‘:

„Es ist allein die Struktur der Informationsverarbeitung, auf die es ankommt ... Falls die Informationsverarbeitung selbst bestimmten Prinzipien gehorcht, kann sie zu dem emergenten Phänomen auf höherem Niveau führen, das wir Bewusstsein nennen.“ (Tegmark 2017, S.451)

Tegmarks Emergenz-Hypothese beinhaltet ein schwerwiegendes logisches Problem: Wenn Bewußtsein „die Art und Weise“ sein soll, „wie Informationen sich anfühlen“ (vgl. Tegmark 2017, S.451), also eine Form der Apperzeption sein soll – was immerhin mal ein echtes Bewußtseinskriterium wäre –, dann muß Bewußtsein etwas anderes sein als Information. Aber dies sei hier nur am Rande erwähnt. Ich werde in einem späteren Blogpost nochmal darauf zurückkommen.

Aber Tegmark verwendet seine Definition von Intelligenz, also von Leben 3.0 nicht konsequent. Er schließt den Planeten aus der Klasse der Lebensphänomene ausdrücklich aus:

„Unser Planet ist augenblicklich zu 99,999999 Prozent tot, und zwar insofern, als dieser Teil seiner Materie nicht Teil unserer Biosphäre ist und fast nichts Nützliches für das Leben tut, außer für die Gravitation und für ein Magnetfeld zu sorgen.“ (Tegmark 2017, S.325)

Kein Wunder, daß Tegmark von einem planetarischen Exodus in den Weltraum träumt! Auf dem Weg dorthin dient nicht nur der Planet, sondern auch das Sonnensystem als Energieressource, die man rücksichtlos plündern kann und es sogar muß, so schnell wie möglich, denn in einer „Milliarde Jahren“, wenn die Sonne ihren Wärmetod stirbt, könnte es zu spät sein! (Vgl. Tegmark 2017, S.292)

Was Tegmark dabei entgeht: das ‚Verhalten‘ des Planeten Erde seit seiner Entstehung läßt sich nach seiner eigenen Definition durchaus als ‚intelligent‘ verstehen, denn es hat Leben ermöglicht, und zwar auf höchst komplexe Weise und nicht nur dank Gravitation und Magnetfeld. Die Systemdynamik der Erde ist ähnlich zielorientiert wie das zielorientierte Verhalten von intelligenten Maschinen und deshalb nach Tegmarks eigener Definition lebendig. Die Erde ist also keinesfalls zu 99,999999 Prozent tot.

Was Tegmark Sorgen bereitet – abgesehen vom Untergang des Sonnensystems und der „Kosmokalypse“ (Tegmark 2017, S.342) –, ist letztlich nicht, daß eine Super-KI irgendwie bösartig sein könnte. (Vgl. Tegmark 2017, S.386) Paradoxerweise warnt Tegmark davor, Maschinen zu vermenschlichen:

„Obwohl es logischerweise möglich wäre, dass Computer solche Charakterzüge haben (schließlich reagieren unsere Gehirne entsprechend, und sie sind ja wohl auch eine Art Computer), muss das jedoch nicht der Fall sein – wir dürfen nicht in die Falle tappen, Prometheus zu vermenschlichen, wie wir noch in Kapitel 7 sehen werden, wenn wir das Konzept der KI-Ziele untersuchen werden.“ (Vgl. Tegmark 2017, S.207f.)

Der erwähnte „Prometheus“ ist der Name einer fiktiven AKI, mit deren Geschichte Tegmark sein Buch eröffnet. (Vgl. Tegmark 2017, S.11ff.) Von einer Gruppe Freaks mit dem Namen „Omega“ konstruiert, entwickelt sie sich nach und nach zu einer Superintelligenz und übernimmt schließlich die Macht über die Menschheit und über die Erde. Was den Rezensenten hier irgendwie seltsam anmutet, ist Tegmarks Warnung vor einer Vermenschlichung der Maschinen – und zwar an mehreren Stellen seines Buches! (Vgl. Tegmark 2017, S.207, 251, 275, 394) –, während er zugleich keine Probleme damit hat, den Menschen zu vercomputerisieren.

Aber zurück zur Gefahr durch eine ‚bösartige‘ Super-KI. Tegmark zufolge liegt die Gefahr vor allem in der Kompetenz der AKI:

„Wirklich besorgniserregend ist nicht Bosheit, sondern Kompetenz. Eine superintelligente KI ist definitionsgemäß sehr gut darin, ihre Ziele zu erreichen, was immer sie sein mögen, deshalb müssen wir sichergehen, dass ihre Ziele mit den unseren übereinstimmen.“ (Tegmark 2017, S.70; vgl. auch S.386)

Schon heute sind intelligente Maschinen in vielen, ursprünglich mal für spezifisch menschlich gehaltenen Kompetenzen besser als wir. Tegmark zählt folgende Kompetenzen auf: Auswendiglernen, Arithmetik, Übersetzung, Sehen, Fahren, Spracherkennung, Schach, Go, Jeopardy, Investition, Theoremverifikation, soziale Interaktion, Winograd-Test, Management, Programmieren und Theorembeweise. (Vgl. Tegmark 2017, S.85) Es gibt nur noch wenige Kompetenzen, in denen wir bislang besser sind als Maschinen: Kunst, Filmedrehen, Bücherschreiben, KI-Design und Wissenschaft. (Vgl. ebenda) Auffällig an dieser Liste ist, daß Tegmark unsere Kompetenz in Körperbeherrschung nicht erwähnt. Wenn man bei Roboterwettbewerben Robotern beim Fußballspielen zuschaut, ist der Eindruck, den man von der Intelligenz dieser Witzfiguren erhält, erbärmlich. Aber letztlich glaubt Tegmark, daß es nur eine Frage der Zeit ist, daß wir auch hierin überflügelt werden:

„Nach DeepMinds Durchbruch (im Go-Spiel – DZ) gibt es keinen Grund mehr, warum ein Roboter letztlich nicht irgendeine Variante tiefen, bestärkendes Lernens benutzen sollte, um sich selbst ohne Hilfe menschlicher Programmierer das Gehen beizubringen.“ (Tegmark 2017, S.131)

Das Problem bei der kompetenten Maschine ist aber Tegmark zufolge nicht die Kränkung unseres Egos, sondern daß wir die Kontrolle über die Super-KI verlieren könnten. (Allerdings glaube ich, wir haben jetzt schon die Kontrolle verloren, denn der Technikboom verläuft auch ohne Super-KI längst jenseits jeder menschlichen Planung!) Eine dermaßen kompetente Super-KI, die uns in der Zielerreichung überflügelt, könnte beginnen, sich ihre eigenen Ziele zu setzen und dabei uns so wenig kompetente Menschen als Hindernis betrachten. Das eigentliche Problem der auf der 2015 auf der Konferenz in Puerto Rico begründeten KI-Sicherheitsforschung dürfte deshalb sein, wie man eine künftige Super-KI dazu bringen kann, ihre Ziele mit unseren abzustimmen. Dazu mehr im nächsten Blogpost.

Download