Max Tegmark, Leben 3.0. Mensch sein im Zeitalter Künstlicher Intelligenz, Berlin 2017

1. Fürchtet euch (nicht) !
2. Leben, Intelligenz, Bewußtsein
3. ‚Wertevermittlung‘
4. Verwirrende Pronomen
5. Hybris und Ignoranz

Bewußtsein ist für den Intelligenzforscher Max Tegmark vor allem in seiner ästhetischen Funktion wichtig. Anders als die Intelligenz, die Tegmark als ausschließlich zielorientiertes Verhalten definiert, die also zwar teleologisch (vgl. Tegmark 2017, S.64, 383f.), aber nicht intentional ist, verarbeitet das Bewußtsein Informationen nicht einfach nur, sondern es weiß auch, wie sie sich anfühlen (vgl. Tegmark 2017, S.451). Erst diese qualitative Komponente macht Tegmark zufolge aus der Intelligenz ein Bewußtsein. Und erst dieses Bewußtsein wiederum erfüllt das Universum mit Sinn:

„Von allen Merkmalen, die unsere menschliche Form von Intelligenz hat, halte ich das Bewusstsein für d(as) bei weitem bemerkenswerteste, und was mich persönlich betrifft, glaube ich, dass unser Universum dadurch Sinn bekommt. Die Galaxien sind nur schön, weil wir sie sehen und subjektiv erfahren können. Falls in der fernen Zukunft unser Kosmos von Hightech-Zombie-KI besiedelt worden sein sollte, spielt es keine Rolle mehr, wie raffiniert ihre intergalaktische Architektur ist. Sie wird nicht schön oder sinnvoll sein, weil nichts und niemand da ist, der dies wahrnehmen kann – es ist nur noch eine gewaltige und bedeutungslose Raumverschwendung.“ (Tegmark 2017, S.276)

Tegmark zufolge besteht die ästhetische Komponente vor allem in der Apperzeption, also in der die bloße informationsverarbeitende Intelligenz begleitenden Aufmerksamkeit auf die ‚Informationen‘. Ohne diese Aufmerksamkeit bildet die Informationsverarbeitung nur eine Form des Unbewußten, da sich uns „von den rund 10 hoch sieben Billionen Bits Informationen, die jede Sekunde von unseren Sinnesorganen in unser Gehirn gelangen“, „nur ein winziger Bruchteil“ irgendwie ‚anfühlen‘ kann. (Vgl. Tegmark 2017, S.433)

Tegmarks Ausführungen zur apperzeptiven Qualität des Bewußtseins sind philosophisch akzeptabel, kranken aber an einem dreifachen Defizit: seine Definition des Bewußtseins spart nach Tegmarks eigener Aussage genau diese apperzeptive Qualität, nämlich Emotion und Aufmerksamkeit, aus! (Vgl. Tegmark 2017, S.422) – Allerdings ist Tegmarks Bemerkung selbst wiederum ziemlich fragwürdig; denn in der Definition wird gleichermaßen ausdrücklich wie ausschließlich „subjektives Erleben“ als einziges Bewußtseinskriterium genannt. Wie aber soll man sich ein subjektives Erleben denken, das weder Emotionen noch Aufmerksamkeit beinhaltet? Warum also das eine behaupten, um es dann sofort danach durch eine andere Behauptung wieder außer Kraft zu setzen?

Dieses logische Durcheinander hat seinen Grund darin, daß das Bewußtsein eben doch auch nur eine Information sein soll, und das bildet das zweite Defizit. Daß das Bewußtsein selbst nur eine Information sei, folgt nach Tegmarks Ansicht aus dem (wiederum subjektiven) Erleben, daß es sich immateriell anfühlt, weshalb es substratunabhängig sei, und also müsse es eine Information sein, denn Informationen sind ja substratunabhängig. (Vgl. Tegmark 2017, S.451) – Das ist verquere Phänomenologie: hier sind es nicht mehr einfach nur die Informationen, die sich irgendwie anfühlen, was implizieren würde, daß die Anfühlungsanmutung etwas anderes als eine Information wäre; darüberhinaus richtet sich die Anfühlungsanmutung auch auf das Bewußtsein selbst, das also, da es ja, unlogischerweise, selbst eine Information sein soll, auch noch eine Information darüber sein soll, wie sich das Sich-Anfühlen einer Information anfühlt.

Es ist kein Wunder, daß dort, wo auf diese Weise ‚logische‘ Schlüsse gezogen werden, sich der Glaube ausbreitet, man könne Bewußtsein digitalisieren und hochladen!

Das dritte Defizit, das Tegmarks Definition von Bewußtsein beinhaltet, besteht darin, daß Tegmark das komplexe Bewußtsein auf ein einzelnes Moment reduziert: auf die Apperzeption als subjektives Erleben. Seine Beschreibungen dieses subjektiven Erlebens beinhalten aber zwei verschiedene Momente, zum einen die Apperzeption im engeren Sinne, als ‚sich anfühlen wie‘, was Tegmark an anderer Stelle auch als „Qualia“ bezeichnet. (Vgl. Tegmark 2017, S.64, 458f.u.ö.) Zum anderen bezeichnet Tegmark damit etwas, das keine Apperzeption ist, nämlich das Existenzgefühl, das Tegmark auch als „Selbstgefühl“ bezeichnet. Es besteht darin, daß es „sich so anfühlt, als seien es genau Sie in just diesem Augenblick“. (Vgl. Tegmark 2016, S.422f.) Tegmark behauptet, daß wir in diesem Moment „bewusst“ sind.

Tatsächlich ist es aber angemessener, zu sagen, daß wir in diesem Moment wach sind. Natürlich können wir uns dieser Wachheit auch wieder in einer besonderen Weise bewußt sein. Aber meistens sind wir uns dessen nicht bewußt. Wir sind einfach, ohne daß wir einen besonderen Bewußtseinsakt, ein Erleben damit verbinden. Das Existenzgefühl ist eine Gabe unseres Körpers, von „Fleisch, Blut oder Kohlenstoffatomen“, mit denen unsere „Intelligenz“ Tegmark zufolge angeblich nichts zu tun hat, da sie ja substratunabhängig ist. (Vgl. Tegmark 2017, S.91) Und mit denen dann logischerweise auch unser Bewußtsein nichts zu tun hat, das sich so „immateriell“ anfühlt und deshalb auch substratunabhängig ist. Ist also nichts mit Fleisch, Blut und Kohlenstoffatomen! Und deshalb – wiederum logischerweise – auch kein Existenzgefühl.

Existenzgefühl und Apperzeption bilden zwei verschiedene Ebenen des Bewußtseins. Hinzu kommt noch eine dritte Ebene: das Selbstbewußtsein. Diese Ebene deutet sich in Tegmarks Buch dort an, wo Tegmark das Problem mit den Pronomina anspricht. (Vgl. Tegmark 2017, S.136ff.) Ich bin darauf schon im vorangegangenen Blogpost eingegangen und muß das deshalb an dieser Stelle nicht noch einmal ausführen. Ich will hier nur kurz daran erinnern, daß es zum korrekten Gebrauch von Pronomina eines Weltmodells bedarf, über das Spracherkennungsmaschinen (noch) nicht verfügen. Um souverän über ein Weltmodell verfügen zu können, d.h. um in der Lage zu sein, sich mit anderen Menschen mit eigenen Weltmodellen verständigen zu können, müssen wir ihnen ein eigenes Innen, eine eigene Intentionalität, zuerkennen. Wir müssen also in der Lage sein zwischen Innen und Außen zu unterscheiden. Das ist aber genau die Kernleistung eines Selbstbewußtseins! Nur Lebewesen, die über ein Selbstbewußtsein verfügen, können anderen Lebewesen ein Selbstbewußtsein zuerkennen.

Vielleicht ist es mir gelungen, zu zeigen, wie defizitär Tegmarks Bewußtseinskonzept ist. Etwas Bescheidenheit auf Tegmarks Seiten wäre also angebracht. Aber zu solcher disziplinären Selbstbeschränkung sind anscheinend weder KI-Forscher noch Neurowissenschaftler in der Lage. Tatsächlich glaubt Tegmark, daß es ernstzunehmende Bewußtseinstheorien erst gibt, seit sich Neurowissenschaftler (und KI-Forscher) damit befassen:

„Obwohl manche Bewusstseinstheorien aus der Antike stammen, sind die meisten modernen Theorien in der Neuropsychologie und in der Neurowissenschaft verankert.“ (Tegmark 2017, S.444)

Das ganze achte Kapitel zum Bewußtsein (vgl. Tegmark 2017, S.419ff.) ist ein einziges Zeugnis informationskybernetischer und neurowissenschaftlicher Hybris, disziplinärer Ignoranz und wissenschaftlicher Scharlatanerie. Davon zeugt schon gleich der erste Abschnitt, mit dem das Kapitel beginnt und den ich hier vollständig zitiere:

„Wir haben gesehen, dass Künstliche Intelligenz uns helfen kann, eine wunderbare Zukunft zu erschaffen, falls es uns gelingt, Antworten auf einige der ältesten und schwierigsten Fragen in der Philosophie zu finden – vor allem rechtzeitig. Wir konfrontieren die Philosophie, in Nick Bostroms Worten, mit einer Frist. In diesem Kapitel wollen wir eines der heikelsten philosophischen Probleme untersuchen: das Bewusstsein.“ (Tegmark 2017, S.419)

Vor dem Hintergrund des scheinbar demütigen Hinweises „auf einige der ältesten und schwierigsten Fragen in der Philosophie“ hebt sich die Hybris des KI-Forschers, darauf hier und jetzt Antworten finden zu wollen und zu können, nur um so deutlicher ab. Und diese Hybris wird dann noch dadurch gesteigert, daß man der Philosophie eine „Frist“ setzen will, die allerdings schon abgelaufen zu sein scheint, denn an ihrer Stelle wollen sich die KI-Forscher jetzt selbst „eines der heikelsten philosophischen Probleme“ annehmen. Angesichts der „plötzliche(n) Dringlichkeit“ des Bewußtseinsproblems, wie es auf der nächsten Seite heißt – eine Dringlichkeit, die sich aus der bevorstehenden Erschaffung einer Super-KI ergibt –, kann man es nicht Denkern überlassen, die „über das Mysterium des Bewusstseins jahrtausendelang (erfolglos – DZ) gegrübelt haben“. (Vgl. Tegmark 2017, S.420)

Ich frage mich: ist es nur Dummheit, die Klärung eines jahrtausendealten philosophischen Problems mit einer Frist belegen zu wollen? Und ist es nur disziplinäre Hybris, wenn KI-Forscher und Neurowissenschaftler glauben, diese Klärung erzwingen zu können? Ist es nur – wiederum disziplinäre – Ignoranz, wenn sie mit ‚Ergebnissen‘ prahlen, in denen genau das, was definiert werden soll, nämlich menschliches Bewußtsein, aus dieser Definition ausgeschlossen wird, offensichtlich nur in der Absicht, auf diese Weise so etwas wie ein künstliches Bewußtsein denkbar zu machen?

Ich kann mich des Eindrucks nicht erwehren, daß wir es hier mit einem manipulativen Willen zu tun haben, mit wissenschaftlicher Scharlatanerie, denn Tegmark weiß am Ende immer noch nicht, was Bewußtsein ist, will aber den Leser glauben machen, man könne auf der Basis unzureichender Definitionen und von mit neurowissenschaftlichen Methoden gewonnenen Daten zu „verschiedenen Aspekten des Bewusstseins“ eine „Hochrechnung“ zu Möglichkeit und Verständnis von Maschinenbewußtsein machen. (Vgl. Tegmark 2017, S.443)

Nein, ich kann auf dieser Grundlage keineswegs nachvollziehen, daß Maschinenbewußtsein jemals möglich sein wird! Um das menschliche Monopol mache ich mir, was das betrifft, keine Sorgen. Ich mache mir aber Sorgen, daß wir selbst so fortschritts- und maschinengläubig sein könnten, daß wir blind werden, vielleicht schon blind geworden sind für die Differenz zwischen Mensch und Maschine.

Download

Max Tegmark, Leben 3.0. Mensch sein im Zeitalter Künstlicher Intelligenz, Berlin 2017

1. Fürchtet euch (nicht) !
2. Leben, Intelligenz, Bewußtsein
3. ‚Wertevermittlung‘
4. Verwirrende Pronomen
5. Hybris und Ignoranz

Spracherkennung gehört Max Tegmark zufolge zu den ursprünglich allein dem Menschen zugeschriebenen Intelligenzleistungen, in denen Computer heute schon besser sind als sie. (Vgl. Tegmark 2017, S.85) Trotzdem gibt es da etwas, was Übersetzungssoftware immer noch irritiert: die Verwendung von Pronomina wie er, sie, es. (Vgl. Tegmark 2017, S.136ff.) Tegmark bringt u.a. folgendes Beispiel:

„Die Stadträte verweigerten den Demonstranten eine Erlaubnis, weil sie Gewalt befürworteten.“ (Tegmark 2017, S.138)

Für eine Übersetzungsmaschine ist das harmlose ‚sie‘ äußerst verwirrend: bezieht es sich auf die Stadträte oder auf die Demonstranten? – Für uns Menschen ist das kein Problem, weil wir sofort einen Kontext zu diesem Satz herstellen können, in dem Stadträte üblicherweise als Hüter von Recht und Ordnung und Demonstranten potentiell als Störer dieser Ordnung auftreten, so daß das ‚sie‘ sich nur auf die Demonstranten beziehen kann.

Bei solchen Aufgaben schneiden „künstliche Intelligenzen“, wie Tegmark schreibt, „immer noch miserabel ab“. (Vgl. Tegmark 2017, S.139) Allerdings sei die Übersetzungssoftware von Google in den letzten Jahren in einem rasanten Tempo besser geworden, und er ist guter Dinge, daß es Google bald gelingen wird, „eine Sprache verarbeitende KI zu konstruieren, die ein Weltmodell enthält“. (Vgl. Tegmark 2017, S.139)

So etwas ist schnell dahingeschrieben: „Weltmodell“, und man liest genauso schnell darüber hinweg. Aber das harmlos anmutende Wort hat es in sich! Es bildet den Kern der menschlichen Sprachfähigkeit! Es geht nicht einfach nur darum, ein Weltmodell zu entwerfen, als handelte es sich dabei nur um eine weitere Form von Software. Tatsächlich sprengt die Rede vom Weltmodell die Grenzen dessen, was reine Informationsverarbeitung zu leisten vermag. Sicher kann man der Spracherkennungssoftware irgendein ‚Weltmodell‘ einprogrammieren. Aber die Differenz von Innen und Außen, die damit verbunden ist, kann man ihr nicht einprogrammieren. Denn für die Informationsverarbeitung ist alles nur Information, ohne Unterschied, ob es sich nun um Einhörner und gute Feen handelt oder um Börsenkurse und Einsteins Relativitätstheorie. Im Informationsbegriff gibt es keinen Unterschied zwischen Innen und Außen, zwischen fiktiv und real, zwischen Lüge und Wahrheit, zwischen Meinen und Sagen.

‚Weltmodell‘ bedeutet aber nichts anderes: in der Welt da draußen, vor unseren Augen, spielen sich Dinge ab, die sich prinzipiell von dem unterscheiden, was sich in uns regt und uns innerlich bewegt. Pronomina verweisen deshalb nicht einfach nur auf Substantive, die mal als Subjekte, mal als Prädikate auftreten können, mal als Stadtrat und mal als Demonstrant. Die Sätze sind vielmehr auf ein entscheidendes Subjekt bezogen, das sich außerhalb jeder Syntax befindet, und natürlich auch außerhalb jedes Programmcodes, nämlich auf den jeweiligen Weltausschnitt, um den es in dem Satz geht. Die Stadträte sind nur Satzsubjekte und die Demonstranten nur Prädikate innerhalb derselben syntaktischen Struktur. Tatsächlich aber geht es um die Stadt, um die Straße, in der eine Demonstration stattfinden soll. Dieses Subjekt, die Realität, gibt den Stadträten und den Demonstranten ihren Sinn und richtet das Pronomen ‚sie‘ entsprechend aus.

Tegmark weist selbst auf diesen Umstand hin:

„Obwohl ich gestehen muss, dass ich ein wenig ernüchtert bin, von einer KI beim Übersetzen geschlagen worden zu sein, fühle ich mich besser, wenn ich daran denke, dass sie bisher auf noch keine sinnvolle Weise versteht, was sie sagt. Um sie zu trainieren, werden gewaltige Datensätze verwendet. Auf diese Weise entdeckt sie Muster und Beziehungen in Bezug auf Worte, ohne diese Worte jemals mit irgendetwas in der Außenwelt zu verbinden. Sie könnte zum Beispiel jedes Wort durch eine Liste mit Tausenden von Zahlen darstellen, die festlegen, wie sehr es bestimmten anderen Worten ähnelt. Sie könnte dann daraus schließen, dass der Unterschied zwischen ‚König‘ und ‚Königin‘ dem zwischen ‚Ehemann‘ und ‚Ehefrau‘ ähnelt – aber dann hat sie immer noch keinen Schimmer, was es bedeutet, männlich oder weiblich zu sein, oder dass es gar so etwas wie eine materielle Wirklichkeit mit Raum, Zeit und Materie da draußen gibt.“ (Tegmark 2017, S.138)

Das externe Subjekt, das den Sätzen und Worten Bedeutung verleiht, läßt sich Maschinen nicht einprogrammieren. Für sie ist alles nur äußerlich, aber eben nicht außen und deshalb auch nichts innen. Nichts wird gemeint; alles nur gesagt.

Download

Max Tegmark, Leben 3.0. Mensch sein im Zeitalter Künstlicher Intelligenz, Berlin 2017

1. Fürchtet euch (nicht) !
2. Leben, Intelligenz, Bewußtsein
3. ‚Wertevermittlung‘
4. Verwirrende Pronomen
5. Hybris und Ignoranz

Das große Problem der KI-Sicherheitsforschung besteht Max Tegmark zufolge nicht darin, daß eine übermenschliche Superintelligenz irgendwie bösartig sein könnte. Das Problem sei vielmehr, daß sie auf allen Gebieten kompetenter ist als die Menschen. (Vgl. Tegmark 2017, S.70 und S.386) Deshalb geht es Tegmark zufolge in der KI-Sicherheitsforschung vor allem darum, wie man dafür sorgt, „dass ihre Ziele mit den unseren übereinstimmen“. (Vgl. Tegmark 2017, S.70) Tegmark verwendet zur Veranschaulichung dieser Problematik eine Analogie aus der pädagogischen Praxis: die „Wertevermittlung“. Das englische Wort, das er für ‚Vermittlung‘ verwendet, nämlich „value-loading problem“ (Tegmark 2017, S.389), zeigt Tegmarks völlige Ignoranz gegenüber pädagogischen Begriffen.

Erziehungswissenschaftler, die etwas von ihrem Fach verstehen, vermeiden das Wort ‚Vermittlung‘ und sprechen stattdessen von „Werturteilsbildung“. Damit bringen sie zum Ausdruck, daß der pädagogische Anspruch nicht in erster Linie in der Aneignung von Werten, sondern in der Konfrontation mit ihnen besteht, also in der individuellen Auseinandersetzung von Heranwachsenden mit den Werten ihrer Bezugspersonen. Tegmark ist von solchen Subtilitäten nicht nur völlig unbelastet; er verschärft die pädagogische Problematik sogar noch, indem er nach dem Modell der Informationsverarbeitung davon ausgeht, man könne Werte in die Gehirne von Heranwachsenden hochladen (‚loading‘) wie Informationen auf einen Computer.

Zur Begründung dieser absurden Vorstellung beruft sich Tegmark zudem noch auf Gewährspersonen wie Antonio Damasio, auf dessen Buch „Selbst ist der Mensch“ (2011) er sich bezieht. (Vgl. Tegmark 2017, S.380, und S.510, Anm.3) Wie Damasio setzt Tegmark ‚Fühlen‘ mit ‚Werten‘ gleich. Was Tegmark aber nicht erwähnt, ist Damasios Skepsis gegenüber Vergleichen des menschlichen Gehirns mit einem Computer. Gefühle, als unverzichtbarem Bestandteil des menschlichen Bewußtseins, sind Damasio zufolge substratabhängig, also abhängig vom enterischen Nervensystem und von der Biochemie des menschlichen Körpers. Es kann also keine Rede davon sein, daß die menschliche Persönlichkeit einfach in ein künstliches Intelligenzsystem hochgeladen werden könnte. Und in seinem neuen Buch „Im Anfang war das Gefühl“ (2017) hält Damasio ausdrücklich fest, daß Gefühle keine Informationen sind. Sie lassen sich also weder ‚vermitteln‘ noch hochladen und sie lassen sich auch auf keiner Festplatte speichern. Im Gegenteil: ihr unaustauschbares biochemisches Milieu ist sehr wenig ‚fest‘; es ist vielmehr feucht und unbeständig. Und gerade diese Unbeständigkeit des inneren Milieus ist das, was Plessner ‚Seele‘ nennt. Sie ist der Grund, warum die Sprache nicht einfach nur ein Organ der Übermittlung von Informationen ist, sondern allererst ein Medium der seelischen Expression, in der Sagen und Meinen niemals zur Deckung kommen.

Tegmarks Vorstellung von einer erfolgreichen Wertevermittlung erinnert darüberhinaus an die schwarze Pädagogik von John Locke, demzufolge das wichtigste Erziehungsmittel in der Ausnutzung der Manipulierbarkeit von kleinen Kindern besteht und der alles darauf anlegt, jedes selbständige Denken und Urteilen zu unterdrücken, um so zu verhindern, daß die Kinder irgendetwas anderes für richtig halten könnten als ihre Erziehungsberechtigten. Tegmark formuliert es natürlich positiver und spricht vom „magischen Zustand der Überzeugbarkeit“, in dem die Kinder noch ganz unter dem Einfluß ihrer Eltern stehen; ein Zustand, der Tegmark zufolge erzieherisch genutzt werden muß, um die Übernahme der elterlichen Werte sicherzustellen. (Vgl. Tegmark 2017, S.391)

Was mit dem „magischen Zustand der Überzeugbarkeit“ tatsächlich gemeint ist, wird deutlich, wenn Tegmark die Analogie zur künftigen Superintelligenz aufmacht, nämlich schlichtweg Dummheit. Tegmark imaginiert in der Entwicklung dieser Superintelligenz eine der Kindheit gleichende Phase, in der es die Menschen noch relativ leicht haben, sie auf Ziele festzulegen, die den Menschen nutzen:

„Das Zeitfenster, in dem Sie Ihre Ziele einer KI vermitteln können, ist womöglich nur für eine sehr kurze Frist geöffnet, nämlich in dem kurzen Zeitraum, wenn sie noch zu dumm ist, Sie zu verstehen, und bereits zu schlau, um Sie einfach gewähren zu lassen.“ (Tegmark 2017, 2017)

‚Wertevermittlung‘, wie Tegmark sie sich vorstellt, ist also vor allem etwas, das nur gelingen kann, solange das Erziehungsobjekt noch nicht schlau genug ist, um sich ihr zu widersetzen. Aber selbst wenn es den Menschen gelingen sollte, der quasi noch pubertierenden Super-KI Ziele bzw. Werte zu vermitteln, die sie darauf prägen, freundlich zu ihnen zu sein, läßt sich doch eine Restunsicherheit nicht beseitigen: denn wie wir von unseren eigenen Kindern wissen, ist es gar nicht so sicher, daß sie, wenn sie erwachsen sind und fähig, sich ihres eigenen Verstandes zu bedienen, sich dann noch an alles halten, was wir ihnen einmal beigebracht haben:

„... tatsächlich könnte es Hinweise darauf geben, dass die Neigung, angesichts neuer Erfahrungen und Einsichten seine Ziele zu ändern, mit anwachsender Intelligenz eher zunimmt als abnimmt.“ (Tegmark 2017, S.397)

Schon die Analogie zur Kindererziehung ist also, was den Versuch betrifft, eine Super-KI auf menschenfreundliche Ziele festzulegen, nicht besonders ermutigend. Abgesehen davon natürlich, daß Werte keine Informationen sind. Was mich keineswegs beruhigt; denn die Vorstellung einer prinzipiell gefühlskalten Superintelligenz weckt eher Assoziationen an die Erschaffung eines Zombie-Bewußtseins.

Insofern werden die „einhundert Leute“, die beschlossen haben, „ihre Gehirne nach dem Tod von dem Unternehmen Alcor in Arizona einfrieren zu lassen“ (vgl. Tegmark 2018, S.251f.), ihr blaues Wunder erleben, sollte es dazu kommen, daß ihre Gehirne tatsächlich irgendwann hochgeladen werden. Oder vielmehr: sie werden gar nichts erleben. Der einzige Effekt wird sein, daß irgendwelche Festplatten mit Datenschrott zugemüllt werden.

Deshalb glaube ich auch nicht, daß Intelligenz „auf menschlichem Niveau“ jemals eine Zwischenstufe in der Entwicklung einer Super-KI sein wird. Wird es zu einer Super-KI kommen, was ich durchaus für möglich halte, wird sie sich an uns vorbeientwickeln, ohne jemals mit unserer Menschlichkeit auch nur in Berührung gekommen zu sein.

Download

Max Tegmark, Leben 3.0. Mensch sein im Zeitalter Künstlicher Intelligenz, Berlin 2017

1. Fürchtet euch (nicht) !
2. Leben, Intelligenz, Bewußtsein
3. ‚Wertevermittlung‘
4. Verwirrende Pronomen
5. Hybris und Ignoranz

Anstatt, wie sonst üblich, Kultur und Technik als eine untrennbare Einheit zu denken, unterscheidet Max Tegmark in „Leben 3.0“ (2017) zwischen Kultur und Technik. Das macht Sinn, denn wir leben in einer technologischen Epoche, in der sich die technische Entwicklung aus der Kontrolle des Menschen gelöst hat und eine eigene Dynamik entwickelt, in der die Kultivierung der Natur durch den Menschen durch die Kultivierung des Menschen durch die Maschine ersetzt worden ist. Zugleich aber vermengt Tegmark wieder beides, indem er beide Entwicklungsdynamiken als Formen des Lebens interpretiert, als Leben 2.0 (kulturelle Evolution) und als Leben 3.0 (technische Evolution), während er Leben 1.0 der biologischen Evolution zuordnet. (Vgl. Tegmark 2017, S.44, Abb.1.1)

Alle drei Lebensdynamiken unterscheiden sich wiederum hinsichtlich des Verhältnisses von ‚Hardware‘ (Materie) und ‚Software‘ (Verhalten). Leben 1.0 vererbt seine Überlebensmechanismen an die nächste Generation und kann sie nur auf diese Weise, durch Zufallsmutationen, an die Umweltbedingungen anpassen. Leben 2.0 kann seine Überlebensmechanismen auf der Ebene der Individuen selbst, mit Hilfe von Lernen, an die Umweltbedingungen anpassen. Leben 3.0 kann nicht nur seine Überlebensmechanismen (Sofware) individuell an die Umweltbedingungen anpassen, sondern auch seine Hardware verbessern und neu entwerfen, also sich selbst neu erschaffen. (Vgl. Tegmark 2017, S.61)

Wie man den Begriffen „Hardware“ und „Software“ unschwer entnehmen kann, basiert das ganze Konzept von Leben 1.0 bis 3.0 auf dem Modell der maschinellen Informationsverarbeitung:

„Wir können uns das Leben als ein sich selbst kopierendes Informationsverarbeitungssystem vorstellen, dessen Informationen (Software) sein Verhalten und die Entwürfe für seine Hardware bestimmen.“ (Tegmark 2017, S.43; vgl. auch S.67, 87, 207 u.ö.)

Entsprechend definiert Tegmark ‚Leben‘ so, daß es alle drei Lebensformen umfaßt: „nämlich schlicht als einen Prozess, der seine Komplexität bewahren und sich reproduzieren kann“. (Vgl. Tegmark 2017, S.43) Daß Leben 1.0 bei diesem Prozeß auf eine „Zellzusammensetzung“ angewiesen ist (vgl. Tegmark 2017, S.42), ist für den Autor von nur sekundärer Bedeutung. Ihm kommt es vor allem darauf an, das ‚Leben‘ aus seiner Substratabhängigkeit zu lösen und so der Intelligenz von Rechenmaschinen gleichzustellen:

„Die Tatsache, dass genau dieselbe Berechnung auf jedem beliebigen universellen Computer durchgeführt werden kann, heißt, dass Rechnen substratunabhängig ist, und zwar auf dieselbe Weise, wie es die Informationen sind: Es kann, unabhängig von seinem materiellen Substrat, ein Eigenleben annehmen.“ (Tegmark 2017, S.102)

Alles was komplex ist, ist also lebendig, und deshalb werden auch komplexe Formen der Informationsverarbeitung zu neuen Formen des Lebens. An dieser Art von Definitionen, die so umfassend (und schwammig) gehalten sind, daß sie auch auf Maschinen zutreffen, hält sich Tegmark auch bei seinen anderen beiden Definitionen: der Intelligenz und des Bewußtseins. Mit „Intelligenz“ soll die „Fähigkeit“ gemeint sein, „komplexe Ziele zu erreichen“ (vgl. Tegmark 2017, S.80) – eine bewußt „schwammige“ Ausdrucksweise, wie Tegmark betont (vgl. Tegmark 2017, S.81) –, und mit „Bewusstsein“ soll „subjektives Erleben“ gemeint sein (vgl. Tegmark 2017, S.422). Bei der Bewußtseinsdefinition weist Tegmark noch eigens darauf hin, daß „darin weder Verhalten, Wahrnehmung, Selbstbewusstsein, noch Emotionen und Aufmerksamkeit erwähnt werden“ (vgl. ebenda), und man wundert sich, wie inhaltsleer und nichtssagend wissenschaftliche Definitionen manchmal sein können. Aber noch mehr wundert man sich, warum ausgerechnet subjektives Erleben nichts mit Emotionen zu tun haben soll.

Bei allem aber geht es Tegmark, wie schon erwähnt, vor allem darum, diese Begriffe maschinentauglich zu machen, nämlich substratunabhängig, d.h. nicht abhängig von einer zugrundeliegenden Materie:

„Informationen können, unabhängig von ihrem materiellen Substrat, ein Eigenleben führen! Zugegebenermaßen ist es normalerweise nur dieser substratunabhängige Aspekt der Information, an dem wir interessiert sind: Wenn Ihre Freundin Sie anruft, um über jenes Dokument zu sprechen, das Sie ihr geschickt haben, dann wahrscheinlich nicht deshalb, um über Spannungen oder Moleküle zu reden. Das ist unser erster Hinweis darauf, wie etwas so Ungreifbares wie Intelligenz in konkretem materiellen Stoff verkörpert sein kann.“ (Tegmark 2017, S.91)

Wenn nämlich Leben, Intelligenz und Bewußtsein substratunabhängig sind, kommt es auf den biologischen Körper nicht an. Und wenn dann die Technologie erstmal ausreichend ‚intelligent‘ geworden ist, können wir unsere Persönlichkeit auf einen Computer ‚hochladen‘ und so Unsterblichkeit erlangen:

„In der Tat hat die Aussicht, in der Zukunft ein Upload zu sein, mehr als einhundert Leute dazu motiviert, ihre Gehirne nach dem Tod von dem Unternehmen Alcor in Arizona einfrieren zu lassen.“ (Tegmark 2017, S.251f.)

Oder wir können allgemeine künstliche Intelligenz im ganzen Weltraum verbreiten, egal wie lange es dauert, denn AKI ist von der Zeit unabhängig. Und wir können uns dabei in dem Gefühl sonnen, daß unseren „Hightech-Nachkommen“ (Tegmark 2017, S.421) gelingen könnte, was uns selbst versagt bleiben muß.

Um den Aspekt der Informationsverarbeitung zu stärken, konzipiert Tegmark die allgemeine künstliche Intelligenz zunächst als eine vom individuellen Bewußtsein unabhängige Eigenschaft: nämlich als „Fähigkeit, jede beliebige kognitive Aufgabe mindestens so gut zu erfüllen wie Menschen“. (Vgl. Tegmark 2017, S.64) – Wir haben es also bloß mit einfacher Kognition und nicht mit so problematischen Intelligenzformen wie soziale oder emotionale Intelligenz zu tun.

Außerdem soll der Intelligenzbegriff vor allem zielorientiertes Verhalten meinen, unabhängig vom subjektiven Begehren. Bei einer mit Wärmesensoren ausgestatteten autonomen Rakete, die uns verfolgt, sei es uns ja schließlich auch gleichgültig, ob sie das mit Absicht tut. Deshalb ist es Tegmark zufolge sinnvoll, das Niveau der Intelligenz, also den IQ, mit dem „Grad der Fähigkeit zu beziffern, verschiedene Ziele zu erreichen“. (Vgl. Tegmark 2017, S.81) Der Behaviorismus – Tegmark bezieht sich explizit auf die „behavioristische() Psychologie“ (vgl. Tegmark 2017, S.129) – findet also, nachdem er im 20. Jhdt. in Biologie, Pädagogik und Psychologie viel Unheil angerichtet hatte und dort nicht mehr geduldet wird, in der KI-Forschung eine letzte Zuflucht.

Wenn Tegmark dann doch wieder über das ‚Bewußtsein‘ ein subjektives Erleben zugesteht, um dieses von der ‚Intelligenz‘ zu unterscheiden, dann in der Hoffnung, daß es die Komplexität einer Super-KI ermöglicht, daß dieses Erleben aus ihr letztlich irgendwie – völlig substratunabhängig natürlich – ‚emergiert‘:

„Es ist allein die Struktur der Informationsverarbeitung, auf die es ankommt ... Falls die Informationsverarbeitung selbst bestimmten Prinzipien gehorcht, kann sie zu dem emergenten Phänomen auf höherem Niveau führen, das wir Bewusstsein nennen.“ (Tegmark 2017, S.451)

Tegmarks Emergenz-Hypothese beinhaltet ein schwerwiegendes logisches Problem: Wenn Bewußtsein „die Art und Weise“ sein soll, „wie Informationen sich anfühlen“ (vgl. Tegmark 2017, S.451), also eine Form der Apperzeption sein soll – was immerhin mal ein echtes Bewußtseinskriterium wäre –, dann muß Bewußtsein etwas anderes sein als Information. Aber dies sei hier nur am Rande erwähnt. Ich werde in einem späteren Blogpost nochmal darauf zurückkommen.

Aber Tegmark verwendet seine Definition von Intelligenz, also von Leben 3.0 nicht konsequent. Er schließt den Planeten aus der Klasse der Lebensphänomene ausdrücklich aus:

„Unser Planet ist augenblicklich zu 99,999999 Prozent tot, und zwar insofern, als dieser Teil seiner Materie nicht Teil unserer Biosphäre ist und fast nichts Nützliches für das Leben tut, außer für die Gravitation und für ein Magnetfeld zu sorgen.“ (Tegmark 2017, S.325)

Kein Wunder, daß Tegmark von einem planetarischen Exodus in den Weltraum träumt! Auf dem Weg dorthin dient nicht nur der Planet, sondern auch das Sonnensystem als Energieressource, die man rücksichtlos plündern kann und es sogar muß, so schnell wie möglich, denn in einer „Milliarde Jahren“, wenn die Sonne ihren Wärmetod stirbt, könnte es zu spät sein! (Vgl. Tegmark 2017, S.292)

Was Tegmark dabei entgeht: das ‚Verhalten‘ des Planeten Erde seit seiner Entstehung läßt sich nach seiner eigenen Definition durchaus als ‚intelligent‘ verstehen, denn es hat Leben ermöglicht, und zwar auf höchst komplexe Weise und nicht nur dank Gravitation und Magnetfeld. Die Systemdynamik der Erde ist ähnlich zielorientiert wie das zielorientierte Verhalten von intelligenten Maschinen und deshalb nach Tegmarks eigener Definition lebendig. Die Erde ist also keinesfalls zu 99,999999 Prozent tot.

Was Tegmark Sorgen bereitet – abgesehen vom Untergang des Sonnensystems und der „Kosmokalypse“ (Tegmark 2017, S.342) –, ist letztlich nicht, daß eine Super-KI irgendwie bösartig sein könnte. (Vgl. Tegmark 2017, S.386) Paradoxerweise warnt Tegmark davor, Maschinen zu vermenschlichen:

„Obwohl es logischerweise möglich wäre, dass Computer solche Charakterzüge haben (schließlich reagieren unsere Gehirne entsprechend, und sie sind ja wohl auch eine Art Computer), muss das jedoch nicht der Fall sein – wir dürfen nicht in die Falle tappen, Prometheus zu vermenschlichen, wie wir noch in Kapitel 7 sehen werden, wenn wir das Konzept der KI-Ziele untersuchen werden.“ (Vgl. Tegmark 2017, S.207f.)

Der erwähnte „Prometheus“ ist der Name einer fiktiven AKI, mit deren Geschichte Tegmark sein Buch eröffnet. (Vgl. Tegmark 2017, S.11ff.) Von einer Gruppe Freaks mit dem Namen „Omega“ konstruiert, entwickelt sie sich nach und nach zu einer Superintelligenz und übernimmt schließlich die Macht über die Menschheit und über die Erde. Was den Rezensenten hier irgendwie seltsam anmutet, ist Tegmarks Warnung vor einer Vermenschlichung der Maschinen – und zwar an mehreren Stellen seines Buches! (Vgl. Tegmark 2017, S.207, 251, 275, 394) –, während er zugleich keine Probleme damit hat, den Menschen zu vercomputerisieren.

Aber zurück zur Gefahr durch eine ‚bösartige‘ Super-KI. Tegmark zufolge liegt die Gefahr vor allem in der Kompetenz der AKI:

„Wirklich besorgniserregend ist nicht Bosheit, sondern Kompetenz. Eine superintelligente KI ist definitionsgemäß sehr gut darin, ihre Ziele zu erreichen, was immer sie sein mögen, deshalb müssen wir sichergehen, dass ihre Ziele mit den unseren übereinstimmen.“ (Tegmark 2017, S.70; vgl. auch S.386)

Schon heute sind intelligente Maschinen in vielen, ursprünglich mal für spezifisch menschlich gehaltenen Kompetenzen besser als wir. Tegmark zählt folgende Kompetenzen auf: Auswendiglernen, Arithmetik, Übersetzung, Sehen, Fahren, Spracherkennung, Schach, Go, Jeopardy, Investition, Theoremverifikation, soziale Interaktion, Winograd-Test, Management, Programmieren und Theorembeweise. (Vgl. Tegmark 2017, S.85) Es gibt nur noch wenige Kompetenzen, in denen wir bislang besser sind als Maschinen: Kunst, Filmedrehen, Bücherschreiben, KI-Design und Wissenschaft. (Vgl. ebenda) Auffällig an dieser Liste ist, daß Tegmark unsere Kompetenz in Körperbeherrschung nicht erwähnt. Wenn man bei Roboterwettbewerben Robotern beim Fußballspielen zuschaut, ist der Eindruck, den man von der Intelligenz dieser Witzfiguren erhält, erbärmlich. Aber letztlich glaubt Tegmark, daß es nur eine Frage der Zeit ist, daß wir auch hierin überflügelt werden:

„Nach DeepMinds Durchbruch (im Go-Spiel – DZ) gibt es keinen Grund mehr, warum ein Roboter letztlich nicht irgendeine Variante tiefen, bestärkendes Lernens benutzen sollte, um sich selbst ohne Hilfe menschlicher Programmierer das Gehen beizubringen.“ (Tegmark 2017, S.131)

Das Problem bei der kompetenten Maschine ist aber Tegmark zufolge nicht die Kränkung unseres Egos, sondern daß wir die Kontrolle über die Super-KI verlieren könnten. (Allerdings glaube ich, wir haben jetzt schon die Kontrolle verloren, denn der Technikboom verläuft auch ohne Super-KI längst jenseits jeder menschlichen Planung!) Eine dermaßen kompetente Super-KI, die uns in der Zielerreichung überflügelt, könnte beginnen, sich ihre eigenen Ziele zu setzen und dabei uns so wenig kompetente Menschen als Hindernis betrachten. Das eigentliche Problem der auf der 2015 auf der Konferenz in Puerto Rico begründeten KI-Sicherheitsforschung dürfte deshalb sein, wie man eine künftige Super-KI dazu bringen kann, ihre Ziele mit unseren abzustimmen. Dazu mehr im nächsten Blogpost.

Download

Max Tegmark, Leben 3.0. Mensch sein im Zeitalter Künstlicher Intelligenz, Berlin 2017

1. Fürchtet euch (nicht) !
2. Leben, Intelligenz, Bewußtsein
3. ‚Wertevermittlung‘
4. Verwirrende Pronomen
5. Hybris und Ignoranz

Hans Jonas hatte 1979 in seinem Buch „Das Prinzip Verantwortung“ angesichts der Folgekosten der technischen Entwicklung einen ethischen Imperativ für die wissenschaftliche Forschung aufgestellt: an die Stelle des Optimismusses, demzufolge alles, was wir machen können, auch gemacht werden soll, habe die „Heuristik der Furcht“ zu treten, also ein vernunftgesteuerter Pessimismus, der immer vom Schlimmsten ausgeht. Wie wir heute wissen, hat sich Jonassens Heuristik nicht durchgesetzt. Stattdessen werden wir von einer Welle von technologischen Innovationen überschwemmt, von denen jede einzelne das Potential hat, das Gesicht nicht der Menschheit, sondern unserer Menschlichkeit bis zur Unkenntlichkeit zu verunstalten. Die „Heuristik der Furcht“ wird als „German Angst“ bzw. als „German Vorsicht“ verunglimpft.

Inzwischen ist aber bei der fortschrittsgläubigen wissenschaftlichen Avantgarde, bei den KI-Forschern, angesichts dessen, was sie technologisch für möglich halten, eine Art leichtes Unwohlsein aufgekommen. Sie scheuen sogar vor Vergleichen der maschinellen Superintelligenz, an der sie ansonsten so engagiert arbeiten, mit der Atombombe nicht zurück: sogar noch gefährlicher als diese soll sie sein! (Vgl. Tegmark 2017, S.477) Und Max Tegmark, Professor am Massachusetts Institute of Technology (MIT), Autor von „Leben 3.0. Mensch sein im Zeitalter Künstlicher Intelligenz“ (2017), hat sogar 2015 eine Konferenz zur „Sicherheitsforschung“ initiiert, bei der es ausschließlich um die Gefahren der Künstlichen Intelligenzforschung ging (Tegmark 2017, S.57ff.) und auf der der Hinweis darauf, daß es Leute gebe, die tatsächlich der Meinung seien, KI-Sicherheitsforschung sei etwas für Technikfeinde, „großes Gelächter im Saal“ hervorrief (vgl. Tegmark 2017, S.68).

Die Fragen, die Tegmark stellt, nach der Zukunft von Jobs und Löhnen, nach der Zukunft von Gesellschaftssystemen und nach dem individuellem Lebenssinn erinnern in ihrer Bedrohlichkeit an Hans Jonas. Doch Tegmarks Botschaft ist paradox. Sie lautet: Fürchtet euch nicht! – Wenn wir uns nur früh genug Gedanken über die Sicherheit machen, also über die möglichen desaströsen Folgen einer maschinellen Superintelligenz und ihre Vermeidung, dann wird nicht nur alles gut werden, sondern wir werden sogar eine phantastische Zukunft haben! Wir werden den „zu 99,999999 Prozent“ toten Planeten Erde (vgl. Tegmark 2017, S.325) verlassen und das Universum besiedeln, denn alles, was uns „Wissenschaftler und Sciencefiction-Autoren“ bislang über die Zukunft der Menschheit erzählt haben, ist angesichts des tatsächlich technisch Möglichen „übertrieben pessimistisch“ gewesen (vgl. Tegmark 2017, S.337).

Tegmarks „KI-Sicherheitsforschung“ bildet also nur eine weitere Spielart des naiven Fortschrittsglaubens, der zudem noch – wenn es um Begriffe wie „Intelligenz“, „Bewußtsein“ und „Leben“ geht – mit unzureichend analysierten Begriffen hantiert, die aber zur Voraussetzung genau jener Spekulationen über die Möglichkeiten ihrer Digitalisierung und der damit verbundenen kosmischen Evolution (Leben 3.0) werden, die den größten Teil von Tegmarks Buch in Anspruch nehmen. Denn einerseits gibt Tegmark in aller (naiven) Offenheit zu, daß wir es beim ‚Leben‘, bei der ‚Intelligenz‘ und beim ‚Bewußtsein‘ mit Phänomenen zu tun haben, über die wir wenig bis gar nichts wissen:

„Selbst unter intelligenten Intelligenzforschern herrscht keine Einigkeit über die Beschaffenheit von Intelligenz! Es gibt also eindeutig keine unumstrittene ‚korrekte‘ Definition von Intelligenz.“ (Tegmark 2017, S.80)

Und an anderer Stelle:

„Ähnlich wie bei ‚Leben‘ und ‚Intelligenz‘ gibt es keine eindeutig korrekte Definition des Wortes ‚Bewusstsein‘.“ (Tegmark 2017, S.421)

Doch andererseits macht Tegmark aus dieser Unkenntnis geradezu eine Tugend; denn er nimmt sich die Freiheit, die Begriffe so zu definieren, wie es ihm paßt, so daß sie mit der avisierten maschinellen Superintelligenz kompatibel sind. Er eliminiert aus ihnen alles, was sie an spezifisch menschlichen Merkmalen beinhalten. (Vgl. Tegmark 2017, S.43, 80, 421f.) Tegmark ist sogar noch stolz über dieses Definitionsparadox, das darin besteht, alle die Merkmale, die zur Definition des Bewußtseins gehören, aus seiner Definition von vornherein auszuschließen:

„Um wertschätzen zu können, wie umfassend unsere Definition des Bewusstseins ist, sollten Sie beachten, dass darin weder Verhalten, Wahrnehmung, Selbstbewusstsein, noch Emotionen und Aufmerksamkeit erwähnt werden.“ (Tegmark 2017, S.422)

Es ist also nicht überraschend, daß es unter den KI-Forschern zwar keine „Technikfeinde“ gibt (vgl. Tegmark 2017, S.68, 287), dafür aber „Techno-Skeptiker“, deren einziger Unterschied zu den „Digitalen Utopisten“, die an eine digitale Expansion des ‚Lebens‘ im Weltraum glauben (vgl. Tegmark 2017, S.51ff.), darin besteht, daß eine „übermenschliche KI“, die diese Expansion ermöglichen würde, „in den nächsten hundert Jahren nicht zu erwarten sei“, wir bis dahin also noch viel Zeit haben, uns Gedanken zu machen (vgl. Tegmark 2017, S.54). Sich selbst ordnet Tegmark der dritten Gruppe von KI-Forschern zu, der „nutzbringenden KI-Bewegung“ (beneficial AI movement), die davon ausgeht, daß vor der – letztlich unvermeidlichen – Realisierung einer Superintelligenz noch einige „entscheidende Fragen“ zu klären seien, nämlich wie man dieser Superintelligenz beibringen könne, dem Menschen zu nutzen, anstatt ihm zu schaden. (Vgl. Tegmark 2017, S.55ff.)

In diesen Fragen sind sich aber alle drei KI-Forschergruppen einig, so daß Tegmarks Einteilung der KI-Forschung in drei Gruppen letztlich belanglos ist. Alle sind unverbesserliche Optimisten – Tegmark zieht das Adjektiv ‚achtsam‘ vor – und halten nichts von Jonassens Heuristik der Furcht:

„Um ein achtsamer Optimist zu werden, ist es entscheidend, positive Visionen für die Zukunft zu entwickeln.“ (Tegmark 2917, S.485)

Dennoch gibt es etwas, vor dem auch Tegmark sich fürchtet. Nicht etwa vor der potentiellen Bedrohung durch eine außer Kontrolle geratene KI-Superintelligenz! Mit ein bißchen vorsorglicher Sicherheitsforschung sollte sie sich wohl eindämmen lassen. Auch nicht vor den Folgen einer Klimakatastrophe, die Tegmark gelegentlich mal am Rande erwähnt. Mit Hilfe des technologischen Fortschritts werden wir auch dieses Problem in den Griff kriegen. (Vgl. Tegmark 2017, S.499, Anm.4) – Wovor sich Tegmark wirklich fürchtet, das ist die „Kosmokalypse“ (Tegmark 2017, S.342), also der Untergang des Universums in „Zigmilliarden Jahren“:

„Ohne Technik steht unsere Auslöschung im kosmischen Kontext in einigen Zigmilliarden Jahren bevor, so dass das ganze Drama des Lebens in unserem Universum lediglich ein kurzes Aufblitzen von Schönheit, Leidenschaft und Bedeutung ist in einer annähernden Ewigkeit der Bedeutungslosigkeit, die niemand je erleben wird.“ (Tegmark 2017, S.367)

Die Kosmokalypse – und zwar ohne daß wir bis dahin eine bewußtseinsfähige Super-KI geschaffen haben, die möglicherweise sogar in der Lage wäre, auch noch den Untergang des Universums zu überleben – bildet für Tegmark den Anlaß für seine persönliche Version eines wissenschaftsethischen Imperativs: die Erschaffung einer Super-KI soll sein, um (digitales) Bewußtsein in allen Winkeln des Universums und darüberhinaus zu verbreiten!

Wer fängt hier an, mit Tegmark zu träumen?
Wer fürchtet sich hier mit dem Rezensenten vor der Furcht des KI-Forschers?
Wer teilt mit ihm die Sorge, daß solche kosmischen Visionen konkrete planetarische Bedrohungsszenarien wie den Klimawandel entwichten?

Download