Max Tegmark, Leben 3.0. Mensch sein im Zeitalter Künstlicher Intelligenz, Berlin 2017

1. Fürchtet euch (nicht) !
2. Leben, Intelligenz, Bewußtsein
3. ‚Wertevermittlung‘
4. Verwirrende Pronomen
5. Hybris und Ignoranz

Bewußtsein ist für den Intelligenzforscher Max Tegmark vor allem in seiner ästhetischen Funktion wichtig. Anders als die Intelligenz, die Tegmark als ausschließlich zielorientiertes Verhalten definiert, die also zwar teleologisch (vgl. Tegmark 2017, S.64, 383f.), aber nicht intentional ist, verarbeitet das Bewußtsein Informationen nicht einfach nur, sondern es weiß auch, wie sie sich anfühlen (vgl. Tegmark 2017, S.451). Erst diese qualitative Komponente macht Tegmark zufolge aus der Intelligenz ein Bewußtsein. Und erst dieses Bewußtsein wiederum erfüllt das Universum mit Sinn:

„Von allen Merkmalen, die unsere menschliche Form von Intelligenz hat, halte ich das Bewusstsein für d(as) bei weitem bemerkenswerteste, und was mich persönlich betrifft, glaube ich, dass unser Universum dadurch Sinn bekommt. Die Galaxien sind nur schön, weil wir sie sehen und subjektiv erfahren können. Falls in der fernen Zukunft unser Kosmos von Hightech-Zombie-KI besiedelt worden sein sollte, spielt es keine Rolle mehr, wie raffiniert ihre intergalaktische Architektur ist. Sie wird nicht schön oder sinnvoll sein, weil nichts und niemand da ist, der dies wahrnehmen kann – es ist nur noch eine gewaltige und bedeutungslose Raumverschwendung.“ (Tegmark 2017, S.276)

Tegmark zufolge besteht die ästhetische Komponente vor allem in der Apperzeption, also in der die bloße informationsverarbeitende Intelligenz begleitenden Aufmerksamkeit auf die ‚Informationen‘. Ohne diese Aufmerksamkeit bildet die Informationsverarbeitung nur eine Form des Unbewußten, da sich uns „von den rund 10 hoch sieben Billionen Bits Informationen, die jede Sekunde von unseren Sinnesorganen in unser Gehirn gelangen“, „nur ein winziger Bruchteil“ irgendwie ‚anfühlen‘ kann. (Vgl. Tegmark 2017, S.433)

Tegmarks Ausführungen zur apperzeptiven Qualität des Bewußtseins sind philosophisch akzeptabel, kranken aber an einem dreifachen Defizit: seine Definition des Bewußtseins spart nach Tegmarks eigener Aussage genau diese apperzeptive Qualität, nämlich Emotion und Aufmerksamkeit, aus! (Vgl. Tegmark 2017, S.422) – Allerdings ist Tegmarks Bemerkung selbst wiederum ziemlich fragwürdig; denn in der Definition wird gleichermaßen ausdrücklich wie ausschließlich „subjektives Erleben“ als einziges Bewußtseinskriterium genannt. Wie aber soll man sich ein subjektives Erleben denken, das weder Emotionen noch Aufmerksamkeit beinhaltet? Warum also das eine behaupten, um es dann sofort danach durch eine andere Behauptung wieder außer Kraft zu setzen?

Dieses logische Durcheinander hat seinen Grund darin, daß das Bewußtsein eben doch auch nur eine Information sein soll, und das bildet das zweite Defizit. Daß das Bewußtsein selbst nur eine Information sei, folgt nach Tegmarks Ansicht aus dem (wiederum subjektiven) Erleben, daß es sich immateriell anfühlt, weshalb es substratunabhängig sei, und also müsse es eine Information sein, denn Informationen sind ja substratunabhängig. (Vgl. Tegmark 2017, S.451) – Das ist verquere Phänomenologie: hier sind es nicht mehr einfach nur die Informationen, die sich irgendwie anfühlen, was implizieren würde, daß die Anfühlungsanmutung etwas anderes als eine Information wäre; darüberhinaus richtet sich die Anfühlungsanmutung auch auf das Bewußtsein selbst, das also, da es ja, unlogischerweise, selbst eine Information sein soll, auch noch eine Information darüber sein soll, wie sich das Sich-Anfühlen einer Information anfühlt.

Es ist kein Wunder, daß dort, wo auf diese Weise ‚logische‘ Schlüsse gezogen werden, sich der Glaube ausbreitet, man könne Bewußtsein digitalisieren und hochladen!

Das dritte Defizit, das Tegmarks Definition von Bewußtsein beinhaltet, besteht darin, daß Tegmark das komplexe Bewußtsein auf ein einzelnes Moment reduziert: auf die Apperzeption als subjektives Erleben. Seine Beschreibungen dieses subjektiven Erlebens beinhalten aber zwei verschiedene Momente, zum einen die Apperzeption im engeren Sinne, als ‚sich anfühlen wie‘, was Tegmark an anderer Stelle auch als „Qualia“ bezeichnet. (Vgl. Tegmark 2017, S.64, 458f.u.ö.) Zum anderen bezeichnet Tegmark damit etwas, das keine Apperzeption ist, nämlich das Existenzgefühl, das Tegmark auch als „Selbstgefühl“ bezeichnet. Es besteht darin, daß es „sich so anfühlt, als seien es genau Sie in just diesem Augenblick“. (Vgl. Tegmark 2016, S.422f.) Tegmark behauptet, daß wir in diesem Moment „bewusst“ sind.

Tatsächlich ist es aber angemessener, zu sagen, daß wir in diesem Moment wach sind. Natürlich können wir uns dieser Wachheit auch wieder in einer besonderen Weise bewußt sein. Aber meistens sind wir uns dessen nicht bewußt. Wir sind einfach, ohne daß wir einen besonderen Bewußtseinsakt, ein Erleben damit verbinden. Das Existenzgefühl ist eine Gabe unseres Körpers, von „Fleisch, Blut oder Kohlenstoffatomen“, mit denen unsere „Intelligenz“ Tegmark zufolge angeblich nichts zu tun hat, da sie ja substratunabhängig ist. (Vgl. Tegmark 2017, S.91) Und mit denen dann logischerweise auch unser Bewußtsein nichts zu tun hat, das sich so „immateriell“ anfühlt und deshalb auch substratunabhängig ist. Ist also nichts mit Fleisch, Blut und Kohlenstoffatomen! Und deshalb – wiederum logischerweise – auch kein Existenzgefühl.

Existenzgefühl und Apperzeption bilden zwei verschiedene Ebenen des Bewußtseins. Hinzu kommt noch eine dritte Ebene: das Selbstbewußtsein. Diese Ebene deutet sich in Tegmarks Buch dort an, wo Tegmark das Problem mit den Pronomina anspricht. (Vgl. Tegmark 2017, S.136ff.) Ich bin darauf schon im vorangegangenen Blogpost eingegangen und muß das deshalb an dieser Stelle nicht noch einmal ausführen. Ich will hier nur kurz daran erinnern, daß es zum korrekten Gebrauch von Pronomina eines Weltmodells bedarf, über das Spracherkennungsmaschinen (noch) nicht verfügen. Um souverän über ein Weltmodell verfügen zu können, d.h. um in der Lage zu sein, sich mit anderen Menschen mit eigenen Weltmodellen verständigen zu können, müssen wir ihnen ein eigenes Innen, eine eigene Intentionalität, zuerkennen. Wir müssen also in der Lage sein zwischen Innen und Außen zu unterscheiden. Das ist aber genau die Kernleistung eines Selbstbewußtseins! Nur Lebewesen, die über ein Selbstbewußtsein verfügen, können anderen Lebewesen ein Selbstbewußtsein zuerkennen.

Vielleicht ist es mir gelungen, zu zeigen, wie defizitär Tegmarks Bewußtseinskonzept ist. Etwas Bescheidenheit auf Tegmarks Seiten wäre also angebracht. Aber zu solcher disziplinären Selbstbeschränkung sind anscheinend weder KI-Forscher noch Neurowissenschaftler in der Lage. Tatsächlich glaubt Tegmark, daß es ernstzunehmende Bewußtseinstheorien erst gibt, seit sich Neurowissenschaftler (und KI-Forscher) damit befassen:

„Obwohl manche Bewusstseinstheorien aus der Antike stammen, sind die meisten modernen Theorien in der Neuropsychologie und in der Neurowissenschaft verankert.“ (Tegmark 2017, S.444)

Das ganze achte Kapitel zum Bewußtsein (vgl. Tegmark 2017, S.419ff.) ist ein einziges Zeugnis informationskybernetischer und neurowissenschaftlicher Hybris, disziplinärer Ignoranz und wissenschaftlicher Scharlatanerie. Davon zeugt schon gleich der erste Abschnitt, mit dem das Kapitel beginnt und den ich hier vollständig zitiere:

„Wir haben gesehen, dass Künstliche Intelligenz uns helfen kann, eine wunderbare Zukunft zu erschaffen, falls es uns gelingt, Antworten auf einige der ältesten und schwierigsten Fragen in der Philosophie zu finden – vor allem rechtzeitig. Wir konfrontieren die Philosophie, in Nick Bostroms Worten, mit einer Frist. In diesem Kapitel wollen wir eines der heikelsten philosophischen Probleme untersuchen: das Bewusstsein.“ (Tegmark 2017, S.419)

Vor dem Hintergrund des scheinbar demütigen Hinweises „auf einige der ältesten und schwierigsten Fragen in der Philosophie“ hebt sich die Hybris des KI-Forschers, darauf hier und jetzt Antworten finden zu wollen und zu können, nur um so deutlicher ab. Und diese Hybris wird dann noch dadurch gesteigert, daß man der Philosophie eine „Frist“ setzen will, die allerdings schon abgelaufen zu sein scheint, denn an ihrer Stelle wollen sich die KI-Forscher jetzt selbst „eines der heikelsten philosophischen Probleme“ annehmen. Angesichts der „plötzliche(n) Dringlichkeit“ des Bewußtseinsproblems, wie es auf der nächsten Seite heißt – eine Dringlichkeit, die sich aus der bevorstehenden Erschaffung einer Super-KI ergibt –, kann man es nicht Denkern überlassen, die „über das Mysterium des Bewusstseins jahrtausendelang (erfolglos – DZ) gegrübelt haben“. (Vgl. Tegmark 2017, S.420)

Ich frage mich: ist es nur Dummheit, die Klärung eines jahrtausendealten philosophischen Problems mit einer Frist belegen zu wollen? Und ist es nur disziplinäre Hybris, wenn KI-Forscher und Neurowissenschaftler glauben, diese Klärung erzwingen zu können? Ist es nur – wiederum disziplinäre – Ignoranz, wenn sie mit ‚Ergebnissen‘ prahlen, in denen genau das, was definiert werden soll, nämlich menschliches Bewußtsein, aus dieser Definition ausgeschlossen wird, offensichtlich nur in der Absicht, auf diese Weise so etwas wie ein künstliches Bewußtsein denkbar zu machen?

Ich kann mich des Eindrucks nicht erwehren, daß wir es hier mit einem manipulativen Willen zu tun haben, mit wissenschaftlicher Scharlatanerie, denn Tegmark weiß am Ende immer noch nicht, was Bewußtsein ist, will aber den Leser glauben machen, man könne auf der Basis unzureichender Definitionen und von mit neurowissenschaftlichen Methoden gewonnenen Daten zu „verschiedenen Aspekten des Bewusstseins“ eine „Hochrechnung“ zu Möglichkeit und Verständnis von Maschinenbewußtsein machen. (Vgl. Tegmark 2017, S.443)

Nein, ich kann auf dieser Grundlage keineswegs nachvollziehen, daß Maschinenbewußtsein jemals möglich sein wird! Um das menschliche Monopol mache ich mir, was das betrifft, keine Sorgen. Ich mache mir aber Sorgen, daß wir selbst so fortschritts- und maschinengläubig sein könnten, daß wir blind werden, vielleicht schon blind geworden sind für die Differenz zwischen Mensch und Maschine.

Download