Max Tegmark, Leben 3.0. Mensch sein im Zeitalter Künstlicher Intelligenz, Berlin 2017

1. Fürchtet euch (nicht) !
2. Leben, Intelligenz, Bewußtsein
3. ‚Wertevermittlung‘
4. Verwirrende Pronomen
5. Hybris und Ignoranz

Das große Problem der KI-Sicherheitsforschung besteht Max Tegmark zufolge nicht darin, daß eine übermenschliche Superintelligenz irgendwie bösartig sein könnte. Das Problem sei vielmehr, daß sie auf allen Gebieten kompetenter ist als die Menschen. (Vgl. Tegmark 2017, S.70 und S.386) Deshalb geht es Tegmark zufolge in der KI-Sicherheitsforschung vor allem darum, wie man dafür sorgt, „dass ihre Ziele mit den unseren übereinstimmen“. (Vgl. Tegmark 2017, S.70) Tegmark verwendet zur Veranschaulichung dieser Problematik eine Analogie aus der pädagogischen Praxis: die „Wertevermittlung“. Das englische Wort, das er für ‚Vermittlung‘ verwendet, nämlich „value-loading problem“ (Tegmark 2017, S.389), zeigt Tegmarks völlige Ignoranz gegenüber pädagogischen Begriffen.

Erziehungswissenschaftler, die etwas von ihrem Fach verstehen, vermeiden das Wort ‚Vermittlung‘ und sprechen stattdessen von „Werturteilsbildung“. Damit bringen sie zum Ausdruck, daß der pädagogische Anspruch nicht in erster Linie in der Aneignung von Werten, sondern in der Konfrontation mit ihnen besteht, also in der individuellen Auseinandersetzung von Heranwachsenden mit den Werten ihrer Bezugspersonen. Tegmark ist von solchen Subtilitäten nicht nur völlig unbelastet; er verschärft die pädagogische Problematik sogar noch, indem er nach dem Modell der Informationsverarbeitung davon ausgeht, man könne Werte in die Gehirne von Heranwachsenden hochladen (‚loading‘) wie Informationen auf einen Computer.

Zur Begründung dieser absurden Vorstellung beruft sich Tegmark zudem noch auf Gewährspersonen wie Antonio Damasio, auf dessen Buch „Selbst ist der Mensch“ (2011) er sich bezieht. (Vgl. Tegmark 2017, S.380, und S.510, Anm.3) Wie Damasio setzt Tegmark ‚Fühlen‘ mit ‚Werten‘ gleich. Was Tegmark aber nicht erwähnt, ist Damasios Skepsis gegenüber Vergleichen des menschlichen Gehirns mit einem Computer. Gefühle, als unverzichtbarem Bestandteil des menschlichen Bewußtseins, sind Damasio zufolge substratabhängig, also abhängig vom enterischen Nervensystem und von der Biochemie des menschlichen Körpers. Es kann also keine Rede davon sein, daß die menschliche Persönlichkeit einfach in ein künstliches Intelligenzsystem hochgeladen werden könnte. Und in seinem neuen Buch „Im Anfang war das Gefühl“ (2017) hält Damasio ausdrücklich fest, daß Gefühle keine Informationen sind. Sie lassen sich also weder ‚vermitteln‘ noch hochladen und sie lassen sich auch auf keiner Festplatte speichern. Im Gegenteil: ihr unaustauschbares biochemisches Milieu ist sehr wenig ‚fest‘; es ist vielmehr feucht und unbeständig. Und gerade diese Unbeständigkeit des inneren Milieus ist das, was Plessner ‚Seele‘ nennt. Sie ist der Grund, warum die Sprache nicht einfach nur ein Organ der Übermittlung von Informationen ist, sondern allererst ein Medium der seelischen Expression, in der Sagen und Meinen niemals zur Deckung kommen.

Tegmarks Vorstellung von einer erfolgreichen Wertevermittlung erinnert darüberhinaus an die schwarze Pädagogik von John Locke, demzufolge das wichtigste Erziehungsmittel in der Ausnutzung der Manipulierbarkeit von kleinen Kindern besteht und der alles darauf anlegt, jedes selbständige Denken und Urteilen zu unterdrücken, um so zu verhindern, daß die Kinder irgendetwas anderes für richtig halten könnten als ihre Erziehungsberechtigten. Tegmark formuliert es natürlich positiver und spricht vom „magischen Zustand der Überzeugbarkeit“, in dem die Kinder noch ganz unter dem Einfluß ihrer Eltern stehen; ein Zustand, der Tegmark zufolge erzieherisch genutzt werden muß, um die Übernahme der elterlichen Werte sicherzustellen. (Vgl. Tegmark 2017, S.391)

Was mit dem „magischen Zustand der Überzeugbarkeit“ tatsächlich gemeint ist, wird deutlich, wenn Tegmark die Analogie zur künftigen Superintelligenz aufmacht, nämlich schlichtweg Dummheit. Tegmark imaginiert in der Entwicklung dieser Superintelligenz eine der Kindheit gleichende Phase, in der es die Menschen noch relativ leicht haben, sie auf Ziele festzulegen, die den Menschen nutzen:

„Das Zeitfenster, in dem Sie Ihre Ziele einer KI vermitteln können, ist womöglich nur für eine sehr kurze Frist geöffnet, nämlich in dem kurzen Zeitraum, wenn sie noch zu dumm ist, Sie zu verstehen, und bereits zu schlau, um Sie einfach gewähren zu lassen.“ (Tegmark 2017, 2017)

‚Wertevermittlung‘, wie Tegmark sie sich vorstellt, ist also vor allem etwas, das nur gelingen kann, solange das Erziehungsobjekt noch nicht schlau genug ist, um sich ihr zu widersetzen. Aber selbst wenn es den Menschen gelingen sollte, der quasi noch pubertierenden Super-KI Ziele bzw. Werte zu vermitteln, die sie darauf prägen, freundlich zu ihnen zu sein, läßt sich doch eine Restunsicherheit nicht beseitigen: denn wie wir von unseren eigenen Kindern wissen, ist es gar nicht so sicher, daß sie, wenn sie erwachsen sind und fähig, sich ihres eigenen Verstandes zu bedienen, sich dann noch an alles halten, was wir ihnen einmal beigebracht haben:

„... tatsächlich könnte es Hinweise darauf geben, dass die Neigung, angesichts neuer Erfahrungen und Einsichten seine Ziele zu ändern, mit anwachsender Intelligenz eher zunimmt als abnimmt.“ (Tegmark 2017, S.397)

Schon die Analogie zur Kindererziehung ist also, was den Versuch betrifft, eine Super-KI auf menschenfreundliche Ziele festzulegen, nicht besonders ermutigend. Abgesehen davon natürlich, daß Werte keine Informationen sind. Was mich keineswegs beruhigt; denn die Vorstellung einer prinzipiell gefühlskalten Superintelligenz weckt eher Assoziationen an die Erschaffung eines Zombie-Bewußtseins.

Insofern werden die „einhundert Leute“, die beschlossen haben, „ihre Gehirne nach dem Tod von dem Unternehmen Alcor in Arizona einfrieren zu lassen“ (vgl. Tegmark 2018, S.251f.), ihr blaues Wunder erleben, sollte es dazu kommen, daß ihre Gehirne tatsächlich irgendwann hochgeladen werden. Oder vielmehr: sie werden gar nichts erleben. Der einzige Effekt wird sein, daß irgendwelche Festplatten mit Datenschrott zugemüllt werden.

Deshalb glaube ich auch nicht, daß Intelligenz „auf menschlichem Niveau“ jemals eine Zwischenstufe in der Entwicklung einer Super-KI sein wird. Wird es zu einer Super-KI kommen, was ich durchaus für möglich halte, wird sie sich an uns vorbeientwickeln, ohne jemals mit unserer Menschlichkeit auch nur in Berührung gekommen zu sein.

Download