„...letztlich ist der Mensch, als Folge oder Krönung der Evolution, nur in der Totalität der Erde begreifbar.“ (Leroi-Gourhan, Hand und Wort, S.22)

Donnerstag, 1. November 2018

Max Tegmark, Leben 3.0. Mensch sein im Zeitalter Künstlicher Intelligenz, Berlin 2017

1. Fürchtet euch (nicht) !
2. Leben, Intelligenz, Bewußtsein
3. ‚Wertevermittlung‘
4. Verwirrende Pronomen
5. Hybris und Ignoranz

Hans Jonas hatte 1979 in seinem Buch „Das Prinzip Verantwortung“ angesichts der Folgekosten der technischen Entwicklung einen ethischen Imperativ für die wissenschaftliche Forschung aufgestellt: an die Stelle des Optimismusses, demzufolge alles, was wir machen können, auch gemacht werden soll, habe die „Heuristik der Furcht“ zu treten, also ein vernunftgesteuerter Pessimismus, der immer vom Schlimmsten ausgeht. Wie wir heute wissen, hat sich Jonassens Heuristik nicht durchgesetzt. Stattdessen werden wir von einer Welle von technologischen Innovationen überschwemmt, von denen jede einzelne das Potential hat, das Gesicht nicht der Menschheit, sondern unserer Menschlichkeit bis zur Unkenntlichkeit zu verunstalten. Die „Heuristik der Furcht“ wird als „German Angst“ bzw. als „German Vorsicht“ verunglimpft.

Inzwischen ist aber bei der fortschrittsgläubigen wissenschaftlichen Avantgarde, bei den KI-Forschern, angesichts dessen, was sie technologisch für möglich halten, eine Art leichtes Unwohlsein aufgekommen. Sie scheuen sogar vor Vergleichen der maschinellen Superintelligenz, an der sie ansonsten so engagiert arbeiten, mit der Atombombe nicht zurück: sogar noch gefährlicher als diese soll sie sein! (Vgl. Tegmark 2017, S.477) Und Max Tegmark, Professor am Massachusetts Institute of Technology (MIT), Autor von „Leben 3.0. Mensch sein im Zeitalter Künstlicher Intelligenz“ (2017), hat sogar 2015 eine Konferenz zur „Sicherheitsforschung“ initiiert, bei der es ausschließlich um die Gefahren der Künstlichen Intelligenzforschung ging (Tegmark 2017, S.57ff.) und auf der der Hinweis darauf, daß es Leute gebe, die tatsächlich der Meinung seien, KI-Sicherheitsforschung sei etwas für Technikfeinde, „großes Gelächter im Saal“ hervorrief (vgl. Tegmark 2017, S.68).

Die Fragen, die Tegmark stellt, nach der Zukunft von Jobs und Löhnen, nach der Zukunft von Gesellschaftssystemen und nach dem individuellem Lebenssinn erinnern in ihrer Bedrohlichkeit an Hans Jonas. Doch Tegmarks Botschaft ist paradox. Sie lautet: Fürchtet euch nicht! – Wenn wir uns nur früh genug Gedanken über die Sicherheit machen, also über die möglichen desaströsen Folgen einer maschinellen Superintelligenz und ihre Vermeidung, dann wird nicht nur alles gut werden, sondern wir werden sogar eine phantastische Zukunft haben! Wir werden den „zu 99,999999 Prozent“ toten Planeten Erde (vgl. Tegmark 2017, S.325) verlassen und das Universum besiedeln, denn alles, was uns „Wissenschaftler und Sciencefiction-Autoren“ bislang über die Zukunft der Menschheit erzählt haben, ist angesichts des tatsächlich technisch Möglichen „übertrieben pessimistisch“ gewesen (vgl. Tegmark 2017, S.337).

Tegmarks „KI-Sicherheitsforschung“ bildet also nur eine weitere Spielart des naiven Fortschrittsglaubens, der zudem noch – wenn es um Begriffe wie „Intelligenz“, „Bewußtsein“ und „Leben“ geht – mit unzureichend analysierten Begriffen hantiert, die aber zur Voraussetzung genau jener Spekulationen über die Möglichkeiten ihrer Digitalisierung und der damit verbundenen kosmischen Evolution (Leben 3.0) werden, die den größten Teil von Tegmarks Buch in Anspruch nehmen. Denn einerseits gibt Tegmark in aller (naiven) Offenheit zu, daß wir es beim ‚Leben‘, bei der ‚Intelligenz‘ und beim ‚Bewußtsein‘ mit Phänomenen zu tun haben, über die wir wenig bis gar nichts wissen:
„Selbst unter intelligenten Intelligenzforschern herrscht keine Einigkeit über die Beschaffenheit von Intelligenz! Es gibt also eindeutig keine unumstrittene ‚korrekte‘ Definition von Intelligenz.“ (Tegmark 2017, S.80)
Und an anderer Stelle:
„Ähnlich wie bei ‚Leben‘ und ‚Intelligenz‘ gibt es keine eindeutig korrekte Definition des Wortes ‚Bewusstsein‘.“ (Tegmark 2017, S.421)
Doch andererseits macht Tegmark aus dieser Unkenntnis geradezu eine Tugend; denn er nimmt sich die Freiheit, die Begriffe so zu definieren, wie es ihm paßt, so daß sie mit der avisierten maschinellen Superintelligenz kompatibel sind. Er eliminiert aus ihnen alles, was sie an spezifisch menschlichen Merkmalen beinhalten. (Vgl. Tegmark 2017, S.43, 80, 421f.) Tegmark ist sogar noch stolz über dieses Definitionsparadox, das darin besteht, alle die Merkmale, die zur Definition des Bewußtseins gehören, aus seiner Definition von vornherein auszuschließen:
„Um wertschätzen zu können, wie umfassend unsere Definition des Bewusstseins ist, sollten Sie beachten, dass darin weder Verhalten, Wahrnehmung, Selbstbewusstsein, noch Emotionen und Aufmerksamkeit erwähnt werden.“ (Tegmark 2017, S.422)
Es ist also nicht überraschend, daß es unter den KI-Forschern zwar keine „Technikfeinde“ gibt (vgl. Tegmark 2017, S.68, 287), dafür aber „Techno-Skeptiker“, deren einziger Unterschied zu den „Digitalen Utopisten“, die an eine digitale Expansion des ‚Lebens‘ im Weltraum glauben (vgl. Tegmark 2017, S.51ff.), darin besteht, daß eine „übermenschliche KI“, die diese Expansion ermöglichen würde, „in den nächsten hundert Jahren nicht zu erwarten sei“, wir bis dahin also noch viel Zeit haben, uns Gedanken zu machen (vgl. Tegmark 2017, S.54). Sich selbst ordnet Tegmark der dritten Gruppe von KI-Forschern zu, der „nutzbringenden KI-Bewegung“ (beneficial AI movement), die davon ausgeht, daß vor der – letztlich unvermeidlichen – Realisierung einer Superintelligenz noch einige „entscheidende Fragen“ zu klären seien, nämlich wie man dieser Superintelligenz beibringen könne, dem Menschen zu nutzen, anstatt ihm zu schaden. (Vgl. Tegmark 2017, S.55ff.)

In diesen Fragen sind sich aber alle drei KI-Forschergruppen einig, so daß Tegmarks Einteilung der KI-Forschung in drei Gruppen letztlich belanglos ist. Alle sind unverbesserliche Optimisten – Tegmark zieht das Adjektiv ‚achtsam‘ vor – und halten nichts von Jonassens Heuristik der Furcht:
„Um ein achtsamer Optimist zu werden, ist es entscheidend, positive Visionen für die Zukunft zu entwickeln.“ (Tegmark 2917, S.485)
Dennoch gibt es etwas, vor dem auch Tegmark sich fürchtet. Nicht etwa vor der potentiellen Bedrohung durch eine außer Kontrolle geratene KI-Superintelligenz! Mit ein bißchen vorsorglicher Sicherheitsforschung sollte sie sich wohl eindämmen lassen. Auch nicht vor den Folgen einer Klimakatastrophe, die Tegmark gelegentlich mal am Rande erwähnt. Mit Hilfe des technologischen Fortschritts werden wir auch dieses Problem in den Griff kriegen. (Vgl. Tegmark 2017, S.499, Anm.4) – Wovor sich Tegmark wirklich fürchtet, das ist die „Kosmokalypse“ (Tegmark 2017, S.342), also der Untergang des Universums in „Zigmilliarden Jahren“:
„Ohne Technik steht unsere Auslöschung im kosmischen Kontext in einigen Zigmilliarden Jahren bevor, so dass das ganze Drama des Lebens in unserem Universum lediglich ein kurzes Aufblitzen von Schönheit, Leidenschaft und Bedeutung ist in einer annähernden Ewigkeit der Bedeutungslosigkeit, die niemand je erleben wird.“ (Tegmark 2017, S.367)
Die Kosmokalypse – und zwar ohne daß wir bis dahin eine bewußtseinsfähige Super-KI geschaffen haben, die möglicherweise sogar in der Lage wäre, auch noch den Untergang des Universums zu überleben – bildet für Tegmark den Anlaß für seine persönliche Version eines wissenschaftsethischen Imperativs: die Erschaffung einer Super-KI soll sein, um (digitales) Bewußtsein in allen Winkeln des Universums und darüberhinaus zu verbreiten!

Wer fängt hier an, mit Tegmark zu träumen?
Wer fürchtet sich hier mit dem Rezensenten vor der Furcht des KI-Forschers?
Wer teilt mit ihm die Sorge, daß solche kosmischen Visionen konkrete planetarische Bedrohungsszenarien wie den Klimawandel entwichten?

Download

1 Kommentar:

  1. Ich stehe ja eher auf meine individuelle Apokalypse, sprich wenn ich das Zeitliche segne.

    AntwortenLöschen