ChatGPT leidet unter Kryptomnesie

Oder anders ausgedrückt: ChatGPT ist quellenblind. Ein Bekannter erzählte mir, daß er vergeblich versucht habe, ChatGPT dazu zu bringen, Auskunft über die in den von dieser KI generierten Texten verwendeten Quellen zu geben. Die einzige Antwort, die er erhalten hat, war, daß das alles „allgemein bekannt“ sei.

Mich wundert das nicht. Denn um Quellen zu beurteilen, muß man zwischen seriösen und unseriösen Quellen unterscheiden können. Woher sollte eine KI diese Fähigkeit haben? Zu den von mir aufgestellten Kriterien, inwiefern sich KI und menschliche Intelligenz unterscheiden, gehört die Fähigkeit, zwischen Innen und Außen, zwischen Fiktion und Realität zu differenzieren. Dafür fehlt jeder denkbaren KI, buchstäblich, das ,Sensorium‛.

Für eine KI sind alle Informationen einander gleichartig. Es gibt keine Qualitätsunterschiede. Lügen sind genauso Informationen wie Wahrheiten.

Es ist also kein Wunder, daß eine KI, wenn sie beim Generieren von Texten ihre eigenen Produkte konsumiert, verblödet. Mit anderen Worten: je mehr ChatGPT-Texte in Umlauf kommen, um so weniger intelligent fallen sie aus.

Das ist meine ultimative Liste von Fähigkeiten, über die nur ein menschliches und bei einigen Punkten auch animalisches Bewußtsein verfügt:

1. Der Mensch ,apperzipiert‛. Einfach gesagt: er denkt bei allem, was er tut, mit; bis hin zu unseren Wahrnehmungen, die wir bewußt erleben, also mit Denken begleiten. Die KI kann nur rechnen. Sie kann noch nicht mal ihr Rechnen mit Rechnen begleiten, geschweige denn mit einem Denken.
2. Die menschliche Wahrnehmung (und das Bewußtsein) basiert auf Gestaltwahrnehmung und nicht auf Informationsverarbeitung. Wir können Vordergründe aus Hintergründen herausfokussieren, ohne dabei den Hintergrund zu wechseln. Wenn mehrere Menschen ein Bild wahrnehmen, sieht jeder etwas anderes. Und wir können dieselbe Figur (Vordergrund) vor wechselnden Hintergründen wiedererkennen. Mit Gestaltwahrnehmung hat die KI erhebliche Probleme. Wird sie auch immer haben.
3. KI ist gut in Performanz (im stupiden Ausführen von Algorithmen), aber schlecht in Kompetenz. Beim Menschen ist das umgekehrt.
4. Menschliches Bewußtsein basiert auf Kommunikation, KI auf Statistik. Deshalb ist es auch verhängnisvoll, von Maschinenkommunikation zu reden. Maschinen kommunizieren nicht. Sie interagieren. Das ist auch schon alles, was sie können.
5. Das menschliche Bewußtsein basiert auf der Unterscheidung zwischen Innen und Außen: innen = Bewußtsein, außen = Wirklichkeit. Dazu gehört die Fähigkeit, zwischen Fiktion und Realität unterscheiden zu können. Keine KI ist dazu fähig. Für sie ist alles Information. Sie kennt keinen Unterschied zwischen Einhörnern und einem Verkehrsunfall. Ihre eigenen Rechenprozesse sind ihr nicht innerlich, sondern äußerlich. Alles ist außen, alles ist Information.
6. Das menschliche Bewußtsein ist substratabhängig. Seine Basis ist die Biochemie des menschlichen Körpers. KI ist substratunabhängig. Folglich ist menschliches Bewußtsein auch nicht auf eine Festplatte hochladbar. Oder runterladbar? Egal. Geht einfach nicht!
7. Das über unseren ganzen Körper und auch im Inneren unseres Körpers und seiner Organe verteilte multimodale Tastsinnessystem ist ständig aktiv und beansprucht, beim Wachen und beim Schlafen, jederzeit 100 Prozent der Gehirnaktivität. Auf diese Weise vermittelt uns das Tastsinnessystem, als ständiges Hintergrundrauschen, unsere Existenzgewißheit.

Douwe Draaisma, Das Buch des Vergessens. Warum Träume so schnell verloren gehen und Erinnerungen sich ständig verändern, Köln 2012

1. Formen des Vergessens
2. Methode I
3. Methode II
4. Gestaltwahrnehmung und die Gestalt des Gedächtnisses
5. Autobiographisches Gedächtnis
6. Zwei Gehirne und die Einheit des Bewußtseins
7. Zwanghaftes Erinnern
8. Vergessene Träume

Douwe Draaismas „Buch des Vergessens“ (2012/2010) ist ein wunderbares Buch, das auf schwer faßbare Weise von den breiten, ausgetretenen Pfaden fachwissenschaftlicher und populärwissenschaftlicher Publikationen abweicht und seinen eigenen, unverwechselbaren Stil hat. Draaismas Buch ist ein Lesebuch, das zum Schmökern einlädt und in dem der Autor, Professor für Psychologiegeschichte an der Universität Groningen, den menschlichen Schicksalen und Merkwürdigkeiten seine von Verständnis und Sympathie geprägte Aufmerksamkeit zuwendet. Kaum hatte ich das Buch in die Hand genommen und zu lesen begonnen, legte ich Lineal und Bleistift aus der Hand, um die vielen Fallstudien und Geschichten und Draaismas tiefe Einsichten in die menschliche Natur auf mich wirken zu lassen und sie ungestört genießen zu können.

Aber natürlich haben wir es bei dem „Buch des Vergessens“ nicht nur mit einem Buch zum Schmökern zu tun, sondern eben doch auch mit Wissenschaft. Und so griff ich nach einiger Zeit wieder zu Lineal und Bleistift, um es nun zum zweiten Mal zu lesen und zu studieren. Dabei fällt vor allem auf, daß Draaisma kein Buch über das Gedächtnis schreibt, sondern über das Vergessen. Damit bewegt er sich quer zu einem Fachgebiet, das mit seiner ganzen Aufmerksamkeit auf das Gedächtnis schon die dazugehörigen Schubladen eingerichtet und diese mit zahlreichen Befunden auch schon gut gefüllt hat. Vom Kurzzeitgedächtnis über das semantische Gedächtnis, das episodische Gedächtnis, das prozedurale Gedächtnis, das nicht leicht vom impliziten Gedächtnis unterscheidbar ist, bis hin zur höchsten Entwicklungsstufe des Gedächtnisses, die wir mit dem Bewußtsein gleichsetzen können: dem autobiographischen Gedächtnis, ist alles fein säuberlich katalogisiert. Was allerdings darüber hinwegtäuscht, daß wir über das Gedächtnis so gut wie gar nichts wissen und sich der Großteil der Gedächtnisfunktionen unserer bewußten Kontrolle entzieht.

Indem Draaisma stattdessen das Vergessen thematisiert, bricht er all diese bequemen Kategorien wieder auf, und es entsteht eine zwar schon bekannte, durchaus nicht neue Dichotomie, auf die nun aber ein neues Licht fällt: die Dichotomie zwischen Bewußtem und Unterbewußtem. (Zur Differenz zwischen Un-Bewußtem und Unter-Bewußtem vgl. meinen Post vom 20.04.2012) Das Vergessen bildet nicht einfach nur ein spezifisches Versagen des Gedächtnisses: „Das Verhältnis zwischen Erinnern und Vergessen ist eher das der geteilten Kontur in der Abbildung einer Gestalt: Man kann nach Belieben das eine oder das andere darin sehen.“ (Draaisma 2012, S.13)

Das Vergessen bildet also kein Defizit, sondern eine spezifische Leistung des Gedächtnisses, ohne die es gar nicht funktionieren würde. Im Gegenteil: erst ein absolutes Gedächtnis wäre wirklich defizitär, eben weil es als absolutes Gedächtnis nicht funktionieren würde. (Zum ‚absoluten‘ und zum ‚biologischen‘ Gedächtnis vgl. meine Posts vom 29.04. bis 02.05.2011) Die Unmengen an gespeicherten, jederzeit bewußten Erinnerungen, würden uns daran hindern, zwischen Wichtigem und Unwichtigem zu unterscheiden und Neues dazuzulernen. Draaisma spricht vom „Mythos des absoluten Gedächtnisses“ (Draaisma 2012, S.233), das vor allem unser Bedürfnis befriedigen soll, mit unserer eigenen Endlichkeit und unserer mit dem zunehmenden Lebensalter wachsenden Einsamkeit zurechtzukommen. Demjenigen, der eine nahestehende Person verloren hat und nun an sich selbst miterleben muß, wie das Gesicht der geliebten Person nach und nach verblaßt, wird der Gedanke, so Draaisma, „Trost bieten“, daß nichts „wirklich weg ist“, sondern nur irgendwo anders im Gedächtnis aufbewahrt wird, von wo aus es sich uns in Träumen oder bei anderen Gelegenheiten, wie dem Duft einer ‚Madeleine‘, jederzeit wieder präsentieren kann. (Vgl. ebenda)

Dennoch steckt in dieser Vorstellung von unzugänglichen Gedächtnisregionen eine ernstzunehmende Einsicht in die Art und Weise, wie ‚Vergessen‘ geschieht. Obwohl Draaismas zentrale These darin besteht, daß wir eben doch tatsächlich vergessen, endgültig und unwiderruflich, ist die Sachlage aber eher ambivalent und eigentlich gar nicht wissenschaftlich einwandfrei zu klären. Schon in Draaismas Gestaltmetapher – die, wie ich in einem späteren Post noch zeigen werde, sehr viel über das Erinnern und das Vergessen aussagt – deutet sich an, daß man ‚Vergessen‘ nicht so einfach von ‚Erinnern‘ trennen kann. Würden wir tatsächlich einzelne ‚Erinnerungen‘ vollständig und unwiderruflich vergessen, müßten auch die verbliebenen Erinnerungen Schaden nehmen, wenn es denn stimmt, daß Vergessen nur die andere Seite des sich Erinnerns bildet. Man kann Erinnerungen nicht vergessen bzw. ‚löschen‘ wie Informationen: „Im autobiografischen Gedächtnis ist eine Erinnerung nicht nur die nackte Information, die in dieser Erinnerung konserviert ist. Zu dieser Erinnerung gehört auch ihre emotionale Bedeutung, die Assoziationen, die die Erinnerung selbst wieder auslöst, alles, was man, aus Mangel an Beweisen, die Farbe oder den Gefühlswert der Erinnerung nennt.“ (Vgl. Draaisma 2012, S.203)

Auf ein weiteres Gegenargument verweist Draaisma selbst: „Es ist, kurz gesagt, recht heikel, mit absoluter Sicherheit zu behaupten, etwas befinde sich nicht im eigenen Gedächtnis. Es kann immer, über Assoziationen, die man jetzt noch nicht zur Verfügung hat, ins Bewußtsein zurückkehren.“ (Draaisma 2012, S.232) – Wir haben so wenig Kontrolle über unser Gedächtnis, daß wir niemals wissen können, ob wir tatsächlich etwas vergessen haben, oder ob das Vergessene nicht vielmehr eine Bewußtseinsform angenommen hat, die sich unserer bewußten Aufmerksamkeit entzieht. Es läßt sich also weder definitiv beweisen, ob es so etwas wie ein absolutes Gedächtnis gibt, noch ob nicht. Denn, so Draaisma: „... nicht beweisen zu können, dass etwas definitiv weg ist, ist noch kein Beweis, dass alles noch da ist.“ (Ebenda)

Wenn sich etwas über das Vergessen experimentell abgesichert und plausibel nachvollziehbar sagen läßt, dann vor allem, daß es verschiedene Formen annehmen kann, die dem tatsächlichen Vergessen ähneln, weil sie die gleichen Konsequenzen haben: die Erinnerung ist ‚weg‘, d.h. für das aktuelle Bewußtsein nicht verfügbar. Bei diesen Vergessensformen geht es um Neubewertungen von Erinnerungen und um die verschiedenen Versuche, Erinnerungen zu versprachlichen oder zu fixieren.

Neubewertungen von Erinnerungen finden immer dann statt, wenn wir feststellen, daß gemeinsame Erlebnisse und Erfahrungen auf einem Mißverständnis oder einer Täuschung beruhen, wenn sich z.B. Freunde oder Kollegen an bestimmte Situationen anders erinnern als wir oder wenn wir feststellen, daß eine geliebte Person an unserer Seite viele Jahre lang ein Doppelleben geführt hat. Insbesondere im letzteren Falle verlieren die gemeinsamen Erinnerungen ihren Wert, ihre spezifische Einfärbung und werden nun zu etwas anderem. Denn, wie schon erwähnt, zur „Erinnerung gehört auch ihre emotionale Bedeutung, die Assoziationen, die die Erinnerung selbst wieder auslöst, alles, was man, aus Mangel an Beweisen, die Farbe oder den Gefühlswert der Erinnerung nennt“. (Vgl. Draaisma 2012, S.203)

Im Anschluß an so einer tiefgreifenden Enttäuschung wie dem dauerhaften Seitensprung eines Lebensgefährten werden die bisherigen Erinnerungen an die gemeinsamen Erlebnisse nie mehr dieselben sein wie vorher. Sie sind uns verloren gegangen, so wie dem pubertierenden Noura, der bis zum zwölften Lebensjahr unbekümmert ins tunesische Frauenbadehaus mitgenommen wurde, mit der Pubertät die Erinnerung an eine Zeit verloren gegangen ist, in der nackte Frauenkörper noch keine sexuelle Bedeutung gehabt hatten. (Vgl. Draaisma 2012, S.21)

Erinnerungen hängen außerdem so sehr an der Sprache, daß es uns praktisch unmöglich ist, uns an Erlebnisse zurückzuerinnern, die wir vor unserer Sprachlichkeit im Alter zwischen 0 und drei Jahren gemacht haben. (Vgl. Draaisma 2012, S.21-48) Wenn wir nämlich sprechen lernen, hängen alle unsere Erinnerungen an den Wörtern, die wir verwenden, um die Erinnerungen anderen mitzuteilen. Das Gedächtnis wird kommunikativ. (Vgl. meine Posts vom 19.03. bis zum 25.03.2011)

Wir können uns von nun an vor allem an diejenigen Erlebnisse zurückerinnern, die wir anderen erzählt haben: „Gleichzeitig mit der Entwicklung ihres Wortschatzes und der Sprachfertigkeit verarbeiten Kinder ihre Erfahrungen immer häufiger ‚sprachlich‘ und speichern sie. Ihre Erinnerungen werden nach und nach zu Geschichten, und das Wiederaufgreifen dieser Erinnerungen verläuft von diesem Moment an vor allem über verbale Assoziationen.() ... als Konsequenz ergibt sich, dass Erinnerungen, die nicht in Sprache gespeichert sind, schnell entschwinden; sie werden nicht durch die Sprache festgehalten.“ (Draaisma 2012, S.37) – Wenn unser autobiographisches Gedächtnis normalerweise nicht mit der Geburt beginnt, sondern erst drei bis vier Jahre später, so nicht deshalb, weil die Erinnerungen daran verschwunden sind, sondern weil wir den Zugang dazu verloren haben. (Vgl. ebenda)

Eine andere Form des Vergessens hängt mit dem Versuch zusammen, Erinnerungen mit Hilfe von Urlaubsphotos oder Souvenirs zu fixieren. Es ist im Grunde wie mit dem kommunikativen Gedächtnis. Sobald wir Erlebnisse in Worte fassen, verändern wir diese Erlebnisse. Was wir tatsächlich erlebt haben, geht durch den Filter der Worte und wird dadurch reduziert und verändert. Je öfter wir eine Erinnerungsgeschichte erzählen, um so mehr reduziert sich unsere tatsächliche Erinnerung auf das Erzählte. Und passen wir unsere Erzählungen den verschiedenen Umständen an, so verändern wir auch unsere Erinnerungen. Das ursprünglich Erlebte wird ‚vergessen‘ bzw. es verändert seine Form.

So auch bei Souvenirs, so sehr, daß die Erinnerung nicht einfach nur durch das Souvenir ersetzt wird, „sondern durch die Erinnerung an das Souvenir“. (Vgl. Draaisma 2012, S.257) Wenn wir uns z.B. ein Erinnerungsphoto von einem geliebten Verstorbenen an die Wand hängen oder ins Regal stellen, wird sich unsere Erinnerung an das Gesicht der Person immer mehr diesem Photo anpassen, so oft wir es uns ansehen. Irgendwann werden wir keine andere Erinnerung an das Gesicht mehr verfügbar haben als die Erinnerung an dieses Photo. Es ist wie beim gemeinsamen Altern von Freunden oder Familienmitgliedern. Wir erinnern uns immer nur an das Gesicht, das wir täglich sehen. Die jüngeren Versionen gehen verloren. Wenn wir dann alte Photos ansehen, können wir die Gesichter ohne weiteres wiedererkennen. Wir können sie uns aber nicht bewußt in Erinnerung rufen. Die ‚vergessene‘ Erinnerung an die jüngere Version hat aufgrund unseres täglichen Umgangs mit dem betreffenden Menschen die Form gewechselt und sich so unserer bewußten Aufmerksamkeit entzogen.

Beim Lesen des Buches von Draaisma habe ich zunehmend den Eindruck gewonnen, daß das Vergessen weniger etwas mit der Zeit, die vergangen ist, zu tun hat, als vielmehr mit dem Verlust eines spezifischen Quellenindexes. Bei bewußten Erinnerungen wissen wir immer zu sagen, woher sie stammen: in welcher Situation wir etwas erlebt haben, ohne uns dabei auf ein Jahr festlegen zu wollen, und wer uns eine bestimmte Information mitgeteilt hat, ohne daß wir genau wissen, wann oder wo. Sobald wir nicht mehr wissen, wo wir etwas her haben, oder noch genauer: sobald wir nicht mehr wissen, daß wir es von irgendwo her haben, bewerten wir diese Erinnerung nicht mehr als Erinnerung, sondern als Einfall, als Intuition. Draaisma spricht in diesem Zusammenhang von „Quellenamnesie“ bzw., in der Steigerungsform, von „Kryptomnesie“: „Bei Quellenamnesie hat man vergessen, von wem man etwas gehört oder gelesen hat, aber nicht, dass es eine Quelle gab. Bei einem reinen, authentischen Fall von Kryptomnesie hat man auch das vergessen.“ ( Draaisma 2012, S.139)

Letztlich bildet die Quelle einer Erinnerung so etwas wie das Realitätsprinzip unseres Gedächtnisses: wenn wir uns an die Quelle erinnern, wissen wir, daß wir uns erinnern. Als weiteres wichtiges Moment der Erinnerung kommt noch die Orientierung im Raum hinzu, was ja auch eine bekannte Mnemotechnik ist: wir müssen nur, wie schon Simonides vor 2500 Jahren wußte, Informationen an bestimmten Orten in einem „imaginäre(n) Haus“ ablegen, um sie dann bei passender Gelegenheit dort aufzusuchen und wieder abzurufen. (Vgl. Draaisma 2012, S.282) Das Wissen um die Quelle und die räumliche Orientierung bilden also Strukturprinzipien des Gedächtnisses. Die Zeit, also die Chronologie, scheint dabei weniger eine Rolle zu spielen.

Download