Menschliche und technische Evolution

Martina Heßler: „Sisyphos im Maschinenraum. Eine Geschichte der Fehlbarkeit von Mensch und Technologie“ (2025)

Die wichtigste Frage, die Martina Heßler in ihrem Buch stellt, lautet: „Wie verlässt man den Pfad der ständigen technologischen Leistungssteigerung in einer komplexen Welt, die stets komplexer wird?“ (Heßler 2025, S.240) ‒ Mit dem Sisyphus im Buchtitel spielt sie darauf an, daß die Menschen so auf die Technik fixiert sind wie einst Sisyphus auf seinen Stein und vergeblich alle die durch die Technik verursachten und, wiederum wegen der Technik, immer komplexer werdenden neuen Probleme mit neuen, noch komplexeren Technologien unter Kontrolle zu bringen versuchen.

Martina Heßler teilt die Technikgeschichte der letzten drei- bis vierhundert Jahre in drei Phasen ein. In der ersten Phase vom 17. bis in das 20. Jahrhundert hinein haben wir es nur mit mechanischen Maschinen wie etwa der Dampfmaschine und dem mechanischen Webstuhl zu tun. Sie unterliegen bekannten physikalischen Gesetzen und verwandeln nach einsehbaren, bis ins kleinste Detail festgelegten maschinellen Prozeduren fossile Energie in Bewegung um. Diese Maschinen werden zunehmend zu Leitbildern der Menschenerziehung. Die Philanthropen des 18. Jhdts. verwendeten für ihre Erziehungs- und Schulprojekte gerne Maschinenmetaphern.

In der zweiten Hälfte des 20. Jhdts., in den 1970er Jahren, waren die Maschinen so komplex geworden, daß der Mensch sie nicht mehr bedienen konnte. Er ,entwickelte‛ sich mit den Maschinen nicht mit und war zunehmend von ihrer ständig sich erhöhenden Leistungskraft überfordert. Es entstand eine neue Forschungsrichtung, das Human Factors Engineering: „Die Human Factors-Forscher beklagten eine prinzipielle evolutionäre Grenze des Menschen, die sich nicht in der gleichen Geschwindigkeit weiterentwickeln könnten wie Maschinen.“ (Heßler 2025, S.229)

Mit Hilfe des Human Factors Engeneering sollten die Maschinen menschenfreundlicher bzw. bedienungsfreundlicher gestaltet werden. Die industriellen Arbeitsprozesse sollten nicht mehr an den Maschinen, sondern an den Menschen ausgerichtet werden.

Die Menschen, schreibt Heßler, „nahmen“ sich zum ersten Mal „als hinter der Technik zurückgeblieben wahr“: „Menschen entpuppten sich, wie die Zeitgenossen vielfach konstatierten, als der Bedienung der Technik nicht gewachsen, sie erwiesen sich als Bremse der technologischen Entwicklung und des Fortschritts. ... Aus der Beobachtung eines ,evolutionären Zurückbleibens‛ der Menschen resultierte ein relationales und vor allem systemisches Denken des Mensch-Maschinen-Verhältnisses, das in seiner historischen Bedeutung nicht zu unterschätzen ist.“ (Heßler 2025, S.164f.)

Aber so komplex die Maschinen inzwischen auch geworden waren, so blieben sie doch prinzipiell berechenbar und kontrollierbar. Zwar war der Wartungs- und Reparaturbedarf so enorm gestiegen, daß das menschliche Wartungspersonal bei der Behebung von Störfällen wiederum auf die Hilfe von ,Expertensystemen‛, also von Maschinen angewiesen war, aber die Ingenieure wußten, was ihre Maschinen konnten und wie sie funktionierten.

Das änderte sich in der dritten Phase der Technikgeschichte in den 2000er Jahren, als den Ingenieuren mit der KI ein qualitativer Sprung in eine neue technologische Dimension gelang. Sogenannte ,lernende‛ KI sammelt mit Hilfe statistischer Methoden Daten, auf deren Basis sie Probleme löst, deren Komplexität den menschlichen Verstand übersteigt. Außerdem wirkt die KI-Maschine auf schräge Weise menschlich. Sie entwickelt sich: „Das Maschinenhafte ist nicht mehr das Standardisierte, das Regelhafte und Immergleiche. Vielmehr entwickeln sich KI-Anwendungen unterschiedlich. Sie haben gleichsam eine individuelle Biografie, die von ihrem Gegenüber und ihrem Nutzungskontext abhängt. Es sind die jeweiligen Daten und der jeweilige Nutzungskontext, die die KI permanent verändern.“ (Heßler 2025, S.199; Hervorhebung MH)

Hier eröffnet sich eine neu-alte Dimension der Fehlerhaftigkeit: neu, weil kein Ingenieur mehr vorhersagen kann, in welche Richtung sich eine KI-Anwendung entwickelt, und folglich auch nicht mehr erklären kann, wie sie zu einem bestimmten Resultat gekommen ist. Im Unterschied zu allen Vorgängermaschinen ist die KI eine Blackbox. Wie Heßler den Philosoph Klaus Mainzer zitiert: „Es ist sogar in leicht mystischer Diktion von einem ,dunklen Geheimnis im Zentrum der KI ...‛ die Rede.“ (Vgl. Heßler 2025, S.199)

Wäre die KI tatsächlich eine Intelligenz, müßte man wohl von einem maschinellen Unbewußten reden. Tatsächlich handelt es sich aber bloß um einen blinden Fleck im Bewußtsein ihrer Konstrukteure, die zugeben müssen, daß sie ihre eigenen Konstrukte nicht mehr verstehen.

Soweit die neue Dimension der KI-Maschinen. Die alte Dimension aber besteht darin, daß diese KI auf fatale Weise zu unserem Spiegel geworden ist. Die ‚Informationen‛, die diese Maschine ‚verarbeitet‛, sind nie durch einen Wahrnehmungs- und Denkprozeß in Auseinandersetzung mit einer realen Welt hindurchgegangen, sondern wurden auf statistische Weise einem vorhandenen, möglichst umfassenden Datenpool entnommen. Im KI-Forscherjargon ist von einem Weltmodell bzw. von einem Sprachmodell die Rede. Texte generierende KI-Anwendungen arbeiten nur auf Basis von Daten, die schon da sind, und erheben keine neuen Daten. Sie haften an dem, was schon da ist, und können also auch nur ,denken‛, was schon da ist. Sie reproduzieren unsere Fehler und können auch nur Lösungen anbieten, die dem vorhandenen Datenpool entsprechen. Mit anderen Worten: sie können nur schon vorhandene Muster reproduzieren, die im Zweifel Muster von Fehlern sind, die dann aber als Fehlerlösung präsentiert werden.

Außerdem verdoppelt und verdreifacht die KI unsere menschliche Fehlerhaftigkeit, da sie die von ihr selbst generierten Daten wieder dem allgemeinen Datenpool einfügt und dann ein zweites, drittes und viertes Mal (Ende offen) entnimmt und erneut ‚verarbeitet‛. Einen alternativen Zugang zur realen Welt hat sie ja nicht.

Martina Heßler führt das spezielle Versagen der KI deshalb auf ihre „statistische Verfahrensweise“ zurück, die „gesellschaftliche Muster fortschreibt“. (Vgl. Heßler 2025, S.203) Statt menschliche Fehler zu begrenzen, potenziert die KI diese Fehler, indem sie den Status quo zementiert: „... der Dualismus von fehlerhaften Menschen und perfekten Maschinen wird damit hinfällig. Menschliche Fehler werden nicht mit KI ausgeräumt.“ (Heßler 2025, S.204)

Einer der fatalsten menschlichen Fehler besteht wohl darin, daß sich das Vertrauen in die Maschine und in den technologischen Fortschritt so tief in das menschliche Bewußtsein eingegraben hat, daß wir nicht mehr in der Lage sind, eine Welt zu denken, deren zu Katastrophen sich steigernden Krisen, die wir wiederum unserer Technikversessenheit zu verdanken haben, anders als wiederum durch Technik gelöst werden können.

Martina Heßler faßt zusammen: „Die gegenwärtigen Versprechungen sind aus der langen Geschichte der Figur fehlerhafter Menschen allzu vertraut. Weiß man um ihre Geschichte, so überrascht die Hartnäckigkeit, mit der die Erwartungen wiederholt werden. Haben sie sich nicht immer wieder als illusionär erwiesen? Gleichwohl verblassen die mit der Figur verbundenen Paradoxien ‒ das Wechselspiel menschlicher und maschineller Unvollkommenheiten, die Spiralen der technischen Aufrüstung und die alltäglichen Mühen des Sisyphus im Maschinenraum ‒ immer wieder hinter den Verheißungen eines maschinellen Modernismus.“ (Heßler 2025, S.195)

Das also ist die neu-alte Dimension der KI-Maschine: sie spiegelt unser Schicksal, wie Sisyphus mit seinem Stein immer wieder ,unten‛ anfangen zu müssen ‒ bei uns selbst.