Menschliche und technische Evolution

Martina Heßler: „Sisyphos im Maschinenraum. Eine Geschichte der Fehlbarkeit von Mensch und Technologie“ (2025)

Die wichtigste Frage, die Martina Heßler in ihrem Buch stellt, lautet: „Wie verlässt man den Pfad der ständigen technologischen Leistungssteigerung in einer komplexen Welt, die stets komplexer wird?“ (Heßler 2025, S.240) ‒ Mit dem Sisyphus im Buchtitel spielt sie darauf an, daß die Menschen so auf die Technik fixiert sind wie einst Sisyphus auf seinen Stein und vergeblich alle die durch die Technik verursachten und, wiederum wegen der Technik, immer komplexer werdenden neuen Probleme mit neuen, noch komplexeren Technologien unter Kontrolle zu bringen versuchen.

Martina Heßler teilt die Technikgeschichte der letzten drei- bis vierhundert Jahre in drei Phasen ein. In der ersten Phase vom 17. bis in das 20. Jahrhundert hinein haben wir es nur mit mechanischen Maschinen wie etwa der Dampfmaschine und dem mechanischen Webstuhl zu tun. Sie unterliegen bekannten physikalischen Gesetzen und verwandeln nach einsehbaren, bis ins kleinste Detail festgelegten maschinellen Prozeduren fossile Energie in Bewegung um. Diese Maschinen werden zunehmend zu Leitbildern der Menschenerziehung. Die Philanthropen des 18. Jhdts. verwendeten für ihre Erziehungs- und Schulprojekte gerne Maschinenmetaphern.

In der zweiten Hälfte des 20. Jhdts., in den 1970er Jahren, waren die Maschinen so komplex geworden, daß der Mensch sie nicht mehr bedienen konnte. Er ,entwickelte‛ sich mit den Maschinen nicht mit und war zunehmend von ihrer ständig sich erhöhenden Leistungskraft überfordert. Es entstand eine neue Forschungsrichtung, das Human Factors Engineering: „Die Human Factors-Forscher beklagten eine prinzipielle evolutionäre Grenze des Menschen, die sich nicht in der gleichen Geschwindigkeit weiterentwickeln könnten wie Maschinen.“ (Heßler 2025, S.229)

Mit Hilfe des Human Factors Engeneering sollten die Maschinen menschenfreundlicher bzw. bedienungsfreundlicher gestaltet werden. Die industriellen Arbeitsprozesse sollten nicht mehr an den Maschinen, sondern an den Menschen ausgerichtet werden.

Die Menschen, schreibt Heßler, „nahmen“ sich zum ersten Mal „als hinter der Technik zurückgeblieben wahr“: „Menschen entpuppten sich, wie die Zeitgenossen vielfach konstatierten, als der Bedienung der Technik nicht gewachsen, sie erwiesen sich als Bremse der technologischen Entwicklung und des Fortschritts. ... Aus der Beobachtung eines ,evolutionären Zurückbleibens‛ der Menschen resultierte ein relationales und vor allem systemisches Denken des Mensch-Maschinen-Verhältnisses, das in seiner historischen Bedeutung nicht zu unterschätzen ist.“ (Heßler 2025, S.164f.)

Aber so komplex die Maschinen inzwischen auch geworden waren, so blieben sie doch prinzipiell berechenbar und kontrollierbar. Zwar war der Wartungs- und Reparaturbedarf so enorm gestiegen, daß das menschliche Wartungspersonal bei der Behebung von Störfällen wiederum auf die Hilfe von ,Expertensystemen‛, also von Maschinen angewiesen war, aber die Ingenieure wußten, was ihre Maschinen konnten und wie sie funktionierten.

Das änderte sich in der dritten Phase der Technikgeschichte in den 2000er Jahren, als den Ingenieuren mit der KI ein qualitativer Sprung in eine neue technologische Dimension gelang. Sogenannte ,lernende‛ KI sammelt mit Hilfe statistischer Methoden Daten, auf deren Basis sie Probleme löst, deren Komplexität den menschlichen Verstand übersteigt. Außerdem wirkt die KI-Maschine auf schräge Weise menschlich. Sie entwickelt sich: „Das Maschinenhafte ist nicht mehr das Standardisierte, das Regelhafte und Immergleiche. Vielmehr entwickeln sich KI-Anwendungen unterschiedlich. Sie haben gleichsam eine individuelle Biografie, die von ihrem Gegenüber und ihrem Nutzungskontext abhängt. Es sind die jeweiligen Daten und der jeweilige Nutzungskontext, die die KI permanent verändern.“ (Heßler 2025, S.199; Hervorhebung MH)

Hier eröffnet sich eine neu-alte Dimension der Fehlerhaftigkeit: neu, weil kein Ingenieur mehr vorhersagen kann, in welche Richtung sich eine KI-Anwendung entwickelt, und folglich auch nicht mehr erklären kann, wie sie zu einem bestimmten Resultat gekommen ist. Im Unterschied zu allen Vorgängermaschinen ist die KI eine Blackbox. Wie Heßler den Philosoph Klaus Mainzer zitiert: „Es ist sogar in leicht mystischer Diktion von einem ,dunklen Geheimnis im Zentrum der KI ...‛ die Rede.“ (Vgl. Heßler 2025, S.199)

Wäre die KI tatsächlich eine Intelligenz, müßte man wohl von einem maschinellen Unbewußten reden. Tatsächlich handelt es sich aber bloß um einen blinden Fleck im Bewußtsein ihrer Konstrukteure, die zugeben müssen, daß sie ihre eigenen Konstrukte nicht mehr verstehen.

Soweit die neue Dimension der KI-Maschinen. Die alte Dimension aber besteht darin, daß diese KI auf fatale Weise zu unserem Spiegel geworden ist. Die ‚Informationen‛, die diese Maschine ‚verarbeitet‛, sind nie durch einen Wahrnehmungs- und Denkprozeß in Auseinandersetzung mit einer realen Welt hindurchgegangen, sondern wurden auf statistische Weise einem vorhandenen, möglichst umfassenden Datenpool entnommen. Im KI-Forscherjargon ist von einem Weltmodell bzw. von einem Sprachmodell die Rede. Texte generierende KI-Anwendungen arbeiten nur auf Basis von Daten, die schon da sind, und erheben keine neuen Daten. Sie haften an dem, was schon da ist, und können also auch nur ,denken‛, was schon da ist. Sie reproduzieren unsere Fehler und können auch nur Lösungen anbieten, die dem vorhandenen Datenpool entsprechen. Mit anderen Worten: sie können nur schon vorhandene Muster reproduzieren, die im Zweifel Muster von Fehlern sind, die dann aber als Fehlerlösung präsentiert werden.

Außerdem verdoppelt und verdreifacht die KI unsere menschliche Fehlerhaftigkeit, da sie die von ihr selbst generierten Daten wieder dem allgemeinen Datenpool einfügt und dann ein zweites, drittes und viertes Mal (Ende offen) entnimmt und erneut ‚verarbeitet‛. Einen alternativen Zugang zur realen Welt hat sie ja nicht.

Martina Heßler führt das spezielle Versagen der KI deshalb auf ihre „statistische Verfahrensweise“ zurück, die „gesellschaftliche Muster fortschreibt“. (Vgl. Heßler 2025, S.203) Statt menschliche Fehler zu begrenzen, potenziert die KI diese Fehler, indem sie den Status quo zementiert: „... der Dualismus von fehlerhaften Menschen und perfekten Maschinen wird damit hinfällig. Menschliche Fehler werden nicht mit KI ausgeräumt.“ (Heßler 2025, S.204)

Einer der fatalsten menschlichen Fehler besteht wohl darin, daß sich das Vertrauen in die Maschine und in den technologischen Fortschritt so tief in das menschliche Bewußtsein eingegraben hat, daß wir nicht mehr in der Lage sind, eine Welt zu denken, deren zu Katastrophen sich steigernden Krisen, die wir wiederum unserer Technikversessenheit zu verdanken haben, anders als wiederum durch Technik gelöst werden können.

Martina Heßler faßt zusammen: „Die gegenwärtigen Versprechungen sind aus der langen Geschichte der Figur fehlerhafter Menschen allzu vertraut. Weiß man um ihre Geschichte, so überrascht die Hartnäckigkeit, mit der die Erwartungen wiederholt werden. Haben sie sich nicht immer wieder als illusionär erwiesen? Gleichwohl verblassen die mit der Figur verbundenen Paradoxien ‒ das Wechselspiel menschlicher und maschineller Unvollkommenheiten, die Spiralen der technischen Aufrüstung und die alltäglichen Mühen des Sisyphus im Maschinenraum ‒ immer wieder hinter den Verheißungen eines maschinellen Modernismus.“ (Heßler 2025, S.195)

Das also ist die neu-alte Dimension der KI-Maschine: sie spiegelt unser Schicksal, wie Sisyphus mit seinem Stein immer wieder ,unten‛ anfangen zu müssen ‒ bei uns selbst.

Paradoxien des technologischen Fortschritts

Martina Heßler: „Sisyphos im Maschinenraum. Eine Geschichte der Fehlbarkeit von Mensch und Technologie“ (2025)

Martina Heßler, Professorin für Technikgeschichte an der TU Darmstadt, beschreibt in ihrem Buch die Geschichte des Verhältnisses von Mensch und Maschine seit dem Beginn der industriellen Moderne im 17. und 18. Jahrhundert. Im Zentrum dieses Mensch-Maschineverhältnisses steht die „Figur“, wie Heßler schreibt, des fehlerhaften Menschen, der sich Maschinen konstruiert, um seine eigenen Unzulänglichkeiten zu kompensieren und zu überwinden, ein Motiv, das sich bis zum Pygmalionmythos der griechischen Antike zurückverfolgen läßt. Ging es in dem Mythos um die perfekte Frau, so geht es bei den Maschinen zunächst um den perfekten Arbeiter und wurde dann im Verlauf des 19. Jhdts. um die ethische Dimension erweitert, insofern die technische Norm der Maschine zunehmend als eine moralische Norm verstanden wurde. Die fehlerfreie Maschine wurde zunehmend zum Ideal einer menschlichen Fehlerfreiheit stilisiert.

Die Autorin zeichnet die Anfänge und die Veränderungen dieses ambivalenten Verhältnisses von Mensch und Maschine bis in unsere Gegenwart und den aktuellen Hype um eine KI hinein nach, auf die wieder dieselben Hoffnungen und Versprechen projiziert werden wie schon auf die ersten Dampfmaschinen und mechanischen Webstühle. Und die auf nur allzu absehbare Weise wiederum scheitern werden. Denn schon die klassischen Maschinen hatten die an sie gerichteten Erwartungen und Hoffnungen nicht erfüllt. Das gilt um so mehr für die KI, als diese als transklassische Maschine nicht nur mit den klassischen, sondern auch mit völlig neuartigen Paradoxien belastet ist, wie sie mit der Figur des fehlerhaften Menschen und der angeblich fehlerfreien Maschine notwendigerweise verbunden waren und jetzt in gesteigerter Weise mit der KI verbunden sind.

In diesem ersten Blogpost zu Heßlers Buch gehe ich auf die Paradoxien einer Anthropologie ein, die den Menschen als Mängelwesen (Arnold Gehlen) definiert und wie sie die Ingenieure seit Anfang des 19. Jhdts., lange vor Gehlen, vertraten, dabei aber gleichwohl, bis in die 50er und 60er Jahre des 20. Jhdts. hinein, obwohl selbst fehlerhafte Menschen, den Anspruch erhoben, perfekte Maschinen konstruieren zu können. Ich habe in Heßlers Buch insgesamt sechs solcher Paradoxien gezählt.

1. Paradox der Selbstbeurteilung

Fehlerhafte Menschen, die perfekte Maschinen bauen, sind gleich schon das erste Paradox: „Dies ist eine der unreflektierten Paradoxien der Figur fehlerhafter Menschen: dass diejenigen, die die Fehlerhaftigkeit definieren, selbst unter ihre Beschreibung fallen.“ (Heßler 2025, S.32)

Das Paradox bezieht sich vor allem auf Ingenieure, die perfekte Maschinen bauen wollen. Menschen, die so denken, sind unfähig zur Selbstkritik. Sie denken ihre Aufgabe ausschließlich von der Maschine her. Der Mensch ist nur ein Störfaktor, und es wurde tatsächlich immer wieder ineins mit der Ausschaltung des Störfaktors auch die Abschaffung des Menschen gefordert. Wenn auch zunächst nur auf dem Weg der ,Freistellung‛ von Arbeiterinnen und Arbeitern, dann aber auch als generelle, auf alle Menschen bezogene Forderung.

2. Paradox der Entscheidungsfreiheit

Wer die Wahl hat, muß sich entscheiden. Wer sich entscheidet, muß Verantwortung für seine Entscheidung übernehmen. Wo wir keine Wahl haben, gibt es auch nichts zu entscheiden. Wo es nichts zu entscheiden gibt, gibt es auch keine Verantwortung.

Nun versuchen aber Menschen spätestens seit den 40er und 50er Jahren des 20. Jhdts., komplexe Probleme, die den einfachen Menschenverstand überfordern, an Computer auszulagern. Aber zu einer Zeit, in der Computer noch nach einfachen mechanischen Kriterien funktionierten, also strikten Regeln (Algorithmen) unterworfen waren, gab es für sie keine Wahl. Sie waren nicht frei, sich anders zu entscheiden, als es ihnen ihre Algorithmen vorschrieben. Menschen versuchten also, die Entscheidungsverantwortung an Maschinen abzugeben, die über keinerlei Entscheidungsfreiheit verfügten. (Vgl. Heßler 2025, S.51)

3. Paradox der industriellen Automation

Dieses Paradox besteht in dem Versuch, das Problem der Überforderung der Menschen durch eine hohe Arbeitsbelastung ineins mit dem Problem der fehlenden Zeit für sinnvollere (kreative) Tätigkeiten mittels zunehmender Automation der industriellen Produktion zu lösen. Einerseits wird die industrielle Produktion technisch immer aufwendiger und komplexer und verdrängt den Menschen aus ihr, andererseits greift die Technisierung auch auf die anderen Lebensbereiche des Menschen über und ,kolonisiert‛ sie, bis die Menschen immer weniger selbst tun können und zu Ersatztätigkeiten wie Konsum und Freizeitgestaltung greifen. (Vgl. Heßler 2025, S.72f.)

4. Paradox des ,Übermenschen‛ bzw. der Evolution

Wir kennen den Übermenschen von Nietzsche her. Nietzsche dachte dabei an den nächsten Schritt in der Evolution: der Übermensch löst den Menschen ab. Der Mensch stirbt aus. Die US-Amerikaner machten daraus Superman, den wir nicht der irdischen Evolution verdanken, sondern der von einem anderen Planeten kommt. In dieser Denktradition steht auch die sogenannte Singularität, eine gottähnliche Super-Intelligenz, die letztlich auch den Menschen abschafft.

Hier vermischen sich menschliche Evolution und technische Evolution, und was die Entwicklungsfähigkeit anlangt, läuft die Maschine dem Menschen, der sich im Vergleich zu ihr als entwicklungsunfähig erweist, den Rang ab, „wobei“, so Martina Heßler, „paradoxerweise ja gerade die Menschen für die technische Evolution verantwortlich waren“. (Vgl. Heßler 2025, S.157f.; zur Evolution vgl. S.152, 160, 164, 198f., 213, 229, 233)

5. Paradox der Reparaturbedürftigkeit

Heßler spricht hier nicht von einem Paradox, sondern von „Ironie“. Ich vermute, weil die keineswegs fehlerfreien Maschinen auf fortwährende Wartungs- und Reparaturdienste durch fehlerhafte Menschen angewiesen sind. Darüberhinaus richtet sich aber die Ironie auch auf die wechselseitige ‚Spiegelung‛ eines immer schon paradoxen Mensch-Maschineverhältnisses, insofern Werkzeuge jetzt nicht mehr nur Werkzeuge sind, also Verlängerungen unserer vorhandenen natürlichen Organe, sondern diese durch neuartige Organe ergänzt und sogar ersetzt werden. Cyborgs sind letztlich ihrer menschlichen Natur enteignete Menschen. Was bedeutet, daß nicht nur die immer komplexer werdenden Maschinen gewartet und repariert werden müssen, sondern auch der Cyborg selbst. Denn Technik geht nun mal kaputt, und das um so schneller, je komplizierter sie ist. (Vgl. Heßler 2025, S.173)

Ist es schon angesichts der komplexen maschinellen Infrastruktur außerhalb des menschlichen Körpers zunehmend schwierig, einen Fehler zu finden, steigert sich die Problematik bei defekten Technologien innerhalb des Körpers. Cyborgs sind entgegen der landläufigen Ansicht keineswegs glückliche geschweige denn ,bessere‛ Menschen.

6. Paradox der antiquierten Versprechungen

Von den mit dem technischen Fortschritt einhergehenden Versprechungen einer bequemeren und sichereren Welt war eingangs schon die Rede gewesen: „... die gegenwärtigen Versprechen basieren noch immer auf den Idealen einer mechanischen Maschine, die die chaotischen, fehlerhaften Menschen einhegen soll. Dies erweist sich jedoch als antiquiert, denn die neuartigen KI-Maschinen können die Versprechen, die aus einem mechanischen Zeitalter stammen, gar nicht einlösen.“ (Vgl. Heßler 2025, S.200)

Davon, warum das so ist: warum KI-Maschinen noch weniger als ihre mechanischen Vorgänger das Versprechen einer (für den Menschen) perfekten Zukunft einlösen können, wird im nächsten Blogpost die Rede sein.