Paradoxien des technologischen Fortschritts

Martina Heßler: „Sisyphos im Maschinenraum. Eine Geschichte der Fehlbarkeit von Mensch und Technologie“ (2025)

Martina Heßler, Professorin für Technikgeschichte an der TU Darmstadt, beschreibt in ihrem Buch die Geschichte des Verhältnisses von Mensch und Maschine seit dem Beginn der industriellen Moderne im 17. und 18. Jahrhundert. Im Zentrum dieses Mensch-Maschineverhältnisses steht die „Figur“, wie Heßler schreibt, des fehlerhaften Menschen, der sich Maschinen konstruiert, um seine eigenen Unzulänglichkeiten zu kompensieren und zu überwinden, ein Motiv, das sich bis zum Pygmalionmythos der griechischen Antike zurückverfolgen läßt. Ging es in dem Mythos um die perfekte Frau, so geht es bei den Maschinen zunächst um den perfekten Arbeiter und wurde dann im Verlauf des 19. Jhdts. um die ethische Dimension erweitert, insofern die technische Norm der Maschine zunehmend als eine moralische Norm verstanden wurde. Die fehlerfreie Maschine wurde zunehmend zum Ideal einer menschlichen Fehlerfreiheit stilisiert.

Die Autorin zeichnet die Anfänge und die Veränderungen dieses ambivalenten Verhältnisses von Mensch und Maschine bis in unsere Gegenwart und den aktuellen Hype um eine KI hinein nach, auf die wieder dieselben Hoffnungen und Versprechen projiziert werden wie schon auf die ersten Dampfmaschinen und mechanischen Webstühle. Und die auf nur allzu absehbare Weise wiederum scheitern werden. Denn schon die klassischen Maschinen hatten die an sie gerichteten Erwartungen und Hoffnungen nicht erfüllt. Das gilt um so mehr für die KI, als diese als transklassische Maschine nicht nur mit den klassischen, sondern auch mit völlig neuartigen Paradoxien belastet ist, wie sie mit der Figur des fehlerhaften Menschen und der angeblich fehlerfreien Maschine notwendigerweise verbunden waren und jetzt in gesteigerter Weise mit der KI verbunden sind.

In diesem ersten Blogpost zu Heßlers Buch gehe ich auf die Paradoxien einer Anthropologie ein, die den Menschen als Mängelwesen (Arnold Gehlen) definiert und wie sie die Ingenieure seit Anfang des 19. Jhdts., lange vor Gehlen, vertraten, dabei aber gleichwohl, bis in die 50er und 60er Jahre des 20. Jhdts. hinein, obwohl selbst fehlerhafte Menschen, den Anspruch erhoben, perfekte Maschinen konstruieren zu können. Ich habe in Heßlers Buch insgesamt sechs solcher Paradoxien gezählt.

1. Paradox der Selbstbeurteilung

Fehlerhafte Menschen, die perfekte Maschinen bauen, sind gleich schon das erste Paradox: „Dies ist eine der unreflektierten Paradoxien der Figur fehlerhafter Menschen: dass diejenigen, die die Fehlerhaftigkeit definieren, selbst unter ihre Beschreibung fallen.“ (Heßler 2025, S.32)

Das Paradox bezieht sich vor allem auf Ingenieure, die perfekte Maschinen bauen wollen. Menschen, die so denken, sind unfähig zur Selbstkritik. Sie denken ihre Aufgabe ausschließlich von der Maschine her. Der Mensch ist nur ein Störfaktor, und es wurde tatsächlich immer wieder ineins mit der Ausschaltung des Störfaktors auch die Abschaffung des Menschen gefordert. Wenn auch zunächst nur auf dem Weg der ,Freistellung‛ von Arbeiterinnen und Arbeitern, dann aber auch als generelle, auf alle Menschen bezogene Forderung.

2. Paradox der Entscheidungsfreiheit

Wer die Wahl hat, muß sich entscheiden. Wer sich entscheidet, muß Verantwortung für seine Entscheidung übernehmen. Wo wir keine Wahl haben, gibt es auch nichts zu entscheiden. Wo es nichts zu entscheiden gibt, gibt es auch keine Verantwortung.

Nun versuchen aber Menschen spätestens seit den 40er und 50er Jahren des 20. Jhdts., komplexe Probleme, die den einfachen Menschenverstand überfordern, an Computer auszulagern. Aber zu einer Zeit, in der Computer noch nach einfachen mechanischen Kriterien funktionierten, also strikten Regeln (Algorithmen) unterworfen waren, gab es für sie keine Wahl. Sie waren nicht frei, sich anders zu entscheiden, als es ihnen ihre Algorithmen vorschrieben. Menschen versuchten also, die Entscheidungsverantwortung an Maschinen abzugeben, die über keinerlei Entscheidungsfreiheit verfügten. (Vgl. Heßler 2025, S.51)

3. Paradox der industriellen Automation

Dieses Paradox besteht in dem Versuch, das Problem der Überforderung der Menschen durch eine hohe Arbeitsbelastung ineins mit dem Problem der fehlenden Zeit für sinnvollere (kreative) Tätigkeiten mittels zunehmender Automation der industriellen Produktion zu lösen. Einerseits wird die industrielle Produktion technisch immer aufwendiger und komplexer und verdrängt den Menschen aus ihr, andererseits greift die Technisierung auch auf die anderen Lebensbereiche des Menschen über und ,kolonisiert‛ sie, bis die Menschen immer weniger selbst tun können und zu Ersatztätigkeiten wie Konsum und Freizeitgestaltung greifen. (Vgl. Heßler 2025, S.72f.)

4. Paradox des ,Übermenschen‛ bzw. der Evolution

Wir kennen den Übermenschen von Nietzsche her. Nietzsche dachte dabei an den nächsten Schritt in der Evolution: der Übermensch löst den Menschen ab. Der Mensch stirbt aus. Die US-Amerikaner machten daraus Superman, den wir nicht der irdischen Evolution verdanken, sondern der von einem anderen Planeten kommt. In dieser Denktradition steht auch die sogenannte Singularität, eine gottähnliche Super-Intelligenz, die letztlich auch den Menschen abschafft.

Hier vermischen sich menschliche Evolution und technische Evolution, und was die Entwicklungsfähigkeit anlangt, läuft die Maschine dem Menschen, der sich im Vergleich zu ihr als entwicklungsunfähig erweist, den Rang ab, „wobei“, so Martina Heßler, „paradoxerweise ja gerade die Menschen für die technische Evolution verantwortlich waren“. (Vgl. Heßler 2025, S.157f.; zur Evolution vgl. S.152, 160, 164, 198f., 213, 229, 233)

5. Paradox der Reparaturbedürftigkeit

Heßler spricht hier nicht von einem Paradox, sondern von „Ironie“. Ich vermute, weil die keineswegs fehlerfreien Maschinen auf fortwährende Wartungs- und Reparaturdienste durch fehlerhafte Menschen angewiesen sind. Darüberhinaus richtet sich aber die Ironie auch auf die wechselseitige ‚Spiegelung‛ eines immer schon paradoxen Mensch-Maschineverhältnisses, insofern Werkzeuge jetzt nicht mehr nur Werkzeuge sind, also Verlängerungen unserer vorhandenen natürlichen Organe, sondern diese durch neuartige Organe ergänzt und sogar ersetzt werden. Cyborgs sind letztlich ihrer menschlichen Natur enteignete Menschen. Was bedeutet, daß nicht nur die immer komplexer werdenden Maschinen gewartet und repariert werden müssen, sondern auch der Cyborg selbst. Denn Technik geht nun mal kaputt, und das um so schneller, je komplizierter sie ist. (Vgl. Heßler 2025, S.173)

Ist es schon angesichts der komplexen maschinellen Infrastruktur außerhalb des menschlichen Körpers zunehmend schwierig, einen Fehler zu finden, steigert sich die Problematik bei defekten Technologien innerhalb des Körpers. Cyborgs sind entgegen der landläufigen Ansicht keineswegs glückliche geschweige denn ,bessere‛ Menschen.

6. Paradox der antiquierten Versprechungen

Von den mit dem technischen Fortschritt einhergehenden Versprechungen einer bequemeren und sichereren Welt war eingangs schon die Rede gewesen: „... die gegenwärtigen Versprechen basieren noch immer auf den Idealen einer mechanischen Maschine, die die chaotischen, fehlerhaften Menschen einhegen soll. Dies erweist sich jedoch als antiquiert, denn die neuartigen KI-Maschinen können die Versprechen, die aus einem mechanischen Zeitalter stammen, gar nicht einlösen.“ (Vgl. Heßler 2025, S.200)

Davon, warum das so ist: warum KI-Maschinen noch weniger als ihre mechanischen Vorgänger das Versprechen einer (für den Menschen) perfekten Zukunft einlösen können, wird im nächsten Blogpost die Rede sein.