PolymathicAlle Ideen →
Philosophie

Das Trolley-Problem

Foot 1967: fünf auf dem Gleis, einer auf dem Abzweig — und das Dilemma zeigt, wie moralische Intuitionen aufbrechen.

1967 veröffentlichte Philippa Foot — englische Philosophin in Oxford und Enkelin des US-Präsidenten Grover Cleveland — einen Aufsatz mit dem Titel The Problem of Abortion and the Doctrine of Double Effect, der fast nebenbei ein kurzes Beispiel enthielt: ein außer Kontrolle geratener Trolleywagen rast auf fünf Arbeiter auf dem Gleis zu, und Sie können ihn auf ein Nebengleis lenken, wo er nur einen tötet. Die meisten sagen: umlenken. Judith Jarvis Thomson (1976, 1985) baute das Beispiel aus: Sie stehen jetzt auf einer Fußgängerbrücke über dem Gleis, neben Ihnen ein kräftiger Fremder, dessen Körper den Wagen anhalten würde, wenn man ihn hinunterstößt — und die meisten weigern sich. Beide Fälle rechnen mit derselben Arithmetik — ein Tod, um fünf zu retten —, lösen aber gegenläufige Intuitionen aus. Die Literatur, die aus diesem Gedankenexperiment gewachsen ist, spannt sich heute über fünfzig Jahre.

Die Fälle ordnen sich auf einer Skala der Intuitionen: das Standard-Trolley (Hebel ziehen, einen töten, fünf retten) wird meist gebilligt; die Fußgängerbrücke (den schweren Fremden hinunterstoßen, um den Wagen zu stoppen) meist abgelehnt; die Loop-Variante spaltet die Intuitionen; der Transplantationsfall (einen gesunden Patienten töten, um seine Organe für fünf Sterbende zu nehmen) wird so gut wie einhellig zurückgewiesen. Die utilitaristische Arithmetik sieht alle vier als gleich. Drei Anläufe, die Lücke zu systematisieren: die Doktrin der Doppelwirkung aus der mittelalterlichen Scholastik, wonach man eine üble Folge als Nebenwirkung einer auf ein gutes Ziel gerichteten Handlung in Kauf nehmen darf, sie aber nicht als Mittel beabsichtigen darf (der Tod des Arbeiters wird im Standard-Trolley vorhergesehen, in der Fußgängerbrücke beabsichtigt); die Unterscheidung persönlich versus unpersönlich (Joshua Greene, ab 2001), bei der die Fußgängerbrücke ein körperliches Stoßen verlangt — Greenes Bildgebung zeigt, dass persönliche Dilemmata medial-präfrontale und posterior-cinguläre Emotionsareale stärker aktivieren als unpersönliche, was seinen Zwei-Prozess-Ansatz stützt; und Thomsons spätere Auffassung, die Asymmetrien hingen womöglich an nichts moralisch Bedeutsamem und seien bloß kognitive Gewohnheiten, die einer Prüfung nicht standhalten. Die empirische Literatur — Greenes Labor, Fiery Cushmans Arbeiten, das Moral-Machine-Experiment mit Millionen Teilnehmern an autonomen-Fahrzeug-Analoga — hat eine robuste persönlich/unpersönlich-Unterscheidung, eine reale, aber sekundäre kulturelle Streuung und starke Framing-Effekte dokumentiert. Kritiker (Barbara Fried, David Edmonds) halten dagegen: fiktive Dilemmata mit perfekter Information bilden reale Situationen mit Unsicherheit, wiederholten Interaktionen und reicherer Handlungsfähigkeit schlecht ab; Verteidiger entgegnen, gerade der Kunstgriff sei der Punkt, weil er die moralischen Variablen vom Rauschen der wirklichen Welt isoliere.

Warum es jetzt zählt

Die Ethik autonomer Fahrzeuge hat das Trolley-Problem aus dem Seminar ins Werkzeug überführt: muss ein selbstfahrendes Auto zwischen dem Anfahren eines Fußgängers und einem Ausweichmanöver wählen, das zwei trifft, schreibt der Algorithmus eine Antwort auf ein trolleyartiges Dilemma fest. Das Moral-Machine-Experiment (MIT, 2014–2018) sammelte rund 40 Millionen Entscheidungen von Menschen in 233 Ländern. Die konkrete Entwicklungsfrage erweist sich als weniger folgenreich als die politische Frage, wer über die Werte des Algorithmus entscheidet — und KI-Alignment denkt zunehmend in Trolley-Mustern darüber nach, wie mächtige Systeme zwischen Wohlergehen, Rechten, Autonomie und Aggregation abwägen sollen. Militärethik, medizinische Triage und Fairness im maschinellen Lernen folgen demselben Muster, nur mit höherem Einsatz.

WeiterführendThe Problem of Abortion and the Doctrine of Double Effect (Foot, 1967). Killing, Letting Die, and the Trolley Problem (Thomson, 1976). Would You Kill the Fat Man? (Edmonds, 2013). Moral Tribes (Greene, 2013).
In Polymathic lesen →Den Katalog durchstöbern
Polymathic — ein kuratierter Katalog der Ideen, die es wert sind, behalten zu werden, quer durch zwölf Disziplinen. polymathic.app