Satz von Bayes

Im Jahr 1763, zwei Jahre nach seinem Tod, ließ ein Freund eine Wahrscheinlichkeitsschrift des englischen presbyterianischen Geistlichen Thomas Bayes veröffentlichen — er hielt sie für lesenswert. Die Mathematik darin war bescheiden. Der gedankliche Schritt war es nicht. Bayes behauptete, Überzeugung sei selbst eine Größe — genauer: ein Verhältnis von Evidenz zu vorheriger Erwartung —, das sich mit formaler Präzision fortschreiben lasse, sobald neue Daten einträfen. Die erste mathematische Theorie davon, wie man seine Meinung ändert, erschien anonym, blieb fünfzig Jahre unbeachtet und wurde dann still in die Grundlagen jeder Wissenschaft aufgenommen, die aus Daten lernt. Es war Pierre-Simon Laplace, der eine Generation später unabhängig die allgemeine Form der Regel fand und ihr die ersten echten Zähne gab — bei der Schätzung der Masse des Saturn, des Geschlechterverhältnisses bei Geburt —, sodass das, was wir heute bayesianische Inferenz nennen, ebenso sehr seine Leistung ist wie die von Bayes.

Der Satz von Bayes besagt: die A-posteriori-Chancen (deine Überzeugung nach der Evidenz) sind die A-priori-Chancen (was du zuvor dachtest), multipliziert mit dem Likelihood-Quotienten (wie viel wahrscheinlicher die Evidenz unter der einen Hypothese ist als unter der anderen). Die Mechanik ist die Algebra eines Nachmittags. Die Disziplin ist das Werk eines Lebens: die meisten Denkfehler sind Apriori-Fehler — Überzeugungen, die hätten aktualisiert werden sollen und es nicht wurden, oder solche, die aktualisiert wurden, obwohl sie es nicht hätten sollen. Der Satz erklärt auch den Basisraten-Fehlschluss: ein zu 99 % treffsicherer Krebstest sagt eben nicht, dass du mit 99 %iger Wahrscheinlichkeit Krebs hast — denn die Vorwahrscheinlichkeit für Krebs ist niedrig. Rechne es durch: trägt 1 von 100 Personen die Krankheit, so wird ein Test, der 99 % der echten Fälle erkennt, aber auch 5 % der Gesunden anschlägt, in einer Stadt von 10 000 etwa 99 echte und rund 495 falsche Alarme auslösen — ein positives Ergebnis lässt dir also nur etwa eine Chance von sechs, tatsächlich krank zu sein. Die Arithmetik ist unerbittlich, und sie ist genau die Arithmetik, die die Intuition überspringt. Weil die Regel iterativ ist — die heutige A-posteriori-Verteilung wird zur morgigen A-priori-Verteilung —, ist ein bayesianisch Denkender nie fertig: jede Beobachtung verschiebt die Schätzung, und ein Leben kleiner, ehrlicher Aktualisierungen kann einen weit vom Ausgangspunkt forttragen. Der Haken, den er zurückgibt: deine Schlussfolgerung ist nur so gut wie deine Vorannahme; füttere sie mit einer selbstgewissen, falschen Ausgangsüberzeugung, und sie justiert zu langsam nach, um dich zu retten — weshalb das Weiten der eigenen Vorannahmen zur Methode gehört und nicht ihr Vorspiel ist. Die statistischen Kriege des zwanzigsten Jahrhunderts — Frequentismus gegen Bayesianismus — waren im Kern ein Streit darüber, ob Vorannahmen legitim in wissenschaftliches Argumentieren einfließen dürfen. Die Bayesianer gewannen den praktischen Teil — teils, weil Computer die Integrale endlich auswerten können, teils, weil die Welt voller Probleme ist, in denen sich keine weiteren Daten erheben lassen und man mit dem Vorhandenen auskommen muss.