Zentraler Grenzwertsatz

Nimm einen beliebigen Zufallsprozess — Münzwürfe, Würfelwürfe, die tägliche Veränderung eines Aktienkurses, die Größe einer beliebigen Person, das Rauschen einer Messung. Addiere viele unabhängige Stichproben, teile durch die Anzahl. Trage das Ergebnis auf. Wie auch immer die zugrunde liegende Verteilung aussah, das Histogramm der Mittelwerte wird eine Glockenkurve sein. Diese Regelmäßigkeit, formalisiert als der Zentrale Grenzwertsatz, ist eine der überraschendsten mathematischen Tatsachen über die Welt. Die Glocke erscheint, ob du sie willst oder nicht, immer wenn die Welt aus vielen kleinen unabhängigen Beiträgen aufgebaut ist, und sie ist ein großer Teil dessen, warum Statistik überhaupt möglich ist. Die Gestalt hat in jeder Sprache einen Namen, doch das eigentlich Seltsame ist ihre Universalität: der Glocke ist es gleichgültig, ob du Würfel, Einkommen oder Messfehler summiert hast — nur dass du viele davon summiert hast und keiner die übrigen beherrschte.

Erstmals erspäht hat den Satz De Moivre im Jahr 1733 (an Binomialverteilungen); Laplace verallgemeinerte ihn; Ljapunow stellte ihn um 1900 streng dar. Die Intuition: Mittelwertbildung löscht Struktur aus. Welche Eigenheiten die zugrunde liegende Verteilung auch trug, wiederholtes unabhängiges Stichprobenziehen mittelt sie heraus und lässt nur die gröbsten Züge zurück (Erwartungswert und Varianz). Genauer geht es im Satz um eine Rate: die Streuung des Mittelwerts schrumpft wie eins durch die Wurzel des Stichprobenumfangs, sodass man das Vierfache an Daten braucht, um die Unsicherheit zu halbieren — die schmucklose Arithmetik hinter jeder „größeren Studie“. Das ist eine schärfere Aussage als das Gesetz der großen Zahlen, das nur verspricht, dass der Mittelwert auf den wahren Erwartungswert fällt; der ZGS nennt die genaue Gestalt des Fehlers darum herum, und gerade das erlaubt es, Konfidenz in Zahlen zu fassen. Dass die Glocke und keine andere Form der universelle Grenzwert ist, liegt daran, dass die Summe unabhängiger Größen ihre Verteilungen faltet, und wiederholte Faltung jedes Merkmal außer Lage und Breite glattschleift. Wie schnell sich die Näherung einstellt, hängt von der zugrunde liegenden Verteilung ab: symmetrische, leichträndrige Größen konvergieren in einer Handvoll Stichproben, während schiefe oder schwerrändrige Tausende brauchen können, ehe der Glocke zu trauen ist — weshalb die Faustregel „n ≥ 30“ eben eine Faustregel ist und kein Gesetz. Der Satz versagt genau dort, wo seine Annahmen versagen: wenn ein einzelner Beitrag die Summe beherrschen kann (Verteilungen mit schweren Rändern wie Erdbebenmagnituden oder Finanzrenditen unter Stress), wenn die Beiträge korreliert sind (ein Marktzusammenbruch, in dem sich alles gleichzeitig bewegt), oder wenn die zugrunde liegende Verteilung unendliche Varianz besitzt. Die Finanzkrise von 2008 war in diesem Sinne ein Versagen des ZGS: die Annahme unabhängiger Beiträge brach in sich zusammen, die Ränder wurden schwerer, und die Standardmodelle waren für das daraus entstehende Risiko gröblich fehlkalibriert.