Die Bibliothek · MathematikTafel № 012 · Folio I
ILL. № 012
MATH
Plate — Zentraler Grenzwertsatz

Zentraler Grenzwertsatz

Man summiere genug unabhängige Zufallsgrößen, und heraus kommt die Glockenkurve — gleichgültig, was man summiert hat. Nur viele müssen es sein, und keiner darf die anderen überragen.
Als Nächstes empfohlen → Hypothesentest · MATH · T5
Facetten
  • Sums of i.i.d. variables go normalnoch nicht geprüft
  • Averaging cancels all but mean and variancenoch nicht geprüft
  • Fat tails, correlation, infinite variancenoch nicht geprüft
  • De Moivre, Laplace, Lyapunovnoch nicht geprüft
Der Beitrag

Man nehme irgendeinen Zufallsprozess — Münzwürfe, Würfelaugen, die Tagesveränderung eines Aktienkurses, die Körpergröße eines beliebigen Menschen, das Rauschen einer Messung. Viele unabhängige Stichproben addieren, durch ihre Anzahl teilen, das Ergebnis auftragen. Wie die zugrunde liegende Verteilung auch ausgesehen haben mag: Das Histogramm der Mittelwerte wird eine Glockenkurve. Als Zentraler Grenzwertsatz ist diese Regelmäßigkeit längst formalisiert, und sie gehört zu den überraschendsten mathematischen Tatsachen über unsere Welt. Die Glocke kommt, ob man sie will oder nicht, überall dort, wo sich etwas aus vielen kleinen unabhängigen Beiträgen zusammensetzt — dass Statistik überhaupt möglich ist, hängt zu großen Teilen daran. Einen Namen hat die Form in jeder Sprache; das eigentlich Befremdliche aber ist ihre Universalität. Ob man Würfel, Einkommen oder Messfehler summiert hat, ist der Glocke gleichgültig. Es müssen nur viele gewesen sein, und keiner darf die anderen überragt haben.

Erspäht hat den Satz zuerst De Moivre, 1733, an Binomialverteilungen; Laplace verallgemeinerte ihn, streng bewiesen hat ihn Ljapunow um 1900. Dahinter steht ein einfacher Gedanke: Mitteln löscht Struktur. Was die zugrunde liegende Verteilung an Eigenheiten mitbrachte, wird beim wiederholten unabhängigen Ziehen herausgemittelt, übrig bleiben nur die gröbsten Merkmale, Erwartungswert und Varianz. Genauer geht es um eine Rate: Die Streuung des Mittelwerts schrumpft wie eins durch die Wurzel des Stichprobenumfangs. Wer die Unsicherheit halbieren will, braucht die vierfache Datenmenge — das ist die schmucklose Arithmetik hinter jeder „größeren Studie“. Damit sagt der Satz mehr als das Gesetz der großen Zahlen, das nur zusichert, dass der Mittelwert am wahren Erwartungswert landet; der Grenzwertsatz nennt auch die Gestalt des Fehlers drumherum, und erst das erlaubt es, Konfidenz in Zahlen auszudrücken. Warum ausgerechnet die Glocke der allgemeine Grenzwert ist, liegt an der Faltung: Summiert man unabhängige Größen, so faltet man ihre Verteilungen, und wiederholte Faltung schleift alles glatt außer Lage und Breite. Wie rasch die Näherung greift, hängt allerdings vom Ausgangsmaterial ab. Symmetrische Größen mit leichten Rändern sind nach einer Handvoll Ziehungen so weit; schiefe oder solche mit schweren Rändern brauchen mitunter Tausende, ehe der Glocke zu trauen ist. Das Lehrbuch-„n ≥ 30“ ist eine Faustregel und kein Gesetz. Versagen wird der Satz genau dort, wo seine Voraussetzungen versagen: wenn ein einzelner Beitrag die Summe beherrschen kann — schwere Ränder, wie bei Erdbebenmagnituden oder bei Renditen unter Stress —, wenn die Beiträge korreliert sind, etwa im Börsenkrach, in dem sich alles gleichzeitig bewegt, oder wenn die Varianz gar nicht endlich ist. Die Finanzkrise von 2008 war in diesem Sinn ein Versagen des Grenzwertsatzes: Die Unabhängigkeit der Beiträge brach weg, die Ränder wurden schwer, und die üblichen Modelle waren für das entstehende Risiko grob fehlkalibriert.

Warum jetztStillschweigend steckt die Glockenannahme in fast jeder quantitativen Praxis — in der Meinungsforschung, in Arzneimittelstudien, im Risikomanagement der Banken. Wo sie trägt, merkt niemand etwas davon; wo sie bricht, hört man es. Auf demselben Satz ruht das alltägliche Handwerkszeug der Inferenz: der Standardfehler, der aus einer einzigen Stichprobe ein Konfidenzintervall macht; t-Test und A/B-Test, die entscheiden, ob ein Unterschied echt ist; der Bootstrap, der die Daten neu zieht und die Unsicherheit ganz ohne Formel schätzt. Jedes dieser Verfahren setzt voraus, dass die Mittelung ihren glockenförmigen Grenzwert schon erreicht hat. Zu erkennen, wann der Grenzwertsatz greift — und wann man sich im Gelände schwerer Ränder, korrelierter Beiträge und seltener Ereignisse bewegt —, ist eine der nützlichsten Gewohnheiten, die man sich mit Zahlenverstand aneignen kann.
Zur VertiefungDie kanonische, gut lesbare Herleitung steht bei Feller, An Introduction to Probability Theory and Its Applications (Bd. I, 1968), und ist in ihrer Anschaulichkeit bis heute unerreicht. Die strenge Maschinerie liefert Billingsley, Probability and Measure (1995). Warum und wo der Satz scheitert, führen Nassim Talebs Der Schwarze Schwan (2007) und Statistical Consequences of Fat Tails (2020) vor. Schlichter, aber nicht weniger nützlich: David Hands The Improbability Principle (2014) über die Irrwege des Glockendenkens in randgetriebenen Bereichen.