Gesetz der großen Zahlen
- Sample average converges to the expectationnoch nicht geprüft
- Weak versus strong law, and why it holdsnoch nicht geprüft
- Why deviations don't get 'balanced out'noch nicht geprüft
- Casinos, insurance, and Monte Carlonoch nicht geprüft
Man wiederhole einen Versuch mit zufälligem Ausgang — Münzwurf, Würfelwurf, eine Ziehung aus irgendeiner Wahrscheinlichkeitsverteilung — hinreichend oft und mittle die Ergebnisse: Mit wachsender Versuchszahl läuft der Mittelwert auf den Erwartungswert zu. Das ist das Gesetz der großen Zahlen. Streng bewiesen hat es zuerst Jacob Bernoulli in der postum erschienenen Ars Conjectandi (1713), für den Sonderfall zweier möglicher Ausgänge; Chintschin lieferte 1929 die schwache Fassung für beliebige Verteilungen, Kolmogorow 1933 die starke. Der Satz trägt die gesamte frequentistische Statistik: Dass sich Wahrscheinlichkeiten überhaupt als langfristige Häufigkeiten ablesen lassen, ist genau seine Aussage. Er ist zugleich der Grund, warum das Casino am Ende immer gewinnt.
Seien X₁, X₂, X₃, … unabhängige, identisch verteilte Zufallsvariablen mit endlichem Erwartungswert μ = 𝔼[Xᵢ], und sei X̄ₙ = (X₁ + … + Xₙ)/n das Stichprobenmittel. Das schwache Gesetz der großen Zahlen besagt, dass X̄ₙ in Wahrscheinlichkeit gegen μ konvergiert: Für jedes ε > 0 gilt P(|X̄ₙ − μ| > ε) → 0 für n → ∞. Das starke Gesetz verschärft das zur fast sicheren Konvergenz. Der Beweis der schwachen Fassung ergibt sich aus der Tschebyschow-Ungleichung, angewandt auf das Stichprobenmittel, dessen Varianz σ²/n linear in n schrumpft. Wichtiger ist, was das Gesetz nicht behauptet: Die einzelnen Abweichungen werden nicht kleiner — die Summe Σ Xᵢ schwankt nach dem zentralen Grenzwertsatz weiter in der Größenordnung √n —, kleiner wird allein ihr Durchschnitt. Der Spielerfehlschluss liest das Gesetz als Ausgleichsgebot: Auf eine Pechsträhne müsse Glück folgen. Doch jeder Versuch steht für sich, und nichts holt etwas nach; die Konvergenz wird nicht erzwungen, sie stellt sich ein. Casinos haben daraus ein Geschäftsmodell gemacht: Jede einzelne Partie ist für den Gast ein kleiner Erwartungsverlust, über Millionen Partien hinweg macht das Gesetz den Bruttoertrag des Hauses nahezu deterministisch. Versicherer rechnen genauso — der einzelne Schadensfall ist unvorhersehbar, der Gesamtschaden eines großen Kollektivs vorhersehbar genug, um ihn zu bepreisen. Scheitern kann das Gesetz an korrelierten Stichproben (sind die Xᵢ nicht unabhängig, greift es womöglich nicht mehr), an unendlicher Varianz (klassisch: die Cauchy-Verteilung) und an schweren Rändern, bei denen die Konvergenz zwar gilt, aber quälend langsam eintritt.