Erwartungswert
- E[X] = Σ xᵢ·pᵢ, the probability-weighted averagenoch nicht geprüft
- Linearity holds even for tangled variablesnoch nicht geprüft
- E[g(X)] for moments, variance, and beyondnoch nicht geprüft
- Sample average converges to the expectationnoch nicht geprüft
1718 veröffentlichte Abraham de Moivre The Doctrine of Chances — ein Lehrbuch für englische Gentlemen, die am Spieltisch gewinnen wollten. Unter den vielen Neuerungen des Buches war die systematische Berechnung dessen, was de Moivre den Erwartungswert einer Wette nannte: den Durchschnitt auf lange Sicht, mit dem ein Spieler pro Partie rechnen darf, wenn sich das Spiel beliebig oft wiederholen ließe. Neu war nicht die Arithmetik. Neu war, den Erwartungswert als die zentrale Kennzahl einer Zufallsvariablen ernst zu nehmen. Drei Jahrhunderte später gilt: Jede entscheidungstheoretische Rechnung — in der Ökonomie, der Statistik, dem maschinellen Lernen, dem Operations Research — ist im Kern ein Erwartungswert. Und die Kunst, einen solchen korrekt zu berechnen, macht den größten Teil dessen aus, was probabilistisches Denken heißt.
Nimmt eine diskrete Zufallsvariable X die Werte xᵢ mit den Wahrscheinlichkeiten pᵢ an, so ist ihr Erwartungswert E[X] = Σ xᵢ · pᵢ — der nach Wahrscheinlichkeiten gewichtete Durchschnitt der möglichen Ausgänge. Bei einer stetigen Variablen mit Dichte ƒ(x) wird aus der Summe ein Integral: E[X] = ∫ x · ƒ(x) dx. Man nennt die Zahl auch den Mittelwert der Verteilung. Ihre eigentliche Kraft verdankt sie zwei Eigenschaften. Erstens der Linearität: E[aX + bY] = a·E[X] + b·E[Y] — und zwar gleichgültig, ob X und Y unabhängig sind oder nicht. Das ist alles andere als selbstverständlich: Der Mittelwert einer Summe ist die Summe der Mittelwerte, selbst wenn die Variablen aufs Engste verflochten sind — das Zugpferd der praktischen Wahrscheinlichkeitsrechnung. Zweitens überträgt sich der Begriff zwanglos auf Funktionen von Zufallsvariablen: E[g(X)] = Σ g(xᵢ) · pᵢ. Damit werden Momente (E[X²], E[X³]), die Varianz (E[(X − μ)²]) und jede weitere Kennzahl einer Verteilung berechenbar. Das Gesetz der großen Zahlen — Jacob Bernoulli 1713, streng gefasst erst im zwanzigsten Jahrhundert durch Chintschin und Kolmogorow — spricht aus, worauf all das ruht: Mit wachsender Zahl unabhängiger Stichproben konvergiert der Stichprobenmittelwert gegen den Erwartungswert. Darin liegt die formale Rechtfertigung des Bankvorteils, die mathematische Garantie jeder Spielbank — und die gesamte frequentistische Deutung der Wahrscheinlichkeit. Der bedingte Erwartungswert E[X | Y] schließlich ist eine Verfeinerung, die selbst wieder eine Zufallsvariable ist, nämlich eine Funktion von Y; auf ihm ruht ein Großteil der modernen stochastischen Analysis — Martingale, Filtrationen, die Theorie der optimalen Vorhersage.