Wahrscheinlichkeitsverteilungen

Die Form einer Zufallsvariable — gleichverteilt, normal, poissonsch, jede fängt eine andere Art von Zufall ein.

Als Nächstes empfohlen → Shannon-Entropie · MATH · T5

Der Beitrag

Die Wahrscheinlichkeitsrechnung hat ein Bestiarium. Bevor sich eine seiner Kreaturen benennen lässt, brauchen wir die Zufallsvariable — eine Größe, deren Wert der Zufall bestimmt — und ihre Verteilung, die vollständige Abbildung von Ausgängen auf Wahrscheinlichkeiten. Jede benannte Verteilung ist eine eigene Gestalt des Zufalls, zugeschnitten auf eine bestimmte Art von Vorgang. Die Gleichverteilung legt ihr Gewicht gleichmäßig aus, das Bild reiner Unwissenheit. Die Binomialverteilung zählt Erfolge in einer festen Zahl von Versuchen. Die Poisson-Verteilung zählt Ankünfte in einem Zeitfenster. Die Exponential-Verteilung misst die Wartezeit zwischen Ankünften. Die Normal-Verteilung beschreibt, wie Mittelwerte typischerweise aussehen, die Gestalt, die entsteht, sobald sich viele kleine unabhängige Effekte aufsummieren. Das Potenzgesetz erfasst Ungleichheit, jene Welt, in der einige wenige Extreme alles andere überwiegen. Jede Verteilung trägt ihre eigene Ikonographie — die Glocke, den langen Schwanz, die schmale Spitze —, und das Bestiarium zu lernen ist der größte Teil dessen, was „statistische Intuition“ eigentlich heißt.

Eine Wahrscheinlichkeitsverteilung ist eine vollständige Beschreibung des Verhaltens einer Zufallsvariablen — ein Rezept, das angibt, wie wahrscheinlich jeder mögliche Wert ist. Für diskrete Zufallsvariablen ist die Beschreibung eine Wahrscheinlichkeitsmassenfunktion p(x), die jedem Wert eine Wahrscheinlichkeit zuordnet und sich über alle Möglichkeiten zu eins summiert. Für stetige Zufallsvariablen ist die Beschreibung eine Wahrscheinlichkeitsdichtefunktion f(x) — keine Wahrscheinlichkeit eines einzelnen Wertes (die wäre null), sondern eine Dichte, deren Integral über ein Intervall die Wahrscheinlichkeit angibt, in diesem Intervall zu landen. So oder so steckt dieselbe Information in der kumulativen Verteilungsfunktion F(x), der Wahrscheinlichkeit, bei oder unter x zu landen, die von null auf eins steigt und die ganze Gestalt in sich trägt. Die großen Familien bilden eine Art Periodensystem. Gleichverteilungen stehen für vollständige Unwissenheit über einen beschränkten Bereich. Bernoulli steht für einen einzelnen Ja/Nein-Versuch. Die Binomial-Verteilung verallgemeinert Bernoulli auf N Versuche. Poisson beschreibt seltene unabhängige Ereignisse, die mit konstanter Rate eintreffen (radioaktive Zerfälle, Kundenankünfte, Mutationen pro Generation). Die Exponential-Verteilung liefert die Wartezeit zwischen Poisson-Ereignissen. Die Normal-Verteilung (die Glockenkurve) beschreibt die Summe vieler kleiner unabhängiger Beiträge — ihr Erscheinen erzwingt der Zentrale Grenzwertsatz. Potenzgesetz-Verteilungen beschreiben Phänomene, in denen eine große Sache viele kleine beherrscht — Vermögen, Stadtgrößen, Erdbebenmagnituden — und tragen schwere Ränder, die die Normalverteilung dramatisch unterschätzt. Jede Verteilung trägt Parameter, die sie an Daten anpassen, und wird durch ihre Momente zusammengefasst — der Mittelwert legt ihre Mitte fest, die Varianz ihre Streuung, während höhere Momente die Schiefe und das Gewicht der Ränder erfassen; die statistische Inferenz besteht weitgehend darin, aus diesem Katalog eine Familie zu wählen und die wenigen Zahlen zu schätzen, die festlegen, von welchem Mitglied die Daten stammen.

Warum jetztVerteilungen sind das Grundvokabular der Ungewissheit in Wissenschaft und Finanzwelt, und jedes angewandte statistische Modell wählt eine als sein Rauschmodell oder seinen generativen Vorgang — die lineare Regression setzt normalverteilte Residuen voraus, die logistische Regression Bernoulli-Ausgänge. Die Versicherungsmathematik greift zunehmend zu Verteilungen mit schweren Rändern, denn katastrophale Risiken erweisen sich als nicht normalverteilt — eine Lehre, die die Finanzkrise von 2008 jenen Firmen schmerzlich erteilte, deren Risikomodelle Normalität unterstellt hatten. Selbst die moderne generative KI ist im Grunde eine Maschine zur Verteilungsanpassung, die lernt, plausiblen Text oder plausible Bilder aus einer riesigen geschätzten Verteilung über Daten zu ziehen. Die wiederkehrende Disziplin ist überall dieselbe: die richtige Familie benennen, sie durch ihre Momente zusammenfassen und dann die Daten sprechen lassen, indem man ihre Parameter schätzt — Ungewissheit so lesbar gemacht, dass man mit ihr rechnen kann.

Zur VertiefungWassermans All of Statistics (2004) bietet die kompakte Tour für die arbeitende Data Scientist; für tiefere mathematische Grundlegung ist Casella und Bergers Statistical Inference (2001) der Standardtext auf Graduate-Niveau. Ross' A First Course in Probability (2019) ist der sanfteste Einstieg. Die Poisson-, Exponential- und Gamma-Familien lehrt Pitmans Probability (1993) am eindringlichsten. Für eine moderne bayessche Rahmung derselben Familien ist Gelman u. a., Bayesian Data Analysis (2013), die Referenz.