Was ist das Gesetz der totalen Erwartung?

Das Gesetz der totalen Erwartung (auch bekannt als das Gesetz der iterierten Erwartungen oder das Tower-Eigenschaft) ist ein grundlegendes Prinzip in der Wahrscheinlichkeitstheorie, das die bedingungslose Erwartung einer Zufallsvariable als gewichteten Durchschnitt ihrer bedingten Erwartungen ausdrückt. Im Klartext heißt es: Um den Durchschnittswert von etwas über eine ganze Population zu finden, brechen Sie zuerst die Population in sinnvolle Gruppen, berechnen Sie den Durchschnitt innerhalb jeder Gruppe, dann mitteln Sie diese Gruppendurchschnitte - Gewichtung jeder durch die Größe der Gruppe. Diese täuschend einfache Idee treibt alles voran, von der Risikobewertung in der Finanzwelt bis hin zur Training von Machine Learning Modellen zu unausgewogenen Datensätzen.

Formal, wenn wir eine Zufallsvariable haben X und eine Aufteilung des Probenraums in disjunkte Ereignisse B1, B2, ..., Bn (d.h. die Ereignisse decken alle Möglichkeiten ab und keine zwei überlappen sich), dann:

E[X] = Σi = 1n E[X] Bi) · P(B)i)

Hier E[X] Bi] die bedingte Erwartung von X bei diesem Ereignis Bi aufgetreten ist und P(B)i) Das Gesetz funktioniert, weil die bedingte Erwartung bereits die Variabilität innerhalb jeder Gruppe "mittelt", so dass die endgültige gewichtete Summe den Gesamtdurchschnitt wiedererlangt.

Intuition und einfache Illustration

Stellen Sie sich vor, Sie berechnen die durchschnittliche Testpunktzahl in einem Klassenzimmer mit 30 Schülern. Teilen Sie die Klasse in Gruppen - sagen wir, Jungen und Mädchen -, stellen Sie vielleicht fest, dass die durchschnittliche Punktzahl für Jungen 75 und für Mädchen 85 ist. Wenn die Klasse 20 Jungen und 10 Mädchen hat, ist der Gesamtdurchschnitt nicht Stattdessen gewichtet man jeden Gruppendurchschnitt nach seinem Verhältnis: (75 × 20/30) + (85 × 10/30) = 50 + 28,33 = 78,33. Dieser gewichtete Durchschnitt ist genau das, was das Gesetz der totalen Erwartung vorschreibt.

Dies Grundsatz des gewichteten Mittelwerts für jede beliebige Zufallsvariable gilt: Die bedingungslose Erwartung ist das gewichtete Mittel der bedingten Erwartungen, wobei die Gewichte die Wahrscheinlichkeiten der Konditionierungsereignisse sind.

Warum es wichtig ist

Das Gesetz der totalen Erwartung ist nicht nur eine theoretische Kuriosität, es ist ein Arbeitspferd der angewandten Wahrscheinlichkeit.

  • Zerlegen Sie komplexe Erwartungswerte in einfachere Teilprobleme, insbesondere wenn die Verteilung von X von einem versteckten oder hierarchischen Faktor abhängt.
  • Den Erwartungswert in zweistufigen Experimenten ableiten (z.B. „erst eine Münze auswählen, dann sie umdrehen).
  • Beweisen Sie andere wichtige Ergebnisse, wie die Gesetz der totalen Varianz.
  • Berechnen Sie die erwarteten Werte in Markov-Ketten, Warteschlangentheorie und Verstärkungslernen.

Für alle, die mit probabilistische ModelleDatenwissenschaftler, Statistiker, Ingenieure – die Beherrschung dieses Gesetzes ist für klares Denken und genaue Berechnungen unerlässlich.

Beziehung zum Gesetz der totalen Wahrscheinlichkeit

Das Gesetz der totalen Erwartung ist eng mit dem Gesetz der totalen Wahrscheinlichkeit verbunden, das P(A) = Σ besagt.i P(A)Bi)iWenn wir uns X als Indikatorfunktion des Ereignisses A (X = 1, wenn A auftritt, 0 ansonsten), dann E[X] = P(A) und E[X|B)i) = P(A|BiDas Gesetz der totalen Erwartung reduziert sich dann auf das Gesetz der totalen Wahrscheinlichkeit. Dies zeigt, dass das Erwartungsgesetz eine strenge Verallgemeinerung ist - es funktioniert nicht nur für Wahrscheinlichkeiten, sondern für jede beliebige Zufallsvariable.

Ausführliches Beispiel 1: Rolling a Fair Die

Das Problem

Betrachten wir eine einzelne Rolle eines fairen sechsseitigen Würfels. X Die rohe Erwartung ist einfach: E[X] = (1+2+3+4+5+6)/6 = 3.5. Aber wir können sie auch berechnen, indem wir die Rolle zuerst als gerade oder ungerade klassifizieren und das Gesetz der totalen Erwartung Schritt für Schritt veranschaulichen.

Partitionieren des Probenraumes

  • B1: Würfel zeigt eine gerade Zahl (2, 4, 6)
  • B2: Würfel zeigt eine ungerade Zahl (1, 3, 5)

Diese beiden Ereignisse sind disjunk und decken alle Ergebnisse ab, so dass sie eine gültige Partition bilden.

Berechnen Sie die bedingten Erwartungen

  • für B1 (auch): Die möglichen Ergebnisse sind {2,4,6} mit gleicher Wahrscheinlichkeit jeweils 1/3. Daher E[X | B1] = (2+4+6)/3 = 12/3 = 4.
  • für B2 (Odd): Die Ergebnisse sind {1,3,5}. E[X | B2] = (1+3+5)/3 = 9/3 = 3.

Berechnung der Wahrscheinlichkeiten der Konditionierungsereignisse

  • P(B1) = 3/6 = 0,5
  • P(B2) = 3/6 = 0,5

Anwendung des Gesetzes

E[X] = E[X|B1]·P(B1) + E[X|B2]·P(B2) = (4 × 0,5) + (3 × 0,5) = 2 + 1,5 = 3,5 g, die der direkten Berechnung entspricht.

Dieses Beispiel zeigt, dass selbst wenn die Gesamterwartung leicht direkt zu berechnen ist, das Gesetz eine Sanitätsprüfung und einen konzeptionellen Rahmen bietet, der von unschätzbarem Wert wird, wenn das Problem komplexer ist.

Ausführliches Beispiel 2: Krankheitstest (ein medizinisches Screening-Szenario)

Einstellung

Eine bestimmte Krankheit betrifft 1% der Bevölkerung (Prävalenz). Ein diagnostischer Test ist 99% genau: Er identifiziert eine erkrankte Person korrekt als positiv 99% der Zeit (Sensibilität) und identifiziert eine gesunde Person korrekt als negativ 99% der Zeit (Spezifität). X Eine Zufallsvariable ist gleich 1, wenn eine zufällig ausgewählte Person positiv testet, und 0, wenn nicht anders. X ist die Anzahl der positiven Testergebnisse für eine Person. Wir wollen die erwartete Anzahl positiver Tests in der Population (was der Wahrscheinlichkeit entspricht, dass eine zufällig ausgewählte Person positiv testet).

Teilung der Bevölkerung

  • B1: die Person hat die Krankheit (1% der Bevölkerung)
  • B2: die Person hat die Krankheit nicht (99% der Bevölkerung)

Diese beiden Ereignisse sind eine Partition (jeder hat oder hat die Krankheit nicht).

Bedingte Erwartungen

  • Wenn die Person die Krankheit (B1) hat, ist der Test mit Wahrscheinlichkeit 0,99 positiv. E[X | B1] = 0,99.
  • Wenn die Person die Krankheit (B2) nicht hat, produziert der Test in 1% der Fälle ein falsch positives Ergebnis. E[X | B2] = 0,01.

Wahrscheinlichkeiten der Partitionsereignisse

  • P(B1) = 0,01
  • P(B2) = 0,99

Anwendung des Gesetzes

E[X] = (0,99 × 0,01) + (0,01 × 0,99) = 0.0099 + 0.0099 = 0,0198Somit sind etwa 1,98% der Bevölkerung positiv getestet – eine Zahl, die sowohl echte Positive als auch falsche Positive umfasst. Dieses Ergebnis ist oft überraschend, weil der Test sehr genau erscheint, aber die geringe Krankheitsprävalenz bedeutet, dass falsch positive Ergebnisse so viele positive Ergebnisse wie echte Positive beitragen. positiver prädiktiver Wert (Wahrscheinlichkeit, dass ein positiver Test auf eine tatsächliche Krankheit hinweist) ist nur 0,0099 / 0,0198 = 0,5 oder 50%. Das Gesetz der totalen Erwartung macht solche Berechnungen transparent und wiederholbar.

Ausführliches Beispiel 3: Zweistufige Produktion (Business Application)

Das Szenario

Eine Fabrik betreibt zwei Schichten: Tagesschicht (70 % der Gesamtleistung) und Nachtschicht (30%). Die Anzahl der pro Schicht produzierten defekten Gegenstände ist zufällig. Bei der Tagesschicht beträgt die durchschnittliche Anzahl der Defekte 5 pro Tag (E = 5). Bei der Nachtschicht beträgt der Durchschnitt 8 pro Tag (E = 8). Die beiden Schichten unterscheiden sich jedoch in ihrer Länge, so dass die durchschnittlichen Gesamtfehler pro Tag nicht Einfach (5+8)/2 = 6,5.

Wir brauchen einen gewichteten Durchschnitt.

Definieren Sie die Zufallsvariable

Lassen X = Anzahl der Fehler an einem zufällig ausgewählten Tag. Die „Partition ist hier die Schicht, die an diesem Tag funktionierte. Prüfen Sie: Wir wählen keine Schicht zufällig aus; wir wählen einen Tag aus, und die Schicht bestimmt die Fehlerverteilung. Dies passt zum Gesetz, weil Tage in Tag-Wechsel-Tage und Nacht-Wechsel-Tage unterteilt sind.

Berechnen

  • E[X] Day Shift = 5
  • E[X] Nachtschicht = 8
  • P (Tagesverschiebung) = 0,7
  • P(Nachtverschiebung) = 0,3

E[X] = (5 × 0,7) + (8 × 0,3) = 3,5 + 2,4 = 5,9 Fehler pro Tag: Die Gewichtung berücksichtigt korrekt, dass die Tagesverschiebung häufiger abläuft, wodurch der Gesamtdurchschnitt im Vergleich zum ungewichteten Mittelwert gesenkt wird.

Häufige Fehlinterpretationen

Trotz seiner Einfachheit wird das Gesetz der totalen Erwartung oft falsch angewandt.

  1. Nicht-disjunkte Ereignisse verwenden. Das Gesetz verlangt eine Teilung: Ereignisse müssen sich gegenseitig ausschließen und kollektiv erschöpfend sein. Überlappende Ereignisse führen zu Doppelzählungen.
  2. Verwechseln von bedingter Erwartung mit bedingungsloser. E[X|B] ist selbst eine Zufallsvariable, wenn B nicht festgelegt ist; das Gesetz gilt, wenn B ein bestimmtes Ereignis ist oder wenn wir über die Konditionierungsvariable mitteln.
  3. Ignorieren des Gewichtungsschritts. Einfach nur die Mittelung der bedingten Erwartungen ohne Gewichtung durch Wahrscheinlichkeiten führt zu einem falschen Ergebnis, es sei denn, die Gruppen sind gleich wahrscheinlich.
  4. Die Annahme, dass das Gesetz immer vereinfacht das Problem. Während es oft der Fall ist, sind die bedingten Erwartungen manchmal schwieriger zu berechnen als die Gesamterwartung.

Fortgeschrittene Anwendung: Das Gesetz der iterierten Erwartungen

Das Gesetz der totalen Erwartung wird manchmal als Gesetz der iterierten Erwartungen wenn sie in Form einer konditionierenden Zufallsvariable anstelle einer Partition ausgedrückt wird; wenn Y ist eine diskrete Zufallsvariable, dann:

E[X] = E[E[X | Y]]

Die Gesamterwartung ist also die Erwartung der bedingten Erwartung. Diese kompakte Form wird in der Ökonometrie, Zeitreihenanalyse und im maschinellen Lernen (z.B. die bedingte Erwartung) stark genutzt. Gradientenverstärkungsalgorithmus iterativ verfeinert bedingte Erwartungen. Um mehr über seine Rolle in der modernen Statistik zu erfahren, siehe Wikipedia-Artikel zum Gesetz der totalen Erwartung und die Diskussion über ihre Verbindungen zu den Gesetz der totalen Varianz.

Verbindung zu bedingten Erwartungen im maschinellen Lernen

Beim überwachten Lernen, erwarteter Vorhersagefehler Für eine Verlustfunktion L(Y, f(X)) ist die optimale Vorhersage f(X) die bedingte Erwartung E[Y|X]. Das Gesetz der Gesamterwartung hilft dann zu beweisen, dass diese Wahl den mittleren quadrierten Fehler minimiert: E[(Y − f(X))2] = E[Var(Y|X)] + Var(E[Y|X]). Diese Zersetzung trennt irreduzibles Rauschen von der Modellbias, eine wichtige Erkenntnis für das Verständnis. Über- und UnterausstattungDatenwissenschaftler finden ein praktisches Tutorial zu diesem Thema unter Auf dem Weg zu Data Science.

Anwendungen im Finanz- und Risikomanagement

Im Finanzbereich wird das Gesetz zur Berechnung der erwarteten Renditen unter verschiedenen Marktregimen verwendet. Angenommen, die Rendite eines Portfolios hängt davon ab, ob sich die Wirtschaft in einer Rezession (Wahrscheinlichkeit 20%) oder einer Expansion (80%) befindet. Die erwartete Rendite entspricht insgesamt den Rezessions-Renditezeiten 0,2 plus den Expansions-Renditezeiten 0,8. Risikopotenzial (VaR) Modelle werden oft von Marktszenarien abhängig gemacht, und die bedingungslose Erwartung wird durch das Gesetz wiedererlangt. ProbabilityCourse.com.

Schlussfolgerung

Das Gesetz der totalen Erwartung ist ein täuschend mächtiges Werkzeug, das ein schwieriges Erwartungsproblem in eine Summe einfacher bedingter Probleme verwandelt. Von Würfelrollen über Krankheitsscreening bis hin zu finanziellen Risiken liegt das Prinzip der gewichteten Mittelung einer klaren probabilistischen Argumentation zugrunde. Durch die Aufteilung des Probenraums in sinnvolle Kategorien können Sie Erwartungswerte systematisch berechnen und häufige logische Fehler vermeiden. Ob Sie ein Student sind, der erste Lernwahrscheinlichkeit oder ein professionelles Gebäude prädiktive Modelle, die Integration des Gesetzes der totalen Erwartung in Ihr analytisches Toolkit wird Ihr Verständnis schärfen und Ihre Ergebnisse verbessern.

Um die Theorie und ihre Beweise weiter zu erforschen, wird die MathWorld Artikel zum Total Expectation Theorem bietet strenge Details, während Statistikkurse der Khan Academy Wir bieten interaktive Praxis an. Meistern Sie dieses Gesetz, und Sie werden feststellen, dass viele scheinbar komplexe Erwartungen zu einfachen Berechnungen werden.