Wetten van de grote aantallen

De experimentele wet van de grote aantallen geïllustreerd: voorbeeld van de uitkomst van een experiment waarbij steeds een munt wordt opgegooid; verticaal staat de relatieve frequentie van de uitkomst "munt". Als het aantal worpen toeneemt, tendeert deze naar de kans op "munt" (0,5).

Onder een wet van grote aantallen wordt in de kansrekening een regel verstaan die een uitspraak doet over het gedrag van het gemiddelde van een rij stochastische variabelen bij toenemende omvang van de rij. Er bestaan verschillende vormen van zo'n wet. Zo is er een experimentele, een zwakke en een sterke wet van de grote aantallen. De diverse formuleringen van de wet en de specifieke randvoorwaarden beschrijven aspecten van deze convergentie.

In een statistische context zeggen wetten van grote aantallen dat het (steekproef)gemiddelde van een aselecte steekproef uit een populatie, met hoge waarschijnlijkheid weinig verschilt van het populatiegemiddelde.

Indien de stochastische variabelen een eindige variantie hebben, scherpt de centrale limietstelling ons begrip van de convergentie van het gemiddelde verder aan door uitspraken te doen over de kansverdeling van het gemiddelde van de stochastische variabelen. Ongeacht de onderliggende verdeling van deze variabelen, convergeert de kansverdeling van dit gemiddelde naar een normale verdeling.

Experimentele wet

De experimentele wet van de grote aantallen vormt de basis voor de frequentistische opvatting van het begrip kans. Deze wet is de experimentele vaststelling dat in kansexperimenten de relatieve frequentie van een gebeurtenis op de lange duur naar een limiet lijkt te convergeren. Zo zien we dat bij herhaald werpen met een zuivere dobbelsteen de relatieve frequentie $f_{n}(6)$ van de uitkomst 6, dus het quotiënt van het aantal keren dat 6 gegooid is en het totaal aantal worpen, op de lange duur dicht in de buurt van de waarde 1/6 komt te liggen. We zouden kunnen schrijven:

$f_{n}(6)\to 1/6,$

waarbij we moeten bedenken dat de pijl slechts een experimentele vaststelling is.

In de theorie die met de experimentele wet als model opgezet wordt, kan een theoretische (zwakke) wet van de grote aantallen afgeleid worden. Deze wet luidt voor het bovenstaande voorbeeld:

$f_{n}(6)\to P(6)=1/6$,

waarin de pijl nu een precies gedefinieerde limiet in kans voorstelt, nl. dat voor iedere $\varepsilon >0$:

$\lim _{n\to \infty }P(|f_{n}(6)-P(6)|>\varepsilon )=0$

Zwakke wet

De zwakke wet van de grote aantallen stelt dat van een oneindige rij ongecorreleerde (de correlatie tussen elk tweetal uit de rij is nul) stochastische variabelen $X_{1},X_{2},X_{3},\ldots$ die alle dezelfde verwachtingswaarde $\mu$ en dezelfde eindige variantie $\sigma ^{2}$ hebben, het gemiddelde

${\overline {X}}_{n}={\tfrac {1}{n}}(X_{1}+\ldots +X_{n})$

in waarschijnlijkheid convergeert naar $\mu$. Dit houdt in dat voor ieder positief getal $\varepsilon$, hoe klein ook, geldt dat

$\lim _{n\to \infty }P\left(\left|{\overline {X}}_{n}-\mu \right|>\varepsilon \right)=0$

De ongelijkheid van Chebyshev wordt gebruikt om dit te bewijzen.

Sterke wet

De sterke wet van de grote aantallen stelt dat van een oneindige rij onderling onafhankelijke en identiek verdeelde stochastische variabelen $X_{1},X_{2},X_{3},\ldots$ met verwachtingswaarde $\mu$ en $\operatorname {E} (|X_{1}|)<\infty$, het gemiddelde met kans 1 convergeert naar $\mu$. Dit houdt in dat:

$P\left(\lim _{n\to \infty }{\overline {X}}_{n}=\mu \right)=1$

Deze wet lijkt de intuïtieve interpretatie van de verwachtingswaarde van een stochastische variabele als het "lange-termijngemiddelde" bij herhaald uitvoeren van het kansexperiment te rechtvaardigen. Een probleem is echter dat de wet in feite een kringredenering is. De wet zegt immers dat de kans dat het lange-termijngemiddelde bij herhaald uitvoeren gelijk is aan de verwachtingswaarde, gelijk 1 is. Kort door de bocht zegt de wet dus dat de kans dat we het kansbegrip (nodig bij het berekenen van deze verwachtingswaarde) juist interpreteren gelijk aan 1 is.

Geschiedenis

De eerste bekende vermelding van deze materie werd in 1713 opgetekend door de Zwitser Jakob Bernoulli. Na hem heeft de Fransman Siméon Poisson de wetten verder geannoteerd en uitgewerkt.