Geordende steekproef

In de statistiek vormen de naar grootte gerangschikte elementen van een steekproef $X_{1},\ldots ,X_{n}$ van continue stochastische variabelen, die onderling onafhankelijk zijn, maar niet noodzakelijk gelijkverdeeld, de geordende steekproef, meestal genoteerd als

$X_{(1)}\leq \ldots \leq X_{(n)}$.

Met $X_{(k)}$ wordt het steekproefelement aangeduid met het rangnummer $k$. De notatie $X_{k:n}$ wordt ook gebruikt, waaraan tevens de steekproefomvang is te zien. Als er geen knopen zijn, geldt dus:

$X_{(k)}=X_{i}\Longleftrightarrow r_{i}=k$

Als $x_{1},\ldots ,x_{n}$ de uitkomst van de steekproef is, worden de geordende resultaten genoteerd als:

$x_{(1)}\leq \ldots \leq x_{(n)}$

De elementen in de geordende steekproef zijn stochastisch afhankelijk en elk van de elementen is een steekproeffunctie van de oorspronkelijke steekproef. In het bijzonder is

$X_{(1)}=\min(X_{1},\ldots ,X_{n})$

en

$X_{(n)}=\max(X_{1},\ldots ,X_{n})$

Verdeling

In de meeste gevallen worden gelijkverdeelde variabelen beschouwd, die dus een aselecte steekproef vormen.

In het algemene geval is de verdeling gecompliceerder en wordt deze gegeven door de stelling van Bapat–Beg, die in 1989 gepubliceerd werd door Bapat en Beg. De auteurs gaven geen bewijs, maar in 1994 gaf Hande een eenvoudig bewijs van de stelling.

Aselecte steekproef

Voor een aselecte steekproef van $X,$ dus voor onderling onafhankelijke en gelijkverdeelde $X$-en, is de simultane verdeling voor $y_{1}\leq y_{2}\leq \ldots \leq y_{n}$ gegeven door de kansdichtheid:

$f_{X_{(1)},\ldots ,X_{(n)}}(y_{1},\ldots ,y_{n})=n!\prod _{k}f_{X}(y_{k})$

De verdelingsfunctie van $X_{(k)}$ wordt gegeven door:

$F_{X_{(k)}}(x)=P(X_{(k)}\leq x)=$

$=\sum _{m=k}^{n}P(X_{(1)}\leq x,\ldots ,X_{(m)}\leq x,X_{(m+1)}>x,\ldots ,X_{(n)}>x)$

$=\sum _{m=k}^{n}{\tbinom {n}{m}}P(X_{1}\leq x,\ldots ,X_{m}\leq x,X_{m+1}>x,\ldots ,X_{n}>x)$

$=\sum _{m=k}^{n}{\tbinom {n}{m}}\left(F_{X}(x)\right)^{m}\left(1-F_{X}(x)\right)^{n-m}$,

want elk van de ${\tbinom {n}{m}}$ gebeurtenissen

$\{X_{i_{1}}\leq x,\ldots ,X_{i_{m}}\leq x,X_{i_{m+1}}>x,\ldots ,X_{i_{n}}>x\}$

heeft dezelfde kans als

$\{X_{1}\leq x,\ldots ,X_{m}\leq x,X_{m+1}>x,\ldots ,X_{n}>x\}$

De dichtheid van $X_{(k)}$ is:

$f_{X_{(k)}}(x)=n{\tbinom {n-1}{k-1}}\left(F_{X}(x)\right)^{k-1}f_{X}(x)(1-\left(F_{X}(x)\right))^{n-k}$

Immers:

$f_{X_{(k)}}(x){\rm {d}}x\approx P(X_{(k)}\in [x,x+{\rm {d}}x))=$

$=n{\tbinom {n-1}{k-1}}P(X_{1}\leq x,\ldots ,X_{k-1},X_{k}\in [x,x+{\rm {d}}x)),X_{k+1}>x,\ldots ,X_{n}>x)$

$=n{\tbinom {n-1}{k-1}}F_{X}(x)\cdot \ldots \cdot F_{X}(x)f_{X}(x){\rm {d}}x(1-F_{X}(x))\cdot \ldots \cdot (1-F_{X}(x))$

Andere berekening 

Dit resultaat kan ook worden verkregen door het berekenen van de afgeleide van $F_{X_{(k)}}(x)$.

$f_{X_{(k)}}(x)=F'_{X_{(k)}}(x)=$

$=f_{X}(x)\left(\sum _{m=k}^{n}{\tbinom {n}{m}}m\left(F_{X}(x)\right)^{m-1}\left(1-F_{X}(x)\right)^{n-m}-\sum _{m=k}^{n-1}{\tbinom {n}{m}}(n-m)\left(F_{X}(x)\right)^{m}\left(1-F_{X}(x)\right)^{n-m-1}\right)$

$=f_{X}(x)\left(\sum _{m=k}^{n}{\tbinom {n}{m}}m\left(F_{X}(x)\right)^{m-1}\left(1-F_{X}(x)\right)^{n-m}-\sum _{m=k+1}^{n}{\tbinom {n}{m-1}}(n-m+1)\left(F_{X}(x)\right)^{m-1}\left(1-F_{X}(x)\right)^{n-m}\right)$

$=f_{X}(x)\left(n\sum _{m=k}^{n}{\tbinom {n-1}{m-1}}\left(F_{X}(x)\right)^{m-1}\left(1-F_{X}(x)\right)^{n-m}-n\sum _{m=k+1}^{n}{\tbinom {n-1}{m-1}}\left(F_{X}(x)\right)^{m-1}\left(1-F_{X}(x)\right)^{n-m}\right)$

$=nf_{X}(x){\tbinom {n-1}{k-1}}\left(F_{X}(x)\right)^{k-1}\left(1-F_{X}(x)\right)^{n-k}$

Minimum en maximum

Voor het minimum geldt dus:

$F_{X_{(1)}}(x)=1-\left(1-F_{X}(x)\right)^{n}$ en $f_{X_{(1)}}(x)=n\left(1-F_{X}(x)\right)^{n-1}f_{X}(x)$,

en voor het maximum:

$F_{X_{(n)}}(x)=\left(F_{X}(x)\right)^{n}$ en $f_{X_{(n)}}(x)=n\left(F_{X}(x)\right)^{n-1}f_{X}(x)$

Uniforme verdeling op (0,1)

Voor een aselecte steekproef $U_{1},\ldots ,U_{n}$ uit de uniforme verdeling op het interval (0,1) is:

$f_{U_{(k)}}(u)=n{\tbinom {n-1}{m-1}}u^{k-1}(1-u)^{n-k},\quad (u\in (0,1))$

Dit betekent dat $U_{(k)}$ een bètaverdeling heeft met parameters $k$ en $n+1-k$:

$U_{(k)}\sim B(k,n+1-k)$

Stelling van Bapat-Beg

De stochastische variabelen $X_{1},\ldots ,X_{n}$ zijn onderling onafhankelijk en hebben verdelingsfuncties $F_{i}=F_{X_{i}},i=1,\ldots ,n$. De simultane verdelingsfunctie van de elementen $X_{(r_{1})}\leq X_{(r_{2})}\leq \ldots \leq X_{(n_{k})}$ van de geordende steekproef wordt voor $x_{1}<x_{2}<\ldots <x_{k}$ gegeven door:

$F_{X_{(r_{1})},X_{(r_{2})},\ldots ,X_{(r_{k})}}(x_{1},x_{2},\ldots ,x_{k})=P(X_{(r_{1})}\leq x_{1},X_{(r_{2})}\leq x_{2},\ldots ,X_{(r_{k})}\leq x_{k})=$

$=\sum _{n_{k}=r_{k}}^{n}\ldots \sum _{n_{2}=r_{2}}^{n_{3}}\,\sum _{n_{1}=r_{1}}^{n_{2}}{\frac {P_{n_{1},\ldots ,n_{k}}(x_{1},\ldots ,x_{k})}{n_{1}!(n_{2}-n_{1})!\ldots (n-n_{k})!}}$,

waarin

$P_{n_{1},\ldots ,n_{k}}(x_{1},\ldots ,x_{k})=$

$=\operatorname {per} \left({\begin{bmatrix}F_{11}\ldots F_{11}&F_{12}-F_{11}\ldots F_{12}-F_{11}&\ldots &F_{1k}-F_{1,k-1}\ldots F_{1k}-F_{1,k-1}&1-F_{1k}\ldots 1-F_{1k}\\F_{21}\ldots F_{21}&F_{22}-F_{21}\ldots F_{22}-F_{21}&\ldots &F_{2k}-F_{2,k-1}\ldots F_{2k}-F_{2,k-1}&1-F_{2k}\ldots 1-F_{2k}\\\vdots &\vdots &&\vdots \\\underbrace {F_{n1}\ldots F_{n1}} _{n_{1}}&\underbrace {F_{n2}-F_{n1}\ldots F_{n2}-F_{n1}} _{n_{2}-n_{1}}&\ldots &\underbrace {F_{nk}-F_{n,k-1}\ldots F_{nk}-F_{n,k-1}} _{n_{k}-n_{k-1}}&\underbrace {1-F_{nk}\ldots 1-F_{nk}} _{n-n_{k}}\end{bmatrix}}\right)$

de permanent is van de genoemde matrix met $F_{rm}=F_{r}(x_{m})$ en onder de accolades de getallen staan, die het aantal kolommen aangeven.

Bewijs 

Definieer

$N_{i}=|\{j|X_{j}\leq x_{i}\}|:i=1,2,\ldots ,k$,

dan

$P(X_{(r_{1})}\leq x_{1},\ldots ,X_{(r_{k})}\leq x_{k})=P(r_{1}\leq N_{1},r_{2}\leq N_{2},\ldots ,r_{k}\leq N_{k})=$

$=\sum _{n_{k}=r_{k}}^{n}\sum _{n_{k-1}=r_{k-1}}^{n_{k}}\ldots \sum _{n_{2}=r_{2}}^{n_{3}}\sum _{n_{1}=r_{1}}^{i_{2}}P(N_{1}=n_{1},N_{2}=n_{2},\ldots ,N_{k}=n_{k})$

Daarin is, met $\sigma$ lopend over alle permutaties van de getallen $1,\ldots ,n$, en voor de eenvormigheid van de formule $x_{0}=-\infty ,n_{0}=0,x_{k+1}=+\infty$ en $n_{k+1}=n$:

$P(N_{1}=n_{1},N_{2}=n_{2},\ldots ,N_{k}=n_{k})=$

$={\frac {1}{n_{1}!(n_{2}-n_{1})!\ldots (n-n_{k})!}}\sum _{\sigma }P(X_{\sigma (1)}\leq x_{1},\ldots ,X_{\sigma (n_{1})}\leq x_{1},x_{1}<X_{\sigma (n_{1}+1)}\leq x_{2},\ldots ,x_{1}<X_{\sigma (n_{2})}\leq x_{2},\ldots )=$

$={\frac {1}{n_{1}!(n_{2}-n_{1})!\ldots (n-n_{k})!}}\sum _{\sigma }\prod _{j=1}^{k+1}\prod _{i_{j}=n_{j-1}+1}^{n_{j}}\left(F_{\sigma (i_{j})}(x_{j})-F_{\sigma (i_{j})}(x_{j-1})\right)$

En:

$\sum _{\sigma }\prod _{j=1}^{k+1}\prod _{i_{j}=n_{j-1}+1}^{n_{j}}\left(F_{\sigma (i_{j})}(x_{j})-F_{\sigma (i_{j})}(x_{j-1})\right)=P_{n_{1},\ldots ,n_{k}}(x_{1},\ldots ,x_{k})$

Voor een aselecte steekproef geeft de stelling voor bijvoorbeeld de gehele geordende steekproef:

$F_{X_{(1)},\ldots ,X_{(n)}}(y_{1},\ldots ,y_{n})=$

${\begin{aligned}&=F(y_{1})^{n}+\\&+nF(y_{1})(F(y_{2})-F(y_{1}))^{n-1}+\\&+n(n-1)F(y_{1})(F(y_{2})-F(y_{1}))(F(y_{3})-F(y_{2}))^{n-2}+\\&\ldots \\&+n!F(y_{1})\prod _{i=1}^{n-1}(F(y_{i+1}-F(y_{i}))\end{aligned}}$

Toepassing

De geordende steekproef en de rangnummers spelen een belangrijke rol in de verdelingsvrije statistiek.

Als de verdelingsfunctie van de verdeling waaruit de steekproef getrokken is, bekend is, kan de geordende steekproef herleid worden tot de geordende steekproef uit de uniforme verdeling, en de eigenschappen aan de hand hiervan bestudeerd worden.

Literatuur

• Bapat, R. B.; Beg, M. I. (1989). "Order Statistics for Nonidentically Distributed Variables and Permanents". Sankhyā: The Indian Journal of Statistics, Series A (1961-2002) 51 (1): 79–93. JSTOR 25050725. MR 1065561.
• David, H. A. Order Statistics, 2nd ed. New York: Wiley, 1981.
• Gibbons, J. D. and Chakraborti, S. (Eds.). Nonparametric Statistic Inference, 3rd ed. exp. rev. New York: Dekker, 1992.
• Hande, Sayaji (1994). "A Note on Order Statistics for Nondentically Distributed Variables". Sankhyā: The Indian Journal of Statistics, Series A (1961-2002) 56 (2): 365–368. JSTOR 25050995. MR 1664921.
• Hogg, R. V. and Craig, A. T. Introduction to Mathematical Statistics, 3rd ed. New York: Macmillan, 1970.
• Rose, C. and Smith, M. D. "Order Statistics." §9.4 in Mathematical Statistics with Mathematica. New York: Springer-Verlag, pp. 311-322, 2002.

Websites

• MathWorld. Order Statistic.
• M. Güngör: "On Joint Distributions of Order Statistics from innid Variables"