Dost statistik

Aktuální verze stránky ještě nebyla zkontrolována zkušenými přispěvateli a může se výrazně lišit od verze recenzované 6. prosince 2021; ověření vyžaduje 1 úpravu .

Dostatečná statistika pro parametr, který definuje určitou rodinu rozdělení pravděpodobnosti , je taková, že podmíněná pravděpodobnost vzorku pro danou hodnotu nezávisí na parametru. To znamená, že rovnost platí: $\theta \in \Theta ,\;$ $F_{\theta }$ $T=\mathrm {T} (X)\;$ $X=X_{1},X_{2},\ldots ,X_{n}\;$ ${\mathrm {T}} (X)\;$ $\theta \;.$

\mathbb {P} (X\in {\bar {X}}|\mathrm {T} (X)=t,\theta )=\mathbb {P} (X\in {\bar {X} }|\mathrm {T} (X)=t),

Dostatečná statistika tak obsahuje všechny informace o parametru , které lze ze vzorku X získat . Proto je koncept dostatečné statistiky široce používán v teorii odhadu parametrů . ${\mathrm {T}} (X),\;$ $\theta \;$

Nejjednodušší dostačující statistikou je samotný vzorek , ale opravdu důležité jsou případy, kdy je dimenze dostatečné statistiky mnohem menší než dimenze vzorku, zejména když je dostatečná statistika vyjádřena pouze několika čísly. $\mathrm {T} (X)=X\;$

O dostatečné statistice se říká , že je minimálně dostačující , pokud pro každou dostatečnou statistiku T existuje nenáhodná měřitelná funkce g , která je téměř všude . $S={\mathrm {S}}(X)\;$ $S(X)=g(T(X))$

Faktorizační teorém

Faktorizační teorém poskytuje praktický způsob, jak najít dostatečné statistiky pro rozdělení pravděpodobnosti. Dává dostatečné a nutné podmínky pro dostatečnost statistiky a někdy se jako definice používá tvrzení teorémů.

Nechť je nějaká statistika a buď podmíněná funkce hustoty nebo pravděpodobnostní funkce (v závislosti na typu distribuce) pro pozorovací vektor X . Pak je dostatečná statistika pro parametr tehdy a jen tehdy, pokud existují takové měřitelné funkce a že můžeme napsat: ${\mathrm {T}} (X)\;$ $f_{\theta} (x)$ ${\mathrm {T}} (X)\;$ $\theta \in \Theta \;$ $h$ $G$

f_{\theta }(x)=h(x)\,g(\theta ,\mathrm {T} (x))

Důkaz

Níže je uveden důkaz pro speciální případ, kdy je rozdělení pravděpodobnosti diskrétní . Potom — Pravděpodobnostní funkce . $f_{\theta }(x)={\mathbb {P}}(X=x|\theta)$

Nechť má daná funkce rozklad, jako ve výroku věty, a ${\mathrm {T}} (x)=t.$

Pak máme:

{\begin{aligned}{\mathbb {P}}(X=x|{\mathrm {T}}(X)=t,\theta )&={\frac {{\mathbb {P}}(X= x|\theta )}{{\mathbb {P}}({\mathrm {T}}(X)=t|\theta )))&={\frac {h(x)\,g(\theta , {\mathrm {T}}(x))}{\součet _{{x:{\mathrm {T}}(x)=t}}h(x)\,g(\theta ,{\mathrm {T }}(x)))}\\&={\frac {h(x)\,g(\theta ,t)}{\součet _{{x:{\mathrm {T}}(x)=t }}h(x)\,g(\theta ,t)}}&={\frac {h(x)\,}{\součet _{{x:{\mathrm {T}}(x)=t }}h(x)\,}}.\end{aligned}}

Z toho vidíme, že podmíněná pravděpodobnost vektoru X pro danou hodnotu statistiky nezávisí na parametru a je tedy dostatečnou statistikou. ${\mathrm {T}} (X)\;$ ${\mathrm {T}} (X)\;$

Naopak můžeme napsat:

\mathbb {P} (X=x|\theta )=\mathbb {P} (X=x|\mathrm {T} (X)=t,\theta )\cdot \mathbb {P} (\ mathrm {T} (X)=t|\theta).

Z výše uvedeného máme, že první faktor na pravé straně nezávisí na parametru a lze jej vzít jako funkci z formulace věty. Druhý faktor je funkcí a a lze jej brát jako funkci .Tak se získá potřebný rozklad, který dokončí důkaz věty. $\theta$ $h(x)$ $\theta \;$ ${\mathrm {T}} (X),\;$ $g(\theta ,{\mathrm {T}}(x)).$

Příklady

Bernoulliho distribuce

Dovolit být posloupnost náhodných proměnných , které se rovnají 1 s pravděpodobností a rovné 0 s pravděpodobností (to znamená, že mají Bernoulliho rozdělení ). Pak $X_{1},X_{2},\ldots ,X_{n}\;$ $p$ $1-p$

\mathbb {P} (x_{1},\ldots x_{n}|p)=p^{\součet x_{i))(1-p)^{n-\součet x_{i)) =p^{\mathrm {T} (x)} (1-p)^{n-\mathrm {T} (x)},

pokud vezmete $\mathrm {T} (X)=X_{1}+\ldots +X_{n}.$

Pak tato statistika stačí podle faktorizační věty, pokud označíme

g(p,\mathrm {T} (x_{1},\ldots x_{n}))=p^{\mathrm {T} (x_{1},\ldots x_{n})}( 1-p)^{n-\mathrm {T} (x_{1},\ldots x_{n})},

h(x_{1},\ldots x_{n})=1.

Poissonovo rozdělení

Dovolit je posloupnost náhodných proměnných s Poissonovým rozdělením . Pak $X_{1},X_{2},\ldots ,X_{n}\;$

{\mathbb {P}}(x_{1},\ldots x_{n}|\lambda )={e^{{-\lambda }}\lambda ^{{x_{1}}} \over x_{1 }!}\cdot {e^{{-\lambda }}\lambda ^{{x_{2}}} \over x_{2}!}\cdots {e^{{-\lambda }}\lambda ^{ {x_{n}}} \over x_{n}!}=e^{{-n\lambda }}\lambda ^{{(x_{1}+x_{2}+\cdots +x_{n}) }}\cdot {1 \over x_{1}!x_{2}!\cdots x_{n}!}=e^{{-n\lambda }}\lambda ^{{{\mathrm {T}}( x)}}\cdot {1 \over x_{1}!x_{2}!\cdots x_{n}!}

kde $\mathrm {T} (X)=X_{1}+\ldots +X_{n}.$

Tato statistika je dostatečná podle faktorizační věty, pokud označíme

{\displaystyle g(\lambda ,\mathrm {T} (x_{1},\ldots x_{n}))=e^{-n\lambda }\lambda ^{\mathrm {T} (x)))

h(x_{1},\ldots x_{n})={1 \over x_{1}!x_{2}!\cdots x_{n}!}

Jednotná distribuce

Dovolit být posloupnost rovnoměrně distribuovaných náhodných proměnných . Ad hoc $X_{1},X_{2},\ldots ,X_{n}\;$ $X_{1},X_{2},\ldots ,X_{n}\;~U(a,b)$

\mathbb {P} (x_{1},\ldots x_{n}|a,b)=\left(ba\right)^{-n}\mathbf {1} _{\{a\, \leq \,\min _{1\leq i\leq n}X_{i}\}}\mathbf {1} _{\{\max _{1\leq i\leq n}X_{i}\, \leq\,b\}}.

Z toho vyplývá, že statistiky jsou dostatečné. $T(X)=\left(\min _{1\leq i\leq n}X_{i},\max _{1\leq i\leq n}X_{i}\right)$

Normální rozdělení

Pro náhodné veličiny s normálním rozdělením by byla dostatečná statistika $X_{1},X_{2},\ldots ,X_{n}\;$ ${\mathcal {N}} (\mu ,\,\sigma ^{2})$ ${\mathrm {T}}(X)=\left(\součet _{{i=1}}^{n}X_{i},\součet _{{i=1}}^{n}X_{i }^{2}\right)\,.$

Vlastnosti

Pro dostatečnou statistiku T a bijektivní zobrazení je statistika také dostačující. $\phi$ $\phi (T)$
Jestliže — statistický odhad nějakého parametru — je nějaká dostatečná statistika a pak je nejlepší odhad parametru ve smyslu směrodatné odchylky, tedy nerovnosti $\delta (X)$ $\theta,$ ${\mathrm {T}} (X),\;$ $\delta _{{1}}(X)={\textrm {E}}[\delta (X)|T(X)]$ $\delta _{{1}}(X)$

{\textrm {E}}[(\delta _{1}(X)-\theta )^{2}]\leq {\textrm {E}}[(\delta (X)-\theta ) ^{2}]

navíc rovnosti je dosaženo pouze tehdy, když je měřitelná funkce T . ( Rao-Blackwell-Kolmogorovova věta )

\delta

Z výše uvedeného vyplývá, že odhad může být optimální z hlediska směrodatné odchylky pouze tehdy, je-li měřitelnou funkcí minimální dostatečné statistiky.
Pokud je statistika dostatečná a úplná (tedy z toho, co z toho plyne ), pak její libovolná měřitelná funkce je optimálním odhadem jejího matematického očekávání . $T={\mathrm {T}}(X),\;$ $E_{{\theta }}[g(T(X))]=0,\,\forall \theta \in \Theta$ $P_{\theta }(g(T(X))=0)=1\,\forall \theta \in \Theta$

Viz také

Literatura

Kholevo, AS (2001), "Dostatečná statistika", v Hazewinkel, Michiel, Encyclopaedia of Mathematics, Springer, ISBN 978-1-55608-010-4
Lehmann, E. L.; Casella, G. (1998). Teorie bodového odhadu (2. vyd.). Springer . Kapitola 4. ISBN 0-387-98502-6 .
Leman E. Teorie bodového odhadu. — M .: Nauka, 1991. — 448 s. — ISBN 5-02-013941-6 .

Slovníky a encyklopedie	velká čínština velká čínština Velký Rus