Cramer-Rao nerovnost

Cramer-Pao nerovnost je nerovnost , která za určitých podmínek na statistickém modelu udává dolní mez rozptylu odhadu neznámého parametru a vyjadřuje jej pomocí Fisherovy informace .

Pojmenované po švédském matematikovi Haraldu Cramerovi a indickém matematikovi Kalyampudi Raovi , ale nezávisle na nich vznikly i Frechet , Darmois ( fr. Georges Darmois ), Aitken ( anglicky Alexander Aitken ) a Silverstone ( Harold Silverstone ). Zobecnění v kvantové teorii odhadu je známé - kvantová Cramer-Rao nerovnost .

Formulace

Pro statistický model je vzorek velikosti , je určena pravděpodobnostní funkce a jsou splněny následující podmínky (podmínky pravidelnosti): $(X,\,B,\,P_{\theta })$ $x=(x_{1},\tečky ,\,x_{n})$ $n$ $L(\theta ,\,x)=L(\theta ,\;x_{1},\,x_{2},\tečky \,x_{n})$

$L_{}^{}>0$ a všude rozlišitelné s ohledem na ; $\theta _{}^{}$
funkce ( funkce vzorkovacího příspěvku ) má konečný rozptyl (nebo ekvivalentně , Fisherova informace je konečná ); $U(\theta ,\,x)={\frac {\částečné \ln L(\theta ,\,x)}{\částečné \theta ))$
pro jakoukoli statistiku s konečným druhým momentem platí následující rovnost: ${\widehat {\theta ))(x)$ ${\frac {\partial }{\partial \theta }}\int \limits _{X}{\widehat {\theta }}(x)\,L(\theta ,\,x)\,dx =\int \limits _{X}{\widehat {\theta }}(x)\,{\frac {\partial }{\partial \theta }}L(\theta ,\,x)\,dx$ .

Pokud je za těchto podmínek dána statistika, která nezaujatě odhaduje diferencovatelnou funkci , pak platí následující nerovnost: ${\widehat {\theta ))(x)$ $\tau (\theta )$

\mathrm {D} _{\theta }{\big (}{\widehat {\theta }}(x){\big )}\geqslant {\frac {(\tau '(\theta ))^ {2}}{nI(\theta )}}}

, kde ;

I(\theta )=M\left({\frac {d\ln L(\theta ,x)}{d\theta }}\right)^{2}

a rovnosti je dosaženo tehdy a pouze tehdy, když:

{\frac {d\ln L(\theta ,x)}{d\theta }}=a(\theta )({\widehat {\theta }}(x)-\tau (\theta ))

Zde je množství informací podle Fishera v jednom pozorování a je to hustota distribuce obecné populace v případě spojitého statistického modelu a pravděpodobnost události v případě diskrétního statistického modelu. $I^{}(\theta )$ $L(\theta ,t)$ $X$ $(X=t)$

Zvláštní případ

Často se používá následující speciální případ, nazývaný také Cramer-Rao nerovnost: pokud jsou splněny podmínky pravidelnosti a jde o nestranný odhad parametru , pak: ${\widehat {\theta ))(x)$ $\theta$

\mathrm {D} _{\theta }\,{\widehat {\theta }}(x)\geqslant {\frac {1}{I_{n}(\theta )))

Rovnosti v této nerovnosti je dosaženo právě tehdy, když . ${\hat {\theta }}(x)-\theta =a(\theta )U(\theta ,x)$

Aplikace

Odhad parametru se nazývá efektivní , pokud se pro něj Cramer-Rao nerovnost změní na rovnost. Nerovnice tedy může být použita k prokázání, že rozptyl daného odhadu je nejmenší možný, tedy že tento odhad je v určitém smyslu lepší než všechny ostatní.

Literatura

Matematická statistika, ed. V. S. Zarubina, řada "Matematika na Vysokém učení technickém", sv. XVII, M., MSTU, 2002