Robustnost

Aktuální verze stránky ještě nebyla zkontrolována zkušenými přispěvateli a může se výrazně lišit od verze recenzované 6. října 2017; kontroly vyžadují 7 úprav .

Robustnost ( angl. robustness ← robustní "silný; silný; pevný; stabilní") je vlastnost statistické metody , která charakterizuje nezávislost vlivu na výsledek studia různých druhů emisí , odolnost proti rušení.

Odlehlá (robustní) metoda – metoda zaměřená na identifikaci odlehlých hodnot, snížení jejich dopadu nebo jejich vyloučení ze vzorku .

V praxi může přítomnost i malého počtu odlehlých hodnot (outliers) ve vzorcích značně ovlivnit výsledek studie, například metoda nejmenších čtverců a metoda maximální věrohodnosti na konkrétních rozděleních podléhají takovýmto zkreslením. hodnoty získané jako výsledek studie vám mohou přestat dávat smysl. K eliminaci vlivu takového rušení se používají různé přístupy ke snížení vlivu „špatných“ pozorování (odlehlých hodnot), nebo k jejich úplnému odstranění. Hlavním úkolem odlehlých metod je odlišit „špatné“ pozorování od „dobrého“ a i ten nejjednodušší přístup, subjektivní (založený na vnitřních pocitech výzkumníka), může být významným přínosem, nicméně pro motivované odmítnutí, výzkumníci stále používají metody, které jsou založeny na nějakém přísném matematickém zdůvodnění. Tento proces je pro statistika velmi netriviálním úkolem a definuje jednu z oblastí statistické vědy .

Koncept stability vzplanutí (robustnost)

Zvažte klasický příklad robustních a nerobustních charakteristik pro výpočet průměrného příjmu. Nechť je 10 lidí, z nichž devět vydělává 100 rublů a jeden vydělává 500 rublů. Aritmetický průměr čísel je 140, ačkoli 90 % lidí ve vzorku vydělává méně. Současně je medián vzorku 100: velmi odlišná hodnota neovlivnila hodnotu mediánu. Medián je tedy příkladem robustní charakteristiky, zatímco aritmetický průměr nikoli.

Odlehlá stabilita (robustnost) ve statistice je chápána jako citlivost na různé odchylky a nehomogenity ve vzorku, spojené s určitými, obecně neznámými, příčinami [1] [2] . Mohou to být chyby detektorů, které zaznamenávají pozorování, něčí svědomité nebo záměrné pokusy „zapadnout“ vzorek dříve, než se dostane do statistik, chyby v návrhu, překlepy, které se vloudily, a mnoho dalšího. Například nejvzdálenějším odhadem parametru posunu distribučního zákona je medián , což je na intuitivní úrovni zcela zřejmé (pro přesný důkaz je třeba použít skutečnost, že medián je zkrácený M-odhad, viz níže ) [ 1] . Kromě přímo „vadných“ pozorování může existovat také řada pozorování, která sledují odlišné rozdělení . Vzhledem k podmíněnosti distribučních zákonů , a to není nic jiného než popisný model, může samotný vzorek obsahovat určité nesrovnalosti s ideálem.

Parametrický přístup si však natolik uvykl a prokázal svou jednoduchost a účelnost, že je absurdní jej odmítat. Proto bylo nutné přizpůsobit staré modely novým úkolům.

Samostatně stojí za to zdůraznit a nezapomenout, že odmítnutá pozorování vyžadují samostatnou, bližší pozornost. Pozorování, která se zdají být „špatná“ pro jednu hypotézu, mohou být v souladu s jinou. Konečně, ne vždy ostře rozlišená pozorování nejsou „manželstvím“. Jedno takové pozorování pro genetické inženýrství má například cenu milionů dalších, které se od sebe jen málo liší.

Základní přístupy

K omezení vlivu nehomogenit nebo k jejich úplnému odstranění existuje mnoho různých přístupů. Mezi nimi vynikají dva hlavní směry.

Seskupování dat bez mazání jednotlivých pozorování (pro snížení možnosti poškození vzorku jednotlivými odlehlými hodnotami). Poté je s dostatečnou mírou spolehlivosti přípustné používat klasické statistické metody .

Sledujte emise přímo v procesu analýzy. Například pro stanovení parametrů distribučního zákona je možné použít iterační postup se zkrácenými nebo th - redukovanými M-odhady [1] .

Seskupování dat jako metoda odlehlých statistik

Seskupením vzorku lze výrazně snížit vliv jednotlivých pozorování, aniž by došlo k jejich zahození. Rozdělení do intervalů není nijak zvlášť obtížné a dává velmi hmatatelný výsledek. Existují tři nejběžnější metody rozdělení.

Rozdělení na stejně dlouhé intervaly. Nejjednodušší a tedy nejběžnější způsob.

Seskupení stejné pravděpodobnosti, nazývané také seskupení stejné frekvence, odráží praktickou implementaci této metody. Výsledkem takového seskupení vzorku je maximalizace informační entropie , kde je dosaženo nejvyšší asymptotické síly kritéria dobré shody nebo kritéria věrohodnostního poměru [3] . $\součet {-P_{i}}\ln {P_{i}}$ $P_{i}=\int \limits _{x_{i-1}}^{x_{i}}f(x)\,\mathrm {d} x$ $\chi ^{2}$

Rozdělení do asymptoticky optimálních intervalů. S takovým rozdělením je ztráta informací v důsledku seskupování minimalizována, to znamená, že Fisherova informace je maximalizována , kde je odhadovaný parametr zákona. Pro mnoho zákonů rozdělení bylo možné získat hranice intervalů invariantní s ohledem na parametry a byly sestaveny odpovídající tabulky. Takové rozdělení nám umožňuje maximalizovat sílu kritéria . $\sum \left({\frac {\částečné \ln P_{i}}{\částečné \theta }}\right)^{2}P_{i}$ $\theta$

Přístup k funkci vlivu

Samostatným přístupem při konstrukci odlehlých metod je odhad parametrů distribučního zákona pro „kontaminovaný“ vzorek pomocí přístupu navrženého Hampelem [1] . Aby mohl Hampel studovat vliv jednoho pozorování na hodnocení (uvažovanou statistiku) toho či onoho parametru distribučního zákona, zavádí tzv. vlivovou funkci , která není ničím jiným než derivací této statistiky .

Základní pojmy

Funkcionál je zaveden jako funkce nějakého vzorku z rozdělení s parametrem (je to také ). závisí na . Stejně tak funkce zákona a parametru . Splňujeme také některé podmínky konzistence a pravidelnosti : $T$ $X=(X_{1}\ldots X_{n})\in \mathbb {X}$ $F$ $\theta \in \Theta$ $F_{\theta }$ $T$ ${\displaystyle X:F_{\theta ))$ $T$ $F$ $\theta$ $T$

T(F)=\theta ,\quad \int T\,\mathrm {d} F=0.

Derivace tohoto funkcionálu v bodě s distribucí : $T$ $F$

\exists \,a:\quad \lim _{t\to 0}{\frac {T((1-t)F+tG)-T(F)}{t}}:=\int a \,\mathrm {d} G,

kde:

$A$ - určitá funkce, jejíž význam se vyjasní v dalším kroku;
$G$ je nějaký distribuční zákon odlišný od . $F$

Při substituci přiřazování jednotkové hmotnosti události namísto , v důsledku čehož pouze : $\Delta _{x}$ $X=x$ $G$ $sekera)$

IF=\lim _{t\to 0}{\frac {T((1-t)F+t\Delta _{x})-T(F)}{t)).

Tato funkce se nazývá vlivová funkce .

Význam vlivové funkce je demonstrován dosazením a nahrazením limity, výsledkem je převedení výrazu na , což odpovídá situaci, kdy je do vzorku složeného z pozorování dodržujících rozdělení přidán další nový . Sleduje tedy reakci použité funkcionality na provedené přidání a ukazuje dopad příspěvku jednoho pozorování na hodnocení v celém souboru dat. ${\frac {1}{n}}$ $t$ $F_{t,x}=(1-t)F+t\Delta _{x}$ $F_{{\frac {1}{n)),x}={\frac {(n-1)F+\Delta _{x}}{n}}$ $(n-1)$ $F$ $IF$ $T$ $X$

Pro charakterizaci vlivu jednotlivých pozorování je také zaveden koncept citlivosti na velkou chybu : $\gamma$

\gamma =\sup _{{x\in {\mathbb {X}}}}|IF(x)|.

Pokud je vlivová funkce omezená, pak se odpovídající odhad nazývá B(be)-robustní .

M-skóre

Nejúčinnější a nejrozšířenější odhady parametrů distribučních zákonů jsou odhady maximální věrohodnosti (MLE), které jsou určeny jednou z následujících podmínek:

\sum _{i}\ln P_{i}\to \max _{\theta \in \Theta },\qquad \sum _{i}{\frac {\partial \ln P_{i)) {\částečný \theta }}=0,\qquad \součet _{i}{\frac {P_{i}'}{P_{i}}}=0,

kde v případě neseskupeného vzorku a v případě seskupeného vzorku, $P_{i}=f(x_{i},\theta )$ $P_{i}=\left(\int \limits _{x_{i-1}}^{x_{i}}f(x,\theta )\,\mathrm {d} x\right)^ {n_{i}}$

M-odhady - existuje určitá generalizace ZHN. Jsou definovány podobně jedním ze vztahů:

\sum _{i=1}^{N}\rho (x_{i},\theta )\to \max _{\theta \in \Theta },\qquad \sum _{i=1} ^{N}\phi (x_{i},\theta )=0.

Pokud v substituci zavedeme podmínku pravidelnosti a diferencujeme ji vzhledem k 0: $F_{t,x}=(1-t)F+t\Delta _{x}$ $t$

0={\frac {\partial }{\partial {t))}\int \phi (x,T(F_{t,x}))\,\mathrm {d} F_{t,x}

0=\int {\frac {\částečné \phi (x,T(F_{t,x}))}{\částečné \theta }}IF\,\mathrm {d} F_{t,x} +\int \phi (x,T(F_{t,x}))\,\mathrm {d} {\frac {\částečné ((1-t)F+t\Delta _{x})}{\ částečné t}}

0=IF\int {\frac {\částečné \phi (x,T(F_{t,x}))}{\částečné \theta }}\,\mathrm {d} F_{t,x} +\phi (x,T(F_{t,x})),

pak není obtížné získat vyjádření funkce vlivu pro M-odhady :

IF={\frac {-\phi (x)}{\int \phi '_{\theta }(x)\,\mathrm {d} F)).

Tento výraz nám umožňuje dospět k závěru, že M-odhady jsou ekvivalentní až do nenulového konstantního faktoru.

Je snadné zkontrolovat, že pro MLE standardního zákona normálního rozdělení vypadají vlivové funkce parametru posunu a parametru měřítka: ${\mathcal {N}}(0,1)$ $IF$

IF=x,\quad IF={\frac {1}{2}}\;x^{2}-{\frac {1}{2}}.

Tyto funkce jsou neomezené, což znamená, že MLE není tolerantní vůči výbuchu (robustní) z hlediska B-robustnosti.

Aby se to napravilo, M-odhady uměle omezují, a tedy omezují (viz výraz pro M-odhady), čímž nastavují horní bariéru vlivu pozorování odlehlých (daleko od očekávaných hodnot parametrů). To se provádí zavedením takzvaných zkrácených M-odhadů, definovaných výrazem: $IF$ $IF$

\phi _{b}(z)=\left\{{\begin{array}{lr}\phi (b),&b<z\\\phi (z),&-b<z\leqslant b\\\phi (-b),&z\leqslant -b\end{array}}\right\},

kde , a jsou odhady parametrů posunu a měřítka. $z={\frac {x-\theta }{S}}$ $\theta$ $S$

Mezi zkrácenými M-odhady jsou z hlediska B-robustnosti optimální zkrácené MLE [1] .

Postup odhadu parametrů

K vyřešení rovnice

\sum _{i=1}^{N}\phi (x_{i},\theta )=0

musí být použita nějaká numerická metoda . Chcete-li to provést, musíte zvolit počáteční aproximace. Parametr posunu nuly je obvykle medián a parametr měřítka je násobkem mediánu odchylek od mediánu.

Pokud například potřebujete odhadnout parametr posunu, řekněme, zákona o normálním rozdělení , můžete použít Newtonovu metodu numerického nalezení kořenů rovnice . V důsledku toho je celý postup hledání parametru redukován na iterativní výpočet výrazu:

\theta _{{k+1}}=\theta _{k}-{\frac {\sum _{{i=1}}^{N}\phi (x_{i},\theta _{k} )}{\součet _{{i=1}}^{N}\phi '_{\theta }(x_{i},\theta _{k))}}=\theta _{k}-{\ frac {\součet _{{i=1}}^{N}\phi \left((x_{i}-\theta _{k})/S\right)}{\součet _{{i=1} }^{N}\phi '_{\theta }\left((x_{i}-\theta _{k})/S\right)))=\theta _{k}+S{\frac {\ součet _{{i=1}}^{N}\phi \left(z\right)}{\součet _{{i=1}}^{N}\phi '_{z}\left(z\ že jo)}},

kde je nějaký odhad parametru měřítka použitého k vyrovnání distribucí s různými rozsahy. $S$

Viz také

Rekvalifikace
Marellierova věta

Poznámky

↑ 1 2 3 4 5 Hampel F., Ronchetti E., Rausseu P., Stael W. Robustnost ve statistice. Robustní statistika: přístup založený na vlivových funkcích . — M .: Mir, 1989.
↑ Huber P. Robustnost ve statistice. — M .: Mir, 1984.
↑ Kendall M., Stewart A. Statistická inference a asociace. — M .: Nauka, 1973.

Odkazy

Dodonov Yu.S., Dodonova Yu.A. Robustní míry centrální tendence: vážení jako možná alternativa ke zkrácení dat v analýze doby odezvy .
Publikace o odlehlých (robustních) metodách pro odhad parametrů a testování statistických hypotéz na webových stránkách profesora NSTU Lemeshko B. Yu.

Literatura

Robert G. Staudte: Robustní odhad a testování . Wiley, New York 1990. ISBN 0-471-85547-2
Rand R. Wilcox: Úvod do robustního odhadu a testování hypotéz . Academic Press, San Diego Cal 1997. ISBN 0-12-751545-3