Bootstrap (statistiky)

Bootstrap [1] ( anglicky bootstrap ) ve statistice je praktická počítačová metoda pro studium rozdělení statistik rozdělení pravděpodobnosti , založená na vícenásobném generování vzorků metodou Monte Carlo na základě existujícího vzorku [2] . Umožňuje snadno a rychle vyhodnocovat širokou škálu statistik ( intervaly spolehlivosti , rozptyl , korelace atd.) pro složité modely.

Koncept představil v roce 1977 Bradley Efron (první publikace pochází z roku 1979 [3] ). Podstatou metody je sestavení empirického rozdělení založeného na existujícím vzorku . Pomocí tohoto rozdělení jako teoretického rozdělení pravděpodobnosti je možné pomocí generátoru pseudonáhodných čísel generovat téměř neomezený počet pseudovzorků libovolné velikosti, například stejných jako původní. Na sadě pseudovzorků lze vyhodnocovat nejen analyzované statistické charakteristiky, ale také studovat jejich rozdělení pravděpodobnosti. Je tak například možné odhadnout rozptyl nebo kvantily jakékoli statistiky bez ohledu na její složitost. Tato metoda je metodou neparametrické statistiky .

Spolu s metodami "jackknife" tvoří křížová validace a testování permutací ( angl. Přesný test ) třídu metod generování převzorkování ( angl. resampling ).

Etymologie

Slovo pochází z výrazu: "Přetáhnout se přes plot za boty." (doslova - „překonat plot zatažením za řemínky na botách“ (viz foto vpravo). Rusky mluvícím lidem bude bližší příběh barona Munchausena , který se tahal za vlasy a přitahoval jeho kůň z bažiny.

Samotný bootstrap anglicismus se používá v mnoha oblastech znalostí, kde potřebujete vyjádřit význam získání něčeho „zadarmo“ nebo magického získání něčeho, co stojí za to z ničeho. V oblasti statistiky je z hlediska etymologie nejbližší obdobou termínu „samotahání“.

Úvodní příklad

Budiž dva postřehy:

(x_{1},y_{1})=(1,1),\ (x_{2},y_{2})=(2,3)

Předpokládejme, že potřebujeme odhadnout parametr v regresi y na x :

{\displaystyle y_{i}=\theta x_{i}+\epsilon _{i))

Odhad parametru získaný metodou nejmenších čtverců se bude rovnat

{\hat {\theta }}={\frac {x_{1}y_{1}+x_{2}y_{2}}{x_{1}^{2}+x_{2}^{ 2}}}={\frac {1\krát 1+2\krát 3}{1^{2}+2^{2}}}={\frac {7}{5}}

Empirická distribuční funkce je v tomto případě rovna

(x,y)'={\begin{cases}(1,1)',\quad p=1/2\\(2,3)',\quad p=1/2\\\end {případy}}

V tomto případě budou data ze dvou pozorování s ohledem na empirické rozdělení rozdělena takto:

(x_{1},y_{1})',(x_{2},y_{2})'={\begin{cases}(1,1)',(1,1)',\ quad p=1/4\\(1,1)',(2,3)',\quad p=1/4\\(2,3)',(1,1)',\quad p=1 /4\\(2,3)',(2,3)',\quad p=1/4\\\end{cases}}

Toto je distribuce bootstrap. Dále můžeme najít rozložení odhadu OLS:

{\hat {\theta }}_{2}^{*}={\begin{cases}1,\quad \quad p=1/4\\7/5,\quad p=1/2 \\3/2,\quad p=1/4\\\end{cases}}

Aplikace

Bootstrap se používá k opravě zkreslení, testování hypotéz, vytváření intervalů spolehlivosti.

Bootstrap Confidence Interval: An Algorithm

Nechť existuje vzorek z obecné populace a je nutné odhadnout parametr . Je nutné zvolit počet pseudovzorků, které se vytvoří z prvků původního vzorku s návratem. Pro každý z pseudo -vzorků se vypočítá pseudo-statistika . $(z_{1};z_{2};\dots ;z_{n})$ $\theta$ $B$ $(z_{1}^{*};z_{2}^{*};\dots ;z_{n}^{*})_{b},b=1,2,\tečky ,B$ ${\hat {\theta }}_{b}^{*}$

Pseudostatistiky jsou seřazeny od nejmenší po největší. Kvantily nabývají hodnot . Používají se ke konstrukci intervalu spolehlivosti. ${\klobouček {\theta }}_{1}^{*},{\klobouček {\theta }}_{2}^{*},\tečky ,{\klobouček {\theta }}_{ B}^{*}$ $q_{\alpha _{1}}^{*},q_{1-\alpha _{2}}^{*}$ ${\klobouček {\theta }}_{[B\alpha _{1}]}^{*},{\klobouček {\theta }}_{[B(1-\alpha _{2}) +1]}^{*}$

Poznámky

↑ Také bootstrap , bootstrap , bootstrapping , bootstrapping .
↑ アーカイブされたコピー. Získáno 23. března 2007. Archivováno z originálu 12. července 2012. (neurčitý)
↑ Efron, 1979 .

Literatura

Stanislav Anatoliev . Ekonometrie pro pokročilé. Přednáškový kurz. — 2002.
Bradley Efron . Bootstrap Methods: Another Look at the Jackknife // Annals of Statistics. - 1979. - Sv. 7 , č. 1 . - str. 1-26 . — ISSN 0090-5364 . - doi : 10.1214/aos/1176344552 .

Odkazy

Bootstrap tutorial z ICASSP 99 (downlink od 13-05-2013 [3451 dní] - historie ) : Tutorial z pohledu zpracování signálu
Návod na vzorkování bootstrapu pomocí MS Excel
Animace pro bootstrapping dat iid (downlink od 13-05-2013 [3451 dní] - historie ) od Yihui Xie pomocí R
Bootstrap tutoriál

V bibliografických katalozích	BNF : 12378257v J9U : 987007536908405171 LCCN : sh91004766 NKC : ph225449