Pravděpodobnostní funkce

Aktuální verze stránky ještě nebyla zkontrolována zkušenými přispěvateli a může se výrazně lišit od verze recenzované 17. března 2020; kontroly vyžadují 5 úprav .

Pravděpodobnostní funkce v matematické statistice je společné rozdělení vzorku z parametrického rozdělení, uvažované jako funkce parametru. To využívá funkci hustoty spojení (v případě vzorku ze spojitého rozdělení) nebo pravděpodobnost spojení (v případě vzorku z diskrétního rozdělení) vypočítanou pro tyto hodnoty vzorku.

Pojmy pravděpodobnost a pravděpodobnost spolu úzce souvisí. Porovnejte dvě věty:

"Jaká je pravděpodobnost získání 12 v každém ze 100 hodů dvěma kostkami?"
"Jak pravděpodobné je, že kostky nejsou načteny, když ze sta hodů každý hodil 12 bodů?"

Pokud rozdělení pravděpodobnosti závisí na parametru , pak můžeme na jedné straně uvažovat podmíněnou pravděpodobnost událostí pro daný parametr a na druhé straně pravděpodobnost dané události pro různé hodnoty parametru . První případ odpovídá funkci, která závisí na události:, a druhý odpovídá funkci, která závisí na parametru s pevnou událostí :. Poslední výraz je pravděpodobnostní funkce a ukazuje, jak pravděpodobná je hodnota vybraného parametru pro známou událost . $\theta$ $X$ $\theta$ $X$ $\theta$ $X$ $P(x)=P(x\mid \theta )$ $\theta$ $X$ $L(\theta )=L(\theta \mid x=X)$ $\theta$ $X$

Neformálně : pokud nám pravděpodobnost umožňuje předpovídat neznámé výsledky na základě známých parametrů, pak nám pravděpodobnost umožňuje odhadovat neznámé parametry na základě známých výsledků.

L(\theta \mid x)=p_{\theta}(x)=P_{\theta}(X=x)

Je důležité pochopit, že z absolutní hodnoty pravděpodobnosti nelze činit žádné pravděpodobnostní soudy. Pravděpodobnost umožňuje porovnat několik rozdělení pravděpodobnosti s různými parametry a vyhodnotit v kontextu toho, které z nich jsou nejpravděpodobnější.

Definice

Nechat být dána parametrická rodina rozdělení pravděpodobnosti a vzorek pro některé být dán . Předpokládejme, že společné rozdělení tohoto vzorku je dáno funkcí , kde je buď hustota pravděpodobnosti , nebo pravděpodobnostní funkce náhodného vektoru . $\{\mathbb {P} _{\theta }\}_{\theta \in \Theta }$ $X_{1},\ldots ,X_{n}\sim \mathbb {P} _{\theta }$ $\theta \in \Theta$ $f_{\mathbf {X} } (\mathbf {x} \mid \theta ),\;\mathbf {x} \in \mathbb {R} ^{n}$ $f_{\mathbf {X} }$ $\mathbf {X} =(X_{1},\ldots ,X_{n})^{\top }$

Pro implementaci fixního vzorkování se funkce nazývá věrohodnostní funkce [1] . $\mathbf {X} =\mathbf {x}$ $f_{\mathbf {X} } (\theta \mid \mathbf {x} )\colon \Theta \to \mathbb {R}$

Log-věrohodnostní funkce

V mnoha aplikacích je nutné najít maximum věrohodnostní funkce, která je spojena s výpočtem derivace. Logaritmus je monotónně rostoucí funkce, takže logaritmus funkce dosáhne svého maxima ve stejném bodě jako funkce samotná. Na druhou stranu, logaritmus součinu je součet, což zjednodušuje diferenciaci. Proto je pro praktické výpočty vhodnější použít logaritmus věrohodnostní funkce.

Funkce , se nazývá logaritmická věrohodnostní funkce [1] . $L(\theta \mid \mathbf {x} )=\ln f_{\mathbf {X} } (\theta \mid \mathbf {x} )$
Pokud je vzorek nezávislý , pak

f_{\mathbf {X} }(\mathbf {x} \mid \theta )=\prod \limits _{i=1}^{n}f_{X_{i))(x_{i}\ mid\theta)

kde je funkce hustoty nebo rozdělení pravděpodobnosti . Log-věrohodnostní funkce má v tomto případě tvar $f_{X_{i}}(\cdot \mid \theta )$ $\mathbb {P} _{\theta }$

L(\theta \mid \mathbf {x} )=\sum \limits _{i=1}^{n}\ln f_{X_{i}}(\theta \mid x_{i})

Příklad

Nechť je pravděpodobnost , že dostaneme hlavy při hodu mincí. Tuto hodnotu lze považovat za parametr, který nabývá hodnot od 0 do 1. Nechť je událostí ztráta dvou orlů ve dvou po sobě jdoucích hodech mincí. Za předpokladu, že výsledky obou hodů jsou nezávislé identicky rozdělené náhodné proměnné , bude pravděpodobnost události rovna . V souladu s tím při $p_{O}$ $OO$ $OO$ ${\displaystyle p_{O}^{2))$ $p_{O}=0{,}5$

P(OO\mid p_{O}=0{,}5)=0{,}25.

Pravděpodobnostní funkce při hodnotě parametru a za podmínky výskytu události je tedy 0,25, což lze matematicky zapsat jako $p_{O}=0{,}5$ $OO$

L(p_{O}=0{,}5\mid OO)=0{,}25.

Tato skutečnost není totožná s tvrzením „pravděpodobnost, že při výskytu události je 0,25“ kvůli Bayesově větě . $p_{O}=0{,}5$ $OO$

Funkce pravděpodobnosti uvedená v tomto příkladu je kvadratická , takže integrál této funkce v celém rozsahu hodnot parametrů bude roven 1/3. Tato skutečnost ilustruje další rozdíl mezi věrohodnostní funkcí a obvyklou hustotou pravděpodobnosti, jejíž integrál se musí rovnat jedné. $p_{O}$

Historie

Věrohodnost byla poprvé zmíněna v knize Thorvalda Thieleho , vydané v roce 1889 [2] .

Úplný popis myšlenky pravděpodobnosti poprvé podal Ronald Fisher v roce 1922 ve své práci „Matematické základy teoretické statistiky“ [3] . Fisher v této práci také používá termín metoda maximální věrohodnosti . Fisher namítá proti použití inverzní pravděpodobnosti jako základu pro statistickou inferenci a navrhuje místo toho použít funkci pravděpodobnosti.

Viz také

Metoda maximální pravděpodobnosti

Poznámky

↑ 1 2 Borovkov, 2010 , s. 105.
↑ Steffen L. Lauritzen, Aspects of TN Thiele's Contributions to Statistics Archived 1. října 2007 na Wayback Machine (1999). (Angličtina)
↑ Ronald A. Fisher. „O matematických základech teoretické statistiky“. Philosophical Transactions of the Royal Society , A, 222:309-368 (1922). ("věrohodnost" zmíněná v části 6.) (angl.)

Literatura

Borovkov, A. A. Matematická statistika: Učebnice. - 4. vyd., vymazáno .. -Petrohrad. : Lan, 2010. - 704 s. - (Učebnice pro vysoké školy. Odborná literatura). -ISBN 978-5-8114-1013-2.