Podmíněná nezávislost

V teorii pravděpodobnosti se dvě náhodné události nazývají podmíněně nezávislé s ohledem na třetí událost , pokud jsou nezávislé za předpokladu, že k události došlo. $A$ $B$ $C$ $C$

Jinými slovy, a jsou podmíněně nezávislé s ohledem na to , zda a pouze pokud se to stalo, ale vědět, zda se to stalo nebo ne, neovlivňuje pravděpodobnost , a naopak, vědět, zda se to stalo nebo ne, neovlivňuje pravděpodobnost . $A$ $B$ $C$ $C$ $B$ $A$ $A$ $B$

Koncept podmíněné nezávislosti lze také aplikovat na náhodné veličiny a náhodné vektory.

Podmíněná nezávislost událostí

Definice

V zápisu teorie pravděpodobnosti a jsou podmíněně nezávislé s ohledem na tehdy a pouze tehdy, když . Relativní nezávislost a relativní se značí . $A$ $B$ $C$ $P(A\cap B\mid C)=P(A\mid C)P(B\mid C)$ $A$ $B$ $C$ $(A\perp \!\!\!\perp B)\mid C$

Formálně:

Podmíněná nezávislost na událostech

$(A\perp \!\!\!\perp B)\mid C\quad \iff \quad P(A\cap B\mid C)=P(A\mid C)P(B\mid C )$

nebo ekvivalentně:

$(A\perp \!\!\!\perp B)\mid C\quad \iff \quad P(A\mid B\cap C)=P(A\mid C)\quad \lor \quad P(B\mid C)=1$

Příklady

Diskuse o StackExchange poskytuje několik užitečných příkladů. Viz. níže. [jeden]

Barevné buňky

Každá buňka v poli představuje možný výsledek. Události , a jsou reprezentovány oblastmi stínovanými červeně , modře a žlutě . Křižovatka a barva fialová atd. $\color {red}R$ $\color {blue}B$ $\color {gold}Y$ $\color {red}R$ $\color {blue}B$

Pravděpodobnost každé z těchto událostí je poměr plochy zastíněné plochy k celkové ploše pole.

V obou příkladech a jsou podmíněně nezávislé s ohledem na , protože $\color {red}R$ $\color {blue}B$ ${\displaystyle {\color {gold}Y))$

P({\color {red}R}\cap {\color {blue}B}\mid {\color {gold}Y})=P({\color {red}R}\mid {\color {gold}Y})P({\color {modrá}B}\mid {\color {gold}Y})

[2] ,

ale nejsou podmíněně nezávislé s ohledem na , protože ${\overline {\color {gold}Y))$

P({\color {red}R}\cap {\color {blue}B}\mid {\overline {\color {gold}Y)))\not =P({\color {red}R }\mid {\overline {\color {gold}Y)))P({\color {blue}B}\mid {\overline {\color {gold}Y)))

. Počasí a zpoždění

Představme si dva lidi. Nechte a - události, které se každý z nich vrátí domů včas na večeři. Ať je to událost, při které město zachvátila sněhová bouře. Vzhledem k bouřce jsou pravděpodobnosti poměrně nízké, ale přesto zůstávají tyto události na sobě nezávislé. Vědět, že jedna osoba přijde pozdě, totiž nezaručuje, že se zpozdí i druhá. Lidé mohou žít v různých oblastech, cestovat různými trasami, využívat různé způsoby dopravy. Pokud by tomu tak nebylo, pak by tyto události byly podmíněně závislé. $A$ $B$ $C$ $A$ $B$

Kostky

Když se hází dvěma kostkami současně, lze předpokládat, že výsledky hodů na sobě nezávisí. Při pohledu na jednu z nich nemůžete zjistit, co padlo na druhou. Pokud však první hodil 3 a někdo řekl, že součet dvou kostek je sudý, pak tato dodatečná informace omezuje počet výsledků pro druhou kostku. (Na druhém pak vypadlo přesně liché číslo). Jinými slovy, dvě události mohou být samy o sobě nezávislé, ale za určitých podmínek budou podmíněně závislé.

Podmíněná nezávislost náhodných veličin

Dvě náhodné proměnné a jsou podmíněně nezávislé s ohledem na třetí náhodnou proměnnou tehdy a pouze tehdy, pokud jsou jejich podmíněná rozdělení pravděpodobnosti relativně nezávislá. $X$ $Y$ $Z$ $Z$

To znamená, že k němu dochází, když pro jakoukoli danou číselnou hodnotu rozdělení pravděpodobnosti nezávisí na hodnotách a rozdělení pravděpodobnosti nezávisí na hodnotách . $Z$ $X$ $Y$ $Y$ $X$

Formálně:

Podmíněná nezávislost náhodných veličin

$(X\perp \!\!\!\perp Y)\mid Z\quad \iff \quad F_{X,Y\,\mid \,Z\,=\,z}(x,y) =F_{X\,\mid \,Z\,=\,z}(x)\cdot F_{Y\,\mid \,Z\,=\,z}(y)\quad \forall x,y ,z,$

kde je podmíněná distribuční funkce as daným . $F_{X,Y\,\mid \,Z\,=\,z}(x,y)=P(X\leq x,Y\leq y\mid Z=z)$
$X$ $Y$ $Z$

Dvě události a jsou podmíněně nezávislé vzhledem k sigma-algebře , if , kde je podmíněné očekávání indikátorové funkce události vzhledem k sigma-algebře . Tedy podle definice. $R$ $B$ $\Sigma$ $P(R\cap B\mid \Sigma ){\stackrel {\text{b.s.}}{=}}P(R\mid \Sigma )P(B\mid \Sigma )$ $P(A\mid \Sigma )$ $\chi _{A}$ $A$ $\Sigma$ $P(A\mid \Sigma )=\název operátora {E} [\chi _{A}\mid \Sigma ]$

Dvě náhodné proměnné a jsou podmíněně nezávislé s ohledem na sigma algebru , pokud předchozí rovnost platí pro všechny v a v . $X$ $Y$ $\Sigma$ $R$ $\sigma (X)$ $B$ $\sigma (Y)$

Dvě náhodné proměnné a jsou podmíněně nezávislé na náhodné proměnné , pokud jsou nezávislé na sigma-algebře generované náhodnou proměnnou . To se označuje jako nebo . $X$ $Y$ $W$ $\sigma (W)$ $W$ $X\perp \!\!\!\perp Y\mid W$ $X\perp Y\mid W$

Pokud má spočetnou sadu hodnot, pak je to ekvivalentní podmíněné nezávislosti pro události ve tvaru . Podmíněná nezávislost tří nebo více událostí nebo tří nebo více náhodných proměnných je definována podobně. $W$ $X$ $Y$ $[W=w]$

Následující dva příklady ukazují, že nezávislost náhodných veličin nijak nesouvisí s jejich podmíněnou nezávislostí.

První příklad

Vezměme a uvažujme dva případy. $W={\begin{cases}0,&&p=0,5\\1,&&p=0,5\end{cases}}$

Pokud , vzít nezávislý . $W=0$ $X,Y={\begin{cases}0,&&p=0,99\\1,&&p=0,01\end{cases))$

Pokud , vzít nezávislý . $W=1$ $X,Y={\begin{cases}0,&&p=0.01\\1,&&p=0.99\end{cases))$

Zde a . $(X\perp \!\!\!\perp Y)\mid W$ $P(X=0)=P(Y=0)=0,5$

Zvažme případ, kdy . Pak je snadné ověřit, že: $Y=0$

$P(X=1\land Y=0)<0,01$ ,

$P(X=1|Y=0)<0,02$ .

Pokud tedy , pak se rozložení změní a naopak. Jsou tedy závislí. $Y=0$ $X$ $X$ $Y$

Druhý příklad

Nechat ; ; $X\perp \!\!\!\perp Y$ $X,Y={\begin{cases}0,&&p=0.5\\1,&&p=0.5\end{cases))$

$W=X\cdot Y$ .

V tomto příkladu jsme vzali a jsou nezávislí, ale budou podmíněně závislí s ohledem na , protože if , then . Ale . $X$ $Y$ $W$ $W=0$ $P(X=0)=2/3$ $P(X=0|Y=0)=1/2$

Podmíněná nezávislost náhodných vektorů

Dva náhodné vektory a jsou podmíněně nezávislé s ohledem na třetí náhodný vektor právě tehdy, pokud jsou jejich podmíněná rozdělení nezávislá na . $\mathbf {X} =(X_{1},\ldots ,X_{l})^{\mathrm {T} }$ $\mathbf {Y} =(Y_{1},\ldots ,Y_{m})^{\mathrm {T} }$ $\mathbf {Z} =(Z_{1},\ldots ,Z_{n})^{\mathrm {T} }$ $\mathbf {Z}$

Formálně:

Podmíněná nezávislost náhodných vektorů

$(\mathbf {X} \perp \!\!\!\perp \mathbf {Y} )\mid \mathbf {Z} \quad \iff \quad F_{\mathbf {X} ,\mathbf {Y } \mid \mathbf {Z} =\mathbf {z} }(\mathbf {x} ,\mathbf {y} )=F_{\mathbf {X} \,\mid \,\mathbf {Z} \,= \,\mathbf {z} }(\mathbf {x} )\cdot F_{\mathbf {Y} \,\mid \,\mathbf {Z} \,=\,\mathbf {z} } (\mathbf { y} )\quad \forall \mathbf {x} ,\mathbf {y} ,\mathbf {z} ,$

kde a podmíněná rozdělení jsou definována takto: $\mathbf {x} =(x_{1},\ldots ,x_{l})^{\mathrm {T} },\mathbf {y} =(y_{1},\ldots ,y_{m })^{\mathrm {T} },\mathbf {z} =(z_{1},\ldots ,z_{n})^{\mathrm {T} }$

${\begin{aligned}F_{\mathbf {X} ,\mathbf {Y} \,\mid \,\mathbf {Z} \,=\,\mathbf {z} }(\mathbf {x} ,\mathbf {y} )&=P(X_{1}\leq x_{1},\ldots ,X_{l}\leq x_{l},Y_{1}\leq y_{1},\ldots , Y_{m}\leq y_{m}\mid Z_{1}=z_{1},\ldots ,Z_{n}=z_{n})\\[6pt]F_{\mathbf {X} \,\ mid \,\mathbf {Z} \,=\,\mathbf {z} }(\mathbf {x} )&=P(X_{1}\leq x_{1},\ldots ,X_{l}\leq x_{l}\mid Z_{1}=z_{1},\ldots ,Z_{n}=z_{n})\\[6pt]F_{\mathbf {Y} \,\mid \,\mathbf { Z} \,=\,\mathbf {z} }(\mathbf {y} )&=P(Y_{1}\leq y_{1},\ldots ,Y_{m}\leq y_{m}\mid Z_{1}=z_{1},\ldots ,Z_{n}=z_{n})\end{aligned}}$

Použití v Bayesově odvození

Nechť – to je podíl voličů, kteří budou v nadcházejícím referendu hlasovat „pro“. Vezměme si výsledky náhodného výběrového šetření mezi voliči z populace. Nechť se rovná , pokud je hlas „pro“ nebo jinak, pro každého voliče . $p$ $n$ $X_{i}$ $jeden$ $i$ $0$ $i=1,...,n$

Ve frekvenčním přístupu není statistickému závěru přisuzováno žádné rozdělení pravděpodobnosti (kromě případů, kdy lze tyto pravděpodobnosti interpretovat jako relativní četnosti výskytu nějaké události nebo jako podíly v nějaké populaci), a lze říci, že jde o nezávislé náhodné proměnné. $p$ $X_{1},...,X_{n}$

Na druhou stranu, v Bayesovském přístupu ke statistické inferenci je podíl chápán jako náhodná veličina s určitým rozdělením pravděpodobnosti. Pro každý segment je nastavena míra důvěry v to, co bude do tohoto segmentu spadat. Každému segmentu je přiřazena pravděpodobnost, že do tohoto segmentu spadne. V takovém modelu jsou náhodné proměnné závislé, ale jsou podmíněně nezávislé s ohledem na danou hodnotu . Zejména pokud se velké číslo rovná , podle výsledku výběrového šetření, pak to s sebou nese vysokou podmíněnou pravděpodobnost, že se hodnota blíží . Podmíněná pravděpodobnost, že očekávaná hodnota příštího bude rovna , je tedy vysoká (pro dané výběrové šetření). $p$ $p$ $p$ $X_{1},...,X_{n}$ $p$ $X_{i}$ $jeden$ $p$ $jeden$ $X$ $jeden$

Důsledky podmíněné nezávislosti

Z hlavní definice je odvozena řada důsledků, které jsou použitelné pro práci s podmíněnou nezávislostí. [3] [4]

Protože tyto důsledky jsou platné pro jakýkoli pravděpodobnostní prostor , zůstávají platné i při přidání závislosti s ohledem na nějakou jinou proměnnou, řekněme . To je také znamená . $K$ $X\perp \!\!\!\perp Y\Rightarrow Y\perp \!\!\!\perp X$ $X\perp \!\!\!\perp Y\mid K\Rightarrow Y\perp \!\!\!\perp X\mid K$

Dále všechna písmena označují náhodné proměnné. Čárka znamená "a".

Symetrie

X\perp \!\!\!\perp Y\quad \Rightarrow \quad Y\perp \!\!\!\perp X

Rozklad

X\perp \!\!\!\perp (Y,Z)\quad \Rightarrow \quad {\begin{cases}X\perp \!\!\!\perp Y\\X\perp \! \!\!\perp Z\end{cases}}

Důkaz:

$p_{X,Y,Z}(x,y,z)=p_{X}(x)\cdot p_{Y,Z}(y,z)$ (znamená ); $X\perp \!\!\!\perp (Y,Z)$
$\int _{Z}\!p_{X,Y,Z}(x,y,z)\,dz=\int _{Z}\!p_{X}(x)\cdot p_{Y ,Z}(y,z)\,dz$ (proměnná zmizela v důsledku integrace); $Z$
$p_{X,Y}(x,y)=p_{X}(x)\cdot p_{Y}(y)$ .

Nezávislost a je prokázána podobně . $X$ $Z$

Slabé spojení

X\perp \!\!\!\perp (Y,Z)\quad \Rightarrow \quad {\begin{cases}X\perp \!\!\!\perp Y\mid Z\\X\ perp \!\!\!\perp Z\mid Y\end{cases}}

Důkaz:

Podle definice: . $P(X)=P(X\mid Y,Z)$
Ze složení vyplývá: , . $X\perp \!\!\!\perp Z$ $P(X)=P(X\mid Z)$
Spojením dvou předchozích rovností dostaneme: , což znamená . $P(X\mid Z)=P(X\mid Y,Z)$ $X\perp \!\!\!\perp Y\mid Z$

Druhý vztah lze dokázat obdobně.

Zkratka

\left.{\begin{aligned}X\perp \!\!\!\perp Y\mid Z\\X\perp \!\!\!\perp Z\end{aligned}}\right\ }\quad \Rightarrow \quad X\perp \!\!\!\perp (Y,Z)

Důkaz:

Tuto vlastnost lze dokázat poznámkou, že , kde každá rovnost se shoduje s resp . $P(X\mid Y,Z)=P(X\mid Z)=P(X)$ $X\perp \!\!\!\perp Y\mid Z$ $X\perp \!\!\!\perp Z$

Kombinace

Vezmeme-li poslední tři výše dokázané vlastnosti, dostaneme

\left.{\begin{aligned}X\perp \!\!\!\perp Y\mid Z\\X\perp \!\!\!\perp Z\end{aligned}}\right\ }\quad \iff \quad X\perp \!\!\!\perp (Y,Z)\quad \Rightarrow \quad {\begin{cases}X\perp \!\!\!\perp Y\mid Z \\X\perp \!\!\!\perp Z\\X\perp \!\!\!\perp Z\mid Y\\X\perp \!\!\!\perp Y\\\end{ případy}}

Tyto důsledky se nazývají "Grafoidní axiomy" [5] , protože platí v grafech pro , což lze interpretovat jako "Všechny cesty od do protínají množinu ". [6] $X\perp \!\!\!\perp Y\mid Z$ $X$ $Y$ $Z$

Podmíněná nezávislost očekávání [7]

$X\perp \!\!\!\perp Y|Z\Longleftrightarrow E[X|Y,Z]=E[X|Z]$ .

Viz také

Podmíněné očekávání

Poznámky

↑ Mohl by někdo vysvětlit podmíněnou nezávislost?
↑ Abyste pochopili tento příklad, musíte pochopit, že P( R ∩ B | Y ) je pravděpodobnost průsečíku fialové a žluté oblasti. Na prvním obrázku můžete vidět, že tento průsečík se skládá ze 2 buněk a žlutá oblast se skládá z 12 buněk. Potom P( R ∩ B | Y ) =212=jeden6. Podobně P( R | Y ) =čtyři12=jeden3; P( B | Y ) =612=jeden2.
↑ Dawid, A. P. (1979). „Podmíněná nezávislost ve statistické teorii“ . Journal of the Royal Statistical Society, řada B. 41 (1): 1-31. JSTOR 2984718 . MR 0535541 .
↑ J Pearl, Causality: Models, Reasoning, and Inference, 2000, Cambridge University Press
↑ Grafoidy: Logika založená na grafech pro uvažování o vztazích relevance.
↑ Pearl, Judea. Pravděpodobnostní usuzování v inteligentních systémech: sítě věrohodné inference . — Morgan Kaufmann, 1988.
↑ P.A. Meyer. Pravděpodobnost a potenciály. — Kapitola II: Nezávislost. Podmíněná matematická očekávání. Téma: Věta o podmíněné nezávislosti: 51: Mir, 1973. - S. 45-46.

Odkazy

Wikimedia Commons má média související s podmíněnou nezávislostí