Nezávislost (teorie pravděpodobnosti)

V teorii pravděpodobnosti se dvě náhodné události nazývají nezávislé , pokud výskyt jedné z nich nemění pravděpodobnost výskytu druhé. Podobně dvě náhodné proměnné se nazývají nezávislé , pokud známá hodnota jedné z nich nedává informaci o druhé.

Nezávislé události

Budeme předpokládat, že je nám dán pevný pravděpodobnostní prostor . $(\Omega ,\;{\mathcal {F}),\;\mathbb {P} )$

Definice 1. Dvě události jsou nezávislé, jestliže $A,B\in {\matematický {F}}$

výskyt události nemění pravděpodobnost výskytu události .

A

B

Poznámka 1. V případě, že pravděpodobnost jedné události, řekněme , je nenulová, tj. , je definice nezávislosti ekvivalentní: $B$ $\mathbb {P} (B)>0$

\mathbb {P} (A\mid B)=\mathbb {P} (A),

to znamená, že podmíněná pravděpodobnost události za podmínky se rovná nepodmíněné pravděpodobnosti události . $A$ $B$ $A$

Definice 2. Nechť existuje rodina (konečná nebo nekonečná) náhodných událostí , kde je libovolná množina indexů . Pak jsou tyto události párově nezávislé , pokud jsou jakékoli dvě události z této rodiny nezávislé, tzn $\{A_{i}\}_{i\in I}\subset {\mathcal {F}}$ $já$

\mathbb {P} (A_{i}\cap A_{j})=\mathbb {P} (A_{i})\cdot \mathbb {P} (A_{j}),\;\forall i\neq j.

Definice 3. Nechť existuje rodina (konečná nebo nekonečná) náhodných událostí . Pak jsou tyto události společně nezávislé , pokud pro jakoukoli konečnou množinu těchto událostí platí následující: $\{A_{i}\}_{i\in I}\subset {\mathcal {F}}$ $\{A_{i_{k}}\}_{k=1}^{N}$

\mathbb {P} (A_{i_{1}}\cap \ldots \cap A_{i_{N}})=\mathbb {P} (A_{i_{1}})\cdot \ldots \cdot \mathbb {Bolest}}).

Poznámka 2. Společná nezávislost samozřejmě znamená nezávislost párů. Opak obecně neplatí.

Příklad 1. Nechte hodit tři vyrovnané mince. Definujme události takto:

$A_{1}$ : mince 1 a 2 padly na stejnou stranu;
$A_{2}$ : mince 2 a 3 padly na stejnou stranu;
$A_{3}$ : mince 1 a 3 padly na stejnou stranu;

Je snadné zkontrolovat, zda jsou libovolné dvě události z této sady nezávislé. Přesto jsou ti tři kolektivně závislí, protože například víme, že se události staly , víme přesně, co se také stalo. Formálněji: . Na druhou stranu, . $A_{1}$ $A_{2}$ $A_{3}$ $\mathbb {P} (A_{i}\cap A_{j})={\frac {1}{4}}={\frac {1}{2}}\cdot {\frac {1}{2} }=\mathbb {P} (A_{i})\cdot \mathbb {P} (A_{j})\quad \forall i\neq j$ $\mathbb {P} (A_{1}\cap A_{2}\cap A_{3})={\frac {1}{4}}\neq {\frac {1}{2}}\cdot {\ frac {1}{2}}\cdot {\frac {1}{2}}=\mathbb {P} (A_{1})\cdot \mathbb {P} (A_{2})\cdot \mathbb { P} (A_{3})$

Nezávislé sigma-algebry

Definice 4. Nechť dvě sigma-algebry na stejném pravděpodobnostním prostoru. Jsou nazýváni nezávislými , pokud je některý z jejich zástupců na sobě nezávislý, to znamená: ${\mathcal {A}}_{1},\;{\mathcal {A}}_{2}\subset {\mathcal {F}}$

\mathbb {P} (A_{1}\cap A_{2})=\mathbb {P} (A_{1})\cdot \mathbb {P} (A_{2}),\;\forall A_{1 }\v {\mathcal {A}}_{1},\;A_{2}\in {\mathcal {A}}_{2}

Pokud místo dvou existuje celá rodina (možná nekonečná) sigma-algeber, pak je pro ni zřejmým způsobem definována párová a společná nezávislost.

Nezávislé náhodné proměnné

Definice

Definice 5. Nechť je dána rodina náhodných proměnných , takže . Pak jsou tyto náhodné proměnné párově nezávislé , pokud jimi generované sigma-algebry jsou párově nezávislé . Náhodné proměnné jsou vzájemně nezávislé , pokud jsou jimi generované sigma-algebry. $(X_{i})_{i\in I}$ $X_{i}\colon \Omega \to \mathbb {R} ,\;\forall i\in I$ $\{\sigma (X_{i})\}_{i\in I}$

Je třeba poznamenat, že v praxi, pokud to není odvozeno z kontextu, nezávislost znamená nezávislost v souhrnu .

Výše uvedená definice je ekvivalentní jakékoli jiné z následujících. Dvě náhodné proměnné jsou nezávislé právě tehdy, když : $X,\;Y$

Pro jakékoli : $A,\;B\in {\mathcal {B}} (\mathbb {R} )$

\mathbb {P} (X\v A,\;Y\v B)=\mathbb {P} (X\v A)\cdot \mathbb {P} (Y\v B)=\mathbb { P} (\left\{\omega :X(\omega )\in A,~\omega \in \Omega \right\})\cdot \mathbb {P} (\left\{\omega :Y(\omega )\in B,~\omega \in \Omega \right\}).

Pro všechny Borelovy funkce jsou náhodné proměnné nezávislé. $f,\;g\dvojtečka \mathbb {R} \to \mathbb {R}$ $f(X),\;g(Y)$
Pro jakékoli omezené funkce Borel : $f,\;g\dvojtečka \mathbb {R} \to \mathbb {R}$

\mathbb {E} \left[f(X)g(Y)\right]=\mathbb {E} \left[f(X)\right]\cdot \mathbb {E} \left[g(Y)\ že jo].

Vlastnosti nezávislých náhodných veličin

Dovolit být rozdělení náhodného vektoru , být rozdělení a být rozdělení . Pak jsou nezávislí tehdy a jen tehdy $\mathbb {P} ^{X,\;Y}$ $(X,\;Y)$ $\mathbb {P} ^{X}$ $X$ $\mathbb {P} ^{Y}$ $Y$ $X,\;Y$

\mathbb {P} ^{X,\;Y}=\mathbb {P} ^{X}\otimes \mathbb {P} ^{Y},

kde označuje (přímý) součin opatření . $\otimes$

Nechť jsou kumulativní distribuční funkce, resp. Pak jsou nezávislí tehdy a jen tehdy $F_{X,\;Y},\;F_{X},\;F_{Y}$ $(X,\;Y),\;X,\;Y$ $X,\;Y$

F_{X,\;Y}(x,\;y)=F_{X}(x)\cdot F_{Y}(y).

Nechť náhodné proměnné jsou diskrétní . Pak jsou nezávislí tehdy a jen tehdy $X,\;Y$

\mathbb {P} (X=i,\;Y=j)=\mathbb {P} (X=i)\cdot \mathbb {P} (Y=j).

Nechť jsou náhodné veličiny společně absolutně spojité, to znamená, že jejich společné rozdělení má hustotu . Pak jsou nezávislí tehdy a jen tehdy $X,\;Y$ $f_{{X,\;Y}}(x,\;y)$

f_{X,\;Y}(x,\;y)=f_{X}(x)\cdot f_{Y}(y),\;\forall (x,\;y)\in \mathbb {R } ^{2}

kde jsou hustoty náhodných veličin a, resp. $f_{X}(x),\;f_{Y}(y)$ $X$ $Y$

Nechť náhodné proměnné jsou nezávislé a mají konečný rozptyl . Pak spolu nekorelují . $X,\;Y$
Jakákoli sbírka náhodných proměnných, které jsou v populaci nezávislé, je párově nezávislá, ale ne všechny párově nezávislé kolekce jsou v populaci nezávislé. To druhé dokládá příklad házení mincí , který uvedl S. N. Bernstein.

n-ární nezávislost

Obecně platí, že pro kohokoli lze mluvit o nezávislosti. Myšlenka je podobná: rodina náhodných proměnných je -arno nezávislá, pokud je jakákoli podmnožina její mohutnosti kolektivně nezávislá. -ární nezávislost byla použita v teoretické informatice k prokázání teorému problému MAXEkSAT . $n\geqslant 2$ $n$ $n$ $n$ $n$

Viz také

Odkazy

Russell, Stuart. Umělá inteligence: Moderní přístup / Stuart Russell, Peter Norvig. - Prentice Hall , 2002. - S. 478 . — ISBN 0-13-790395-2 .

Slovníky a encyklopedie	Britannica (online)