Markovský řetěz

Aktuální verze stránky ještě nebyla zkontrolována zkušenými přispěvateli a může se výrazně lišit od verze recenzované 28. prosince 2019; kontroly vyžadují 9 úprav .

Markovův řetězec je posloupnost náhodných událostí s konečným nebo spočetným počtem výsledků , kde pravděpodobnost výskytu každé události závisí pouze na stavu dosaženém v předchozí události [1] . Vyznačuje se vlastností, že, volně řečeno, s pevnou přítomností je budoucnost nezávislá na minulosti. Pojmenován na počest A. A. Markova (senior) , který poprvé představil tento koncept v práci z roku 1906. [2]

Markovův řetěz s diskrétním časem

Definice

Posloupnost diskrétních náhodných proměnných se nazývá jednoduchý Markovův řetězec (s diskrétním časem) if $\{X_{n}\}_{{n\geqslant 0}}$

{\mathbb {P}}(X_{{n+1}}=i_{{n+1}}\mid X_{n}=i_{n},X_{{n-1}}=i_{{n -1}},\ldots ,X_{0}=i_{0})={\mathbb {P}}(X_{{n+1}}=i_{{n+1}}\mid X_{n} =i_{n})

V nejjednodušším případě tedy podmíněné rozdělení dalšího stavu Markovova řetězce závisí pouze na aktuálním stavu a nezávisí na všech předchozích stavech (na rozdíl od Markovových řetězců vyššího řádu).

Rozsah náhodných proměnných se nazývá stavový prostor řetězce a číslo je číslo kroku. $\{X_{n}\}$ $n$

Přechodová matice a homogenní řetězce

Matrix , kde $P{(n)}$

P_{{ij}}{(n)}\equiv {\mathbb {P}}(X_{{n+1}}=j\mid X_{n}=i)

se nazývá matice pravděpodobností přechodu v -tém kroku a vektor , kde $n$ ${\mathbf {p}}=(p_{1},p_{2},\ldots )^{{\top }}$

p_{i}\equiv {\mathbb {P}}(X_{0}=i)

— počáteční rozdělení Markovského řetězce.

Je zřejmé, že matice pravděpodobnosti přechodu je správně stochastická , tj.

\sum \limits _{{j}}P_{{ij}}(n)=1,\quad \forall n\in {\mathbb {N}}

Markovův řetězec se nazývá homogenní , pokud matice pravděpodobnosti přechodu nezávisí na čísle kroku, tzn

P_{{ij}}{(n)}=P_{{ij}},\quad \forall n\in {\mathbb {N}}

Jinak se Markovův řetězec nazývá nehomogenní. V následujícím budeme předpokládat, že máme co do činění s homogenními Markovovými řetězci.

Konečně-dimenzionální distribuce a n-kroková přechodová matice

Z vlastností podmíněné pravděpodobnosti a definice homogenního Markovova řetězce získáme:

{\mathbb {P}}(X_{{n}}=i_{{n}},\ldots ,X_{0}=i_{0})=P_{{i_{{n-1}},i_{ n}}}\cdots P_{{i_{0},i_{1}}}P_{{i_{0}}}

odkud plyne speciální případ Kolmogorov-Chapmanovy rovnice :

{\mathbb {P}}(X_{n}=i_{n}\mid X_{0}=i_{0})=(P^{n})_{{i_{0},i_{n}} }

tj. matice pravděpodobností přechodu na kroky homogenního Markovova řetězce je -tý stupeň matice pravděpodobností přechodu na 1 krok. Konečně, $n$ $n$

{\mathbb {P}}(X_{n}=i_{n})=\left((P^{T})^{n}{\mathbf {p}}\right)_{{i_{n} }}

Typy stavů

návratový stav .
Opakující se Markovův řetězec .
Dosažitelný stav .
Neredukovatelný Markovův řetěz .
Periodický stav .
Periodický Markovův řetězec .
pohlcující stav . Stav se nazývá absorbující if . $i$ $P_{i,i}=1$
Ergodický stav .

Příklady

Markovův řetězec se spojitým časem

Definice

Rodina diskrétních náhodných proměnných se nazývá Markovův řetězec (se spojitým časem) if $\{X_{t}\}_{{t\geqslant 0}}$

{\mathbb {P}}(X_{{t+h}}=x_{{t+h}}\mid X_{s}=x_{s},\;0<s\leqslant t)={\mathbb {P}}(X_{{t+h}}=x_{{t+h}}\mid X_{t}=x_{t})

Markovův řetězec se spojitým časem je považován za homogenní, jestliže

{\mathbb {P}}(X_{{t+h}}=x_{{t+h}}\mid X_{t}=x_{t})={\mathbb {P}}(X_{{h }}=x_{{h}}\mid X_{0}=x_{0})

Matice přechodových funkcí a Kolmogorov-Chapmanova rovnice

Stejně jako v případě diskrétního času jsou konečnorozměrná rozdělení spojitého homogenního Markovova řetězce zcela určena počátečním rozdělením

{\mathbf {p}}=(p_{1},p_{2},\ldots )^{{\top }},\;p_{i}={\mathbb {P}}(X_{0}= i),\quad i=1,2,\ldots

a matice přechodových funkcí ( pravděpodobnosti přechodu )

{\mathbf {P}}(h)=(P_{{ij}}(h))={\mathbb {P}}(X_{h}=j\mid X_{0}=i)

Matice pravděpodobností přechodu splňuje Kolmogorov-Chapmanovu rovnici : nebo ${\mathbf {P}}(t+s)={\mathbf {P}}(t){\mathbf {P}}(s)$

P_{{ij}}(t+s)=\součet _{k}P_{{ik}}(t)P_{{kj}}(s).

Matice intenzity a Kolmogorovovy diferenciální rovnice

Podle definice je matice intenzity nebo ekvivalentně ${\mathbf {Q}}=\lim _{{h\to 0}}{\frac {{\mathbf {P}}(h)-{\mathbf {I}}}{h}}$

{\mathbf {Q}}=(q_{{ij}})=\left({\frac {dP_{{ij}}(h)}{dh}}\right)_{{h=0}}

Z Kolmogorov-Chapmanovy rovnice vyplývají dvě rovnice:

Přímá Kolmogorovova rovnice ${\frac {d{\mathbf {P}}(t)}{dt}}={\mathbf {P}}(t){\mathbf {Q}},$
Inverzní Kolmogorovova rovnice ${\frac {d{\mathbf {P}}(t)}{dt}}={\mathbf {Q}}{\mathbf {P}}(t).$

Pro obě rovnice je zvolena počáteční podmínka . Vhodné řešení ${\mathbf {P}}(0)={\mathbf {I}}$ ${\mathbf {P}}(t)=\exp({\mathbf {Q}}t).$

Vlastnosti matic P a Q

Každá matice má následující vlastnosti: $t>0$ ${\mathbf {P}} (t)$

Maticové prvky jsou nezáporné: (nezápornost pravděpodobností). ${\mathbf {P}} (t)$ $P_{{ij}}(t)\geqslant 0$
Součet prvků v každém řádku je 1: (plná pravděpodobnost), to znamená, že matice je správně stochastická (nebo řádková). ${\mathbf {P}} (t)$ $\součet _{j}P_{{ij}}(t)=1$ ${\mathbf {P}} (t)$
Všechny vlastní hodnoty matice nepřesahují 1 v absolutní hodnotě: . Pokud , tak . $\lambda$ ${\mathbf {P}} (t)$ $|\lambda |\leqslant 1$ $|\lambda |=1$ $\lambda=1$
Vlastní hodnota matice odpovídá alespoň jednomu nezápornému levému vlastnímu vektoru - řadě (rovnováze): . $\lambda=1$ ${\mathbf {P}} (t)$ $(p_{1}^{*},\,p_{2}^{*},...);$ $p_{i}^{*}\geqslant 0;$ $\sum _{i}p_{i}^{*}=1;$ $\sum _{i}p_{i}^{*}P_{{ij}}(t)=p_{j}^{*}$
Pro vlastní hodnotu matice jsou všechny kořenové vektory vlastními vektory, to znamená, že odpovídající Jordanovy buňky jsou triviální. $\lambda=1$ ${\mathbf {P}} (t)$

Matrice má následující vlastnosti: ${\mathbf {Q}}$

Prvky mimodiagonální matice jsou nezáporné: . ${\mathbf {Q}}$ $q_{{ij}}\geqslant 0\;i\neq j$
Prvky diagonální matice jsou nekladné: . ${\mathbf {Q}}$ $q_{{ii}}\leqslant 0$
Součet prvků v každém řádku je 0: ${\mathbf {Q}}$ $\sum _{j}q_{{ij}}=0.$
Reálná část všech vlastních čísel matice je nekladná: . Pokud , pak $\mu$ ${\mathbf {Q}}$ $Re(\mu )\leqslant 0$ $Re(\mu)=0$ $\mu=0.$
Vlastní hodnota matice odpovídá alespoň jednomu nezápornému vlastnímu vektoru levého řádku (rovnováze): $\mu=0$ ${\mathbf {Q}}$ $(p_{1}^{*},\,p_{2}^{*},...);$ $p_{i}^{*}\geqslant 0;$ $\sum _{i}p_{i}^{*}=1;$ $\sum _{i}p_{i}^{*}q_{{ij}}=0.$
Pro vlastní hodnotu matice jsou všechny kořenové vektory vlastními vektory, to znamená, že odpovídající Jordanovy buňky jsou triviální. $\mu=0$ ${\mathbf {Q}}$

Přechodový graf, konektivita a ergodické Markovovy řetězce

Pro Markovův řetězec se spojitým časem se sestrojí orientovaný přechodový graf (zkráceně přechodový graf) podle následujících pravidel:

Množina vrcholů grafu se shoduje s množinou řetězových stavů.
Vrcholy jsou spojeny orientovanou hranou if (tj. intenzita proudění z -tého stavu do -tého je kladná). $i,j\,(i\neq j)$ $i\to j$ $q_{{ij}}>0$ $i$ $j$

Topologické vlastnosti přechodového grafu souvisí se spektrálními vlastnostmi matice . Pro konečné Markovovy řetězce platí zejména následující věty: ${\mathbf {Q}}$

Následující tři vlastnosti A, B, C konečného Markovova řetězce jsou ekvivalentní (řetězce, které je mají, se někdy nazývají slabě ergodické ):

A. Pro jakékoli dva různé vrcholy přechodového grafu existuje takový vrchol grafu („společný výtok“), že existují orientované cesty od vrcholu k vrcholu a od vrcholu k vrcholu . Poznámka : možný případ nebo ; v tomto případě se za směrovanou cestu považuje i triviální (prázdná) cesta z do nebo z do .

i,j\,(i\neq j)

k

i

k

j

k

k=i

k=j

i

i

j

j

B. Nulová vlastní hodnota matice je nedegenerovaná.

{\mathbf {Q}}

C. Při , matice směřuje k matici, ve které se všechny řádky shodují (a samozřejmě se shodují s rovnovážným rozdělením).

t\to\infty

{\mathbf {P}} (t)

Následujících pět vlastností A, B, C, D, D konečného Markovova řetězce je ekvivalentních (řetězce, které je mají, se nazývají ergodické ):

A. Přechodový graf řetězce je směrově spojen. B. Nulová vlastní hodnota matice je nedegenerovaná a odpovídá striktně kladnému levému vlastnímu vektoru (rovnovážné rozdělení).

{\mathbf {Q}}

B. Pro některé je matice přísně pozitivní (to znamená pro všechny ).

t>0

{\mathbf {P}} (t)

P_{{ij}}(t)>0

i,j

D. Pro všechny je matice přísně pozitivní.

t>0

{\mathbf {P}} (t)

E. Pro , matice inklinuje k přísně pozitivní matici, ve které se všechny řádky shodují (a samozřejmě se shodují s rovnovážným rozdělením).

t\to\infty

{\mathbf {P}} (t)

Příklady

Uvažujme třístavové Markovovy řetězce se spojitým časem, odpovídající přechodovým grafům znázorněným na Obr. V případě (a) jsou nenulové pouze následující mimodiagonální prvky matice intenzity , v případě (b) pouze nenulové a v případě (c) jsou nenulové . Zbývající prvky jsou určeny vlastnostmi matice (součet prvků v každém řádku je 0). V důsledku toho pro grafy (a), (b), (c) vypadají matice intenzity takto: $q_{{12}},\,q_{{13}}$ $q_{{12}},\,q_{{31}}\,q_{{32}}$ $q_{{12}},\,q_{{31}}\,q_{{23}}$ ${\mathbf {Q}}$ ${\mathbf {Q}}_{a}={\begin{pmatrix}-(q_{{12}}+q_{{13}})&q_{{12}}&q_{{13}}\\0&0&0\ \0&0&0\end{pmatrix}},$ ${\mathbf {Q}}_{b}={\begin{pmatrix}-q_{{12}}&q_{{12}}&0\\0&0&0\\q_{{31}}&q_{{32}}& -(q_{{31}}+q_{{32}})\end{pmatrix}},$ ${\mathbf {Q}}_{c}={\begin{pmatrix}-q_{{12}}&q_{{12}}&0\\0&-q_{{23}}&q_{{23}}\\ q_{{31}}&0&-q_{{31}}\end{pmatrix}},$

Základní kinetická rovnice

Základní kinetická rovnice popisuje vývoj rozdělení pravděpodobnosti v Markovově řetězci se spojitým časem. „Základní rovnice“ zde není epiteton, ale překlad anglického termínu. mistrovská rovnice . Pro řádkový vektor rozdělení pravděpodobnosti má základní kinetická rovnice tvar: $\pi$

{\frac {d\pi }{dt}}=\pi {\mathbf {Q}}

a v podstatě se shoduje s přímou Kolmogorovovou rovnicí . Ve fyzikální literatuře se častěji používají sloupcové vektory pravděpodobností a základní kinetická rovnice je zapsána ve tvaru, který výslovně používá zákon zachování celkové pravděpodobnosti:

{\frac {dp_{i}}{dt}}=\součet _{{j,\,j\neq i}}(T_{{ij}}p_{j}-T_{{ji}}p_{i }),

kde $T_{{ij}}=q_{{ji}}.$

Pokud existuje kladná rovnováha pro základní kinetickou rovnici , pak ji lze zapsat ve tvaru $p_{i}^{*}>0$

{\frac {dp_{i}}{dt}}=\sum _{{j,\,j\neq i}}T_{{ij}}p_{j}^{*}\left({\frac { p_{j}}{p_{j}^{*}}}-{\frac {p_{i}}{p_{i}^{*}}}\right).

Ljapunovovy funkce pro základní kinetickou rovnici

Pro hlavní kinetickou rovnici existuje bohatá rodina konvexních Ljapunovových funkcí – distribučních funkcí, které se monotónně mění s časem. Nechť je konvexní funkce jedné proměnné. Pro každé kladné rozdělení pravděpodobnosti ( ) definujeme Morimotovu funkci : $h(x)\,(x>0)$ $p_{i}>0$ $H_{h}(p)$

H_{h}(p)=\součet _{i}p_{i}^{*}h\left({\frac {p_{i}}{p_{i}^{*}}}\vpravo)

Časová derivace, pokud splňuje základní kinetickou rovnici, je $H_{h}(p)$ $p(t)$

{\frac {dH_{h}(p(t))}{dt}}=\součet _{{i,j\,i\neq j}}T_{{ij}}p_{j}^{*} \left[h\left({\frac {p_{i}}{p_{i}^{*}}}\right)-h\left({\frac {p_{j}}{p_{j}^ {*}}}\right)+h'\left({\frac {p_{i}}{p_{i}^{*}}}\right)\left({\frac {p_{j}}{ p_{j}^{*}}}-{\frac {p_{i}}{p_{i}^{*}}}\right)\right]\leqslant 0

Poslední nerovnost je platná z důvodu konvexnosti . $h(x)$

Příklady Morimotových funkcí

H_{h}(p)

$h(x)=|x-1|$ , ; $H_{h}(p)=\součet _{i}|p_{i}-p_{i}^{*}|$

tato funkce je vzdálenost od aktuálního rozdělení pravděpodobnosti k rovnovážné hodnotě . Časový posun je zmenšením prostoru rozdělení pravděpodobnosti v této normě. (Pro vlastnosti kontrakcí viz článek Banachův teorém o pevném bodě .)

l_{1}

$h(x)=x\ln x$ , ; $H_{h}(p)=\součet _{i}p_{i}\ln \left({\frac {p_{i}}{p_{i}^{*}}}\right)$

tato funkce je (mínus) Kullbackova entropie (viz Kullback-Leiblerova vzdálenost ). Ve fyzice to odpovídá volné energii dělené (kde je Boltzmannova konstanta , je absolutní teplota ):

kT

k

T

if ( Boltzmannovo rozdělení ) pak

p_{i}^{*}=\exp(\mu _{0}-U_{i}/kT)

H_{h}(p)=\součet _{i}p_{i}\ln p_{i}+\součet _{i}p_{i}U_{i}/kT-\mu _{0}=( \langle U\rangle -TS)/kT

$h(x)=-\ln x$ , ; $H_{h}(p)=-\součet _{i}p_{i}^{*}\ln \left({\frac {p_{i}}{p_{i}^{*}}}\right )$

tato funkce je analogem volné energie Burgovy entropie, která se široce používá při zpracování signálu:

S_{{{\rm {Burg}}}}=\součet _{i}\ln p_{i}

$h(x)={\frac {(x-1)^{2}}{2}}$ , ; $H_{h}(p)=\součet _{i}{\frac {(p_{i}-p_{i}^{*})^{2}}{2p_{i}^{*}}}$

toto je kvadratická aproximace pro (mínus) Kullbackovu entropii blízko bodu rovnováhy. Až do časově konstantního členu je tato funkce stejná jako (minus) Fisherova entropie daná následující volbou:

$h(x)={\frac {x^{2}}{2}}$ , ; $H_{h}(p)=\součet _{i}{\frac {p_{i}^{2}}{2p_{i}^{*}}}$

toto je (minus) Fisherova entropie .

$h(x)={\frac {x^{q}-1}{q-1)),\,q>0,\,q\neq 1$ , ; $H_{h}(p)={\frac {1}{q-1}}\left[\sum _{i}p_{i}^{*}\left({\frac {p_{i}}{ p_{i}^{*}}}\right)^{q}-1\right]$

toto je jeden z analogů volné energie pro Tsallis entropii .

S_{{q{{\rm {Tsallis}}}}}(p)={1 \over q-1}\left(1-\sum _{i}p_{i}^{q}\right).

slouží jako základ pro statistickou fyziku neextenzivních veličin. Při , inklinuje ke klasické Boltzmann-Gibbs-Shannonově entropii a odpovídající Morimotova funkce inklinuje ke (minus) Kullback entropii.

q\do 1

Praktická aplikace

Jednou z prvních vědních disciplín, ve kterých našly Markovovy řetězce praktické uplatnění, byla lingvistika (zejména textová kritika ). Sám Markov pro ilustraci svých výsledků studoval závislost ve střídání samohlásek a souhlásek v prvních kapitolách „ Evgena Oněgina “ a „ Dětská léta Bagrova-vnuka “ [3] .

Poznámky

↑ "Markovův řetězec | Definice Markovova řetězce v americké angličtině od Oxford Dictionaries" . Oxfordské slovníky | Angličtina. . Lexikální slovníky | Angličtina (14. prosince 2017). Staženo: 1. dubna 2020.
↑ Gagniuc, Paul A. Markov Chains: From Theory to Implementation and Experimentation . - USA, NJ: John Wiley & Sons , 2017. - S. 2-8. — ISBN 978-1-119-38755-8 .
↑ Maistrov, L.E. Vývoj pojmu pravděpodobnosti . - Nauka, 1980. - S. 188. - 269 s.

Literatura

Kelbert M. Ya., Sukhov Yu. M. Pravděpodobnost a statistika v příkladech a problémech. Svazek II: Markovovy řetězce jako východisko pro teorii náhodných procesů a jejich aplikace. - M. : MTSNMO, 2010. - 295 s. — ISBN 978-5-94057-252-7 .
Markov A. A. , Rozšíření zákona velkých čísel na množství, která na sobě závisí. - Zprávy o společnosti fyziky a matematiky na Kazanské univerzitě. - 2. série. - Svazek 15. (1906) - S. 135-156.
Markovův řetěz / A. V. Prochorov // Velká ruská encyklopedie : [ve 35 svazcích] / kap. vyd. Yu. S. Osipov . - M .: Velká ruská encyklopedie, 2004-2017.
Řetězy Kemeny JG, Snell JL , Finite Markov. — Univerzitní řada v pregraduální matematice. Princeton: Van Nostrand, 1960
- Překlad: Kemeny J.J. , Snell J.L. Finite Markovovy řetězy. — M.: Nauka. 1970. - 272 s.
Zhong Kai-lai Homogenní Markovovy řetězce. Přel. z angličtiny. — M.: Mir, 1964. — 425 s.
E. Nummelin , Obecné ireducibilní Markovovy řetězce a nezáporné operátory. — M.: Mir, 1989. — 207 s.
Morimoto T. , Markovovy procesy a H-teorém. — J. Phys. soc. jap. 12 (1963), 328-331.
Yaglom A.M. , Yaglom I.M. , Pravděpodobnost a informace . - M., Nauka, 1973. - 512 s.
Kullback S. , Teorie informace a statistika. Wiley, New York, 1959.
Burg JP , The Relationship Between Maximum Entropy Spectra and Maximum Likelihood Spectra, Geophysics 37(2) (1972), 375-376.
Tsallis C. , Možné zobecnění Boltzmann-Gibbsovy statistiky. J. Stat. Phys. 52 (1988), 479-487.
Rudoy Yu.G. , Generalizovaná informační entropie a nekanonická distribuce v rovnovážné statistické mechanice , TMF, 135:1 (2003), 3-54.
Gorban, Alexander N.; Gorban, Pavel A.; Soudce, Georgi. Entropie: Markovův přístup k uspořádání . Entropie 12, ne. 5 (2010), 1145-1193.

Odkazy

solidní mínus. Vývoj třídy pro práci s Markovovými řetězci . Habrahabr (1. června 2016). Staženo: 18. srpna 2016. (Ruština)

Slovníky a encyklopedie	velká čínština Skvělý norský Velký Rus Britannica (online) Moderní Ukrajina Moderní Ukrajina
V bibliografických katalozích	GND : 4037612-6 J9U : 987007553386405171 LCCN : sh85081369

Klasifikace stavů a Markovových řetězců
Stát	aperiodický vratné dosažitelný neodvolatelný bezvýznamný nula periodické pozitivní komunikující významný
Řetěz	aperiodický vratné neodvolatelný nerozložitelný nula časopis pozitivní rozložitelný ergodický

Typy umělých neuronových sítí

Dopředná síť ( Network of Radial Base Functions )
Jednovrstvý perceptron
Vícevrstvý perceptron ( Rosenblatt • Rumelhart )
Hopfieldova síť
Markovský řetěz
Boltzmannův stroj
Limitovaný Boltzmannův stroj
Autoencoder ( Denoise autoencoder • Sparse autoencoder • Variační autoencoder )
Hluboká síť důvěry
Konvoluční neuronová síť
Hluboká konvoluční neuronová síť
Nasazení neuronové sítě
Hluboká konvoluční inverzní grafická síť
Generative Adversarial Network
Rekurentní neuronová síť
Rekurzivní neuronové sítě
dlouhodobá krátkodobá paměť
Řízený rekurentní blok
Neural Turing Machines
Obousměrná síť ( Obousměrná rekurentní neuronová síť • Obousměrná síť s dlouhodobou krátkodobou pamětí • Obousměrně řízené rekurentní neurony )
Hluboká zbytková síť
Neuronová echo síť
Metoda extrémního učení
Metoda nestabilních stavů
Podpora vektorového stroje
Kohonen síť
Samoorganizující se mapa Kohonenu
Neuronová síť kapsle
Asociativní paměť na neuronových sítích

Strojové učení a dolování dat
Úkoly	Klasifikační problém Učení bez učitele Učení za pomoci učitele Regresní analýza AutoML Pravidla asociace Extrakce funkcí Trénink vlastností Žebříčkový trénink Gramatické odvozování Online učení
Učení s učitelem	metoda k-nejbližšího souseda Naivní Bayesův klasifikátor rozhodovací strom Podpora vektorového stroje Lineární regrese Logistická regrese perceptron Soubory modelů Pytlování posilování náhodný les Relevantní vektorová metoda
shluková analýza	metoda k-means Metoda fuzzy shlukování Hierarchické shlukování EM algoritmus BŘÍZA LÉK DBSCAN OPTIKA Střední posun
Redukce rozměrů	Faktorová analýza Metoda hlavní součásti CCA ICA LDA Nezáporná expanze matice t-SNE
Strukturální prognózy	Graf pravděpodobnosti modelu Bayesovská síť Skrytý Markovův model CRF
Detekce anomálií	metoda k-nejbližšího souseda Místní úroveň emisí
Grafové pravděpodobnostní modely	Bayesovská síť Markovská síť Skrytý Markovův model
Neuronové sítě	Limitovaný Boltzmannův stroj samoorganizující se mapa Aktivační funkce Sigmoid softmax Radiální základní funkce Metoda zpětného šíření Hluboké učení Vícevrstvý perceptron Rekurentní neuronová síť dlouhodobá krátkodobá paměť Řízený rekurentní blok Konvoluční neuronová síť U-síť Autokodér
Posílení učení	Markovský proces Bellmanova rovnice Chamtivý algoritmus Q-learning SARSA Časový rozdíl (TD)
Teorie	Vapnik-Chervonenkis teorie Dilema zkreslení Teorie počítačového učení Empirická minimalizace rizika Occam se učí PAC učení Statistická teorie učení
Časopisy a konference	NeurIPS ICML ML JMLR ArXiv:cs.LG