Skrytý Markovův model

Skrytý Markovův model ( HMM ) je statistický model , který simuluje fungování procesu podobného Markovovu procesu s neznámými parametry a úkolem je neznámé parametry uhodnout na základě pozorovaných. Získané parametry lze použít v další analýze, například pro rozpoznávání vzorů. HMM lze považovat za nejjednodušší bayesovskou síť víry .

První poznámky o skrytých Markovových modelech publikoval Baum v 60. letech 20. století a již v 70. letech byly poprvé použity při rozpoznávání řeči. Od poloviny 80. let se SMM používají při analýze biologických sekvencí, zejména DNA.

Hlavní aplikace HMM byla přijata v oblasti rozpoznávání řeči, psaní, pohybů a bioinformatiky. Kromě toho se HMM používají v kryptoanalýze , strojovém překladu .

Příklad

Představme si dva kamarády, kteří každý večer po telefonu probírají, co dělali přes den. Váš přítel může dělat pouze tři věci: chodit po parku, nakupovat nebo uklízet pokoj. Jeho výběr vychází pouze z počasí, které bylo v době rozhodování. Nevíte nic o počasí v regionu, kde váš kamarád žije, ale můžete se na základě jeho rozhodnutí pokusit odhadnout, jaké bylo počasí.

Počasí je znázorněno jako Markovův řetězec, má dva stavy: slunečno nebo deštivo, ale sami ho nevidíte, takže je před vámi skryté. Každý den váš přítel udělá jedno ze tří možných rozhodnutí: chodit, nakupovat nebo uklízet. Můžete se dozvědět o rozhodnutí svého přítele, takže je to pozorovatelná hodnota. Obecně přijímáme SMM.

Struktura skrytého Markovova modelu

V konvenčním Markovově modelu je stav viditelný pro pozorovatele, takže pravděpodobnosti přechodu jsou jediným parametrem. Ve skrytém Markovově modelu můžeme sledovat pouze proměnné, které jsou ovlivněny daným stavem. Každý stav má rozdělení pravděpodobnosti mezi všechny možné výstupní hodnoty. Proto sekvence znaků generovaných HMM poskytuje informace o sekvenci stavů.

Níže uvedený diagram ukazuje obecnou strukturu HMM. Ovály představují proměnné s náhodnou hodnotou. Náhodná proměnná je hodnota skryté proměnné v čase . Náhodná proměnná je hodnota pozorované proměnné v čase . Šipky v diagramu představují podmíněné závislosti. $x(t)$ $t$ $y(t)$ $t$

Z diagramu je zřejmé, že hodnota skryté proměnné (v čase ) závisí pouze na hodnotě skryté proměnné (v čase ). Tomu se říká Markovův majetek. I když zároveň hodnota sledované proměnné závisí pouze na hodnotě latentní proměnné (obojí v čase ). $x(t)$ $t$ $x(t-1)$ $t-1$ $y(t)$ $x(t)$ $t$

Pravděpodobnost zobrazení délkové sekvence je $Y=y(0),y(1),\tečky ,y(L-1)$ $L$

P(Y)=\součet _{{X}}P(Y\mid X)P(X),

zde součet běží přes všechny možné sekvence skrytých uzlů Metoda výpočtu hrubou silou je pro mnoho problémů z reálného života velmi časově náročná, protože počet možných sekvencí skrytých uzlů je velmi velký. Ale použití postupu dopředu-dozadu [1] může výrazně zvýšit rychlost výpočtů. $X=x(0),x(1),\tečky ,x(L-1).$ $P(Y)$

Základní algoritmy

S SMM jsou spojeny tři hlavní úkoly:

Forward-reverse algorithm : vzhledem k parametrům modelu a sekvence je nutné vypočítat pravděpodobnost výskytu této sekvence (umožňuje vyřešit problém).
Viterbiho algoritmus : vzhledem k parametrům modelu je potřeba určit nejvhodnější sekvenci skrytých uzlů, která nejpřesněji popisuje daný model (pomáhá při řešení tohoto problému).
Baum-Welsh algoritmus : vzhledem k výstupní sekvenci (nebo několika) s diskrétními hodnotami je nutné trénovat HMM na tomto výstupu.

Viz také

Marellierova věta

Poznámky

↑ Rabiner, str. 262

Odkazy

Skryté Markovovy modely
Sergej Nikolenko. Přednášky č. 6 a č. 7 (diapozitivy) o skrytých Markovových modelech z kurzu Pravděpodobnostní učení

Grafové pravděpodobnostní modely
Bayesovská síť Kauzální Bayesovská síť Markovská síť Skrytý Markovův model

Strojové učení a dolování dat
Úkoly	Klasifikační problém Učení bez učitele Učení za pomoci učitele Regresní analýza AutoML Pravidla asociace Extrakce funkcí Trénink vlastností Žebříčkový trénink Gramatické odvozování Online učení
Učení s učitelem	metoda k-nejbližšího souseda Naivní Bayesův klasifikátor rozhodovací strom Podpora vektorového stroje Lineární regrese Logistická regrese perceptron Soubory modelů Pytlování posilování náhodný les Relevantní vektorová metoda
shluková analýza	metoda k-means Metoda fuzzy shlukování Hierarchické shlukování EM algoritmus BŘÍZA LÉK DBSCAN OPTIKA Střední posun
Redukce rozměrů	Faktorová analýza Metoda hlavní součásti CCA ICA LDA Nezáporná expanze matice t-SNE
Strukturální prognózy	Graf pravděpodobnosti modelu Bayesovská síť Skrytý Markovův model CRF
Detekce anomálií	metoda k-nejbližšího souseda Místní úroveň emisí
Grafové pravděpodobnostní modely	Bayesovská síť Markovská síť Skrytý Markovův model
Neuronové sítě	Limitovaný Boltzmannův stroj samoorganizující se mapa Aktivační funkce Sigmoid softmax Radiální základní funkce Metoda zpětného šíření Hluboké učení Vícevrstvý perceptron Rekurentní neuronová síť dlouhodobá krátkodobá paměť Řízený rekurentní blok Konvoluční neuronová síť U-síť Autokodér
Posílení učení	Markovský proces Bellmanova rovnice Chamtivý algoritmus Q-learning SARSA Časový rozdíl (TD)
Teorie	Vapnik-Chervonenkis teorie Dilema zkreslení Teorie počítačového učení Empirická minimalizace rizika Occam se učí PAC učení Statistická teorie učení
Časopisy a konference	NeurIPS ICML ML JMLR ArXiv:cs.LG