Klasifikační problém

Aktuální verze stránky ještě nebyla zkontrolována zkušenými přispěvateli a může se výrazně lišit od verze recenzované 14. srpna 2019; kontroly vyžadují 6 úprav .

Úkol klasifikace je úkol, ve kterém existuje mnoho objektů ( situací ) rozdělených nějakým způsobem do tříd . Je dána konečná množina objektů, u kterých je známo, do kterých tříd patří. Tato sada se nazývá vzorek . Třídní příslušnost zbývajících objektů není známa. Je nutné zkonstruovat algoritmus schopný klasifikovat (viz níže) libovolný objekt z počáteční množiny .

Klasifikovat objekt znamená uvést číslo (nebo název) třídy, do které daný objekt patří.

Klasifikace objektu - číslo nebo název třídy, vydaný klasifikačním algoritmem jako výsledek jeho aplikace na tento konkrétní objekt.

V matematické statistice se problémy klasifikace také nazývají problémy diskriminační analýzy . Ve strojovém učení je klasifikační problém řešen zejména pomocí metod umělých neuronových sítí při sestavování experimentu formou školení s učitelem .

Existují také jiné způsoby, jak nastavit experiment – učení bez dozoru , ale používají se k řešení jiného problému – shlukování nebo taxonomie . V těchto úlohách není specifikováno rozdělení objektů trénovacího vzorku do tříd a je požadováno klasifikovat objekty pouze na základě jejich vzájemné podobnosti. V některých aplikovaných oborech a dokonce i v matematické statistice samotné se kvůli blízkosti problémů často nerozlišují shlukovací problémy od klasifikačních problémů.

Některé algoritmy pro řešení klasifikačních problémů kombinují učení pod dohledem s učením bez dozoru , například jedna verze Kohonenovy neuronové sítě jsou sítě pro vektorové kvantování pod dohledem.

Matematické vyjádření problému

Nechť je množina popisů objektů, je množina čísel (nebo jmen) tříd. Existuje neznámá cílová závislost — mapování , jehož hodnoty jsou známy pouze na objektech finálního trénovacího vzorku . Je nutné vytvořit algoritmus schopný klasifikovat libovolný objekt . $X$ $Y$ $y^{{*}}\dvojtečka X\to Y$ $X^{m}=\{(x_{1},y_{1}),\tečky ,(x_{m},y_{m})\}$ $a\dvojtečka X\až Y$ $x\in X$

Pravděpodobnostní vyjádření problému

Pravděpodobnostní vyjádření problému je považováno za obecnější. Předpokládá se, že množina dvojic "objekt, třída" je pravděpodobnostní prostor s neznámou mírou pravděpodobnosti . Existuje konečná trénovací množina pozorování generovaných podle pravděpodobnostní míry . Je nutné vytvořit algoritmus schopný klasifikovat libovolný objekt . $X \krát Y$ ${\mathsf P}$ $X^{m}=\{(x_{1},y_{1}),\tečky ,(x_{m},y_{m})\}$ ${\mathsf P}$ $a\dvojtečka X\až Y$ $x\in X$

Prostor funkcí

Znak je mapování , kde je množina přípustných hodnot znaku. Pokud jsou uvedeny vlastnosti , pak se vektor nazývá popis prvku objektu . Orientační popisy lze identifikovat s objekty samotnými. V tomto případě se sada nazývá prostor funkcí . ${\displaystyle f\colon X\to D_{f))$ $D_f$ ${\displaystyle f_{1},\tečky ,f_{n))$ ${{\mathbf x}}=(f_{1}(x),\tečky ,f_{n}(x))$ $x\in X$ $X=D_{{f_{1}}}\times \tečky \times D_{{f_{n}}}$

V závislosti na sadě jsou značky rozděleny do následujících typů: $D_f$

binární znak: ; $D_{f}=\{0,1\}$
jmenný atribut: - konečná množina; $D_f$
ordinální atribut: - konečná uspořádaná množina; $D_f$
kvantitativní znak: - množina reálných čísel . $D_f$

Často se uplatňují problémy s různými typy vlastností, ne všechny metody jsou vhodné pro jejich řešení.

Typologie klasifikačních problémů

Typy vstupních dat

Orientační popis je nejčastějším případem. Každý objekt je popsán sadou jeho charakteristik, nazývaných rysy . Funkce mohou být numerické nebo nenumerické.
Matice vzdálenosti mezi objekty. Každý objekt je popsán vzdáleností od všech ostatních objektů v trénovacím vzorku. S tímto typem vstupu pracuje jen málo metod, zejména metoda nejbližšího souseda , metoda Parzenova okna , metoda potenciálních funkcí .
Časová řada nebo signál je posloupnost měření v čase. Každý rozměr může být reprezentován číslem, vektorem a v obecném případě orientačním popisem studovaného objektu v daném čase.
Obrázek nebo videosekvence .
Existují i složitější případy, kdy jsou vstupní data prezentována ve formě grafů , textů, výsledků databázových dotazů atd. Zpravidla se redukují na první nebo druhý případ předzpracováním dat a extrakcí prvků .

Klasifikace signálů a obrazů se také nazývá rozpoznávání vzorů .

Typy tříd

Klasifikace dvou tříd . Technicky nejjednodušší případ, který slouží jako základ pro řešení složitějších problémů.
Vícetřídní klasifikace. Když počet tříd dosáhne mnoha tisíc (například při rozpoznávání hieroglyfů nebo souvislé řeči), stává se úkol klasifikace mnohem obtížnější.
nepřekrývající se třídy.
překrývající se třídy. Objekt může patřit do několika tříd současně.
Fuzzy třídy . Je třeba určit stupeň příslušnosti objektu ke každé z tříd, obvykle se jedná o reálné číslo od 0 do 1.

Viz také

Odkazy

www.MachineLearning.ru je profesionální wiki zdroj věnovaný strojovému učení a dolování dat
Konstantin Voroncov . Kurz přednášek Matematické metody výuky podle precedentů , Moskevský institut fyziky a technologie , 2004-2008
Yuri Lifshits . Automatická klasifikace textu (snímky) - přednáška č. 6 z kurzu "Algoritmy pro internet"
kNN a potenciální energie ( applet ), E.M. Mirkes a University of Leicester.

Literatura

Ayvazyan S. A., Buchstaber V. M., Enyukov I. S., Meshalkin L. D. Aplikovaná statistika : klasifikace a redukce rozměrů . - M .: Finance a statistika, 1989.
Vapnik VN Rekonstrukce závislostí na základě empirických dat. — M.: Nauka, 1979.
Zhuravlev Yu. I. , Rjazanov V. V., Senko O. V. "Uznání". Matematické metody. Softwarový systém. Praktické aplikace. — M.: Fazis, 2006. ISBN 5-7036-0108-8 .
Zagoruiko NG Aplikované metody analýzy dat a znalostí. - Novosibirsk : IM SO RAN, 1999. ISBN 5-86134-060-9 .
Shlesinger M., Glavach V. Deset přednášek o statistickém a strukturálním rozpoznávání. - Kyjev : Naukova Dumka , 2004. ISBN 966-00-0341-2 .
Hastie, T., Tibshirani R., Friedman J. The Elements of Statistical Learning: Data Mining, Inference, and Prediction . — 2. vyd. - Springer-Verlag, 2009. - 746 s. - ISBN 978-0-387-84857-0 . .
Mitchell T. Strojové učení. — McGraw-Hill Science/Engineering/Math, 1997. ISBN 0-07-042807-7 .

Umělá inteligence
Příběh	Historie umělé inteligence Zima umělé inteligence Seminář v Dartmouthu
Filozofie	Turingův test Čínský pokoj Silná a slabá umělá inteligence Přátelská umělá inteligence Etika umělé inteligence Problém s ovládáním
Pokyny	Agentský přístup Adaptivní ovládání Znalostní inženýrství Životaschopný model systému Strojové učení Nervová síť fuzzy logika zpracování přirozeného jazyka Rozpoznávání vzorů Swarm Intelligence Symbolická AI Evoluční algoritmy Expertní systém
aplikace	Hlasová kontrola Klasifikační problém Klasifikace dokumentů Shlukování dokumentů shluková analýza Místní vyhledávání Strojový překlad Optické rozpoznávání znaků Rozpoznávání řeči Rozpoznávání rukopisu Herní AI
Výzkumníci	Charles Babbage Vladimír Vapník Josef Weizenbaum Norbert Wiener Viktor Gluškov Vladimír Gorodecký Jan LeCun Alexej Ljapunov John McCarthy Marvin Minsky Allen Newell Seymour Papert Judah Pearl Germogen Pospelov Dmitrij Pospelov Frank Rosenblatt Herbert Alexander Simon Alan Turing Patrik Winston Viktor Finn Sergej Fomin Demis Hassabis Geoffrey Hinton Noam Chomsky Claude Shannon Andrew Eun Eliezer Yudkovsky

Strojové učení a dolování dat
Úkoly	Klasifikační problém Učení bez učitele Učení za pomoci učitele Regresní analýza AutoML Pravidla asociace Extrakce funkcí Trénink vlastností Žebříčkový trénink Gramatické odvozování Online učení
Učení s učitelem	metoda k-nejbližšího souseda Naivní Bayesův klasifikátor rozhodovací strom Podpora vektorového stroje Lineární regrese Logistická regrese perceptron Soubory modelů Pytlování posilování náhodný les Relevantní vektorová metoda
shluková analýza	metoda k-means Metoda fuzzy shlukování Hierarchické shlukování EM algoritmus BŘÍZA LÉK DBSCAN OPTIKA Střední posun
Redukce rozměrů	Faktorová analýza Metoda hlavní součásti CCA ICA LDA Nezáporná expanze matice t-SNE
Strukturální prognózy	Graf pravděpodobnosti modelu Bayesovská síť Skrytý Markovův model CRF
Detekce anomálií	metoda k-nejbližšího souseda Místní úroveň emisí
Grafové pravděpodobnostní modely	Bayesovská síť Markovská síť Skrytý Markovův model
Neuronové sítě	Limitovaný Boltzmannův stroj samoorganizující se mapa Aktivační funkce Sigmoid softmax Radiální základní funkce Metoda zpětného šíření Hluboké učení Vícevrstvý perceptron Rekurentní neuronová síť dlouhodobá krátkodobá paměť Řízený rekurentní blok Konvoluční neuronová síť U-Net Autokodér
Posílení učení	Markovský proces Bellmanova rovnice Chamtivý algoritmus Q-učení SARSA Časový rozdíl (TD)
Teorie	Vapnik-Chervonenkis teorie Dilema zkreslení Počítačová teorie učení Empirická minimalizace rizika Occam se učí PAC učení Statistická teorie učení
Časopisy a konference	NeurIPS ICML ML JMLR ArXiv:cs.LG