Tsybenkova věta

Aktuální verze stránky ještě nebyla zkontrolována zkušenými přispěvateli a může se výrazně lišit od verze recenzované 13. června 2020; ověření vyžaduje 1 úpravu .

Tsybenkův teorém , The Universal Approximation Theorem je teorém dokázaný Georgem Tsybenkem v roce 1989 , který říká, že umělá dopředná neuronová síť s jednou skrytou vrstvou může aproximovat jakoukoli spojitou funkci mnoha proměnných s jakoukoli přesností. Podmínky jsou: dostatečný počet neuronů ve skryté vrstvě, dobrý výběr a , kde $\mathbf {w} _{1},\mathbf {w} _{2},\tečky ,\mathbf {w} _{N},\mathbf {\alpha } ,$ $\mathbf {\theta }$

{\displaystyle \mathbf {w} _{i))

— váhy mezi vstupními neurony a neurony skryté vrstvy,

\mathbf {\alpha }

- váhy mezi spojeními z neuronů skryté vrstvy a výstupním neuronem,

\mathbf {\theta }

— offsety pro neurony vstupní vrstvy.

Formální prezentace

Nechť libovolnou spojitou sigmoidní funkci , například . Pak, pokud je dána jakákoli spojitá funkce reálných proměnných na (nebo jakékoli jiné kompaktní podmnožině ) a , pak existují vektory a parametrizovaná funkce taková , že pro všechny $\varphi$ $\varphi (\xi )=1/(1+e^{-\xi })$ $F$ ${\displaystyle [0,1]^{n))$ $\mathbb {R} ^{n}$ $\varepsilon >0$ $\mathbf {w_{1}} ,\mathbf {w_{2}} ,\tečky ,\mathbf {w_{N}} ,\mathbf {\alpha }$ $\mathbf {\theta }$ $G(\mathbf {\cdot } ,\mathbf {w} ,\mathbf {\alpha } ,\mathbf {\theta } ):[0,1]^{n}\to R$ ${\displaystyle \mathbf {x} \in [0,1]^{n))$

{\big |}G(\mathbf {x} ,\mathbf {w} ,\mathbf {\alpha } ,\mathbf {\theta } )-f(\mathbf {x} ){\big |} <\varepsilon ,

kde

G(\mathbf {x} ,\mathbf {w} ,\mathbf {\alpha } ,\mathbf {\theta } )=\sum _{i=1}^{N}\alpha _{i} \varphi (\mathbf {w} _{i}^{T}\mathbf {x} +\theta _{i}),

a a $\mathbf {w} _{i}\in \mathbb {R} ^{n},$ $\alpha _{i},\theta _{i}\in \mathbb {R} ,$ $\mathbf {w} =(\mathbf {w} _{1},\mathbf {w} _{2},\dots ,\mathbf {w} _{N}),$ $\mathbf {\alpha } =(\alpha _{1},\alpha _{2},\tečky ,\alpha _{N}),$ $\mathbf {\theta } =(\theta _{1},\theta _{2},\tečky ,\theta _{N}).$

Odkaz

Cybenko, G. V. Aproximace superpozicemi sigmoidální funkce // Matematika řídicích signálů a systémů. - 1989. - V. 2 , č. 4 . - S. 303-314 .
Hassoun, M. Základy umělých neuronových sítí. - MIT Press, 1995. - S. 20, 48.

Tsybenkova věta

Formální prezentace

Odkaz

Viz také