Metoda opravy chybové zpětné vazby

Metoda korekce chybové zpětné vazby je stochastická metoda trénování perceptronů nezbytná k zajištění konvergence s proměnnými spojeními více než jedné vrstvy. Metodu navrhl Rosenblatt pro perceptrony s proměnnými SA spojeními a lze ji použít pro binární vícevrstvé perceptrony . Je alternativou k metodě backpropagation , ale na rozdíl od ní zaručuje proces konvergence (dosažení řešení).

Algoritmus

Pro každý R-prvek je nastavena chyba , kde je požadovaná a je dosažená odezva. $E_{r}=R^{*}-r^{*}$ $R^{*}$ $r^{*}$
Pro každý A-prvek se chyba vypočítá takto: $a_{i}$
- Na začátku ; $E_{i}=0$
- Pokud je prvek aktivní a odkaz ( nebo obecně ) končí u prvku R s nenulovou chybou , která se znaménkem liší od váhy odkazu , pak by se s pravděpodobností měla přidat korekce rovna -1 ; $a_{i}$ $c_{{ir}}$ ${\textstyle c_{{ir}}=a_{i}\cdot w_{{ir}}}$ ${\textstyle c_{{ir}}=f(w_{{ir}},a_{i})}$ $E_{r}$ $w_{{ir}}$ $p_{1}$ $E_{i}$
- Pokud je prvek neaktivní a odkaz končí u prvku R s nenulovou chybou , neliší se (shoduje se) ve znaménku od váhy odkazu , pak by s pravděpodobností měla být přidána korekce rovna +1 ; $a_{i}$ $c_{{ir}}$ $E_{r}$ $w_{{ir}}$ $p_{2}$ $E_{i}$
- Pokud je prvek neaktivní a odkaz končí u prvku R s nenulovou chybou , která se znaménkem liší od váhy odkazu (nebo ), pak by s pravděpodobností měla být přidána korekce rovna +1 ; $a_{i}$ $c_{{ir}}$ $E_{r}$ $w_{{ir}}$ $w_{{ir}}=0$ $p_{3}$ $E_{i}$
- Za všech ostatních podmínek se nemění. $E_{i}$
Pokud , pak všem aktivním vazbám končícím na prvek A nebo R přidáme opravu se znaménkem, které se shoduje se znaménkem , tzn. , kde je absolutní hodnota (obvykle jedna). $E_{i}\not=0$ $\eta$ $E_{i}$ $\Delta w_{{ij}}=a_{i}^{*}znak(E_{i})\varepsilon$ $\varepsilon$ $\eta$

Ve většině případů lze dosáhnout nejlepšího výkonu, pokud jsou pravděpodobnosti zvoleny podle následující podmínky . ${\displaystyle p_{1}>p_{2}>p_{3))$

Literatura

Rosenblatt, F. Principy neurodynamiky: perceptrony a teorie mozkových mechanismů. - M .: Mir, 1965. - 480 s.

Lakhmi C. Jain; NM Martin Fúze neuronových sítí, fuzzy systémů a genetických algoritmů: průmyslové aplikace. - CRC Press, CRC Press LLC, 1998