Kosko's Neural Network , Bidirectional Associative Memory ( BDA ) je neuronová síť vyvinutá Bartem Koskem . Jedná se o zpětnovazební neuronovou síť založenou na dvou myšlenkách: Teorii adaptivní rezonance Stefana Grosberga a autoasociativní paměti .
DAP je heteroasociativní : vstupní vektor je přiváděn do jedné sady neuronů a odpovídající výstupní vektor je vytvářen na jiné sadě neuronů. Stejně jako síť Hopfield je i DAP schopen zobecnění a produkovat správné odezvy navzdory zkresleným vstupům. Kromě toho lze implementovat adaptivní verze DAP, které extrahují referenční obraz z hlučných instancí. Tyto schopnosti silně připomínají proces lidského myšlení a umožňují umělým neuronovým sítím udělat krok směrem k simulaci mozku.
Síť se skládá ze dvou vrstev prvků, mezi nimiž jsou obousměrné vazby spojené s prvky na principu vše se všemi. Proto lze k popisu sítě použít váhovou matici. V případě, že je tato matice čtvercová a symetrická, DAP se změní na autoasociativní Hopfieldovu síť.
Když je na síťový vstup přiveden zašuměný signál, trvá přenos signálů v rámci DAP tak dlouho, než síť najde nejbližší standard (asociaci), na který byla síť předtím trénována. Tento proces lze interpretovat jako vzpomínání a stabilizaci paměti.
Kontinuální asynchronní DAP odmítají synchronicitu a diskontinuitu, ale fungují v podstatě stejným způsobem jako diskrétní verze.
V synchronním DAP jsou formální neurony ve vrstvách 1 a 2 synchronní, to znamená, že každý neuron má paměť a všechny neurony mění stavy současně. V asynchronním systému může každý neuron změnit stav kdykoli, když mu to jeho vstup dá pokyn.
Při určování aktivační funkce neuronu byl použit jednoduchý práh, čímž se vytvořila diskontinuita v přenosové funkci neuronů. V tomto okamžiku se metoda zpětného šíření stává známou, takže je možné vytvořit kontinuální modifikaci DAP. Bylo prokázáno, že sigmoid je schopen zesílit signály nízké úrovně a zároveň komprimovat dynamický rozsah neuronů. Kontinuální DAP může mít sigmoidální funkci s hodnotou l blízkou jedné, čímž tvoří neurony s hladkou a kontinuální odezvou.
Adaptivní DAP během provozu mění svou hmotnost. To znamená, že dodávka cvičné sady vstupních vektorů na síťový vstup způsobí, že změní energetický stav, dokud není získána rezonance. Postupně se krátkodobá paměť mění v paměť dlouhodobou, která v důsledku svého fungování vylaďuje síť. Během procesu učení jsou vektory přiváděny do vrstvy A a související vektory do vrstvy B. Jeden z nich nebo oba vektory mohou být zašuměnými verzemi šablony; síť je trénována na původních vektorech bez šumu. V tomto případě extrahuje podstatu asociací učením se z norem, ačkoli „viděl“ pouze hlučné aproximace.
V mnoha konkurenčních neuronových systémech je pozorována určitá konkurence mezi neurony. U neuronů, které zpracovávají signály ze sítnice, vede laterální inhibice ke zvýšení výstupu nejaktivnějších neuronů na úkor sousedních. Takové systémy zvyšují kontrast zvýšením úrovně aktivity neuronů připojených ke světlé oblasti sítnice a zároveň dále zeslabují výstupy neuronů připojených k tmavým oblastem.
V DAP je konkurence realizována vzájemným spojením neuronů v rámci každé vrstvy prostřednictvím dalších spojení. Váhy těchto vazeb tvoří další váhovou matici s kladnými hodnotami prvků hlavní úhlopříčky a zápornými hodnotami zbývajících prvků.
| Typy umělých neuronových sítí | |
|---|---|
| |