Lidská paměť je asociativní, to znamená, že určitá paměť může generovat velkou oblast s ní spojenou. Jeden předmět nám připomíná jiný a tento jiný třetí. Pokud dovolíme našim myšlenkám , budou se pohybovat od předmětu k předmětu v řetězci mentálních asociací . Například několik taktů hudby může vyvolat celou škálu smyslových vzpomínek, včetně scenérie, zvuků a vůní. Naproti tomu konvenční počítačová paměť je lokálně adresovatelná, prezentuje adresu a získává informace na této adrese.
Umělá neuronová síť se zpětnou vazbou tvoří asociativní paměť. Stejně jako lidská paměť se podle dané části potřebné informace všechny informace získávají z „paměti“.
Autoasociativní paměť je paměť , která může dokončit nebo opravit obrázek, ale nemůže spojit výsledný obrázek s jiným obrázkem. Tato skutečnost je výsledkem jednoúrovňové struktury asociativní paměti, ve které se vektor objevuje na výstupu stejných neuronů, které přijímají vstupní vektor. Takové sítě jsou nestabilní. Pro stabilní síť vedou následné iterace k menším a menším změnám ve výstupu, dokud se výstup nakonec nestane konstantní. U mnoha sítí tento proces nikdy nekončí. Nestabilní sítě mají zajímavé vlastnosti a byly studovány jako příklad chaotických systémů. V určitém smyslu toho lze dosáhnout bez zpětné vazby, například pomocí perceptronu pro případy, kdy je stabilita důležitější než studium chaotických systémů.
Heteroasociativní paměť je paměť, ve které, když podnět dorazí na jednu sadu neuronů, objeví se zpětná vazba na další sadu neuronů.
První autoasociativní paměťový model vyvinul Hopfield, Hopfield Neural Network . Aby bylo dosaženo stability, musely být váhové koeficienty voleny tak, aby tvořily energetická minima v požadovaných vrcholech jednotkové hyperkrychle.
Následně Kosko rozvinul myšlenky Hopfielda a vyvinul model heteroasociativní paměti – obousměrnou asociativní paměť (BDA).
Ale úplně stejného výsledku lze dosáhnout pomocí široké třídy rekurentních neuronových sítí , jejichž klasickým příkladem je Elmanova síť , přičemž problém stability odpadá a na váhové koeficienty nejsou kladeny tak přísné podmínky, kvůli kterým síť má větší kapacitu. Rekurentní neuronové sítě navíc mohou popisovat stavový stroj, aniž by ztratily všechny výhody umělých neuronových sítí.
Řada prací se zabývala možnostmi konceptu asociativní paměti aplikovaným na programovací jazyky a hardwarovou implementaci procesoru . A následující bylo použito jako pracovní definice:
Asociativní paměť je obvykle chápána jako určitá množina nebo soubor prvků, které mají schopnost uchovávat informace. K těmto prvkům se přistupuje současně a paralelně podle obsahu dat v nich uložených, a nikoli zadáním adresy nebo umístění prvku.
Ale takové chápání asociativní paměti odráží v podstatě pouze fakt existence vztahů mezi daty a nemá nic společného se samotným mechanismem ukládání informací. Proto se termín "obsahově adresovatelná paměť" (CAM) používá k označení takového mechanismu ukládání informací.
Jakmile byl kladen důraz na návrh "obsahově adresovatelné paměti", bylo možné zjednodušit požadavky na samotné porozumění asociativitě a vyvinout zařízení, která mají asociativitu pouze v určitém smyslu. Takže například první věc, která byla zjednodušena, je předpoklad, že paralelismus při provádění vyhledávacích operací není v podstatě základní funkční charakteristikou.
Druhé zjednodušení je spojeno s popřením potřeby distribuované paměti, protože asociativitu ve smyslu paměti s adresováním obsahem lze formálně dosáhnout bez potřeby distribuce informací mezi paměťovými prvky. Naproti tomu je možné jednotku informace uložit integrálně v určité buňce, mající pouze informaci o přímých spojeních této buňky s ostatními – tak chápeme sémantické sítě . Tyto principy se využívají i při indexování a vyhledávání v moderních databázích. Samozřejmě v tomto smyslu toto zjednodušení odporuje myšlenkám konektivismu (které jsou založeny na umělých neuronových sítích ) a plynule přechází k myšlenkám symbolismu.
To hlavní, co se v tomto zjednodušení ztrácí, je jedna z úžasných vlastností biologické paměti. Je známo, že různé druhy poškození mozkové tkáně vedou k porušení funkčních charakteristik paměti. Přesto se ukázalo jako mimořádně obtížné izolovat jevy spojené s lokalizací paměťových funkcí v práci jednotlivých nervových struktur. Vysvětlení toho je založeno na předpokladu, že paměťové stopy jsou v mozku reprezentovány ve formě prostorově rozmístěných struktur vzniklých jako výsledek nějaké transformace primárních vjemů.
Ale přesto, i když s takovým zjednodušením, se ztratila řada biologicky věrohodných vlastností, což je důležité při modelování mozku , ale v technickém smyslu se ukázalo, jak implementovat paměť adresovatelnou obsahem. Díky tomu se objevily myšlenky o hašování , které byly následně implementovány jak v programovacích jazycích, tak v hardwarové implementaci některých procesorů.
Třetí zjednodušení souvisí s přesností spárování požadovaných informací. Vzorkování dat na základě jejich obsahu vždy zahrnuje nějakou formu porovnání externě specifikovaného klíče, který by měl být prohledán, s některými nebo všemi informacemi uloženými v paměťových buňkách. Účelem srovnání by nemělo být vždy zobrazení informací, které odpovídají klíči. Například při hledání hodnot, které se nacházejí v daném intervalu. V tomto případě máme klasický způsob použití SQL při výběru z databáze . Je ale možná možnost vyhledávání, kdy je nutné mezi datovými sadami najít ta, která nejlépe (ve smyslu nějakého daného měřítka) odpovídají klíčové informaci.
V této formulaci je problém asociativního vzorkování velmi blízký problému rozpoznávání vzorů . Rozhodující jsou ale použité metody - pokud význam asociativnosti nepodléhá zde popsaným zjednodušením, pak máme co do činění s rozpoznáváním vzorů pomocí umělých neuronových sítí , v opačném případě se zabýváme optimalizací provozu databází (a také hardware cache procesorů), nebo metody asociativní reprezentace dat (například sémantické sítě ). Odtud by mělo být zřejmé, že asociativní reprezentace dat a některé metody práce s obsahově adresovatelnou pamětí nestačí k pochopení asociativní paměti v plném slova smyslu.
Čtvrté zjednodušení může souviset s tzv. problémem časových asociací , který z hlediska programování patří do teorie automatů . Tyto problémy jsou spojeny s vývojem metod pro ukládání a získávání časově uspořádaných sekvencí z paměti. Zároveň se mohou větvit, tvořit sekundární alternativní sekvence a přechod k jedné z nich je dán obsahem nějaké podkladové nebo kontextové informace. Tyto sekvence mohou také obsahovat uzavřené smyčky.
Z hlediska programování či symboliky jsou tedy ve vztahu k asociativní paměti všechny stejné problémy a úkoly jako v umělé inteligenci . Rozdíl je v tom, že v programování lze provádět zjednodušení a konstruovat metody, které jen částečně uspokojí pochopení asociativní paměti. Zatímco konektivismus se snaží vyřešit problém asociativní paměti pomocí metod, které neobsahují zjednodušení ve smyslu zde popsaných, mají určitou stochasticitu a nepředvídatelnost ve smyslu metody, ale nakonec poskytují smysluplný výsledek v oblastech rozpoznávání vzorů nebo adaptivní řízení.
| Typy umělých neuronových sítí | |
|---|---|
| |
| Strojové učení a dolování dat | |
|---|---|
| Úkoly | |
| Učení s učitelem | |
| shluková analýza | |
| Redukce rozměrů | |
| Strukturální prognózy | |
| Detekce anomálií | |
| Grafové pravděpodobnostní modely | |
| Neuronové sítě | |
| Posílení učení |
|
| Teorie | |
| Časopisy a konference |
|