Activity and Memory in Biologically Motivated Neural Network.

Abstract

v češtině Tato práce prezentuje biologicky motivovaný model neuronové sítě, který fun- guje jako autoasociativní paměť. Architektura prezentovaného modelu od- povídá architektuře Hopfieldovy sítě, jež může odpovídat některým částem, které byly identifikovány v hipokampální oblasti CA3 (Cornu Amonis). Vzory v modelu nejsou statické stavy neuronů, ale cyklicky se opakující synchronní aktivity s nízkým relativním počtem současně aktivních neuronů. Vzory jsou do sítě uloženy pomocí Hebbova pravidla upraveného na ukládání sekvencí. Navrhnutý model je analyzován z pohledu kapacity spolu s numerickými si- mulacemi. Model je dále rozšířen o krátkodobé posilování synapsí (STP), které je v modelu nutnou součásí správného vybavování vzorů. Důsledkem tohoto rozšíření je další výrazné zvýšení kapacity modelu. V práci je disku- tována možnost kombinace obou přístupů. Síť může zpracovat vzory v krátkém časovém intervalu bez STP (rychlé vzory) nebo pomocí STP v delším časovém intervalu (pomalé vzory). Z vlastní zkušenosti víme, že některé vzory se mohou vybavit rychle a některé k vybavení potřebují daleko delší čas. Klíčová slova auto-asociativní neuronová síť, Hebovské učení, kódování v nervovém systému, paměť, rozpoznávání vzorů, krátkodobé posilování synapsí 3

This work presents biologically motivated neural network model which works as an auto-associative memory. Architecture of the presented model is similar to the architecture of the Hopfield network which might be similar to some parts of the hippocampal network area CA3 (Cornu Amonis). Patterns learned and retrieved are not static but they are periodically repeating sequences of sparse synchronous activities. Patterns were stored to the network using the modified Hebb rule adjusted to store cyclic sequences. Capacity of the model is analyzed together with the numerical simulations. The model is further extended with short term potentiation (STP), which is forming the essential part of the successful pattern recall process. The memory capacity of the extended version of the model is highly increased. The joint version of the model combining both approaches is discussed. The model might be able to retrieve the pattern in short time interval without STP (fast patterns) or in a longer time period utilizing STP (slow patterns). We know from our everyday life that some patterns could be recalled promptly and some may need much longer time to reveal. Keywords auto-associative neural network, Hebbian learning, neural coding, memory, pattern recognition, short-term potentiation 1