Gradientní učení pro sítě hladce pulzních neuronů

Abstract

Sítě pulzních (spiking) neuronů představují biologicky více plausibilní alter-nativu k perceptronovým sítím mající velký potenciál pro zpracování časových řad. Nicméně doposud pro ně nebyl znám prakticky použitelný učící algoritmus. SpikeProp založený na gradientní metodě a jeho modifikace mají problém s principiální nespojitostí vzniku a zániku pulsů. Tuto otázku se snaží vyřešit nový netriviální gradientní učící algoritmus pro model hladce pulzních neuronů. Cílem práce je implementace a testování tohoto modelu a případné navržení jeho dalších vylepšení.

Networks of spiking neurons present a biologically more plausible alternative to perceptron networks, having great potential for processing time series. However, as of now, no practically usable learning algorithm has been known. SpikeProp, based on a gradient descent method, and its modifications have a fundamental problem with dis-continuity of spike creation and deletion. A new nontrivial gradient learning algorithm for a model of smoothly spiking neurons is proposed as a possible way to solve this problem. The goal of this work is to implement and test this model and eventually propose further improvements.