| |
Möglichkeit, zu der es in traditionellen neuronalen Netzen keine Ents prechung gibt.
Biologische Experimente haben gezeigt, dass diese Aktivierungskorrelationen eine
signifikante Rolle in der Informationsverarbeitung neuronaler Systeme spielen.31
Im Abschnitt 4.3.1 sollen zunächst zwei Modelle für die Modellierung von Neuronalen
Netzen mit Feedback vorgestellt werden. Diese Modelle eignen sich durch die groß e Zahl an
Verknüpfungen besonders für die Arbeit mit Aktivierungskorrelationen. Neben der
Identifizierung von korrelierter Aktivierung können Spike Neuronen di ese aber auch
induzieren, indem dieselben Spike Trains an verschiedene postsynaptische Neuronen gesendet
werden. Das erste hier angesprochene Modell wurde [Eckhorn et al., 1990] entnommen, das
zweite, ein ähnliches auf einem abstrakteren Niveau, [Kay und Phillips, 1996]. Neuronale
Netze, basierend auf diesen Modellen, können hervorragend mit Netzen zur assoziativen
Speicherung von Informationen, wie sie in Kapitel 4.4 vorgestellt werden, verbunden werden.
Feedforward Informationen, die die gesuchte Erinnerung kodieren, werden in diese Netze
eingespeist, als Feedback kommen in zeitlicher und räumlicher Kodierung Spike Trains, die
die Erinnerung kodieren. Eine detaillierte Erläuterung folgt in 4.4.32
Prinzipiell kann jede Funktion, die mit einem dieser Modelle berechnet werden kann, auch
mit einem konventionellen Netz aus sigmoiden Gattern oder einem Netzwerk aus Spiking
Neuronen, die alle Informationen in ihren Aktivierungsraten kodieren, berechnet werden. Dies
folgt aus der Erkenntnis, dass mit einem sigmoiden Netz jede beliebige stetige Funktion
angenähert werden kann. Dadurch wird die Frage nach der Vorteilhaftigkeit der vorgestellten
Modelle auf quantitative Aspekte reduziert. Diese quantitativen Aspekte sollen im Abschnitt
4.3.2 dieses Kapitels untersucht werden.
4.3.1 Modelle für neuronale Netze mit Feedback
Ausgangsbasis des ersten Modells nach Eckhorn sind modifizierte Integrate-And-Fire
Neuronen. Integrate-And-Fire Neuronen summieren (integrieren) ihren Input und werden
aktiviert (feuern), sobald der Schwellwert überschritten ist. Integrate-And-Fire Neuronen
haben einen Widerstand (leaky integrator), durch den parallel zum Aufladen des Neurons es
gleichzeitig auch entladen wird (es leckt durch den Widerstand). Die Stärke des Entladens
wird durch eine Zeitkonstante bestimmt. Das modifizierte Integrate-And-Fire Neuron hat
zwei verschiedene Typen von Inputs: Feeding Input und Linking Input. Der Feeding Input
kommt üblicherweise aus vorgeschalteten Verarbeitungsschichten und wird du rch
Feedforward Verbindungen weitergeleitet. Der Linking Input kommt von nachgeschalteten
Verarbeitungsschichten und wird über Feedback Verbindungen zurückg eleitet. Beide Inputs
können eigene Leckströme mit verschiedenen Zeitkonstanten haben. Sie werden multipliziert,
um das Membranpotential zu bilden. Abbildung 4.3, zeigt wie so ein modifizierter Schaltkreis
aufgebaut wird, Abbildung 4.4 ist eine symbolische Darstellung des Neurons in Abbildung
4.3.
31
vgl. [Eckhorn et al., 1988]
32
Grundlage diese Kapitels sind [Maass und Bishop, 1998], Kap. 2.7 und [Maass, 1998]
26
|  |
|
| |
|
|