Kohonen Netz / Self Organizing Maps (SOM)

[anonymus]

Hallo,

vielleicht hat ja jemand Erfahrung damit.

Das Training von diesen Karten hab ich denk ich halbwegs umrissen.
Probleme hab ich aber noch, wie dann das trainierte Netz angewendet wird.

Während des Trainings ergeben sich in der Wettbewerbsschicht Zonen,
die bestimmte Eingabemuster repräsentieren, wobei ähnliche Eingaben
(hoffentlich) ähnliche Gebiete in der Ausgabe aktivieren.

Was ich aber noch nicht kapiert hab ist, wie man rausfindet, welche
Neuronen der Ausgabeschicht eine solche Zone bilden, also zusammengehören
und somit für ähnliche Eingaben stehen.
Während des Trainings "leuchtet" doch immer nur ein Neuron auf, das dann noch
ein bisschen "heller" gemacht wird und somit auch auf seine Nachbarn abstrahlt.
Aber wenn jetzt eine unbekannte Eingabe gemacht wird, leuchtet doch i. d. R. ein
anderes Neuron auf.
Wie stellt man dann fest, zu welchem gelernten Muster die unbekannte Eingabe
ähnlich ist?

Leider schweigen sich die Tutorials, die ich bisher gefunden hab darüber aus.

mfg
Martin

PS:
Angenommen das Netz wird mit Binärbildern trainiert.
Ist das Netzt dann eigentlich anfällig, wenn in der Anwendungsphase Muster
präsentiert werden, die zu den trainierten um einige Pixel verschoben sind?

Z. B. das Hopfield Netz scheint da sehr empfindlich zu sein.
Störungen (z. B. fehlende Pixel) im Muster sind dem zwar einigermassten egal,
aber wenn das Eingabemuster verschoben wird, kommt nur noch Müll raus.

[Prof84]

anonymus schrieb:

Während des Trainings ergeben sich in der Wettbewerbsschicht Zonen,
die bestimmte Eingabemuster repräsentieren, wobei ähnliche Eingaben
(hoffentlich) ähnliche Gebiete in der Ausgabe aktivieren.

Du meinst ein bestimmtes Maxima von topologischen Karten führen zu einer bestimmten Karte im Netz die zu ähnlichen Ausgaben.

anonymus schrieb:

Was ich aber noch nicht kapiert hab ist, wie man rausfindet, welche Neuronen der Ausgabeschicht eine solche Zone bilden, also zusammengehören und somit für ähnliche Eingaben stehen.
Während des Trainings "leuchtet" doch immer nur ein Neuron auf, das dann noch
ein bisschen "heller" gemacht wird und somit auch auf seine Nachbarn abstrahlt.
Aber wenn jetzt eine unbekannte Eingabe gemacht wird, leuchtet doch i. d. R. ein anderes Neuron auf.
Wie stellt man dann fest, zu welchem gelernten Muster die unbekannte Eingabe
ähnlich ist?

Gar nicht!

Scherer schrieb:

Der Hauptunterschied zu konventionellen Methoden des überwachten Lernens besteht darin, dass Fehlerfunktionen - wie wir sie etwa bei dem Backpropagation-Algorithmen kennengelernt haben - nicht anwendbar sind.

Sprich Du kannst aufgrund der Ausgabeschicht nicht auf die topologsche Karte schließen und bei einer Varianz ein Testvektor für Ein- und Ausgabe entwickeln.

Beispiel aus der Spracherkennung:
User nuschelt was vor sich hin und das System "erkennt" (interpretiert) dies als einen bestimmten Begriff. User nuschelt ein bisschen anders und das System interpretiert ein völlig anderen Begriff, der akkustisch noch nicht einmal ähnlich klingt. Obwohl beide Eingaben in der symbolischen Bedeutung gleich wären, ist die topologische Karte der Eingabe stark variant. Einen Testvektor für die Varianz, wobei weder das Eingabemuster noch die Varianz bekannt sind, ist deshalb nicht möglich.

Eine Alternative, die eine Musterklassifikation verifizierbar machen würde, wären Support Vector Machines (SVM's)
http://de.wikipedia.org/wiki/Support-Vector-Machine

anonymus schrieb:

Angenommen das Netz wird mit Binärbildern trainiert.
Ist das Netzt dann eigentlich anfällig, wenn in der Anwendungsphase Muster
präsentiert werden, die zu den trainierten um einige Pixel verschoben sind?

Ja, weil ein Scoping der Varianz nicht möglich ist!

anonymus schrieb:

Z. B. das Hopfield Netz scheint da sehr empfindlich zu sein.
Störungen (z. B. fehlende Pixel) im Muster sind dem zwar einigermassten egal,
aber wenn das Eingabemuster verschoben wird, kommt nur noch Müll raus.

Dann hast Du das Hopfield nicht richtig programiert oder einen Schwerpunkts- oder Kantenfilter in der Recall- Phase vergessen. Das ist eigentlich eine Frage der Programmierung und Thema der Tank-Hopfield-Netze selbst.

cu
:xmas1: Prof84

[anonymus]

hm,

danke für die Antwort.

So wie's scheint, hab ich da bisher einiges mehr noch nicht so ganz umrissen.

Werd's mir wohl nochmal von Grund auf anschauen müssen.

thx
Martin