Kohonennetze - Informatik 12

Kohonennetze
Selbstorganisierende Karten
Julian Rith, Simon Regnet, Falk Kniffka
Seminar: Umgebungsexploration und Wegeplanung mit Robotern
Kohonennetze: Neuronale Netze
● In Dendriten werden die ankommenden
Signale von anderen Nervenzellen
aufgenommen
● Übersteigt ein Reiz den Schwellenwert,
dann ‚feuert‘ das Neuron einen Impuls
über seine Ausgänge – Axonen – ab.
● Synapsen bilden die Verbindungsstellen
zwischen Axonen und Dendriten.
Künstliche Neuronen sind in
Anlehnung an natürliche
Neuronen modelliert und werden
mit einigen derer grundlegenden
Eigenschaften versehen.
Julian Rith, Simon Regnet, Falko Kniffka
Kohonennetze: Neuronale Netze
Ausgangsvektor (Output)
m
Ausgabeschicht
Verarbeitung
verborgene Schicht(en)
Eingabeschicht
Eingangsvektor (Input)
n
Ein neuronales Netz
● hat n≥1 Eingänge und m≥1 Ausgänge
● besitzt mindestens eine, meistens mehre Schichten
▪ meist eine Eingabeschicht
▪ eine Ausgabeschicht
▪ beliebig viele verborgene Schichten
Julian Rith, Simon Regnet, Falko Kniffka
Kohonennetze: Neuronale Netze
Schichten
N1
W11
N1
N2
W21
W22
W23
N2
N3
…
Wi 3
W33
N3
…
Nj
Schicht B
Wi j
Ni
Schicht A
Wie wird lernen ermöglicht?
Den Verbindungen wird eine unterschiedlich große Bedeutung zugewiesen.
→ Die Informationen werden gewichtet.
Die Gewichte werden solange modifiziert, bis eine Eingabe zu der gewünschten
Ausgabe führt.
Lernen bedeutet also das Verändern von Gewichten.
Julian Rith, Simon Regnet, Falko Kniffka
Kohonennetze: Neuronale Netze
Lernmodi
● assoziatives Lernen (überwachtes Lernen):
Hierbei müssen die Eingabedaten und die mit diesen Daten verbundenen
Ausgabedaten vorliegen.
● Unüberwachtes Lernen:
Es ist nur ein Eingabevektor nötig. Das Netzwerk muß selbständig die
relevanten Daten erkennen, intern repräsentieren und klassifizieren.
Julian Rith, Simon Regnet, Falko Kniffka
Kohonennetze:
Self-Organizing Maps (SOM) – Kohonen-Netze
• Verwenden unüberwachtes Lernverfahren
• Berechnen anhand der Eingabedaten Häufungen
• Definiert so eigenständig Klassen oder Partitionen
• Abbildung von mehrdimensionalen bzw. komplexen Gebilde
Julian Rith, Simon Regnet, Falko Kniffka
Kohonennetze:
Aufbau von Kohonen-Netze
• Nur Eingabeschicht und Ausgabeschicht
• Verbindung durch Gewichtsvektoren
• Vernetzung von Kohonen-Neuronen untereinander
• Kohonen-Schicht: Unterschiedliche Formen in unterschiedlichen
Dimension
Julian Rith, Simon Regnet, Falko Kniffka
Kohonennetze:
Das Lernverfahren
• Siegerneuron wird durch Euklidische Norm in der Kohonen-Schicht bestimmt
• c ist der Index des Kohonen-Neurons, das der Eingabe am ähnlichsten ist.
• Trainingsfunktion berechnet alle Gewichtsvektoren neu
•η(t)
•h(t)
monoton fallende Konstante für Trainingsschritte
Nachbarschaftsfunktion, beschreibt wie Nachbarneuronen beeinflusst
werden
•|| X(t) - Wj(t) || Euklidischer Abstand zwischen Eingabeneuron und
Kohonen-Neuron
Julian Rith, Simon Regnet, Falko Kniffka
Kohonennetze:
Das Lernverfahren
Beispiele für Nachbarschaftsfunktionen
Mexican-Hat Funktion
Gauß‘sche Glockenfunktion
Cosinusfunktion
Julian Rith, Simon Regnet, Falko Kniffka
Kohonennetze:
Das Lernverfahren
Ein Adaptionsschritt
:
m ist Dimension der Eingabeschicht
n ist Dimension der Ausgabeschicht
t ist die Zeitliche Komponente
Julian Rith, Simon Regnet, Falko Kniffka
Kohonennetze:
Anwendungsbereiche in der Robotik
• Signalverarbeitung
• Akustik
• Visuell
• Bewegungssteuerung in unbekannter Umgebung
• Optimierungsfragen
Julian Rith, Simon Regnet, Falko Kniffka
Kohonennetze:
Travelling Salesman Problem & Kohonennetze
• Kohonennetz wird durch Ring präsentiert
• Übertragen der Städte auf das Neuronen-Koordinatensystem
Julian Rith, Simon Regnet, Falko Kniffka
Kohonennetze:
Travelling Salesman Problem & Kohonennetze
• Reize von den Städten
• Ermittlung eines Winner-Neurons
• Verschiebung Richtung Stadt
• Löschung der Unbeteiligten
Julian Rith, Simon Regnet, Falko Kniffka
Kohonennetze: Fazit
Einsatz von Kohonennetzen in der Robotik
Contra:
• Ungültige oder unbrauchbare Zwischenergebnisse
• Training
Pro:
• Unüberwachtes Lernen
• Brauchbare Abbildung komplexer Informationen
• Robustheit
Julian Rith, Simon Regnet, Falko Kniffka
Wir danken für Ihre Aufmerksamkeit
Julian Rith, Simon Regnet, Falk Kniffka
Seminar: Umgebungsexploration und Wegeplanung mit Robotern
Kohonennetze: Literaturhinweise
• Ritter, Helge: Neuronale Netze: Eine Einführung in die Neuroinformatik
selbstorganisierender Netzwerke
Addison-Wesley; Bonn/München; 1991
• Scherer, Andreas : Neuronale Netze – Grundlagen und Anwendungen;
Vieweg; Wiesbaden; 1997
• Zakharian, Serge: Neuronale Netzt für Ingenieure; Vieweg; Wiesbaden; 1998
• Börner, Sven: Probleme eines Handungsreisenden, HTW Dresden
http://www.informatik.htw-dresden.de/~iwe/Belege/Boerner/
• Bourg, David M. & Seemann Glenn: AI for Game Developers;
O‘Railly Media, Inc; Sebastolpol; 2004
•Schöneburg, Eberhard: Neuronale Netzwerke : Einführung, Überblick und
Anwendungsmöglichkeiten; Markt-u.-Technik; München 1990
•
•Zell, A. : Simulation Neuronaler Netze. Addison-Wesley; Bonn/München; 1996
Julian Rith, Simon Regnet, Falko Kniffka