Visualisierung von tiefer neuronalem Netzwerktraining
https://datascience.stackexchange.com/questions/2670
-
16-10-2019 - |
italiano
english
français
española
中国
日本の
العربية
Deutsch
한국어
Português
RussianFrage
Ich versuche, ein Äquivalent von Hinton -Diagrammen für mehrschichtige Netzwerke zu finden, um die Gewichte während des Trainings zu zeichnen.
Das ausgebildete Netzwerk ähnelt einem tiefen SRN, dh es hat eine hohe Anzahl von Miolen -Gewichts -Matrizen, die das gleichzeitige Diagramm mehrerer Hinton -Diagramme visuell verwirrend machen würden.
Kennt jemand eine gute Möglichkeit, den Gewichtsaktualisierungsprozess für wiederkehrende Netzwerke mit mehreren Ebenen zu visualisieren?
Ich habe nicht viel Papiere zu diesem Thema gefunden. Ich dachte, ich würde stattdessen zeitbezogene Informationen zu den Gewichten pro Ebene anzeigen, wenn ich mir nichts einfallen lassen kann. ZB der Gewichtsdelta im Laufe der Zeit für jede Schicht (ausgelassene Verwendung jeder einzelnen Verbindung). PCA ist eine andere Möglichkeit, obwohl ich nicht viel zusätzliche Berechnungen erstellen möchte, da die Visualisierung während des Trainings online durchgeführt wird.
Lösung
Die Schließungen, die ich weiß, ist Überzeugen:
ConvNetJS ist eine JavaScript -Bibliothek für Schulung von Deep Learning Models (hauptsächlich neuronale Netzwerke) vollständig in Ihrem Browser. Öffnen Sie eine Registerkarte und Sie trainieren. Keine Softwareanforderungen, keine Compiler, keine Installationen, kein GPUs, kein Schweiß.
Demos auf dieser Site -Handlung wiegen und wie verändern sie sich mit der Zeit (denken Sie an die vielen Parameter, da praktische Netzwerke viele Neuronen haben). Wenn Sie mit der Verschwörung nicht zufrieden sind, gibt es Zugriff auf Netzwerkenparameter und Sie können nach Belieben zeichnen (da es sich um JavaScript handelt).
Andere Tipps
Basierend auf meinem flüchtigen Verständnis der Themen, die mit Ihrer Frage verbunden sind, denke ich das Gephi (https://gephi.github.io; Der ursprüngliche Gephi.org -Link leitet dort aus) sollte in der Lage sein, verarbeiten dynamische Visualisierung neuronaler Netzwerk. Es scheint, dass Sie, um Ihr Ziel zu erreichen Strom Ihre Grafiken mit entsprechenden Gewichten (https://forum.gephi.org/viewtopic.php?t=1875). Zum Streaming, Sie brauchen das höchstwahrscheinlich Plug-In: https://marketplace.gephi.org/plugin/graph-streaming.
AKTUALISIEREN: Sie können auch nützliche Sonia -Software finden: http://web.stanford.edu/group/sonia.
