Визуализация глубокой нейронной сети обучения

Question

Я пытаюсь найти эквивалент диаграмм Хинтона для многослойных сетей, чтобы построить вес во время тренировки.

Обученная сеть несколько похожа на глубокий SRN, то есть она имеет большое количество множественных матриц веса, которые могут сделать одновременный график нескольких диаграмм Хинтона визуально запутанным.

Кто -нибудь знает о хорошем способе визуализации процесса обновления веса для повторяющихся сетей с несколькими слоями?

Я не нашел много документов по этой теме. Я думал, чтобы вместо этого показать информацию, связанную с весами, если я не могу что-то придумать. Например, веса с течением времени для каждого слоя (пропуская использование каждого отдельного соединения). PCA - это еще одна возможность, хотя я не хотел бы выпускать много дополнительных вычислений, поскольку визуализация выполняется онлайн во время обучения.

Answer 1

Закрытие, что я знаю Conveltjs:

Convnetjs - это библиотека JavaScript для обучения моделей глубокого обучения (в основном нейронных сетей) полностью в вашем браузере. Откройте вкладку и вы тренируетесь. Нет требований к программному обеспечению, нет компиляторов, нет инсталляций, нет графических процессоров, нет пота.

Демо, на этом заговоре, участок весит, и как они меняются со временем (имейте в виду, его многочисленные параметры, поскольку практические сети имеют много нейронов). Более того, если вы не удовлетворены их построением, есть доступ к параметрам сетей, и вы можете построить по своему желанию (так как это JavaScript).

Answer 2

Основываясь на моем беглом понимании тем, связанных с вашим вопросом, я думаю, что Гефи (https://gephi.github.io; Оригинальная перенаправление ссылки gephi.org там перенаправлена) должна иметь возможность обрабатывать Динамическая визуализация нейронной сети. Анкет Кажется, что для достижения своей цели вам нужно ручей Ваш график (ы) с соответствующими весами (https://forum.gephi.org/viewtopic.php?t=1875) За потоковая передача, вам, скорее всего, понадобится это плагин: https://marketplace.gephi.org/plugin/graph-streaming.

ОБНОВИТЬ: Вы также можете найти полезное программное обеспечение Sonia: http://web.stanford.edu/group/sonia.