L'ajustement des poids d'un réseau neuronal convolutif

Question

Je suis en train de mettre en place un réseau de neurones convolutionnel au moment. Un réseau simple anticipatrice de ne pas le problème, mais je vais avoir des problèmes avec le réglage du poids dans la couche conv.

permet de supposer que j'ai quatre couches. Entrée, convolution, cachée et la sortie.

src: http: // www. wildml.com/2015/11/understanding-convolutional-neural-networks-for-nlp/

Dans l'image ci-dessus, nous voyons que l'entrée et la couche de convolution. Les deltas de la couche de convolution sont calculées dans un réseau de précompensation normal. Mais comment puis-je mettre à jour les poids / filtermatrix entre l'entrée et convolutionlayer?

Answer 1

Pour l'apprentissage matrice du noyau / filtre dans la couche de convolution, on trouve dérivée partielle de la perte w.r.t. matrice de filtre et un procédé de descente en gradient de l'utilisation de filtres de mise à jour. $$ W = W - \ alpha \ frac {\ partial L} {\ W partielle} $$

convolutifs Neural Networks utilisent également rétropropagation algorithme pour trouver des dérivées partielles de la perte w.r.t. matrice filtre.