Comment la propriété de l'équation 15 est-elle obtenue pour l'initialisation Xavier
-
31-10-2019 - |
Question
Je suis nouveau dans ce domaine, alors soyez doux avec la terminologie. Dans le papier d'origine; "Comprendre la difficulté de former les réseaux de neurones à fond profond", Je ne comprends pas comment l'équation 15 est obtenue, elle indique que l'Eq 1:
$$ w_ {ij} sim U Left [- frac {1} { sqrt {n}}, frac {1} { sqrt {n}} droit] $$
Il donne lieu à la variance avec la propriété suivante:
$$ n * var [w] = 1/3 $$
où $ n $ est la taille de la couche.
Comment cette dernière équation (15) est-elle obtenue?
Merci!!
Pas de solution correcte
Licencié sous: CC-BY-SA avec attribution
Non affilié à datascience.stackexchange