Prérequis nécessaires pour lire des livres sur les réseaux de neurones (et les comprendre)

StackOverflow https://stackoverflow.com/questions/336440

Question

Cela fait un moment que je cherche à en savoir plus sur les réseaux neuronaux, et je peux comprendre quelques tutoriels de base en ligne. J'ai également réussi à parcourir des parties de

Ce n’est pas que j’ai peur des maths ou de quoi que ce soit, c’est simplement que je n’ai pas appris ce dont j’avais besoin, et je ne suis pas sûr de ce dont j’ai besoin exactement. Je suis actuellement inscrit à mon université locale et je travaille sur le rattrapage des cours dont j'ai besoin pour entrer en MS dans Comp. Programme Sci (mon baccalauréat est dans Business / Info. Sys.) Et je ne suis pas allé très loin. Selon les petites descriptions de cours de l'université, les NN sont en fait couverts par un cours d'ingénierie électrique sur la reconnaissance des formes (il me semble étrange que ce cours soit un cours EE), qui comporte quelques conditions préalables EE dont je n'ai pas besoin pour entrer dans le MS Comp. . Sci. Programme.

Je suis extrêmement intéressé par ce sujet et je sais que je souhaite en apprendre beaucoup plus à ce sujet. Le problème est que je ne sais pas ce que je dois savoir en premier. Voici des sujets dont je pense avoir besoin, mais ce n’est que spéculation par ignorance:

  • Calcul à variable unique (j'ai déjà eu les calculs I et II, je pense donc que je suis couvert ici, mais que la liste est complète)
  • Calcul multi variable
  • Algèbre linéaire (je n'ai pas encore pris ceci formellement, mais je peux comprendre bon nombre des concepts de ce que j'ai réussi à faire sur Wikipedia et sur d'autres sites)
  • Mathématiques discrètes (une autre méthode que je n'ai pas formellement prise, mais que j'ai apprise par moi-même une partie
  • Théorie des graphes
  • Théorie des probabilités
  • Statistiques bayésiennes
  • Conception du circuit
  • Autres maths?
  • Autres sujets de sci comp

Évidemment, il y a aussi un élément neuroscientifique ici, mais je n’ai vraiment eu aucun mal à comprendre les livres quand ils en parlent comme s’appliquant aux NN, en grande partie parce que son concept

En bref, quelqu'un peut-il tracer un chemin semi-clair qu'il faut vraiment comprendre, lire un livre et éventuellement mettre en œuvre des réseaux de neurones?

Était-ce utile?

La solution

Si vous souhaitez obtenir une liste des cours du collège dont vous aurez besoin pour comprendre le livre, la voici:

  • Calcul (I, II et III)
  • équations différentielles
  • Algèbre linéaire
  • Statistiques (ou une bonne couverture de Bayes)

Cependant, je me suis bien débrouillé dans mes cours NN sans Diff. Éq. et juste dû chercher des concepts que je n'avais pas encore étudiés.

Vous pouvez adopter l'approche de la boîte noire comme ci-dessus, mais si vous voulez vraiment comprendre le calcul et la mise en œuvre des réseaux, vous devrez étudier. Apprendre à maîtriser les réseaux les plus avancés, peu importe ce que vous ferez, sera un apprentissage difficile. Vous pouvez suivre d'abord les cours ci-dessus, ou vous pouvez commencer à lire le livre et rechercher tout ce que vous ne comprenez pas sur wikipedia, puis à partir de ces articles, lisez tout ce que vous avez à lire pour les comprendre, etc. de toute façon, vous finirez par dépasser le premier coup d’œil et les choses seront plus faciles.

Ce serait bien si vous nous expliquiez pourquoi vous souhaitez apprendre les réseaux de neurones. Je n'ai pas trouvé un seul usage pour eux dans ma carrière professionnelle, même si je ne suis ni développeur de jeux ni développeur de télécommunications.

Autres conseils

Vous ne pouvez pas implémenter les "réseaux de neurones". - vous finirez par implémenter un type spécifique de NN (par exemple perceptron). Il existe de nombreux types de NN, chacun convenant mieux à un type de tâche spécifique, et chaque type utilise des concepts mathématiques (et pas uniquement mathématiques) spécifiquement destinés à ce type particulier. Par exemple, les machines Boltzmann utilisent des concepts issus de la thermodynamique statistique (fondée par Boltzmann).

En ce qui concerne votre question: sans objectif clair, il n'y a pas de chemin clair (pas même "semi-clair").

Pour les réseaux de neurones de base à prorogation arrière, les éléments les plus importants sont:

  • Calcul

  • Algèbre linéaire

  • Statistiques de base / Probabilités

Si vous recherchez simplement des sujets plus spécifiques (vous avez dit que vous avez déjà pris Calc, alors je vais laisser cela de côté), voici quelques sujets qu'il sera utile de connaître, si ce n'est nécessairement applicables directement à la construction d'un réseau de neurones. :

  • Résoudre des systèmes linéaires d'équations (vous l'apprendriez dans un cours d'algèbre linéaire)

  • Régression par les moindres carrés

  • Théorie d'optimisation

Vous devez savoir qu’il existe plusieurs autres méthodes permettant de résoudre certains problèmes, ainsi que les réseaux de neurones.

L'aspect le plus difficile de la résolution d'un problème consiste souvent à déterminer la meilleure méthode à utiliser.

même si je réponds en 2018, mais je pense que cela aidera beaucoup de nouveaux arrivants qui essaient d'apprendre le réseau de neurones. Tout le matériel de cours en ligne disponible en ligne suppose que le lecteur possède un niveau élevé de connaissances ou d’expérience en mathématiques. Il existe un livre intitulé "FAITES VOTRE PROPRE RÉSEAU NEURON". par Tariq Rashid. Il s’attend à ce que le lecteur ait des connaissances en mathématiques dans le secondaire. c'est tout . à la fin du livre, vous serez capable de créer un programme qui lit votre écriture.

Licencié sous: CC-BY-SA avec attribution
Non affilié à StackOverflow
scroll top