Pré-requisitos necessários para ler livros em redes neurais (e compreendê-los)

Question

Eu tenho tentado aprender sobre Redes Neurais por um tempo agora, e eu posso entender alguns tutoriais básicos online, e eu fui capaz de obter através de porções de Neural Computing - uma Introdução mas mesmo lá, estou vidrados um monte de matemática, e torna-se completamente sobre a minha cabeça após a primeiros capítulos. Mesmo assim a sua menor livro "math-y" eu posso encontrar.

Não é que eu tenho medo da matemática ou qualquer coisa, é só eu não aprendi o que eu preciso, e eu não tenho certeza do que eu preciso exatamente. Eu estou atualmente matriculados na minha universidade local, trabalhando em recuperar o atraso em classes I precisa digitar o MS em Comp. programa Sci (meu BA está em Negócios / Info. Sys.) e eu não ter ido muito longe. De acordo com descrições pouco da universidade curso, de NN são realmente coberto em uma Engenharia Elétrica curso sobre Pattern Recognition (parece estranho para mim que este curso é EE), que tem alguns pré-requisito EE é que eu não preciso de entrar no MS Comp . Sei. Programa.

Estou extremamente interessado neste assunto, e sei que, eventualmente, querer aprender muito mais sobre ele, o problema é, eu não sei o que eu preciso saber em primeiro lugar. Aqui estão tópicos que eu acho que eu poderia precisar, mas isso é apenas especulação da ignorância:

• Variável Individual Calculus (Eu tive Calc I e II, então eu acho que estou coberto aqui, apenas listando para a completude)
• Multi Variable Calculus
• Álgebra Linear (Eu não tomado esta ainda formalmente, mas pode realmente compreender muitos dos conceitos do que eu consegui Grokar na Wikipedia e outros sites)
• Matemática Discreta (Outro que não tenha tomado formalmente, mas aprendi uma parte no meu próprio
• Teoria dos Grafos
• Teoria da Probabilidade
• Bayesian Statistics
• Circuit Design
• Outras matemática?
• Outros temas comp sci

Obviamente, há um componente neurociência aqui também, mas eu realmente não tive quaisquer livros dificuldade para entender quando falam sobre ele como aplicado a NN de, em grande parte porque sua conceitual

Em suma, alguém pode traçar um caminho semi-claro que é preciso realmente entender, leu o livro no e, eventualmente, implementar Redes Neurais?

Answer 1

Se você quer uma lista de cursos da faculdade que você precisa entender o livro, aqui está:

• Calculus (I, II e III)
• Equações Diferenciais
• Álgebra Linear
• Estatísticas (ou uma boa cobertura de Bayes)

No entanto, eu fiz muito bem em minhas aulas NN sem Dif. Eq. e só tinha de olhar para cima conceitos que eu não tinha estudado ainda.

Você pode tomar a abordagem caixa preta como acima, mas se você realmente quer entender a matemática e implementação das redes, você vai ter que estudar. Vai ser uma curva de aprendizagem para compreender completamente as redes mais avançadas, não importa o que você faz. Você pode tomar as classes acima primeiro, ou você pode começar a ler o livro e olhar para cima tudo o que você não entender na wikipedia, em seguida, a partir desses artigos ler o que você tem que ler para compreendê-los, etc. Você vai descobrir que, de qualquer forma, você eventualmente obter passado que espiada inicial e as coisas vão ser mais fácil.

Seria bom se você nos disse por que você quer aprender redes neurais. Eu não encontrei um único uso para eles na minha carreira profissional, embora eu não sou um desenvolvedor de jogos ou de telecomunicações desenvolvedor.

Answer 2

Você não pode implementar "redes neurais" - você vai acabar a implementação de um tipo específico de NN (por exemplo perceptron). Há muitos tipos diferentes de NNs, cada um mais adequado para algum tipo específico de tarefa, e cada tipo usa alguns conceitos que são especificamente apenas a esse tipo particular de matemática (e não só de matemática). Por exemplo, máquinas de Boltzmann usar conceitos de termodinâmica estatística (fundada por Boltzmann).

Quanto à sua pergunta:., Sem um objetivo claro, não há nenhum caminho claro (nem mesmo "semi-clear")

Answer 3

idéia que segundo zvrba que você definir-se um objetivo claro. Algumas questões norteadoras: uma. Você quer estudar NNs como um modelo de redes biológicas ou como uma ferramenta computacional? b. Você está interessado em seu aspecto de aprendizagem? memória associativa? processamento de sinal? c. Você quer entender a teoria complexa? ou apenas o suficiente para software de simulação de escrita?

Além disso, eu iria começar pequeno: implementar um perceptron em sua linguagem de programação favorita. A matemática não é tão ruim, e ele provavelmente irá concentrar-lo em seus próximos passos. Use um conjunto de dados de classificação binária, dizem fim do jogo tic-tac-toe de UCI .

Answer 4

Para redes neurais, back-prorrogação básico, a maioria das coisas importantes são:

• Calculus

• Álgebra Linear

• Estatísticas básico / Probabilidade

Se você está apenas à procura de mais temas específicos (você disse que já tomou Calc, então eu vou deixar isso para fora), aqui estão alguns assuntos que serão úteis para saber, se não necessariamente diretamente aplicáveis ??para a construção de uma rede neural :

• Resolver sistemas de equações lineares (você aprender isso em um curso de Álgebra Linear)

• Mínimos Quadrados Regressão

• teoria de otimização

Você deve perceber que existem vários outros métodos que podem ser usados ??para resolver certos problemas, juntamente com redes neurais.

Muitas vezes, o aspecto mais difícil de resolver um problema é determinar o melhor método para uso.

Answer 5

Mesmo que eu sou respondê-la em 2018, mas eu acho que vai ajudar um monte de recém-chegados que estão tentando aprender rede neural. Todo o curso on-line material disponível on-line esperam que o leitor tenha alto grau de conhecimento matemático ou experiência. Há um livro chamado "sua própria rede neural" por Tariq Rashid. Ele espera que o leitor tenha matemática ensino médio conhecimento. Isso é tudo . até o final do livro você seria capaz de fazer um programa que lê sua escrita.