Qual é a relação entre redes bayesianas e neurais?

Question

Estou procurando tarefas computacionalmente pesadas para implementar com o CUDA e me pergunto se redes neurais ou redes bayesianas podem se aplicar. Porém, essa não é a minha pergunta, mas qual é a relação entre os dois tipos de rede. Eles parecem muito relacionados, especialmente se você olhar nas redes bayesianas com uma capacidade de aprendizado (que o artigo sobre a Wikipedia menciona). À primeira vista, as redes bayesianas consideram um tipo específico de redes neurais. Alguém pode resumir seu relacionamento e se houver alguma conexão além da aparente semelhança?

Answer 1

As redes bayesianas representam relações de independência (e dependência) entre variáveis. Assim, os vínculos representam relações condicionais no sentido probabilístico. As redes neurais, de um modo geral, não têm essa interpretação direta e, de fato, os nós intermediários da maioria das redes neurais são descobertos, em vez de ter qualquer predicado associado a elas por si só.

Answer 2

Isto é relatado que as redes bayesianas são mais resistentes ao "excesso de treinamento" que é visto em algumas redes neurais. Em outras palavras, algumas redes neurais se tornam tão "treinadas" às medições observadas usadas no treinamento que não são úteis para os casos gerais.

Answer 3

Na verdade eles são. Eu vejo uma rede bayesiana como uma rede neural aplicando o teorema de Baye em larga escala, mas não me lembro de detalhes. Eu sei onde você pode encontrá -los e eu recomendo isto livro para isso.