Qual è la relazione tra reti bayesiane e reti neurali?

Question

Sto cercando compiti computazionalmente pesanti da implementare con CUDA e mi chiedo se potrebbero essere applicate reti neurali o reti bayesiane. Questa non è la mia domanda, però, ma piuttosto qual è la relazione tra i due tipi di rete. Sembrano molto correlati, specialmente se si guardano le reti bayesiane con una capacità di apprendimento (che cita l'articolo su Wikipedia). A colpo d'occhio, le reti bayesiane sembrano un po 'come un tipo specifico di reti neurali. Qualcuno può riassumere la loro relazione e se esiste qualche connessione oltre l'apparente somiglianza?

Answer 1

Le reti bayesiane rappresentano relazioni di indipendenza (e dipendenza) tra variabili. Pertanto, i collegamenti rappresentano relazioni condizionali in senso probabilistico. Le reti neurali, in generale, non hanno una tale interpretazione diretta, e in effetti i nodi intermedi della maggior parte delle reti neurali sono caratteristiche scoperte, invece di avere un predicato ad esse associato.

Answer 2

È riportato che le reti bayesiane sono più resistenti al "sovrallenamento" che si vede in alcune reti neurali. In altre parole, alcune reti neurali diventano così "addestrate" alle misurazioni osservate utilizzate in allenamento che non sono utili per i casi generali.

Answer 3

In effetti lo sono. Vedo una rete bayesiana come una rete neurale che applica il teorema di Baye su larga scala, ma non ricordo i dettagli. So dove puoi trovarli e raccomando questo libro per questo.