Какова связь между байесовскими и нейронными сетями?

Question

Я ищу сложные в вычислительном отношении задачи для реализации с CUDA и задаюсь вопросом, могут ли применяться нейронные или байесовские сети. Это не мой вопрос, а скорее какова связь между двумя типами сетей. Они кажутся очень связанными, особенно если вы посмотрите на байесовские сети с возможностями обучения (о которых упоминается в статье в Википедии). На первый взгляд, байесовские сети немного похожи на определенный тип нейронных сетей. Может ли кто-нибудь подвести итоги своих отношений, и есть ли какая-либо связь помимо очевидного сходства?

Answer 1

Байесовские сети представляют отношения независимости (и зависимости) между переменными. Таким образом, ссылки представляют условные отношения в вероятностном смысле. Нейронные сети, вообще говоря, не имеют такой прямой интерпретации, и на самом деле промежуточные узлы большинства нейронных сетей являются обнаруженными функциями вместо того, чтобы иметь какой-либо предикат, связанный с ними самим по себе.

Answer 2

Об этом сообщается что байесовские сети более устойчивы к «перетренированности»; это видно в некоторых нейронных сетях. Другими словами, некоторые нейронные сети становятся «обученными». к наблюдаемым измерениям, используемым в обучении, что они бесполезны для общих случаев.

Answer 3

Действительно, они есть. Я вижу байесовскую сеть как нейронную сеть, применяющую теорему Байя в больших масштабах, но я не помню деталей. Я знаю, где их можно найти, и я рекомендую эту книгу для этого.