Есть ли домен, где байесовские сети превосходят нейронные сети?

https://datascience.stackexchange.com/questions/9818

16-10-2019
|

Вопрос

Нейронные сети получают лучшие результаты в задачах компьютерного зрения (см. Мнист, Ilsvrc, Kaggle Galaxy Challenge) Кажется, они превосходят каждый другой подход в компьютерном зрении. Но есть и другие задачи:

Задача молекулярной активности Kaggle
Регрессия: Предсказание дождя Kaggle, так же 2 -е место
Захватить и поднять 2 -й также третье место - Определите движения рук из записей ЭЭГ

Я не слишком уверен в ASR (автоматическое распознавание речи) и машинный перевод, но я думаю, что я также слышал, что (повторяющиеся) нейронные сети (начало) превосходят другие подходы.

В настоящее время я узнаю о байесовских сетях, и мне интересно, в каких случаях обычно применяются эти модели. Итак, мой вопрос:

Существует ли какая -либо конкуренция за вызов / (Kaggle), где состояние искусства - байесовские сети или, по крайней мере, очень похожие модели?

(Примечание: я тоже видел Деревья решения, 2, 3, 4, 5, 6, 7 выиграть в нескольких недавних задачах Kaggle)

Решение

Одна из областей, где часто используются байесовские подходы, - это то, где нуждается в интерпретации системы прогнозирования. Вы не хотите давать врачам нейронную сеть и говорить, что это на 95% точно. Вы предпочитаете объяснить предположения, которые делает ваш метод, а также процесс принятия решения, который использует метод.

Подобная область, когда у вас есть сильные предшествующие знания в области и хотите использовать его в системе.

Другие советы

Байесовские сети и нейронные сети не исключают друг друга. Фактически, байесовские сети - это всего лишь еще один термин для «направленной графической модели». Они могут быть очень полезны в разработке объективных функций нейронных сетей. Янн Лекун указал на это здесь: https://plus.google.com/+yannlecunphd/posts/gwe7jca3zoq.

Один пример.

Вариационный автоматический энкодер и производные являются направленными графическими моделями формы $$ p (x) = int_z p (x | z) p (z) dz. $$. Нейронные сети используются для реализации $ p (x | z) $ и приближение к его обратному: $ Q (z | x) absx p (z | x) $.

Отличные ответы уже.

Один домен, о котором я могу придумать и много работает, - это Аналитика клиентов домен.

Я должен понимать и предсказать шаги и мотивы клиентов, чтобы информировать и предупредить как поддержку клиентов, так и команды роста.

Итак, здесь, нейронные сети делают действительно хорошую работу в прогнозировании оттока и т. Д. Но я нашел и предпочитаю стиль байесовских сетей, и вот причины для его предпочтения:

У клиентов всегда есть образец. У них всегда есть причина играть. И эта причина была бы чем -то, что моя команда сделала для них, или они узнали сами. Таким образом, у всего есть здесь ранее, и на самом деле эта причина очень важна, поскольку она питает большую часть решения, принятого клиентом.
Каждый шаг клиента и команды роста в маркетинговой воронке/продажах являются причинно-следственной связью. Таким образом, предварительные знания жизненно важны, когда речь идет о преобразовании предполагаемого лидерства в клиента.

Итак, концепция прежний очень важно, когда речь заходит о аналитике клиентов, что делает концепцию байесовских сетей очень важной для этой области.

Предлагаемое обучение:

Байесовские методы для нейронных сетей

Байесовские сети в бизнес -аналитике

Иногда вы заботитесь о том, чтобы изменить результат, как предсказание результата.

Нейронная сеть, данная достаточным учебным данных, будет, как правило, будет лучше предсказать результат, но как только вы сможете предсказать результат, вы можете предсказать влияние внесения изменений в входные функции на результат.

Пример из реальной жизни, зная, что у кого -то, вероятно, будет сердечный приступ, является полезным, но способность сказать человеку, что, если они перестанут делать XX, риск снизится на 30%, приносит гораздо большую пользу.

Аналогичным образом за удержание клиентов, зная, почему клиенты перестают делать покупки с вами, стоит столько же, сколько и прогнозирование клиентов, которые, вероятно, перестанут делать покупки с вами.

Также более простая байесовская сеть, которая предсказывает менее хорошо, но приводит к большему количеству действий часто может быть лучше, чем более «правильная» байесовская сеть.

Самым большим преимуществом байесовских сетей перед нейронными сетями является то, что их можно использовать для причинно -следственного вывода. Эта ветвь имеет основополагающее значение для статистики и машинного обучения, а Иудея Перл выиграла Награда Тьюринга Для этого исследования.

Байесовские сети могут превзойти нейронные сети в небольших настройках данных. Если предыдущая информация правильно управляется с помощью сетевой структуры, априоров и других гиперпараметров, она может иметь преимущество над нейронными сетями. Нейронные сети, особенно те с большим количеством слоев, очень хорошо известны как голодные данные. Почти по определению много данных необходимо для правильного обучения их.

Я опубликовал Эта ссылка на Reddit И получил много отзывов. Некоторые разместили здесь свои ответы, другие не сделали. Этот ответ должен подвести итог Reddit Post Up. (Я сделал это сообществом вики, чтобы не получить очков за это)

Автофомирование вариационных байесов это комбинация байесовской сети и нейронной сети. Бумага Байесовские сверточные нейронные сети с приблизительным вариационным выводом Бернулли кажется, идет в том же направлении.
Отсечение: простой способ предотвратить переосмысление нейронных сетей Пример, в котором байесовские нейронные сети превзошли свой подход к выпадению (см. Раздел 6.4 «Сравнение с байесовскими нейронными сетями»)
Концепция концепции на уровне человека через вероятностную индукцию программы это документ «в байесовской сетевой сети, которая выполняет одноразовую классификацию, которая превзойдет нейронные сети» (согласно TrashAcount12345 - я уже не проверял это).
Янн Лекун написал Google+ post в котором он утверждает, что нейронные сети и графические модели, вероятно, не являются ортогональными понятиями.

Байесовские сети предпочтительны для интерпретации генома. Смотрите, например, эта диссертация Обсуждение вычислительных методов для интерпретации генома.

Я сделал небольшой пример для этого один раз. Исходя из этого, я думаю, что байесовские сети предпочтительнее, если вы хотите захватить распределение, но ваш набор обучения вводам не охватывает распространение хорошо. В таких случаях даже нейронная сеть, которая обобщенная скважина не сможет реконструировать распределение.

Я решительно не согласен с тем, что нейронные сети преуспевают, чем другие ученики. На самом деле нейронные сети делают довольно плохие по сравнению с другими методами. Также нет методологии, несмотря на некоторые советы по выбору параметров, которые это делали очень часто. Есть также некоторые парни, которые рассказывают о форумах о том, как нейронные сети настолько хороши, не потому, что у них есть некоторые доказательства в отношении этого, а потому, что они связаны с фантазий и модным словом, нейронное. Вы пробовали нейронную сетку, чтобы сравнивать с XGBOOST? Я не буду пробовать нейронную сеть, пока она не будет досажена.

Лицензировано под: CC-BY-SA с атрибуция

Не связан с datascience.stackexchange