Предпосылки, необходимые для чтения книг по нейронным сетям (и понимания их)

Question

Я уже некоторое время пытаюсь узнать о нейронных сетях, и я могу понять некоторые базовые учебные пособия онлайн, и я смог ознакомиться с частями Нейронные вычисления - Введение но даже там я остекленеваю от многих математических выкладок, и после первых нескольких глав они полностью выходят у меня из головы.Даже тогда это самая маленькая книга "math-y", которую я могу найти.

Дело не в том, что я боюсь математики или чего-то еще, просто я не выучил то, что мне нужно, и я не уверен, что именно мне нужно.В настоящее время я учусь в моем местном университете, работаю над тем, чтобы наверстать упущенное на занятиях, которые мне нужны для поступления в MS in Comp.Научная программа (моя степень бакалавра в области бизнеса / Информация.Sys.) и я не очень далеко продвинулся.Согласно небольшим описаниям университетских курсов, NN на самом деле рассматриваются в курсе электротехники по распознаванию образов (мне кажется странным, что этот курс EE), в котором есть несколько предварительных требований EE, которые мне не нужны для ввода в MS Comp.Наука.Программа.

Я чрезвычайно заинтересован в этой теме и знаю, что в конечном итоге захочу узнать о ней гораздо больше, проблема в том, что я не знаю, что мне нужно знать в первую очередь.Вот темы, которые, я думаю, мне могут понадобиться, но это всего лишь предположения от незнания:

• Исчисление с одной переменной (у меня были Calc I и II, поэтому я думаю, что здесь я все описал, просто перечисляю для полноты картины)
• Исчисление с несколькими Переменными
• Линейная алгебра (я еще не рассматривал это формально, но на самом деле могу понять многие концепции из того, что мне удалось найти в Википедии и других сайтах)
• Дискретная математика (Еще одна, которую я не изучал формально, но часть которой изучил самостоятельно
• Теория графов
• Теория вероятностей
• Байесовская статистика
• Схемотехническое проектирование
• Другая математика?
• Другие научные темы

Очевидно, что здесь также присутствует компонент нейробиологии, но на самом деле у меня не было никаких проблем с пониманием книг, когда они говорят об этом применительно к NN, в основном потому, что его концептуальный

Короче говоря, может ли кто-нибудь изложить полуочевидный путь, который нужно действительно понять, прочитать книгу и в конечном итоге внедрить нейронные сети?

Answer 1

Если вам нужен список курсов колледжа, которые вам понадобятся для понимания книги, вот он:

• Исчисление (I, II и III)
• Дифференциальные уравнения
• Линейная Алгебра
• Статистика (или хорошее освещение Байеса)

Тем не менее, я отлично справлялся в своих классах NN без различий.Эквалайзер.и просто нужно было поискать концепции, которые я еще не изучал.

Вы можете использовать подход "черного ящика", как описано выше, но если вы действительно хотите понять математику и реализацию сетей, вам придется изучить.Это будет крутой путь обучения, чтобы полностью освоить более продвинутые сети, независимо от того, что вы делаете.Вы можете либо сначала пройти вышеуказанные курсы, либо начать читать книгу и посмотреть все, чего вы не понимаете в википедии, а затем из этих статей прочитать все, что вам нужно прочитать, чтобы понять их, и т.д.Вы обнаружите, что в любом случае, в конце концов, вы преодолеете этот первоначальный взгляд, и все станет проще.

Было бы хорошо, если бы вы рассказали нам, почему вы хотите изучать нейронные сети.Я не нашел им ни единого применения в своей профессиональной карьере, хотя я не разработчик игр или телекоммуникаций.

Answer 2

Вы не можете реализовать "нейронные сети" - в конечном итоге вы реализуете определенный вид NN (напримерперсептрон).Существует много различных видов NNS, каждый из которых больше подходит для какого-то определенного вида задач, и каждый вид использует некоторые математические (и не только математические) концепции, которые характерны только для этого конкретного вида.Например, машины Больцмана используют концепции статистической термодинамики (основанной Больцманом).

Что касается вашего вопроса:без четкой цели нет четкого (даже "полупрозрачного") пути.

Answer 3

Я поддерживаю идею зврба о том, что вы ставите перед собой четкую цель.Несколько наводящих вопросов:a.Вы хотите изучать NNs как модель биологических сетей или как вычислительный инструмент?b.Вас интересует их аспект обучения?ассоциативная память?обработка сигналов?c.Вы хотите понять сложную теорию?или просто достаточно, чтобы написать программное обеспечение для моделирования?

Кроме того, я бы начал с малого:внедрить персептрон на вашем любимом языке программирования.Математика не так уж плоха, и она, вероятно, сосредоточит вас на ваших следующих шагах.Используйте набор данных двоичной классификации, скажем Эндшпиль UCI в крестики-нолики.

Answer 4

Для базовых нейронных сетей с обратной синхронизацией наиболее важными вещами являются:

• Исчисление

• Линейная Алгебра

• Базовая статистика / Вероятность

Если вы просто ищете более конкретные темы (вы сказали, что уже изучали Calc, поэтому я опущу это), вот некоторые темы, которые будет полезно знать, хотя и не обязательно непосредственно применимые к построению нейронной сети:

• Решение линейных систем уравнений (вы бы изучили это в курсе линейной алгебры)

• Регрессия методом наименьших квадратов

• Теория оптимизации

Вы должны понимать, что существует несколько других методов, которые могут быть использованы для решения определенных задач наряду с нейронными сетями.

Часто самым сложным аспектом решения проблемы является определение наилучшего метода для использования.

Answer 5

несмотря на то, что я отвечаю на этот вопрос в 2018 году, но я думаю, что это поможет многим новичкам, которые пытаются изучить нейронную сеть.Все материалы онлайн-курса, доступные онлайн, предполагают, что читатель должен обладать высокой степенью математических знаний или опыта.Есть книга Тарика Рашида под названием "СОЗДАЙ СВОЮ СОБСТВЕННУЮ НЕЙРОННУЮ СЕТЬ".Ожидается, что читатель будет обладать школьными знаниями по математике.вот и все .к концу книги вы были бы способны создать программу, которая читает ваш почерк.