Функция активации при обучении однослойного персептрона

Question

При обучении многослойной нейронной сети для эффективного обучения необходимо использовать сигмоидальную функцию активации.

Есть ли какое-либо преимущество в использовании сигмоидальной функции активации при обучении одинокий слой персептрона, или достаточно ли простой ступенчатой функции (хевисайда) (или даже предпочтительнее)?

Я потихоньку разбираюсь в нейронных сетях, но буду признателен за любую помощь в этом.

Answer 1

Да, в этом есть преимущество.Результат может быть чем-то между 0 и 1 и не обязательно должен быть ни "ДА", ни "НЕТ", но также "ВОЗМОЖНО".Даже для модели с одним нейроном лучше иметь функцию многоступенчатой активации.

Если вам это нужно, зависит от того, как будут считываться ваши выходные данные.Вам нужны двоичные значения (ДА, НЕТ) или что-то среднее?

Я думаю, вы также могли бы использовать линейную функцию, если вы не хотите использовать сигмоидальную функцию.