Aktivierungsfunktion beim Training eine einzelne Schicht Perceptron

Question

Beim Training eine mehrschichtige neuronale Netzwerk unter Verwendung einer S-förmigen Aktivierungsfunktion notwendig ist, sie effizient zu lernen.

Gibt es einen Vorteil, eine sigmoide Aktivierungsfunktion zur Verwendung beim Training einer Single Schicht Perceptron, oder ist ein einfacher Schritt (heaviside) Funktion ausreichend (oder sogar bevorzugt)?

Ich bekomme langsam meinen Kopf um neuronale Netze aber jede Hilfe bei diesem würde geschätzt.

Answer 1

Ja, es ist ein Vorteil. Das Ergebnis kann etwas zwischen 0 und 1 sein und muss nicht entweder JA oder NEIN, sondern auch MAYBE sein. Selbst für ein Modell Single-Neuron ist es besser, eine nicht-Schritt-Aktivierungsfunktion zu haben.

Wenn Sie es benötigen, hängt davon ab, wie Ihr Ausgang ausgelesen. Haben Sie binary (YES, NO) Werte oder auch etwas dazwischen?

brauchen

Ich glaube, Sie auch eine lineare Funktion nutzen zu können, wenn Sie eine Sigmoidfunktion nicht verwenden möchten.