funzione di attivazione quando la formazione di un singolo strato di perceptron

Question

Quando la formazione di una rete neurale multistrato, utilizzando una funzione di attivazione sigmoidale è necessario che essa imparare in modo efficiente.

C'è qualche vantaggio di utilizzare una funzione di attivazione sigmoidale quando la formazione di un singola strato perceptron, o è un semplice passo funzione (Heaviside) sufficiente (o anche preferibile)?

Sto lentamente ottenere la mia testa intorno reti neurali, ma qualsiasi aiuto con questo sarebbe apprezzato.

Answer 1

Sì, c'è un vantaggio. Il risultato può essere qualcosa tra 0 e 1 e non deve essere o sì o no, ma anche forse. Anche per un modello singolo neurone è meglio avere una funzione di attivazione non-step.

Se avete bisogno dipende da come la vostra uscita viene letta. Avete bisogno di valori binari (sì, no) o anche qualcosa in-tra?

Penso che si potrebbe anche usare una funzione lineare, se non si desidera utilizzare una funzione sigmoidale.