Come trovare il valore di un neurone in una rete neurale

Question

Dato che molti di questi siti trovati su Google usano la notazione matematica e non ho idea di cosa significhi, voglio creare una rete neurale feedforward come questa:

    n1  
i1      n3
    n2      o1
i2      n4
    n3  

Ora qualcuno può spiegarmi come trovare il valore di o1? Come è possibile rendere attivo un neurone quando nessuno dei suoi input è attivo?

Answer 1

Se nessuno degli ingressi è attivo, non otterrai nulla dall'output.

È passato molto tempo da quando ho trascorso un po 'di tempo su questo, ma nel corso della giornata, aggiungeremmo rumore all'equazione. Questo può essere sotto forma di input che sono sempre attivi o aggiungendo una piccola quantità casuale a ciascun input prima di inserirlo nella rete neurale.

È interessante notare che l'uso del rumore nelle reti neurali ha dimostrato di avere un analogo biologico. Se stai provando a sentire qualcosa e aggiungi un po 'di rumore bianco, è più facile ascoltarlo. lo stesso vale per vedere.

Per quanto riguarda la tua domanda iniziale: come scoprire il valore di o1 dipende da ...

• La formula utilizzata in tutta la rete neurale.
• I valori da n1 a n4.
• Gli input.

http://www.cheshireeng.com/Neuralyst/nnbg.htm

Ha alcune informazioni di base sulla matematica.

Answer 2

Dal momento che la domanda non è molto chiara per me ... Dirò questo nel caso sia quello che stai cercando:

Spesso un neurone diagonale viene aggiunto all'input e ai livelli nascosti per consentire il caso che stai citando. Questo neurone aggiuntivo è sempre attivo e viene utilizzato per gestire il caso quando tutti gli altri neuroni sul livello sono inattivi.

Answer 3

Questa domanda è un buon esempio del perché "reti neurali" fai un lavoro così incredibilmente scarso di emulare il comportamento dei neuroni del mondo reale. La maggior parte dei neuroni reali ha una velocità intrinseca (o "naturale") alla quale sparano potenziali d'azione, senza input da neuroni pre-sinaptici. L'effetto dei neuroni pre-sinaptici è quasi sempre quello di accelerare o rallentare questa frequenza di innesco intrinseca, non di produrre un singolo potenziale d'azione nel neurone post-sinaptico.

Perché non " reti neurali " tipicamente modella questo fenomeno? Non lo so - dovresti chiedere alle persone per chi " l'approccio ispirato dalla biologia ha più o meno abbandonato per un approccio più pratico basato su statistiche ed elaborazione del segnale " ;.