Domanda

a nonlinear model of a neuron

Tl; dr: in che senso è il modello di un neurone visto nell'immagine sopra non lineare?

Nel capitolo 1, Sezione 1.3 Modelli di un neurone di Simon Haykin's Reti neurali Libro, il modello standard di un singolo neurone viene descritto e visualizzato nell'immagine sopra.

Haykin afferma che questo modello, che consiste in un insieme di input x1..xm, i loro pesi corrispondenti W1..WM, un combinatore lineare che riassume gli input ponderati e la distorsione (b) e una funzione di attivazione che prende quella somma e produce L'output, non è lineare. Quindi, la mia domanda è: l'uscita non dipende linearmente dall'input? Ad esempio, se il neurone prende solo un input, x1, allora il combinatore lineare prende il modulo v = x1 + b e la funzione di attivazione è φ (v). Quindi, l'unico modo in cui posso vedere questo modello non lineare è se la funzione di attivazione non è lineare. Ma ci sono chiaramente casi in cui la funzione di attivazione è lineare (come la funzione lineare a tratti descritta nella stessa sezione del libro). Quindi, come può questo modello essere intrinsecamente non lineare?

Mi rendo conto che questa non è una grande preoccupazione, ma mi piacerebbe capire ogni parte del libro prima di andare avanti, e questo mi ha infastidito da quando l'ho visto.

Grazie a tutti in anticipo per le tue risposte.

Nessuna soluzione corretta

Autorizzato sotto: CC-BY-SA insieme a attribuzione
scroll top