Quando utilizzare il prodotto DOT e quando utilizzare il prodotto comune nelle reti neurali?

Question

Volevo sapere quando usare il prodotto DOT e quando no, non so anche quando dobbiamo trasporre un array e perché dovremmo, qualcuno potremmo aiutarmi a capirlo? Se potessi darmi il derivato della funzione di costo rispetto a ciascun peso (W1, W2, W3) usando le notazioni qui sotto per confrontarlo con i risultati che ho scoperto che lo apprezzerò!