Come capire cosa sta imparando ogni livello in una rete neurale di apprendimento profondo?

Question

In una risposta recente che ho letto sullo scambio di stack, ho letto un modo possibile per capire più chiaramente cosa succede in ogni livello nascosto di una rete neurale.

Ecco l'estratto

Dovresti guardare cosa rende il neurone attivato in ogni livello a seconda dell'input. Come sai, ogni neurone verrà attivato (una volta addestrato il DNN) per combinazioni di input specifiche. Visualizzando che puoi avere un'idea di ciò che esattamente ogni livello ha imparato in termini di caratteristiche di livello alto.

Fonte - Caratteristiche di alto livello di una rete neurale

Volevo sapere se ci sono documenti che hanno provato a farlo (i collegamenti sarebbero davvero utili). Nel frattempo ci sono altri modi per capire cosa succede in ogni livello nascosto?