Parola / frase estrazione dal testo utilizzando le librerie Deep Learning

Question

Forse questo è troppo ampia, ma cerco per i riferimenti su come utilizzare l'apprendimento in profondità in un compito di testo riepilogo.

ho già implementato riepilogo testo usando la parola-frequenza standard si avvicina e la frase di rango, ma mi piacerebbe esplorare la possibilità di utilizzare tecniche di apprendimento profondo per questo compito. Ho passato anche attraverso alcune implementazioni dato su wildml.com utilizzando convoluzionale Reti neurali (CNN) per l'analisi dei sentimenti; Mi piacerebbe sapere come si possa utilizzare le librerie quali tensorflow o Theano per riepilogo di testo e l'estrazione di parole chiave. Il suo stato circa una settimana da quando ho iniziato a sperimentare con le reti neurali, e sono davvero entusiasta di vedere come le prestazioni di queste librerie paragona ai miei precedenti approcci a questo problema.

Sono particolarmente alla ricerca di alcuni documenti interessanti e progetti relativi a GitHub riepilogo testo utilizzando questi quadri. Qualcuno può fornire me con alcuni riferimenti?

Answer 1

Il di Google Ricerca Blog dovrebbe essere utile nel contesto di tensorflow .

Nell'articolo sopra, si fa riferimento alla Annotated inglese Gigaword insieme di dati che è ordinariamente utilizzato per summarization testo.

Il 2014 di carta da Sutskever et al dal titolo Sequenza di sequenza di apprendimento con le reti neurali potrebbe essere un inizio significativo il vostro viaggio come si scopre che per i testi più brevi, riepilogo può essere imparato end-to-end con una tecnica di apprendimento profondo.

Infine, qui è un grande repository GitHub dimostrando riepilogo testo durante facendo uso di tensorflow.

Answer 2

Si tratta di uno spazio aperto di ricerca e di certo dipende dal modo in cui si inquadrare il problema. Se stai parlando di multi-documento riepilogo allora il problema è leggermente diverso rispetto se si stesse parlando di un solo documento riepilogo.

di Vale la pena una breve revisione della letteratura.

Il link fornito da u / Società di scienziati dati è grande ed è utile per il astrattiva compito riepilogo in un unico documento. C'è anche il lavoro fatto sul estrattiva summarizations, che identifica le frasi importanti da estrarre.

Rush et. Al ha una carta piacevole sul riepilogo astrattiva con attenzione , che si basa sull'apprendimento profondo.

Per un riepilogo estrattivo, si potrebbe utilizzare un LSTM per costruire la vostra classificatore e utilizzare tensorflow / librerie standard Torch, ma non sembra essere eventuali pubblicazioni attuali sull'uso di apprendimento profondo per questo approccio.

Ecco alcuni pronti contro termine aggiuntive GitHub:

• La et originale Rush. al pronti contro termine.
• Un tensorflow attuazione della stessa carta

Answer 3

Sembra che questo è riepilogo più estrattiva, se siete alla ricerca di parole chiave. Qui ci sono alcuni giornali che probabilmente hanno implementazioni:

Neural riepilogo estraendo frasi e parole

estrattive riepilogo usando Deep Learning

convoluzionali Reti Neurali semi-supervisionato per Categorizzazione testo tramite Regione Embedding

Inoltre, spazioso (non affiliati) ha una buona blog sulla architettura generale delle attività di estrazione di testo.