Module Python pour convertir un PDF en texte [fermé]

StackOverflow https://stackoverflow.com/questions/25665

Question

Quels sont les meilleurs modules Python pour convertir des fichiers PDF en texte ?

Était-ce utile?

La solution

Essayer PDFMineur.Il peut extraire le texte de fichiers PDF au format HTML, SGML ou "Tagged PDF".

Le format PDF balisé semble être le plus propre, et la suppression des balises XML ne laisse que le texte brut.

Une version Python 3 est disponible sous :

Autres conseils

Le PDFMineur le forfait a changé depuis codeape posté.

EDIT (encore):

PDFMiner a été à nouveau mis à jour dans la version 20100213

Vous pouvez vérifier la version que vous avez installée avec ce qui suit :

>>> import pdfminer
>>> pdfminer.__version__
'20100213'

Voici la version mise à jour (avec des commentaires sur ce que j'ai modifié/ajouté) :

def pdf_to_csv(filename):
    from cStringIO import StringIO  #<-- added so you can copy/paste this to try it
    from pdfminer.converter import LTTextItem, TextConverter
    from pdfminer.pdfparser import PDFDocument, PDFParser
    from pdfminer.pdfinterp import PDFResourceManager, PDFPageInterpreter

    class CsvConverter(TextConverter):
        def __init__(self, *args, **kwargs):
            TextConverter.__init__(self, *args, **kwargs)

        def end_page(self, i):
            from collections import defaultdict
            lines = defaultdict(lambda : {})
            for child in self.cur_item.objs:
                if isinstance(child, LTTextItem):
                    (_,_,x,y) = child.bbox                   #<-- changed
                    line = lines[int(-y)]
                    line[x] = child.text.encode(self.codec)  #<-- changed

            for y in sorted(lines.keys()):
                line = lines[y]
                self.outfp.write(";".join(line[x] for x in sorted(line.keys())))
                self.outfp.write("\n")

    # ... the following part of the code is a remix of the 
    # convert() function in the pdfminer/tools/pdf2text module
    rsrc = PDFResourceManager()
    outfp = StringIO()
    device = CsvConverter(rsrc, outfp, codec="utf-8")  #<-- changed 
        # becuase my test documents are utf-8 (note: utf-8 is the default codec)

    doc = PDFDocument()
    fp = open(filename, 'rb')
    parser = PDFParser(fp)       #<-- changed
    parser.set_document(doc)     #<-- added
    doc.set_parser(parser)       #<-- added
    doc.initialize('')

    interpreter = PDFPageInterpreter(rsrc, device)

    for i, page in enumerate(doc.get_pages()):
        outfp.write("START PAGE %d\n" % i)
        interpreter.process_page(page)
        outfp.write("END PAGE %d\n" % i)

    device.close()
    fp.close()

    return outfp.getvalue()

Edit (encore une fois) :

Voici une mise à jour pour la dernière version de Pypi, 20100619p1.Bref j'ai remplacé LTTextItem avec LTChar et a transmis une instance de LAParams au constructeur CsvConverter.

def pdf_to_csv(filename):
    from cStringIO import StringIO  
    from pdfminer.converter import LTChar, TextConverter    #<-- changed
    from pdfminer.layout import LAParams
    from pdfminer.pdfparser import PDFDocument, PDFParser
    from pdfminer.pdfinterp import PDFResourceManager, PDFPageInterpreter

    class CsvConverter(TextConverter):
        def __init__(self, *args, **kwargs):
            TextConverter.__init__(self, *args, **kwargs)

        def end_page(self, i):
            from collections import defaultdict
            lines = defaultdict(lambda : {})
            for child in self.cur_item.objs:
                if isinstance(child, LTChar):               #<-- changed
                    (_,_,x,y) = child.bbox                   
                    line = lines[int(-y)]
                    line[x] = child.text.encode(self.codec)

            for y in sorted(lines.keys()):
                line = lines[y]
                self.outfp.write(";".join(line[x] for x in sorted(line.keys())))
                self.outfp.write("\n")

    # ... the following part of the code is a remix of the 
    # convert() function in the pdfminer/tools/pdf2text module
    rsrc = PDFResourceManager()
    outfp = StringIO()
    device = CsvConverter(rsrc, outfp, codec="utf-8", laparams=LAParams())  #<-- changed
        # becuase my test documents are utf-8 (note: utf-8 is the default codec)

    doc = PDFDocument()
    fp = open(filename, 'rb')
    parser = PDFParser(fp)       
    parser.set_document(doc)     
    doc.set_parser(parser)       
    doc.initialize('')

    interpreter = PDFPageInterpreter(rsrc, device)

    for i, page in enumerate(doc.get_pages()):
        outfp.write("START PAGE %d\n" % i)
        if page is not None:
            interpreter.process_page(page)
        outfp.write("END PAGE %d\n" % i)

    device.close()
    fp.close()

    return outfp.getvalue()

EDIT (encore une fois) :

Mis à jour pour la version 20110515 (merci à Oeufcoque Penteano !) :

def pdf_to_csv(filename):
    from cStringIO import StringIO  
    from pdfminer.converter import LTChar, TextConverter
    from pdfminer.layout import LAParams
    from pdfminer.pdfparser import PDFDocument, PDFParser
    from pdfminer.pdfinterp import PDFResourceManager, PDFPageInterpreter

    class CsvConverter(TextConverter):
        def __init__(self, *args, **kwargs):
            TextConverter.__init__(self, *args, **kwargs)

        def end_page(self, i):
            from collections import defaultdict
            lines = defaultdict(lambda : {})
            for child in self.cur_item._objs:                #<-- changed
                if isinstance(child, LTChar):
                    (_,_,x,y) = child.bbox                   
                    line = lines[int(-y)]
                    line[x] = child._text.encode(self.codec) #<-- changed

            for y in sorted(lines.keys()):
                line = lines[y]
                self.outfp.write(";".join(line[x] for x in sorted(line.keys())))
                self.outfp.write("\n")

    # ... the following part of the code is a remix of the 
    # convert() function in the pdfminer/tools/pdf2text module
    rsrc = PDFResourceManager()
    outfp = StringIO()
    device = CsvConverter(rsrc, outfp, codec="utf-8", laparams=LAParams())
        # becuase my test documents are utf-8 (note: utf-8 is the default codec)

    doc = PDFDocument()
    fp = open(filename, 'rb')
    parser = PDFParser(fp)       
    parser.set_document(doc)     
    doc.set_parser(parser)       
    doc.initialize('')

    interpreter = PDFPageInterpreter(rsrc, device)

    for i, page in enumerate(doc.get_pages()):
        outfp.write("START PAGE %d\n" % i)
        if page is not None:
            interpreter.process_page(page)
        outfp.write("END PAGE %d\n" % i)

    device.close()
    fp.close()

    return outfp.getvalue()

Comme aucune de ces solutions ne prend en charge la dernière version de PDFMiner, j'ai écrit une solution simple qui renverra le texte d'un PDF à l'aide de PDFMiner.Cela fonctionnera pour ceux qui reçoivent des erreurs d'importation avec process_pdf 

import sys
from pdfminer.pdfinterp import PDFResourceManager, PDFPageInterpreter
from pdfminer.pdfpage import PDFPage
from pdfminer.converter import XMLConverter, HTMLConverter, TextConverter
from pdfminer.layout import LAParams
from cStringIO import StringIO

def pdfparser(data):

    fp = file(data, 'rb')
    rsrcmgr = PDFResourceManager()
    retstr = StringIO()
    codec = 'utf-8'
    laparams = LAParams()
    device = TextConverter(rsrcmgr, retstr, codec=codec, laparams=laparams)
    # Create a PDF interpreter object.
    interpreter = PDFPageInterpreter(rsrcmgr, device)
    # Process each page contained in the document.

    for page in PDFPage.get_pages(fp):
        interpreter.process_page(page)
        data =  retstr.getvalue()

    print data

if __name__ == '__main__':
    pdfparser(sys.argv[1])

Voir ci-dessous le code qui fonctionne pour Python 3 :

import sys
from pdfminer.pdfinterp import PDFResourceManager, PDFPageInterpreter
from pdfminer.pdfpage import PDFPage
from pdfminer.converter import XMLConverter, HTMLConverter, TextConverter
from pdfminer.layout import LAParams
import io

def pdfparser(data):

    fp = open(data, 'rb')
    rsrcmgr = PDFResourceManager()
    retstr = io.StringIO()
    codec = 'utf-8'
    laparams = LAParams()
    device = TextConverter(rsrcmgr, retstr, codec=codec, laparams=laparams)
    # Create a PDF interpreter object.
    interpreter = PDFPageInterpreter(rsrcmgr, device)
    # Process each page contained in the document.

    for page in PDFPage.get_pages(fp):
        interpreter.process_page(page)
        data =  retstr.getvalue()

    print(data)

if __name__ == '__main__':
    pdfparser(sys.argv[1])

PDFtotexte Un programme open source (qui fait partie de Xpdf) que vous pouvez appeler depuis python (pas ce que vous avez demandé mais qui pourrait être utile).Je l'ai utilisé sans problème.Je pense que Google l'utilise dans Google Desktop.

pyPDF fonctionne bien (en supposant que vous travaillez avec des PDF bien formés).Si tout ce que vous voulez c'est le texte (avec des espaces), vous pouvez simplement faire :

import pyPdf
pdf = pyPdf.PdfFileReader(open(filename, "rb"))
for page in pdf.pages:
    print page.extractText()

Vous pouvez également accéder facilement aux métadonnées, aux données d’image, etc.

Un commentaire dans le code extractText indique :

Localisez toutes les commandes de dessin de texte, dans l'ordre, elles sont fournies dans le flux de contenu et extraire le texte.Cela fonctionne bien pour certains fichiers PDF, mais mal pour d'autres, selon le générateur utilisé.Cela sera raffiné à l'avenir.Ne comptez pas sur l'ordre du texte sortant de cette fonction, car il changera si cette fonction est rendue plus sophistiquée.

Que ce soit un problème ou non dépend de ce que vous faites avec le texte (par ex.si l'ordre n'a pas d'importance, c'est bien, ou si le générateur ajoute du texte au flux dans l'ordre dans lequel il sera affiché, c'est bien).J'utilise le code d'extraction pyPdf quotidiennement, sans aucun problème.

Vous pouvez également assez facilement utiliser pdfminer comme bibliothèque.Vous avez accès au modèle de contenu du pdf et pouvez créer votre propre extraction de texte.J'ai fait cela pour convertir le contenu PDF en texte séparé par des points-virgules, en utilisant le code ci-dessous.

La fonction trie simplement les objets de contenu textItem en fonction de leurs coordonnées y et x, et publie des éléments avec la même coordonnée Y qu'une ligne de texte, séparant les objets sur la même ligne avec ';' ' personnages.

En utilisant cette approche, j'ai pu extraire du texte d'un pdf dont aucun autre outil n'était capable d'extraire du contenu adapté à une analyse plus approfondie.Les autres outils que j'ai essayés incluent pdftotext, ps2ascii et l'outil en ligne pdftextonline.com.

pdfminer est un outil inestimable pour le scraping de PDF.


def pdf_to_csv(filename):
    from pdflib.page import TextItem, TextConverter
    from pdflib.pdfparser import PDFDocument, PDFParser
    from pdflib.pdfinterp import PDFResourceManager, PDFPageInterpreter

    class CsvConverter(TextConverter):
        def __init__(self, *args, **kwargs):
            TextConverter.__init__(self, *args, **kwargs)

        def end_page(self, i):
            from collections import defaultdict
            lines = defaultdict(lambda : {})
            for child in self.cur_item.objs:
                if isinstance(child, TextItem):
                    (_,_,x,y) = child.bbox
                    line = lines[int(-y)]
                    line[x] = child.text

            for y in sorted(lines.keys()):
                line = lines[y]
                self.outfp.write(";".join(line[x] for x in sorted(line.keys())))
                self.outfp.write("\n")

    # ... the following part of the code is a remix of the 
    # convert() function in the pdfminer/tools/pdf2text module
    rsrc = PDFResourceManager()
    outfp = StringIO()
    device = CsvConverter(rsrc, outfp, "ascii")

    doc = PDFDocument()
    fp = open(filename, 'rb')
    parser = PDFParser(doc, fp)
    doc.initialize('')

    interpreter = PDFPageInterpreter(rsrc, device)

    for i, page in enumerate(doc.get_pages()):
        outfp.write("START PAGE %d\n" % i)
        interpreter.process_page(page)
        outfp.write("END PAGE %d\n" % i)

    device.close()
    fp.close()

    return outfp.getvalue()

MISE À JOUR:

Le code ci-dessus est écrit sur une ancienne version de l'API, voir mon commentaire ci-dessous.

slate est un projet qui rend très simple l'utilisation de PDFMiner à partir d'une bibliothèque :

>>> with open('example.pdf') as f:
...    doc = slate.PDF(f)
...
>>> doc
[..., ..., ...]
>>> doc[1]
'Text from page 2...'

J'avais besoin de convertir un PDF spécifique en texte brut dans un module python.j'ai utilisé PDFMineur 20110515, après avoir lu leur pdf2txt.py outil, j'ai écrit cet extrait simple :

from cStringIO import StringIO
from pdfminer.pdfinterp import PDFResourceManager, process_pdf
from pdfminer.converter import TextConverter
from pdfminer.layout import LAParams

def to_txt(pdf_path):
    input_ = file(pdf_path, 'rb')
    output = StringIO()

    manager = PDFResourceManager()
    converter = TextConverter(manager, output, laparams=LAParams())
    process_pdf(manager, converter, input_)

    return output.getvalue()

Réutilisation du code pdf2txt.py fourni avec pdfminer ;vous pouvez créer une fonction qui mènera au pdf ;éventuellement, un outtype (txt|html|xml|tag) et opte comme la ligne de commande pdf2txt {'-o' :'/chemin/vers/outfile.txt' ...}.Par défaut, vous pouvez appeler :

convert_pdf(path)

Un fichier texte sera créé, un frère sur le système de fichiers du pdf original.

def convert_pdf(path, outtype='txt', opts={}):
    import sys
    from pdfminer.pdfinterp import PDFResourceManager, PDFPageInterpreter, process_pdf
    from pdfminer.converter import XMLConverter, HTMLConverter, TextConverter, TagExtractor
    from pdfminer.layout import LAParams
    from pdfminer.pdfparser import PDFDocument, PDFParser
    from pdfminer.pdfdevice import PDFDevice
    from pdfminer.cmapdb import CMapDB

    outfile = path[:-3] + outtype
    outdir = '/'.join(path.split('/')[:-1])

    debug = 0
    # input option
    password = ''
    pagenos = set()
    maxpages = 0
    # output option
    codec = 'utf-8'
    pageno = 1
    scale = 1
    showpageno = True
    laparams = LAParams()
    for (k, v) in opts:
        if k == '-d': debug += 1
        elif k == '-p': pagenos.update( int(x)-1 for x in v.split(',') )
        elif k == '-m': maxpages = int(v)
        elif k == '-P': password = v
        elif k == '-o': outfile = v
        elif k == '-n': laparams = None
        elif k == '-A': laparams.all_texts = True
        elif k == '-D': laparams.writing_mode = v
        elif k == '-M': laparams.char_margin = float(v)
        elif k == '-L': laparams.line_margin = float(v)
        elif k == '-W': laparams.word_margin = float(v)
        elif k == '-O': outdir = v
        elif k == '-t': outtype = v
        elif k == '-c': codec = v
        elif k == '-s': scale = float(v)
    #
    CMapDB.debug = debug
    PDFResourceManager.debug = debug
    PDFDocument.debug = debug
    PDFParser.debug = debug
    PDFPageInterpreter.debug = debug
    PDFDevice.debug = debug
    #
    rsrcmgr = PDFResourceManager()
    if not outtype:
        outtype = 'txt'
        if outfile:
            if outfile.endswith('.htm') or outfile.endswith('.html'):
                outtype = 'html'
            elif outfile.endswith('.xml'):
                outtype = 'xml'
            elif outfile.endswith('.tag'):
                outtype = 'tag'
    if outfile:
        outfp = file(outfile, 'w')
    else:
        outfp = sys.stdout
    if outtype == 'txt':
        device = TextConverter(rsrcmgr, outfp, codec=codec, laparams=laparams)
    elif outtype == 'xml':
        device = XMLConverter(rsrcmgr, outfp, codec=codec, laparams=laparams, outdir=outdir)
    elif outtype == 'html':
        device = HTMLConverter(rsrcmgr, outfp, codec=codec, scale=scale, laparams=laparams, outdir=outdir)
    elif outtype == 'tag':
        device = TagExtractor(rsrcmgr, outfp, codec=codec)
    else:
        return usage()

    fp = file(path, 'rb')
    process_pdf(rsrcmgr, device, fp, pagenos, maxpages=maxpages, password=password)
    fp.close()
    device.close()

    outfp.close()
    return

PDFminer m'a donné peut-être une ligne [page 1 sur 7...] sur chaque page d'un fichier pdf que j'ai essayé avec.

La meilleure réponse que j'ai jusqu'à présent est pdftoipe, ou le code C++ basé sur Xpdf.

voir ma question pour savoir à quoi ressemble la sortie de pdftoipe.

De plus il y a PDFTextStream qui est une bibliothèque Java commerciale qui peut également être utilisée à partir de Python.

j'ai utilisé pdftohtml avec le -xml argument, lisez le résultat avec subprocess.Popen(), qui vous donnera la coordonnée x, la coordonnée y, la largeur, la hauteur et la police de chaque fragment du texte dans le pdf.Je pense que c'est probablement ce que « evince » utilise aussi, car les mêmes messages d'erreur s'affichent.

Si vous devez traiter des données en colonnes, cela devient un peu plus compliqué car vous devez inventer un algorithme adapté à votre fichier PDF.Le problème est que les programmes qui créent des fichiers PDF ne présentent pas nécessairement le texte dans un format logique.Vous pouvez essayer des algorithmes de tri simples et cela fonctionne parfois, mais il peut y avoir de petits « retardataires » et « égarés », des morceaux de texte qui ne sont pas placés dans l'ordre que vous pensiez.Il faut donc faire preuve de créativité.

Il m'a fallu environ 5 heures pour en trouver un pour les fichiers PDF sur lesquels je travaillais.Mais ça marche plutôt bien maintenant.Bonne chance.

J'ai trouvé cette solution aujourd'hui.Fonctionne très bien pour moi.Même le rendu des pages PDF en images PNG.http://www.swftools.org/gfx_tutorial.html

Licencié sous: CC-BY-SA avec attribution
Non affilié à StackOverflow
scroll top