PDF をテキストに変換するための Python モジュール [終了]

Question

PDF ファイルをテキストに変換するのに最適な Python モジュールはどれですか?

Answer 1

試す PDFマイナー. 。PDF ファイルからテキストを HTML、SGML、または「タグ付き PDF」形式として抽出できます。

タグ付き PDF 形式が最もクリーンなようで、XML タグを削除すると、裸のテキストだけが残ります。

Python 3 バージョンは以下から入手できます。

• https://github.com/pdfminer/pdfminer.six

Answer 2

の PDFマイナー 以前よりパッケージが変わりました コードエイプ 投稿されました。

編集（再度）：

PDFMiner のバージョンが再び更新されました 20100213

インストールされているバージョンは次の方法で確認できます。

>>> import pdfminer
>>> pdfminer.__version__
'20100213'

更新されたバージョンは次のとおりです (変更/追加したものについてのコメント付き)。

def pdf_to_csv(filename):
    from cStringIO import StringIO  #<-- added so you can copy/paste this to try it
    from pdfminer.converter import LTTextItem, TextConverter
    from pdfminer.pdfparser import PDFDocument, PDFParser
    from pdfminer.pdfinterp import PDFResourceManager, PDFPageInterpreter

    class CsvConverter(TextConverter):
        def __init__(self, *args, **kwargs):
            TextConverter.__init__(self, *args, **kwargs)

        def end_page(self, i):
            from collections import defaultdict
            lines = defaultdict(lambda : {})
            for child in self.cur_item.objs:
                if isinstance(child, LTTextItem):
                    (_,_,x,y) = child.bbox                   #<-- changed
                    line = lines[int(-y)]
                    line[x] = child.text.encode(self.codec)  #<-- changed

            for y in sorted(lines.keys()):
                line = lines[y]
                self.outfp.write(";".join(line[x] for x in sorted(line.keys())))
                self.outfp.write("\n")

    # ... the following part of the code is a remix of the 
    # convert() function in the pdfminer/tools/pdf2text module
    rsrc = PDFResourceManager()
    outfp = StringIO()
    device = CsvConverter(rsrc, outfp, codec="utf-8")  #<-- changed 
        # becuase my test documents are utf-8 (note: utf-8 is the default codec)

    doc = PDFDocument()
    fp = open(filename, 'rb')
    parser = PDFParser(fp)       #<-- changed
    parser.set_document(doc)     #<-- added
    doc.set_parser(parser)       #<-- added
    doc.initialize('')

    interpreter = PDFPageInterpreter(rsrc, device)

    for i, page in enumerate(doc.get_pages()):
        outfp.write("START PAGE %d\n" % i)
        interpreter.process_page(page)
        outfp.write("END PAGE %d\n" % i)

    device.close()
    fp.close()

    return outfp.getvalue()

編集（もう一度）：

最新バージョンのアップデートは次のとおりです ピピ, 20100619p1. 。要するに交換しました LTTextItem と LTChar そして、LAParams のインスタンスを CsvConverter コンストラクターに渡しました。

def pdf_to_csv(filename):
    from cStringIO import StringIO  
    from pdfminer.converter import LTChar, TextConverter    #<-- changed
    from pdfminer.layout import LAParams
    from pdfminer.pdfparser import PDFDocument, PDFParser
    from pdfminer.pdfinterp import PDFResourceManager, PDFPageInterpreter

    class CsvConverter(TextConverter):
        def __init__(self, *args, **kwargs):
            TextConverter.__init__(self, *args, **kwargs)

        def end_page(self, i):
            from collections import defaultdict
            lines = defaultdict(lambda : {})
            for child in self.cur_item.objs:
                if isinstance(child, LTChar):               #<-- changed
                    (_,_,x,y) = child.bbox                   
                    line = lines[int(-y)]
                    line[x] = child.text.encode(self.codec)

            for y in sorted(lines.keys()):
                line = lines[y]
                self.outfp.write(";".join(line[x] for x in sorted(line.keys())))
                self.outfp.write("\n")

    # ... the following part of the code is a remix of the 
    # convert() function in the pdfminer/tools/pdf2text module
    rsrc = PDFResourceManager()
    outfp = StringIO()
    device = CsvConverter(rsrc, outfp, codec="utf-8", laparams=LAParams())  #<-- changed
        # becuase my test documents are utf-8 (note: utf-8 is the default codec)

    doc = PDFDocument()
    fp = open(filename, 'rb')
    parser = PDFParser(fp)       
    parser.set_document(doc)     
    doc.set_parser(parser)       
    doc.initialize('')

    interpreter = PDFPageInterpreter(rsrc, device)

    for i, page in enumerate(doc.get_pages()):
        outfp.write("START PAGE %d\n" % i)
        if page is not None:
            interpreter.process_page(page)
        outfp.write("END PAGE %d\n" % i)

    device.close()
    fp.close()

    return outfp.getvalue()

編集（もう一度）：

バージョンが更新されました 20110515 (Oeufcoque Penteano に感謝します!):

def pdf_to_csv(filename):
    from cStringIO import StringIO  
    from pdfminer.converter import LTChar, TextConverter
    from pdfminer.layout import LAParams
    from pdfminer.pdfparser import PDFDocument, PDFParser
    from pdfminer.pdfinterp import PDFResourceManager, PDFPageInterpreter

    class CsvConverter(TextConverter):
        def __init__(self, *args, **kwargs):
            TextConverter.__init__(self, *args, **kwargs)

        def end_page(self, i):
            from collections import defaultdict
            lines = defaultdict(lambda : {})
            for child in self.cur_item._objs:                #<-- changed
                if isinstance(child, LTChar):
                    (_,_,x,y) = child.bbox                   
                    line = lines[int(-y)]
                    line[x] = child._text.encode(self.codec) #<-- changed

            for y in sorted(lines.keys()):
                line = lines[y]
                self.outfp.write(";".join(line[x] for x in sorted(line.keys())))
                self.outfp.write("\n")

    # ... the following part of the code is a remix of the 
    # convert() function in the pdfminer/tools/pdf2text module
    rsrc = PDFResourceManager()
    outfp = StringIO()
    device = CsvConverter(rsrc, outfp, codec="utf-8", laparams=LAParams())
        # becuase my test documents are utf-8 (note: utf-8 is the default codec)

    doc = PDFDocument()
    fp = open(filename, 'rb')
    parser = PDFParser(fp)       
    parser.set_document(doc)     
    doc.set_parser(parser)       
    doc.initialize('')

    interpreter = PDFPageInterpreter(rsrc, device)

    for i, page in enumerate(doc.get_pages()):
        outfp.write("START PAGE %d\n" % i)
        if page is not None:
            interpreter.process_page(page)
        outfp.write("END PAGE %d\n" % i)

    device.close()
    fp.close()

    return outfp.getvalue()

Answer 3

これらのソリューションは PDFMiner の最新バージョンをサポートしていないため、PDFMiner を使用して PDF のテキストを返す簡単なソリューションを作成しました。これは、インポートエラーが発生する人に役立ちます。 process_pdf

import sys
from pdfminer.pdfinterp import PDFResourceManager, PDFPageInterpreter
from pdfminer.pdfpage import PDFPage
from pdfminer.converter import XMLConverter, HTMLConverter, TextConverter
from pdfminer.layout import LAParams
from cStringIO import StringIO

def pdfparser(data):

    fp = file(data, 'rb')
    rsrcmgr = PDFResourceManager()
    retstr = StringIO()
    codec = 'utf-8'
    laparams = LAParams()
    device = TextConverter(rsrcmgr, retstr, codec=codec, laparams=laparams)
    # Create a PDF interpreter object.
    interpreter = PDFPageInterpreter(rsrcmgr, device)
    # Process each page contained in the document.

    for page in PDFPage.get_pages(fp):
        interpreter.process_page(page)
        data =  retstr.getvalue()

    print data

if __name__ == '__main__':
    pdfparser(sys.argv[1])  

Python 3 で動作する以下のコードを参照してください。

import sys
from pdfminer.pdfinterp import PDFResourceManager, PDFPageInterpreter
from pdfminer.pdfpage import PDFPage
from pdfminer.converter import XMLConverter, HTMLConverter, TextConverter
from pdfminer.layout import LAParams
import io

def pdfparser(data):

    fp = open(data, 'rb')
    rsrcmgr = PDFResourceManager()
    retstr = io.StringIO()
    codec = 'utf-8'
    laparams = LAParams()
    device = TextConverter(rsrcmgr, retstr, codec=codec, laparams=laparams)
    # Create a PDF interpreter object.
    interpreter = PDFPageInterpreter(rsrcmgr, device)
    # Process each page contained in the document.

    for page in PDFPage.get_pages(fp):
        interpreter.process_page(page)
        data =  retstr.getvalue()

    print(data)

if __name__ == '__main__':
    pdfparser(sys.argv[1])  

Answer 4

PDFテキスト Python から呼び出すことができるオープン ソース プログラム (Xpdf の一部) (あなたが求めたものではありませんが、役立つかもしれません)。問題なく使用できました。GoogleはGoogleデスクトップでそれを使用していると思います。

Answer 5

pyPDF 正常に動作します (整形式の PDF を使用していると仮定します)。テキスト (スペースを含む) だけが必要な場合は、次のようにするだけです。

import pyPdf
pdf = pyPdf.PdfFileReader(open(filename, "rb"))
for page in pdf.pages:
    print page.extractText()

メタデータや画像データなどにも簡単にアクセスできます。

extractText コードのコメントには、次のような注意事項があります。

コンテンツストリームで提供される順序で、すべてのテキスト描画コマンドを見つけ、テキストを抽出します。これは、一部のPDFファイルではうまく機能しますが、使用する発電機に応じて他のファイルでは不十分です。これは将来洗練されます。この関数がより洗練されている場合に変更されるため、この関数から出てくるテキストの順序に依存しないでください。

これが問題であるかどうかは、テキストで何をしているかによって異なります (例:順序が重要でない場合は問題ありません。または、ジェネレーターが表示される順序でテキストをストリームに追加する場合でも問題ありません)。pyPdf 抽出コードを毎日使用していますが、問題はありません。

Answer 6

pdfminer をライブラリとして非常に簡単に使用することもできます。PDF のコンテンツ モデルにアクセスでき、独自のテキスト抽出を作成できます。以下のコードを使用して、PDF コンテンツをセミコロン区切りのテキストに変換するためにこれを行いました。

この関数は、YおよびX座標に従ってTextITEMコンテンツオブジェクトを並べ替え、1つのテキスト行と同じY座標でアイテムを出力し、同じ行のオブジェクトを ';'で分離します。文字。

このアプローチを使用すると、他のツールではさらなる解析に適したコンテンツを抽出できなかったテキストを PDF から抽出することができました。私が試した他のツールには、pdftotext、ps2ascii、オンライン ツール pdftextonline.com などがあります。

pdfminer は、pdf スクレイピングのための非常に貴重なツールです。

def pdf_to_csv(filename):
    from pdflib.page import TextItem, TextConverter
    from pdflib.pdfparser import PDFDocument, PDFParser
    from pdflib.pdfinterp import PDFResourceManager, PDFPageInterpreter

    class CsvConverter(TextConverter):
        def __init__(self, *args, **kwargs):
            TextConverter.__init__(self, *args, **kwargs)

        def end_page(self, i):
            from collections import defaultdict
            lines = defaultdict(lambda : {})
            for child in self.cur_item.objs:
                if isinstance(child, TextItem):
                    (_,_,x,y) = child.bbox
                    line = lines[int(-y)]
                    line[x] = child.text

            for y in sorted(lines.keys()):
                line = lines[y]
                self.outfp.write(";".join(line[x] for x in sorted(line.keys())))
                self.outfp.write("\n")

    # ... the following part of the code is a remix of the 
    # convert() function in the pdfminer/tools/pdf2text module
    rsrc = PDFResourceManager()
    outfp = StringIO()
    device = CsvConverter(rsrc, outfp, "ascii")

    doc = PDFDocument()
    fp = open(filename, 'rb')
    parser = PDFParser(doc, fp)
    doc.initialize('')

    interpreter = PDFPageInterpreter(rsrc, device)

    for i, page in enumerate(doc.get_pages()):
        outfp.write("START PAGE %d\n" % i)
        interpreter.process_page(page)
        outfp.write("END PAGE %d\n" % i)

    device.close()
    fp.close()

    return outfp.getvalue()

アップデート:

上記のコードは古いバージョンの API に対して書かれています。以下の私のコメントを参照してください。

Answer 7

slate は、ライブラリから PDFMiner を非常に簡単に使用できるようにするプロジェクトです。

>>> with open('example.pdf') as f:
...    doc = slate.PDF(f)
...
>>> doc
[..., ..., ...]
>>> doc[1]
'Text from page 2...'   

Answer 8

Python モジュール内で特定の PDF をプレーン テキストに変換する必要がありました。私が使用した PDFマイナー 20110515、最後まで読んだ後 pdf2txt.py ツール 私はこの簡単なスニペットを書きました:

from cStringIO import StringIO
from pdfminer.pdfinterp import PDFResourceManager, process_pdf
from pdfminer.converter import TextConverter
from pdfminer.layout import LAParams

def to_txt(pdf_path):
    input_ = file(pdf_path, 'rb')
    output = StringIO()

    manager = PDFResourceManager()
    converter = TextConverter(manager, output, laparams=LAParams())
    process_pdf(manager, converter, input_)

    return output.getvalue() 

Answer 9

pdfminer に付属する pdf2txt.py コードを再利用します。PDF へのパスを取得する関数を作成できます。オプションで、outtype (txt|html|xml|tag) を指定し、コマンドライン pdf2txt {'-o': のように選択します。'/path/to/outfile.txt' ...}。デフォルトでは、以下を呼び出すことができます。

convert_pdf(path)

ファイルシステム上で元の PDF の兄弟となるテキスト ファイルが作成されます。

def convert_pdf(path, outtype='txt', opts={}):
    import sys
    from pdfminer.pdfinterp import PDFResourceManager, PDFPageInterpreter, process_pdf
    from pdfminer.converter import XMLConverter, HTMLConverter, TextConverter, TagExtractor
    from pdfminer.layout import LAParams
    from pdfminer.pdfparser import PDFDocument, PDFParser
    from pdfminer.pdfdevice import PDFDevice
    from pdfminer.cmapdb import CMapDB

    outfile = path[:-3] + outtype
    outdir = '/'.join(path.split('/')[:-1])

    debug = 0
    # input option
    password = ''
    pagenos = set()
    maxpages = 0
    # output option
    codec = 'utf-8'
    pageno = 1
    scale = 1
    showpageno = True
    laparams = LAParams()
    for (k, v) in opts:
        if k == '-d': debug += 1
        elif k == '-p': pagenos.update( int(x)-1 for x in v.split(',') )
        elif k == '-m': maxpages = int(v)
        elif k == '-P': password = v
        elif k == '-o': outfile = v
        elif k == '-n': laparams = None
        elif k == '-A': laparams.all_texts = True
        elif k == '-D': laparams.writing_mode = v
        elif k == '-M': laparams.char_margin = float(v)
        elif k == '-L': laparams.line_margin = float(v)
        elif k == '-W': laparams.word_margin = float(v)
        elif k == '-O': outdir = v
        elif k == '-t': outtype = v
        elif k == '-c': codec = v
        elif k == '-s': scale = float(v)
    #
    CMapDB.debug = debug
    PDFResourceManager.debug = debug
    PDFDocument.debug = debug
    PDFParser.debug = debug
    PDFPageInterpreter.debug = debug
    PDFDevice.debug = debug
    #
    rsrcmgr = PDFResourceManager()
    if not outtype:
        outtype = 'txt'
        if outfile:
            if outfile.endswith('.htm') or outfile.endswith('.html'):
                outtype = 'html'
            elif outfile.endswith('.xml'):
                outtype = 'xml'
            elif outfile.endswith('.tag'):
                outtype = 'tag'
    if outfile:
        outfp = file(outfile, 'w')
    else:
        outfp = sys.stdout
    if outtype == 'txt':
        device = TextConverter(rsrcmgr, outfp, codec=codec, laparams=laparams)
    elif outtype == 'xml':
        device = XMLConverter(rsrcmgr, outfp, codec=codec, laparams=laparams, outdir=outdir)
    elif outtype == 'html':
        device = HTMLConverter(rsrcmgr, outfp, codec=codec, scale=scale, laparams=laparams, outdir=outdir)
    elif outtype == 'tag':
        device = TagExtractor(rsrcmgr, outfp, codec=codec)
    else:
        return usage()

    fp = file(path, 'rb')
    process_pdf(rsrcmgr, device, fp, pagenos, maxpages=maxpages, password=password)
    fp.close()
    device.close()

    outfp.close()
    return

Answer 10

PDFminer を試してみると、PDF ファイルの各ページにおそらく 1 行 [ページ 1/7...] が表示されました。

私がこれまでに得た最良の答えは、pdftoipe、または Xpdf に基づく C++ コードです。

見る 私の質問 pdftoipe の出力がどのようになるかについて説明します。

Answer 11

さらに、 PDFテキストストリーム これは、Python からも使用できる商用 Java ライブラリです。

Answer 12

利用した pdftohtml とともに -xml 引数を使用して結果を読み取ります subprocess.Popen(), これにより、すべての x 座標、y 座標、幅、高さ、フォントが得られます。 スニペット PDF 内のテキストの。同じエラーメッセージが吐き出されることから、これはおそらく「evince」でも使用されているものだと思います。

列形式のデータを処理する必要がある場合は、PDF ファイルに適したアルゴリズムを考案する必要があるため、少し複雑になります。問題は、PDF ファイルを作成するプログラムが必ずしもテキストを論理形式でレイアウトするとは限らないことです。単純な並べ替えアルゴリズムを試してみると、うまくいく場合もありますが、小さな「はぐれ」や「はぐれ」、つまり、思った順序で配置されないテキストの断片が存在する可能性があります。したがって、創造性を発揮する必要があります。

私が取り組んでいた PDF の 1 つを見つけるのに約 5 時間かかりました。しかし、今ではかなりうまく機能しています。幸運を。

Answer 13

今日その解決策を見つけました。私にとってはとてもうまくいきます。PDF ページを PNG 画像にレンダリングすることもできます。http://www.swftools.org/gfx_tutorial.html