La lecture du même fichier plusieurs fois en Python
Question
Je dois télécharger une archive zip de fichiers texte, envoyer chaque fichier texte dans l'archive à d'autres gestionnaires pour le traitement, et enfin écrire le fichier texte décompressé sur le disque.
Je le code suivant. Il utilise plusieurs ouverture / fermeture sur le même fichier, ce qui ne semble pas élégant. Comment puis-je le rendre plus élégant et efficace?
zipped = urllib.urlopen('www.abc.com/xyz.zip')
buf = cStringIO.StringIO(zipped.read())
zipped.close()
unzipped = zipfile.ZipFile(buf, 'r')
for f_info in unzipped.infolist():
logfile = unzipped.open(f_info)
handler1(logfile)
logfile.close() ## Cannot seek(0). The file like obj does not support seek()
logfile = unzipped.open(f_info)
handler2(logfile)
logfile.close()
unzipped.extract(f_info)
La solution
Votre réponse est dans votre exemple de code. Il suffit d'utiliser StringIO pour tamponner le fichier journal:
zipped = urllib.urlopen('www.abc.com/xyz.zip')
buf = cStringIO.StringIO(zipped.read())
zipped.close()
unzipped = zipfile.ZipFile(buf, 'r')
for f_info in unzipped.infolist():
logfile = unzipped.open(f_info)
# Here's where we buffer:
logbuffer = cStringIO.StringIO(logfile.read())
logfile.close()
for handler in [handler1, handler2]:
handler(logbuffer)
# StringIO objects support seek():
logbuffer.seek(0)
unzipped.extract(f_info)
Autres conseils
Vous pouvez dire quelque chose comme:
handler_dispatch(logfile)
et
def handler_dispatch(file):
for line in file:
handler1(line)
handler2(line)
ou même le rendre plus dynamique en construisant une classe Handler avec de multiples fonctions de handlerN, et l'application de chacun d'eux à l'intérieur handler_dispatch
. Comme
class Handler:
def __init__(self:)
self.handlers = []
def add_handler(handler):
self.handlers.append(handler)
def handler_dispatch(self, file):
for line in file:
for handler in self.handlers:
handler.handle(line)
Ouvrez le fichier zip une fois, boucle à travers tous les noms, extraire le fichier pour chaque nom et de traiter, puis écrire sur le disque.
comme ceci:
for f_info in unzipped.info_list():
file = unzipped.open(f_info)
data = file.read()
# If you need a file like object, wrap it in a cStringIO
fobj = cStringIO.StringIO(data)
handler1(fobj)
handler2(fobj)
with open(filename,"w") as fp:
fp.write(data)
Vous avez l'idée