Windows 上の Python - 複数の子プロセスを待つ方法は?
-
01-07-2019 - |
質問
アクティブな待機 (ポーリング) を行わずに、Windows 上の Python で複数の子プロセスを待機する方法は?このようなもの ほとんど 私にとってはうまくいきます:
proc1 = subprocess.Popen(['python','mytest.py'])
proc2 = subprocess.Popen(['python','mytest.py'])
proc1.wait()
print "1 finished"
proc2.wait()
print "2 finished"
問題は、そのときです proc2
前に終わる proc1
, 、親プロセスはまだ待機します proc1
. 。Unix では、次のように使用します waitpid(0)
ループ内で子プロセスの終了時に戻りコードを取得します。Windows 上の Python でこのようなことを実現するにはどうすればよいでしょうか?
解決
やりすぎに思えるかもしれませんが、次のようになります。
import Queue, thread, subprocess
results= Queue.Queue()
def process_waiter(popen, description, que):
try: popen.wait()
finally: que.put( (description, popen.returncode) )
process_count= 0
proc1= subprocess.Popen( ['python', 'mytest.py'] )
thread.start_new_thread(process_waiter,
(proc1, "1 finished", results))
process_count+= 1
proc2= subprocess.Popen( ['python', 'mytest.py'] )
thread.start_new_thread(process_waiter,
(proc2, "2 finished", results))
process_count+= 1
# etc
while process_count > 0:
description, rc= results.get()
print "job", description, "ended with rc =", rc
process_count-= 1
他のヒント
ツイストには 非同期プロセス生成 API Windows上で動作します。実際にはいくつかの異なる実装があり、その多くはそれほど優れたものではありませんが、コードを変更せずにそれらを切り替えることができます。
zseilの答えに基づいて構築すると、サブプロセスとwin32 API呼び出しを組み合わせてこれを行うことができます。私の Python にはたまたま win32api がインストールされていないため、直接 ctypes を使用しました。ここでは例として MSYS から sleep.exe を生成しているだけですが、明らかに任意のプロセスを生成できます。OpenProcess() を使用してプロセスの PID から HANDLE を取得し、次に WaitForMultipleObjects を使用してプロセスが終了するのを待ちます。
import ctypes, subprocess
from random import randint
SYNCHRONIZE=0x00100000
INFINITE = -1
numprocs = 5
handles = {}
for i in xrange(numprocs):
sleeptime = randint(5,10)
p = subprocess.Popen([r"c:\msys\1.0\bin\sleep.exe", str(sleeptime)], stdin=subprocess.PIPE, stdout=subprocess.PIPE, stderr=subprocess.PIPE, shell=False)
h = ctypes.windll.kernel32.OpenProcess(SYNCHRONIZE, False, p.pid)
handles[h] = p.pid
print "Spawned Process %d" % p.pid
while len(handles) > 0:
print "Waiting for %d children..." % len(handles)
arrtype = ctypes.c_long * len(handles)
handle_array = arrtype(*handles.keys())
ret = ctypes.windll.kernel32.WaitForMultipleObjects(len(handle_array), handle_array, False, INFINITE)
h = handle_array[ret]
ctypes.windll.kernel32.CloseHandle(h)
print "Process %d done" % handles[h]
del handles[h]
print "All done!"
Windows 上の Twisted は、内部でアクティブ待機を実行します。スレッドを使用したくない場合は、win32 API を使用してポーリングを回避する必要があります。このようなもの:
import win32process
import win32event
# Note: CreateProcess() args are somewhat cryptic, look them up on MSDN
proc1, thread1, pid1, tid1 = win32process.CreateProcess(...)
proc2, thread2, pid2, tid2 = win32process.CreateProcess(...)
thread1.close()
thread2.close()
processes = {proc1: "proc1", proc2: "proc2"}
while processes:
handles = processes.keys()
# Note: WaitForMultipleObjects() supports at most 64 processes at a time
index = win32event.WaitForMultipleObjects(handles, False, win32event.INFINITE)
finished = handles[index]
exitcode = win32process.GetExitCodeProcess(finished)
procname = processes.pop(finished)
finished.close()
print "Subprocess %s finished with exit code %d" % (procname, exitcode)
使用できます psutil:
>>> import subprocess
>>> import psutil
>>>
>>> proc1 = subprocess.Popen(['python','mytest.py'])
>>> proc2 = subprocess.Popen(['python','mytest.py'])
>>> ls = [psutil.Process(proc1.pid), psutil.Process(proc2.pid)]
>>>
>>> gone, alive = psutil.wait_procs(ls, timeout=3)
「gone」と「alive」は、どのプロセスが消滅し、どのプロセスがまだ生きているかを示すリストです。
オプションで、監視対象のプロセスの 1 つが終了するたびに呼び出されるコールバックを指定できます。
>>> def on_terminate(proc):
... print "%s terminated" % proc
...
>>> gone, alive = psutil.wait_procs(ls, timeout=3, callback=on_terminate)