реализация очереди заданий для Python
Вопрос
Знаете ли вы/используете какую-либо распределенную очередь заданий для Python?Можете ли вы поделиться ссылками или инструментами?
Решение
Помимо многопроцессорности есть еще Сельдерей проект, если вы используете Django.
Другие советы
Pyres — это клон восстановления, построенный на Python.Resque используется Github в качестве очереди сообщений.Оба используют Redis в качестве серверной части очереди и предоставляют веб-приложение для мониторинга.
Еще есть «бакер» Сильвена Хеллегуарха, который вы можете найти здесь:
Он описывает себя так:
- bucker — это система очередей, которая поддерживает несколько хранилищ для очереди (memcached, Amazon SQS на данный момент) и управляется XML-сообщениями, отправляемыми через TCP-соединения между клиентом и сервером очереди.
Посмотри на бобовый стебель
красная очередь?Он реализован в среде Python+tornado, использует протокол memcached и при необходимости сохраняется в файлах журналов.В настоящее время он также может вести себя как beanstalkd, способ резервирования/удаления в протоколе memcache.
Если вы считаете, что Celery слишком тяжел для ваших нужд, возможно, вам стоит взглянуть на простую распределенную очередь задач:
Это на год позже или что-то в этом роде, но это то, что я взломал, чтобы создать очередь процессов, выполняющих их только X-номер за раз. http://github.com/goosemo/job_queue
Вероятно, вы захотите взглянуть на очередь многопроцессорной обработки.Включено в Python 2.6. Загрузите его в PyPI для более ранних версий Python.
Документация стандартной библиотеки: http://docs.python.org/library/multiprocessing.htmlВ PyPI: http://pypi.python.org/pypi/multiprocessing
Также есть Unix 'at'
Для получения дополнительной информации:человек в