其他分享
首页 > 其他分享> > 分开使用 Celery beat and worker

分开使用 Celery beat and worker

作者:互联网

背景

之前项目中采用djcelery, 将定时的任务存储在数据库中并且在启动 worker 的同时启动 beat, 命令如下:

#python manage.py celery worker -B -l info -f ./log/celery_beat_worker.log

 

这样做只能启动一个worker, 在自己调试的时候很方便,但是上到生产环境时,由于任务多,有可能导致任务处理不及时。

 

官方说明如下:

You can also start embed beat inside the worker by enabling workers -B option, this is convenient if you will never run more than one worker node, but it’s not commonly used and for that reason is not recommended for production use:

 

解决方法

将 beat 和 worker 分开处理:

 

#nohup python manage.py celery beat --detach --pidfile= -S djcelery.schedulers.DatabaseScheduler -l info -f ./log/celery_beat.log 

#nohup python manage.py celery worker -l info -f ./log/celery_beat_worker.log

 

参数说明:

--detach: Detach and run in the background as a daemon.
--pidfile=: 此处置为空,是因为每次运行beat会产生一个celerybeat.pid文件,当第二次运行时发现这个文件就不会再启动beat-S: djcelery.schedulers.DatabaseScheduler 由于将beat和worker分开后,原来djcelery在django目录下settps.py中的设定不会再被默认加载,所以指定定时任务存放在数据库中

    -f: 指定log存放的路径,例如:./log/celery_beat.log

 

参考

https://docs.celeryproject.org/en/3.1/django/first-steps-with-django.html

https://blog.csdn.net/qq_34195441/article/details/106527063

标签:celery,log,beat,py,worker,Celery,--
来源: https://www.cnblogs.com/atuotuo/p/14805086.html