Supervisor+Celery+Redis+gevent出現missed hearbeat

來源:互聯網
上載者:User

一:問題描述:
使用Supervisor對celery進程進行管理,broker使用Redis,採用gevent池運行task,celery使用的版本為4.0.2,隨機出現missed hearbeat worker,重啟進程之後運行正常
解決辦法:
1.設定心跳包檢查間隔和時間長度,這樣可以保證由於系統負載原因導致檢測不準,因為檢查機制是往隊列裡發送一條訊息,worker可以收到這條訊息,如果系統處理不過來,可能需要等很久,如果間隔時間設定不對,可能就認為worker丟失了。
設定參數如下:
broker_heartbeat = 24 * 60 * 60
broker_heartbeat_checkrate = int(broker_heartbeat / 60 * 60)

2.設定每個task最大運行時間長度。如果task運行超過時間長度,則會主動結束掉task,這樣保證不會耗掉所有池中資源,也會儘快結束掉異常task,提高處理速度。
設定參數如下:
task_time_limit = 1 * 60(可以根據自己task需要的運行時間長度來修改)

聯繫我們

該頁面正文內容均來源於網絡整理,並不代表阿里雲官方的觀點,該頁面所提到的產品和服務也與阿里云無關,如果該頁面內容對您造成了困擾,歡迎寫郵件給我們,收到郵件我們將在5個工作日內處理。

如果您發現本社區中有涉嫌抄襲的內容,歡迎發送郵件至: info-contact@alibabacloud.com 進行舉報並提供相關證據,工作人員會在 5 個工作天內聯絡您,一經查實,本站將立刻刪除涉嫌侵權內容。

A Free Trial That Lets You Build Big!

Start building with 50+ products and up to 12 months usage for Elastic Compute Service

  • Sales Support

    1 on 1 presale consultation

  • After-Sales Support

    24/7 Technical Support 6 Free Tickets per Quarter Faster Response

  • Alibaba Cloud offers highly flexible support services tailored to meet your exact needs.