文章目录
- 前言⭐✨💫🔥📖
- 一、Celery⭐
- 1.基本概念及介绍:✨
- 2.使用步骤💫
- 二、订单超时 取消订单(Celery)🔥
- 具体实现流程📖
前言⭐✨💫🔥📖
在构建复杂的Web应用,如线上教育平台时,异步任务处理与定时任务调度成为提升性能和用户体验的关键。Celery 作为分布式任务队列框架,以其高效、灵活和可扩展性在Python项目中广泛应用。
本文将简述Celery的基本概念,并详细指导如何在Django项目中集成Celery,以实现订单超时自动取消的功能。同时,我们还将探讨如何设置定时任务,对成功和失败的订单进行统一处理,以优化业务流程和提高系统自动化水平。
一、Celery⭐
项目仓库:https://github.com/celery/celery/
官方文档:https://docs.celeryproject.org/en/latest/
中文文档(3.1):http://docs.jinkan.org/docs/celery/getting-started/index.html
1.基本概念及介绍:✨
- Celery是一个由Python编写的分布式任务队列和异步处理框架,它使得开发者能够轻松地在后台处理耗时任务,而不会阻塞主程序的执行。
- Celery的设计基于生产者消费者模型,通过消息中间件(Broker)来协调任务的发布和执行。
Celery的核心组件包括:
- 1.任务(Tasks):定义了要异步执行的功能。它们通常是一个普通的Python函数,通过装饰器标记为Celery任务。
- 2.工作者(Workers):运行在后台的进程,不断地从消息队列中取出任务并执行。你可以运行多个工作者来并行处理任务。
- 3.消息中间件(Message Broker):用于***接收任务并将它们放入队列中,同时负责结果的存储。Celery 支持多种中间件,如RabbitMQ、Redis、Amazon SQS等。
- 4.定时任务配制(beat):三种模式 cron模式、date模式、interval模式
- 5.任务结果后端(Result Backend):用于存储任务的结果,以便任务完成后可以查询。后端可以是数据库、缓存系统等,Celery支持包括Redis、RabbitMQ、SQLAlchemy在内的多种存储方式。
Celery的整体流程:
- 应用程序将一个任务添加到任务队列中。
- 消息中间件接收这个任务并将它存储在适当的消息队列里。
- Celery 工作者监听这些队列,一旦发现新任务,就会取出并执行它。
- 任务执行的结果可以被存储在结果后端,供后续查询。
Celery 支持任务的链式执行、定时任务(使用celery beat)、任务优先级设置、任务结果的跟踪和重试机制等高级特性,非常适合需要高性能异步处理和任务调度的场景。
2.使用步骤💫
1.创建Celery:
web_back/celery.py
import os
from celery import Celery# 必须在实例化celery应用对象之前执行
os.environ.setdefault('DJANGO_SETTINGS_MODULE', 'web_back.settings')# 实例化celery应用对象
app = Celery('web_back')
# 指定任务的队列名称
app.conf.task_default_queue = 'Celery'
# 也可以把配置写在django的项目配置中
app.config_from_object('django.conf:settings', namespace='CELERY') # 设置django中配置信息以 "CELERY_"开头为celery的配置信息
# 自动根据配置查找django的所有子应用下的tasks任务文件
app.autodiscover_tasks()
2.使用Celery:
web_back/__init__.py
import pymysql
pymysql.version_info=(1,4,3,"final",0) # 指定了pymysql的版本:1.4.3,按照版本修改
pymysql.install_as_MySQLdb()from .celery import app as celery_app__all__ = ['celery_app']
3.settings.py 配置
# Celery配置
# from kombu import Exchange, Queue
# 设置任务接受的类型,默认是{'json'}
CELERY_ACCEPT_CONTENT = ['application/json']
# 设置task任务序列列化为json
CELERY_TASK_SERIALIZER = 'json'
# 请任务接受后存储时的类型
CELERY_RESULT_SERIALIZER = 'json'
# 时间格式化为中国时间
CELERY_TIMEZONE = 'Asia/Shanghai'
# 是否使用UTC时间
CELERY_ENABLE_UTC = False
# 指定borker为redis 如果指定rabbitmq CELERY_BROKER_URL = 'amqp://guest:guest@localhost:5672//'
CELERY_BROKER_URL = 'redis://127.0.0.1:6379/0'
# 指定存储结果的地方,支持使用rpc、数据库、redis等等,具体可参考文档
# CELERY_RESULT_BACKEND = 'db+mysql://scott:tiger@localhost/foo'
# mysql 作为后端数据库
CELERY_RESULT_BACKEND = 'redis://127.0.0.1:6379/1'
# 设置任务过期时间 默认是一天,为None或0 表示永不过期
CELERY_TASK_RESULT_EXPIRES = 60 * 60 * 24
# 设置worker并发数,默认是cpu核心数
# CELERYD_CONCURRENCY = 12
# 设置每个worker最大任务数
CELERYD_MAX_TASKS_PER_CHILD = 100
# 指定任务的位置
CELERY_IMPORTS = ('base.tasks',
)
# 使用beat启动Celery定时任务
# schedule时间的具体设定参考:https://docs.celeryproject.org/en/stable/userguide/periodic-tasks.html# 定时任务
CELERY_BEAT_SCHEDULE = {"orders_notpay": { # 定时任务'task': 'base.tasks.cancelorders','schedule': 3, # 定时任务的调用时间,10表示每隔10秒调用一次任务,5*60表示每5分钟# "schedule": crontab(hour=7, minute=30, day_of_week=1),, # 定时任务的调用时间,每周一早上7点30分调用一次add任务},"syn_mysqlEs": { # 定时任务:每一分钟同步一次mysql到es的数据'task': 'base.tasks.syn_mysql_es','schedule': 3, # 定时任务的调用时间,10表示每隔10秒调用一次任务,5*60表示每5分钟# "schedule": crontab(hour=7, minute=30, day_of_week=1),, # 定时任务的调用时间,每周一早上7点30分调用一次add任务},}
4.设置tasks 任务:
#base/tasks.py
from celery import shared_task
from ronglianyunapi import send_sms as sms
# 记录日志:
import logging
logger = logging.getLogger("django")@shared_task(name="send_sms")
def send_sms(tid, mobile, datas):"""异步发送短信"""try:return sms(tid, mobile, datas)except Exception as e:logger.error(f"发送短信失败: {e}")
5.启动定时任务:
- 第一个终端:
celery -A web_back worker -l INFO -P eventlet
- 第二个终端:
celery -A web_back beat
二、订单超时 取消订单(Celery)🔥
实现流程:
- 1.生成订单把当前时间+1800,和订单号存入队列中
- 2.在支付完的回调接口中,同步根据订单号查询订单,根据查询结果改变订单状态。异步从请求中获取状态,100000支付成功,队列中删除订单号
- 3.此时队列中的就是没支付的,1分钟执行一次,查询时间<当前时间,说明已经过期了,把订单改为失败状态,积分优惠券恢复
具体实现流程📖
1.生成订单接口 OrderView
2.在支付完的回调接口中,同步根据订单号查询订单,根据查询结果改变订单状态。异步从请求中获取状态,100000支付成功,队列中删除订单号
Celery定时任务:
- 订单超时取消订单
- 处理订单成功队列
- 处理订单失败队列
@shared_task
def cancelorders():# 获取订单号 0 小于等于int(time.time())# 遍历订单号列表# 根据订单号查询订单表,把订单更新为失败状态# 查看订单是否使用积分和优惠券,如果使用更新,写入积分记录表,用户表中的积分+,优惠券+orderno = r.get_str("orderno")order = OrdersModel.objects.filter(transaction=orderno).first()pay_status = order.pay_statusif pay_status == 1: #生成订单-未支付状态order.orders_status = 7 #订单-->取消状态#...print("取消订单操作")
@shared_task
def ordersuccess():#读取成功的队列,获取到订单号len = r.list_len("ordersuccess")while len > 0:sid = r.list_pop("ordersuccess")# 根据订单号查询订单order = OrdersDetailModel.objects.filter(orders_id=sid).first()# 更新用户课程表UserCourseModel.objects.create(user_id=order.user_id,course_id=order.course_id)# 更新用户课程章节表UserCourseChapterModel.objects.create(user_id=order.user_id,course_id=order.course_id,name=order.course.name)print("订单成功时,更新用户课程表和用户课程章节表")@shared_task
def orderfail():# 读取失败的队列,获取到订单号,len = r.list_len("orderfail")while len > 0:fid = r.list_pop("orderfail")# 根据订单号查询订单order = OrdersModel.objects.filter(orders_id=fid).first()# 更新积分记录表、用户表中总积分、优惠券srecord = ScoreRecordModel.objects.filter(user_id=order.user_id).first()srecord.type = 1srecord.score = order.scoresrecord.save()user = UsersModel.objects.filter(user_id=order.user_id).first()user.points += order.scoreuserCoupon = UserCouponModel.objects.filter(user_id=order.user_id).first()userCoupon.status = "未使用"print("订单失败时,更新数据完成")