分布式事务之最终一致性在得物仓储的实践

网站建设3年前发布
24 0 0

20230306153000f4946b402b73822bce60733ec57ca4e4ab48cc429,供应链仓储域子域繁多,例如库存域,lpn域等,平时开发的过程中涉及很多分布式事务的场景,例如收货加库存,发货扣库存,拣货入箱,发货出箱等一些分布式事务场景,所以迫切需要出一套分布式事务处理方案,在调研了市场上的分布式事务解决方案,结合wms自身业务域不是强一致性的特色,选择了最终一致性,且使用本地消息表去实现它。,本地消息表这个方案最初是ebay提出的,核心就是将需要分布式处理的任务通过本地消息日志存储的方式来异步执行。该方案可以存到本地文本,数据库或消息队列,再通过异步线程或者自动job发起重试。,在操作本地事务的同时,需要额外写入一张需要最终一致性业务记录的表,即本地消息表,且该业务记录是有状态的,在本地事务提交后,再执行需要最终一致性的方法,成功后更新记录状态为成功,如果失败了,还要引入兜底重试机制,下图能简单介绍它的功能:,202303061526570367d0456a1231259d379719aeb514f0cbdd73281,为了实现以上最终一致性的功能。我们同样还需要做到以下几点:,调研了大家对一致性框架的诉求,最终定义了如,入参自定义序列化,环境隔离,同步异步执行切换,注解支持,自定义执行拦截器,以及适配得物仓储业务的业务上下文订制以及持久化等一系列的核心能力,底层依赖了Spring的生态,在数据存储依赖了Mysql,Mongodb,缓存分布式锁上依赖了Redis等一系列主流的中间件,最终以jar包形式实现,尽可能做到即拿即用。,202303061531384955bd80037fa3b2f309947f5e8595ba8f3067188,基于在以上的架构设计后,做了以下设计,为了让用户更快,更方便的接入一致性框架,我们在早期的抽象类继承的方案上做了一版本升级,使用注解,使得使用方式跟@Transactional注解一样,只要加上@EnableConsistency就支持最终一致性的支持,非常方便。,最终一致性有个天然的组成部分就是需要重试,一致性框架也不例外,引用了Spring的,ScheduledTask实现定时重试那些运行失败的记录,另外重试等待策略同样可配置:,支持配置固定时间间隔重试,底层采用Math.pow函数在重试次数越多次,执行间隔时间呈指数级增长,
,20230306152658089edf414ab17f781e1323040fa02b3bfa4479231,注解式支持重试次数的定义,在执行需要最终一致性方法的时候,我们同样提供了如Spring AOP一样被代理方法的前置,成功,异常后需要做的一些切面功能,非常方便的满足使用者的扩展,解耦了实现与扩展。,20230306152658a65387848190eca837f4148f21a2831af09b3f942,在业务系统的开发中,存在一个ThreadLocal的上下文,记录了用户的组织架构,签到等一系列用户信息。在设计一致性框架的时候我们考虑到用户上下文的存在,暴露了业务上下文扩展,以及存储业务上下文供重试时使用的能力。,2023030615265969ccbe661d5f8c3729d7721a613fc47db63e41630,由于得物的预发环境与生产环境采用的同一批数据库,故也将一致性框架记录采用了spring.profile.active的值做环境隔离,确保重试时不会预发的跑到生产的数据。,2023030615265974294ce54179ac1fa804955c083c032a96c4f4277,由于需要在本地消息表中记录需要重试的方法的入参,故就涉及到入参序列化的问题,在思考良久之后,只提供默认的Json方式的序列化与反序列化,如果用户需要额外的序列化与反序列化方法,我们也支持,提供了暴露序列化与反序列化的口子供用户实现。,一般用本地消息执行最终一致性的部分,开始的设计是异步化执行,后续收到使用者用户的反馈,也有部分同步执行的场景,故增加了同步异步执行开关,开发者自行选择。,
,使用最终一致性方法的核心注解:,20230306153003856480b59283085cc6d022118fcc7404294435465,202303061527002870c00794d03b37744811f97a08fe3e8e87cd147,(1)后台管理页面设计,支持报表查询,以及错误异常处理,(2)trace监控接入,方便定位问题,(3)适配业务支持类型DB,(4)自定义归档策略,最终一致性框架是由wms全组同学一起设计和开发完成,并且陪伴了得物快速发展的两年多,经历了2个618以及3个双十一,若干个情人节,圣诞节的考验。系统运行健康,无性能瓶颈,提升了很多场景下最终一致性的开发速度。目前仍在安全稳健的保障着仓储域服务的正常运转。

© 版权声明

相关文章