关闭微信号码
微信号:请联系网站管理员
微信二维码图片
微信扫以上二维码 或 手工输入以上微信号加我
一定要告诉我【从代孕妈妈看到的】否则拒绝
信息详情
  当前位置:首页 -> 太原代孕妈妈 -> Engine引擎的实时历史数据库太原急找代妈解决方案揭秘
Engine引擎的实时历史数据库太原急找代妈解决方案揭秘
【应聘提醒】 凡是以任何理由向求职者收取服装费、培训费、押金等各种费用的信息均有欺诈嫌疑,请保持警惕!建议多家咨询对比,寻找有通过身份证+执照验证的招聘信息。
独家广告赞助商
会员级别: (到期时间:终身)
置顶情况: 未置顶
公司名称: 圆梦孕妈
认证情况:

未上传身份证+营业执照

未通过身份证+营业执照认证

应聘电话:
13280617512 圆梦孕妈 [查看发帖记录]
打电话给我时,请一定说明在  太原代孕妈妈  看到的,谢谢!
联系微信: 13280617512
  • 只要会打字,动动鼠标、传点图,就能在1分钟内拥有自己独立的代孕妈妈站(PC+手机版)点击右侧立即入驻 →
点击注册图片

  实时历史库需求背景在当今的数字化时代,随着业务的迅速发展,每天产生的数据量会是一个惊人的数量,数据库存储的成本将会越来越大,通常的做法是对历史数据做归档,即将长期不使用的数据迁移至以文件形式存储的廉价存储设备上,比如阿里云OSS或者阿里云数据库DBS服务。然而在部分核心业务的应用场景下,针对几个月甚至几年前的“旧”数据依旧存在实时的,低频的查询甚至更新需求,比如淘宝/天猫的历史订单查询,企业级办公软件钉钉几年前的聊天信息查询,菜鸟海量物流的历史物流订单详情等。如果这时从历史备份中还原后查询,那么查询时间将会是以天为单位,可接受度为零如果将这些低频但实时的查询需求的历史数据与近期活跃存储在同一套分布式数据库集群下,那么又会带来以下两大挑战

  存储成本巨大,进而导致成本远大于收益,比如钉钉聊天信息数据量在高度压缩后接近伍零PB,很难想象这些数据不做压缩会带来多大的资金开销

  性能挑战巨大,随着数据量越来越大,即使针对数据做了分布式存储,单实例容量超过大概伍T以后性能也会急剧下滑,进而影响到近期活跃数据的查询性能,拖垮整个集群

  运维难度巨大,比如针对海量数据下发一个表数据结构变更操作,很难想象全部完成需要多长时间

  实时历史库场景需求分析通过上面的分析,不管是冷备份还是在线历史数据混合存储在同一张物理表上的方法都是不可取的,一般实时查询历史数据库的场景,一般需要有以下几个关键特性

  成本可控,历史数据的存储成本无法接受和在线库一样线性增长

  实时查询,历史数据的查询RT要做到与在线活跃库几乎一致

  查询频次较低,一般来说,越“旧”的数据查询频率越低

  统一查询入口,不管是活跃数据还是历史数据,查询入口保持一致

  改造成本需要尽可能低,最好能做到不做任何应用代码修改,可以认为历史库对程序开发人员来说是完全透明的

  可能存在历史数据更新需求

  数据规模较大,一般在壹零零TB以上

  X-Engine简介X-Engine是阿里云数据库产品事业部自研的联机事务处理OLTP(On-Line Transaction Processing)数据库存储引擎。作为自研数据库POLARDB的存储引擎之一,已经广泛应用在阿里集团内部诸多业务系统中,包括交易历史库、钉钉历史库等核心应用,大幅缩减了业务成本,同时也作为双十一大促的关键数据库技术,挺过了数百倍平时流量的冲击。

  与传统的InnoDB引擎不同,X-Engine使用分层存储架构(LSM-Tree)。分层存储有两个比较显著的优点:

  需要索引的热点数据集更小,写入性能更高。

  底层持久化的数据页是只读的,数据页采用紧凑存储格式,同时默认进行压缩,存储成本更低。

  相比InnoDB引擎,依据数据特征,使用X-Engine存储空间可降低至壹零%~伍零%,我们在著名的Link-Bench和阿里巴巴内部交易业务两个数据集上测试了X-Engine的存储空间效率。在测试中,对比开压缩的InnoDB引擎,X-Engine有着贰倍空间优势,而对比未开压缩的InnoDB,X-Engine则有着叁~伍倍的优势。

  实时历史库方案,为何不是其他高压缩引擎

  通常我们默认MySQL是当今最流行的开源数据库,大概率是在线核心数据库集群的首选。相比其他高压缩的存储引擎,引入X-Engine完全无需做任何SQL代码改造,并且支持事务,接入成本最低,学习成本几乎为零

  写入性能更强,X-Engine相比同为LSM-tree架构的Rocksdb,有超过壹零倍的性能提升。

  在存储层引入数据复用技术等,优化 paction的性能,降低传统LSM-tree架构中 paction动作对系统资源的冲击,保持系统性能平稳

  引入多个层级Cache,同时结合Cach回填和预取机制,利用精细化访问机制和缓存技术,弥补传统LSM-tree引擎的读性能短板,X-Engine的点查询能力几乎与Innodb持平

  下图是X-Engine与主流历史数据存储方案对比

  总体架构思路

  基于上文对实时历史库和X-Engine的介绍,阿里云数据库团队推出以X-Engine引擎为历史数据存储核心,同时生态工具DTS作为在线/历史数据流转通道,DMS作为历史数据无风险删除的完整“实时在线-历史库”方案,针对不同的业务场景和客户需求,在具体实现上可能会有所不同,我们提供了多种实时历史库方案的具体实现。主体架构图如下,核心思路为:

  久经考验的Innodb引擎作为OLTP在线库核心引擎,主要处理高频查询/更新请求,满足在线活跃数据高并发,高性能,强范围查询的业务需求

  阿里巴巴数据库团队自研的高压测存储引擎X-Engine作为历史库核心引擎,主要响应历史数据入库/查询/更新请求,满足历史数据冷热数据频次不一,低存储成本,高性能的业务需求(范围查询可能性能受限)

  统一DB接入层,根据设置的业务时间属性将请求分别转发至不同的存储引擎。针对特殊场景下的跨引擎访问,在应用层做聚合太原急找代妈展示

  在线-历史数据通过阿里云提供的生态体系工具做历史数据迁移和过期数据删除,确保链路更为稳定可靠

  在线库/历史库拆分方案一般来说,需要使用到实时历史库的场景,数据量都足够大到单台宿主机存放不了。在线数据库可能是根据业务水平或垂直拆分的多个RDS,也可能是一个规模较大的DRDS集群。为了尽可能地保证在线库的性能,推荐将在线库/历史库完全拆分解耦

  历史库集群存储全量数据

  通过DTS链路打通在线库和历史库,实时同步

  DTS链路过滤Delete操作

  可直接使用新版DMS配置历史数据定期删除

  源端为DRDS集群数据同步链路走RDS

  多条DTS链路打通底层RDS节点,同步性能强

  RDS数量较多可支持API批量创建和配置

  链路稳定性更好

  需要保证源端目标端库表数量一致,数据路由规则一致

  数据同步链路走DRDS

  只需要配置一条DTS链路,方便省钱

  数据同步性能较差

  源端DRDS扩容会影响到DTS同步链路

  源端目标端的实例数量和数据路由规则可自由配置

  源端为多个RDS目标端为多个RDS

  业务代码无需任何改造

  运行后期历史库节点磁盘容量存在风险

  目标端为DRDS集群

  可能涉及到业务代码轻量改造,目标端不走分库分表键性能无法保证

  可将多个在线库业务合并至一套历史库集群,架构更加简洁

  DTS链路也分为走RDS和DRDS两种

  数据同步链路走RDS同实例混用存储引擎方案在线库/历史库拆分方案相对较为复杂,RDS支持同一实例混用存储引擎。针对总数据量不是特别大的场景,可以考虑同一实例下Innodb&X-Engine引擎混合使用使用DMS-->数据工厂-->数据编排功能可以轻松地实现同一实例内的数据流动和过期数据删除,架构示意图如下。

  实现简单灵活

  混用存储引擎,在数据库内核参数优化上难以兼顾两者性能

  历史数据 pact阶段可能对整个实例产生性能抖动

  同一实例下的库或者表无法重名,涉及到轻量业务改造

  DTS赋能在线/历史数据流转DTS不仅支持全量&增量同步,支持不同数据库产品之间的数据同步,在在线/历史库解决方案中,DTS强大的"条件过滤"功能是非常重要的一环,通过配置DTS任务可以非常便捷地实现过滤Delete操作,动动鼠标点两下即可实现自定义的数据同步策略。DMS赋能在线库过期数据删除在线库的过期数据删除既要保障删除效率,也要保证删除过程中对在线库不会造成性能上的抖动,新版DMS支持创建“历史数据清理”的数据变更任务,通过该任务可以非常方便地完成以下工作

  历史数据定期删除,指定调度时间和一次调度时长

  大事务拆分,减少事务执行过程中锁表时间过长,避免主备延迟

  清理遭遇异常中断可重试

  支持查看任务运行状态和失败原因分析

  配置方面简洁

  过期数据清理思路如果没有使用DMS生态工具,也自行实现过期数据删除,但实现较为复杂。一般较为通用的设计思路为将表的主键按照大小做拆分,保证一次删除"恰当数量"的数据,既保证删除效率又不影响线上服务

  在线库的历史数据删除策略(假设主键为id,数据保存壹捌零天,时间属性列为date_col)初始化数值Y=select min(id) from $table_name

  到了业务低峰期以后,DELETE FROM $table_name WHERE date_col< SUBDATE(CURDATE,INTERVAL 壹捌零 DAY) and id >=Y and id <=

  Y+壹零零零零零 ,执行成功后代码层重新赋值 Y=Y+壹零零零零零

  程序sleep 叁s,重复步骤b

  时间到了业务高峰期以后,停止执行,记录下当前的数值Y,第二天执行时直接从Y开始注意

  在线库历史数据清理注意点

  代码上注意不要出现高并发删除的情况,即步骤b还没跑完,新的步骤b又进来了

  程序sleep的具体秒数,要通过测试,取一个最合适的数值,主要看主备是否存在较大延迟,叁只是估值

  壹零零零零零也是一个估值,实际取值最好也通过测试,取一个效率最高,对业务影响最小的数值。因为drds的序列不是单点递增壹的,所以这里的壹零w不代表壹零w条记录。

  假设删除程序中途崩溃了,或者执行很多天后发现部分数据没有删除。那么可以手工先删除一小部分残留的数据,比如预估下id<壹零零w的记录还有多少条,不多的话直接执行DELETE FROM

  logs_trans WHERE reqdate < SUBDATE(CURDATE,INTERVAL 叁零 DAY) and id<壹零零w 然后初始化整个程序,这样保证重新初始化以后不会做很多无用功,即反复执行删除条目很少的sql

  极端场景分析

  在临界时间处理上,实时历史库方案可能遭遇极端场景导致业务可能存在历史库的脏读问题,假设在线库数据保存壹捌零天

  更新壹柒玖天前贰叁时伍玖分伍玖秒的数据,请求路由至在线库

  数据同步链路异常中断或链路存在延迟,该更新请求未能及时到达历史库

  这时业务查询该数据时,由于已经数据已经"旧"到超过壹捌零天,请求路由至历史库,由于链路异常,历史库查到了脏数据

  解决方法

  配置链路异常告警,及时发现及时处理

  预计影响的数据范围为DTS链路恢复前的临界时间点附近数据,建议从业务逻辑上订正数据

  建议过期数据删除设置保守一点,比如临界时间为壹捌零天,过期数据只删除壹玖零天以后的数据,方便在极端场景下对比源端目标端的数据情况进行数据订正

  动动小手指 详情 !


联系我时,请说是在代孕妈妈看到的,谢谢!
相关太原代孕妈妈信息