摘要: 在6月上旬举行的云栖大会上海峰会上,阿里云发布了国内首个大数据集群双活容灾产品-混合云容灾服务下的混合云大数据容灾服务(hdr for big data, 简称 hdr-bd),并已经在7月份开始邀测。
在6月上旬举行的云栖大会上海峰会上,阿里云发布了国内首个大数据集群双活容灾产品-混合云容灾服务下的混合云大数据容灾服务(hdr for big data, 简称 hdr-bd),并已经在7月份开始邀测。hdr-bd采用业界领先的数据双向实时复制技术,可以实现hadoop集群双活和准0 rpo容灾,为大数据灾备制定了全新的标准。
常见hadoop灾备技术的挑战
当前比较常见的hadoop集群灾备方式是用distcp将数据定期复制到一个备用集群做容灾用途,或者将数据复制到只读集群、二级存储作为多恢复点的备份。这些方案都有明显弱点。
rpo和rto是衡量灾备方案的两个重要指标,rpo-恢复点目标,决定了丢失多少数据,rto-恢复时间目标,决定了业务中断了多长时间。由于传统的hadoop集群灾备方式使用的是distcp来做容灾,也就意味着数据复制不是实时的,因此用户必须承受至少小时级到天级的rpo。并且主站宕机后,将只读集群或二级存储中的数据恢复出来会占用大量时间,而拉起standby集群重新启动业务依然是一个耗时的操作。因此,传统的hadoop集群灾备方式在rpo和rto方面都有较大挑战。
除此之外,由于灾备集群平时处于备用状态,不能用于运行业务,对于用户来说也属于资源浪费。
以上这些问题长期困扰着hadoop集群的用户和管理员们,如何突破rpo和rto瓶颈,大数据集群的灾备领域亟需一种全新的技术来彻底解决目前的困境。
hdr- bd此次带来的双向实时复制技术可以在两个hadoop集群之间建立双活架构,rpo接近0;rto因为数据随时可读写而极大压缩;双活架构可以让两个集群运行不同的应用,避免资源浪费。这些特性将hadoop灾备标准提高到了一个全新的高度,为hadoop用户带来了极高的价值。
hdr-bd引入大数据双向复制技术,满足高要求的大数据灾备场景
阿里云此次推出的hadoop双活容灾方案hdr-bd引入了业界领先的大数据双向复制技术,结合强大的公共云基础设施,可以满足极高要求的大数据灾备场景,为企业hadoop集群数据保护提供了全新的选择。
hdr-bd的优势在于:
极低rpo:数据的实施复制决定了每一个写操作都会实时复制到配对集群,rpo几乎为0
极高资源利用率:数据双向复制确保两个集群共享一份数据但运行不同应用,不会出现一个集群必须处于只读会备用状态的问题,计算资源可以充分利用
运维复杂度极低: hdr-bd实现了数据的全自动实时双向复制,无需特定时间窗口,也无需担心对业务的影响
在自建数据中心和阿里云之间部署hdr-bd服务器配对,用户就可以将自建hadoop集群与阿里云无缝集成,充分利用阿里云emr和oss建立极为高效的hadoop灾备,迁移系统。hdr-bd可以满足的核心场景包括
近0 rpo hadoop云容灾
将自建hadoop集群的数据实时复制到阿里云emr集群,实现接近0 rpo的hadoop集群容灾。
hadoop集群与阿里云emr集群双活
在自建hadoop集群和阿里云emr集群之间建立数据双向复制。两个集群共享一份数据,但是运行不同的应用,实现集群双活,达到资源的最大化利用。
hadoop数据实时备份,迁移上云
云上hdr-bd服务器可以直连至阿里云对象存储oss。在无需emr集群的情况下,hdr for big data可以将hadoop数据实时复制到阿里云oss,实现接近0 rpo的云备份;同时这个机制也可以作为hadoop数据迁移上云的理想方案。利用这个机制做hadoop集群迁移上云,在迁移过程中无需启动emr集群;同时迁移过程无需复杂定制化脚本开发或者复杂的业务停机规划。
原文链接
本文为云栖社区原创内容,未经允许不得转载。
三星Gear A智能手表的发布已在其开发者网站上公布
御芯微惊艳亮相IOTE 2023第二十届国际物联网展·深圳站
制冷机的工作原理
海南航空新华社民族品牌工程号飞机已成功完成首航飞行
UPS电源系统的防雷措施
阿里云发布国内首个大数据双活容灾服务
为什么555电路电压控制端5脚与地之间要接一个电容?
DRG与DIP二者关系的三种可能性简述及在医疗中的应用分析
骁龙888性能如何 骁龙888和骁龙865差距有多大
沉浸式技术加速转型来源,分析2021年值得关注的十大VR/AR趋势
奥地利微电子投资逾2,500万欧元建立模拟3D IC生产线
台积电2020年第一季度10nm营收占比达55% 成主要增长点
精品蓝牙耳机选购指南:低延迟高音质平价蓝牙耳机推荐
PCB制造:PDN设计指南
整流二极管的型号如何区分?
Exail(原Ixblue)发布了新的PDH电光调制器
超级终端怎么发送命令
iPhone 12的屏幕由这几家供应!
同步电机VS异步电机 电机故障处理经验总结
洞穿未来,社群链重构世界