Redis混合存储产品与架构介绍
摘要： 简介 redis混合存储实例是阿里云自主研发的完全兼容redis协议和特性的混合存储产品。通过将部分冷数据存储到磁盘，在保证绝大部分访问性能不下降的基础上，大大降低了用户成本并突破了内存对redis单实例数据量的限制。
简介redis混合存储实例是阿里云自主研发的完全兼容redis协议和特性的混合存储产品。通过将部分冷数据存储到磁盘，在保证绝大部分访问性能不下降的基础上，大大降低了用户成本并突破了内存对redis单实例数据量的限制。
目前阿里云redis混合存储产品在华北2（北京）可用区d，华东1（杭州）可用区e，华南1（深圳）可用区c已开放售卖，相关产品介绍详见https://promotion.aliyun.com/ntms/act/hybridstore.html
与redis高性能内存型实例差别redis高性能内存型实例中，所有的key和value都存储在内存中以达到极致性能。
redis混合存储型实例中，所有的key和经常访问的value会被保存在内存中，保证绝大部分请求的极致性能。不常访问的value（冷数据）则会被存储到磁盘上，以达到内存利用最高性价比。
产品优势简单易用
完全兼容redis协议，用户无需修改任何代码。
低成本
相同数据量下，nvme盘成本仅为内存的1/10。
大容量
突破内存容量限制，单实例最高可支持tb级别的数据容量。
高性能
redis混合存储型实例的绝大部分热点请求直接从内存获取，其性能与高性能内存型实例完全一致。后台异步io，冷数据访问不影响正常请求的响应。在90%数据落在磁盘上的极端场景下，正态访问的qps仍可达纯内存性的70%。底层存储采用阿里自研下一代高性能全用户态存储引擎alibaba fusionengine：通过结合上层应用深入定制，以及与底层硬件深度结合，将新一代存储介质如nvme ssd性能发挥到极致。4kb数据读取速度在20us左右，相比业界同类引擎性能有80%提升。
整体架构
存储模型
在redis混合存储实例中，我们将所有的key和经常访问的value保留在内存中，将不经常访问的value保存在磁盘上。之所以在内存中保留所有key是处于以下两点考虑：
key的访问频度比value要高很多。
作为kv数据库，通常的访问请求都需要先查找key确认key是否存在，而要确认一个key不存在，就需要以某种形式检查所有key的集合。在内存中保留所有key，可以保证key的查找速度与纯内存版完全一致。
key的大小占比很低。
在通常的业务模型里面，即使是普通字符串类型，value比key要大几倍。而对于set，list，hash等集合对象，所有成员加起来组成的value更是比key大了好几个数量级。
redis混合存储实例将所有的key都认为是热数据，以少量的内存为代价保证所有key的访问请求的性能是高效且一致的。而对于value部分，redis混合存储实例会在必要时根据最近访问时间，访问频度，value本身大小等维度选取出一部分value作为冷数据后台异步存储到磁盘上。
因此，redis混合存储实例最适合以下使用场景：
数据访问不均匀，存在热点数据；
内存不足以放下所有数据，且value较大(相对于key而言)
线程模型
redis混合存储实例采用单工作线程的模式，主线程为工作线程，负责处理用户请求等主要逻辑。此外，redis混合存储实例中根据需要会配置若干个独立的io线程负责与磁盘进行交互读写数据，io线程读写数据时，主线程仍可继续响应其它用户请求。
数据从内存到磁盘在周期巡检函数servercron中，如果发现当前内存快满了，大于设定的阈值vm-max-memory(略小于maxmemory)时，会尝试挑选出一些key，将其value保存到磁盘；
挑选的维度为最近访问时间和value大小, 公式为swappability = age*log(估算内存大小)。
主线程为挑选出的value生成io任务，加入到io任务队列中；
io线程会从io任务队列中取出任务，将value存储到底层存储引擎（rocksdb）中, 并通知主线程。
主线程收到通知后释放value所占用内存并标记内存中该key对应的value已被存储到磁盘上。
数据从磁盘到内存当redis混合存储实例收到用户请求时，会先判断请求是否需要读取对应key的value；
如果请求不需要读取相关value(比如set foo bar是不需要关心foo这个key原有的值是多少的）或者value已经在内存中，则正常执行该命令；
如果有涉及到的value不在内存中，主线程会对应生成一个读取value的io任务，加入到io任务队列中；
主线程将需要等待io任务完成的客户端加入到等待列表，然后继续处理其余客户端的请求；
io线程获取到读取value的io任务时，从底层存储引擎中读取数据，并通知主线程；
主线程收到通知后，依次处理等待该value的所有客户端请求。
同步io在以下情况下，redis混合存储的异步io模型会退化成同步方式：
写入量太大导致后台线程不能及时将数据交换到磁盘，内存不断增加到超出maxmemory时。
由于无法预知脚本会操作哪些value以及原子性的要求，lua脚本中涉及到的value如果在磁盘上的话将会采用同步io的方式从磁盘读取。
数据淘汰机制在 redis 中，允许用户设置最大使用内存大小 server.maxmemory，在内存限定的情况下是很有用的。redis 内存数据集大小上升到一定大小的时候，就会施行数据淘汰策略。redis 提供 6 种数据淘汰策略：
volatile-lru：从已设置过期时间的数据集（server.db[i].expires）中挑选最近最少使用的数据淘汰
volatile-ttl：从已设置过期时间的数据集（server.db[i].expires）中挑选将要过期的数据淘汰
volatile-random：从已设置过期时间的数据集（server.db[i].expires）中任意选择数据淘汰
allkeys-lru：从数据集（server.db[i].dict）中挑选最近最少使用的数据淘汰
allkeys-random：从数据集（server.db[i].dict）中任意选择数据淘汰
no-enviction（驱逐）：禁止驱逐数据
redis混合存储实例的淘汰策略与纯内存版完全一致，唯一不同的是触发条件。在混合存储实例中，除了内存规格大小server.maxmemory外，还有一个数据磁盘大小的限制server.maxdisksize。触发数据淘汰的条件响应的变为以下两者之一:
使用内存 > server.maxmemory 且 磁盘数据 > server.maxdisksize。
使用内存 > server.maxmemory, 且当前内存中无value（全部为key）。
持久化redis有两种持久化的方式：快照（rdb文件）和追加式文件（aof文件）：
rdb持久化方式会在一个特定的间隔保存那个时间点的一个数据快照。
aof持久化方式则会记录每一个服务器收到的写操作。在服务启动时，这些记录的操作会逐条执行从而重建出原来的数据。写操作命令记录的格式跟redis协议一致，以追加的方式进行保存。
redis混合存储实例在rdb+aof基础之上，采用了rocksdb的checkpoint保存当前实例冷数据的部分。 在生成数据快照时，rdb中仅存储key + 热数据部分，而冷数据部分则保存在rocksdb的checkpoint中。rocksdb checkpoint生成过程如下：
禁止删除sst文件;
为sst文件创立硬链接；
备份manifest等文件；
允许删除sst文件；
由于冷数据在rocksdb中的大部分是以sst文件形式存在的，使用硬链接的方式备份几乎不需要消耗额外的时间。通过使用rdb+checkpoint的方式存储快照，redis混合存储实例可以有效的降低数据快照生成和加载的时间，避免了过程中冷数据数据在rdb, 内存，rocksdb之间的来回转换。
底层存储引擎redis混合存储实例通过精心定义的编码转换层最小化io size，定制调优的rocksdb最大化读写性能，阿里自研下一代高性能全用户态存储引擎压榨硬件性能以及搭配最新的硬件，将io速度提升到极致。
底层存储采用阿里自研下一代高性能全用户态存储引擎alibaba fusionengine：通过结合上层应用深入定制，以及与底层硬件深度结合，将新一代存储介质如nvme ssd性能发挥到极致。4kb数据读取速度在20us左右，相比业界同类引擎性能有80%提升。
性能数据在线上机器上，我们使用memtier_benchmark测试了redis纯内存高性能实例和redis混合存储实例的性能对比如下（value大小为1024字节）：
当访问内存中数据时，redis混合存储实例的性能与redis纯内存高性能实例几乎一致;
当内存仅能容纳10%的value数据时，正态访问（70%的访问落在33%的数据范围内）时，redis混合存储实例的性能为redis纯内存高性能实例的70%左右。
产品详情https://promotion.aliyun.com/ntms/act/hybridstore.html
原文链接
本文为云栖社区原创内容，未经允许不得转载。
everiToken是第一条为通证经济量身定做的公链
为什么知名品牌生产厂家的安全缆绳锁价格会偏高些
华为麒麟1020加入5nm工艺制程，其性能将提升50%
三星3nm芯片量产 2nm芯片还远吗
浅谈3D打印ABS耗材的优缺点
Redis混合存储产品与架构介绍
改善高速ADC时钟信号的方法
华为进军Windows 10 on ARM生态有什么优势
什么是大陆行货手机
Windows IIS搭建webdav服务实现公网文件共享内网穿透
极飞R150农业无人车发布，打造“农田里的变形金刚”
磁场传感器的定义、分类及应用
确保信号完整性的电路板设计准则
涡轮流量计在安装的时候需要哪些注意事项
沃达丰即将成为欧洲最大的移动宽带和电视服务提供商
全面揭晓Meteor Lake关键技术
微软Azure Stack混合云打进中国市场,于2018年上半年正式商
2018年全国无线电管理将适时发放5G系统频率使用许可
关于嵌入式安全的相关理解与分析
深度解析工业交换机与工业自动化的紧密关系
简介redis混合存储实例是阿里云自主研发的完全兼容redis协议和特性的混合存储产品。通过将部分冷数据存储到磁盘，在保证绝大部分访问性能不下降的基础上，大大降低了用户成本并突破了内存对redis单实例数据量的限制。
目前阿里云redis混合存储产品在华北2（北京）可用区d，华东1（杭州）可用区e，华南1（深圳）可用区c已开放售卖，相关产品介绍详见https://promotion.aliyun.com/ntms/act/hybridstore.html
与redis高性能内存型实例差别redis高性能内存型实例中，所有的key和value都存储在内存中以达到极致性能。
redis混合存储型实例中，所有的key和经常访问的value会被保存在内存中，保证绝大部分请求的极致性能。不常访问的value（冷数据）则会被存储到磁盘上，以达到内存利用最高性价比。
产品优势简单易用
完全兼容redis协议，用户无需修改任何代码。
低成本
相同数据量下，nvme盘成本仅为内存的1/10。
大容量
突破内存容量限制，单实例最高可支持tb级别的数据容量。
高性能
redis混合存储型实例的绝大部分热点请求直接从内存获取，其性能与高性能内存型实例完全一致。后台异步io，冷数据访问不影响正常请求的响应。在90%数据落在磁盘上的极端场景下，正态访问的qps仍可达纯内存性的70%。底层存储采用阿里自研下一代高性能全用户态存储引擎alibaba fusionengine：通过结合上层应用深入定制，以及与底层硬件深度结合，将新一代存储介质如nvme ssd性能发挥到极致。4kb数据读取速度在20us左右，相比业界同类引擎性能有80%提升。
整体架构
存储模型
在redis混合存储实例中，我们将所有的key和经常访问的value保留在内存中，将不经常访问的value保存在磁盘上。之所以在内存中保留所有key是处于以下两点考虑：
key的访问频度比value要高很多。
作为kv数据库，通常的访问请求都需要先查找key确认key是否存在，而要确认一个key不存在，就需要以某种形式检查所有key的集合。在内存中保留所有key，可以保证key的查找速度与纯内存版完全一致。
key的大小占比很低。
在通常的业务模型里面，即使是普通字符串类型，value比key要大几倍。而对于set，list，hash等集合对象，所有成员加起来组成的value更是比key大了好几个数量级。
redis混合存储实例将所有的key都认为是热数据，以少量的内存为代价保证所有key的访问请求的性能是高效且一致的。而对于value部分，redis混合存储实例会在必要时根据最近访问时间，访问频度，value本身大小等维度选取出一部分value作为冷数据后台异步存储到磁盘上。
因此，redis混合存储实例最适合以下使用场景：
数据访问不均匀，存在热点数据；
内存不足以放下所有数据，且value较大(相对于key而言)
线程模型
redis混合存储实例采用单工作线程的模式，主线程为工作线程，负责处理用户请求等主要逻辑。此外，redis混合存储实例中根据需要会配置若干个独立的io线程负责与磁盘进行交互读写数据，io线程读写数据时，主线程仍可继续响应其它用户请求。
数据从内存到磁盘在周期巡检函数servercron中，如果发现当前内存快满了，大于设定的阈值vm-max-memory(略小于maxmemory)时，会尝试挑选出一些key，将其value保存到磁盘；
挑选的维度为最近访问时间和value大小, 公式为swappability = age*log(估算内存大小)。
主线程为挑选出的value生成io任务，加入到io任务队列中；
io线程会从io任务队列中取出任务，将value存储到底层存储引擎（rocksdb）中, 并通知主线程。
主线程收到通知后释放value所占用内存并标记内存中该key对应的value已被存储到磁盘上。
数据从磁盘到内存当redis混合存储实例收到用户请求时，会先判断请求是否需要读取对应key的value；
如果请求不需要读取相关value(比如set foo bar是不需要关心foo这个key原有的值是多少的）或者value已经在内存中，则正常执行该命令；
如果有涉及到的value不在内存中，主线程会对应生成一个读取value的io任务，加入到io任务队列中；
主线程将需要等待io任务完成的客户端加入到等待列表，然后继续处理其余客户端的请求；
io线程获取到读取value的io任务时，从底层存储引擎中读取数据，并通知主线程；
主线程收到通知后，依次处理等待该value的所有客户端请求。
同步io在以下情况下，redis混合存储的异步io模型会退化成同步方式：
写入量太大导致后台线程不能及时将数据交换到磁盘，内存不断增加到超出maxmemory时。
由于无法预知脚本会操作哪些value以及原子性的要求，lua脚本中涉及到的value如果在磁盘上的话将会采用同步io的方式从磁盘读取。
数据淘汰机制在 redis 中，允许用户设置最大使用内存大小 server.maxmemory，在内存限定的情况下是很有用的。redis 内存数据集大小上升到一定大小的时候，就会施行数据淘汰策略。redis 提供 6 种数据淘汰策略：
volatile-lru：从已设置过期时间的数据集（server.db[i].expires）中挑选最近最少使用的数据淘汰
volatile-ttl：从已设置过期时间的数据集（server.db[i].expires）中挑选将要过期的数据淘汰
volatile-random：从已设置过期时间的数据集（server.db[i].expires）中任意选择数据淘汰
allkeys-lru：从数据集（server.db[i].dict）中挑选最近最少使用的数据淘汰
allkeys-random：从数据集（server.db[i].dict）中任意选择数据淘汰
no-enviction（驱逐）：禁止驱逐数据
redis混合存储实例的淘汰策略与纯内存版完全一致，唯一不同的是触发条件。在混合存储实例中，除了内存规格大小server.maxmemory外，还有一个数据磁盘大小的限制server.maxdisksize。触发数据淘汰的条件响应的变为以下两者之一:
使用内存 > server.maxmemory 且 磁盘数据 > server.maxdisksize。
使用内存 > server.maxmemory, 且当前内存中无value（全部为key）。
持久化redis有两种持久化的方式：快照（rdb文件）和追加式文件（aof文件）：
rdb持久化方式会在一个特定的间隔保存那个时间点的一个数据快照。
aof持久化方式则会记录每一个服务器收到的写操作。在服务启动时，这些记录的操作会逐条执行从而重建出原来的数据。写操作命令记录的格式跟redis协议一致，以追加的方式进行保存。
redis混合存储实例在rdb+aof基础之上，采用了rocksdb的checkpoint保存当前实例冷数据的部分。 在生成数据快照时，rdb中仅存储key + 热数据部分，而冷数据部分则保存在rocksdb的checkpoint中。rocksdb checkpoint生成过程如下：
禁止删除sst文件;
为sst文件创立硬链接；
备份manifest等文件；
允许删除sst文件；
由于冷数据在rocksdb中的大部分是以sst文件形式存在的，使用硬链接的方式备份几乎不需要消耗额外的时间。通过使用rdb+checkpoint的方式存储快照，redis混合存储实例可以有效的降低数据快照生成和加载的时间，避免了过程中冷数据数据在rdb, 内存，rocksdb之间的来回转换。
底层存储引擎redis混合存储实例通过精心定义的编码转换层最小化io size，定制调优的rocksdb最大化读写性能，阿里自研下一代高性能全用户态存储引擎压榨硬件性能以及搭配最新的硬件，将io速度提升到极致。
底层存储采用阿里自研下一代高性能全用户态存储引擎alibaba fusionengine：通过结合上层应用深入定制，以及与底层硬件深度结合，将新一代存储介质如nvme ssd性能发挥到极致。4kb数据读取速度在20us左右，相比业界同类引擎性能有80%提升。
性能数据在线上机器上，我们使用memtier_benchmark测试了redis纯内存高性能实例和redis混合存储实例的性能对比如下（value大小为1024字节）：
当访问内存中数据时，redis混合存储实例的性能与redis纯内存高性能实例几乎一致;
当内存仅能容纳10%的value数据时，正态访问（70%的访问落在33%的数据范围内）时，redis混合存储实例的性能为redis纯内存高性能实例的70%左右。
产品详情https://promotion.aliyun.com/ntms/act/hybridstore.html
原文链接
本文为云栖社区原创内容，未经允许不得转载。
everiToken是第一条为通证经济量身定做的公链
为什么知名品牌生产厂家的安全缆绳锁价格会偏高些
华为麒麟1020加入5nm工艺制程，其性能将提升50%
三星3nm芯片量产 2nm芯片还远吗
浅谈3D打印ABS耗材的优缺点
Redis混合存储产品与架构介绍
改善高速ADC时钟信号的方法
华为进军Windows 10 on ARM生态有什么优势
什么是大陆行货手机
Windows IIS搭建webdav服务实现公网文件共享内网穿透
极飞R150农业无人车发布，打造“农田里的变形金刚”
磁场传感器的定义、分类及应用
确保信号完整性的电路板设计准则
涡轮流量计在安装的时候需要哪些注意事项
沃达丰即将成为欧洲最大的移动宽带和电视服务提供商
全面揭晓Meteor Lake关键技术
微软Azure Stack混合云打进中国市场,于2018年上半年正式商
2018年全国无线电管理将适时发放5G系统频率使用许可
关于嵌入式安全的相关理解与分析
深度解析工业交换机与工业自动化的紧密关系