分布式存储的技术趋势（二）： 双重Raid机制

在铁力士分布式存储的每个节点内，通过SVM存储虚拟化技术实现节点内的RAID数据保护，RAID级别选择可以是镜像，也可以是存储效率更高的RAID5或RAID6。节点内RAID保护可抵御单个或多个硬盘损坏，故障修复限制在节点内部，无需触发网络数据重建，有效地避免了网络重建风暴。

节点内RAID结合网络Raid（跨节点的副本/EC码）技术，铁力士实现了双重RAID数据保护。在三副本架构中，一旦同时出现三块磁盘故障或受损，数据就可能丢失；而在双重RAID架构中，即使每个节点同时出现一块磁盘故障，数据仍然无忧，业务仍然持续。考虑到分布式存储可能包含数十个甚至上百个存储节点，双重RAID的数据可靠性明显超过三副本架构。

铁力士将每个存储节点运行在存储虚拟化管理软件（SVM）上，把该节点的存储资源整合为一个统一管理的存储池，为分布式系统提供vOSD资源。SVM采用宽条带机制（见图2），将每个vOSD的工作负载均匀分布在节点的每个磁盘上，大幅提高了单个vOSD的IOPS能力，可有效抵御三副本分布式存储中的IO分布不均匀现象。

SVM存储池由节点内多个RAID小组构成，通过虚拟卷为上层分布式系统提供vOSD存储服务。每个vOSD对应于三副本中由物理HDD承载的OSD。由分布式一致性哈希算法分配来的数据块，将写入SVM存储池中、由虚拟卷支撑的vOSD，而非直接写入物理硬盘。SVM 利用宽条带技术，将vOSD的工作负载均匀分布在各个物理磁盘上：每个大小为4MB的vOSD 对象数据块，被分割为32KB的数据块，依次被安排在RAID组的逻辑地址空间中；SVM 对各个RAID小组的逻辑地址空间采取顺序写优化策略：首次写按各个小组的逻辑地址分配地址空间，按顺序写入数据；后续重写，则优先填满空闲地址空间，尽可能实现硬盘顺序寻址，最大限度降低机械硬盘较慢的寻址操作次数，利用机械硬盘顺序写较快的特点来提升IO性能。

磁盘阵列中常见的性能加速手段是共享缓存加速，中高端磁盘阵列与低端磁盘阵列的在性能方面的一个重大区别，除了控制器个数，就是缓存加速的能力。典型的中高端磁盘阵列能支持的共享缓存加速在512GB到1TB上下。铁力士借鉴了磁盘阵列的设计，通过SVM虚拟化实现DRAM与Flash相结合的二级缓存加速：通过自适应算法，自动识别动态或静态热数据（高频率读写或最近读写数据），将最热的数据保存在延迟最小的DRAM中，而将次热的数据保存在更大容量、基于Flash的固态硬盘上；并由于分布式技术的加持，形成一个容量巨大的分布式二级缓存系统。与中高端磁盘阵列相比较，铁力士分布式存储系统支持数10TB、甚至100TB以上的分布式缓存，相当于其10倍、甚至100倍的缓存容量。

SVM存储虚拟化管理借鉴了WAFL（NetApp） 、Btrfs（SuSE）、ZFS（Oracle）、Storage Spaces（微软）等文件系统的先进经验，对底层存储的每个数据块增加一个256比特的校验码，并单独保存在一对固态硬盘镜像中，用于快速实现在线数据完整性校验。一旦校验码检查到数据受损，通过节点内RAID功能实现数据自修复。该功能可快速定位硬件故障，并实现硬件故障自动隔离。