中国领先的IT技术网站
|
|

OpenStack Swift 存储策略及应用案例

OpenStack Object Storage(Swift)前身是 Rackspace Cloud Files 项目,于 2010 年贡献给 OpenStack 社区,是 OpenStack 最早的两个项目之一。Swift 可在比较便宜的通用硬件上构筑具有极强可扩展性和数据持久性的存储系统,支持多租户,通过 RESTful API 提供对容器(Container)和对象的 CRUD 操作。

作者:李明宇来源:IBM|2014-11-27 13:29

沙龙活动 | 去哪儿、陌陌、ThoughtWorks在自动化运维中的实践!10.28不见不散!


OpenStack Swift 对象存储及其存储策略简介

Swift 2.0 于 2014 年 7 月 8 日发布,其中最重要的新特性是存储策略(Storage Policy),该特性改变了以往存储系统中存储策略由设计与实施方决定的做法,让用户能够以 Container 为粒度,为不同需求的数据指定不同的副本数量、不同参数的纠删码、不同性能的存储介质、不同地理位置、不同的后端存储设备。存储策略充分体现了 Swift"软件定义存储"(Software Defined Storage)的特点。

为了实现存储策略,Swift 在原先三个环(Ring)的架构基础上进行了改进。Swift 为账户、容器和对象分别定义了的环,通过环将虚拟节点(分区)映射到一组物理存储设备上。在 Swift 2.0 中,每个存储策略对应一个 Object Ring。

Swift存储策略的配置与使用

配置存储策略

设置存储策略分为两步:编辑配置文件swift.conf文件,创建相应的ObjectRing。在配置文件中每个存储策略以[storage-policy:N]开头,其中N是策略的编号。对于该文件的解析遵循以下规则:

  1. 如果该文件中没有声明任何策略,Swift会自己创建一个;
  2. 策略编号应当位非负整数;
  3. 如果没有声明默认策略,Swift会把编号为0的策略设为默认策略;
  4. 策略编号必须唯一;
  5. 策略应当具有名字,策略命名区分大小且必须唯一;
  6. 策略名称只能包含字母、数字和连字符,"Policy-0"只能用于编号为0的策略;
  7. 定义策略之后,应当有一个且仅有一个策略被指定为默认策略;
  8. "废弃"(Deprecated)策略不能同时为默认策略。

下面是一个swift.conf文件的示例:

  1. [swift-hash] 
  2. # random unique strings that can never change (DO NOT LOSE) 
  3. swift_hash_path_prefix = changeme 
  4. swift_hash_path_suffix = changeme 
  5.  
  6. [storage-policy:0
  7. name = apple 
  8. default = yes 
  9.  
  10. [storage-policy:1
  11. name = orange 
  12. deprecated = yes 

完成swift.conf 文件的编辑,下一步是为每个存储策略创建相应的Object Ring,方法和创建老版本 Object Ring类似,只是要在object 后面加上"-N",这里的 N 是存储策略的编号。例如,为上述编号为 0和1的存储策略创建Object Ring:

  1. swift-ring-builder object-0.builder create 10 3 1 
  2. swift-ring-builder object-1.builder create 10 2 1 

使用存储策略

存储策略的使用非常简单,只需要在创建 container 是指定存储策略即可,下面以 SAIO 部署为例加以说明:

  1. curl -v -X PUT -H 'X-Auth-Token: <your auth token>' -H \ 
  2.     "X-Storage-Policy: orange" \ 
  3.     <a href="http://127.0.0.1:8080/v1/AUTH_test/myCont1">http://127.0.0.1:8080/v1/AUTH_test/myCont1</a> 
  4. curl -X PUT -v -T file1.txt -H 'X-Auth-Token: <your auth token>' \ 
  5. <a href="http://127.0.0.1:8080/v1/AUTH_test/myCont1/">http://127.0.0.1:8080/v1/AUTH_test/myCont1/</a> 

然后执行:

  1. curl -X GET –v \ 
  2.  <a href="http://127.0.0.1:8080/endpoints/AUTH_test/myCont1/file1.txt">http://127.0.0.1:8080/endpoints/AUTH_test/myCont1/file1.txt</a> 

例如,会看到如下结果:

  1. ["http://127.0.0.1:6010/sdb1/32/AUTH_test/myCont1/file1.txt"
  2. "http://127.0.0.1:6040/sdb4/32/AUTH_test/myCont1/file1.txt"

说明 Storage Policy 已经成功发挥作用。

存储策略的应用模式

上述提到副本数量的改变,只是存储策略的应用模式的一种,在实际应用中,可以有以下几种模式:

1. 缩减或增加冗余

对于一些数据,它们不需要保证很高的数据持久性和可靠性,比较典型的是图像的缩略图,它们可以由原图降采样得到,在这种情况下,可以对原图采用三副本方案,对缩略图采用双副本方案,降低存储系统的开销。

图 1.为不同的 Container 指定不同的副本数量

http://s6.51cto.com/wyfs02/M01/54/0E/wKiom1R2vNCizpLYAABYXIAkHMc916.jpg

2. 性能分层

例如,对于一些数据用 HDD 保存,另一些用 SSD 保存。也可以应用于其他存储介质,甚至是不同的存储设备。

图 2.为不同的 Container 指定不同的存储介质

3. 地理位置约束

在某些场景下,因为公司或者国家的政策的约束,某些数据必须存储在指定的地理位置,例如混合云场景。有些场景下,用户希望指定数据存放在距离访问客户端比较近的地方。

图 3.为不同的 Container 指定不同的存储位置

http://s9.51cto.com/wyfs02/M02/54/0D/wKioL1R2vVOBmm36AABQw0HBOSw603.jpg

4. 应用纠删码(Erasure Codes)

对于性能要求不高的场合,应用纠删码。纠删码,又称为删除码,将对象分割为 m 个分片(fragments),并通过编码生成 k 个校验分片, 最后将这 n=m+k 个分片放到 Swift 对象存储系统的不同位置(通常是 swift 的不同 zone 中)。对于将 m 个分片编码为 n 个分片的纠删码,记为EC(m, n)。纠删码的示意图如下:

图 4.纠删码示意图

纠删码在提高存储空间利用率的同时,保持或增加数据的持久性(durability)和可靠性。但是由于编码、解码和恢复数据往往需要较大的计算量,可能导致性能的降低,所以比较适用于对持久性和可靠性要求比较高,但是访问量并不大的数据存储。

图 5 .应用纠删码保护数据

在某视频网站中的应用案例 

在某视频网站中,采用 Swift 存储视频文件,并对其部分文件根据视频类型的不同应用不同的存储策略。

视频数据分为三类:1)源片;2)超清视频文件;3)其他不同清晰度的视频文件。源片体积较大,对持久性要求高,但是对访问速度要求较低,并发访问数量和访问频率较低;清晰度较低的视频由超清视频转码得到,针对上述需求,设计存储策略如下:

  1. 源片采用纠删码策略,编码参数为EC(7, 4),即把一个视频文件分割为 4 块,并生成 3 块校验块,存储效率约为 57%;
  2. 超清视频三副本策略,存储效率约为 33%;
  3. 清晰度较低的视频采用双副本策略,存储效率为 50%。

假设设备损坏的概率为 2%,以上三种存储策略的数据持久性分别为:99.9995%,99.9992%和 99.96%。

表 1.存储策略的应用

Swift 集群的总结点数量为 54 个节点,总容量约为 2.3PB,集群的部署架构如下图所示,其中 Proxy Server 的数量可以根据需要增加或者减少。采用传统三副本方案,能够保存的视频总长度约为(同一段视频不同分辨率不进行重复统计)3.97×106 分钟。

采用上述存储策略后,保存的视频总长度为 5.89×106 分钟,存储效率提高了 48%。

图 6. 基于 Swift 的视频存储系统的部署架构

基于 Swift 的视频存储系统的部署架构

结束语

在大数据时代,随着文件数量和数据体量的增加,文件系统和 NAS 的瓶颈越来越明显,基于 RESTful Web API 的对象存储逐渐受到人们的广泛接受。作为最具代表性,应用最广泛的开源对象存储方案,OpenStack Swift 自诞生以来一直保持着技术上领先的地位,在 Swift 2.0 中推出的存储策略功能,能够让管理员根据自己系统的特点制定不同的存储策略;用户或租户根据自己数据的特点和业务需要,以 Container 为粒度选择存储策略,从而实现成本、数据可靠性、性能等维度上的综合权衡和优化,体现了软件定义存储的特点。本文只是对存储策略做了一个简要的介绍,让读 者体会存储策略的用途,进一步深入探索可以查看参考资料了解有关 OpenStack Swift 的更多相关信息。

原文出自:http://www.ibm.com/developerworks/cn/cloud/library/1411_limy_openstackswift/?cmp=dwskl&cpb=dw&ct=dwcon&cr=cn_CSDN_t10_1&ccy=cn

【编辑推荐】

  1. OpenStack私有云DR的益处比其TCO更显而易见
  2. EMC收购Cloudscaling对OpenStack应用意义何在?
  3. HP Helion之OpenStack社区版
  4. 悉“数”HP Helion OpenStack
  5. OpenStack Neutron DVR L2 Agent的初步解析:DVR的创建及生效
【责任编辑:Ophira TEL:(010)68476606】

点赞 0
分享:
大家都在看
猜你喜欢

读 书 +更多

Oracle 10g应用指导与案例精讲

本书作者结合自己多年实践经验,从Oracle开发应用中遇到的问题着手,全面系统地介绍Oracle的安装与卸载、数据字典、安全管理以及用PL/SQL开...

订阅51CTO邮刊

点击这里查看样刊

订阅51CTO邮刊
× Python最火的编程语言