分布式存储在云环境下的应用和部署解读.docx

《分布式存储在云环境下的应用和部署解读.docx》由会员分享，可在线阅读，更多相关《分布式存储在云环境下的应用和部署解读.docx（18页珍藏版）》请在第一文库网上搜索。

1、分布式存储在云环境下的应用和部署解读【导读】本文从分布式存储架构特点引入云环境下提供分布式存储的使用场景，以及银行业中适合承载的业务类型。并对分布式存储在云环境下的基本部署进行描述。希望能够加深大家对云环境中分布式存储应用管理的理解，以充分利用分布式存储实现块存储、文件存储、对象存储的方式和特点，补充集中式企业存储的短板，针对PB级别海量非结构化数据等典型场景，体现存调优势。随着互联网数据规模越来越大，并发请求越来越高，传统的关系数据库系统在性能、价格、可扩展性方面已经不能很好地满足需求。谷歌、亚马逊等互联公司率先在后台基础设施中引入超大规模分布式存储系统，用来解决海量数据的存储问题。与传统的

2、集中式存储技术不同，分布式存储没有将数据存储在某个特定节点上，而是通过网络将各个节点分散的存储资源汇聚成一个虚拟的存储备，将数据分散在各处。相较于集中存储，分布式存储成本低，扩展性好，弱化了关系数据模型，可以得到高并发和高性能。1分布式存储概念及特点分布式存储系统，是将数据分散存储在多台独立的设备上。传统的网络存储系统采用集中的存储服务器存放所有数据，存储服务器成为系统性能的瓶颈，也是可靠性和安全性的焦点，不能满足大规模存储应用的需要。随着各行业数字化转型的加速，越来越多的数据被生产出来，分布式存储成为我们应对海量数据挑战的重要助力。从20世纪80年代开始，历经几十年的演进，分布式存储已经走过

3、了四个阶段：第一阶段是1980年代的网络文件系统，通过少量服务器实现网络环境下的简单文件共享；第二阶段是1990年代的共享SAN文件系统，已经能够外接SAN设备实现更大的文件系统；第三阶段是2000年代的Share-Nothing存储，开始利用通用服务器构建起高扩展的存储系统；第四阶段是2010年代逐步产生的企业级云存储，这类存储开始具备丰富的企业特性，存储性能、效率和数据保护能力有了显著的增强，开始在各行各业中广泛应用。此外，不同类型的数据需要用不同的分布式存储系统去处理。图片、视频等非结构化数据，由于个体相互之间没有关联，体积大，采用二级制，通常使用分布式文件系统进行存储；自描述的数据结构

4、和内容混在一起的半结构化数据，比较简单的可以用分布式键值系统存储，较为复杂的一般采用分布式表格系统来存储区；结构化数据由分布式数据库存储。2云计算的概念及特点云计算是网格计算、分布式计算(DiStribUteC1ComPUting)、并行计算(Para11e1Computing)效用计算(UtiIityComputing)%网络存储、虚拟化（Virtua1ization）x负载均衡（1OadBa1anCe）等传统计算机和网络技术发展融合的产物。广义云计算指服务的交付和使用模式，指通过网络以按需要、易扩展的方式获得服务。这种服务可以是IT软件和互联网相关服务，也可以是其他服务。狭义云计算指IT基

5、础设施的交付和使用模式，指通过网络以按需、易扩展的方式获得所需资源。总体来说云计算具有以下几个特点：1）超大规模：“云”具有相当的规模，企业私有云一般拥有数百上千台服务器并且能够横向平滑扩展，“云”赋予了用户前所未有的计算能力；2）虚拟化：云计算支持用户在任意位置、使用各种终端获取应用服务。所请求的资源来自“云”，而不是固定的有形的实体。应用在“云”中某处运行，但实际上用户无需了解、也不用担心应用运行的具体位置；3）高可靠性：“云”使用了数据多副本容错、计算节点同构可互换等措施来保障服务的高可靠性；4）通用性：云计算不针对特定的应用，在“云”的支撑下可以构造出千变万化的应用，同一个“云”可以同

6、时支撑不同的应用运行；5）高可扩展性：“云”的规模可以动态伸缩，满足应用和用户规模增长的需要；6）按需服务：“云”是一个庞大的资源池，你按需购买；7）廉价性：由于“云”的自动化集中式管理使大量企业无需负担日益高昂的数据中心管理成本，“云”的通用性使资源的利用率较之传统系统大幅提升，因此用户可以充分享受“云”的低成本优势。3分布式存储在云环境下的应用场景3.1分布式存储系统架构云和A1时代，数据迎来海量增长。高速5G通信、高清8K视频、自动驾驶和大数据分析等越来越多的新兴应用正逐步推高对数据存储的需求。企业不断扩展业务边界，整合云场景存储资源，以更低Teo(Tota1CostofOwnershi

7、p)、更灵活的弹性部署应对非结构化数据快速增长。在这样的背景下，分布式存储架构成为了首选。各存储厂家纷纷推出自己的分布式存储产品，通过存储系统软件将每个硬件节点的本地存储资源组织起来，按需为上层应用提供文件存储、对象存储、大数据存储和块存储服务。实现海量数据储存更经济、多样性数据使用更高效、在线业务承载更可靠。其系统架构如图1。目前大多分布式存储产品都会提供基于三层的分布式存储架构，会融合分布式文件、对象、大数据和块多个服务形态，支持文件、对象、大数据服务部署在一个集群，并统一管理，整体功能架构由存储接口层、存储服务层、存储引擎层和存储管理组成，如图2所示，此外还会提供一些杀毒、异构开源存储管

8、理的特色功能。分布式存储系统具有海量数据储存更经济、多样性数据使用更高效、在线业务承载更可靠等优势，已被广泛应用于如下场景：1)HPC(HighPerformanceComputing)场景：在气象、基因、石油等HPC高性能计算场景，应用对分布式存储的性能要求高。文件服务提供的DPC可减少跨网络传输延迟，并提供标准接口给应用，在不修改应用的情况下提供比标准协议更高的性能。2)内容存储、备份归档场景：高性能、高可靠的企业级对象存储资源池可满足互联网数据、在线音频/视频、企业网盘等实时在线业务吞吐量大、热点数据频繁访问的业务需求，以及长期保存、在线访问需求。例如应用于金融电子票据影像、双录（录音/

9、录像），医疗影像、政企电子文档和车联网场景存储、备份或归档。3）大数据分析场景：大数据计算存储分离解决方案可整合传统数据孤岛，构建统一的企业大数据资源池，结合大比例EC、存储和计算分离按需部署和扩容等企业级能力，实现大数据业务效率提升及TCo降低。例如应用于金融大数据分析、运营商日志留存大数据和政务大数据等。4）云/虚拟化场景：为云和虚拟化提供按需获取、弹性扩展的海量存储资源池，基于通用服务器大幅提升存储资源的部署、扩展和运维效率。例如应用于金融互联网渠道接入云、开发测试云，运营商BOM域业务云化、B2B云资源池、政务云等。5）关键业务数据库场景：通过分布式ACtiVe-AetiVe双活、稳定

10、低时延等企业级能力，保障O1AP或O1TP类关键业务数据库、数据仓库高效稳定运行。3.2云环境下分布式存储的应用场景用户访问层是基于云存储开发的应用程序的入口，授权用户可以通过标准的公共应用接口登录云存储系统，享受云存储服务。云存储产品服务商不同，云存储提供的访问类型和访问手段也不同。数据服务层是利用云存储资源进行应用开发的关键部分，云存储平台通过数据服务层为用户提供统一的协议和编程接口，进行应用程序的开发。应用接口层是云存储最灵活多变的部分。不同的云存储运营机构可以根据实际业务类型开发不同的应用服务接口，提供不同的应用服务。数据管理层是云存储最为核心的部分，也是最复杂的部分。数据管理层采用集

11、群技术、分布式存储技术，实现多存储设备之间的协同工作，对外提供高可用性、可扩展性的服务，同时还负责数据加密、备份、容灾以及必要的计费等任务。数据存储层是云存储最基础的部分，由不同类型的存储设备和网络设备组成。数据存储层实现海量数据的统一管理、存储设备管理、状态监控等。存储层位于云存储的最下层，它是云存储中最基础的部分。存储设备的选择多种多样各种存储设备都可以用来构建这一层。云存储中的存储设备通常数量众多且分布在多个不同位置，彼此之间通过互联网或者光纤通道等把各种网络连接在一起。分布在存储设备之上的是一个统一的存储硬件设备管理系统，通过这一层可以实现存储设备的逻辑虚拟化管理、多链路冗余管理，以及

12、硬件设备的状态监控和故障维护。在行内分布式存储主要以分布式SAN为虚拟化资源池提供服务，以分布式文件为媒体/视频监控/HPC提供服务、以分布式对象为备份归档提供服务，以分布式数据库为大数据服务。3.2.1为云平台底座提供基础存储资源云环境下，分布式存储系统能够实现计算资源和存储资源的单独横向扩展，计算资源不足时直接扩容计算节点，存储空间不足时只需扩容存储节点，极大地节省硬件资源降低成本。对于云平台中部署的轻量级企业关键应用程序，可选用中等性能的磁盘类型，满足性能要求不高但是要求具有丰富的企业级特性场景，例如普通数据库、应用VM、中间件VM等数据存储需求。通过云硬盘的形式挂载给虚拟机或裸金属服务

13、器使用，满足企业用户应用数据的存储需求。分布式存储在云平台提供基础存储服务，通过弹性云硬盘的形式提供给应用虚拟机和裸金属使用，在应用对性能要求不高的情况下，通常在初期用于渠道类应用、各类外围应用、灰度发布应用、容器技术应用、桌面以及开发测试环境，采用分布式存储做云平台底座存储设备，提供弹性扩展、存算分离、存储类型可选、EC纠删可靠和高并发等便捷场景服务的作为结合点。为了应对互联网金融带来的业务浪涌，除核心账务系统采用集中式高端全闪存储外，外围业务以及海量非结构化数据业务场景已经全面向分布式存储过渡。凭借分布式存储的弹性资源分配能力，金融行业的新业务开发和部署效率相比传统存储都有所提升和加速，突

14、发资源获取周期从过去的天级缩短到小时级，资源池化后，存储效率得到显著提升，运维费用也不断降低，整体TCO实现有效压降。银行的七大类业务系统（账务处理类、业务处理类、渠道服务类、服务支撑类、外联三方类、数据服务类、办公管理类），在与金融云平台和分布式存储架构功能特点的结合中，我们对各类系统的资源需求变动、业务迭代速度、数据一致性要求、并发要求进行分析，得出云平台中适用的业务系统类型，如表1所示，进而为选择和配置云平台中各区域分布式存储提供依据。3.2.2为云平台提供分布式数据库存储资源在云计算平台中，传统数据库以Orac1e.DB2或者MySqI的关系型数据库为主，但是当单表数据量爆炸或者单个数

15、据库无法承受高强度I/O时，集中式数据库是无法解决性能和数据处理瓶颈问题的，难以应对应用层的高并发数据访问。业务核心数据库使用场景需要支持应用高峰期的密集访问，要求磁盘具有持续稳定的高性能和低时延，通过选用超高性能的磁盘类型，可以实现超强性能与超高可靠性的集合，满足关系型数据库等数据密集型场景下低时延、高I/O性能密度的严苛性能要求。在基于MySQ1的分布式数据库中，分表支持动态漂移，随着表的热度和大小进行动态的扩容和伸缩，保证资源分配最优化；而分布式存储节点可以无限水平扩展，从而提供可动态无限扩展的存储容量；性能随节点扩展而线性增长，满足云计算平台对容量和性能的需求，具备云服务所有的弹性、敏

16、捷、按需和轻运维特性。因此，采用分布式存储优化后用于数据库的数据存储，提高性能的同时确保了数据的安全性。在金融及其他领域，基于分布式存储加速多域融合，实现降本增效。通过对非关键业务进行云化部署，并使用分布式存储构建统一的云资源池，实现多域融合。云资源池替换传统存储的烟囱化建设，大幅提升了存储资源的利用率，业务上线时间也大幅降低，为金融行业降本节支提供了很大助力。4分布式存储在云环境下的部署国内分布式存储相对于集中式存储而言是一种分布式技术，是在规格维度上按照扩展性进行分类的，国际上则是按照架构将存储分为企业级存储和软件定义存储，不论企业选择存储产品的资本与管理支出模式，也不论存储厂商是否能够真正做到分布式存储的软、硬件解耦，本文暂定巳经完成了对比集中式存储的全面而细致的选型评估过程，结合企业自身情况对分布式存储能够物善其用的前提下进行下面的实施与部署，对冷热数据分层、数据湖建设需求以及高可用性要求能够充分考虑，如果多个AZ在百TB级别以上，建议