2019-12-06 14:08:45
来源:深信服科技
当前,我们正处在一个数据呈几何倍数增长的时代,并且数据类型变得多样。这对存储对多元数据的融合承载能力,以及容量、扩展性、可靠性、性能等都提出更高要求。针对新数据对存储提出的新需求,深信服企业级分布式存储EDS能更好地满足。这是一款怎样的存储,具备如此优异的特质?
正式“出道”之前早已“身经百战”
深信服新IT业务总经理兼CTO陈小亮在大会主论坛带来了《深信服软件定义存储核心能力与技术创新》的主题分享。
▲深信服新IT业务总经理兼CTO 陈小亮
陈小亮表示,深信服EDS利用大量标准X86服务器和软件定义技术,构建出具备高可靠、高性能,且支持智能管理和运维三大价值的分布式统一存储平台。不仅满足一个平台提供多类型、大容量的存储方案,包括对象存储、文件存储和块存储,还能够集成与数据相关的应用程序,如网盘、备份、容灾、数据分析等,简化数据保护,发挥数据新价值。而且深信服EDS在正式“出道”之前,早已“身经百战”。
从2013年开始软件定义存储的布局与成立存储研发部门,至今深信服在存储领域已经有超过5年的技术积累和实践。在单品正式上市之前,深信服EDS就已为公司各个产品线提供技术模块输出,推出了分布式块存储。到目前为止,分布式块存储服务过的桌面终端用户数量超过95万,超融合用户数量超过5,000家,并且有一半以上的用户用于承载核心业务。
作为战略型产品,深信服EDS自上市以来,公司更加大研发投入,包括提升研发人员规模及海内外博士比例,致力于高端技术突破。目前,深信服 EDS已获得的核心技术专利达68个,申请中的核心技术专利达30个。
四大核心能力为海量数据存储构建“硬核”基石
经过5年多的持续高投入与承载大量用户核心业务实践经验带来的“反哺”,深信服EDS打造了软件定义存储的四大能力,为海量数据存储构建高性价比“硬核”基石。
• 海量数据存储和扩展能力:针对业界普遍面临的海量数据存储带来的元数据索引效率低、数据容量扩展困难等问题,深信服创新推出元数据分布式数据库PhxKV,并通过元数据语义优化、写入优化等,降低元数据在IO路径和资源等方面不必要的性能消耗与写入次数,实现百亿文件的元数据高效管理,将索引效率提升100倍,达到毫秒级。其次,深信服EDS采用全对称分布式架构,最小3节点起,最大可扩展到5千节点,高达EB级存储空间。且扩展时只需将新的存储设备接入集群系统即可,数据自动平衡,让数据存储规模轻松由“池”变“海”。
• 数据高可靠保障能力:针对业界数据保护需要借助各种付费工具,及RAID硬盘故障后数据重构速率低等难题,深信服 EDS平台内置5大类38种高可靠机制,从下到上覆盖硬件层、主机层、数据层和管理层,构筑事前、事中、事后的数据保护体系。如事前通过硬盘亚健康、数据校验和巡检等提前发现潜在数据风险并自动化修复;事中通过多副本、纠删码、快照等技术实现数据冗余性;事后通过元数据合并修复、数据全局分布式修复等实现数据快速重构,达1T/30min。
深信服EDS不仅让数据保护更全面,还让数据保护更具性价比,如软件层面不需要额外购买各种模块,硬件层面可以采用低成本的配件(硬盘),通过多种软件机制共同保障,达到跟高品质硬件同样的可靠性级别,使存储系统成为企业数据资产的“保险库”。
• 高性能实时响应能力:对于存储,业界的普遍共识是当数据量达到一定体量时,性能会出现严重衰减。对此,深信服EDS构建了一套基于业务感知的智能分层体系,包括数据层、缓存层与协议层,基于不同业务需求不同IO采取不同的处理机制。同时通过高达80%命中率的热力图算法,将随机读写速度提升3-5倍。再基于分布式带来的多节点并发读写与条带化技术带来的将大数据切分成小数据并发存储到不同硬盘,从而获得高吞吐性能。
正是基于这种软件机制和优化,深信服EDS能最大化激发硬件潜能,具备极高的性能表现,能够同时满足高吞吐、高IO和低时延的要求,但成本节省一半。
• 基于AI高效管理能力:针对传统手工运维排障困难、效率低下的问题,深信服EDS实现了存储从手工运维向自动运维再向智能运维的转变。第一阶段通过打造自动化运维体系,将50%以上的运维常用操作自动化。IT人员可通过一键管理对设备进行全方位检测,提前定位风险点并给出处理建议。哪怕硬盘出现故障,可通过全局热备空间对数据进行自动化高效重构,实现故障快速自愈。
第二阶段是智能运维,深信服EDS将人工智能融入数据存储的全生命周期管理,可实现准确率高达98.5%以上的硬盘亚健康检测,如抖动、时延、温度等异常;并结合数据分析给出性能及容量规划建议;通过智能QoS感知业务特点,调整最优IO路径,确保业务访问体验,并将资源利用达到最优。
四大行业场景完美匹配
基于多项核心能力与技术创新,深信服EDS能很好地满足智能视频监控场景、海量数据存储与归档场景、数据中心统一存储场景、网盘/备份数据应用场景四大场景对于存储的高预期需求,能有效应对这些场景面临的多类型数据,数据容量大、增长快等带来的一系列存储挑战。
• 智能视频监控场景:针对智能视频监控场景存在的数据存储容量大、海量小文件性能高、多集群管理难的问题,深信服EDS利用软件定义存储的高扩展性与自主创新的元数据分布式数据库phxKV的高性能,有效解决了智能视频监控场景下百亿级海量小文件的大容量承载与高性能处理问题,并随着数据增多性能衰减不超过5%。同时基于AI运维实现智能化集群管理。
• 海量数据存储与归档场景:针对海量数据存储与归档场景存在的数据超长期保存、随机检索效率低、静默错误风险高的问题,深信服EDS利用故障自愈、数据重构、自动迁移等技术,实现了数据的重构、重平衡、自动迁移,可有效解决存储系统超长周期运行中需要面对的磁盘故障、扩容、新老设备替换等问题,可真正实现存储系统超长周期连续稳定运行。同时通过自定义标签,实现毫秒级的数据检索。
• 数据中心统一存储场景:针对数据中心统一存储场景存在的业务多元化、资源灵活分配、高性能、高可靠需求,深信服EDS基于软件定义打造统一存储系统,利用智能分层、智能缓存和AI主动防御技术,可同时满足数据中心对于块、文件、对象多种存储服务的高性能、高可靠技术要求,真正实现了“一个数据中心,一个存储平台”的云存储架构。
• 备份/网盘数据应用场景:针对备份/网盘数据应用场景存在的建设复杂、数据孤岛问题,深信服EDS分布式统一存储平台充分发挥数据价值,利用容器技术可提供对数据应用的封装和使用,例如:网盘、备份、容灾、数据仓等,在保障一个平台数据全局共享的同时,提供便捷的数据应用服务,并且充分利用资源降低应用成本。
▲深信服EDS运营总监 杨欢
深信服EDS运营总监杨欢在大会平行论坛《深信服软件定义存储EDS应用与实践》分享中表示,深信服EDS通过软件定义,激发硬件潜能,构筑可靠、高性能、智能管理的分布式存储,能给AI安防、智慧金融、医疗PACS、媒资广电等这些海量非结构化数据的存储场景及云存储场景用户带来高端分布式统一存储与服务体验。
目前,深信服EDS已服务珠海公安、深圳南山公安、上海嘉定区政法委、福清电视台、招商基金、中国地震局第二监测中心、天津中心妇产医院、厦门信达等用户,帮助用户解决海量数据存储与管理难题,成为政府、教育、制造、广电、医疗、金融等行业用户信赖的统一存储方案。