容器云在使用分布式存储时,HDFS、CEPH、GFS、GPFS、

来源: 云巴巴 2020-03-09 17:18:29

容器云的存储方式分别是,HDFSCEPHGFSGPFSSwift等,在使用分布存储时哪种存储方式更好?

现在,公司正在进行容器云技术选型,计划使用商业产品,已经与华为,RANCHER,阿里等产品提供商接触。现在想知道如何匹配相应的分布式存储,HDFSCEPHGFSGPFSSWIFT等分布式存储,哪种比较好?主要场景是容器存储应用日志,配置文件,非结构化数据文件等...

建议考虑一个统一的日志存储处理中心,可以使用ES如备份,配置上通常的量不是问题。可以考虑配置中心统一管理,没有额外的存储,非结构化数据通常是大量的文件。可以采用传统nas或分布式对象存储,当然资金充裕可以采购好的存储。存储性能很重要,根据业务重要程度选择不同的存储。

容器存储的持久化,对于有状态信息数据的容器使用不同场景方面来说也是至关重要。因此,在技术选型的时候,需要明确储的具体需求,存储按照相关数据来分类。可以主要分为块存储,对象存储,文件存储,我们传统的环境中。使用最多的还是存储和文件存储,随着IT的更新换代,现在人们对于对象存储(非结构化处理数据)的需求问题日益旺盛。对象存储在对我国一些Key-Value型数据的存储能力有着一种天然的优势,再加上其分布式,副本/纠删码等可以提高匹配传统存储的特性。日益增长成为温数据/数据安全存储的不二之选, HDFS/CEPH/GFS/GPFS/Swift这类分布式存储,按照存储的类型来区分,HDFS/GPFS/GFS属于文件存储。CEPH属于统一存储--即块/对象/文件统一体,Swift属于对象存储-目前属于OpenStack下面的一个子项目。

        

 

1. HDFS Hadoop分布式文件系统(HDFS)设计为适合在普通硬件(商品硬件)上运行的分布式文件系统,它与现有的分布式文件系统有很多共同点。 但同时,它与其他分布式文件系统的区别也很明显, HDFS是一种高度容错的系统,适用于廉价机器的部署。HDFS可以提供高吞吐量数据访问,非常适合大规模数据集上的应用, 通过HDFS放宽一些POSIX约束,达到流读文件系统数据的目的。

HDFS有着高容错(fault-tolerant)的特点,设计了低廉的(low-cost)的硬件。它提供了一个高吞吐量(high throughput)来访问应用程序的数据对于具有的大数据集(large data set)的应用, HDFS放宽(relaxPOSIX要求(requirements)可以实现的数据访问(streaming access)的文件系统中的数据。

  1. GFS   GFS是一个可扩展的分布式文件管理系统,用于一些大型的、分布式的,对大量研究数据信息进行调查访问的应用。它运行于廉价的普通硬件上,并提供容错功能。它可以给大量的用户发展提供企业总体设计性能要求较高的服务。3.GPFS   GPFSGeneral Parallel File System ,GPFS) 是 IBM 公司第一个共享文件系统,起源于IBMSP系统上的虚拟共享磁盘技术(V SD), 作为本技术的核心,GPFS是一个磁盘文件系统。它保证了资源组内的所有节点都可以并行访问整个文件系统,对于本文件系统的服务操作,可以使用本文件系统在多个节点上同时安全地实现。GPFS 允许客户共享文件,而这些文件可能分布在不同节点的不同硬盘上,它提供了许多标准的 UNIX 文件系统接口。允许应用不需修改或者重新编辑就可以在其上运行。
  2. 3.GPFS   GPFSGeneral Parallel File System ,GPFS) 是 IBM 公司第一个共享文件系统,起源于IBMSP系统上的虚拟共享磁盘技术(V SD), 作为本技术的核心,GPFS是一个磁盘文件系统。它保证了资源组内的所有节点都可以并行访问整个文件系统,对于本文件系统的服务操作,可以使用本文件系统在多个节点上同时安全地实现。GPFS 允许客户共享文件,而这些文件可能分布在不同节点的不同硬盘上,它提供了许多标准的 UNIX 文件系统接口。允许应用不需修改或者重新编辑就可以在其上运行。 

    4.CEPH Ceph的是一种可靠,自动重均衡,自动恢复的分布式存储系统,根据现场可分为Ceph的分成三个块。即,对象存储,块存储设备和文件系统的服务,在虚拟化的领域中,通常用Ceph的存储装置。例如OpenStack项目里,Ceph的块设备存储可以对接OpenStackcinder后端存储,Glance的镜像存储和虚拟机的数据存储。比较直观的是Ceph集群可以提供一个raw格式的块存储来作为虚拟机实例的硬盘。

    Ceph相比其它存储的优势点在于它不单单是存储,同时还充分利用了存储节点上的计算能力。在存储每一个数据时,都会选择通过分析计算得出该数据存储的位置,尽量将数据分布均衡,同时也是由于Ceph的良好环境设计。采用了CRUSH算法,使得它不存在传统的单点故障的问题。且随着规模的扩大生产性能并不会受到严重影响。

    5..Swift   Swift 最初是由 Rackspace开发的一种高度可用的分布式对象存储服务,并于 2010 年贡献给 OpenStack 开源社区作为其最初的核心子项目之一。为其Nova子项目提供虚拟机镜像存储服务, Swift 在更便宜的标准硬件存储基础设施上,无需使用RAID(磁盘冗余阵列)。通过在软件层面引入一致性散列技术和数据冗余性,牺牲一定程度的数据一致性,支持多租户模式。容器和对象读写操作,适合解决互联网应用场景中的非结构化数据存储问题。

    读完以后是否知道容器云哪种存储方式更好呢?

更多产品了解

欢迎扫码加入云巴巴企业数字化交流服务群

产品交流、问题咨询、专业测评

都在这里!

 

评论列表

为你推荐

关于构建容器平台战略你需要知道的6个最佳实践

关于构建容器平台战略你需要知道的6个最佳实践

容器不仅可以帮助企业提高库存的应用程序,也可以创建新的灵活的,可扩展的新型云原生应用。例如docker之类的容器引擎和kubemetes之类的编排框架,提供了标准化的方式来存放应用程序(包括代码,运行时环境和库),并可以在软件开发周期无差别运行的应用程序。

2020-03-09 17:08:28

从云计算到容器到容器云

从云计算到容器到容器云

说起 “容器” ,大家的第一反应肯定是日常生活中使用的锅碗瓢盆,或者装运货物的箱子盒子,用来盛放各种各样的物品。但如今的容器已经不再只是物理上的容器了。那么我们今天说的 “容器” 究竟是什么呢?

2020-03-05 17:46:42

来了解一下阿里云容器服务的详细内容吧

来了解一下阿里云容器服务的详细内容吧

 想要了解和更好的去运用容器服务,就离不开实践,因为实践是认识的基础,是认识的来源,是认识发展的动力,是检验认识的真理性的唯一标准,还是认识的最终目的。 首先我们来了解一下容器服务的基本概念,容器服务,

2020-04-27 18:38:44

业务容器化改造实践(一)

业务容器化改造实践(一)

最近将一个电商业务系统进行了容器化改造,并在Kubernetes平台中成功运行。在此记录改造过程以及改造思路,希望能够给大家的业务容器化改造带来帮助和启发。

2019-09-18 11:02:35

云集技术学社|带你了解DevOps技术原理

云集技术学社|带你了解DevOps技术原理

不同企业的DevOps模式是不同的。DevOps一般是从组织、技术、流程三个方面发挥作用。

2021-12-10 14:38:17

华为云容器是客户使用容器混合云的最佳选择

华为云容器是客户使用容器混合云的最佳选择

基于华为在云领域的不断贡献和积累,华为云已经构建了基于容器基础设施服务的完整云容器全栈解决方案,涵盖容器基础设施,容器运营和维护管理以及行业容器解决方案。客户提供最佳和最丰富的云容器服务选项。

2019-09-17 14:39:02

严选云产品

敏捷科技数据安全网关DSG 包含应用准入网关、文件安全网关、邮件安全网关、数据脱敏网关等四个方面,详情请咨询客服小巴
授客学堂医疗行业数字化培训解决方案 授客学堂医疗行业数字化培训解决方案可帮助医疗机构进行党务综合提升、全院持续教学、持续质量控制、技能提升、医院规章制度建设与管理、院感综合管理、护理人员能力提升、人事组织素质持续提升、纪检综合管控等多场景的培训提升。
禅层Zenlayer全球加速解决方案 唾手可得的数字化转型办公神器,客户可以在任意位置、任何时间以优异的体验,安全访问部署在全球任何地方的生产力应用。可以同时满足用户在全球加速、组网、安全三方面需求。用户自建源站加速、第三方内容加速、全球组网、异构云连接等多种场景下满足企业的数字化需求,协助企业快速完成全球化进程,打造新常态下的企业生产力。
法大大制药行业电子签约解决法方案 法大大制药行业电子签约解决法方案,模板填充会通过SRM系统(采购)传参至合同系统,自动完成模板填充,如有新的模板需求,需要法大大开发制作。从零开始在线编辑、协作,相对方在线修改合同,适用非标合同。在线模板生成,适用其他业务系统对接传参生成合同,合同引擎支持模板维护,合同纠错比对。
山石云·格 山石云·格是创新的分布式网络侧微隔离产品,通过专利引流技术、虚机微隔离及可视化技术,能够为用户提供全方位的云安全服务。
软件定义边界(SDP) SDP是由国际云安全联盟(CSA)于2014年提出新一代网络安全模型。SDP主张网络隐身、零信任、最小授权,是更适用于云和移动时代的企业安全架构。

推荐视频

甄选10000+数字化产品 为您免费使用

申请试用