• GFS分布式文件系统


    GFS分布式文件系统

    一、什么是GFS

    ​ GFS是一个开源的分布式文件系统,由存储服务器,客户端,以及NFS/Samba存储网关组成,没有元数据服务器组件,这有助于提升整个系统的性能、可靠性和稳定性。

    ​ GlusterFS同时也是Scale-Out(横向扩展)存储解决方案Gluster的核心,在存储数据方面具有强大的横向扩展能力,通过扩展能够支持数PB存储容量和处理数千客户端。

    ​ GlusterFS支持借助TCP/IP或InfiniBandRDMA网络(一种支持多并发链接的技术,具有高带宽、低时延、高扩展性的特点)将物理分散分布的存储资源汇聚在一起,统一提供存储服务,并使用统一全局命名空间来管理数据。

    二、GFS特点

    ①扩展性和高性能

    ​ GlusterFS利用双重特性来提供高容量存储解决方案。

    ​ (1)允许简单的增加存储节点的方式来提高存储容量和性能,支持10GbE和 InfiniBand等高速网络互联。(及可以简单的横向扩容)

    ​ (2)GFS采用弹性哈希算法,在存储池中可以智能的定位任意数据分片(数据分片就是将数据分布存储在不同的节点上),不需要查看索引或者向元数据服务器查询。

    ②高可用性

    ​ (1)Gfs基于对文件进行自动复制,如镜像或多次复制,从而确保数据总是可 用访问的,甚至硬件故障的情况下也能正常访问。

    ​ (2)当数据出现不一致时,自我修复功能能够把数据恢复到正确的状态,数据的修复是以增量的方式在后台执行,几乎不会产生性能负载。

    ​ (3)GlusterFS可以支持所有的存储,因为它没有设计自己的私有数据文件格式,而是采用操作系统中主流标准的磁盘文件系统(如EXT3、XFS等)来存储文件,因此数据可以使用传统访问磁盘的方式被访问。兼容性好,不会出现只在一个平台上专有的情况

    ③全局同一命名空间

    ​ 将所有节点的命名空间整合为统一的命令空间,将整个系统所有节点的存储内容组成一个大的虚拟存储池 ,供前端主机访问这些节点完成数据读写操作

    ④弹性卷管理

    ​ GFS是将数据存储在逻辑卷中,而逻辑卷是从逻辑存储池进行逻辑划分得到的,逻辑池可用在线进行增加和缩减而不会导致业务中断,逻辑卷可以根据需求在线增长或缩减,并可以将数据分散到多个节点来完成负载均衡。而文件系统设置可以实时在线进行更改并应用,从而可以适应工作负载条件或在线性能调优

    ⑤基于标准协议

    ​ GFS数据接口兼容性强,支持 NFS、CIFS、HTTP、FTP、SMB 及 Gluster原生协议,完全与 POSIX 标准(可移植操作系统接口)兼容。应用程序并不需要怎么修改就可以直接访问GFS里的数据,当然也可以使用专用的API进行访问

    三、GFS工作流程

    ​ [外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-OmEFyIag-1663499356801)(C:/Users/mogu/Downloads/%E6%9C%AA%E5%91%BD%E5%90%8D%E6%96%87%E4%BB%B6%20(5)].png)

    (1)客户端或应用程序通过 GlusterFS 的挂载点访问数据。
    (2)linux系统内核通过 VFS API 收到请求并处理。
    (3)VFS 将数据递交给 FUSE 内核文件系统,并向系统注册一个实际的文件系统 FUSE,而 FUSE 文件系统则是将数据通过 /dev/fuse 设备文件递交给了 GlusterFS client 端。可以将 FUSE 文件系统理解为一个代理。
    (4)GlusterFS client 收到数据后,client 根据配置文件的配置对数据进行处理。
    (5)经过 GlusterFS client 处理后,通过网络将数据传递至远端的 GlusterFS Server,并且将数据写入到服务器存储设备上。

    四、GlusterFS的卷类型

    GlusterFS 支持七种卷,即分布式卷条带卷复制卷分布式条带卷分布式复制卷条带复制卷分布式条带复制卷

    1. 分布式卷(Distribute volume)

      文件通过HASH算法分布到所有Brick Server上,这种卷是GlusterFS的默认卷;以文件为单位根据HASH算法散列到不同的Brick,其实只是扩大了磁盘空间,如果有一块磁盘损坏,数据也将丢失,属于文件级的RAID0,不具有容错能力。

      分布式卷具有如下特点:

      1. 文件分布在不同的服务器,不具备冗余性。
      2. 更容易和廉价地扩展卷的大小。
      3. 单点故障会造成数据丢失。
      4. 依赖底层的数据保护。
    2. 条带卷(Stripe volume)

      类似RAID0,文件被分成数据块并以轮询的方式分布到多个Brick Server上,文件存储以数据块为单位,支持大文件存储,文件越大,读取效率越高,但是不具备冗余性

      条带卷特点:

      1. 数据被分割成更小块分布到块服务器群中的不同条带区。
      2. 分布减少了负载且更小的文件加速了存取的速度。
      3. 没有数据冗余。
    3. 复制卷(Replica volume)

      将文件同步到多个Brick上,使其具备多个文件副本,属于文件级RAID 1,具有容错能力。因为数据分在多个Brick中,所以读性能得到很大提升,但写性能下降。

      复制卷具备冗余性,即使一个节点损坏,也不影响数据的正常使用。但因为要保存副本,所以磁盘利用率较低。

      复制卷特点:

      1. 卷中所有的服务器均保存一个完整的副本。
      2. 卷的副本数量可由客户创建的时候决定,但复制数必须等于卷中Brick所包含的存储服务器数。
      3. 至少由两个块服务器或更多服务器。
      4. 具备冗余性。
    4. 分布式条带卷(Distribute Stripe volume)
    5. 分布式复制卷(Distribute Replica volume)
    6. 条带复制卷(Stripe Replica volume)

    ume)

    1. 分布式复制卷(Distribute Replica volume)
    2. 条带复制卷(Stripe Replica volume)
    3. 分布式条带复制卷(Distribute Stripe Replicavolume)
  • 相关阅读:
    mac下安装python并编写脚本实现s3上传功能
    基座向量施密特正交化
    TCP协议调试工具TcpEngine V1.3.0使用教程
    [Vulnhub] Stapler wp-videos+ftp+smb+bash_history权限提升+SUID权限提升+Kernel权限提升
    计算机网络:根据IP和子网掩码计算网络号
    【源码课件+教程】Python入门教程_Python400集持续更新
    微PE辅助VMware安装操作系统
    Relay Diffusion:霸占榜单的最强生成式模型
    WeTab--颜值与实力并存的浏览器插件
    如何确定 <board_name>名字
  • 原文地址:https://blog.csdn.net/weixin_52190986/article/details/126921561