数据中心-ceph
Ceph是什么?

Ceph是一个统一的分布式存储系统,旨在实现出色的性能,可靠性和可扩展性。

  • 监视器:Ceph Monitor(ceph-mon)维护集群状态的映射,包括监视器映射,管理器映射,OSD映射,MDS映射和CRUSH映射。这些映射是Ceph守护程序相互协调所需的关键群集状态。监视器还负责管理守护程序和客户端之间的身份验证。通常至少需要三个监视器才能实现冗余和高可用性。

  • 管理器:Ceph Manager守护进程(ceph-mgr)负责跟踪运行时指标和Ceph集群的当前状态,包括存储利用率,当前性能指标和系统负载。Ceph Manager守护程序还托管基于python的模块来管理和公开Ceph集群信息,包括基于Web的Ceph仪表板和 REST API。通常,至少需要两个管理器才能实现高可用性。

  • Ceph OSD:Ceph OSD(对象存储守护程序, ceph-osd)存储数据,处理数据复制,恢复,重新平衡,并通过检查其他Ceph OSD守护程序的心跳来向Ceph监视器和管理器提供一些监视信息。OSD是负责物理存储的进程,一般配置成和磁盘一一对应,一块磁盘启动一个OSD进程。通常至少需要3个Ceph OSD才能实现冗余和高可用性。

  • MDS:Ceph元数据服务器(MDS,ceph-mds)代表Ceph文件系统存储元数据(即,Ceph块设备和Ceph对象存储不使用MDS)。Ceph的元数据服务器允许POSIX文件系统的用户来执行基本的命令(如 ls,find没有放置在一个Ceph存储集群的巨大负担,等等)。

  • Pool是存储对象的逻辑分区,它规定了数据冗余的类型和对应的副本分布策略;支持两种类型:副本(replicated)和 纠删码( Erasure Code);在PVE UI界面创建的pool默认在数据中心—存储下生成RBD块设备

  • PG( placement group)是一个放置策略组,它是对象的集合,该集合里的所有对象都具有相同的放置策略;简单点说就是相同PG内的对象都会放到相同的硬盘上; PG是 ceph的核心概念, 服务端数据均衡和恢复的最小粒度就是PG;

  • 一个Pool里有很多PG,一个PG里包含一堆对象;一个对象只能属于一个PG;PG有主从之分,一个PG分布在不同的OSD上(针对三副本类型)

  • 想要创建一个rbd设备前,必须创建 一个pool,需要为这个pool指定pg的数量,在一个pool中的pg数量是不一定的,同时这个pool中要指明保存数据的副本数量3个副本。再在这个pool中创建一个rbd设备rbd0,如下:

安装ceph

1、点击 数据中心—>Ceph,会弹出“Ceph没有在此节点上安装。你想现在安装吗?”的提示,需要用ceph的就点击安装。
注意:每个节点都需要安装的。

2、根据提示进行安装:

3、根据提示配置

4、配置的时候,翻车了

解决:
1、确定ceph的版本:ceph -v 确定版本为:luminous
2、再手动安装一下这个版本:pveceph install --version luminous
3、再pveceph install ,会升级到最新版本,我这里升级后的版本为nautilus版本,这个安装过程中可能有一些依赖问题,执行一下apt --fix-broken install升级完成

5、再次翻车,提示:rados_connect failed - No such file or directory (500)

解决:
1、应该是ceph的监视器(ceph-mon)没有起,在要建立监视器的节点查看一下监视器状态:
systemctl status ceph-mon@ahbab.service
2、果然状态是没有起,启动ceph-mon:systemctl start ceph-mon@ahbab.service
3、再在web界面集群的节点下创建监视器,如下:

文档更新时间: 2020-03-04 17:25   作者:子木