这里有一个ceph的原则,就是所有存储的不管是块设备、对象存储、文件存储最后都转化成了底层的对象object,这个object包含3个元素data,xattr,omap。data是保存对象的数据,xattr是保存对象的扩展属性,每个对象文件都可以设置文件的属性,这个属性是一个key/value值对,但是受到文件系统的限制,key/value对的个数和每个value的大小都进行了限制。如果要设置的对象的key/value不能存储在文件的扩展属性中,还存在另外一种方式保存omap,omap实际上是保存到了key/vaule 值对的数据库levelDB中,在这里value的值限制要比xattr中好的多。
一开始不太明白 key/value是做什么的?在ceph中起到什么作用? 这里要说明的是这些key/value是保存对象的元数据相关信息,这些元数据相关信息是可以单独创建和设置的,等于对象存储的扩展,支持属性的值对存储。这个作用就是提供给ceph内部使用,暂时用处不大。
一、块存储设备元数据管理
对于块存储,在存储的过程中主要是块的相关信息。块的元数据信息管理,创建一个块设备后会创建一个默认的rbd的元数据文件。
0001:这里首先创建一个块设备,该块设备的大小为100M。
0002:使用命令查询这个rbd的详细信息。
0008:这里会有一个叫做rbd1.rbd的对象,他不是用来存储数据的,而且用来保存元数据信息。真实的元数据信息不会保存在这个文件中,而是保存在这个文件的xattr或者omap中。
0010:这里有个叫做rbd_directory的对象,该对象中会保存所有创建的块设备名字。
二、对象存储的元数据管理
对象存储存在
0001:列出当前pool中存储的对象。在对象存储中还是封装一层叫做bucket,由bucket隔离object对象。
0006:查看一个objectone对象的状态信息,包含名字、创建时间、size。
0008:自己创建一个objectone对象的属性,该属性key为owner、value为xyj。
0009:查询一个objectone对象的所有属性,发现这时只有刚刚创建的owner。
0011:查询objectone对象的owner属性值,这里可以显示出刚刚设置的xyj。
三、文件系统cephfs:
这里cephfs就不多说了,因为目前广大群众都说cephfs在生产环境中存在一些问题。cephfs 有一个叫做mds的节点,该节点负责管理namespace,但是数据块的映射则交给了crush算法,cephfs的元数据同样会以对象的方式存储在rados中,有一个叫做meta的文件夹中。同样这些顶层的对象,可以通过key/value存储来自文件系统设置的属性集。