Ceph Jewel : ファイルシステムとして利用する2015/12/10

以下のような構成の Ceph クラスターストレージを、任意のクライアントから利用できるように設定します。

                                         |
        +--------------------+           |           +-------------------+
        |   [dlp.srv.world]  |10.0.0.30  |   10.0.0.x|   [   Client  ]   |
        |    Ceph-Deploy     +-----------+-----------+                   |
        |                    |           |           |                   |
        +--------------------+           |           +-------------------+
            +----------------------------+----------------------------+
            |                            |                            |
            |10.0.0.51                   |10.0.0.52                   |10.0.0.53 
+-----------+-----------+    +-----------+-----------+    +-----------+-----------+
|   [node01.srv.world]  |    |   [node02.srv.world]  |    |   [node03.srv.world]  |
|     Object Storage    +----+     Object Storage    +----+     Object Storage    |
|     Monitor Daemon    |    |                       |    |                       |
|                       |    |                       |    |                       |
+-----------------------+    +-----------------------+    +-----------------------+

	例として、クライアント上でファイルシステムとしてマウントして利用します。
[1]	管理ノード上で MDS (MetaData Server) とするノードを設定しておきます。当例では node01 で進めます。

[cent@dlp ceph]$

ceph-deploy mds create node01

[2]	事前に、MDS を設定したノード上で、少なくとも二つの RADOS プールを作成し、MetaData Server をアクティブにしておきます。なお、プール作成時にコマンドの末尾に指定する数値は公式ドキュメントを参照の上、決定してください。 ⇒ http://docs.ceph.com/docs/master/rados/operations/placement-groups/

[cent@node01 ~]$

sudo chmod 644 /etc/ceph/ceph.client.admin.keyring

# プール作成

[cent@node01 ~]$

ceph osd pool create cephfs_data 128

pool 'cephfs_data' created
[cent@node01 ~]$

ceph osd pool create cephfs_metadata 128

pool 'cephfs_metadata' created

# プール有効化

[cent@node01 ~]$

ceph fs new cephfs cephfs_metadata cephfs_data

new fs with metadata pool 2 and data pool 1

# 確認

[cent@node01 ~]$

ceph fs ls

name: cephfs, metadata pool: cephfs_metadata, data pools: [cephfs_data ]
[cent@node01 ~]$

ceph mds stat

e5: 1/1/1 up {0=node01=up:active}

[3]	クライアント上でのファイルシステムのマウントです。

[root@client ~]#

yum -y install ceph-fuse

# admin キー取得

[root@client ~]#

ssh cent@node01.srv.world "sudo ceph-authtool -p /etc/ceph/ceph.client.admin.keyring" > admin.key

cent@node01.srv.world's password:
[root@client ~]#

chmod 600 admin.key

[root@client ~]#

mount -t ceph node01.srv.world:6789:/ /mnt -o name=admin,secretfile=admin.key

[root@client ~]#

df -hT

Filesystem          Type      Size  Used Avail Use% Mounted on
/dev/mapper/cl-root xfs        26G  1.9G   25G   7% /
devtmpfs            devtmpfs  2.0G     0  2.0G   0% /dev
tmpfs               tmpfs     2.0G     0  2.0G   0% /dev/shm
tmpfs               tmpfs     2.0G  8.4M  2.0G   1% /run
tmpfs               tmpfs     2.0G     0  2.0G   0% /sys/fs/cgroup
/dev/vda1           xfs      1014M  230M  785M  23% /boot
tmpfs               tmpfs     396M     0  396M   0% /run/user/0
10.0.0.51:6789:/    ceph       78G   21G   58G  27% /mnt