全局Ceph节点宕机处理

在极端情况下，如数据中心断电，造成 Ceph 存储集群全局宕机，可以按照本节所示流程进行 Ceph 集群上电恢复操作。

4.1 手动上电执行步骤

1. 如为 Ceph 集群上电，monitor server 应最先上电；集群上电前确认使用 Ceph 之前端作业服务已停止。

2. 使用 IPMI 或于设备前手动进行上电。

3. 确认 NTP 服务及系统时间已同步，命令如下：

   # ps-ef | grep ntp

   # date

   # ntpq -p

4. 登入上电之 ceph server 确认 ceph service 已正常运行，命令如下：

   # ps -ef | grep ceph

5. 登入集群 monitor server 查看状态，OSD 全都 up 集群仍为 noout flag(s) set

   # ceph -s

   # ceph osd tree

6. 登入 monitor server 解除 stopping w/out rebalancing，命令如下：

   # ceph osd unset noout

   # ceph -w

   使用 ceph-w 可查看集群运作输出，同步完毕后集群 health 应为HEALTH_OK 状态。

4.2 恢复后检查步骤

1. 确认设备上电状态，以 IPMI 或 于设备前确认电源为开启上电状态。

2. ping ceph monitor server，检查 monitor server 可以 ping 通。

3. 系统时间和校时服务器时间同步。

4. ceph -s  状态为HEALTH_OK

5. ceph osd tree OSD 状态皆为UP

4.3 恢复使用指令及其说明

1. ceph -s ： 确认 ceph cluster status

2. ceph -w ： 查看集群运作输出

3. ceph osd tree ： 查看ceph cluster上osd排列及状态

4. start ceph-all ： 启动 所有 ceph service

5. start ceph-osd-all ： 启动 所有 osd service

6. start ceph-mon-all ： 启动 所有 mon service

7. start ceph-osd id={id} ： 启动指定 osd id service

8. start ceph-mon id={hostname} ： 启动指定 ceph monitor host

9. ceph osd set noout ： ceph stopping w/out rebalancing

10. ceph osd unset noout ： 解除ceph stopping w/out rebalancing