前言:
由于pvc 监控数据异常导致无法采集数据做告警处理,以下为解决思路
- pvc监控由kubelet采集并通过Kubelet端口10250/metrics路径暴露,然后prometheus周期性抓取指标。
- K8s节点kubelet一直在报错
参考文档:https://cyc998.cn/archives/1733825115649 - 通过kubelet现象可以看出Kubelet处于非完全健康状态,故障不影响kubelet主要的功能,pv指标和/stats/summary API受到了影响。
- 通过apiserver代理访问kubelet服务/stats/summary可以看到无法获取数据。
直连访问xxx.xxx.xxx:10250/stats/summary无法获取数据
可以执行curl命令:
curl -H "Authorization: Bearer $(kubectl -n kubesphere-system get secrets -o=jsonpath='{.items[?(@.metadata.annotations.kubernetes\.io/service-account\.name=="kubesphere")].data.token}' | base64 -d -)" -k https://xxx.xxx.xxx.xxx:10250/stats/summary
pvc挂载到某个节点没有指标数据,将 xxx.xxx.xxx.xxx 替换成相对应的的node ip执行就会返回如上错误,能拿到指标的pvc,可以看pvc挂载到了哪一个节点然后执行如上命令可以正常返回数据。
- 通过kubelet的api接口查询kubelet没有磁盘相关指标数据。
综上可以判断Kubelet存在异常,此问题根据已有的排查经验和官方文档来判断是kubelet服务比docker先启动导致,需要重启kubelet和docker,让docker优先启动后再启动kubelet。kubelet的/stats/summary api恢复以后pv的指标就可以正常获取
永久解决方案:
在kubelet的kubelet.service文件中,添加如下参数:
[Unit] After=docker.service