k8s实践(十一):heapster+influxdb+grafana实现kubernetes集群监

环境说明:
主机名操作系统版本ipdocker versionkubelet version配置备注
masterCentos 7.6.1810172.27.9.131Docker 18.09.6V1.14.22C2Gmaster主机
node01Centos 7.6.1810172.27.9.135Docker 18.09.6V1.14.22C2Gnode节点
node02Centos 7.6.1810172.27.9.136Docker 18.09.6V1.14.22C2Gnode节点

k8s集群部署详见:Centos7.6部署k8s(v1.14.2)集群
k8s学习资料详见:基本概念、kubectl命令和资料分享

一、简介

1.heapster简介

Heapster是Kubernetes原生的集群监控方案,Kubelet自身就包含了一个名为cAdvisor的agent,它会收集整个节点和节点上运行的所有单独容器的资源消耗情况。Heapster以pod的方式运行在某个节点上,它通过普通的KubernetesService暴露服务,使外部可以通过一个稳定的IP地址访问。它从集群中所有的cAdvisor收集数据,然后通过一个单独的地址暴露。

k8s实践(十一):heapster+influxdb+grafana实现kubernetes集群监

Heapster 将数据按照 Pod 进行分组,将它们存储到预先配置的 backend 并进行可视化展示。Heapster 当前支持的 backend 有 InfluxDB(通过 Grafana 展示),Google Cloud Monitoring 等。

k8s实践(十一):heapster+influxdb+grafana实现kubernetes集群监

2.lnfluxDB和Grafana 简介

lnfluxDB是一个用于存储应用指标,以及其他监控数据的开源的时序数据库。Grafana是一个拥有着华丽的web控制台的数据分析和可视化套件,同样也是开源的,它允许用户对InfluxDB中存储的数据进行可视化,同时发现应用程序的资源使用行为是如何随时间变化的。

二、heapster安装

1.安装文件和镜像下载

安装文件下载:

[ ~]# git clone https://github.com/kubernetes-retired/heapster.git

或者

[ ~]# wget https://github.com/kubernetes-retired/heapster/archive/master.zip
[ ~]# unzip master.zip

两种方式都可以下载安装文件,本文采取第二种方式

镜像下载及打标签

[ ~]# docker pull registry.cn-hangzhou.aliyuncs.com/google_containers/heapster-grafana-amd64:v5.0.4
[ ~]# docker pull registry.cn-hangzhou.aliyuncs.com/google_containers/heapster-influxdb-amd64:v1.5.2
[ ~]# docker pull registry.cn-hangzhou.aliyuncs.com/google_containers/heapster-amd64:v1.5.4

[ ~]# docker image tag registry.cn-hangzhou.aliyuncs.com/google_containers/heapster-amd64:v1.5.4 k8s.gcr.io/heapster-amd64:v1.5.4 
[ ~]# docker image tag registry.cn-hangzhou.aliyuncs.com/google_containers/heapster-influxdb-amd64:v1.5.2 k8s.gcr.io/heapster-influxdb-amd64:v1.5.2
[ ~]# docker image tag registry.cn-hangzhou.aliyuncs.com/google_containers/heapster-grafana-amd64:v5.0.4 k8s.gcr.io/heapster-grafana-amd64:v5.0.4

[ ~]# docker rmi registry.cn-hangzhou.aliyuncs.com/google_containers/heapster-amd64:v1.5.4 registry.cn-hangzhou.aliyuncs.com/google_containers/heapster-influxdb-amd64:v1.5.2 registry.cn-hangzhou.aliyuncs.com/google_containers/heapster-grafana-amd64:v5.0.4

注意每个节点都需执行以上命令

2.安装文件修改

[ ~]# cd heapster-master/deploy/kube-config/
[ kube-config]# pwd
/root/heapster-master/deploy/kube-config
[ kube-config]# ll
总用量 0
drwxr-xr-x 2 root root  27 11月 30 2018 google
drwxr-xr-x 2 root root  68 10月 22 15:00 influxdb
drwxr-xr-x 2 root root  32 10月 22 15:02 rbac
drwxr-xr-x 2 root root  38 11月 30 2018 standalone
drwxr-xr-x 2 root root 170 11月 30 2018 standalone-test
drwxr-xr-x 2 root root 145 11月 30 2018 standalone-with-apiserver
[ kube-config]# cd influxdb/
[ influxdb]# ll
总用量 12
-rw-r--r-- 1 root root 2294 10月 22 14:51 grafana.yaml
-rw-r--r-- 1 root root 1162 10月 22 15:00 heapster.yaml
-rw-r--r-- 1 root root  997 10月 22 14:51 influxdb.yaml
[ influxdb]# cd ../rbac/
[ rbac]# ll
总用量 4
-rw-r--r-- 1 root root 263 10月 22 15:02 heapster-rbac.yaml

分别修改文件grafana.yamlinfluxdb.yamlheapster.yamlheapster-rbac.yaml

k8s实践(十一):heapster+influxdb+grafana实现kubernetes集群监

修改grafana.yaml,port类型为NodePort,nodePort为30011,可通过http://NodeIp:30011方式访问

k8s实践(十一):heapster+influxdb+grafana实现kubernetes集群监

修改influxdb.yaml,port类型为NodePort,nodePort为30012,grafana配置数据源会用到

k8s实践(十一):heapster+influxdb+grafana实现kubernetes集群监

修改heapster.yaml中的source和sink参数

source: 指定数据获取源

source参数说明
inClusterConfig在与heapster的命名空间关联的服务帐户中使用kube config(默认值:true)
kubeletPort指定kubelet的使用端口,默认10255
kubeletHttps是否使用https去连接kubelets(默认:false)
insecure是否使用安全证书(默认:false)
auth安全认证
useServiceAccount是否使用K8S的安全令牌(默认:false)

sink: 指定后端数据存储

sink参数说明
userInfluxDB用户,默认root
pwInfluxDB密码,默认root
db数据库名,默认k8s
retention默认infloxDB保留策略的持续时间,默认值0,表示无限
secure安全连接到InfluxDB(默认:false)
insecuressl忽略SSL证书有效性(默认值:false)
withfields使用InfluxDB fields(默认:false)
cluster_name不同cubernete集群的集群名称(默认:default)
disable_counter_metrics禁用接收计数器度量以流入数据库(默认:false)
concurrency并发数(默认:1)

k8s实践(十一):heapster+influxdb+grafana实现kubernetes集群监

修改heapster-rbac.yaml,将权限修改为cluster-admi

3.执行安装

[ kube-config]# pwd
/root/heapster-master/deploy/kube-config
[ kube-config]# kubectl apply -f influxdb/
deployment.extensions/monitoring-grafana created
service/monitoring-grafana created
serviceaccount/heapster created
deployment.extensions/heapster created
service/heapster created
deployment.extensions/monitoring-influxdb created
service/monitoring-influxdb created
[ kube-config]# kubectl apply -f rbac/heapster-rbac.yaml 
clusterrolebinding.rbac.authorization.k8s.io/heapster created

4.资源查看

[ kube-config]# kubectl get all -n kube-system -o wide |grep -e monitor -e heapster

k8s实践(十一):heapster+influxdb+grafana实现kubernetes集群监

三、Grafana配置

1.登录grafana

登陆地址: http://172.27.9.131:30011

k8s实践(十一):heapster+influxdb+grafana实现kubernetes集群监

2.配置DataSource

k8s实践(十一):heapster+influxdb+grafana实现kubernetes集群监

k8s实践(十一):heapster+influxdb+grafana实现kubernetes集群监

k8s实践(十一):heapster+influxdb+grafana实现kubernetes集群监

url为http://172.27.9.131:30012

3.导入模板

模板下载

下载地址:https://grafana.com/api/dashboards/3649/revisions/1/download

https://grafana.com/api/dashboards/3646/revisions/1/download

导入

k8s实践(十一):heapster+influxdb+grafana实现kubernetes集群监

k8s实践(十一):heapster+influxdb+grafana实现kubernetes集群监

k8s实践(十一):heapster+influxdb+grafana实现kubernetes集群监

同理导入kubernetes-node-statistics

四、查看Grafana

k8s实践(十一):heapster+influxdb+grafana实现kubernetes集群监

k8s实践(十一):heapster+influxdb+grafana实现kubernetes集群监

五、资源删除

[ ~]# kubectl delete -n kube-system  ClusterRoleBinding heapster               [ ~]# kubectl get all -n kube-system -o wide |grep -e monitor -e heapster |awk ‘{print $1}‘|xargs kubectl delete  -n kube-system
[ ~]# rm -rf heapster-master master.zip

k8s实践(十一):heapster+influxdb+grafana实现kubernetes集群监

本文所有配置文件已上传github:https://github.com/loong576/heapster-influxdb-grafana/archive/master.zip

相关推荐