当前位置：首页 > news >正文

OpenShift 4 - 用 Prometheus 和 Grafana 监视用户应用定制的观测指标（视频）

news 2025/7/7 12:21:16

《OpenShift / RHEL / DevSecOps 汇总目录》
说明：本文已经在 OpenShift 4.13 的环境中验证

文章目录

OpenShift 的监控功能构成
部署被监控应用
用 OpenShift 内置功能监控应用
用 Grafana 监控应用
- 安装 Grafana 运行环境
- 配置 Grafana 数据源
- 定制监控 Dashboard
演示视频
参考

OpenShift 的监控功能构成

构成 OpenShift 监控功能的附件分为两部分：“平台监控组件” 和 “用户项目监控组件”。

在平台监控组件中包括：Prometheus、Thanos Querier 和 Alertmanager 三部分重要组成，这些组件是由 Cluster Monitoring Operator 总体部署和管理生命周期的。通过平台监控组件可以对 OpenShift 集群的 DNS、日志系统、etcd、Kubelet、API Server、Scheduler 等重要环境进行监控。
用户项目监控组件是对用户自有项目中应用资源进行监控。它由单独的 Prometheus、Thanos Ruler 构成，并共用平台的 Alertmanager 和 Thanos Querier 组件。

除了可以使用 OpenShift 控制台内置的监控功能和界面外，还可通过 Thanos Querier 的访问地址外接其他监控软件，例如使用 Grafana 定制的仪表盘显示 OpenShift 或用户应用的运行情况。

部署被监控应用

创建项目

$ oc new-project app-monitoring

部署测试应用

$ oc new-app quay.io/brancz/prometheus-example-app:v0.2.0 -l app=prometheus-example-app

创建 Service 和 Route。

$ cat << EOF | oc apply -f -
apiVersion: v1
kind: Service
metadata:labels:app: prometheus-example-appname: prometheus-example-app
spec:ports:- port: 8080protocol: TCPname: 8080-tcpselector:app: prometheus-example-apptype: ClusterIP
EOF$ oc expose svc prometheus-example-app

分别访问应用缺省地址和 /err 地址，返回的 HTTP 代码分别为 200 和 404。

$ curl -sw "%{http_code}\n" -o /dev/null $(oc get route prometheus-example-app -ojsonpath={.spec.host})
200
$ curl -sw "%{http_code}\n" -o /dev/null $(oc get route prometheus-example-app -ojsonpath={.spec.host})/err
404

访问应用的 /metrics 地址，查看应用返回的 HTTP 代码为 200 和 404 请求数量统计。

$ curl $(oc get route prometheus-example-app -ojsonpath={.spec.host})/metrics
# HELP http_requests_total Count of all HTTP requests
# TYPE http_requests_total counter
http_requests_total{code="200",method="get"} 1
http_requests_total{code="404",method="get"} 1
# HELP version Version information about this binary
# TYPE version gauge
version{version="v0.2.0"} 1

说明：
也可在控制台上部署 quay.io/brancz/prometheus-example-app:v0.2.0 容器镜像，但需要增加 app=prometheus-example-app 标签，并且去掉 “安全路由” 选项。

用 OpenShift 内置功能监控应用

启用 OpenShift 对用户应用监控功能。

$ cat << EOF | oc apply -f -
apiVersion: v1
kind: ConfigMap
metadata:name: cluster-monitoring-confignamespace: openshift-monitoring
data:config.yaml: |enableUserWorkload: true
EOF

确认主要监控服务云子运行正常。

$ oc get pod -n openshift-user-workload-monitoring
NAME                                   READY   STATUS    RESTARTS      AGE
prometheus-operator-77d547b4dc-fcflk   2/2     Running   0             34h
prometheus-user-workload-0             6/6     Running   0             34h
thanos-ruler-user-workload-0           4/4     Running   0             34h

创建对 prometheus-example-app 应用监控的 ServiceMonitor 对象。

$ cat << EOF | oc apply -f -
apiVersion: monitoring.coreos.com/v1
kind: ServiceMonitor
metadata:name: prometheus-example-monitornamespace: app-monitoring
spec:endpoints:- interval: 30sport: 8080-tcppath: /metricsselector:matchLabels:app: prometheus-example-app
EOF

创建完后在 OpenShift 的 “目标” 菜单中在 “过滤器” 中选择 “用户”，稍等后可以看到目标的监视端点。

该端点地址是运行应用的 Pod 使用的 IP 地址。

$ oc get pod -owide
NAME                                     READY   STATUS    RESTARTS   AGE     IP             NODE                 NOMINATED NODE   READINESS GATES
prometheus-example-app-b744f9c85-bmk7p   1/1     Running   0          6m15s   10.217.0.123   crc-2zx29-master-0   <none>           <none>

创建 PrometheusRule。下面的 expr 表达式会统计过去 5 分钟 HTTP 请求返回结果是 404 的每秒速率，如果 > 0.3 则报警。

$ cat << EOF | oc apply -f -
apiVersion: monitoring.coreos.com/v1
kind: PrometheusRule
metadata:name: app-alertnamespace: app-monitoring
spec:groups:- name: app-alertrules:- alert: HttpRequestErrorRateIncreaseexpr: rate(http_requests_total{code="404",job="prometheus-example-app"}[5m]) > 0.3labels:severity: warningannotations:summary: Prometheus example app's error rate increase.message: Prometheus example app's error rate increase.
EOF

创建完后可以在“报警” 菜单中的 “报警规则” 页面中通过将 “过滤器” 中选择 “用户”，可以看到该报警规则。
在这里插入图片描述

执行以下命令，持续访问应用的 /err 地址。

$ for i in `seq 1 10000`
docurl -sw "%{http_code}\n" -o /dev/null $(oc get route prometheus-example-app -ojsonpath={.spec.host})/errsleep 1
done

在 OpenShift 的 “指标” 页面中先将输入查询条件设为 “rate(http_requests_total{code=“404”,job=“prometheus-example-app”}[5m])”，然后点击 “运行查询”。再将时间设为 5m，并将页面刷新时间设置为 15秒。在等待一会儿后可以看到值已经超过 0.3。
在 OpenShift 的 “报警” 页面中的 “过滤器” 中选中 “用户” ，确认已经被触发。
点击上图的 HttpRequestErrorRateIncrease，然后可以看到和步骤 7 类似的指标监控图。
另外，在 app-monitoring 项目中也可以看到 HttpRequestErrorRateIncrease 报警。

用 Grafana 监控应用

安装 Grafana 运行环境

创建 my-grafana 项目，然后在其中安装 Grafana Operator v4 版本。
执行以下命令，创建一个名为 my-grafana 的 Grafana 实例。注意：以下 YAML 中的 dataStorage 使用了 OpenShift 缺省的存储类。

$ cat << EOF | oc apply -f -
apiVersion: integreatly.org/v1alpha1
kind: Grafana
metadata:name: my-grafananamespace: my-grafana
spec:config:security:admin_user: adminadmin_password: my-passworddataStorage:accessModes:- ReadWriteOncesize: 1Giingress:enabled: truetls:enabled: true
EOF

创建名为 grafana-view 的 clusterrolebinding，为所有命名空间的 grafana-serviceaccount 提供 cluster-monitoring-view 角色。

$ oc create clusterrolebinding grafana-view --clusterrole=cluster-monitoring-view --serviceaccount=my-grafana:grafana-serviceaccount

配置 Grafana 数据源

执行命令创建一个 GrafanaDataSource，其中使用了基于 grafana-serviceaccoun 的 token 来访问 Thanos Querier。

$ TOKEN=$(oc create token grafana-serviceaccount -n my-grafana)
$ cat << EOF | oc apply -f -
apiVersion: integreatly.org/v1alpha1
kind: GrafanaDataSource
metadata:name: prometheusnamespace: my-grafana
spec:datasources:- basicAuthUser: internalaccess: proxyeditable: truesecureJsonData:httpHeaderValue1: >-Bearer ${TOKEN}name: Prometheusurl: 'https://thanos-querier.openshift-monitoring.svc.cluster.local:9091'jsonData:httpHeaderName1: AuthorizationtimeInterval: 5stlsSkipVerify: truebasicAuth: falseisDefault: trueversion: 1type: prometheusname: test_name
EOF

访问 grafana-route 对应的 Grafana 页面，然后使用创建 my-grafana 实例时指定的用户和密码登录。
进入 Configuration 的 Data Sources 菜单，可以看到名为 Prometheus 的数据源，点击进入。
点击页面下方的 “ Save & Test”，确认显示 Data srouce is working。

定制监控 Dashboard

进入 Create 的 Dashboard 菜单。
在 New dashboard 页面点击 Add an empty panel。
在下图中为 Metrics 提供以下内容，然后将 Panel title 设为 Example App Err Rate，最后点击 Apply 按钮。

rate(http_requests_total{code="404",job="prometheus-example-app"}[5m])

在这里插入图片描述
4. 在 Dashboard 页面点击右上方的 Dashboard settings 图标。

5. 设置 Name，然后保存。

6. 最后通过定制的 Dashboard 监控的应用指标如下图。

演示视频

参考

https://github.com/k-srkw/openshift-monitoring-handson/blob/main/monitoring-handson.md
https://cloud.redhat.com/blog/your-guide-to-openshift-observability-part-1
https://access.redhat.com/solutions/5335491
https://access.redhat.com/documentation/en-us/openshift_container_platform/4.5/html/monitoring/monitoring-your-own-services
https://catalog.workshops.aws/aws-openshift-workshop/en-US/8-observability/2-metrics/5-app-dashboard
https://github.com/brancz/prometheus-example-app
https://developers.redhat.com/articles/2023/08/08/how-monitor-workloads-using-openshift-monitoring-stack#how_to_monitor_a_sample_application
https://shonpaz.medium.com/monitor-your-application-metrics-using-the-openshift-monitoring-stack-862cb4111906
https://github.com/OpenShiftDemos/openshift-ops-workshops/blob/ocp4-dev/workshop/content/monitoring-basics.adoc
https://github.com/pittar/openshift-user-workload-monitoring
https://github.com/alvarolop/quarkus-observability-app/blob/main/README.adoc
https://prometheus.io/docs/prometheus/latest/querying/basics/
https://github.com/alvarolop/quarkus-observability-app