当前位置: 首页 > article >正文

Ambari Metrics 是 Apache Ambari 提供的轻量级、嵌入式集群监控子系统,用于收集、聚合、存储和展示 Hadoop 生态组件

Ambari Metrics 是 Apache Ambari 提供的轻量级、嵌入式集群监控子系统用于收集、聚合、存储和展示 Hadoop 生态组件如 HDFS、YARN、HBase、Kafka 等的关键性能指标Metrics。它基于时间序列数据库默认使用 embedded HBase 或可选集成 Phoenix HBase新版也支持 Metrics Collector 与 Grafana/InfluxDB 等对接通过 Metrics Monitor部署在每个节点采集本地进程指标如 JVM、CPU、内存、磁盘 I/O、服务特定指标并上报至中央 Metrics Collector 服务。核心组件包括Metrics Collector中心化服务接收、聚合、持久化指标数据默认后端为 HBase 表METRICS_RECORD和METRICS_AGGREGATEMetrics Monitor每节点代理以轻量级 Python 进程运行通过 JMX、/proc、命令行等方式采集指标并通过 HTTP POST 发送至 CollectorAmbari Server 集成在 Ambari Web UI 中提供“Metrics”仪表盘支持图表可视化、历史趋势查询、告警配置需配合 Ambari Alerts 框架REST API提供/api/v1/metrics接口支持按时间范围、服务、主机、指标名等条件查询原始或聚合指标如avg,max,sum。⚠️ 注意自 Ambari 2.7 起官方推荐逐步迁移到更现代的监控方案如 Prometheus Grafana JMX Exporter因 Ambari Metrics 存在扩展性瓶颈、HBase 依赖复杂、高并发查询性能受限等问题部分新版本已将 Metrics Collector 标记为“deprecated”。# 示例通过 REST API 查询某 namenode 的 DFSUsed 百分比过去5分钟curl-uadmin:adminhttp://ambari-server:8080/api/v1/clusters/mycluster/metrics?metricNamesdfs.namenode.DFSUsedPercentstartTime1717027200000endTime1717027500000hostnn1.example.comAmbari Metrics Collector原生并不直接支持 InfluxDB 或 Prometheus 作为后端存储——其架构硬编码依赖 HBase通过 Phoenix JDBC 或原生 HBase API 写入官方未提供可插拔的存储适配器机制。因此“替换为 InfluxDB/Prometheus”并非简单配置切换而是需采用架构级替代或数据桥接方案。以下是可行路径按推荐度排序✅ 推荐方案弃用 Metrics Collector改用标准可观测性栈现代最佳实践停用 Ambari Metrics Collector Monitor在 Ambari Web → Services → Metrics → Stop部署 JMX Exporter Prometheus Grafana为每个 Hadoop 组件NameNode、ResourceManager、HBase Master 等启动jmx_exporter以 sidecar 或 JVM agent 方式配置 Prometheusscrape_configs拉取各组件暴露的/metrics端点使用 Grafana 导入社区 Hadoop Dashboard如 Hadoop JMX Dashboard✅ 优势高性能、高扩展、多维标签、强大 PromQL、生态成熟⚠️ 注意需手动管理 exporter 配置与服务发现可用 Consul 或 Prometheus Service Discovery Ambari API 动态生成 targets。⚠️ 折中方案保留 Metrics Collector但将指标导出到外部时序库ETL 桥接启用 Metrics Collector 的timeline.metrics.export.enabledtrueAmbari 2.7 支持配置timeline.metrics.export.sink.class为自定义实现类需 Java 开发例如实现org.apache.hadoop.metrics2.sink.Sink接口将收到的MetricsRecord转为 InfluxDB Line Protocol 并 HTTP POST 到 InfluxDB/api/v2/write或对接 Prometheus Pushgateway不推荐长期使用因违背拉取模型缺点需编译自定义 JAR、重启 Collector、维护兼容性且非官方支持路径。❌ 不可行方案常见误区修改ambari-metrics-collector源码强行替换 HBase Client → 极高维护成本破坏升级能力试图用 HBase → Kafka → Flink → InfluxDB 管道 → 延迟高、复杂度爆炸无实际运维价值依赖已废弃项目如ambari-metrics-influxdb第三方 fork→ 无更新、不兼容新版 Ambari/HBase。 补充Ambari 3.x 及未来方向Ambari 3.0尚未 GA已完全移除 Metrics Collector 模块监控职责移交至外部系统官方文档明确建议“Use Prometheus, Grafana, and vendor-agnostic exporters for metrics collection”。# 示例为 ResourceManager 部署 jmx_exporterstandalone modejava-Dcom.sun.management.jmxremote\-javaagent:./jmx_exporter/jmx_prometheus_javaagent-1.1.0.jar8081:./rmmetrics.yaml\-jarhadoop-yarn-server-resourcemanager.jar其中rmmetrics.yaml定义 JMX bean 过滤与指标重命名规则

相关文章:

Ambari Metrics 是 Apache Ambari 提供的轻量级、嵌入式集群监控子系统,用于收集、聚合、存储和展示 Hadoop 生态组件

Ambari Metrics 是 Apache Ambari 提供的轻量级、嵌入式集群监控子系统,用于收集、聚合、存储和展示 Hadoop 生态组件(如 HDFS、YARN、HBase、Kafka 等)的关键性能指标(Metrics)。它基于时间序列数据库(默认…...

Apache Hadoop 生态系统(或与其深度集成)的企业级大数据平台核心服务,常见于 Hortonworks Data Platform(HDP)、Cloudera Data Platform

Apache Hadoop 生态系统(或与其深度集成)的企业级大数据平台核心服务,常见于 Hortonworks Data Platform(HDP)、Cloudera Data Platform(CDP)等发行版中,各自承担关键职能&#xff1…...

手机短信误删!4 个实用恢复方法,一文看懂轻松

你是否有过这样的懊恼时刻:手滑删除了银行的验证码短信,或是亲友的珍贵问候,急需时才发现信息已消失无踪?其实,被删除的短信并不会立刻从手机中彻底清除,只是被系统标记为 “可覆盖空间”—— 这个特性为恢…...

每天了解几个MCP SERVER:工具百宝箱!200+应用集成,Composio 让 AI 连接一切

每天了解几个MCP SERVER:🔧 Composio来源: https://docs.composio.dev/docs/mcp-overview简介 Composio MCP Server 提供200工具集成平台,让AI可以连接各种第三方应用和服务。 能做什么 工具集成:200应用集成工作流编排&#xff1…...

每天了解几个MCP SERVER:云端媒体库!AI 自动处理图片视频,Cloudinary 让媒体管理更简单

每天了解几个MCP SERVER:🖼️ Cloudinary来源: https://github.com/cloudinary/mcp-servers简介 Cloudinary MCP Server 提供云端图片管理和CDN服务,让AI可以进行图片上传、处理和优化。 能做什么 图片上传:上传图片和视频图片处理…...

每天了解几个MCP SERVER:极速分析神器!亿级数据秒级查询,ClickHouse 让大数据分析飞起

每天了解几个MCP SERVER:⚡ ClickHouse来源: https://github.com/ClickHouse/mcp-clickhouse简介 ClickHouse MCP Server 为AI Agent提供ClickHouse列式数据库的查询能力,以极高的性能分析大数据。 能做什么 SQL查询:执行高性能SQL查询实时分…...

刷题笔记:力扣第48题-旋转图像

1.拿到这道题目,第一反应是再创建一个新的矩阵,按照顺时针旋转90的方式遍历原来的矩阵,将旋转后的矩阵存入新矩阵中,输出即可。这种方法的时间复杂度和空间复杂度均为O(n2)。2.但本题不允许使用新的矩阵,这意味着一切修…...

OpenClaw使用教程 + 获取API + 踩坑

新手建议:如果研究不下去,直接用第三方的Oneclaw,字节、阿里、腾讯出品的第三方。 可以等一等,国产有替代。 别焦虑,没用,23年gpt,24年sora,25deepseek和agent,26开年o…...

免费查AI率完全攻略:5种不花钱的检测方法

免费查AI率完全攻略:5种不花钱的检测方法 写完论文之后最怕什么?不是导师让你改格式,而是交上去才发现AI率高得离谱。现在各高校对AI率查得越来越严,知网、维普、万方都上了AIGC检测模块,一旦被标记"疑似AI生成&q…...

免费降AI率软件排行:从白嫖到付费怎么选

免费降AI率软件排行:从白嫖到付费怎么选 写这篇文章的起因是,上个月有三个不同的朋友问了我同一个问题:“有没有免费降AI率的软件?” 一个是大四写毕业论文的,一个是在读研二准备投期刊的,还有一个是帮老板…...

毕业论文免费查AI率+降AI率一站式攻略

毕业论文免费查AI率降AI率一站式攻略 答辩季快到了,论文的事情一件接一件。查重过了还有AI检测,AI检测过了还有格式审查,感觉毕业比入学还难。 这篇文章解决一个具体问题:怎么用免费工具完成论文AI率的检测和修改。从"查出来…...

免费降ai工具实测:哪个免费额度最良心

免费降ai工具实测:哪个免费额度最良心 网上但凡说"免费"两个字的工具,十个里有八个是标题党。要么注册完发现免费额度只有100字,跟没有一样;要么做一堆任务才能解锁,转发三个群、邀请两个好友,折…...

HJ132 小红走网格

中等 通过率:31.75% 时间限制:1秒 空间限制:1024M 知识点数论 校招时部分企业笔试将禁止编程题跳出页面,为提前适应,练习时请使用在线自测,而非本地IDE。 描述 在二维平面坐标系中,小红初…...

2026 学术诚信必备!10 款 AI 论文查重工具盘点:查重 + AI 率双检测,告别毕业 / 投稿焦虑

又到本科毕设、期刊投稿的关键节点,「重复率飘红」「AI 率超标」成了悬在每一位学术人头顶的达摩克利斯之剑。传统查重工具只能检测文字重复,面对 AI 生成内容却束手无策;而专业 AI 检测又价格高昂、操作繁琐。 今天为大家整理了10 款兼顾查…...

在服务器上通过git仓库进行多开发者协同工作

本文旨在解决一个需求:在同一服务器上的若干个开发人员能够在自己的账户下面抓取和更新一个项目文件夹。1.首先是root权限创建git仓库:创建用于共享的裸仓库:git clone --bare 项目文件夹名 项目文件夹名.git创建用户组:sudo grou…...

C语言程序设计第四版(何钦铭、颜晖)第八章指针之拆分实数的整数与小数部分

1. 拆分实数的整数与小数部分:要求自定义一个函数 void splitfloat (float x, int* intpart,float *fracpart);其中x是被拆分的实数,*intpart和*fracpart分别是将实数x拆分出来的整数部分与小数部分。编写主函数,并在其中调用函数splitfloat()。试编写相应程序。#include<st…...

苍穹外卖WebSocket连接问题

在调试过程中发现&#xff0c;当前端应用部署在Nginx下访问localhost时&#xff0c;WebSocket连接无法建立&#xff1b;而直接运行前端项目时则可以正常连接。通过浏览器F12排查问题后&#xff0c;发现是WebSocket的URL路径不同&#xff1a;我们实际需要的地址为ws://localhost…...

c++ 类和对象(全)

本文只是把之前上中下三篇文章集合了起来&#xff0c;后面跟着补充一点示例代码&#xff0c;也只是为了方便大家一下子全部观看。 类和对象&#xff08;上&#xff09; 一.类的定义 1.类定义格式 我们可以先看一个类的例子(栈)&#xff1a; class Stack { private:int* a;in…...

优化Docker镜像下载速度:国内镜像源配置指南

1. 为什么需要配置国内Docker镜像源 第一次用Docker拉取镜像时&#xff0c;看着进度条像蜗牛一样缓慢移动&#xff0c;我盯着屏幕足足等了半小时。后来才发现&#xff0c;默认的Docker Hub服务器在国外&#xff0c;国内直接访问速度感人。这就像你在北京点外卖&#xff0c;却非…...

学生专属福利:如何免费获取JetBrains和Navicat全家桶

1. 学生专属福利&#xff1a;为什么你需要它们&#xff1f; 还在为开发工具的高昂费用发愁吗&#xff1f;作为一个过来人&#xff0c;我太懂学生时代那种“想学技术&#xff0c;却被工具卡住”的窘迫了。一套正版的JetBrains全家桶&#xff08;比如IntelliJ IDEA、PyCharm、Web…...

Markdown写作技巧:LaTeX公式+代码块高亮全攻略

Markdown写作技巧&#xff1a;LaTeX公式代码块高亮全攻略 在技术文档和学术研究的写作中&#xff0c;Markdown因其简洁性和强大功能已成为首选工具。但对于需要表达复杂数学公式或展示多语言代码的专业作者来说&#xff0c;如何充分利用Markdown的高级功能仍是一个挑战。本文将…...

基于PEX88096的PCIe 4.0八盘M.2扩展卡设计

1. 项目概述PCIe 4.0 M.2扩展卡长期面临市场定价畸高问题&#xff0c;主流商用产品普遍标价数千元&#xff0c;严重制约了高性能存储系统在DIY、边缘计算及小型服务器场景中的普及应用。本项目以PEX88048 PCIe 4.0交换芯片为核心&#xff0c;构建一款支持8路独立M.2 NVMe插槽的…...

Python+Selenium实现抖音博主批量监控:300+账号实时更新通知(附完整代码)

PythonSelenium构建高可用抖音博主监控系统&#xff1a;从零到一的实战架构与性能调优 最近在技术社群里&#xff0c;经常看到有朋友在讨论如何批量追踪抖音博主的更新动态。无论是做内容分析、竞品研究&#xff0c;还是个人兴趣追踪&#xff0c;手动刷新几百个主页显然不现实。…...

告别数据孤岛:基于WebDAV的Zotero与InfiniCLOUD跨平台同步实战

1. 为什么需要跨平台文献同步&#xff1f; 作为一名常年泡在实验室的研究生&#xff0c;我经历过无数次这样的崩溃瞬间&#xff1a;在实验室电脑上整理好的文献库&#xff0c;回到宿舍打开笔记本发现参考文献全乱了&#xff1b;出差路上想用平板查篇论文&#xff0c;却发现最新…...

【解刊】IEEE Trans系列新宠:中科院1区TOP期刊,国人作者占比近八成领跑全球!

1. IEEE Transactions on Cybernetics&#xff1a;控制论领域的黄金期刊 最近在学术圈里&#xff0c;IEEE Transactions on Cybernetics&#xff08;IEEE控制论汇刊&#xff09;成了热门话题。这本期刊不仅稳居中科院1区TOP&#xff0c;更让人惊讶的是&#xff0c;中国学者在这…...

社区分享 | 从零开始学习 TinyML(三)

1. TinyML模型部署后的性能优化挑战 当你第一次把训练好的TinyML模型部署到Arduino或Cortex-M系列MCU上时&#xff0c;可能会遇到一些令人头疼的问题。我清楚地记得自己早期的一个项目&#xff0c;模型在PC上测试时运行良好&#xff0c;但移植到开发板上后&#xff0c;推理速度…...

基于Mirage Flow的个性化学习推荐系统构建

基于Mirage Flow的个性化学习推荐系统构建 1. 引言 你有没有过这样的经历&#xff1f;同一个班级&#xff0c;同样的老师&#xff0c;同样的教材&#xff0c;但有的同学学得飞快&#xff0c;有的同学却总是卡在某个知识点上&#xff0c;怎么都绕不过去。传统的在线教育平台&a…...

FPGA选型指南:如何为LED大屏控制器挑选性价比最高的芯片(附Xilinx/Lattice对比)

FPGA选型指南&#xff1a;如何为LED大屏控制器挑选性价比最高的芯片&#xff08;附Xilinx/Lattice对比&#xff09; 当一块巨大的户外广告屏在夜幕下亮起&#xff0c;播放着流畅震撼的视频时&#xff0c;很少有人会想到&#xff0c;驱动这背后数百万乃至上千万像素点精准发光的…...

Win11组播通信故障排查:为什么关闭防火墙后还是收不到组播数据?

Win11组播通信深度排障&#xff1a;当防火墙不再是“罪魁祸首” 最近在调试一个分布式数据采集系统时&#xff0c;遇到了一个颇为典型的网络问题&#xff1a;几台运行Windows 11的工控机之间&#xff0c;组播&#xff08;Multicast&#xff09;通信死活不通。按照最常规的思路&…...

避开Doze模式坑!Android 6.0+保活终极方案:JobScheduler与推送SDK混合使用指南

深入解析Android 6.0应用保活&#xff1a;融合JobScheduler与厂商推送的实战策略 在Android生态中&#xff0c;应用保活一直是个让开发者又爱又恨的话题。爱的是&#xff0c;它能确保即时通讯、后台同步、位置追踪等核心功能稳定运行&#xff1b;恨的是&#xff0c;从Android …...