当前位置： 首页 > news >正文

Kafka介绍及Go操作kafka详解

news 2026/4/1 0:07:52

文章目录

  • Kafka介绍及Go操作kafka详解
    • 项目背景
    • 解决方案
    • 面临的问题
    • 业界方案
      • ELK
      • ELK方案的问题
    • 日志收集系统架构设计
      • 架构设计
      • 组件介绍
      • 将学到的技能
    • 消息队列的通信模型
      • 点对点模式 queue
      • 发布/订阅 topic
    • Kafka
      • 介绍
      • Kafka的架构图
      • 工作流程
      • 选择partition的原则
      • ACK应答机制
      • Topic和数据日志
      • Partition结构
      • 消费数据
      • 使用场景
        • 消息队列（MQ）
        • 追踪网站活动
        • Metrics
        • 日志聚合
    • Kafka安装和启动
      • 下载
      • 安装
      • 修改配置
      • 启动
    • Zookeeper启动
    • LogAgent的工作流程
      • log agent开发
        • 下载安装
    • LogAgent编码
      • 存在的问题
      • 引入依赖
      • 最终版本

Kafka介绍及Go操作kafka详解

项目背景

每个业务系统都有日志，当系统出现问题时，需要通过日志信息来定位和解决问题。当系统机器比较少时，登陆到服务器上查看即可满足当系统机器规模巨大，登陆到机器上查看几乎不现实（分布式的系统，一个系统部署在十几台机器上）

解决方案

把机器上的日志实时收集，统一存储到中心系统。再对这些日志建立索引，通过搜索即可快速找到对应的日志记录。通过提供一个界面友好的web页面实现日志展示与检索。

面临的问题

实时日志量非常大，每天处理几十亿条。日志准实时收集，延迟控制在分钟级别。系统的架构设计能够支持水平扩展。

业界方案

ELK

image-20200906204717091

  • AppServer：跑业务的服务器
  • Logstash Agent：
  • Elastic Search Cluster
  • Kibana Server：数据可视化
  • Browser：浏览器

ELK方案的问题

  • 运维成本高，每增加一个日志收集项，都需要手动修改配置
    • 使用etcd来管理被收集的日志项

相关文章：

Kafka介绍及Go操作kafka详解

文章目录 Kafka介绍及Go操作kafka详解项目背景解决方案面临的问题业界方案ELKELK方案的问题日志收集系统架构设计架构设计组件介绍将学到的技能消息队列的通信模型点对点模式 queue发布/订阅 topicKafka介绍Kafka的架构图工作流程选择partition的原则ACK应答机制Topic和数据日志…...

编程日记 2024/7/24 0:39:19

DAY05 CSS

文章目录 1 CSS选择器(Selectors)8. 后代(包含)选择器9. 直接子代选择器10. 兄弟选择器11. 相邻兄弟选择器12. 属性选择器 2 伪元素3 CSS样式优先级1. 相同选择器不同样式2. 相同选择器相同样式3. 继承现象4. 选择器不同权值的计算 4 CSS中的值和单位1. 颜色表示法2. 尺寸表示法…...

编程日记 2024/7/24 0:38:18

HTTPS 的加密过程 详解

HTTP 由于是明文传输，所以安全上存在以下三个风险： 窃听风险，比如通信链路上可以获取通信内容。篡改风险，比如通信内容被篡改。冒充风险，比如冒充网站。 HTTPS 在 HTTP 与 TCP 层之间加入了 SSL/TLS 协议&#xff0c…...

编程日记 2024/7/24 0:32:12

spring整合mybatis,junit纯注解开发（包括连接druid报错的所有解决方法）

目录 Spring整合mybatis开发步骤 第一步：创建我们的数据表 第二步：编写对应的实体类 第三步：在pom.xml中导入我们所需要的坐标 spring所依赖的坐标 mybatis所依赖的坐标 druid数据源坐标 数据库驱动依赖 第四步：编写SpringC…...

编程日记 2024/7/24 0:31:11

ClusterIP、NodePort、LoadBalancer 和 ExternalName

Service 定义 在 Kubernetes 中，由于Pod 是有生命周期的，如果 Pod 重启它的 IP 可能会发生变化以及升级的时候会重建 Pod，我们需要 Service 服务去动态的关联这些 Pod 的 IP 和端口，从而使我们前端用户访问不受后端变更的干扰。 …...

编程日记 2024/7/24 0:30:10

【Day1415】Bean管理、SpringBoot 原理、总结、Maven 高级

0 SpringBoot 配置优先级 从上到下 虽然 springboot 支持多种格式配置文件，但是在项目开发时，推荐统一使用一种格式的配置 （yml是主流） 1 Bean管理 1.1 从 IOC 容器中获取 Bean 1.2 Bean 作品域 可以通过注解 Scope("proto…...

编程日记 2024/7/24 0:29:09

Git之repo sync -c与repo sync -dc用法区别(四十八)

简介： CSDN博客专家，专注Android/Linux系统，分享多mic语音方案、音视频、编解码等技术，与大家一起成长！ 优质专栏：Audio工程师进阶系列【原创干货持续更新中……】🚀 优质专栏：多媒…...

编程日记 2024/7/24 0:22:02

vite + vue3 + uniapp 项目从零搭建

vite + vue3 + uniapp 项目从零搭建 1、创建项目1.1、创建Vue3/vite版Uniapp项目1.2、安装依赖1.3、运行项目2、弹出 用户隐私保护提示 方法2.1、更新用户隐私保护指引 和 修改配置文件2.2、授权结果处理方法3、修改`App.vue`文件内容4、处理报`[plugin:uni:mp-using-component…...

编程日记 2024/7/24 0:21:02

在CentOS中配置三个节点之间相互SSH免密登陆

在CentOS中配置三个节点（假设分别为node1、node2、node3）两两之间相互SSH免密登陆，可以按照以下步骤进行： 一、生成密钥对 在所有节点上生成密钥对： 在每个节点（node1、node2、node3）上执行以…...

编程日记 2024/7/24 0:20:01

arm 内联汇编基础

一、 Arm架构寄存器体系熟悉 基于arm neon 实现的代码有 intrinsic 和inline assembly 两种实现。 1.1 通用寄存器 arm v7 有 16 个 32-bit 通用寄存器，用 r0-r15 表示。 arm v8 有 31 个 64-bit 通用寄存器，用 x0-x30 表示，和 v7 不一样…...

编程日记 2024/7/24 0:16:58

Java语言程序设计——篇五（1）

数组 概述数组定义实例展示实战演练 二维数组定义数组元素的使用数组初始化器实战演练：矩阵计算 💫不规则二维数组实战演练：杨辉三角形 概述 ⚡️数组是相同数据类型的元素集合。各元素是有先后顺序的，它们在内存中按照这个先后顺…...

编程日记 2024/7/24 0:15:56

【香橙派开发板测试】：在黑科技Orange Pi AIpro部署YOLOv8深度学习纤维分割检测模型

文章目录 🚀🚀🚀前言一、1️⃣ Orange Pi AIpro开发板相关介绍1.1 🎓 核心配置1.2 ✨开发板接口详情图1.3 ⭐️开箱展示 二、2️⃣配置开发板详细教程2.1 🎓 烧录镜像系统2.2 ✨配置网络2.3 ⭐️使用SSH连接主板 三、…...

编程日记 2024/7/24 0:13:55

集成学习在数学建模中的应用

集成学习在数学建模中的应用 一、集成学习概述（一）基知（二）相关术语（三）集成学习为何能提高性能？（四）集成学习方法 二、Bagging方法（一）装袋&…...

编程日记 2024/7/24 0:11:53

WebKit 的 Web SQL 数据库：现代浏览器的本地存储解决方案

WebKit 的 Web SQL 数据库：现代浏览器的本地存储解决方案 随着Web应用的不断发展，对本地存储的需求也日益增加。WebKit作为许多现代浏览器的核心引擎，提供了一种强大的本地存储解决方案：Web SQL 数据库。本文将详细探讨Web SQL 数…...

编程日记 2024/7/24 0:09:51

Yolo-World网络模型结构及原理分析（三）——RepVL-PAN

提示：文章写完后，目录可以自动生成，如何生成可参考右边的帮助文档 文章目录 前言1. 网络结构2. 特征融合3. 文本引导（Text-guided）4. 图像池化注意力（Image-Pooling Attention）5. 区域文本匹配&…...

编程日记 2024/7/24 0:08:49

代码随想录——一和零（Leetcode474）

题目链接 0-1背包 class Solution {public int findMaxForm(String[] strs, int m, int n) {// 本题m，n为背包两个维度// dp[i][j]:最多右i个0和j个1的strs的最大子集大小int[][] dp new int[m 1][n 1];// 遍历strs中字符串for(String str : strs){int num0 …...

编程日记 2024/7/24 0:06:47

力扣题解（组合总和IV）

377. 组合总和 Ⅳ 给你一个由 不同 整数组成的数组 nums ，和一个目标整数 target 。请你从 nums 中找出并返回总和为 target 的元素组合的个数。 题目数据保证答案符合 32 位整数范围。 思路： 本题实质上是给一些数字，让他们在满足和是targ…...

编程日记 2024/7/24 0:05:46

Postgresql主键自增的方法

Postgresql主键自增的方法 一.方法（一） 使用 serial PRIMARY KEY 插入数据 二.方法（二） 🎈边走、边悟🎈迟早会好 一.方法（一） 使用 serial PRIMARY KEY 建表语句如下&#xf…...

编程日记 2024/7/24 0:02:44

【源码阅读】Sony的go breaker熔断器源码探究

文章目录 背景源码分析总结 背景 在微服务时代，服务和服务之间调用、跨部门调用都是很常见的事，但这些调用都存在很多不确定因素，如核心服务A依赖的部门B服务挂掉了，那么A本身的功能将会受到直接的影响，而这些都会影响…...

编程日记 2024/7/24 0:01:43

LeetCode题（66,69,35,88）--《c++》

66.加一 // // Created by wxj05 on 2024/7/20. // //法一 class Solution { public:vector<int> plusOne(vector<int>& digits) {bool carry true; // 进位标志for (int i digits.size() - 1; i > 0 && carry; --i) {digits[i] 1;carry digit…...

编程日记 2024/7/23 23:59:41

payload-dumper-go实战案例：解决Android系统更新提取难题

payload-dumper-go实战案例&#xff1a;解决Android系统更新提取难题 【免费下载链接】payload-dumper-go an android OTA payload dumper written in Go 项目地址: https://gitcode.com/gh_mirrors/pa/payload-dumper-go Android系统更新通常以OTA&#xff08;Over-the…...

编程新知 2026/3/31 23:08:46

Matlab数字图像处理核心项目实践：包含直方图均衡、空间过滤器增强、傅立叶变换与频域滤波、噪...

Matlab数字图像处理 包含以下内容&#xff1a; 项目 1&#xff1a;直方图均衡 项目 2&#xff1a;使用空间过滤器增强图像 项目 3&#xff1a;频域中的傅立叶变换和滤波 项目 4&#xff1a;噪声模型和降噪 项目 5&#xff1a;使用逆滤波器和维纳滤波器进行图像恢复 项目 6&…...

编程新知 2026/3/31 21:45:21

【技术突破】douyin-downloader：重新定义抖音内容采集效率的智能引擎

【技术突破】douyin-downloader&#xff1a;重新定义抖音内容采集效率的智能引擎 【免费下载链接】douyin-downloader A practical Douyin downloader for both single-item and profile batch downloads, with progress display, retries, SQLite deduplication, and browser …...

编程新知 2026/3/31 19:59:33

避开Verilog数据转换的坑：ASCII码转16进制时，大小写处理你真的做对了吗？

Verilog字符转换实战&#xff1a;如何正确处理ASCII与十六进制的大小写问题 在数字系统设计中&#xff0c;数据格式转换是最基础却又最容易出错的环节之一。最近在review团队一位新成员的UART通信模块代码时&#xff0c;发现一个典型的"大小写陷阱"——当十六进制数据…...

编程新知 2026/3/31 19:12:47

minikeyvalue架构解密：为什么它比SeaweedFS更简单高效？

minikeyvalue架构解密&#xff1a;为什么它比SeaweedFS更简单高效&#xff1f; 【免费下载链接】minikeyvalue A distributed key value store in under 1000 lines. Used in production at comma.ai 项目地址: https://gitcode.com/gh_mirrors/mi/minikeyvalue minikey…...

编程新知 2026/3/31 18:46:17

Docker下Kong+Konga全栈部署避坑指南（附PostgreSQL 9.6配置）

Docker环境下Kong与Konga全栈部署实战指南 引言 在现代微服务架构中&#xff0c;API网关扮演着流量调度与安全管控的关键角色。Kong作为开源API网关的标杆产品&#xff0c;凭借其插件化架构和强大性能&#xff0c;已成为企业级API管理的首选方案。而Konga作为Kong的图形化管理…...

编程新知 2026/3/31 18:30:03

手机号查QQ号：解密腾讯通信协议的Python实战工具

手机号查QQ号&#xff1a;解密腾讯通信协议的Python实战工具 【免费下载链接】phone2qq 项目地址: https://gitcode.com/gh_mirrors/ph/phone2qq 你是否曾经遇到过这样的情况&#xff1a;手头有一个手机号&#xff0c;想知道它是否关联了QQ账号&#xff1f;或者作为开发…...

编程新知 2026/3/31 16:36:19

FPGA新手避雷指南：你的第一个呼吸灯项目可能卡在这几个Vivado仿真和引脚分配问题上

FPGA新手避雷指南&#xff1a;从仿真到引脚分配的完整呼吸灯实战 第一次在FPGA上实现呼吸灯效果&#xff0c;本该是充满成就感的时刻。但当你按照教程一步步操作&#xff0c;点击"Generate Bitstream"后&#xff0c;板子上的LED却毫无反应——这种挫败感我太熟悉了。…...

编程新知 2026/3/31 16:26:14

讲透RenderTarget · 第一章：RenderTarget 是什么

**欢迎新朋友点赞、关注、收藏三连。第一章&#xff1a;RenderTarget 是什么一句话概括&#xff1a; RenderTarget 就是 GPU 的"画布"——不一定画在屏幕上&#xff0c;可以画在任何一块显存里。⏱ 30 秒概览RenderTarget&#xff08;RT&#xff09; GPU 可以写入像素…...

编程新知 2026/3/31 15:47:30

AI驱动3D骨骼绑定：从3天到3分钟的自动化革命

AI驱动3D骨骼绑定&#xff1a;从3天到3分钟的自动化革命 【免费下载链接】UniRig One Model to Rig Them All: Diverse Skeleton Rigging with UniRig 项目地址: https://gitcode.com/gh_mirrors/un/UniRig 3D骨骼绑定是动画制作流程中的关键环节&#xff0c;传统手工绑…...

编程新知 2026/3/31 14:42:07