当前位置：首页 > news >正文

Kafka介绍及Go操作kafka详解

news 2025/12/20 12:53:15

文章目录

Kafka介绍及Go操作kafka详解
- 项目背景
- 解决方案
- 面临的问题
- 业界方案
- - ELK
  - ELK方案的问题
- 日志收集系统架构设计
- - 架构设计
  - 组件介绍
  - 将学到的技能
- 消息队列的通信模型
- - 点对点模式 queue
  - 发布/订阅 topic
- Kafka
- - 介绍
  - Kafka的架构图
  - 工作流程
  - 选择partition的原则
  - ACK应答机制
  - Topic和数据日志
  - Partition结构
  - 消费数据
  - 使用场景
  - - 消息队列（MQ）
    - 追踪网站活动
    - Metrics
    - 日志聚合
- Kafka安装和启动
- - 下载
  - 安装
  - 修改配置
  - 启动
- Zookeeper启动
- LogAgent的工作流程
- - log agent开发
  - - 下载安装
- LogAgent编码
- - 存在的问题
  - 引入依赖
  - 最终版本

Kafka介绍及Go操作kafka详解

项目背景

每个业务系统都有日志，当系统出现问题时，需要通过日志信息来定位和解决问题。当系统机器比较少时，登陆到服务器上查看即可满足当系统机器规模巨大，登陆到机器上查看几乎不现实（分布式的系统，一个系统部署在十几台机器上）

解决方案

把机器上的日志实时收集，统一存储到中心系统。再对这些日志建立索引，通过搜索即可快速找到对应的日志记录。通过提供一个界面友好的web页面实现日志展示与检索。

面临的问题

实时日志量非常大，每天处理几十亿条。日志准实时收集，延迟控制在分钟级别。系统的架构设计能够支持水平扩展。

业界方案

ELK

AppServer：跑业务的服务器
Logstash Agent：
Elastic Search Cluster
Kibana Server：数据可视化
Browser：浏览器

ELK方案的问题

运维成本高，每增加一个日志收集项，都需要手动修改配置
- 使用etcd来管理被收集的日志项

Kafka介绍及Go操作kafka详解

文章目录 Kafka介绍及Go操作kafka详解项目背景解决方案面临的问题业界方案ELKELK方案的问题日志收集系统架构设计架构设计组件介绍将学到的技能消息队列的通信模型点对点模式 queue发布/订阅 topicKafka介绍Kafka的架构图工作流程选择partition的原则ACK应答机制Topic和数据日志…...

编程日记 2024/7/24 0:39:19

DAY05 CSS

文章目录 1 CSS选择器(Selectors)8. 后代(包含)选择器9. 直接子代选择器10. 兄弟选择器11. 相邻兄弟选择器12. 属性选择器 2 伪元素3 CSS样式优先级1. 相同选择器不同样式2. 相同选择器相同样式3. 继承现象4. 选择器不同权值的计算 4 CSS中的值和单位1. 颜色表示法2. 尺寸表示法…...

编程日记 2024/7/24 0:38:18

HTTPS 的加密过程详解

HTTP 由于是明文传输，所以安全上存在以下三个风险： 窃听风险，比如通信链路上可以获取通信内容。篡改风险，比如通信内容被篡改。冒充风险，比如冒充网站。 HTTPS 在 HTTP 与 TCP 层之间加入了 SSL/TLS 协议&#xff0c…...

编程日记 2024/7/24 0:32:12

spring整合mybatis,junit纯注解开发（包括连接druid报错的所有解决方法）

目录 Spring整合mybatis开发步骤第一步：创建我们的数据表第二步：编写对应的实体类第三步：在pom.xml中导入我们所需要的坐标 spring所依赖的坐标 mybatis所依赖的坐标 druid数据源坐标数据库驱动依赖第四步：编写SpringC…...

编程日记 2024/7/24 0:31:11

ClusterIP、NodePort、LoadBalancer 和 ExternalName

Service 定义在 Kubernetes 中，由于Pod 是有生命周期的，如果 Pod 重启它的 IP 可能会发生变化以及升级的时候会重建 Pod，我们需要 Service 服务去动态的关联这些 Pod 的 IP 和端口，从而使我们前端用户访问不受后端变更的干扰。 …...

编程日记 2024/7/24 0:30:10

【Day1415】Bean管理、SpringBoot 原理、总结、Maven 高级

0 SpringBoot 配置优先级从上到下虽然 springboot 支持多种格式配置文件，但是在项目开发时，推荐统一使用一种格式的配置 （yml是主流） 1 Bean管理 1.1 从 IOC 容器中获取 Bean 1.2 Bean 作品域可以通过注解 Scope("proto…...

编程日记 2024/7/24 0:29:09

Git之repo sync -c与repo sync -dc用法区别(四十八)

简介： CSDN博客专家，专注Android/Linux系统，分享多mic语音方案、音视频、编解码等技术，与大家一起成长！ 优质专栏：Audio工程师进阶系列【原创干货持续更新中……】🚀 优质专栏：多媒…...

编程日记 2024/7/24 0:22:02

vite + vue3 + uniapp 项目从零搭建

vite + vue3 + uniapp 项目从零搭建 1、创建项目1.1、创建Vue3/vite版Uniapp项目1.2、安装依赖1.3、运行项目2、弹出用户隐私保护提示方法2.1、更新用户隐私保护指引和修改配置文件2.2、授权结果处理方法3、修改`App.vue`文件内容4、处理报`[plugin:uni:mp-using-component…...

编程日记 2024/7/24 0:21:02

在CentOS中配置三个节点之间相互SSH免密登陆

在CentOS中配置三个节点（假设分别为node1、node2、node3）两两之间相互SSH免密登陆，可以按照以下步骤进行： 一、生成密钥对在所有节点上生成密钥对： 在每个节点（node1、node2、node3）上执行以…...

编程日记 2024/7/24 0:20:01

arm 内联汇编基础

一、 Arm架构寄存器体系熟悉基于arm neon 实现的代码有 intrinsic 和inline assembly 两种实现。 1.1 通用寄存器 arm v7 有 16 个 32-bit 通用寄存器，用 r0-r15 表示。 arm v8 有 31 个 64-bit 通用寄存器，用 x0-x30 表示，和 v7 不一样…...

编程日记 2024/7/24 0:16:58

Java语言程序设计——篇五（1）

数组概述数组定义实例展示实战演练二维数组定义数组元素的使用数组初始化器实战演练：矩阵计算 💫不规则二维数组实战演练：杨辉三角形概述 ⚡️数组是相同数据类型的元素集合。各元素是有先后顺序的，它们在内存中按照这个先后顺…...

编程日记 2024/7/24 0:15:56

【香橙派开发板测试】：在黑科技Orange Pi AIpro部署YOLOv8深度学习纤维分割检测模型

文章目录 🚀🚀🚀前言一、1️⃣ Orange Pi AIpro开发板相关介绍1.1 🎓 核心配置1.2 ✨开发板接口详情图1.3 ⭐️开箱展示二、2️⃣配置开发板详细教程2.1 🎓 烧录镜像系统2.2 ✨配置网络2.3 ⭐️使用SSH连接主板三、…...

编程日记 2024/7/24 0:13:55

集成学习在数学建模中的应用

集成学习在数学建模中的应用一、集成学习概述（一）基知（二）相关术语（三）集成学习为何能提高性能？（四）集成学习方法二、Bagging方法（一）装袋&…...

编程日记 2024/7/24 0:11:53

WebKit 的 Web SQL 数据库：现代浏览器的本地存储解决方案

WebKit 的 Web SQL 数据库：现代浏览器的本地存储解决方案随着Web应用的不断发展，对本地存储的需求也日益增加。WebKit作为许多现代浏览器的核心引擎，提供了一种强大的本地存储解决方案：Web SQL 数据库。本文将详细探讨Web SQL 数…...

编程日记 2024/7/24 0:09:51

Yolo-World网络模型结构及原理分析（三）——RepVL-PAN

提示：文章写完后，目录可以自动生成，如何生成可参考右边的帮助文档文章目录前言1. 网络结构2. 特征融合3. 文本引导（Text-guided）4. 图像池化注意力（Image-Pooling Attention）5. 区域文本匹配&…...

编程日记 2024/7/24 0:08:49

题目链接 0-1背包 class Solution {public int findMaxForm(String[] strs, int m, int n) {// 本题m，n为背包两个维度// dp[i][j]:最多右i个0和j个1的strs的最大子集大小int[][] dp new int[m 1][n 1];// 遍历strs中字符串for(String str : strs){int num0 …...

编程日记 2024/7/24 0:06:47

力扣题解（组合总和IV）

377. 组合总和 Ⅳ 给你一个由不同整数组成的数组 nums ，和一个目标整数 target 。请你从 nums 中找出并返回总和为 target 的元素组合的个数。题目数据保证答案符合 32 位整数范围。思路： 本题实质上是给一些数字，让他们在满足和是targ…...

编程日记 2024/7/24 0:05:46

Postgresql主键自增的方法

Postgresql主键自增的方法一.方法（一） 使用 serial PRIMARY KEY 插入数据二.方法（二） 🎈边走、边悟🎈迟早会好一.方法（一） 使用 serial PRIMARY KEY 建表语句如下&#xf…...

编程日记 2024/7/24 0:02:44

【源码阅读】Sony的go breaker熔断器源码探究

文章目录背景源码分析总结背景在微服务时代，服务和服务之间调用、跨部门调用都是很常见的事，但这些调用都存在很多不确定因素，如核心服务A依赖的部门B服务挂掉了，那么A本身的功能将会受到直接的影响，而这些都会影响…...

编程日记 2024/7/24 0:01:43

LeetCode题（66,69,35,88）--《c++》

66.加一 // // Created by wxj05 on 2024/7/20. // //法一 class Solution { public:vector<int> plusOne(vector<int>& digits) {bool carry true; // 进位标志for (int i digits.size() - 1; i > 0 && carry; --i) {digits[i] 1;carry digit…...

编程日记 2024/7/23 23:59:41

Prompt Tuning、P-Tuning、Prefix Tuning的区别

一、Prompt Tuning、P-Tuning、Prefix Tuning的区别 1. Prompt Tuning（提示调优）核心思想：固定预训练模型参数，仅学习额外的连续提示向量（通常是嵌入层的一部分）。实现方式：在输入文本前添加可训练的连续向量（软提示），模型只更新这些提示参数。优势：参数量少（仅提…...

编程新知 2025/12/19 19:53:01