当前位置： 首页 > news >正文

ELK日志框架图总结

news 2025/9/14 17:31:12

ELK日志框架图总结

本文目录

    • ELK日志框架图总结
      • Elastic Stack介绍
      • 模式
        • 分层图
        • beats+elasticsearch+kibana模式
        • logstash+elasticsearch+kibana模式
        • beats+logstash+elasticsearch+kibana模式
        • beats+缓存/消息队列+logstash+elasticsearch+kibana模式
        • elk+springboot

Elastic Stack介绍

官网：https://www.elastic.co/cn/

ELK：日志采集，管理和分析

Elasticsearch + Kibana + Logstash

  • Elasticsearch：开源分布式搜索引擎，存储LogStash收集到的信息，进行分词搜索
  • Logstash：服务器端数据处理管道，负责日志搜集和过滤
  • Kibana：开源分析和可视化平台
  • FileBeat：转发和集中日志数据的轻量级传送工具

ELK实现的日志采集的核心是，通过 logstash 将应用系统的日志通过 input 收集，然后通过内部整理，通过 output 输出到 Elasticsearch 中，其实就是建立了一个 index，然后 kibana 作为可视化平台，将 ES 的index 进行输出到平台，通过图表的方式进行展示

版本对照：https://www.elastic.co/cn/support/matrix/#matrix_compatibility
下载地址：https://www.elastic.co/cn/downloads

Elasticsearch学习笔记：https://blog.csdn.net/u011863024/article/details/115721328
整体介绍：https://www.elastic.co/guide/en/welcome-to-elastic/current/stack-components.html

模式

分层图

beats+elasticsearch+kibana模式

logstash+elasticsearch+kibana模式

beats+logstash+elasticsearch+kibana模式

beats+缓存/消息队列+logstash+elasticsearch+kibana模式

buffering：避免收集过快导致后边的应用支撑不了

elk+springboot

相关文章：

ELK日志框架图总结

ELK日志框架图总结 本文目录 ELK日志框架图总结Elastic Stack介绍模式分层图beatselasticsearchkibana模式logstashelasticsearchkibana模式beatslogstashelasticsearchkibana模式beats缓存/消息队列logstashelasticsearchkibana模式elkspringboot Elastic Stack介绍 官网&…...

编程日记 2023/9/12 2:44:23

go 每天定时任务 --chatGPT

问：clearLog(hour，cmds),定时执行shell 命令，hour 为每天的几点，cmds 为linux命令数组字符串（如 1，{"ls","cd"}） gpt: 要编写一个 Go 函数 clearLog，该函数可…...

编程日记 2023/9/12 2:43:21

Lightdb 23.3 plorasql函数支持DML

开篇立意 oracle在函数中使用dml语句时，有两者情况。即：（1）直接使用select调用该函数；（2）在匿名块中调用该函数。 针对第一种情况我们测试一下 简单的函数： create table nested_t…...

编程日记 2023/9/12 2:42:19

电容笔值不值得买？开学季比较好用的电容笔

眼看着新学期即将到来，到底应该选择什么样的电容笔？一款原装的苹果Pencil，就卖到了将近一千块，这对于很多人来说，都是一个十分昂贵的价格。事实上，由于平替电容笔的价格非常便宜，只要一二百元就…...

编程日记 2023/9/12 2:41:18

Mybatis 框架 ( 五 ) 分页

4.6.分页 Mybatis-plus 内置分页插件, 并支持多种数据库 官网 : 分页插件 | MyBatis-Plus (baomidou.com) 4.6.1.增加拦截器 通过 MapperScan 指定 mapper接口的路径 import com.baomidou.mybatisplus.annotation.DbType; import com.baomidou.mybatisplus.extension.plug…...

编程日记 2023/9/12 2:40:17

Python模板注入

概念 发生在使用模板引擎解析用户提供的输入时。模板注入漏洞可能导致攻击者能够执行恶意代码或访问未授权的数据。 模板引擎可以让（网站）程序实现界面与数据分离，业务代码与逻辑代码分离。即也拓宽了攻击面，注入到模板中的代码可…...

编程日记 2023/9/12 2:39:16

Java常用的设计模式

单例模式（Singleton Pattern）: 确保一个类只有一个实例，并提供一个全局访问点。示例：应用程序中的配置管理器。 工厂模式（Factory Pattern）: 用于创建对象的模式，封装对象的创建过程。示例&…...

编程日记 2023/9/12 2:38:15

攻防世界-WEB-Web_php_include

打开靶机 通过代码审计可以知道，存在文件包含漏洞，并且对伪协议php://进行了过滤。 发现根目录下存在phpinfo 观察phpinfo发现如下： 这两个都为on 所以我们就可以使用data://伪协议 payload如下： - ?pagedata://text/plain,…...

编程日记 2023/9/12 2:37:13

angular中多层嵌套结构的表单如何处理回显问题

最近在处理angular表单时，有一个4层结构的表单。而且很多元素时动态生成，如下： this.validateFormthis.fb.group({storeId: ["test12"],storeNameKey:[],config:this.fb.group({ tableSize:this.fb.group({toggle:[false],groupSiz…...

编程日记 2023/9/12 2:36:12

Leetcode646. 最长数对链

Every day a Leetcode 题目来源：646. 最长数对链 解法1：动态规划 定义 dp[i] 为以 pairs[i] 为结尾的最长数对链的长度。 初始化时，dp 数组需要全部赋值为 1。 计算 dp[i] 时，可以先找出所有的满足 pairs[i][0]>pairs[j]…...

编程日记 2023/9/12 2:35:09

Windows 下安装NPM

第一步: 下载node.js的windows版 当前最新版本是https://nodejs.org/dist/ 第二步:设置环境变量 把node.exe所在目录加入到PATH环境变量中。 配置成功后可以在CMD中通过node --version 看到node.js对应的版本号 C:\Users\fn>node --version v6.10.2 第三步: 安装git 直接…...

编程日记 2023/9/12 2:34:08

【ARM CoreLink 系列 2 -- CCI-400 控制器简介】

文章目录 CCI-400 介绍DVM 机制介绍DVM 消息传输过程TOKEN 机制介绍 下篇文章：ARM CoreLink 系列 3 – CCI-550 控制器介绍 CCI-400 介绍 CCI（Cache Coherent Interconnect）是ARM 中 的Cache一致性控制器。 CCI-400 将 Interconnect 和coh…...

编程日记 2023/9/12 2:33:07

LeetCode(力扣)77. 组合Python

LeetCode77. 组合 题目链接代码 题目链接 https://leetcode.cn/problems/combinations/description/ 代码 class Solution:def combine(self, n: int, k: int) -> List[List[int]]:result []return self.backtracking(n, k, 1, [], result)def backtracking(self, n, k…...

编程日记 2023/9/12 2:32:06

uniapp h5 微信缓存，解决版本更新还是旧版本

文章目录 一、微信缓存是什么？二、如何解决1.打包入口文件解决2.给请求url加时间戳3.给打包的js文件添加时间戳并修改打包后的css文件夹 总结 一、微信缓存是什么？ 微信缓存是指微信客户端为了提高用户的使用体验，会在用户使用微信过程中将一…...

编程日记 2023/9/12 2:31:05

Nacos——Distro一致性协议

Nacos——Distro一致性协议 1. 理论 一致性一直都是分布式系统中绕不开的话题。根据CAP中，要么CP(保证强一致性牺牲可用性)，要么AP(最终一致性来保证可用性)，在市面上也有几种一致性算法，像Paxos，Raft，Zoo…...

编程日记 2023/9/12 2:30:04

大模型参数高效微调PEFT的理解和应用

简介 近年的大型语言模型（也被称作基础模型），大多是采用大量资料数据和庞大模型参数训练的结果，比如常见的ChatGPT3有175B的模型参数量。随着Large Language Model(LLM)的横空出世，网络模型对常见问题的解答有了很强的…...

编程日记 2023/9/12 2:29:03

工作游戏时mfc140u.dll丢失的解决方法，哪个方法可快速修复mfc140u.dll问题

在 Windows 操作系统中，mfc140u.dll 文件是非常重要的一个组件，许多基于 MFC（Microsoft Foundation Classes）的程序都需要依赖这个文件。然而，有些用户在运行这些程序时可能会遇到mfc140u.dll丢失的问题，导…...

编程日记 2023/9/12 2:28:02

选择排序——直接选择排序

直接选择排序：（以重复选择的思想为基础进行排序） 1、简述 顾名思义就是选出一个数，再去抉择放哪里去。 设记录R1，R2…，Rn，对i1，2，…，n-1，重复下…...

编程日记 2023/9/12 2:27:01

【C++基础】观察者模式（“发布-订阅”模式）

本文参考：观察者模式 - 摩根斯 | 爱编程的大丙 观察者模式允许我们定义一种订阅机制，可在对象事件发生时通知所有的观察者对象，使它们能够自动更新。观察者模式还有另外一个名字叫做“发布-订阅”模式。 发布者： 添加订阅者&…...

编程日记 2023/9/12 2:25:59

从业多年，我总结出软件测试工程师必须掌握的技能，你不可错过！

经常会有小伙伴询问：“测试工程师有哪些必须要掌握的技能？”这是一个非常大的课题，因为每个人从事的行业不同、岗位不同，需要掌握的技能自然也不一样。 今天小编就从不同岗位、不同行业两个大方面，来讲讲软件测试工程师…...

编程日记 2023/9/12 2:24:58

铭豹扩展坞 USB转网口 突然无法识别解决方法

当 USB 转网口扩展坞在一台笔记本上无法识别，但在其他电脑上正常工作时，问题通常出在笔记本自身或其与扩展坞的兼容性上。以下是系统化的定位思路和排查步骤，帮助你快速找到故障原因： 背景： 一个M-pard（铭豹）扩展坞的网卡突然无法识别了，扩展出来的三个USB接口正常。…...

编程新知 2025/9/13 15:21:48

RocketMQ延迟消息机制

两种延迟消息 RocketMQ中提供了两种延迟消息机制 指定固定的延迟级别 通过在Message中设定一个MessageDelayLevel参数，对应18个预设的延迟级别指定时间点的延迟级别 通过在Message中设定一个DeliverTimeMS指定一个Long类型表示的具体时间点。到了时间点后&#xf…...

编程新知 2025/9/12 22:07:59

【入坑系列】TiDB 强制索引在不同库下不生效问题

文章目录 背景SQL 优化情况线上SQL运行情况分析怀疑1：执行计划绑定问题？尝试：SHOW WARNINGS 查看警告探索 TiDB 的 USE_INDEX 写法Hint 不生效问题排查解决参考背景 项目中使用 TiDB 数据库，并对 SQL 进行优化了，添加了强制索引。 UAT 环境已经生效，但 PROD 环境强制索…...

编程新知 2025/9/13 17:43:37

循环冗余码校验CRC码 算法步骤+详细实例计算

通信过程：（白话解释） 我们将原始待发送的消息称为 M M M，依据发送接收消息双方约定的生成多项式 G ( x ) G(x) G(x)（意思就是 G （ x ) G（x) G（x) 是已知的）&#xff0…...

编程新知 2025/9/6 15:42:34

CMake 从 GitHub 下载第三方库并使用

有时我们希望直接使用 GitHub 上的开源库，而不想手动下载、编译和安装。 可以利用 CMake 提供的 FetchContent 模块来实现自动下载、构建和链接第三方库。 FetchContent 命令官方文档✅ 示例代码 我们将以 fmt 这个流行的格式化库为例，演示如何： 使用 FetchContent 从 GitH…...

编程新知 2025/9/2 19:31:47

深入解析C++中的extern关键字：跨文件共享变量与函数的终极指南

🚀 C extern 关键字深度解析：跨文件编程的终极指南 📅 更新时间：2025年6月5日 🏷️ 标签：C | extern关键字 | 多文件编程 | 链接与声明 | 现代C 文章目录 前言🔥一、extern 是什么？&…...

编程新知 2025/9/10 21:40:39

Go 并发编程基础：通道（Channel）的使用

在 Go 中，Channel 是 Goroutine 之间通信的核心机制。它提供了一个线程安全的通信方式，用于在多个 Goroutine 之间传递数据，从而实现高效的并发编程。 本章将介绍 Channel 的基本概念、用法、缓冲、关闭机制以及 select 的使用。 一、Channel…...

编程新知 2025/8/28 22:40:10

CRMEB 中 PHP 短信扩展开发：涵盖一号通、阿里云、腾讯云、创蓝

目前已有一号通短信、阿里云短信、腾讯云短信扩展 扩展入口文件 文件目录 crmeb\services\sms\Sms.php 默认驱动类型为：一号通 namespace crmeb\services\sms;use crmeb\basic\BaseManager; use crmeb\services\AccessTokenServeService; use crmeb\services\sms\…...

编程新知 2025/9/12 22:08:06

C#学习第29天：表达式树（Expression Trees）

目录 什么是表达式树？ 核心概念 1.表达式树的构建 2. 表达式树与Lambda表达式 3.解析和访问表达式树 4.动态条件查询 表达式树的优势 1.动态构建查询 2.LINQ 提供程序支持： 3.性能优化 4.元数据处理 5.代码转换和重写 适用场景 代码复杂性…...

编程新知 2025/7/21 4:21:36

【MATLAB代码】基于最大相关熵准则（MCC）的三维鲁棒卡尔曼滤波算法（MCC-KF），附源代码|订阅专栏后可直接查看

文章所述的代码实现了基于最大相关熵准则（MCC）的三维鲁棒卡尔曼滤波算法（MCC-KF），针对传感器观测数据中存在的脉冲型异常噪声问题，通过非线性加权机制提升滤波器的抗干扰能力。代码通过对比传统KF与MCC-KF在含异常值场景下的表现，验证了后者在状态估计鲁棒性方面的显著优…...

编程新知 2025/9/9 22:21:42