当前位置： 首页 > news >正文

ELK日志框架图总结

news 2025/11/1 1:44:15

ELK日志框架图总结

本文目录

    • ELK日志框架图总结
      • Elastic Stack介绍
      • 模式
        • 分层图
        • beats+elasticsearch+kibana模式
        • logstash+elasticsearch+kibana模式
        • beats+logstash+elasticsearch+kibana模式
        • beats+缓存/消息队列+logstash+elasticsearch+kibana模式
        • elk+springboot

Elastic Stack介绍

官网：https://www.elastic.co/cn/

ELK：日志采集，管理和分析

Elasticsearch + Kibana + Logstash

  • Elasticsearch：开源分布式搜索引擎，存储LogStash收集到的信息，进行分词搜索
  • Logstash：服务器端数据处理管道，负责日志搜集和过滤
  • Kibana：开源分析和可视化平台
  • FileBeat：转发和集中日志数据的轻量级传送工具

ELK实现的日志采集的核心是，通过 logstash 将应用系统的日志通过 input 收集，然后通过内部整理，通过 output 输出到 Elasticsearch 中，其实就是建立了一个 index，然后 kibana 作为可视化平台，将 ES 的index 进行输出到平台，通过图表的方式进行展示

版本对照：https://www.elastic.co/cn/support/matrix/#matrix_compatibility
下载地址：https://www.elastic.co/cn/downloads

Elasticsearch学习笔记：https://blog.csdn.net/u011863024/article/details/115721328
整体介绍：https://www.elastic.co/guide/en/welcome-to-elastic/current/stack-components.html

模式

分层图

beats+elasticsearch+kibana模式

logstash+elasticsearch+kibana模式

beats+logstash+elasticsearch+kibana模式

beats+缓存/消息队列+logstash+elasticsearch+kibana模式

buffering：避免收集过快导致后边的应用支撑不了

elk+springboot

相关文章：

ELK日志框架图总结

ELK日志框架图总结 本文目录 ELK日志框架图总结Elastic Stack介绍模式分层图beatselasticsearchkibana模式logstashelasticsearchkibana模式beatslogstashelasticsearchkibana模式beats缓存/消息队列logstashelasticsearchkibana模式elkspringboot Elastic Stack介绍 官网&…...

编程日记 2023/9/12 2:44:23

go 每天定时任务 --chatGPT

问：clearLog(hour，cmds),定时执行shell 命令，hour 为每天的几点，cmds 为linux命令数组字符串（如 1，{"ls","cd"}） gpt: 要编写一个 Go 函数 clearLog，该函数可…...

编程日记 2023/9/12 2:43:21

Lightdb 23.3 plorasql函数支持DML

开篇立意 oracle在函数中使用dml语句时，有两者情况。即：（1）直接使用select调用该函数；（2）在匿名块中调用该函数。 针对第一种情况我们测试一下 简单的函数： create table nested_t…...

编程日记 2023/9/12 2:42:19

电容笔值不值得买？开学季比较好用的电容笔

眼看着新学期即将到来，到底应该选择什么样的电容笔？一款原装的苹果Pencil，就卖到了将近一千块，这对于很多人来说，都是一个十分昂贵的价格。事实上，由于平替电容笔的价格非常便宜，只要一二百元就…...

编程日记 2023/9/12 2:41:18

Mybatis 框架 ( 五 ) 分页

4.6.分页 Mybatis-plus 内置分页插件, 并支持多种数据库 官网 : 分页插件 | MyBatis-Plus (baomidou.com) 4.6.1.增加拦截器 通过 MapperScan 指定 mapper接口的路径 import com.baomidou.mybatisplus.annotation.DbType; import com.baomidou.mybatisplus.extension.plug…...

编程日记 2023/9/12 2:40:17

Python模板注入

概念 发生在使用模板引擎解析用户提供的输入时。模板注入漏洞可能导致攻击者能够执行恶意代码或访问未授权的数据。 模板引擎可以让（网站）程序实现界面与数据分离，业务代码与逻辑代码分离。即也拓宽了攻击面，注入到模板中的代码可…...

编程日记 2023/9/12 2:39:16

Java常用的设计模式

单例模式（Singleton Pattern）: 确保一个类只有一个实例，并提供一个全局访问点。示例：应用程序中的配置管理器。 工厂模式（Factory Pattern）: 用于创建对象的模式，封装对象的创建过程。示例&…...

编程日记 2023/9/12 2:38:15

攻防世界-WEB-Web_php_include

打开靶机 通过代码审计可以知道，存在文件包含漏洞，并且对伪协议php://进行了过滤。 发现根目录下存在phpinfo 观察phpinfo发现如下： 这两个都为on 所以我们就可以使用data://伪协议 payload如下： - ?pagedata://text/plain,…...

编程日记 2023/9/12 2:37:13

angular中多层嵌套结构的表单如何处理回显问题

最近在处理angular表单时，有一个4层结构的表单。而且很多元素时动态生成，如下： this.validateFormthis.fb.group({storeId: ["test12"],storeNameKey:[],config:this.fb.group({ tableSize:this.fb.group({toggle:[false],groupSiz…...

编程日记 2023/9/12 2:36:12

Leetcode646. 最长数对链

Every day a Leetcode 题目来源：646. 最长数对链 解法1：动态规划 定义 dp[i] 为以 pairs[i] 为结尾的最长数对链的长度。 初始化时，dp 数组需要全部赋值为 1。 计算 dp[i] 时，可以先找出所有的满足 pairs[i][0]>pairs[j]…...

编程日记 2023/9/12 2:35:09

Windows 下安装NPM

第一步: 下载node.js的windows版 当前最新版本是https://nodejs.org/dist/ 第二步:设置环境变量 把node.exe所在目录加入到PATH环境变量中。 配置成功后可以在CMD中通过node --version 看到node.js对应的版本号 C:\Users\fn>node --version v6.10.2 第三步: 安装git 直接…...

编程日记 2023/9/12 2:34:08

【ARM CoreLink 系列 2 -- CCI-400 控制器简介】

文章目录 CCI-400 介绍DVM 机制介绍DVM 消息传输过程TOKEN 机制介绍 下篇文章：ARM CoreLink 系列 3 – CCI-550 控制器介绍 CCI-400 介绍 CCI（Cache Coherent Interconnect）是ARM 中 的Cache一致性控制器。 CCI-400 将 Interconnect 和coh…...

编程日记 2023/9/12 2:33:07

LeetCode(力扣)77. 组合Python

LeetCode77. 组合 题目链接代码 题目链接 https://leetcode.cn/problems/combinations/description/ 代码 class Solution:def combine(self, n: int, k: int) -> List[List[int]]:result []return self.backtracking(n, k, 1, [], result)def backtracking(self, n, k…...

编程日记 2023/9/12 2:32:06

uniapp h5 微信缓存，解决版本更新还是旧版本

文章目录 一、微信缓存是什么？二、如何解决1.打包入口文件解决2.给请求url加时间戳3.给打包的js文件添加时间戳并修改打包后的css文件夹 总结 一、微信缓存是什么？ 微信缓存是指微信客户端为了提高用户的使用体验，会在用户使用微信过程中将一…...

编程日记 2023/9/12 2:31:05

Nacos——Distro一致性协议

Nacos——Distro一致性协议 1. 理论 一致性一直都是分布式系统中绕不开的话题。根据CAP中，要么CP(保证强一致性牺牲可用性)，要么AP(最终一致性来保证可用性)，在市面上也有几种一致性算法，像Paxos，Raft，Zoo…...

编程日记 2023/9/12 2:30:04

大模型参数高效微调PEFT的理解和应用

简介 近年的大型语言模型（也被称作基础模型），大多是采用大量资料数据和庞大模型参数训练的结果，比如常见的ChatGPT3有175B的模型参数量。随着Large Language Model(LLM)的横空出世，网络模型对常见问题的解答有了很强的…...

编程日记 2023/9/12 2:29:03

工作游戏时mfc140u.dll丢失的解决方法，哪个方法可快速修复mfc140u.dll问题

在 Windows 操作系统中，mfc140u.dll 文件是非常重要的一个组件，许多基于 MFC（Microsoft Foundation Classes）的程序都需要依赖这个文件。然而，有些用户在运行这些程序时可能会遇到mfc140u.dll丢失的问题，导…...

编程日记 2023/9/12 2:28:02

选择排序——直接选择排序

直接选择排序：（以重复选择的思想为基础进行排序） 1、简述 顾名思义就是选出一个数，再去抉择放哪里去。 设记录R1，R2…，Rn，对i1，2，…，n-1，重复下…...

编程日记 2023/9/12 2:27:01

【C++基础】观察者模式（“发布-订阅”模式）

本文参考：观察者模式 - 摩根斯 | 爱编程的大丙 观察者模式允许我们定义一种订阅机制，可在对象事件发生时通知所有的观察者对象，使它们能够自动更新。观察者模式还有另外一个名字叫做“发布-订阅”模式。 发布者： 添加订阅者&…...

编程日记 2023/9/12 2:25:59

从业多年，我总结出软件测试工程师必须掌握的技能，你不可错过！

经常会有小伙伴询问：“测试工程师有哪些必须要掌握的技能？”这是一个非常大的课题，因为每个人从事的行业不同、岗位不同，需要掌握的技能自然也不一样。 今天小编就从不同岗位、不同行业两个大方面，来讲讲软件测试工程师…...

编程日记 2023/9/12 2:24:58

7.4.分块查找

一.分块查找的算法思想： 1.实例： 以上述图片的顺序表为例， 该顺序表的数据元素从整体来看是乱序的，但如果把这些数据元素分成一块一块的小区间， 第一个区间[0,1]索引上的数据元素都是小于等于10的， 第二…...

编程新知 2025/10/31 14:49:35

SkyWalking 10.2.0 SWCK 配置过程

SkyWalking 10.2.0 & SWCK 配置过程 skywalking oap-server & ui 使用Docker安装在K8S集群以外，K8S集群中的微服务使用initContainer按命名空间将skywalking-java-agent注入到业务容器中。 SWCK有整套的解决方案，全安装在K8S群集中。 具体可参…...

编程新知 2025/8/23 5:51:08

反向工程与模型迁移：打造未来商品详情API的可持续创新体系

在电商行业蓬勃发展的当下，商品详情API作为连接电商平台与开发者、商家及用户的关键纽带，其重要性日益凸显。传统商品详情API主要聚焦于商品基本信息（如名称、价格、库存等）的获取与展示，已难以满足市场对个性化、智能…...

编程新知 2025/9/15 5:56:53

【Zephyr 系列 10】实战项目：打造一个蓝牙传感器终端 + 网关系统（完整架构与全栈实现）

🧠关键词：Zephyr、BLE、终端、网关、广播、连接、传感器、数据采集、低功耗、系统集成 📌目标读者：希望基于 Zephyr 构建 BLE 系统架构、实现终端与网关协作、具备产品交付能力的开发者 📊篇幅字数：约 5200 字 ✨ 项目总览 在物联网实际项目中，**“终端 + 网关”**是…...

编程新知 2025/10/27 21:51:36

ip子接口配置及删除

配置永久生效的子接口，2个IP 都可以登录你这一台服务器。重启不失效。 永久的 [应用] vi /etc/sysconfig/network-scripts/ifcfg-eth0修改文件内内容 TYPE"Ethernet" BOOTPROTO"none" NAME"eth0" DEVICE"eth0" ONBOOT&q…...

编程新知 2025/10/26 5:04:25

高效线程安全的单例模式：Python 中的懒加载与自定义初始化参数

高效线程安全的单例模式：Python 中的懒加载与自定义初始化参数 在软件开发中，单例模式（Singleton Pattern）是一种常见的设计模式，确保一个类仅有一个实例，并提供一个全局访问点。在多线程环境下，实现单例模式时需要注意线程安全问题，以防止多个线程同时创建实例，导致…...

编程新知 2025/9/20 21:58:29

Ubuntu Cursor升级成v1.0

0. 当前版本低 使用当前 Cursor v0.50时 GitHub Copilot Chat 打不开，快捷键也不好用，当看到 Cursor 升级后，还是蛮高兴的 1. 下载 Cursor 下载地址：https://www.cursor.com/cn/downloads 点击下载 Linux (x64) ，…...

编程新知 2025/10/22 8:07:13

springboot 日志类切面，接口成功记录日志，失败不记录

springboot 日志类切面，接口成功记录日志，失败不记录 自定义一个注解方法 import java.lang.annotation.ElementType; import java.lang.annotation.Retention; import java.lang.annotation.RetentionPolicy; import java.lang.annotation.Target;/***…...

编程新知 2025/10/24 8:42:46

云原生周刊：k0s 成为 CNCF 沙箱项目

开源项目推荐 HAMi HAMi（原名 k8s‑vGPU‑scheduler）是一款 CNCF Sandbox 级别的开源 K8s 中间件，通过虚拟化 GPU/NPU 等异构设备并支持内存、计算核心时间片隔离及共享调度，为容器提供统一接口，实现细粒度资源配额…...

编程新知 2025/8/4 12:28:02

智能职业发展系统：AI驱动的职业规划平台技术解析

智能职业发展系统：AI驱动的职业规划平台技术解析 引言：数字时代的职业革命 在当今瞬息万变的就业市场中，传统的职业规划方法已无法满足个人和企业的需求。据统计，全球每年有超过2亿人面临职业转型困境，而企业也因此遭…...

编程新知 2025/9/26 10:15:18