当前位置： 首页 > news >正文

在线分析工具-日志优化

news 文章来源：https://blog.csdn.net/m0_38068812/article/details/135181771 2025/5/5 21:01:44

一、概述
    针对于大日志文件，统计分析出日志文件的相关指标，帮助开发测试人员，优化日志打印。减少存储成本
二、日志分析指标

  • 重复打印日志：统一请求reqId的重复打印日志
  • 打印最多的方法：检测出打印日志最多的方法所在的类
  • 检测出打印最多日志的类
  • 大日志占用：检测一条日志内容长度大于1k的日志，所占用磁盘空间
  • 疑似for循环打印日志：检测循环打印的日志，可优化合并打印
  • 么有重写toString的日志：日志内容无意义，可优化toString方法，打印有用的信息

三、分析手段
1、mushroom分析:
服务生成日志->日志分析服务->扫描日志及其路径信息->保存数据库
                                             ->异步扫描分析任务->选择日志->提交分析任务->分析日志->输出分析报告->存储分析报告
                                             ->存储分析结果和更新任务状态

2、离线分析：
1、用java命令打开Log Analysis 分析工具
2、Input File：所需要分析的本地日志问价
3、Output Directory：输出分析报告的路径
5、Pattern：日志grok格式，跟在线分析格式一样
6、Analyse：执行分析，输出分析报告

相关文章：

在线分析工具-日志优化

一、概述 针对于大日志文件，统计分析出日志文件的相关指标，帮助开发测试人员，优化日志打印。减少存储成本 二、日志分析指标 重复打印日志：统一请求reqId的重复打印日志打印最多的方法：检测出打印日志最多的方法…...

编程日记 2023/12/24 16:25:10

硬核实战！mysql 错误操作整个表全部数据后如何恢复？附解决过程、思路（百万行SQL，通过binlog日志恢复）

mysql 错误操作整个表全部数据后如何恢复？（百万行SQL，通过binlog日志恢复） 事件起因 事情起因：以为某个表里的数据都是系统配置的数据，没有用户数据，一个字段需要覆盖替换为新的url链接&#x…...

编程日记 2023/12/24 16:22:06

【什么是反射机制？为什么反射慢？】

✅ 什么是反射机制？为什么反射慢？ ✅典型解析✅拓展知识仓✅反射常见的应用场景✅反射和Class的关系 ✅典型解析 反射机制指的是程序在运行时能够获取自身的信息。在iava中，只要给定类的名字，那么就可以通过反射机制来获得类的所有…...

编程日记 2023/12/24 16:20:05

PostGreSQL：货币类型

货币类型：money money类型存储固定小数精度的货币数字，小数的精度由数据库的lc_monetary设置决定。windows系统下，该配置项位于/data/postgresql.conf文件中，默认配置如下， lc_monetary Chinese (Simplified)_Chi…...

编程日记 2023/12/24 16:17:02

ESP8266网络相框采用TFT_eSPI库TJpg_Decoder库mixly库UDP库实现图片传送

用ESP8266和TFT_ESPI模块来显示图片数据。具体来说，我们将使用ILI9431显示器作为显示设备，并通过UDP协议将图片数据从发送端传输到ESP8266。最后，我们将解析这些数据并在TFT屏幕上显示出来。在这个过程中，我们将面临一些编程挑战&…...

编程日记 2023/12/24 16:13:59

Go 泛型发展史与基本介绍

Go 泛型发展史与基本介绍 Go 1.18版本增加了对泛型的支持，泛型也是自 Go 语言开源以来所做的最大改变。 文章目录 Go 泛型发展史与基本介绍一、为什么要加入泛型？二、什么是泛型三、泛型的来源四、为什么需要泛型五、Go 泛型设计的简史六、泛型语法6.1 …...

编程日记 2023/12/24 16:12:58

python 解决手机拍的书籍图片发灰的问题

老师给发的作业经常是手机拍的，而不是扫描，背景发灰，如果二次打印就没有看了，象这样： 如果使用photoshop 处理，有些地方还是扣不干净，不如python 做的好，处理后如下： 具体…...

编程日记 2023/12/24 16:05:53

【prompt一】Domain Adaptation via Prompt Learning

1.Motivation 当前的UDA方法通过对齐源和目标特征空间来学习域不变特征。这种对齐是由诸如统计差异最小化或对抗性训练等约束施加的。然而，这些约束可能导致语义特征结构的扭曲和类可辨别性的丧失。 在本文中，引入了一种新的UDA提示学习范式&#xff0…...

编程日记 2023/12/24 16:03:51

视频编辑与制作，添加视频封面的软件

如今，视频已经成为了我们生活中不可或缺的一部分，无论是社交媒体上的短视频，还是电影、电视剧，视频都以其独特的魅力吸引着我们的目光。而在这背后，视频剪辑软件功不可没。今天，我就为大家揭秘一款新一代的…...

编程日记 2023/12/24 15:57:46

Deepin更换仿Mac主题

上一篇博客说了要写一篇deepin系统的美化教程 先看效果图： 准备工作： 1.你自己 嘻嘻嘻 2.能上网的deepin15.11电脑 首先去下载主题 本次需要系统美化3部分：1.图标 2.光标 3.壁纸 开始之前，请先把你的窗口特效打开，…...

编程日记 2023/12/24 15:56:45

【Flink-Kafka-To-ClickHouse】使用 Flink 实现 Kafka 数据写入 ClickHouse

【Flink-Kafka-To-ClickHouse】使用 Flink 实现 Kafka 数据写入 ClickHouse 1）导入相关依赖2）代码实现2.1.resources2.1.1.appconfig.yml2.1.2.log4j.properties2.1.3.log4j2.xml2.1.4.flink_backup_local.yml 2.2.utils2.2.1.DBConn2.2.2.CommonUtils2.…...

编程日记 2023/12/24 15:54:44

浅谈Redis分布式锁(下)

作者简介：大家好，我是smart哥，前中兴通讯、美团架构师，现某互联网公司CTO 联系qq：184480602，加我进群，大家一起学习，一起进步，一起对抗互联网寒冬 自定义Redis分布式锁的…...

编程日记 2023/12/24 15:53:42

Django Rest Framework框架的安装

Django Rest Framework框架的安装 Django Rest Framework框架的安装 1.DRF简介2.安装依赖3.安装使用pip安装添加rest_framework应用 1.DRF简介 Django REST Framework是Web api的工具包。它是在Django框架基础之上，进行了二次开发。 2.安装依赖 链接python安装 …...

编程日记 2023/12/24 15:51:40

深度学习（七）：bert理解之输入形式

传统的预训练方法存在一些问题，如单向语言模型的局限性和无法处理双向上下文的限制。为了解决这些问题，一种新的预训练方法随即被提出，即BERT（Bidirectional Encoder Representations from Transformers）。通过在大规模…...

编程日记 2023/12/24 15:50:39

如何用Excel制作一张能在网上浏览的动态数据报表

前言 如今各类BI产品大行其道，“数据可视化”成为一个热门词汇。相比价格高昂的各种BI软件，用Excel来制作动态报表就更加经济便捷。今天小编就将为大家介绍一下如何使用葡萄城公司的纯前端表格控件——SpreadJS来实现一个Excel动态报表： 实…...

编程日记 2023/12/24 15:49:38

双向数据绑定是什么

一、什么是双向绑定 我们先从单向绑定切入单向绑定非常简单，就是把Model绑定到View，当我们用JavaScript代码更新Model时，View就会自动更新双向绑定就很容易联想到了，在单向绑定的基础上，用户更新了View，Mo…...

编程日记 2023/12/24 15:47:37

鱼眼标定方式

鱼眼作用 人单眼水平视角最大可达156度，垂直方向150度。为了增加可视范围，摄像头可以通过畸变参数扩大视野，一般100度到200度的fov。所以鱼眼是为了看的视野更大，注意在一定分辨率下，fov边缘的像素点稀疏，…...

编程日记 2023/12/24 15:44:34

详解Keras3.0 KerasNLP Models: GPT2 GPT2Tokenizer

1、GPT2Tokenizer 用于将文本数据转换为适合训练和预测的格式，主要功能是将输入的文本进行分词、编码等操作，以便在神经网络中使用 keras_nlp.models.GPT2Tokenizer(vocabulary, merges, **kwargs) 参数说明 vocabulary：一个字典&#x…...

编程日记 2023/12/24 15:42:32

2016年第五届数学建模国际赛小美赛B题直达地铁线路解题全过程文档及程序

2016年第五届数学建模国际赛小美赛 B题 直达地铁线路 原题再现： 在目前的大都市地铁网络中，在两个相距遥远的车站之间运送乘客通常需要很长时间。我们可以建议在两个长途车站之间设置直达班车，以节省长途乘客的时间。   第一部分&#xf…...

编程日记 2023/12/24 15:37:28

三秦通ETC续航改造

前些天开车时ETC每隔2分钟滴滴响一下，重插卡提示电池电压低 2.8V。看来应该是电池不行了。去银行更换ETC应该是需要费用的。还有一种办法是注销掉，然后去别的银行办一个。不过我想自己更换电池试一下。 首先拆下ETC，我使用的办法是开水烫。烧…...

编程日记 2023/12/24 15:34:26

使用Python实现发送Email电子邮件【第19篇—python发邮件】

文章目录 👽使用Python实现发送Email电子邮件🎶实现原理🏃Python实现发送Email电子邮件-基础版👫实现源码🙆源码解析 💇Python实现发送Email电子邮件-完善版👫实现源码🙆源码解析&am…...

编程日记 2023/12/24 15:30:22

Docker基本命令和Docker怎么自己制作镜像

基本命令 启动新的容器（指定容器名称和端口映射【主机端口：容器端口】) docker run --name 容器名 -p 8080:80 镜像名 启动新的容器（交互式） docker run -it centos7-with-jdk /bin/bash 特权方式启动容器 docker run -d --…...

编程日记 2023/12/24 15:24:17

Netty-2-数据编解码

解析编解码支持的原理 以编码为例，要将对象序列化成字节流，你可以使用MessageToByteEncoder或MessageToMessageEncoder类。 这两个类都继承自ChannelOutboundHandlerAdapter适配器类，用于进行数据的转换。 其中，对于MessageToMe…...

编程日记 2023/12/24 15:20:13

伽马校正：FPGA

参考资料： Tone Mapping 与 Gamma Correction - 知乎 (zhihu.com) Book_VIP: 《基于MATLAB与FPGA的图像处理教程》此书是业内第一本基于MATLAB与FPGA的图像处理教程，第一本真正结合理论及算法加速方案，在Matlab验证，以及在FPGA上…...

编程日记 2023/12/24 15:15:10

【SpringCloud笔记】（8）服务网关之GateWay

GateWay 概述简介 官网地址： 上一代网关Zuul 1.x：https://github.com/Netflix/zuul/wiki（有兴趣可以了解一下） gateway：https://cloud.spring.io/spring-cloud-static/spring-cloud-gateway/2.2.1.RELEASE/reference/…...

编程日记 2023/12/24 15:13:08

Compose常用布局

Compose布局基础知识 上一节对Compose做了简单的介绍，本章节主要介绍Compose中常用的布局，其中包括三个基础布局（Colmun、Row、Box）；以及其他常用布局（ConstraintLayout 、BoxWithConstraints、HorizontalP…...

编程日记 2023/12/24 15:12:06

使用keytool查看Android APK签名

文章目录 一、找到JDK位置二、使用方法2.1 打开windows命令行工具2.2 查看签名 三、如何给APK做系统签名呢? 一、找到JDK位置 安卓AS之后，可选择继续安装JDK，如本文使用amazon版本默认位置：C:\Users\66176.jdks\corretto-1.8.0_342可通过自…...

编程日记 2023/12/24 15:11:05

数据库学习日常案例20231221-oracle libray cache lock分析

1 问题概述： 阻塞的源头为两个ddl操作导致大量的libray cache lock 其中1133为gis sde的create table as语句。 其中697为alter index语句。...

编程日记 2023/12/24 15:08:03

【数据结构】最短路径算法实现（Dijkstra（迪克斯特拉），FloydWarshall（弗洛伊德） ）

文章目录 前言一、Dijkstra（迪克斯特拉）1.方法：2.代码实现 二、FloydWarshall（弗洛伊德）1.方法2.代码实现 完整源码 前言 最短路径问题：从在带权有向图G中的某一顶点出发，找出一条通往另一顶点…...

编程日记 2023/12/24 15:07:02

算法模板之队列图文详解

🌈个人主页：聆风吟 🔥系列专栏：算法模板、数据结构 🔖少年有梦不应止于心动，更要付诸行动。 文章目录 📋前言一. ⛳️模拟队列1.1 🔔用数组模拟实现队列1.1.1 👻队列的定…...

编程日记 2023/12/24 15:05:00