当前位置: 首页 > news >正文

easelog(1)基础C++日志功能实现

EaseLog(1)基础C++日志功能实现


Author: Once Day Date: 2025年2月22日

一位热衷于Linux学习和开发的菜鸟,试图谱写一场冒险之旅,也许终点只是一场白日梦…

漫漫长路,有人对你微笑过嘛…

注:本简易日志组件代码实现参考了Google Chrome Log和moduo Log(作者陈硕)源码


全系列文章可参考专栏: Linux实践记录_Once-Day的博客-CSDN博客

参考文章:

  • Google Code Archive - Long-term storage for Google Code Project Hosting.
  • emilk/loguru: A lightweight C++ logging library
  • OnceDay11/easelog

文章目录

  • EaseLog(1)基础C++日志功能实现
        • 1. 功能定义
        • 2. 实现分析
        • 3. 实际测试
        • 4. 源码文件

1. 功能定义

(1) 支持日志级别分类:DEBUG、INFO、WARNING、ERROR,可选支持FATAL。

(2) 输出信息类别:时间戳、进程ID、线程ID、函数名、代码行号和日志信息(支持不定参数)。

(3) 支持多线程:要求时间戳不能乱序,性能方面没有特别要求。

2. 实现分析

一般常见的日志是Debug日志,或者说程序错误日志,典型代表是Linux环境下的syslog接口,其满足上述的要求。多线程依靠锁来避免时序问题,性能一般,但拓展性和可读性很好,以文本的形式保存和呈现。

还有一类是写到数据库的日志,具有严格定义的字段和值说明,对性能要求极高,在多线程场景下,需要通过Per-Core数据结构和无锁操作(原子指令)来优化性能,但相应的代码会复杂很多。

这里实现的日志库为普通的程序Debug日志,通过互斥锁来避免并发时序问题。虽然看起来互斥锁在多线程环境下性能一般,但是程序Debug日志是文本类日志,其文本格式化本身需要消耗较大性能,日志量也不可能太大。对于性能敏感型的多线程应用,一般会使用数据库日志来记录相关信息。

在实现上,一般采用分层设计,如下所示:

在这里插入图片描述

这里面最核心的部分就是日志格式化处理,一般提供的API函数只有一个,然后通过宏包装扩展到各式各样的日志接口。

程序debug日志底层接口基本都支持自定义的回调函数,然后回调函数里再写入到syslog中,同时也可以直接输出到标准输出或者标准错误(STDOUT/STDERR)。程序很少会自己写日志文件,像rsyslog这类标准库更适合拿来就有,毕竟整理和打包大量应用的日志文件,是一件复杂的事情。

Chromemuduo里面的日志组件代码,写文件的时候会上锁,其他输出方式则都是无锁。这点很有意思,它们在格式化时间戳时都存在时序问题,也就是时间戳乱序,但开发者似乎并不在意。

syslog接口输出的日志时间戳不会乱序(至少rsyslog如此),syslog日志文件里面的时间戳并不在程序Log函数中格式化,而是rsyslogd进程收集到所有日志消息后统一格式化。

本日志库实现要求中,需要在程序Log函数里格式化时间戳,这意味着在格式化日志时就需要上锁,性能会存在一些影响。这种实现方式比较简单,如下所示:

在这里插入图片描述

这个日志组件实现的问题在于锁的粒度太大了,并发线程较多的情况下,debug日志会互相堵塞,拖慢程序执行。一种可行的优化方式是通过多生产者+单消费者的无锁环形队列配合互斥锁实现更小的锁粒度,如下:

在这里插入图片描述

通过无锁队列,可以将普通参数信息的格式化剥离出来,但是所有线程仍然会去抢锁写入日志,正常情况是不同线程轮流负责日志写入,串行化写入可以保证时间戳获取点和写入点的顺序一致,从而避免乱序。

想再提高性能,最好的方式是异步日志(上面有一定异步化,但不够彻底),直接使用单独的日志线程,这个实现起来更加简单,而且无需互斥锁,直接通过无锁队列实现。

本日志组件最终实现两种模式:

  • 低并发度下采取上述的互斥锁方法,这样节省线程资源,性能相对也会更好(减少线程切换)。
  • 高并发度下采取单独日志线程的方法,优先保证业务的并发处理能力,避免日志堵塞,全局效果更优。
3. 实际测试

目前只实现了基础功能:低并发度下采取互斥锁,更上层的复杂日志宏API暂未实现。

测试方面通过创建三个线程来模拟并发日志写入,为了更容易触发乱序,引入随机Sleep操作,在日志格式化和实际写入操作之间,如下所示:

// 用于构造并发时序, 随机等待 10-50ms
void RandomSleep()
{if (g_log_enable_random_sleep) {std::this_thread::sleep_for(std::chrono::milliseconds(10 + rand() % 40));}
}// 创建的线程重复20次输出日志
std::thread t1([]() {pthread_setname_np(pthread_self(), "thread1");for (int i = 0; i < REPEAT_TIMES; i++) {LOG(INFO) << "log message test: " << i;}
});// 没有锁保护下的直接日志写入
if (ShouldLogToStderr(severity_)) {// 生成时间戳std::string timestamp;LogSyslogPrefixTimestamp(log_settings, timestamp);// 引入随机延迟RandomSleep();// 写入日志信息WriteToFd(STDERR_FILENO, timestamp.data(), timestamp.size());WriteToFd(STDERR_FILENO, str_newline.data(), str_newline.size());
}

运行后,可以在输出日志里发现明显的乱序情况,如下:

在这里插入图片描述

引入互斥锁后,可以避免乱序:

if (ShouldLogToStderr(severity_)) {std::lock_guard< std::mutex > lock(g_log_mutex);// 生成时间戳std::string timestamp;LogSyslogPrefixTimestamp(log_settings, timestamp);RandomSleep();// 写入日志信息WriteToFd(STDERR_FILENO, timestamp.data(), timestamp.size());WriteToFd(STDERR_FILENO, str_newline.data(), str_newline.size());
}

运行截图如下:

在这里插入图片描述

但对性能影响较大,整体运行时间较没有上锁,增加了2倍,因为线程需要互相等待对方sleep结束才能拿到锁。

不过,实际运行的程序很少会出现这么久的锁内延迟时间,这毕竟只是一个测试模拟情况。

下一步准备实现第二种模式:高并发度下采取单独日志线程

4. 源码文件

代码已经开源,请在Github上查看:OnceDay11/easelog
下一步准备实现第二种模式:高并发度下采取单独日志线程







Alt

Once Day

也信美人终作土,不堪幽梦太匆匆......

如果这篇文章为您带来了帮助或启发,不妨点个赞👍和关注,再加上一个小小的收藏⭐!

(。◕‿◕。)感谢您的阅读与支持~~~

相关文章:

easelog(1)基础C++日志功能实现

EaseLog(1)基础C日志功能实现 Author: Once Day Date: 2025年2月22日 一位热衷于Linux学习和开发的菜鸟&#xff0c;试图谱写一场冒险之旅&#xff0c;也许终点只是一场白日梦… 漫漫长路&#xff0c;有人对你微笑过嘛… 注&#xff1a;本简易日志组件代码实现参考了Google …...

epoll_event的概念和使用案例

epoll_event 是 Linux 下 epoll I/O 多路复用机制的核心数据结构&#xff0c;用于描述文件描述符&#xff08;File Descriptor, FD&#xff09;上发生的事件及其关联的用户数据。通过 epoll&#xff0c;可以高效地监控多个文件描述符的状态变化&#xff08;如可读、可写、错误等…...

Leetcode2506:统计相似字符串对的数目

题目描述&#xff1a; 给你一个下标从 0 开始的字符串数组 words 。 如果两个字符串由相同的字符组成&#xff0c;则认为这两个字符串 相似 。 例如&#xff0c;"abca" 和 "cba" 相似&#xff0c;因为它们都由字符 a、b、c 组成。然而&#xff0c;"…...

蓝桥月赛 之 26场

文章目录 好汤圆灯笼猜谜元宵分配摆放汤圆 好汤圆 好汤圆 思路分析&#xff1a;由于2025能够被15整除&#xff0c;所以我们直接输出对应的答案即可 import os import sys# 请在此输入您的代码print(2025//15)灯笼猜谜 灯笼猜谜 思路分析&#xff1a;首先呢&#xff0c;我就考…...

机器学习面试八股文——决战金三银四

大家好&#xff0c;这里是好评笔记&#xff0c;公主 号&#xff1a;Goodnote&#xff0c;专栏文章私信限时Free。本笔记的任务是解读机器学习实践/面试过程中可能会用到的知识点&#xff0c;内容通俗易懂&#xff0c;入门、实习和校招轻松搞定。 公主号合集地址 点击进入优惠地…...

umi: valtio的使用

一、基本用法 import { proxy, useSnapshot } from umijs/max;// 1、定义数据 const state proxy({ count: 33 });export default () > {// 2、使用数据const snap useSnapshot(state);function increaseCount() {state.count 1;}return (<><h1>{snap.count}…...

区块链相关方法-波特五力分析模型

一、定义:波特五力分析模型&#xff08;Porters Five Forces Framework&#xff09;是迈克尔・波特&#xff08;Michael Porter&#xff09;于 1979 年提出的一种用于分析行业竞争态势的工具。它通过考察五种力量的相互作用来评估一个行业的吸引力和竞争环境&#xff0c;这五种…...

纷析云开源版- Vue2-增加字典存储到localStorage

main.js //保存字典数据到LocalStorage Vue.prototype.$api.setting.SystemDictType.all().then(({data}) > {loadDictsToLocalStorage(data) })新增 dictionary.js 放在 Utils文件夹里面 // 获取字典数据 export function getDictByType(dictType) {const dicts JSON.par…...

HTML项目一键打包工具:HTML2EXE 最新版

HTML2EXE 工具可以一键打包生成EXE可执行文件。可以打包任意HTML项目或者是一个网址为单个EXE文件&#xff0c;直接打开即可运行。支持KRPano全景VR项目、WebGL游戏项目、视频播放、,课件打包、网址打包等。 一、功能特点 类别序号功能标题1支持程序图标自定义&#xff08;支持…...

Windows 中的启动项如何打开?管理电脑启动程序的三种方法

在日常使用电脑时&#xff0c;我们经常会发现一些应用程序在开机时自动启动&#xff0c;这不仅会拖慢系统的启动速度&#xff0c;还可能占用不必要的系统资源。幸运的是&#xff0c;通过几个简单的步骤&#xff0c;你可以轻松管理这些开机自启的应用程序。接下来&#xff0c;我…...

在 JavaScript 中接入 Facebook 事件

在 JavaScript 中接入 Facebook 事件 本文档介绍了如何在 JavaScript 中集成 Facebook Pixel 事件&#xff0c;用于跟踪网站的用户行为并提高广告效果。 1. 安装并初始化 Facebook Pixel 在开始接入事件之前&#xff0c;首先需要在你的网页中初始化 Facebook Pixel。Faceboo…...

如何在cursor上使用 deepseek 模型

引言 Cursor 虽提供免费试用&#xff0c;但试用时间有限&#xff0c;且后续使用可能会面临速度限制。不过&#xff0c;用户可以使用自己的 API key 来继续使用。值得一提的是&#xff0c;deepseek 模型使用成本极为低廉&#xff0c;能为使用者带来更多灵活性与经济性。基于此&…...

mysql的字符集和比较规则

mysql的字符集和比较规则 一、字符集&#xff08;Character Set&#xff09;二、比较规则&#xff08;Collation&#xff09;三、客户端与服务器的字符集转换四、注意事项总结 深度解读mysql是怎样运行的 MySQL的字符集和比较规则是其处理字符串存储、传输及比较的核心机制&…...

什么是LoRA微调

LoRA是大模型微调方法的一种&#xff0c;它的特点是只在模型的 部分权重&#xff08;如 QKV 矩阵&#xff09; 上 添加可训练参数 通过 低秩矩阵&#xff08;AB&#xff09; 来优化参数更新 优点&#xff1a; 极大降低显存消耗&#xff08;deepseek 7B 只需 10GB&#xff09; 适…...

热管理系统:新能源汽车的 “温度管家”

在新能源汽车的众多系统中&#xff0c;热管理系统堪称是一位默默守护的 “温度管家”&#xff0c;其重要性不容小觑。传统燃油车的热管理主要围绕发动机、变速箱冷却系统和空调系统&#xff0c;而新能源汽车的热管理则涵盖了电池系统、电机电控、空调系统等绝大部分零部件 &…...

如何修改Windows系统Ollama模型存储位置

默认情况下&#xff0c;Ollama 模型会存储在 C 盘用户目录下的 .ollama/models 文件夹中&#xff0c;这会占用大量 C 盘空间&#xff0c;增加C盘“爆红”的几率。所以&#xff0c;我们就需要修改Ollama的模型存储位置 Ollama提供了一个环境变量参数可以修改Ollama的默认存在位…...

《网络安全入门实战手册》

0经验转行网络安全&#xff0c;个人分享一下学习中总结的文档&#xff0c;以下为目录可以点击标题看对应文章&#xff0c;欢迎评论区讨论&#xff0c;后期会发更多安全相关的学习资料等。希望跟大家一起进步。 第1章&#xff1a;网络安全基础知识 1、什么是网络安全&#xff…...

一文详解U盘启动Legacy/UEFI方式以及GPT/MBR关系

对于装系统的老手而说一直想研究一下装系统的原理&#xff0c;以及面对一些问题时的解决思路&#xff0c;故对以前的方法进行原理上的解释&#xff0c;主要想理解其底层原理。 引导模式 MBR分区可以同时支持UEFI和Legacy引导&#xff0c;我们可以看一下微pe制作的启动盘&#…...

如何查看java的字节码文件?javap?能用IDEA吗?

编译指令&#xff1a; javac YourProject.java 查看字节码文件的指令&#xff1a; javap -c -l YourProject.class 不添加-c指令就不会显示字节码文件&#xff1a; 不添加 -l 就不会显示源代码和字节码文件的对应关系&#xff1a; 添加-l之后多出来这些&#xff1a; IDEA不太…...

加油站(力扣134)

既然每一个加油站都有对应的加油量和耗油量&#xff0c;我们不妨计算一下每个加油站的汽油净增量。如果每个加油站净增量之和不为负数&#xff0c;则说明一定可以找到唯一的起始点。那我们该如何找到这个起始点呢&#xff1f;我们设置最开始的起点为第0个加油站&#xff0c;接着…...

你的手机能看Netflix高清吗?一个App快速查询Widevine L1/L2/L3等级

你的手机能看Netflix高清吗&#xff1f;一个App快速查询Widevine L1/L2/L3等级 每次打开Netflix准备追剧&#xff0c;却发现画面糊得像打了马赛克&#xff1f;这可能是你的手机Widevine等级在作祟。作为流媒体画质的隐形守门人&#xff0c;Widevine DRM的三个等级直接决定了你能…...

手把手教你用Silvaco Athena和Atlas搞定PNP/NPN BJT仿真:从网格划分到曲线分析全流程

Silvaco Athena与Atlas实战&#xff1a;从零构建BJT仿真模型的完整指南 在半导体设计与工艺开发领域&#xff0c;仿真工具已成为工程师不可或缺的助手。Silvaco TCAD套件中的Athena工艺模拟器和Atlas器件模拟器&#xff0c;能够精准预测半导体器件的电学特性。本文将聚焦双极结…...

在线游戏手柄检测工具:三步快速诊断手柄按键与摇杆问题

在线游戏手柄检测工具&#xff1a;三步快速诊断手柄按键与摇杆问题 【免费下载链接】gamepadtest Gamepad API Test 项目地址: https://gitcode.com/gh_mirrors/ga/gamepadtest 还在为游戏手柄按键失灵、摇杆漂移而烦恼吗&#xff1f;这款免费的在线游戏手柄测试工具能帮…...

5分钟快速上手:Unlock-Music浏览器音乐解密终极指南

5分钟快速上手&#xff1a;Unlock-Music浏览器音乐解密终极指南 【免费下载链接】unlock-music 在浏览器中解锁加密的音乐文件。原仓库&#xff1a; 1. https://github.com/unlock-music/unlock-music &#xff1b;2. https://git.unlock-music.dev/um/web 项目地址: https:/…...

《微软开源工具PowerToys实战指南:30+效率工具解析与Windows工作流优化》​

&#x1f4cc; 大家好&#xff0c;我是弈曜软体库&#xff0c;每天分享好用实用且智能的开源项目&#xff0c;以及在JAVA语言开发中遇到的问题&#xff0c;如果本篇文章对您有所帮助&#xff0c;请帮我点个小赞小收藏小关注吧&#xff0c;谢谢喲&#xff01;&#x1f618; 博主…...

Prefix.dev官宣:Pixi原生支持RISC-V架构,openKylin社区成背后核心贡献者

【导语&#xff1a;近日&#xff0c;Prefix.dev官宣下一代跨平台包管理器Pixi原生支持RISC-V架构&#xff0c;国际Pixi官方点名认可openKylin社区贡献&#xff0c;其为Pixi落地RISC-V奠定基础&#xff0c;双方合作将推动RISC-V开发生态发展。】跨平台包管理器支持RISC-V架构近日…...

零基础到量化交易专家:QuantConnect教程库的完整学习路径指南

零基础到量化交易专家&#xff1a;QuantConnect教程库的完整学习路径指南 【免费下载链接】Tutorials Jupyter notebook tutorials from QuantConnect website for Python, Finance and LEAN. 项目地址: https://gitcode.com/gh_mirrors/tutorials2/Tutorials 想要从金融…...

如何高效预览Markdown文件:一站式浏览器扩展终极解决方案

如何高效预览Markdown文件&#xff1a;一站式浏览器扩展终极解决方案 【免费下载链接】markdown-viewer Markdown Viewer / Browser Extension 项目地址: https://gitcode.com/gh_mirrors/ma/markdown-viewer 还在为浏览器中无法正常显示Markdown文件而烦恼吗&#xff1…...

多个 AI 模型参与社会工程学攻击实验,Anthropic 新模型成“网络安全警钟”

AI 社会工程学攻击有多逼真&#xff1f;最近&#xff0c;真切见识到人工智能在计算机黑客攻击的“人性化”方面达到可怕程度。笔记本电脑屏幕弹出消息&#xff0c;提及去中心化机器学习、机器人技术和 OpenClaw 吸引注意力。发件人解释团队在研究用于机器人技术的开源联邦学习方…...

医疗AI项目实战:手把手教你用pydicom库为PNG图像注入DICOM‘灵魂’(含完整元数据配置)

医疗AI数据工程实战&#xff1a;用Python构建符合临床标准的DICOM元数据体系 在医疗AI项目的开发流程中&#xff0c;数据工程环节往往决定着模型的成败。当我们使用公开的PNG/JPG医学图像数据集时&#xff0c;如何将其转化为具有完整临床元数据的DICOM文件&#xff0c;是每个医…...