linux-系统管理与监控-日志管理
Linux 系统管理与监控:日志管理
1. 日志管理概述
日志文件是系统在运行过程中记录的各种信息,它们是系统管理员排查问题、监控系统健康状况的重要工具。在 Linux 系统中,日志涵盖了系统事件、内核信息、用户操作、软件服务和应用程序等内容。通过日志管理,管理员可以监控系统状态、追踪故障、分析性能、甚至发现潜在的安全威胁。
Linux 提供了一套成熟的日志管理机制,通常由 syslog 或 journald 系统负责收集和管理各种日志。
2. 常见日志文件位置
在大多数 Linux 系统中,日志文件存储在 /var/log 目录下。以下是一些常见的日志文件:
- /var/log/messages:记录通用系统消息,包括启动、设备驱动信息等(主要用于基于 RHEL、CentOS 的系统)。
- /var/log/syslog:记录系统范围内的消息和日志(主要用于 Debian 系列系统,如 Ubuntu)。
- /var/log/auth.log:用户登录与认证相关的日志,包括成功与失败的登录尝试。
- /var/log/kern.log:内核消息日志,记录内核级别事件和错误。
- /var/log/dmesg:启动过程中的内核信息和硬件检测日志。
- /var/log/boot.log:系统启动时的日志,记录启动服务的状态。
- /var/log/cron.log:定时任务(crontab)的执行情况和错误。
- /var/log/maillog 或 /var/log/mail.log:与邮件服务相关的日志。
- /var/log/httpd/ 或 /var/log/nginx/:Web 服务器日志目录,记录 Web 请求和错误。
- /var/log/faillog:记录用户登录失败的情况。
- /var/log/secure:与安全相关的日志,如认证、SSH 连接等。
3. syslog 和 rsyslog 日志管理
syslog 是最早的日志系统,后来发展为功能更强大的 rsyslog。在大多数现代 Linux 发行版中,rsyslog 是默认的日志管理工具。它负责收集系统和应用程序产生的日志,并将它们写入指定的日志文件。
3.1 rsyslog 配置文件
rsyslog 的配置文件位于 /etc/rsyslog.conf,此外,配置目录 /etc/rsyslog.d/ 中的文件也会被自动加载。典型的配置文件包括以下几部分:
-
模块加载:加载不同的输入和输出模块,用于支持不同格式和传输方式。
module(load="imuxsock") # 支持本地 socket(/dev/log) module(load="imklog") # 支持内核日志 (/proc/kmsg) -
规则格式:日志规则由两部分组成,第一部分定义日志来源(设施和级别),第二部分定义日志的目标(日志文件、远程主机等)。规则格式如下:
<设施>.<级别> <日志文件或其他目标>其中,设施(facility)表示日志的来源,常见设施包括:
auth:认证相关日志(如 SSH、sudo)。cron:定时任务日志。kern:内核相关日志。mail:邮件系统日志。daemon:守护进程日志。user:用户进程日志。
级别(level)表示日志的严重性,从低到高的级别包括:
debug:调试信息。info:普通信息。notice:正常但值得注意的情况。warning:警告,可能有问题。err:错误,影响系统功能。crit:严重错误,可能导致系统宕机。alert:需要立即采取行动。emerg:紧急情况,系统可能无法使用。
例如,以下规则将所有
auth相关的info及以上级别的日志记录到/var/log/auth.log文件中:auth.info /var/log/auth.log将内核警告级别以上的日志记录到
/var/log/kern.log:kern.warn /var/log/kern.log
3.2 远程日志收集
rsyslog 支持远程日志收集,可以将日志发送到远程服务器进行集中管理。为了启用远程日志收集,需要在客户端和服务器上进行相应配置。
-
在日志服务器上,编辑
/etc/rsyslog.conf,启用 UDP 或 TCP 监听:module(load="imudp") input(type="imudp" port="514")module(load="imtcp") input(type="imtcp" port="514")然后重启
rsyslog服务:sudo systemctl restart rsyslog -
在客户端上,编辑
/etc/rsyslog.conf,将日志发送到远程服务器:*.* @@192.168.1.100:514 # 使用 TCP 协议或者:
*.* @192.168.1.100:514 # 使用 UDP 协议同样,重启
rsyslog以使配置生效。
3.3 日志轮转(Log Rotation)
日志文件会随着时间变得越来越大,因此需要定期对日志文件进行轮转(Log Rotation)。在 Linux 系统中,logrotate 工具负责自动轮转日志文件。它通常通过 cron 任务定期运行。
logrotate 的配置文件位于 /etc/logrotate.conf,具体的服务日志文件配置通常位于 /etc/logrotate.d/ 目录下。
一个简单的 logrotate 配置文件示例如下:
/var/log/syslog {dailyrotate 7compressmissingoknotifemptydelaycompresspostrotate/usr/lib/rsyslog/rsyslog-rotateendscript
}
- daily:每天轮转一次日志。
- rotate 7:最多保留 7 个旧日志文件。
- compress:压缩旧日志文件。
- missingok:如果日志文件不存在,不要报错。
- notifempty:如果日志文件为空,不进行轮转。
- postrotate:轮转后执行的脚本或命令,通常用于重新加载日志服务。
4. systemd 和 journald
在基于 systemd 的现代 Linux 系统中,journald 是 systemd 的日志收集组件。与传统的基于文本文件的 rsyslog 不同,journald 通过二进制格式存储日志,这带来了更好的性能和搜索功能。
4.1 journald 日志查看
journald 使用 journalctl 命令来查看系统日志。以下是一些常见的 journalctl 用法:
-
查看所有日志:
journalctl -
按时间范围查看日志:
查看最近一小时的日志:
journalctl --since "1 hour ago" -
查看特定服务的日志:
查看
nginx服务的日志:journalctl -u nginx -
查看启动后的日志:
查看本次启动后的日志:
journalctl -b -
持续实时查看日志:
类似于
tail -f,实时查看新生成的日志:journalctl -f
4.2 journald 配置
journald 的配置文件位于 /etc/systemd/journald.conf。一些重要的配置选项包括:
- Storage:定义日志的存储方式。可以是
volatile(存储在内存中,重启后丢失)、persistent(存储在硬盘上)、auto(默认,若/var/log/journal/目录存在,则使用持久存储)。 - Compress:是否压缩日志文件。
- SystemMaxUse:定义日志占用的最大磁盘空间。
- SystemMaxFileSize:每个日志文件的最大大小。
例如,启用持久化日志存储并设置日志大小限制:
[Journal]
Storage=persistent
SystemMaxUse=1G
SystemMaxFileSize=200M
修改配置后,可以通过以下命令重新启动 journald:
sudo systemctl restart systemd-journald
5. 日志分析和监控
除了记录系统日志,系统管理员还需要定期分析日志以发现潜在问题和异常行为。常见的日志分析工具和方法包括:
-
grep 和 awk:通过
grep和awk可以方便地过滤和提取日志中的关键信息。例如,查找所有 SSH 登录失败的日志条目:
grep "Failed password" /var/log/auth.log -
日志监控工具:如
logwatch,可以定期分析日志并生成简报。安装
logwatch:sudo apt install logwatch使用
logwatch生成报告:sudo logwatch --detail high --mailto admin@example.com --service sshd -
可视化工具:ELK 堆栈(Elasticsearch、Logstash、Kibana)是常用的日志收集、分析和可视化解决方案。通过
Logstash收集日志,Elasticsearch进行存储和检索,Kibana提供用户友好的界面进行日志可视化。
6. 日志管理的最佳实践
- 定期检查日志:系统管理员应定期检查关键日志文件,如认证日志(
auth.log)、系统日志(syslog),以尽早发现异常。 - 配置日志轮转:确保日志文件不会占用过多的磁盘空间,合理设置轮转策略,压缩旧日志。
- 启用远程日志收集:对于关键的服务器,使用集中式日志管理工具(如 ELK、Graylog),将日志发送到远程服务器,避免本地日志被篡改。
- 设置合适的日志级别:根据需求调整日志的记录级别,避免过多不必要的日志信息占用系统资源。
7. 总结
日志管理是 Linux 系统管理与监控的重要组成部分。通过配置 rsyslog 或 journald,系统可以收集、存储和管理大量的日志信息。借助 logrotate,日志可以自动轮转,防止占用过多磁盘空间。使用工具如 journalctl 或 logwatch,管理员可以轻松分析和监控系统状态。
相关文章:
linux-系统管理与监控-日志管理
Linux 系统管理与监控:日志管理 1. 日志管理概述 日志文件是系统在运行过程中记录的各种信息,它们是系统管理员排查问题、监控系统健康状况的重要工具。在 Linux 系统中,日志涵盖了系统事件、内核信息、用户操作、软件服务和应用程序等内容…...
VulhubDC-4靶机详解
项目地址 https://download.vulnhub.com/dc/DC-4.zip实验过程 将下载好的靶机导入到VMware中,设置网络模式为NAT模式,然后开启靶机虚拟机 使用nmap进行主机发现,获取靶机IP地址 nmap 192.168.47.1-254根据对比可知DC-4的一个ip地址为192.1…...
[数据集][目标检测]烟叶病害检测数据集VOC+YOLO格式612张3类别
数据集格式:Pascal VOC格式YOLO格式(不包含分割路径的txt文件,仅仅包含jpg图片以及对应的VOC格式xml文件和yolo格式txt文件) 图片数量(jpg文件个数):612 标注数量(xml文件个数):612 标注数量(txt文件个数):612 标注类别…...
Sapiens——人类视觉大模型的基础
引言 大规模预训练以及随后针对特定任务的语言建模微调取得了显著成功,已将这种方法确立为标准做法。同样, 计算机视觉方法正逐步采用大规模数据进行预训练。LAION5B、Instagram-3.5B、JFT-300M、LVD142M、Visual Genome 和 YFCC100M 等大型数据集的出现…...
《深度学习》【项目】 OpenCV 身份证号识别
目录 一、项目实施 1、自定义函数 2、定位模版图像中的数字 1)模版图二值化处理 运行结果: 2)展示所有数字 运行结果: 3、识别身份证号 1)灰度图、二值化图展示 运行结果 2)定位身份证号每一个数…...
机器学习实战—天猫用户重复购买预测
目录 背景 数据集 用户画像数据 用户行为日志数据 训练数据 测试数据 提交数据 其它数据 数据探索 导入依赖库 读取数据 查看数据信息 缺失值分析 数据分布 复购因素分析 特征工程 模型训练 模型验证 背景 商家有时会在特定日期,例如节礼日(Boxing-day),黑…...
一款rust语言AI神器cursor在ubuntu环境下的安装启动教程
虽然cursor目前只支持英文但是它强大的代码联想能力以及问答能力,可以高效的提高编码效率。 如下步骤所有的前提是你的ubuntu上面已经安装了vscode以及其必须的extensions。 1 下载 到官网https://www.cursor.com下载指定版本的软件。 下载到本地以后会生成如下软…...
【C#生态园】发现C#中的数据科学魔法:6款不可错过的库详解
探索C#中的数据科学与机器学习:6个强大库解析 前言 在数据科学和机器学习领域,Python一直占据着主导地位,然而对于习惯使用C#编程语言的开发人员来说,寻找适用于C#的数据科学库一直是一个挑战。本文将介绍几个流行的用于C#的数据…...
导入neo4j数据CSV文件及csv整理demo示例
Neo4j导入CSV文件(实体和关系)_neo4j导入csv关系-CSDN博客 https://blog.csdn.net/m0_69483514/article/details/131296060?spm1001.2101.3001.6661.1&utm_mediumdistribute.pc_relevant_t0.none-task-blog-2%7Edefault%7EBlogCommendFromBaidu%7ER…...
bug | pycharm社区版无sciview解决办法
一个程序运行多个图,plt.show()一次只弹出一个独立窗口,必须关掉一个才能显示下一张图,想找sciview却发现找不到,本来以为是新版pycharm的问题,后来才发现是community版根本没有sciview…不想换专业版了,研…...
PL/SQL程序设计入门
PL/SQL程序设计 PL/SQL起步鼻祖:hello World语法分析声明部分举例 应用举例 PL/SQL 起步鼻祖:hello World 先举个例子,用PL/SQL打印输出hello world declarev_string varchar2(20); beginv_string:hello world;dbms_output.put_line(v_str…...
一、Numpy入门
Numpy入门 前言一、numpy简介二、Numpy的ndarray属性2.1. 直接用 .属性的方法实现2.2. 直接函数的方法实现 三、Numpy的ndarray的创建3.1. ndarray介绍3.2. 数组形式3.3. zeros()、ones() 、 empty()3.4. arange(),类似 python 的 range() ,创建一个一维…...
自动化测试框架设计核心理念——关键字驱动
很多人在接触自动化测试时,都会听到关键字驱动这样的一个概念,但是在研究时却有些不太清楚这种驱动模式的设计及实现到底该如何着手去做。 关键字驱动,作为一种自动化测试框架的设计形式,在很早的时候就已经有提及过了。它的基本…...
GO GIN SSE DEMO
文章目录 接口描述:1.1 /events/time - 时间流1.2 /events/numbers - 数字流 2. 用户管理接口2.1 /user/:id - 获取用户信息2.2 /user - 创建用户 项目结构1. main.go2. 创建 handlers/event_time.go3. 创建 handlers/event_number.go4. handlers/user.go5. 运行服务…...
GEE教程:1950-2023年ECMWF数据中积雪的长时序统计分析
目录 简介 数据 函数 millis() Arguments: Returns: Long 代码 结果 简介 1950-2023年ECMWF数据中积雪的长时序统计分析 数据 ECMWF/ERA5_LAND/DAILY_AGGR是由欧洲中期天气预报中心(ECMWF)提供的数据集。它是一个格网数据集,包含从ERA5-Land再分析数据集中得出的…...
【React Native】路由和导航
RN 中的路由是通过 React Navigation 组件来完成的 Stack 路由导航RN 中默认没有类似浏览器的 history 对象在 RN 中路由跳转之前,需要先将路由声明在 Stack 中<Stack.Navigator initialRouteNameDetails> <Stack.Screen nameDetails /> </Stack.N…...
Linux环境基础开发工具---vim
1.快速的介绍一下vim vim是一款多模式的编辑器,里面有很多子命令,来实现代码编写操作。 2.vim的模式 vim一共有三种模式:底行模式,命令模式,插入模式。 2.1vim模式之间的切换 2.2 谈论常见的模式---命令模式…...
python AssertionError: Torch not compiled with CUDA enabled
查看:torch import torch# 输出带CPU,表示torch是CPU版本的 print(ftorch的版本是:{torch.__version__}) # print(ftorch是否能使用cuda:{torch.cuda.is_available()}) 修改一下代码,将cuda改成cpu 最后运行正常&…...
Pandas的入门操作-Series对象
Pandas的数据结构 Series对象 class pandas.Series(dataNone, indexNone) data参数 含义:data是Series构造函数中最主要的参数,它用来指定要存储在Series中的数据。 数据类型:data可以是多种数据类型,例如: Python 列…...
自然语言处理系列六十八》搜索引擎项目实战》搜索引擎系统架构设计
注:此文章内容均节选自充电了么创始人,CEO兼CTO陈敬雷老师的新书《自然语言处理原理与实战》(人工智能科学与技术丛书)【陈敬雷编著】【清华大学出版社】 文章目录 自然语言处理系列六十八搜索引擎项目实战》搜索引擎系统架构设计…...
《从零掌握MIPI CSI-2: 协议精解与FPGA摄像头开发实战》-- CSI-2 协议详细解析 (一)
CSI-2 协议详细解析 (一) 1. CSI-2层定义(CSI-2 Layer Definitions) 分层结构 :CSI-2协议分为6层: 物理层(PHY Layer) : 定义电气特性、时钟机制和传输介质(导线&#…...
汽车生产虚拟实训中的技能提升与生产优化
在制造业蓬勃发展的大背景下,虚拟教学实训宛如一颗璀璨的新星,正发挥着不可或缺且日益凸显的关键作用,源源不断地为企业的稳健前行与创新发展注入磅礴强大的动力。就以汽车制造企业这一极具代表性的行业主体为例,汽车生产线上各类…...
【RockeMQ】第2节|RocketMQ快速实战以及核⼼概念详解(二)
升级Dledger高可用集群 一、主从架构的不足与Dledger的定位 主从架构缺陷 数据备份依赖Slave节点,但无自动故障转移能力,Master宕机后需人工切换,期间消息可能无法读取。Slave仅存储数据,无法主动升级为Master响应请求ÿ…...
安卓基础(aar)
重新设置java21的环境,临时设置 $env:JAVA_HOME "D:\Android Studio\jbr" 查看当前环境变量 JAVA_HOME 的值 echo $env:JAVA_HOME 构建ARR文件 ./gradlew :private-lib:assembleRelease 目录是这样的: MyApp/ ├── app/ …...
#Uniapp篇:chrome调试unapp适配
chrome调试设备----使用Android模拟机开发调试移动端页面 Chrome://inspect/#devices MuMu模拟器Edge浏览器:Android原生APP嵌入的H5页面元素定位 chrome://inspect/#devices uniapp单位适配 根路径下 postcss.config.js 需要装这些插件 “postcss”: “^8.5.…...
MFC 抛体运动模拟:常见问题解决与界面美化
在 MFC 中开发抛体运动模拟程序时,我们常遇到 轨迹残留、无效刷新、视觉单调、物理逻辑瑕疵 等问题。本文将针对这些痛点,详细解析原因并提供解决方案,同时兼顾界面美化,让模拟效果更专业、更高效。 问题一:历史轨迹与小球残影残留 现象 小球运动后,历史位置的 “残影”…...
JavaScript 数据类型详解
JavaScript 数据类型详解 JavaScript 数据类型分为 原始类型(Primitive) 和 对象类型(Object) 两大类,共 8 种(ES11): 一、原始类型(7种) 1. undefined 定…...
人工智能--安全大模型训练计划:基于Fine-tuning + LLM Agent
安全大模型训练计划:基于Fine-tuning LLM Agent 1. 构建高质量安全数据集 目标:为安全大模型创建高质量、去偏、符合伦理的训练数据集,涵盖安全相关任务(如有害内容检测、隐私保护、道德推理等)。 1.1 数据收集 描…...
渗透实战PortSwigger靶场:lab13存储型DOM XSS详解
进来是需要留言的,先用做简单的 html 标签测试 发现面的</h1>不见了 数据包中找到了一个loadCommentsWithVulnerableEscapeHtml.js 他是把用户输入的<>进行 html 编码,输入的<>当成字符串处理回显到页面中,看来只是把用户输…...
Linux中《基础IO》详细介绍
目录 理解"文件"狭义理解广义理解文件操作的归类认知系统角度文件类别 回顾C文件接口打开文件写文件读文件稍作修改,实现简单cat命令 输出信息到显示器,你有哪些方法stdin & stdout & stderr打开文件的方式 系统⽂件I/O⼀种传递标志位…...
