linux-系统管理与监控-日志管理
Linux 系统管理与监控:日志管理
1. 日志管理概述
日志文件是系统在运行过程中记录的各种信息,它们是系统管理员排查问题、监控系统健康状况的重要工具。在 Linux 系统中,日志涵盖了系统事件、内核信息、用户操作、软件服务和应用程序等内容。通过日志管理,管理员可以监控系统状态、追踪故障、分析性能、甚至发现潜在的安全威胁。
Linux 提供了一套成熟的日志管理机制,通常由 syslog
或 journald
系统负责收集和管理各种日志。
2. 常见日志文件位置
在大多数 Linux 系统中,日志文件存储在 /var/log
目录下。以下是一些常见的日志文件:
- /var/log/messages:记录通用系统消息,包括启动、设备驱动信息等(主要用于基于 RHEL、CentOS 的系统)。
- /var/log/syslog:记录系统范围内的消息和日志(主要用于 Debian 系列系统,如 Ubuntu)。
- /var/log/auth.log:用户登录与认证相关的日志,包括成功与失败的登录尝试。
- /var/log/kern.log:内核消息日志,记录内核级别事件和错误。
- /var/log/dmesg:启动过程中的内核信息和硬件检测日志。
- /var/log/boot.log:系统启动时的日志,记录启动服务的状态。
- /var/log/cron.log:定时任务(crontab)的执行情况和错误。
- /var/log/maillog 或 /var/log/mail.log:与邮件服务相关的日志。
- /var/log/httpd/ 或 /var/log/nginx/:Web 服务器日志目录,记录 Web 请求和错误。
- /var/log/faillog:记录用户登录失败的情况。
- /var/log/secure:与安全相关的日志,如认证、SSH 连接等。
3. syslog
和 rsyslog
日志管理
syslog
是最早的日志系统,后来发展为功能更强大的 rsyslog
。在大多数现代 Linux 发行版中,rsyslog
是默认的日志管理工具。它负责收集系统和应用程序产生的日志,并将它们写入指定的日志文件。
3.1 rsyslog
配置文件
rsyslog
的配置文件位于 /etc/rsyslog.conf
,此外,配置目录 /etc/rsyslog.d/
中的文件也会被自动加载。典型的配置文件包括以下几部分:
-
模块加载:加载不同的输入和输出模块,用于支持不同格式和传输方式。
module(load="imuxsock") # 支持本地 socket(/dev/log) module(load="imklog") # 支持内核日志 (/proc/kmsg)
-
规则格式:日志规则由两部分组成,第一部分定义日志来源(设施和级别),第二部分定义日志的目标(日志文件、远程主机等)。规则格式如下:
<设施>.<级别> <日志文件或其他目标>
其中,设施(facility)表示日志的来源,常见设施包括:
auth
:认证相关日志(如 SSH、sudo)。cron
:定时任务日志。kern
:内核相关日志。mail
:邮件系统日志。daemon
:守护进程日志。user
:用户进程日志。
级别(level)表示日志的严重性,从低到高的级别包括:
debug
:调试信息。info
:普通信息。notice
:正常但值得注意的情况。warning
:警告,可能有问题。err
:错误,影响系统功能。crit
:严重错误,可能导致系统宕机。alert
:需要立即采取行动。emerg
:紧急情况,系统可能无法使用。
例如,以下规则将所有
auth
相关的info
及以上级别的日志记录到/var/log/auth.log
文件中:auth.info /var/log/auth.log
将内核警告级别以上的日志记录到
/var/log/kern.log
:kern.warn /var/log/kern.log
3.2 远程日志收集
rsyslog
支持远程日志收集,可以将日志发送到远程服务器进行集中管理。为了启用远程日志收集,需要在客户端和服务器上进行相应配置。
-
在日志服务器上,编辑
/etc/rsyslog.conf
,启用 UDP 或 TCP 监听:module(load="imudp") input(type="imudp" port="514")module(load="imtcp") input(type="imtcp" port="514")
然后重启
rsyslog
服务:sudo systemctl restart rsyslog
-
在客户端上,编辑
/etc/rsyslog.conf
,将日志发送到远程服务器:*.* @@192.168.1.100:514 # 使用 TCP 协议
或者:
*.* @192.168.1.100:514 # 使用 UDP 协议
同样,重启
rsyslog
以使配置生效。
3.3 日志轮转(Log Rotation)
日志文件会随着时间变得越来越大,因此需要定期对日志文件进行轮转(Log Rotation)。在 Linux 系统中,logrotate
工具负责自动轮转日志文件。它通常通过 cron 任务定期运行。
logrotate
的配置文件位于 /etc/logrotate.conf
,具体的服务日志文件配置通常位于 /etc/logrotate.d/
目录下。
一个简单的 logrotate
配置文件示例如下:
/var/log/syslog {dailyrotate 7compressmissingoknotifemptydelaycompresspostrotate/usr/lib/rsyslog/rsyslog-rotateendscript
}
- daily:每天轮转一次日志。
- rotate 7:最多保留 7 个旧日志文件。
- compress:压缩旧日志文件。
- missingok:如果日志文件不存在,不要报错。
- notifempty:如果日志文件为空,不进行轮转。
- postrotate:轮转后执行的脚本或命令,通常用于重新加载日志服务。
4. systemd
和 journald
在基于 systemd
的现代 Linux 系统中,journald
是 systemd
的日志收集组件。与传统的基于文本文件的 rsyslog
不同,journald
通过二进制格式存储日志,这带来了更好的性能和搜索功能。
4.1 journald
日志查看
journald
使用 journalctl
命令来查看系统日志。以下是一些常见的 journalctl
用法:
-
查看所有日志:
journalctl
-
按时间范围查看日志:
查看最近一小时的日志:
journalctl --since "1 hour ago"
-
查看特定服务的日志:
查看
nginx
服务的日志:journalctl -u nginx
-
查看启动后的日志:
查看本次启动后的日志:
journalctl -b
-
持续实时查看日志:
类似于
tail -f
,实时查看新生成的日志:journalctl -f
4.2 journald
配置
journald
的配置文件位于 /etc/systemd/journald.conf
。一些重要的配置选项包括:
- Storage:定义日志的存储方式。可以是
volatile
(存储在内存中,重启后丢失)、persistent
(存储在硬盘上)、auto
(默认,若/var/log/journal/
目录存在,则使用持久存储)。 - Compress:是否压缩日志文件。
- SystemMaxUse:定义日志占用的最大磁盘空间。
- SystemMaxFileSize:每个日志文件的最大大小。
例如,启用持久化日志存储并设置日志大小限制:
[Journal]
Storage=persistent
SystemMaxUse=1G
SystemMaxFileSize=200M
修改配置后,可以通过以下命令重新启动 journald
:
sudo systemctl restart systemd-journald
5. 日志分析和监控
除了记录系统日志,系统管理员还需要定期分析日志以发现潜在问题和异常行为。常见的日志分析工具和方法包括:
-
grep 和 awk:通过
grep
和awk
可以方便地过滤和提取日志中的关键信息。例如,查找所有 SSH 登录失败的日志条目:
grep "Failed password" /var/log/auth.log
-
日志监控工具:如
logwatch
,可以定期分析日志并生成简报。安装
logwatch
:sudo apt install logwatch
使用
logwatch
生成报告:sudo logwatch --detail high --mailto admin@example.com --service sshd
-
可视化工具:ELK 堆栈(Elasticsearch、Logstash、Kibana)是常用的日志收集、分析和可视化解决方案。通过
Logstash
收集日志,Elasticsearch
进行存储和检索,Kibana
提供用户友好的界面进行日志可视化。
6. 日志管理的最佳实践
- 定期检查日志:系统管理员应定期检查关键日志文件,如认证日志(
auth.log
)、系统日志(syslog
),以尽早发现异常。 - 配置日志轮转:确保日志文件不会占用过多的磁盘空间,合理设置轮转策略,压缩旧日志。
- 启用远程日志收集:对于关键的服务器,使用集中式日志管理工具(如 ELK、Graylog),将日志发送到远程服务器,避免本地日志被篡改。
- 设置合适的日志级别:根据需求调整日志的记录级别,避免过多不必要的日志信息占用系统资源。
7. 总结
日志管理是 Linux 系统管理与监控的重要组成部分。通过配置 rsyslog
或 journald
,系统可以收集、存储和管理大量的日志信息。借助 logrotate
,日志可以自动轮转,防止占用过多磁盘空间。使用工具如 journalctl
或 logwatch
,管理员可以轻松分析和监控系统状态。
相关文章:
linux-系统管理与监控-日志管理
Linux 系统管理与监控:日志管理 1. 日志管理概述 日志文件是系统在运行过程中记录的各种信息,它们是系统管理员排查问题、监控系统健康状况的重要工具。在 Linux 系统中,日志涵盖了系统事件、内核信息、用户操作、软件服务和应用程序等内容…...

VulhubDC-4靶机详解
项目地址 https://download.vulnhub.com/dc/DC-4.zip实验过程 将下载好的靶机导入到VMware中,设置网络模式为NAT模式,然后开启靶机虚拟机 使用nmap进行主机发现,获取靶机IP地址 nmap 192.168.47.1-254根据对比可知DC-4的一个ip地址为192.1…...

[数据集][目标检测]烟叶病害检测数据集VOC+YOLO格式612张3类别
数据集格式:Pascal VOC格式YOLO格式(不包含分割路径的txt文件,仅仅包含jpg图片以及对应的VOC格式xml文件和yolo格式txt文件) 图片数量(jpg文件个数):612 标注数量(xml文件个数):612 标注数量(txt文件个数):612 标注类别…...

Sapiens——人类视觉大模型的基础
引言 大规模预训练以及随后针对特定任务的语言建模微调取得了显著成功,已将这种方法确立为标准做法。同样, 计算机视觉方法正逐步采用大规模数据进行预训练。LAION5B、Instagram-3.5B、JFT-300M、LVD142M、Visual Genome 和 YFCC100M 等大型数据集的出现…...

《深度学习》【项目】 OpenCV 身份证号识别
目录 一、项目实施 1、自定义函数 2、定位模版图像中的数字 1)模版图二值化处理 运行结果: 2)展示所有数字 运行结果: 3、识别身份证号 1)灰度图、二值化图展示 运行结果 2)定位身份证号每一个数…...
机器学习实战—天猫用户重复购买预测
目录 背景 数据集 用户画像数据 用户行为日志数据 训练数据 测试数据 提交数据 其它数据 数据探索 导入依赖库 读取数据 查看数据信息 缺失值分析 数据分布 复购因素分析 特征工程 模型训练 模型验证 背景 商家有时会在特定日期,例如节礼日(Boxing-day),黑…...

一款rust语言AI神器cursor在ubuntu环境下的安装启动教程
虽然cursor目前只支持英文但是它强大的代码联想能力以及问答能力,可以高效的提高编码效率。 如下步骤所有的前提是你的ubuntu上面已经安装了vscode以及其必须的extensions。 1 下载 到官网https://www.cursor.com下载指定版本的软件。 下载到本地以后会生成如下软…...
【C#生态园】发现C#中的数据科学魔法:6款不可错过的库详解
探索C#中的数据科学与机器学习:6个强大库解析 前言 在数据科学和机器学习领域,Python一直占据着主导地位,然而对于习惯使用C#编程语言的开发人员来说,寻找适用于C#的数据科学库一直是一个挑战。本文将介绍几个流行的用于C#的数据…...
导入neo4j数据CSV文件及csv整理demo示例
Neo4j导入CSV文件(实体和关系)_neo4j导入csv关系-CSDN博客 https://blog.csdn.net/m0_69483514/article/details/131296060?spm1001.2101.3001.6661.1&utm_mediumdistribute.pc_relevant_t0.none-task-blog-2%7Edefault%7EBlogCommendFromBaidu%7ER…...
bug | pycharm社区版无sciview解决办法
一个程序运行多个图,plt.show()一次只弹出一个独立窗口,必须关掉一个才能显示下一张图,想找sciview却发现找不到,本来以为是新版pycharm的问题,后来才发现是community版根本没有sciview…不想换专业版了,研…...
PL/SQL程序设计入门
PL/SQL程序设计 PL/SQL起步鼻祖:hello World语法分析声明部分举例 应用举例 PL/SQL 起步鼻祖:hello World 先举个例子,用PL/SQL打印输出hello world declarev_string varchar2(20); beginv_string:hello world;dbms_output.put_line(v_str…...
一、Numpy入门
Numpy入门 前言一、numpy简介二、Numpy的ndarray属性2.1. 直接用 .属性的方法实现2.2. 直接函数的方法实现 三、Numpy的ndarray的创建3.1. ndarray介绍3.2. 数组形式3.3. zeros()、ones() 、 empty()3.4. arange(),类似 python 的 range() ,创建一个一维…...

自动化测试框架设计核心理念——关键字驱动
很多人在接触自动化测试时,都会听到关键字驱动这样的一个概念,但是在研究时却有些不太清楚这种驱动模式的设计及实现到底该如何着手去做。 关键字驱动,作为一种自动化测试框架的设计形式,在很早的时候就已经有提及过了。它的基本…...
GO GIN SSE DEMO
文章目录 接口描述:1.1 /events/time - 时间流1.2 /events/numbers - 数字流 2. 用户管理接口2.1 /user/:id - 获取用户信息2.2 /user - 创建用户 项目结构1. main.go2. 创建 handlers/event_time.go3. 创建 handlers/event_number.go4. handlers/user.go5. 运行服务…...
GEE教程:1950-2023年ECMWF数据中积雪的长时序统计分析
目录 简介 数据 函数 millis() Arguments: Returns: Long 代码 结果 简介 1950-2023年ECMWF数据中积雪的长时序统计分析 数据 ECMWF/ERA5_LAND/DAILY_AGGR是由欧洲中期天气预报中心(ECMWF)提供的数据集。它是一个格网数据集,包含从ERA5-Land再分析数据集中得出的…...
【React Native】路由和导航
RN 中的路由是通过 React Navigation 组件来完成的 Stack 路由导航RN 中默认没有类似浏览器的 history 对象在 RN 中路由跳转之前,需要先将路由声明在 Stack 中<Stack.Navigator initialRouteNameDetails> <Stack.Screen nameDetails /> </Stack.N…...

Linux环境基础开发工具---vim
1.快速的介绍一下vim vim是一款多模式的编辑器,里面有很多子命令,来实现代码编写操作。 2.vim的模式 vim一共有三种模式:底行模式,命令模式,插入模式。 2.1vim模式之间的切换 2.2 谈论常见的模式---命令模式…...

python AssertionError: Torch not compiled with CUDA enabled
查看:torch import torch# 输出带CPU,表示torch是CPU版本的 print(ftorch的版本是:{torch.__version__}) # print(ftorch是否能使用cuda:{torch.cuda.is_available()}) 修改一下代码,将cuda改成cpu 最后运行正常&…...

Pandas的入门操作-Series对象
Pandas的数据结构 Series对象 class pandas.Series(dataNone, indexNone) data参数 含义:data是Series构造函数中最主要的参数,它用来指定要存储在Series中的数据。 数据类型:data可以是多种数据类型,例如: Python 列…...

自然语言处理系列六十八》搜索引擎项目实战》搜索引擎系统架构设计
注:此文章内容均节选自充电了么创始人,CEO兼CTO陈敬雷老师的新书《自然语言处理原理与实战》(人工智能科学与技术丛书)【陈敬雷编著】【清华大学出版社】 文章目录 自然语言处理系列六十八搜索引擎项目实战》搜索引擎系统架构设计…...
【Linux】C语言执行shell指令
在C语言中执行Shell指令 在C语言中,有几种方法可以执行Shell指令: 1. 使用system()函数 这是最简单的方法,包含在stdlib.h头文件中: #include <stdlib.h>int main() {system("ls -l"); // 执行ls -l命令retu…...

8k长序列建模,蛋白质语言模型Prot42仅利用目标蛋白序列即可生成高亲和力结合剂
蛋白质结合剂(如抗体、抑制肽)在疾病诊断、成像分析及靶向药物递送等关键场景中发挥着不可替代的作用。传统上,高特异性蛋白质结合剂的开发高度依赖噬菌体展示、定向进化等实验技术,但这类方法普遍面临资源消耗巨大、研发周期冗长…...

渗透实战PortSwigger靶场-XSS Lab 14:大多数标签和属性被阻止
<script>标签被拦截 我们需要把全部可用的 tag 和 event 进行暴力破解 XSS cheat sheet: https://portswigger.net/web-security/cross-site-scripting/cheat-sheet 通过爆破发现body可以用 再把全部 events 放进去爆破 这些 event 全部可用 <body onres…...

UDP(Echoserver)
网络命令 Ping 命令 检测网络是否连通 使用方法: ping -c 次数 网址ping -c 3 www.baidu.comnetstat 命令 netstat 是一个用来查看网络状态的重要工具. 语法:netstat [选项] 功能:查看网络状态 常用选项: n 拒绝显示别名&#…...
Auto-Coder使用GPT-4o完成:在用TabPFN这个模型构建一个预测未来3天涨跌的分类任务
通过akshare库,获取股票数据,并生成TabPFN这个模型 可以识别、处理的格式,写一个完整的预处理示例,并构建一个预测未来 3 天股价涨跌的分类任务 用TabPFN这个模型构建一个预测未来 3 天股价涨跌的分类任务,进行预测并输…...

linux arm系统烧录
1、打开瑞芯微程序 2、按住linux arm 的 recover按键 插入电源 3、当瑞芯微检测到有设备 4、松开recover按键 5、选择升级固件 6、点击固件选择本地刷机的linux arm 镜像 7、点击升级 (忘了有没有这步了 估计有) 刷机程序 和 镜像 就不提供了。要刷的时…...

第 86 场周赛:矩阵中的幻方、钥匙和房间、将数组拆分成斐波那契序列、猜猜这个单词
Q1、[中等] 矩阵中的幻方 1、题目描述 3 x 3 的幻方是一个填充有 从 1 到 9 的不同数字的 3 x 3 矩阵,其中每行,每列以及两条对角线上的各数之和都相等。 给定一个由整数组成的row x col 的 grid,其中有多少个 3 3 的 “幻方” 子矩阵&am…...

优选算法第十二讲:队列 + 宽搜 优先级队列
优选算法第十二讲:队列 宽搜 && 优先级队列 1.N叉树的层序遍历2.二叉树的锯齿型层序遍历3.二叉树最大宽度4.在每个树行中找最大值5.优先级队列 -- 最后一块石头的重量6.数据流中的第K大元素7.前K个高频单词8.数据流的中位数 1.N叉树的层序遍历 2.二叉树的锯…...

排序算法总结(C++)
目录 一、稳定性二、排序算法选择、冒泡、插入排序归并排序随机快速排序堆排序基数排序计数排序 三、总结 一、稳定性 排序算法的稳定性是指:同样大小的样本 **(同样大小的数据)**在排序之后不会改变原始的相对次序。 稳定性对基础类型对象…...

MySQL 知识小结(一)
一、my.cnf配置详解 我们知道安装MySQL有两种方式来安装咱们的MySQL数据库,分别是二进制安装编译数据库或者使用三方yum来进行安装,第三方yum的安装相对于二进制压缩包的安装更快捷,但是文件存放起来数据比较冗余,用二进制能够更好管理咱们M…...