关于循环Socket创建超Linux文件句柄限制现象分析
项目场景:
在操作系统的世界中万物皆文件。之前拜读过一些作品:针对于socket的创建,Linux也相应创建文件(专业术语中也称文件句柄),于是,我想做一些关于极限的操作,看看这些极限操作会出现什么样的报错,以及相应的解决方案是什么。
问题描述
博主的主语是Java,所以,用Java编写一段程序试试看,观察观察:
import java.io.IOException;
import java.net.InetSocketAddress;
import java.net.Socket;public class FileOpenTest{public FileOpenTest() throws Exception{}public static void main(String[] args) throws Exception{int numberOfSockets = 189412;Socket[] sockets = new Socket[numberOfSockets];for(int i = 0; i < numberOfSockets; ++i) {try {int port = 8000 + i;sockets[i] = new Socket();sockets[i].connect(new InetSocketAddress("198.1.108.211", 22));System.out.println("Socket " + i + " connected to port " + port);System.out.println(i);} catch (IOException var5) {IOException e = var5;e.printStackTrace();Thread.sleep(Integer.MAX_VALUE);return;}}}
}
部署到服务器198.1.108.210,运行程序后报以下错误:
java.net.SocketException: Too many open files
at java.base/java.net.Socket.createImpl(Socket.java:479)
at java.base/java.net.Socket.connect(Socket.java:606)
at java.base/java.net.Socket.connect(Socket.java:557)
at FileOpenTest.main(FileOpenTest.java:17)
另外,同样的代码在windows上的报错如下:
创建了有16288个socket,跟Linux上的限制数值不一样,这应该是windows的设置。
原因分析:
于是博主先顺藤摸瓜,找找网上对应的解决方案,最终找到了一篇比较满意的答案。参考
阅读原文之后并实践之后,发现是Linux操作系统这个硬限制参数限制了:
文件句柄限制:
#硬限制
ulimit -Ha
#软限制
ulimit -a
ulimit -Sa
至于硬软限制的区别,网上说是软限制仅会发出警告,而硬限制则会报错。
解决方案:
提示:这里填写该问题的具体解决方案:
例如:新建一个 Message
对象,并将读取到的数据存入 Message
,然后 mHandler.obtainMessage(READ_DATA, bytes, -1, buffer).sendToTarget();
换成 mHandler.sendMessage()
。
文章中提到的解决方案是修改/etc/security/limits.conf
文件,在文件末尾添加如下设置并重新打开窗口运行程序:
*代表所有用户
* soft nofile 655350
* hard nofile 655350
我分别仅设置
* soft nofile 5000
或者
* hard nofile 5000
发现真正受影响的参数的设置是后者-硬限制
其实这也正跟软硬限制的区别符合。
日常排查:
#查看当前系统打开的文件数
cat /proc/sys/fs/file-nr
#监控当前系统打开的文件数(每1秒更新一次)
watch -n 1 cat /proc/sys/fs/file-nr
#查看打开进程打开的文件数(倒叙)
lsof -n|awk '{print $2}'|sort|uniq -c|sort -nr|more
#根据lsof -n|awk '{print $2}'|sort|uniq -c|sort -nr|more取排在最前的进程,进而得到是哪个进程的具体描述,如下例子是1612进程
ps aux|grep 1612
#可结合下面的命令分析
#查看操作系统给改进程的硬限制值分析
cat /proc/1612/limits
#查看进程持有的句柄数,若值大于cat /proc/1612/limits中的设置,基本可以确定问题所在
ls /proc/1612/fd/|wc -l
#查看进程持有的句柄数,若值大于cat /proc/1612/limits中的设置,基本可以确定问题所在
cat /proc/1612/limits |grep "open"
虽说上面的Linux操作系统级别的调优可以解决,但是我们首先更应该关注的是业务代码是否编写合理,就比如我上面的代码块,并没有资源关闭(为了极限测试)。否则,即使调优了,那也只会白白浪费资源。
其他参考命令:
查看当前系统支持打开的最大句柄数:more /proc/sys/fs/file-max
统计各进程打开句柄数:lsof -n|awk ‘{print $2}’|sort |uniq -c|sort -nr
统计各用户打开句柄数:lsof -n|awk ‘{print $3}’|sort |uniq -c|sort -nr
统计各命令打开句柄数:lsof -n|awk ‘{print $1}’|sort |uniq -c|sort -nr
查看当前进程实时打开的文件数:lsof -p 进程PID | wc -l
查看某个进程的句柄数限制:cat /proc/进程ID/limits
查看系统限制的最大文件打开数:cat /proc/sys/fs/file-max
查看系统当前已使用的文件句柄数:cat /proc/sys/fs/file-nr
参考
参考
参考
相关文章:

关于循环Socket创建超Linux文件句柄限制现象分析
项目场景: 在操作系统的世界中万物皆文件。之前拜读过一些作品:针对于socket的创建,Linux也相应创建文件(专业术语中也称文件句柄),于是,我想做一些关于极限的操作,看看这些极限操作…...
简单说说MySQL中 SELECT 语句执行流程
流程讲解 MySQL 中 SELECT 语句的执行流程分为多个步骤,通常从用户发出查询请求到 MySQL 返回结果包含以下过程: 客户端/服务器通信: 用户向 MySQL 服务器发送 SELECT 查询语句。 查询解析(Parser): MySQ…...
国产游戏技术:迈向全球引领者的征途
目录 国产游戏技术能否引领全球? 一、国产游戏技术的崛起之路 1.1 初期探索与积累 1.2 技术创新的加速 1.3 文化自信的体现 二、国产游戏技术的核心竞争力 2.1 本地化与定制化策略 2.2 技术创新与应用 2.3 产业链协同与生态构建 三、面临的挑战与应对策略…...

小程序体验版无法正常请求接口,开启 调试可以正常请求
在本地开发工具可以正常访问小程序,上传代码后打开体验版,界面无法请求接口,手机小程序打开调试模式可以正常访问。这可以查看下小程序后台是否设置了服务器域名以及业务域名 然后查看小程序开发工具 - 详情 - 项目配置 重新上传代码…...

什么是动态数据脱敏?
原文地址 https://www.bytebase.com/blog/what-is-dynamic-data-masking/ 动态数据脱敏(DDM)动态更改返回给应用程序或用户的数据库记录,以此来实时保护敏感数据,且不会更改静态数据。 DDM 与静态数据脱敏(SDM&#x…...

【机器学习】11——矩阵求导
机器学习11——矩阵求导 打公式不太好标注,全图警告!!! 文章目录 机器学习11——矩阵求导1.1标量对向量1.2标量对矩阵2.1向量对标量2.2向量对向量2.3向量对矩阵 1.1标量对向量 1.2标量对矩阵 X是m*n的矩阵,不严谨&am…...
Spring Boot 实战:结合策略模式实现动态定价服务
引言 在现代商业环境中,价格策略的灵活性对于吸引客户和提高市场竞争力至关重要。传统的定价方法往往固定不变,而随着市场的变化和技术的发展,能够根据不同的条件和场景来调整价格的动态定价策略变得越来越重要。Spring Boot 框架以其简洁的…...
Serverless架构
Serverless架构:漂浮在云端的轻盈与自由 类似于 Fn Project 的 Serverless 开源服务有很多,它们都旨在简化函数即服务(FaaS)的开发流程,使得开发者可以更专注于业务逻辑而不是底层基础设施。下面列举了一些知名的 Serverless 开源平台和服务…...

9.20日学习记录及相关问题解答
部分一 今天看了一本古老的书。学到了一些有关计算机的远古的知识。弥补了一些之前没有意识到的空白点。 原来上个世纪就有AI这个东西了 现阶段的主流模式,在许多年前其实是将来要发展的对象。 B/S指的是客户机/服务器结构模式 C/S是在B/S基础上发展过来的。三层结…...

【网络安全】依赖混淆漏洞实现RCE
未经许可,不得转载。 文章目录 正文 依赖混淆是一种供应链攻击漏洞,发生在企业的内部依赖包错误地从公共库(如npm)下载,而不是从其私有注册表下载。攻击者可以在公共注册表中上传一个与公司内部包同名的恶意包…...

FC优化配置
1.集群扩容CNA时打开bmc 2.给rhel7虚拟机安装tools-需要重启虚拟机 3.FC上创建集群 资源池右击创建集群(物理机大于10台,分业务类型创建集群) (解决集群内主机挂了,动态调整) (解决集群内个别…...

文件防泄漏方法有哪些|6个方法有效防止文件泄密
文件防泄漏是企业和组织保护其敏感信息和核心资产的重要手段。 以下是六个有效防止文件泄密的方法: 1. 文件加密 透明加密:使用专业的防泄密软件,如安企神等,对敏感文件进行透明加密处理。 这种加密方式在用户创建、编辑和保存…...
云盘还安全么?阿里云盘出现BUG,惊现大量陌生人照片
近日,网友称,阿里云盘出现“BUG”。网友表示,在阿里云盘的相册中,只要创建一个新的文件夹,就可以看到其他用户的照片。 记者从反映问题的相关视频中看到,一名用户在阿里云盘的相册功能中,创建了…...

蘑菇成熟待收检测系统源码分享
蘑菇成熟待收检测检测系统源码分享 [一条龙教学YOLOV8标注好的数据集一键训练_70全套改进创新点发刊_Web前端展示] 1.研究背景与意义 项目参考AAAI Association for the Advancement of Artificial Intelligence 项目来源AACV Association for the Advancement of Computer…...

基于单片机的智能小车的开发与设计
摘要:本文论述了基于 STC89C52 单片机的智能小车的开发与设计过程。该设计采用单片机、电机驱动及光电循迹等技术,保证小车在无人管理状态下,能按照预先设定的线路实现自动循迹功能。在电路结构设计中力求方便,可操作,…...

解决 GitLab CI/CD 中的 `413 Request Entity Too Large` 错误
解决 GitLab CI/CD 中的 413 Request Entity Too Large 错误 在使用 GitLab CI/CD 时,我们可能会遇到 413 Request Entity Too Large 的错误提示。通常,这是因为 GitLab Runner 在上传工件(artifacts)到 GitLab 服务器时…...

Java项目实战II基于Java+Spring Boot+MySQL的洗衣店订单管理系统(开发文档+源码+数据库)
目录 一、前言 二、技术介绍 三、系统实现 四、论文参考 五、核心代码 六、源码获取 全栈码农以及毕业设计实战开发,CSDN平台Java领域新星创作者 一、前言 随着生活节奏的加快,现代人对便捷、高效服务的需求日益增长,洗衣店作为日常生…...
Can‘t connect to local MySQL server through socket
mysql -uroot ERROR 2002 (HY000): Cant connect to local MySQL server through socket /tmp/mysql.sock (2)这是mysql登录时找不到套接字的问题。 首先需要明白的是,Linux端的mysql server启动时会开启一个socket,Linux上的MySQL的客户端在不使用IP连…...

【车载以太网】【SOME/IP】Wireshark 解析
目录 Wireshark 官方插件 相关代码: 启用协议插件 Lua插件 测试数据包 Wireshark 下载链接:Wireshark Go DeepSOMEIP插件介绍:https://www.wireshark.org/docs/dfref/s/someip.html官方插件 Wireshark从3.2版本开始支持SOME/IP,启用相应的插件即可以…...
Perl 进程管理
Perl 进程管理 Perl,作为一种高级、通用、解释型、动态编程语言,广泛用于各种任务的自动化,包括进程管理。在Perl中,进程管理涉及创建、控制、同步和终止进程。本文将深入探讨Perl中的进程管理,包括基础知识、高级技巧以及最佳实践。 基础知识 进程创建 在Perl中,使用…...

JavaSec-RCE
简介 RCE(Remote Code Execution),可以分为:命令注入(Command Injection)、代码注入(Code Injection) 代码注入 1.漏洞场景:Groovy代码注入 Groovy是一种基于JVM的动态语言,语法简洁,支持闭包、动态类型和Java互操作性,…...
【杂谈】-递归进化:人工智能的自我改进与监管挑战
递归进化:人工智能的自我改进与监管挑战 文章目录 递归进化:人工智能的自我改进与监管挑战1、自我改进型人工智能的崛起2、人工智能如何挑战人类监管?3、确保人工智能受控的策略4、人类在人工智能发展中的角色5、平衡自主性与控制力6、总结与…...
《Playwright:微软的自动化测试工具详解》
Playwright 简介:声明内容来自网络,将内容拼接整理出来的文档 Playwright 是微软开发的自动化测试工具,支持 Chrome、Firefox、Safari 等主流浏览器,提供多语言 API(Python、JavaScript、Java、.NET)。它的特点包括&a…...
Spring Boot+Neo4j知识图谱实战:3步搭建智能关系网络!
一、引言 在数据驱动的背景下,知识图谱凭借其高效的信息组织能力,正逐步成为各行业应用的关键技术。本文聚焦 Spring Boot与Neo4j图数据库的技术结合,探讨知识图谱开发的实现细节,帮助读者掌握该技术栈在实际项目中的落地方法。 …...

ardupilot 开发环境eclipse 中import 缺少C++
目录 文章目录 目录摘要1.修复过程摘要 本节主要解决ardupilot 开发环境eclipse 中import 缺少C++,无法导入ardupilot代码,会引起查看不方便的问题。如下图所示 1.修复过程 0.安装ubuntu 软件中自带的eclipse 1.打开eclipse—Help—install new software 2.在 Work with中…...
CSS设置元素的宽度根据其内容自动调整
width: fit-content 是 CSS 中的一个属性值,用于设置元素的宽度根据其内容自动调整,确保宽度刚好容纳内容而不会超出。 效果对比 默认情况(width: auto): 块级元素(如 <div>)会占满父容器…...
【Go语言基础【12】】指针:声明、取地址、解引用
文章目录 零、概述:指针 vs. 引用(类比其他语言)一、指针基础概念二、指针声明与初始化三、指针操作符1. &:取地址(拿到内存地址)2. *:解引用(拿到值) 四、空指针&am…...

FFmpeg:Windows系统小白安装及其使用
一、安装 1.访问官网 Download FFmpeg 2.点击版本目录 3.选择版本点击安装 注意这里选择的是【release buids】,注意左上角标题 例如我安装在目录 F:\FFmpeg 4.解压 5.添加环境变量 把你解压后的bin目录(即exe所在文件夹)加入系统变量…...
pycharm 设置环境出错
pycharm 设置环境出错 pycharm 新建项目,设置虚拟环境,出错 pycharm 出错 Cannot open Local Failed to start [powershell.exe, -NoExit, -ExecutionPolicy, Bypass, -File, C:\Program Files\JetBrains\PyCharm 2024.1.3\plugins\terminal\shell-int…...
【Kafka】Kafka从入门到实战:构建高吞吐量分布式消息系统
Kafka从入门到实战:构建高吞吐量分布式消息系统 一、Kafka概述 Apache Kafka是一个分布式流处理平台,最初由LinkedIn开发,后成为Apache顶级项目。它被设计用于高吞吐量、低延迟的消息处理,能够处理来自多个生产者的海量数据,并将这些数据实时传递给消费者。 Kafka核心特…...