当前位置：首页 > news >正文

RuntimeError: Unexpected error from cudaGetDeviceCount

news 2026/5/25 18:50:24

RuntimeError: Unexpected error from cudaGetDeviceCount

0. 引言
1. 临时解决方法

0. 引言

使用 vllm-0.4.2 部署时，多卡正常运行。升级到 vllm-0.5.1 时，报错如下：

(VllmWorkerProcess pid=30692) WARNING 07-12 08:16:22 utils.py:562] Using 'pin_memory=False' as WSL is detected. This may slow down the performance.
(VllmWorkerProcess pid=30693) WARNING 07-12 08:16:22 utils.py:562] Using 'pin_memory=False' as WSL is detected. This may slow down the performance.
(VllmWorkerProcess pid=30694) WARNING 07-12 08:16:22 utils.py:562] Using 'pin_memory=False' as WSL is detected. This may slow down the performance.
WARNING 07-12 08:16:22 utils.py:562] Using 'pin_memory=False' as WSL is detected. This may slow down the performance.
(VllmWorkerProcess pid=30693) Process VllmWorkerProcess:
(VllmWorkerProcess pid=30693) Traceback (most recent call last):
(VllmWorkerProcess pid=30693)   File "/root/miniconda3/envs/vllm2025/lib/python3.10/multiprocessing/process.py", line 314, in _bootstrap
(VllmWorkerProcess pid=30693)     self.run()
(VllmWorkerProcess pid=30693)   File "/root/miniconda3/envs/vllm2025/lib/python3.10/multiprocessing/process.py", line 108, in run
(VllmWorkerProcess pid=30693)     self._target(*self._args, **self._kwargs)
(VllmWorkerProcess pid=30693)   File "/root/miniconda3/envs/vllm2025/lib/python3.10/site-packages/vllm/executor/multiproc_worker_utils.py", line 210, in _run_worker_process
(VllmWorkerProcess pid=30693)     worker = worker_factory()
(VllmWorkerProcess pid=30693)              ^^^^^^^^^^^^^^^^
(VllmWorkerProcess pid=30693)   File "/root/miniconda3/envs/vllm2025/lib/python3.10/site-packages/vllm/executor/gpu_executor.py", line 68, in _create_worker
(VllmWorkerProcess pid=30693)     wrapper.init_worker(**self._get_worker_kwargs(local_rank, rank,
(VllmWorkerProcess pid=30693)   File "/root/miniconda3/envs/vllm2025/lib/python3.10/site-packages/vllm/worker/worker_base.py", line 334, in init_worker
(VllmWorkerProcess pid=30693)     self.worker = worker_class(*args, **kwargs)
(VllmWorkerProcess pid=30693)                   ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
(VllmWorkerProcess pid=30693)   File "/root/miniconda3/envs/vllm2025/lib/python3.10/site-packages/vllm/worker/worker.py", line 85, in __init__
(VllmWorkerProcess pid=30693)     self.model_runner: GPUModelRunnerBase = ModelRunnerClass(
(VllmWorkerProcess pid=30693)                                             ^^^^^^^^^^^^^^^^^
(VllmWorkerProcess pid=30693)   File "/root/miniconda3/envs/vllm2025/lib/python3.10/site-packages/vllm/worker/model_runner.py", line 217, in __init__
(VllmWorkerProcess pid=30693)     self.attn_backend = get_attn_backend(
(VllmWorkerProcess pid=30693)                         ^^^^^^^^^^^^^^^^^
(VllmWorkerProcess pid=30693)   File "/root/miniconda3/envs/vllm2025/lib/python3.10/site-packages/vllm/attention/selector.py", line 45, in get_attn_backend
(VllmWorkerProcess pid=30693)     backend = which_attn_to_use(num_heads, head_size, num_kv_heads,
(VllmWorkerProcess pid=30693)               ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
(VllmWorkerProcess pid=30693)   File "/root/miniconda3/envs/vllm2025/lib/python3.10/site-packages/vllm/attention/selector.py", line 151, in which_attn_to_use
(VllmWorkerProcess pid=30693)     if torch.cuda.get_device_capability()[0] < 8:
(VllmWorkerProcess pid=30693)        ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
(VllmWorkerProcess pid=30693)   File "/root/miniconda3/envs/vllm2025/lib/python3.10/site-packages/torch/cuda/__init__.py", line 430, in get_device_capability
(VllmWorkerProcess pid=30693)     prop = get_device_properties(device)
(VllmWorkerProcess pid=30693)            ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
(VllmWorkerProcess pid=30693)   File "/root/miniconda3/envs/vllm2025/lib/python3.10/site-packages/torch/cuda/__init__.py", line 444, in get_device_properties
(VllmWorkerProcess pid=30693)     _lazy_init()  # will define _get_device_properties
(VllmWorkerProcess pid=30693)     ^^^^^^^^^^^^
(VllmWorkerProcess pid=30693)   File "/root/miniconda3/envs/vllm2025/lib/python3.10/site-packages/torch/cuda/__init__.py", line 293, in _lazy_init
(VllmWorkerProcess pid=30693)     torch._C._cuda_init()
(VllmWorkerProcess pid=30693) RuntimeError: Unexpected error from cudaGetDeviceCount(). Did you run some cuda functions before calling NumCudaDevices() that might have already set an error? Error 2: out of memory
(VllmWorkerProcess pid=30692) Process VllmWorkerProcess:
(VllmWorkerProcess pid=30692) Traceback (most recent call last):
(VllmWorkerProcess pid=30692)   File "/root/miniconda3/envs/vllm2025/lib/python3.10/multiprocessing/process.py", line 314, in _bootstrap
(VllmWorkerProcess pid=30692)     self.run()
(VllmWorkerProcess pid=30692)   File "/root/miniconda3/envs/vllm2025/lib/python3.10/multiprocessing/process.py", line 108, in run
(VllmWorkerProcess pid=30692)     self._target(*self._args, **self._kwargs)
(VllmWorkerProcess pid=30692)   File "/root/miniconda3/envs/vllm2025/lib/python3.10/site-packages/vllm/executor/multiproc_worker_utils.py", line 210, in _run_worker_process
(VllmWorkerProcess pid=30692)     worker = worker_factory()
(VllmWorkerProcess pid=30692)              ^^^^^^^^^^^^^^^^
(VllmWorkerProcess pid=30692)   File "/root/miniconda3/envs/vllm2025/lib/python3.10/site-packages/vllm/executor/gpu_executor.py", line 68, in _create_worker
(VllmWorkerProcess pid=30692)     wrapper.init_worker(**self._get_worker_kwargs(local_rank, rank,
(VllmWorkerProcess pid=30692)   File "/root/miniconda3/envs/vllm2025/lib/python3.10/site-packages/vllm/worker/worker_base.py", line 334, in init_worker
(VllmWorkerProcess pid=30692)     self.worker = worker_class(*args, **kwargs)
(VllmWorkerProcess pid=30692)                   ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
(VllmWorkerProcess pid=30692)   File "/root/miniconda3/envs/vllm2025/lib/python3.10/site-packages/vllm/worker/worker.py", line 85, in __init__
(VllmWorkerProcess pid=30692)     self.model_runner: GPUModelRunnerBase = ModelRunnerClass(
(VllmWorkerProcess pid=30692)                                             ^^^^^^^^^^^^^^^^^
(VllmWorkerProcess pid=30692)   File "/root/miniconda3/envs/vllm2025/lib/python3.10/site-packages/vllm/worker/model_runner.py", line 217, in __init__
(VllmWorkerProcess pid=30692)     self.attn_backend = get_attn_backend(
(VllmWorkerProcess pid=30692)                         ^^^^^^^^^^^^^^^^^
(VllmWorkerProcess pid=30692)   File "/root/miniconda3/envs/vllm2025/lib/python3.10/site-packages/vllm/attention/selector.py", line 45, in get_attn_backend
(VllmWorkerProcess pid=30692)     backend = which_attn_to_use(num_heads, head_size, num_kv_heads,
(VllmWorkerProcess pid=30692)               ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
(VllmWorkerProcess pid=30692)   File "/root/miniconda3/envs/vllm2025/lib/python3.10/site-packages/vllm/attention/selector.py", line 151, in which_attn_to_use
(VllmWorkerProcess pid=30692)     if torch.cuda.get_device_capability()[0] < 8:
(VllmWorkerProcess pid=30692)        ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
(VllmWorkerProcess pid=30692)   File "/root/miniconda3/envs/vllm2025/lib/python3.10/site-packages/torch/cuda/__init__.py", line 430, in get_device_capability
(VllmWorkerProcess pid=30692)     prop = get_device_properties(device)
(VllmWorkerProcess pid=30692)            ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
(VllmWorkerProcess pid=30692)   File "/root/miniconda3/envs/vllm2025/lib/python3.10/site-packages/torch/cuda/__init__.py", line 444, in get_device_properties
(VllmWorkerProcess pid=30692)     _lazy_init()  # will define _get_device_properties
(VllmWorkerProcess pid=30692)     ^^^^^^^^^^^^
(VllmWorkerProcess pid=30692)   File "/root/miniconda3/envs/vllm2025/lib/python3.10/site-packages/torch/cuda/__init__.py", line 293, in _lazy_init
(VllmWorkerProcess pid=30692)     torch._C._cuda_init()
(VllmWorkerProcess pid=30692) RuntimeError: Unexpected error from cudaGetDeviceCount(). Did you run some cuda functions before calling NumCudaDevices() that might have already set an error? Error 2: out of memory
(VllmWorkerProcess pid=30694) Process VllmWorkerProcess:
(VllmWorkerProcess pid=30694) Traceback (most recent call last):
(VllmWorkerProcess pid=30694)   File "/root/miniconda3/envs/vllm2025/lib/python3.10/multiprocessing/process.py", line 314, in _bootstrap
(VllmWorkerProcess pid=30694)     self.run()
(VllmWorkerProcess pid=30694)   File "/root/miniconda3/envs/vllm2025/lib/python3.10/multiprocessing/process.py", line 108, in run
(VllmWorkerProcess pid=30694)     self._target(*self._args, **self._kwargs)
(VllmWorkerProcess pid=30694)   File "/root/miniconda3/envs/vllm2025/lib/python3.10/site-packages/vllm/executor/multiproc_worker_utils.py", line 210, in _run_worker_process
(VllmWorkerProcess pid=30694)     worker = worker_factory()
(VllmWorkerProcess pid=30694)              ^^^^^^^^^^^^^^^^
(VllmWorkerProcess pid=30694)   File "/root/miniconda3/envs/vllm2025/lib/python3.10/site-packages/vllm/executor/gpu_executor.py", line 68, in _create_worker
(VllmWorkerProcess pid=30694)     wrapper.init_worker(**self._get_worker_kwargs(local_rank, rank,
(VllmWorkerProcess pid=30694)   File "/root/miniconda3/envs/vllm2025/lib/python3.10/site-packages/vllm/worker/worker_base.py", line 334, in init_worker
(VllmWorkerProcess pid=30694)     self.worker = worker_class(*args, **kwargs)
(VllmWorkerProcess pid=30694)                   ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
(VllmWorkerProcess pid=30694)   File "/root/miniconda3/envs/vllm2025/lib/python3.10/site-packages/vllm/worker/worker.py", line 85, in __init__
(VllmWorkerProcess pid=30694)     self.model_runner: GPUModelRunnerBase = ModelRunnerClass(
(VllmWorkerProcess pid=30694)                                             ^^^^^^^^^^^^^^^^^
(VllmWorkerProcess pid=30694)   File "/root/miniconda3/envs/vllm2025/lib/python3.10/site-packages/vllm/worker/model_runner.py", line 217, in __init__
(VllmWorkerProcess pid=30694)     self.attn_backend = get_attn_backend(
(VllmWorkerProcess pid=30694)                         ^^^^^^^^^^^^^^^^^
(VllmWorkerProcess pid=30694)   File "/root/miniconda3/envs/vllm2025/lib/python3.10/site-packages/vllm/attention/selector.py", line 45, in get_attn_backend
(VllmWorkerProcess pid=30694)     backend = which_attn_to_use(num_heads, head_size, num_kv_heads,
(VllmWorkerProcess pid=30694)               ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
(VllmWorkerProcess pid=30694)   File "/root/miniconda3/envs/vllm2025/lib/python3.10/site-packages/vllm/attention/selector.py", line 151, in which_attn_to_use
(VllmWorkerProcess pid=30694)     if torch.cuda.get_device_capability()[0] < 8:
(VllmWorkerProcess pid=30694)        ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
(VllmWorkerProcess pid=30694)   File "/root/miniconda3/envs/vllm2025/lib/python3.10/site-packages/torch/cuda/__init__.py", line 430, in get_device_capability
(VllmWorkerProcess pid=30694)     prop = get_device_properties(device)
(VllmWorkerProcess pid=30694)            ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
(VllmWorkerProcess pid=30694)   File "/root/miniconda3/envs/vllm2025/lib/python3.10/site-packages/torch/cuda/__init__.py", line 444, in get_device_properties
(VllmWorkerProcess pid=30694)     _lazy_init()  # will define _get_device_properties
(VllmWorkerProcess pid=30694)     ^^^^^^^^^^^^
(VllmWorkerProcess pid=30694)   File "/root/miniconda3/envs/vllm2025/lib/python3.10/site-packages/torch/cuda/__init__.py", line 293, in _lazy_init
(VllmWorkerProcess pid=30694)     torch._C._cuda_init()
(VllmWorkerProcess pid=30694) RuntimeError: Unexpected error from cudaGetDeviceCount(). Did you run some cuda functions before calling NumCudaDevices() that might have already set an error? Error 2: out of memory
ERROR 07-12 08:16:26 multiproc_worker_utils.py:120] Worker VllmWorkerProcess pid 30693 died, exit code: 1
INFO 07-12 08:16:26 multiproc_worker_utils.py:123] Killing local vLLM worker processes

1. 临时解决方法

vi /root/miniconda3/envs/vllm2025/lib/python3.10/site-packages/vllm/attention/selector.py--- 设置成固定的 `backend = _Backend.XFORMERS`。# backend = which_attn_to_use(num_heads, head_size, num_kv_heads,#                           sliding_window, dtype, kv_cache_dtype,#                            block_size)backend = _Backend.XFORMERS
---

完结！

RuntimeError: Unexpected error from cudaGetDeviceCount

RuntimeError: Unexpected error from cudaGetDeviceCount 0. 引言1. 临时解决方法 0. 引言使用 vllm-0.4.2 部署时，多卡正常运行。升级到 vllm-0.5.1 时，报错如下： (VllmWorkerProcess pid30692) WARNING 07-12 08:16:22 utils.py:562] U…...

编程日记 2024/7/14 1:16:18

uboot学习：（一）基础认知

目录 uboot是一个裸机程序（bootloader） 作用要运行linux系统时，如何从外置的flash拷贝到DDR中，才能启动 uboot使用步骤步骤1中的命令例子注意 uboot源码获取方法 uboot是一个裸机程序（bootloader&#xff09…...

编程日记 2024/7/14 1:11:12

每天一个数据分析题（四百二十六）- 总体方差

为了比较两个总体方差，我们通常检验两个总体的() A. 方差差 B. 方差比 C. 方差乘积 D. 方差和数据分析认证考试介绍：点击进入题目来源于CDA模拟题库点击此处获取答案数据分析专项练习题库内容涵盖Python，SQL，统计学&a…...

编程日记 2024/7/14 1:10:10

【C++】设计一套基于C++与C#的视频播放软件

在开发一款集视频播放与丰富交互功能于一体的软件时，结合C的高性能与C#在界面开发上的便捷性，是一个高效且实用的选择。以下，我们将概述这样一个系统的架构设计、关键技术点以及各功能模块的详细实现思路。一、系统架构设计 1. 架构概览 …...

编程日记 2024/7/14 1:08:07

数学建模中的辅助变量、中间变量、指示变量

在数学建模中，除了决策变量外，还有一些其他类型的变量，如中间变量、辅助变量和指示变量。每种变量在模型中都有特定的用途和意义。以下是对这些变量的详细解释： 1. 决策变量（Decision Variables） 定义&am…...

编程日记 2024/7/14 1:04:03

python的seek()和tell()

seek() seek() 是用来在文件中移动指针位置的方法。它的作用是将文件内部的当前位置设置为指定的位置。 seek(offset, whence) 参数说明 offset: 这是一个整数值，表示相对于起始位置的偏移量。如果是正数，表示向文件末尾方向移动；如果是负…...

编程日记 2024/7/14 1:03:02

Go泛型详解

引子如果我们要写一个函数分别比较2个整数和浮点数的大小，我们就要写2个函数。如下： func Min(x, y float64) float64 {if x < y {return x}return y }func MinInt(x, y int) int {if x < y {return x}return y }2个函数，除了数据类…...

编程日记 2024/7/14 1:01:00

【每日一练】python之sum()求和函数实例讲解

在Python中， sum()是一个内置函数，用于计算可迭代对象（如列表、元组等）中所有元素的总和。如下实例： """ 收入支出统计小程序知识点:用户输入获取列表元素添加sum()函数，统计作用 "&…...

编程日记 2024/7/14 0:58:58

打造智慧校园德育管理，提升学生操行基础分

智慧校园的德育管理系统内嵌的操行基础分功能，是对学生日常行为规范和道德素养进行量化评估的一个创新实践。该功能通过将抽象的道德品质转化为具体可量化的指标，如遵守纪律、尊师重道、团结协作、爱护环境及参与集体活动的积极性等，为每个学…...

编程日记 2024/7/14 0:56:56

自定义函数---随机数系列函数

大家有没有发现平常在写随机数的时候，需要引入很多的头文件，然后还需要用一些复杂的函数，大家可能不太习惯，于是我就制作了一个头文件 // random_number.h #ifndef RANDOM_NUMBER_H // 预处理指令，防止头文件被重复包含…...

编程日记 2024/7/14 0:55:55

一文了解5G新通话技术演进与业务模型

5G新通话简介 5G新通话，也被称为VoNR，是基于R16及后续协议产生的一种增强型语音通话业务。它在IMS网络里新增数据通道（Data Channel），承载通话时的文本、图片、涂鸦、菜单等信息。它能在传统话音业务基础上提供更多服…...

编程日记 2024/7/14 0:54:54

视频使用操作说明书-T80002系列视频编码器如何对接海康NVR硬盘录像机，包括T80002系列高清HDMI编码器、4K超高清HDMI编码器

视频使用操作说明书-T80002系列视频编码器如何对接海康NVR硬盘录像机，包括T80002系列高清HDMI编码器、4K超高清HDMI编码器。视频使用操作说明书-T80002系列视频编码器如何对接海康NVR硬盘录像机，包括T80002系列高清HDMI编码器、4K超高清HDMI编码器同三…...

编程日记 2024/7/14 0:45:45

el-input-number计数器change事件校验数据，改变绑定数据值后change方法失效问题的原因及解决方法

在change事件中如果对el-input-number绑定的数据进行更改，会出现change事件失效的问题试过：this.$set()及赋值等方法，都无法解决解决方法：用$nextTick函数对绑定值进行更改（ this.$nextTick(() > { this.绑定…...

编程日记 2024/7/14 0:42:43

将vue项目整合到springboot项目中并在阿里云上运行

第一步，使用springboot中的thymeleaf模板引擎导入依赖 <dependency><groupId>org.springframework.boot</groupId><artifactId>spring-boot-starter-thymeleaf</artifactId></dependency> 在r…...

编程日记 2024/7/14 0:40:41

AC修炼计划（AtCoder Regular Contest 179）A~C

A - Partition A题传送门这道题不难发现，如果数字最终的和大于等于K，我们可以把这个原数列从大到小排序，得到最终答案。如果和小于K，则从小到大排序，同时验证是否符合要求。 #pragma GCC optimize(3) //O2优化开启…...

编程日记 2024/7/14 0:33:35

开发编码规范笔记

前言 （1）该博客仅用于个人笔记格式转换 （1）查看是 LF 行尾还是CRLF 行尾。 # 单个文件，\n 表示 LF 行尾。\r\n 表示 CRLF 行尾。 hexdump -c <yourfile> # 单个文件，$ 表示 LF 行尾。^M$ 表示 CRLF …...

编程日记 2024/7/14 0:31:32

spring boot easyexcel

1.pom <dependency><groupId>com.alibaba</groupId><artifactId>easyexcel</artifactId><version>3.1.1</version></dependency><dependency><groupId>org.projectlombok</group…...

编程日记 2024/7/14 0:27:29

Docker 部署 ShardingSphere-Proxy 数据库中间件

文章目录 Github官网文档ShardingSphere-Proxymysql-connector-java 驱动下载conf 配置global.yamldatabase-sharding.yamldatabase-readwrite-splitting.yamldockerdocker-compose.yml Apache ShardingSphere 是一款分布式的数据库生态系统， 可以将任意数据库转换为…...

编程日记 2024/7/14 0:26:28

Qt常用快捷键

Qt中的常用快捷键 F1查看帮助F2快速到变量声明从cpp→hShift F2 函数的声明和定义之间快速切换 ；选中函数名 ，从h→cppF4在 cpp 和 h 文件切换 Shift F4在cpp/h文件与界面文件中切换Ctrl /注释当前行或者选中的区域Ctrl I自动缩进当前…...

编程日记 2024/7/14 0:25:27

关于RiboSeq分析流程的总结

最近关注了一下RiboSeq的分析方法，方法挺多的，但是无论哪种软件，都会存在或多或少的问题，一点问题不存在的软件不存在，问题的原因出在，1.有的脚本是用python2编写的，目前python2已经不能用了 2.…...

编程日记 2024/7/14 0:19:20

数字合成器d-FORMANT：从模拟经典到数字复刻的工程实践

1. 项目概述：从模拟经典到数字复刻如果你对合成器稍有了解，或者对电子音乐制作背后的硬件感兴趣，那么“FORMANT”这个名字你一定不陌生。它最初是上世纪70年代由《Elektor》杂志发布的一款模拟单音合成器，以其清晰的模块化设计和出…...

编程新知 2026/5/25 16:24:16

3步快速恢复加密压缩包密码：ArchivePasswordTestTool终极指南

3步快速恢复加密压缩包密码：ArchivePasswordTestTool终极指南【免费下载链接】ArchivePasswordTestTool 利用7zip测试压缩包的功能对加密压缩包进行自动化测试密码项目地址: https://gitcode.com/gh_mirrors/ar/ArchivePasswordTestTool 面对遗忘的加密压…...

编程新知 2026/5/25 15:47:55

TorchEasyRec：阿里巴巴开源的推荐系统深度学习框架详解

第一部分：项目概览与核心功能一、项目简介：什么是 TorchEasyRec？ TorchEasyRec 是阿里巴巴 PAI 团队开发的基于 PyTorch 的推荐系统框架，专门用于构建生产级别的深度学习推荐模型。简单来说，它就是一个让你能够快速…...

编程新知 2026/5/25 15:19:02

告别手动分类！用Python+ArcPy批量处理DEM，一键生成坡度坡向等高线报告

用PythonArcPy实现DEM地形分析全自动化：从数据到报告的智能工作流第一次接手山区风电项目的地形分析任务时，我花了整整三天时间在ArcGIS界面里反复点击同样的按钮——加载DEM、计算坡度坡向、生成等高线、调整分类阈值、导出图片。当第五个区域的报告终…...

编程新知 2026/5/25 12:50:51

从UE/Unity转战Godot：一个老引擎开发者的踩坑与真香实录

从UE/Unity转战Godot：一个老引擎开发者的踩坑与真香实录第一次双击Godot图标时，我正坐在堆满Unity参考书的办公桌前。作为用过五年Unity、三年Unreal的"引擎老油条"，我带着审视新玩具的心态点开了这个不到100MB的绿色软件——没想…...

编程新知 2026/5/25 12:22:23

Python日志框架设计：从基础到高级配置

引言日志是任何生产级应用不可或缺的组成部分。作为从Python转向Rust的开发者，我深刻理解良好的日志系统对于应用可观测性的重要性。本文将深入探讨Python日志框架的设计原理和最佳实践，帮助你构建高效、可扩展的日志系统。一、logging模块基础 1.1…...

编程新知 2026/5/25 11:07:46

2026国安部重磅披露：境外间谍如何利用民用路由器构建窃密跳板？全链路技术解析与防御指南

一、引言：从"网速变慢"到国家级网络窃密 2026年5月20日，国家安全部官方微信公众号发布紧急通报，披露了一起严重的境外间谍情报机关网络窃密案件。与以往直接攻击政府或企业服务器不同，此次攻击者将目标锁定在了最容易被…...

编程新知 2026/5/25 10:50:00

多臂老虎机算法：实现模型部署的自动化与自适应决策

1. 项目概述与核心痛点在机器学习项目的全生命周期里，模型部署上线从来都不是终点，而恰恰是真正挑战的开始。相信很多一线的算法工程师和MLOps工程师都经历过这样的场景：你耗费数周心血，在离线验证集上刷出了历史新高的AUC&#x…...

编程新知 2026/5/25 10:32:39

成本优化秘籍：如何通过模型路由（Model Routing）降低 Agent 推理成本？

成本优化秘籍：如何通过模型路由（Model Routing）降低 Agent 推理成本？ 1. 引入与连接：推理成本的"隐形黑洞"与破解之道 1.1 引人入胜的开场：一个真实的成本困境让我们从一个真实故事开始。今年早些时候，我与一家知名科技创业公司的CTO进行了一次深入交流。…...

编程新知 2026/5/25 9:49:35

为什么你的PS手柄在Windows上无法畅玩游戏？3步解锁完美兼容方案

为什么你的PS手柄在Windows上无法畅玩游戏？3步解锁完美兼容方案【免费下载链接】DS4Windows Like those other ds4tools, but sexier 项目地址: https://gitcode.com/gh_mirrors/ds/DS4Windows 你是否曾经兴奋地想在PC上使用心爱的PlayStation手柄&#xff…...

编程新知 2026/5/25 9:24:58

RuntimeError: Unexpected error from cudaGetDeviceCount

0. 引言

1. 临时解决方法

相关文章：