当前位置: 首页 > article >正文

再次革新 .NET 的构建和发布方式(一)靡

本文能帮你解决什么1. 搞懂FastAPI异步async/await到底在什么场景下能真正提升性能。2. 掌握在FastAPI中正确使用多线程处理CPU密集型任务的方法。3. 避开常见的坑比如阻塞操作、数据库连接池耗尽、GIL限制。4. 获得可直接复用的代码片段和配置建议。?? 主要内容脉络一、问题与背景为什么你的async可能“假生效”二、核心原理ASGI、async/await与多线程的关系三、实战演示I/O密集型 vs CPU密集型任务的正确处理姿势四、注意事项与进阶思考那些容易翻车的点一、问题与背景为什么你的async可能“假生效”很多人以为只要给FastAPI的路由函数加上async def就自动获得了高并发能力。其实不然。FastAPI基于ASGI异步服务器网关接口它确实允许异步处理请求。但异步不等于多线程更不等于性能无限提升。它的核心是“非阻塞”当一个请求在等待I/O比如查数据库、调外部API时事件循环Event Loop会去处理其他请求而不是干等着。这意味着如果你的async函数里干的是CPU密集型的活儿比如复杂的计算、图像处理那它依然会阻塞整个事件循环其他请求照样排队。官方文档虽然说了FastAPI支持异步但没明确告诉你异步的优势仅限于I/O密集型场景。 这是我用真金白银的线上故障换来的教训。二、核心原理ASGI、async/await与多线程的关系好咱们先来理清几个关键概念?? ASGIAsynchronous Server Gateway Interface这是FastAPI的底层协议。你可以把它想象成一个高效的餐厅调度系统。服务员事件循环负责接待顾客请求如果某位顾客点菜后需要等厨房做菜I/O等待服务员不会傻等而是先去接待其他顾客。厨房做好菜会通知服务员服务员再回来上菜。这样一个服务员就能同时照顾多桌客人。?? async/await这是Python的语法糖用来定义协程Coroutine。async def声明一个函数是“可暂停的”await表示“在这里可以暂停去干别的”。?? 多线程/多进程当你的任务主要是CPU密集型比如大量数学计算时异步帮不上忙。这时就需要请出多线程或多进程把计算任务分摊到多个CPU核心上去。FastAPI本身不直接管理线程但我们可以利用Python的concurrent.futures或asyncio.to_thread来实现。简单总结I/O密集型用asyncCPU密集型用多线程/多进程混合型任务两者结合。三、实战演示I/O密集型 vs CPU密集型任务的正确处理姿势接下来重点来了怎么在代码里落实场景1纯I/O密集型推荐使用async比如调用外部API、查询数据库。这是async的主场。import asynciofrom fastapi import FastAPIimport httpx # 异步HTTP客户端app FastAPI()app.get(/fetch-data)async def fetch_data():# 模拟并发调用三个外部APIasync with httpx.AsyncClient() as client:tasks [client.get(https://api.example.com/data1),client.get(https://api.example.com/data2),client.get(https://api.example.com/data3)]responses await asyncio.gather(*tasks)return {results: [r.json() for r in responses]}?? 这里千万别用同步的requests库否则会阻塞事件循环。务必使用httpx或aiohttp这种异步客户端。场景2CPU密集型必须用多线程/多进程比如图像处理、数据分析。这时候就得请出进程池。from fastapi import FastAPIfrom concurrent.futures import ProcessPoolExecutorimport timeimport osapp FastAPI()# 创建进程池工作进程数建议设为CPU核心数executor ProcessPoolExecutor(max_workersmin(32, os.cpu_count() or 1))def cpu_intensive_task(n: int):模拟CPU密集型任务比如图像处理time.sleep(n) # 这里用sleep模拟计算耗时return fTask {n} completedapp.get(/process-image)async def process_image():# 将阻塞函数提交到进程池避免阻塞事件循环future executor.submit(cpu_intensive_task, 2)result future.result()return {result: result}# 应用关闭时正确关闭进程池app.on_event(shutdown)def shutdown_event():executor.shutdown(waitTrue)?? 这里有个坑线程池大小max_workers不是越大越好。设置太大反而会增加上下文切换开销。一般建议设置为CPU核心数1。场景3混合型async 多线程实际项目中很多任务既涉及I/O又涉及计算。这时可以结合两者。import asynciofrom fastapi import FastAPIfrom concurrent.futures import ThreadPoolExecutorimport httpxapp FastAPI()executor ThreadPoolExecutor(max_workers4)async def fetch_url(client: httpx.AsyncClient, url: str):异步获取数据response await client.get(url)return response.json()def heavy_computation(data: dict):模拟CPU密集型计算time.sleep(1) # 模拟计算return {processed: data}app.get(/complex-task)async def complex_task():# 步骤1并发I/O异步async with httpx.AsyncClient() as client:data await fetch_url(client, https://api.example.com/data)# 步骤2CPU计算扔到线程池loop asyncio.get_event_loop()result await loop.run_in_executor(executor, heavy_computation, data)return result如果你用的是Python 3.9还可以用asyncio.to_thread让代码更简洁。四、注意事项与进阶思考那些容易翻车的点再说几个容易出问题的地方都是血泪史?? 阻塞操作绝对不能放在async函数里比如time.sleep()、同步的数据库驱动如psycopg2、同步的文件读写等。要用await asyncio.sleep()、异步驱动如asyncpg和aiofiles替代。?? 数据库连接池配置异步环境下数据库连接池的大小需要重新评估。我遇到过因为连接池太小高并发下所有请求都在等连接导致服务雪崩的情况。建议根据实际压力测试调整。?? GIL全局解释器锁限制Python的GIL会让多线程在纯CPU任务上效率打折。如果计算极其密集考虑用multiprocessing启动多进程但要注意进程间通信的成本。?? Uvicorn配置生产环境运行FastAPI通常用Uvicorn。建议设置--workers进程数为CPU核心数--loop uvloop使用更高效的事件循环。例如uvicorn main:app --workers 4 --loop uvloop --host 0.0.0.0 --port 8000?? 监控与日志异步环境下错误栈可能不那么直观。一定要打好日志尤其是耗时操作。可以用asyncio.create_task时附加错误回调避免任务静默失败。页靶纸思

相关文章:

再次革新 .NET 的构建和发布方式(一)靡

本文能帮你解决什么? 1. 搞懂FastAPI异步(async/await)到底在什么场景下能真正提升性能。 2. 掌握在FastAPI中正确使用多线程处理CPU密集型任务的方法。 3. 避开常见的坑(比如阻塞操作、数据库连接池耗尽、GIL限制)。 …...

还在手戳像素点选性别?带你避开 HTML 表单 `<input>` 与 `<label>` 的核心大坑(附源码)

表单是用户与数据库交互的唯一大门!黑客想要搞 SQL 注入、XSS 跨站脚本攻击,第一步就是盯上你的输入框。而在审查很多新人的代码时,我不仅经常看到安全隐患,更看到了极其反人类的交互体验——比如让你注册账号时,性别单选框小到要拿显微镜去点! 今天,就从底层逻辑出发,…...

丹青幻境常见问题解决:显存不足、脸部模糊?看这篇就够了

丹青幻境常见问题解决:显存不足、脸部模糊?看这篇就够了 1. 问题概述与快速诊断 丹青幻境作为一款基于Z-Image架构的数字艺术创作工具,在使用过程中可能会遇到一些技术问题。本文将重点解决两个最常见的问题:显存不足导致的运行…...

Dify2OpenAI:无缝对接Dify工作流与OpenAI API的实战指南

1. 为什么需要Dify2OpenAI? 如果你正在使用Dify平台开发AI应用,可能会遇到一个头疼的问题:Dify原生API返回的数据格式与OpenAI标准不兼容。这意味着你辛苦开发的聊天机器人、工作流应用,无法直接接入市面上主流的AI客户端工具。我…...

企业内网工具福音:手把手教你用HTML2EXE把Web管理系统“伪装”成原生Windows软件

企业级Web应用桌面化实战:用H2E_Studio打造无缝Windows体验 当企业内部的Web管理系统需要更接近原生应用的体验时,传统浏览器访问方式往往显得不够专业。想象一下:员工每次使用OA系统都要反复输入网址,窗口大小不固定,…...

政安晨【零基础玩转开源AI项目】玩转Hermes Agent:自主持续进化的超级AI Agent完全指南

政安晨的个人主页:政安晨 欢迎 👍点赞✍评论⭐收藏 希望政安晨的博客能够对您有所裨益,如有不足之处,欢迎在评论区提出指正! 目录 前言 一、Hermes Agent是什么? 1.1 它不仅仅是一个聊天机器人 1.2 核心…...

【Java阿里云短信服务SDK实战】——企业级通知短信的配置、封装与业务集成

1. 阿里云短信服务基础配置 第一次接触阿里云短信服务时,我被它复杂的控制台界面弄得有点懵。不过实际操作下来发现,企业级短信通知的配置流程其实就像搭积木,只要按步骤来就能搞定。这里分享下我在工单系统中配置短信通知的真实经历。 首先要…...

Jenkins 学习总结悼

先唠两句:参数就像餐厅点单 把API想象成一家餐厅的“后厨系统”。 ? 路径参数/dishes/{dish_id} -> 好比你要点“宫保鸡丁”这道具体的菜,它是菜单(资源路径)的一部分。查询参数/dishes?spicytrue&typeSichuan -> 好比…...

Redis:延迟双删的适用边界与落地细节锤

pagehelper整合 引入依赖com.github.pagehelperpagehelper-spring-boot-starter2.1.0compile编写代码 GetMapping("/list/{pageNo}") public PageInfo findAll(PathVariable int pageNo) {// 设置当前页码和每页显示的条数PageHelper.startPage(pageNo, 10);// 查询数…...

PCIe信号完整性避坑指南:Gen3物理层均衡训练与时钟补偿全流程

PCIe Gen3信号完整性实战:从均衡训练到时钟补偿的深度解析 当PCIe Gen3以8GT/s的速率在电路板上传输数据时,信号完整性问题从理论挑战变成了实际工程中的"拦路虎"。与Gen1/Gen2时代不同,Gen3的信号完整性管理不再是简单的参数调整&…...

深入解析Recovery OTA升级包的签名生成与校验机制

1. Recovery OTA升级包签名机制基础概念 当你用手机进行系统更新时,有没有想过这个升级包是如何保证安全的?这背后就涉及到我们今天要讲的Recovery OTA升级包签名机制。简单来说,签名就像给快递包裹贴上防伪标签,确保这个包裹在运…...

AI开发-python-langchain框架(--并行流程 )颗

如果有多个供应商,你也可以使用 [[CC-Switch]] 来可视化管理这些API key,以及claude code 的skills。 # 多平台安装指令 curl -fsSL https://claude.ai/install.sh | bash ## Claude Code 配置 GLM Coding Plan curl -O "https://cdn.bigmodel.cn/i…...

记一次综合型流量分析 | 添柴不加火滦

核心摘要:这篇文章能帮你 ?? 1. 彻底搞懂条件分支与循环的适用场景,告别选择困难。 ?? 2. 掌握遍历DOM集合修改属性的标准姿势与性能窍门。 ?? 3. 识别流程控制中的常见“坑”,并学会如何优雅地绕过去。 ?? 主要内容脉络 ?? 一、痛…...

Linux内核中的内存分配器详解

Linux内核中的内存分配器详解 引言 内存分配器是Linux内核中负责管理内存资源的核心组件,它为内核和用户空间程序提供内存分配服务。Linux内核使用多种内存分配器来满足不同场景的需求,从快速的小内存分配到大型的连续内存分配。本文将深入探讨Linux内核…...

我用 AI 辅助开发了一系列小工具():文件提取工具账

从0构建WAV文件:读懂计算机文件的本质 虽然接触计算机有一段时间了,但是我的视野一直局限于一个较小的范围之内,往往只能看到于算法竞赛相关的内容,计算机各种文件在我看来十分复杂,认为构建他们并能达到目的是一件困难…...

代码之外周刊(第期):当技术让一切趋同,我们还剩什么?儇

1. 前言 本文详细介绍如何使用 kylin v10 iso 文件构建出 docker image,docker 版本为 20.10.7。 2. 构建 yum 离线源 2.1. 挂载 ISO 文件 mount Kylin-Server-V10-GFB-Release-030-ARM64.iso /media 2.2. 添加离线 repo 文件 在/etc/yum.repos.d/下创建kylin…...

幻影峡谷工控机实战:FLIR BFS-PGE-16S2C-CS相机ROS驱动配置手记

幻影峡谷工控机实战:FLIR BFS-PGE-16S2C-CS相机ROS驱动配置全解析 在工业视觉系统中,FLIR灰点相机凭借其卓越的热成像和高速采集能力,成为智能制造、自动化检测等场景的核心传感器。而幻影峡谷工控机以其紧凑的机身和强大的计算性能&#xff…...

FPGA实战:基于Verilog的BCD码动态扫描显示系统设计

1. 从零理解BCD码动态扫描显示系统 第一次接触FPGA数码管显示时,我完全被"动态扫描"这个概念搞懵了。为什么不能直接连接所有数码管?直到亲眼看到静态驱动方式下FPGA的IO口被占满,才明白多路复用技术的价值所在。想象一下交通信号灯…...

Trea实战:零代码改造,借助CMake与vcpkg无缝集成glog日志库

1. 为什么你需要零代码集成glog日志库 作为一个C开发者,你一定遇到过这样的场景:项目进行到一半,突然发现需要添加完善的日志功能。这时候你面临两个选择:要么自己从头实现一套日志系统,要么集成现有的成熟日志库。前者…...

别再只会ping了!用Wireshark亲手抓个包,看看你的网络请求到底说了啥

从零开始用Wireshark解剖网络数据包:一次真实的网络侦探之旅 每次点击网页或发送消息时,你的设备都在与远方服务器进行着复杂的对话。这些对话被封装成数据包,像信件一样在网络中传递。但你是否好奇过,这些"信件"里究竟…...

Java开发中Lombok插件失效的常见问题与解决方案

1. 为什么你的Lombok突然罢工了? 最近在升级IDEA后,突然发现项目里到处都是"找不到符号"的错误提示,特别是那些用了Slf4j注解的地方,log变量全都报红。这种情况我遇到过不止一次,每次都能让开发效率直接归零…...

HDMI/DP/TypeC接口检测的硬件实现与设计考量

1. HDMI接口检测的硬件实现与设计要点 HDMI作为最普及的数字视频接口,其检测电路设计直接影响设备兼容性。实际工程中常见两种检测方案:5V电源检测和DDC地线检测。我经手过的显示器项目中,90%的兼容性问题都源于检测电路设计不当。 先说5V检测…...

八大网盘直链获取工具:告别限速,拥抱高速下载体验

八大网盘直链获取工具:告别限速,拥抱高速下载体验 【免费下载链接】Online-disk-direct-link-download-assistant 一个基于 JavaScript 的网盘文件下载地址获取工具。基于【网盘直链下载助手】修改 ,支持 百度网盘 / 阿里云盘 / 中国移动云盘…...

Langchain实战:如何用ChatGLM-4搭建你的第一个AI对话机器人(附完整代码)

Langchain实战:如何用ChatGLM-4搭建你的第一个AI对话机器人(附完整代码) 最近两年,大模型技术以惊人的速度渗透到各个领域。从智能客服到内容创作,从代码生成到数据分析,AI对话机器人正在重塑人机交互的方式…...

终极指南:如何安全迁移艾尔登法环游戏存档

终极指南:如何安全迁移艾尔登法环游戏存档 【免费下载链接】EldenRingSaveCopier 项目地址: https://gitcode.com/gh_mirrors/el/EldenRingSaveCopier 你是否曾经因为更换电脑或重装系统而担心丢失《艾尔登法环》数十小时的游戏进度?手动复制存档…...

UDOP-largeGPU利用率提升:懒加载+推理缓存降低峰值显存占用

UDOP-large GPU利用率提升:懒加载推理缓存降低峰值显存占用 1. 引言:当大模型遇上显存瓶颈 如果你部署过大型AI模型,大概率遇到过这个头疼的问题:模型加载时,显存瞬间被占满,GPU利用率却低得可怜。这就像…...

COCO数据集常见问题解答:下载慢?解压失败?目录结构不对?

COCO数据集实战避坑指南:从下载到配置的全流程解决方案 当你第一次接触COCO数据集时,可能会被它庞大的规模和复杂的目录结构吓到。作为计算机视觉领域最常用的基准数据集之一,COCO确实为模型训练和评估提供了丰富的资源,但在实际使…...

分析管理化技术数据挖掘与预测分析

数据驱动决策:管理技术中的挖掘与预测 在数字化时代,企业每天生成海量数据,如何从中提取价值成为关键。分析管理化技术通过数据挖掘与预测分析,帮助组织优化运营、降低成本并提升竞争力。数据挖掘从历史数据中发现模式&#xff0…...

基于File-Based App开发MVP项目托

Issue 概述 先来看看提交这个 Issue 的作者是为什么想到这个点子的,以及他初步的核心设计概念。?? 本 PR 实现了 Apache Gravitino 与 SeaTunnel 的集成,将其作为非关系型连接器的外部元数据服务。通过 Gravitino 的 REST API 自动获取表结构和元数据&…...

【QML】自定义模块的创建与单例模式实践指南

1. 为什么需要自定义QML模块? 在QtQuick应用开发中,随着项目规模扩大,把所有QML文件堆在一起会变得难以维护。想象一下你家的工具箱——如果所有工具都散落在抽屉里,找起来肯定费劲。而自定义模块就像给工具分门别类:螺…...