当前位置: 首页 > article >正文

从本地到云端:在阿里云ECS上构建YOLOv5实时检测服务的全链路实践

1. 从零开始YOLOv5本地开发环境搭建第一次接触YOLOv5时我被它的速度和精度惊艳到了。这个由Ultralytics团队开发的目标检测模型在保持轻量化的同时性能丝毫不打折扣。下面我就带大家从最基础的本地环境搭建开始一步步实现一个可运行的YOLOv5检测系统。我选择在Ubuntu 18.04系统上进行演示这是目前最稳定的Linux发行版之一。首先需要安装Anaconda它可以帮助我们管理Python环境。建议从清华镜像站下载Anaconda3-2020.07-Linux-x86_64.sh这个版本下载完成后在终端执行bash ./Anaconda3-2020.07-Linux-x86_64.sh安装完成后我们需要配置国内镜像源加速下载。执行以下命令添加清华源conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/free/ conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/main/ conda config --set show_channel_urls yes接下来创建专门的PyTorch环境。我建议使用Python 3.8版本这个版本与大多数库的兼容性都很好conda create -n pytorch1.7 python3.8 conda activate pytorch1.7在虚拟环境中安装PyTorch时需要根据你的硬件情况选择安装命令。如果你有NVIDIA显卡建议安装GPU版本conda install pytorch torchvision cudatoolkit10.2 -c pytorch如果没有独立显卡也可以使用纯CPU版本conda install pytorch1.7.0 torchvision0.8.0 torchaudio0.7.0 cpuonly -c pytorch安装完成后可以通过简单的Python命令验证是否安装成功import torch print(torch.__version__) print(torch.cuda.is_available()) # 检查GPU是否可用2. YOLOv5模型获取与测试YOLOv5的代码托管在GitHub上我们可以直接克隆官方仓库。这里我推荐使用v3.1版本这个版本比较稳定git clone -b v3.1 https://github.com/ultralytics/yolov5.git cd yolov5模型权重文件需要单独下载官方提供了几种不同大小的预训练模型。我建议初学者从yolov5s.pt开始这个模型体积小但效果不错wget https://github.com/ultralytics/yolov5/releases/download/v3.1/yolov5s.pt -P weights/现在我们可以进行第一次测试了。YOLOv5自带了一些测试图片运行以下命令就能看到检测效果python detect.py --source ./inference/images/ --weights weights/yolov5s.pt --conf 0.4执行完成后检测结果会保存在runs/detect/exp目录下。打开这些图片你就能看到模型检测到的各种物体和对应的置信度。如果想让模型支持更多类别可以考虑使用自定义数据集进行训练。YOLOv5支持COCO格式的数据集训练命令也很简单python train.py --img 640 --batch 16 --epochs 100 --data coco.yaml --weights weights/yolov5s.pt3. 构建Flask Web服务为了让YOLOv5能够通过Web访问我们需要用Flask搭建一个简单的API服务。首先安装必要的依赖pip install flask flask-cors创建一个名为app.py的文件内容如下from flask import Flask, request, jsonify import os import torch app Flask(__name__) app.route(/detect, methods[POST]) def detect(): if file not in request.files: return jsonify({error: No file uploaded}), 400 file request.files[file] if file.filename : return jsonify({error: Empty filename}), 400 # 保存上传的文件 upload_dir uploads os.makedirs(upload_dir, exist_okTrue) file_path os.path.join(upload_dir, file.filename) file.save(file_path) # 调用YOLOv5进行检测 results model(file_path) # 处理检测结果 detections [] for result in results.pandas().xyxy[0].to_dict(records): detections.append({ class: result[name], confidence: float(result[confidence]), bbox: [result[xmin], result[ymin], result[xmax], result[ymax]] }) return jsonify({results: detections}) if __name__ __main__: # 加载YOLOv5模型 model torch.hub.load(ultralytics/yolov5, yolov5s, pretrainedTrue) app.run(host0.0.0.0, port5000)这个简单的API接收图片文件返回检测到的物体信息。启动服务后可以通过Postman等工具测试接口python app.py4. 阿里云ECS环境准备现在我们把目光转向云端部署。首先需要在阿里云控制台购买一台ECS实例。对于YOLOv5这样的模型配置建议如下CPU: 2核以上内存: 4GB以上系统盘: 40GB以上操作系统: Ubuntu 18.04/20.04 LTS购买完成后通过SSH连接到实例。我习惯先做一些基础配置# 更新系统 sudo apt update sudo apt upgrade -y # 安装常用工具 sudo apt install -y git curl wget unzip # 配置swap空间如果内存较小 sudo fallocate -l 2G /swapfile sudo chmod 600 /swapfile sudo mkswap /swapfile sudo swapon /swapfile echo /swapfile none swap sw 0 0 | sudo tee -a /etc/fstab接下来安装Miniconda比Anaconda更轻量wget https://repo.anaconda.com/miniconda/Miniconda3-latest-Linux-x86_64.sh bash Miniconda3-latest-Linux-x86_64.sh按照提示完成安装后初始化condasource ~/.bashrc5. 云端部署YOLOv5服务将本地开发好的代码上传到ECS服务器。可以使用scp命令scp -r yolov5/ usernameyour_server_ip:/home/username/在服务器上创建Python环境并安装依赖conda create -n yolov5 python3.8 conda activate yolov5 pip install -r requirements.txt pip install flask gunicorn使用Gunicorn部署Flask应用比直接运行更稳定gunicorn -w 4 -b 0.0.0.0:5000 app:app这里-w参数指定worker数量建议设置为CPU核心数的2-4倍。为了让服务在后台持续运行可以使用nohupnohup gunicorn -w 4 -b 0.0.0.0:5000 app:app server.log 21 6. 配置安全组与Nginx反向代理在阿里云控制台找到ECS实例的安全组配置添加入站规则允许5000端口协议类型: 自定义TCP端口范围: 5000授权对象: 0.0.0.0/0为了提升服务的安全性和性能我们使用Nginx作为反向代理。首先安装Nginxsudo apt install -y nginx创建Nginx配置文件/etc/nginx/conf.d/yolov5.confserver { listen 80; server_name your_domain.com; location / { proxy_pass http://127.0.0.1:5000; proxy_set_header Host $host; proxy_set_header X-Real-IP $remote_addr; proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for; } client_max_body_size 20M; }测试Nginx配置并重启服务sudo nginx -t sudo systemctl restart nginx7. 域名绑定与HTTPS配置如果你有自己的域名可以在阿里云域名解析中添加A记录指向ECS实例的公网IP。然后使用Certbot申请免费的SSL证书sudo apt install -y certbot python3-certbot-nginx sudo certbot --nginx -d your_domain.comCertbot会自动配置HTTPS并设置自动续期。现在你的YOLOv5服务就可以通过https://your_domain.com安全访问了。8. 服务监控与维护为了保证服务稳定运行我们需要设置一些监控措施。首先安装pm2进程管理器npm install pm2 -g pm2 start gunicorn -w 4 -b 0.0.0.0:5000 app:app --name yolov5-api pm2 save pm2 startup配置日志轮转防止日志文件过大sudo apt install -y logrotate创建/etc/logrotate.d/yolov5文件/home/username/server.log { daily missingok rotate 14 compress delaycompress notifempty create 0640 username username sharedscripts postrotate kill -USR1 cat /tmp/gunicorn.pid 2/dev/null 2/dev/null || true endscript }最后设置一个简单的健康检查接口方便监控服务状态app.route(/health) def health(): return jsonify({status: healthy}), 200现在你已经拥有了一个完整的、生产级可用的YOLOv5实时检测服务。这套方案在实际项目中表现稳定能够处理大量并发请求。我在多个项目中都采用了类似的架构效果非常不错。

相关文章:

从本地到云端:在阿里云ECS上构建YOLOv5实时检测服务的全链路实践

1. 从零开始:YOLOv5本地开发环境搭建 第一次接触YOLOv5时,我被它的速度和精度惊艳到了。这个由Ultralytics团队开发的目标检测模型,在保持轻量化的同时,性能丝毫不打折扣。下面我就带大家从最基础的本地环境搭建开始,一…...

宇树G1机器人SSH连接实战:MobaXterm配置与网络调试指南

1. 为什么需要SSH连接宇树G1机器人? 当你拿到宇树G1机器人时,可能会遇到一个常见问题:机器人的显示器接口损坏或者根本没有配备显示器。这时候,SSH(Secure Shell)远程连接就成了救命稻草。通过SSH&#xff…...

STM32多传感器环境监测系统硬件设计与低功耗实现

1. 项目概述智能环境监测系统是一个面向户外长期部署的多参数气象与空气质量采集终端,具备本地显示、有线以太网调试接口、无线云平台上传及掉电告警等完整功能链。该系统并非实验室演示原型,而是针对实际野外安装场景(如气象站、农业大棚、城…...

weixin231速达物流信息查询微信小程序设计与实现ssm(文档+源码)_kaic

第5章 系统实现 进入到这个环节,也就可以及时检查出前面设计的需求是否可靠了。一个设计良好的方案在运用于系统实现中,是会帮助系统编制人员节省时间,并提升开发效率的。所以在系统的编程阶段,也就是系统实现阶段,对…...

总线并发与传输效率:Outstanding与Burst-Length的协同设计指南

1. 总线并发与传输效率的核心概念 在芯片设计中,总线就像城市中的交通网络,负责连接各个功能模块。而Outstanding和Burst-Length则是这个交通网络中的两个关键调度参数,直接影响着数据传输的效率和系统性能。我见过不少工程师刚开始接触这两个…...

REFramework精进指南:7个核心实践与5个避坑策略

REFramework精进指南:7个核心实践与5个避坑策略 【免费下载链接】REFramework REFramework 是 RE 引擎游戏的 mod 框架、脚本平台和工具集,能安装各类 mod,修复游戏崩溃、卡顿等问题,还有开发者工具,让游戏体验更丰富。…...

老旧Mac重生计划:OpenCore Legacy Patcher实现2012-2015款设备最新macOS升级

老旧Mac重生计划:OpenCore Legacy Patcher实现2012-2015款设备最新macOS升级 【免费下载链接】OpenCore-Legacy-Patcher 体验与之前一样的macOS 项目地址: https://gitcode.com/GitHub_Trending/op/OpenCore-Legacy-Patcher 随着macOS系统不断迭代&#xff0…...

从官方渠道与UltraLibrarian高效获取3D封装与STEP模型

1. 为什么需要官方3D封装与STEP模型 作为一名硬件工程师,我深刻理解在PCB设计初期获取准确元器件封装的重要性。记得刚入行时,曾经因为使用了自己手绘的封装导致整批样板报废,损失了上万元。从那以后,我就养成了从官方渠道获取封装…...

AutoGen Studio保姆级教程:零代码配置多AI代理,轻松完成旅行路线规划

AutoGen Studio保姆级教程:零代码配置多AI代理,轻松完成旅行路线规划 1. 引言:告别复杂代码,用拖拽搞定AI协作 你是不是也遇到过这样的场景?想做一个智能应用,比如一个能帮你规划旅行的AI助手&#xff0c…...

离线语音控制LED灯设计:CI1122嵌入式实现

1. 项目概述“小汐”离线语音智能小球灯是一款面向消费级LED装饰照明场景的嵌入式语音交互终端,其核心设计目标是实现完全本地化、零网络依赖的语音指令识别与执行。该系统不连接云端服务,所有语音特征提取、声学模型匹配、命令决策及灯光控制逻辑均在边…...

扣子工作流中的智能决策:如何用选择器和意图识别节点打造智能客服

扣子工作流中的智能决策:如何用选择器和意图识别节点打造智能客服 在智能客服系统的开发中,业务逻辑的复杂性和用户意图的多样性常常让开发者头疼。传统规则引擎需要编写大量if-else语句,而纯大模型方案又难以保证稳定性和可控性。扣子工作流…...

STM32家庭环境监测系统:本地智能+MQTT云联+离线语音三重控制

1. 项目概述本项目实现了一套面向家庭场景的嵌入式环境监测与执行控制系统,核心目标是构建一个具备多模态交互能力、本地智能响应与云端协同管理能力的软硬件一体化平台。系统以STM32F103RCT6作为主控制器,承担传感器数据采集、本地逻辑判断、外设驱动调…...

老旧Mac重获新生:OpenCore Legacy Patcher系统升级完全指南

老旧Mac重获新生:OpenCore Legacy Patcher系统升级完全指南 【免费下载链接】OpenCore-Legacy-Patcher 体验与之前一样的macOS 项目地址: https://gitcode.com/GitHub_Trending/op/OpenCore-Legacy-Patcher 当您的Mac设备因官方不再支持而无法获得最新系统更…...

恒温恒湿空调系统调试手记

空调自控系统恒温恒湿控制系统PLC西门子smart200PLC 源MCGSpro 触摸屏源程序 项目无密码 实际应用 可以联系参考学习。某精密仪器车间的环境控制项目里,我们给西门子smart200 PLC配上了MCGS Pro触摸屏。这套系统最有趣的地方在于,温度控制精度能做到0.5℃…...

NB-IoT NPUSCH信号处理全解析:从比特级到符号级的实战指南

NB-IoT NPUSCH信号处理全解析:从比特级到符号级的实战指南 在低功耗广域物联网(LPWAN)技术中,NB-IoT凭借其出色的覆盖增强和超低功耗特性,已成为行业主流选择。而NPUSCH(Narrowband Physical Uplink Shared…...

手把手教你用Qwen2.5-0.5B-Instruct快速搭建多语言聊天机器人

手把手教你用Qwen2.5-0.5B-Instruct快速搭建多语言聊天机器人 1. 为什么选择这个模型? 在当今全球化环境中,能够支持多种语言的智能助手变得越来越重要。Qwen2.5-0.5B-Instruct作为阿里云开源的最新轻量级大语言模型,特别适合需要快速部署多…...

BEYOND REALITY Z-Image小白友好教程:跟着做,你也能生成惊艳人像

BEYOND REALITY Z-Image小白友好教程:跟着做,你也能生成惊艳人像 你是不是也羡慕别人能用AI生成那些以假乱真、细节满满的人像照片?觉得那些专业工具门槛太高,参数复杂到让人头晕?别担心,今天这篇教程就是…...

MinerU实战教程:手把手教你用AI做智能文档摘要与关键词提取

MinerU实战教程:手把手教你用AI做智能文档摘要与关键词提取 1. 为什么你需要一个智能文档助手? 每天面对堆积如山的PDF报告、会议纪要、研究论文,你是不是也感到头疼?手动阅读、划重点、写摘要,不仅耗时耗力&#xf…...

springboot党员之家服务系统 微信小程序毕业论文

目录摘要第一章 绪论第二章 系统需求分析第三章 系统设计第四章 系统实现第五章 系统测试第六章 总结与展望参考文献致谢项目技术支持源码LW获取详细视频演示 :文章底部获取博主联系方式!同行可合作摘要 简要介绍系统开发背景、目标、技术栈&#xff08…...

纯模拟电路实现的音频频谱可视化与机械摇摆系统

1. 项目概述“魔刻版胡桃摇”是一个融合机械运动、音频处理与人机交互的嵌入式硬件系统,其核心功能是在播放音乐(蓝牙流媒体或本地存储音频)的同时,驱动胡桃造型的机械结构实现拟人化摇摆动作,并同步呈现基于音频频谱分…...

Locale-Emulator完全指南:突破区域限制的7个实战技巧

Locale-Emulator完全指南:突破区域限制的7个实战技巧 【免费下载链接】Locale-Emulator Yet Another System Region and Language Simulator 项目地址: https://gitcode.com/gh_mirrors/lo/Locale-Emulator 副标题:如何让你的软件不再受系统区域设…...

Innovus MMMC配置文件实战:从零配置到高级时序分析技巧

Innovus MMMC配置文件实战:从零配置到高级时序分析技巧 在芯片设计领域,时序收敛一直是工程师面临的核心挑战。随着工艺节点不断演进,设计复杂度呈指数级增长,传统的单模式单角落分析方法已无法满足现代SoC设计的严苛要求。这就是…...

LaTeX学术论文写作:CCMusic实验结果可视化技巧

LaTeX学术论文写作:CCMusic实验结果可视化技巧 1. 引言 写学术论文最让人头疼的部分是什么?对很多人来说,不是实验设计,不是数据分析,而是如何把那些复杂的实验结果清晰地展示出来。特别是当我们使用CCMusic这样的音…...

USB 3.0 Type-C TF读卡器硬件设计与高速信号实现

1. 项目概述USB 3.0高速TF卡读卡器是一种面向嵌入式外设接口开发的专用硬件模块,其核心目标是在Type-C物理接口约束下,完整实现USB 3.0 SuperSpeed(5 Gbps)协议栈对SD/TF存储卡的高速读取能力。本项目并非通用型读卡器&#xff0c…...

3种被低估的虚拟摄像头技术价值:重新定义视频交互的开发者指南

3种被低估的虚拟摄像头技术价值:重新定义视频交互的开发者指南 【免费下载链接】obs-virtual-cam obs-studio plugin to simulate a directshow webcam 项目地址: https://gitcode.com/gh_mirrors/ob/obs-virtual-cam 副标题:突破物理硬件限制的D…...

【开源】WeNote微便签:告别系统便笺的痛点,独立倒计时与透明化设计

1. 为什么你需要WeNote微便签? 如果你经常用Windows自带的便笺功能,大概率遇到过这些糟心事:想设置个会议提醒却发现根本不支持,重要便签总被其他窗口挡住,调整透明度还得折腾注册表,最烦人的是那个固定占用…...

SqlServer2019极速上手——从零开始完成下载与安装全流程

1. 下载SqlServer2019安装包 第一次接触SqlServer2019的朋友可能会被各种下载渠道搞晕。我刚开始用的时候也踩过坑,后来发现直接从微软官网下载最靠谱。打开浏览器,搜索"SqlServer2019下载",第一个结果就是微软的官方下载页面。这里…...

CardEditor:让桌游卡牌设计从繁琐重复中解放的批处理工具

CardEditor:让桌游卡牌设计从繁琐重复中解放的批处理工具 【免费下载链接】CardEditor 一款专为桌游设计师开发的批处理数值填入卡牌生成器/A card batch generator specially developed for board game designers 项目地址: https://gitcode.com/gh_mirrors/ca/C…...

Janus-Pro-7B应用场景:游戏公司NPC对话图→剧情分支图AI生成

Janus-Pro-7B应用场景:游戏公司NPC对话图→剧情分支图AI生成 1. 游戏开发中的NPC对话设计挑战 在游戏开发过程中,NPC(非玩家角色)对话设计是一个既重要又耗时的环节。传统的NPC对话设计流程通常需要: 文案策划编写大…...

AIGlasses OS Pro算法优化:高效数据结构设计与实现

AIGlasses OS Pro算法优化:高效数据结构设计与实现 视觉处理系统的性能瓶颈往往不在算法本身,而在于数据如何组织和访问 1. 引言:当智能眼镜遇到性能挑战 想象一下这样的场景:你戴着AIGlasses OS Pro在超市购物,眼镜需…...