OnnxRuntime TensorRT OpenCV::DNN性能对比(YoloV8)实测
1. 前言
之前把ORT的一套推理环境框架搭好了,在项目中也运行得非常愉快,实现了cpu/gpu,fp32/fp16的推理运算,同onnx通用模型在不同推理框架下的性能差异对比贴一下,记录一下自己对各种推理框架的学习状况
| 模型名称 | 参数量 |
|---|---|
| NANO | 3.2M |
| ... | ... |
2. CPU篇
| 框架 | 推理耗时(i5-11400H@2.70GHz)/ms |
|---|---|
| OnnxRuntime | 95 |
| DNN | 80 |
3. GPU篇
4. 总结
cpu选择onnxruntime或者dnn都可以,建议选择ort.gpu选择tensorrt,如果有兼容需求就只能选择onnxruntime了.
不得不说,gpu推理上TRT把ORT薄纱了,不需要warm-up,对工业生产环境非常友好,因为在实际生产环境中,都不是实时推理,而是有间隔的推理,ORT在一段间隔时间后cuda性能会有所衰减,当然也可能是我还没摸透ort这个框架,欢迎大佬指正.
相关文章：
OnnxRuntime TensorRT OpenCV::DNN性能对比(YoloV8)实测
1. 前言 之前把ORT的一套推理环境框架搭好了,在项目中也运行得非常愉快,实现了cpu/gpu,fp32/fp16的推理运算,同onnx通用模型在不同推理框架下的性能差异对比贴一下,记录一下自己对各种推理框架的学习状况 YoloV8模型大小 模型名称参数量NANO3.2M...... 2. CPU篇 CPU推理框架性…...
【QT 网络云盘客户端】——获取用户文件列表信息
目录 1.获取用户文件列表信息分析 2.设置图标属性 3.向服务器获取文件的数量 4.向服务器获取文件信息列表 4.显示图标 1.获取用户文件列表信息分析 1.将QListWidget设置为图标模式 2. 当我们点击"按下载量升序","按下载量降序",“更新” 菜单选项 都会…...
从0到1，无代码开发如何简化产品创新流程
在当今竞争激烈的市场环境中，产品创新已经成为企业成功的关键因素之一。为了在市场上保持竞争力，企业需要不断地推出新产品或改进现有产品。然而，传统的开发流程往往耗时费力，且成本高昂。因此，简化产品创新流程成为了…...
select、epoll 的快速核心理解
一、 select 最low的就是在用户代码中自旋实现所有阻塞socket的监听。但是每次判断socket是否产生数据，都涉及到用户态到内核态的切换。 于是select改进：将fd_set传入内核态，由内核判断是否有数据返回； 然后最low的只能使用自旋…...
HTTP和HTTPS的区别
一、两者概念 1.1 HTTP概念 HTTP 的全称是超文本传输协议（HyperText Transfer Protocol） 是一种用于分布式、协作式和超媒体信息系统的应用协议，简单来说就是一种分布和接收HTML页面的方法，被用于在Web浏览器和网站服务器之间传递…...
分布式异步任务处理组件（二）
一些关键点的设计脑暴记录----very important！！！ 首先，任务存储交给kafka，由节点负责写入kafka，acks1；失败重试；透传kafka的提交可靠性，保证任务提交成功；后…...
Jenkins 拉取 GitHub 私有仓库失败问题
添加仓库的时候提示 stderr: fatal: Cannot prompt because user interactivity has been disabled. 把在 GitHub账户设置中生成的个人访问令牌填到地址里...
小程序 多层次对象数组的赋值、动态赋值
1、给对象赋值 data: {form: {Name: ,IDCard: ,Sex: ,}},对单个属性赋值 this.setData({form.Name:章三,[form.Sex]:女,}) 动态赋值 onChangeDate(e) {let field e.currentTarget.dataset.field;this.setData({[form.${field}]: e.detail.data})}, field 是wxml上通过dat…...
angular踩坑
1 新版路由守卫由于canActivate已被废弃，采用函数函数，但其参数中无法像类一样进行路由对象注入，如何实现路由首位中的页面跳转？ import { CanActivateFn,Router,ActivatedRouteSnapshot, RouterStateSnapshot,} from angular/ro…...
C#时间轴曲线图形编辑器开发1-基本功能
目录 一、前言 1、简介 2、开发过程 3、工程下载链接 二、基本功能实现 1、绘图面板创建 （1）界面布置 （2）显示面板代码 （3） 面板水平方向、竖直方向移动功能实现 （4）面板放…...
elasticsearch查询操作（DSL语句方式）
说明：本文介绍在kibana，es的可视化界面上对文档的查询操作； 添加数据 先使用API，创建索引库，并且把数据从MySQL中查出来，传到ES上，参考（http://t.csdn.cn/NaTHg） 索引库…...
JavaScript详解
目录 一、JavaScript是什么？ 1.1、JavaScript 和 HTML 和 CSS 之间的关系 1.2、JavaScript 运行过程 1.3、JavaScript 的组成 二、JavaScript 的书写形式 1. 行内式 2. 内嵌式 3、外部式 注释 三、输入输出 输入: prompt 输出: alert 输出: …...
电缆振荡波局部放电检测定位技术
电缆振荡波检测技术主要用于交联聚乙烯电力电缆检测，是属于离线检测的一种有效形式 。该技术基于LCR阻尼振荡原理，在完成电缆直流充电的基础上，通过内置的高压电抗器、高压实时固态开关与试品电缆形成阻尼振荡电压波，在试品电缆上…...
AI Chat 设计模式：10. 组合模式
本文是该系列的第八篇，采用问答式的方式展开，问题由我提出，答案由 Chat AI 作出，灰色背景的文字则主要是我的一些思考和补充。 问题列表 Q.1 给我介绍一下组合模式A.1Q.2 好的，给我举一个组合模式的例子，使…...
【Nginx12】Nginx学习：HTTP核心模块（九）浏览器缓存与try_files
Nginx学习：HTTP核心模块（九）浏览器缓存与try_files 浏览器缓存在 Nginx 的 HTTP 核心模块中其实只有两个简单的配置，这一块也是 HTTP 的基础知识。之前我们就一直在强调，学习 Nginx 需要的就是各种网络相关的基础知识&…...
【1】-Locust性能测试工具介绍与安装
Locust介绍 locust是一个开源的压测工具，其官网地址是Locust - A modern load testing framework，通过编写Python代码，可以轻松实现百万级的并发，相对于我们熟悉的Jmeter来说，其对压测机的要求更低，而且使…...
基于拉格朗日-遗传算法的最优分布式能源DG选址与定容（Matlab代码实现）
目录 1 概述 2 数学模型 2.1 问题表述 2.2 DG的最佳位置和容量（解析法） 2.3 使用 GA 进行最佳功率因数确定和 DG 分配 3 仿真结果与讨论 3.1 33 节点测试配电系统的仿真 3.2 69 节点测试配电系统仿真 4 结论 1 概述 为了使系统网损达到最低值&a…...
【已解决】jupyter notebook里已经安装了第三方库，还是提示导入失败
在jupyter notebook中运行Python代码，明明已经安装了第三方库，还是提示导入失败。 以导入pandas库为例，其他库同理： 报错代码： import pandas报错原因： 电脑上存在多个python运行环境（比如&a…...
Mybatis使用collection映射一对多查询分页问题
场景：页面展示列表，需要查询多的字段，和一的字段。并且还要分页。 这时候直接想到的是手写sql。 /*** 标签*/private List<BasicResidentTags> tags;Data TableName("basic_resident_tags") public class BasicResidentTag…...
Linux/Windows路由管理
本文主要介绍如果通过linux/Windows命令添加IPV6地址，查看添加IPV6默认路由，查看IPV6邻居缓存 一、Linux 1、查看地址 IPV4: route netstat -route ip route IPV6: ip -6 route show route -A inet6 route -62、添加IPV6地址 ip -6 addr add <…...
机器学习与SHAP在教育公平研究中的应用：精准定位学业困境根源
1. 项目概述：当机器学习遇见教育公平，我们如何精准定位学业困境的根源？在拉丁美洲的教育研究领域，一个长期困扰政策制定者和研究者的核心问题是：究竟是什么因素，在复杂的社会经济背景下，系统性地…...
基于双T振荡器的正弦波LED调光电路设计与实践
1. 项目概述：用双T振荡器实现正弦波LED调光最近在捣鼓一些氛围灯项目，总感觉用单片机PWM做的呼吸灯效果有点“硬”，那种线性的明暗变化看久了难免审美疲劳。于是翻出以前模拟电路的老本行，琢磨着能不能用纯硬件的方式，…...
股票买卖最佳时机：LeetCode121题解
题目LeetCode121给定一个数组 prices ，它的第 i 个元素 prices[i] 表示一支给定股票第 i 天的价格。你只能选择 某一天 买入这只股票，并选择在 未来的某一个不同的日子 卖出该股票。设计一个算法来计算你所能获取的最大利润。返回你可以从这笔交易中获取…...
2027考研全套资料免费分享
备战27考研最全备考资料整理完毕，一路走来深知备考搜集资料耗费大量时间，浪费不少精力。特意整理2027考研全科完整版资源，全部打包汇总，零基础考生直接拿来就能使用，省去四处搜集资料的烦恼。资料内含：&…...
随机森林算法在儿童出行方式预测中的实战应用与优化
1. 项目概述：用随机森林预测孩子怎么上学做城市交通规划或者做家长接送方案的时候，你肯定想过一个问题：孩子们到底是怎么上学的？是走路、骑车、坐公交还是家长开车送？这个问题看似简单，背后却牵扯到城市规划…...
Cesium动态数据可视化实战：CallbackProperty结合setInterval打造实时运动轨迹
Cesium动态数据可视化实战：CallbackProperty结合setInterval打造实时运动轨迹 在三维地理信息系统中，实时数据可视化一直是开发者面临的挑战之一。想象一下，当我们需要在地球表面追踪一架正在飞行的无人机，或者监控城市中数百辆出…...
qobuz-dl终极实战指南：专业无损音乐下载工具架构解析与高效应用
qobuz-dl终极实战指南：专业无损音乐下载工具架构解析与高效应用 【免费下载链接】qobuz-dl A complete Lossless and Hi-Res music downloader for Qobuz 项目地址: https://gitcode.com/gh_mirrors/qo/qobuz-dl 在数字音乐时代，追求极致音质的音…...
别只盯着主控芯片！拆解STM32最小系统板：电源、时钟、复位三大支柱电路深度解析
STM32最小系统板设计进阶：电源、时钟与复位电路的工程实践 在嵌入式系统开发中，我们常常将注意力集中在主控芯片的功能实现上，却忽略了支撑系统稳定运行的三大基础电路——电源、时钟和复位。这些看似简单的电路模块，实则是整个系…...
别光看手册！手把手教你读懂气体放电管（GDT）的6个关键参数，选型不踩坑
气体放电管实战选型指南：从参数表到电路设计的6个关键决策点 每次打开气体放电管（GDT）的英文数据手册，面对密密麻麻的参数表格和波形图，不少工程师都会陷入选择困难——这些数值到底如何影响实际电路保护效果…...
终极指南：如何在macOS上使用eqMac专业音频均衡器提升音质体验
终极指南：如何在macOS上使用eqMac专业音频均衡器提升音质体验 【免费下载链接】eqMac macOS System-wide Audio Equalizer & Volume Mixer 🎧 项目地址: https://gitcode.com/gh_mirrors/eq/eqMac 你是否厌倦了macOS系统单调的音频效果&#…...