当前位置: 首页 > news >正文

onnxruntime 支持的所有后端

1 代码导出

import onnxruntime as ort
aaa = ort.get_all_providers()
print(aaa)

1. 1 下面是ort支持的所有后端

'TensorrtExecutionProvider', 'CUDAExecutionProvider', 'MIGraphXExecutionProvider', 
'ROCMExecutionProvider', 'OpenVINOExecutionProvider', 'DnnlExecutionProvider', 
'TvmExecutionProvider', 'VitisAIExecutionProvider', 'NnapiExecutionProvider', 
'CoreMLExecutionProvider', 'ArmNNExecutionProvider', 'ACLExecutionProvider', 
'DmlExecutionProvider', 'RknpuExecutionProvider', 'XnnpackExecutionProvider', 
'CANNExecutionProvider', 'AzureExecutionProvider', 'CPUExecutionProvider'

1.1.1 详细介绍:

执行提供程序(Execution Provider)描述典型硬件典型厂家
TensorrtExecutionProvider利用TensorRT进行高性能推断NVIDIA GPUNVIDIA
CUDAExecutionProvider使用CUDA在GPU上进行推断NVIDIA GPUNVIDIA
MIGraphXExecutionProvider使用MIGraphX在AMD GPU上进行推断AMD GPUAMD
ROCMExecutionProvider在AMD ROCm平台上进行推断AMD GPUAMD
OpenVINOExecutionProvider使用OpenVINO进行推断多种硬件(包括Intel CPU、GPU、FPGA等)Intel
DnnlExecutionProvider使用DNNL进行推断多种硬件(包括Intel CPU、GPU等)Intel
TvmExecutionProvider使用TVM进行推断多种硬件(包括CPU、GPU等)社区驱动
VitisAIExecutionProvider在Xilinx FPGA上使用Vitis AI进行推断Xilinx FPGAXilinx
NnapiExecutionProvider在Android设备上使用NNAPI进行推断Android设备Google
CoreMLExecutionProvider在Apple设备上使用Core ML进行推断Apple设备Apple
ArmNNExecutionProvider在Arm设备上使用Arm NN进行推断Arm设备Arm
ACLExecutionProvider在Arm Compute Library上进行推断Arm设备Arm
DmlExecutionProvider在DirectML上进行推断DirectX 12兼容的GPUMicrosoft
RknpuExecutionProvider在Rockchip NPU上进行推断Rockchip NPURockchip
XnnpackExecutionProvider使用XNNPack进行推断多种硬件(包括CPU)社区驱动
CANNExecutionProvider在华为NPU上进行推断华为NPU华为
AzureExecutionProvider在Azure平台上进行推断多种硬件(包括CPU、GPU等)Microsoft
CPUExecutionProvider在CPU上进行推断CPU多个硬件厂商

这些是典型的硬件和厂家,但请注意,具体的执行提供程序的可用性和兼容性可能会因版本、操作系统和硬件配置而有所不同。

相关文章:

onnxruntime 支持的所有后端

1 代码导出 import onnxruntime as ort aaa ort.get_all_providers() print(aaa)1. 1 下面是ort支持的所有后端 TensorrtExecutionProvider, CUDAExecutionProvider, MIGraphXExecutionProvider, ROCMExecutionProvider, OpenVINOExecutionProvider, DnnlExecutionProvider…...

k8s 自身原理 5

我们知道容器是通过 pod 来承载的,我们在 k8s 中,服务都是跑在 pod 里面的,pod 里面可以跑 1 个容器,或者跑多个容器,那么咱们 pod 里面跑 1 个服务容器,咱真的就以为里面就只有这样个容器吗? …...

机器视觉应用开发什么最重要?

(QQ群有答疑)零基础小白快速上手海康VisionMaster开发系列课程 高级语言在机器视觉就是工具,机器视觉软件,在机器视觉中也是工具,在机器视觉应用开发中,图像处理是最重要的,一切看图像&#xff…...

React+Typescript使用接口泛型处理props

好 刚讲完组件 那么 这次 我们来看一下 数据传递的 props 还是上文的案例 例如 我们想将 title 传给Hello组件 之前我们可以直接这样 以一个标签属性的形式传过去 而我们在子组件中 这样去使用 但现在 我们从编辑器中都可以看出 这种写法已经不行了 然后 我们将 hello 组件…...

自定义python文件import导入ModuleNotFoundError: No module named ‘***‘ 问题

自定义python文件import导入ModuleNotFoundError: No module named ‘***’ 问题 错误代码: import configparser import os.path import sys from bin import swk_mysql_create, swk_redis_create这里导入自定义python文件,其中swk_mysql_create.py文…...

Codeforces Round 893 (Div. 2)B题题解

文章目录 [The Walkway](https://codeforces.com/contest/1858/problem/B)问题建模问题分析1.分析所求2.如何快速计算每个商贩被去除后的饼干数量代码 The Walkway 问题建模 给定n个椅子,其中有m个位置存在商贩,在商贩处必须购买饼干吃,每隔…...

HTTP响应状态码大全:从100到511,全面解析HTTP请求的各种情况

文章目录 前言一、认识响应状态码1. 什么是HTTP响应状态码2. Http响应状态码的作用3. 优化和调试HTTP请求的建议 二、1xx 信息响应1. 认识http信息响应2. 常见的信息响应状态码 三、2xx 成功响应1. 认识HTTP成功响应2. 常见的成功响应状态码 四、3xx 重定向1. 认识http重定向2.…...

Vue-10.集成.env

.env、.env.development 和 .env.preview .env、.env.development 和 .env.preview 文件是用于配置环境变量和应用程序设置的文件,它们在项目开发和部署过程中起到关键作用。这些文件用于在不同的环境中设置不同的变量值,以满足不同环境下的配置需求。 …...

强训第33天

选择 C A ping是TCP/IP协议族的一部分,使用ICMP协议,ICMP底层使用IP协议。如果要ping其他网段,则需要设置网关。 如果是二层交换机故障,则ping同网段的也会不通。 C Dos攻击被称之为“拒绝服务攻击”,其目的是使计算机…...

【CTF-web】buuctf-[极客大挑战 2019]EasySQL 1(sql注入)

题目链接 根据题目判断出可能需要sql注入,看源码可知数据是通过GET的方式传输的,即放在url的username和password两个参数中。 只要将username输入为1 or 11#,password可以为任何值,即可顺利登录。 需要注意的是url中的井号表示…...

脚本语言与编译语言的区别

文章目录 一、语法差异二、执行方式差异三、应用领域差异四、总结 一、语法差异 脚本语言:脚本语言通常使用解释器逐行执行,不需要事先编译。它的语法相对简单,易于学习和使用。常见的脚本语言有Python、JavaScript和Ruby等。 编译语言&…...

大型企业或者组织,组建专属的虚拟局域网,深入理解相关的配置和搭建使用、网络加速和网络优化,可夸地区夸国际使用,深入搞懂每项配置的作用和含义

大型企业或者组织,组建专属的虚拟局域网,深入理解相关的配置和搭建使用、网络加速和网络优化,可夸地区夸国际使用,深入搞懂每项配置的作用和含义。 1、openxxx介绍与图解 1.1 openxxx介绍 openxxx 是一个基于 OpenSSL库的应用层 虚拟局域网 实现。和传统 虚拟局域网 相…...

数据结构:二叉树的递归实现(C实现)

个人主页 : 个人主页 个人专栏 : 《数据结构》 《C语言》 文章目录 前言一、树的概念二、二叉树二叉树的概念二叉树的性质 三、二叉树链式结构实现二叉树节点定义创建二叉树节点遍历二叉树先序遍历二叉树(BinaryTreePrevOrder)中序遍历二叉树(BinaryTree…...

MinGW编译运行报错RTTI symbol not found for class ‘XXX‘

最近在调试程序时莫名的出现图中报错: 还遇到过for class QObject,在此记录一下,排查后发现,原因都是有资源被重复释放导致的。...

table表头颜色 element plus

原图 预期 css :deep(.el-table__header) {background-color: #F5F7FA;} :deep(.el-table tr) {background-color: rgba(0,0,0,0);} :deep(.el-table th.el-table__cell) {background-color: rgba(0,0,0,0);}...

网络安全(自学)

想自学网络安全(黑客技术)首先你得了解什么是网络安全!什么是黑客! 网络安全可以基于攻击和防御视角来分类,我们经常听到的 “红队”、“渗透测试” 等就是研究攻击技术,而“蓝队”、“安全运营”、“安全…...

FPGA芯片IO口上下拉电阻的使用

FPGA芯片IO口上下拉电阻的使用 为什么要设置上下拉电阻一、如何设置下拉电阻二、如何设置上拉电阻为什么要设置上下拉电阻 这里以高云FPGA的GW1N-UV2QN48C6/I5来举例,这个芯片的上电默认初始化阶段,引脚是弱上来模式,且模式固定不能通过软件的配置来改变。如下图所示: 上…...

掌握指针进阶:一篇带你玩转函数指针、函数指针数组及指向函数指针数组的指针!!

🍁博客主页:江池俊的博客 💫收录专栏:C语言进阶之路 💡代码仓库:江池俊的代码仓库 🎪我的社区:GeekHub 🎉欢迎大家点赞👍评论📝收藏⭐ 文章目录 一…...

在Docker上部署2台节点,利用Keeplived实现双节点VIP 高可用,不需要关闭Keeplived,实现vip来回切换。

前言: keeplived的做高可用网上有很多例子,但是都存在这样那样的问题,比如: 1.使用的是默认抢占式,这样在主节点恢复后,又会将VIP 漂移回到主节点上,因此需要使用非抢占式模式,故障恢复时,可避免 VIP 切换造成的服务延迟。 2.使用的是默认组播,信息都会向默认的224.0.…...

leetcode 279. 完全平方数

2023.8.18 与零钱兑换相似&#xff0c;本题属于完全背包问题&#xff1a;完全平方数为物品&#xff0c;整数n为背包。 直接上代码&#xff1a; class Solution { public:int numSquares(int n) {vector<int> dp(n1 , INT_MAX);dp[0] 0;for(int i1; i*i<n; i){for(in…...

如何高效管理学术引用数据:Zotero智能统计插件完整指南

如何高效管理学术引用数据&#xff1a;Zotero智能统计插件完整指南 【免费下载链接】zotero-citationcounts Zotero plugin for auto-fetching citation counts from various sources 项目地址: https://gitcode.com/gh_mirrors/zo/zotero-citationcounts 如果你是一位研…...

如何通过Whisky在macOS上实现Windows程序无缝运行?4步技术实践指南

如何通过Whisky在macOS上实现Windows程序无缝运行&#xff1f;4步技术实践指南 【免费下载链接】Whisky A modern Wine wrapper for macOS built with SwiftUI 项目地址: https://gitcode.com/gh_mirrors/wh/Whisky 对于macOS开发者而言&#xff0c;运行Windows专用软件…...

QRazyBox终极指南:5步快速修复损坏的二维码

QRazyBox终极指南&#xff1a;5步快速修复损坏的二维码 【免费下载链接】qrazybox QR Code Analysis and Recovery Toolkit 项目地址: https://gitcode.com/gh_mirrors/qr/qrazybox 你是否曾经遇到过无法扫描的二维码&#xff1f;那些因打印模糊、屏幕损坏或污渍覆盖而失…...

从HQST网络变压器选型,看PHY驱动方式如何影响你的以太网电路设计

从HQST网络变压器选型看PHY驱动方式对以太网电路设计的影响 在硬件工程师的日常工作中&#xff0c;以太网电路设计看似标准化程度高&#xff0c;实则暗藏玄机。尤其是PHY芯片与网络变压器的匹配问题&#xff0c;往往成为项目后期调试阶段的"隐形杀手"。我曾亲眼见证一…...

3个技巧让Clipy彻底改变你的macOS剪贴板使用体验

3个技巧让Clipy彻底改变你的macOS剪贴板使用体验 【免费下载链接】Clipy Clipboard extension app for macOS. 项目地址: https://gitcode.com/gh_mirrors/cl/Clipy 你是不是经常遇到这样的情况&#xff1a;刚刚复制了一段重要信息&#xff0c;又复制了其他内容&#xf…...

书匠策AI:2026年写毕业论文的“开挂说明书“——一个教育博主的硬核拆解

你离毕业&#xff0c;可能只差一个书匠策AI的距离 各位还在和毕业论文"互相折磨"的同学们&#xff0c;我是一个专门教人写论文的教育博主。今天不聊理论&#xff0c;不灌鸡汤&#xff0c;直接给你们安利一个我最近扒了很久的工具——书匠策AI&#xff08;官网 官网直…...

Python异步Web框架SerpentStack:高性能API服务开发指南

1. 项目概述&#xff1a;SerpentStack&#xff0c;一个被低估的Python异步Web框架最近在GitHub上闲逛&#xff0c;又看到了一个名为“SerpentStack”的Python Web框架项目&#xff0c;作者是Benja-Pauls。说实话&#xff0c;第一眼看到这个名字&#xff0c;我差点把它归为又一个…...

ClawShelf:打造精准可控的本地媒体库元数据管理方案

1. 项目概述&#xff1a;一个为极客打造的本地媒体资产管理利器如果你和我一样&#xff0c;是个喜欢折腾本地影音库、又对现有媒体管理工具&#xff08;比如Plex、Jellyfin的刮削器&#xff09;的识别准确率或自定义能力感到不满的资深玩家&#xff0c;那么你很可能已经对“Cla…...

AI智能转码 + 原生高性能:QQ音乐存量代码迁移Kuikly实践

导语 Kuikly 是腾讯开源的高性能跨端开发框架&#xff0c;支持基于 Kotlin 原生开发语言构建 Android、iOS、鸿蒙、Web、小程序及 Mac 多端应用。作为较早接入Kuikly的业务&#xff0c;QQ音乐一直深度使用Kuikly&#xff0c;已累计开发200页面&#xff0c;并持续迁移存量页面至…...

一篇看懂 SimGen:它为什么能“同时生成手术图像和分割掩码”?

在医学影像领域&#xff0c;“生成图像”已经不算新鲜事&#xff1b;但在手术场景里&#xff0c;真正有价值的并不只是生成一张“看起来像真的”图&#xff0c;而是同时生成一张能够精确标出器械、组织和解剖区域的分割掩码。因为对手术 AI 来说&#xff0c;最贵的从来不是图片…...