当前位置： 首页 > news >正文

TVM_深度学习编译器

news 2026/5/22 23:33:32

TVM_深度学习编译器

TVM所做的是要比传统compiler更偏上层的，你可以把它理解成source-to-source compiler，需要其他的后端(backend)来生成最后的指令。比如当编译的Target是Intel CPU时，翻译的顺序是Relay IR -> TVM IR/ Halide IR -> LLVM IR，之后交给LLVM生成最后的可执行程序。当编译的Target是NVIDIA GPU时，这个顺序就变成了 Relay IR -> TVM IR/Halide IR -> CUDA program (比如生成一个文件, my_kernel.cu)，然后调用cuda的runtime compiler来生成CUDA可执行文件。

细节上可能跟最新的不一样，因为TVM大概在逐渐废弃Halide IR，TVM IR也是每个版本都有改动。从前后端的角度上看，vitis AI可以作为TVM的后端之一，而且不久前，TVM也支持了这个后端([RFC][BYOC] Vitis-AI integration)，具体支持的如何，我没有试过。TVM的核心优势在于从Halide等框架借鉴来的算子描述与调度分离，TVM IR侧重于loop nest来做loop transformation。vitis从官网上看，可以做剪枝量化这些，之后把算子分派到具体的执行单元。

TVM + vitis AI backend的话，从RFC来看，大概是先在TVM这一层做优化，然后翻译到vitis的graph IR。但是我很好奇，如果我做tiling，这个tiling size在底层没有支持，它怎么翻译？还是说这个RFC所做的只是Relay graph optimization，比如算子融合，constant folding

相关文章：

TVM_深度学习编译器

TVM_深度学习编译器 TVM所做的是要比传统compiler更偏上层的，你可以把它理解成source-to-source compiler，需要其他的后端(backend)来生成最后的指令。比如当编译的Target是Intel CPU时，翻译的顺序是Relay IR -> TVM IR/ Halide IR -> LLVM IR，之后交给LLVM生成最后…...

编程日记 2023/8/2 9:31:26

Flutter InheritedWidget 共享状态管理

InheritedWidget和React中的context功能类似，可以实现跨组件数据的传递。 定义一个共享数据的InheritedWidget，需要继承自InheritedWidget 这里定义了一个of方法，该方法通过context开始去查找祖先的HYDataWidget（可以查看源码查找…...

编程日记 2023/8/2 9:30:25

什么是反射？Java反射？反射的优缺点

目录 什么是反射（Reflection ）？Java反射？反射的优缺点获取Class对象的三种方式：java反射技术的应用场景 什么是反射（Reflection ）？ 主要是指程序可以访问、检测和修改它本身状态或行…...

编程日记 2023/8/2 9:29:22

小红书2020校招测试开发后端笔试题卷三

//完全背包求组合数 #include <iostream> #include<vector> #include<set> #include<map> #include<algorithm> using namespace std; int value[300]; // vector<int>vis; // vector<int>vis1; map<vector<int>,int>m…...

编程日记 2023/8/2 9:28:21

python数据可视化Matplotlib

1.绘制简单的折线图 # -*- coding: utf-8 -*- import matplotlib.pyplot as pltinput_values [1, 2, 3, 4, 5] squares [1, 4, 9, 16, 25] plt.style.use(seaborn) fig, ax plt.subplots() ax.plot(input_values, squares, linewidth3) # 线条粗细# 设置图表标题并给坐标…...

编程日记 2023/8/2 9:27:20

firewalld防火墙

firewalld防火墙 它属于包过滤防火墙。工作在网络层&#xff0c;是centos7自带的默认防火墙。主要是取代iptables。 firewalld的两种配置模式&#xff1a; 分别是运行时配置和永久配置。 iptable是静态防火墙 firewalld是动态防火墙 它是按照区域来划分的&#xff0c;有9…...

编程日记 2023/8/2 9:26:19

iMacros WebBrowser Component for .NET

iMacros WebBrowser Component for .NET 在几分钟内实现应用程序自动化 快速轻松地将iMacro集成到您的应用程序中。不需要单独的安装程序。 无缝集成 iMacros与您的.NET应用程序无缝集成&#xff0c;作为Microsoft WebBrowser控件的替代品。它甚至可以用作每个.NET应用程序中的…...

编程日记 2023/8/2 9:25:17

3，堆，桶排序，排序总结【p4-p5】

桶排序&#xff0c;排序总结 3.1堆3.1.1堆结构3.1.1.1完全二叉树3.1.1.2堆分为大根堆和小根堆3.1.1.2.1案例1-去掉最大数字&#xff0c;使剩下的数字依然是大根堆3.1.1.2.2案例23.1.1.2.3案例33.1.1.2.4案例4-方便制造大根堆方法 3.1.2堆排序3.1.2.1案例-堆排序的扩展3.1.2.1.1…...

编程日记 2023/8/2 9:24:16

使用langchain与你自己的数据对话(四)：问答(question answering)

之前我已经完成了使用langchain与你自己的数据对话的前三篇博客&#xff0c;还没有阅读这三篇博客的朋友可以先阅读一下&#xff1a; 使用langchain与你自己的数据对话(一)&#xff1a;文档加载与切割使用langchain与你自己的数据对话(二)&#xff1a;向量存储与嵌入使用langc…...

编程日记 2023/8/2 9:23:15

如何快速开拓海外华人市场？附解决方案！

开拓华人市场对于企业来说是非常必要的。华人市场庞大且潜力巨大&#xff0c;拥有巨额的消费能力。随着华人经济的不断增长&#xff0c;越来越多的企业开始意识到华人市场的重要性。 通过开拓华人市场&#xff0c;企业可以获得更多的销售机会&#xff0c;并且在竞争激烈的市场…...

编程日记 2023/8/2 9:22:15

【云原生-制品管理】制品管理的优势

制品介绍制品管理-DevOps制品管理优势总结 制品介绍 制品管理指的是存储、版本控制和跟踪在软件开发过程中产生的二进制文件或“制品”的过程。这些制品可以包括编译后的源代码、库和文档&#xff0c;包括操作包、NPM 和 Maven 包&#xff08;或像 Docker 这样的容器镜像&…...

编程日记 2023/8/2 9:21:13

Java爬虫----HttpClient方式（获取数据篇）

目录 一、爬虫的定义 二、获取数据 &#xff08;1&#xff09;基于Get方式的请求&#xff08;无参&#xff09; &#xff08;2&#xff09;基于Get方式请求&#xff08;有参&#xff09; &#xff08;3&#xff09;基于Post方式的请求&#xff08;无参&#xff09; &…...

编程日记 2023/8/2 9:20:12

计算机视觉实验：图像增强应用实践

本次实验主要从基于统计、函数映射的图像增强方法和基于滤波的图像增强方法两种方法中对一些图像增强的算法进行实现。主要的编程语言为python&#xff0c;调用了python自带的PIL图像库用于读取图像&#xff0c;利用numpy进行图像运算&#xff0c;最后使用opencv第三方库进行对…...

编程日记 2023/8/2 9:19:11

ES6：Generator函数详解

ES6&#xff1a;Generator函数详解 1、 概念2、yield表达式2.1 yield 语句与 return 语句区别2.2 Generator函数不加yield语句&#xff0c;这时变成了一个单纯的暂缓执行函数2.3 yield 表达式只能用在 Generator 函数里面&#xff0c;用在其它地方都会报错2.4 yield 表达式如果…...

编程日记 2023/8/2 9:18:09

前端小练-产品宣传页面

文章目录 前言页面结构固定钉头部轮播JS特效 完整代码总结 前言 经过一个月的爆肝&#xff0c;花费了一个月&#xff08;期间还花费了将近半个月的时间打比赛&#xff0c;还要备研&#xff09;算是把数二高数的内容强化了一遍&#xff0c;接下来刷熟练度即可&#xff0c;可惜的…...

编程日记 2023/8/2 9:17:07

arm学习之stm32设备树学习-中断控制led灯亮灭+字符设备指令控制led灯亮灭

中断控制led灯亮灭 驱动文件源码 led-key.c #include<linux/init.h> #include<linux/module.h> #include<linux/of.h> #include<linux/of_gpio.h> #include<linux/gpio.h> #include<linux/of_irq.h> #include<linux/interrupt.h> s…...

编程日记 2023/8/2 9:16:06

快速开发框架若依的基础使用详解

Hi I’m Shendi 快速开发框架若依的基础使用详解 最近在为公司制作新的项目&#xff0c;经过了一段时间的技术沉淀&#xff0c;我开始尝试接触市面上用的比较多的快速开发框架&#xff0c;听的最多的当属若依吧 于是就选用了若依 介绍 为什么选&#xff1f;目的是为了提高开发…...

编程日记 2023/8/2 9:15:05

RabbitMQ 教程 | 第4章 RabbitMQ 进阶

&#x1f468;&#x1f3fb;‍&#x1f4bb; 热爱摄影的程序员 &#x1f468;&#x1f3fb;‍&#x1f3a8; 喜欢编码的设计师 &#x1f9d5;&#x1f3fb; 擅长设计的剪辑师 &#x1f9d1;&#x1f3fb;‍&#x1f3eb; 一位高冷无情的编码爱好者 大家好&#xff0c;我是 DevO…...

编程日记 2023/8/2 9:14:04

小程序如何从分类中移除商品

​有时候商家可能需要在商品分类中删除某些商品&#xff0c;无论是因为商品已下架、库存不足还是其他原因。在这篇文章中&#xff0c;我们将介绍如何从分类中移除商品。 方式一&#xff1a;分类管理中删除商品。 进入小程序管理后台&#xff0c;找到分类管理&#xff0c;在分…...

编程日记 2023/8/2 9:13:01

P1219 [USACO1.5] 八皇后 Checker Challenge

题目 思路 非常经典的dfs题&#xff0c;需要一点点的剪枝 剪枝①&#xff1a;行、列&#xff0c;对角线的标记 剪枝②&#xff1a;记录每个皇后位置 代码 #include<bits/stdc.h> using namespace std; const int maxn105; int a[maxn];int n,ans; bool vis1[maxn],vis…...

编程日记 2023/8/2 9:12:00

Polar Sparsity技术：提升LLM推理效率的动态稀疏优化

1. 项目概述&#xff1a;Polar Sparsity技术背景与核心价值 在大型语言模型&#xff08;LLM&#xff09;推理任务中&#xff0c;计算效率始终是制约实际部署的关键瓶颈。传统稀疏化方法&#xff08;如权重剪枝或神经元激活稀疏化&#xff09;虽然在小批量场景下有效&#xff0c…...

编程新知 2026/5/22 23:02:46

数字化舆论管控新时代，搜极星赋能企业长效发展

数字化舆论已从传统社交平台、媒体渠道&#xff0c;全面延伸至 AI 大模型对话场景。AI 幻觉、虚假信息扩散、恶意信息投毒、跨平台舆论失控&#xff0c;正成为企业声誉管理的全新挑战。 传统人工排查、被动应对、局部监测的舆论管控模式彻底失效&#xff0c;企业亟需一套全域覆…...

编程新知 2026/5/22 20:42:17

函数递归调用原理

1. 什么是递归 2. 递归的举例 3. 递归与迭代1. 什么是递归递归就是一种解决方法&#xff0c;在C语言中&#xff0c;递归就是函数调用自己。下面是一个简单的递归C语言程序&#xff1a;#include <stdio .h>int main(){printf("hello world\n");main();//main函数…...

编程新知 2026/5/22 20:21:18

CANN-昇腾NPU分布式训练-8卡到64卡怎么线性扩展

8 卡训练 Llama2-7B 的吞吐约 1800 tokens/s/p。64 卡应该是 8 卡的 8 倍吗&#xff1f;实际上只能到 6-7 倍。缺失的 1-2 倍被通信开销吃了。这篇分析昇腾NPU上分布式训练的扩展效率。 扩展效率定义 扩展效率 实际加速比 / 理论加速比8 卡 → 64 卡&#xff1a;理论加速比 8…...

编程新知 2026/5/22 18:33:57

Mythos模型的技术本质：执行态建模与终端状态感知

1. 这不是一次普通模型发布&#xff1a;Mythos背后的真实技术分水岭 “Claude Mythos Preview”这七个字&#xff0c;最近在安全圈和AI工程一线引发的震动&#xff0c;远超多数人最初预估。它不是又一个参数堆叠的“更大模型”&#xff0c;也不是一次常规的SOTA刷新——它是一次…...

编程新知 2026/5/22 18:31:42

GD25Q64EWIGR、2.7-3.6V宽压供电的专业级串行闪存

内容介绍 今天我要向大家介绍的是 GigaDevice 的一款串行闪存——GD25Q64EWIGR。它能稳定提供 64M-bit&#xff08;8MB&#xff09;的海量存储&#xff0c;同时支持标准、双路和四路 SPI 高速读写&#xff0c;四路 I/O 数据传输速度最高可达 532Mbit/s。更难能可贵的是&…...

编程新知 2026/5/22 17:44:20

清华PPT模板：如何在5分钟内打造专业学术演示文稿

清华PPT模板&#xff1a;如何在5分钟内打造专业学术演示文稿 【免费下载链接】THU-PPT-Theme 清华主题PPT模板 项目地址: https://gitcode.com/gh_mirrors/th/THU-PPT-Theme 还在为学术汇报PPT设计而烦恼吗&#xff1f;面对即将到来的答辩、会议或课堂展示&#xff0c;你…...

编程新知 2026/5/22 16:29:01

AArch64架构SMCR_EL3寄存器详解与SME向量计算优化

1. AArch64系统寄存器与SMCR_EL3概述在Armv8-A/v9架构中&#xff0c;系统寄存器是处理器状态和功能控制的核心枢纽。作为特权级软件与硬件交互的接口&#xff0c;每个系统寄存器都承担着特定的控制、配置或状态监控职责。SMCR_EL3&#xff08;SME Control Register at EL3&…...

编程新知 2026/5/22 16:06:35

腾讯扔了个王炸：Marvis，每天送你1000万Token的AI管家

昨天，腾讯悄悄上线了一个东西。 没有发布会，没有雷军式的演讲，没有"遥遥领先"的排比句。 就是官网开了，下载链接放出来了。 但我试用了一天之后，想跟你说一句：这可能是我2026年见过最猛的AI产品。 它叫 Marvis（马维斯）。 01 先别急着"又一个AI助手&…...

编程新知 2026/5/22 15:19:13

math 7 [parallel lines] 2026.05.22

math 7 [parallel lines] 2026.05.22 平行线练习...

编程新知 2026/5/22 15:17:12