TensorRT的结构
Builder（网络原数据）：模型搭建的入口，网络的tensorRT内部表示以及可执行程序引擎都是由该对象的成员方法生成的
BuiderConfig（网络原数据的选项）：负责设置模型的一些参数，如是否开始fp16模式，in8模式等等
Network（计算图内容）：网络的主体，在使用api搭建网络的过程当中，将不断地向其中添加一些层，并标记网络的输入输出节点，在其他两种workflow中，则使用Parser来加载来自Onnx文件中的网络，就无需一层一层手工添加
SerializedNetwork：模型网络在TRT中的内部表示，可用它生成可执行的推理引擎或者把它序列化保存为文件，方便以后读取和使用
Engine：推理引擎，是模型计算的核心，可理解为可执行程序的代码段
context：用于计算GPU的上下文。类比于cpu上的进程概念进程，是执行推理引擎的主体
buffer相关（数据的内存、显存相关）：我们将需要把数据从cpu端搬到gpu端，执行推理计算后，再把数据由gpu端搬回cpu端。这些步骤涉及内存的申请、拷贝和释放，需要借助CUDA库或者扩大python库才能完成
excute：调用计算核心执行推理计算的具体过程
善后工作：还有一些外围的工作需要手工去完成
相关文章：
TensorRT的结构
Builder（网络原数据）：模型搭建的入口，网络的tensorRT内部表示以及可执行程序引擎都是由该对象的成员方法生成的 BuiderConfig（网络原数据的选项）：负责设置模型的一些参数，如是否开始…...
python对excel数据表进行数据清洗
当拿到excel表，使用python对excel操作前，第一件事情是对excel表的数据进行数据清洗。 数值是否有空值，是否有重复的数据，把以上2个问题解决完成以后，才是对数据真正操作的开始。 1、使用pandans读取数据 2、判断exce…...
95、Spring Data Redis 之使用RedisTemplate 实现自定义查询 及 Spring Data Redis 的样本查询
Spring Data Redis 之使用RedisTemplate 实现自定义查询 Book实体类 原本的接口，再继承我们自定义的接口 自定义查询接口----CustomBookDao 实现类：CustomBookDaoImpl 1、自定义添加hash对象的方法 2、自定义查询价格高于某个点的Book对象 测试&a…...
jdbc（DriverManager+Connection+Statement+ResultSet）+SQL注入+开启预编译+数据连接池
1 JDBC概念 JDBC 就是使用Java连接并操作数据库的一套API 全称：( Java DataBase Connectivity ) Java 数据库连接 2 JDBC优势 可随时替换底层数据库，访问数据库的Java代码基本不变 以后编写操作数据库的代码只需要面向JDBC（接口…...
NoSQL之 Redis命令工具及常用命令
目录 1 Redis 命令工具 1.1 redis-cli 命令行工具 1.2 redis-benchmark 测试工具 2 Redis 数据库常用命令 2.1 set：存放数据，命令格式为 set key value 2.2 get：获取数据，命令格式为 get key 2.3 keys 命令可以取符合规则的…...
多线程(线程互斥)
抢票代码编写 学习了前面有关线程库的操作后，我们就可以模拟抢票的过程 假设我们创建四个线程，分别代表我们的用户 然后设定总票数为1000张，四个线程分别将进行循环抢票操作，其实就是循环对票数进行打印，并进行对应的…...
使用 html2canvas 和 jspdf 将页面转 pdf，同时解决当页面过长时，页面白屏问题
代码如下，直接粘贴复制即可，代码中 jspdf 是全局引入，你可以自己局部引入 别人使用标签的方式来显示 base64，但是当页面过长时，base64 大小过大会导致页面解析异常，显示白屏 import html2canvas from html2…...
【Python 千题 —— 基础篇】今年几岁啦
题目描述 题目描述 介绍自己的年龄。请使用 input 函数读入一个整数，表示自己的年龄，然后程序将自动生成介绍自己年龄的英文语句。 输入描述 输入一个整数，表示自己的年龄。 输出描述 程序将生成一个英文语句，以介绍自己的年…...
git push 失败 shallow update not allowed
问题描述： ~/OK62xx-linux-sdk/OK62xx-linux-kernel$ git push origin master Counting objects: 83919, done. Delta compression using up to 144 threads. Compressing objects: 100% (75697/75697), done. Writing objects: 100% (83919/83919), 232.41 MiB | …...
uniapp 在uni.scss 根据@mixin定义方法 、通过@include全局使用
在官方文档中提及到uni.scss中变量的使用，而我想定义方法，这样写css样式更方便 一、官方文档的介绍 根据官方文档我知道，在这面定义的变量全局都可使用。接下来我要在这里定义方法。 二、在uni.scss文件中定义方法 我在uni.scss文件中定义了…...
C++ 类和对象(一)
1.面向过程和面向对象初步认识 C语言是面向过程的，关注的是过程，分析出求解问题的步骤，通过函数调用逐步解决问题。 C是基于面向对象的，关注的是对象，将一件事情拆分成不同的对象，靠对象之间的交互完 成。 …...
rust函数
一 、函数定义 （一）格式 使用fn关键字 fn是 function 的缩写 1.无返回值的 fn 函数名 ( [paraname: type]... ) {函数体 }参数必须声明参数名称和类型 函数定义时指定的参数叫做 形参。调用时传递给函数的参数叫做 实参。 例子 fn another_function(…...
链表的基本操作
（一）实验类型：设计性 （二）实验目的： 1. 掌握线性表的链式存贮结构及基本操作，深入了解链表的基本特性，以便在实际问题背景下灵活运用它们。 2. 巩固该存贮结构的构造方法࿰…...
Flutter AI五子棋
前言 在上一篇文章中，讲解了如何实现双人在本地对战的五子棋，但是只有一个人的时候就不太好玩，同时博主也没有把五子棋相关的文章写过瘾。那么这篇文章，我们来实现一个功能更加丰富的五子棋吧！在设计五子棋的算法方面&…...
springboot项目中后台文件上传处理
参考地址：http://www.gxcode.top/code 文件上次核心处理代码： @Autowired private FileUpload fileUpload; //获取资源对象：file-upload-prod.properties@ApiOperation(value = "用户头像修改", notes = "用户头像修改", httpMethod =...
【SQL】MySQL中的存储引擎、事务、锁、日志
存储引擎： 数据库管理系统（DBMS）使用数据存储引擎进行创建、查询、更新和删除数据。 MySQL5.5之前默认的存储引擎是MyISAM，5.5及之后版本默认的存储引擎是InnoDB。(my.ini中指定的) MyISAM：不支持事务，不支…...
DRM全解析 —— CRTC详解（2）
接前一篇文章：DRM全解析 —— CRTC详解（1） 本文继续对DRM中CRTC的核心结构struct drm_crtc的成员进行释义。 3. drm_crtc结构释义 （5）struct drm_modeset_lock mutex /*** @mutex:** This provides a read lock for the overall CRTC state (mode, dpms* state, ...) an…...
3d环形图开发（vue3+vite+ts）
开发效果（待完善）： 技术支持： Echarts echarts-gl 安装： 注：echarts与echarts-gl版本需对应，可参考官网 pnpm add echarts4.9.0 echarts-gl1.1.2 组件封装： <template><…...
element ui中父子组件共用一个el-dialog弹窗，切换组件页面弹窗进行关闭
在Element UI中，如果多个父子组件共用一个el-dialog弹窗，并且需要在切换组件页面时关闭弹窗，你可以考虑以下方法来实现： 使用Vuex进行状态管理： 在Vuex中创建一个状态来管理弹窗的显示状态（例如࿰…...
基于Keil a51汇编 —— Segments, Modules, and Programs
段、模块和程序 在初始设计阶段，定义程序要执行的任务，然后划分为子程序。以下是与 Ax51 汇编器和 Lx51 链接器/定位器一起使用的子程序类型的简要介绍。 段是代码块或数据存储器。段可以是可重定位的，也可以是绝对的。可重定位段具有名称、…...
Qwen3-Embedding-0.6B深度解析：多语言语义检索的轻量级利器
第一章 引言：语义表示的新时代挑战与Qwen3的破局之路 1.1 文本嵌入的核心价值与技术演进 在人工智能领域，文本嵌入技术如同连接自然语言与机器理解的“神经突触”——它将人类语言转化为计算机可计算的语义向量，支撑着搜索引擎、推荐系统、…...
Keil 中设置 STM32 Flash 和 RAM 地址详解
文章目录 Keil 中设置 STM32 Flash 和 RAM 地址详解一、Flash 和 RAM 配置界面（Target 选项卡）1. IROM1（用于配置 Flash）2. IRAM1（用于配置 RAM）二、链接器设置界面（Linker 选项卡）1. 勾选“Use Memory Layout from Target Dialog”2. 查看链接器参数（如果没有勾选上面…...
论文解读：交大港大上海AI Lab开源论文 | 宇树机器人多姿态起立控制强化学习框架（一）
宇树机器人多姿态起立控制强化学习框架论文解析 论文解读：交大&港大&上海AI Lab开源论文 | 宇树机器人多姿态起立控制强化学习框架（一） 论文解读：交大&港大&上海AI Lab开源论文 | 宇树机器人多姿态起立控制强化…...
EtherNet/IP转DeviceNet协议网关详解
一，设备主要功能 疆鸿智能JH-DVN-EIP本产品是自主研发的一款EtherNet/IP从站功能的通讯网关。该产品主要功能是连接DeviceNet总线和EtherNet/IP网络，本网关连接到EtherNet/IP总线中做为从站使用，连接到DeviceNet总线中做为从站使用。 在自动…...
【学习笔记】深入理解Java虚拟机学习笔记——第4章 虚拟机性能监控，故障处理工具
第2章 虚拟机性能监控，故障处理工具 4.1 概述 略 4.2 基础故障处理工具 4.2.1 jps:虚拟机进程状况工具 命令：jps [options] [hostid] 功能：本地虚拟机进程显示进程ID（与ps相同），可同时显示主类&#x…...
什么是Ansible Jinja2
理解 Ansible Jinja2 模板 Ansible 是一款功能强大的开源自动化工具，可让您无缝地管理和配置系统。Ansible 的一大亮点是它使用 Jinja2 模板，允许您根据变量数据动态生成文件、配置设置和脚本。本文将向您介绍 Ansible 中的 Jinja2 模板，并通…...
学校时钟系统，标准考场时钟系统，AI亮相2025高考，赛思时钟系统为教育公平筑起“精准防线”
2025年#高考 将在近日拉开帷幕，#AI 监考一度冲上热搜。当AI深度融入高考，#时间同步 不再是辅助功能，而是决定AI监考系统成败的“生命线”。 AI亮相2025高考，40种异常行为0.5秒精准识别 2025年高考即将拉开帷幕，江西、…...
Spring是如何解决Bean的循环依赖：三级缓存机制
1、什么是 Bean 的循环依赖 在 Spring框架中，Bean 的循环依赖是指多个 Bean 之间互相持有对方引用，形成闭环依赖关系的现象。 多个 Bean 的依赖关系构成环形链路，例如： 双向依赖：Bean A 依赖 Bean B，同时 Bean B 也依赖 Bean A（A↔B）。链条循环： Bean A → Bean…...
【无标题】路径问题的革命性重构：基于二维拓扑收缩色动力学模型的零点隧穿理论
路径问题的革命性重构：基于二维拓扑收缩色动力学模型的零点隧穿理论 一、传统路径模型的根本缺陷 在经典正方形路径问题中（图1）： mermaid graph LR A((A)) --- B((B)) B --- C((C)) C --- D((D)) D --- A A -.- C[无直接路径] B -…...
基于IDIG-GAN的小样本电机轴承故障诊断
目录 🔍 核心问题 一、IDIG-GAN模型原理 1. 整体架构 2. 核心创新点 (1) 梯度归一化（Gradient Normalization） (2) 判别器梯度间隙正则化（Discriminator Gradient Gap Regularization） (3) 自注意力机制（Self-Attention） 3. 完整损失函数 二…...