当前位置：首页 > news >正文

算子加速(3):自定义cuda扩展

news 2025/11/13 18:22:38

需要自定义某个层，或有时候用c++实现你的操作(c++扩展)可能会更好:

例如：需要实现一个新型的激活函数
例如: bevfusion用cuda实现bevpool加速

自定义扩展的步骤

(1) 首先用纯pytorch和python 实现我们所需的功能，看看效果再决定要不要进一步优化
(2) 明确优化方向，用C++ (或CUDA) 重写部分代码
(3) 用纯C++编写它
(4) 将模型的部分移动到CUDA内核来进一步加速，以便从GPU提供的大规模并行计算中获益

在前面算子加速(2):自定义c++扩展，第(4)步cuda核函数来实现加速，是没有用到的。如果想进一步提升速度的话，那么就需要通过CUDA 核函数来实现部分功能，也就是实现 cuda扩展。

1.CUDA 扩展介绍

编写CUDA扩展的一般策略是首先编写一个C++文件，该文件定义了将从Pyt

算子加速(3):自定义cuda扩展

需要自定义某个层，或有时候用c++实现你的操作(c++扩展)可能会更好: 例如：需要实现一个新型的激活函数例如: bevfusion用cuda实现bevpool加速自定义扩展的步骤 (1) 首先用纯pytorch和python 实现我们所需的功能，看看效果再决定要不要进一步优化(2) 明确优化方向，用C++ (或CU…...

编程日记 2024/9/16 16:07:14

信息安全数学基础（14）欧拉函数

前言在信息安全数学基础中，欧拉函数（Eulers Totient Function）是一个非常重要的概念，它与模运算、剩余类、简化剩余系以及密码学中的许多应用紧密相关。欧拉函数用符号 φ(n) 表示，其中 n 是一个正整数。一、定义欧…...

编程日记 2024/9/16 16:05:12

7-17 汉诺塔的非递归实现

输入样例: 3输出样例: a -> c a -> b c -> b a -> c b -> a b -> c a -> c 分析： 不会汉罗塔的uu们，先看看图解： 非递归代码： #include<iostream> #include<stack> using namespace std; s…...

编程日记 2024/9/16 16:04:11

word文档无损原样转pdf在windows平台使用python调用win32com使用pip安装pywin32

前提： windows环境下，并且安装了office套装，比如word,如果需要调用excel.也需要安装。在另外的文章会介绍。这种是直接调用word的。所以还原度会比较高。需求： word文档转pdf,要求使用命令行形式，最终发布为api接口…...

编程日记 2024/9/16 16:03:10

海康威视相机在QTcreate上的使用教程

文章目录前言：基础夯实：效果展示：图片展示：视频展示： 参考的资料：遇到问题：问题1：int64 does not问题2：LNK2019配置思路(这个很重要)配置关键图片：配置具体过…...

编程日记 2024/9/16 15:59:04

进程状态、进程创建和进程分类

文章目录进程进程常见的状态进程调度进程状态变化关系进程标识示例--进程标识的使用以及简介进程创建fork函数vfork函数示例--使用fork函数创建子进程，并了解进程之间的关系创建进程时发生的变化虚拟内存空间的变化示例--验证fork函数创建进程时的操作对文件IO…...

编程日记 2024/9/16 15:48:27

java后端请求调用三方接口

java后端请求调用三方接口 /*** param serverURL http接口地址（例：http://www.iwsu.top:8016/dataSyn/bay/statsCar）* param parm 参数（可以是json，也可以是json数组）*/ public void doRestfulPostBody(St…...

编程日记 2024/9/16 15:47:26

C#使用TCP-S7协议读写西门子PLC(三)

接上篇 C#使用TCP-S7协议读写西门子PLC(二)-CSDN博客这里我们进行封装读写西门子PLC的S7协议命令以及连接西门子PLC并两次握手新建部分类文件SiemensS7ProtocolUtil.ReadWrite.cs 主要方法： 连接西门子PLC并发送两次握手。两次握手成功后，才真正连…...

编程日记 2024/9/16 15:46:25

铝型材及其常用紧固件、连接件介绍

铝型材介绍（包括紧固件和连接件以及走线） 铝型材铝型材一般是6063铝合金挤压成型，分为欧标和国标两个标准。（左边国标，右边欧标，欧标槽宽一点） 由于槽型不一样，相关的螺栓和螺母也…...

编程日记 2024/9/16 15:45:24

【裸机装机系列】7.kali(ubuntu)-安装开发所需工具

如果你是后端或是人工智能AI岗，可以安装以下推荐的软件： 1> sublime sublime官网下载deb文件安装命令 sudo dpkg -i sublime-text_build-4143_amd64.deb2> vscode 安装前置软件 sudo apt install curl gpg software-properties-common apt-t…...

编程日记 2024/9/16 15:44:23

[C语言]第九节函数一基础知识到高级技巧的全景探索

目录 9.1 函数的概念 9.2 库函数 9.2.1 标准库与库函数示例：常见库函数 9.2.2 标准库与头文件的关系参考资料和学习工具如何使用库函数编辑 9.3 ⾃定义函数 9.3.1 函数的语法形式 9.3.2函数的举例 9.4 实参与形参 9.4.1 什么是实参？ 9…...

编程日记 2024/9/16 15:42:21

1.1 计算机网络基本概述

欢迎大家订阅【计算机网络】学习专栏，开启你的计算机网络学习之旅！ 文章目录前言一、网络的基本概念二、集线器、交换机和路由器三、互连网与互联网四、网络的类型五、互连网的组成1. 边缘部分2. 核心部分六、网络协议前言计算机网络是现代信息社会…...

编程日记 2024/9/16 15:41:20

Linux环境基础开发工具使用（gcc/g++与makefile）

1.Linux编译器-gcc/g使用 1. 背景知识接下来的操作，我以gcc为例，因为两者选项都是通用的，所以也就相当于间接学习了 1.预处理（进行宏替换) 2.编译（生成汇编) 3.汇编（生成机器可识别代码）…...

编程日记 2024/9/16 15:38:18

PointNet++改进策略：模块改进 | EdgeConv | DGCNN，动态图卷积在3d任务上应用

目录介绍核心思想及其实现核心思想实现步骤如何改进PointNet**局部几何结构的处理****动态图的引入****特征聚合的灵活性****全局和局部特征的结合** 论文题目：Dynamic Graph CNN for Learning on Point Clouds发布期刊：TOG作者单位：麻省理…...

编程日记 2024/9/16 15:37:17

FFmpeg源码：skip_bits、skip_bits1、show_bits函数分析

GetBitContext结构体和其相关的函数分析： FFmpeg中位操作相关的源码：GetBitContext结构体，init_get_bits函数、get_bits1函数和get_bits函数分析 FFmpeg源码：skip_bits、skip_bits1、show_bits函数分析一、skip_bits函数 skip…...

编程日记 2024/9/16 15:36:15

加密

一、加密加密运算需要两个输入：密钥和明文解密运算也需要两个输入：密钥和密文密文通常看起来都是晦涩难懂、毫无逻辑的，所以我们一般会通过传输或者存储密文来保护私密数据，当然，这建立在一个基础上，…...

编程日记 2024/9/16 15:34:13

Kibana：如何使用魔法公式创建具有影响力的可视化效果？（第 1 部分）

作者：来自 Elastic Vincent du Sordet 我们将看到 Kibana Lens 编辑器中的神奇数学公式如何帮助突出显示高值。简介在上一篇博文《作为非设计师设计直观的 Kibana 仪表板》中，我们强调了创建直观仪表板的重要性。它展示了简单的更改（分组…...

编程日记 2024/9/16 15:32:12

【C++】多态and多态原理

目录一、多态的概念二、多态的定义及实现 🌟多态的构成条件 🌟虚函数 🌟虚函数的重写 🌠小贴士： 🌟C11 override 和 final 🌟重载、重写（覆盖）、重定义&#xf…...

编程日记 2024/9/16 15:30:50

C# 实现二维数据数组导出到 Excel

目录功能需求范例运行环境 Excel DCOM 配置设计实现组件库引入编辑方法设计生成二维数据数组核心方法实现调用示例总结功能需求将数据库查询出来的数据导出并生成 Excel 文件，是项目中经常使用的一项功能。本文将介绍通过数据集生成二维…...

编程日记 2024/9/16 15:28:35

nlohmann::json中有中文时调用dump转string抛出异常的问题

问题描述 Winodows下C开发想使用一个json库，使用的nlohmann::json，但是遇到json中使用中文时，转成string，会抛出异常。 nlohmann::json contentJson;contentJson["chinese"] "哈哈哈";std::string test con…...

编程日记 2024/9/16 15:26:33

进程地址空间（比特课总结）

一、进程地址空间 1. 环境变量 1 ）⽤户级环境变量与系统级环境变量全局属性：环境变量具有全局属性，会被⼦进程继承。例如当bash启动⼦进程时，环境变量会⾃动传递给⼦进程。本地变量限制：本地变量只在当前进程(ba…...

编程新知 2025/7/9 17:20:48

golang循环变量捕获问题

在 Go 语言中，当在循环中启动协程（goroutine）时，如果在协程闭包中直接引用循环变量，可能会遇到一个常见的陷阱 - 循环变量捕获问题。让我详细解释一下： 问题背景看这个代码片段： fo…...

编程新知 2025/7/5 11:03:11

React Native 开发环境搭建（全平台详解）

React Native 开发环境搭建（全平台详解） 在开始使用 React Native 开发移动应用之前，正确设置开发环境是至关重要的一步。本文将为你提供一份全面的指南，涵盖 macOS 和 Windows 平台的配置步骤，如何在 Android 和 iOS…...

编程新知 2025/10/7 2:47:54

1、泄露代码示例 void X::SetApplicationBtn() {CMFCRibbonApplicationButton* pBtn GetApplicationButton();// 获取 Ribbon Bar 指针// 创建自定义按钮CCustomRibbonAppButton* pCustomButton new CCustomRibbonAppButton();pCustomButton->SetImage(IDB_BITMAP_Jdp26)…...

编程新知 2025/11/7 20:01:53