当前位置：首页 > news >正文

NVIDIA CUDA初级教程视频学习笔记1

news 2025/7/1 14:13:39

周斌老师
课程链接：

第一课

预修课程：
Cuda c programming guide
在这里插入图片描述
参考内容 1,2，3查找一下。

内容

CPU体系架构概述
并行程序设计概述
CUDA开发环境搭建和工具配置
GPU体系架构概述
GPU编程模型
CUDA编程
CUDA程序分析和调试工具
基本优化
深入优化
最新NVIDIA GPU和CUDA特性

生态环境

在这里插入图片描述

nvidia cuda zone
QQ群：
GPU深度开发==》还没有加，记得去加群

多核系统和并行系统，是因为我们的单频系统性能遇到了瓶颈。

第一课 CPU体系架构的概述

什么是CPU

执行指令，处理数据的器件

能够完成基本的逻辑和算术指令

指令

算术
访存
控制
这三类指令组成了一个计算机程序。

优化的目标：
每天指令需要的时钟周期最少
时钟周期尽量短

程序指令占比：
分支：12.5%
访存：46%
矢量运算：0.2%

CPU结构图：

芯片做计算
内存接口，接内存到CPU上
外部接口：显示系统的接口、多媒体的接口
桥接芯片接口==》硬盘、南桥北桥、

摩尔定律
芯片的集成密度每2年翻一番，成本下降一半。

28nm,芯片加工到了极限。
所以，摩尔定律表现不那么理想了。

百亿的量级的晶体管，这些晶体管都在干什么？

在这里插入图片描述
22亿个晶体管，8和芯片
中间最大的部分是三级缓存。
CPU是一个吞吐机，是一个处理机，不断把数据倒来倒去，花费在存储仓库花费在路上的成本最大。

简单的CPU结构图
在这里插入图片描述

上面部分数据通道
下面是控制逻辑

流水线
在这里插入图片描述

利用指令级并行

极大的减小时间周期
增加一些延迟和芯片面积

会带来的问题：
具有依赖关系的指令怎么办？
分支应当处理？
流水线的长度：

core 2 14级
pentium 4 > 20级
Sandy Bridge 14到20级之间

旁路Bypassing
在这里插入图片描述
add R1,R7需要用到sub R2,R3指令的结果，可以加一个旁路，这样就不用访问内存，直接获取R7的结果。

停滞Stalls
在这里插入图片描述
load [R3]->R7
add R1,R7->r2
add指令需要等待load指令完成

分支 Branches
在这里插入图片描述

分支预测Branch Prediction
在这里插入图片描述

基于过去的分支记录
在这里插入图片描述

分支断定

提升IPC
在这里插入图片描述

超标量

峰值N
增加了面积

N倍资源使用
旁路网络N

Sandy Bridge超标量
在这里插入图片描述
指令调度Scheduling

寄存器重命名
在这里插入图片描述

乱序执行
把指令重新排一下，做一个优化
在这里插入图片描述

存储器架构

越大越慢
在这里插入图片描述

缓存Caching
将数据放在尽可能接近的位置
利用：
时间的邻近性
空间的邻近性

缓存层次

存储器的另外的设计考虑
分区==》避免多端口
一致性Coherency
控制器Memory controller==>

CPU内部的并行性

在这里插入图片描述

向量运算
相同处理的数据同时去做
在这里插入图片描述

数据级并行
单指令多数据
在这里插入图片描述

X86的向量运算
在这里插入图片描述

线程级的并行
在这里插入图片描述

多核Multicore
在这里插入图片描述

锁、一致性和同一性
在这里插入图片描述

CPU遇到了现实的困境，我们称为能量墙，cpu主频提升导致功耗很强度的提升，功耗的提升导致功耗的面积、集成度、成本不能无限增加。

结论
在这里插入图片描述

NVIDIA CUDA初级教程视频学习笔记1

周斌老师课程链接： 目录第一课内容生态环境第一课 CPU体系架构的概述什么是CPU指令存储器架构CPU内部的并行性第一课预修课程： Cuda c programming guide 参考内容 1,2，3查找一下。内容 CPU体系架构概述并行程序设计概述 CUDA开发环境…...

编程日记 2023/3/2 3:49:40

CEC2005:星雀优化算法(Nutcracker optimizer algorithm,NOA)求解CEC2005（提供MATLAB代码）

一、星雀优化算法NOA 星雀优化算法(Nutcracker optimizer algorithm,NOA)由Mohamed Abdel-Basset等人于2023年提出，该算法模拟星雀的两种行为，即：在夏秋季节收集并储存食物，在春冬季节搜索食物的存储位置。星鸦单独或成对活动&…...

编程日记 2023/3/2 3:48:33

工作实战之密码防重放攻击

目录前言一、登录认证密码加密二、bcrypt加密密码不一样，匹配原理 1.程序运行现象 2.原理解释三、密码防重放总结前言密码重放攻击：请求被攻击者获取，并重新发送给认证服务器，从而达到认证通过的目的一、登录认证密…...

编程日记 2023/3/2 3:47:25

如何编写测试用例？

编写测试用例流程 1、确定测试目标：首先，需要明确测试目标，即测试人员需要测试什么，这有助于测试人员了解需要测试哪些方面，以及如何测试。 2、识别测试场景：在确定测试目标后，测试人员需要识…...

编程日记 2023/3/2 3:46:15

5.排序算法之二：选择排序

选择排序（select sort）在无序列表中，把无序列表分成有序区（刚开始有序区元素个数为0）和无序区（刚开始无序区元素个数为n），循环n-1趟，每一趟找到最小或最大的那个元素&…...

编程日记 2023/3/2 3:45:06

Ubuntu18系统安装：node及node版本管理工具nvm部署前端项目

注意在安装之前先安装好Git 如何在Ubuntu 上安装Git与入门教程_ubuntu安装git_飞鹰雪菲的博客-CSDN博客 1、把nvm远程镜像克隆到指定目录 git clone https://gitee.com/mirrors/nvm 1.1在终端指定的文件夹下 drciZwz91oq31508figapkas0Z:~/qiang/tools$ git clone https://…...

编程日记 2023/3/2 3:43:56

统计学假设检验

文章目录假设检验假设检验的基本原理提出假设作出决策表述决策结果一个总体参数的检验总体均值的检验总体比例的检验总体方差的检验两个总体参数的检验两个总体均值之差的检验两个总体比例之差的检验两个总体方差比的检验总体分布的检验正态性检验的图示法Shapiro-Wilk 和 K-S …...

编程日记 2023/3/2 3:42:44

【C++】哈希

哈希一、unordered系列关联式容器二、哈希原理2.1 哈希映射2.2 哈希冲突2.2.1 闭散列—开放地址法2.2.2 代码实现2.2.3 开散列—拉链法2.2.4 代码实现三、哈希封装unordered_map/unordered_set3.1 基本框架3.2 迭代器实现3.2.3 operator*和operator->和operator!3.2.4 opera…...

编程日记 2023/3/2 3:41:36

「TCG 规范解读」PC 平台相关规范（3）

可信计算组织（Ttrusted Computing Group,TCG）是一个非盈利的工业标准组织，它的宗旨是加强在相异计算机平台上的计算环境的安全性。TCG于2003年春成立，并采纳了由可信计算平台联盟（the Trusted Computing Platform Alli…...

编程日记 2023/3/2 3:40:32

这篇教你搞定Android内存优化分析总结

一、内存优化概念1.1 为什么要做内存优化？内存优化一直是一个很重要但却缺乏关注的点，内存作为程序运行最重要的资源之一，需要运行过程中做到合理的资源分配与回收，不合理的内存占用轻则使得用户应用程序运行卡顿、ANR、黑屏&…...

编程日记 2023/3/2 3:39:23

概率论与数理统计期末小题狂练 11-12两套，12-13-1

11-12第一学期A1 略。2 X服从正态分布N（0，1），X^2服从卡方分布。又考查了卡方分布均值和方差公式。一开始如果对本题无从下手，大概是没看出来是什么分布。3 第二小空本身也可以作为一个结论。4 考查切比雪夫不等式&…...

编程日记 2023/3/2 3:38:12

golang对字符串的处理操作如何正确理解 rune byte和string

fmt.Printf相关参数介绍先来看代码的演示 package mainimport ("fmt""unicode/utf8" )func main() {s:"我爱中国人haha!"fmt.Println(len(s))//20个字节一个中文三个字节 1541fmt.Print("\n echo byte \n")for k,v: range []byte(…...

编程日记 2023/3/2 3:37:07

软件项目管理简答题复习（1）

1.项目：创造唯一的产品，唯一的服务临时性的努力 2.项目特征：不可见性，复杂性，一致性，变更性，特殊性 3.项目和日常活动的区别？ 项目具有特殊性，负责人是项目经理&#…...

编程日记 2023/3/2 3:36:00

云Windows Server 2022 Datacenter 安装MySQL8解压缩版 mysql-8.0.32-winx64 230301记录

MySQL Community Downloads MySQL社区版压缩包下载地址 https://dev.mysql.com/downloads/mysql/ 解压到了C盘没打算设置环境变量右键点击开始或 winx 以管理员身份打开 PowerShell 进入到安装目录下的 bin 目录可以输入cd 后， 拖动 bin 文件夹到控制台&…...

编程日记 2023/3/2 3:34:55

如何使用BeaconEye监控CobaltStrike的Beacon

关于BeaconEye BeaconEye是一款针对CobaltStrike的安全工具，该工具可以扫描正在运行的主动CobaltStrike Beacon。当BeaconEye扫描到了正在运行Beacon的进程之后，BeaconEye将会监控每一个进程以查看C2活动。工作机制 BeaconEye将会扫描活动进程或Mini…...

编程日记 2023/3/2 3:33:50

STM32开发（17）----CubeMX配置CRC

CubeMX配置CRC前言一、什么是CRC？二、实验过程1.STM32CubeMX配置2.代码实现重载printf3.实验结果总结前言本章介绍使用STM32CubeMX对CRC进行配置的方法，CRC的目的是保证数据的完整性，所有的STM32芯片都内置了一个硬件的CRC计算模块&#xf…...

编程日记 2023/3/2 3:32:43

【MySQL】基础操作：登录、访问、退出和卸载

一、MySQL简介 MySQL数据库最初是由瑞典MySQL AB公司开发，2008年1月16号被Sun公司收购。2009年，SUN又被Oracle收购。MySQL是目前IT行业最流行的开放源代码的数据库管理系统，同时它也是一个支持多线程、高并发、多用户的关系型数据库管理系统。…...

编程日记 2023/3/2 3:31:40

【算法经典题集】递推(持续更新~~~)

😽PREFACE🎁欢迎各位→点赞👍 收藏⭐ 评论📝📢系列专栏：算法经典题集🔊本专栏涉及到的知识点或者题目是算法专栏的补充与应用💪种一棵树最好是十年前其次是现在递推简单的斐波那契…...

编程日记 2023/3/2 3:30:34

mysql兼容性验证

MySQL是一个关系型数据库管理系统。一、安装启动安装mysql相关软件包 yum install mysql-server 启动mysql服务 systemctl start mysqld systemctl status mysqld mysql数据库启动失败问题汇总： <问题1>、start mysqld显示失败，如下所示&…...

编程日记 2023/3/2 3:29:31

C++回顾（五）—— 构造函数和析构函数

5.1 构造和析构 5.1.1 构造函数 （1）定义 1）C中的类可以定义与类名相同的特殊成员函数，这种与类名相同的成员函数叫做构造函数；2）构造函数在定义时可以有参数；3）没有任何返回类型的…...

编程日记 2023/3/2 3:28:23

eNSP-Cloud(实现本地电脑与eNSP内设备之间通信)

说明： 想象一下，你正在用eNSP搭建一个虚拟的网络世界，里面有虚拟的路由器、交换机、电脑（PC）等等。这些设备都在你的电脑里面“运行”，它们之间可以互相通信，就像一个封闭的小王国。但是&#…...

编程新知 2025/6/30 11:11:23

（转）什么是DockerCompose?它有什么作用？

一、什么是DockerCompose? DockerCompose可以基于Compose文件帮我们快速的部署分布式应用，而无需手动一个个创建和运行容器。 Compose文件是一个文本文件，通过指令定义集群中的每个容器如何运行。 DockerCompose就是把DockerFile转换成指令去运行。 …...

编程新知 2025/6/16 17:24:43

C# 求圆面积的程序（Program to find area of a circle）

给定半径r，求圆的面积。圆的面积应精确到小数点后5位。例子： 输入：r 5 输出：78.53982 解释：由于面积 PI * r * r 3.14159265358979323846 * 5 * 5 78.53982，因为我们只保留小数点后 5 位数字。输…...

编程新知 2025/6/26 3:00:40

基于TurtleBot3在Gazebo地图实现机器人远程控制

1. TurtleBot3环境配置 # 下载TurtleBot3核心包 mkdir -p ~/catkin_ws/src cd ~/catkin_ws/src git clone -b noetic-devel https://github.com/ROBOTIS-GIT/turtlebot3.git git clone -b noetic https://github.com/ROBOTIS-GIT/turtlebot3_msgs.git git clone -b noetic-dev…...

编程新知 2025/6/26 1:19:08

JavaScript基础-API 和 Web API

在学习JavaScript的过程中，理解API（应用程序接口）和Web API的概念及其应用是非常重要的。这些工具极大地扩展了JavaScript的功能，使得开发者能够创建出功能丰富、交互性强的Web应用程序。本文将深入探讨JavaScript中的API与Web AP…...

编程新知 2025/6/21 13:17:52

代码规范和架构【立芯理论一】（2025.06.08）

1、代码规范的目标代码简洁精炼、美观，可持续性好高效率高复用，可移植性好高内聚，低耦合没有冗余规范性，代码有规可循，可以看出自己当时的思考过程特殊排版，特殊语法，特殊指令，必须…...

编程新知 2025/6/26 7:27:00

android13 app的触摸问题定位分析流程

一、知识点一般来说，触摸问题都是app层面出问题，我们可以在ViewRootImpl.java添加log的方式定位；如果是touchableRegion的计算问题，就会相对比较麻烦了，需要通过adb shell dumpsys input > input.log指令，且通过打印堆栈的方式，逐步定位问题，并找到修改方案。问题…...

编程新知 2025/6/24 2:31:05