当前位置： 首页 > news >正文

NVIDIA CUDA初级教程视频学习笔记1

news 2026/5/19 2:11:26

周斌老师
课程链接：

目录

  • 第一课
    • 内容
    • 生态环境
  • 第一课 CPU体系架构的概述
    • 什么是CPU
      • 指令
    • 存储器架构
    • CPU内部的并行性

第一课

预修课程：
Cuda c programming guide
在这里插入图片描述
参考内容 1,2，3查找一下。

内容

CPU体系架构概述
并行程序设计概述
CUDA开发环境搭建和工具配置
GPU体系架构概述
GPU编程模型
CUDA编程
CUDA程序分析和调试工具
基本优化
深入优化
最新NVIDIA GPU和CUDA特性

生态环境

在这里插入图片描述

nvidia cuda zone
QQ群：
GPU深度开发==》还没有加，记得去加群

多核系统和并行系统，是因为我们的单频系统性能遇到了瓶颈。

第一课 CPU体系架构的概述

什么是CPU

执行指令，处理数据的器件

  • 能够完成基本的逻辑和算术指令

指令

算术
访存
控制
这三类指令组成了一个计算机程序。

优化的目标：
每天指令需要的时钟周期最少
时钟周期尽量短

程序指令占比：
分支：12.5%
访存：46%
矢量运算：0.2%

CPU结构图：

芯片做计算
内存接口，接内存到CPU上
外部接口：显示系统的接口、多媒体的接口
桥接芯片接口==》硬盘、南桥北桥、

摩尔定律
芯片的集成密度每2年翻一番，成本下降一半。

28nm,芯片加工到了极限。
所以，摩尔定律表现不那么理想了。

百亿的量级的晶体管，这些晶体管都在干什么？

在这里插入图片描述
22亿个晶体管，8和芯片
中间最大的部分是三级缓存。
CPU是一个吞吐机，是一个处理机，不断把数据倒来倒去，花费在存储仓库花费在路上的成本最大。

简单的CPU结构图
在这里插入图片描述

上面部分数据通道
下面是控制逻辑

流水线
在这里插入图片描述

利用指令级并行

  • 极大的减小时间周期
    增加一些延迟和芯片面积

会带来的问题：
具有依赖关系的指令怎么办？
分支应当处理？
流水线的长度：

  • core 2 14级
  • pentium 4 > 20级
  • Sandy Bridge 14到20级之间

旁路Bypassing
在这里插入图片描述
add R1,R7需要用到sub R2,R3指令的结果，可以加一个旁路，这样就不用访问内存，直接获取R7的结果。

停滞Stalls
在这里插入图片描述
load [R3]->R7
add R1,R7->r2
add指令需要等待load指令完成

分支 Branches
在这里插入图片描述

分支预测Branch Prediction
在这里插入图片描述

基于过去的分支记录
在这里插入图片描述

分支断定

提升IPC
在这里插入图片描述

超标量

峰值N
增加了面积

  • N倍资源使用
  • 旁路网络N

Sandy Bridge超标量
在这里插入图片描述
指令调度Scheduling
在这里插入图片描述

寄存器重命名
在这里插入图片描述

乱序执行
把指令重新排一下，做一个优化
在这里插入图片描述
在这里插入图片描述

存储器架构

越大越慢
在这里插入图片描述

缓存Caching
将数据放在尽可能接近的位置
利用：
时间的邻近性
空间的邻近性

缓存层次

存储器的另外的设计考虑
分区==》避免多端口
一致性Coherency
控制器Memory controller==>

CPU内部的并行性

在这里插入图片描述

向量运算
相同处理的数据同时去做
在这里插入图片描述

数据级并行
单指令多数据
在这里插入图片描述

X86的向量运算
在这里插入图片描述

线程级的并行
在这里插入图片描述

多核Multicore
在这里插入图片描述

锁、一致性和同一性
在这里插入图片描述

CPU遇到了现实的困境，我们称为能量墙，cpu主频提升导致功耗很强度的提升，功耗的提升导致功耗的面积、集成度、成本不能无限增加。

结论
在这里插入图片描述

相关文章：

NVIDIA CUDA初级教程视频学习笔记1

周斌老师 课程链接： 目录第一课内容生态环境第一课 CPU体系架构的概述什么是CPU指令存储器架构CPU内部的并行性第一课 预修课程： Cuda c programming guide 参考内容 1,2，3查找一下。 内容 CPU体系架构概述 并行程序设计概述 CUDA开发环境…...

编程日记 2023/3/2 3:49:40

CEC2005:星雀优化算法(Nutcracker optimizer algorithm,NOA)求解CEC2005（提供MATLAB代码）

一、星雀优化算法NOA 星雀优化算法(Nutcracker optimizer algorithm,NOA)由Mohamed Abdel-Basset等人于2023年提出，该算法模拟星雀的两种行为，即：在夏秋季节收集并储存食物，在春冬季节搜索食物的存储位置。 星鸦单独或成对活动&…...

编程日记 2023/3/2 3:48:33

工作实战之密码防重放攻击

目录 前言 一、登录认证密码加密 二、bcrypt加密密码不一样，匹配原理 1.程序运行现象 2.原理解释 三、密码防重放 总结 前言 密码重放攻击：请求被攻击者获取，并重新发送给认证服务器，从而达到认证通过的目的 一、登录认证密…...

编程日记 2023/3/2 3:47:25

如何编写测试用例？

编写测试用例流程 1、确定测试目标：首先，需要明确测试目标，即测试人员需要测试什么，这有助于测试人员了解需要测试哪些方面，以及如何测试。 2、识别测试场景：在确定测试目标后，测试人员需要识…...

编程日记 2023/3/2 3:46:15

5.排序算法之二：选择排序

选择排序（select sort）在无序列表中，把无序列表分成有序区（刚开始有序区元素个数为0）和无序区（刚开始无序区元素个数为n），循环n-1趟，每一趟找到最小或最大的那个元素&…...

编程日记 2023/3/2 3:45:06

Ubuntu18系统安装：node及node版本管理工具nvm部署前端项目

注意在安装之前先安装好Git 如何在Ubuntu 上安装Git与入门教程_ubuntu安装git_飞鹰雪菲的博客-CSDN博客 1、把nvm远程镜像克隆到指定目录 git clone https://gitee.com/mirrors/nvm 1.1在终端指定的文件夹下 drciZwz91oq31508figapkas0Z:~/qiang/tools$ git clone https://…...

编程日记 2023/3/2 3:43:56

统计学 假设检验

文章目录假设检验假设检验的基本原理提出假设作出决策表述决策结果一个总体参数的检验总体均值的检验总体比例的检验总体方差的检验两个总体参数的检验两个总体均值之差的检验两个总体比例之差的检验两个总体方差比的检验总体分布的检验正态性检验的图示法Shapiro-Wilk 和 K-S …...

编程日记 2023/3/2 3:42:44

【C++】哈希

哈希一、unordered系列关联式容器二、哈希原理2.1 哈希映射2.2 哈希冲突2.2.1 闭散列—开放地址法2.2.2 代码实现2.2.3 开散列—拉链法2.2.4 代码实现三、哈希封装unordered_map/unordered_set3.1 基本框架3.2 迭代器实现3.2.3 operator*和operator->和operator!3.2.4 opera…...

编程日记 2023/3/2 3:41:36

「TCG 规范解读」PC 平台相关规范（3）

可信计算组织（Ttrusted Computing Group,TCG）是一个非盈利的工业标准组织，它的宗旨是加强在相异计算机平台上的计算环境的安全性。TCG于2003年春成立，并采纳了由可信计算平台联盟（the Trusted Computing Platform Alli…...

编程日记 2023/3/2 3:40:32

这篇教你搞定Android内存优化分析总结

一、内存优化概念1.1 为什么要做内存优化？内存优化一直是一个很重要但却缺乏关注的点，内存作为程序运行最重要的资源之一，需要运行过程中做到合理的资源分配与回收，不合理的内存占用轻则使得用户应用程序运行卡顿、ANR、黑屏&…...

编程日记 2023/3/2 3:39:23

概率论与数理统计期末小题狂练 11-12两套，12-13-1

11-12第一学期A1 略。2 X服从正态分布N（0，1），X^2服从卡方分布。又考查了卡方分布均值和方差公式。一开始如果对本题无从下手，大概是没看出来是什么分布。3 第二小空本身也可以作为一个结论。4 考查切比雪夫不等式&…...

编程日记 2023/3/2 3:38:12

golang对字符串的处理操作 如何正确理解 rune byte和string

fmt.Printf相关参数介绍 先来看代码的演示 package mainimport ("fmt""unicode/utf8" )func main() {s:"我爱中国人haha!"fmt.Println(len(s))//20个字节 一个中文三个字节 1541fmt.Print("\n echo byte \n")for k,v: range []byte(…...

编程日记 2023/3/2 3:37:07

软件项目管理简答题复习（1）

1.项目：创造唯一的产品，唯一的服务临时性的努力 2.项目特征：不可见性，复杂性，一致性，变更性，特殊性 3.项目和日常活动的区别？ 项目具有特殊性，负责人是项目经理&#…...

编程日记 2023/3/2 3:36:00

云Windows Server 2022 Datacenter 安装MySQL8解压缩版 mysql-8.0.32-winx64 230301记录

MySQL Community Downloads MySQL社区版压缩包下载地址 https://dev.mysql.com/downloads/mysql/ 解压到了C盘 没打算设置环境变量 右键点击开始 或 winx 以管理员身份打开 PowerShell 进入到安装目录下的 bin 目录 可以输入cd 后， 拖动 bin 文件夹到控制台&…...

编程日记 2023/3/2 3:34:55

如何使用BeaconEye监控CobaltStrike的Beacon

关于BeaconEye BeaconEye是一款针对CobaltStrike的安全工具，该工具可以扫描正在运行的主动CobaltStrike Beacon。当BeaconEye扫描到了正在运行Beacon的进程之后，BeaconEye将会监控每一个进程以查看C2活动。 工作机制 BeaconEye将会扫描活动进程或Mini…...

编程日记 2023/3/2 3:33:50

STM32开发（17）----CubeMX配置CRC

CubeMX配置CRC前言一、什么是CRC？二、实验过程1.STM32CubeMX配置2.代码实现重载printf3.实验结果总结前言 本章介绍使用STM32CubeMX对CRC进行配置的方法，CRC的目的是保证数据的完整性，所有的STM32芯片都内置了一个硬件的CRC计算模块&#xf…...

编程日记 2023/3/2 3:32:43

【MySQL】基础操作：登录、访问、退出和卸载

一、MySQL简介 MySQL数据库最初是由瑞典MySQL AB公司开发，2008年1月16号被Sun公司收购。2009年，SUN又被Oracle收购。MySQL是目前IT行业最流行的开放源代码的数据库管理系统，同时它也是一个支持多线程、高并发、多用户的关系型数据库管理系统。…...

编程日记 2023/3/2 3:31:40

【算法经典题集】递推(持续更新~~~)

😽PREFACE🎁欢迎各位→点赞👍 收藏⭐ 评论📝📢系列专栏：算法经典题集🔊本专栏涉及到的知识点或者题目是算法专栏的补充与应用💪种一棵树最好是十年前其次是现在递推简单的斐波那契…...

编程日记 2023/3/2 3:30:34

mysql兼容性验证

MySQL是一个关系型数据库管理系统。 一、安装启动 安装mysql相关软件包 yum install mysql-server 启动mysql服务 systemctl start mysqld systemctl status mysqld mysql数据库启动失败问题汇总&#xff1a; <问题1>、start mysqld显示失败&#xff0c;如下所示&…...

编程日记 2023/3/2 3:29:31

C++回顾（五）—— 构造函数和析构函数

5.1 构造和析构 5.1.1 构造函数 &#xff08;1&#xff09;定义 1&#xff09;C中的类可以定义与类名相同的特殊成员函数&#xff0c;这种与类名相同的成员函数叫做构造函数&#xff1b;2&#xff09;构造函数在定义时可以有参数&#xff1b;3&#xff09;没有任何返回类型的…...

编程日记 2023/3/2 3:28:23

神经网络分子动力学与长程静电模拟优化策略

1. 神经网络分子动力学与长程静电模拟的技术背景分子动力学模拟作为计算化学和材料科学的核心工具&#xff0c;其本质是通过数值求解牛顿运动方程来预测原子和分子的运动轨迹。传统的第一性原理分子动力学&#xff08;AIMD&#xff09;虽然精度高&#xff0c;但由于计算复杂度随…...

编程新知 2026/5/19 1:19:32

终极罗技鼠标宏指南：3步实现PUBG完美压枪

终极罗技鼠标宏指南&#xff1a;3步实现PUBG完美压枪 【免费下载链接】logitech-pubg PUBG no recoil script for Logitech gaming mouse / 绝地求生 罗技 鼠标宏 项目地址: https://gitcode.com/gh_mirrors/lo/logitech-pubg 还在为《绝地求生》中难以控制的武器后坐力…...

编程新知 2026/5/19 1:11:17

【软考高级架构】论文范文19——论软件系统架构风格

论软件系统架构风格 摘要 软件系统架构风格是描述系统结构和行为的抽象模式，为不同应用领域提供了经过验证的设计方案。合理选择与组合架构风格能够有效指导系统分解、组件划分和交互设计，从而提升系统的可维护性、可扩展性和性能等质量属性。本文以笔者主导的某大型制造企…...

编程新知 2026/5/19 0:52:28

2026毕业论文自救指南｜3个工具搞定初稿+降重+答辩PPT [特殊字符]

根据你的需求&#xff0c;我对比了目前市场上主流的毕业之家和PaperRed两款AI论文写作软件。 简单来说&#xff1a;毕业之家更像一位“全流程管家”&#xff0c;擅长从开题到答辩材料的完整生成与排版&#xff0c;尤其贴合国内高校的格式要求&#xff1b;而PaperRed则更像一位…...

编程新知 2026/5/19 0:11:48

Cairo高级特性解析：泛型、Trait系统和元编程的深度应用

Cairo高级特性解析&#xff1a;泛型、Trait系统和元编程的深度应用 【免费下载链接】cairo Cairo is the first Turing-complete language for creating provable programs for general computation. 项目地址: https://gitcode.com/gh_mirrors/ca/cairo Cairo作为首个支…...

编程新知 2026/5/18 23:39:35

C++高精度算法的简单实现

一、基本原理1、存储方式采用数字记录高精度数字&#xff0c;数组的第一个元素存储数据长度&#xff0c;比如记录数字为1024示例如下&#xff1a;2、计算方式采用模拟立竖式计算&#xff0c;比如加法的计算流程&#xff0c;如下图所示10249000&#xff1a;这里只给出加法的计算…...

编程新知 2026/5/18 22:49:58

【C#vsPython·第一阶段】 Python 的运算符，有些地方真的“骚“

在 C# 里判断一个数在 0 到 10 之间&#xff0c;你得写 x > 0 && x < 10。 在 Python 里&#xff1f;直接写 0 < x < 10。对&#xff0c;就这么简单&#xff0c;编译器...哦不&#xff0c;解释器不会报错。 当我第一次看到这个写法的时候&#xff0c;我心…...

编程新知 2026/5/18 22:28:24

如何永久冻结IDM试用期：简单三步实现无限期免费使用

如何永久冻结IDM试用期&#xff1a;简单三步实现无限期免费使用 【免费下载链接】IDM-Activation-Script IDM Activation & Trail Reset Script 项目地址: https://gitcode.com/gh_mirrors/id/IDM-Activation-Script IDM Activation Script是一款开源工具&#xff0…...

编程新知 2026/5/18 19:31:03

Harness层加密传输：Agent通信安全

Harness层加密传输&#xff1a;Agent通信安全 标题选项 《CI/CD管道的“隐形长城”&#xff1a;深入Harness Agent通信全链路加密传输机制》《从握手到数据&#xff1a;拆解Harness云原生平台Agent-Manager层加密传输的核心原理与实践》《DevOps安全必知&#xff1a;Harness如…...

编程新知 2026/5/18 18:55:24

HS2-HF_Patch：Honey Select 2汉化补丁终极指南与完整功能解析

HS2-HF_Patch&#xff1a;Honey Select 2汉化补丁终极指南与完整功能解析 【免费下载链接】HS2-HF_Patch Automatically translate, uncensor and update HoneySelect2! 项目地址: https://gitcode.com/gh_mirrors/hs/HS2-HF_Patch HS2-HF_Patch是Honey Select 2游戏的一…...

编程新知 2026/5/18 18:32:53