当前位置： 首页 > news >正文

【GCU体验】基于PaddlePaddle + GCU跑通模型并测试GCU性能

news 文章来源：https://blog.csdn.net/yichao_ding/article/details/130080698 2025/5/22 19:42:17

一、环境

地址：启智社区:https://openi.pcl.ac.cn/

二、计算卡介绍

在这里插入图片描述
云燧T20是基于邃思2.0芯片打造的面向数据中心的第二代人工智能训练加速卡，具有模型覆盖面广、性能强、软件生态开放等特点，可支持多种人工智能训练场景。同时具备灵活的可扩展性，提供业界领先的人工智能算力集群方案。

优势特点

  • 澎湃算力 高精训练
  • 专属通道 算力扩展
  • 广泛支持 生态友好
  • 工具开放 高效开发

三、代码仓

https://openi.pcl.ac.cn/Enflame/GCU_PaddlePaddle_Example

四、模型+数据集

Resnet+imagenet_raw

五、运行结果

单卡单Epoch

    "model": "ResNet50","local_rank": 0,"batch_size": 64,"epochs": 1,"best_acc1": 0.05368589743589743,"device": "gcu","skip_steps": 5,"early_stop_steps": -1,"train_fps_mean": 181.94580085847983,"train_fps_min": 171.20650785663634,"train_fps_max": 185.50593755138325,"training_time": "0:12:37"

fps_mean:181.95
最佳acc:0.05368589743589743

8卡单epochs

    "model": "ResNet50","local_rank": 0,"batch_size": 64,"epochs": 1,"best_acc1": 0.03766025641025641,"device": "gcu","skip_steps": 10,"early_stop_steps": -1,"train_fps_mean": 132.09731651456303,"train_fps_min": 124.26364291218985,"train_fps_max": 154.88106976141714,"training_time": "0:08:09"

fps_mean:132.09731651456303,
最佳acc:00.03766025641025641
线性度：72.6%

8卡50epochs

    "model": "ResNet50","local_rank": 0,"batch_size": 64,"epochs": 50,"best_acc1": 0.7596153846153846,"device": "gcu","skip_steps": 10,"early_stop_steps": -1,"train_fps_mean": 136.83746977332163,"train_fps_min": 57.52560204784666,"train_fps_max": 184.07473928475426,"training_time": "1:02:08"

fps_mean:136.83746977332163
最佳acc:0.7596153846153846

六、心得建议

心得
通过运行可以发现单Epoch或者Epochs数量不多的情况下多卡其实优势并不明显，只有数据集较大以及Epochs较多的情况下多卡才能体现出他的优势
飞桨在GCU下运行resnet+imagenet_raw总体感觉速度没有torch在GCU下面运行的快
同样的batch_size(64)飞桨在GCU下运行需要1小时02分，但是pytorch 100个epoch也只用了1小时18分22秒，可能飞桨在GCU下还可以继续优化

建议

  1. 能够多一些关于飞桨如何使用GCU进行训练推理的教程或者建一个modelzoo之类的代码仓，可以找一些开发者一起维护
  2. 使用GCU总体感觉速度还是蛮快的，后期准备有时间做一下和CPU以及GPU平台的速度精度对比看看。
  3. GCU平台有没有可能在未来支持更多的框架，例如tensorflow，mindspore等等
  4. 现在的脚本训练没有过程输出，可以通过修改py文件添加log输出，但是个人建议如果能有个教程指导初学者如何去添加log输出的代码示例会更好，初学者不一定知道如何去修改

相关文章：

【GCU体验】基于PaddlePaddle + GCU跑通模型并测试GCU性能

一、环境 地址：启智社区:https://openi.pcl.ac.cn/ 二、计算卡介绍 云燧T20是基于邃思2.0芯片打造的面向数据中心的第二代人工智能训练加速卡，具有模型覆盖面广、性能强、软件生态开放等特点，可支持多种人工智能训练场景。同时具备灵活的可…...

编程日记 2023/5/31 11:17:55

解析hash(散列)数据结构

前言 在学习完map、set这两个由红黑树构成的容器后，我们来到了这里hash，首先我们要有一个基础的认知——哈希和map与set的仅在使用时的差别区别：前者内部的元素没有序，而后者有序，其它的都相同，这里我们可…...

编程日记 2023/5/31 20:34:57

《2023金融科技·校园招聘白皮书》新鲜出炉|牛客独家

数智创新时代，科技人才为先。 眼下，在建设“数字中国”的时代背景下，金融行业全面数智化转型已箭在弦上。政策端，金融行业为中共中央、国务院印发《数字中国建设整体布局规划》的7大重点行业之一。 资本端，仅2022年三…...

编程日记 2023/4/19 4:13:41

文明的标志:书写系统、修建城市、使用金属器

文章目录 引言I 预备知识1.1 文明”和“文化”概念1.2 文明的标志1.3 应对水患II 定居开启了人类文明2.1 书写系统2.2 陶器2.3 家畜引言 一切和开启文明相关的技术都是围绕着两根主线展开: 多获取能量，以便于生存，信息能够管理起酋邦，总结、记录并传授经验。I 预备知识 1.…...

编程日记 2023/4/19 4:08:35

算法：将一个数组旋转k步

题目 输入一个数组如 [1,2,3,4,5,6,7]，输出旋转 k 步后的数组。 旋转 1 步：就是把尾部的 7 放在数组头部前面，也就是 [7,1,2,3,4,5,6]旋转 2 步：就是把尾部的 6 放在数组头部前面，也就是 [6,7,1,2,3,4,5]… 思路 思…...

编程日记 2023/4/19 4:03:33

使用大华惠智双目半球网络摄像机DH-IPC-HD4140X-E2获取人流量统计数据

记录一下使用Java的SpringBoot大华SDK在智慧公厕项目中使大华惠智双目半球网络摄像机DH-IPC-HD4140X-E2获取人流量统计数据 首先根据说明书登录摄像头，一般摄像头都有自己的账号和密码(可能是admin admin 也可能是admin 888888 还有可能是admin 12345)，…...

编程日记 2023/4/19 3:58:31

DC插装式流量阀压力阀

Cartridge Valves 电磁阀 止回阀 运动控制阀 流量控制阀 溢流阀 压力控制阀 顺序阀 梭阀 方向阀 配件 Zero Profile Valves 止回阀 运动控制阀 流量控制阀 溢流阀 梭阀 In-Line Valves 止回阀和梭阀 方向阀 配件 微型系列 AB20S APIDC-30S C10B C10S C10S…...

编程日记 2023/4/19 3:53:30

NumPy 数组学习手册：6~7

原文：Learning NumPy Array 协议：CC BY-NC-SA 4.0 译者：飞龙 六、性能分析，调试和测试 分析，调试和测试是开发过程的组成部分。 您可能熟悉单元测试的概念。 单元测试是程序员编写的用于测试其代码的自动测试。 例如&…...

编程日记 2023/4/19 3:48:29

【笔试强训选择题】Day6.习题（错题）解析

提示：文章写完后，目录可以自动生成，如何生成可参考右边的帮助文档 文章目录 前言 一、Day6习题（错题）解析 二、Day6习题（原题）练习 总结 前言 一、Day6习题（错题）解析…...

编程日记 2023/4/19 3:43:27

磁盘分区-LINUX

1、主分区（primary） 磁盘在Linux当中的命名： IDE /dev/hda hdb SCSI sda sdb 分区数字表示：sda1 、sda2、sda3 磁盘分区相当于给磁盘打隔断 ① 系统中必须要存在的分区，系统盘选择主分区安装 ② 数字编号只能是1-4&am…...

编程日记 2023/5/31 10:47:28

SpringAOP入门基础银行转账实例（进阶版）------------事务处理

SpringAOP入门基础银行转账实例**（进阶版）**------------事务处理 由上一节讲述的通过Connection和QueryRunner对事务进行的处理(详情可以去我之前写的博客文章：https://blog.csdn.net/m0_56245143/article/details/130069160?spm1001.2014…...

编程日记 2023/4/19 3:33:25

【python学习】基础篇-常用函数-format函数 格式化操作

format()可以对数据进行格式化处理操作，语法如下: format(value，format_spec) value 为要转换的数据，fommat spec 为格式化解释， 当参数 format spec 为空时，等同于函数 str(value)的方式。 format spec 可以设置非常复…...

编程日记 2023/5/30 6:34:01

团团面试经验

1、Redis同时访问大量不存在的key会发生什么？ 如果是缓存和数据库中都不存在，那么就会发生缓存穿透。 举个例子：某个黑客故意制造一些非法的 key 发起大量请求，导致大量请求落到数据库，结果数据库上也没有查到对应的数…...

编程日记 2023/4/19 3:23:17

今天面了个京东拿 38K 出来的，让我见识到了基础的天花板

今年的春招已经开始了，很多小伙伴收获不错，拿到了心仪的 offer。 各大论坛和社区里也看见不少小伙伴慷慨地分享了常见的软件测试面试题和八股文，为此咱这里也统一做一次大整理和大归类，这也算是划重点了。 俗话说得好&#xff0…...

编程日记 2023/4/19 3:18:16

Qt创建SDK库(dll动态库)并调用SDK库(dll动态库)

Qt创建SDK库(dll动态库)并调用SDK库(dll动态库) 一、项目场景 在日常的项目中，我们经常会遇到调用别人的数学库、线程库、图形库等操作。这些库通常就被称为SDK，SDK全称是Software Development Kit（软件开发工具包），…...

编程日记 2023/4/19 3:13:14

400以内的蓝牙耳机哪款好？400以内蓝牙耳机排行榜

谈起TWS，无论是传统的音频厂商还是手机厂商，都是其不可或缺的重要产品线，现在很多许多蓝牙耳机都不是千篇一律得形状，市场也鲜有商家在外观上下功夫，下面分享几款400元以内，内外兼具的耳机品牌。 一、南卡…...

编程日记 2023/4/19 3:08:12

基于飞桨实现的特定领域知识图谱融合方案：ERNIE-Gram文本匹配算法

文本匹配任务在自然语言处理领域中是非常重要的基础任务，一般用于研究两段文本之间的关系。文本匹配任务存在很多应用场景，如信息检索、问答系统、智能对话、文本鉴别、智能推荐、文本数据去重、文本相似度计算、自然语言推理、问答系统、信息检索等&…...

编程日记 2023/4/19 3:03:11

前端基础复习

1.什么叫HTML5&#xff1f;和原本的所说的HTML有什么区别&#xff1f; 本质上html和html5是一样的的。区别有&#xff1a; 1. 在文档类型声明上 HTML4.0 <!DOCTYPE HTML PUBLIC "-//W3C//DTD HTML 4.01 Transitional//EN" "http://www.w3.org/TR/html4/loos…...

编程日记 2023/5/29 14:24:40

Vue2 API-源码解析

目录 Vue.extend(option) delimiters functional Vue.component(id, Function | Object) Vue.directive( id, [definition] ) Vue.filter( id, function) Vue.nextTick() Vue.set() Vue.delete(target, index/key) Vue.compile(template) Vue.observable(object) …...

编程日记 2023/5/31 20:43:54

FastViT: A Fast Hybrid Vision Transformer using Structural Reparameterization

FastViT: A Fast Hybrid Vision Transformer using Structural Reparameterization 论文地址&#xff1a;https://arxiv.org/pdf/2303.14189.pdf 概述 本文提出了一种通用的 CNN 和 Transformer 混合的视觉基础模型 移动设备和 ImageNet 数据集上的精度相同的前提下&#xf…...

编程日记 2023/5/31 20:44:57

C/C++文档阅读笔记-A Simple Makefile Tutorial解析

Makefile文件可以使得程序编译变得简单。本博文并不是很系统的讲解makefile&#xff0c;本博文的目标是让读者快速编写自己的makefile文件并能应用到中小项目中。 简单实例 举个例子有下面3个文件&#xff0c;分别是hellomake.c&#xff0c;hellofunc.c&#xff0c;hellomake.…...

编程日记 2023/4/19 2:43:02

GraphSAGE的基础理论

文章目录GraphSAGE原理&#xff08;理解用&#xff09;GraphSAGE工作流程GraphSAGE的实用基础理论&#xff08;编代码用&#xff09;1. GraphSAGE的底层实现&#xff08;pytorch&#xff09;PyG中NeighorSampler实现节点维度的mini-batch GraphSAGE样例PyG中的SAGEConv实现2. …...

编程日记 2023/4/19 2:38:01

Windows 安装 GDAL C++库

Windows 安装 GDAL C库1. 方法1&#xff1a;下载配置网友编译的GDAL版本1.1 下载1.2 配置1.3 测试1.4 缺点2. 方法2&#xff1a;自己编译3. 参考1. 方法1&#xff1a;下载配置网友编译的GDAL版本 1.1 下载 CSDN: GDAL&#xff0c;geos联合编译的库&#xff0c;版本为1.8.0&am…...

编程日记 2023/4/19 2:33:00

二叉树基础概念

1.二叉树种类 1.1 满二叉树 满二叉树&#xff1a;如果一棵二叉树只有度为 0 0 0 的结点和度为 2 2 2 的结点&#xff0c;并且度为0的结点在同一层上&#xff0c;则这棵二叉树为满二叉树。 如图所示&#xff1a; 这棵二叉树为满二叉树&#xff0c;也可以说深度为 k k k&…...

编程日记 2023/4/19 2:27:59

【MySQL】（1）数据库基础，库与表的增删查改，数据库的备份与还原

文章目录服务器&#xff0c;数据库&#xff0c;表关系MySQL 数据存储逻辑SQL 分类存储引擎库的操作查看数据库创建数据库查看创建语句删除数据库选择&#xff08;切换&#xff09;数据库查看当前选择的数据库修改数据库字符集和排序规则表的操作创建表查询表查询表结构插入数据…...

编程日记 2023/4/19 2:22:58

Python基础-01 变量

注释 注释的分类 在Python中,支持单行及多行注释 单行注释 使用#对代码进行说明,#右边的所有内容就是注释的内容,起辅助说明作用 # #右边的都是注释,解析器会忽略 print(hello world) #在控制台里打印一段话多行注释 多行注释中,允许换行,使用三个单引号开始,三个单引号结…...

编程日记 2023/5/31 10:49:16

springcloud2.1.0整合seata1.5.2+nacos2.10（附源码）

springcloud2.1.0整合seata1.5.2nacos2.10&#xff08;附源码&#xff09; 1.创建springboot2.2.2springcloud2.1.0的maven父子工程如下&#xff0c;不过多描述&#xff1a; 搭建过程中也出现很多问题&#xff0c;主要包括&#xff1a; 1.seataServer.properties配置文件的组…...

编程日记 2023/4/19 2:12:56

map原理

map源码结构体&#xff1a; type hmap struct {count int // 元素的个数B uint8 // buckets 数组的长度就是 2^B 个overflow uint16 // 溢出桶的数量​buckets unsafe.Pointer // 2^B个桶对应的数组指针oldbuckets unsafe.Pointer // 发生扩容时&#xff0…...

编程日记 2023/4/19 2:07:55

[Ext JS]3.6 Ext JS 表格(Grid)概览

Grid, 翻译过来是网格， 也就是表格。 Grid 的基本构成 面板 ：Ext.grid.Panel表格视图 ：Ext.view.Table。 不直接使用， 通过面板的viewConfig配置项进行配置。比如可以用来配置表格中行是否跳色显示列： Ext.grid.column.Column。 表格中的列定义store , 表格的数据示例代码…...

编程日记 2023/4/19 2:02:54

关于使用云渲染的五大优势

在不影响质量或性能的情况下节省时间、金钱和资源&#xff0c;对于需要在通常较短且严格的期限内创建高质量 3D 内容的专业人士来说&#xff0c;云渲染都是最好的选择&#xff01;云渲染作为数字媒体生产的最新趋势&#xff0c;与传统的渲染农场和机器相比具有许多优势&#xf…...

编程日记 2023/4/19 1:57:53