当前位置: 首页 > article >正文

CANN/runtime Profiling数据采集接口

# 19-01 Profiling数据采集接口【免费下载链接】runtime本项目提供CANN运行时组件和维测功能组件。项目地址: https://gitcode.com/cann/runtime本章节描述 Profiling 数据采集的核心接口用于性能采集的初始化、配置、启停控制。aclError aclprofInit(const char *profilerResultPath, size_t length)初始化Profiling目前用于设置保存性能数据的文件的路径。aclError aclprofSetConfig(aclprofConfigType configType, const char *config, size_t configLength)aclprofCreateConfig接口的扩展接口用于设置性能数据采集参数。aclError aclprofStart(const aclprofConfig *profilerConfig)下发Profiling请求使能对应数据的采集。aclError aclprofStop(const aclprofConfig *profilerConfig)停止Profiling数据采集。aclError aclprofFinalize()结束Profiling。uint64_t aclprofStr2Id(const char *message)msproftx用于将字符串转化为哈希ID。数据采集说明总体约束不能与订阅算子信息的接口交叉调用aclprofInit接口和aclprofFinalize接口之间不能调用aclprofModelSubscribe接口、aclprofGet*接口、aclprofModelUnSubscribe接口。接口约束说明调用接口要求aclprofInit接口必须在aclInit接口之后、模型加载之前调用。如果已经通过aclInit接口配置了Profiling信息则调用aclprofInit接口、aclprofStart接口、aclprofStop接口、aclprofFinalize时会返回报错。如果没有调用aclprofInit接口调用aclprofStart接口、aclprofStop接口、aclprofFinalize时会返回报错。aclprofStart接口在模型执行之前调用若在模型执行过程中调用aclprofStart接口Profiling采集到的数据为调用aclprofStart接口之后的数据可能导致数据不完整。调用aclprofStart接口时可以指定从一个Device上采集性能数据也可以指定从多个Device上采集性能数据。一个用户APP进程内如果连续调用多次aclprofStart接口指定重复的Profiling配置或指定的Device重复会返回报错。在用户APP的进程生命周期内aclprofInit接口与aclprofFinalize接口配对使用建议只调用一次如该组合多次调用可以改变保存性能数据的文件的路径。aclprofStart接口与aclprofStop接口需配对使用。aclprofSetConfig接口必须在aclprofStart接口之前调用。一个APP进程内可以根据需要选择一次或多次调用aclprofSetConfig接口。调用aclFinalize并接收到正常退出码后为执行完毕其他情况为非正常。由于性能数据采集不支持多进程并发执行为确保驱动关闭正常需要在前一个性能数据采集用例完全执行完毕之后再执行下一轮采集。建议在aclFinalize接口返回值上加入异常处理操作方便展示执行状态与问题定位。接口调用顺序建议的接口调用顺序如下以“一个用户APP进程内采集多个模型推理时的性能数据”为例aclInit接口--aclprofInit接口--aclprofStart接口(指定Device 0和Device 1)--模型1加载--模型1执行--aclprofStop接口(与aclprofStart接口的aclprofConfig数据保持一致)--aclprofStart接口(指定Device 1和Device 2)--模型2加载--模型2执行--aclprofStop接口(与aclprofStart接口的aclprofConfig数据保持一致)--aclprofFinalize接口--执行其它任务--模型卸载--aclFinalize接口错误的接口调用顺序示例如下以“一个用户APP进程内如果连续调用多次aclprofStart接口指定的Device重复”为例aclInit接口--aclprofInit接口--aclprofStart接口(指定Device 0和Device 1)--aclprofStart接口(指定Device 1和Device 2)--模型1加载--模型1执行--模型2加载--模型2执行--aclprofStop接口--aclprofStop接口--aclprofFinalize--执行其它任务--模型卸载--aclFinalize接口aclprofInitaclError aclprofInit(const char *profilerResultPath, size_t length)产品支持情况产品是否支持Ascend 950PR/Ascend 950DT√Atlas A3 训练系列产品/Atlas A3 推理系列产品√Atlas A2 训练系列产品/Atlas A2 推理系列产品√功能说明初始化Profiling目前用于设置保存性能数据的文件的路径。参数说明参数名输入/输出说明profilerResultPath输入指定保存性能数据的文件的路径支持配置为绝对路径或相对路径。length输入profilerResultPath的长度单位为Byte最大长度不超过4096字节。返回值说明返回0表示成功返回其他值表示失败请参见aclError。约束说明与aclprofFinalize接口配对使用先调用aclprofInit接口再调用aclprofFinalize接口。aclprofSetConfigaclError aclprofSetConfig(aclprofConfigType configType, const char *config, size_t configLength)产品支持情况产品是否支持Ascend 950PR/Ascend 950DT√Atlas A3 训练系列产品/Atlas A3 推理系列产品√Atlas A2 训练系列产品/Atlas A2 推理系列产品√功能说明aclprofCreateConfig接口的扩展接口用于设置性能数据采集参数。该接口支持多次调用用户需要保证数据的一致性和准确性。参数说明参数名输入/输出说明configType输入作为configType参数值。每个枚举表示不同采集配置若要使用该接口下不同的选项采集多种性能数据则需要多次调用该接口详细请参见aclprofConfigType。config输入指定配置项参数值。configLength输入config的长度单位为Byte最大长度不超过256字节。返回值说明返回0表示成功返回其他值表示失败请参见aclError。约束说明先调用aclprofSetConfig接口再调用aclprofStart接口可根据需求选择调用该接口。aclprofStartaclError aclprofStart(const aclprofConfig *profilerConfig)产品支持情况产品是否支持Ascend 950PR/Ascend 950DT√Atlas A3 训练系列产品/Atlas A3 推理系列产品√Atlas A2 训练系列产品/Atlas A2 推理系列产品√功能说明下发Profiling请求使能对应数据的采集。用户可根据需要在模型执行过程中按需调用aclprofStart接口Profiling采集到的数据为调用该接口之后的数据。参数说明参数名输入/输出说明profilerConfig输入指定Profiling配置数据。类型定义请参见aclprofConfig。需提前调用aclprofCreateConfig接口创建aclprofConfig类型的数据。返回值说明返回0表示成功返回其他值表示失败请参见aclError。约束说明与aclprofStop接口配对使用先调用aclprofStart接口再调用aclprofStop接口。aclprofStopaclError aclprofStop(const aclprofConfig *profilerConfig)产品支持情况产品是否支持Ascend 950PR/Ascend 950DT√Atlas A3 训练系列产品/Atlas A3 推理系列产品√Atlas A2 训练系列产品/Atlas A2 推理系列产品√功能说明停止Profiling数据采集。参数说明参数名输入/输出说明profilerConfig输入指定停止Profiling数据采集的配置。类型定义请参见aclprofConfig。与aclprofStart接口中的aclprofConfig类型数据保持一致。返回值说明返回0表示成功返回其他值表示失败请参见aclError。约束说明与aclprofStart接口配对使用先调用aclprofStart接口再调用aclprofStop接口。aclprofFinalizeaclError aclprofFinalize()产品支持情况产品是否支持Ascend 950PR/Ascend 950DT√Atlas A3 训练系列产品/Atlas A3 推理系列产品√Atlas A2 训练系列产品/Atlas A2 推理系列产品√功能说明结束Profiling。参数说明无返回值说明返回0表示成功返回其他值表示失败请参见aclError。约束说明与aclprofInit接口配对使用先调用aclprofInit接口再调用aclprofFinalize接口。aclprofStr2Iduint64_t aclprofStr2Id(const char *message)产品支持情况产品是否支持Ascend 950PR/Ascend 950DT√Atlas A3 训练系列产品/Atlas A3 推理系列产品√Atlas A2 训练系列产品/Atlas A2 推理系列产品√功能说明msproftx用于将字符串转化为哈希ID。参数说明参数名输入/输出说明message输入字符信息例如算子名。返回值说明返回哈希ID如果是uint64_t类型的最大值则表示失败其他表示成功。约束说明与aclprofRangePushEx和aclprofRangePop接口配合使用在aclprofRangePushEx接口调用之前调用。【免费下载链接】runtime本项目提供CANN运行时组件和维测功能组件。项目地址: https://gitcode.com/cann/runtime创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考

相关文章:

CANN/runtime Profiling数据采集接口

# 19-01 Profiling数据采集接口 【免费下载链接】runtime 本项目提供CANN运行时组件和维测功能组件。 项目地址: https://gitcode.com/cann/runtime 本章节描述 Profiling 数据采集的核心接口,用于性能采集的初始化、配置、启停控制。 aclError…...

复盘红日Vulnstack1:除了MSF和CS,我们还能用哪些“冷门”工具链完成内网横向?

红日Vulnstack1靶场实战:突破常规工具链的内网横向技术探索 当主流渗透工具遭遇严格监控时,如何构建替代性攻击链?红日安全团队的Vulnstack1靶场作为国内知名的内网渗透训练环境,常被用作测试Metasploit(MSF&#xff0…...

cann/sip FFT逆短时傅里叶变换

Istft 【免费下载链接】sip 本项目是CANN提供的一款高效、可靠的高性能信号处理算子加速库,基于华为Ascend AI处理器,专门为信号处理领域而设计。 项目地址: https://gitcode.com/cann/sip 产品支持情况 产品是否支持Atlas 200I/500 A2 推理产品…...

拆解ADAS域控成本密码:聊聊MCU端AutoSAR CP软件如何从DV、产测到量产一步步省钱

ADAS域控成本优化实战:AutoSAR CP软件三阶段降本策略 当某德系车企要求其ADAS域控制器BOM成本降低15%时,作为Tier1供应商的我们面临一个关键抉择——硬件降配可能影响性能,而软件架构优化却能实现"隐形降本"。本文将揭示如何通过Au…...

3步解锁网易云音乐NCM加密:ncmdumpGUI本地转换完全指南

3步解锁网易云音乐NCM加密:ncmdumpGUI本地转换完全指南 【免费下载链接】ncmdumpGUI C#版本网易云音乐ncm文件格式转换,Windows图形界面版本 项目地址: https://gitcode.com/gh_mirrors/nc/ncmdumpGUI 你是否曾在网易云音乐下载了心爱的歌曲&…...

极简AI助手noclaw:C语言实现,内存仅324KB,支持工具调用与记忆

1. 项目概述:noclaw,一个极简主义的AI助手基础设施 如果你和我一样,对现在动辄几个GB内存、启动慢如蜗牛的AI应用感到厌倦,那么noclaw的出现,绝对会让你眼前一亮。这是一个用纯C语言编写的、完全自主的AI助手基础设施。…...

小红书下载神器 XHS-Downloader:完整技术架构与使用指南

小红书下载神器 XHS-Downloader:完整技术架构与使用指南 【免费下载链接】XHS-Downloader 小红书(XiaoHongShu、RedNote)链接提取/作品采集工具:提取账号发布、收藏、点赞、专辑作品链接;提取搜索结果作品、用户链接&a…...

CANN/HCCL AlltoAllV示例

集合通信 - AlltoAllV 【免费下载链接】hccl 集合通信库(Huawei Collective Communication Library,简称HCCL)是基于昇腾AI处理器的高性能集合通信库,为计算集群提供高性能、高可靠的通信方案 项目地址: https://gitcode.com/ca…...

利用GitHub Actions与Twitter API实现贡献图动态展示推文更新

1. 项目概述与核心价值最近在折腾个人主页和博客的访客统计时,发现了一个挺有意思的开源项目——tommyjepsen/twblocks。简单来说,这是一个能让你在GitHub个人主页的“小绿点”(贡献图)上,动态展示Twitter(…...

99.手把手教你落地YOLOv5车辆检测,含COCO格式适配+全流程代码实操

摘要 YOLO(You Only Look Once)是一种基于回归的单阶段目标检测算法,以其极快的推理速度和良好的检测精度在工业界广泛应用。本文从零开始,系统讲解YOLOv5的核心原理、训练流程与部署方法。通过一个完整的车辆检测案例,覆盖数据准备、模型训练、推理优化、模型导出等全链…...

新手入门指南使用 curl 命令快速测试 Taotoken 大模型接口

🚀 告别海外账号与网络限制!稳定直连全球优质大模型,限时半价接入中。 👉 点击领取海量免费额度 新手入门指南:使用 curl 命令快速测试 Taotoken 大模型接口 基础教程类,针对没有复杂开发环境或希望快速验…...

基于AI智能体的Wazuh自主安全运营流水线构建与实战

1. 项目概述:从手动告警到自主SOC的进化如果你在运维一个安全运营中心(SOC),每天面对成百上千条Wazuh告警,从海量噪音中筛选出真正的威胁,然后手动查询日志、关联上下文、编写响应计划,最后再执…...

有限单边响应游戏中的蒙特卡洛反事实遗憾最小化

1. 博弈论中的决策优化难题在有限单边响应游戏这类特殊博弈场景中,参与者常常面临决策优化的核心挑战。这类博弈的特点是其中一方(响应方)的策略空间有限,而另一方(主导方)的策略选择会直接影响响应方的收益…...

98.吃透YOLOv8架构(C2f+解耦头),手把手落地行人检测项目

摘要 YOLO(You Only Look Once)系列算法是目标检测领域最主流的实时检测框架。 本文以YOLOv8为基线,从算法核心原理、数据集构建、模型训练、推理优化到工程部署,提供一套完整可落地的技术方案。 全文包含一个端到端的行人检测案例,代码可直接运行,并深入剖析训练过程中…...

Mirror-SD技术:加速生成式AI推理的异构计算优化方案

1. 技术背景与核心挑战在生成式AI大模型推理领域,解码阶段的计算延迟一直是制约实际应用的关键瓶颈。传统自回归解码(Autoregressive Decoding)需要逐个生成token,这种串行特性导致即使使用高端GPU也常出现硬件利用率不足的情况。…...

拓扑数据分析与AI结合:从社交媒体数据中预测社会趋势演变

1. 项目概述:当拓扑学遇见社交媒体最近几年,我一直在琢磨一件事:我们每天在社交媒体上留下的海量数据,除了被平台用来推送广告,还能不能挖掘出更深层、更本质的社会规律?比如,能不能提前感知到某…...

CANN/AMCT恢复量化重训练模型

restore_quant_retrain_model 【免费下载链接】amct AMCT是CANN提供的昇腾AI处理器亲和的模型压缩工具仓。 项目地址: https://gitcode.com/cann/amct 产品支持情况 产品 是否支持 Ascend 950PR/Ascend 950DT √ Atlas A3 训练系列产品/Atlas A3 推理系列产品√ Atlas A…...

CANN图像算子双三次上采样反向

aclnnUpsampleBicubic2dBackward 【免费下载链接】ops-cv 本项目是CANN提供的图像处理、目标检测相关的算子库,实现网络在NPU上加速计算。 项目地址: https://gitcode.com/cann/ops-cv 📄 查看源码 产品支持情况 产品是否支持 Ascend 950PR/Asc…...

AI Agent时代,向量数据库的角色正在悄然重构

在构建复杂多步Agent工作流的生产环境中,我最近反复踩到一个坑:模型能生成规划,工具调用也顺畅,但执行几轮后决策就开始漂移,自我纠正能力迅速衰减。日志一查,问题出在检索层——它还是那个经典RAG的“一次…...

大模型对齐技术:从RLHF到DPO的演进与实践

1. 大模型对齐技术发展脉络大模型对齐(Alignment)技术是确保AI系统行为与人类价值观和意图保持一致的关键领域。过去几年里,我们见证了从基于强化学习的RLHF方法到更高效直接的DPO技术的演进过程。这种转变不仅仅是技术路线的优化&#xff0c…...

使用 Taotoken 后 API 调用延迟与稳定性在实际开发中的体感观察

🚀 告别海外账号与网络限制!稳定直连全球优质大模型,限时半价接入中。 👉 点击领取海量免费额度 使用 Taotoken 后 API 调用延迟与稳定性在实际开发中的体感观察 在将大模型能力集成到应用中的开发过程中,API 调用的响…...

extract-video-ppt:从视频中智能提取PPT内容的终极解决方案

extract-video-ppt:从视频中智能提取PPT内容的终极解决方案 【免费下载链接】extract-video-ppt extract the ppt in the video 项目地址: https://gitcode.com/gh_mirrors/ex/extract-video-ppt 在数字化学习与知识传播的时代,视频已成为信息传递…...

AI文本检测系统性能评估实战:从混淆矩阵到ROC曲线的完整指南

1. 项目概述:为什么我们需要评估AI文本检测系统?最近在做一个关于AI生成文本检测的项目,和几个同行交流时发现,大家普遍存在一个误区:模型训练出来,看到测试集上的准确率(Accuracy)达…...

Speech-AI-Forge:模块化语音AI工具链,整合Whisper与VITS快速构建应用

1. 项目概述:当AI学会“说话”,我们能做什么? 最近在GitHub上看到一个挺有意思的项目,叫“Speech-AI-Forge”。光看名字,你可能会觉得这又是一个关于语音识别的老生常谈。但当我真正点进去,把代码拉下来跑…...

快速学C语言——第 3 章:变量与数据类型

第 3 章:变量与数据类型 ​ 在编程世界中,程序需要处理各种数据,比如一个人的年龄、一件商品的价格,或者一个单词。 ​ 为了在程序中存储和操作这些数据,我们需要用到变量和数据类型。它们是构建程序逻辑…...

Hermes Agent框架接入Taotoken自定义模型提供方的配置要点

🚀 告别海外账号与网络限制!稳定直连全球优质大模型,限时半价接入中。 👉 点击领取海量免费额度 Hermes Agent框架接入Taotoken自定义模型提供方的配置要点 Hermes Agent 是一个流行的智能体开发框架,它允许开发者灵活…...

ChatGPT与MidJourney协同:AI辅助艺术创作实战工作流

1. 项目概述:当艺术创作遇上AI工具作为一名在创意行业摸爬滚打了十多年的从业者,我亲眼见证了无数艺术家、设计师和内容创作者在某个深夜对着空白画布或闪烁的光标,陷入那种熟悉的、令人窒息的“创作瓶颈”。灵感枯竭、风格固化、效率低下&am…...

开源量化框架trading-strategy:DeFi链上策略开发与回测实战指南

1. 项目概述与核心价值最近在量化交易和算法策略开发的圈子里,一个名为tradingstrategy-ai/trading-strategy的开源项目热度持续攀升。作为一名在金融科技和自动化交易领域摸爬滚打了十多年的老兵,我习惯性地会去审视每一个新出现的“明星项目”&#xf…...

将小米TTS封装为OpenAI风格API:实现离线高质量语音合成

1. 项目概述:从“小爱同学”到通用语音合成最近在折腾智能家居和语音交互项目时,我遇到了一个挺有意思的需求:想把小米设备上那个熟悉的“小爱同学”语音,集成到我自己的应用里。你可能也注意到了,像“小爱同学”这样的…...

CipherOcto:去中心化AI基础设施协议架构解析与实践指南

1. 项目概述:从中心化到去中心化的AI基础设施革命如果你和我一样,在过去几年里深度使用过各种AI助手,从ChatGPT到Claude,再到各种开源模型,你一定会被一个核心问题困扰:我的数据去哪了?我的计算…...