当前位置: 首页 > article >正文

CANN/hcomm HCCL通信管理器API

HcclGetRootInfo【免费下载链接】hcommHCOMMHuawei Communication是HCCL的通信基础库提供通信域以及通信资源的管理能力。项目地址: https://gitcode.com/cann/hcomm产品支持情况Ascend 950PR/Ascend 950DT支持Atlas A3 训练系列产品/Atlas A3 推理系列产品支持Atlas A2 训练系列产品/Atlas A2 推理系列产品支持Atlas 推理系列产品支持Atlas 训练系列产品支持[!NOTE]说明 针对Atlas A2 训练系列产品/Atlas A2 推理系列产品仅支持Atlas 800T A2 训练服务器、Atlas 900 A2 PoD 集群基础单元、Atlas 200T A2 Box16 异构子框。 针对Atlas 推理系列产品仅支持Atlas 300I Duo推理卡。功能说明此接口需要在HCCL初始化接口HcclCommInitRootInfo或HcclCommInitRootInfoConfig前调用仅需在root节点调用用于生成root节点的rank标识信息HcclRootInfo。该接口需要和初始化接口HcclCommInitRootInfo或HcclCommInitRootInfoConfig接口配对使用不能单独使用。该接口支持单线程循环调用即开发者可在一个for循环中通过“指定不同的Device 调用此接口”从而实现在一个线程中获取不同设备的rootInfo信息。假设一个AI Server中有8张卡8张卡分成4个通信域每个通信域中的两张卡之间通信如下图所示。获取rootInfo信息并进行集合通信初始化的流程如下图所示。首先在一个线程中通过切换Device创建4个rootInfo信息并存入一个长度为4的数组中。rootInfo信息获取完成后起4个线程分别调用HcclCommInitRootInfo或者HcclCommInitRootInfoConfig接口上图中以HcclCommInitRootInfo接口示意根据不同的rootInfo信息进行通信域初始化。多机集合通信场景调用HcclGetRootInfo前可以进行如下操作非必选配置环境变量HCCL_IF_IP或HCCL_SOCKET_IFNAME指定HCCL的初始化root网卡IP环境变量HCCL_IF_IP的优先级高于HCCL_SOCKET_IFNAME若二者都不配置默认使用网卡名称的字典序升序选择root网卡。配置环境变量HCCL_WHITELIST_DISABLE开启白名单校验并通过HCCL_WHITELIST_FILE指定通信白名单配置文件若不配置默认关闭通信白名单校验。函数原型HcclResult HcclGetRootInfo(HcclRootInfo *rootInfo)参数说明参数名输入/输出描述rootInfo输出本rank的标识信息主要包含device ip、device id等信息。此信息需广播至集群内所有rank用来进行HCCL初始化。HcclRootInfo类型的定义可参见HcclRootInfo。返回值HcclResult接口成功返回HCCL_SUCCESS其他失败。约束说明无调用示例uint32_t rankSize 8; uint32_t deviceId 0; // 生成 root 节点的 rank 标识信息 HcclRootInfo rootInfo; HcclGetRootInfo(rootInfo); // 初始化通信域 HcclComm hcclComm; HcclCommInitRootInfo(rankSize, rootInfo, deviceId, hcclComm); // 销毁通信域 HcclCommDestroy(hcclComm);【免费下载链接】hcommHCOMMHuawei Communication是HCCL的通信基础库提供通信域以及通信资源的管理能力。项目地址: https://gitcode.com/cann/hcomm创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考

相关文章:

CANN/hcomm HCCL通信管理器API

HcclGetRootInfo 【免费下载链接】hcomm HCOMM(Huawei Communication)是HCCL的通信基础库,提供通信域以及通信资源的管理能力。 项目地址: https://gitcode.com/cann/hcomm 产品支持情况 Ascend 950PR/Ascend 950DT:支持A…...

从设备树到CAN总线:在RK3399开发板上用SPI驱动MCP2515的保姆级避坑指南

从设备树到CAN总线:在RK3399开发板上用SPI驱动MCP2515的保姆级避坑指南 RK3399作为一款性能强劲的六核处理器,在工业控制和嵌入式领域有着广泛的应用。而CAN总线作为一种高可靠性的现场总线协议,在汽车电子和工业自动化中扮演着重要角色。本文…...

调节效应不只是‘分组回归’:用真实商业案例讲透它在AB测试与产品策略中的应用

调节效应不只是‘分组回归’:用真实商业案例讲透它在AB测试与产品策略中的应用 在互联网产品的迭代优化中,AB测试已成为验证新功能效果的标准工具。但当我们发现某个新功能的整体效果"不显著"时,是否就意味着这个功能毫无价值&…...

cann/cann-recipes-infer DeepSeek-R1推理优化

DeepSeek-R1或Kimi-K2模型在NPU实现高性能推理 【免费下载链接】cann-recipes-infer 本项目针对LLM与多模态模型推理业务中的典型模型、加速算法,提供基于CANN平台的优化样例 项目地址: https://gitcode.com/cann/cann-recipes-infer 概述 DeepSeek-R1和Kim…...

基于LangChain.js与Azure构建企业级RAG聊天应用实战指南

1. 项目概述:构建一个基于LangChain.js的RAG聊天应用 如果你正在寻找一个能快速上手的、企业级的AI聊天应用模板,这个项目绝对值得你花时间研究。它不是一个简单的“Hello World”示例,而是一个完整的、生产就绪的解决方案,展示了…...

长期项目使用Taotoken按Token计费带来的成本可控性体验

🚀 告别海外账号与网络限制!稳定直连全球优质大模型,限时半价接入中。 👉 点击领取海量免费额度 长期项目使用Taotoken按Token计费带来的成本可控性体验 在中长期AI应用项目的开发与维护过程中,成本管理是一个贯穿始终…...

CANN/shmem Root Info工具指南

Root Info Generate 工具 - 用户指南 【免费下载链接】shmem CANN SHMEM 是面向昇腾平台的多机多卡内存通信库,基于OpenSHMEM 标准协议,实现跨设备的高效内存访问与数据同步。 项目地址: https://gitcode.com/cann/shmem 概述 root_info_generat…...

OpenClaw-Lightcone插件:为AI智能体赋予云端计算机操作能力

1. 项目概述:当AI智能体获得“云端之手” 如果你正在探索AI智能体(Agent)的边界,尤其是如何让它们像真人一样操作电脑、浏览网页、处理数据,那么你很可能已经遇到了一个核心瓶颈: 环境依赖 。传统的浏览…...

【收藏备用】2026年版|普通人程序员如何快速切入AI行业?破除焦虑,找对落地路径

这篇文章想聊清楚一个所有小白和程序员都关心的现实问题:在AI热潮席卷各行各业的2026年,普通人到底该怎么切入AI行业、学好大模型? 如果你最近也在焦虑、在内耗,看着每天冒出的AI新工具、新概念,不知道该学什么、不知道…...

动态域名解析工具diny:基于Cloudflare API的轻量级DDNS解决方案

1. 项目概述:一个轻量级、可定制的动态域名解析工具最近在折腾个人服务器和家庭网络服务时,我又一次被动态公网IP的问题给绊住了。相信很多自己搭网站、建NAS或者跑一些自研服务的朋友都深有体会:运营商给的公网IP说变就变,一旦IP…...

如何搭建个人游戏云:Sunshine串流服务器完全指南

如何搭建个人游戏云:Sunshine串流服务器完全指南 【免费下载链接】Sunshine Self-hosted game stream host for Moonlight. 项目地址: https://gitcode.com/GitHub_Trending/su/Sunshine Sunshine是一款开源的自托管游戏串流服务器,专为Moonlight…...

35岁转行AI,社恐杨老师教你如何在大模型时代找到自己的坐标(收藏版)

本文分享了AI开发者“社恐杨老师”的真实故事,他35岁从化学工程转向AI领域,通过自学补齐机器学习底层数学,并成功将AI技术落地企业真实场景。文章核心内容包括:从AI 1.0到AI 2.0,技术会变但“寻找有效需求”是长期不变…...

CANN/asc-tools msobjdump工具

msobjdump 【免费下载链接】asc-tools Ascend C Tools仓是CANN基于Ascend C编程语言推出的配套调试工具仓。 项目地址: https://gitcode.com/cann/asc-tools 概述 本工具主要针对生成的算子ELF文件(Executable and Linkable Format)提供解析和解…...

完全掌握Blender插件:5大实战技巧高效处理虚幻引擎PSK/PSA格式

完全掌握Blender插件:5大实战技巧高效处理虚幻引擎PSK/PSA格式 【免费下载链接】io_scene_psk_psa A Blender extension for importing and exporting Unreal PSK and PSA files 项目地址: https://gitcode.com/gh_mirrors/io/io_scene_psk_psa io_scene_psk…...

EFGP查提交申请记录

select serialNumber,processInstanceName, subject, (case when currentState1 then 進行中 when currentState3 then 已結案 when currentState4 then 已撤銷 when currentState0 then 未開始 else 已暫停 end) from ProcessInstance(nolock) where left(serialNumber,4)L…...

CANN竞赛Add算子测试设计

决赛题目:Add 算子测试用例设计 【免费下载链接】cann-competitions 本仓库用于 CANN 开源社区各类竞赛、开源课题、社区任务等课题发布、开发者作品提交和展示。 项目地址: https://gitcode.com/cann/cann-competitions 任务说明 本题目要求参赛者为 CANN …...

Java基础十六:枚举,包,反射

一、枚举(Enum) 1. 什么是枚举 枚举是一种特殊的类,用于定义一组固定的常量。 2. 基本用法 // 最简单的枚举 public enum Season {SPRING, SUMMER, AUTUMN, WINTER }// 使用枚举 public class TestEnum {public static void main(String[…...

如何彻底解决显卡驱动冲突问题:Display Driver Uninstaller深度解析与实战指南

如何彻底解决显卡驱动冲突问题:Display Driver Uninstaller深度解析与实战指南 【免费下载链接】display-drivers-uninstaller Display Driver Uninstaller (DDU) a driver removal utility / cleaner utility 项目地址: https://gitcode.com/gh_mirrors/di/displ…...

论文阅读:MMA: Multi-Modal Adapter for Vision-Language Models

MMA:视觉语言模型的多模态适配器,主要用于改善文本与视觉分支表示之间的对齐,先分析 CLIP 不同层特征的“判别性 / 泛化性”,再只在高层插入一个带共享投影层的多模态适配器,让视觉和文本分支在学习任务特异知识的同时…...

华为CANN/ops-math反射填充3D梯度算子

ReflectionPad3dGrad 【免费下载链接】ops-math 本项目是CANN提供的数学类基础计算算子库,实现网络在NPU上加速计算。 项目地址: https://gitcode.com/cann/ops-math 产品支持情况 产品是否支持Ascend 950PR/Ascend 950DTAtlas A3 训练系列产品/Atlas A3 推…...

OnmyojiAutoScript:阴阳师手游智能自动化脚本终极指南

OnmyojiAutoScript:阴阳师手游智能自动化脚本终极指南 【免费下载链接】OnmyojiAutoScript Onmyoji Auto Script | 阴阳师脚本 项目地址: https://gitcode.com/gh_mirrors/on/OnmyojiAutoScript 阴阳师手游的日常任务繁重,从御魂副本到百鬼夜行&a…...

从入门到精通:彻底讲懂Agent的Skill,不做“炫技式浪费”

写在前面 现在做Agent,有一个非常典型的误区: 👉 Skill越多 Agent越强 于是开始疯狂堆Skill、堆工具、堆能力。 结果是什么? • Token飞速消耗• 调用混乱• 成本暴涨• 但任务反而做不好 本质上,这不是“在做A…...

Ceph 对象存储深度解析系列 第二部分:RGW 数据路径、分片和自动化

新钛云服已累计为您分享896篇技术干货简介在本深度解析的第一部分中,我们剖析了 Ceph RGW 内部的高性能请求路径。我们涵盖了其无状态前端、基础 RADOS 存储池以及关键的桶索引,揭示了动态分片如何使单个桶内的对象列表实现几乎无限的可扩展性。我们确立…...

Godot引擎集成本地大语言模型:从原理到实战的完整指南

1. 项目概述:在Godot引擎中集成本地大语言模型 如果你是一名游戏开发者,最近肯定没少听说AI在游戏开发中的应用。从自动生成对话到设计游戏机制,大语言模型(LLM)展现出的潜力让人兴奋。但一提到实际集成,很…...

联邦学习与Transformer融合:在CV与入侵检测中的隐私保护分布式智能实践

1. 项目概述与核心价值最近几年,我一直在关注一个技术交叉点:如何让模型在“看不见”彼此数据的情况下,还能协同进化,变得更聪明。这听起来有点像天方夜谭,但在数据隐私法规日益收紧、数据孤岛问题愈发严重的今天&…...

CANN/metadef Add函数API文档

Add 【免费下载链接】metadef Ascend Metadata Definition 项目地址: https://gitcode.com/cann/metadef 函数功能 新增一个ContinuousVector元素&#xff0c;其中新增ContinuousVector元素的容量为inner_vector_capacity。 函数原型 template<typename T> Con…...

【路径规划】基于启发式搜索与增量启发式搜索方法MRPP或MAPF的多机器人路径规划算法附matlab代码

✅作者简介&#xff1a;热爱科研的Matlab仿真开发者&#xff0c;擅长毕业设计辅导、数学建模、数据处理、程序设计科研仿真。&#x1f34e;完整代码获取 定制创新 论文复现点击&#xff1a;Matlab科研工作室&#x1f447; 关注我领取海量matlab电子书和数学建模资料 &#x1f3…...

Parquet文件原理与实战:列式存储如何提升查询性能和压缩效率

1. 什么是Parquet文件&#xff1f;一个数据工程师每天都在用、却很少被真正讲透的底层逻辑Parquet不是一种“新潮技术”&#xff0c;它更像是一把被磨得锃亮的瑞士军刀——没有炫目的UI&#xff0c;不靠营销话术&#xff0c;但只要你在处理超过百万行的数据、写过哪怕一条SELEC…...

VLA-0视觉语言动作模型:零修改部署与多模态AI实践

1. 项目概述VLA-0是一种突破性的视觉语言动作模型&#xff0c;它最大的特点在于实现了"开箱即用"的零修改部署能力。作为一名长期关注多模态AI发展的从业者&#xff0c;我首次接触到这个模型时就被它的设计理念所震撼——传统视觉语言模型往往需要针对特定任务进行繁…...

CANN/ops-math矩阵乘法压缩反量化算子

aclnnMatmulCompressDequant 【免费下载链接】ops-math 本项目是CANN提供的数学类基础计算算子库&#xff0c;实现网络在NPU上加速计算。 项目地址: https://gitcode.com/cann/ops-math &#x1f4c4; 查看源码 产品支持情况 产品是否支持Ascend 950PR/Ascend 950DTAt…...