CANN/hixl LLM集群信息文档

LLMClusterInfo【免费下载链接】hixlHIXLHuawei Xfer Library是一个灵活、高效的昇腾单边通信库面向集群场景提供简单、可靠、高效的点对点数据传输能力。项目地址: https://gitcode.com/cann/hixl产品支持情况产品是否支持Ascend 950PR/Ascend 950DT√Atlas A3 训练系列产品/Atlas A3 推理系列产品√Atlas A2 训练系列产品/Atlas A2 推理系列产品√说明针对Atlas A2 训练系列产品/Atlas A2 推理系列产品仅支持Atlas 800I A2 推理服务器、A200I A2 Box 异构组件。LLMClusterInfo构造函数函数功能构造LLMClusterInfo用于link_clusters和unlink_clusters接口的参数类型。函数原型__init__()参数说明无调用示例from llm_datadist import LLMClusterInfo llm_cluster LLMClusterInfo()返回值返回LLMClusterInfo的实例。约束说明无remote_cluster_id函数功能设置对端集群ID。函数原型remote_cluster_id(remote_cluster_id)参数说明参数名称数据类型取值说明remote_cluster_idint对端集群ID。调用示例llm_cluster LLMClusterInfo() llm_cluster.remote_cluster_id 1返回值正常情况下无返回值。参数错误可能抛出TypeError或ValueError。约束说明无append_local_ip_info函数功能添加本地集群IP信息。函数原型append_local_ip_info(self, ip: Union[str, int], port: int)参数说明参数名称数据类型取值说明ipUnion[str, int]本地集群Host卡IP。portint本地集群Host卡端口。调用示例llm_cluster LLMClusterInfo() llm_cluster.append_local_ip_info(1.1.1.1, 10000)返回值正常情况下无返回值。参数错误可能抛出TypeError或ValueError。约束说明无append_remote_ip_info函数功能添加远端集群IP信息。函数原型append_remote_ip_info(self, ip: Union[str, int], port: int)参数说明参数名称数据类型取值说明ipUnion[str, int]设置为Host侧的IP地址。portint设置为Host侧的端口。调用示例llm_cluster LLMClusterInfo() llm_cluster.append_remote_ip_info(1.1.1.1, 10000)返回值正常情况下无返回值。参数错误可能抛出TypeError或ValueError。约束说明无【免费下载链接】hixlHIXLHuawei Xfer Library是一个灵活、高效的昇腾单边通信库面向集群场景提供简单、可靠、高效的点对点数据传输能力。项目地址: https://gitcode.com/cann/hixl创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考