CANN/xla-npu 安装指南

XLA-NPU 安装指南【免费下载链接】xla-npuXLA-NPU 是一个面向华为昇腾NPU硬件的 XLA后端实现。本项目通过接入OpenXLA/XLA开源项目将XLA开源生态与华为 CANN软件栈集成对接JAX框架。JAX框架运行时可以直接加载XLA-NPU使得基于JAX框架开发的模型可以运行在昇腾NPU上提供推理场景图编译加速能力。项目地址: https://gitcode.com/cann/xla-npu概述本文档介绍如何使用build.sh脚本安装 XLA-NPU。系统要求必须满足Python 3.11必须预先安装系统自带、apt 安装或 conda 环境基本工具wgetcurlgittar磁盘空间至少 10GB 可用空间推荐配置内存至少 8GBCPU多核处理器脚本会自动使用所有可用核心安装前准备1. 安装 Python方法一使用 conda推荐# 创建新环境 conda create -n xla-npu python3.11 conda activate xla-npu # 验证安装 python --version方法二使用系统包管理器# Ubuntu/Debian sudo apt-get update sudo apt-get install python3.11 python3-pip # 验证安装 python3.11 --version2. 安装基本工具sudo apt-get update sudo apt-get install wget curl git tar3. 克隆 xla-npu 仓库git clone https://gitcode.com/cann/xla-npu.git /path/to/xla-npu安装步骤1. 进入安装脚本目录cd /path/to/xla-npu/build2. 给脚本添加执行权限chmod x build.sh3. 运行安装脚本./build.sh ${action} --npu-auto-fuse-backend${backend}或者如果你使用 conda 环境conda activate ${xla-npu} ./build.sh ${action} --npu-auto-fuse-backend${backend}${action}表示脚本命令取值如下install安装默认不支持重复安装如果需要重复安装需要设置环境变量FORCE_REINSTALL为1如export FORCE_REINSTALL1。uninstall卸载默认卸载需要二次确认如果不希望二次确认需要设置环境变量FORCE_UNINSTALL为1如export FORCE_UNINSTALL1。help帮助查看build.sh脚本支持命令的帮助信息。--npu-auto-fuse-backend${backend}表示编译选项仅${action}为install时支持可选${backend}取值如下0不支持融合, 仅使用aclnn执行1默认值使用afir后端3使用ge后端${xla-npu}conda环境名称其它安装环境变量说明PARALLEL_JOBS并行编译任务数默认为cpu核数。可选如export PARALLEL_JOBS4。4. 验证 XLA-NPU 编译产物cd /path/to/xla-npu ls -lh build/code/xla/bazel-bin/xla/xla_npu/pjrt/c/pjrt_c_api_npu_plugin.so5. 设置环境变量source xla_npu_env常见问题1. Python 版本不满足要求错误信息Python 版本不满足要求 (需要 3.11 当前 3.9.x)解决方案# 使用 conda 安装 conda install python3.11 # 或使用 apt 安装 (Ubuntu 22.04) sudo apt-get install python3.112. 编译时内存不足错误信息java.lang.OutOfMemoryError: Java heap space解决方案减少并行编译任务数PARALLEL_JOBS4 ./build.sh install3. 权限问题错误信息无法创建目录: Permission denied解决方案# 确保对工作目录有写权限 sudo chown -R $USER:$USER /path/to/xla-npu # 或使用 sudo 运行脚本不推荐 sudo ./build.sh install4. ge后端场景运行时缺少依赖错误信息INTRENAL: Failed to initialize GE.解决方案安装依赖包pip install decorator5.2.1 pip install sympy1.14.0 pip install attrs25.4.0卸载cd /path/to/xla-npu/build ./build.sh uninstall注意: 本安装脚本已针对国内网络环境优化使用华为镜像源加速下载。如需使用其他镜像源可修改脚本中的镜像配置。【免费下载链接】xla-npuXLA-NPU 是一个面向华为昇腾NPU硬件的 XLA后端实现。本项目通过接入OpenXLA/XLA开源项目将XLA开源生态与华为 CANN软件栈集成对接JAX框架。JAX框架运行时可以直接加载XLA-NPU使得基于JAX框架开发的模型可以运行在昇腾NPU上提供推理场景图编译加速能力。项目地址: https://gitcode.com/cann/xla-npu创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考