昇思MindSpore学习笔记1--基本介绍

昇思MindSpore是一个全场景深度学习框架。

• 一、框架组成

1. 模型库ModelZoo

    提供深度学习算法网络。

2. 扩展库MindSpore Extend

    拓展领域场景，如GNN/深度概率编程/强化学习等。

3. 科学计算MindSpore Science

    科学计算套件。

    包含数据集、基础模型、预置高精度模型和前后处理工具。

4. 全场景统一API MindExpression

    Python前端表达与编程。

    函数/OOP编程范式融合；

    AI+数值计算表达融合；

    动静统一表达：

        统一编码方式，一行代码切换动/静

set_context(mode=PYNATIVE_MODE)  #切换成动态图模式
set_context(mode=GRAPH_MODE)     #切换成静态图模式

    单机分布式统一表达：

        少量代码从单机转换为分布式

set_auto_parallel_context(parallel_mode=ParallelMode.AUTO_PARALLEL)

5. 第三方前端

    C/C++等前端表达。

6. 数据处理层MindSpore Data

    数据处理、数据集加载。

    支持自定义处理注册和pipeline并行优化。

7. AI编译器MindCompiler 

    核心编译器，端云统一MindIR。

    硬件无关的优化（类型推导、自动微分、表达式化简等）

    硬件相关优化（自动并行、内存优化、图算融合、流水线执行等）

    部署推理相关的优化（量化、剪枝等）

8. 全场景运行时MindRT

    运行时系统，包括云侧主机侧、端侧以及更小IoT的运行时系统。

9. 可视化调试调优工具MindSpore Insight

    查看训练过程；

    优化模型性能；

    调试精度问题；

    解释推理结果。

10. 安全增强库MindSpore Armour

    企业级功能，安全与隐私保护。

        对抗鲁棒性；

        模型安全测试；

        差分隐私训练；

        隐私泄露风险评估；

        数据漂移检测；

        .....

• 二、三层API

1. L低阶API

    包括张量定义、基础算子、自动微分等模块。

    Tensor接口 自定义张量

    grad接口 计算导数

2. M中阶API

    包括网络层、优化器、损失函数等模块，构建神经网络和控制执行流程，快速实现模型算法逻辑。

    Cell接口 构建神经网络模型和计算逻辑

    Loss模块 损失函数

    Optimizer接口 神经网络优化

    Dataset模块 数据处理

3. H高阶API

    包括训练推理的管理、混合精度训练、调试调优等高级接口，控制整网执行流程、实现神经网络的训练推理及调优。

    Model接口 神经网络模型和相关的设置、训练

• 三、华为昇腾AI全栈

从下往上说明。

1. 计算资源

包括Ascend芯片、IP和服务器等Atlas系列硬件。

2. CANN

昇腾芯片使能、驱动层。

3. MindSpore AI框架

支持端、边、云各场景的模型训练和推理。

4. 应用使能

包括ModelArts、MindX等应用服务能力。