【学习资料】嵌入式人工智能Embedded AI

图片来源：

Embedded Artificial Intelligence for Business Purposes | DAC.digital

随着AI在设备端的应用，我们看到越来越多的可穿戴设备出现以及自动驾驶汽车的发展，可以看到嵌入式人工智能是新的发展方向。我为大家介绍嵌入式人工智能的概念、技术以及面临的挑战，嵌入式人工智能的应用。

1 什么是嵌入式人工智能？

1.1 基本概念

嵌入式人工智能是指在嵌入式系统中集成和应用人工智能技术，以实现对特定任务的智能化处理。这样设备能够在本地进行数据处理和决策，而不依赖于云端或外部服务器，从而提高了响应速度和数据安全性。

Embedded AI, also known as Embedded Artificial Intelligence (EAI), is a general-purpose framework system for AI functions. It is built into network devices and provides common model management, data obtaining, and data preprocessing functions for AI algorithm-based functions for these devices. In addition, it supports the function to send inference results to AI algorithm-based functions. This fully utilizes the sample data and computing capabilities of devices, while offering advantages such as lower data transmission costs, as well as ensured data security and real-time inferencing and decision-making.

What Is Embedded AI (EAI)? Why Do We Need EAI? - Huawei

1.2 嵌入式人工智能包括的关键组件和技术

嵌入式人工智能包括硬件、软件。其中硬件包括AI专用芯片、微处理器/微控制器、传感器和存储器。软件部分包括嵌入式操作系统、AI算法与模型、中间件和驱动程序以及应用软件。从硬件来看，在设备中嵌入AI专用芯片或使用现有硬件资源来支持人工智能算法的高效运行。从算法模型来看，针对嵌入式系统的资源限制，需要优化AI算法以降低计算需求和能耗。嵌入式人工智能系统能够实时处理传感器数据，如图像、声音或运动数据，以提供快速的响应和决策。

嵌入式人工智能系统将应用机器学习、深度学习和边缘计算等技术。

嵌入式人工智能系统包括数据模块、算法模块和接口模块。

TinyML是一种专注于在资源受限的设备上运行机器学习模型的技术。它将机器学习技术应用到微控制器等嵌入式系统中，使其能够在功耗极低和计算资源有限的条件下执行智能任务。边缘计算是一种分布式计算架构，旨在将数据处理能力和服务从传统的集中式数据中心推向靠近数据源的网络边缘。通过在本地设备或靠近数据生成地进行计算和分析，边缘计算能够显著减少延迟、降低带宽消耗以及提高数据处理效率和响应速度。

关于TinyML，可访问

https://tinyml.seas.harvard.edu/AAAI-23/

https://tinyml.seas.harvard.edu/AAAI-23/#building-approachable-hands-on-embedded-machine-learning-curriculum-using-edge-impulse-and-arduino
关于边缘计算可以查看

 AI at the Edge[Book]

Deep Learning on Microcontrollers: Learn how to develop embedded AI applications using TinyML (English Edition) Amazon.com

Deep Learning on Microcontrollers书籍仓库在这里

GitHub - bpbpublications/Deep-Learning-on-Microcontrollers: Deep Learning on Microcontrollers, by BPB Publications

1.3 嵌入式人工智能面临的挑战

需要应对模型复杂度、有限的内存和计算资源，以及需要领域知识和技能。

2 嵌入式人工智能的应用

在智能手机和可穿戴设备、智能家居和智慧城市、自动驾驶汽车、医疗器械和机器人等方面，都可以看到嵌入式人工智能的应用。

嵌入式人工智能有助于在个性化、环境感知、主动协助和自然交互提高用户体验。

3 参考资源

嵌入式计算系统设计原理。 computers as components principles of embedded computing system design Wayne Wolf Princeton University 机工社 2002年2月出版 包括嵌入式计算、指令系统、CPU、嵌入式计算平台、程序设计和分析、进程和操作系统、硬件加速器、网格和系统设计技术

Understanding Embedded AI (EAI): What It Is And How It Works | Polygon Technology

英特尔工业人工智能白皮书2025版 https://www.intel.cn/content/www/cn/zh/internet-of-things/industrial-ai-playbook-2025.html

Welcome to the Tiny Machine Learning Open Education Initiative (TinyMLedu)

Deep learning on Microcontrollers Amazon.com

AI at the Edge AI at the Edge[Book]

期待大家加入到嵌入式人工智能的开发队伍中来！