高算力AI模组前沿应用：基于ARM架构的SoC阵列式服务器

本期我们带来高算力AI模组前沿应用，基于ARM架构的SoC阵列式服务器相关内容。澎湃算力、创新架构、异构计算，有望成为未来信息化社会的智能算力底座。

▌性能优势+AI驱动，ARM架构服务器加速渗透

一直以来，基于ARM架构的各类处理器芯片，以其低功耗、高效能、高可靠性、成本优势等综合特性，广泛应用于手机、平板电脑、物联网终端设备等各类通信及电子产品领域，极大推动了人类社会的信息化和智能化进程。

而在服务器领域，之前一直是基于X86架构的产品占据主导，近年来，随着下游对于异构算力、智能算力需求的不断增长，以及类似于云游戏等安卓原生态应用的大规模兴起，越来越多的厂商开始将ARM架构应用于服务器领域，并推出了一系列相关产品。

去年以来，在智能算力需求的不断增长，以及生成式AI对于异构算力的庞大需求，ARM架构服务器在云游戏、数字人等新兴应用市场展现出独特优势，而对于传统服务器领域的渗透，也有加速的迹象。

ARM架构服务器的特点：

一、低功耗：ARM架构具有低功耗优势，其采用的处理器芯片，与传统X86架构芯片相比功耗更低，且具有更高的能效比，在IDC架构中集成ARM服务器，可以降低电费支出、节约能源消耗。

二、高效能：ARM架构具有更好的多核线程驱动性能，能够实现更好的并行处理和任务处理能力。

三、成本低：ARM架构处理器芯片，较X86架构芯片的制造成本更低，ARM架构服务器价格具有极高性价比，且开发成本更低。

四、高可靠性：具有更好的故障容忍性，可以提供更高的可靠性和稳定性。

据了解，亚马逊、浪潮、腾讯、百度、阿里等头部企业，都推出了基于ARM架构的服务器产品，因其低功耗、高性价比、高效能等优势、在云计算、物联网、智能交通、医疗健康等领域有广泛应用。

据TrendForce集邦咨询研究显示，近年企业对于人工智能、高效能运算等数字转型需求加速，带动云端采用比例增加，全球主要云端服务业者为提升服务弹性，陆续导入ARM架构服务器，预期至2025年ARM架构在数据中心服务器渗透率将达22%。

▌基于ARM架构的SoC阵列式服务器，智能算力领域的新兴力量

以ARM架构为基础，创新性的采用SoC芯片作为算力来源，以灵活的阵列式架构打造的SoC阵列式服务器，也逐步进入企业级IDC以及各类边缘计算场景。这是一种专门针对企业级数据中心和边缘场景面临的空间制约和节能要求而优化设计的高密服务器，以高能效比、高性价比、高密度为设计原则，在一个机架式机箱内集成多达40路、60路、80路等针对服务器场景专门定制的高算力模组或者算力板，可为各类行业客户构建适低成本、高密度、高并发、高性能的算力集群。

服务器内布置的每个算力模组或者算力板都是一个可以独立运行的最小系统，包含CPU、GPU、NPU、存储、网络等。相关SoC阵列式服务器可根据客户需求、定制多种算力节点、其内部采用模块化及热插拔设计，可以实现不停机维护。在通信方面配置了10G/25G交换节点，支持SDN自动化网络部署，并且内置了多维智能管理节点，可以进行全方位远程运维工作，有效减低运维成本。

以云游戏场景为例，随着《原神》、《崩坏》等爆款游戏的全球风靡，除了游戏运行向移动端转移外，也极大带动了云游戏市场的迅速扩展。而传统的通用型服务器，在支撑云游戏运行上，存在兼容性差、成本高昂等问题，而ARM架构的阵列式服务器，基于对安卓生态天然的兼容性，避免了服务器端到应用端的软件架构转换以及转换过程中的性能损耗，近年来在云游戏场景，几乎占据主导地位，目前正逐步向数字人、工业视觉、边缘AI、云XR渲染等领域拓展。

▌美格高算力AI模组，为SoC阵列式服务器提供澎湃算力

美格智能作为行业内最早推出高算力AI模组产品的企业，也不断推动AI模组产品在服务器、机器人、AI零售、无人机、云游戏、数字人、云桌面、云教育、工业AI检测、云XR等各领域的深度应用，从而真正让产品的AI能力能够助力行业。

美格智能助力客户定制推出SoC阵列服务器产品，集成了CPU+GPU+NPU+TPU复合异构算力集群，可以构建大规模智能算力矩阵；每个算力节点采用刀片+阵列式设计，支持热插拔，轻松维护；整机80GB带宽，每个板卡满负载1GB带宽；内置BMC多功能综合监控可视化管理系统，可轻松远程管理。

▲内置美格智能高算力AI模组SNM970的阵列式服务器终端

该SoC阵列式服务器，采用美格智能为其专门定制的高算力AI模组SNM970，基于高通 QCS8550（8 Gen2）研发，支持16GB LPDDR5X + 256GB UFS 4.0内存，服务器中最高可配置80路高算力AI模组，单颗模组内部支持Android虚拟化，可虚拟出多路计算单元（如80路模组服务器，单颗模组根据下游算力需求，可以虚拟出多路虚拟机，比如虚拟出4路的情况下则可同时支撑320台诸如手机等终端同时运行云游戏），更好的进行算力配置，充分发挥了高算力、高性价比、高能效比的优势，为实时互动云计算、边缘AI云计算、云渲染等业务场景提供最佳算力底座。

随着各行各业对于算力需求的爆发式增长，以及新兴应用场景对于创新型服务器的迫切需求，美格智能也将加大力度推动高算力AI模组在服务器领域的深度应用。

目前，美格智能团队已经与行业领先的SoC阵列式服务器客户密切协作，陆续打造出了针对SoC阵列式服务器场景，基于高通骁龙865/SM8475/QCS8550三代SoC芯片的深度定制的算力模组，同时做到封装兼容，更好助力客户产品的算力提升和产品迭代，为相关产品后续在AIGC领域的应用推广，以及向传统服务器市场的渗透，提供更好助力。

中国电信终端产业协会于2023年4月26日发布了《基于ARM架构的SoC阵列服务器技术规范》，以团体标准的形式明确了ARM架构SoC阵列式服务器的通用技术要求，国内相关厂商也在为下一代服务器的产品标准在开始探讨，相关产品将逐步进入发展快车道。