基于华为Maas(大模型即服务)和开源的Agent三方框架构建AI聊天助手实践

引言

随着人工智能技术的快速发展，AI聊天助手已经成为企业与用户之间沟通的重要桥梁。为了构建一个高效、智能且易于扩展的AI聊天助手，我们可以利用华为云提供的Maas（Model-as-a-Service，大模型即服务）平台，结合开源的Agent三方框架来实现。本文将详细介绍这一实践过程，并分享一些个人见解和技术观点。

---

一、背景与动机

1.1 华为Maas平台简介

华为Maas是基于云端的大规模预训练语言模型服务平台，它允许开发者通过API接口快速调用高性能的语言处理能力，而无需自行训练或维护复杂的模型架构。这大大降低了开发门槛，提高了项目实施的速度和灵活性。在2024数博会领先科技成果发布会上，十大领先科技成果和优秀科技成果揭晓。凭借在大数据和人工智能领域的优势，华为云斩获多项大奖，其中就包括：华为云MaaS大模型即服务平台荣获“十大领先科技成果奖”

1.2 开源Agent框架的选择

选择合适的Agent框架对于构建聊天助手至关重要。一个好的Agent框架应该具备以下特点：

• 易用性：支持多种编程语言，提供丰富的文档和示例代码。
• 可扩展性：能够轻松集成第三方服务和插件，适应不同的业务需求。
• 社区活跃度：拥有庞大且活跃的开发者社区，确保长期支持和技术更新。

在众多选项中，Rasa是一个非常受欢迎的开源对话管理框架，它不仅满足上述要求，还提供了强大的自然语言理解和生成功能。因此，本文将以Rasa为例进行讨论。

---

二、技术方案设计

2.1 系统架构概述

整个系统由三个主要部分组成：前端界面、后端服务器以及华为Maas API。其中，前端负责接收用户的输入并展示回复；后端则承担了核心逻辑处理任务，包括但不限于消息路由、状态管理等；最后，通过调用华为Maas API完成复杂的语言处理工作。

这里我附上MaaS使用开发文档：MaaS使用场景和使用流程_AI开发平台ModelArts_华为云

2.2 核心组件详解

2.2.1 Rasa Agent

作为对话管理的核心组件，Rasa Agent负责解析用户的自然语言输入，根据上下文理解意图，并生成相应的回应。此外，它还可以与其他外部系统交互，如数据库查询、API调用等，从而实现更复杂的功能。

2.2.2 华为Maas API

华为Maas API提供了对大规模预训练语言模型的访问权限，使得我们可以直接利用其强大的文本分析和生成能力。例如，在面对长文本摘要、情感分析等高级应用时，借助Maas可以显著提升处理效率和准确性。

2.2.3 消息队列（Optional）

考虑到高并发场景下的性能优化问题，可以在架构中引入消息队列机制。这样不仅可以缓解瞬时流量压力，还能保证系统的稳定性和可靠性。

*本实验为了便于展示和引导部署，我们就采用了【Dify开发平台】。

Dify是一款开源的大语言模型(LLM)应用开发平台，它融合了后端即服务(Backend as Service, BaaS)和LLMOps的理念，旨在帮助开发者快速搭建生产级的生成式AI应用。以下是关于Dify软件的相关信息：

Dify软件的主要功能

**低代码/无代码开发：**提供用户友好的界面，通过可视化的方式允许开发者轻松定义Prompt、上下文和插件等。

**模块化设计：**采用模块化的设计，每个模块都有清晰的功能和接口，可以根据需求选择性地使用。