【Datawhale学习笔记】从大模型到AgentScope

从大模型到AgentScope

AgentScope是一款全新的Multi-Agent框架，专为应用开发者打造，旨在提供高易用、高可靠的编程体验！

• 高易用：AgentScope支持纯Python编程，提供多种语法工具实现灵活的应用流程编排，内置丰富的API服务（Service）以及应用样例，供开发者直接使用。同时，AgentScope提供了详尽的教程，API文档和应用样例。
• 高鲁棒：确保开发便捷性和编程效率的同时，针对不同能力的大模型，AgentScope提供了全面的重试机制、定制化的容错控制和面向Agent的异常处理，以确保应用的稳定、高效运行；
• 基于Actor的分布式机制：AgentScope设计了一种新的基于Actor的分布式机制，实现了复杂分布式工作流的集中式编程和自动并行优化，即用户可以使用中心化编程的方式完成分布式应用的流程编排，同时能够零代价将本地应用迁移到分布式的运行环境中。

GitHub: https://github.com/modelscope/agentscope

大模型的发展

大模型的涌现改变了AI相关的技术研究以及应用

1. 辅助办公：帮助用户生成、修改文本，完成会议纪要
2. 代码生成： 根据注释自动生成代码，提高编程效率
3. 多模态生成：AI图像生成，音视频合成
4. 生活娱乐：快速生成短视频，文本生成类小游戏

但是，大模型仍不能满足实际需求

什么是Agent

Agent的构建

Single-Agent 到Multi-Agent

Multi-Agent

进一步借助多个Agent之间的协作，完成复杂任务

Single-agent开发 -> Multi-agent
如何完成更复杂任务 -> 根据任务，让多个agent根据SOP或自定义流程配合
如何针对大模型幻觉容错 -> 多个agent讨论、复盘逻辑
如何拓展能处理的任务范围？ -> 自由组合有不同擅长领域的agents
如何提高解决问题的效率？-> 优化、并行多个子任务agent执行

Multi-Agent实践中的挑战

1. 如何编排复杂流程
   用户：编写带有Standard Operating Procedure
   （SOP）的剧情对话
   难点：交流顺序、方式复杂多变，逐一枚举费时费
   力
   Keywords: 灵活，交流机制
2. 如何提高鲁棒性和可靠性？
   用户：模型总是不能按照我的要求产生输出
   难点：大模型幻觉和不稳定的指令跟随能力
   会影响应用运行效果
   Keywords：容错机制，鲁棒性
3. 如何处理多模态数据
   用户：我想接入Gemini，Sora等模型，开发一个生成
   视频的应用
   难点：需要在文本支持的基础上兼容多模态数据的
   传递，存储和展示
   Keywords：多模态，系统性支持
4. 如何提高运行效率
   用户：应用运行的速度太慢了，每次运行都要等很久
   难点：需要分布式背景，并深度分析应用流程，对开发
   者而言优化难度高
   Keywords: 异步，分布式，并行优化

Multi-Agent框架

AgentScope

一款全新的Multi-Agent开发平台，专为应用开发者打造，旨在提供高易用、高可靠的编程体验，提供多模态和分布式的技术支持

平台架构：

Multi-Agent小游戏

Modelscope 体验版：
https://modelscope.cn/organization/AgentScope