NUS 提出 SkillGraph：让多模态多智能体边协作边进化

一句话总结本文提出 SkillGraph将动态通信拓扑与自进化 Skill Bank 闭环耦合让 VMAS 根据图像、问题和当前技能自动组织协作。在四个多模态基准、五种 MAS 结构和四类 VLM 上均稳定提升最高平均提升约 3.0%。 背景问题现有 Visual Multi-Agent Systems 在复杂多模态推理中仍受”结构固定、能力静止”限制1️⃣ 通信拓扑通常在推理前手工设定无法根据图像内容、问题语义和任务类型动态调整2️⃣ Agent 技能多依赖静态 prompt遇到 OCR、空间关系、数学图表等失败模式时缺少自我修正机制3️⃣ 技能演化与拓扑设计彼此割裂导致更强技能无法反向改变协作路径动态协作收益受限。 方法简介SkillGraph 将每个 Agent 绑定到从层次化 Skill Bank 中检索出的动态技能技能表示为 s 触发条件、策略描述、成功率、失败缓存、版本号并编码成节点特征使节点状态反映当前推理策略核心模块 Multimodal Graph TransformerMMGT联合编码图像 patch、问题语义、Agent 技能嵌入和角色先验通过 selective image attention 让不同 Agent 关注与自身技能相关的视觉区域MMGT 进一步用 Graph Transformer Layer 与 Global Relay Node 建模 Agent 间依赖并通过方向感知 bilinear edge predictor 预测有向通信边形成 query-conditioned collaboration graphSkill Designer 从错误样例中诊断失败模式对旧技能执行 Modify 或生成新技能 Create更新后的技能嵌入会重新进入 MMGT从而形成”技能进化—拓扑重构—失败归因—技能再进化”的闭环。 实验结果在 Qwen3-VL-8B 上SkillGraph 对 Linear、Layered、Centralized、Random、Complete 五种拓扑均带来稳定提升Complete SkillGraph 在 Thinking 设置下平均分从 82.3 提升到 84.6提升 2.3 分跨模型实验显示SkillGraph 在 LLaVA-OneVision-Qwen2-7B、Qwen2.5-VL-7B-Instruct 和 InternVL3-8B 上同样有效例如 InternVL3-8B 的 Complete 结构平均分从 77.4 提升到 79.4模型尺度实验表明该方法从 InternVL3-2B 到 InternVL3-38B 均有收益其中 InternVL3-2B 平均分从 68.0 提升到 71.0提升 3.0 分Qwen3-VL-4B 平均分从 78.7 提升到 80.8消融结果显示Skill Evolution 与 MMGT 均独立有效完整模型整体最优迭代分析进一步表明性能在 5 到 10 轮提升最明显并在 15 到 20 轮趋于稳定说明技能库并非无限膨胀而是逐步收敛到更可靠的多模态推理策略。✨ 一句话点评SkillGraph 用”技能进化—拓扑自适应”的关系揭示了多模态多智能体协作的本质真正能提升复杂推理的不是更多 Agent 的堆叠而是让 Agent 的能力变化反过来重塑协作结构——这意味着未来 VMAS 应当从”静态编排”走向”自进化协作”。学AI大模型的正确顺序千万不要搞错了2026年AI风口已来各行各业的AI渗透肉眼可见超多公司要么转型做AI相关产品要么高薪挖AI技术人才机遇直接摆在眼前有往AI方向发展或者本身有后端编程基础的朋友直接冲AI大模型应用开发转岗超合适就算暂时不打算转岗了解大模型、RAG、Prompt、Agent这些热门概念能上手做简单项目也绝对是求职加分王给大家整理了超全最新的AI大模型应用开发学习清单和资料手把手帮你快速入门学习路线:✅大模型基础认知—大模型核心原理、发展历程、主流模型GPT、文心一言等特点解析✅核心技术模块—RAG检索增强生成、Prompt工程实战、Agent智能体开发逻辑✅开发基础能力—Python进阶、API接口调用、大模型开发框架LangChain等实操✅应用场景开发—智能问答系统、企业知识库、AIGC内容生成工具、行业定制化大模型应用✅项目落地流程—需求拆解、技术选型、模型调优、测试上线、运维迭代✅面试求职冲刺—岗位JD解析、简历AI项目包装、高频面试题汇总、模拟面经以上6大模块看似清晰好上手实则每个部分都有扎实的核心内容需要吃透我把大模型的学习全流程已经整理好了抓住AI时代风口轻松解锁职业新可能希望大家都能把握机遇实现薪资/职业跃迁这份完整版的大模型 AI 学习资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】