香港中文大学（深圳）等团队 投稿

量子位 | 公众号 QbitAI

多智能体系统要继续涨性能，不一定非得先改工作流。

在真实部署里，医疗诊断SOP、金融审计流程这类多智能体系统，往往已经经过专家设计、安全验证和合规审查，一旦上线，拓扑结构很难随意调整。

但工作流固定，不代表优化空间就消失了。

真正还能动、也最直接影响系统表现的，变成了每个Agent的Prompt配置。

问题是，MAS Prompt优化并不简单：

每次评估都要完整跑一遍多智能体流程，上游Agent的Prompt变化还会影响下游输入分布，联合搜索空间也会随着Agent数量指数级膨胀。

针对这一问题，香港中文大学（深圳）、香港科技大学（广州）、华南理工大学和立命馆大学的研究团队提出了MASPOB（Multi-Agent System Prompt Optimization via Bandits）。

一个基于Bandit的样本高效Prompt优化框架，且该工作已被ICML 2026接收为Spotlight。

固定工作流里，Prompt成了最关键的优化入口

近年来，以LLM为核心的多智能体系统快速发展。通过将复杂任务分解为多个专业Agent之间的协作交互，多智能体系统在代码生成、数学推理、问答等任务上展现出超越单模型的性能。

研究表明，系统表现不仅取决于底层LLM的能力，还受到工作流拓扑结构与各Agent Prompt配置的显著影响。

然而在许多真实部署场景中，MAS的工作流拓扑往往经过了专家设计、安全验证和合规审查，例如医疗诊断SOP、金融审计流程，一旦投入使用便难以随意修改，任何结构调整都可能触发高代价的重新验证程序。

在这种固定拓扑的约束下，调整各Agent的Prompt成为改善系统性能的关键手段，这引出了本文的核心问题：

在固定工作流拓扑的条件下，如何高效地对MAS中各Agent的Prompt进行联合优化？

研究团队将该问题形式化为一个有预算的组合黑盒优化问题。

在多个Agent中，每个Agent都有一组候选Prompt。目标是在最多评估T次的限制内，找到一组表现最好的Prompt组合，让整个系统在验证集上的效果最优。

这一问题的难点体现在三个方面：

• 评估代价高昂：每次评估一套Prompt组合，需要完整执行MAS流程，涉及多次LLM调用，可用评估次数极为有限。

• 拓扑诱导的耦合：上游Agent的Prompt变化会影响下游Agent的输入分布，各Agent的Prompt并非相互独立，导致优化目标不可分离。

• 组合搜索空间爆炸：联合搜索空间为各Agent候选集的笛卡尔积，大小随Agent数量指数增长，穷举不可行。

为应对上述三个问题，研究团队提出MASPOB算法，该算法由三个核心组件构成：

△MASPOB框架总览

首先是「拓扑感知的性能代理模型」。

为捕捉Agent间的拓扑依赖，MASPOB将MAS工作流建模为有向无环图（DAG），以各Agent的Prompt嵌入为节点特征，采用图注意力网络（GAT）进行消息传递，学习能够感知拓扑结构的Prompt语义表示。

具体地，GAT通过注意力加权聚合邻居信息来更新节点表示，最终经均值池化和MLP输出预测性能分数，作为Bandit框架中的利用（exploitation）信号。

这一设计使代理模型能够显式建模上游Prompt变化对下游Agent的影响。

以及基于Bandit的「探索-利用权衡」。

为在有限评估预算下实现样本高效的搜索，MASPOB将Prompt组合优化建模为Bandit问题，采用线性置信上界（LinUCB）构造采集函数：

该采集函数在倾向于高预测性能（利用）的同时，也对未充分探索的区域赋予更高的评分（探索），从而在有限预算内实现高效的Prompt组合搜索。

此外还包括「坐标上升搜索」。

为解决组合搜索空间的指数爆炸问题，MASPOB采用坐标上升策略，将联合优化分解为对各Agent的逐一单变量优化，由于UCB评估仅需GNN前向推理而无需实际执行MAS，每轮坐标上升的计算开销可忽略不计。

坐标上升中使用的GNN代理模型保留了对Agent间拓扑依赖的建模，因此分解并不意味着忽略耦合。

实验结果

研究团队在问答（HotpotQA、DROP）、代码生成（HumanEval、MBPP）和数学推理（GSM8K、MATH）六个基准上进行了评估，所有方法在相同的50次验证集评估预算下进行对比，backbone LLM为GPT-4o-mini。

△MASPOB在6个不同基准上的表现

如图所示，MASPOB在所有六个基准上均取得最优结果，平均得分为80.58%。

相较IO基线、AFlow、MIPRO分别提升12.02%、2.06%、1.71%，在相同的50次验证集评估预算下一致优于现有方法。

从各任务的具体表现来看，MASPOB在问答、代码生成、数学推理三类任务上均取得最优结果：

• 问答任务：HotpotQA达到75.43%，DROP达到82.28%。

• 代码生成任务：HumanEval达到94.15%，MBPP达到80.65%。

• 数学推理任务：GSM8K达到93.90%，MATH达到57.05%。

性能增益在三类任务上均有体现，说明MASPOB的提升并不局限于某一特定任务类型，而是来自对各Agent Prompt的整体协调优化。

拓扑复杂度的泛化性

为验证MASPOB在更复杂工作流下的泛化能力。

研究团队使用AFlow生成了拓扑更复杂的MAS结构（HotpotQA、DROP、HumanEval分别采用8、7、7个Agent，相比原始的3、2、3个Agent），在保持其余实验设置不变的条件下进行对比。

在更复杂的拓扑结构下，MASPOB在三个任务上依然取得最优结果：

△MASPOB在复杂MAS拓扑结构上的表现

HotpotQA、DROP、HumanEval上的得分分别为74.43%、81.55%、90.08%，平均得分为82.02%。

与原始拓扑下的结果相比，三个任务上的性能均有所变化（HotpotQA: 75.43%→74.43%，DROP: 82.28%→81.55%，HumanEval: 94.15%→90.08%）。

但方法间的相对排名保持不变，MASPOB在两种拓扑设置下均保持最优。

算法的收敛性

在算法的收敛性上，MASPOB在验证集和测试集上均呈现出较为稳定的收敛趋势。

验证集准确率以每五轮的分段均值（binned average）形式呈现，随评估轮次持续提升。

△验证集与测试集上的收敛曲线

测试集性能在第5、10、…、50轮各节点处，对当前所选Prompt组合进行评估并取三次独立运行的均值，两条曲线的整体走势较为一致。

从收敛过程来看，测试集性能随轮次增加呈现出前期提升较快、后期趋于平稳的规律。

具体而言，性能在前35轮内持续提升，在第35轮左右趋于稳定，此后至第50轮各评估节点的性能变化幅度相对有限。

验证集曲线与测试集曲线在整个优化过程中整体走势一致，表明验证集上的优化过程与测试集性能具有较好的一致性。

消融实验

为验证GNN代理模型在拓扑建模中的作用，研究团队将GNN模块替换为多层感知机（MLP），保持其余组件不变，对比两者的性能差异。

如图所示，去除GNN后平均性能下降2.31%，所得结果略低于AFlow（差距约0.25%）。

△GNN消融实验

从各任务的具体数字来看，GNN带来的性能差异（即MASPOB与去除GNN版本之间的差距）在各任务上有所不同：

HumanEval上为+3.82%，DROP上为+3.08%，MATH上为+3.48%，MBPP上为+1.47%，HotpotQA上为+1.05%，GSM8K上为+0.95%。

GNN在六个任务上均带来了正向提升，说明显式建模工作流拓扑结构对Prompt优化的性能具有一致的正向贡献。

△坐标上升消融实验

为评估坐标上升策略的有效性，研究团队在HotpotQA和DROP两个基准上，将坐标上升替换为穷举全局搜索，保持其余实验设置不变，对比两者在性能和运行时间上的差异。

如图所示，两者在性能上的差距较小：HotpotQA上坐标上升与全局搜索分别为75.43%和75.72%，差距为0.29%；DROP上分别为82.28%和82.76%，差距为0.48%。

在运行时间上，两者差异显著：HotpotQA上坐标上升耗时15.9s，全局搜索耗时8801s，前者减少99.8%；DROP上坐标上升耗时7.7s，全局搜索耗时392s，前者减少98.0%。

上述结果表明，坐标上升在性能损失较小的前提下，运行时间大幅低于穷举全局搜索。

总的来说，MASPOB真正回答的，是固定工作流下多智能体系统还能如何继续优化的问题。

从六个基准上的实验结果来看，这套方法在相同评估预算下均取得最优表现，也说明多智能体系统的性能提升，并不只来自更复杂的工作流设计。

在固定拓扑约束下，如何更系统、更高效地调好每个Agent的Prompt，同样可能成为多智能体系统走向真实应用前的一项关键能力。

参考链接：

[1]论文链接：https://arxiv.org/abs/2603.02630

[2]代码下载：https://github.com/HZ1008/MASPOB