Multi-agent浅记

目前的多智能体框架有三种：

第一种network

也就是拉个群让智能体自己讨论，Agent A 完成任务后，根据自身逻辑或路由规则，直接把结果扔给 Agent B。

• 优点：灵活性极高，非常适合处理复杂的、非线性的、探索性的任务。
• 缺点：不可控，不可控在生产活动中基本等于没用。

第二种“主管 - 员工”模式

存在一个核心的 Supervisor Agent 和很多worker agent。

• 运行机制：用户输入给主管，主管进行任务拆解（Task Decomposition），分发给底层的专职 Agent（如数据库 Agent、网络检索 Agent）。专员干完活后必须把结果汇报给主管，由主管决定下一步是继续分发还是直接回复用户。
• 好处：主管agent不参与具体任务的执行，被worker幻觉污染概率小，结果更可控。
• 缺点：主管agent不能出现重大失误。

第三种流水线架构

按照编排好的顺序，agentA执行A任务，结果给B，依次进行。

架构的生产实践应用

在实际生产活动中，主管-员工模式和流水线模式用途更加广泛。这两种模式都代表了确定的工作流程，也有更好的可控性。

• 流水线模式：更适合工单稽核类的agent。
• 主管-员工模式：更适合许多客服agent。

多智能体延迟优化策略

多智能体有一个很重要业务实际需求就是，多智能体的等待时长。单体 Agent 的端到端延迟通常在 1-3 秒，而一个包含多步推理、工具调用和多 Agent 协同的复合系统，延迟很容易飙升到 10-30 秒。如何优化延迟就是最重要的问题：

1. 一是优化langraph的图结构：一旦多个子任务（如：风险风控、历史订单查询、关联用户画像）互不干扰，必须使用异步将这些节点并行触发，多个并行节点同时向全局State 写入数据。
2. 二是，异构模型混合部署：对于复杂的问题用更加优秀的模型，对于简单问题，就可以使用小模型来完成。
3. 三就是语义缓存：就比如客服agent，其实60%的问题都十分常见，这些问题可以有比较固定问题解答，答案就可以利用以后的缓存，直接跳过agent思考。
4. 四就是为条件边设置最大循环计数器：免得模型不停思考尝试。
5. 再就是从用户体验上来提升：比如让用户看到智能体的思考和执行过程等。