2026-06-26AI
Agent 应用落地思考——Context 相关
上下文其实涉及到的就是每次给大模型看什么,怎么去管理上下文以及最后给用户执行器看什么。
上下文其实涉及到的就是每次给大模型看什么,怎么去管理上下文以及最后给用户执行器看什么。
对于实际的 Agent 开发,LLM 的数学原理之类其实不太重要,但一些参数和工作流水线还是很重要的。
Agent 落地自然要保证整个系统的稳定可观测。
传统的 RAG 是一个线性过程,对知识切片向量化,利用向量检索和 BM25 混合检索,然后返回结果。
目前的多智能体框架有三种:
虽然说 Agent 评估不像普通 chat 一样看看准确率就好,但很可惜,在我公司里,大家其实并不太在乎那些复杂的评估标准。业务更关心的无非是几件事:成本、延迟、准确率。
React 框架是单步自适应状态机。每一轮循环中,模型都会生成一段思考,然后紧接着生成一个动作,也就是边想边做。 Plan-and-Execute 就是先想后做,是一种多智能体架构。
所谓的“Agent 记忆”,在理论上其实是状态管理与上下文注入。
MCP(Model Context Protocol)是 Anthropic 提出的开放协议。
从我的理解来看,Function Calling 本质上是大模型根据提示词(Prompt)、用户输入(Input)以及上下文,生成一种指定格式的结构化文本,用于作为调用工具的参数。
对于我们垃圾开发来说:Tool 是基础工具,Skill 是业务技能
ReAct 的核心在于一个不断迭代的循环过程:Thought(思考)→ Action(行动)→ Observation(观察)。