Agent 应用落地思考——Context 相关
上下文其实涉及到的就是每次给大模型看什么,怎么去管理上下文以及最后给用户执行器看什么。
按发布时间整理的学习札记与阅读记录。
上下文其实涉及到的就是每次给大模型看什么,怎么去管理上下文以及最后给用户执行器看什么。
对于实际的 Agent 开发,LLM 的数学原理之类其实不太重要,但一些参数和工作流水线还是很重要的。
Agent 落地自然要保证整个系统的稳定可观测。
传统的 RAG 是一个线性过程,对知识切片向量化,利用向量检索和 BM25 混合检索,然后返回结果。
目前的多智能体框架有三种:
虽然说 Agent 评估不像普通 chat 一样看看准确率就好,但很可惜,在我公司里,大家其实并不太在乎那些复杂的评估标准。业务更关心的无非是几件事:成本、延迟、准确率。
亲爱的牧师先生, 你上封信令我欣喜无限:经历了如此漫长而令人厌倦的病痛之后,你恢复健康,对你自己和你的朋友们来说该是多么可喜可贺!本地每一位人士都衷心祝愿你的健康得以持续并日益增进。
React 框架是单步自适应状态机。每一轮循环中,模型都会生成一段思考,然后紧接着生成一个动作,也就是边想边做。 Plan-and-Execute 就是先想后做,是一种多智能体架构。
所谓的“Agent 记忆”,在理论上其实是状态管理与上下文注入。
MCP(Model Context Protocol)是 Anthropic 提出的开放协议。
从我的理解来看,Function Calling 本质上是大模型根据提示词(Prompt)、用户输入(Input)以及上下文,生成一种指定格式的结构化文本,用于作为调用工具的参数。
对于我们垃圾开发来说:Tool 是基础工具,Skill 是业务技能
夫人,您确已非常准确地预见到了杜瓦尔夫人的来信所引起的困扰与不安。只是,我倒更应庆幸自己这些年来一直未受骚扰,而不该为眼下的窘境怨叹;因为这至少证明,那可怜的女人终于醒悟并生出了悔意。
ReAct 的核心在于一个不断迭代的循环过程:Thought(思考)→ Action(行动)→ Observation(观察)。
尊敬的先生,难道还有什么比不得不传达令人不快的消息,更能令友善之心感到痛苦的吗?事实上,有时甚至很难断定,传话的人和听闻噩耗的人,究竟谁更值得同情。