ARTICLE DETAIL

资讯详情

深耕郑州网站建设与运营推广的一线实战洞察。

Agent 记忆系统设计:让 AI 记住该记的

Agent 记忆系统设计:让 AI 记住该记的 AI Agent做过 Agent 的人都会遇到同一个问题聊了三天它还是不记得你叫什么。上下文窗口装不下所有历史把全部对话塞进去又贵又乱。记忆系统的本质是回答一个问题——什么该记、记多久、怎么取。本文分享我们给客服 Agent 设计记忆架构的完整思路。三层记忆模型参照人类记忆的分层Agent 记忆也分三层层 介质 生命周期 存什么 工作记忆 上下文窗口 当前会话 本轮任务的状态 情景记忆 向量数据库 长期 具体事件上周三用户反馈过物流慢 语义记忆 结构化存储 长期 提炼后的知识用户偏好简洁回复工作记忆就是 prompt 里那部分上下文不用建系统。真正要设计的是后两层。情景记忆写入前先过三道闸不是所有对话都值得存。我们的写入管道defmaybe_store(turn):# 闸1信息量 —— 无事实、无决策的水话不存ifextract_facts(turn)isNone:return# 闸2重要性打分 —— 用小模型打 1-10 分scoreimportance_score(turn)ifscore6:return# 闸3去重 —— 与已有记忆相似度 0.92 的合并而非新增merge_or_store(turn,threshold0.92) 重要性打分这一步很关键。我们早期全量入库三个月后向量库变成垃圾场检索噪声把召回质量拖垮了。加上打分后存储量下降70%检索命中质量反而上升。## 语义记忆从对话流里结晶情景记忆存的是流水账语义记忆存的是结论。实现上是定期跑一个离线任务 text 每晚 → 取当日高分情景记忆 → LLM 归纳成结构化条目 → 与既有语义记忆冲突时新信息覆盖旧信息带时间戳 例如从20条用户每次都要求重发汇总邮件的情景记忆结晶出一条语义记忆该用户偏好邮件汇总而非即时消息。下轮对话直接注入 system prompt不用检索。## 读取比存储更重要读取策略决定了记忆系统的实际价值1.**固定注入**用户画像类语义记忆偏好、禁忌、身份信息每轮直接拼进 system prompt量控制在500token 内2.**按需检索**情景记忆用当前 query 检索 top-3只取时间衰减后的高分条目3.**时间衰减**score × exp(-λ × 天数)λ 取0.01半衰期约70天让旧记忆自然淡出而非永久霸榜。## 一个容易被忽略的坑记忆污染用户随口一句我可能下周去上海被存成事实并永久注入之后每次对话都被误导。对策给每条记忆加**确定性标注**事实/推测/偏好推测类条目只在被再次确认后升级两周未确认自动降权。 记忆系统没有开源银弹但架构是清晰的写入设闸、定期结晶、读取分层、防污染。四件事做对Agent 就从金鱼记忆变成靠谱同事。
返回列表