行业资讯
Agent 的两大核心能力——Memory（记忆系统）与 RAG（本地知识库）
从“会调用工具”的 AI到“了解用户、掌握知识”的智能助手上一篇文章我们介绍了 AI Agent 的核心能力LLM 负责理解和推理Function Calling 让 AI 调用工具Tool 系统让 AI 连接外部能力一个简单的 Agent 已经可以完成用户提出问题↓LLM 理解需求↓选择工具↓执行任务↓返回结果例如 用户 查询一下广州天气。 Agent用户问题↓LLM 判断需要天气信息↓调用 weather 工具↓获取天气结果↓生成回答但是一个真正可用的 AI 助手还需要解决两个更重要的问题第一个问题AI 每次聊天都像第一次认识我它如何理解我的习惯和背景第二个问题AI 本身不知道我的公司资料、个人文件它如何获得这些知识这两个问题分别对应Memory记忆系统RAG检索增强生成它们也是现代 AI Agent 的两个核心能力。一、为什么 Agent 需要 Memory我们人类交流有一个非常自然的能力记忆。例如第一次聊天我叫小明是一家互联网公司的产品经理。第二次聊天最近我要负责一个 AI 项目。朋友会知道“小明是一名产品经理。”所以交流会越来越自然。但是大语言模型LLM默认并没有这种能力。每一次请求用户 ↓ LLM ↓ 回答模型并不知道你是谁你的工作背景你的兴趣习惯之前聊过什么除非这些信息被重新发送给它。所以Memory 的作用就是让 Agent 拥有持续记忆能力。二、Memory 到底保存什么很多人认为Memory 就是保存聊天记录。其实并不完全准确。完整的 Memory 系统通常包含Memory ├── 短期记忆 │ ├── 长期记忆 │ └── 用户事实记忆短期记忆Short-term Memory短期记忆就是当前对话上下文。例如用户 我喜欢喝咖啡。 AI 好的我知道了。 用户 推荐一个饮品。为什么 AI 知道用户喜欢咖啡因为之前的信息还存在[ { role: user, content: 我喜欢喝咖啡 }, { role: assistant, content: 好的我知道了 } ]这种方式叫Conversation Buffer对话缓冲区但是短期记忆有一个问题如果关闭聊天窗口上下文消失。下一次AI 又不知道之前发生过什么。长期记忆Long-term Memory长期记忆解决的是如何让 AI 跨时间记住重要信息。例如用户告诉 AI我的公司叫 ABC 科技。 我的职位是产品经理。 我喜欢阅读 AI 技术文章。系统可以提取{ company: ABC科技, job: 产品经理, interest: AI技术文章 }然后保存到数据库。下一次聊天AI 可以重新加载这些信息。例如用户帮我写一篇技术文章。Agent读取记忆用户 - 喜欢技术内容 - 运营公众号 - 偏好 Markdown 格式然后生成更符合用户需求的内容。三、Memory 在 Agent 中的位置完整结构用户 | ↓ Agent | ----------------- | | LLM Memory | 用户信息库Agent 的工作流程用户提出问题查询相关记忆将记忆加入 Prompt调用 LLM生成回答例如用户帮我规划学习路线。Memory找到用户背景 - Java开发经验 - 正在学习AI - 想转型AI应用方向LLM 就可以给出更符合用户情况的建议。四、为什么还需要 RAGMemory 解决AI 记住用户。但是还有另一个问题AI 不知道用户自己的知识资料。例如企业内部员工手册.pdf 产品说明书.docx 技术文档.md 销售数据.xlsx这些内容没有出现在模型训练数据里。所以LLM 不知道。怎么办答案RAG。五、什么是 RAGRAGRetrieval-Augmented Generation中文检索增强生成。简单理解让 AI 在回答问题之前先去知识库搜索相关资料。流程用户问题 ↓ 搜索知识库 ↓ 找到相关资料 ↓ 交给 LLM ↓ 生成答案例如用户公司年假是多少普通 LLM我不知道你公司的年假制度。RAG先搜索员工手册.pdf ↓ 找到 员工连续工作满一年 享受5天带薪年假。然后LLM根据员工手册公司员工连续工作满一年可以享受5天带薪年假。六、RAG 的完整流程一个完整 RAG 系统文档 | ↓ Loader | ↓ Chunk | ↓ Embedding | ↓ Vector Database | ↓ Retriever | ↓ LLM | ↓ Answer第一步Loader文档加载负责读取各种文件例如PDF Word Markdown Excel 网页转换成统一的数据结构Document第二步Chunk文本切分为什么需要切分因为一个文档可能非常长。例如一本 200 页的 PDF不能全部发送给 LLM。所以需要拆成Chunk 1 Chunk 2 Chunk 3 ...每个小片段作为独立知识单元。第三步Embedding向量化计算机无法直接理解文字。所以需要把文本转换成向量。例如文本员工年假5天转换[0.23,0.51,0.88,...]这个过程叫Embedding。第四步Vector Database向量数据库保存文本内容 向量 元数据例如文本 员工满一年享受5天年假 向量 [0.23,0.51...] 来源 员工手册.pdf常见向量数据库ChromaMilvusFAISS第五步Retriever检索用户公司的年假是多少系统先把问题转换成向量。然后在向量数据库搜索最相似的内容。返回员工手册第三章 员工工作满一年享受5天年假。七、Memory 和 RAG 的区别很多人容易混淆。简单理解能力解决的问题MemoryAI记住用户RAGAI获取外部知识举例Memory用户喜欢喝咖啡。这是用户信息。RAG公司的咖啡报销制度。这是知识信息。八、现代 AI Agent 的完整架构现在一个完整 Agent用户 | ↓ AI Agent | -------------------------------- | | | Tools Memory RAG | | | 外部能力 用户信息 企业知识库 | ↓ LLM三种能力分别解决Tool让 AI会做事。例如查询天气查询数据库发送邮件Memory让 AI了解用户。例如用户身份用户偏好历史信息RAG让 AI掌握自己的知识。例如企业文档产品资料私有数据九、回到我们的 Mini-Agent 项目我们自己实现的 Mini-Agent已经逐步具备Mini-Agent ├── Function Calling │ ├── Tool System │ ├── Agent Loop │ ├── Memory │ └── RAG它的核心思想和企业 AI Agent 架构是一致的。我们并不是重新训练一个 AI 模型。而是在利用已有的大语言模型通过工具 记忆 知识库 任务规划让一个通用模型变成一个真正解决问题的智能助手。十、下一步学习方向完成 Memory 和 RAG 后Agent 还需要解决MCPModel Context Protocol解决Agent 如何标准化连接更多外部工具例如文件系统数据库企业软件第三方服务Multi-Agent解决多个 Agent 如何协作完成复杂任务例如研究Agent ↓ 写作Agent ↓ 审核AgentAgent 工程化包括权限管理日志系统异常处理部署上线最终AI Agent 的完整形态AI Agent ---------------------- | | | Tools Memory RAG | | | 能行动 懂用户 有知识 | ↓ LLM这就是从“大语言模型”走向“智能应用”的关键路径。学AI大模型的正确顺序千万不要搞错了2026年AI风口已来各行各业的AI渗透肉眼可见超多公司要么转型做AI相关产品要么高薪挖AI技术人才机遇直接摆在眼前有往AI方向发展或者本身有后端编程基础的朋友直接冲AI大模型应用开发转岗超合适就算暂时不打算转岗了解大模型、RAG、Prompt、Agent这些热门概念能上手做简单项目也绝对是求职加分王给大家整理了超全最新的AI大模型应用开发学习清单和资料手把手帮你快速入门学习路线:✅大模型基础认知—大模型核心原理、发展历程、主流模型GPT、文心一言等特点解析✅核心技术模块—RAG检索增强生成、Prompt工程实战、Agent智能体开发逻辑✅开发基础能力—Python进阶、API接口调用、大模型开发框架LangChain等实操✅应用场景开发—智能问答系统、企业知识库、AIGC内容生成工具、行业定制化大模型应用✅项目落地流程—需求拆解、技术选型、模型调优、测试上线、运维迭代✅面试求职冲刺—岗位JD解析、简历AI项目包装、高频面试题汇总、模拟面经以上6大模块看似清晰好上手实则每个部分都有扎实的核心内容需要吃透我把大模型的学习全流程已经整理好了抓住AI时代风口轻松解锁职业新可能希望大家都能把握机遇实现薪资/职业跃迁这份完整版的大模型 AI 学习资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】
郑州网站建设
网页设计
企业官网
