RAGRetrieval-Augmented Generation的核心原理是“检索生成”两阶段先用检索器从外部知识库文档/数据库实时查找与问题相关的证据片段再将这些片段作为上下文拼入 prompt喂给 LLM 生成答案。本质是用检索扩展 LLM 的“工作记忆”而非仅依赖模型参数知识。一、核心流程三步闭环1. 索引构建离线原始文档→切块chunking→Embedding 编码→向量入库形成“可检索的知识图谱”向量空间。2. 检索增强在线用户先请求Query→Embedding→相似度搜索ANN→Top-K chunks接着chunksQuery→Prompt模板拼接→增强上下文。3. 生成与反馈增强Prompt→LLM→最终答案可溯源片段还可以进行反馈新数据/反馈→增量索引更新知识库。二、五大核心技术技术领域关键组件典型实现文档处理与切块Chunking策略固定窗口、滑动窗口、按段落/标题语义切分文本表示学习Embedding模型Sentence-BERT、BGE、text-embedding-ada-002 等稠密向量编码器高效检索向量索引与 ANNFAISS、Chroma、Milvus、PineconeHNSW/IVF 等近似近邻算法提示工程Prompt模板设计“基于以下文档{context}回答{question}” 指令约束如“仅基于给定内容”评估与优化RAG 流水线评估检索召回率、答案相关性、幻觉检测、AB 测试1. Chunking 的粒度权衡将长文档拆解为语义连贯、大小适中的片段使检索器能精准定位相关信息同时控制上下文长度。技术实现机制固定窗口切分按固定字符数如 512/1024 tokens滑动切割简单高效但可能切断完整语义单元滑动窗口重叠窗口间保留 10-20% 重叠避免关键信息被切在边界语义切块基于自然段落、标题层级Markdown/HTML 结构或句子边界句号、换行划分保持语义完整性递归切分对超长段落递归应用 smaller chunk形成层次化结构关键设计权衡块越小→检索精度越高但可能丢失跨块依赖关系块越大→上下文更完整但引入噪声且增加 LLM 处理负担最佳实践结合文档类型代码/论文/手册动态调整通常 200-800 tokens 为合理范围2. Embedding 模型的选择将文本映射到高维稠密向量空间使语义相似的文本在向量空间中距离相近。技术实现机制Transformer 编码器基于 BERT 架构的 sentence transformer如 BGE、all-MiniLM对句子/段落编码对比学习训练通过 (正样本, 负样本) 对拉近相似文本、推远不相似文本。正样本同义句、问答对、上下文相邻段落负样本随机采样或难负例挖掘池化策略对 token 向量做 mean/max pooling 或 [CLS] 向量得到句向量向量空间特性余弦相似度 ≈ 语义相似度同义词、释义对距离近向量运算体现语义关系“国王 - 男人 女人 ≈ 女王”领域适配用领域数据继续微调提升术语、行话的表示质量3. 检索策略组合建立向量数据的快速索引结构实现毫秒级近似最近邻搜索。实现分为以下两个阶段索引构建阶段聚类划分IVF将向量空间划分为多个聚类中心每个向量归属最近簇图索引HNSW构建层次化近邻图高层粗粒度、底层细粒度导航量化压缩PQ将高维向量压缩为低维码本减少内存占用查询阶段先定位候选簇/图节点粗筛在候选集内精确计算相似度精排返回 Top-K 最相似向量近似和精确检索精确检索暴力计算O(N) 复杂度不可扩展ANN牺牲少量精度召回率 95-99%换取 100-1000 倍速度提升典型算法HNSW高召回、高内存、IVFPQ高压缩、低内存4. Prompt 防幻觉设计通过结构化模板将检索内容与用户问题组合引导 LLM 基于上下文生成答案。防幻觉指令如指定根据知识库回答等上下文压缩对过长 chunks 先做摘要再注入或用 LLM 提取关键证据句减少噪声多轮对话维护缓存历史检索结果避免重复查询将前几轮问答作为上下文注入新 prompt5. 评估维度建立端到端评估体系量化检索-生成各环节性能指导迭代优化。检索阶段评估指标说明RecallK前 K 个结果中是否包含正确答案片段MRRK平均倒数排名正确答案在结果中的排名倒数均值NDCGK考虑排序质量的加权评分生成阶段评估指标说明答案准确性与标准答案的语义匹配BERTScore、BLEU幻觉率模型生成内容中无法被检索片段支持的占比流畅性人类评分或基于困惑度的自动评估端到端评估指标说明RAGAS 框架分解为上下文相关性、答案忠实度、答案相关性等维度人工评估黄金标准但成本高AB 测试线上对比不同配置chunk size、embedding 模型等三、相比纯 LLM 的核心优势知识可更新改知识库即更新“知识”无需重训 LLM减少幻觉答案有外部证据支撑可溯源attribution处理私有/长尾数据企业内部文档、最新政策、代码库均可接入成本可控用小模型 检索效果逼近大模型闭源 API一句话总结RAG 搜索引擎找证据 LLM组织语言 向量数据库存知识——通过检索增强弥补 LLM 的静态知识与幻觉短板。普通人如何抓住AI大模型的风口领取方式在文末为什么要学习大模型目前AI大模型的技术岗位与能力培养随着人工智能技术的迅速发展和应用 大模型作为其中的重要组成部分 正逐渐成为推动人工智能发展的重要引擎 。大模型以其强大的数据处理和模式识别能力 广泛应用于自然语言处理 、计算机视觉 、 智能推荐等领域 为各行各业带来了革命性的改变和机遇 。目前开源人工智能大模型已应用于医疗、政务、法律、汽车、娱乐、金融、互联网、教育、制造业、企业服务等多个场景其中应用于金融、企业服务、制造业和法律领域的大模型在本次调研中占比超过30%。随着AI大模型技术的迅速发展相关岗位的需求也日益增加。大模型产业链催生了一批高薪新职业人工智能大潮已来不加入就可能被淘汰。如果你是技术人尤其是互联网从业者现在就开始学习AI大模型技术真的是给你的人生一个重要建议最后只要你真心想学习AI大模型技术这份精心整理的学习资料我愿意无偿分享给你但是想学技术去乱搞的人别来找我在当前这个人工智能高速发展的时代AI大模型正在深刻改变各行各业。我国对高水平AI人才的需求也日益增长真正懂技术、能落地的人才依旧紧缺。我也希望通过这份资料能够帮助更多有志于AI领域的朋友入门并深入学习。真诚无偿分享vx扫描下方二维码即可加上后会一个个给大家发【附赠一节免费的直播讲座技术大佬带你学习大模型的相关知识、学习思路、就业前景以及怎么结合当前的工作发展方向等欢迎大家~】大模型全套学习资料展示自我们与MoPaaS魔泊云合作以来我们不断打磨课程体系与技术内容在细节上精益求精同时在技术层面也新增了许多前沿且实用的内容力求为大家带来更系统、更实战、更落地的大模型学习体验。希望这份系统、实用的大模型学习路径能够帮助你从零入门进阶到实战真正掌握AI时代的核心技能01教学内容从零到精通完整闭环【基础理论 →RAG开发 → Agent设计 → 模型微调与私有化部署调→热门技术】5大模块内容比传统教材更贴近企业实战大量真实项目案例带你亲自上手搞数据清洗、模型调优这些硬核操作把课本知识变成真本事‌02适学人群应届毕业生‌无工作经验但想要系统学习AI大模型技术期待通过实战项目掌握核心技术。零基础转型‌非技术背景但关注AI应用场景计划通过低代码工具实现“AI行业”跨界‌。业务赋能突破瓶颈传统开发者Java/前端等学习Transformer架构与LangChain框架向AI全栈工程师转型‌。vx扫描下方二维码即可【附赠一节免费的直播讲座技术大佬带你学习大模型的相关知识、学习思路、就业前景以及怎么结合当前的工作发展方向等欢迎大家~】本教程比较珍贵仅限大家自行学习不要传播更严禁商用03入门到进阶学习路线图大模型学习路线图整体分为5个大的阶段04视频和书籍PDF合集从0到掌握主流大模型技术视频教程涵盖模型训练、微调、RAG、LangChain、Agent开发等实战方向新手必备的大模型学习PDF书单来了全是硬核知识帮你少走弯路不吹牛真有用05行业报告白皮书合集收集70报告与白皮书了解行业最新动态0690份面试题/经验AI大模型岗位面试经验总结谁学技术不是为了赚$呢找个好的岗位很重要07 deepseek部署包技巧大全由于篇幅有限只展示部分资料并且还在持续更新中…真诚无偿分享vx扫描下方二维码即可加上后会一个个给大家发【附赠一节免费的直播讲座技术大佬带你学习大模型的相关知识、学习思路、就业前景以及怎么结合当前的工作发展方向等欢迎大家~】