RAG 管道。智能体工作流。微调模型。向量存储。编排层。语义层。知识图谱。每个月都有一个新模式被命名。每个季度都有一个新框架承诺要解决所有其他框架之间的协调问题。在每次事后分析中在每次失败演示后的走廊谈话中都会出现同样的问题为什么不起作用能够最快应对这种复杂性的团队并不一定是拥有最大预算或最复杂模型的团队。他们是那些为技术栈的每一部分的实际功能建立了清晰心智模型的团队——以及这些部分如何连接。代码智能体类别最清楚地说明了这一点。Anthropic 的 Claude Code 之所以获得企业采用不是因为它提供了最好的模型而是因为它精确地工程化了代码库上下文——读取什么、索引什么、跨会话携带什么、何时询问而不是假设。[⁶] Cursor 在同样的基础上建立了价值 290 亿美元的业务即使随着 Claude Code 扩展到企业市场它仍然维持了 10 亿美元的年度经常性收入ARR。[⁶] 两家公司同样的底层洞察难题从来不是模型。而是你给它输入了什么。这种模式在代码之外也成立。Glean 在不到三年内实现了 1 亿美元的 ARR不是通过构建更好的搜索引擎而是通过构建企业知识与需要查询它的模型之间的连接组织。[⁷] OpenClaw——一个将 AI 连接到消息平台的开源自主智能体——通过首先回答一个架构问题成为了 GitHub 历史上增长最快的项目之一智能体应该积累什么上下文应该存储在哪里以及应该如何检索它[⁸]它们中没有一个是靠模型质量获胜的。大多数团队没有建立那种模型。他们建立了实现。他们选择了正确的框架组装了正确的组件部署了正确的基础设施——但仍然无法精确地解释为什么系统在某些查询中表现不佳为什么智能体在第四步失去了线索为什么检索返回了相关文档但模型却以某种方式忽略了它们。组件被单独理解。架构没有被整体理解。这个系列提供了这种整体系统理解。在构建企业数据平台和智能体 AI 系统 12 年多之后我得出一个结论每个分析系统和每个 AI 系统——从数据仓库到自主智能体——都在解决完全相同的底层问题。如何在正确的时间、以正确的格式、将正确的信息传递给正确的消费者回答好这个问题你的系统就能正常工作。回答不好任何模型升级都无法解决它。这个问题有六个维度——六个操作它们以不同的方式组合产生现代 AI 技术栈中的每种架构。命名它们理解它们的深度那种看似压倒性的复杂性就变成了你可以推理和构建的设计空间。这就是这个系列的目的。1、我们一直所做之事的名称作为一名数据和分析领导者我构建了将分散的企业数据转化为有用内容的平台——贯穿于该学科的每个时代。数据仓库。商业智能。分析工程。现在是 AI 和智能体系统。名称每隔几年就会改变。问题陈述没有改变。消费者需要什么信息它存储在哪里应该如何构建需要过滤什么噪音谁应该看到什么以及如何在需要的时候提供答案我参与的每个项目——无论是构建跨越数十个业务部门的统一客户数据平台还是构建具有多智能体管道和数十万个索引向量的生产智能体 AI 系统——其核心都是回答这些问题的练习。我没有给它命名。然后在 2025 年 6 月Andrej Karpathy 在 X 上发布了一些内容阐明了我一直在做的事情比起’提示工程’我更支持’上下文工程’。人们将提示与你在日常使用中给 LLM 的简短任务描述联系在一起。而在每个工业级的 LLM 应用中上下文工程是为下一步向上下文窗口填充恰到好处的信息的微妙艺术和科学。[¹]那句话让我停了下来。不是因为它是关于 LLM 的——而是因为它描述了我的整个职业生涯。构建语义层让分析师可以在不知道连接逻辑的情况下查询企业销售或营销数据上下文工程。设计治理框架强制执行每个利益相关者可以看到什么以及什么保持不可访问上下文工程。工程化 RAG 管道在模型回答问题之前从数十万个索引文档中提取正确信息上下文工程。给事物命名会让你对它拥有力量。一旦你将上下文工程视为统一的学科数据分析和 AI 工程的历史和未来就会清晰地呈现出来。2、核心论点每个 AI 应用框架——无论是 RAG、智能体、微调、多模态还是提示工程——最终都归结为一个基本挑战如何在正确的时间、以正确的格式提供正确的上下文以获得有用的结果这不是简化。这是澄清。考虑一下现在模型层面上正在发生的事情。Sebastian Raschka 对 LLM 架构的详细比较[²]表明从 GPT-22019 年到 DeepSeek V32024 年和最新的前沿模型核心的 transformer 架构在结构上保持不变。细节在演变——位置编码、注意力机制、激活函数——但 Vaswani 等人在 2017 年描述的基本设计是相同的。七年的工程优化。下面是相同的基本结构。这在实践中意味着对于驱动大多数企业 AI 用例的一般语言和推理任务能力正在成为商品。差距仍然存在——在专业推理、多模态基础、规模化成本方面——但它们正在缩小。每个运行相同前沿模型的组织很快就能获得针对这些问题的大致等效的原始能力。前沿模型之间的性能差异——从 OpenAI 的 o 系列到 Anthropic 的 Claude再到 Google 的 Gemini——是真实的但在对企业最重要的基准测试上正在缩小。区别因素不是你使用哪个模型。区别因素是你把它前面放了什么。AI 竞争不是关于谁拥有最好的模型。它是关于谁组装了最好的上下文。3、框架六个上下文操作如果上下文工程是一门学科它就需要词汇表。通过上下文的视角映射每个主要的 AI 和分析框架——RAG 变体、智能体模式、微调方法、内存系统、护栏框架、评估方法——我发现一切都归结为六个基本操作。这些不是工具类别。它们是上下文工程的动词。3.1 SELECT —— 获取正确的上下文系统需要什么信息它如何找到它SELECT 是检索操作。它范围从人工分析师编写 SQL 查询——精确指定要检索什么——一直到自主智能体 RAG 系统该系统自主决定何时检索、从哪里检索、检索多少次以及在使用之前是否验证它得到的内容。每种检索模式都是一种 SELECT 策略关键词搜索、语义向量相似性、混合检索、图遍历、纠正性检索、自检检索。复杂性各不相同操作是相同的。3.2 COMPRESS —— 将上下文蒸馏为信号如何在保留重要内容的同时减少信息企业数据无法放入上下文窗口。长期的对话历史、200 页的知识库或一年的 KPI 趋势也是如此。COMPRESS 是使有用的子集适合的操作。它范围从数据仓库中的预聚合汇总——其中人工预先决定要汇总什么——到智能体管理的压缩其中系统根据当前任务动态决定保留什么、汇总什么以及删除什么。每个压缩决策都在保真度和适应性之间进行权衡。艺术在于在不丢失信号的同时丢失噪音。3.3 FORMAT —— 为消费构建上下文如何呈现信息以便消费者能够有效使用它FORMAT 赋予上下文含义——模型实际可以解释的结构。对于 AI 系统这包括系统提示对模型的行为框架、少样本示例向模型展示好的输出是什么样子的、结构化输出架构对响应的类型安全契约以及越来越多的赋予模型关于数据本身的元数据的本体和数据目录。数据从业者通过另一个名称来认识这个操作语义层。当你定义活跃用户在你的组织中意味着什么什么算作收入客户细分如何映射到区域层级——你正在构建 FORMAT 层。你正在构建数据的含义而不仅仅是存储。FORMAT 层是大多数企业 AI 项目成功或失败的地方。如果模型不知道收入在你的公司中意味着什么——哪个系统是权威的适用什么扣除它与预订有何不同——任何数量的模型能力都无法补偿。3.4 ISOLATE —— 限制上下文以防止污染如何确保每个消费者只看到相关和授权的内容每个 AI 系统都有一个范围问题太多的上下文会降低推理错误的上下文比没有更糟。ISOLATE 是定义边界的操作——每个组件应该看到什么不应该看到什么。在多智能体系统中这是存在性的智能体 A 的工作上下文泄漏到智能体 B 的推理中可能会破坏在每一步看起来都正确的系统的输出。在治理层面ISOLATE 是行级安全性——此用户可以看到此数据不能看到彼数据。在最复杂的层面上它是动态的、合规感知的上下文范围界定其中 AI 智能体根据敏感度分类、驻留要求或监管约束自动限制其自己的上下文——而无需明确告知。3.5 PERSIST —— 跨时间和步骤存储上下文系统如何超越当前交互记住重要内容PERSIST 是连接无状态 LLM 调用和具有组织记忆的智能系统之间的桥梁。在最基本的层面上它是数据仓库——企业的策展、治理、持久记录记录发生了什么。在最复杂的层面上它是情节记忆一个系统在类似情况出现时回忆过去的事件从每次交互中学习并根据有效的方法为其未来的自己编写改进的指令。微调是 PERSIST 的极端形式将上下文永久编码到模型的权重中这样就不需要在运行时提供它。你用动态灵活性换取参数化回忆。3.6 WRITE —— 生成新上下文系统如何创建反馈到循环中的新信息WRITE 是最强大和最危险的操作。当分析师在事后分析报告中编写根本原因叙述时那就是 WRITE。当语言模型在产生答案之前生成思维链推理时那个中间推理就是 WRITE——由系统本身创建的新上下文用于改进下一步。当智能体反思其输出、识别错误并为下一次尝试生成纠正指令时那就是 WRITE。WRITE 是产生幻觉的地方。原因可能分布在其他操作中——检索错误、缺少基本事实、格式不当——但捏造发生在这里。每次系统生成以前不存在的内容时它都会引入捏造的风险。这就是为什么质量控制——真实性检查、基础评估、在关键决策点的人工审查——是专门针对 WRITE 操作的重要护栏。六个操作。这是完整的词汇表。每个 AI 和分析框架——每种模式、每个工具、每种架构——都是编排 SELECT、COMPRESS、FORMAT、ISOLATE、PERSIST 和 WRITE 的某种组合的策略。一旦你拥有了那个词汇表AI 工程领域就会发生一些澄清性的事情。关于分类法的说明这些操作并非完全正交——微调存在于 PERSIST 和 FORMAT 的边界智能体经常在同一步中链接 SELECT 和 WRITE。这是从业者的词汇表而不是形式系统。价值不在于精确性而在于清晰性六个区分始终揭示生产系统在何处出错。3.7 每个框架一个视角你停止将 AI 框架视为不同的竞争技术开始将它们视为相同底层问题的不同答案。RAG主要是 SELECT 策略。LLM 不改变只是你在其上下文窗口中放入的内容发生了变化。每个变体——朴素 RAG、混合 RAG、GraphRAG、纠正性 RAG、自检 RAG、智能体 RAG——都是 SELECT 操作的不同方法不同之处在于检索决策如何制定、验证和执行。微调是 PERSIST 策略。你将领域上下文永久编码到模型的权重中这样就不必在运行时提供它。它用动态灵活性不重新训练就无法更新换取推理效率没有检索开销。这不是比 RAG 更优越的方法——它是不同的上下文持久化权衡。提示工程主要是 FORMAT ISOLATE 策略。系统提示定义行为上下文FORMAT“你是一名高级金融分析师”。少样本示例向模型展示预期的输出结构。范围约束定义模型应该参与和不参与什么ISOLATE“只回答关于第四季度财务结果的问题”。智能体框架——LangGraph、CrewAI、AutoGen、OpenAI Agents SDK——是完整的上下文管理循环。智能体观察SELECT COMPRESS、推理WRITE、行动使用上下文改变世界并迭代。智能体系统的复杂性在于它如何在多个步骤、工具和时间中管理每个这些操作的复杂性。内存系统——MemGPT、Zep、LangChain Memory——是 PERSIST SELECT 系统。它们存储来自先前交互的上下文并在相关时检索它。困难问题是 PERSIST 决策记住什么、忘记什么和 SELECT 决策何时检索、哪些记忆是相关的。一旦你看到了这一点我们应该使用 RAG、微调还是智能体这个问题就变成了错误的问题。正确的问题是我的具体问题需要什么上下文操作组合每个操作需要在什么复杂性级别上运行这是一个设计问题。这个框架是一个设计工具。3.8 为什么上下文质量胜过模型质量这是对企业应该如何投资最重要的一点。任何 AI 系统的质量天花板都由其上下文的质量设定而不是其模型的能力。这不是理论。MIT 的 NANDA网络智能体和去中心化 AI研究倡议发现大约 95% 的企业生成式 AI 试点项目无法实现可衡量的投资回报率——绝大多数在没有有意义业务影响的情况下停滞不前。[³] 当我查看失败的 AI 实施时模式几乎从来不是错误的模型。而是错误的上下文模型被赋予它无法解释的数据因为它缺乏语义层或者它被赋予太多不相关的信息信号被掩埋或者它没有先前交互的记忆并重复相同的错误或者它没有治理层并显示员工不应该看到的数据。研究证实了从业者所知道的即使你已经检索了正确的信息上下文放置也极其重要。Liu 等人在斯坦福大学的研究表明当相关信息出现在长上下文窗口的中间时语言模型的性能会显著下降——即使是明确设计用于处理长上下文的模型也是如此。[⁴] 后来的长上下文基准测试细化但没有推翻这一发现虽然前沿模型有所改进但上下文窗口内的结构和位置影响模型是否正确使用信息的原则仍然成立。[⁴a] 检索正确的信息是必要但不充分的。你如何呈现它决定了它是否有效。与此同时检索增强生成RAG——行业对上下文质量问题的主要回应——已经成为主导的企业 AI 模式。在企业平台上支持 RAG 应用的向量数据库同比增长 377%70% 已经部署生成式 AI 的组织转向向量数据库和 RAG以使用专有数据自定义模型。[⁵] 企业投资 RAG 不是因为他们喜欢这种架构。他们投资是因为他们了解到给模型提供更好的上下文比给模型提供更好的模型能产生更好的结果。每次评估失败从根本上都是上下文失败。相关性分数低SELECT 操作检索了错误的信息。真实性分数低WRITE 操作生成了不基于检索上下文的内容。幻觉率高PERSIST 操作未能提供基本事实信息。在责怪模型之前请问上下文有什么问题4、结束语本文建立了论点并介绍了词汇表。接下来的三篇文章将深入探讨。第 2 篇文章将每个操作揭示为完整的设计空间——仅 SELECT 就涵盖八种不同的检索策略从人工编写 SQL 到自主智能体系统。第 3 篇文章将该框架应用于三个真实的企业问题展示操作如何链接到架构。第 4 篇文章以上下文成熟度模型结束——一个自评网格将每个操作映射到四个组织成熟度级别——以及该框架指向的新兴角色上下文架构师。本系列的核心主张不是说 AI 框架不重要。而是它们都以相同的方式重要——作为编排相同六个操作的不同策略。关于选择哪个框架的辩论是错误的对话。正确的对话是关于你的具体问题需要什么上下文架构。停止选择框架。开始设计上下文架构。模型正在趋同。上下文正在分化。理解差异的组织将定义接下来会发生什么。原文链接上下文是你所需要的全部 - 汇智网