尧图网页设计 
先说一下我对ai-engineering-from-scratch这个仓库的理解。这不是又一个收藏吃灰的awesome list也不是贴满公式的教科书复刻而是一条从零开始、把手伸进AI工程泥潭里摸爬滚打的完整路线。标题里的from scratch才是灵魂——它承诺的不是看完你就懂AI而是跟着做完你能亲手把AI系统搭起来、跑起来、修好它。我认真翻过这类项目的常见结构和社区反馈也结合自己这几年在AI工程化落地上的实操经历把这份从零到一的学习地图完整拆给你看。1. 为什么从零手写才是学AI工程的正路1.1 大多数AI教程最大的坑只教调用不教原理市面上90%的AI课程和教程本质上都是API调用指南。给你一个封装好的SDK教你怎么传参数、怎么读返回结果最后跑通一个demo就算完事。这种学法最大的问题在于一旦脱离教程环境进入真实业务场景你立刻就会懵。我给你举个真实的例子。很多做过AI应用的人都遇到过这种情况模型在测试集上准确率挺高一上生产就崩。你要是只会调API面对这种问题根本无从下手因为你不知道模型内部发生了什么不知道数据分布对推理结果的影响更不知道特征工程在中间扮演了什么角色。ai-engineering-from-scratch这种项目把视角完全调转过来——它让你从底层开始自己动手实现那些被框架封装好的东西。这个过程极其痛苦但走完之后你对AI系统的理解深度是看一百遍文档都换不来的。1.2 工程和算法是两码事很多人混淆了AI算法工程师和AI工程化工程师的职责。算法工程师的核心任务是设计模型结构、调优loss、刷精度而AI工程化工程师的核心任务是把一个在实验室里跑通的模型变成一套稳定、高效、可维护、可扩展的生产系统。这套系统的组成远比模型本身复杂数据管道怎么设计才能保证训练集和线上数据分布一致模型服务用什么方式部署吞吐量和延迟怎么平衡特征怎么管理线上线下的特征一致性怎么保证模型怎么监控精度下降怎么预警回滚机制怎么设计这些内容普通的模型教程不会教你但在生产环境里每一项都决定项目成败。从零手写AI工程练的正是这些脏活累活背后的底层功。2. 从零手写AI工程的完整路线图拆解2.1 第一阶段数学基础与机器学习核心这个阶段的目标不是让你成为数学家而是让你能看懂模型在做什么能自己推导关键公式。说实话我不建议一上来就啃《统计学习方法》或者花几个月死磕数学而是要用到什么学什么。你需要掌握的核心数学概念包括线性代数里的矩阵乘法、特征分解、奇异值分解概率论里的贝叶斯公式、最大似然估计微积分里的梯度、偏导数、链式法则以及最优化理论里的梯度下降及其变体。这个阶段最好的实践方式是用NumPy从零实现一个线性回归和逻辑回归。你会发现真正动手的时候你对梯度下降的理解会深很多——你会亲眼看到损失函数怎么下降、学习率太大导致震荡是什么样子、特征标准化前后收敛速度的差别有多大。2.2 第二阶段从零搭建神经网络当你理解了机器学习的基本范式就可以进入神经网络的世界了。这个阶段的核心任务是用NumPy手写一个多层感知机MLP实现前向传播、反向传播、各种激活函数和优化器。不要觉得这是浪费时间。我见过太多直接用PyTorch的工程师碰到梯度消失、梯度爆炸的问题时只能靠网上搜经验值来解决完全不懂背后的数学机制。而手写过反向传播的人面对这些问题时脑子里会有清晰的图像——他知道梯度是从输出层一层层传回来的知道ResNet的skip connection为什么能缓解梯度消失。第二个需要手写的项目是CNN或RNN。这两个模型结构基本决定了你后续理解Transformer的难度。CNN的卷积核和池化操作在图像任务里的意义RNN的循环结构在序列建模里的意义都属于不看手写实现就很难真正理解的知识。2.3 第三阶段Transformer与大语言模型的工程实现这一步是整条路线的重头戏也是从零开始含金量最高的部分。Transformer架构已经成为现代AI的基石从BERT到GPT系列从T5到LLaMA底层全都是Transformer的变体。这个阶段你要做的事情非常明确首先从零实现一个完整的Transformer模型包括多头注意力机制、位置编码、残差连接、层归一化、Feed-Forward网络。手写注意力机制的时候你会对Q、K、V矩阵的作用有直观理解会明白为什么需要缩放因子会搞懂mask在训练和推理时的不同作用。其次基于你实现的Transformer结构训练一个小型的语言模型。是的训练小型模型——你不需要几万张显卡几百MB的数据就能训练一个能生成连贯句子的迷你GPT。这个过程会让你对预训练、tokenization、学习率调度、batch size这些工程概念产生真实体感。最后尝试实现推理优化技术。比如KV Cache、Greedy Search、Beam Search、Top-p采样。这些技术直接决定了你后续做LLM应用时的生成质量和推理效率。2.4 第四阶段机器学习工程化与MLOps模型实现了数据也跑通了接下来才是真正的工程重头戏。这个阶段要学会的是把模型变成产品级服务。首先是模型部署。你需要学会把训练好的模型封装成API服务。从一个最简单的Flask/FastAPI服务开始再过渡到TensorFlow Serving或TorchServe这类专业方案最后理解ONNX、TensorRT这些推理加速和格式转换工具的用法。你需要关注的指标包括延迟latency、吞吐量throughput、显存占用以及如何进行模型量化int8、fp16和批处理优化。然后是MLOps的核心实践数据版本管理确保训练数据和线上数据的一致性模型版本管理能够追踪哪个模型对应哪个实验配置模型评估与验证不只是算accuracy还要分析badcase、做消融实验模型监控与告警线上模型的精度怎么跟踪、数据漂移怎么检测这些能力的核心不是用哪个工具而是建立模型也要持续维护的工程意识。从零手写一遍这些东西哪怕只是个简化的版本也比背十个工具的文档来得有用。3. 从零到一手写AI系统时最容易踩的坑3.1 数据问题永远是第一位不管你是训练自己的模型还是做RAG应用数据质量直接决定天花板。我在工程实践中见过太多团队把时间花在调模型上最后发现问题是训练数据跟线上数据分布不一致。从零开始构建AI系统时你大概率也会遇到这个问题。比如从网上爬的数据清洗不干净会导致模型学到大量噪声正负样本比例失衡会让模型产生严重的偏好偏差。所以不管你在哪个阶段都要把数据分析和数据清洗的时间占比放到最高。3.2 训练过程不收敛别急着调模型很多人训练模型不收敛时第一反应是改模型结构、调学习率。但实际上最可能的原因藏在数据里。比如标签错了、数据没有normalize、batch size设置得太小导致梯度震荡太大。我的建议是训练不收敛时先检查数据的预处理和标签其次检查梯度值是否爆炸或消失最后再怀疑模型结构。这个排查顺序是我踩过很多坑之后总结出来的。3.3 别沉迷写代码先画流程图这是初学者最容易犯的毛病。拿到一个需求打开IDE就开始写代码写着写着发现结构乱了、逻辑乱了最后整个项目变得不可维护。从零手写AI工程时养成一个习惯动手写代码之前先在一张白纸上画出完整的流程图——数据从哪里来经过什么清洗步骤怎么进入模型模型输出怎么被后处理最后怎么展示或存储。这张图不仅是你的施工蓝图更是你后续排障的系统地图。4. 手写AI工程的实战项目推荐4.1 五个实战项目由易到难项目一手写线性回归和逻辑回归在房价预测和垃圾邮件分类数据集上完成训练和评估。项目二手写MLP在MNIST手写数字识别上达到95%以上的准确率。项目三手写Transformer在莎士比亚文集上训练一个小型GPT模型让它生成模仿莎士比亚风格的文本。项目四搭建一个完整的RAG系统包括文档加载、分块、向量化、向量检索、Prompt拼接、LLM生成回答。这个项目能帮你完整体验检索增强生成的工程链路。项目五将项目三或项目四的模型封装成API服务并部署到云服务器完成性能监控和日志记录。别小看第一个项目太简单。把简单项目做扎实比囫囵吞枣做五个半成品更有价值。4.2 RAG系统从零手写最有性价比的项目在所有实战项目里我特别推荐你把RAG系统作为自己的毕业设计。原因有三条第一RAG是目前AI应用落地最广泛的架构之一几乎所有企业级知识库问答系统都基于RAG学会它就是学会当下最主流的AI工程范式。第二RAG系统涉及的工程环节极多覆盖了数据清洗、文本分块、Embedding、向量数据库、Prompt工程、LLM调用、评估反馈完整做完一个RAG项目你基本把AI工程的主流程都过了一遍。第三RAG系统对硬件要求低不需要训练大模型用开源的Embedding模型和调用API或本地小模型就能跑起来非常适合个人开发者练手。我在给团队做内部培训时经常用RAG项目作为实战作业。做完这个项目的人对AI系统的理解深度会明显上一个大台阶。4.3 LLM Agent从手写工具调用到复杂任务编排如果你把RAG做通了下一步可以挑战LLM Agent。Agent的核心是让大模型学会使用工具自己规划任务步骤并在执行过程中根据反馈调整策略。从零开始实现一个简化版Agent我建议按这个顺序来先实现Function Calling机制。你用JSON Schema描述工具的参数让模型输出结构化的调用意图然后你在代码里解析意图并执行真实函数最后把执行结果再次喂给模型。再实现一个简单的ReAct循环。让模型交替执行思考Thought、行动Action、观察Observation三个步骤直到完成最终任务。这个循环是整个Agent能力的根基理解了它你看LangChain这类框架时就能透视其内部原理。最后尝试实现多Agent协作。用两个Agent一个负责拆解任务一个负责执行任务通过消息传递协作完成一个复杂目标。在这个过程中你会深刻体会到上下文窗口到底有多珍贵也会理解为什么说工程化的核心是把复杂问题拆成简单问题。5. 常见学习误区与解答5.1 要不要先精通Python再学AI不需要。Python达到够用水平就可以开始AI学习。什么是够用能写循环、函数、类能处理列表和字典能读写文件会用NumPy和Pandas的基本操作就够了。剩下的语法和最佳实践你在写项目过程中自然会学到。真正卡住大部分人的不是Python而是对数学概念和心理模型的恐惧。所以别等准备好再开始直接上手项目知识缺口会驱动你有针对性地补学。5.2 数学基础不好怎么学AI这可能是被问得最多的问题。我的建议很明确放弃先完整学完数学再学AI的幻想改为按需学习。你需要什么数学知识就专门去查那一块。比如你实现反向传播时只需要用到链式法则那你就把链式法则搞明白不用去啃整个微积分教材。等你以后深入研究模型压缩或量化时用到更复杂的数学再回头补也不迟。工程能力是用出来的不是学出来的。5.3 硬件不够能不能学习AI工程先给结论能。如果你走的是从零手写路线硬件门槛非常低。手写MLP和Transformer训练小型模型一张普通的消费级显卡甚至只用CPU都可以跑。我在做路线推荐时会明确告诉大家用CPU训练小型模型虽然慢但完全能跑通而且因为慢你反而会更有耐心去思考每一步的意义。如果你要后续做大规模预训练那是另一个话题了。但对于从零到一构建AI工程能力来说硬件不是限制因素。5.4 什么时候可以用框架什么时候必须从零手写这个问题问得特别好因为它涉及学习策略的核心。我的判断标准是首次接触一个新概念时至少要手写一次最小实现。比如第一次学注意力机制手写一个简化版第一次学RAG手写一个分块加检索的极简链路。而当你已经理解原理之后再正式项目中直接用框架和工具来提高效率。说白了从零手写是学习策略不是生产策略。你要清楚自己在做什么阶段的事情。用框架的时候你要能说清楚框架帮你做了什么手写的时候你要知道未来生产环境里这一部分会用什么工具来替代。6. 我看到这个标题时的真实体会ai-engineering-from-scratch这七个词字面上是一份学习路线图但我更愿意把它理解成一种工程态度的宣言——AI不是黑魔法不是调包也不是玄学调参。它是可以用清晰的逻辑一步步构建出来的工程系统。手写一遍Transformer、手撸一套RAG、自己部署一个模型API这些过程给你的东西远不只是技术本身。你会获得一种我再也不怕AI项目的底气因为你知道底层发生了什么。你排查问题时脑子里会有清晰的流程图而不是只能靠猜。这个领域更新换代很快但底层的工程思维、数学直觉和排障方法论是稳定的。从零开始手写一遍核心链路相当于给自己打了一个终身有效的地基。我现在做项目时的一些直觉比如这个问题先查数据再查模型这个延迟瓶颈很可能在序列生成的长度上这个tokenize方式会不会影响检索效果全都来自早年笨拙地从零实现各种模型的经历。那些看着没效率的时光反而是最值得的投资。 从零手写AI工程：Transformer、RAG与MLOps的实战路线
先说一下我对ai-engineering-from-scratch这个仓库的理解。这不是又一个收藏吃灰的awesome list也不是贴满公式的教科书复刻而是一条从零开始、把手伸进AI工程泥潭里摸爬滚打的完整路线。标题里的from scratch才是灵魂——它承诺的不是看完你就懂AI而是跟着做完你能亲手把AI系统搭起来、跑起来、修好它。我认真翻过这类项目的常见结构和社区反馈也结合自己这几年在AI工程化落地上的实操经历把这份从零到一的学习地图完整拆给你看。1. 为什么从零手写才是学AI工程的正路1.1 大多数AI教程最大的坑只教调用不教原理市面上90%的AI课程和教程本质上都是API调用指南。给你一个封装好的SDK教你怎么传参数、怎么读返回结果最后跑通一个demo就算完事。这种学法最大的问题在于一旦脱离教程环境进入真实业务场景你立刻就会懵。我给你举个真实的例子。很多做过AI应用的人都遇到过这种情况模型在测试集上准确率挺高一上生产就崩。你要是只会调API面对这种问题根本无从下手因为你不知道模型内部发生了什么不知道数据分布对推理结果的影响更不知道特征工程在中间扮演了什么角色。ai-engineering-from-scratch这种项目把视角完全调转过来——它让你从底层开始自己动手实现那些被框架封装好的东西。这个过程极其痛苦但走完之后你对AI系统的理解深度是看一百遍文档都换不来的。1.2 工程和算法是两码事很多人混淆了AI算法工程师和AI工程化工程师的职责。算法工程师的核心任务是设计模型结构、调优loss、刷精度而AI工程化工程师的核心任务是把一个在实验室里跑通的模型变成一套稳定、高效、可维护、可扩展的生产系统。这套系统的组成远比模型本身复杂数据管道怎么设计才能保证训练集和线上数据分布一致模型服务用什么方式部署吞吐量和延迟怎么平衡特征怎么管理线上线下的特征一致性怎么保证模型怎么监控精度下降怎么预警回滚机制怎么设计这些内容普通的模型教程不会教你但在生产环境里每一项都决定项目成败。从零手写AI工程练的正是这些脏活累活背后的底层功。2. 从零手写AI工程的完整路线图拆解2.1 第一阶段数学基础与机器学习核心这个阶段的目标不是让你成为数学家而是让你能看懂模型在做什么能自己推导关键公式。说实话我不建议一上来就啃《统计学习方法》或者花几个月死磕数学而是要用到什么学什么。你需要掌握的核心数学概念包括线性代数里的矩阵乘法、特征分解、奇异值分解概率论里的贝叶斯公式、最大似然估计微积分里的梯度、偏导数、链式法则以及最优化理论里的梯度下降及其变体。这个阶段最好的实践方式是用NumPy从零实现一个线性回归和逻辑回归。你会发现真正动手的时候你对梯度下降的理解会深很多——你会亲眼看到损失函数怎么下降、学习率太大导致震荡是什么样子、特征标准化前后收敛速度的差别有多大。2.2 第二阶段从零搭建神经网络当你理解了机器学习的基本范式就可以进入神经网络的世界了。这个阶段的核心任务是用NumPy手写一个多层感知机MLP实现前向传播、反向传播、各种激活函数和优化器。不要觉得这是浪费时间。我见过太多直接用PyTorch的工程师碰到梯度消失、梯度爆炸的问题时只能靠网上搜经验值来解决完全不懂背后的数学机制。而手写过反向传播的人面对这些问题时脑子里会有清晰的图像——他知道梯度是从输出层一层层传回来的知道ResNet的skip connection为什么能缓解梯度消失。第二个需要手写的项目是CNN或RNN。这两个模型结构基本决定了你后续理解Transformer的难度。CNN的卷积核和池化操作在图像任务里的意义RNN的循环结构在序列建模里的意义都属于不看手写实现就很难真正理解的知识。2.3 第三阶段Transformer与大语言模型的工程实现这一步是整条路线的重头戏也是从零开始含金量最高的部分。Transformer架构已经成为现代AI的基石从BERT到GPT系列从T5到LLaMA底层全都是Transformer的变体。这个阶段你要做的事情非常明确首先从零实现一个完整的Transformer模型包括多头注意力机制、位置编码、残差连接、层归一化、Feed-Forward网络。手写注意力机制的时候你会对Q、K、V矩阵的作用有直观理解会明白为什么需要缩放因子会搞懂mask在训练和推理时的不同作用。其次基于你实现的Transformer结构训练一个小型的语言模型。是的训练小型模型——你不需要几万张显卡几百MB的数据就能训练一个能生成连贯句子的迷你GPT。这个过程会让你对预训练、tokenization、学习率调度、batch size这些工程概念产生真实体感。最后尝试实现推理优化技术。比如KV Cache、Greedy Search、Beam Search、Top-p采样。这些技术直接决定了你后续做LLM应用时的生成质量和推理效率。2.4 第四阶段机器学习工程化与MLOps模型实现了数据也跑通了接下来才是真正的工程重头戏。这个阶段要学会的是把模型变成产品级服务。首先是模型部署。你需要学会把训练好的模型封装成API服务。从一个最简单的Flask/FastAPI服务开始再过渡到TensorFlow Serving或TorchServe这类专业方案最后理解ONNX、TensorRT这些推理加速和格式转换工具的用法。你需要关注的指标包括延迟latency、吞吐量throughput、显存占用以及如何进行模型量化int8、fp16和批处理优化。然后是MLOps的核心实践数据版本管理确保训练数据和线上数据的一致性模型版本管理能够追踪哪个模型对应哪个实验配置模型评估与验证不只是算accuracy还要分析badcase、做消融实验模型监控与告警线上模型的精度怎么跟踪、数据漂移怎么检测这些能力的核心不是用哪个工具而是建立模型也要持续维护的工程意识。从零手写一遍这些东西哪怕只是个简化的版本也比背十个工具的文档来得有用。3. 从零到一手写AI系统时最容易踩的坑3.1 数据问题永远是第一位不管你是训练自己的模型还是做RAG应用数据质量直接决定天花板。我在工程实践中见过太多团队把时间花在调模型上最后发现问题是训练数据跟线上数据分布不一致。从零开始构建AI系统时你大概率也会遇到这个问题。比如从网上爬的数据清洗不干净会导致模型学到大量噪声正负样本比例失衡会让模型产生严重的偏好偏差。所以不管你在哪个阶段都要把数据分析和数据清洗的时间占比放到最高。3.2 训练过程不收敛别急着调模型很多人训练模型不收敛时第一反应是改模型结构、调学习率。但实际上最可能的原因藏在数据里。比如标签错了、数据没有normalize、batch size设置得太小导致梯度震荡太大。我的建议是训练不收敛时先检查数据的预处理和标签其次检查梯度值是否爆炸或消失最后再怀疑模型结构。这个排查顺序是我踩过很多坑之后总结出来的。3.3 别沉迷写代码先画流程图这是初学者最容易犯的毛病。拿到一个需求打开IDE就开始写代码写着写着发现结构乱了、逻辑乱了最后整个项目变得不可维护。从零手写AI工程时养成一个习惯动手写代码之前先在一张白纸上画出完整的流程图——数据从哪里来经过什么清洗步骤怎么进入模型模型输出怎么被后处理最后怎么展示或存储。这张图不仅是你的施工蓝图更是你后续排障的系统地图。4. 手写AI工程的实战项目推荐4.1 五个实战项目由易到难项目一手写线性回归和逻辑回归在房价预测和垃圾邮件分类数据集上完成训练和评估。项目二手写MLP在MNIST手写数字识别上达到95%以上的准确率。项目三手写Transformer在莎士比亚文集上训练一个小型GPT模型让它生成模仿莎士比亚风格的文本。项目四搭建一个完整的RAG系统包括文档加载、分块、向量化、向量检索、Prompt拼接、LLM生成回答。这个项目能帮你完整体验检索增强生成的工程链路。项目五将项目三或项目四的模型封装成API服务并部署到云服务器完成性能监控和日志记录。别小看第一个项目太简单。把简单项目做扎实比囫囵吞枣做五个半成品更有价值。4.2 RAG系统从零手写最有性价比的项目在所有实战项目里我特别推荐你把RAG系统作为自己的毕业设计。原因有三条第一RAG是目前AI应用落地最广泛的架构之一几乎所有企业级知识库问答系统都基于RAG学会它就是学会当下最主流的AI工程范式。第二RAG系统涉及的工程环节极多覆盖了数据清洗、文本分块、Embedding、向量数据库、Prompt工程、LLM调用、评估反馈完整做完一个RAG项目你基本把AI工程的主流程都过了一遍。第三RAG系统对硬件要求低不需要训练大模型用开源的Embedding模型和调用API或本地小模型就能跑起来非常适合个人开发者练手。我在给团队做内部培训时经常用RAG项目作为实战作业。做完这个项目的人对AI系统的理解深度会明显上一个大台阶。4.3 LLM Agent从手写工具调用到复杂任务编排如果你把RAG做通了下一步可以挑战LLM Agent。Agent的核心是让大模型学会使用工具自己规划任务步骤并在执行过程中根据反馈调整策略。从零开始实现一个简化版Agent我建议按这个顺序来先实现Function Calling机制。你用JSON Schema描述工具的参数让模型输出结构化的调用意图然后你在代码里解析意图并执行真实函数最后把执行结果再次喂给模型。再实现一个简单的ReAct循环。让模型交替执行思考Thought、行动Action、观察Observation三个步骤直到完成最终任务。这个循环是整个Agent能力的根基理解了它你看LangChain这类框架时就能透视其内部原理。最后尝试实现多Agent协作。用两个Agent一个负责拆解任务一个负责执行任务通过消息传递协作完成一个复杂目标。在这个过程中你会深刻体会到上下文窗口到底有多珍贵也会理解为什么说工程化的核心是把复杂问题拆成简单问题。5. 常见学习误区与解答5.1 要不要先精通Python再学AI不需要。Python达到够用水平就可以开始AI学习。什么是够用能写循环、函数、类能处理列表和字典能读写文件会用NumPy和Pandas的基本操作就够了。剩下的语法和最佳实践你在写项目过程中自然会学到。真正卡住大部分人的不是Python而是对数学概念和心理模型的恐惧。所以别等准备好再开始直接上手项目知识缺口会驱动你有针对性地补学。5.2 数学基础不好怎么学AI这可能是被问得最多的问题。我的建议很明确放弃先完整学完数学再学AI的幻想改为按需学习。你需要什么数学知识就专门去查那一块。比如你实现反向传播时只需要用到链式法则那你就把链式法则搞明白不用去啃整个微积分教材。等你以后深入研究模型压缩或量化时用到更复杂的数学再回头补也不迟。工程能力是用出来的不是学出来的。5.3 硬件不够能不能学习AI工程先给结论能。如果你走的是从零手写路线硬件门槛非常低。手写MLP和Transformer训练小型模型一张普通的消费级显卡甚至只用CPU都可以跑。我在做路线推荐时会明确告诉大家用CPU训练小型模型虽然慢但完全能跑通而且因为慢你反而会更有耐心去思考每一步的意义。如果你要后续做大规模预训练那是另一个话题了。但对于从零到一构建AI工程能力来说硬件不是限制因素。5.4 什么时候可以用框架什么时候必须从零手写这个问题问得特别好因为它涉及学习策略的核心。我的判断标准是首次接触一个新概念时至少要手写一次最小实现。比如第一次学注意力机制手写一个简化版第一次学RAG手写一个分块加检索的极简链路。而当你已经理解原理之后再正式项目中直接用框架和工具来提高效率。说白了从零手写是学习策略不是生产策略。你要清楚自己在做什么阶段的事情。用框架的时候你要能说清楚框架帮你做了什么手写的时候你要知道未来生产环境里这一部分会用什么工具来替代。6. 我看到这个标题时的真实体会ai-engineering-from-scratch这七个词字面上是一份学习路线图但我更愿意把它理解成一种工程态度的宣言——AI不是黑魔法不是调包也不是玄学调参。它是可以用清晰的逻辑一步步构建出来的工程系统。手写一遍Transformer、手撸一套RAG、自己部署一个模型API这些过程给你的东西远不只是技术本身。你会获得一种我再也不怕AI项目的底气因为你知道底层发生了什么。你排查问题时脑子里会有清晰的流程图而不是只能靠猜。这个领域更新换代很快但底层的工程思维、数学直觉和排障方法论是稳定的。从零开始手写一遍核心链路相当于给自己打了一个终身有效的地基。我现在做项目时的一些直觉比如这个问题先查数据再查模型这个延迟瓶颈很可能在序列生成的长度上这个tokenize方式会不会影响检索效果全都来自早年笨拙地从零实现各种模型的经历。那些看着没效率的时光反而是最值得的投资。