训推一体场景下U3M架构的精准访存建模与内存最优分配算法研究摘要针对昇腾平台训推一体场景中Unified 3-Tier Memory（U3M）架构面临的访存预测命中率低、内存分配策略与业务场景适配性差等核心问题，本文提出一套“感知-建模-分配”全链路优化方案。首先通过昇腾CANN工具采集训推混布场景的访存轨迹，构建标准化访存特征库；其次在传统GMT-Reuse策略基础上，设计双状态机马尔科夫链与轻量强化学习融合的访存建模算法，实现访存模式的精准预测；最后提出基于容算比联动的动态内存分配算法，完成U3M三层存储（HBM/DRAM/SSD）的最优调度。实验结果表明，该方案在LLAMA3 13B微调+推理混布场景下，访存预测命中率从71.09%提升至90%以上，训练场景模型装载量提升30%且吞吐损失≤5%，推理场景KV Cache扩容后等效吞吐提升50%，所有优化均基于昇腾现有生态实现，无侵入式修改，落地性强。关键词：训推一体；U3M架构；访存建模；内存分配；强化学习；昇腾CANN一、引言1.1 研究背景随着大模型技术的快速发展，训推一体成为昇腾异构计算平台的核心应用场景，其通过将大模型训练与推理任务混合部署，实现算力资源的高效利用。为解决训推一体场景下的“内存墙”问题，U3M架构应运而生，该架构融合HBM（高带宽内存）、DRAM（动态随机存取内存）、SSD（固态硬盘）三层存储资源，构建统一的虚拟内存空间，大幅提升NPU的容算比。但在实际落地过程中，U3M架构的访存调度与内存分配策略仍存在显著瓶颈，成为制约系统性能的关键因素。1.2 现有问题与研究意义当前U3M架构采用的GMT-Reuse访存策略，基于静态状态机与马尔科夫链实现访存模式预测，存在两大核心问题：一是访存预测命中率低，在单一训练任务中仅为71.09%，大量跨层访存请求导致NPU算力等待，系统吞吐大幅下降；二是场景适配性差，在LLAMA3 13B等大模型训推混布场景下，训练任务的大块批量访存与推理任务的小块高频KV Cache访存模式差异显著，静态建模无法精准捕捉动态访存规律，内存分配策略失准。针对上述问题，开展U3M架构的精准访存建模与内存最优分配算法研究，具有重要的工程与应用价值：一方面可提升U3M架构的访存效率，充分释放三层存储的硬件性能；另一方面可优化训推一体场景的系统吞吐与资源利用率，为昇腾平台大模型应用的落地提供技术支撑。1.3 研究思路与创新点本文围绕“软件层适配硬件架构”的核心原则，提出“感知-建模-分配”全链路优化思路，核心创新点如下：构建训推一体标准化访存特征库，实现对不同业务场景访存规律的量化感知，解决访存模式“不可见”问题；设计双状态机马尔科夫链与轻量强化学习融合的建模算法，将静态预测升级为动态适配，大幅提升访存预测命中率；提出容算比联动的动态内存分配算法，实现基于访存命中率与业务场景的三层存储最优调度，兼顾资源利用率与系统吞吐。所有研究方案均基于昇腾现有硬件/软件生态实现，不改动U3M底层架构，无需修改上层业务代码，落地风险低、可扩展性强。二、相关技术基础2.1 U3M三层存储架构U3M架构通过硬件虚拟化与软件调度技术，将HBM、DRAM、SSD三层存储融合为统一的虚拟内存空间，为NPU提供大容量、高带宽的内存资源，三层存储的核心性能指标如表1所示。表1 U3M三层存储核心性能指标存储层级带宽延迟核心特性应用场景/