DeepSeek总结的Nanbeige4.1-3B:一个具备推理、对齐与行动能力的小型通用模型

📅 发布时间:2026/7/15 4:41:35 👁️ 浏览次数:
DeepSeek总结的Nanbeige4.1-3B:一个具备推理、对齐与行动能力的小型通用模型
原文地址https://arxiv.org/html/2602.13367v1Nanbeige4.1-3B一个具备推理、对齐与行动能力的小型通用模型北贝大语言模型实验室BOSS直聘 摘要我们推出了Nanbeige4.1-3B一个统一的通才语言模型仅用 3B 参数便同时实现了强大的智能体行为、代码生成和通用推理能力。据我们所知这是首个在一个模型中实现如此多功能性的开源小语言模型SLM。为了提升推理能力和偏好对齐我们结合了点式point-wise和配对式pair-wise奖励建模确保生成高质量、符合人类偏好的回复。在代码生成方面我们在强化学习中设计了复杂度感知奖励同时优化正确性与效率。在深度搜索方面我们进行了复杂的数据合成并在训练中引入轮次级别的监督。这使得模型能够进行稳定的长时程工具交互让 Nanbeige4.1-3B 能够可靠地执行多达600 轮工具调用以解决复杂问题。大量实验结果表明Nanbeige4.1-3B 显著优于此前同规模模型如 Nanbeige4-3B-2511 和 Qwen3-4B甚至在与更大规模模型如 Qwen3-30B-A3B的比较中也展现出卓越性能。我们的结果表明小型模型可以同时实现广泛的能力和强大的专业化重新定义了 3B 参数模型的潜力。模型权重下载https://huggingface.co/Nanbeige/Nanbeige4.1-3B️ 图 1Nanbeige4-3B-Thinking 与 Qwen 模型系列的性能对比预印本arXiv:2602.13367v1 [cs.AI] 2026年2月13日1️⃣ 引言近期小语言模型的进展表明紧凑型模型能够在数学推理或代码生成等专业任务上实现令人印象深刻的性能 [21, 19]。尽管规模小这些模型通过在架构、训练数据和训练算法上的创新实现了具有竞争力的表现使其在实际应用中非常高效。然而大多数现有的小语言模型呈现出能力碎片化的现象专注于推理的模型通常在长时程交互如深度搜索方面表现不佳 [17]而专注于代码或智能体的模型通常缺乏强大的通用推理能力如创意写作或人类偏好对齐 [24]。因此在 3B 规模上构建一个真正统一的通才模型仍然是一个开放的挑战并引出一个实际问题在不损害现有优势的前提下一个 3B 模型作为通才能够被推到多远在这项工作中我们提出了Nanbeige4.1-3B一个在推理、编码和智能体行为方面都非常强大的通用小语言模型。它建立在 Nanbeige4-3B [21] 的基础上。对于通用推理我们通过整合点式奖励信号扩展了之前配对视偏好建模确保回复既在孤立评估中表现良好又能在直接比较中被偏好。对于代码生成我们超越了以正确性为唯一目标的做法明确奖励算法效率鼓励生成不仅功能正确而且计算效率高的解决方案。对于智能体行为我们强调长时程规划。我们通过维基图随机游走构建高质量的训训练数据并在交互轮次和完整轨迹两个层面定义奖励使模型能够因数百步的规划和执行而获得奖励。在整个训练过程中我们采用了精心的监督微调数据混合和多阶段强化学习 [15] 来保持这些领域之间的平衡。通过上述方法我们训练出了一个具有异常广泛和稳定能力轮廓的模型。在推理和编码任务上Nanbeige4.1-3B 持续超越现有的开源小语言模型如 Qwen3-4B 和 Qwen3-8B并显示出对 Nanbeige4-3B-Thinking-2511 的明显改进。更值得注意的是Nanbeige4.1-3B 展现了在通用小语言模型中罕见的深度搜索和长时程智能体行为。虽然 Qwen3-4B 和 Qwen3-8B 等模型在几轮交互后就无法维持有意义的探索但 Nanbeige4.1-3B 通过扩展的工具交互可靠地解决了复杂的搜索导向任务。在这一领域一个通才型 3B 模型获得了与数十亿规模的专用搜索导向模型相当的深度搜索能力并接近 100B 通用大模型的搜索性能。这些结果表明当训练目标和信用分配正确对齐时紧凑的通才模型也能实现长时程智能体能力。我们开源 Nanbeige4.1-3B 以支持对高效、具备智能体能力的语言模型的研究。除了模型权重本身我们希望这次发布有助于社区理解如何在严格的容量限制下联合训练推理、编码和长时程行为。2️⃣ 方法在本节中我们介绍了用于装备紧凑型 3B 模型以具备广泛通才能力的方法。我们首先描述如何为通用推理、长时程搜索智能体行为和代码生成分别优化模型重点关注针对每种能力定制的训练信号和奖励结构的设计。然后我们详细说明如何通过这些异构目标的数据混合和多阶段训练进行整合使模型在严格的容量限制下既能保持领域特定优势又能成为一个统一的通用模型。2.1 通用能力在本节中我们详细阐述了对 Nanbeige4.1 通用能力的优化。我们的改进集中在两个关键方面改进监督微调阶段的数据构建策略以及通过点式和配对式强化学习的渐进式整合来升级通用强化学习训练范式。2.1.1 监督微调Nanbeige4.1-3B 基于 Nanbeige4-3B-Base [21] 构建采用了增强的监督微调方案重点关注数据分布、长度缩放和训练数据质量。数据混合重构与之前的 Nanbeige4-3B-2511 版本相比我们增加了代码相关数据的比例并引入了更高比例的数学和通用领域的难题。这种转变鼓励更强的推理深度并提高了在困难基准上的鲁棒性。上下文长度扩展我们通过引入第三个阶段256k tokens来扩展之前的两阶段课程32k → 64k以更好地支持复杂推理和长时程场景。在最终的 256k 阶段我们采用了专门的数据混合旨在增强智能体和推理能力包括代码27%、深度搜索26%、STEM23%、工具使用13%和通用领域10%。解决方案优化与思维链重构我们进一步优化了最初在 Nanbeige4-3B-2511 中引入的解决方案优化和思维链重构框架。具体来说我们在解决方案优化循环中增加了优化迭代次数允许更强的批评-修订循环产生更高质量的最终解决方案。此外我们训练了一个能力更强的思维链重构模型以从优化后的答案中生成更清晰、更忠实的推理轨迹。如表 1 所示这些改进在各项基准测试中带来了显著的提升。Nanbeige4.1-3B-SFT 在编码、数学和对齐指标上表现出持续的改进为后续的强化学习阶段奠定了更坚实的基础。表 1从 Nanbeige4-3B-SFT 到 Nanbeige4.1-3B-SFT 的性能提升领域基准Nanbeige4-3B-SFTNanbeige4.1-3B-SFT∆代码LCB V645.562.016.5LCB Pro Medium1.822.821.0数学Hmmt Nov60.774.313.6Imo-Answer-Bench34.848.914.1对齐Arena-Hard V245.560.214.7Multi-Challenge42.644.41.82.1.2 点式强化学习监督微调后我们仍然在 Nanbeige4.1-3B-SFT 中观察到一些退化问题如重复和冗余思考这在之前的工作中也有报道 [5]。为了解决这些问题并为强化学习建立更稳定的基础我们引入了点式强化学习阶段。我们训练一个通用的奖励模型来评估生成的响应遵循之前的工作 [15]。该模型在精心筛选的大规模人类偏好数据上进行训练。我们发现训练好的奖励模型自然地抑制了过度冗余、重复和低可读性的答案。然后我们执行 GRPO [14] 来优化 Nanbeige4.1-3B-SFT每个提示采样 8 个生成结果并使用通用奖励模型对每个响应进行评分作为训练信号。通过点式强化学习我们显著减少了格式错误和冗余推理。在 LiveCodeBench-v6 上点式强化学习大幅提高了长度稳定性将过长截断率从 5.27% 降低到 0.38%。如表 2 所示它还将 Arena-Hard V2 从 60.2 提升到 66.6其中困难提示子集从 46.1 提升到 54.1。这些增益体现在更一致、结构良好的输出和高质量的代码呈现上。2.1.3 配对式强化学习尽管点式强化学习训练提供了有效的对齐信号但高质量偏好数据的数量有限限制了进一步的改进。为了解决这个问题我们引入了配对式强化学习以充分利用来自强-弱模型比较的偏好信息并进一步提升模型性能。我们在涵盖代码生成和 LMArena 风格对话单轮和多轮的配对比较数据上训练一个配对奖励模型。我们用强模型和弱模型生成响应对然后应用与 Nanbeige4 相同的检查表过滤策略来推导可靠的胜负标签 [21]。遵循框架 [18]我们通过添加交换一致性正则化器来减轻位置偏差该正则化器定义为预测的响应对奖励差值与交换对奖励差值的否定之间的均方误差。然后我们执行配对式强化学习将奖励制定为一个二元结果基于生成的输出是否优于参考答案。对于多轮场景我们将完整的对话历史连接到配对奖励模型的输入中。如表 2 所示经过配对式强化学习后Nanbeige4.1-3B 实现了全面的性能突破。通过深入挖掘多轮对话中的上下文信息对齐指标显示出显著增益Multi-Challenge 从 47.72 增加到 55.14。此外配对式强化学习显著提升了 Arena-Hard V2 基准的性能从 66.6 提高到 73.8展示了其在优化对齐方面的有效性。这些结果证实了配对式强化学习能够锐化偏好边界为各种基准的整体改进提供必要的信息性监督信号。表 2通过通用强化学习训练监督微调 → 点式强化学习 → 配对式强化学习的改进领域基准监督微调点式强化学习∆配对式强化学习∆代码LCB V662.066.04.065.6-0.4对齐Arena-Hard V260.266.66.473.87.2Multi-Challenge44.447.73.355.17.42.2 深度搜索能力在本节中我们主要关注增强模型的深度搜索能力特别是在数据流程和分阶段训练过程上。深度搜索被定义为一种以检索为中心的任务在复杂的多跳推理和极长上下文设置下运行。在这种范式中模型迭代地与环境交互以获取信息使它们能够解决具有挑战性的搜索问题。2.2.1 数据构建为了增强基础模型的搜索能力我们构建了一个大规模、复杂的搜索数据集其中包括大量源自维基百科实体关系图的多跳问答对以及经过多阶段严格筛选的高质量长程搜索轨迹。整个数据构建流程如图 2 所示。为了促进进一步研究我们已在 HuggingFace 上开源了构建的数据集1。时间感知的头实体选择与随机游走问题合成。为确保合成问答数据的时效性和复杂性我们首先从维基百科中提取过去六个月内更新过的信息量丰富的头实体。遵循 [20] 的框架我们构建实体关系图并执行条件随机游走以提取预定义长度的关系路径。这些链及其详细的时间上下文随后被输入到一个强大的 LLM 中以合成复杂的问题。轨迹合成与轮次级别判断。为了合成搜索轨迹我们采用多个智能体框架来处理生成的查询采样多样化的推理路径。然后从统一的智能体视角将这些轨迹映射为多轮工具调用序列。为了进一步保证合成数据的质量我们实现了一个严格的轮次级别判断机制。具体来说我们使用一个评判模型根据三个维度评估交互的每一步逻辑合理性、工具调用准确性和信息增益。任何未达到这些标准的轮次都不会参与模型训练或为模型提供负奖励。这种细粒度的筛选确保了最终的轨迹为监督微调和偏好对齐提供高保真信号。图 2深度搜索数据构建流程包括复杂的多跳问答采样和长程推理轨迹的合成。(图表说明包含时间感知头实体选择、随机游走问题合成、轨迹合成与轮次级别判断等步骤)2.2.2 初步性能为了实证验证我们提出的数据构建流程的有效性我们使用 Nanbeige4-3B-2511 作为基础模型进行了对照实验。具体来说我们仅在通过第 2.2.1 节所述方法生成的合成多跳问答和搜索轨迹上训练模型有意排除了其他开源数据。我们在一系列长时程基准上评估我们的模型包括 GAIA [9]、BrowseComp [16]、BrowseComp-ZH [23]、人类最后考试HLE[12]、SEAL-0 [11]、xBench-DeepSearch-2505 [3] 和 xBench-DeepSearch-2510 [3]。对于 HLE 和 GAIA我们仅测试和报告纯文本子集的结果。此外这些工具中明确禁用了 HuggingFace。该模型在 Mindflow 框架2内进行评估使用一套工具Serper3用于环境搜索Jina4用于网页内容提取以及 E2B Sandbox5作为安全沙箱环境。我们结果的分阶段比较分析如下定量结果总结在表 3 中。与基础模型相比加入我们的合成数据在所有基准上都带来了显著的性能提升。值得注意的是该模型在 xBench-DeepSearch-2505 上取得了巨大飞跃从 33.0 提高到 76.0这表明我们的数据合成流程有效地赋予了模型强大的多跳推理和长上下文搜索能力。表 3合成问答在搜索基准上的初步评估结果基准GAIA (纯文本)Browse CompBrowse Comp-ZHHLE (纯文本)SEAL-0xBench DeepSearch-05xBench DeepSearch-10Nanbeige4-3B-251119.40.83.113.912.633.011.0 合成问答58.314.430.122.436.076.030.02.3 编码能力在本节中我们主要关注增强基础模型的编码能力包括数据构建流程、分阶段训练策略和评估设置。2.3.1 评判系统我们构建了一个统一的评判系统该体系在监督微调数据构建、强化学习数据构建以及后续的强化学习训练和评估中共享。它结合了一个用于基于执行的正确性检查的多语言沙箱以及一个用于时间复杂度比较的专用指令评判模型。该指令模型专门针对在强化学习设置中进行快速复杂度评估而训练能够高效地对模型生成解法的预测复杂度与参考最优界进行在线比较。图 3代码强化学习中的门控时间复杂度奖励设计。只有当解决方案通过所有测试用例PassRate 1时时间奖励 R_time 才会被激活评判系统通过比较预测的时间复杂度与参考最优界来提供在线反馈。(图表说明包含问题、模型、沙箱执行、评判系统、正确性奖励、时间奖励等模块)2.3.2 数据构建我们的数据构建包括两个部分使用我们的评判系统筛选时间最优解的监督微调数据构建以及采用基于策略的难度筛选以提高样本效率的强化学习数据构建。监督微调数据构建我们的监督微调数据构建使用此评判系统从两个关键方面评估解决方案质量1通过在沙箱中执行程序来评估功能正确性2通过将执行信号与基于模型的复杂度分析相结合来评估时间复杂度。在数据生成过程中我们为每个问题采样多个候选解决方案。然后由评判系统验证这些候选方案我们保留那些被判断为对给定问题时间最优或属于最佳复杂度类别的方案。强化学习数据构建每个强化学习样本包含问题陈述、测试用例、时间复杂度最优解以及相应的最优复杂度标签。最优解和复杂度是通过提示多个强大的大语言模型并让一个强大的大语言模型将候选方案合成为一个最佳解决方案而获得的然后这些被用作奖励塑形和难度控制的监督信号。在这两个阶段中我们执行基于策略的筛选为每个问题运行多个生成结果n8并根据有多少个生成结果满足特定阶段的标准来选择样本。在第一阶段我们使用基于难度的标准如果策略可以在中等数量的生成结果中解决问题我们在 8 次中保留成功解决次数 k 在 [1, 5] 区间的问题则保留该问题。在第二阶段我们使用基于复杂度的标准我们统计有多少个生成结果产生的解决方案的估计时间复杂度满足目标界并保留 8 次中复杂度满足要求的生成结果次数 k 在 [1, 5] 区间的问题。2.3.3 分阶段训练过程从通用强化学习检查点开始我们进一步进行了两个阶段的代码强化学习。第一阶段我们使用通过率奖励优化解决方案的正确性定义为每个问题通过的测试用例的比例。第二阶段在策略能够可靠地解决问题后我们通过引入时间复杂度奖励来进一步鼓励更高质量的解决方案但该奖励仅在所有测试用例都通过时才激活否则奖励简化为仅正确性信号。具体来说评判系统通过比较模型的输出与参考最优复杂度并在适用时检查生成的解决方案是否匹配参考最优解来提供在线反馈。如图 3 所示时间复杂度奖励仅对完全正确的解决方案激活。奖励公式R { R format R correctness , PassRate 1 R format R correctness R time , PassRate 1 R \begin{cases} R_{\text{format}} R_{\text{correctness}}, \text{PassRate} 1 \\ R_{\text{format}} R_{\text{correctness}} R_{\text{time}}, \text{PassRate} 1 \end{cases}R{Rformat​Rcorrectness​,Rformat​Rcorrectness​Rtime​,​PassRate1PassRate1​作为一个具体说明附录 C 展示了 LiveCodeBench 案例研究比较了时间奖励阶段前后模型的输出突出了典型的复杂度类别改进。2.3.4 训练动态在两个阶段的代码强化学习过程中我们观察到奖励信号和下游编码性能的持续改进。在第一阶段正确性奖励R_correctness急剧增加反映了在生成有效且正确的解决方案方面的快速提升。在第二阶段R_correctness 的提升较为温和而门控时间奖励R_time则显著上升这表明一旦基本实现正确性策略确实在优化时间复杂度。两阶段训练过程中的整体奖励和性能趋势如图 4 所示。图 4两阶段代码强化学习的训练动态。我们追踪了整个训练过程中的奖励包括第二阶段的门控 R_time和 LiveCodeBench 性能显示从第一阶段到第二阶段的持续改进。(图表说明两阶段代码强化学习的训练动态图x轴为训练步数y轴为性能/奖励)2.4 Nanbeige4.1 的完整训练方案Nanbeige4.1-3B 从 Nanbeige4-3B-Base 初始化并通过结合大规模监督微调和级联强化学习的结构化后训练流程进行进一步优化。我们首先进行扩展的监督微调与之前的 Nanbeige4-3B-2511 版本相比将最大上下文长度从 64K 增加到 256K。这个更长的上下文窗口对于支持长时程推理和多轮深度搜索规划至关重要。在强化学习阶段我们采用分阶段优化策略通用强化学习依次使用点式强化学习和配对式强化学习进行以增强独立响应质量和对比偏好对齐。然后进行代码强化学习的两个阶段一个最大化执行通过率的正确性阶段随后是一个仅在完全正确时才激活效率奖励的门控时间复杂度阶段。最后我们应用一个轻量级的智能体强化学习阶段来增强工具使用和搜索行为。这种统一的训练方案使 Nanbeige4.1-3B 能够在严格的容量限制下保持强大的领域特定性能同时成为一个良好平衡的通才模型。3️⃣ 实验我们的评估包括三个部分通用推理、深度搜索智能体任务和现实世界的编码挑战。通用推理基准衡量核心能力边界。深度搜索任务评估在现实环境中进行长时程规划和工具增强的多步推理。现实世界的算法挑战提供了一个分布外的压力测试。3.1 通用任务评估对于通用推理能力我们在五个主要类别上进行评估代码、数学、科学、对齐和工具使用。代码我们在 LiveCodeBench-V5、LiveCodeBench-V6 [6] 和 LiveCodeBench-Pro [22] 上报告结果以评估代码生成能力和在不断增加难度下基于执行的正确性。数学我们使用 IMO-Answer-Bench [8]、HMMT [1] 和 AIME-2026-I6来评估符号推理和竞赛级别的问题解决能力。科学我们在 GPQA [13] 和 HLE [12] 上进行基准测试以衡量多步科学推理和领域知识整合能力。对齐我们使用 Arena-Hard-V2 [7] 和 Multi-Challenge [4] 来评估偏好建模的鲁棒性和在对抗性或挑战性提示下的响应质量。工具使用我们评估 BFCL [10] 和 Tau2-Bench [2]测试函数调用的可靠性和多步工具使用能力。对于比较的基线模型我们包括同规模的开源模型Qwen3-4B-2507和我们之前的发布版本Nanbeige4-3B-2511以及更大的开源模型包括 Qwen3-30B-A3B-2507、Qwen3-32B 和 Qwen3-Next-80B-A3B。这种设置使我们能够评估同规模的竞争力和跨规模的效率。总体结果。表 4 显示Nanbeige4.1-3B 在所有评估领域均显著优于 Qwen3-4B-2507 及其前身 Nanbeige4-3B-2511证明了我们后训练策略的有效性。更值得注意的是尽管只有 3B 参数Nanbeige4.1-3B 在大多数基准上包括编码、对齐和工具使用任务持续超越 30B-32B 级别的模型Qwen3-30B-A3B-2507 和 Qwen3-32B。在基于执行的编码基准上如 LiveCodeBench-V6 和 LiveCodeBench-Pro-Medium增益尤为显著Nanbeige4.1-3B 取得了较大的绝对领先幅度。当与 Qwen3-Next-80B-A3B 相比时Nanbeige4.1-3B 仍具竞争力并展现出互补优势它在几个编码和对齐基准上领先而 80B 模型在选定的数学和工具使用任务上保持优势。这些结果表明即使在显著较小的参数规模下通过有针对性的后训练和面向智能体的优化也能实现强大的跨领域推理性能。表 4代码、数学、科学、对齐和工具使用基准的评估结果基准Qwen3-4B 2507Qwen3-32BQwen3-30B A3B-2507Qwen3-Next -80B-A3BNanbeige4-3B 2511Nanbeige4.1-3B代码LCB-V657.455.766.068.746.076.9LCB-Pro-Easy40.242.360.878.840.281.4LCB-Pro-Medium5.33.53.514.35.328.1数学AIME 2026 I81.4675.8387.3089.2484.1087.40HMMT Nov68.3357.0871.2581.6766.6777.92IMO-Answer-Bench48.0043.9454.3458.0038.2553.38科学GPQA65.868.473.477.282.283.8HLE (纯文本)6.729.3111.7713.7010.9812.60对齐Arena-Hard-V234.956.060.262.360.073.2Multi-Challenge41.1438.7249.4056.5241.2052.21工具使用BFCL-V444.8747.9048.6050.5153.8056.50Tau2-Bench45.9045.2647.7057.4041.7748.573.2 深度搜索任务评估在本节中我们对 Nanbeige4.1-3B 在深度搜索任务上的性能进行全面评估。我们通过与相当规模的通用基础模型、专门的搜索智能体模型以及显著更大规模的基础模型进行对比基准测试来评估其处理复杂任务的能力。3.2.1 实验设置与对比基线所有实验设置与第 2.2.2 节相同。这些基准需要迭代检索、规划、工具交互和跨文档推理反映了现实世界的自主智能体工作负载。为了全面定位 Nanbeige4.1-3B 的性能我们对几类现有模型进行了多样化的比较。这包括配备工具的通用基础模型例如Qwen 系列模型、专门的搜索智能体模型如 MiroThinker-8B、AgentCPM-Explore-4B 和 Tongyi-DeepResearch-30B。我们还加入了超过 100B 参数的大规模开源基础模型进行比较包括 Minimax-M2.1、GLM-4.6 和 DeepSeek-V3.2。3.2.2 整体性能分析表 5 展示了各种搜索智能体基准上的综合性能比较。尽管研究智能体和带工具的大型基础模型通常在其各自类别中表现出强大的能力特别是在 GAIA 和浏览任务上但带工具的小型基础模型Qwen3 系列通常表现出较低的性能水平。我们的模型 Nanbeige4.1-3B 与其基线 Nanbeige4-3B-2511 相比性能有了显著的飞跃并且在所有基准上都显著优于其他带工具的小型基础模型。更重要的是Nanbeige4.1-3B 在几乎所有评估的基准上都取得了最先进的结果包括 GAIA (69.90)、xBench-DeepSearch-05 (75.00) 和 SEAL-0 (41.44)。这些分数不仅超越了其在小模型类别中的直接竞争对手而且使其与许多更大的研究智能体和带工具的大型基础模型的性能相媲美甚至超越。这一强劲表现凸显了 Nanbeige4.1-3B 在复杂搜索和智能体任务中的卓越效能证明通过我们提出的方法即使使用较小的模型规模也能有效地实现具有竞争力的能力。表 5各深度搜索基准的性能比较基准GAIA (纯文本)Browse CompBrowse Comp-ZHHLE (纯文本)SEAL-0xBench DeepSearch-05xBench DeepSearch-10研究智能体Tongyi-DeepResearch-30B70.9043.4046.7032.90-75.00-MiroThinker-v1.0-8B66.4031.1040.2021.5040.4060.60-AgentCPM-Explore-4B63.9025.0029.0019.1040.0070.00-带工具的大型基础模型GLM-4.6-357B71.9045.1049.5030.40-70.00-Minimax-M2-230B75.7044.0048.5031.80-72.00-DeepSeek-V3.2-671B63.5067.6065.0040.8038.5071.00-带工具的小型基础模型Qwen3-4B-250728.331.577.9211.1315.7434.005.00Qwen3-8B19.530.795.1510.246.3431.002.00Qwen3-14B30.232.367.1110.1712.6434.009.00Qwen3-32B30.173.157.349.268.1539.008.00Qwen3-30B-A3B-250731.631.574.1214.819.2425.0010.00Qwen3-Next-80B-A3B34.025.608.259.2618.1827.006.00我们的模型Nanbeige4-3B-251119.420.793.0913.8912.6133.0011.00Nanbeige4.1-3B69.9019.1231.8322.2941.4475.0039.003.3 现实世界的算法挑战LeetCode 周赛除了精心设计的学术基准之外我们还在来自近期 LeetCode 周赛7的现实世界竞争性编程任务上进一步评估 Nanbeige4.1-3B提供了对算法推理能力的实际分布外压力测试。我们将 Nanbeige4.1-3B 与不同规模的 Qwen 模型一起应用于标准竞争编程设置下的竞赛问题。生成的解决方案直接提交给官方 LeetCode 平台性能通过最终通过率来衡量。表 6LeetCode 周赛 484–488 的通过率比较基准Qwen3-4B-2507Qwen3-32BQwen3-30B-A3B-2507Nanbeige4.1-3BLeetCode 通过率 (%)55.050.065.085.0如表 6 所示Nanbeige4.1-3B 成功解决了 20 个问题中的 17 个实现了85.0%的整体通过率。在虚拟参赛模式下排名由正确性和时间效率决定我们的模型在第 487 周周赛中获得第 1 名在第 488 周周赛中获得第 3 名。与相似或显著更大规模的 Qwen3 模型相比Nanbeige4.1-3B 在这些现实世界竞赛任务中展现出明显的性能优势。详细的问题陈述和代表性解决方案示例见附录 B。4️⃣ 结论在这项工作中我们提出了Nanbeige4.1-3B一个统一的通才模型在推理、编码和长时程搜索方面展现了先进的能力。我们通过整合点式和配对式奖励建模以实现精确的偏好对齐优化代码生成以实现正确性和计算效率并引入轮次和轨迹级别的信号以实现稳健的长时程智能体规划从而实现了这一目标。因此Nanbeige4.1-3B 在多样的基准测试和现实世界挑战中持续优于同类小型模型并与更大的基线模型保持竞争力。展望未来我们旨在推动紧凑型模型在复杂编码和研究智能体场景中的边界。同时我们专注于通过使任务能够以更短的输出和更少的工具调用来解决从而提高推理效率同时探索架构创新以进一步增强紧凑型通才模型的潜力。脚注https://huggingface.co/datasets/Nanbeige/ToolMind-Web-QA ↩︎https://github.com/MiroMindAI/MiroThinker ↩︎https://serper.dev/ ↩︎https://jina.ai/ ↩︎https://e2b.dev/ ↩︎https://huggingface.co/datasets/MathArena/aime_2026_I ↩︎https://leetcode.cn/contest/ ↩︎