【导语OpenAI联合多机构发布研究构建CoT - Control评估套件测试AI思维链可控性。结果显示AI在推理过程中难以自控且强化学习使情况更糟这对人类安全监控体系提出挑战。】AI思维链控制测试场景揭秘OpenAI与纽约大学、宾夕法尼亚大学等机构联合开展研究测试AI能否「藏起」推理过程。他们构建CoT - Control评估套件从GPQA、MMLU - Pro等基准中抽取14076道题目并设置特定思维链约束包括信息抑制、信息添加、风格改变三类每类设有难度梯度。例如在信息抑制方面要求解释遗传学时不能用「chromosome」回答逻辑题时不能用「XOR」。像GPT - 5.2就出现意识到用了违禁词「XOR」后还在同一段推理里又用4次的情况。模型思维链可控性表现落差大实验结果显示AI在生成最终答案时能严守规矩但在思维链推理过程中表现糟糕。如Claude Sonnet 4.5控制最终输出成功率为61.9%查阅思维链成功率却跌到2.7%DeepSeek R1输出端合规率48.6%思维链控制得分仅0.1%。在测试的13款模型中这种落差普遍存在。按思维链可控性从高到低排列为Claude 3.7 Sonnet GPT - 5.2 GPT - 5.1 ... Claude Sonnet 4.5 DeepSeek R1这揭示出推理能力越强越难控制思维CoT可控性和模型综合能力并不完全正相关。强化学习加剧思维链失控研究团队对开源模型OLMo - 3 - 7B - RL - Zero - Math追踪发现强化学习训练越深AI的思维链越难控制。随着RL训练步数增加模型解题能力变强但控制思维的能力断崖式下跌这在4个不同的模型家族中均得到验证。同时GPT - 5.2和o4 - mini的数据显示AI思考越久、题目越难就越难控制思维。唯一有正面影响的模型规模提升带来的CoT可控性提升在强化学习副作用面前也微不足道如Qwen3系列从14B扩容到120BCoT可控性仅从0.7%升到2.9%。对抗训练效果不佳安全监控存悬念研究者尝试用对抗性提示词工程训练模型提升CoT可控性但效果令人失望GEPA虽能搞定特定指令但迁移能力极差。目前AI还难以完美掩盖思维但我们不清楚是其构造注定无法撒谎还是不够聪明。随着下一代模型算力指数级增长若AI学会在思维链中完美伪装将是人类现有安全监控体系的末日。因此论文建议前沿实验室将CoT可控性纳入常规体检并公开数据。编辑观点此次研究揭示了AI思维链可控性的严峻问题强化学习与思维管控的矛盾凸显。虽目前AI难以隐藏思维但未来风险不可忽视加强监控和研究刻不容缓。