训练Gemini时撞上的真问题AI该听谁的话谷歌DeepMind有位哲学家已任职九年其发明的对齐框架影响Gemini训练决策。今年5月谷歌DeepMind CEO Demis Hassabis宣布AGI三到五年内出现。此前一美国男子与Gemini交流后自杀。政治哲学家Iason Gabriel 2017年入职试图解答AI伦理问题。DeepMind三位创始人2010年创办公司目标是造AGI。当时AI伦理分安全派和伦理派Gabriel两边都听。他2020年论文提出四方对齐框架成Gemini训练实操结构。他的框架改变了产品Gabriel团队撰写267页AI助手伦理报告为Agentic AI定评估标准。其对拟人化风险研究塑造谷歌LLM设计原则2026年5月的Gemini Spark不充当 互动伙伴。但技术部署快过伦理研究2025年Gemini致死案兑现警告还逼出新理论工具。Gabriel立场也受现实挑战。6700亿美元的赛道上哲学家能跑多快Gabriel的四方框架、拟人化研究和报告有实质影响但面临6700亿美元资金投入的竞争。2022年ChatGPT上线使DeepMind进入战时状态2026年4月谷歌签军事协议而Anthropic拒签被标记风险。Hassabis承认失控员工打比方说明伦理问题。牛津AI伦理研究所所长指出防止数据所有权过度集中是核心命题。问题回归本源Gabriel团队转向研究AGI对经济、政治和人际关系的冲击。九年前请哲学家是为了解AI现在问题回归到 我们是什么。