大模型仍未对上商业的齿轮编译 | 王启隆来源 | youtu.be/aWqfH0aSGKI出品丨AI 科技大本营IDrgznai100现在的硅谷空气里都飘着一股“再不上车就晚了”的焦躁感。最近 OpenClaw 风头正旺强势登顶 GitHub终结了 React 神话许多人更是觉得“AI 自己干活赚钱”的日子就在明天了。特别是在斯坦福商学院GSB这种地方台下坐着的都是成天琢磨怎么用下一个技术风口搞个独角兽出来的狠人。微软的首席科学官CSOEric Horvitz 被请到了这个几乎全美最想用 AI 变现的礼堂里。作为从上世纪 80 年代就开始搞 AI 的绝对老炮、也是微软技术底座的“扫地僧”这位老哥并没有顺着台下的胃口去吹捧下个月大模型又要颠覆什么行业而是兜头给大家浇了一盆带点学术味的冷水。他讲了一个挺有画面感的比喻大家都在聊 AI 马上要爆发但这感觉就像 1880 年代人类刚弄出电动机的时候。那时候的工厂怎么用电他们搞个巨大的中央滑轮扯着无数根笨重的皮带生硬地去连接各个工作台。看起来是通电了实际上别扭得很。Horvitz 把这叫作“阻抗失配Impedance Mismatch”。说白了就是现在牛逼哄哄的底层大模型跟现实商业世界的组织架构和运转方式其实根本就没对上齿轮。这篇足足 55 分钟的对话非常“反共识”。Eric 直言现在的模型连最基本的“概率校准”都做不到也就是一本正经地胡说八道且不知道自己有多不靠谱他甚至毫不客气地扒下了医疗 AI 的底裤说在 A 医院好用的模型直接端到 B 医院去其实根本跑不通。在这个所有人都恨不得把各种 Agent 供在神坛上的节点听听这位真正在工业界和科学界摸爬滚打了几十年的老兵怎么吐槽当下的行业现状可能会让你对这个草莽时代多几分其他视角的理解。以下为这场斯坦福 AIGSB 对话的完整实录。寻找 AI 时代的“皮带与滑轮”Jennifer Aaker斯坦福商学院 General Atlantic 教授我是 Jennifer Aaker非常荣幸能为大家介绍 Eric Horvitz。他今天来到了现场将与 Sarah Soule 院长在炉边进行对话。Eric 是微软的首席科学官很长一段时间以来他一直致力于在人工智能、社会与科学的交叉前沿领域进行探索。很多年前我就认识了 Eric。他是斯坦福“以人为本人工智能研究院”HAI的董事会成员。在那个背景下以及在更广泛的领域里他是我见过的最具思想深度、最有意图性intentional、最具体恤人类精神humanistic的思考者之一。几十年来他一直是“以人为本的人工智能”领域极具影响力的声音。他发起了斯坦福大学的“人工智能百年研究”项目AI100也是“AI 伙伴关系”Partnership on AI的联合创始人。他曾作为国会任命的委员任职于美国国家人工智能安全委员会同时也是斯坦福 HAI 的杰出研究员。总之他是一个非常好的人。很高兴他今天能来到这里。我觉得他身上最了不起的一点是他对“人类繁荣human flourishing”的深刻承诺而这也是他十多年前就已经在谈论的话题。在今天关于 AI 的海量对话中我们都在思考什么是“主体性agency”什么是“同理心empathy”在设计这些技术工具时融入这些理念意味着什么最根本的是技术究竟该如何去“增强augment”人类而不是“取代”人类Eric 不仅仅是在写这些东西他也在身体力行。曾经有人告诉我他在微软指导过的门生mentees比公司里的任何人都多。他的行事风格充满了善意。带着这份敬意我想欢迎 Eric Horvitz 和 Sarah Soule。Sarah A. Soule斯坦福商学院院长非常感谢 Jennifer 刚才那段无比慷慨的介绍。Eric能和你坐在一起对话看到这么多感兴趣的学生、教职员工齐聚一堂真是一件令人愉悦的事。欢迎大家来到这场炉边谈话。Eric Horvitz谢谢你们邀请我。Sarah A. Soule我们非常高兴。Eric我想先从你过去曾说过的一个观点开始。你之前描述过我们正处于一个快速转型的时刻并且这将是人类生存轨迹中极少数能从根本上改变发展方向的“罕见快速转型期”之一。我想问你如果你从现在起往回看——假设站在 20 年后往回看你认为后人会如何铭记我们现在所处的这个时期Eric Horvitz你提到“20 年”这很有意思。我经常思考的是如果站在 700 年后的时间点往回看历史书上肯定会给这个时期专门命名。书里会有图表会用某些特定的色彩来描绘这个时代它肯定会有一个专属的名字——虽然我现在还不知道那名字会是什么。至于 20 年后这很有趣。当我听到“20 年”这个时间跨度我脑海中浮现的是其他通用目的技术general-purpose technologies比如电力和蒸汽机。你知道蒸汽机大约是在 1769 年或 1770 年左右出现第一批可用发明的。但直到大约 100 年后它们才真正进入并在工业界展现出变革性的力量。电力大概是在 1880 年代出现的然后它也是经历了数十年的慢慢渗透才真正产生了广泛的影响。所以我可以承认 AI 的发展速度可能会比蒸汽机或电力快得多——尤其是现在我们都已经“通电”了基础设施都在那里。但我认为20 年后我们回顾现在会把这个时期看作是一个“早期部署、早期实施”的阶段。在这个阶段会有很多人关注在这个时期里人们到底有多么深的远见有多么强烈的焦虑又有多少期望我不认为在蒸汽机或电力崛起的时代会有这样一群观众坐在这里听这样一个关于技术未来的话题或者像飞行技术的诞生之初我也不认为有很多人去深入思考我们是否应该确立规范——比如我们是否应该从这些飞行器上投掷燃烧装置而现在我们正在进行各种各样有趣的深思熟虑看到大家对“如何引导这项技术”如此感兴趣这真的很让人感到温暖。所以我想回顾过去我们会说“哇那就是一切开始的地方。”但即使是 20 年后我们依然会处于一个快节奏的转型期我不认为一切会在 20 年内就完全收敛并尘埃落定。Sarah A. Soule我非常高兴你能成为目前这些讨论和深思熟虑的一部分。我也希望在 20 年后人们会认为你是这个时代的英雄之一。Eric Horvitz哦我倒不奢望走那么远笑。只要我做出的贡献能在沿途帮到大家让事情变得好一点点我就很乐意被大家遗忘了。Sarah A. Soule既然谈到了如何让事情变得更好全国各地、甚至全世界的学生现在都在听到很多关于“确保自己具备 AI 素养”的建议。事实上我们在 GSB 的 AI 倡议一直非常有针对性地通过一些工作坊包括今晚由 Celeste Bean 举办的来确保这一点。你参与了许多跨越工业界、政策界和学术界的辩论与讨论。针对目前的情况——在一个知识和能力正轻易被 AI “商品化commoditized”的世界里你会给我们的学生无论是 MBA 还是本科生什么建议他们现在应该投资学习什么此外对于那些在当下这种飞速变化中感到真切焦虑的学生你有什么最好的建议Eric Horvitz首先我好奇的是想听听在这个极其特殊的历史时刻你们脑海中那种焦虑与兴奋交织的状态到底有多强烈。这真的是人类历史上的一个顶点vertex——你们正在经历、观察、吸收这些正在发生以及可能发生的变化并且讨论这对你们的职业生涯意味着什么。尤其是在一个教育项目中特别是在商学院的 MBA 项目里——这里有来自不同背景的学生但 MBA 项目本质上源自彼得·德鲁克Peter Drucker的世界它关乎将商业视为一门科学关乎如何引导和思考生产、价值与利润。我的第一反应是对于人们包括管理和商业领域的人来说思考如何将这些技术初步部署下去存在着巨大的机遇。回到我之前的评论人们最初其实并不知道如何在工业中部署电力。你们可能见过那些老照片——一个巨大的中央滑轮连着无数根皮带笨拙地向各个工作台输送动力人们甚至不愿意去思考是否应该为每台机器配备独立的电机。这只是一个隐喻说明我们在面对现在的技术时需要做大量的思考。我们面临着一种“阻抗失配impedance mismatch”——即商业流程、组织结构及其运作方式与这些底层基础技术、核心生产力技术之间的错位。思考如何将这些自身也在不断进化的 AI 技术交织融入进去是一项巨大的工程。在我们的脑海中我们还需要对“AI 到底是什么”建立一种感知。对我来说——我 80 年代中期在斯坦福大学1990 年完成了博士学位——AI 是一幅极其丰富的挂毯是一个由各种技术组成的星座。尽管现在大家都在将其同质化言必称“深度神经网络”以及它们在顶层是如何被训练的但它依然是一幅广阔的图景随着时间的推移它会变得更加细分。所以这不仅仅是思考“Claude、ChatGPT 或 Gemini 将被如何使用”。本质上你需要更深入地了解这项技术理解“深度思考”、“决策制定”、“管理”、“监督”和“创造力”的机会在哪里。这才是推动我们走向 20 年后甚至走向前面提到的“700 年后”的动力。这是一个非常丰富的机会空间。所以我建议找到你的热情所在深入挖掘你的热情思考 AI 的相关性走向跨学科interdisciplinary因为你必须以更广阔的视角思考然后看看现在人们在做什么努力超越当下的炒作去真正融合并应用它。Sarah A. Soule我很喜欢这个观点。这也触及了我们在几周前的预备电话里谈到的事情。我们在思考我们需要为学生提供什么。我经常跟学生说当他们被允许保持好奇心并试图满足这种好奇心时他们就处于最佳状态而当我们的教职员工带着好奇心提出有趣的科研问题时他们也处于最佳状态当我们的员工带着好奇心与师生互动时他们同样处于最佳状态。这就是我们建立我们想要的文化的方式之一这同样需要慷慨的精神需要彼此宽容并互相给予恩典我们需要将这些融入到文化中。在几个星期前我们交流时你谈到了很多关于“好奇心”的内容现在你又提到了。你能否展开讲讲因为我想大家都会很感兴趣在这个 AI 时代你如何看待“人类与 AI 协作”作为一种推动人们解决他们以前无法处理的问题和想法的方式Eric Horvitz我一直热衷于思考计算机如何帮助人们进行认知、解决问题和探索。几十年来这一直是我的热情所在。“人类与 AI 的协作”这个词在大概 23、25 年前还是个很奇怪的概念那时我们开始展示一些技术清晰地描绘了这种机会空间可能是什么样子的。根据我们对人类认知基底cognitive substrate的了解什么是边界认知心理学家通常会描述我们在能力上的差距作为人类我们的优势是什么。当然我们在很多方面各不相同但有一个我们多年来逐渐了解的人类共性基础。早年我在想建立一个能深刻理解这一点的计算系统知道应该在哪里介入、在哪里支撑、在哪里退后并且在此基础上不仅应对互补性的挑战还能理解“主动性initiative”——计算系统何时应该向前一步何时应该退后人类驾驶员何时应该理解如何以及何时使用这些机器以增强自身的探索能力、获取答案以及更广泛地解决问题现在回想起来这真是太美妙了。看着现在的技术有些人正在学习如何使用像 GPT、Claude 和 Gemini 这样的通用工具来适当地“提示prompt”它们并把自己置于“驾驶员”的位置——他们带来目标带来非常人性化的一套目标体系、偏好、好奇心和方向然后利用这些系统作为向导。通过引入新的效率来进行模拟、探索扩展可能性的集合我认为这些系统在人与人的互动、国家与国家的互动中会非常有帮助。希望能带来一场文艺复兴。你可以将这个领域命名为材料科学、生物学与医疗保健、教育……挑选你的领域生产制造、效率等等。我认为这些优化、整合、证据收集与综合、专业化、泛化以及涌现概念的工具将改变一切。智能体Agent的崛起与“防伪印章”Sarah A. Soule你在那次对话中用了一个很棒的词。我想是关于“可能性的边缘the edge of possibility”对吧Eric Horvitz是的。作为微软的研究总监我经常会对我们在世界各地实验室的同事说“你们真的在探索可能性的边缘吗”我们当时会停下来思考那是什么意思。在几个月或一年前去探索那些在那个前沿领域被认为不仅是不可能、甚至连想都不会去想的事情。今天我认为一些人正在研究不仅是将如何应用像 MedPaLM 这样的模型于临床医学还要看它在你自己的数据集、你自己的受众上的表现。我最近在美国国家医学院的会议上分享了一个重要秘密大家听好了最大的秘密是这些医疗大模型不具备可移植性not portable。你不能只是把它们从 A 医院拿到 B 医院然后期望它们能完美运行。多年前我们在传统的机器学习模型上就发现了这一点。所以你需要深入思考不仅仅是决策制定甚至包括转录transcription你都要非常清晰地思考潜在的错误思考它意味着什么以及它在特定环境下的表现。事实上未来几年这需要进行随机临床试验randomized clinical trials来理解这些 AI 工具在医疗服务中的真正作用。我对这些模型展现出的潜力感到兴奋但我们也看到了人们将它们推向我们所谓的“人工智能家族artificial intelligence family”的未知领域。Sarah A. Soule你能详细说说当真实性变得模糊时尤其是在深度伪造和幻觉面前我们该怎么办Eric Horvitz2015 年左右我开始看到一些零星的迹象。事实上最早引起我注意的是斯坦福大学计算机科学团队的一个关于 Deepfake 的展示。他们展示了如何构建一个系统把文字放入一个政治家的嘴里。我当时对这印象极其深刻当然大家也都说“别担心这只是一个计算机视觉/图形学的演示。”这些都在实验室紧闭的大门后进行大家觉得很酷有人还能就此写篇博士论文。但我当时做了一个演讲说这件事未来会走向何方。那还是 9 到 10 年前。现在我们就在这里了。一路上在微软内部以及在政府和公民社会的各个团队中我一直在强调一旦你创造出这样的技术你就必须进行红蓝对抗并攻击它以确保解决方案本身不会成为问题。最近发生了一件事我们发布了一份 54 页的内部微软研究报告我让团队进行了“红队测试”人们会如何利用这些工具这让你认为那些底特律的群众并没有真正在欢迎卡马拉·哈里斯Kamala Harris或者反之亦然。我们必须思考其中的可能性。好消息是这项研究的最终结果是提出了一种被称为内容溯源media provenance的高可信度身份验证方法。简单来说就是给摄像头和麦克风捕捉到的内容盖上一个“加密的蜡封cryptographic wax seal”。你可以看到这个印章在显示端的终端是未破损的。这后来变成了现在的 C2PA内容溯源和真实性联盟标准。这是所有大型科技公司、相机公司等都在使用的标准。但我们必须走得更远因为一旦你创建了这样一个有前景的解决方案你也必须进行红队测试攻击它以确保它确实安全。就在两天前我们发布了一份 54 页的报告探讨人们如何利用这些带有“蜡封”的技术让你误以为并没有发生的事情发生了或者反过来。这也是整个生态系统需要去思考的不仅仅是普通的特异性和敏感性、诊断的准确率还要思考一旦这些系统被部署会有哪些极其灾难性的失败。此外还有智能体市场Agentic Marketplaces的问题。十年内如果存在买卖和中间过程的代理人proxies而我们各自都有自己的代理人这将形成一个由智能体互动的完整经济体。我们最近发表了一篇关于“即将到来的智能体市场”的论文。我们开发了一个模拟工具你可以下载并进行实验。我们观察当我们释放出原型的 Agent 去购买、出售和安排日程时会发生什么。如果你把这些工具放出去却不思考关于人类主体性和自我尊严的深层问题——不把它们设计成注重保护和培育人类自主权、个体性与智力的机器那是很危险的。这也是为什么目前公众有如此强烈的焦虑。这种焦虑是有道理的。医疗与科研AI 不能“即插即用”Sarah A. Soule好的我想现在是我们开放给学生提问的好时机。我们有话筒传递员如果有同学想提问请举手。SerenaMS/MBA 学生非常感谢您今天能来。我是 Serena是管理科学与工程系的硕士生本科也是数据科学背景。我想问的是随着我们迈向下一阶段的 AI 部署您认为在模型评估、安全评估特别是 AI 生态系统的治理和新兴标准方面最重要且悬而未决的问题是什么Eric Horvitz关于这个问题我有很多想说的但我先从这一点开始对于所有大语言模型的狂热庆祝和大量投资我们目前其实不知道如何对它们进行概率上的校准calibrate them probabilistically。这些系统被用于在决策环境中提出建议。在这样的环境里世界必须提出要求“如果你要说些什么我需要一个关于它真实性的概率probability of its truth。我需要你有良好校准的置信度。”对我来说在更安全的系统中这将会大有作为因为我们就可以把这些输出整合到我们自己的效用函数utility functions中或者说成本收益模型中并理解如何使用这些系统以及在评估时如何认真对待它们。所以除了安全性、控制等问题之外我最近在想在广泛的笔刷下我们投入了大量的时间和精力在安全问题上——包括测试指标、评估我们也与斯坦福的团队在诸如 MedHelm 等临床医学指标上合作以衡量这些系统的表现——提出了一些有趣的工具来保证这些通用模型的安全确保它们生成的内容的安全。但我认为目前真正的盲点在于如何实现概率校准。这对于高风险决策极其重要。Ulugbek医学院学生您好我是 Ulugbek医学院的学生。我的问题与 AI 在医疗保健中的日益普及有关。您认为我们在医疗领域面临的主要挑战是提升 AI 模型本身的性能还是改善机构利用 AI 进行决策的方式Eric Horvitz我明白你的意思你是问如何在“提高模型表现”与“改善机构决策”之间做区分。这绝对是相互依存的interdependent。如果你在诊断和治疗规划方面拥有更高性能的能力那这些考虑在机构如何融合、应用这项技术上就变得非常核心。我的直觉是那些表现出色的模型通常并不能做到完全便携。如我所说你不能指望它们在不同医院间“即插即用”。过去几年我们发现在传统的机器学习模型中表现极佳的模型在换了环境后就不行了。这就要求我们在本地机构有能力在本地数据上进行微调和校准以确保模型在特定人群和特定工作流中实际有效。所以不仅是单纯的性能还涉及到这套系统的“适应性”。其次如何利用它们来协助决策而不会引发意外的偏见或加剧现有的不平等这也是医疗机构必须在制度层面建立的护栏。BenMBA 学生您好我是 Ben商学院 MBA 学生。我想问一个关于您之前提到的“蒸汽机和钢铁”的比较。您说即便 20 年后我们可能仍在经历有意义的、甚至是地震般的巨变。您如何将这一点与目前大量涌入该领域的兴奋、炒作和资金结合起来您是否认为大多数人同意您的观点即我们正在玩一场真正长期的游戏还是您认为我们会看到短期的地震级转变同时也要期待长期的价值显现Eric Horvitz谢谢你提出这个非常有洞察力的问题。我想我们必须为惊喜surprises做好准备。惊喜在于AI 在某些方面的移动速度将远超我们的预期而在另一些方面其移动速度又会比我们想象的慢得多。取决于你关注的是哪个维度。我预计在解决一些我们过去认为极其困难、可能需要几十年才能解决的长期科学挑战上我们将看到突破。我们已经看到了 AlphaFold 这样的例子在生物学和医学上AI 将极大加速新药的发现、疾病的理解甚至治愈某些顽疾。在这些领域它可能带来的“地震”就在眼前或者在接下来的 10 到 15 年内。但在另一方面日常工作流程的改变人类社会组织架构对这项技术的吸收——这种属于“社会技术socio-technical”范畴的事情往往会慢得多。因为这涉及到改变人的习惯、改变法律、改变权力和利益的分配。所以尽管资金和热情疯狂涌入期望在短时间内看到所有商业模式被颠覆但这其中必然充满摩擦。这也是为什么我反复强调“阻抗失配”。我们应该准备好迎接一场长期的转型。那些纯粹为了短期的、吹嘘性质的炒作而投入的资本可能会面临失望。但对于那些致力于在科研突破、医疗革新以及建立真正安全的 AI 基础设施上进行长期投资的人来说这种价值是无法估量的。希望有一天我们能迎来一个“关怀经济caring economy”的崛起而不是一个纯粹由机器主导的效率社会。投稿或寻求报道zhanghycsdn.net推荐阅读9 万次贡献、一夜爆红OpenClaw 之父AI 时代一个开发者如何单挑整个生态90% 程序员都在用 AI为何只有 30% 能活下来Uber CEO 揭秘“代码提交量”背后的真相“一人公司”的齿轮开始转动2026 的 AI 到底发生了哪些变化未来没有前后端只有 AI Agent 工程师。这场十倍速的变革已至你的下一步在哪4 月 17-18 日由 CSDN 与奇点智能研究院联合主办「2026 奇点智能技术大会」将在上海隆重召开大会聚焦 Agent 系统、世界模型、AI 原生研发等 12 大前沿专题为你绘制通往未来的认知地图。成为时代的见证者更要成为时代的先行者。奇点智能技术大会上海站我们不见不散