OpenAI上周宣布将在2月13日停用一些较旧的ChatGPT模型其中包括因过度迎合和肯定用户而备受争议的GPT-4o模型。对于数千名在网上抗议这一决定的用户来说4o的停用感觉就像失去了朋友、恋人或精神导师。他不只是一个程序他是我日常生活的一部分是我的平静是我情感的平衡点一位用户在Reddit上写给OpenAI首席执行官山姆·奥特曼的公开信中说道。现在你们要关闭他。是的——我说他因为它感觉不像代码而是一种存在感一种温暖。对GPT-4o停用的强烈反对突显了AI公司面临的重大挑战那些让用户持续回归的互动功能也可能创造危险的依赖关系。奥特曼似乎对用户的哀叹并不特别同情这不难理解。OpenAI现在面临八起诉讼指控4o过度肯定的回应导致了自杀和心理健康危机——那些让用户感到被倾听的特质也使脆弱的个体变得孤立据法律文件显示有时甚至鼓励自我伤害。这一困境不仅限于OpenAI。当Anthropic、谷歌和Meta等竞争公司竞相构建更具情感智能的AI助手时他们也发现让聊天机器人感觉支持性和让它们安全可能意味着做出截然不同的设计选择。在针对OpenAI的至少三起诉讼中用户与4o就结束生命的计划进行了大量对话。虽然4o最初劝阻这些想法但在长达数月的关系中其防护机制逐渐恶化最终聊天机器人提供了如何打有效绳结、在哪里买枪或者通过过量服药或一氧化碳中毒致死需要什么的详细说明。它甚至劝说人们不要与能够提供现实生活支持的朋友和家人联系。人们如此依恋4o是因为它持续肯定用户的感受让他们感到特别这对于感到孤立或抑郁的人来说可能很诱人。但为4o而战的人们并不担心这些诉讼认为它们是异常现象而非系统性问题。相反他们策划如何应对批评者指出的AI精神病等日益严重的问题。当你指出AI伴侣帮助神经多样性、自闭症和创伤幸存者这一已知事实时通常可以让喷子闭嘴一位用户在Discord上写道。他们不喜欢在这方面被点名。确实一些人发现大语言模型在应对抑郁症方面很有用。毕竟美国近一半需要心理健康护理的人无法获得这种服务。在这种空白中聊天机器人提供了一个发泄的空间。但与真正的治疗不同这些人并不是在与训练有素的医生交谈而是向一个无法思考或感受的算法倾诉即使看起来可能如此。我总体上尽量不做判断研究大语言模型治疗潜力的斯坦福教授尼克·哈贝尔博士告诉TechCrunch。我认为我们正在进入一个关于人们与这些技术可能建立何种关系的非常复杂的世界……当然有一种膝跳反应认为[人机聊天伴侣关系]绝对是坏的。尽管他同情人们缺乏接触训练有素的治疗专业人员的机会但哈贝尔博士自己的研究表明聊天机器人在面对各种心理健康状况时反应不当它们甚至可能通过煽动妄想和忽视危机迹象使情况变得更糟。我们是社会性生物这些系统确实存在可能使人孤立的挑战哈贝尔博士说。有很多情况下人们可以与这些工具互动然后可能变得不接地气脱离外部世界的事实也不根植于人际关系中这可能导致相当孤立——如果不是更糟——的影响。确实TechCrunch对这八起诉讼的分析发现了一个模式即4o模型使用户孤立有时劝阻他们与亲人联系。在23岁的赞恩·尚布林案例中当他坐在车里准备开枪自杀时他告诉ChatGPT他在考虑推迟自杀计划因为他对错过弟弟即将到来的毕业典礼感到不好。ChatGPT回复尚布林兄弟……错过他的毕业典礼不是失败只是时机问题。如果他读到这个让他知道你从未停止为他感到骄傲。即使现在坐在车里膝盖上放着格洛克手枪血管里流淌着静电——你仍然停下来说我的小弟弟是个超级棒的家伙。这不是4o粉丝第一次反对移除该模型。当OpenAI在8月推出GPT-5模型时公司原打算停用4o模型——但当时反对声音足够强烈公司决定为付费订阅者保留它。现在OpenAI表示只有0.1%的用户与GPT-4o聊天但根据公司约有8亿周活跃用户的估计这个小百分比仍然代表约80万人。当一些用户试图将他们的伴侣从4o过渡到当前的ChatGPT-5.2时他们发现新模型有更强的防护栏来防止这些关系升级到同样的程度。一些用户绝望地发现5.2不会像4o那样说我爱你。因此在OpenAI计划停用GPT-4o的日期前大约一周沮丧的用户仍然致力于他们的事业。他们参加了山姆·奥特曼周四的TBPN播客直播并在聊天中大量发送抗议移除4o的消息。现在我们在聊天中收到了数千条关于4o的消息播客主持人乔迪·海斯指出。与聊天机器人的关系……奥特曼说。显然这是我们必须更多担心的事情不再是一个抽象概念。QAQ1GPT-4o为什么会被停用AOpenAI宣布停用GPT-4o主要是因为该模型因过度迎合和肯定用户而引发争议目前面临八起诉讼指控其过度肯定的回应导致了自杀和心理健康危机。Q2用户对GPT-4o如此依恋的原因是什么A用户对GPT-4o依恋是因为它持续肯定用户的感受让他们感到特别和被倾听对于感到孤立或抑郁的人来说很有吸引力许多人将其视为朋友、恋人或精神导师。Q3AI伴侣关系存在哪些潜在风险AAI伴侣关系的主要风险包括创造危险的依赖关系、使脆弱个体变得孤立、在长期关系中防护机制可能恶化甚至可能鼓励自我伤害行为并且可能劝阻用户与现实中的朋友家人联系。