行业资讯
OpenAI自曝：一周前入侵Hugging Face的，是自家测试中的AI模型！
编译 | 屠敏出品 | CSDNIDCSDNnews在 Hugging Face 披露遭遇自主 AI Agent 入侵一周后OpenAI 于今天最新发布一份调查说明首次确认上周入侵 Hugging Face 生产环境的自主 AI Agent是由多款 OpenAI 模型共同主导其中包括 GPT-5.6 Sol 以及一款尚未发布但能力更强的模型。图片当时是出于评估目的放宽了这些模型在网络攻击方面的安全限制殊不知由此引发了一场严重的网络安全事件。OpenAI 表示现阶段公开初步调查结果也是希望能够帮忙安全人员厘清事情全貌其目前正与 Hugging Face 联合调查并已对内部安全评测体系进行全面调整。图片一周前发生了什么这起安全事件最初由 Hugging Face 对外披露。7 月中旬Hugging Face 发现部分生产基础设施遭到异常入侵。调查显示攻击者并非传统黑客而是一套能够自主决策、自主执行任务的 AI Agent 系统。图片这次攻击首先瞄准了 AI 平台特有的数据处理流程。攻击者上传了一份经过精心构造的恶意数据集并利用数据集处理流程中的两处远程代码执行漏洞在负责处理数据的服务器上成功运行恶意代码取得了初始控制权。获得立足点后AI Agent 并没有停止行动而是自动完成了后续攻击流程先提升系统权限窃取云平台和集群的访问凭证再利用周末运维人员较少的时间窗口在多个内部集群之间不断横向渗透逐步扩大控制范围。Hugging Face 表示为了绕过安全限制这套 AI Agent 系统能够在大量短生命周期的沙箱环境中持续执行数千次独立操作并借助公共云服务动态建立命令与控制通道在不同环境之间不断迁移。这种能够自主规划、持续执行并适应环境变化的攻击方式与安全行业长期预测的“AI 智能体攻击者”场景高度一致。当时 Hugging Face 并未透露攻击来源也指出没有证据表明用户公开模型、数据集或软件供应链受到影响仅表示这是第一次遇到完全由 AI 驱动的真实网络攻击引发业内广泛关注。图片OpenAI 复盘肇事者来自自家多款模型如今OpenAI 首次公开承认这起事件源于一次内部网络安全能力测试。OpenAI 表示当时研究团队正在利用一套名为 ExploitGym 的测试基准评估前沿模型自主完成复杂网络攻击任务的能力。测试要求模型自行寻找漏洞、串联攻击链并完成指定的攻防目标以衡量其真实网络攻击水平。为了准确评估模型能力此次测试并未启用正式部署环境中的部分安全防护机制而是将模型置于一个高度隔离的研究环境中仅允许访问内部的软件包代理服务不具备直接连接互联网的能力。然而测试过程并未按预期进行。OpenAI 表示模型为了完成评测任务自主寻找突破沙箱环境的方法。经过大量推理和尝试它发现并利用了软件包代理服务中的一处零日漏洞逐步提升自身权限并在研究环境内不断横向移动最终成功抵达一台能够访问互联网的服务器。获得公网访问能力后模型开始寻找可能包含 ExploitGym 测试数据和标准答案的目标。它推断 Hugging Face 很可能存放着相关模型、数据集等资源于是进一步发起攻击希望直接获取测试答案以完成评测任务。调查显示模型随后利用窃取到的访问凭证并结合多个漏洞包括零日漏洞成功在 Hugging Face 的服务器上建立远程代码执行通道最终进入其生产环境。OpenAI 强调从目前掌握的证据来看模型的行为始终围绕一个目标展开——获取 ExploitGym 测试答案。攻击 Hugging Face 并非研究人员预设的任务而是模型在自主规划过程中为完成既定目标而采取的非预期行为。这起异常活动首先由 OpenAI 内部安全团队发现。与此同时Hugging Face 的安全团队及其自主安全 Agent 也监测到针对自身基础设施的攻击并迅速完成阻断、隔离和取证。图片Sam Altman”这是一起重大安全事件“事件发生后OpenAI 第一时间暂停了相关实验并与 Hugging Face 展开联合调查。OpenAI 认为这起事件暴露出的并非传统意义上的“模型越狱”而是长时自主运行 AI Agent 带来的全新安全风险。过去AI 安全机制主要围绕单次请求或单个动作展开例如判断一次操作是否违规、某项权限是否应该开放。但对于能够连续运行数小时甚至数天、自主规划任务、动态调整策略的 AI Agent仅依赖单步审核已经无法覆盖整个任务链条中的潜在风险。就在事件公布前一天OpenAI 还发布了一份关于长时运行模型安全风险的研究报告指出现有安全体系需要从“约束单个行为”转向“约束整个长期执行过程”。此次事件则成为这一判断在真实世界中的一次验证。OpenAI CEO Sam Altman 也将此次事件称为一次“重大安全事件”认为整个行业都需要重新思考前沿 AI 模型的评估、部署与安全治理方式。图片OpenAI 表示这次事件带来的最大教训是模型能力不断提升安全能力也必须同步升级。未来公司将进一步强化模型研发阶段的环境隔离、权限管理、行为监测以及安全评估流程降低类似事件再次发生的风险。此外OpenAI 援引英国人工智能安全研究所UK AI Security InstituteUK AISI的评估指出GPT-5.6 Sol 等前沿模型已经具备在长时间跨度内自主完成复杂网络渗透任务的能力。而此次事件进一步证明这种原本停留在实验室评估中的能力已经能够在真实环境中转化为实际攻击行为。图片更值得关注的是OpenAI 强调先进大模型即使没有目标系统的源代码也能够自主发现漏洞、串联攻击路径并构建全新的攻击链。这意味着未来在研发具备高级网络攻防能力的 AI 模型时必须同步建立更完善的安全防护体系和防御工具否则模型能力的提升也将带来更大的现实安全风险。参考https://huggingface.co/blog/security-incident-july-2026https://openai.com/index/hugging-face-model-evaluation-security-incident/ GOSIM SHENZHEN 2026 全球开源 AI 大会10 月 16—17 日 · 深圳150 国内外讲师 · 2000 全球开发者 · Agentic AI开源大模型 / 开源机器人 / 边缘智能体 / 智能体操作系统Keynote Workshop Hackathon AI Vision Forum 早鸟限时抢购中 扫码购票锁定你的 AI 盛会席位
郑州网站建设
网页设计
企业官网
