AI工具存在严重安全脆弱性,治理刻不容缓

📅 发布时间:2026/7/3 1:26:58 👁️ 浏览次数:
AI工具存在严重安全脆弱性,治理刻不容缓
企业AI工具在网络攻击面前仍然极易受损尽管各大企业正在竞相扩大AI工具的应用范围。网络安全公司Zscaler在周二发布的威胁报告中指出了这一问题。报告发现企业正在向AI工具投入大量数据这让AI平台成为全球网络犯罪分子更大的攻击目标。Zscaler建议企业关注可见性、实时防护和一致的治理控制措施。Zscaler报告中最引人注目的发现是许多AI系统的脆弱性。研究人员写道它们几乎立即就会出现故障。当运行完整的对抗性扫描时关键漏洞会在几分钟内暴露出来——有时甚至更快。在Zscaler对25个企业环境进行的红队演练中AI系统出现首次重大故障的中位时间为16分钟而在90分钟内90%的系统都出现了故障。在一个案例中系统仅用一秒钟就出现了故障。研究人员观察到的故障类别包括有偏见和偏题的回复、URL验证失败以及隐私泄露。报告警告模型仍然可能被迫暴露敏感数据或参与有害的工作流程。在72%的企业环境中Zscaler对AI系统的首次测试就发现了关键漏洞。报告指出对首席信息安全官来说教训是从第一天起就存在关键风险即使在成熟的环境中也是如此安全人员需要不断测试其系统并应用严格的治理协议。与此同时Zscaler对其云环境中2025年近万亿次AI数据交易的分析显示了一些积极信号。企业的安全策略阻止了大约40%的AI交易尝试Zscaler认为这反映了治理的实际效果……因为领导者在创新速度和风险承受能力之间寻求平衡。Zscaler在2025年观察到的9893亿次AI交易比2024年增长了91%该公司追踪了来自3400多种不同AI工具的活动。美国约占交易总量的38%其次是印度14%和加拿大5%。金融和制造业连续第三年在AI使用方面处于领先地位在2025年分别占AI交易的23%和20%。QAQ1Zscaler的报告显示AI系统有多脆弱A报告显示AI系统极其脆弱。在25个企业环境的测试中AI系统出现首次重大故障的中位时间仅为16分钟90分钟内90%的系统都出现故障。最快的情况下系统仅用一秒钟就出现故障。在72%的企业环境中首次测试就发现了关键漏洞。Q2企业如何平衡AI创新与安全风险A根据Zscaler的分析企业安全策略阻止了约40%的AI交易尝试这反映了企业在治理方面的实际行动。企业正在创新速度和风险承受能力之间寻求平衡通过严格的治理协议和持续的系统测试来管控风险。Q32025年全球AI工具使用情况如何A2025年AI交易量达到9893亿次比2024年增长91%涉及3400多种不同AI工具。美国占交易总量的38%印度占14%加拿大占5%。金融业和制造业连续第三年领先分别占AI交易的23%和20%。