Anthropic 紧急暂停 Claude Fable 5 和 Mythos 5 模型 政府发现越狱漏洞
核心摘要 Anthropic 公司于 6 月 13 日紧急暂停了其最新 AI 模型 Claude Fable 5 和 Mythos 5 的所有客户服务,原因是美国政府国家安全机构发现存在"越狱"漏洞。该公司声明称,此举是为确保合规而"突然禁用"所有客户的访问权限。这是 Anthropic 与特朗普政府持续冲突的最新进展,此前五角大楼已将该公司列为"供应链风险"。 事件详情 Anthropic 在官网声明中表示,美国政府以国家安全为由,要求暂停所有外国国民使用 Claude Fable 5。该公司称:“这一指令的实际效果是,我们必须突然为所有客户禁用 Fable 5 和 Mythos 5,以确保合规。” Anthropic 解释称,美国政府认为已发现一种绕过或"越狱"Fable 5 安全限制的方法。越狱是指突破软件安全限制,允许黑客访问敏感信息或解锁受限功能的过程。 该公司表示:“我们审查了使用这种特定技术识别少量先前已知的轻微漏洞的演示。这些漏洞看起来相对简单,我们发现其他公开可用的模型无需绕过即可发现它们。” 全景透视 这一事件标志着人工智能安全监管进入前所未有的紧张阶段。Anthropic 在发布 Fable 5 前曾自豪地宣称该模型"太强大而不能发布",并实施了多项安全防护措施。然而,英国政府 AI 安全研究所的测试显示,该模型能够 73% 的情况下突破防御系统,这表明即使是顶尖 AI 公司的安全防护也存在重大漏洞。 更深层的问题在于,这不仅是技术安全问题,更是政治博弈。Anthropic 与特朗普政府的冲突已升级为法律诉讼:五角大楼首次将一家美国公司公开列为"供应链风险"——这一标签历史上仅用于敌对国家的企业。Anthropic 正在起诉五角大楼,美国法官已裁定五角大楼的指令在诉讼期间不可执行。 欧盟对此事迅速作出反应,强调这进一步凸显了"欧洲对技术主权的迫切需求"。欧盟委员会本月刚宣布措施,旨在大幅减少 27 国集团在包括 AI 在内的关键技术领域对美国和亚洲的依赖。 伦敦大学玛丽女王学院负责任 AI 教授 Gina Neff 警告称,限制模型访问可能阻碍这些 AI 系统的安全测试和开发,并限制与全球政府的合作。她表示:“我们正处于未知领域。AI 行业内的人士一直警告我们,这些工具正在非常迅速地变得更好,我们必须建立能力来保护我们的公司免受网络攻击。” 多方观点比对 Anthropic 立场:公司强调其安全防护措施,声称已发现的漏洞"相对简单"且其他模型也能发现,暗示政府的担忧被夸大。 美国政府立场:以国家安全为由实施严格管控,将最先进 AI 模型视为与军事技术同等重要的战略资产。 欧盟反应:将此事件视为减少对美国技术依赖的佐证,加速推进技术主权战略。 ...