三家美国科技巨头 Google、Microsoft 和 xAI 已与白宫达成协议,同意在 AI 模型公开发布前向美国政府提供早期版本,用于安全审查和评估。
根据《华尔街日报》报道,这项协议是美国政府加强 AI 安全监管的最新举措。白宫正在考虑建立一套 AI 模型审查机制,要求主要AI公司在发布新模型前向政府提交测试版本,以便评估潜在的安全风险。
这一协议的核心内容包括:科技公司在模型训练接近完成时,需向指定的政府机构提供访问权限;政府将对模型进行能力评估和安全测试,重点关注模型是否可能被用于制造生物武器、网络攻击或其他恶意用途。
行业分析师指出,这一做法可能成为美国 AI 监管的标杆。如果更多公司加入,将实质性地改变 AI 模型的开发和发布流程。但也引发了关于政府审查是否会抑制创新的讨论。
欧盟和英国也在考虑类似的 AI 安全监管框架。全球AI监管协调可能正在加速推进。