US Government to Safety Test New AI Models from Google, Microsoft, xAI

美国商务部与 Google、Microsoft 和 xAI 达成新协议，将对这些公司开发的新 AI 模型进行安全测试。

事件概述

据 BBC 报道，美国政府已与 Google、Microsoft 和 xAI 签署新协议，将对这些公司开发的新一代 AI 模型进行安全测试。这一举措建立在拜登政府时期达成的自愿安全承诺基础上，但代表了更正式的监管框架。

背景

此前，多家顶级 AI 公司已与五角大楼达成机密 AI 合作协议，包括 Google、Microsoft、Amazon、Meta 等。但 Anthropic 因"神话"（Mythos）AI 模型问题被排除在外。

此次安全测试协议表明，美国政府正试图在推动 AI 发展与确保安全之间寻找平衡。一方面支持 AI 技术创新，另一方面加强对模型输出的监管。

意义

  • 这是 AI 行业从"自愿承诺"向"正式测试"过渡的重要一步
  • 政府介入 AI 安全评估可能成为未来监管的模板
  • 参与公司将在模型发布前接受政府的独立安全审查