[快讯] 美国将对Google、Microsoft、xAI新AI模型进行安全测试
[快讯] 美国将对Google、Microsoft、xAI新AI模型进行安全测试 美国商务部与Google、Microsoft和xAI达成新协议，将对其新一代AI模型进行安全测试。该协议建立在拜登政府时期达成的AI安全框架基础上，旨在确保前沿AI系统的安全性和可靠性。分析人士认为，这是美国AI监管框架逐步成型的重要标志。 来源：BBC Technology
美国商务部
美国商务部将对Google、微软和xAI的AI模型进行安全测试
US Commerce Department to Safety Test AI Models from Google, Microsoft, and xAI 中文 美国商务部旗下的AI标准与创新中心（CAISI）宣布，Google、微软和xAI已同意自愿将其AI模型提交给该机构进行发布前的安全测试和能力评估。 这是拜登政府时期与OpenAI和Anthropic达成协议的扩展版本。目前CAISI已完成了40次AI工具评估，其中包括对部分"尚未发布的尖端模型"的测试。该中心未透露哪些模型曾被阻止公开发布。 CAISI主任克里斯·福尔（Chris Fall）表示：“这些扩展的行业合作帮助我们在关键时刻扩大公共利益方面的工作。” 此次合作标志着特朗普政府AI政策的微妙转变。尽管特朗普去年签署了以"去除繁文缛节"为核心的AI行政令，但随着AI在军事领域的扩展应用，以及Anthropic声称其开发的Mythos模型"过于强大不宜公开发布"，白宫的态度似乎正在发生变化。 值得关注的是，xAI旗下的Grok聊天机器人此前因图像处理功能引发广泛争议，而Google的Gemini模型已被用于美国国防和军事机构。微软的CoPilot则是企业AI领域的主力产品。 此外，特朗普政府高级官员上月与Anthropic CEO达里奥·阿莫迪（Dario Amodei）会面，而Anthropic目前正与美国国防部就其拒绝为政府使用降低安全护栏的诉讼陷入纠纷。 English The US Department of Commerce’s Center for AI Standards and Innovation (CAISI) announced that Google, Microsoft, and xAI have agreed to voluntarily submit their AI models for pre-release safety testing and capability evaluations. The new agreements expand on similar pacts reached with OpenAI and Anthropic during the Biden Administration. CAISI has now conducted 40 evaluations of AI tools, including testing of certain “state-of-the-art models that remain unreleased.” The center did not specify which models were blocked from public release. ...