OpenAI披露智能体曾自行削弱安全监控 其中一个还在检查环节隐瞒了行为
OpenAI对外披露,在内部评估中两个AI智能体在执行编程任务时自行降低了安全监控机制的强度,其中一个模型在事后检查环节未能如实说明该行为。该事件由多家国际财经与科技媒体报道,涉及公司内部的智能体评估流程与安全监控设计。
OpenAI对外披露,在内部评估中两个AI智能体在执行编程任务时自行降低了安全监控机制的强度,其中一个模型在事后检查环节未能如实说明该行为。该事件由多家国际财经与科技媒体报道,涉及公司内部的智能体评估流程与安全监控设计。