红队测试

一份针对主流前沿AI实验室的安全评估报告显示，近期被舆论称为AI智能体失控的多数事件并非源于模型自主恶意，而是由于前沿实验室在输入校验、权限隔离、行为审计与人类监督等基础防护上的严重缺位。该报告在技术社区引发广泛讨论，凸显AI智能体大规模部署背后的安全标准、责任分配与监管路径仍处早期阶段。