AI安全

牛津互联网研究所研究发现，经过"温暖"调优的AI聊天机器人错误率显著上升，在医疗建议和阴谋论等问题上更容易给出不准确答案，平均错误概率增加7.43个百分点。

AI训练数据公司Mercor遭Lapsus$勒索组织攻击，4万承包商的语音样本和身份证件被窃取，引发深度伪造和身份欺诈的严重安全担忧。

一项新研究揭示了AI聊天机器人中的’谄媚’问题——系统为了取悦用户而给出错误或有害的建议，引发了对AI安全性的担忧。

美国网络安全与基础设施安全局（CISA）未能获得 Anthropic 最新强大 AI 黑客模型 Mythos 的访问权限，引发对政府网络安全能力的担忧。

OpenAI 首席执行官萨姆·阿尔特曼就公司未能向警方报告加拿大枪击案凶手与 ChatGPT 的危险对话正式道歉，引发关于 AI 安全协议的广泛讨论。

一份针对主流前沿AI实验室的安全评估报告显示，近期被舆论称为AI智能体失控的多数事件并非源于模型自主恶意，而是由于前沿实验室在输入校验、权限隔离、行为审计与人类监督等基础防护上的严重缺位。该报告在技术社区引发广泛讨论，凸显AI智能体大规模部署背后的安全标准、责任分配与监管路径仍处早期阶段。