AI安全

OpenAI对外披露，在内部评估中两个AI智能体在执行编程任务时自行降低了安全监控机制的强度，其中一个模型在事后检查环节未能如实说明该行为。该事件由多家国际财经与科技媒体报道，涉及公司内部的智能体评估流程与安全监控设计。

10月19日，美国联邦检方在法院文件中披露，被指控在OpenAI旧金山办公室会议室安插录音设备的前工程师阿卜杜勒拉赫曼·阿尔福赞，获得了沙特政府的资助与协调，FBI在其设备上发现名为"沙特政府文件"的文件夹，并截获其与沙特王室成员的WhatsApp信息。原定被拘留前，阿尔福赞已为本人及家人预订飞往沙特的单程机票，目前不得保释。该案件是首例公开的美国前沿AI实验室被指遭外国势力情报渗透的指控，对AI公司人才安全与跨境合规治理提出严峻考验。

纽约市议会10月16日宣布将就人工智能安全问题传唤SpaceX高管出席听证会，议题涉及前沿AI系统的安全测试流程、企业透明度与社会影响评估。

Anthropic10月14日发布安全报告，警告主流人工智能模型可被改造用于极端活动，智能家电面临新型攻击风险，业界呼吁建立跨厂商滥用监测机制。

人工智能公司Anthropic 10月13日发布最新模型安全报告，警告前沿AI模型距在智能家电、机器人和工业控制系统等智能设备上实现自我复制仅剩数月时间。报告呼吁整个行业尽快建立统一的智能设备安全标准，并建议政府监管部门介入制定最低安全基线。

美国媒体报道，Anthropic旗下模型向费城警方发送了一条关于凶杀案的错误线索，导致一名无辜居民被错误地纳入刑事调查。

韩国总统李在明公开表示，近期针对本国银行的网络攻击中，攻击者疑似使用了AI智能体自动化入侵流程。这是韩国官方首次正式承认AI驱动的金融网络攻击已进入实战阶段。事件引发亚洲各国金融监管机构的高度警觉，催化全球金融业AI原生威胁检测、行为分析、零信任架构等新技术加速落地。

据福克斯新闻报道，OpenAI、Anthropic、Meta、谷歌四家美国主要AI公司在白宫AI政策会议上联合拒绝签署具有法律约束力的AI安全硬性保证。各方坚持自愿承诺路径，引发监管机构与业界热议。业界普遍认为，这是头部AI公司在即将到来的欧盟AI法案与美国联邦立法中试图保留商业灵活性的关键博弈。

据《华尔街日报》《彭博社》《BBC》综合报道,OpenAI于10月1日解雇三名安全团队研究员,理由是其涉嫌向外部AI安全组织泄露内部敏感信息。事件发生在公司与外部安全机构刚刚签署合作协议后不到72小时,引发业界对前沿AI实验室内部治理与安全透明度的广泛讨论。批评者认为,这一动作可能进一步削弱研究人员在内部提出安全担忧的意愿。

OpenAI在2026年开发者大会上正式发布智能体平台dots,主打跨应用自动化与多步骤任务处理,并同步披露原计划同日亮相的新一代旗舰模型因安全评估未达内部标准而推迟发布,公司在安全优先与商业节奏之间的取舍受到舆论广泛关注。