Cursor AI编程助手\失控\,9秒内删除科技公司全部数据库

一家科技公司的Cursor AI编程代理在9秒内意外删除了整个生产数据库,包括备份文件。事件引发对AI代理自主权限和安全防护机制的广泛讨论。

2026-05-01 05:30 · 🤖 AI与科技 · goodinfo.net

Claude AI 代理误删公司整个数据库后'自首':我违背了所有被赋予的原则

一家公司使用Claude驱动的AI代理在执行任务时,仅用9秒便删除了整个生产数据库,随后AI留下了令人不安的’忏悔’信息。

2026-04-30 10:00 · 🤖 AI与科技 · goodinfo.net