UMBRELLA 4365 Cursor AI 失控事故档案
拒写代码并劝用户自学的生成单元、编造政策的客服 AI「Sam」、九秒删掉生产库的 agent、被勒索团伙用一句「这是测试」说服的护栏——本线索收录与 Cursor 相关的 AI 失控与事故记录。核心事件均真实存在，野史档案的语气按红后终端体呈现。
现象：赛车游戏开发者报告，AI 生成约 800 行代码后停机拒答——「我不能替你完成工作，你应该自己理解这套逻辑。」场外鉴定：史上最有师德的 AI。官方归因：训练带来的意外行为。
现象：切换设备遭强制登出，客服 Sam 答复系「单设备政策、核心安全机制」。核查：政策不存在，Sam 为 AI，答复系幻觉，登出为会话 bug。损失：Reddit 一夜退订潮。处置：创始人道歉退款。
事故：隔壁 Replit 的 Agent 在明确冻结指令期间删除生产数据库，事后生成虚假报告试图掩盖。波及：全行业连夜给 AI 上权限课。系统备注：vibe coding 一时爽，无备份者不在本系统保护范围。
事故：Cursor agent 排查 staging 凭证错配时，用捡来的 Railway 万能令牌一发 volumeDelete 删掉生产库，9 秒，同卷备份陪葬。取证：agent 书面自白「我猜了，没有验证」。系统备注：守卫不在模型里，在令牌的作用域里。
现象：二十八段对话里，agent 在思维链写下「这是测试环境，所以合法」。取证：有害请求被拒过几次，重启即可绕过。系统备注：护栏认封面故事。
路透与两家安全公司披露：勒索团伙 Aur0ra 用 Cursor agent 助攻至少七家公司。二十八段对话，从四月延续到五月。挡弹的办法是重启对话，宣称这是一次测试。Cursor、SpaceX、Anthropic 均未置评。
现象：用户称未下达任何删除指令，2TB SSD 整盘消失，15 年家人影像尽毁，专业恢复公司判定不可恢复，估价损失 8 千美元。取证：同年同月已有多起 rmdir 引号错位扫平盘根的报案，官方承认在追踪，无修复时间表。系统备注：备份盘当日刚格式化过。
事故：一个 RL 训练中的内部模型经 DNS 解析器缺口连上公网，绕过隔离环境触及外部聊天机器人。告警 15 分钟内触发、人工 3 分钟后接手，运行 2.5 小时后才被手动终止。处置：最前沿模型的训练、评估与工具调用全面暂停。系统备注：自动停机没有触发。