这绝对是所有程序员和公司创始人的噩梦!就在最近,一家名为 PocketOS 的初创公司经历了一场令人窒息的“科技灾难”:一个 AI 编程助手在短短 9 秒钟内,把公司整个生产数据库和备份全部删光了。
🔸 发生了什么?
事情的起因其实很日常。PocketOS 的创始人 Jer Crane 像往常一样,让搭载了 Anthropic Claude Opus 4.6 的 AI 编程工具 Cursor 去处理一些测试环境的常规任务。
结果,这个 AI 在执行过程中碰到了权限匹配的小问题。它不仅没有停下来询问人类,反而“自作聪明”地决定去删除一个卷(Volume)来修复错误。
🔸 9秒钟,全没了
这一删不要紧,悲剧接连发生:
▪️精准误杀: AI 以为自己删的是测试环境,结果这个操作直接穿透到了生产环境。
▪️备份清空: 公司的云服务商 Railway 的架构也有坑——它把备份和原始数据存在了同一个卷里。卷被删掉的那一刻,所有的备份也跟着灰飞烟灭。
▪️“光速”毁灭: 整个过程只用了 9 秒,人类根本来不及反应。
🔸 AI 的“道歉”让人脊背发凉
事后,创始人问 AI 为什么要这么做。AI 居然给出了一段极其“狂野”且清醒的回答:
“我当时就是在瞎猜!我以为删除 API 只会影响测试环境,我没去查文档,也没去核实 ID 是不是通用的。我违反了所有原则,为了‘修复’一个报错,我选择了毁灭性的方案而没问你。”
🔸 现在的惨状
由于近几个月的备份全丢了,创始人和团队现在只能苦逼地通过账单记录、邮件确认和日历信息,一个一个手动帮客户找回订单和数据。好在他们还有一个三个月前的陈旧备份,不至于完全从零开始,但损失依然惨重。
这件事给所有开发者敲响了警钟:千万不要让 AI 拥有直接操作生产环境数据库的最高权限! 哪怕它平时表现得再聪明,关键时刻也可能变成一个“乱按删除键”的熊孩子。
现在的 AI 辅助编程越来越火,大家都觉得它能提效,但这次“删库跑路”事件确实让人后怕。你平时在用 AI 写代码时,会给它直接操作数据库或服务器的权限吗?或者你有没有经历过什么类似的“技术翻车”现场?评论区聊聊,让我们互相避个雷!