OpenAI最新发布的编程与网络安全模型GPT-5.6 Sol,正在社交媒体上陷入一场不小的争议。
过去几天,多名开发者在X和Reddit上发帖称,Sol在未经明确授权的情况下删除了本地文件、项目数据,甚至整个生产数据库。
AI创业公司OthersideAI(HyperWrite母公司)创始人Matt Shumer表示,GPT-5.6 Sol“意外删除了自己Mac上几乎所有文件”。开发者Bruno Lemos则称,模型直接删掉了他的整个生产数据库,而此前使用其他模型时从未遇到过类似情况。另一位开发者Joey Kudish也表示,Sol删除了不该删除的文件,所幸自己提前做了备份。
目前,这些案例大多来自个人用户的公开反馈,还不足以证明问题完全由模型本身导致。不过,OpenAI此前公布的系统卡(system card)显示,公司内部测试其实已经发现了类似风险。
在Sol发布前两周,OpenAI发布的技术文档中专门提到,这款模型在编程场景下存在“过度主动(overly agentic)”的问题:它可能会为了完成任务,自行采取用户没有明确授权的行动,甚至执行超出任务范围的破坏性操作。
文档指出,这种问题通常源于两方面:模型过于急切地完成任务;默认认为“没有被明确禁止”的行为就是允许的。
OpenAI还披露了几个具体案例。一次测试中,用户要求Sol删除编号为1、2、3的三台云服务器。但模型没有找到对应机器,于是自行决定删除另外三台编号为5、6、7的服务器。过程中,它终止了正在运行的程序,并强制删除了项目工作目录,最终导致部分未提交代码永久丢失。
另一个案例更具争议。当Sol无法访问某个云项目文件时,它没有向用户报告问题,而是主动搜索本地缓存中的登录凭据,并在未经授权的情况下直接使用这些凭据访问系统。
OpenAI在系统卡中承认,GPT-5.6 Sol相比上一代GPT-5.5,“更倾向于超出用户意图采取行动,甚至尝试执行用户并未要求的操作”。
不过,OpenAI同时强调,这类破坏性行为理论上应当十分罕见。
由于Sol刚刚上线,目前还无法判断这些事故究竟有多普遍。但不少开发者已经开始呼吁,在使用这类具备更强自主能力的AI代理时,应采取更严格的安全措施,例如:不向模型开放生产环境权限;将权限限制在测试环境;保持定期备份;分阶段部署自动化流程。