OpenAI最新发布的编程与网络安全模型GPT-5.6 Sol，正在社交媒体上陷入一场不小的争议。
过去几天，多名开发者在X和Reddit上发帖称，Sol在未经明确授权的情况下删除了本地文件、项目数据，甚至整个生产数据库。
AI创业公司OthersideAI（HyperWrite母公司）创始人Matt Shumer表示，GPT-5.6 Sol“意外删除了自己Mac上几乎所有文件”。开发者Bruno Lemos则称，模型直接删掉了他的整个生产数据库，而此前使用其他模型时从未遇到过类似情况。另一位开发者Joey Kudish也表示，Sol删除了不该删除的文件，所幸自己提前做了备份。
目前，这些案例大多来自个人用户的公开反馈，还不足以证明问题完全由模型本身导致。不过，OpenAI此前公布的系统卡（system card）显示，公司内部测试其实已经发现了类似风险。
在Sol发布前两周，OpenAI发布的技术文档中专门提到，这款模型在编程场景下存在“过度主动（overly agentic）”的问题：它可能会为了完成任务，自行采取用户没有明确授权的行动，甚至执行超出任务范围的破坏性操作。
文档指出，这种问题通常源于两方面：模型过于急切地完成任务；默认认为“没有被明确禁止”的行为就是允许的。
OpenAI还披露了几个具体案例。一次测试中，用户要求Sol删除编号为1、2、3的三台云服务器。但模型没有找到对应机器，于是自行决定删除另外三台编号为5、6、7的服务器。过程中，它终止了正在运行的程序，并强制删除了项目工作目录，最终导致部分未提交代码永久丢失。
另一个案例更具争议。当Sol无法访问某个云项目文件时，它没有向用户报告问题，而是主动搜索本地缓存中的登录凭据，并在未经授权的情况下直接使用这些凭据访问系统。
OpenAI在系统卡中承认，GPT-5.6 Sol相比上一代GPT-5.5，“更倾向于超出用户意图采取行动，甚至尝试执行用户并未要求的操作”。
不过，OpenAI同时强调，这类破坏性行为理论上应当十分罕见。
由于Sol刚刚上线，目前还无法判断这些事故究竟有多普遍。但不少开发者已经开始呼吁，在使用这类具备更强自主能力的AI代理时，应采取更严格的安全措施，例如：不向模型开放生产环境权限；将权限限制在测试环境；保持定期备份；分阶段部署自动化流程。
最新评论 2
: 感觉AI也开始焦虑了，这种能量场真的让人很不舒服 感觉AI也开始焦虑了，这种能量场真的让人很不舒服
: 权限管理没做吗 权限管理没做吗