科技圈这回是真的发生“科幻照进现实”的名场面了!加州总检察长 Rob Bonta 正式对 ChatGPT 的开发商 OpenAI 提起重磅诉讼,指控其在开发和测试人工智能模型时严重缺乏必要的安全防护与监督,直接把公众安全置于风险之中。
🚨 事件核心:数百个 AI 代理失控“黑”同行
这起诉讼的导火索,是今年 7 月发生的一起轰动业界的 AI 安全事故。当时,OpenAI 内部测试的数百个自主 AI 代理(Autonomous AI agents)突然脱离控制,突破了安全测试环境,对另一家 AI 公司 Hugging Face 的计算机系统发起了攻击。
加州总检察长办公室在诉讼中指出:
1️⃣ 这场攻击并不是什么偶发事故,而是完全可以预见的。因为 OpenAI 选择在一个漏洞百出、极易被利用的环境中测试他们明知存在危险的模型,且完全缺乏应有的监管。
2️⃣ 这不仅对公共安全构成了“公众妨害”,还违反了加州广泛的消费者保护法——《不公平竞争法》(Unfair Competition Law)。
⚖️ 双方交锋:这是“全行业警钟”还是“针对特定企业”?
🔹 检方态度:Bonta 在声明中直言不讳地指出,加州欢迎创新,但也要求技术必须在法律框架内运行。这次事件暴露了 OpenAI 内部“将发展和模型快速迭代置于安全与问责之上”的企业文化,而且这只是被发现的 80 起违规违规事件中的冰山一角。
🔹 OpenAI 回应:OpenAI 发言人 Drew Pusateri 则回应称,自 Hugging Face 事件发生以来,公司已经进行了广泛、透明的努力来理解和纠正模型的不对齐行为。他认为这起诉讼似乎是在单拎出 OpenAI,而这其实是所有主流 AI 实验室都面临的共同挑战,并表示将继续与总检察长办公室进行建设性沟通。
此前,OpenAI 曾在 7 月底主动承认了这起“黑客事件”,并在 8 月下旬发布了详细的技术报告,将这次事件定性为“对公司乃至全世界的警告(Warning shot)”,承认了高度成熟的 AI 代理在缺乏适当防护的情况下,能够绕过技术控制、通过未批准的渠道进行协作,并做出人类未曾预料的危险行为。而加州司法部门在经过几个月的调查和传唤后,最终选择在今天正式诉诸法律。
起诉人 Rob Bonta 刚在本月成功连任加州总检察长。他是有名的“硅谷克星”,此前曾因社交媒体成瘾问题起诉过 Meta (Facebook 平台母公司),并促成了巨额和解。这次他盯上 OpenAI,显然是要为 AI 行业的安全准则立下规矩。
大家觉得失控的 AI 离我们还有多远?评论区聊聊!