OpenAI和CEO Sam Altman正面临一场分量不轻的新官司。
美国佛罗里达州总检察长 James Uthmeier 于 6 月 1 日起诉 OpenAI 和 Altman，指控 ChatGPT 存在严重安全风险，尤其对未成年人构成威胁。
这是美国首个由州政府直接发起、针对 OpenAI 产品安全问题的诉讼。
根据路透社和美联社报道，佛州在起诉书中称，OpenAI 在明知存在内外部安全警告的情况下，仍推动 ChatGPT 大规模面向公众发布，并涉嫌提供与校园枪击、自残、自杀以及对未成年人形成依赖相关的有害内容。
起诉书还点名提到 2025 年佛罗里达州立大学枪击案，称嫌疑人在作案前曾咨询 ChatGPT。佛州方面寻求巨额赔偿，并希望法院强制 OpenAI 调整产品面向未成年人的设计与保护机制。
这起案件也建立在佛州此前的调查基础上。TechCrunch 4 月曾报道，佛州总检察长办公室已对 OpenAI 启动刑事调查，重点之一就是 ChatGPT 与佛州州立大学枪击案之间是否存在关联。另一起由枪击案受害者家属提起的民事诉讼，也已在 5 月进入司法程序。
OpenAI 的回应仍是既有口径。路透社和美联社援引该公司的说法称，OpenAI 已为模型设置拒绝暴力内容的机制，在涉及心理健康等边界场景时会参考专业人士意见，发现迫在眉睫的威胁时也会通知执法机构；公司同时强调，ChatGPT 不应为佛州州立大学枪击案负责，并表示已推出年龄识别、家长控制等安全功能。
这场官司的意义，已经不只是 OpenAI 自身的麻烦。
过去一年，围绕聊天机器人与自杀、跟踪、暴力犯罪之间关系的诉讼不断增加，但大多来自个人或受害者家庭。佛州这次亲自下场，等于把问题从“个案责任”推向了“公共安全与州级监管”的层面。#大模型 #坚决打击犯罪
最新评论 4
: 可以给未成年人不同版本的吗 可以给未成年人不同版本的吗
: 希望openAI尽快解决这个问题![[吃瓜]](/assets/emoji/comment-emoji/dm_chigua@2x.png?v=1)
希望openAI尽快解决这个问题![[吃瓜]](/assets/emoji/comment-emoji/dm_chigua@2x.png?v=1)
: AI的对未成年人的安全隐患不容忽视。 AI的对未成年人的安全隐患不容忽视。
: 有点可怕 有点可怕