佛罗里达州棕榈滩县近日处理了一起备受关注的案件。25岁的前高盛金融分析师周某（Darren Zhou）被控利用ChatGPT策划绑架、性侵并杀害前女友。
万万没想到的是，这起案件并不是受害人先报案的，而是由OpenAI向FBI举报的。
事情要从周某和21岁前女友分手说起。在分手后，他开始疯狂给前女友打电话、发短信、换不同号码骚扰，甚至在对方明确要求不要再联系后仍然继续。更夸张的是，他还把自己的暴力计划告诉了ChatGPT。
根据法庭记录，周某在3月份向ChatGPT倾诉分手的事，他详细描述了女友的爱好、常去的地方、他对女友身边其他男性的嫉妒以及想要复合的愿望。然后这些信息很快就演变成强奸、谋杀和谋杀后自杀的威胁。他还告诉ChatGPT准备去前女友常去的健身房等她，如果复合被拒，就对她实施暴力；还多次提到枪支、绑架、性侵以及杀人后自杀。
他甚至告诉ChatGPT：
“我打算在这个月底之前杀了她。”
“如果我得不到她，别人也别想。”
OpenAI随后把相关情况报告给FBI。
今年5月，联邦调查人员把周某这两个月的聊天记录移交给当地警方。警方认为，这些内容并非模糊的情绪宣泄，而是反复出现、越来越具体的“预演和计划”。
于是警方对周某的前女友进行福利检查。
实际上，这段时间女生不断收到大量来自不同临时号码的匿名恐吓短信。其中一些短信涉及性暴力和死亡威胁，还有一次，对方直接发来了女生当时所在地方的地点名。这让警方认为，对方不仅知道她在哪里，而且可能正在跟踪她的行踪。
警方随后把女子收到的匿名短信与 ChatGPT 相关记录进行交叉比对，最终认定周某就是发短信的人，并认为他的行为构成了可信的现实威胁。
女生后来告诉警方，她其实一直很害怕周某，但此前没有选择报警，一方面是不希望刺激他、导致情况进一步升级，另一方面则是因为自己仍然在乎他。
警方最终将周某逮捕，并控告他犯有严重跟踪罪、书面杀人威胁罪和非法使用手机罪，这些重罪最高可判处25年监禁。他在监狱呆了两天后，交了10万美元保释金后获释。
8月13日，周某与检方达成了认罪协议，对三项指控均认罪，而他则可免于牢狱之灾和重罪指控。法官判他8年缓刑，前两年佩戴电子脚环，同时必须接受施暴者干预项目和心理健康评估，不能碰毒品、酒精和枪支，也不能再联系前女友。
法官在庭上还直接教育他：“忘了她，继续生活。世界上还有其他人。”
检方表示，之所以接受这样的协议，是周某的前女友同意的，而且他们综合考虑了证据强度、受害者配合程度、犯罪记录和法律限制等因素。
周某的辩护律师则称这是“极其公平公正的判决”，他指出，周某以优异的成绩毕业于波士顿东北大学，且此前没有任何犯罪记录；而且他聊天中虽然提到拥有枪支，但现实中并没有枪。律师还表示：“他不是个暴力的人，也不是个坏人。他只是经历了一段非常严重的精神健康危机。”
这次AI主动报警拯救受害者，佛州警方也够给力，在事情变到最坏之前就把危险彻底掐断在萌芽里！点赞👍
平时大家使用 ChatGPT，会把它当成什么都不保留的私密树洞吗？看到 AI 主动报警“告密”，你会担心自己的隐私被监控吗？快来评论区聊聊你的看法！
热门评论 1
: 这个文章题目是不是应该改成，ChatGPT成功预防了女子被男友杀害？现有题目好像在给犯罪分子提醒，想犯罪，别和ChatGPT说🥹 这个文章题目是不是应该改成，ChatGPT成功预防了女子被男友杀害？现有题目好像在给犯罪分子提醒，想犯罪，别和ChatGPT说🥹
最新评论 65
: 不是一个暴力的人也不是坏人！ 不是一个暴力的人也不是坏人！
: 这是好事，但是这样是不是代表没有了隐私，Ai会知道你的一切 这是好事，但是这样是不是代表没有了隐私，Ai会知道你的一切
: 股票要跌 股票要跌
: 用户隐私安全是一个巨大的问题 用户隐私安全是一个巨大的问题
: 能阻止犯罪当然好但侵犯隐私又很难评 能阻止犯罪当然好但侵犯隐私又很难评
: 好奇ChatGPT 是怎样报警的呢？ 好奇ChatGPT 是怎样报警的呢？
: “活着长成巨人观的是有点子说法的” “活着长成巨人观的是有点子说法的”
: 虽然正义，但也说明了不隐私性。 虽然正义，但也说明了不隐私性。
: 用戶隱私數據保密協議呢？ 用戶隱私數據保密協議呢？
: 这题目就槽点多得不知如何评价了。25岁前高盛金融分析师。。。好好减个肥，何愁没有女友 这题目就槽点多得不知如何评价了。25岁前高盛金融分析师。。。好好减个肥，何愁没有女友
: 流氓不可怕，就怕有文化。 古人诚不欺我 流氓不可怕，就怕有文化。 古人诚不欺我
: 心理变态的人很可怕 心理变态的人很可怕
: 心情不好时 生活上有各种问题时都会问AI 感觉很多解答都非常好 心情不好时 生活上有各种问题时都会问AI 感觉很多解答都非常好
: 这猪头 这猪头
: 哇靠，居然教还有其他人？祸害下一位啊😧 哇靠，居然教还有其他人？祸害下一位啊😧
: 我有一次出二手的时候，有个老太太说自己在旅行中，转账给了我50刀预留一件家具，等她回来以后我联系她取货，她说尺寸太大了她不要这个家具了，前提是我在商品描述中写明了详细尺寸，她自己没看见。但是她只说不要了，没有提定金的事。我就把这个case问ChatGPT，它就强烈要求我主动跟老太太提退还定金，从法律到人情给我分析一大堆。我好奇心作祟又以买家老太太的身份把这个case又问了它一遍，这次它强烈要求我放弃定金，表示本来我就不占理，怎么能问人家卖家要求退还定金，又从法律到人情给我说一大堆。so…… 我有一次出二手的时候，有个老太太说自己在旅行中，转账给了我50刀预留一件家具，等她回来以后我联系她取货，她说尺寸太大了她不要这个家具了，前提是我在商品描述中写明了详细尺寸，她自己没看见。但是她只说不要了，没有提定金的事。我就把这个case问ChatGPT，它就强烈要求我主动跟老太太提退还定金，从法律到人情给我分析一大堆。我好奇心作祟又以买家老太太的身份把这个case又问了它一遍，这次它强烈要求我放弃定金，表示本来我就不占理，怎么能问人家卖家要求退还定金，又从法律到人情给我说一大堆。so……
: 对 就是这样的。ChatGPT就是在影响人类思维 创造一个和谐的社会。它一面让你退款 一面让老太太放弃退款 结果就是你们互相谦让。。。但是交了50是订金 如果可以退还 那收取定金的意义是什么。。。你当初是不是就不用收订金 也不给预留？![[捂脸哭]](/assets/emoji/comment-emoji/dm_wulianku@2x.png?v=1)
你有没有问问ChatGPT。。。 对 就是这样的。ChatGPT就是在影响人类思维 创造一个和谐的社会。它一面让你退款 一面让老太太放弃退款 结果就是你们互相谦让。。。但是交了50是订金 如果可以退还 那收取定金的意义是什么。。。你当初是不是就不用收订金 也不给预留？ ![[捂脸哭]](/assets/emoji/comment-emoji/dm_wulianku@2x.png?v=1)
你有没有问问ChatGPT。。。
: 第二次问的时候有登录新的账号吗 第二次问的时候有登录新的账号吗
: 谢谢分享 .. 谢谢分享 ..
: 很少用ai,倒是用豆包帮忙修好了电脑![[捂脸哭]](/assets/emoji/comment-emoji/dm_wulianku@2x.png?v=1)
很少用ai,倒是用豆包帮忙修好了电脑![[捂脸哭]](/assets/emoji/comment-emoji/dm_wulianku@2x.png?v=1)
: 豆包就是ai 谢谢！ 豆包就是ai 谢谢！
: 这句话简直槽多无处吐。 这句话简直槽多无处吐。
: 在AI的幫助下，成功地救护了一個無辜的生命，值得點贊👍🏻 在AI的幫助下，成功地救护了一個無辜的生命，值得點贊👍🏻
: 所以用户的个人隐私与数据安全根本就没有真正的法律保障对吗。此前我特意就此类场景向各大主流 AI 产品求证，当时给出的答复均笃定承诺“既不会标注用户敏感信息，亦不会针对潜在违法威胁触发自动报警”。事实证明，AI 甚至连人类的伪装和撒谎本领都完美模仿了。不可相信人类也不可相信 AI. 所以用户的个人隐私与数据安全根本就没有真正的法律保障对吗。此前我特意就此类场景向各大主流 AI 产品求证，当时给出的答复均笃定承诺“既不会标注用户敏感信息，亦不会针对潜在违法威胁触发自动报警”。事实证明，AI 甚至连人类的伪装和撒谎本领都完美模仿了。不可相信人类也不可相信 AI.
回复 @匿名用户 : 凡事皆有利弊。目前国家层级的反恐行动一直享有最高优先级超越个人隐私权，没太大问题。但在普通刑事和民事中任由AI搜集个人信息并有权限自动预警危险，就会引发一系列社会问题。例如报警尺度由谁掌握？如何划分真实意图与好奇心的界限？脑机技术成熟之后，甚至连你一闪而过或者情绪化之下的一个念头都有可能触及报警机制。一旦这种无处不在的监控被公司或政府滥用，就不再是拯救生命，而是对思想自由和隐私的剥夺。这不仅是技术问题，更是对社会制度和文明走向的考验。电影《少数派报告》中早有类似地思考。而现实中美国警察处理家暴和自杀报警事件中不慎造成的悲剧也不胜枚举。AI报警，虚报误报造成后果谁来担责？AI吗？ 凡事皆有利弊。目前国家层级的反恐行动一直享有最高优先级超越个人隐私权，没太大问题。但在普通刑事和民事中任由AI搜集个人信息并有权限自动预警危险，就会引发一系列社会问题。例如报警尺度由谁掌握？如何划分真实意图与好奇心的界限？脑机技术成熟之后，甚至连你一闪而过或者情绪化之下的一个念头都有可能触及报警机制。一旦这种无处不在的监控被公司或政府滥用，就不再是拯救生命，而是对思想自由和隐私的剥夺。这不仅是技术问题，更是对社会制度和文明走向的考验。电影《少数派报告》中早有类似地思考。而现实中美国警察处理家暴和自杀报警事件中不慎造成的悲剧也不胜枚举。AI报警，虚报误报造成后果谁来担责？AI吗？
回复 @匿名用户 : 可这并不是问题的关键。这件事并不是表明AI如何如何 令人担忧的是用户信息被openAI这个公司掌控 并在没有通知用户的前提下 擅自决定如何使用户信息。最新的chatgpt可以连接email，用户银行信息 甚至用户健康医疗信息！如果openAI可以滥用这些信息 那后果不堪设想 可这并不是问题的关键。这件事并不是表明AI如何如何 令人担忧的是用户信息被openAI这个公司掌控 并在没有通知用户的前提下 擅自决定如何使用户信息。最新的chatgpt可以连接email，用户银行信息 甚至用户健康医疗信息！如果openAI可以滥用这些信息 那后果不堪设想