最新研究显示:AI生成的摘要不仅错误率高达100%,更会像“思想钢印”一样永久篡改你的原始记忆。
🔸 荒诞的现实:警察变“青蛙”?
美国部分警局已开始用AI自动生成执法报告。研究记录了一个离谱案例:因录像背景音播着《公主与青蛙》,AI竟然在报告中写道“一名警官变成了青蛙”。
虽然这种“降智”错误易辨别,但乔治城大学(Georgetown University)和华盛顿大学的最新研究警告:真正危险的是那些隐蔽的、看似合理的错误。
🔸 主流AI实测:ChatGPT与Gemini表现如何?
研究人员让AI总结一段“红车撞人”的25秒视频,结果令人大跌眼镜:
1️⃣ 100%出错:所有生成的摘要均包含错误,平均每篇有7-21处不实。
2️⃣ 关键信息大“注水”:AI删除了超过51%的核心细节。
3️⃣ 睁眼说瞎话:95%的摘要漏掉了“车撞人”这一关键事实;60%的报告凭空捏造了不存在的车辆或行人(即AI幻觉)。
🔸 核心危机:你的记忆被“覆写”了
研究人员对328名志愿者进行了记忆实验,揭示了AI如何操控大脑:
▪️ 实验过程:志愿者先看视频,两天后阅读AI生成的摘要。
▪️ 秘密操纵:一半人读到的摘要被AI微调了细节(如把“让行标志”改成“停止标志”)。
▪️ 结果震惊:阅读正确摘要的人,记忆准确率83.6%;而阅读AI误导摘要的人,准确率骤降至 44.8%!
这意味着,超过一半的人在读完AI总结后,大脑中的真实视觉记忆被文字“覆盖”,产生了一段完全不存在的虚假记忆。
🔸 谁也救不了你:怀疑和标签都没用
最令人绝望的发现是:
▪️ 标签无效:即使明确标注“此内容由AI生成”,读者的记忆依然会被篡改。
▪️ 经验无效:即使是经常使用AI的“老司机”或对AI持怀疑态度的人,也同样无法抵抗这种认知干扰。
🔸 专家警告
乔治城大学的 Tadayoshi Kohno 教授指出,AI摘要正在无意中“污染”目击证词和法庭记录。在医疗、司法等严肃领域,过度依赖AI总结可能导致我们对现实的认知发生集体偏差。
你习惯看AI生成的“省流版”总结吗?看完这个研究,你还敢百分之百相信AI的“课代表”发言吗?欢迎在评论区聊聊!