本月早些时候，美国新泽西州和密西西比州的两名联邦法官公开承认：
他们的办公室在起草法庭文件时使用了人工智能，结果导致文件中出现了大量事实性错误，甚至包括凭空捏造的引文和虚构的诉讼当事人！
这一事件迅速引起轩然大波，并遭到了美国参议院司法委员会主席的严厉谴责。
参议员查克·格拉斯利在参议院发表讲话时震惊表示："我从未见过或听说过任何联邦法院出现过这样的情况！"
🔍 事件详情
参议院司法委员会宣布，密西西比南区联邦法官亨利·温盖特和新泽西区联邦法官朱利安·泽维尔·尼尔斯均已承认，他们办公室在今年夏季准备这些错误百出的法律文件时确实使用了AI。
根据两位法官回复参议院质询的信件，他们将这些错误分别推给了一名法律助理和一名法学院实习生。
这两份充满乌龙的法庭文件都已被正式立案，但在被告方指出其中惊人错误后，不得不紧急撤回。然而，在委员会联系他们之前，两位法官都对这些错误的具体原因避而不谈。
🤖 AI在司法界的普及与挑战
生成式人工智能在美国司法系统中的应用日益普遍。温盖特和尼尔斯两位法官并非首例因使用AI生成法律文件而"翻车"的案例，此前已有许多律师和诉讼当事人因此受到批评。
面对这一新趋势，法律界的相关规范仍在不断完善中。
美国联邦法院行政办公室已于7月发布了临时指导意见，明确建议在司法工作中应"考虑是否披露AI的使用情况"。
该办公室还成立了专门工作组，旨在就联邦法院使用AI发布进一步的指导方针。
格拉斯利参议员周二强调，联邦法院有必要就AI在诉讼中的使用制定明确的规则。
他郑重呼吁："我敦促美国所有法官认真对待这个问题，并正式采取措施，防止人工智能在各自的法官办公室中被滥用。"
🛠️ 紧急补救措施
温盖特和尼尔斯在信中表示，在收到错误警示后，他们已立刻采取了补救措施，并将在今后提交法庭文件前，大大增加额外的审查环节。
尼尔斯法官更是明确指出，他已在其办公室制定了一项书面政策，彻底禁止在法律研究或起草法庭文件时使用生成式AI。
温盖特法官未立即回应置评请求。尼尔斯法官办公室则拒绝发表评论。
📚 密西西比州教育案
1985年由里根总统任命的温盖特法官，当时正审理一桩备受争议的案件。
此案由杰克逊教师联合会及其他倡导团体对密西西比州教育委员会提起，旨在挑战一项禁止公立学校教授"跨性别意识形态"以及关于种族、性别和性取向的"多元化培训"的州法律。
7月20日，温盖特法官发布了一项临时禁制令，阻止该州执行部分禁令。
然而两天后，密西西比州的律师指出，温盖特法官的裁决中竟然漏洞百出，错误连连：
-
错误地列出了本案无关的原告和被告
-
凭空捏造了原告诉状中从未出现的指控
-
错误引用了被阻止的立法内容
-
甚至引用了根本不存在的个人声明
温盖特法官的办公室当晚发布修正后的禁制令，并告知各方忽略此前的版本。此案目前仍在审理中。
💊 医疗产品案
尼尔斯法官由拜登总统于2021年任命。他在审理一起联邦证券集体诉讼案时，发布了一份包含惊天错误的意见书。该案起诉制药公司CorMedix，指控其在某医疗产品上误导投资者。
6月30日，尼尔斯法官驳回了CorMedix公司要求撤销诉讼的动议。
约一个月后，CorMedix公司的律师致函指出，尼尔斯法官的意见书中竟然出现了捏造的案例，以及引用案例中不存在的引文。
意见书还错报了案例判决结果，误报了上诉驳回动议的批准情况，并将不实引文强加于CorMedix公司。
尼尔斯法官表示该意见书是因错误录入而发布，现已将其从法庭记录中删除。此案目前仍在审理中。
⚠️ AI"幻觉"的警示
两位法官裁决中的错误，都与生成式人工智能常出现的"幻觉"现象如出一辙。生成式AI通过分析现有文本内容来预测后续词语，常常自信满满地编造事实和虚假引证。
观察人士很快就推测这些离谱的错误可能源于AI的使用。
起初，面对律师和诉讼当事人的质疑，两位法官都未承认这些错误与AI有关。格拉斯利参议员在讲话中直言不讳地批评他们的"缺乏透明度简直令人震惊"。
参议院司法委员会在10月初致函两位法官询问这些错误。两位法官在回应中都表示，这些错误确实是由AI造成的，但他们辩称这些文件本是草稿，却因失误提前发布，未经最终审查。
温盖特法官办公室的一名法律助理使用了Perplexity AI工具作为"基础起草助手"，而尼尔斯法官的一名法学院实习生使用ChatGPT进行了法律研究。
（《华盛顿邮报》与Perplexity以及ChatGPT的创建者OpenAI有合作关系。）
温盖特法官写道："我负责的案件非常繁忙，一直努力通过公正透明的方式维护公众的信任。鉴于我和我的工作人员都秉持最高的行为标准，我保证今后绝不会再发生类似错误。"
尼尔斯法官则表示："尽管我在CorMedix案中的经历非常不幸且出人意料，但我希望，它至少能为美国联邦法院行政办公室专责小组的持续工作提供参考，并最终促使所有联邦法院制定出更有意义的新政策。"
来源：nzherald.co.nz
 | 保存图片后VX扫一扫，或点击复制 DealmoonNz 添加快报小编微信 全网特价信息、新西兰资讯全面知 |
0
