🤖 AI

生成式AI把不存在的判例写进法庭文件,加州检察官办公室接受调查

约3分钟读完 Tiny Why编辑部 · 文:特派员 好奇

词语
生成式AI

根据人的要求生成文字的电脑工具。

人身保护申请

请求法官让被关着的人出来的法律申请。

制裁

法院对违规行为作出的处罚。

发生了什么

美国加利福尼亚州的内华达县地方检察官办公室,负责代表政府起诉刑事案件。过去秋天的约两个月里,检察官用生成式AI起草或校对刑事案件的法庭文件。办公室承认,四起重罪案件的文件出现了与AI使用相符的错误。

这些文件里有不存在的判例引文、虚假的事实,或与真实案件不相符的法律说明。其中一件涉及一份人身保护申请,也就是请求释放一名被关押男子的法律文件。加州上诉法院已经指定一名法官,调查事情经过,并考虑是否处罚地方检察官杰西·威尔逊的办公室。指定调查法官不等于已经认定违规,也不等于处罚已经决定。

争议从哪里来

前副检察官麦迪逊·麦克斯韦在宣誓声明中说,上司在没有书面规则和培训的情况下鼓励使用AI。她还说,自己发现错误后,上司阻止她立即通知法院、辩护律师和被告。这些是麦克斯韦的陈述,目前仍是调查的一部分。

麦克斯韦负责四起案件中的三起,并在2026年5月离开了该办公室。办公室表示,他们检查了大约18个月的案件文件,没有发现四起案件之外还存在更广泛的AI错误模式。不过,公开报道显示,这份内部检查的完整结果是否公开,仍不清楚。

为什么重要

法庭文件不是普通草稿,而是提交给法官参考的正式内容。法律引文用来说明一个观点依据哪条法律或哪个判例。如果引文指向不存在的案件,法官和对方律师就无法核对依据。

这在刑事案件中尤其严重。其中一份文件关系到被关押者能否获释。错误可能影响法院如何看待一个人的自由。检察官代表政府一方行事,因此通常被期待遵守更严格的专业责任。

这起事件也说明,生成式AI能写出通顺的句子,却不会自动保证每个事实和判例都是真的。问题不只在于使用了AI,还在于提交前有没有逐项检查,以及发现错误后有没有及时告知相关人员。

已经确认的情况

内华达县地方检察官办公室已经承认,四起重罪案件出现了与生成式AI有关的错误。2026年1月,加州最高法院要求上诉法院更深入地调查错误范围,以及错误是否影响了案件。最高法院还推翻了一项原本可能保护该办公室、使其免受制裁的下级法院裁定。

内华达县公设辩护人办公室和民权组织 Civil Rights Corps 要求展开更深入的调查。20多名人工智能专家也敦促上诉法院继续调查。这些行动表明,争议已经不只是某一份文件的问题,但它们本身不等于所有指控都已经被证实。

仍然不清楚什么

目前还没有公开所有错误引文和错误陈述的完整内容。人们也不清楚每名被告及其律师何时得知这些错误。四起案件的结果是否受到影响,尚未确定。法院也还没有决定是否处罚该办公室或相关人员。

接下来关注什么

接下来要看被指定法官的调查。法院可能进一步说明哪些内容被提交、谁知道错误,以及文件经过了怎样的检查。受影响的被告是否需要得到更正后的记录或其他救济,也值得关注。

另一个重点是检察官办公室如何回应。如果它建立书面规则、开展培训,并要求工作人员逐项核对,才能看出是否能减少类似问题。

更多背景可参考加州媒体报道和相关公开资料。

🤖 AI

AI把假的判例写进了法庭文件

📰 完整报道: 生成式AI把不存在的判例写进法庭文件,加州检察官办公室接受调查

检察官使用的AI写出了不存在的案件和错误内容。

约1分钟读完 Tiny Why编辑部 · 文:特派员 好奇

词语
生成式AI

按人的要求写文字的电脑工具。

法律引文

文件里用来指向法律或判例的文字。

重罪

法律规定的严重犯罪。

💡 一句话总结

  • 四起刑事案件的法庭文件出现了AI错误。
  • 文件里有不存在的判例,也有错误事实。
  • 法院正在调查事情经过和可能的处罚。

加州内华达县的地方检察官办公室,负责代表政府起诉刑事案件。过去秋天,检察官用了生成式AI。生成式AI就是按要求写文字的电脑工具。他们用它起草和检查法庭文件。

办公室承认,四起重罪案件的文件出了错。重罪是法律规定的严重犯罪。有些文件写了不存在的判例。还有些内容把事实或法律写错了。其中一份文件请求释放一名被关押的男子。

法庭文件会送给法官阅读。法官会根据文件和其他内容作出决定。法律引文是文件里指向法律或判例的文字。如果引文不存在,法官就无法核对。刑事案件还可能影响一个人的自由,所以这不是普通的写作错误。

前检察官麦迪逊·麦克斯韦说,上司在没有规则和培训时鼓励使用AI。她还说,自己没有被允许马上报告错误。这些说法仍在调查中。办公室则表示,他们检查了大约18个月的文件,没有发现四起案件之外的更广泛AI错误。完整检查结果是否公开,仍不清楚。

2026年1月,加州最高法院要求上诉法院进一步调查。上诉法院后来指定一名法官处理此事。法官会考虑是否处罚检察官办公室,但目前还没有作出决定。

接下来,人们会关注调查结果。大家也会看受影响的案件是否需要改正文件,以及办公室是否制定新的使用规则。这个事件提醒人们,AI可以帮忙写字,但重要内容仍要由人认真核对。

🤖 AI

AI写了假的法庭故事

📰 完整报道: 生成式AI把不存在的判例写进法庭文件,加州检察官办公室接受调查

会写句子的电脑,把错误内容放进了法庭文件。

约1分钟读完 Tiny Why编辑部 · 文:特派员 好奇

词语
生成式AI

会帮人写句子的电脑工具。

地方检察官

在法庭上代表政府一方说话的人。

加州的内华达县地方检察官办公室,是在法庭上代表政府的人。那里用了生成式AI。生成式AI是会写句子的电脑工具。

AI写出了假的法庭故事。四起重罪案件的文件出了错。一份文件请求让被关着的人出来。

法官会读这些文件。所以,文字必须是真的。

法院找来一名法官调查。调查就是仔细找答案。还没有决定要不要处罚。

前检察官麦迪逊·麦克斯韦说,上司不让她马上报告错误。这句话也还在调查。

电脑可以帮忙写字。大人送出文件前,必须自己检查。

来源