裁判の書類に「ない判例」 米国の検察で生成AIの誤りを調査
生成AI（せいせいエーアイ）
指示に合わせて新しい文章を作るコンピューターの道具。
人身保護請求（じんしんほごせいきゅう）
拘束されている人を釈放するよう裁判所に求める手続き。
制裁（せいさい）
ルール違反などに対して裁判所が科す罰。
何が起きたか
米カリフォルニア州ネバダ郡の地方検察官事務所で、検察官が昨年秋の約2か月間、生成AIを使って刑事事件の裁判書類を作ったり、見直したりしていました。事務所は、四つの重罪事件で、AIの利用を示す誤りが書類に入ったと認めています。存在しない裁判の判例や、事実と合わない説明が含まれていたとされます。
そのうち一件は、拘束されている男性を釈放するよう求める人身保護請求に関係していました。つまり、AIの誤りは練習用の文章ではなく、人の自由に関わる主張に入りました。カリフォルニア州の控訴裁判所は、何が起きたのか、そしてジェシー・ウィルソン地方検察官の事務所に制裁を科すべきかを調べる裁判官を置きました。これは調査の開始であり、制裁が決まったという意味ではありません。
背景にある主張
マディソン・マクスウェル元副地方検察官は、宣誓した申告書で、上司が正式なルールや研修なしにAI利用を勧めたと主張しました。誤りに気づいた後、裁判所や弁護側、被告にすぐ知らせて謝ることを上司に止められたとも述べています。これは本人の主張で、現在の調査対象です。
マクスウェル氏は四件のうち三件を担当し、2026年5月に事務所を辞めました。事務所側は約18か月分の事件書類を監査し、AI利用に結びつく誤りは、この四件以外に広がるパターンが見つからなかったと説明しています。ただし、監査結果が公開されたかは報道時点で分かっていません。
なぜ重要なのか
裁判書類は、裁判官が判断するときに読む正式な主張です。判例の引用は、法律上の根拠を示すために使われます。存在しない判例なら、裁判官も弁護側も内容を確かめられません。刑事事件では、こうした書類が勾留や釈放に関わる可能性があります。
生成AIは自然な文章を作れても、出てくる事実や判例が本物だと保証する道具ではありません。今回の問題は、使ったことだけではなく、提出前の確認と、誤りが見つかった後の知らせ方にもあります。検察官は政府を代表して裁判に関わるため、一般の書類より厳しい責任を負うと見られています。
確認できたこと
ネバダ郡の事務所が、四つの重罪事件でAI利用の痕跡がある誤りを認めたことは確認されています。2026年1月には、カリフォルニア州最高裁が控訴裁判所に、誤りの広がりや事件への影響をより深く調べるよう求めました。下級審が事務所を制裁から守る方向で出した判断も覆しています。
ネバダ郡の公選弁護人事務所と民権団体シビル・ライツ・コープスは、より詳しい調査と制裁を求めました。20人を超えるAI専門家も、調査を深めるよう控訴裁判所に促しています。
まだ分からないこと
四件の書類に、具体的にどの誤りがどれだけ入っていたのかは、すべてが明らかになっていません。被告や弁護側がいつ知らされたのか、誤りが裁判の結果に影響したのかも未確定です。事務所の監査が公開されるか、ウィルソン氏の事務所や関係者に制裁が科されるかも、これからの判断になります。
次に見る点
今後は、指定された裁判官の調査内容と、控訴裁判所の判断が焦点です。影響を受けた事件で書類の訂正や救済が行われるかも重要になります。検察官事務所がAI利用のルールや研修を設けるかも、同じ問題を防げるかを見る材料です。
詳しい経緯は、カリフォルニアの報道と関連団体の公開資料で確認できます。
裁判の紙に、AIのまちがい
📰 しっかり版: 裁判の書類に「ない判例」 米国の検察で生成AIの誤りを調査
AIが作った文に、ない裁判の話が混ざりました。
生成AI（せいせいエーアイ）
指示に合わせて文章を作るコンピューターの道具。
判例（はんれい）
過去の裁判所の判断で、別の裁判の参考になるもの。
地方検察官（ちほうけんさつかん）
地域の刑事事件で、政府側として裁判に関わる法律家。
💡 ようするに
- 四つの刑事事件で、裁判書類にAIの誤りが入りました。
- ない判例や、事実と合わない説明がありました。
- 裁判所は、何が起きたかを調べています。
何が起きたの？
カリフォルニア州のネバダ郡地方検察官事務所で、問題が起きました。地方検察官事務所は、裁判で政府側を話すチームです。昨年秋、検察官は生成AIを使いました。生成AIは、文章を作る道具です。検察官は裁判書類を作ったり、直したりしました。
その後、四つの重い刑事事件で誤りが見つかりました。書類には、実在しない判例が書かれていました。判例は、過去の裁判所の判断です。事実や法律の説明が違っている部分もありました。ひとつは、拘束されている男性を釈放するよう求める書類でした。
なぜ大事なの？
裁判官は、書類を読んで判断します。書類にない判例があれば、根拠を確かめられません。人が自由を失うかどうかに関わるなら、まちがいは小さな問題ではありません。
生成AIの文は、自然に見えることがあります。だから、使った人が一つずつ確かめる必要があります。AIに任せたから、というだけでは責任はなくなりません。
これからどうなる？
元検察官のマディソン・マクスウェルは、上司がAI利用を勧めたと話しました。正式なルールや研修はなかったとも話しています。誤りをすぐ知らせるのを止められた、という主張もあります。これは、まだ調査中の話です。
事務所は、約18か月分を調べたと説明しました。四件以外には、AIによる誤りの広がりは見つからなかったとしています。カリフォルニア州最高裁は、さらに調べるよう求めました。制裁があるか、事件に影響があったかは、まだ決まっていません。
AIが、ない裁判の話を書いちゃった
📰 しっかり版: 裁判の書類に「ない判例」 米国の検察で生成AIの誤りを調査
裁判所に出す紙へ、AIのまちがいが入りました。
生成AI（せいせいエーアイ）
人の言葉をまねて文を作るコンピューターの道具。
地方検察官（ちほうけんさつかん）
裁判で、事件について話す政府側の人。
カリフォルニア州のネバダ郡地方検察官事務所は、裁判で話す人たちです。そこが生成AIを使いました。生成AIは、文を作るコンピューターです。
AIは、ほんとうではない裁判の話も書きました。四つの重い刑事事件の紙に、まちがいがありました。一つの紙は、つかまっている人を出してほしい、と頼みました。
裁判官は紙を読んで、どうするか考えます。だから、本当の話が必要です。
裁判所は、何が起きたか調べる裁判官を選びました。まだ、罰は決まっていません。
元検察官のマディソン・マクスウェルさんは、上司がすぐ知らせるのを止めた、と話しました。この話も、調べているところです。
AIは大人を助けることがあります。でも、裁判に出す文は、大人が全部確かめます。