存在しない証人が裁判書類に AI要約を確認しなかった弁護士に5000ドル制裁
上訴（じょうそ）
下級裁判所の判断を、上級裁判所に見直してもらう手続き。
法廷侮辱（ほうていぶじょく）
裁判所の命令や手続きに反したとして責任を問われること。
懲戒機関（ちょうかいきかん）
弁護士の行動を調べ、処分を検討する組織。
何が起きたか
米ニューメキシコ州の最高裁が、弁護士スティーブン・アーロンズ氏に5,000ドルの罰金を科し、法廷侮辱に当たると判断した。アーロンズ氏は、殺人罪で有罪となり終身刑を受けた依頼人の上訴を担当していた。裁判所に提出した主張書面には、実在しない証人の証言や、警察のものとして作られた証言が含まれていたという。ロイターの報道によると、アーロンズ氏はこの書面をAIの助けを借りて作成した。
背景
アーロンズ氏は、前年にこの上訴を引き受けた際、裁判記録の書き起こしなどをChatGPT（OpenAIが提供する文章生成AI）に読み込ませ、手続きの要約を作らせたと説明した。本人は、AIがここまで事実を作るとは理解していなかったという。裁判所が示した例には、実在しない人物の話や、犯人が暗いズボンと白いシャツを着ていたという架空の記述がある。アーロンズ氏は、AIが作った内容を十分に照合しないまま書面に入れたことになる。
上訴とは、下級裁判所の判断を上級裁判所に見直してもらう手続きだ。上訴の書面では、裁判記録にある事実や発言を正確に示す必要がある。裁判所は、提出前にその確認をしなかった点を問題にした。
なぜ重要か
裁判の書面は、もっともらしく読めればよい文章ではない。そこに書かれた証人、発言、出来事が、本当に記録にあるかを確認しなければならない。今回の処分が示すのは、AIを使ったこと自体より、提出前の確認を人が果たさなかった責任の重さだ。AIは文章を整えても、裁判記録の証人にはならない。専門家が使う場合も、速さと正確さを同じものとして扱えない。
確認できたこと
裁判所はアーロンズ氏を法廷侮辱とし、5,000ドルを課した。さらに、弁護士の懲戒機関に調査を回す方針を示した。裁判所は、同氏が反省と依頼人への配慮を欠いているとも指摘した。一方、アーロンズ氏はロイターに、反省しており、誠実な過ちとして考慮してほしいと述べた。OpenAIは報道時点でコメントしていない。依頼人の上訴は続いており、9月2日にはニューメキシコ州の公選弁護人が担当することになった。
まだ分からないこと
懲戒機関が今後どのような結論を出すかは決まっていない。依頼人の上訴がどう判断されるかも、今回の書面が手続きにどの程度影響したかも、報道時点では分からない。また、裁判所が問題視した生成文の全容や、入力した資料の範囲も、公表情報だけでは確定できない。
次に見る点
今後は、懲戒調査の結果と、上訴を引き継いだ弁護人の新しい主張が焦点になる。裁判所や弁護士団体が、AIを使った書面の確認手順をどう明確にするかも重要だ。今回の教訓は、AIに文章を作らせても、提出する人が元資料と照合する責任を手放せない、ということにある。
AIが作った「いない証人」を裁判に出してしまった
📰 しっかり版: 存在しない証人が裁判書類に AI要約を確認しなかった弁護士に5000ドル制裁
ニューメキシコ州（米国の州）の最高裁は、AIの文を確かめなかった弁護士を罰しました。
ChatGPT
文章を作るAIの道具。
上訴（じょうそ）
前の裁判の判断を、上の裁判所に見直してもらう手続き。
法廷侮辱（ほうていぶじょく）
裁判所の決まりに反したとして責任を問われること。
💡 ようするに
- ChatGPT（文章を作るAIの道具）が、いない証人やうその証言を作りました。
- 弁護士は、それを裁判の書類に入れました。
- 最高裁は、弁護士に5,000ドルの罰金を科しました。
何が起きたの？
米国のニューメキシコ州で、スティーブン・アーロンズ弁護士が、依頼人の殺人事件の上訴を担当しました。上訴は、前の裁判の判断を見直してもらう手続きです。
アーロンズ氏は、裁判の記録をChatGPTにまとめさせました。その文章を使った書類には、実在しない証人の話がありました。警察の証言のような、作られた内容もありました。
なぜ問題なの？
裁判では、書類に書く事実を確かめる責任があります。AIは、文を自然に作れても、書いたことが本当とは限りません。だから、元の記録と照らし合わせる作業が必要です。
最高裁は、AIを使ったことだけを罰したのではありません。確認せずに書類を出したことを問題にしました。アーロンズ氏を法廷侮辱とし、5,000ドルを科しました。さらに、弁護士の懲戒機関に調査を回しました。
これからは？
依頼人の上訴は、まだ続いています。別の弁護士が引き継ぎました。懲戒機関が何を決めるかも、まだ分かりません。AIを使う人ほど、最後の確認を自分でしなければなりません。
AIが、いない人の話を作りました
📰 しっかり版: 存在しない証人が裁判書類に AI要約を確認しなかった弁護士に5000ドル制裁
ChatGPT（文章を作るAI）が、いない人の話を作りました。
ChatGPT
文章を作るAIの道具。
法廷侮辱（ほうていぶじょく）
裁判所の決まりを破った扱い。
上訴（じょうそ）
裁判をもう一度見てもらうこと。
ニューメキシコ州最高裁（州でいちばん上の裁判所）は、裁判の書類を見ました。
スティーブン・アーロンズ（弁護士）は、ChatGPTに裁判の記録をまとめさせました。
その書類には、いない証人の話がありました。
警察が言ったような、作り話もありました。
アーロンズさんは、書類をよく確かめませんでした。
最高裁は、アーロンズさんに5,000ドルの罰金を科しました。
法廷侮辱という、裁判所の決まりを破った扱いです。
この人の上訴は、まだ終わっていません。
上訴は、裁判をもう一度見てもらうことです。
別の弁護士が、これから助けます。
AIが書いても、人が本当か確かめます。
裁判では、その確認がとても大切です。