Blackbox Blast
BB Preflight
← 事故ログへ

CASE · 中程度 · other

未検証の報告公開情報からの収集

判事がChatGPTで調べた実在しない判例を、親権訴訟の命令に引用した(未検証の報告)

報道によれば、米オクラホマ州スティーブンス郡のLawrence Wheeler判事が、親権をめぐる訴訟で出した命令に、実在しない判例を引用していた。判事は州の捜査機関に対し、ChatGPTから得た判例を少なくとも2件引用し、それが実在しないことを認めたという。

約2分で読めます

発生日
分類
other
影響範囲
reputation
検知
manual-audit
タグ
#chatgpt #hallucination #fake-citations #court #legal-research #oklahoma

CH 1

原因

判事は捜査官に、命令は自分で書き、AIは「調べ物」に使っただけだと説明した。

CH 2

結果

母親の当時の弁護士が引用された判例を調べ、見つからないことに気づいた。母親によれば、判事はその後この事件から外れ、弁護士に謝罪し、新しい判事が割り当てられた。州司法長官事務所は捜査結果を検討し、刑事訴追を支える証拠はないと判断した。判事の懲戒は州最高裁判所などが判断する。いずれも報道された主張で、ここでは独自に確かめていない。

CH 3

対策

報道の時点で、判事の処分は決まっていない。判事の弁護士はコメントしていない。運用する側の教訓:チャットAIが示した判例や出典は、使う前に原典で実在と中身を確かめる。

何が起きたか

米オクラホマ州スティーブンス郡のLawrence Wheeler判事は、子どもの親権をめぐる訴訟で、一方の親の弁護士が求めた、もう一方の親の心理検査を退けた。KFORによれば、11月に出したその命令で、判事は自分の判断を支えるとしてオクラホマの過去の判例を複数挙げていた。それらの判例は実在しなかった。

現場の混乱

母親のAdriane Capersさんによれば、当時の弁護士がこの判断に異議を申し立てようとして引用された判例を調べ始め、それが存在しないことに気づいた。弁護団全体で確かめても、判事がどこからその判例を持ってきたのか分からなかったという。母親によれば、判事はその後この事件から外れ、弁護士に電話で謝罪し、新しい判事が割り当てられた。

州の司法苦情審議会の付託を受け、州捜査局(OSBI)が調べた。スティーブンス郡の地区検事Jason Hicksは、2026年8月17日付の司法長官あての書簡で、判事とは日ごろ仕事で関わるとして、自分の事務所をこの件から外すよう求めた。

原因

Hicks検事の書簡によれば、判事はChatGPTが生成した判例の引用を使ったことを認め、命令の中の少なくとも2件は実在しなかった。判事は捜査官に、命令は最終的に自分で書き、AIは「調べ物」に使っただけだと説明している。

元州司法次官補で弁護士のTim Gilpinは、自分がAIを使うと、ほぼ必ず偽の判例や、AIの言う内容を示していない判例が混じると話している。

対策

司法長官事務所は捜査結果を検討し、刑事訴追を支える証拠はないと判断した。判事の懲戒については、州最高裁判所と司法裁判所が最終的な権限を持つとしている。判事の弁護士はコメントしていない。母親は、判事や関係者にAIが出した情報は何度でも確かめるよう求めている。

チャットAIは、それらしい判例や出典を作ることがある。調べ物の入り口として使うのはよいが、使う前に原典で実在と中身を確かめる手順を省かない。

出典

PREFLIGHTあなたの Mac の備えは、大丈夫?BB Preflight は、AIエージェントの権限や鍵の置き場所など21項目を、読み取りだけで点検する無料の Mac 用ツールです。点検してみる →