テキサス州のある弁護士がAIを利用して起こした意見書に架空の判例を使ってしまい、1万5000ドルの制裁金を科される事件が発生しました。この弁護士は過去にも同様の誤りを犯しており、AIによる文書作成を告白していますが、
裁判所はその釈明を受け入れず、専門職規則違反での審査も検討されています。弁護士は生成AIの能力の知識が不足していたと述べ、教育プログラムを受講したことを報告しています。
この出来事は、AI技術が進む中で法律の専門家ですら誤解することのリスクを浮き彫りにしており、AIを使う際の教育とリテラシーが求められています。
出典 : 生成AIに騙される弁護士がいまだに相次ぐ――裁判に架空の判例を提出した弁護士には制裁金の勧告 【生成AI事件簿】生成AIのハルシネーションに幻惑？AIチャットボットの回答を鵜呑みにしてはならない | JBpress (ジェイビープレス) https://jbpress.ismedia.jp/articles/-/86872
