アメリカ・インディアナ州で、AIによって生成された架空の裁判例を引用した弁護士に対し、15000ドルの制裁金が科されることが提案されました。
弁護士は法廷や対立弁護士に提出する文書の中で、存在しない判例を3件引用しており、これを検証せずに使用したことに対する罰金です。
このような行為は過去にも見られたものの、結果的に軽視されがちであったため、より厳しい制裁が求められたとのこと。
その他、人工知能の誤情報を用いてしまった事件がニューヨークやワイオミングで起きており、法律分野だけでなく、マーケティングや会計など多岐にわたってAIが使われています。
誤情報によって問題となった事例の一つとして、ディープフェイクの拡散を禁じるミネソタ州の法律を支持したミネソタ州司法長官もいます。
彼はAIの危険性についての専門家報告書に、存在しない学術記事を参照してしまいました。
この専門家自身も、AIの使用によって引き起こされた誤りを認めており、皮肉なことにAIの危険性を訴える立場にあった人物が、AIによる誤情報の影響を受ける結果となっています。
出典 : Judge recommends $15K sanctions for AI slop court filing https://www.theregister.com/2025/02/25/fine_sought_ai_filing_mistakes/
