警視庁は、人工知能(AI)を用いて生成した架空の女性のわいせつ画像をインターネット上で販売したとして、愛知県の小売業者など4人を逮捕しました。これは生成AIを使用したわいせつ物販売における初の摘発事例です。
容疑者らは2024年10月頃、AIで作った画像をポスター化し、オークションサイトで複数回出品・販売した疑いを持たれています。これらの画像はもともと無料のAIツールで作成され、オークションに出品する際には一部修正を加えていましたが、無修正の画像を購入者に送付していました。
摘発された水谷容疑者は、1万点近い画像を出品し、半数近くが売れたと話しており、売上は1000万円を超えるとされています。AIを使ったわいせつ画像の販売問題は国際的にも深刻であり、韓国ではAIを使ったディープフェイクポルノの事件も発生しているとのこと。
出典 : 生成AI悪用しわいせつ画像販売か 4人逮捕、国内初摘発 警視庁 https://www.nikkei.com/article/DGXZQOUE1504C0V10C25A4000000/
