業界団体のThornとAll Tech Is Humanが、子どもの性的虐待防止を目指し、生成AI原則を策定しました。
この原則にはAmazonやGoogleなど、AI分野の10大企業が賛同しています。
原則では、生成AIの開発段階で児童ポルノに類するデータを除外し、不適切なコンテンツは当局に報告することが義務付けられています。
なお、製品リリース後も、新たに発生する問題画像を探知し排除することで、インターネット環境の安全性を維持していくとしています。
Thornは、生成AIによって児童ポルノ素材が容易に作られてしまう現状への懸念を表明しており、大量生成が社会的な問題へと繋がることを危惧しています。
これらの対策は、児童への実害を防止し、AI技術の健全な発展を促していくために欠かせないと強調しています。
出典 : https://www.watch.impress.co.jp/docs/news/1586952.html