中国では政府に都合の悪い情報や性的、暴力的なコンテンツが検閲によって厳しく制限されています。しかし、AIを使った虚偽情報の創出が新たな問題となっています。2023年には、百度や阿里巴巴からもAIによる生成ツールがリリースされ、AIを使ったデマの拡散が懸念されています。
特にイメージの悪い爆発事故やインフラ施設のトラブルに関する虚偽情報が目立ちます。これらのうその情報は、プラットフォームからのリベートを目的としたものや、詐欺に利用されることもあります。
中国警察はデマの発信者の逮捕に動くなど、対策を強化しています。アリババはAIを活用してデマ情報を検出するツールを開発しましたが、インターネット上のうその情報を完全に抑制する方法はまだ見つかっていません。言論の自由が制限されている中国において、AIとの上手な付き合い方を模索するのが今後の課題です。
出典 : https://japan.zdnet.com/article/35216436/