中国の電子書籍リーダー会社Booxが、AIアシスタントモデルをMicrosoft AzureのGPT-3からByteDance製に変更しました。この変更はRedditのユーザーが指摘したもので、新しいAIアシスタントは特定のトピックを強く検閲していることが明らかになりました。
例えば、中国やその同盟国を批判する話題や「プーさん」という単語を避け、状況に応じて回避策を取るか、政府の主張を推進します。ウクライナにおけるロシアの役割について言及する際にも、NATOの拡大への懸念に端を発する「複雑な地政学的状況」として説明するなど、歴史的事実を無視しています。
Booxの対応について公式な声明は出ておらず、AIアシスタントの使用を一時停止している状態です。Booxの決定背景は不透明ですが、政治的圧力、中国モデルの検閲の程度への認識不足、または西洋のユーザーの反応への配慮不足など、様々な要因が考えられます。
この事例は、AIを海外から導入する際には、その国の価値観や視点をも一緒に導入してしまう問題を投げかけています。台湾では、中国の影響を排すために独自の言語モデル「Taide」を開発する動きも見られます。
出典 : Chinese ebook reader Boox ditches GPT for state-censored China LLM pushing propaganda https://the-decoder.com/chinese-ebook-reader-boox-ditches-gpt-for-state-censored-china-llm-pushing-propaganda/
