研究の世界から爆発的に一般に広まった技術として、生成型AIの存在が注目されています。
ほぼ人間と見分けがつかないテキストや画像を作り出す大規模言語モデル（LLM）は、多くの分野に革命をもたらしつつありますが、悪用のリスクも懸念されています。
DeepMindの研究チームは、AIが生成したテキストにデジタル識別子を埋め込む新しいウォーターマーキング手法を検証し、重要な進展を達成しました。
GoogleのチャットボットGeminiに組み込まれたこの技術は、ユーザーが低品質だと感知することなく実際に利用され、2000万人のユーザーが体験しました。
しかし、専門家でなければ見つけることは困難であり、悪意のある人が意図的にウォーターマークを消去することは未だ比較的容易です。
技術的な課題は残りますが、ウォーターマーキングはAI規制の重要な技術となるため、これを成熟させる必要があります。
DeepMindはモデルとコードを無償で公開しており、今後の発展が期待されています。
出典 : AI watermarking must be watertight to be effective https://www.nature.com/articles/d41586-024-03418-x