Google DeepMindとHugging Faceが開発した、AIが生成したテキストを特定の大規模言語モデルによって作られたものかどうかを判断するためのツール「SynthID Text」が発表されました。この技術は、AI生成テキストにほとんど目立たないウォーターマークを埋め込み、特定のモデルによるものかを判別します。
重要なのは、元のモデルの機能性を損なうことなく、テキストの品質を保持しながら行える点です。ハギングフェイスのTransformersライブラリに組み込まれたこの技術は、安全にプライベートに設定を保存し、異なるモデルに対して様々なウォーターマーキングが可能です。
また、この技術はトーナメントサンプリングという新しいアルゴリズムを使用しており、AIによる誤情報キャンペーンやAI生成コンテンツの管理、教育への応用を防ぐための研究が進んでいます。
しかし、この技術は完全に書き換えられたテキストには効果を発揮しにくいなど、いくつかの限界もあります。それでも、AI生成コンテンツの悪用を難しくする一助となり得るでしょう。
出典 : DeepMind and Hugging Face release SynthID to watermark LLM-generated text https://venturebeat.com/ai/deepmind-and-hugging-face-release-synthid-to-watermark-llm-generated-text/