生成AIが常に進化しており、その対策も急がれています。特に教師や学者などが悩むAIによる文章生成は、真実のテキストと見分けがつきにくいという問題がありました。この問題に対処するため、OpenAI社を含むトップAI企業は、AIによるコンテンツの信頼性を検証するための電子透かし技術を開発しており、これがAI生成コンテンツ検出の有望な手段とされています。
しかしながら、この透かし技術に対する攻撃手法も確認されており、セキュリティ分野と同じく、対策の進化と攻撃者の進化が続くイタチごっこの状況です。それでも、これらの技術の発展は、AIコンテンツに関する信頼性の確保に向けての重要なステップであると言えるでしょう。
出典 : 書いたのは人間か、それともAIか？生成AIコンテンツ識別の最前線 | LAC WATCH https://www.lac.co.jp/lacwatch/report/20241002_004132.html
