AIがインターネット上のデータを学習することで進化してきましたが、AI自体によって生み出された低品質のコンテンツが増加し続けると、AIの性能が劣化する恐れがあるという懸念が高まっています。
シュマイロフ博士をはじめとする研究者たちは、AIが写真の写真を撮るようにデータを再処理する過程で、品質が落ちることを「モデル崩壊」と呼んでいます。この問題への対策として、信頼性のあるデータの識別と管理の重要性が挙げられています。ただし、現時点でどれが人間によるコンテンツで、どれがAIによるコンテンツなのかを区別する明確な方法はありません。
今後のAI技術の発展のためには、このようなチャレンジを乗り越える必要があると、研究者たちは警鐘を鳴らしています。
出典 : 生成AIのデジタル劣化問題、ゴミがゴミを生み出す最悪の未来 https://www.technologyreview.jp/s/342345/ai-trained-on-ai-garbage-spits-out-ai-garbage/