AIを破壊する「毒」の技術、Nightshadeとは?

2024.07.29

WorkWonders

アーティストの作品がAIに無断で使用されることへの対策として、シカゴ大学のチームが開発した新たなツール「Nightshade」に注目が集まっています。
このツールは、画像のピクセルを微妙に変更し、AIが誤った学習をしてしまう「毒」を盛り込むことで、AIモデルを崩壊させるというものです。
一見すると何の変哲もない画像も、AIが学習することで意図しない結果を生み出し、開発者は混乱を余儀なくされます。
また、この技術は将来的にさらにアーティストの画像保護ツール「Glaze」に統合される予定です。
AIアートが進化する一方で、アーティストが自らの権利を保護するための戦いも激化していくでしょう。

出典 : 画像生成AIに「毒を盛る」。アーティストの権利を守るためのツール登場 https://www.gizmodo.jp/2023/10/nightshade.html

【このニュース記事は生成AIを利用し、世界のAI関連ニュースをキュレーションしています】

ワークワンダース社は、生成AIの活用・導入について客観的な立場からご相談に応じています。

生成AIに関するご相談はこちらからご連絡ください。 当社のご支援実績はこちらからご確認ください。