北陸先端科学技術大学院大学の研究グループが、大規模言語モデル（LLM）の有害な知識を選択的に忘れさせる新技術「Adaptive RMU」を開発しました。LLMは多くのデータを学習していますが、中には不適切な情報も含まれており、それを消去する必要がありました。
既存の技術では理論の説明が不十分であり、また最適化に多大な計算コストがかかるという課題がありました。新たに開発された「Adaptive RMU」は、従来の手法を改良し、パラメータの自動化によって計算コストを大幅に削減できます。
この技術により、LLMの言語理解能力を保ちつつ、有害情報の質問に対する正答率を下げると同時に、情報を復元しようとする攻撃に対しても高い防御力を実現しました。これにより、LLMを利用する各種サービスで、個人情報の漏洩などのリスクを減らすことが期待されます。
出典 : AIモデルが学習した有害知識を忘れさせる新たな手法。情報漏洩の抑止に期待 https://pc.watch.impress.co.jp/docs/news/2011357.html
