AI技術の一つであるLLM(大規模言語モデル)の中で、どの仕組みがどのように概念を理解しているか、その謎をAnthropicが解き明かしました。
これまでブラックボックスとして扱われてきたLLMの、どのような応答がなされる理由を明らかにする研究を進め、特定の「特徴」に着目。
例えば「ゴールデンゲートブリッジ」の特徴が活動すると、それに関連する様々なトピックがAIの話題に上がるのを発見。
これにより、特徴とニューロンがどのように関係するか、またAntropicの研究で、特定の特徴を操作するとAIの応答が変わることが示されました。
これは、AIの安全性を高めるための重要な一歩とされています。
高校生の皆さんにも理解していただけるように、Anthropicのチームが行っているAIシステムの動作を詳しく解析し、様々なシナリオでの可能性を探る興味深い研究の内容を紹介します。
出典 : https://article.auone.jp/detail/1/3/7/48_7_r_20240522_1716351522682118