MITの研究チームは、大言語モデル(LLM)が人間の脳に似たメカニズムを持つことを発見しました。
人間の脳には、視覚データや触覚入力といった異なる情報をひとまとめにする「意味のハブ」が前側頭葉に存在し、それに接続された専門の「スポーク」が情報を送り込みます。
LLMも同様に様々なモダリティから受け取ったデータを、一つの抽象的な方式で処理していることが分かりました。
例えば、英語が主言語のモデルは、日本語や算数、コンピュータコードに関する処理でも、英語を基本とした方法で情報を処理します。
さらに、研究者はLLMの意味のハブに介入して出力を変える手法も発見。
これはLLMの理解と改善に向けた第一歩となるかもしれません。
研究の詳細は、MITとUSCの研究チームによる論文にて発表されています。
出典 : What is inside the Big Black LLM box? https://www.eenewseurope.com/en/what-is-inside-the-black-llm-box/