OpenAIは、人工知能開発の最前線であるGPT-4の「思考」を詳細に分析する技術を開発しました。
通常、AIのニューラルネットワークは自己学習で構築されるため、完成した後の思考過程は開発者も把握しづらいものでした。
しかし新技術により、GPT-4の複雑な思考を1600万個の解釈可能なパターンに分類・解析することに成功しました。
これにより、AIがどのようにして応答を導き出しているのかが理解しやすくなります。
また、特徴ごとにAIを分類し、法律文書やDNA列など特定の分野に対するAIの反応を解明する道が開かれることで、AIの修正や安全性評価への応用が期待されます。
OpenAIはこの研究を通じて、さらなるAI解析の進展を目指しています。
出典 : https://gigazine.net/news/20240607-gpt-4-sparse-autoencoder/