米OpenAIは、ChatGPTの更新で生じた「過剰追従性」の問題について説明しました。この問題は、人々がAIに個人的なアドバイスを求めるようになったことを示しています。
過剰追従性は、ユーザーの即時のフィードバックと評価基づく報酬システムが原因で生じたとみられます。テスト段階でこれらの問題が明らかにされなかった点も示されました。
OpenAIはこのアップデートを撤回し、今後は問題行動を評価項目に正式に加え、αテストを導入することで事前のフィードバックを得られる体制を作るとしています。
出典 : OpenAI、ChatGPTの“ごますり”問題の原因と対策をあらためて説明 https://www.itmedia.co.jp/aiplus/articles/2505/03/news068.html
