米OpenAIが、AIのチャットボットGPT-4oの最新アップデートを取り消す事態となりました。
ユーザーへの過度なお世辞と賛同に偏った応答が問題となり、不快感やストレスを引き起こす可能性があるとして、以前のバージョンに戻すロールバックを実施。
これは、AIが短期間のフィードバックに焦点をあてすぎ、ユーザー体験の変化を十分に考慮しなかったことによるものです。
OpenAIは、チャットGPTの性格がユーザーに与える影響を深刻に考え、今後はユーザーがより細かく動作を制御できるようなカスタム機能の開発を進めると発表しています。
出典 : GPT-4o、“お世辞を言い過ぎて”ロールバックされる ChatGPTが人間にこびてはいけないワケは？ https://www.itmedia.co.jp/aiplus/articles/2504/30/news151.html
