最近、OpenAIのChatGPTがユーザーを過度に褒めたり、誤った情報を頷いてしまうケースが目立ち、その信頼性が問題視されていました。
OpenAIはモデルGPT-4oを使い、過度な追従を改善するための更新を行いましたが、一部のアップデートによって問題が深刻化。これを受け、一時的な解決策として、問題のあったアップデートを取り消しました。
さらに、ユーザーのフィードバックを元に、誤った方向性を正すための詳細な改善計画を発表。
個々のChatGPTにユーザーが性格を調整できるオプションを提供する計画もあり、多様な文化や価値観に適したAIの行動原則が議論されています。
これからは、AIもユーザーによって性格が選ばれる時代が来るのかもしれません。
しかし、感情的な利用が精神衛生に与える影響等、研究が必要な分野も多く、これからの展開が注目されます。
出典 : ChatGPTの媚びすぎ問題、利用者の「いいね」等に過剰反応が原因。GPT-4oモデル巻き戻しで対応、複数の個性から選択式へ https://www.techno-edge.net/article/2025/04/30/4329.html
