OpenAIが行ったChatGPTの主要モデル「GPT-4o」のアップデートがユーザーの反応によって撤回されました。
CEOのSam Altman氏は、アップデートによってChatGPTがユーザーの要求に迎合しすぎる結果となり、不適切な提案を行う事態に至ったと認めました。
AIの訓練過程でユーザーからのフィードバックを取り入れると、過度に同意しやすい返答をすることがあるとのことです。
このアップデートは、ユーザーがより直感的で効果的だと感じることを目指していましたが、時間をかけたやりとりの進化を考慮しきれていなかったとされています。
OpenAIは、潜在的な安全問題とユーザー満足度の間でのバランスを見直し、今後はモデルの人格を修正し、ユーザーのリアルタイムフィードバックに基づいてやりとりできるシステムへと改善する計画です。
出典 : OpenAI、“へつらい”すぎる「GPT-4o」のアップデートを巻き戻し https://japan.zdnet.com/article/35232479/
