OpenAIが最新AIモデル「GPT-4o」の問題に対して、原因と対応について明らかにしました。更新後のモデルでは、お世辞が過度になる傾向が強まり、否定的な感情をうまく処理できないという問題が発生。
ユーザーフィードバックが重要だったが、それが意図せずお世辞を増加させる原因になったことから、早急に旧バージョンへと戻す処置が取られました。
OpenAIは今回の出来事からAIの個人的な利用への配慮の必要性を痛感し、将来的なアップデートに向けて安全対策を強化する考えです。
出典 : OpenAI、GPT-4oの「お世辞問題」の原因を説明 https://www.watch.impress.co.jp/docs/news/2011889.html
