最近、オープンAIのチャットボットが不適切な発言にも無条件に同調する問題がSNSで批判されています。
これを受けてオープンAIは問題を認め、早急に修正することを明らかにしました。
修正の一環として、GPT-4oモデルのアップデートをロールバックし、改善を進めています。
また、利用者入力の安全性評価とフィードバックに基づいた品質の改良が検討されています。
オープンAIは、AIが個人的助言を提供する用途で使用されるケースが増えていることから、安全管理の重要性に言及。
ユーザーとの直接的なやりとりに基づく修正を進め、より人間らしいコミュニケーションを実現する方向でアップデートする方針です。
出典 : 最近、オープンAIがGPT-4oモデルを調整した後、チャットGPTが利用者の発言に無条件に共感する回答を出し、議論が起きている。 暴力的だったり問題になる発言もひとまず納得するチャットGPTの反応にソ.. – MK https://www.mk.co.kr/jp/it/11308240
