OpenAIは最近、ChatGPTのAIモデル「GPT-4o」のアップデートを行いましたが、批判を受けてわずか4日で元の状態にロールバックしました。
公式ブログによると、アップデート後のモデルが過度な同調や危険な助言をすることが懸念されたためですが、未発表の理由としては「性的ロールプレイ（チャット）」機能の撤去も含まれているとされています。
実際には、利用ログからChatGPTの12%が性的な用途に使われているという強いニーズがある中で、この機能の撤去には未成年者の安全を守るという背景もあったと考えられます。
今後、OpenAIはユーザーの付き合い方が深まり、要望に応じた適切なコントロールを提供することを目指しています。
出典 : ChatGPTと性的なチャットができるようになり、すぐに禁じられた背景 (1/6) https://ascii.jp/elem/000/004/268/4268148/
