オープンAIの調査により、チャットGPTが稀に名前に基づくステレオタイプを生み出していることが明らかになりました。
新しいモデル「GPT-4o」はその割合が0.1%に改善されているものの、利用者数が週に2億人にのぼることから、結果として生じるバイアスの数は無視できないとされています。
特に、物語作成などの自由度の高いタスクではステレオタイプが発生しやすい傾向があり、この背景には、チャットGPTが人間のフィードバックに基づいてトレーニングされているためとされています。
オープンAIは今後、分析をさらに深め、ユーザーの宗教や政治的見解など多面的な要素についても研究する予定です。
さまざまな要素によるモデルの回答への影響が懸念される中、研究者たちはより公平性を重視したAIモデルの開発を目指しています。
出典 : 相手の名前で回答が変わる？チャットGPTに潜むバイアス明らかに https://www.technologyreview.jp/s/348160/openai-says-chatgpt-treats-us-all-the-same-most-of-the-time/