MIT、NYU、UCLAの研究チームが、AIチャットボットによる人種検知能力とそのバイアスの存在を明らかにしました。
GPT-4をはじめとする進化したAIが、メンタルヘルスケアにおいて人間のカウンセラーよりも高い効果を示す一方で、人種によって共感レベルに差があることが判明しています。
特に、黒人やアジア人への共感レベルが低いという結果は、社会の偏見がAIにも反映されてしまっていることを示唆しています。
AIの応答においても、設計次第で質が変わることから、バイアスを減らすための設計の工夫が求められています。
AIが個人情報を把握する能力の高さは、プライバシーに対する新たな問題を投げかけています。
このような研究結果は、AIの倫理的な使用についての議論を促し、バイアス問題の解決と潜在能力を活かす方法が模索されるでしょう。
出典 : GPT-4のメンタルヘルスケア革命：AIの共感力と人種バイアスの衝撃的研究結果 – イノベトピア https://innovatopia.jp/ai/ai-news/45509/
