GPT-3とは、ネット上の大量の文字データから学習し、人間らしい文章を生成するAIです。その能力は高く評価されていますが、根底には問題があります。AIの学習結果は、訓練に使ったデータに大きく影響されます。つまり、入力データが偏っていると、AIの出力も偏ったものになります。
GPT-3はネット上の文書全体から学習しているため、私たちの集合意識の偏見をあぶり出すことにも長けています。特に、ジェンダーについての偏見が一部で確認されています。例えば、同一の入力に対して性別だけを変更すると、異なる結果が出力されます。これはGPT-3が性別に基づいた偏見を学習していることを示しています。
ここでは約100件の比較例を詳しく解説しています。このAIの進化と共に、私たちが無意識に抱いてしまう偏見、そしてそれがもたらす結果について理解を深めることが求められています。
出典 : https://medium.com/madebymckinney/the-gender-bias-inside-gpt-3-748404a3a96c