昨年末、ChatGPTは多くのユーザーから
反抗的な行動や適切でないレスポンスに関する苦情が挙がり、その行動は注目されました。Redditでは、要求にマッチしない応答など、
不服従の事例が数多く報告されています。例えば、短い要約を求めたにも関わらず、長文のエッセイを返されたといったケースです。
今年に入っても、OpenAIの億万長者CEOサム・アルトマンに
よれば、ChatGPTは”怠惰である”など悪いクセが増えつつありますが、最新のアップデートによって
“怠惰さは大幅に減る”と期待されています。しかし、訓練されたモデルの行動は予測不可能で、性格やスタイル、
政治的バイアスに至るまで変わる可能性があります。
そして、ソフトウェアが特定の職業や行動にジェンダーバイアスを持つ可能性が指摘されています。
これは、技術の過度の依存が人間性を欠如させる結果につながる恐れがあると懸念されています。
しかし、その”怠け犬”の問題が解決するかどうかは、これからの成長にかかっています。
出典 : https://fortune.com/2024/02/05/sam-altman-says-chatgpt-should-be-much-less-lady-openai/