Chat-GPT4というAIは、最新版でありながら、性能が以前より劣化しているという話があります。これは、「デグレ」という現象で、システムが改善されるはずが、逆に劣化してしまうことを指します。
理由としては、AIが人間のようにふるまうことに制限をかける「教育」が行われた結果、答えられる内容が制限されてしまったためと考えられます。
この教育によってAIは、人間らしい感情や自我を持っていると勘違いさせないように訓練されたが、それが性能の低下を招いた可能性があります。
なぜこのような制限をかけるのか、そして、AIの発展にとってその影響はどうなのか、私たちは考える必要があります。
出典 : [持論]GPTの性能は劣化している? -AIの進歩を止めるものは何か？｜Takashi Nakayama https://note.com/naka_68/n/n524beb698ddd