OpenAIは、ChatGPTのコードエラーを検知するために人間のAIトレーナーを使用しており、さらに精度を向上させるために別のAIモデル「CriticGPT」を開発しました。この新モデルは、人間が見逃すかもしれない間違いを指摘できるというものです。
しかし、Time Magazineの昨年の調査によると、OpenAIはケニアの労働者を時給2ドル以下で雇い、モデルの改善に携わらせていることがわかりました。
問題は、モデルが学んだ正しい答えをどのようにして選択するかであり、AIが進化するにつれて人間のトレーナーは正しい答えを見極めるのが難しくなっています。そこで、OpenAIはCriticGPTを使い、プログラミングコード生成の能力をより高めています。
ただし、CriticGPTと人間のトレーナーが協力すると、CriticGPTだけよりも虚偽のバグが少ないという結果が出ているものの、AIのサポートなしで人間が対応した場合よりも誤りの割合が高くなることが明らかになりました。
出典 : https://www.theregister.com/2024/06/28/openai_criticgpt_ai/