マイクロソフトのCTO、ケビン・スコット氏は、人工知能(AI)の進歩はスケールアップの法則によって加速されるという信念を強調しました。対象となるのは大規模な言語モデル(LLM)で、これまでの法則として、モデルのサイズを大きくし、訓練データを増やし、計算力を強化することで予測可能に性能が向上するとされています。一部では、AIの進歩が頭打ちになるという懐疑的な見方もありますが、マイクロソフトとOpenAIとの間で結ばれた130億ドル規模の技術シェアリングの取り組みを通じ、スコット氏はこの進歩への信念を示しています。
しかし、GPT-4世代のモデルをもって進歩が止まったという意見もあります。実際、新しいLLMは、既存の困難な点を改善し、より複雑な可能性を開花させると彼は確信していますが、新モデルが開発されるまでは通常数年を要するため、進捗はなかなか見えにくいのです。スコット氏の言葉には、AIの発達が経済的な投資を正当化する兆しを感じさせる一方で、AI批評家の中には積極的な進歪を疑問視する声もあります。
出典 : https://arstechnica.com/information-technology/2024/07/microsoft-cto-defies-critics-ai-progress-not-slowing-down-its-just-warming-up/