OpenAI共同設立者のAndrej Karpathy氏が、2019年に大きな話題となった言語モデル「GPT-2」の再現に成功しました。ゼロからGPT-2の再現に挑んだKarpathy氏は、わずか90分と約3100円のコストで、この挑戦を成し遂げたと報告しています。
このコストパフォーマンスの実現には、クラウドコンピューティングサービスLambdaが活用され、1時間14ドル（約2200円）のGPU利用料で、全行程をカバーすることが可能となりました。
さらにKarpathy氏は、より大きなモデルGPT-2 350Mのトレーニングにも成功し、今後はさらにサイズを増やす計画を明らかにしています。
AI分野の研究開発が誰にでもリーズナブルなコストで行える時代が来たことを、このレポートは物語っています。
出典 : https://article.auone.jp/detail/1/3/7/48_7_r_20240529_1716977012350666