EXO Labsは驚くべき技術を披露しました。それは、古いOSであるWindows 98で動作する改良版Llama 2という大型言語モデルです。
なぜWindows 98なのかというと、このOSで動くものであれば、どんな環境でも動かすことが可能です。そして、大手テクノロジー企業がどれほど力を持っていても、この技術の使い方を制御することはできないのです。
Windows 98上でLLMを動かすということは、PS/2対応の周辺機器を見つけたり、ファイルをFTPで転送したり、コンパイルに苦労することを意味しますが、想像以上にうまく機能します。Pentium IIプロセッサと128 MBのRAMを搭載したWindows 98マシンは、Llama 2モデルで秒間39.31トークンを生成できます。
現代のLLMは数十億のパラメータを持っていますが、小さなモデルでも役立つことがあります。特定のトレーニングと「仕事」が限定されていれば、非常に小さなモデルでも非常に高い性能を発揮することができます。これらのツールはGitHubで誰でも利用できます。
EXO Labsは、AIモデルがどこでも、誰でも利用できるようにするための12のプロジェクトの一部です。地元のAIとコマンドラインに興味があれば、すでにシングルファイルのマルチプラットフォームコマンドライン実行ファイルとして存在しています。
出典 : Modern AI On Vintage Hardware: LLama 2 Runs On Windows 98 https://hackaday.com/2025/01/13/modern-ai-on-vintage-hardware-llama-2-runs-on-windows-98/
