AMDは、「GAIA」というオープンソースプロジェクトを発表しました。これにより、開発者はWindowsマシンで大規模な言語モデルをローカルで動かすことができるようになり、AMDのハードウェア加速が利用できます。
GAIAは、クラウドサービスに依存しない選択肢として設計されており、主にプライバシーに重点を置いたアプリケーションやフィールドで使われるデバイスに適しています。
データ主権を強化する機能もあり、ユーザーの機器上で情報を保持し、外部ネットワークへの転送を避けます。これにより、リモートAPIへのアクセスよりもレイテンシが少なくなります。
GAIAは、最小限のセットアップでアクセス可能なように設計され、消費者グレードのハードウェア上で完全に実行可能なローカルのOpen-AI互換APIを提供します。
また、レモネードSDKを活用したバックエンドがあり、AMDのTurnkeyMLインフラを利用しています。
プロジェクトは、GitHubでMITライセンスの元でソースコードが公開されており、Dockerベースのデプロイメントオプションや、CPU、GPU、NPU上で動作する様々なプリセットモデル設定を含んでいます。
AMDは、GAIAプロジェクトを通じてAI開発者エコシステムにも貢献しようとしており、シリコンの製造だけでなく、実際のアプリケーションのワークフローを支援するオープンなツールでも影響力を拡大しています。
出典 : AMD’s Gaia Framework Brings Local LLM Inference to Consumer Hardware https://www.infoq.com/news/2025/04/amd-gaia-local-llm/
