モジラの研究プロジェクトとして注目されるLlamafileがバージョン0.8.17として登場しました。このツールは、人工知能の大規模言語モデル（LLM）を1つのファイルにまとめて、配布や実行を容易にするために開発されています。名前の通り、LlamafileはLlama.cppを含む複数のオープンソースソフトウェアを一つの枠組みに統合しており、単一ファイル実行形式のLLMをサポートしています。
先日CLIチャットボットインターフェイスの見直しを経て、新たなウェブUIが導入されました。Llamafile 0.8.17による主要な改善点は、ウェブベースのチャットボットモードと生の補完インターフェイスの両方をサポートする新しいウェブUIの実装です。この新しいウェブインターフェイスは、CLI体験に匹敵する構文のハイライト機能を備え、以前のものよりも大幅に使いやすくなっています。現在、llamafilerを通じて新UIにアクセス可能で、将来的にはllamafile自体に統合され、古いサーバーの完全な置き換えを目指しています。
さらに、CLIチャットボットはVT100のサポートが向上し、VT102サポートが修正され、”/forget”や”/upload”といった新しいコマンドヘルパーが追加されました。D言語、Ruby、JavaScript、Ocaml、CMake、BNFなどの言語に関する構文ハイライトの改良もこのリリースで行われています。
新しいウェブUIのスクリーンショットや、v0.8.17リリース発表での詳細な情報が公開されています。興味のある方は是非チェックしてみてください。
出典 : Llamafile 0.8.17 Brings New Web UI For This Easy-To-Distribute AI LLM Framework – Phoronix https://www.phoronix.com/news/Llamafile-0.8.17-Released