Llama Windowsを0円で公開 ターミナルが要らなくなった
Hugging Faceは10月13日（米国時間）、Windows 11向けのアプリ「Llama Windows」を無償で公開した。ローカルLLMの実行エンジン「llama.cpp」を、タスクトレイから操作できる。これまではPCに合う実行ファイルとモデルを選び、設定をターミナルで打ち込む必要があった。
新しいアプリはインストーラーをダブルクリックするだけで入る。常駐したアイコンを押すとHugging Faceのおすすめモデルが並び、落としたモデルを読み込める。Alt+Spaceを押せば、読み込んだモデルと話せる枠なしの画面が開く。
RTX Sparkを積んだPC向けの調整も入っている。Windows on Armでそのまま動き、モデルはRTX SparkのGPUで動く。
- 10/10GitHubにv0.12.0の配布ファイルが並ぶ
- 10/13Hugging FaceがLlama Windowsを公開
- 10/15同じエンジンをMacで試すと9回とも2秒台までに返った
RTX Spark専用ではない x64版も同じ0円で配っている
配布ページを開くと、普通のWindows PC向けのx64版も一緒に置いてある。10月10日付のv0.12.0には、x64版とArm版をまとめたファイルとそれぞれ単独のファイルが並ぶ。10月15日19時にAInformationが見ると、まとめたファイルは5,647回落とされていた。単独のファイルはx64版が748回でArm版は76回だった。
公式の説明はWindows 11向けのアプリとしている。配布ファイルの中身を開くと入れられる下限はWindows 10の版（10.0.17763）だったが、Windows 10で動くとはどこにも書いていない。
プロンプトはPCの外に出ない
プロンプトと推論はPCの中で終わると公式のREADMEは書いている。外へ送るのはモデルの取得と更新の確認だけで、利用の記録も集めないという。クラウドのAIは学習に使わせない設定をしても文書そのものは社外へ送るので、顧客名入りの資料を貼れない会社にはここが入り口になる。
同じエンジンをMacで動かした 9931番から呼べたが敬語は外れた
アプリはOpenAI互換のAPIを持つローカルサーバーとして動き、http://localhost:9931で待つ。自作のアプリやスクリプトから、読み込んだモデルを呼び出せるという。AInformationは10月15日にWindows版の裏で動くのと同じllama.cppのエンジン（b11643）をMacで立て、この窓口へ日本語で送って確かめた。
3つの頼みごとを3回ずつ送った結果
MacはApple M4 Proのメモリ24GBで、モデルは1.1GBのQwen2.5-1.5B-Instructを使った。起動から受け付けまでは11.4秒で、何も設定しなくても9931番で待っていた。3つの質問を3回ずつ計9回送ると、答えは0.31〜2.04秒で返った。速さは毎秒134〜144トークンだった。
| 頼んだこと | 返るまで | 指示どおりか |
|---|---|---|
| 予定の変更を敬語のメール1文に直す | 0.31〜0.56秒 | 3回とも外れた |
| 議事録と報告書の違いを2文で言う | 0.59〜1.05秒 | 3回とも2文を超えた |
| 顧客名を伏せて使う注意を3つ挙げる | 1.23〜2.04秒 | 3回とも3つ挙げた |
AInformation独自検証（10月15日19時23分・MacでWindows版と同じllama.cppのエンジンを使用・各3回）。Windows版のアプリそのものは試していない。
速さは十分だが、1.5Bの小さなモデルは日本語の細かい指示どおりに書くことができなかった。メールの書き換えでは2文になった回が2回あり、残りの1回は元の文に無い「貴社の指示に従い」を足した。アプリが0円でも、仕事に使える日本語になるかはモデルの大きさとPCのメモリで決まる。
社外秘の文書で試す前に メモリとモデルの大きさを見る
まず確かめたいのはPCのメモリだ。アプリはモデルごとに使うメモリの目安を出し、PCに収まらないモデルは薄く表示する。その範囲でいちばん大きいモデルを選ぶのが近道になる。
- PCのWindowsの版とx64かArmかを設定の「システム」で確かめる
- おすすめのモデルから、メモリの目安に収まるいちばん大きいものを選ぶ
- ふだんの社内文書で要約と敬語の書き換えを3回ずつ頼み、答えを比べる
- ほかのPCからも呼ばせるなら、APIキーで守る設定になっているかを見る
クラウドのAIは有料のいちばん安いプランでも月額がかかる。AInformation調べではGeminiが月725円で、ChatGPTのGoは月1,400円・Copilotは月3,200円だ。手元で動かせば月額は0円なので、外に出せない下書きや社内メモから試すのが向いていそうだ。
- llama.cpp
- AIのモデルを自分のPCの中で動かすための実行エンジン。Llama Windowsはこれを裏で動かし、ボタン操作で使えるようにした
- OpenAI互換のAPI
- OpenAIのAPIと同じ形で呼べる窓口。OpenAI向けに書いた自作のアプリやスクリプトから、宛先を変えるだけで手元のモデルを使える
企業のAI導入を手伝っていると、顧客名入りの文書をクラウドへ貼れずに止まる部署は多い。Llama Windowsはその入り口を0円で用意したが、配る前に決めることが2つある。どのモデルを社員に使わせるかと、何GBのPCに入れるかだ。小さなモデルに敬語のメールを任せると、今回のように元に無い一言を足す。情報システム部門はおすすめの一覧をそのまま開放せず、社内の文書で答えを比べて使ってよいモデルを1つに絞っておくと迷いが減りそうだ。
- Llama Windowsは無料で使える？
- Llama Windowsは0円で使える。Hugging Faceが無償で公開しており、GitHubのライセンスはMITだ。月額がかからない代わりに、モデルを動かす計算は自分のPCが受け持つ。クラウドのChatGPTは有料でいちばん安いGoでも月1,400円かかる（AInformation調べ）。落とすモデルごとに使ってよい範囲が決まっているので、仕事で使うならモデルの利用条件も確かめておきたい。
- RTX Sparkが無い普通のWindows PCでも動く？
- 普通のWindows PC向けのx64版も配られている。10月10日付のv0.12.0には、x64版とArm版をまとめたファイルと単独のファイルが並ぶ。RTX Spark向けの調整はArm版の話で、x64版を入れれば今のPCでも使える。公式はWindows 11向けのアプリとしており、Windows 10で動くとは書いていない。
- 自作のアプリやスクリプトから呼べる？
- 呼べる。Llama WindowsはOpenAI互換のAPIを持つローカルサーバーとして動き、http://localhost:9931で待つ。AInformationが同じllama.cppのエンジンをMacで立てると、起動から11.4秒で受け付けた。日本語の質問9回には0.31〜2.04秒で答えた。OpenAI向けに書いたコードなら、宛先を変えるだけで試せる。
- Macでは使える？
- Llama WindowsはWindows専用だが、Macには同じ作りの別アプリ「Llama for Mac」がある。Windows版はそのMac版をWindows向けに作り直したものだと公式のREADMEは説明している。モデルは標準のHugging Faceの保存場所に置かれ、llama.cppやほかのHugging Faceの道具と共有できる。
この記事の出典
補助資料
- [1]PC Watchこの記事の元にした報道
出典の最終確認日：2026年10月15日
