目次 / llama.cpp の準備

llama.cpp の準備(OS別)

Pixubus EX の頭脳は llama.cpp(の llama-server)です。これだけは アプリに同梱していないので、お使いの OS に合わせて自分で用意します。ここがいちばんの山場ですが、当てはまる OS の箇所だけ読めば大丈夫です。

まず方針:GPU?CPU?どのビルド?

llama.cpp は環境に合わせて何種類かのビルドがあります。迷ったら下の図と早見で選んでください。速度を求めるなら GPU、確実さを求めるなら CPU が基本です。

入手の手段は大きく2つ。パッケージマネージャ(一番ラク)か、公式の配布 zip を手で展開(GPU ビルドを細かく選びたいとき)です。配布 zip は llama.cpp 公式の GitHub Releases にあります。

※ ファイル名の b####(例 b9821)はリリース番号で、頻繁に更新されます。Releases ページで最新の番号に読み替えてください。以下の例の番号はあくまで一例です。

かんたん:winget で入れる

コマンドプロンプトか PowerShell で 1 行。新しいバージョンが出ても更新されます。

winget install llama.cpp

入ったら llama-server --version で確認できます。NVIDIA GPU をフルに使いたい / Blackwell 世代(RTX 50 系)の場合は、次の「手で展開」で CUDA ビルドを選ぶほうが確実です。

確実:配布 zip を手で展開(GPU を選びたいとき)

Releases から、環境に合う zip を落として好きなフォルダに展開します。

展開すると llama-server.exe が入っています。これが本体です。場所(フルパス)を控えておきます(例 C:\tools\llama\llama-server.exe)。動作確認:

cd C:\tools\llama          # 展開した場所
.\llama-server.exe --version

Apple Silicon なら Metal(GPU)が標準で有効なので、特別なことをしなくても速く動きます。Homebrew が一番ラクです。

brew update
brew install llama.cpp

これで llama-server が使えるようになります(新リリースに追従して更新されます)。確認:

llama-server --version
which llama-server        # 実行ファイルの場所を確認(設定で使う)

Homebrew を使わない場合は、Releases から llama-b####-bin-macos-arm64.tar.gz を落として展開します。

tar -xf llama-b####-bin-macos-arm64.tar.gz   # 展開
xattr -dr com.apple.quarantine .             # Gatekeeper の隔離属性を外す(必要なら)

Linux は ソースからビルドするのが確実です(私たちが実機で検証した手順。クラウド GPU の RTX 5090 + CUDA 12.8 でこのまま成功しています)。Linux 向けの CUDA プリビルドは配布されていないため、GPU を使うなら実質これ一択です。

ソースからビルド(おすすめ・実測済み)

手順は ①依存 → ②取得 → ③設定(cmake)→ ④ビルド → ⑤確認 の一本道です。上から順に全部実行してください(GPU/CPU の違いは ③ の 1 行だけ)。

# ① 依存(初回のみ)
sudo apt-get update && sudo apt-get install -y build-essential cmake git libcurl4-openssl-dev

# ② 取得
git clone https://github.com/ggml-org/llama.cpp && cd llama.cpp

# ③ 設定(NVIDIA GPU / CUDA 12.x。RTX 50xx=Blackwell は世代を明示・実測: RTX 5090 で成功)
cmake -B build -DGGML_CUDA=ON -DCMAKE_CUDA_ARCHITECTURES=120

# ④ ビルド(★ここが本体。数分〜十数分かかります)
cmake --build build --config Release -j

# ⑤ できあがり
./build/bin/llama-server --version

• ③ の置き換え: RTX 50xx 以外の NVIDIA GPU は cmake -B build -DGGML_CUDA=ON(世代は自動検出)/ CPU のみは cmake -B build。どちらの場合もそのあと必ず ④ を実行します。
• CUDA toolkit は 12.x を使ってください(nvcc --version で確認。13.x は既知のクラッシュあり)。
• バイナリは build/bin/llama-server にできます。起動コマンドの使い方は Windows / macOS と同じです。

CPU だけで手早く試すなら、Releases の llama-b####-bin-ubuntu-x64.tar.gz を展開して使う手もあります。Homebrew(Linuxbrew)の brew install llama.cpp でも入るはずですが、こちらは未検証です(参考まで)。

用意できたら:アプリにつなぐ

Pixubus EX は自分で起動した llama-server に URL でつなぐ方式です(アプリは llama-server を起動しません。詳しくは 設定)。

次は、その llama-server に読ませる モデル(Gemma4 の GGUF + mmproj) を入手します。