ggml-org、llama.cppを1.0.0に 旧関数35個を削除した

llama.cpp v1.0.0が11月13日に公開　版の付け方が変わった

Hugging Faceのllama.cppチームが、11月13日にv1.0.0を公開しました。計算の土台になるggmlも同じ日にv1.0.0になっています。始まってから3.5年での節目です。

チームは、手元のPCでAIを動かすことがこれからもっと大事になるとみています。組み込む開発者が増えたので、変わらない窓口を約束する形にしました。版の付け方はセマンティックバージョニングにそろえます。

• 先頭の数字：公開しているCの窓口を壊す変更で上がる
• 2番目の数字：前と互換のある機能や対応モデルの追加で上がる
• 3番目の数字：窓口を変えない不具合の直しで上がる

古い関数35個を削除　組み込んだアプリは手直しが要る

v1.0.0では、使わない予定にしていた古い関数35個を消しました。llama.cppを部品として組み込んだアプリは、そのままではビルドが通らない可能性があります。

足された機能もあります。リリースノートにある主なものは次のとおりです。

• OpenAIと同じ形の読み上げの窓口「/v1/audio/speech」を追加
• llama-serverの守りを強化（SSRF・CORS・DNSリバインディングへの対策）
• チャットをグループにまとめられる新しいWeb画面と、書式が見える入力欄
• 新しいモデルの構造3つ（Kimi-K3.1-Pro・Ripple・xing4_0）と読み上げのdrama-3

サーバーとして立てているだけの人にも関係があります。起動の指定から「–defrag-thold」が消えたからです。

Macで新旧を3回ずつ試した　速さは同じで古い指定は止まる

編集部はMacで、v1.0.0（番号版b12359）と直前のv0.9.0（b12110）を並べて動かしました。モデルはQwen2.5-1.5B-InstructのQ4_K_Mで、同じ日本語の質問を3回ずつ送っています。

日本語の答えは新旧で1字も変わらず、速さも毎秒123トークン前後で並びました。違いが出たのは次の2か所です。

読み上げの窓口は、文章用のモデルのままでは使えません。「this server does not support audio generation」と返って止まりました。

入れ方にも注意が要ります。11月13日21時27分の時点で、Homebrewの安定版はまだ0.9.0でした。いま試すならGitHubの番号版b12359を落とすのが早道です。

上げる前に確かめる3つ　起動の指定と組み込みと入れ方

社内でllama.cppを動かしているなら、上げる前に次の3つを見ておくと安心です。

• 起動の指定に「–defrag-thold」が残っていないか。残っていると起動しません
• 自前のアプリが、消えた35個の関数を呼んでいないか
• Homebrewで入れているなら、版の表示が1.0.0になったか

速さは変わらないので、手元で1人で使うだけなら急ぐ理由は薄めです。社内のほかの人にサーバーを開いているなら、守りの直しが入ったv1.0.0へ早めに移る価値があります。

見方導入の現場から考える

※記事の事実とは分けて、筆者の考えを書いています。

藤井俊太AI導入コンサルタント

分析・考察版が1.0になったのは、llama.cppを部品として使う会社への約束だとみています。これまでは番号版を追うしかなく、社内で版を決めて固定するのが難しかったはずです。先頭の数字で壊れる変更が分かれば、上げる時期を決めやすくなります。

一方で指定ひとつで起動しなくなる変更は、手順書に起動の指定を書いて配っている会社ほど響きそうです。手順書の指定を先に洗い出しておかないと、朝に社内のAIが立ち上がらない事態になりかねません。