NVIDIA、検索用AIを0円で公開 日本語12問で1B版だけ全問正解だ

NVIDIAが検索用のAIを5種類公開　日本語を含む34言語に対応

NVIDIAは検索拡張生成（RAG）向けのモデル群「Nemotron Retriever」に5種類のモデルを足し、すべてを無償で公開した。中心になるのは文章や画像を数字の並びに置き換える埋め込みモデルのNemotron 3.5 Embedで、8B版は日本語を含む34言語に対応する。

8B版は画像とテキストの両方を入力にできる。1B版はその小さい版で、1B版をさらに軽くしたNVFP4版もある。残りの2つは検索結果の並べ替えに使うNemotron-3.5-Rerank-8Bと、PDFの中身をAIが扱いやすい形に整えるNemotron-3.5-Parseだ。

配布先はHugging Faceで、ライセンスはOpenMDW-1.1だ。モデルのページには商用でも非商用でも使えると書かれている。

社内文書のRAGを作る人向け　PDFの整形から並べ替えまで揃う

影響を受けるのは、社内の規程や資料をAIに検索させる仕組みを作っている開発者と情報システム部門だ。PDFを整える・探す・並べ替えるの3段を、1社の無償モデルでそろえられるようになった。

NVIDIAの公表したベンチマークでは、8B版がQwen3-VL-Embedding-8BやEmbeddingGemma-2を上回った。1B版もQwen3-VL-Embedding-8Bに近い点を出している。埋め込みと並べ替えを組み合わせると、精度を上げながら費用を抑えられるとNVIDIAは説明する。

一方で、チャットで使うAIの利用者がすぐに得をする話ではない。ChatGPTやGeminiの画面が変わるわけではなく、恩恵は自社で検索の仕組みを持つ会社に限られる。

日本語の社内規程で試した　Nemotron 1Bだけが24本でも全問当てた

公表値は英語中心のベンチマークなので、日本語で本当に探せるかを10月22日に手元で試した。架空の社内規程を用意し、言い回しを変えた質問12問で正しい規程を1位に出せるかを数えた。

相手はGeminiと同じGoogleのEmbeddingGemma 2と、ChatGPTの開発元OpenAIの検索用モデル2つだ。規程12本では差が小さかったので、交通費や海外出張のような紛らわしい規程を12本足した24本でも取り直した。

AInformation独自検証（2026年10月22日）。12問それぞれで正しい規程が1位に来た数。各モデル1回ずつ。Nemotronと EmbeddingGemma 2 はApple M4 Pro（24GB）のMacでSentence Transformersから動かした。256次元は出力の先頭だけを残して比べた値。

紛らわしい24本では、Nemotron 1Bのほうが他の3つより正確だった。EmbeddingGemma 2は「タクシー代のレシートはどこに出せばいい？」で定期券代の規程と取り違えた。OpenAIの小さい版は「ChatGPTに見積書を貼って要約させてもいい？」に生成AIの規程ではなく経費精算の規程を返した。

差が大きく出たのは、出力を256次元まで縮めたときだ。保存するデータを8分の1にしてもNemotron 1Bは12問を落とさず、EmbeddingGemma 2は10問に下がった。社内文書が多い会社ほど、この縮めても崩れにくい点が効いてくる。

Macで試すなら1B版から　8B版は16.8GBで手元では試せなかった

まず試すなら1B版がよさそうだ。重みは3.1GBで、Macでも規程12本の埋め込みが1.8秒で終わった。8B版は重みだけで16.8GBあり、編集部のMacは空き容量が足りず試すことができなかった。

気をつけたいのは、モデルのページにある書き方の例がNVIDIAのGPUを前提にしている点だ。Transformersで書いた例はCUDAのGPUが無いと止まる作りになっている。Macで動かすときはSentence Transformersから呼び、精度の指定をBF16から変えると通った。

• 自社の規程や資料から質問を10問ほど作り、今使っている検索と1位の当たり数を比べる
• 文書の数が多いなら、次元を縮めても当たり数が落ちないかを先に見る
• PDFが多い部署なら、Nemotron-3.5-Parseで表が崩れずに取り出せるかを1冊で試す

社内検索の精度が上がれば、AIが答えを探して検索を繰り返す回数も減る。次は8B版と並べ替えモデルを組み合わせたときに、日本語でどこまで差が開くかが見どころになる。