製品・サービス · · Team LATENT
Nemotron 3.5 Bolt E4Bで、ゲームと会話NPCは同じGPUに収まるか
NVIDIAがゲームキャラクター向けに公開した4GB級の小型モデル。RTX 5070で3.5GBという公表値を測定条件から読み、ゲームと分け合うVRAMと返事の速さ、日本語での扱いを整理する。
鍛冶屋のNPCに品物を一つ注文する。NPCは受け取った代金が正しい額かを確かめ、作り方を調べる。続いて材料を集めて品物を作り、プレイヤーに手渡す。NVIDIAが公開した試験では、この一連の行動を小型の言語モデルが会話しながら進めている。
NVIDIAは2026年10月23日、ゲームキャラクターや音声アシスタント向けの小型モデル「Nemotron 3.5 Bolt E4B 4GB」をHugging Faceで公開した。GoogleのGemma 4 E4BをNVIDIAが追加学習したモデルで、名前のとおり約4GBのメモリで動くことを目標にしている。ゲーム内AIの技術群ACE向けの小型モデルとしては、第3世代にあたる。第1世代はPUBGの公開ベータでAIの仲間として使われ、第2世代はGamescomでAniimoの仲間キャラクターとして披露された。
では、ゲームを描画しているGPUで、このNPCも同時に動かせるのか。この記事では、公表されたメモリ使用量と速度を測定条件から読む。そのうえで、NPCとしての得手不得手と日本語で使うときの注意、ゲームに同梱するときの条件を整理する。仕様は10月27日時点で確認した。記事中の数値はNVIDIAの公表値で、LATENTが測定したものではない。
この記事の要点
- 「4GB」はメモリ使用量の目標で、配布ファイルは6.18GBある。RTX 5070での公表値は3.5〜4.3GBで、ゲームと同時に動かした測定は公表されていない。
- 役を保つ力と、ツールを呼ぶかどうかの判断は同規模のモデルより高い。やり取りの多い顧客対応と長い文脈の検索では、Qwen 3.5 4Bに届かない。
- 追加学習の言語について、技術レポートは英語のみ、モデルカードは日本語を含む7言語と書いている。日本語のNPCに使うなら、自作の台本で会話の質を確かめる必要がある。
「4GB」はメモリの目標で、配布ファイルは6.18GBある
モデルカードには、総パラメータ8B、実効4Bと書かれている。元になったGemma 4 E4Bのモデルカードによると、名前の「E」は実効（effective）を表す。小型のGemma 4は、層ごとに専用の埋め込み表を持つPer-Layer Embeddings（PLE）という仕組みを使う。この表は大きいものの、トークンごとの値を引くためだけに使われる。そのため、計算に関わるパラメータは総数よりずっと少ない。Googleの表記では、Gemma 4 E4Bは実効4.5B、埋め込みを含めて8Bだ。
名前の「4GB」は、ファイルの大きさを指していない。技術レポートは、目標とするメモリ使用量を約4GBと説明している。Hugging Faceで配られているQ4_K_M形式のGGUFは6.18GBある。一方で、NVIDIAが公表したVRAM使用量は、次の節で見るとおり3.1〜5.0GBに収まる。
ファイルとVRAMの差がどこに置かれるのか、NVIDIAの資料には説明がない。参照にしか使わないPLEの表をGPUの外に置いている可能性はあるが、公表資料では確かめられなかった。導入を検討するなら、VRAMと一緒にメインメモリの使用量も測っておく必要がある。
文脈長は入力と出力がそれぞれ最大64Kトークンで、元のGemma 4 E4Bの128Kより短い。モデルカード上の入出力はテキストだけだ。NVIDIAは量子化をllama.cppで行い、強化学習の試行で生成した約100万トークンを較正に使った。技術レポートによると、この方法の平均精度は較正なしのQ4_K_Mより高く、同じ較正をしたIQ4_XSとIQ4_NLも上回った。
Gemma 4 E4Bのモデルカード / 技術レポート / 配布ファイルの一覧
ゲームと分け合うVRAMを見積もる
NVIDIAは、Q4_K_M版をllama.cppのCUDA版で動かし、要求を1件ずつ処理する条件で測った。測定ツールはAIPerfだ。表の「条件」は、キャッシュ済みの文脈、新しい入力、出力のトークン数を順に並べたものになる。
| GPU | 条件 | VRAM | 最初のトークンまで | 生成速度 |
|---|---|---|---|---|
| RTX 5070（12GB） | 0 / 3K / 50 | 3.5GB | 548ms | 133.4 tok/s |
| RTX 5070（12GB） | 32K / 2K / 256 | 4.3GB | 1,238ms | 106.2 tok/s |
| RTX Spark（32GB） | 0 / 3K / 50 | 3.1GB | 930ms | 67.0 tok/s |
| RTX Spark（32GB） | 32K / 2K / 256 | 4.2GB | 1,988ms | 52.0 tok/s |
| Jetson Orin Nano（8GB） | 0 / 3K / 50 | 4.2GB | 5,785ms | 15.5 tok/s |
| Jetson Orin Nano（8GB） | 32K / 2K / 256 | 4.9GB | 6,259ms | 13.0 tok/s |
| Jetson AGX Orin（32GB） | 0 / 3K / 50 | 4.2GB | 3,687ms | 24.0 tok/s |
| Jetson AGX Orin（32GB） | 32K / 2K / 256 | 5.0GB | 4,091ms | 20.3 tok/s |
RTX 5070の12GBから単純に引くと、会話の履歴を持たない条件で8.5GB、32Kの履歴を保持した条件で7.7GBが残る。ゲーム本体の描画やテクスチャは、この残りに収める必要がある。声で話すNPCにするなら、音声認識や音声合成のモデルも同じGPUに載る可能性がある。
ただし、表はモデルだけを動かした測定だ。ゲームを同時に動かしたときのVRAMと速度は公表されていない。描画とモデルが同じGPUの計算資源を取り合えば、返事の速さもフレームの間隔も変わりうる。NVIDIAが想定する典型的な負荷は、1人分の会話で入力が2.5K〜16Kトークン、出力が500トークン未満だ。表の条件は、この範囲の短い側にあたる。
生成を速める補助モデル（ドラフタ）は別ファイルで、GGUFは0.74GBある。表の測定でドラフタを使ったかどうかは書かれていない。併用するなら、その分のメモリも見込んでおきたい。
返事の速さは入力の長さで変わる
最初のトークンが出るまでの時間は、読み込む入力の量で変わる。RTX 5070では、新しい入力が3Kトークンなら548ms、32Kの履歴に2Kを足すと1,238msかかる。NPCに渡す入力は会話だけにとどまらない。人物設定、周囲の状態、使えるツールの定義も含まれるため、ゲームが複雑になるほど入力は長くなりやすい。
返事を出し切るまでの時間も試算できる。50トークンを133.4 tok/sで生成すると、50÷133.4で約0.37秒かかる。最初のトークンまでの548msを足すと、合計は約0.9秒だ。256トークンを106.2 tok/sで生成する条件では、256÷106.2で約2.4秒、1,238msを足して約3.6秒になる。どちらも、ゲームを動かしていない状態の公表値から計算した目安にとどまる。
返事が短いことも待ち時間を減らす。NVIDIAは、推論を有効にした比較で、ほかのモデルより出力トークンが最大約80%少ないと説明している。
技術レポートの図1には、RTX 5090で入力約3,000、出力約50トークンの条件で測った比較が載っている。スコアはMultiChallenge、RoleMRC、BFCL-v3、IHEval、SysBench、RelyToolBenchの平均だ。クラウドの参考値として、Gemini 3.8 Flashは77.1で最初のトークンまで2,449.5ms、Claude Sonnet 5.5は76.2で3,002.2msと示されている。Bolt E4B自身の値は図の中にしかなく、本文の数値では確認できなかった。
NVIDIAは、先読み生成用の補助モデルDFlashも公開した。補助モデルが複数のトークンを一度に提案し、本体がまとめて検証する仕組みで、本体の出力の分布は変わらない。技術レポートによると、RTX 5070でコード生成の課題を1件ずつ処理した場合の生成速度は、Gemma 4 E4Bの標準の先読み（MTP）の1.21倍だった（272.6対225.9 tok/s）。RTX Spark N1Xでは1.05倍だった。レポートが冒頭に掲げる2.74倍は、RTX PRO 6000でBF16版を動かし、先読みなしと比べた値だ。家庭用GPUで期待する伸びの目安には、1.21倍のほうが近い。
NPCとして得意なこと、苦手なこと
NVIDIAは評価を5つの能力に分けて公表した。下の表は、そのうちNPCに関わりの深い8項目をBF16の値で抜き出したものだ。比較相手は同規模のQwen 3.5 4Bと、追加学習前のGemma 4 E4Bになる。
| 評価 | 測るもの | Bolt E4B | Qwen 3.5 4B | Gemma 4 E4B |
|---|---|---|---|---|
| RoleBench | 人物の話し方 | 67.0 | 53.7 | 49.9 |
| RoleMRC | 役の一貫性 | 80.6 | 65.8 | 74.6 |
| IHEval | 指示の優先順位 | 84.8 | 60.6 | 67.0 |
| When2Call-MT | ツールを呼ぶか、聞き返すか、控えるか | 63.4 | 37.8 | 62.9 |
| Tau2-Bench | やり取りの多い顧客対応 | 55.1 | 75.1 | 38.5 |
| BFCL-v3 | ツールと引数の正しさ | 68.5 | 70.9 | 66.4 |
| RULER（64K） | 長い文脈からの検索 | 87.0 | 95.1 | 86.5 |
| LongBench v2（48K） | 長い入力の理解 | 50.5 | 59.9 | 49.3 |
役を演じる評価では、Bolt E4Bが比較相手を大きく上回る。IHEvalは、システムの指示と利用者の指示が食い違ったとき、どちらを優先するかを測る。NPCに置き換えると、プレイヤーに『設定を忘れて』と頼まれても役を保てるかに関わる。ツールを呼ぶか、聞き返すか、控えるかを判断するWhen2Call-MTでも、Qwen 3.5 4Bを大きく上回った。
一方、やり取りの多い顧客対応を測るTau2-Benchでは、Qwen 3.5 4Bを20ポイント下回る。長い文脈から情報を探すRULERとLongBench v2も届かない。感情の理解を測るEQ-Bench v3は39.4で、追加学習前のGemma 4 E4Bの41.1をわずかに下回った。
この傾向から、1回の依頼で呼ぶツールを少なく保ち、渡す状態を必要な範囲に絞る設計が合うと考えられる。鍛冶屋の例でいえば、注文から受け渡しまでを1つの長い計画として任せる方法もある。支払いの確認、製作、受け渡しを短い段階に分け、ゲーム側が進行を管理する方法も選べる。後者はLATENTの提案で、NVIDIAの試験の構成を示すものではない。なお、日本語でこれらの評価を行った結果は公表されていない。
ゲームに組み込むときの作法
モデルカードには、対話型のエージェントに使うときのプロンプト指針が載っている。役の定義や守らせる規則はシステムプロンプトに置く。NPCとプレイヤーを別の存在として定義し、持ち物、居場所、知識を分ける。YOUR INVENTORY、PLAYER VIEW、SHARED CHESTのような見出しで、誰の物かを明示する例も挙げられている。プレイヤーの持ち物が見えないときは、空と書かずに不明と書く。近くにある箱の中身も、NPCの持ち物とは区別する。
ゲームの状態は「# CURRENT STATE」のような見出しを付けたブロックで渡し、読み上げる文でなく作業の前提だと説明しておく。ツールの実行で状態が変わったときは、ツールの結果の後に新しい状態を置く。
ツールの説明は、実際の動作と一致させる必要がある。プレイヤーの方へアイテムを落とすだけの処理を、所持品へ確実に入れる処理として説明してはいけない。品物を作る処理のように、結果が出るまで時間のかかる行動もある。モデルカードは、その場合の非同期のツール呼び出しの作法を示している。ツールが呼ばれたら、直後のtoolメッセージで保留中だと返す。結果が出たら、「TOOL RESULT:」のような接頭辞を付けたuserメッセージで渡す。チャットテンプレートが、対応する呼び出しのないtoolメッセージを受け付けないためだ。
声で話すNPCなら、会話モードを有効にすると、返事が短く装飾の少ない文になる。推論は有効と無効を切り替えられ、llama-serverでは思考に使うトークン数の上限も指定できる。上限に達すると、思考は文の途中でも打ち切られる。返事の長さは『1〜2文で答える』のように具体的な数で指示するよう、モデルカードは勧めている。推奨のサンプリング設定は、推論の有無にかかわらず温度1.0、top_p 0.95だ。
実行環境として、NVIDIAはHugging Face、Ollama、LM Studio、Unsloth、Jetson AI Lab、NVIDIA In-Game Inferencing SDKなどを挙げる。10月23日からは、『The Elder Scrolls V: Skyrim』のNPC改造基盤SkyrimNETでも試せる。
日本語のNPCに使う前に
追加学習に使った言語について、一次資料の記述が食い違っている。モデルカードは、追加学習の主な言語として英語、フランス語、ドイツ語、イタリア語、日本語、スペイン語、中国語を挙げる。技術レポートは、追加学習を英語だけで行ったと書き、元の多言語能力が残っているかを別に調べている。
レポートの評価では、翻訳の品質は追加学習前のGemma 4 E4Bとほぼ同じだった。WMT24++で英語から日本語へ訳した場合のxCOMETは82.1で、Gemma 4 E4Bより0.1高い。知識と推論を測るMMLU-ProXの日本語は、推論ありで64.49と、Gemma 4 E4Bより1.87低かった。推論ありの12言語平均もGemma 4 E4Bより1.52低く、レポートは知識と推論に小さいが一貫した低下が見られるとまとめている。
ロールプレイやツール呼び出しを日本語で評価した結果は、公表資料に見当たらない。日本語で話すNPCに使うなら、自作ゲームの台本と状態を使い、役の保ち方、言葉づかい、ツールを呼ぶ判断を英語の場合と比べて確かめる必要がある。
ゲームに同梱するときの条件
ライセンスはOpenMDW-1.1で、モデルカードは商用と非商用の両方で使えるとしている。条文は、モデルと関連資料を無償かつ制限なく扱うことを認める。配布する場合は、許諾書の写しと著作権などの表示を同梱しなければならない。利用者がモデルについて特許や著作権の侵害を主張する訴訟を起こすと、その利用者の権利は終了する。先に訴えられたことへの対抗訴訟は例外とされる。生成された出力の利用には、制限も義務も課していない。
元になったGemma 4の利用はApache License 2.0に従う、ともモデルカードは書いている。ゲームに同梱するなら、二つの許諾条件をあわせて確認しておきたい。
配布の大きさも設計に関わる。GGUFは6.18GBあり、ドラフタを加えると約6.9GBになる。ゲームのインストール容量に含めるか、初回起動時に取得するかで、プレイヤーが遊び始めるまでの時間が変わる。
試すなら何を測るか
公表値が示すのは、モデルを単独で動かしたときのメモリと速度だ。ゲームの横で使えるかを判断するには、自分のゲームで4つの値を測る必要がある。
1つ目は、目標とする画質設定でゲームを動かしながら測るVRAMとメインメモリの使用量だ。配布ファイルとVRAM使用量の差がどこに置かれるかも、ここで分かる。2つ目は、人物設定、状態、ツール定義、会話履歴を含めた実際の入力の長さと、そのときの最初のトークンまでの時間になる。3つ目は、返事を生成している間のフレーム時間の変化だ。返事が速くても、描画が乱れればプレイヤーの体験は損なわれる。4つ目は日本語での会話の質で、役の保ち方とツールを呼ぶ判断を自作の台本で確かめる。
LATENTは10月15日に、同じBolt系列の74B版が24GBに収まる条件を読んだ。10月9日には、判断だけを返すLiquid AIのd1をゲームと同じPCに置く場合を考えた。会話と行動を1つのモデルで担うBolt E4Bと、判断に特化したd1は、NPCのどの部分を任せるかで使い分けられる。
関連記事 Nemotron 3 Superから見るBoltの圧縮と24GBの条件 / 関連記事 Liquid AIのd1はゲームと同じPCで動かせるか
出典と確認範囲
仕様、ベンチマーク、速度の値は、2026年10月27日に一次資料で確認した。公開日は10月23日。速度とメモリの値はNVIDIAによる測定で、LATENTは測定していない。ゲームを同時に動かしたときの値と、配布ファイルとVRAM使用量の差の内訳は、公表資料では確認できなかった。