製品・サービス · · Team LATENT
Muse Spark Openの重み公開で、高性能AIを自宅に置けるのか
816Bのモデルを2台のMac Studioで動かす仕組みが公開された。42Bだけが稼働するMoE、約493GBの量子化重み、分散実行の速度から、100万・200万円のローカルLLM予算で何が変わるかを考える。
高性能なAIを自分の機材で動かしたい。以前のローカルLLMコラムでは、100万円と200万円の予算で、どこまでクラウドの仕事を手元へ移せるかを考えた。Metaが10月15日に公開したMuse Spark Openは、その検討に具体的な候補を加えた。巨大なモデルを、2台のMac Studioに分けて動かす方法まで示されている。
今回変わったのは、モデルの重みを入手し、自分で推論を実行できることだ。機材の容量、入力を読む時間、道具を使わせるアプリまで見れば、「自分のエージェントを持つ」ために買うものと組むものが分かる。
この記事の要点
- Muse Spark Openは総816B・稼働42BのMoEモデルだ。稼働する重みを絞って計算を軽くするが、モデル全体を置くメモリは必要になる。
- Appleは512GBのM5 Ultra Mac Studioを2台使い、NVFP4・Tensor並列で毎秒24.99トークンの生成を測定した。入力8,192トークン・生成128トークン・batch 1の値で、100万トークン時の速度や仕事全体の完了時間ではない。
- 標準構成2台の開始価格合計は189万9,600円だが、実測に使った512GB構成の価格ではない。512GB版は10月後半の提供予定で、重みの公開にもMuseサービス一式は含まれない。実行アプリや連携は自分で用意する必要がある。
モデルを所有するための構成が見えた
自分で持つのは、モデルと実行する仕組み
重み → 2台のMac → ローカルAPI → エージェントアプリ
モデルを置く
NVFP4の重みを分けて読み込む。各Macは512GBの共有メモリを持つ。
2台で推論する
Thunderbolt 5のRDMAで中間結果を送る。MLXが計算の分担と通信を扱う。
アプリで仕事を進める
ローカルAPIへ依頼し、返されたツール呼び出しを実行する。ファイル操作や承認もアプリ側が担う。
Muse Spark Openはコード作成や複数段階の仕事を想定したモデルで、文章・画像・動画・音声を入力し、文章を出力する。Metaのモデルカードには、道具を選び、失敗に対応しながら仕事を進める用途が挙がる。100万トークンは、一度の推論で扱える文脈の上限だ。
Metaの評価では、MCP-Atlasが89.2、Terminal-Bench 2.1が76.4だった。後者はTerminus 2エージェントを用い、Museはxhighで評価されている。こうした成績は任せられる仕事の候補を考える材料になるが、自宅のMacで同じ成績や完了時間を再現した測定ではない。
42Bの稼働でも816Bの重みを置く
816Bは8,160億個、42Bは420億個のパラメータを指す。MoEでは、トークンごとに使う専門家を選ぶ。Muse Spark Openは256個の専門家から8個を選び、モデル全体の一部で計算する。入力や出力が変われば選ばれる専門家も変わるため、稼働42Bを「42Bのモデルと同じ容量で置ける」とは読めない。
保存する量と、毎回計算する量が違う
MoEと量子化は、別の負担を減らす
816Bを保存
モデル全体の重みを機材に置く。専門家を切り替えられるようにするためだ。
42Bが稼働
各トークンで一部を計算する。全816Bを毎回計算するモデルより演算を抑えられる。
NVFP4で小さく保存
重みの数値を少ないビットで表す。保存容量が減っても、文脈や中間計算のメモリは別に必要だ。
Appleの説明では、BF16の重みだけで1.6TBを超え、NVFP4でも約493GBを占める。中間計算に使う領域を加えると、512GBのMac一台には収まらない。モデルカードが示す推論用の目安も、NVFP4で700GBのVRAM、BF16で2TBだ。約493GBという重みの占有量と、推論全体の要件は区別したい。
2台をつなぐ方法で速度が変わる
Macの共有メモリは、GPU専用メモリとCPU用メモリを別々に積む構成とは異なり、GPUも大きなメモリ領域を利用できる。2台の512GB機なら合計1TBになる。ただし、ケーブルを挿すだけで一つのGPUのように動くのではない。MLXがモデルと計算を分割し、途中の結果を送り合う。
M5 Ultraのメモリ帯域は1.2TB/秒だ。容量がモデルを置ける大きさを決め、帯域は重みを読み出す速さに関わる。この値はMac内部のメモリ帯域であり、2台を結ぶThunderboltの通信速度ではない。
同じ2台でも、仕事の分け方が違う
前半と後半に分けるか、各層の計算を分けるか
Pipeline並列
Mac Aが前半の層を計算 → 中間結果を送る → Mac Bが後半を計算。モデルを載せる容量を増やしやすい。
Tensor並列
各層の計算をMac AとBで分担 → 結果をまとめる。計算を同時に進められる分、頻繁な通信が必要になる。
通信も推論の一部
分担した計算には、結果を送り合う時間が加わる。台数を増やした分だけ仕事全体が速くなるとは限らない。
RDMAは、機械どうしのメモリ間でデータを転送するための仕組みだ。Appleの測定では2台をThunderboltケーブル2本で結び、MLXのJACCL通信バックエンドを使った。公式の導入手順にはmacOS 26.2以降の対応環境、RecoveryからのRDMA有効化、SSH接続、ホスト一覧の設定が含まれる。使う人が分散実行の準備をする構成である。
生成速度と仕事の完了時間を分ける
Appleが公開した次の値は、NVFP4で8,192トークンの文脈を読み、128トークンを生成した測定だ。バッチサイズは1。入力を読んで最初のトークンが出るまでの時間と、その後に文章を生成する速さを分けている。
| M5 Ultraの構成 | 最初のトークンまで | 生成速度 |
|---|---|---|
| 2台・Pipeline | 8.4秒 | 15.74トークン/秒 |
| 2台・Tensor | 8.2秒 | 24.99トークン/秒 |
| 4台・Tensor | 4.8秒 | 36.73トークン/秒 |
Apple測定のTable 2・3:8,192トークン時の待ち時間と生成速度
2台でも並列化の方法で生成速度は変わる。24.99と15.74を比べると、Tensor並列は約1.59倍だ。これは掲載値からの計算であり、コード修正や動画編集の仕事が1.59倍速く終わったという結果ではない。
エージェントは、入力を読み、考え、道具を呼び、結果を読み直す。仕事全体の時間には、生成トークン数、ツールの待ち時間、失敗後のやり直しも入る。100万トークンまで読めるという仕様から、その長さでも毎秒24.99トークンで応答すると推定することはできない。LATENTではこの機材構成を実測していない。
200万円の予算で実測構成はまだ決められない
日本のApple公式発表では、M5 Ultra搭載Mac Studioは税込94万9,800円から。標準構成を2台買う価格の単純合計は189万9,600円になる。だが、これはAppleの実測に使った512GB構成2台の見積もりではない。
Appleは512GB構成を10月後半に提供予定としている。10月16日時点で確認した公式資料では、その構成の確定価格まで確認できなかった。「200万円で今すぐ同じ環境が組める」という購入案にはできない。
以前の100万・200万円で考えるローカルLLMでは、単体のGPUやMacの容量と、任せる仕事の釣り合いを考えた。Muse Spark Openによって増えた選択肢は、複数台で約800B級のモデルを動かす構成だ。予算が同じでも、容量を増やすだけでなく、通信の設定や2台の運用まで引き受ける違いがある。
所有すれば推論のたびにモデル提供者へ従量料金を払う必要はなくなるが、機材代、電力、保存領域、保守の負担は残る。どのくらい使えばAPIより安いかは、実際の利用量と機材価格が分かってから計算する話になる。
重みをエージェントとして使うにはアプリが要る
AppleはMLXのローカルサーバーを起動し、OpenCodeの接続先にする例を示している。この構成では、モデルが道具の呼び出しを出力し、アプリがその指示を受けてファイル編集などを実行する。承認、作業記録、接続するサービスの認証も、その周りに必要になる。
以前のMuse Wonder・Muse Code・Museアプリの比較で分けた、モデル、実行ツール、継続サービスという違いは今回も当てはまる。Spark Openの重み公開を、WonderやMuseサービスの記憶・連携・専用実行環境まで一式で配布された出来事として扱うことはできない。
入力形式にも実装の差がある。モデルカードは音声入力を含むが、確認したMLX LMのMuse実装は音声用の部分を未対応とし、その重みを読み込みから除外している。モデルの仕様と、選んだ実行エンジンで動く機能は別に確認する必要がある。
利用と再提供にはMuse独自の条件がある
配布条件はMuse Model Licenseだ。利用、改変、再配布、商用利用などを認める一方、著作権表示・ライセンス・Usage Policyの保持や、利用する製品への「Built with Muse Spark Open」の表示を求めている。重みが公開されたことと、条件のない利用許可は同じではない。
特に、APIなどを通じて第三者にモデルを提供するModel as a Service事業では、関連会社を含む連続12か月の総売上が2,000万米ドルを超える場合、Metaへの通知と別の書面契約が必要になる。この条項は内部利用や研究、Model as a Serviceではない自社製品の機能としての利用には適用されない。自分の機材で使うことと、他者へモデルAPIを提供することを分けて読む条件だ。
配布ページ掲載のMuse Model License 第1〜3項
買う前に仕事と待ち時間を試せる
Muse Spark Openの公開で、巨大なモデルを自宅へ置く方法は、容量と通信と測定値を伴う具体的な構成になった。小型モデルでは足りないコード修正や複数段階の仕事を、外部の推論サービスへ渡さずに試したい人には意味がある。
機材を買う前にも、提供されているAPIで普段の課題を試せる。そこで確かめるのは回答と仕事の完成度で、Macでの速さは別の検証になる。自宅で動かす段階では、必要な入力形式、普段の文脈長、最後まで仕事を終える時間を、使うアプリと一緒に測りたい。
同日に発表されたNemotron 3.5 Boltは、モデルを圧縮して24GB級へ近づける方向だ。Muse Spark Openは、大きなモデルを複数台で保持する方向になる。手元の機材を生かすか、大容量の構成を新しく持つか。以前の予算比較に、この二つの進み方が加わった。