Mac Studioを4台連結、超大型AIを机の上で高速に動かす新手法

米Appleの研究チームは2026年10月15日、オープンソースの機械学習フレームワーク「MLX」の最新版と「RDMA over Thunderbolt」通信技術を組み合わせ、Mac Studioを用いた大規模言語モデル（LLM）のローカルおよび分散推論手法を発表した。4台のMac Studioを連携させることで、約1兆パラメータ規模の超大型モデル「Muse Spark Open」を毎秒36トークン以上の速度で動作させた。

検証では、M5 Ultraを搭載した最新のMac Studioと前世代のM3 Ultraを比較した。M5世代のGPUには行列乗算を高速処理する「GPU Neural Accelerator」が搭載されており、最初のトークンが出力されるまでの時間（TTFT）がM3 Ultraと比べて最大4.6倍高速化した。また、ユニファイドメモリの帯域幅がM3 Ultraの毎秒819GBから毎秒1.2TBへと向上したことで、生成速度も1.6倍に達した。ピーク時の消費電力はM3 Ultraで約200W、M5 Ultraで約300Wに抑えられている。

検証モデルには、8160億パラメータ（816B）の混合エキスパート（MoE）型モデル「Muse Spark Open」のほか、「Mistral Medium 3.5」（128B）、「Qwen 3.8」（27B）が用いられた。Mistral Medium 3.5やQwen 3.8は単一のMac Studio（最大512GBメモリ）に収まる一方、Muse Spark Openは4ビット量子化（NVFP4）後でも約493GBを要し、計算用メモリを含めると単体での実行が困難となるため、複数台による並列処理が不可欠となる。

分散環境では、macOS 26.2で導入されたThunderbolt 5経由の低遅延RDMAドライバと、MLXの通信基盤「jaccl」を採用した。層を分割してマシン間でリレーする「パイプライン並列」と、各層の計算幅を分割する「テンソル並列」の双方が実装されている。テンソル並列では各ノード間を2本のThunderboltケーブルで接続して帯域を倍増させており、文脈長6万5,536トークンにおけるMuse Spark OpenのTTFTを1本接続時の約50.5秒から40.6秒へと短縮した。

研究チームは、MLXに付属するサーバー機能を利用することで、OpenCodeなどの自律型コーディング環境をローカル環境で直接構築できる点も示している。