AI 向けに Mac mini と Mac Studio を比較。

どちらも小型のデスクトップ Mac で、AI モデルを自身の GPU とユニファイドメモリで動かします。違いとして重要なのは、搭載できるメモリの量と、チップがそれを読み出す速さです。Apple の公表値をもとにした比較と、どちらがどんなモデルに向いているかをまとめました。

更新日

要点

  • Mac mini は最大 64GB(M5 Pro)、Mac Studio は M5 Max で最大 128GB、M5 Ultra で最大 512GB です(Apple、Apple)。
  • 書く速さは帯域幅で決まります。M6 の Mac mini は 153〜170GB/s、M5 Pro は 307GB/s、M5 Max は最大 614GB/s、M5 Ultra は 1,200GB/s です。
  • 4 ビットで約 30B パラメータまでのモデルなら、M5 Pro の Mac mini で十分です。70B クラスのモデル、gpt-oss-120b、長いコンテキストには 128GB の Mac Studio。最大級のオープンモデルには M5 Ultra の Mac Studio です。
  • メモリはあとから増設できません。今だけでなく、来年動かしたいモデルに合わせて選びましょう。

1AI で重要になる仕様

Macメモリの選択肢メモリ帯域幅4 ビットで最大のモデル消費電力(アイドル時〜最大)
Mac mini、M616、24、32GB153〜170GB/s約 21B〜42B4〜70W
Mac mini、M5 Pro24、48、64GB307GB/s約 32B〜85B6〜145W
Mac Studio、M5 Max36、48、64、128GB460〜614GB/s約 48B〜170B7〜200W
Mac Studio、M5 Ultra96、256、512GB1,200GB/s約 128B〜682B9〜385W
メモリと帯域幅は Apple の技術仕様(Mac mini、Mac Studio)より、消費電力は Apple の公表値(Mac mini、Mac Studio)より。最大のモデルは重みだけの値で、GPU がメモリの約 75% を使う場合です(計算方法)。

各構成から、その Mac でよく動くモデルの一覧へ移動できます。以前のモデルも考え方は同じです。M4 や M4 Pro の Mac mini、M4 Max や M3 Ultra の Mac Studio も比べられます(すべての Mac のランキング)。

2それぞれの書く速さ

文章を書くとき、モデルはトークンごとにアクティブな重みを 1 回ずつ読み出すので、速度の上限はメモリ帯域幅で決まります。4 ビットで約 18GB になる 32B の Dense モデルの場合:

Mac1 つのチャットでの上限収まる?
Mac mini、M6(32GB)毎秒約 9 トークンはい
Mac mini、M5 Pro(48GB または 64GB)毎秒約 17 トークンはい
Mac Studio、M5 Max(48GB 以上)毎秒約 34 トークンはい
Mac Studio、M5 Ultra毎秒約 67 トークンはい
帯域幅を 18GB で割った値です。実際にはたいてい上限の約 45%〜80% になります(llama.cpp のベンチマーク)。推定値で、実測ではありません。

Mixture-of-Experts モデルはトークンごとに重みのごく一部しか読まないので、サイズから想像するよりずっと速く書きます。収まるかどうかはメモリで決まり、ペースはやはり帯域幅で決まります。長いプロンプトの読み込みは帯域幅より GPU の計算性能に左右されるため、そこでは GPU の大きい Max や Ultra がさらに差をつけます。

3どのモデルにどちらを選ぶか

  • 小〜中規模のモデル(4 ビットで約 30B まで)、チャット、コーディング支援、自宅の AI サーバー: 48GB か 64GB の M5 Pro 搭載 Mac mini。32GB の M6 Mac mini でも同じサイズが動きますが、速度は約半分です。
  • 70B クラスのモデル、gpt-oss-120b、長いコンテキスト、複数モデルの同時実行: 128GB の M5 Max 搭載 Mac Studio。OpenAI 公式の gpt-oss-120b のファイルは約 65GB で(OpenAI)、どの Mac mini でも GPU に割り当てられる量を超えます。
  • 最大級のオープンモデル(数千億パラメータ): 256GB か 512GB の M5 Ultra 搭載 Mac Studio、または複数の Mac の組み合わせ(Mac で AI クラスタ)。

特定のモデルについては、そのページで動かせる最小の Mac とすべてのチップでの速度を確認できます:すべてのオープンモデル。

41 日中動かす

どちらも静かで効率のよい常時稼働マシンになります。上の Apple の公表値では、アイドル時は Mac mini が 4〜6W、Mac Studio が 7〜9W です。フル負荷では M5 Ultra の Mac Studio は最大 385W を使います。スリープさせずにほかのデバイスへモデルを提供する方法は Mac mini でローカル AI サーバー で、1 日あたりの電気代は Mac の消費電力 で解説しています。

アイドル時には、MLX Node が MLX Network の AI ジョブを実行して MLX トークンを獲得できます。チップに合った専用シートなら、より速くマイニングできます。M6 には Core、M5 Pro と M5 Max には Pro、M5 Ultra には Ultra です。獲得量は保証されません。リスク をお読みください。

5よくある質問

AI 用なら Mac mini より Mac Studio を買う価値はある?
約 85B パラメータを超えるモデル、gpt-oss-120b、長いコンテキストを使いたいなら、あります。64GB を超えるのは Mac Studio だけです。4 ビットで約 30B までのモデルなら M5 Pro の Mac mini で動きます。帯域幅は M5 Max の約半分です。
Mac mini で 70B モデルは動く?
動くのは 64GB の M5 Pro だけで、4 ビットかつ短いコンテキストの場合です。重みは、初期設定で GPU が使える 48GB のうち約 39GB を占め、速度は毎秒数トークンです。128GB の Mac Studio ならコンテキストにも余裕を残して、約 2 倍の速さで動きます。
LLM 用の Mac Studio は M5 Max と M5 Ultra のどちら?
M5 Ultra は帯域幅が約 2 倍(1,200GB/s 対 614GB/s)なので書く速さも約 2 倍で、メモリは最大 512GB です。128GB の M5 Max なら、4 ビットで約 170B までのモデルに対応します。M5 Max と M5 Ultra の比較 をご覧ください。
AI 用の Mac mini は M6 と M5 Pro のどちら?
M5 Pro です。24GB や 32GB の M6 より約 80% 速くメモリを読み、メモリも 32GB ではなく最大 64GB まで選べます。

出典

  1. Applesupport.apple.com
  2. Applesupport.apple.com
  3. Mac minisupport.apple.com
  4. Mac Studiosupport.apple.com
  5. llama.cpp のベンチマークgithub.com
  6. OpenAIhuggingface.co

次に読む