要点
- Mac mini は最大 64GB(M5 Pro)、Mac Studio は M5 Max で最大 128GB、M5 Ultra で最大 512GB です(Apple、Apple)。
- 書く速さは帯域幅で決まります。M6 の Mac mini は 153〜170GB/s、M5 Pro は 307GB/s、M5 Max は最大 614GB/s、M5 Ultra は 1,200GB/s です。
- 4 ビットで約 30B パラメータまでのモデルなら、M5 Pro の Mac mini で十分です。70B クラスのモデル、gpt-oss-120b、長いコンテキストには 128GB の Mac Studio。最大級のオープンモデルには M5 Ultra の Mac Studio です。
- メモリはあとから増設できません。今だけでなく、来年動かしたいモデルに合わせて選びましょう。
1AI で重要になる仕様
| Mac | メモリの選択肢 | メモリ帯域幅 | 4 ビットで最大のモデル | 消費電力(アイドル時〜最大) |
|---|---|---|---|---|
| Mac mini、M6 | 16、24、32GB | 153〜170GB/s | 約 21B〜42B | 4〜70W |
| Mac mini、M5 Pro | 24、48、64GB | 307GB/s | 約 32B〜85B | 6〜145W |
| Mac Studio、M5 Max | 36、48、64、128GB | 460〜614GB/s | 約 48B〜170B | 7〜200W |
| Mac Studio、M5 Ultra | 96、256、512GB | 1,200GB/s | 約 128B〜682B | 9〜385W |
各構成から、その Mac でよく動くモデルの一覧へ移動できます。以前のモデルも考え方は同じです。M4 や M4 Pro の Mac mini、M4 Max や M3 Ultra の Mac Studio も比べられます(すべての Mac のランキング)。
2それぞれの書く速さ
文章を書くとき、モデルはトークンごとにアクティブな重みを 1 回ずつ読み出すので、速度の上限はメモリ帯域幅で決まります。4 ビットで約 18GB になる 32B の Dense モデルの場合:
| Mac | 1 つのチャットでの上限 | 収まる? |
|---|---|---|
| Mac mini、M6(32GB) | 毎秒約 9 トークン | はい |
| Mac mini、M5 Pro(48GB または 64GB) | 毎秒約 17 トークン | はい |
| Mac Studio、M5 Max(48GB 以上) | 毎秒約 34 トークン | はい |
| Mac Studio、M5 Ultra | 毎秒約 67 トークン | はい |
Mixture-of-Experts モデルはトークンごとに重みのごく一部しか読まないので、サイズから想像するよりずっと速く書きます。収まるかどうかはメモリで決まり、ペースはやはり帯域幅で決まります。長いプロンプトの読み込みは帯域幅より GPU の計算性能に左右されるため、そこでは GPU の大きい Max や Ultra がさらに差をつけます。
3どのモデルにどちらを選ぶか
- 小〜中規模のモデル(4 ビットで約 30B まで)、チャット、コーディング支援、自宅の AI サーバー: 48GB か 64GB の M5 Pro 搭載 Mac mini。32GB の M6 Mac mini でも同じサイズが動きますが、速度は約半分です。
- 70B クラスのモデル、gpt-oss-120b、長いコンテキスト、複数モデルの同時実行: 128GB の M5 Max 搭載 Mac Studio。OpenAI 公式の gpt-oss-120b のファイルは約 65GB で(OpenAI)、どの Mac mini でも GPU に割り当てられる量を超えます。
- 最大級のオープンモデル(数千億パラメータ): 256GB か 512GB の M5 Ultra 搭載 Mac Studio、または複数の Mac の組み合わせ(Mac で AI クラスタ)。
特定のモデルについては、そのページで動かせる最小の Mac とすべてのチップでの速度を確認できます:すべてのオープンモデル。
41 日中動かす
どちらも静かで効率のよい常時稼働マシンになります。上の Apple の公表値では、アイドル時は Mac mini が 4〜6W、Mac Studio が 7〜9W です。フル負荷では M5 Ultra の Mac Studio は最大 385W を使います。スリープさせずにほかのデバイスへモデルを提供する方法は Mac mini でローカル AI サーバー で、1 日あたりの電気代は Mac の消費電力 で解説しています。
アイドル時には、MLX Node が MLX Network の AI ジョブを実行して MLX トークンを獲得できます。チップに合った専用シートなら、より速くマイニングできます。M6 には Core、M5 Pro と M5 Max には Pro、M5 Ultra には Ultra です。獲得量は保証されません。リスク をお読みください。
5よくある質問
- AI 用なら Mac mini より Mac Studio を買う価値はある?
- 約 85B パラメータを超えるモデル、gpt-oss-120b、長いコンテキストを使いたいなら、あります。64GB を超えるのは Mac Studio だけです。4 ビットで約 30B までのモデルなら M5 Pro の Mac mini で動きます。帯域幅は M5 Max の約半分です。
- Mac mini で 70B モデルは動く?
- 動くのは 64GB の M5 Pro だけで、4 ビットかつ短いコンテキストの場合です。重みは、初期設定で GPU が使える 48GB のうち約 39GB を占め、速度は毎秒数トークンです。128GB の Mac Studio ならコンテキストにも余裕を残して、約 2 倍の速さで動きます。
- LLM 用の Mac Studio は M5 Max と M5 Ultra のどちら?
- M5 Ultra は帯域幅が約 2 倍(1,200GB/s 対 614GB/s)なので書く速さも約 2 倍で、メモリは最大 512GB です。128GB の M5 Max なら、4 ビットで約 170B までのモデルに対応します。M5 Max と M5 Ultra の比較 をご覧ください。
- AI 用の Mac mini は M6 と M5 Pro のどちら?
- M5 Pro です。24GB や 32GB の M6 より約 80% 速くメモリを読み、メモリも 32GB ではなく最大 64GB まで選べます。
出典
- Applesupport.apple.com
- Applesupport.apple.com
- Mac minisupport.apple.com
- Mac Studiosupport.apple.com
- llama.cpp のベンチマークgithub.com
- OpenAIhuggingface.co