ローカル LLM に最適な Mac。

1メモリと帯域幅ですべてが決まる理由

言語モデルはトークンを 1 つずつ書き、そのたびにアクティブな重みをすべてメモリから読み出します。そのため、1 つの会話の速度の上限は、おおよそメモリ帯域幅をアクティブな重みのサイズで割った値になります。llama.cpp の公開ベンチマークでは、Apple のチップでの実際の生成速度はこの上限の 43〜80% に達しています（llama.cpp）。

プロンプトの読み込みは事情が違います。こちらは演算能力で制限されるため、GPU にニューラルアクセラレータを搭載した M5 世代のチップは、以前のチップより何倍も速くプロンプトを処理します（Apple）。

2すべてのチップを比較

古いチップも、メモリさえあれば今もよく動きます。64GB の M1 Max や M2 Max は 400GB/s で読み出せ、これは現在のどの標準チップよりも速く、中古ならずっと安く手に入ることもよくあります。

3どの Mac を買うべきか

試してみたいなら：16〜32GB の MacBook Air か Mac mini

7B〜14B のモデルを快適に動かせ、32GB なら 30B クラスのモデルも動きます。チャット、文章作成、軽いコーディング支援には十分です。

コストパフォーマンス重視なら：Pro チップと 64GB

M4 Pro か M5 Pro 搭載の Mac mini や MacBook Pro なら、70B クラスのモデルが収まり、中規模のモデルを快適な速さで動かせます。多くの開発者にとってのスイートスポットです。

本格的なローカル AI なら：Max チップと 128GB

gpt-oss-120b（4 ビットで約 65GB）をノートパソコンで動かせます。Apple の帯域幅の数値から計算すると、M5 Max での 1 ストリームの理論上の上限は毎秒約 225 トークンです。持ち運べる Mac では最良の選択です。

最大級のモデルなら：Ultra 搭載の Mac Studio

M5 Ultra なら最大 512GB を 1.2TB/s で扱え、数千億パラメータのモデルをひとつの机の上に収められます。さらに大きなモデルには、Thunderbolt 5 で Mac をつないでクラスタにできます。Mac の AI クラスタをご覧ください。

4Mac に元を取らせる

AI のために買った Mac も、ほとんどの時間は待機しています。MLX Node は、その空き時間を MLX Network に貸し出す無料のアプリです。同じ MLX フレームワークで AI のジョブを実行し、検証された仕事に対して MLX トークンを獲得します。チップに合った専用シートがあれば、獲得量は何倍にもなります。Pro シートは Pro または Max チップで、Ultra シートは Ultra チップでフルレートで動きます。

まずは MLX Bench であなたの Mac を比べてみてください。すべてのチップについて、オープンなモデルの実測の毎秒トークン数がわかります。

5よくある質問

ローカル LLM に 16GB で足りますか？

4 ビットで約 14B パラメータまでのモデルなら足ります。それより大きなモデルや長いコンテキストには、32GB 以上あるとずっと快適です。

LLM には Mac Studio と MacBook Pro のどちらがいいですか？

どちらも Max チップを搭載でき、メモリは最大 128GB です。MacBook Pro は持ち運べ、Mac Studio は長時間の負荷でも熱を持ちにくく、Ultra チップと最大 512GB を搭載できる唯一の Mac です。

ローカル AI には Nvidia の GPU より Mac のほうがいいですか？

家庭で最大級のモデルを動かすなら、多くの場合そうです。Mac のユニファイドメモリには、一般向けグラフィックスカードのメモリよりはるかに大きなモデルが収まります。メモリに収まるモデルなら、ハイエンドの Nvidia カードのほうが高速です。

M5 で LLM は速くなりますか？

はい、主にプロンプトの読み込みが速くなります。Apple の MLX での測定では、最初のトークンが出るまでの時間が M4 より 3.3〜4.1 倍短くなりました。生成速度はメモリ帯域幅に比例し、帯域幅は M4 から M5 で 28% 向上しました。