Mac mini vs Mac Studio voor AI.

1De specs die tellen voor AI

Elke configuratie linkt naar de modellen die er goed op draaien. Eerdere modellen werken net zo: de Mac mini met M4 of M4 Pro en de Mac Studio met M4 Max of M3 Ultra (elke Mac gerangschikt).

2Hoe snel elk ervan schrijft

Bij het schrijven van tekst worden de actieve gewichten van het model voor elke token één keer gelezen, dus de geheugenbandbreedte legt een plafond op de snelheid. Voor een dicht 32B-model op 4 bit, ongeveer 18 GB:

Mixture-of-experts-modellen lezen per token maar een deel van hun gewichten, dus ze schrijven veel sneller dan hun grootte doet vermoeden: het geheugen bepaalt of ze passen, de bandbreedte bepaalt nog steeds het tempo. Het inlezen van een lange prompt hangt af van de rekenkracht van de GPU in plaats van de bandbreedte, en daar lopen de grotere GPU's van de Max- en Ultra-chips verder uit.

3Welke voor welke modellen

• Kleine en middelgrote modellen (tot ongeveer 30B op 4 bit), chatten, programmeerhulp, een AI-server thuis: een Mac mini met M5 Pro en 48 of 64 GB. De Mac mini met M6 en 32 GB draait dezelfde groottes op ongeveer de halve snelheid.
• Modellen van de 70B-klasse, gpt-oss-120b, lange contexten of meerdere modellen tegelijk: een Mac Studio met M5 Max en 128 GB. De eigen bestanden van gpt-oss-120b van OpenAI zijn ongeveer 65 GB (OpenAI), meer dan welke Mac mini ook zijn GPU kan geven.
• De grootste open modellen (honderden miljarden parameters): een Mac Studio met M5 Ultra en 256 of 512 GB, of meerdere Macs samen (AI-clusters van Macs).

Voor een bepaald model toont de eigen pagina de kleinste Mac die het draait en de snelheid op elke chip: elk open model.

4De hele dag laten draaien

Beide zijn stille, zuinige machines die altijd aan kunnen staan. Volgens Apples cijfers hierboven verbruikt een Mac mini 4–6 W in rust en een Mac Studio 7–9 W; onder volle belasting kan de Mac Studio met M5 Ultra tot 385 W trekken. Een Mac mini als AI-server legt uit hoe je hem wakker houdt en modellen aanbiedt aan andere apparaten, en hoeveel stroom een Mac verbruikt wat een dag kost.

Als hij niets doet, kan MLX Node AI-taken uitvoeren voor MLX Network en MLX Tokens verdienen. Een vaste plek die bij de chip past, verdient sneller: Core voor de M6, Pro voor de M5 Pro en M5 Max, Ultra voor de M5 Ultra. Opbrengsten zijn niet gegarandeerd: lees de risico's.

5Vragen

Is een Mac Studio voor AI de meerprijs waard tegenover een Mac mini?

Als je modellen boven ongeveer 85B parameters, gpt-oss-120b of lange contexten wilt, ja: alleen de Mac Studio heeft meer dan 64 GB. Modellen tot ongeveer 30B op 4 bit draait een Mac mini met M5 Pro ook, met ongeveer de helft van de bandbreedte van de M5 Max.

Kan een Mac mini een 70B-model draaien?

Alleen de M5 Pro met 64 GB, op 4 bit en met een korte context: ongeveer 39 GB aan gewichten in de 48 GB die de GPU standaard kan gebruiken, met een paar tokens per seconde. Een Mac Studio met 128 GB draait het met ruimte voor context en ongeveer twee keer zo snel.

Mac Studio M5 Max of M5 Ultra voor LLM's?

De M5 Ultra heeft ongeveer twee keer de bandbreedte (1.200 tegenover 614 GB/s), schrijft dus ongeveer twee keer zo snel, en gaat tot 512 GB. De M5 Max met 128 GB dekt modellen tot ongeveer 170B op 4 bit. Zie M5 Max vs M5 Ultra.

Mac mini M6 of M5 Pro voor AI?

De M5 Pro: hij leest het geheugen ongeveer 80% sneller dan de M6 met 24 of 32 GB en gaat tot 64 GB in plaats van 32 GB.