Nach Speichergröße
| Speicher | Laufen gut | Größtes, das gut läuft | gpt-oss-20b |
|---|---|---|---|
| 64 GB800 GB/s | 39 | Nemotron 3.5 Bolt 74B A9B | 189–337 tok/s |
| 128 GB800 GB/s | 47 | Qwen3.5 122B A10B | 189–337 tok/s |
| 192 GB800 GB/s | 49 | MiniMax M2.7 | 189–337 tok/s |
Mac-Modelle: Mac Pro (2023), Mac Pro (Rack, 2023). Nicht jede Speichergröße gibt es für jedes Modell; Apples technische Daten nennen, womit jedes einzelne erhältlich ist.
Fragen
- Mac Pro mit M2 Ultra: gut für lokale LLMs?
- Mit 192 GB laufen 49 von 73 offenen Modellen gut darauf, bis hin zu MiniMax M2.7; mit gpt-oss-20b sind es etwa 189–337 Tokens pro Sekunde. Der Chip M2 Ultra liest den Speicher mit 800 GB/s. Das bestimmt, wie schnell er schreibt.
- Mac Pro mit M2 Ultra: wie viel Speicher für KI?
- Mit 64 GB laufen 39 offene Modelle gut, mit 192 GB 49, bis hin zu MiniMax M2.7. Der Speicher entscheidet, welche Modelle passen, und lässt sich später nicht aufrüsten.
Andere Macs
Andere Macs mit M2 Ultra:
Im direkten Vergleich:
Der M2 Ultra für lokale KI · Der beste Mac für lokale LLMs · Alle Macs
So wird gerechnet
Speicher: die Parameter des Modells mit 8, 6, 4, 3 oder 2 Bit pro Gewicht plus die Gruppenskalen von MLX (ein halbes Bit pro Gewicht) oder in seinem nativen Format, dazu Platz für den Kontext. Standardmäßig lässt macOS die GPU etwa 75 % des gemeinsamen Arbeitsspeichers nutzen. Tempo: Speicherbandbreite geteilt durch die pro Token gelesenen Bytes ergibt die Obergrenze für eine Unterhaltung; in den öffentlichen Apple Silicon Benchmarks von llama.cpp erreichen echte Läufe etwa 45 % bis 80 % davon, und diese Spanne zeigen wir. Das sind Schätzungen, keine Messungen: Miss deinen eigenen Mac mit MLX Bench. Modellwerte aus der jeweiligen offiziellen Model Card, Chipwerte aus Apples technischen Daten. Geprüft am 2026-10-19. Dieselben Daten wie auf mlx.app/compare.