Im Vergleich
Tempo mit beliebten Modellen
Tokens pro Sekunde für eine Unterhaltung, jeder Chip mit seiner größten Speichergröße (64 GB und 128 GB), mit der besten Version des Modells, die passt.
| Modell | M1 Max | M1 Ultra |
|---|---|---|
| Llama 3.1 8B Instruct8B | 21–38 8 Bit | 42–75 8 Bit |
| gpt-oss-20b21B · 3,6B aktiv | 95–168 4,25 Bit nativ | 189–337 4,25 Bit nativ |
| Qwen3.6 35B A3B35B · 3B aktiv | 56–100 8 Bit | 113–200 8 Bit |
| Qwen3.8 27B27B | 12–21 4 Bit | 13–22 8 Bit |
| Llama 3.3 70B Instruct70B | 5–8 4 Bit | 5–9 8 Bit |
| gpt-oss-120b117B · 5,1B aktiv | 113–200 2 Bit geringere Qualität | 133–237 4,25 Bit nativ |
| Qwen3.5 122B A10B122B · 10B aktiv | 58–103 2 Bit geringere Qualität | 64–114 4 Bit |
| DeepSeek V4 Flash 0731284B · 13B aktiv | zu groß | 88–156 2 Bit geringere Qualität |
Fragen
- Ist der M1 Ultra schneller als der M1 Max für LLMs?
- Der M1 Ultra liest den Speicher etwa 100 % schneller als der M1 Max (800 gegenüber 400 GB/s) und schreibt daher mit jedem Modell, das in beide passt, etwa 100 % schneller. Das Einlesen eines langen Prompts hängt dagegen von der Rechenleistung der GPU ab, die dieser Vergleich nicht abdeckt.
- Welcher führt größere Modelle aus, der M1 Max oder der M1 Ultra?
- Der M1 Ultra: Den M1 Ultra gibt es mit bis zu 128 GB Speicher, den M1 Max mit bis zu 64 GB. In seiner größten Ausführung führt er 47 von 73 offenen Modellen gut aus, der andere 39.
Weitere Vergleiche
Der M1 Max für lokale KI · Der M1 Ultra für lokale KI · Alle Modelle vergleichen · Der beste Mac für lokale LLMs
So wird gerechnet
Speicher: die Parameter des Modells mit 8, 6, 4, 3 oder 2 Bit pro Gewicht plus die Gruppenskalen von MLX (ein halbes Bit pro Gewicht) oder in seinem nativen Format, dazu Platz für den Kontext. Standardmäßig lässt macOS die GPU etwa 75 % des gemeinsamen Arbeitsspeichers nutzen. Tempo: Speicherbandbreite geteilt durch die pro Token gelesenen Bytes ergibt die Obergrenze für eine Unterhaltung; in den öffentlichen Apple Silicon Benchmarks von llama.cpp erreichen echte Läufe etwa 45 % bis 80 % davon, und diese Spanne zeigen wir. Das sind Schätzungen, keine Messungen: Miss deinen eigenen Mac mit MLX Bench. Modellwerte aus der jeweiligen offiziellen Model Card, Chipwerte aus Apples technischen Daten. Geprüft am 2026-10-19. Dieselben Daten wie auf mlx.app/compare.