Nach Speichergröße
| Speicher | Laufen gut | Größtes, das gut läuft | gpt-oss-20b |
|---|---|---|---|
| 8 GB68 GB/s | 14 | Gemma 4 E4B | zu groß |
| 16 GB68 GB/s | 14 | Gemma 4 E4B | 19–34 tok/s |
Mac-Modelle: Mac mini (M1, 2020). Nicht jede Speichergröße gibt es für jedes Modell; Apples technische Daten nennen, womit jedes einzelne erhältlich ist.
Fragen
- Mac mini mit M1: gut für lokale LLMs?
- Mit 16 GB laufen 14 von 73 offenen Modellen gut darauf, bis hin zu Gemma 4 E4B; mit gpt-oss-20b sind es etwa 19–34 Tokens pro Sekunde. Der Chip M1 liest den Speicher mit 68 GB/s. Das bestimmt, wie schnell er schreibt.
- Mac mini mit M1: wie viel Speicher für KI?
- Mit 8 GB laufen 14 offene Modelle gut, mit 16 GB 14, bis hin zu Gemma 4 E4B. Der Speicher entscheidet, welche Modelle passen, und lässt sich später nicht aufrüsten.
Andere Macs
Mac mini mit anderen Chips:
Andere Macs mit M1:
Im direkten Vergleich:
Der M1 für lokale KI · Der beste Mac für lokale LLMs · Alle Macs
So wird gerechnet
Speicher: die Parameter des Modells mit 8, 6, 4, 3 oder 2 Bit pro Gewicht plus die Gruppenskalen von MLX (ein halbes Bit pro Gewicht) oder in seinem nativen Format, dazu Platz für den Kontext. Standardmäßig lässt macOS die GPU etwa 75 % des gemeinsamen Arbeitsspeichers nutzen. Tempo: Speicherbandbreite geteilt durch die pro Token gelesenen Bytes ergibt die Obergrenze für eine Unterhaltung; in den öffentlichen Apple Silicon Benchmarks von llama.cpp erreichen echte Läufe etwa 45 % bis 80 % davon, und diese Spanne zeigen wir. Das sind Schätzungen, keine Messungen: Miss deinen eigenen Mac mit MLX Bench. Modellwerte aus der jeweiligen offiziellen Model Card, Chipwerte aus Apples technischen Daten. Geprüft am 2026-10-19. Dieselben Daten wie auf mlx.app/compare.