Nach Speichergröße
| Speicher | Laufen gut | Größtes, das gut läuft | gpt-oss-20b |
|---|---|---|---|
| 16 GB153 GB/s | 20 | Gemma 4 12B Unified | 43–77 tok/s |
| 24 GB153 GB/s | 23 | Gemma 4 26B A4B | 36–64 tok/s |
| 32 GB153 GB/s | 28 | Qwen3.6 35B A3B | 36–64 tok/s |
Mac-Modelle: MacBook Air (13-inch, M5), MacBook Air (15-inch, M5). Nicht jede Speichergröße gibt es für jedes Modell; Apples technische Daten nennen, womit jedes einzelne erhältlich ist.
Fragen
- MacBook Air mit M5: gut für lokale LLMs?
- Mit 32 GB laufen 28 von 73 offenen Modellen gut darauf, bis hin zu Qwen3.6 35B A3B; mit gpt-oss-20b sind es etwa 36–64 Tokens pro Sekunde. Der Chip M5 liest den Speicher mit 153 GB/s. Das bestimmt, wie schnell er schreibt.
- MacBook Air mit M5: wie viel Speicher für KI?
- Mit 16 GB laufen 20 offene Modelle gut, mit 32 GB 28, bis hin zu Qwen3.6 35B A3B. Der Speicher entscheidet, welche Modelle passen, und lässt sich später nicht aufrüsten.
Andere Macs
MacBook Air mit anderen Chips:
Andere Macs mit M5:
Im direkten Vergleich:
Der M5 für lokale KI · Der beste Mac für lokale LLMs · Alle Macs
So wird gerechnet
Speicher: die Parameter des Modells mit 8, 6, 4, 3 oder 2 Bit pro Gewicht plus die Gruppenskalen von MLX (ein halbes Bit pro Gewicht) oder in seinem nativen Format, dazu Platz für den Kontext. Standardmäßig lässt macOS die GPU etwa 75 % des gemeinsamen Arbeitsspeichers nutzen. Tempo: Speicherbandbreite geteilt durch die pro Token gelesenen Bytes ergibt die Obergrenze für eine Unterhaltung; in den öffentlichen Apple Silicon Benchmarks von llama.cpp erreichen echte Läufe etwa 45 % bis 80 % davon, und diese Spanne zeigen wir. Das sind Schätzungen, keine Messungen: Miss deinen eigenen Mac mit MLX Bench. Modellwerte aus der jeweiligen offiziellen Model Card, Chipwerte aus Apples technischen Daten. Geprüft am 2026-10-19. Dieselben Daten wie auf mlx.app/compare.