Nach Speichergröße
| Speicher | Laufen gut | Größtes, das gut läuft | gpt-oss-20b |
|---|---|---|---|
| 8 GB100 GB/s | 16 | Granite 4.2 8B | zu groß |
| 16 GB100 GB/s | 17 | Qwen3 8B | 28–50 tok/s |
| 24 GB100 GB/s | 20 | Gemma 4 26B A4B | 24–42 tok/s |
Mac-Modelle: MacBook Air (M2, 2022), MacBook Air (15-inch, M2, 2023). Nicht jede Speichergröße gibt es für jedes Modell; Apples technische Daten nennen, womit jedes einzelne erhältlich ist.
Fragen
- MacBook Air mit M2: gut für lokale LLMs?
- Mit 24 GB laufen 20 von 73 offenen Modellen gut darauf, bis hin zu Gemma 4 26B A4B; mit gpt-oss-20b sind es etwa 24–42 Tokens pro Sekunde. Der Chip M2 liest den Speicher mit 100 GB/s. Das bestimmt, wie schnell er schreibt.
- MacBook Air mit M2: wie viel Speicher für KI?
- Mit 8 GB laufen 16 offene Modelle gut, mit 24 GB 20, bis hin zu Gemma 4 26B A4B. Der Speicher entscheidet, welche Modelle passen, und lässt sich später nicht aufrüsten.
Andere Macs
MacBook Air mit anderen Chips:
Andere Macs mit M2:
Im direkten Vergleich:
Der M2 für lokale KI · Der beste Mac für lokale LLMs · Alle Macs
So wird gerechnet
Speicher: die Parameter des Modells mit 8, 6, 4, 3 oder 2 Bit pro Gewicht plus die Gruppenskalen von MLX (ein halbes Bit pro Gewicht) oder in seinem nativen Format, dazu Platz für den Kontext. Standardmäßig lässt macOS die GPU etwa 75 % des gemeinsamen Arbeitsspeichers nutzen. Tempo: Speicherbandbreite geteilt durch die pro Token gelesenen Bytes ergibt die Obergrenze für eine Unterhaltung; in den öffentlichen Apple Silicon Benchmarks von llama.cpp erreichen echte Läufe etwa 45 % bis 80 % davon, und diese Spanne zeigen wir. Das sind Schätzungen, keine Messungen: Miss deinen eigenen Mac mit MLX Bench. Modellwerte aus der jeweiligen offiziellen Model Card, Chipwerte aus Apples technischen Daten. Geprüft am 2026-10-19. Dieselben Daten wie auf mlx.app/compare.