Speicher bei jeder Genauigkeit
| Version | Gewichte | Mit Kontext | Kleinster Mac |
|---|---|---|---|
| 8 Bit | 2,6 TB | 2,8 TB | mehr als jeder Mac |
| 6 Bit | 2 TB | 2,1 TB | mehr als jeder Mac |
| 4 Bit | 1,4 TB | 1,5 TB | mehr als jeder Mac |
| 3 Bit geringere Qualität | 1,1 TB | 1,1 TB | mehr als jeder Mac |
| 2 Bit geringere Qualität | 750 GB | 810 GB | mehr als jeder Mac |
Auf jedem Apple-Chip
Die kleinste Speichergröße jedes Chips, mit der Qwen3.8 2.4T A95B läuft, die beste Version, die hineinpasst, und das Schreibtempo, das du erwarten kannst.
| Chip | Braucht | Version | Tokens/s |
|---|---|---|---|
| M6 | keine Größe passt | Zu groß | – |
| M5 Ultra | keine Größe passt | Zu groß | – |
| M5 Max | keine Größe passt | Zu groß | – |
| M5 Pro | keine Größe passt | Zu groß | – |
| M5 | keine Größe passt | Zu groß | – |
| M4 Max | keine Größe passt | Zu groß | – |
| M4 Pro | keine Größe passt | Zu groß | – |
| M4 | keine Größe passt | Zu groß | – |
| M3 Ultra | keine Größe passt | Zu groß | – |
| M3 Max | keine Größe passt | Zu groß | – |
| M3 Pro | keine Größe passt | Zu groß | – |
| M3 | keine Größe passt | Zu groß | – |
| M2 Ultra | keine Größe passt | Zu groß | – |
| M2 Max | keine Größe passt | Zu groß | – |
| M2 Pro | keine Größe passt | Zu groß | – |
| M2 | keine Größe passt | Zu groß | – |
| M1 Ultra | keine Größe passt | Zu groß | – |
| M1 Max | keine Größe passt | Zu groß | – |
| M1 Pro | keine Größe passt | Zu groß | – |
| M1 | keine Größe passt | Zu groß | – |
So führst du es aus
Kein einzelner Mac fasst es. Die kleineren Modelle unten laufen gut, und der Ratgeber zu Mac-Clustern zeigt, wie du ein Modell auf mehrere Macs verteilst.
Schritt für Schritt: LLMs auf den Mac laden und ausführen · So nutzt du MLX Harness · MLX vs. Ollama vs. llama.cpp
Über Qwen3.8 2.4T A95B
| Von | Qwen (Alibaba) |
|---|---|
| Parameter | 2.400B gesamt · 95B aktiv (Mixture of Experts) |
| Kontext | 256K Tokens |
| Lizenz | Qwen3.8-Max license (qwen3.8-max) |
| Veröffentlicht | 2026-08 |
| Eingabe | Text |
| Intelligenz | 39,9 im Artificial Analysis Intelligence Index |
| Gewichte | Qwen/Qwen3.8-2.4T-A95B |
Fragen
- Wie viel Speicher braucht Qwen3.8 2.4T A95B?
- Etwa 1,4 TB für die Gewichte mit 4 Bit, plus Platz für den Kontext: insgesamt 1,5 TB. Das ist mehr, als heute irgendein Mac hat.
- Kann überhaupt ein Mac Qwen3.8 2.4T A95B ausführen?
- Nicht allein: Selbst mit 2 Bit braucht es mehr Speicher, als der größte Mac hat. Nimm ein kleineres Modell oder verteile es mit Cluster-Software auf mehrere Macs.
- Warum läuft Qwen3.8 2.4T A95B schneller, als seine Größe vermuten lässt?
- Es ist ein Mixture-of-Experts-Modell: Es hält 2.400B Parameter im Speicher, liest pro Token aber nur 95B. Darum schreibt es so schnell wie ein viel kleineres Modell.
Ähnliche Modelle
Für deine Model Card oder README
Zeigt den kleinsten Mac, der Qwen3.8 2.4T A95B gut ausführt, und verlinkt hierher.
[](https://mlx.app/run/qwen3.8-2.4t-a95b)So wird gerechnet
Speicher: die Parameter des Modells mit 8, 6, 4, 3 oder 2 Bit pro Gewicht plus die Gruppenskalen von MLX (ein halbes Bit pro Gewicht) oder in seinem nativen Format, dazu Platz für den Kontext. Standardmäßig lässt macOS die GPU etwa 75 % des gemeinsamen Arbeitsspeichers nutzen. Tempo: Speicherbandbreite geteilt durch die pro Token gelesenen Bytes ergibt die Obergrenze für eine Unterhaltung; in den öffentlichen Apple Silicon Benchmarks von llama.cpp erreichen echte Läufe etwa 45 % bis 80 % davon, und diese Spanne zeigen wir. Das sind Schätzungen, keine Messungen: Miss deinen eigenen Mac mit MLX Bench. Modellwerte aus der jeweiligen offiziellen Model Card, Chipwerte aus Apples technischen Daten. Geprüft am 2026-10-19. Dieselben Daten wie auf mlx.app/compare.