Speicher bei jeder Genauigkeit
| Version | Gewichte | Mit Kontext | Kleinster Mac |
|---|---|---|---|
| 8 Bit | 31,5 GB | 34 GB | 48 GB |
| 6 Bit | 24,1 GB | 26 GB | 36 GB |
| 4 Bit | 16,7 GB | 18,2 GB | 32 GB |
| 3 Bit geringere Qualität | 13 GB | 14,5 GB | 24 GB |
| 2 Bit geringere Qualität | 9,3 GB | 10,8 GB | 16 GB |
Auf jedem Apple-Chip
Die kleinste Speichergröße jedes Chips, mit der Muse Glimmer 30B läuft, die beste Version, die hineinpasst, und das Schreibtempo, das du erwarten kannst.
| Chip | Braucht | Version | Tokens/s |
|---|---|---|---|
| M6 | 32 GB | 4 Bit Langsam | 5–8 |
| M5 Ultra | 96 GB | 8 Bit Läuft gut | 17–30 |
| M5 Max | 36 GB | 4 Bit Läuft gut | 12–22 |
| M5 Pro | 48 GB | 8 Bit Langsam | 4–8 |
| M5 | 32 GB | 4 Bit Langsam | 4–7 |
| M4 Max | 36 GB | 4 Bit Läuft gut | 11–20 |
| M4 Pro | 48 GB | 8 Bit Langsam | 4–7 |
| M4 | 32 GB | 4 Bit Langsam | 3–6 |
| M3 Ultra | 96 GB | 8 Bit Läuft gut | 12–21 |
| M3 Max | 36 GB | 6 Bit Langsam | 6–10 |
| M3 Pro | 36 GB | 6 Bit Langsam | 3–5 |
| M3 | 16 GB | 2 Bit Langsam | 5–9 |
| M2 Ultra | 64 GB | 8 Bit Läuft gut | 11–20 |
| M2 Max | 32 GB | 4 Bit Läuft gut | 11–19 |
| M2 Pro | 32 GB | 4 Bit Langsam | 5–10 |
| M2 | 16 GB | 2 Bit Langsam | 5–9 |
| M1 Ultra | 64 GB | 8 Bit Läuft gut | 11–20 |
| M1 Max | 32 GB | 4 Bit Läuft gut | 11–19 |
| M1 Pro | 32 GB | 4 Bit Langsam | 5–10 |
| M1 | 16 GB | 2 Bit Langsam | 3–6 |
So führst du es aus
- Der einfache Weg: Lade MLX Harness herunter, kostenlos und Open Source. Suche nach Muse Glimmer 30B, lade die Version, die zu deinem Mac passt, und chatte los. MLX Harness stellt das Modell auch deinen anderen Apps über eine OpenAI-kompatible API bereit.MLX Harness herunterladenKostenlos · Apple Silicon · macOS 14.5 oder neuer
- Im Terminal mit Apples MLX:
pip install mlx-lmmlx_lm.chat --model mlx-community/Muse-Glimmer-30B-4bitBuild: mlx-community/Muse-Glimmer-30B-4bit auf Hugging Face. Andere Genauigkeiten liegen gleich daneben.
Schritt für Schritt: LLMs auf den Mac laden und ausführen · So nutzt du MLX Harness · MLX vs. Ollama vs. llama.cpp
Über Muse Glimmer 30B
| Von | Meta (Meta Superintelligence Lab) |
|---|---|
| Parameter | 29,6B (Dense-Modell) |
| Kontext | 128K Tokens |
| Lizenz | Apache-2.0 |
| Veröffentlicht | 2026-08 |
| Eingabe | Text und Bilder |
| Intelligenz | 17,5 im Artificial Analysis Intelligence Index |
| Gewichte | meta-models/Muse-Glimmer-30B |
Fragen
- Wie viel Speicher braucht Muse Glimmer 30B?
- Etwa 16,7 GB für die Gewichte mit 4 Bit, plus Platz für den Kontext: insgesamt 18,2 GB. Auf einem Mac heißt das 32 GB gemeinsamer Arbeitsspeicher oder mehr, denn macOS lässt die GPU standardmäßig etwa 75 % davon nutzen.
- Wie schnell ist Muse Glimmer 30B auf einem Mac?
- Das Schreibtempo hängt von der Speicherbandbreite ab. Der schnellste Mac dafür ist hier einer mit M5 Ultra und 96 GB, mit etwa 17–30 Tokens pro Sekunde (8 Bit). Der kleinste Mac, der es ausführt, schafft mit 32 GB etwa 11–19 auf dem M2 Max.
- Schadet Quantisierung Muse Glimmer 30B?
- Mit 4 Bit bleiben die meisten Modelle nah an der Originalqualität; unter 4 Bit sinkt die Qualität schneller. Nimm die höchste Genauigkeit, die mit Reserve auf deinen Mac passt.
Ähnliche Modelle
Für deine Model Card oder README
Zeigt den kleinsten Mac, der Muse Glimmer 30B gut ausführt, und verlinkt hierher.
[](https://mlx.app/run/muse-glimmer-30b)So wird gerechnet
Speicher: die Parameter des Modells mit 8, 6, 4, 3 oder 2 Bit pro Gewicht plus die Gruppenskalen von MLX (ein halbes Bit pro Gewicht) oder in seinem nativen Format, dazu Platz für den Kontext. Standardmäßig lässt macOS die GPU etwa 75 % des gemeinsamen Arbeitsspeichers nutzen. Tempo: Speicherbandbreite geteilt durch die pro Token gelesenen Bytes ergibt die Obergrenze für eine Unterhaltung; in den öffentlichen Apple Silicon Benchmarks von llama.cpp erreichen echte Läufe etwa 45 % bis 80 % davon, und diese Spanne zeigen wir. Das sind Schätzungen, keine Messungen: Miss deinen eigenen Mac mit MLX Bench. Modellwerte aus der jeweiligen offiziellen Model Card, Chipwerte aus Apples technischen Daten. Geprüft am 2026-10-19. Dieselben Daten wie auf mlx.app/compare.