Wie viel Speicher braucht Gemma 4 26B A4B?

Etwa 14,2 GB für die Gewichte mit 4 Bit, plus Platz für den Kontext: insgesamt 15,7 GB. Auf einem Mac heißt das 24 GB gemeinsamer Arbeitsspeicher oder mehr, denn macOS lässt die GPU standardmäßig etwa 75 % davon nutzen.

Wie schnell ist Gemma 4 26B A4B auf einem Mac?

Das Schreibtempo hängt von der Speicherbandbreite ab. Der schnellste Mac dafür ist hier einer mit M5 Ultra und 96 GB, mit etwa 135–240 Tokens pro Sekunde (8 Bit). Der kleinste Mac, der es ausführt, schafft mit 24 GB etwa 66–117 auf dem M5 Pro.

Warum läuft Gemma 4 26B A4B schneller, als seine Größe vermuten lässt?

Es ist ein Mixture-of-Experts-Modell: Es hält 25,2B Parameter im Speicher, liest pro Token aber nur 3,8B. Darum schreibt es so schnell wie ein viel kleineres Modell.

Läuft Gemma 4 26B A4B auf dem Mac? Speicher und Tempo

Speicher bei jeder Genauigkeit

Version	Gewichte	Mit Kontext	Kleinster Mac
8 Bit	26,8 GB	28,9 GB	48 GB
6 Bit	20,5 GB	22,1 GB	32 GB
4 Bit	14,2 GB	15,7 GB	24 GB
3 Bit geringere Qualität	11 GB	12,5 GB	18 GB
2 Bit geringere Qualität	7,9 GB	9,4 GB	16 GB

Auf jedem Apple-Chip

Die kleinste Speichergröße jedes Chips, mit der Gemma 4 26B A4B läuft, die beste Version, die hineinpasst, und das Schreibtempo, das du erwarten kannst.

Chip	Braucht	Version	Tokens/s
M6	24 GB	4 Bit Läuft gut	36–65
M5 Ultra	96 GB	8 Bit Läuft gut	135–240
M5 Max	36 GB	6 Bit Läuft gut	67–119
M5 Pro	24 GB	4 Bit Läuft gut	66–117
M5	24 GB	4 Bit Läuft gut	33–58
M4 Max	36 GB	6 Bit Läuft gut	60–106
M4 Pro	24 GB	4 Bit Läuft gut	59–104
M4	24 GB	4 Bit Läuft gut	26–46
M3 Ultra	96 GB	8 Bit Läuft gut	92–164
M3 Max	36 GB	6 Bit Läuft gut	44–77
M3 Pro	36 GB	6 Bit Läuft gut	22–39
M3	24 GB	4 Bit Läuft gut	21–38
M2 Ultra	64 GB	8 Bit Läuft gut	90–160
M2 Max	32 GB	6 Bit Läuft gut	58–103
M2 Pro	32 GB	6 Bit Läuft gut	29–52
M2	24 GB	4 Bit Läuft gut	21–38
M1 Ultra	64 GB	8 Bit Läuft gut	90–160
M1 Max	32 GB	6 Bit Läuft gut	58–103
M1 Pro	32 GB	6 Bit Läuft gut	29–52
M1	16 GB	2 Bit Läuft gut	26–45

So führst du es aus

Der einfache Weg: Lade MLX Harness herunter, kostenlos und Open Source. Suche nach Gemma 4 26B A4B, lade die Version, die zu deinem Mac passt, und chatte los. MLX Harness stellt das Modell auch deinen anderen Apps über eine OpenAI-kompatible API bereit.MLX Harness herunterladenKostenlos · Apple Silicon · macOS 14.5 oder neuer
Im Terminal mit Apples MLX:pip install mlx-lmmlx_lm.chat --model mlx-community/gemma-4-26b-a4b-it-4bitBuild: mlx-community/gemma-4-26b-a4b-it-4bit auf Hugging Face. Andere Genauigkeiten liegen gleich daneben.

Schritt für Schritt: LLMs auf den Mac laden und ausführen · So nutzt du MLX Harness · MLX vs. Ollama vs. llama.cpp

Über Gemma 4 26B A4B

Von	Google DeepMind
Parameter	25,2B gesamt · 3,8B aktiv (Mixture of Experts)
Kontext	256K Tokens
Lizenz	Apache-2.0
Veröffentlicht	2026-03
Eingabe	Text und Bilder
Gewichte	google/gemma-4-26B-A4B-it

Fragen

Wie viel Speicher braucht Gemma 4 26B A4B?: Etwa 14,2 GB für die Gewichte mit 4 Bit, plus Platz für den Kontext: insgesamt 15,7 GB. Auf einem Mac heißt das 24 GB gemeinsamer Arbeitsspeicher oder mehr, denn macOS lässt die GPU standardmäßig etwa 75 % davon nutzen.
Wie schnell ist Gemma 4 26B A4B auf einem Mac?: Das Schreibtempo hängt von der Speicherbandbreite ab. Der schnellste Mac dafür ist hier einer mit M5 Ultra und 96 GB, mit etwa 135–240 Tokens pro Sekunde (8 Bit). Der kleinste Mac, der es ausführt, schafft mit 24 GB etwa 66–117 auf dem M5 Pro.
Warum läuft Gemma 4 26B A4B schneller, als seine Größe vermuten lässt?: Es ist ein Mixture-of-Experts-Modell: Es hält 25,2B Parameter im Speicher, liest pro Token aber nur 3,8B. Darum schreibt es so schnell wie ein viel kleineres Modell.

Für deine Model Card oder README

Zeigt den kleinsten Mac, der Gemma 4 26B A4B gut ausführt, und verlinkt hierher.

[![Runs on a Mac](https://mlx.app/badge/run/gemma-4-26b-a4b.svg)](https://mlx.app/run/gemma-4-26b-a4b)

So wird gerechnet

Speicher: die Parameter des Modells mit 8, 6, 4, 3 oder 2 Bit pro Gewicht plus die Gruppenskalen von MLX (ein halbes Bit pro Gewicht) oder in seinem nativen Format, dazu Platz für den Kontext. Standardmäßig lässt macOS die GPU etwa 75 % des gemeinsamen Arbeitsspeichers nutzen. Tempo: Speicherbandbreite geteilt durch die pro Token gelesenen Bytes ergibt die Obergrenze für eine Unterhaltung; in den öffentlichen Apple Silicon Benchmarks von llama.cpp erreichen echte Läufe etwa 45 % bis 80 % davon, und diese Spanne zeigen wir. Das sind Schätzungen, keine Messungen: Miss deinen eigenen Mac mit MLX Bench. Modellwerte aus der jeweiligen offiziellen Model Card, Chipwerte aus Apples technischen Daten. Geprüft am 2026-10-19. Dieselben Daten wie auf mlx.app/compare.

Läuft Gemma 4 26B A4B auf einem Mac?