Hoeveel geheugen heeft gpt-oss-120b nodig?

Ongeveer 65,3 GB aan gewichten op 4,25 bits native, plus ruimte voor de context: 70,5 GB in totaal. Op een Mac betekent dat 96 GB geïntegreerd geheugen of meer, omdat macOS de GPU standaard ongeveer 75% ervan laat gebruiken.

Hoe snel is gpt-oss-120b op een Mac?

De schrijfsnelheid hangt af van de geheugenbandbreedte. De snelste Mac hiervoor is een M5 Ultra met 96 GB, met ongeveer 200–356 tokens per seconde (4,25 bits native). De kleinste Mac die het draait, met 96 GB, haalt ongeveer 200–356 op een M5 Ultra.

Waarom draait gpt-oss-120b sneller dan je op basis van de grootte zou verwachten?

Het is een mixture-of-expertsmodel: het houdt 117B parameters in het geheugen, maar leest per token maar 5,1B, dus het schrijft zo snel als een veel kleiner model.

Draait gpt-oss-120b op een Mac? Geheugen, snelheid

Geheugen bij elke precisie

Versie	Gewichten	Met context	Kleinste Mac
4,25 bits native	65,3 GB	70,5 GB	96 GB
3 bits lagere kwaliteit	51,2 GB	55,3 GB	96 GB
2 bits lagere kwaliteit	36,6 GB	39,5 GB	64 GB

Op elke Apple-chip

Per chip de kleinste geheugengrootte die gpt-oss-120b draait, de beste versie die erin past en de schrijfsnelheid die je kunt verwachten.

Chip	Nodig	Versie	Tokens/s
M6	geen grootte past	Te groot	–
M5 Ultra	96 GB	4,25 bits native Draait goed	200–356
M5 Max	128 GB	4,25 bits native Draait goed	102–182
M5 Pro	64 GB	2 bits Draait goed	86–154
M5	geen grootte past	Te groot	–
M4 Max	128 GB	4,25 bits native Draait goed	91–162
M4 Pro	64 GB	2 bits Draait goed	77–137
M4	geen grootte past	Te groot	–
M3 Ultra	96 GB	4,25 bits native Draait goed	137–243
M3 Max	96 GB	4,25 bits native Draait goed	50–89
M3 Pro	geen grootte past	Te groot	–
M3	geen grootte past	Te groot	–
M2 Ultra	128 GB	4,25 bits native Draait goed	133–237
M2 Max	96 GB	4,25 bits native Draait goed	67–119
M2 Pro	geen grootte past	Te groot	–
M2	geen grootte past	Te groot	–
M1 Ultra	128 GB	4,25 bits native Draait goed	133–237
M1 Max	64 GB	2 bits Draait goed	113–200
M1 Pro	geen grootte past	Te groot	–
M1	geen grootte past	Te groot	–

Zo draai je het

De makkelijke manier: download MLX Harness, gratis en open source. Zoek gpt-oss-120b, download de versie die bij je Mac past en begin te chatten. MLX Harness stelt het model ook beschikbaar aan je andere apps via een OpenAI-compatibele API.Download MLX HarnessGratis · Apple Silicon · macOS 14.5 of nieuwer
In Terminal, met Apples MLX:pip install mlx-lmmlx_lm.chat --model mlx-community/gpt-oss-120b-MXFP4-Q8Build: mlx-community/gpt-oss-120b-MXFP4-Q8 op Hugging Face. Andere precisies staan ernaast.

Stap voor stap: LLM's downloaden en draaien op een Mac · zo gebruik je MLX Harness · MLX vs Ollama vs llama.cpp

Over gpt-oss-120b

Gemaakt door	OpenAI
Parameters	117B totaal · 5,1B actief (mixture-of-experts)
Context	128K tokens
Licentie	Apache-2.0
Uitgebracht	2025-08
Invoer	Tekst
Intelligentie	11,6 op de Artificial Analysis Intelligence Index
Gewichten	openai/gpt-oss-120b

Gids: stap voor stap op mlx.app

Vragen

Hoeveel geheugen heeft gpt-oss-120b nodig?: Ongeveer 65,3 GB aan gewichten op 4,25 bits native, plus ruimte voor de context: 70,5 GB in totaal. Op een Mac betekent dat 96 GB geïntegreerd geheugen of meer, omdat macOS de GPU standaard ongeveer 75% ervan laat gebruiken.
Hoe snel is gpt-oss-120b op een Mac?: De schrijfsnelheid hangt af van de geheugenbandbreedte. De snelste Mac hiervoor is een M5 Ultra met 96 GB, met ongeveer 200–356 tokens per seconde (4,25 bits native). De kleinste Mac die het draait, met 96 GB, haalt ongeveer 200–356 op een M5 Ultra.
Waarom draait gpt-oss-120b sneller dan je op basis van de grootte zou verwachten?: Het is een mixture-of-expertsmodel: het houdt 117B parameters in het geheugen, maar leest per token maar 5,1B, dus het schrijft zo snel als een veel kleiner model.

Vergelijkbare modellen

Alle modellen · Alle Macs · Vergelijk je Mac

Voor je modelkaart of README

Toont de kleinste Mac die gpt-oss-120b goed draait en linkt naar deze pagina.

[![Runs on a Mac](https://mlx.app/badge/run/gpt-oss-120b.svg)](https://mlx.app/run/gpt-oss-120b)

Zo is het berekend

Geheugen: de parameters van het model op 8, 6, 4, 3 of 2 bits per gewicht plus de groepsschalen van MLX (een halve bit per gewicht), of het eigen formaat van het model, met daarbovenop ruimte voor de context. Standaard laat macOS de GPU ongeveer 75% van het geïntegreerde geheugen gebruiken. Snelheid: de geheugenbandbreedte gedeeld door het aantal bytes dat per token wordt gelezen, is het plafond voor één gesprek; in de openbare Apple Silicon-benchmarks van llama.cpp halen echte runs ongeveer 45% tot 80% daarvan, en dat is het bereik dat we tonen. Dit zijn schattingen, geen metingen: meet je eigen Mac op MLX Bench. Modelgegevens uit elke officiële modelkaart, chipgegevens uit de technische specificaties van Apple. Gecontroleerd op 2026-10-19. Dezelfde gegevens als mlx.app/compare.