Hoeveel geheugen heeft Ornith 1.5 122B nodig?

Ongeveer 68,6 GB aan gewichten op 4 bits, plus ruimte voor de context: 74,1 GB in totaal. Op een Mac betekent dat 128 GB geïntegreerd geheugen of meer, omdat macOS de GPU standaard ongeveer 75% ervan laat gebruiken.

Hoe snel is Ornith 1.5 122B op een Mac?

De schrijfsnelheid hangt af van de geheugenbandbreedte. De snelste Mac hiervoor is een M2 Ultra met 128 GB, met ongeveer 64–114 tokens per seconde (4 bits). De kleinste Mac die het draait, met 128 GB, haalt ongeveer 64–114 op een M2 Ultra.

Waarom draait Ornith 1.5 122B sneller dan je op basis van de grootte zou verwachten?

Het is een mixture-of-expertsmodel: het houdt 122B parameters in het geheugen, maar leest per token maar 10B, dus het schrijft zo snel als een veel kleiner model.

Draait Ornith 1.5 122B op een Mac? Geheugen, snelheid

Geheugen bij elke precisie

Versie	Gewichten	Met context	Kleinste Mac
8 bits	130 GB	140 GB	192 GB
6 bits	99,1 GB	107 GB	192 GB
4 bits	68,6 GB	74,1 GB	128 GB
3 bits lagere kwaliteit	53,4 GB	57,7 GB	96 GB
2 bits lagere kwaliteit	38,1 GB	41,1 GB	64 GB

Op elke Apple-chip

Per chip de kleinste geheugengrootte die Ornith 1.5 122B draait, de beste versie die erin past en de schrijfsnelheid die je kunt verwachten.

Chip	Nodig	Versie	Tokens/s
M6	geen grootte past	Te groot	–
M5 Ultra	256 GB	8 bits Draait goed	51–91
M5 Max	128 GB	4 bits Draait goed	49–88
M5 Pro	64 GB	2 bits Draait goed	45–79
M5	geen grootte past	Te groot	–
M4 Max	128 GB	4 bits Draait goed	44–78
M4 Pro	64 GB	2 bits Draait goed	40–70
M4	geen grootte past	Te groot	–
M3 Ultra	256 GB	8 bits Draait goed	35–62
M3 Max	128 GB	4 bits Draait goed	32–57
M3 Pro	geen grootte past	Te groot	–
M3	geen grootte past	Te groot	–
M2 Ultra	128 GB	4 bits Draait goed	64–114
M2 Max	64 GB	2 bits Draait goed	58–103
M2 Pro	geen grootte past	Te groot	–
M2	geen grootte past	Te groot	–
M1 Ultra	128 GB	4 bits Draait goed	64–114
M1 Max	64 GB	2 bits Draait goed	58–103
M1 Pro	geen grootte past	Te groot	–
M1	geen grootte past	Te groot	–

Zo draai je het

De makkelijke manier: download MLX Harness, gratis en open source. Zoek Ornith 1.5 122B, download de versie die bij je Mac past en begin te chatten. MLX Harness stelt het model ook beschikbaar aan je andere apps via een OpenAI-compatibele API.Download MLX HarnessGratis · Apple Silicon · macOS 14.5 of nieuwer
In Terminal, met Apples MLX: Er is nog geen MLX-build uit de community, dus maak er zelf een van de officiële gewichten:pip install mlx-lmmlx_lm.convert --hf-path ornith-ai/Ornith-1.5-122B -q

Stap voor stap: LLM's downloaden en draaien op een Mac · zo gebruik je MLX Harness · MLX vs Ollama vs llama.cpp

Over Ornith 1.5 122B

Gemaakt door	Ornith AI
Parameters	122B totaal · 10B actief (mixture-of-experts)
Context	256K tokens
Licentie	MIT
Uitgebracht	2026-10
Invoer	Tekst en afbeeldingen
Gewichten	ornith-ai/Ornith-1.5-122B

Vragen

Hoeveel geheugen heeft Ornith 1.5 122B nodig?: Ongeveer 68,6 GB aan gewichten op 4 bits, plus ruimte voor de context: 74,1 GB in totaal. Op een Mac betekent dat 128 GB geïntegreerd geheugen of meer, omdat macOS de GPU standaard ongeveer 75% ervan laat gebruiken.
Hoe snel is Ornith 1.5 122B op een Mac?: De schrijfsnelheid hangt af van de geheugenbandbreedte. De snelste Mac hiervoor is een M2 Ultra met 128 GB, met ongeveer 64–114 tokens per seconde (4 bits). De kleinste Mac die het draait, met 128 GB, haalt ongeveer 64–114 op een M2 Ultra.
Waarom draait Ornith 1.5 122B sneller dan je op basis van de grootte zou verwachten?: Het is een mixture-of-expertsmodel: het houdt 122B parameters in het geheugen, maar leest per token maar 10B, dus het schrijft zo snel als een veel kleiner model.

Vergelijkbare modellen

Alle modellen · Alle Macs · Vergelijk je Mac

Voor je modelkaart of README

Toont de kleinste Mac die Ornith 1.5 122B goed draait en linkt naar deze pagina.

[![Runs on a Mac](https://mlx.app/badge/run/ornith-1.5-122b.svg)](https://mlx.app/run/ornith-1.5-122b)

Zo is het berekend

Geheugen: de parameters van het model op 8, 6, 4, 3 of 2 bits per gewicht plus de groepsschalen van MLX (een halve bit per gewicht), of het eigen formaat van het model, met daarbovenop ruimte voor de context. Standaard laat macOS de GPU ongeveer 75% van het geïntegreerde geheugen gebruiken. Snelheid: de geheugenbandbreedte gedeeld door het aantal bytes dat per token wordt gelezen, is het plafond voor één gesprek; in de openbare Apple Silicon-benchmarks van llama.cpp halen echte runs ongeveer 45% tot 80% daarvan, en dat is het bereik dat we tonen. Dit zijn schattingen, geen metingen: meet je eigen Mac op MLX Bench. Modelgegevens uit elke officiële modelkaart, chipgegevens uit de technische specificaties van Apple. Gecontroleerd op 2026-10-19. Dezelfde gegevens als mlx.app/compare.