Un Mac può eseguire Ornith 1.5 122B?

Sì, con 128 GB di memoria unificata o più. Ornith 1.5 122B ha 122B parametri, di cui 10B attivi per ogni token; ecco la memoria che richiede a ogni precisione e quanto velocemente lo esegue ogni chip Apple.

Memoria a 4 bit74,1 GBpesi 68,6 GB + contesto
Mac più piccolo128 GB4 bit · 23 configurazioni di Mac
Mac più veloce64–114token/s · M2 Ultra 128 GB (stima)

Memoria a ogni precisione

VersionePesiCon contestoMac più piccolo
8 bit130 GB140 GB192 GB
6 bit99,1 GB107 GB192 GB
4 bit68,6 GB74,1 GB128 GB
3 bit qualità inferiore53,4 GB57,7 GB96 GB
2 bit qualità inferiore38,1 GB41,1 GB64 GB

Su ogni chip Apple

Per ogni chip, il taglio di memoria più piccolo che esegue Ornith 1.5 122B, la versione migliore che ci sta e la velocità di scrittura che puoi aspettarti.

ChipRichiedeVersioneToken/s
M6nessun taglio bastaTroppo grande–
M5 Ultra256 GB8 bit Gira bene51–91
M5 Max128 GB4 bit Gira bene49–88
M5 Pro64 GB2 bit Gira bene45–79
M5nessun taglio bastaTroppo grande–
M4 Max128 GB4 bit Gira bene44–78
M4 Pro64 GB2 bit Gira bene40–70
M4nessun taglio bastaTroppo grande–
M3 Ultra256 GB8 bit Gira bene35–62
M3 Max128 GB4 bit Gira bene32–57
M3 Pronessun taglio bastaTroppo grande–
M3nessun taglio bastaTroppo grande–
M2 Ultra128 GB4 bit Gira bene64–114
M2 Max64 GB2 bit Gira bene58–103
M2 Pronessun taglio bastaTroppo grande–
M2nessun taglio bastaTroppo grande–
M1 Ultra128 GB4 bit Gira bene64–114
M1 Max64 GB2 bit Gira bene58–103
M1 Pronessun taglio bastaTroppo grande–
M1nessun taglio bastaTroppo grande–

Come eseguirlo

  1. Il modo più semplice: scarica MLX Harness, gratuito e open source. Cerca Ornith 1.5 122B, scarica la versione adatta al tuo Mac e inizia a chattare. MLX Harness rende disponibile il modello anche alle tue altre app tramite un’API compatibile con OpenAI.Scarica MLX HarnessGratuito · Apple Silicon · macOS 14.5 o successivo
  2. Nel Terminale, con MLX di Apple: Non esiste ancora una build MLX della community, quindi creane una dai pesi ufficiali:pip install mlx-lmmlx_lm.convert --hf-path ornith-ai/Ornith-1.5-122B -q

Passo dopo passo: scaricare ed eseguire LLM su Mac · come usare MLX Harness · MLX vs Ollama vs llama.cpp

Informazioni su Ornith 1.5 122B

Creato daOrnith AI
Parametri122B in totale · 10B attivi (mixture-of-experts)
Contesto256K token
LicenzaMIT
Uscita2026-10
InputTesto e immagini
Pesiornith-ai/Ornith-1.5-122B

Domande

Quanta memoria richiede Ornith 1.5 122B?
Circa 68,6 GB di pesi a 4 bit, più lo spazio per il contesto: 74,1 GB in tutto. Su un Mac significa 128 GB di memoria unificata o più, perché di default macOS lascia usare alla GPU circa il 75% della memoria.
Quanto è veloce Ornith 1.5 122B su un Mac?
La velocità di scrittura dipende dalla larghezza di banda della memoria. Qui il Mac più veloce per questo modello è un M2 Ultra con 128 GB, a circa 64–114 token al secondo (4 bit). Il Mac più piccolo che lo esegue, con 128 GB, arriva a circa 64–114 su un M2 Ultra.
Perché Ornith 1.5 122B è più veloce di quanto suggeriscano le sue dimensioni?
È un modello mixture-of-experts: tiene in memoria 122B parametri ma per ogni token ne legge solo 10B, quindi scrive alla velocità di un modello molto più piccolo.

Modelli simili

Tutti i modelli · Tutti i Mac · Confronta il tuo Mac

Per la scheda del tuo modello o il README

Runs on a Mac: Ornith 1.5 122B Mostra il Mac più piccolo che esegue bene Ornith 1.5 122B e rimanda a questa pagina.

[![Runs on a Mac](https://mlx.app/badge/run/ornith-1.5-122b.svg)](https://mlx.app/run/ornith-1.5-122b)

Come è calcolato

Memoria: i parametri del modello a 8, 6, 4, 3 o 2 bit per peso più le scale per gruppo di MLX (mezzo bit per peso), oppure il suo formato nativo, con in più lo spazio per il contesto. Di default macOS lascia usare alla GPU circa il 75% della memoria unificata. Velocità: la larghezza di banda della memoria divisa per i byte letti per ogni token è il limite massimo per una conversazione; nei benchmark pubblici su Apple Silicon di llama.cpp, le esecuzioni reali arrivano a circa il 45%–80% di quel limite, ed è l’intervallo mostrato. Sono stime, non misurazioni: misura il tuo Mac su MLX Bench. Dati dei modelli dalla rispettiva scheda ufficiale, dati dei chip dalle specifiche tecniche di Apple. Verificato il 2026-10-19. Stessi dati di mlx.app/compare.

Un Mac può eseguire Ornith 1.5 122B? Memoria, velocità