Kaya bang patakbuhin ng Mac ang Beam 1.0?

Oo, kung may 512 GB na unified memory o higit pa. May 501B na parameter ang Beam 1.0, 23B dito ang aktibo sa bawat token; narito ang memory na kailangan nito sa bawat precision at kung gaano ito kabilis sa bawat Apple chip.

Memory sa 4-bit304 GBweights 282 GB + context
Pinakamaliit na Mac512 GB4-bit · 4 configuration ng Mac
Pinakamabilis na Mac42–74token/s · M5 Ultra 512 GB (tantiya)

Memory sa bawat precision

BersyonWeightsKasama ang contextPinakamaliit na Mac
8-bit532 GB575 GBhigit sa anumang Mac
6-bit407 GB440 GBhigit sa anumang Mac
4-bit282 GB304 GB512 GB
3-bit mas mababang kalidad219 GB237 GB512 GB
2-bit mas mababang kalidad157 GB169 GB256 GB

Sa bawat Apple chip

Ang pinakamaliit na memory size ng bawat chip na kaya ang Beam 1.0, ang pinakamagandang bersyong kasya rito, at ang bilis ng pagsusulat na maaasahan mo.

ChipKailanganBersyonToken/s
M6walang kasyang sizeMasyadong malaki–
M5 Ultra512 GB4-bit Maayos42–74
M5 Maxwalang kasyang sizeMasyadong malaki–
M5 Prowalang kasyang sizeMasyadong malaki–
M5walang kasyang sizeMasyadong malaki–
M4 Maxwalang kasyang sizeMasyadong malaki–
M4 Prowalang kasyang sizeMasyadong malaki–
M4walang kasyang sizeMasyadong malaki–
M3 Ultra512 GB4-bit Maayos29–51
M3 Maxwalang kasyang sizeMasyadong malaki–
M3 Prowalang kasyang sizeMasyadong malaki–
M3walang kasyang sizeMasyadong malaki–
M2 Ultra192 GB2-bit Halos hindi kasya50–89
M2 Maxwalang kasyang sizeMasyadong malaki–
M2 Prowalang kasyang sizeMasyadong malaki–
M2walang kasyang sizeMasyadong malaki–
M1 Ultrawalang kasyang sizeMasyadong malaki–
M1 Maxwalang kasyang sizeMasyadong malaki–
M1 Prowalang kasyang sizeMasyadong malaki–
M1walang kasyang sizeMasyadong malaki–

Paano ito patakbuhin

  1. Ang madaling paraan: i-download ang MLX Harness, libre at open source. Hanapin ang Beam 1.0, i-download ang bersyong kasya sa Mac mo, at mag-chat. Ibinibigay rin nito ang model sa iba mo pang app sa pamamagitan ng API na compatible sa OpenAI.I-download ang MLX HarnessLibre · Apple Silicon · macOS 14.5 o mas bago
  2. Sa Terminal gamit ang MLX ng Apple: Wala pang MLX build mula sa community, kaya gumawa ng isa mula sa opisyal na weights:pip install mlx-lmmlx_lm.convert --hf-path reflection/Beam-1.0-501B-A23B -q

Hakbang-hakbang: mag-download at magpatakbo ng LLM sa Mac · paano gamitin ang MLX Harness · MLX vs Ollama vs llama.cpp

Tungkol sa Beam 1.0

Gawa ngReflection AI
Mga parameter501B kabuuan · 23B aktibo (mixture of experts)
Context1M token
LisensyaApache-2.0
Inilabas2026-10
InputText
Intelligence30.3 sa Artificial Analysis Intelligence Index
Weightsreflection/Beam-1.0-501B-A23B

Mga tanong

Gaano karaming memory ang kailangan ng Beam 1.0?
Mga 282 GB ng weights sa 4-bit, dagdag ang espasyo para sa context: 304 GB lahat-lahat. Sa Mac, ibig sabihin nito ay 512 GB na unified memory o higit pa, dahil bilang default, mga 75% nito ang ipinapagamit ng macOS sa GPU.
Gaano kabilis ang Beam 1.0 sa Mac?
Nakadepende sa memory bandwidth ang bilis ng pagsusulat. Ang pinakamabilis na Mac para dito ay M5 Ultra na may 512 GB, sa mga 42–74 token bawat segundo (4-bit). Ang pinakamaliit na Mac na kaya ito, na may 512 GB, ay umaabot sa mga 42–74 sa M5 Ultra.
Bakit mas mabilis ang Beam 1.0 kaysa sa inaasahan sa laki nito?
Isa itong mixture-of-experts na model: may 501B na parameter ito sa memory pero 23B lang ang binabasa nito sa bawat token, kaya nagsusulat ito sa bilis ng mas maliit na model.

Mga katulad na model

Bawat model · Bawat Mac · Ihambing ang Mac mo

Para sa model card o README mo

Runs on a Mac: Beam 1.0 Ipinapakita ang pinakamaliit na Mac na maayos na nagpapatakbo ng Beam 1.0 at nagli-link dito.

[![Runs on a Mac](https://mlx.app/badge/run/beam-1.0.svg)](https://mlx.app/run/beam-1.0)

Paano ito kinuwenta

Memory: ang mga parameter ng model sa 8, 6, 4, 3 o 2 bit kada weight dagdag ang group scales ng MLX (kalahating bit kada weight), o ang native format nito, at may espasyo pa para sa context. Bilang default, mga 75% ng unified memory ang ipinapagamit ng macOS sa GPU. Bilis: ang memory bandwidth na hinati sa mga byte na binabasa kada token ang pinakamataas na posible para sa isang usapan; sa mga pampublikong benchmark ng llama.cpp sa Apple Silicon, umaabot ang totoong takbo sa mga 45% hanggang 80% nito, at iyon ang range na ipinapakita. Mga tantiya ito, hindi sukat: sukatin ang sarili mong Mac sa MLX Bench. Ang mga numero ng model ay mula sa opisyal na model card ng bawat isa, at ang sa chip ay mula sa Tech Specs ng Apple. Sinuri noong 2026-10-19. Parehong data ng mlx.app/compare.

Kaya ba ng Mac ang Beam 1.0? Memory at bilis