เข้าสู่ระบบสร้างวอลเล็ต

Mac รัน Ornith 1.5 122B ได้ไหม

ได้ หากมีหน่วยความจำแบบรวม 128 GB ขึ้นไป Ornith 1.5 122B มีพารามิเตอร์ 122B โดยใช้งานจริง 10B ต่อโทเค็น ด้านล่างคือหน่วยความจำที่ต้องใช้ในแต่ละความแม่นยำ และความเร็วที่ชิป Apple แต่ละรุ่นรันได้

หน่วยความจำที่ 4 บิต74.1 GBค่าน้ำหนัก 68.6 GB + บริบท
Mac ขั้นต่ำ128 GB4 บิต · 23 ตัวเลือก Mac
Mac ที่เร็วที่สุด64–114โทเค็น/วินาที · M2 Ultra 128 GB (ค่าประมาณ)

หน่วยความจำในแต่ละความแม่นยำ

เวอร์ชันค่าน้ำหนักรวมบริบทMac ขั้นต่ำ
8 บิต130 GB140 GB192 GB
6 บิต99.1 GB107 GB192 GB
4 บิต68.6 GB74.1 GB128 GB
3 บิต คุณภาพต่ำลง53.4 GB57.7 GB96 GB
2 บิต คุณภาพต่ำลง38.1 GB41.1 GB64 GB

บนชิป Apple ทุกรุ่น

ขนาดหน่วยความจำเล็กที่สุดของแต่ละชิปที่รัน Ornith 1.5 122B ได้ เวอร์ชันที่ดีที่สุดที่ใส่ได้ และความเร็วในการเขียนที่คาดได้

ชิปต้องใช้เวอร์ชันโทเค็น/วินาที
M6ไม่มีขนาดที่ใส่ได้ใหญ่เกินไป–
M5 Ultra256 GB8 บิต รันได้ดี51–91
M5 Max128 GB4 บิต รันได้ดี49–88
M5 Pro64 GB2 บิต รันได้ดี45–79
M5ไม่มีขนาดที่ใส่ได้ใหญ่เกินไป–
M4 Max128 GB4 บิต รันได้ดี44–78
M4 Pro64 GB2 บิต รันได้ดี40–70
M4ไม่มีขนาดที่ใส่ได้ใหญ่เกินไป–
M3 Ultra256 GB8 บิต รันได้ดี35–62
M3 Max128 GB4 บิต รันได้ดี32–57
M3 Proไม่มีขนาดที่ใส่ได้ใหญ่เกินไป–
M3ไม่มีขนาดที่ใส่ได้ใหญ่เกินไป–
M2 Ultra128 GB4 บิต รันได้ดี64–114
M2 Max64 GB2 บิต รันได้ดี58–103
M2 Proไม่มีขนาดที่ใส่ได้ใหญ่เกินไป–
M2ไม่มีขนาดที่ใส่ได้ใหญ่เกินไป–
M1 Ultra128 GB4 บิต รันได้ดี64–114
M1 Max64 GB2 บิต รันได้ดี58–103
M1 Proไม่มีขนาดที่ใส่ได้ใหญ่เกินไป–
M1ไม่มีขนาดที่ใส่ได้ใหญ่เกินไป–

วิธีรัน

  1. วิธีที่ง่ายที่สุด: ดาวน์โหลด MLX Harness ฟรีและโอเพนซอร์ส ค้นหา Ornith 1.5 122B ดาวน์โหลดเวอร์ชันที่เหมาะกับ Mac ของคุณ แล้วเริ่มแชตได้เลย แอปยังให้บริการโมเดลแก่แอปอื่นๆ ของคุณผ่าน API ที่เข้ากันได้กับ OpenAI ด้วยดาวน์โหลด MLX Harnessฟรี · Apple Silicon · macOS 14.5 ขึ้นไป
  2. ในเทอร์มินัล ด้วย MLX ของ Apple: ยังไม่มีบิลด์ MLX จากชุมชน จึงต้องสร้างเองจากค่าน้ำหนักทางการ:pip install mlx-lmmlx_lm.convert --hf-path ornith-ai/Ornith-1.5-122B -q

ทีละขั้นตอน: ดาวน์โหลดและรัน LLM บน Mac · วิธีใช้ MLX Harness · MLX vs Ollama vs llama.cpp

เกี่ยวกับ Ornith 1.5 122B

ผู้พัฒนาOrnith AI
พารามิเตอร์ทั้งหมด 122B · ใช้งาน 10B (mixture-of-experts)
บริบท256K โทเค็น
สัญญาอนุญาตMIT
เปิดตัว2026-10
อินพุตข้อความและรูปภาพ
ค่าน้ำหนักornith-ai/Ornith-1.5-122B

คำถาม

Ornith 1.5 122B ต้องใช้หน่วยความจำเท่าไร
ค่าน้ำหนักราว 68.6 GB ที่ 4 บิต บวกที่สำหรับบริบท รวมทั้งหมด 74.1 GB บน Mac หมายถึงต้องมีหน่วยความจำแบบรวม 128 GB ขึ้นไป เพราะโดยค่าเริ่มต้น macOS ให้ GPU ใช้ได้ราว 75%
Ornith 1.5 122B เร็วแค่ไหนบน Mac
ความเร็วในการเขียนขึ้นอยู่กับแบนด์วิดท์หน่วยความจำ Mac ที่เร็วที่สุดสำหรับโมเดลนี้คือ M2 Ultra ที่มี 128 GB ได้ราว 64–114 โทเค็นต่อวินาที (4 บิต) ส่วน Mac ขั้นต่ำที่รันได้ คือ M2 Ultra ที่มี 128 GB ได้ราว 64–114
ทำไม Ornith 1.5 122B จึงรันได้เร็วกว่าขนาดของมัน
เพราะเป็นโมเดลแบบ mixture-of-experts ซึ่งเก็บพารามิเตอร์ 122B ไว้ในหน่วยความจำ แต่อ่านเพียง 10B ต่อโทเค็น จึงเขียนได้เร็วเท่าโมเดลที่เล็กกว่ามาก

โมเดลที่คล้ายกัน

ทุกโมเดล · Mac ทุกรุ่น · เปรียบเทียบ Mac ของคุณ

สำหรับการ์ดโมเดลหรือ README ของคุณ

Runs on a Mac: Ornith 1.5 122B แสดง Mac ขั้นต่ำที่รัน Ornith 1.5 122B ได้ดี และลิงก์มาที่หน้านี้

[![Runs on a Mac](https://mlx.app/badge/run/ornith-1.5-122b.svg)](https://mlx.app/run/ornith-1.5-122b)

วิธีคำนวณ

หน่วยความจำ: พารามิเตอร์ของโมเดลที่ 8, 6, 4, 3 หรือ 2 บิตต่อค่าน้ำหนัก บวกสเกลแบบกลุ่มของ MLX (ครึ่งบิตต่อค่าน้ำหนัก) หรือตามรูปแบบเนทีฟของโมเดล แล้วเผื่อที่สำหรับบริบท โดยค่าเริ่มต้น macOS ให้ GPU ใช้หน่วยความจำแบบรวมได้ราว 75% ความเร็ว: แบนด์วิดท์หน่วยความจำหารด้วยจำนวนไบต์ที่อ่านต่อโทเค็น คือเพดานสำหรับหนึ่งบทสนทนา ในผลทดสอบ Apple Silicon แบบสาธารณะของ llama.cpp การรันจริงทำได้ราว 45% ถึง 80% ของเพดานนี้ ซึ่งเป็นช่วงที่แสดงไว้ ตัวเลขเหล่านี้เป็นค่าประมาณ ไม่ใช่ค่าที่วัดจริง วัด Mac ของคุณเองได้ที่ MLX Bench ตัวเลขโมเดลมาจากการ์ดโมเดลทางการของแต่ละโมเดล ตัวเลขชิปมาจากข้อมูลจำเพาะทางเทคนิคของ Apple ตรวจสอบเมื่อ 2026-10-19 ใช้ข้อมูลเดียวกับ mlx.app/compare

Mac รัน Ornith 1.5 122B ได้ไหม หน่วยความจำและความเร็ว