Mac รัน Ling 3.1 Flash ได้ไหม

ได้ หากมีหน่วยความจำแบบรวม 512 GB ขึ้นไป Ling 3.1 Flash มีพารามิเตอร์ 560B โดยใช้งานจริง 25B ต่อโทเค็น ด้านล่างคือหน่วยความจำที่ต้องใช้ในแต่ละความแม่นยำ และความเร็วที่ชิป Apple แต่ละรุ่นรันได้

อัปเดต

หน่วยความจำที่ 4 บิต340 GBค่าน้ำหนัก 315 GB + บริบท
Mac ขั้นต่ำ512 GB4 บิต · 4 ตัวเลือก Mac
Mac ที่เร็วที่สุด38–68โทเค็น/วินาที · M5 Ultra 512 GB (ค่าประมาณ)

หน่วยความจำในแต่ละความแม่นยำ

เวอร์ชันค่าน้ำหนักรวมบริบทMac ขั้นต่ำ
8 บิต595 GB643 GBมากกว่า Mac ทุกเครื่อง
6 บิต455 GB491 GBมากกว่า Mac ทุกเครื่อง
4 บิต315 GB340 GB512 GB
3 บิต คุณภาพต่ำลง245 GB265 GB512 GB
2 บิต คุณภาพต่ำลง175 GB189 GB256 GB

บนชิป Apple ทุกรุ่น

ขนาดหน่วยความจำเล็กที่สุดของแต่ละชิปที่รัน Ling 3.1 Flash ได้ เวอร์ชันที่ดีที่สุดที่ใส่ได้ และความเร็วในการเขียนที่คาดได้

ชิปต้องใช้เวอร์ชันโทเค็น/วินาที
M6ไม่มีขนาดที่ใส่ได้ใหญ่เกินไป–
M5 Ultra512 GB4 บิต รันได้ดี38–68
M5 Maxไม่มีขนาดที่ใส่ได้ใหญ่เกินไป–
M5 Proไม่มีขนาดที่ใส่ได้ใหญ่เกินไป–
M5ไม่มีขนาดที่ใส่ได้ใหญ่เกินไป–
M4 Maxไม่มีขนาดที่ใส่ได้ใหญ่เกินไป–
M4 Proไม่มีขนาดที่ใส่ได้ใหญ่เกินไป–
M4ไม่มีขนาดที่ใส่ได้ใหญ่เกินไป–
M3 Ultra512 GB4 บิต รันได้ดี26–46
M3 Maxไม่มีขนาดที่ใส่ได้ใหญ่เกินไป–
M3 Proไม่มีขนาดที่ใส่ได้ใหญ่เกินไป–
M3ไม่มีขนาดที่ใส่ได้ใหญ่เกินไป–
M2 Ultraไม่มีขนาดที่ใส่ได้ใหญ่เกินไป–
M2 Maxไม่มีขนาดที่ใส่ได้ใหญ่เกินไป–
M2 Proไม่มีขนาดที่ใส่ได้ใหญ่เกินไป–
M2ไม่มีขนาดที่ใส่ได้ใหญ่เกินไป–
M1 Ultraไม่มีขนาดที่ใส่ได้ใหญ่เกินไป–
M1 Maxไม่มีขนาดที่ใส่ได้ใหญ่เกินไป–
M1 Proไม่มีขนาดที่ใส่ได้ใหญ่เกินไป–
M1ไม่มีขนาดที่ใส่ได้ใหญ่เกินไป–

วิธีรัน

  1. ในเทอร์มินัล ด้วย MLX ของ Apple: ยังไม่มีบิลด์ MLX และ mlx-lm แบบปกติยังแปลงน้ำหนักทางการไม่ได้ (bailing_moe_v3.py)

ทีละขั้นตอน: ดาวน์โหลดและรัน LLM บน Mac · วิธีใช้ MLX Harness · MLX vs Ollama vs llama.cpp

เกี่ยวกับ Ling 3.1 Flash

ผู้พัฒนาinclusionAI
พารามิเตอร์ทั้งหมด 560B · ใช้งาน 25B (mixture-of-experts)
บริบท256K โทเค็น
สัญญาอนุญาตMIT
เปิดตัว2026-10
อินพุตข้อความ
ความฉลาด41.1 บน Artificial Analysis Intelligence Index
ค่าน้ำหนักinclusionAI/Ling-3.1-flash

คำถาม

Ling 3.1 Flash ต้องใช้หน่วยความจำเท่าไร
ค่าน้ำหนักราว 315 GB ที่ 4 บิต บวกที่สำหรับบริบท รวมทั้งหมด 340 GB บน Mac หมายถึงต้องมีหน่วยความจำแบบรวม 512 GB ขึ้นไป เพราะโดยค่าเริ่มต้น macOS ให้ GPU ใช้ได้ราว 75%
Ling 3.1 Flash เร็วแค่ไหนบน Mac
ความเร็วในการเขียนขึ้นอยู่กับแบนด์วิดท์หน่วยความจำ Mac ที่เร็วที่สุดสำหรับโมเดลนี้คือ M5 Ultra ที่มี 512 GB ได้ราว 38–68 โทเค็นต่อวินาที (4 บิต) ส่วน Mac ขั้นต่ำที่รันได้ คือ M5 Ultra ที่มี 512 GB ได้ราว 38–68
ทำไม Ling 3.1 Flash จึงรันได้เร็วกว่าขนาดของมัน
เพราะเป็นโมเดลแบบ mixture-of-experts ซึ่งเก็บพารามิเตอร์ 560B ไว้ในหน่วยความจำ แต่อ่านเพียง 25B ต่อโทเค็น จึงเขียนได้เร็วเท่าโมเดลที่เล็กกว่ามาก

โมเดลที่คล้ายกัน

ทุกโมเดล · Mac ทุกรุ่น · เปรียบเทียบ Mac ของคุณ

สำหรับการ์ดโมเดลหรือ README ของคุณ

Runs on a Mac: Ling 3.1 Flash แสดง Mac ขั้นต่ำที่รัน Ling 3.1 Flash ได้ดี และลิงก์มาที่หน้านี้

[![Runs on a Mac](https://mlx.app/badge/run/ling-3.1-flash.svg)](https://mlx.app/run/ling-3.1-flash)

วิธีคำนวณ

หน่วยความจำ: พารามิเตอร์ของโมเดลที่ 8, 6, 4, 3 หรือ 2 บิตต่อค่าน้ำหนัก บวกสเกลแบบกลุ่มของ MLX (ครึ่งบิตต่อค่าน้ำหนัก) หรือตามรูปแบบเนทีฟของโมเดล แล้วเผื่อที่สำหรับบริบท โดยค่าเริ่มต้น macOS ให้ GPU ใช้หน่วยความจำแบบรวมได้ราว 75% ความเร็ว: แบนด์วิดท์หน่วยความจำหารด้วยจำนวนไบต์ที่อ่านต่อโทเค็น คือเพดานสำหรับหนึ่งบทสนทนา ในผลทดสอบ Apple Silicon แบบสาธารณะของ llama.cpp การรันจริงทำได้ราว 45% ถึง 80% ของเพดานนี้ ซึ่งเป็นช่วงที่แสดงไว้ ตัวเลขเหล่านี้เป็นค่าประมาณ ไม่ใช่ค่าที่วัดจริง วัด Mac ของคุณเองได้ที่ MLX Bench ตัวเลขโมเดลมาจากการ์ดโมเดลทางการของแต่ละโมเดล ตัวเลขชิปมาจากข้อมูลจำเพาะทางเทคนิคของ Apple ตรวจสอบเมื่อ 2026-10-19 ใช้ข้อมูลเดียวกับ mlx.app/compare

ข้อมูลเปิด: mlx.app/data (JSON, CSV)

Mac รัน Ling 3.1 Flash ได้ไหม หน่วยความจำและความเร็ว