เข้าสู่ระบบสร้างวอลเล็ต

Mac รัน LFM2.5 24B A2B ได้ไหม

ได้ หากมีหน่วยความจำแบบรวม 24 GB ขึ้นไป LFM2.5 24B A2B มีพารามิเตอร์ 24B โดยใช้งานจริง 2B ต่อโทเค็น ด้านล่างคือหน่วยความจำที่ต้องใช้ในแต่ละความแม่นยำ และความเร็วที่ชิป Apple แต่ละรุ่นรันได้

หน่วยความจำที่ 4 บิต15 GBค่าน้ำหนัก 13.5 GB + บริบท
Mac ขั้นต่ำ24 GB4 บิต · 55 ตัวเลือก Mac
Mac ที่เร็วที่สุด257–457โทเค็น/วินาที · M5 Ultra 96 GB (ค่าประมาณ)

หน่วยความจำในแต่ละความแม่นยำ

เวอร์ชันค่าน้ำหนักรวมบริบทMac ขั้นต่ำ
8 บิต25.5 GB27.5 GB48 GB
6 บิต19.5 GB21.1 GB32 GB
4 บิต13.5 GB15 GB24 GB
3 บิต คุณภาพต่ำลง10.5 GB12 GB16 GB
2 บิต คุณภาพต่ำลง7.5 GB9 GB16 GB

บนชิป Apple ทุกรุ่น

ขนาดหน่วยความจำเล็กที่สุดของแต่ละชิปที่รัน LFM2.5 24B A2B ได้ เวอร์ชันที่ดีที่สุดที่ใส่ได้ และความเร็วในการเขียนที่คาดได้

ชิปต้องใช้เวอร์ชันโทเค็น/วินาที
M624 GB4 บิต รันได้ดี70–124
M5 Ultra96 GB8 บิต รันได้ดี257–457
M5 Max36 GB6 บิต รันได้ดี129–230
M5 Pro24 GB4 บิต รันได้ดี126–223
M524 GB4 บิต รันได้ดี63–111
M4 Max36 GB6 บิต รันได้ดี115–205
M4 Pro24 GB4 บิต รันได้ดี112–199
M424 GB4 บิต รันได้ดี49–87
M3 Ultra96 GB8 บิต รันได้ดี176–312
M3 Max36 GB6 บิต รันได้ดี84–150
M3 Pro36 GB6 บิต รันได้ดี42–75
M324 GB4 บิต รันได้ดี41–73
M2 Ultra64 GB8 บิต รันได้ดี171–305
M2 Max32 GB6 บิต รันได้ดี113–200
M2 Pro32 GB6 บิต รันได้ดี56–100
M224 GB4 บิต รันได้ดี41–73
M1 Ultra64 GB8 บิต รันได้ดี171–305
M1 Max32 GB6 บิต รันได้ดี113–200
M1 Pro32 GB6 บิต รันได้ดี56–100
M116 GB3 บิต รันได้ดี34–60

วิธีรัน

  1. วิธีที่ง่ายที่สุด: ดาวน์โหลด MLX Harness ฟรีและโอเพนซอร์ส ค้นหา LFM2.5 24B A2B ดาวน์โหลดเวอร์ชันที่เหมาะกับ Mac ของคุณ แล้วเริ่มแชตได้เลย แอปยังให้บริการโมเดลแก่แอปอื่นๆ ของคุณผ่าน API ที่เข้ากันได้กับ OpenAI ด้วยดาวน์โหลด MLX Harnessฟรี · Apple Silicon · macOS 14.5 ขึ้นไป
  2. ในเทอร์มินัล ด้วย MLX ของ Apple:pip install mlx-lmmlx_lm.chat --model mlx-community/LFM2.5-24B-A2B-OptiQ-4bitบิลด์: mlx-community/LFM2.5-24B-A2B-OptiQ-4bit บน Hugging Face ความแม่นยำอื่นๆ อยู่ถัดไป

ทีละขั้นตอน: ดาวน์โหลดและรัน LLM บน Mac · วิธีใช้ MLX Harness · MLX vs Ollama vs llama.cpp

เกี่ยวกับ LFM2.5 24B A2B

ผู้พัฒนาLiquid AI
พารามิเตอร์ทั้งหมด 24B · ใช้งาน 2B (mixture-of-experts)
บริบท128K โทเค็น
สัญญาอนุญาตLFM Open License v1.0 (lfm1.0)
เปิดตัว2026-10
อินพุตข้อความ
ค่าน้ำหนักLiquidAI/LFM2.5-24B-A2B

คำถาม

LFM2.5 24B A2B ต้องใช้หน่วยความจำเท่าไร
ค่าน้ำหนักราว 13.5 GB ที่ 4 บิต บวกที่สำหรับบริบท รวมทั้งหมด 15 GB บน Mac หมายถึงต้องมีหน่วยความจำแบบรวม 24 GB ขึ้นไป เพราะโดยค่าเริ่มต้น macOS ให้ GPU ใช้ได้ราว 75%
LFM2.5 24B A2B เร็วแค่ไหนบน Mac
ความเร็วในการเขียนขึ้นอยู่กับแบนด์วิดท์หน่วยความจำ Mac ที่เร็วที่สุดสำหรับโมเดลนี้คือ M5 Ultra ที่มี 96 GB ได้ราว 257–457 โทเค็นต่อวินาที (8 บิต) ส่วน Mac ขั้นต่ำที่รันได้ คือ M5 Pro ที่มี 24 GB ได้ราว 126–223
ทำไม LFM2.5 24B A2B จึงรันได้เร็วกว่าขนาดของมัน
เพราะเป็นโมเดลแบบ mixture-of-experts ซึ่งเก็บพารามิเตอร์ 24B ไว้ในหน่วยความจำ แต่อ่านเพียง 2B ต่อโทเค็น จึงเขียนได้เร็วเท่าโมเดลที่เล็กกว่ามาก

โมเดลที่คล้ายกัน

ทุกโมเดล · Mac ทุกรุ่น · เปรียบเทียบ Mac ของคุณ

สำหรับการ์ดโมเดลหรือ README ของคุณ

Runs on a Mac: LFM2.5 24B A2B แสดง Mac ขั้นต่ำที่รัน LFM2.5 24B A2B ได้ดี และลิงก์มาที่หน้านี้

[![Runs on a Mac](https://mlx.app/badge/run/lfm2.5-24b-a2b.svg)](https://mlx.app/run/lfm2.5-24b-a2b)

วิธีคำนวณ

หน่วยความจำ: พารามิเตอร์ของโมเดลที่ 8, 6, 4, 3 หรือ 2 บิตต่อค่าน้ำหนัก บวกสเกลแบบกลุ่มของ MLX (ครึ่งบิตต่อค่าน้ำหนัก) หรือตามรูปแบบเนทีฟของโมเดล แล้วเผื่อที่สำหรับบริบท โดยค่าเริ่มต้น macOS ให้ GPU ใช้หน่วยความจำแบบรวมได้ราว 75% ความเร็ว: แบนด์วิดท์หน่วยความจำหารด้วยจำนวนไบต์ที่อ่านต่อโทเค็น คือเพดานสำหรับหนึ่งบทสนทนา ในผลทดสอบ Apple Silicon แบบสาธารณะของ llama.cpp การรันจริงทำได้ราว 45% ถึง 80% ของเพดานนี้ ซึ่งเป็นช่วงที่แสดงไว้ ตัวเลขเหล่านี้เป็นค่าประมาณ ไม่ใช่ค่าที่วัดจริง วัด Mac ของคุณเองได้ที่ MLX Bench ตัวเลขโมเดลมาจากการ์ดโมเดลทางการของแต่ละโมเดล ตัวเลขชิปมาจากข้อมูลจำเพาะทางเทคนิคของ Apple ตรวจสอบเมื่อ 2026-10-19 ใช้ข้อมูลเดียวกับ mlx.app/compare

Mac รัน LFM2.5 24B A2B ได้ไหม หน่วยความจำและความเร็ว