SmolLM3 3B ต้องใช้หน่วยความจำเท่าไร

ค่าน้ำหนักราว 1.7 GB ที่ 4 บิต บวกที่สำหรับบริบท รวมทั้งหมด 3.2 GB บน Mac หมายถึงต้องมีหน่วยความจำแบบรวม 8 GB ขึ้นไป เพราะโดยค่าเริ่มต้น macOS ให้ GPU ใช้ได้ราว 75%

SmolLM3 3B เร็วแค่ไหนบน Mac

ความเร็วในการเขียนขึ้นอยู่กับแบนด์วิดท์หน่วยความจำ Mac ที่เร็วที่สุดสำหรับโมเดลนี้คือ M5 Ultra ที่มี 96 GB ได้ราว 169–300 โทเค็นต่อวินาที (8 บิต) ส่วน Mac ขั้นต่ำที่รันได้ คือ M3 ที่มี 8 GB ได้ราว 14–25

การควอนไทซ์ทำให้ SmolLM3 3B แย่ลงไหม

ที่ 4 บิต โมเดลส่วนใหญ่ยังมีคุณภาพใกล้เคียงต้นฉบับ ต่ำกว่า 4 บิตคุณภาพจะลดลงเร็วขึ้น เลือกความแม่นยำสูงสุดที่ใส่ใน Mac ของคุณได้โดยยังมีที่เหลือ

Mac รัน SmolLM3 3B ได้ไหม หน่วยความจำและความเร็ว

หน่วยความจำในแต่ละความแม่นยำ

เวอร์ชัน	ค่าน้ำหนัก	รวมบริบท	Mac ขั้นต่ำ
8 บิต	3.2 GB	4.7 GB	8 GB
6 บิต	2.4 GB	3.9 GB	8 GB
4 บิต	1.7 GB	3.2 GB	8 GB
3 บิต คุณภาพต่ำลง	1.3 GB	2.8 GB	8 GB
2 บิต คุณภาพต่ำลง	0.9 GB	2.4 GB	8 GB

บนชิป Apple ทุกรุ่น

ขนาดหน่วยความจำเล็กที่สุดของแต่ละชิปที่รัน SmolLM3 3B ได้ เวอร์ชันที่ดีที่สุดที่ใส่ได้ และความเร็วในการเขียนที่คาดได้

ชิป	ต้องใช้	เวอร์ชัน	โทเค็น/วินาที
M6	16 GB	8 บิต รันได้ดี	22–38
M5 Ultra	96 GB	8 บิต รันได้ดี	169–300
M5 Max	36 GB	8 บิต รันได้ดี	65–115
M5 Pro	24 GB	8 บิต รันได้ดี	43–77
M5	16 GB	8 บิต รันได้ดี	22–38
M4 Max	36 GB	8 บิต รันได้ดี	58–103
M4 Pro	24 GB	8 บิต รันได้ดี	38–68
M4	16 GB	8 บิต รันได้ดี	17–30
M3 Ultra	96 GB	8 บิต รันได้ดี	115–205
M3 Max	36 GB	8 บิต รันได้ดี	42–75
M3 Pro	18 GB	8 บิต รันได้ดี	21–38
M3	8 GB	8 บิต รันได้ดี	14–25
M2 Ultra	64 GB	8 บิต รันได้ดี	113–200
M2 Max	32 GB	8 บิต รันได้ดี	56–100
M2 Pro	16 GB	8 บิต รันได้ดี	28–50
M2	8 GB	8 บิต รันได้ดี	14–25
M1 Ultra	64 GB	8 บิต รันได้ดี	113–200
M1 Max	32 GB	8 บิต รันได้ดี	56–100
M1 Pro	16 GB	8 บิต รันได้ดี	28–50
M1	8 GB	8 บิต รันได้ดี	10–17

วิธีรัน

วิธีที่ง่ายที่สุด: ดาวน์โหลด MLX Harness ฟรีและโอเพนซอร์ส ค้นหา SmolLM3 3B ดาวน์โหลดเวอร์ชันที่เหมาะกับ Mac ของคุณ แล้วเริ่มแชตได้เลย แอปยังให้บริการโมเดลแก่แอปอื่นๆ ของคุณผ่าน API ที่เข้ากันได้กับ OpenAI ด้วยดาวน์โหลด MLX Harnessฟรี · Apple Silicon · macOS 14.5 ขึ้นไป
ในเทอร์มินัล ด้วย MLX ของ Apple:pip install mlx-lmmlx_lm.chat --model mlx-community/SmolLM3-3B-4bitบิลด์: mlx-community/SmolLM3-3B-4bit บน Hugging Face ความแม่นยำอื่นๆ อยู่ถัดไป

ทีละขั้นตอน: ดาวน์โหลดและรัน LLM บน Mac · วิธีใช้ MLX Harness · MLX vs Ollama vs llama.cpp

เกี่ยวกับ SmolLM3 3B

ผู้พัฒนา	Hugging Face
พารามิเตอร์	3B (dense)
บริบท	64K โทเค็น
สัญญาอนุญาต	Apache-2.0
เปิดตัว	2025-07
อินพุต	ข้อความ
ค่าน้ำหนัก	HuggingFaceTB/SmolLM3-3B

คำถาม

SmolLM3 3B ต้องใช้หน่วยความจำเท่าไร: ค่าน้ำหนักราว 1.7 GB ที่ 4 บิต บวกที่สำหรับบริบท รวมทั้งหมด 3.2 GB บน Mac หมายถึงต้องมีหน่วยความจำแบบรวม 8 GB ขึ้นไป เพราะโดยค่าเริ่มต้น macOS ให้ GPU ใช้ได้ราว 75%
SmolLM3 3B เร็วแค่ไหนบน Mac: ความเร็วในการเขียนขึ้นอยู่กับแบนด์วิดท์หน่วยความจำ Mac ที่เร็วที่สุดสำหรับโมเดลนี้คือ M5 Ultra ที่มี 96 GB ได้ราว 169–300 โทเค็นต่อวินาที (8 บิต) ส่วน Mac ขั้นต่ำที่รันได้ คือ M3 ที่มี 8 GB ได้ราว 14–25
การควอนไทซ์ทำให้ SmolLM3 3B แย่ลงไหม: ที่ 4 บิต โมเดลส่วนใหญ่ยังมีคุณภาพใกล้เคียงต้นฉบับ ต่ำกว่า 4 บิตคุณภาพจะลดลงเร็วขึ้น เลือกความแม่นยำสูงสุดที่ใส่ใน Mac ของคุณได้โดยยังมีที่เหลือ

โมเดลที่คล้ายกัน

ทุกโมเดล · Mac ทุกรุ่น · เปรียบเทียบ Mac ของคุณ

สำหรับการ์ดโมเดลหรือ README ของคุณ

แสดง Mac ขั้นต่ำที่รัน SmolLM3 3B ได้ดี และลิงก์มาที่หน้านี้

[![Runs on a Mac](https://mlx.app/badge/run/smollm3-3b.svg)](https://mlx.app/run/smollm3-3b)

วิธีคำนวณ

หน่วยความจำ: พารามิเตอร์ของโมเดลที่ 8, 6, 4, 3 หรือ 2 บิตต่อค่าน้ำหนัก บวกสเกลแบบกลุ่มของ MLX (ครึ่งบิตต่อค่าน้ำหนัก) หรือตามรูปแบบเนทีฟของโมเดล แล้วเผื่อที่สำหรับบริบท โดยค่าเริ่มต้น macOS ให้ GPU ใช้หน่วยความจำแบบรวมได้ราว 75% ความเร็ว: แบนด์วิดท์หน่วยความจำหารด้วยจำนวนไบต์ที่อ่านต่อโทเค็น คือเพดานสำหรับหนึ่งบทสนทนา ในผลทดสอบ Apple Silicon แบบสาธารณะของ llama.cpp การรันจริงทำได้ราว 45% ถึง 80% ของเพดานนี้ ซึ่งเป็นช่วงที่แสดงไว้ ตัวเลขเหล่านี้เป็นค่าประมาณ ไม่ใช่ค่าที่วัดจริง วัด Mac ของคุณเองได้ที่ MLX Bench ตัวเลขโมเดลมาจากการ์ดโมเดลทางการของแต่ละโมเดล ตัวเลขชิปมาจากข้อมูลจำเพาะทางเทคนิคของ Apple ตรวจสอบเมื่อ 2026-10-19 ใช้ข้อมูลเดียวกับ mlx.app/compare