Memori di setiap presisi
| Versi | Bobot | Dengan konteks | Mac terkecil |
|---|---|---|---|
| 8-bit | 595 GB | 643 GB | melebihi Mac mana pun |
| 6-bit | 455 GB | 491 GB | melebihi Mac mana pun |
| 4-bit | 315 GB | 340 GB | 512 GB |
| 3-bit kualitas lebih rendah | 245 GB | 265 GB | 512 GB |
| 2-bit kualitas lebih rendah | 175 GB | 189 GB | 256 GB |
Di setiap chip Apple
Ukuran memori terkecil setiap chip yang bisa menjalankan Ling 3.1 Flash, versi terbaik yang muat, dan kecepatan menulis yang bisa Anda harapkan.
| Chip | Butuh | Versi | Token/s |
|---|---|---|---|
| M6 | tidak ada ukuran yang muat | Terlalu besar | – |
| M5 Ultra | 512 GB | 4-bit Berjalan baik | 38–68 |
| M5 Max | tidak ada ukuran yang muat | Terlalu besar | – |
| M5 Pro | tidak ada ukuran yang muat | Terlalu besar | – |
| M5 | tidak ada ukuran yang muat | Terlalu besar | – |
| M4 Max | tidak ada ukuran yang muat | Terlalu besar | – |
| M4 Pro | tidak ada ukuran yang muat | Terlalu besar | – |
| M4 | tidak ada ukuran yang muat | Terlalu besar | – |
| M3 Ultra | 512 GB | 4-bit Berjalan baik | 26–46 |
| M3 Max | tidak ada ukuran yang muat | Terlalu besar | – |
| M3 Pro | tidak ada ukuran yang muat | Terlalu besar | – |
| M3 | tidak ada ukuran yang muat | Terlalu besar | – |
| M2 Ultra | tidak ada ukuran yang muat | Terlalu besar | – |
| M2 Max | tidak ada ukuran yang muat | Terlalu besar | – |
| M2 Pro | tidak ada ukuran yang muat | Terlalu besar | – |
| M2 | tidak ada ukuran yang muat | Terlalu besar | – |
| M1 Ultra | tidak ada ukuran yang muat | Terlalu besar | – |
| M1 Max | tidak ada ukuran yang muat | Terlalu besar | – |
| M1 Pro | tidak ada ukuran yang muat | Terlalu besar | – |
| M1 | tidak ada ukuran yang muat | Terlalu besar | – |
Cara menjalankannya
- Di Terminal dengan MLX dari Apple: Belum ada build MLX, dan mlx-lm standar belum bisa mengonversi bobot resminya (bailing_moe_v3.py).
Langkah demi langkah: unduh dan jalankan LLM di Mac · cara memakai MLX Harness · MLX vs Ollama vs llama.cpp
Tentang Ling 3.1 Flash
| Dibuat oleh | inclusionAI |
|---|---|
| Parameter | 560B total · 25B aktif (mixture of experts) |
| Konteks | 256K token |
| Lisensi | MIT |
| Dirilis | 2026-10 |
| Input | Teks |
| Kecerdasan | 41,1 di Artificial Analysis Intelligence Index |
| Bobot | inclusionAI/Ling-3.1-flash |
Pertanyaan
- Berapa memori yang dibutuhkan Ling 3.1 Flash?
- Sekitar 315 GB untuk bobot pada 4-bit, ditambah ruang untuk konteks: total 340 GB. Di Mac artinya memori terpadu 512 GB atau lebih, karena secara bawaan macOS mengizinkan GPU memakai sekitar 75% darinya.
- Seberapa cepat Ling 3.1 Flash di Mac?
- Kecepatan menulis bergantung pada bandwidth memori. Mac tercepat untuknya di sini adalah M5 Ultra dengan 512 GB, sekitar 38–68 token per detik (4-bit). Mac terkecil yang bisa menjalankannya, dengan 512 GB, mencapai sekitar 38–68 pada M5 Ultra.
- Mengapa Ling 3.1 Flash berjalan lebih cepat daripada ukurannya?
- Ini model mixture-of-experts: ia menyimpan 560B parameter di memori tetapi hanya membaca 25B untuk setiap token, sehingga menulis secepat model yang jauh lebih kecil.
Model serupa
Untuk kartu model atau README Anda
Menampilkan Mac terkecil yang menjalankan Ling 3.1 Flash dengan baik dan menautkan ke sini.
[](https://mlx.app/run/ling-3.1-flash)Cara menghitungnya
Memori: parameter model pada 8, 6, 4, 3, atau 2 bit per bobot ditambah skala grup MLX (setengah bit per bobot), atau format bawaannya, ditambah ruang untuk konteks. Secara bawaan macOS mengizinkan GPU memakai sekitar 75% memori terpadu. Kecepatan: bandwidth memori dibagi jumlah byte yang dibaca per token adalah batas atas untuk satu percakapan; dalam benchmark Apple Silicon publik llama.cpp, proses nyata mencapai sekitar 45% hingga 80% darinya, dan rentang itulah yang ditampilkan. Ini perkiraan, bukan pengukuran: ukur Mac Anda sendiri di MLX Bench. Angka model dari kartu model resmi masing-masing, angka chip dari Spesifikasi Teknis Apple. Diperiksa 2026-10-19. Data sama dengan mlx.app/compare.
Data terbuka: mlx.app/data (JSON, CSV)