Memori pada setiap kepersisan
| Versi | Pemberat | Dengan konteks | Mac terkecil |
|---|---|---|---|
| 4.48-bit asli | 173 GB | 187 GB | 256 GB |
| 3-bit kualiti lebih rendah | 135 GB | 146 GB | 256 GB |
| 2-bit kualiti lebih rendah | 96.6 GB | 104 GB | 192 GB |
Pada setiap cip Apple
Saiz memori terkecil setiap cip yang menjalankan MiMo V2.6 Flash, versi terbaik yang muat, dan kelajuan menulis yang boleh anda jangkakan.
| Cip | Perlu | Versi | Token/s |
|---|---|---|---|
| M6 | tiada saiz yang muat | Terlalu besar | – |
| M5 Ultra | 256 GB | 4.48-bit asli Berjalan baik | 64–114 |
| M5 Max | 128 GB | 2-bit Cukup-cukup muat | 59–105 |
| M5 Pro | tiada saiz yang muat | Terlalu besar | – |
| M5 | tiada saiz yang muat | Terlalu besar | – |
| M4 Max | 128 GB | 2-bit Cukup-cukup muat | 52–93 |
| M4 Pro | tiada saiz yang muat | Terlalu besar | – |
| M4 | tiada saiz yang muat | Terlalu besar | – |
| M3 Ultra | 256 GB | 4.48-bit asli Berjalan baik | 44–78 |
| M3 Max | 128 GB | 2-bit Cukup-cukup muat | 38–68 |
| M3 Pro | tiada saiz yang muat | Terlalu besar | – |
| M3 | tiada saiz yang muat | Terlalu besar | – |
| M2 Ultra | 192 GB | 2-bit Berjalan baik | 77–136 |
| M2 Max | tiada saiz yang muat | Terlalu besar | – |
| M2 Pro | tiada saiz yang muat | Terlalu besar | – |
| M2 | tiada saiz yang muat | Terlalu besar | – |
| M1 Ultra | 128 GB | 2-bit Cukup-cukup muat | 77–136 |
| M1 Max | tiada saiz yang muat | Terlalu besar | – |
| M1 Pro | tiada saiz yang muat | Terlalu besar | – |
| M1 | tiada saiz yang muat | Terlalu besar | – |
Cara menjalankannya
- Cara mudah: muat turun MLX Harness, percuma dan sumber terbuka. Cari MiMo V2.6 Flash, muat turun versi yang sesuai dengan Mac anda, dan mula bersembang. Ia juga menyediakan model kepada aplikasi anda yang lain melalui API yang serasi dengan OpenAI.Muat turun MLX HarnessPercuma · Apple Silicon · macOS 14.5 atau lebih baharu
- Dalam Terminal dengan MLX daripada Apple:
pip install mlx-lmmlx_lm.chat --model mlx-community/MiMo-V2.6-Flash-RL-mxfp4-q8Binaan: mlx-community/MiMo-V2.6-Flash-RL-mxfp4-q8 di Hugging Face. Kepersisan lain ada di sebelahnya.
Langkah demi langkah: muat turun dan jalankan LLM pada Mac · cara menggunakan MLX Harness · MLX vs Ollama vs llama.cpp
Tentang MiMo V2.6 Flash
| Dibuat oleh | Xiaomi |
|---|---|
| Parameter | 309B jumlah · 15B aktif (mixture of experts) |
| Konteks | 1M token |
| Lesen | MIT |
| Dikeluarkan | 2026-09 |
| Input | Teks dan imej |
| Kecerdasan | 37.9 dalam Artificial Analysis Intelligence Index |
| Pemberat | XiaomiMiMo/MiMo-V2.6-Flash-RL |
Soalan
- Berapakah memori yang diperlukan oleh MiMo V2.6 Flash?
- Kira-kira 173 GB pemberat pada 4.48-bit asli, serta ruang untuk konteks: 187 GB kesemuanya. Pada Mac, ini bermakna 256 GB memori bersatu atau lebih, kerana secara lalai macOS membenarkan GPU menggunakan kira-kira 75% daripadanya.
- Sepantas mana MiMo V2.6 Flash pada Mac?
- Kelajuan menulis bergantung pada lebar jalur memori. Mac terpantas untuknya di sini ialah M5 Ultra dengan 256 GB, kira-kira 64–114 token sesaat (4.48-bit asli). Mac terkecil yang menjalankannya, dengan 256 GB, mencapai kira-kira 64–114 pada M5 Ultra.
- Mengapakah MiMo V2.6 Flash berjalan lebih pantas daripada saiznya?
- Ia model mixture-of-experts: ia menyimpan 309B parameter dalam memori tetapi hanya membaca 15B bagi setiap token, jadi ia menulis sepantas model yang jauh lebih kecil.
Model serupa
Untuk kad model atau README anda
Menunjukkan Mac terkecil yang menjalankan MiMo V2.6 Flash dengan baik dan memaut ke sini.
[](https://mlx.app/run/mimo-v2.6-flash)Cara ia dikira
Memori: parameter model pada 8, 6, 4, 3 atau 2 bit setiap pemberat serta skala kumpulan MLX (setengah bit setiap pemberat), atau format aslinya, dengan ruang untuk konteks di atasnya. Secara lalai macOS membenarkan GPU menggunakan kira-kira 75% memori bersatu. Kelajuan: lebar jalur memori dibahagikan dengan bait yang dibaca bagi setiap token ialah had atas untuk satu perbualan; dalam penanda aras Apple Silicon awam llama.cpp, larian sebenar mencapai kira-kira 45% hingga 80% daripadanya, dan julat itulah yang ditunjukkan. Ini anggaran, bukan ukuran: ukur Mac anda sendiri di MLX Bench. Angka model daripada kad model rasmi setiap model, angka cip daripada Spesifikasi Teknikal Apple. Disemak 2026-10-19. Data yang sama seperti mlx.app/compare.