Ile pamięci potrzebuje Mistral Large 3 (675B)?

Około 380 GB na wagi (4-bit) plus miejsce na kontekst: łącznie 410 GB. To więcej, niż ma dziś jakikolwiek Mac.

Jak szybko działa Mistral Large 3 (675B) na Macu?

Szybkość generowania zależy od przepustowości pamięci. Najszybszy Mac dla tego modelu to M5 Ultra z 512 GB: około 30–54 tokenów na sekundę (3-bit). Najmniejszy Mac, który go uruchomi, M5 Ultra z 512 GB, osiąga około 30–54.

Dlaczego Mistral Large 3 (675B) działa szybciej, niż wskazuje jego rozmiar?

To model mixture-of-experts: trzyma w pamięci 675B parametrów, ale dla każdego tokenu odczytuje tylko 41B, więc generuje z szybkością znacznie mniejszego modelu.

Czy Mac uruchomi Mistral Large 3 (675B)? Pamięć i szybkość

Pamięć przy każdej precyzji

Wersja	Wagi	Z kontekstem	Najmniejszy Mac
8-bit	717 GB	775 GB	więcej niż ma każdy Mac
6-bit	548 GB	592 GB	więcej niż ma każdy Mac
4-bit	380 GB	410 GB	więcej niż ma każdy Mac
3-bit niższa jakość	295 GB	319 GB	512 GB
2-bit niższa jakość	211 GB	228 GB	512 GB

Na każdym układzie Apple

Najmniejsza pamięć każdego układu, na której działa Mistral Large 3 (675B), najlepsza wersja, która się mieści, i spodziewana szybkość generowania.

Układ	Potrzebuje	Wersja	Tokeny/s
M6	żaden rozmiar nie pasuje	Za duży	–
M5 Ultra	512 GB	3-bit Działa dobrze	30–54
M5 Max	żaden rozmiar nie pasuje	Za duży	–
M5 Pro	żaden rozmiar nie pasuje	Za duży	–
M5	żaden rozmiar nie pasuje	Za duży	–
M4 Max	żaden rozmiar nie pasuje	Za duży	–
M4 Pro	żaden rozmiar nie pasuje	Za duży	–
M4	żaden rozmiar nie pasuje	Za duży	–
M3 Ultra	512 GB	3-bit Działa dobrze	21–37
M3 Max	żaden rozmiar nie pasuje	Za duży	–
M3 Pro	żaden rozmiar nie pasuje	Za duży	–
M3	żaden rozmiar nie pasuje	Za duży	–
M2 Ultra	żaden rozmiar nie pasuje	Za duży	–
M2 Max	żaden rozmiar nie pasuje	Za duży	–
M2 Pro	żaden rozmiar nie pasuje	Za duży	–
M2	żaden rozmiar nie pasuje	Za duży	–
M1 Ultra	żaden rozmiar nie pasuje	Za duży	–
M1 Max	żaden rozmiar nie pasuje	Za duży	–
M1 Pro	żaden rozmiar nie pasuje	Za duży	–
M1	żaden rozmiar nie pasuje	Za duży	–

Jak go uruchomić

Najprościej: pobierz MLX Harness, za darmo i z otwartym kodem. Wyszukaj Mistral Large 3 (675B), pobierz wersję pasującą do Twojego Maca i rozmawiaj. Aplikacja udostępnia też model innym Twoim aplikacjom przez API zgodne z OpenAI.Pobierz MLX HarnessZa darmo · Apple Silicon · macOS 14.5 lub nowszy
W Terminalu z MLX od Apple:pip install mlx-lmmlx_lm.chat --model mlx-community/Mistral-Large-3-675B-Instruct-2512-mlx-4bitWersja: mlx-community/Mistral-Large-3-675B-Instruct-2512-mlx-4bit na Hugging Face. Obok znajdziesz inne precyzje.

Krok po kroku: pobierz i uruchom LLM na Macu · jak używać MLX Harness · MLX, Ollama i llama.cpp

O modelu Mistral Large 3 (675B)

Twórca	Mistral AI
Parametry	675B łącznie · 41B aktywnych (mixture of experts)
Kontekst	tokeny: 256K
Licencja	Apache-2.0
Wydany	2025-11
Wejście	Tekst i obrazy
Wagi	mistralai/Mistral-Large-3-675B-Instruct-2512

Pytania

Ile pamięci potrzebuje Mistral Large 3 (675B)?: Około 380 GB na wagi (4-bit) plus miejsce na kontekst: łącznie 410 GB. To więcej, niż ma dziś jakikolwiek Mac.
Jak szybko działa Mistral Large 3 (675B) na Macu?: Szybkość generowania zależy od przepustowości pamięci. Najszybszy Mac dla tego modelu to M5 Ultra z 512 GB: około 30–54 tokenów na sekundę (3-bit). Najmniejszy Mac, który go uruchomi, M5 Ultra z 512 GB, osiąga około 30–54.
Dlaczego Mistral Large 3 (675B) działa szybciej, niż wskazuje jego rozmiar?: To model mixture-of-experts: trzyma w pamięci 675B parametrów, ale dla każdego tokenu odczytuje tylko 41B, więc generuje z szybkością znacznie mniejszego modelu.

Podobne modele

Wszystkie modele · Wszystkie Maki · Porównaj swojego Maca

Do karty modelu lub README

Pokazuje najmniejszego Maca, na którym Mistral Large 3 (675B) działa dobrze, i prowadzi tutaj.

[![Runs on a Mac](https://mlx.app/badge/run/mistral-large-3.svg)](https://mlx.app/run/mistral-large-3)

Jak to liczymy

Pamięć: parametry modelu przy 8, 6, 4, 3 lub 2 bitach na wagę plus skale grup MLX (pół bita na wagę) albo jego natywny format, a do tego miejsce na kontekst. Domyślnie macOS pozwala GPU używać około 75% pamięci zunifikowanej. Szybkość: przepustowość pamięci podzielona przez liczbę bajtów odczytywanych na token to górna granica dla jednej rozmowy; w publicznych testach llama.cpp na Apple Silicon rzeczywiste uruchomienia osiągają od około 45% do 80% tej wartości i właśnie ten zakres pokazujemy. To szacunki, nie pomiary: zmierz swojego Maca w MLX Bench. Dane modeli pochodzą z oficjalnych kart modeli, dane układów ze specyfikacji technicznych Apple. Sprawdzono 2026-10-19. Te same dane co na mlx.app/compare.