Em resumo
- O Mac mini vai até 64 GB (M5 Pro); o Mac Studio, até 128 GB com M5 Max e 512 GB com M5 Ultra (Apple, Apple).
- A largura de banda define a velocidade de escrita: 153–170 GB/s no Mac mini com M6, 307 GB/s no M5 Pro, até 614 GB/s no M5 Max e 1.200 GB/s no M5 Ultra.
- Modelos de até cerca de 30B parâmetros em 4 bits: um Mac mini com M5 Pro basta. Modelos da classe de 70B, gpt-oss-120b ou contextos longos: um Mac Studio com 128 GB. Os maiores modelos abertos: um Mac Studio com M5 Ultra.
- A memória não pode ser ampliada depois, então escolha-a pelos modelos que você vai querer rodar no ano que vem, não só hoje.
1As especificações que importam para IA
| Mac | Opções de memória | Largura de banda da memória | Maior modelo em 4 bits | Energia, do repouso ao máximo |
|---|---|---|---|---|
| Mac mini, M6 | 16, 24 ou 32 GB | 153–170 GB/s | de cerca de 21B a 42B | 4–70 W |
| Mac mini, M5 Pro | 24, 48 ou 64 GB | 307 GB/s | de cerca de 32B a 85B | 6–145 W |
| Mac Studio, M5 Max | 36, 48, 64 ou 128 GB | 460–614 GB/s | de cerca de 48B a 170B | 7–200 W |
| Mac Studio, M5 Ultra | 96, 256 ou 512 GB | 1.200 GB/s | de cerca de 128B a 682B | 9–385 W |
Cada configuração leva aos modelos que rodam bem nela. Os modelos anteriores funcionam do mesmo jeito: o Mac mini com M4 ou M4 Pro e o Mac Studio com M4 Max ou M3 Ultra (todos os Macs, em ranking).
2A velocidade com que cada um escreve
Para escrever texto, o modelo lê os pesos ativos uma vez a cada token, então a largura de banda da memória põe um teto na velocidade. Para um modelo denso de 32B em 4 bits, cerca de 18 GB:
| Mac | Teto para um chat | Cabe? |
|---|---|---|
| Mac mini, M6 (32 GB) | cerca de 9 tokens/s | Sim |
| Mac mini, M5 Pro (48 ou 64 GB) | cerca de 17 tokens/s | Sim |
| Mac Studio, M5 Max (48 GB ou mais) | cerca de 34 tokens/s | Sim |
| Mac Studio, M5 Ultra | cerca de 67 tokens/s | Sim |
Modelos de mistura de especialistas leem só uma fração dos pesos a cada token, então escrevem bem mais rápido do que o tamanho sugere: a memória decide se cabem, e a largura de banda continua ditando o ritmo. Ler um prompt longo depende mais da capacidade de cálculo da GPU do que da largura de banda, e aí as GPUs maiores dos chips Max e Ultra abrem ainda mais vantagem.
3Qual deles para quais modelos
- Modelos pequenos e médios (até cerca de 30B em 4 bits), chat, assistentes de programação, um servidor de IA em casa: um Mac mini com M5 Pro e 48 ou 64 GB. O Mac mini com M6 e 32 GB roda os mesmos tamanhos com cerca de metade da velocidade.
- Modelos da classe de 70B, gpt-oss-120b, contextos longos ou vários modelos ao mesmo tempo: um Mac Studio com M5 Max e 128 GB. Os arquivos oficiais do gpt-oss-120b da OpenAI têm cerca de 65 GB (OpenAI), mais do que qualquer Mac mini consegue dar à GPU.
- Os maiores modelos abertos (centenas de bilhões de parâmetros): um Mac Studio com M5 Ultra e 256 ou 512 GB, ou vários Macs juntos (clusters de IA com Mac).
Para um modelo específico, a página dele mostra o menor Mac que o roda e a velocidade em cada chip: todos os modelos abertos.
4Ligado o dia inteiro
Os dois são máquinas silenciosas e econômicas para deixar sempre ligadas. Pelos números da Apple acima, um Mac mini consome 4–6 W em repouso e um Mac Studio 7–9 W; em carga máxima, o Mac Studio com M5 Ultra pode chegar a 385 W. Um Mac mini como servidor de IA explica como mantê-lo acordado e servir modelos a outros dispositivos, e quanta energia um Mac consome mostra quanto custa um dia.
Quando ele está ocioso, o MLX Node pode rodar tarefas de IA para a MLX Network e ganhar MLX Tokens. Uma vaga dedicada combinada com o chip minera mais rápido: Core para o M6, Pro para o M5 Pro e o M5 Max, Ultra para o M5 Ultra. Os ganhos não são garantidos: leia os riscos.
5Perguntas
- Vale a pena um Mac Studio em vez de um Mac mini para IA?
- Se você quer modelos acima de cerca de 85B parâmetros, gpt-oss-120b ou contextos longos, sim: só o Mac Studio tem mais de 64 GB. Para modelos de até cerca de 30B em 4 bits, um Mac mini com M5 Pro dá conta, com cerca de metade da largura de banda do M5 Max.
- O Mac mini roda um modelo de 70B?
- Só o M5 Pro com 64 GB, em 4 bits e com contexto curto: cerca de 39 GB de pesos nos 48 GB que a GPU pode usar por padrão, a poucos tokens por segundo. Um Mac Studio com 128 GB o roda com espaço para o contexto e cerca de duas vezes mais rápido.
- Mac Studio M5 Max ou M5 Ultra para LLMs?
- O M5 Ultra tem cerca do dobro da largura de banda (1.200 contra 614 GB/s), então escreve cerca de duas vezes mais rápido, e vai até 512 GB. O M5 Max com 128 GB cobre modelos de até cerca de 170B em 4 bits. Veja M5 Max vs M5 Ultra.
- Mac mini M6 ou M5 Pro para IA?
- O M5 Pro: ele lê a memória cerca de 80% mais rápido que o M6 com 24 ou 32 GB e vai até 64 GB em vez de 32 GB.
Fontes
- Applesupport.apple.com
- Applesupport.apple.com
- Mac minisupport.apple.com
- Mac Studiosupport.apple.com
- benchmarks do llama.cppgithub.com
- OpenAIhuggingface.co