Mac mini vs Mac Studio para IA.

1Las especificaciones que importan para la IA

Cada configuración enlaza con los modelos que funcionan bien en ella. Los modelos anteriores funcionan igual: la Mac mini con M4 o M4 Pro, y la Mac Studio con M4 Max o M3 Ultra (todas las Mac, en ranking).

2A qué velocidad escribe cada una

Para escribir texto, el modelo lee sus pesos activos una vez por cada token, así que el ancho de banda de memoria pone un techo a la velocidad. Para un modelo denso de 32B a 4 bits, unos 18 GB:

Los modelos de mezcla de expertos solo leen una fracción de sus pesos por token, así que escriben mucho más rápido de lo que sugiere su tamaño: la memoria decide si caben, y el ancho de banda sigue marcando el ritmo. Leer un prompt largo depende más de la potencia de cálculo de la GPU que del ancho de banda, y ahí las GPU más grandes de los chips Max y Ultra sacan aún más ventaja.

3Cuál para qué modelos

• Modelos pequeños y medianos (hasta unos 30B a 4 bits), chat, asistentes de programación, un servidor de IA en casa: una Mac mini con M5 Pro y 48 o 64 GB. La Mac mini con M6 y 32 GB ejecuta los mismos tamaños a más o menos la mitad de velocidad.
• Modelos de la clase de 70B, gpt-oss-120b, contextos largos o varios modelos a la vez: una Mac Studio con M5 Max y 128 GB. Los archivos oficiales de gpt-oss-120b de OpenAI ocupan unos 65 GB (OpenAI), más de lo que cualquier Mac mini puede dar a su GPU.
• Los modelos abiertos más grandes (cientos de miles de millones de parámetros): una Mac Studio con M5 Ultra y 256 o 512 GB, o varias Mac juntas (clústeres de IA con Mac).

Para un modelo concreto, su página muestra la Mac más pequeña que lo ejecuta y la velocidad en cada chip: todos los modelos abiertos.

4Funcionando todo el día

Las dos son equipos silenciosos y eficientes para tener siempre encendidos. Según las cifras de Apple de arriba, una Mac mini consume de 4 a 6 W en reposo y una Mac Studio de 7 a 9 W; a plena carga, la Mac Studio con M5 Ultra puede llegar a 385 W. Una Mac mini como servidor de IA explica cómo mantenerla despierta y servir modelos a otros dispositivos, y cuánto consume una Mac, lo que cuesta un día.

Cuando está inactiva, MLX Node puede ejecutar trabajos de IA para MLX Network y ganar tokens MLX. Una plaza dedicada a la medida del chip mina más rápido: Core para el M6, Pro para el M5 Pro y el M5 Max, Ultra para el M5 Ultra. Las ganancias no están garantizadas: lee los riesgos.

5Preguntas

¿Vale la pena una Mac Studio en lugar de una Mac mini para IA?

Si quieres modelos de más de unos 85B parámetros, gpt-oss-120b o contextos largos, sí: solo la Mac Studio pasa de 64 GB. Para modelos de hasta unos 30B a 4 bits, una Mac mini con M5 Pro los ejecuta, con más o menos la mitad del ancho de banda del M5 Max.

¿Puede una Mac mini ejecutar un modelo de 70B?

Solo la M5 Pro con 64 GB, a 4 bits y con un contexto corto: unos 39 GB de pesos en los 48 GB que la GPU puede usar por defecto, a unos pocos tokens por segundo. Una Mac Studio con 128 GB lo ejecuta con espacio para el contexto y unas dos veces más rápido.

¿Mac Studio con M5 Max o M5 Ultra para LLM?

El M5 Ultra tiene unas dos veces el ancho de banda (1200 frente a 614 GB/s), así que escribe unas dos veces más rápido, y llega hasta 512 GB. El M5 Max con 128 GB cubre modelos de hasta unos 170B a 4 bits. Consulta M5 Max vs M5 Ultra.

¿Mac mini con M6 o con M5 Pro para IA?

Con M5 Pro: lee la memoria alrededor de un 80 % más rápido que el M6 con 24 o 32 GB y llega hasta 64 GB en lugar de 32 GB.