Mac mini як ваш ШІ-сервер.

1Чому Mac mini

Генерація тексту мовною моделлю впирається у швидкість читання ваг із пам’яті. На Mac GPU читає об’єднану пам’ять напряму, тож Mac mini з 64 ГБ вміщає моделі, які не вмістяться на споживчу відеокарту, і в простої споживає кілька ватів. Він займає мало місця й працює на macOS, тож ті самі інструменти працюють, що й на MacBook.

Його межі — пам’ять і пропускна здатність. Найбільший Mac mini має 64 ГБ із 307 ГБ/с; для моделей класу 70B у вищій точності або найбільших відкритих моделей наступний крок — Mac Studio з пам’яттю до 512 ГБ (Apple). Дивіться найкращий Mac для локальних LLM.

2Який Mac mini для яких моделей

Швидкість задає пропускна здатність: M5 Pro читає пам’ять приблизно на 80% швидше, ніж M6 із 24 або 32 ГБ, тож та сама модель може писати на ньому до 80% швидше. Кожен рядок веде до всіх моделей, що добре працюють на цьому Mac, зі швидкостями. Попередні Mac mini з M4 і M4 Pro працюють так само: Mac mini M4 Pro.

Агентам і довгим документам потрібна пам’ять на контекст понад саму модель. Якщо головне завдання — ШІ-агент, обирайте більше пам’яті, а не швидший чип.

3Хай не засинає і буде на зв’язку

Відкрийте на Mac mini Системні параметри › Енергія (Apple):

• Запобігати автоматичному переходу в режим сну, коли дисплей вимкнено: увімкніть, щоб сервер відповідав і без під’єднаного екрана.
• Автоматично запускатися після збою живлення: увімкніть, щоб він піднімався сам.
• Пробуджувати для доступу до мережі: увімкніть, якщо дозволяєте йому засинати.
• Режим низького енергоспоживання: Apple радить його для комп’ютерів, що працюють постійно, як-от серверів, щоб зменшити споживання енергії й шум вентиляторів.

Щоб керувати ним без екрана, увімкніть «Віддалений вхід» (SSH) або «Спільний екран» у Системних параметрах › Загальні › Спільний доступ (Apple). Налаштуйте серверний застосунок відкриватися під час входу, щоб після перезапуску все поверталося.

4Віддавайте модель іншим пристроям

Кожен із цих інструментів запускає модель на Mac mini й дає іншим застосункам API у форматі OpenAI, який приймає більшість чат-застосунків, інструментів для програмування й агентів:

Наприклад, з mlx-lm:

pip install mlx-lm
mlx_lm.server --model mlx-community/Qwen3-8B-4bit --host 0.0.0.0 --port 8080

# from another computer on the same network
curl http://<mac-mini-name>.local:8080/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{"messages": [{"role": "user", "content": "Hello"}]}'

Ollama типово вивантажує модель після 5 хвилин без запитів; на сервері задайте OLLAMA_KEEP_ALIVE, щоб вона лишалася в пам’яті (Ollama). Найкращі застосунки для запуску LLM на Mac докладно порівнюють ці інструменти.

В AI App Store зібрано ці інструменти та інші застосунки для локального запуску моделей, у кожного — офіційне завантаження від розробника, ліцензія і те, куди йдуть ваші дані.

5ШІ-агенти на ньому

Багато Mac mini тепер цілодобово виконують ШІ-агентів, які працюють із чат-застосунками, файлами й вебом. OpenClaw, наприклад, — асистент з відкритим кодом, що працює на вашому власному комп’ютері, а моделі, зокрема локальні, у ньому — змінні плагіни (OpenClaw). Вкажіть такому агенту адресу локального сервера, і він використовуватиме модель на вашому Mac mini замість хмарного API.

Для агентів дві речі важать більше, ніж для чату. Контекст: агенти надсилають довгі запити з описами інструментів та історією, а це пам’ять понад саму модель (чому). І якість моделі: найбільша модель, що добре працює на вашому Mac mini, надійніше виконуватиме інструкції й викликатиме інструменти, ніж маленька.

6Збережіть приватність

• Ці сервери слухають лише сам Mac, доки ви цього не зміните. Відкривайте їх тільки для домашньої чи офісної мережі й лише якщо довіряєте пристроям у ній.
• Власна документація mlx-lm каже, що його сервер не рекомендовано для продакшну, бо він має лише базові перевірки безпеки (mlx-lm).
• Не прокидайте порт в інтернет. Щоб дістатися до Mac mini ззовні, використовуйте приватну мережу, наприклад VPN.
• Агент, який може виконувати команди чи надсилати повідомлення, діє від імені ваших облікових записів: давайте йому лише той доступ, який потрібен.

7Скільки це коштує і години простою

Домашній сервер більшу частину дня чекає. MLX Node може використати ці години: він виконує завдання ШІ для MLX Network у заданих вами межах, зокрема скільки пам’яті може взяти завдання, і заробляє токени MLX на безкоштовному місці — до 1 MLX на день. Ставте його на паузу, коли Mac mini потрібен вам на повній швидкості, або дозвольте йому запускатися лише тоді, коли Mac простоює. Заробіток залежить від мережі й не гарантований: прочитайте про ризики.

8Запитання

Чи добрий Mac mini для ШІ?

Для локального запуску моделей — так: його GPU читає об’єднану пам’ять напряму, тож M5 Pro з 64 ГБ вміщає моделі приблизно до 85B параметрів у 4 бітах і в простої споживає кілька ватів. Для навчання або найбільших моделей краще підійдуть Mac Studio чи GPU-сервер.

Який Mac mini купити для локального LLM-сервера?

З якомога більшою пам’яттю: вона вирішує, які моделі вмістяться, і її не можна додати пізніше. До того ж M5 Pro читає пам’ять приблизно на 80% швидше, ніж M6 із 24 або 32 ГБ, тож пише швидше. Порівняйте всі конфігурації на сторінках Mac mini M5 Pro і Mac mini M6.

Чи потягне Mac mini модель 70B?

Лише M5 Pro з 64 ГБ, у 4 бітах і з коротким контекстом: ваги займають близько 39 ГБ із 48 ГБ, які GPU типово може використовувати. Пише вона повільно, кілька токенів за секунду. Дивіться Llama 3.3 70B на Mac.

Як користуватися моделлю з Mac mini на ноутбуці чи телефоні?

Запустіть сервер так, щоб він слухав вашу мережу (наприклад, mlx_lm.server --host 0.0.0.0), а потім укажіть у застосунку на іншому пристрої адресу http://<mac-mini-name>.local:8080/v1 як кінцеву точку, сумісну з OpenAI.

Скільки енергії споживає ШІ-сервер на Mac mini?

Mac mini на M6 споживає близько 4 Вт у простої й до 70 Вт; на M5 Pro — від 6 до 145 Вт. За добу роботи на повну це щонайбільше 1,68 або 3,48 кВт·год (Apple).