Mac 能运行 Phi-4 Reasoning Vision 15B 吗?

可以,需要 16 GB 或以上的统一内存。Phi-4 Reasoning Vision 15B 有 15B 参数;下面是它在各种精度下所需的内存,以及每款 Apple 芯片运行它的速度。

4 位 所需内存9.9 GB权重 8.4 GB + 上下文
最低配置 Mac16 GB4 位 · 55 种 Mac 配置
最快的 Mac34–60token/秒 · M5 Ultra 96 GB(估算)

各种精度所需内存

版本权重含上下文最低配置 Mac
8 位15.9 GB17.4 GB24 GB
6 位12.2 GB13.7 GB24 GB
4 位8.4 GB9.9 GB16 GB
3 位 质量较低6.6 GB8.1 GB16 GB
2 位 质量较低4.7 GB6.2 GB16 GB

在每款 Apple 芯片上

每款芯片能运行 Phi-4 Reasoning Vision 15B 的最小内存容量、装得下的最佳版本,以及预计的生成速度。

芯片需要版本token/秒
M616 GB4 位 较慢8–15
M5 Ultra96 GB8 位 流畅运行34–60
M5 Max36 GB8 位 流畅运行13–23
M5 Pro24 GB6 位 流畅运行11–20
M516 GB4 位 较慢8–15
M4 Max36 GB8 位 流畅运行12–21
M4 Pro24 GB6 位 流畅运行10–18
M416 GB4 位 较慢6–11
M3 Ultra96 GB8 位 流畅运行23–41
M3 Max36 GB6 位 流畅运行11–20
M3 Pro18 GB4 位 较慢8–14
M316 GB4 位 较慢5–10
M2 Ultra64 GB8 位 流畅运行23–40
M2 Max32 GB8 位 流畅运行11–20
M2 Pro16 GB4 位 流畅运行11–19
M216 GB4 位 较慢5–10
M1 Ultra64 GB8 位 流畅运行23–40
M1 Max32 GB8 位 流畅运行11–20
M1 Pro16 GB4 位 流畅运行11–19
M116 GB4 位 较慢4–6

如何运行

  1. 最简单的方法:下载免费开源的 MLX Harness。搜索 Phi-4 Reasoning Vision 15B,下载适合你 Mac 的版本,即可开始对话。它还能通过 OpenAI 兼容 API 把模型提供给你的其他 App。下载 MLX Harness免费 · Apple Silicon · macOS 14.5 或更高版本
  2. 在终端中使用 Apple 的 MLX: 目前还没有社区制作的 MLX 版本,可以用官方权重自己转换:pip install mlx-lmmlx_lm.convert --hf-path microsoft/Phi-4-reasoning-vision-15B -q

分步指南:在 Mac 上下载并运行 LLM · 如何使用 MLX Harness · MLX、Ollama 与 llama.cpp 对比

关于 Phi-4 Reasoning Vision 15B

开发者Microsoft
参数15B(稠密)
上下文16K token
许可证MIT
发布时间2026-03
输入文本和图像
权重microsoft/Phi-4-reasoning-vision-15B

常见问题

Phi-4 Reasoning Vision 15B 需要多少内存?
在 4 位 下权重约 8.4 GB,再加上上下文空间,总共 9.9 GB。在 Mac 上,这意味着需要 16 GB 或以上的统一内存,因为 macOS 默认允许 GPU 使用约 75% 的统一内存。
Phi-4 Reasoning Vision 15B 在 Mac 上有多快?
生成速度取决于内存带宽。本页中运行它最快的 Mac 是 96 GB 的 M5 Ultra,每秒约 34–60 个 token(8 位)。能运行它的最低配置 Mac 是 16 GB 的 M2 Pro,每秒约 11–19 个。
量化会影响 Phi-4 Reasoning Vision 15B 的质量吗?
在 4 位时,大多数模型的质量接近原版;低于 4 位,质量下降更快。选择能装进你的 Mac 并留有余量的最高精度。

类似模型

所有模型 · 所有 Mac · 对比你的 Mac

用于你的模型卡或 README

Runs on a Mac: Phi-4 Reasoning Vision 15B 显示能流畅运行 Phi-4 Reasoning Vision 15B 的最低配置 Mac,并链接到本页。

[![Runs on a Mac](https://mlx.app/badge/run/phi-4-reasoning-vision-15b.svg)](https://mlx.app/run/phi-4-reasoning-vision-15b)

计算方法

内存:模型参数按每个权重 8、6、4、3 或 2 位计算,加上 MLX 的分组缩放(每个权重半位),或按其原生格式计算,再留出上下文空间。macOS 默认允许 GPU 使用约 75% 的统一内存。速度:内存带宽除以每个 token 读取的字节数,就是单个对话的上限;在 llama.cpp 的 Apple Silicon 公开基准测试中,实际运行可达这个上限的约 45% 到 80%,本页显示的就是这个范围。这些是估算值,不是实测值:可以在 MLX Bench 上测量你自己的 Mac。模型数据来自各模型的官方模型卡,芯片数据来自 Apple 的技术规格。核对于 2026-10-19。数据与 mlx.app/compare 相同。

Mac 能运行 Phi-4 Reasoning Vision 15B 吗?各款 Apple 芯片的内存与速度