Inkling は Mac で動く?

はい、512 GB 以上のユニファイドメモリがあれば動きます。Inkling のパラメータ数は 975B で、トークンごとに使われるのはそのうち 41B。精度ごとに必要なメモリと、各 Apple チップでの速度をまとめました。

4ビット のメモリ592 GB重み 548 GB + コンテキスト
最小構成の Mac512 GB2ビット · 2 通りの Mac 構成
最速の Mac42–75トークン/秒 · M5 Ultra 512 GB(推定)

精度ごとのメモリ

バージョン重みコンテキスト込み最小構成の Mac
8ビット1 TB1.1 TBどの Mac よりも大きい
6ビット792 GB856 GBどの Mac よりも大きい
4ビット548 GB592 GBどの Mac よりも大きい
3ビット 品質低め427 GB461 GBどの Mac よりも大きい
2ビット 品質低め305 GB329 GB512 GB

すべての Apple チップで

各チップで Inkling が動く最小のメモリ容量、そこに収まる最適なバージョン、期待できる生成速度です。

チップ必要量バージョントークン/秒
M6収まる容量なし大きすぎ–
M5 Ultra512 GB2ビット 快適42–75
M5 Max収まる容量なし大きすぎ–
M5 Pro収まる容量なし大きすぎ–
M5収まる容量なし大きすぎ–
M4 Max収まる容量なし大きすぎ–
M4 Pro収まる容量なし大きすぎ–
M4収まる容量なし大きすぎ–
M3 Ultra512 GB2ビット 快適29–51
M3 Max収まる容量なし大きすぎ–
M3 Pro収まる容量なし大きすぎ–
M3収まる容量なし大きすぎ–
M2 Ultra収まる容量なし大きすぎ–
M2 Max収まる容量なし大きすぎ–
M2 Pro収まる容量なし大きすぎ–
M2収まる容量なし大きすぎ–
M1 Ultra収まる容量なし大きすぎ–
M1 Max収まる容量なし大きすぎ–
M1 Pro収まる容量なし大きすぎ–
M1収まる容量なし大きすぎ–

動かし方

  1. いちばん簡単な方法:無料でオープンソースの MLX Harness をダウンロードします。Inkling を検索し、お使いの Mac に合うバージョンをダウンロードすれば、すぐにチャットできます。OpenAI 互換 API で、ほかのアプリにモデルを提供することもできます。MLX Harness をダウンロード無料 · Apple Silicon · macOS 14.5 以降
  2. ターミナルで Apple の MLX を使う:pip install mlx-lmmlx_lm.chat --model mlx-community/Inkling-mlx-4bitビルド:Hugging Face の mlx-community/Inkling-mlx-4bit。ほかの精度も同じ場所にあります。

手順:Mac で LLM をダウンロードして動かす · MLX Harness の使い方 · MLX、Ollama、llama.cpp の比較

Inkling について

開発元Thinking Machines Lab
パラメータ合計 975B · アクティブ 41B(Mixture of Experts)
ライセンスApache-2.0
公開日2026-07
入力テキストと画像
知能Artificial Analysis Intelligence Index で 25
重みthinkingmachines/Inkling

よくある質問

Inkling にはどれくらいのメモリが必要?
4ビット で重みが約 548 GB、これにコンテキスト用の余裕を足して合計 592 GB です。これは現在のどの Mac のメモリよりも大きい量です。
Inkling は Mac でどれくらい速い?
生成速度はメモリ帯域幅で決まります。ここで最速なのは 512 GB の M5 Ultra で、毎秒約 42–75 トークン(2ビット)。動かせる最小構成は 512 GB の M5 Ultra で、毎秒約 42–75 トークンです。
Inkling がサイズのわりに速いのはなぜ?
Mixture of Experts(MoE)モデルだからです。メモリには 975B のパラメータを置きますが、トークンごとに読み込むのは 41B だけなので、はるかに小さなモデル並みの速度で生成します。

似たモデル

すべてのモデル · すべての Mac · お使いの Mac を比較

モデルカードや README に

Runs on a Mac: Inkling Inkling が快適に動く最小構成の Mac を表示し、このページにリンクします。

[![Runs on a Mac](https://mlx.app/badge/run/inkling.svg)](https://mlx.app/run/inkling)

計算方法

メモリ:モデルのパラメータを重みあたり 8、6、4、3、2 ビットで計算し、MLX のグループスケール(重みあたり 0.5 ビット)を加えたもの、またはネイティブ形式のサイズに、コンテキスト用の余裕を足しています。macOS は標準で、ユニファイドメモリの約 75% を GPU に使わせます。速度:メモリ帯域幅をトークンあたりの読み込みバイト数で割った値が、1 つの会話の上限です。llama.cpp の Apple Silicon 公開ベンチマークでは、実際の速度はその約 45%〜80% に達しており、その範囲を表示しています。これは実測ではなく推定です。ご自分の Mac は MLX Bench で測れます。モデルの数値は各公式モデルカード、チップの数値は Apple の技術仕様から。2026-10-19 確認。mlx.app/compare と同じデータです。

Inkling は Mac で動く?全 Apple チップのメモリと速度