ログインウォレットを作成

Inkling Small は Mac で動く？

はい、256 GB 以上のユニファイドメモリがあれば動きます。Inkling Small のパラメータ数は 276B で、トークンごとに使われるのはそのうち 12B。精度ごとに必要なメモリと、各 Apple チップでの速度をまとめました。

4ビット のメモリ168 GB重み 155 GB + コンテキスト
最小構成の Mac256 GB4ビット · 10 通りの Mac 構成
最速の Mac79–141トークン/秒 · M5 Ultra 256 GB（推定）

精度ごとのメモリ

バージョン重みコンテキスト込み最小構成の Mac
8ビット293 GB317 GB512 GB
6ビット224 GB242 GB512 GB
4ビット155 GB168 GB256 GB
3ビット 品質低め121 GB131 GB192 GB
2ビット 品質低め86.3 GB93.2 GB128 GB

すべての Apple チップで

各チップで Inkling Small が動く最小のメモリ容量、そこに収まる最適なバージョン、期待できる生成速度です。

チップ必要量バージョントークン/秒
M6収まる容量なし大きすぎ–
M5 Ultra256 GB4ビット 快適79–141
M5 Max128 GB2ビット 快適73–129
M5 Pro収まる容量なし大きすぎ–
M5収まる容量なし大きすぎ–
M4 Max128 GB2ビット 快適65–115
M4 Pro収まる容量なし大きすぎ–
M4収まる容量なし大きすぎ–
M3 Ultra256 GB4ビット 快適54–96
M3 Max128 GB2ビット 快適47–84
M3 Pro収まる容量なし大きすぎ–
M3収まる容量なし大きすぎ–
M2 Ultra128 GB2ビット 快適95–168
M2 Max収まる容量なし大きすぎ–
M2 Pro収まる容量なし大きすぎ–
M2収まる容量なし大きすぎ–
M1 Ultra128 GB2ビット 快適95–168
M1 Max収まる容量なし大きすぎ–
M1 Pro収まる容量なし大きすぎ–
M1収まる容量なし大きすぎ–

動かし方

  1. いちばん簡単な方法：無料でオープンソースの MLX Harness をダウンロードします。Inkling Small を検索し、お使いの Mac に合うバージョンをダウンロードすれば、すぐにチャットできます。OpenAI 互換 API で、ほかのアプリにモデルを提供することもできます。MLX Harness をダウンロード無料 · Apple Silicon · macOS 14.5 以降
  2. ターミナルで Apple の MLX を使う：pip install mlx-lmmlx_lm.chat --model mlx-community/Inkling-Small-mlx-4bitビルド：Hugging Face の mlx-community/Inkling-Small-mlx-4bit。ほかの精度も同じ場所にあります。

手順：Mac で LLM をダウンロードして動かす · MLX Harness の使い方 · MLX、Ollama、llama.cpp の比較

Inkling Small について

開発元Thinking Machines Lab
パラメータ合計 276B · アクティブ 12B（Mixture of Experts）
ライセンスApache-2.0
公開日2026-07
入力テキストと画像
知能Artificial Analysis Intelligence Index で 25.7
重みthinkingmachines/Inkling-Small

よくある質問

Inkling Small にはどれくらいのメモリが必要？
4ビット で重みが約 155 GB、これにコンテキスト用の余裕を足して合計 168 GB です。macOS は標準でユニファイドメモリの約 75% を GPU に使わせるため、Mac では 256 GB 以上のユニファイドメモリが必要です。
Inkling Small は Mac でどれくらい速い？
生成速度はメモリ帯域幅で決まります。ここで最速なのは 256 GB の M5 Ultra で、毎秒約 79–141 トークン（4ビット）。動かせる最小構成は 256 GB の M5 Ultra で、毎秒約 79–141 トークンです。
Inkling Small がサイズのわりに速いのはなぜ？
Mixture of Experts（MoE）モデルだからです。メモリには 276B のパラメータを置きますが、トークンごとに読み込むのは 12B だけなので、はるかに小さなモデル並みの速度で生成します。

似たモデル

すべてのモデル · すべての Mac · お使いの Mac を比較

モデルカードや README に

Runs on a Mac: Inkling Small Inkling Small が快適に動く最小構成の Mac を表示し、このページにリンクします。

[![Runs on a Mac](https://mlx.app/badge/run/inkling-small.svg)](https://mlx.app/run/inkling-small)

計算方法

メモリ：モデルのパラメータを重みあたり 8、6、4、3、2 ビットで計算し、MLX のグループスケール（重みあたり 0.5 ビット）を加えたもの、またはネイティブ形式のサイズに、コンテキスト用の余裕を足しています。macOS は標準で、ユニファイドメモリの約 75% を GPU に使わせます。速度：メモリ帯域幅をトークンあたりの読み込みバイト数で割った値が、1 つの会話の上限です。llama.cpp の Apple Silicon 公開ベンチマークでは、実際の速度はその約 45%〜80% に達しており、その範囲を表示しています。これは実測ではなく推定です。ご自分の Mac は MLX Bench で測れます。モデルの数値は各公式モデルカード、チップの数値は Apple の技術仕様から。2026-10-19 確認。mlx.app/compare と同じデータです。

Inkling Small は Mac で動く？全 Apple チップのメモリと速度