MLX Builders · オープンデータ

MLX Bench

Name: MLX Bench: MLX inference speed on Apple Silicon
Creator: MLX

どの Mac がどのモデルをどれだけ速く動かすのか。Apple の MLX フレームワーク上のオープンモデルについて、毎秒トークン数とピークメモリを実際の Mac で測定し、誰でも見られるように公開しています。MLX Builders の一部です。

あなたの Mac を追加

Apple Silicon の Mac ならどれでも、ターミナルで 2 つのコマンドを実行するだけ。メモリに収まるモデルを選び、mlx-lm で測定して、結果をここで共有します。

別のモデルを試すには --model mlx-community/…、長いプロンプトには --context 8192 または 65536、実行をウォレットの実績にするには --wallet you.mlx、手元だけに残すには --dry-run を付けます。Mac Studio のポッドでは mlx.launch --backend jaccl で実行します。スクリプトは短いので、先に読んでください：bench.py。

生成速度

Mac	生成	最初のトークン	プロンプト	ピークメモリ	実行回数
M1 Pro16 コア GPU · 16 GB	35.7 tok/s	29.91 s	274 tok/s	6.2 GB	13 日前

コミュニティによる実行の中央値です（これまでに 5 回）。プロンプトは 8,192 トークン、新規トークンは 128。ポッドは Thunderbolt 5 で接続した 2〜4 台の Mac で、mlx.launch で実行します。長いコンテキストの実行は Apple の方法に従っています。MLX Node を動かす Mac が再実行するまでは、結果は自己申告です。オープンデータ：/api/bench。