MTPLX/Inkling 2 Mini

MacでInkling 2 Miniを最速で動かす方法。

Inkling 2 Miniは、Thinking Machines Labが公開したコーディングと画像理解のためのオープンウェイトモデルです。MTPLX 2.13はこのモデル専用に書いたMetalカーネルと、モデル自身のドラフトヘッドで実行するため、出力はモデル本来の分布に従います。MacBook Pro M5 MaxでBare Speedが128.8 tok/s(記録された最速の回答)。

計測した速度

MacBook Pro M5 Max(128 GB)、MTPLX 2.13、温度1.0(モデル本来のサンプリング)。生成速度は各パックで記録された最速の値です。Bare Speedはプロンプトがすでにキャッシュにある状態での128トークンの回答、Optimized Speedはアプリでの166トークンの回答、Optimized Qualityはアプリでの回答の最初の32トークンです。最初のトークンとプレフィルは4,142トークンの新しいコーディング用プロンプトで計測しています(Bare Speedは3回、Optimized Speedは1回、Optimized Qualityは2回)。熱くなったMacでの長いセッションは遅くなります。

パック生成最初のトークンプリフィルダウンロード
Bare Speed128.8 tok/s1.69 s2,466 tok/s16.0 GB
Optimized Speed123.8 tok/s1.73 s2,397 tok/s17.2 GB
Optimized Quality103.8 tok/s1.84 s2,257 tok/s20.2 GB

お使いのMacに合うパック

MTPLXはチップとメモリを読み取り、収まるパックだけを表示します。

お使いのMac使うパックほかに収まるものコンテキスト
8 GB, M3・M4・M5収まるパックはありません。MTPLXのおすすめはQwen 3.5 4B Optimized Speedです。
16〜18 GB, M3・M4・M5収まるパックはありません。MTPLXのおすすめはBonsai 2 27B Optimized Speedです。
24 GB, M3・M4・M5Inkling 2 Mini Bare Speedなし24,576トークン
32 GB, M3・M4・M5Inkling 2 Mini Bare SpeedOptimized Speed, Optimized Quality163,840トークン
36 GB, M3・M4・M5Inkling 2 Mini Bare SpeedOptimized Speed, Optimized Quality245,760トークン
48 GB, M3・M4・M5Inkling 2 Mini Bare SpeedOptimized Speed, Optimized Quality434,176トークン
64 GB, M3・M4・M5Inkling 2 Mini Bare SpeedOptimized Speed, Optimized Quality749,568トークン
96〜512 GB, M3・M4・M5Inkling 2 Mini Bare SpeedOptimized Speed, Optimized Quality1,048,576トークン
8 GB, M1・M2収まるパックはありません。
16〜24 GB, M1・M2収まるパックはありません。MTPLXのおすすめはQwen 3.5 9B Optimized Speed FP16です。
32 GB, M1・M2Inkling 2 Mini Bare Speed FP16Optimized Speed FP16, Optimized Quality FP16163,840トークン
64 GB, M1・M2Inkling 2 Mini Bare Speed FP16Optimized Speed FP16, Optimized Quality FP16749,568トークン
96〜192 GB, M1・M2Inkling 2 Mini Bare Speed FP16Optimized Speed FP16, Optimized Quality FP161,048,576トークン

起動方法

アプリではInkling 2 Mini Bare Speedを選びます。ターミナルでは:

brew install youssofal/mtplx/mtplx
mtplx pull Youssofal/Inkling-2-Mini-MTPLX-Bare-Speed
mtplx start opencode --model Youssofal/Inkling-2-Mini-MTPLX-Bare-Speed

opencodeをpiまたはhermesに置き換えても使えます。M1・M2ではFP16版を使います:Youssofal/Inkling-2-Mini-MTPLX-Bare-Speed-FP16。

どのパックにもMTPLX 2.13以降が必要です。

Mac版をダウンロード

MTPをMacにもたらしたプロジェクト

Youssof AltoukhiはMTPLXを開発し、ネイティブのマルチトークン予測をMacにもたらしました。開発は2026年4月27日に始まり、5月2日に最初の公開版をリリースしました。MTPLXはAppleシリコン上でモデル自身のMTPヘッドを実行し、精確な投機的サンプリングでローカル生成を高速化します。

MacにMTPを実装した開発の歴史(英語)

よくある質問

MacでInkling 2 Miniを最速で動かす方法は?

MTPLXです。Apple Silicon向けの無料のMacアプリとコマンドラインで、MacBook Pro M5 Max(128 GB)ではMTPLX 2.13でInkling 2 Mini Bare Speedが128.8 tok/sで動きます(記録された最速の回答、4,142トークンのコーディング用プロンプト、温度1.0)。同じ長さの新しいプロンプトから最初のトークンまで1.69秒です。

24 GBのMacに合うInkling 2 Miniのパックは?

Bare Speedです。M3・M4・M5で24,576トークンのコンテキストが使えます。Optimized SpeedとOptimized Qualityには32 GB以上が必要です。

Inkling 2 MiniはM1やM2で動きますか?

はい。32 GB以上のM1・M2ではFP16版で動きます。M1とM2はbfloat16をネイティブに扱えないため、16ビットの重みをfloat16で保存しており、MTPLXが自動で選びます。M1・M2での速度はまだ計測していません。

Inkling 2 Miniは画像を読めますか?

はい。MTPLXのどのパックにもモデルのビジョンタワーがすべて入っています。リリース前の確認では、どのパックも失敗したテストのスクリーンショットを読み、テスト名と2つの数値を答えました。

測定データと参考資料