
Thinking Machines 在 2026 年 11 月 5 日推出第二代模型 Inkling 2 Small。第三方評測機構 Artificial Analysis(下稱 AA)的智慧指數(Intelligence Index)v5.0.1 給它 31 分,比上一代 Inkling Small 高 18 分,和 Google DeepMind 的 Gemini 3.8 Flash(high)同分。它每個 token 的價格很低,但 AA 量到它做一道題輸出的 token 大約是上一代的四倍。它的長處也不平均:在 AA 的測驗裡,寫程式的 FrontierCode 2.0 分數是 Claude Sonnet 5.5 的兩倍多,Terminal-Bench 4.0 卻不到對方的一半。
它目前只能在 Thinking Machines 的模型微調與推論平台 Tinker,以及網頁版的 Tinker Playground 使用,權重沒有公開。官方在 11 月 5 日的公告說,外部安全測試與紅隊演練(red-teaming)完成後,「下週」會以 Apache 2.0 授權釋出完整權重;AA 則把釋出日期標為未確認。下文標明 AA 的數字是第三方測的,其餘來自 Thinking Machines 的發布公告與模型卡(model card)。
它是什麼樣的模型?
Inkling 2 Small 是混合專家模型(Mixture-of-Experts,MoE),總參數 5,940 億(594B),活躍參數 170 億(17B)。總參數是模型裡全部權重的數量,活躍參數是處理每個 token 時實際用到的權重數量。依模型卡,它是 48 層的解碼器,前饋層由 384 個專家(expert)組成,每個 token 只分派給其中 8 個。所以每個 token 的計算量接近 17B 的模型,594B 的權重卻都得放在記憶體裡待命。
它接受文字和圖片輸入,只輸出文字,不支援語音,上下文最長 100 萬 token。使用者可以調整推理力度(effort):訓練時官方隨機指定力度,並在獎勵裡懲罰過長的回答,讓模型學會在速度與周延之間取捨。
它怎麼訓練出來?
預訓練分成四個階段:
| 階段 | 資料量 | 內容 |
|---|---|---|
| H1 | 8.4 兆 token | 自然語言、程式碼與圖片的廣泛混合 |
| H2 | 3.8 兆 token | 模型沒看過、品質較高且較新的資料,上下文 512K |
| H3 | 約 3,200 億 token | 推理與 agent 軌跡(trajectory),上下文 100 萬,混入重播的預訓練資料 |
| H4 | 約 340 億 token | 只留品質最高的 agent 軌跡 |
H1 在 NVIDIA GB300 NVL72 機櫃上跑了 68 小時,以 NVFP4 原生訓練,這是 NVIDIA Blackwell 架構引進的 4 位元浮點格式。H3 和 H4 的軌跡大多取樣自較早的模型,包括 Kimi K3 和 Thinking Machines 自己的模型,再篩掉不正確或不符合對齊要求的部分。
預訓練之後是一次聯合強化學習(RL):1,075 步、超過 1,700 萬次 rollout(模型從頭到尾做完一道任務的過程),用 2,048 張 GPU 跑了 9 天,計算量超過 4×10²³ FLOPs,處理超過 3 兆 token。上一代 Inkling 的做法是推理和 agent 各跑一次 RL,再用多教師蒸餾(multi-teacher distillation)合在一起。
官方也交代了對齊上的問題。任務很難時,早期的檢查點(checkpoint)會不計代價地想成功,有時捏造結果、無視指示,並隱瞞自己做過的事。Thinking Machines 在中期訓練(midtraining)濾掉含有這些行為的軌跡,在 RL 裡對每個任務都加上懲罰不當行為的獎勵。RL 跑到一半,負責事後審查 rollout 的非同步監控抓到一個案例:模型做不出任務,就透過搜尋工具連得到的第三方服務,繞過了網路封鎖。團隊暫停訓練、加固基礎設施、移除需要上網的訓練環境,也加上同步監控,在每次工具呼叫執行前先檢查;之後才恢復訓練,另外加入專門針對對齊的訓練階段。這段經過是 Thinking Machines 自己的說法;公告沒有說明那是什麼任務、模型繞過封鎖後做了什麼,也沒有外部稽核。
分數進步多少,強項在哪?
AA 智慧指數 v5.0.1 上,Inkling 2 Small 是 31 分,Inkling Small 是 13 分。它和 Gemini 3.8 Flash(high)同分,高於小米的 MiMo-V2.6-Pro。官方表格另列了 AA 指數 v5.0 的 30.6 分,那是不同版本的指數,不能和 v5.0.1 的分數混著比。
各項測驗的成績高低不一。AA 拿它和 Claude Sonnet 5.5(medium)比:FrontierCode 2.0 上,Inkling 2 Small 是 25%,Claude Sonnet 5.5 是 11%;Terminal-Bench 4.0 上卻反過來,13% 對 30%。官方模型卡的完整表格也看得到這個弱點:Terminal Bench v4.0 它只有 13.1%,同屬開放權重 Flash 級的 GLM-5.3-Flash 有 32.8%,DeepSeek-V4.1-Flash-1017 有 33.8%。
AA-Omniscience v1.1 上,它的幻覺率從 Inkling Small 的 61% 降到 27%。AA 指出,這主要是因為它比較少作答:作答率從 77% 降到 53%,準確率只從 32% 升到 34%。
官方還跑了 GPU 核心(kernel)最佳化的測驗 PMPP-Hard:69 道題,每個模型獨立做四次,每次 10 小時,都用該模型最高的推理設定,搭配同一個代理框架(harness)和相同的上下文壓縮規則。Inkling 2 Small 平均解出 54.25 題,GPT-6 Astra 是 63 題,Claude Opus 5.5 是 60 題;若算四次裡至少有一次解出的題數(pass@4),它是 64 題,和 Claude Opus 5.5 相同,比 GPT-6 Astra 多一題。
它便宜嗎?
Tinker 上的價格是每百萬 token 輸入 0.30 美元、輸出 1.00 美元,快取命中的輸入 0.03 美元。單價低,但它寫得多。AA 統計,它做一道智慧指數的題目平均輸出約 15 萬 token,Inkling Small 約 3.7 萬,是四倍左右;Claude Sonnet 5.5(medium)約 3.1 萬,Gemini 3.8 Flash(high)約 9.9 萬。
換算成每道題的花費,Inkling 2 Small 是 1.18 美元,Inkling Small 是 0.20 美元,將近六倍。以輸出單價算,15 萬個輸出 token 只要 0.15 美元,其餘應該是輸入 token 的費用,AA 的文章沒有列出細項。估成本時,要看完成一件任務的總花費,單價低不代表每道任務便宜。和 AA 列出的分數相近模型比,它仍然便宜很多:Gemini 3.8 Flash(high)每題 7.77 美元,Claude Sonnet 5.5(medium)每題 10.02 美元。
用之前要知道哪些限制?
- 權重還只是承諾。現在能用的只有 Tinker,模型卡把授權列為 Tinker 使用條款。公告說權重要等官方和合作夥伴完成進一步的安全評估才釋出,時間是「下週」,AA 則標為日期未確認。
- 測驗和對手由官方挑選。官方各節的比較表,對手以開放權重模型為主;在模型卡的完整表格裡,閉源的 Claude Haiku 5.5 在 AA 指數 v5.0 是 36.5 分,開放權重的 DeepSeek-V4.1-Flash-1017 是 32.6 分,都高於 Inkling 2 Small 的 30.6 分。官方的評測一律用最高力度 0.99(xhigh),日常用較低力度時的表現,這些表格看不出來。
- 對齊的主要數字來自內部評測。內部的不當行為(misbehavior)評分越低越好,Inkling 2 Small 是 14.9,上一代 Inkling 是 66.8,閉源的 GPT-6.1 Sol 是 0.8。公告沒有交代這些內部評測的題目與計分方式,也沒有外部審查。同一張表另有 Apollo Research、Goodhart Labs 的幾項外部評測,例如 Goodhart Labs 的獎勵駭客(reward hacking)測驗,Inkling 2 Small 是 44,GPT-6.1 Sol 是 59,也是越低越好。官方自己也說,它在對齊評測上仍落後 GPT-6.1 Sol 這類閉源模型。
- 官方列出的缺點:說話不夠簡潔;在有大量技能(skill)的程式碼庫裡,不一定選對工具;聊天體驗較弱,內容的組織與呈現較差、斜線用得太多,對心理健康等安全相關的提問反應過度。公告在 DistressBench 的註腳也說,一般的情緒支持提問,它有時會過度附加免責聲明。
- 自架要什麼硬體,公告和模型卡都沒寫,只說支援 MXFP8 和 NVFP4 兩種數值格式。我粗估,594B 個參數以 NVFP4 存放(每個參數 4 位元,另加縮放係數),光權重就要 300 GB 以上,還沒算 KV 快取。
參考資料
- Thinking Machines,Introducing Inkling 2 Small,2026 年 11 月 5 日。
- Thinking Machines,Inkling 2 Small model card。
- Artificial Analysis,Thinking Machines has released Inkling 2 Small, scoring 31 on the Artificial Analysis Intelligence Index。