想像你開了一家小公司,每天要整理發票、回客服信、改網頁按鈕、看財報。以前你必須請一個什麼都會的超級助理,價格貴到讓老闆肉痛。Thinking Machines Lab 推出 Inkling 2 Small,像是一個體型小、但手腳俐落的小助理,不用動用最貴的那位,也能把程式碼、圖片、財務文件和公司流程處理得有模有樣。它主打在企業測試裡接近旗艦級表現,對開發者來說,等於多了一個便宜、快、能上工的新選項。
如果公司要養一個 AI 小助手,為什麼小模型反而更划算?
在我看來,這次 Thinking Machines Lab 推出 Inkling 2 Small,重點不是「又一個模型發布」,而是它把一個很現實的問題攤開來:企業真正需要的 AI,不一定是最聰明的那個,而是最便宜、最快、最不會把公司資料外洩的那個。
很多公司導入 AI 時,都會遇到一個尷尬局面。你要它寫程式、看圖片、讀財報、學內部流程,這些事情聽起來很專業,但拆開來其實很日常。比如財務要從 PDF 裡抓數字,客服要從截圖裡認出產品型號,工程師要讓 agent 自動改小功能。如果每一步都叫最頂尖的旗艦模型來做,帳單會很可怕,延遲也可能讓使用者等太久。
Thinking Machines Lab 這次給開發者的選項,就是 Inkling 2 Small。它在企業測試裡接近旗艦級表現,代表它不是只能做簡單問答,而是有能力處理真實工作場景。對開發者來說,這意味著你可以把重複性高、流程明確、但又不想全部外包給人力的任務,交給一個成本更可控的 agent 去完成。
| 你想讓 AI 做的事 | 傳統做法 | 用 Inkling 2 Small 這類小模型 |
|---|---|---|
| 寫軟體 | 工程師反覆查文件、改測試 | agent 自動處理小功能與測試 |
| 讀圖片 | 人工標記、截圖說明 | vision 辨識表單、UI、圖表 |
| 分析財務文件 | 財務人員逐頁核對 | 快速抽取數字、異常與摘要 |
| 學公司流程 | 寫 SOP、開會教新人 | 透過 fine-tuning 或上下文學習 |
| 成本與速度 | 大模型很貴,延遲也可能高 | 更便宜、更即時、更容易私有部署 |
「小模型不是比較弱嗎?怎麼可能接近旗艦級?」 你可以把它想成:米其林三星主廚很厲害,但你要整理冰箱、煮宵夜、接電話,熟手助理就夠了。
我們注意到,Thinking Machines Lab 的背後是 Mira Murati,她曾任 OpenAI 首席技術長。外界對這類團隊的期待,通常不只是做出漂亮 demo,而是能不能把 AI 放進真實工作流裡,讓它穩定處理文件、程式、圖片與內部規則。Inkling 2 Small 主打的幾個能力,剛好對應企業最常卡住的地方:寫軟體、解讀圖片、分析財務文件、學習公司特定工作流程。
對我來說,這種產品最迷人的地方,不是它「最聰明」,而是它可能「最願意幹活」。企業 AI 要落地,常常不是卡在模型不會回答,而是卡在成本太高、速度太慢、隱私風險太大、流程太碎。小模型如果能在這些場景裡接近旗艦級表現,就會變成開發者手上很實用的工具。
溫馨提醒與總結
如果你是小團隊、開發者,或者正在考慮把內部流程自動化,Inkling 2 Small 這種接近旗艦企業測試表現的小模型,確實值得關注。它代表的是一個方向:AI 代理不一定要用最大最貴的模型,只要能穩定、便宜、合規地完成任務,就是好選擇。
不過我也會提醒一句,benchmark 接近旗艦級,不代表所有實際工作都會完美。資料格式、權限、延遲、錯誤處理、人工審核,都會影響最終體驗。真正導入時,先從一個小流程開始測試,通常比直接上線全部工作流安全得多。
延伸思考與常見問題
Q1:Thinking Machines Lab 是什麼來頭?
它是由前 OpenAI 首席技術長 Mira Murati 創辦的 AI 新創,外界關注的是它想把模型與
agent系統推向更實用、可部署的產品。Q2:near-frontier performance 是什麼意思?
簡單說是在企業測試裡表現接近最頂尖模型,但這不代表所有任務都一樣強,通常要視資料、延遲、成本與實際流程而定。
Q3:小模型跟旗艦模型差在哪?
旗艦模型通常更適合複雜推理與多領域通用任務,小模型則在特定任務上更便宜、更快,也更容易私有化部署與整合。