小模型的逆襲：當「夠好就好」比「絕頂聰明」更值錢

摘要

便宜又夠快的小模型正悄悄變強，讓 AI 產品第一次能打平消費級的價格帶。從「IQ180 天才」與「線廚」的類比出發，聊聊為什麼下一波 AI 紅利可能不在更聰明的模型，而在更便宜的模型。

正文

矽谷投資人最近常問一個問題：「AI 這麼火，為什麼消費級的 AI 公司這麼少？」

答案很直白：token 太貴了。

在 AI 之前，做一個爆紅消費產品的公式很簡單——做一個成本低廉的網站，靠病毒式傳播拉用戶，等用戶多了再融資擴張，最後放廣告賺錢。Google、Facebook 走的都是這條路，成本結構幾乎與用戶數無關。

但一旦產品裡塞進 AI，每一次請求都要付真金白銀的推理費用。如果你想做一個「幫我讀完整個信箱、幫我盯 Hacker News 和 Reddit、每天生一份客製化晨報」的產品，用前一代旗艦模型跑一次可能要燒掉一美元。一個月訂閱費收 30 美元撐不住這種成本——除非你的服務真的能跟《華爾街日報》一樣值錢。

這就是為什麼「小模型變強」這件事，比大家想像中重要得多。過去半年，快、便宜、「還算聰明」的模型悄悄補上了能力缺口：同樣一份客製化晨報的任務，換成新一代輕量模型，成本可以壓到十美分左右。差了十倍。對訂閱制產品來說，這不是量變，是能不能活下去的分水嶺。

比成本更有意思的是一個關於「人力」的觀察。有位連續創業者朋友分享過他對公司裡工作類型的分類：一種是「IQ180 型」工作——某個天才想出你從沒想過的解法，公司裡可能只有一兩個人能做；另一種是「token 消耗型」工作——快速回應、跟催進度、在十幾條戰線上把事情往前推一點。他坦言，自己每天的工作裡，九成五都屬於第二種。

這個分類其實可以套用在幾乎所有公司身上。想想你身邊的同事、供應商、客戶，你最常需要的不是驚為天人的洞見，而是「這個人靠不靠譜、回覆快不快、事情有沒有跟到底」。換句話說，公司運作真正燒掉的「人力 token」，絕大多數花在稱職而非天才身上。

這個道理放進餐廳廚房會更好懂。米其林主廚一年只需要出現幾次——研發新菜、救場處理疑難雜症。但餐廳每天真正靠的是線廚：照著標準流程，穩定、快速地把兩百份餐點準時送出去。公司裡的 AI 需求也一樣，多數時候你缺的不是主廚，而是一整排靠得住的線廚。

這正是小模型的主場。前沿模型（像最頂級的推理模型）會持續往「解決人類還沒解決的難題」發展——工程突破、科學發現、模型訓練本身，這些需求只會越滾越大。但另一條曲線也在加速：快、便宜、夠用的模型，正準備接手企業裡那 95% 的「token 消耗型」工作。

當然，這件事還沒有想像中簡單。要讓小模型真的能放手處理日常業務，還缺不少基礎建設：更好的任務框架（harness）、防止提示注入的安全機制、細緻的角色與權限控管。這些都是「便宜模型能力夠了」和「便宜模型能安全上線」之間的落差，也是接下來一年最值得關注的工程課題。

延伸思考

如果把這個趨勢放到更長的時間軸看，其實很像運算歷史一再重演的劇本：大型主機讓位給迷你電腦，迷你電腦讓位給個人電腦——每一次「性能夠用、成本大降」的轉折點，都會打開一批原本做不起來的產品。差別在於，這一次的「主機到 PC」轉型，發生在短短一兩年內，而且評估「夠不夠用」的標準本身也在快速位移。

對開發者來說，這帶來一個很實際的提醒：與其一味追逐排行榜上最強的模型，不如認真盤點手上有哪些任務其實只需要「稱職的線廚」。判斷一個任務適不適合小模型，可以先問三個問題——它需要創意突破嗎？錯了的代價高不高？使用者能不能接受偶爾的不完美？如果答案都偏向否定，那可能就是把預算從天才模型挪去養一整排線廚的時候了。那批被重新定價出來的任務，很可能就是下一批能真正做出商業模式的消費級 AI 產品所在。