JIT-Agent：AI Agent 真正的實力，不是模型決定的

開場：賽車手很強，但沒有維修站策略呢？

想像兩位技術相同的賽車手，開同一款車參加同一場比賽。差別在哪？一位有經驗豐富的維修站團隊，能根據路況即時調整進站策略、輪胎配方、油量分配；另一位只能靠自己臨場反應。比賽結束，前者贏面通常大得多——即使兩人開車技術完全一樣。

這正是最近一篇論文《JIT-Agent》想點破的事：我們常以為 AI Agent 的能力取決於底層模型有多強，但論文作者說，真正決定 Agent 表現上限的，往往是包在模型外面那層「harness」（可以理解成「作業腳手架」）。模型是賽車手，harness 是維修站策略。

什麼是 Agent Harness？

如果你曾經用過 Claude Code、OpenCode 這類 AI coding agent，其實你已經在用 harness 了——只是可能沒意識到。Harness 泛指包裹在 LLM 外層、讓它能真正「做事」的那套機制，論文把它拆成四個模組：

• 記憶管理（memory management）：Agent 要記得什麼、用什麼方式存取歷史對話與工具輸出。
• 規劃策略（planning strategy）：面對一個任務要拆成幾步、每一步先做什麼。
• 行動協定（action protocol）：Agent 怎麼呼叫工具、怎麼解讀回傳結果、出錯了怎麼重試。
• 工具/技能編排（tool/skill orchestration）：什麼時候該用哪個工具，工具之間怎麼串接。

同一顆模型，換上不同的 harness，表現可以差很多。這也解釋了為什麼有時候一個「較弱」的模型，只要配上精心設計的 harness，反而能打贏「較強」但配置陽春的模型。

問題：harness 設計沒辦法規模化

聽起來 harness 這麼重要，那多花點心思設計不就好了？問題是，現行做法幾乎都是人工手刻——工程師針對特定任務、特定模型，一點一滴調整記憶怎麼存、工具怎麼串。換一個任務、換一顆模型，整套邏輯往往又要重新設計一次。這件事沒辦法規模化，也很難遷移。

JIT-Agent 的做法：讓 harness 自己「現場生成」

JIT-Agent 的核心想法很直接：與其讓人手動設計 harness，不如訓練另一個模型，專門負責「即時生成適合當下任務的 harness」。JIT 是 Just-In-Time 的縮寫——概念上跟程式語言的 JIT compiler 有點像：不是提前把所有情況都寫死，而是在真正遇到任務的當下，依照任務特性現場組裝出最適合的執行邏輯。

具體而言，JIT-Agent 做三件事：

1. 客製化（customize）：針對眼前任務，生成一套專屬的四模組 harness。
2. 修復（repair）：如果生成的 harness 在執行中出狀況（例如某個工具呼叫協定有 bug、規劃邏輯卡死），JIT-Agent 能偵測並修正，確保執行穩定。
3. 自我進化（self-evolve）：把過去所有生成過的 harness 配置存成一個持續擴大的「案例庫」，並從中蒸餾出哪些設計模式真正有效，讓下一次生成的 harness 品質越來越好。

換句話說，JIT-Agent 不是一次性寫死的規則，而是一個會累積經驗、越用越聰明的「harness 生成引擎」。

結果說了什麼？

論文的實驗數字相當驚人。裝上 JIT-Agent 之後：

• 原本表現平平的 DeepSeek-V4-Flash，在 DeepSearchQA 上反超了 GPT-5.6（+9.1分），在 OdysseyBench 上也贏過它（+4.3分）。
• 已經很強的 GLM-5.2，配上 JIT-Agent 生成的 harness 後，分數最多再拉高 20.2 分。
• 在受控評測中，JIT-Agent 生成出來的 harness，表現可以跟 OpenCode、Claude Code 這類成熟的 agent runtime 打平手——而這些系統背後可是有真人工程師團隊持續優化的成果。

這意味著什麼？這代表「harness 智慧」是一個獨立於模型規模、可以被單獨訓練、單獨遷移的能力維度。以前我們談 Agent 進步，想到的都是「換更大的模型」；JIT-Agent 說，還有另一條路——把「怎麼配置 Agent」這件事本身，變成一個可以學習、可以規模化的問題。

延伸思考

這篇論文讓我想到一個更大的問題：當「如何使用工具」本身變成一種可訓練、可遷移的能力，Agent 系統的競爭優勢會不會從「誰的底層模型比較強」，逐漸轉移到「誰的 harness 智慧比較強」？

如果真是這樣，對於正在打造 AI 產品的團隊來說，現在可能該重新盤點資源分配——與其把預算全押在追逐更大的模型，或許有一部分該投資在打磨、甚至訓練屬於自己產品的「harness 生成能力」上。畢竟賽車手再強，沒有懂路況的維修站策略，終究贏不了那些「車不是最快、但團隊最懂比賽」的對手。