不靠更多參數，靠更長視野：Agents-A1 如何用 35B 打敗千億模型

一個反直覺的問題

如果有人告訴你，一個只有 35B 參數的模型，能在多項基準測試上打贏擁有 1 兆參數的大型模型，你會相信嗎？

這聽起來違反直覺。過去幾年，AI 圈流行一個近乎定律的信條：越大就越強。Scaling Laws 告訴我們，投入更多參數、更多資料、更多算力，性能就會持續提升。Kimi-K2.6、DeepSeek-V4-pro 這些千億規模的模型，正是這個思路的產物。

但 InternScience 最新發表的 Agents-A1 論文，卻提出了另一條路：與其記更多，不如想更久。

一個有用的類比：偵探 A 與偵探 B

想像兩位偵探接到同一個複雜案件：

偵探 A 記憶力過人，腦中儲存著幾乎所有犯罪資料庫，但他的方式是直接從記憶中調取最相似的案例給出答案。

偵探 B 記憶力普通，但他會主動蒐集線索、走訪現場、對比証據、逐步排除嫌疑，整個調查過程可以延展數天。

遇到前所未見的詭異案件，誰更可靠？多數情況下，是偵探 B。

Agents-A1 正是在 AI 世界裡扮演偵探 B。它不靠更多參數，而靠延展推理視野（Agent Horizon）——讓模型在解題過程中查詢外部知識、執行工具、觀察結果、不斷迭代修正。

Agent Horizon 是什麼？

論文的核心概念是 Agent Horizon Scaling（代理人視野擴展），從兩個維度入手：

維度一：長視野軌跡（Long-Horizon Trajectories）

傳統 LLM 回應一個問題，通常輸出幾百到幾千個 token。Agents-A1 的訓練軌跡平均長達 45,000 tokens——相當於一篇研究報告加上完整的思考過程。

這些軌跡串聯了四個環節：

• 外部知識查詢：主動搜尋文獻與資料庫
• 工具行動（Actions）：呼叫 API、執行程式碼、操作瀏覽器
• 觀察結果（Observations）：讀取工具回傳的輸出
• 自動驗證（Verifier Outcomes）：用驗證器確認答案是否正確

這讓模型真正「做研究」，而不只是「背答案」。

維度二：異質能力整合（Heterogeneous Agent Abilities）

現實任務橫跨多個領域——科學推理、程式生成、網頁瀏覽、分子建模、數學證明。每個領域需要不同思維方式與工具集。

Agents-A1 的解法是先分別訓練六個領域的專家教師模型，再透過多教師域路由蒸餾（Multi-Teacher Domain-Routed On-Policy Distillation），把六位專家的知識精煉進同一個 35B 的學生模型。

三階段訓練食譜

整個訓練分為三個階段：

第一階段：全域 SFT（Full-Domain Supervised Fine-Tuning） 讓模型先學會廣泛的代理人行為，打好通用底子。就像讓新進員工先完成各部門輪調，了解公司全貌。

第二階段：領域教師訓練（Domain-Level Teacher Models） 在科學、程式、數學、生物、網頁瀏覽等六個領域，各打造一位超級專家模型。每位教師只需在自己的領域達到極致。

第三階段：On-Policy 蒸餾整合 搭配「關鍵詞彙對齊（Salient Vocabulary Alignment）」技術，讓多位教師的知識有效轉移進學生模型，同時避免不同領域知識互相干擾。

結果：35B 真的打贏了 1T

在需要長視野推理的基準測試上，Agents-A1 的表現令人信服：

在這些指標上，Agents-A1 領先或追平了 Kimi-K2.6 與 DeepSeek-V4-pro 等千億規模的競爭者。

更大的意涵：AI 擴展的兩條路

這個研究讓我們清楚看見 AI 擴展的兩條路徑：

Parameter Scaling（參數擴展）：更大模型、更多資料、更強算力，讓模型「記得更多」。成本高昂，邊際效益遞減。

Horizon Scaling（視野擴展）：讓模型在更長的推理鏈上思考，整合外部資訊與工具調用。相同參數量下，換取更深的問題解決能力。

兩者並非對立，而是互補。但 Agents-A1 的出現提醒我們：模型的「思考深度」，可能比「記憶容量」更決定實際能力的上限。換句話說，給模型更多時間思考，有時候比塞更多參數更有效。

延伸思考

如果 Horizon Scaling 成為主流，競爭重心會如何移動？ 未來 AI 的護城河，是否將從「誰的模型更大」轉向「誰的 Agent 基礎設施更完善」？這對新創公司是機會，因為它打破了只有巨頭才能訓練大模型的壁壘。

45K tokens 的訓練軌跡意味著什麼？ 建構這樣的長視野訓練資料需要龐大的工程投入——知識庫、工具整合、自動驗證器缺一不可。這種基礎設施本身，可能成為下一代競爭壁壘。

Multi-Teacher Distillation 的人類對應：一個學生若能師從多位不同領域的大師，往往比只跟一位老師學的人更有突破性思維。Agents-A1 正在 AI 世界裡重現這種學習模式——參數少不代表能力弱，關鍵在於你從哪裡學、學了多深。