逼不出來不代表沒有：用數位鎖把神經網路加密藏進模型權重
研究者用數位鎖把整個小型神經網路加密藏進模型權重，只有秘密觸發字串能啟動；即使拿到全部權重，微調與搜尋都逼不出來，顯示「逼不出來就代表沒有」的評測推論有破口。
· 閱讀時間約 5 分鐘00
6 篇結果
標籤 #Evaluation
研究者用數位鎖把整個小型神經網路加密藏進模型權重，只有秘密觸發字串能啟動；即使拿到全部權重，微調與搜尋都逼不出來，顯示「逼不出來就代表沒有」的評測推論有破口。
Cognition 發布新一代 coding agent 模型 SWE-2，同時新論文重新定義評測標準。本文用「招募新工程師」比喻，拆解分數上升是否代表真正進步。
Agent Skills 讓 LLM 讀操作手冊變聰明，但一篇論文用 8,135 筆實驗紀錄告訴我們：它真正的作用不是餵知識，而是穩定行為——而且技能池一大，效果就會崩壞。
模型多試幾次幾乎能解決任何問題，真正的瓶頸是：如何從眾多候選答案中選出最好的那個？LLM-as-a-Verifier 將「驗證」定義為新的擴展軸，用機率化 logit 分佈取代粗糙整數評分，無需額外訓練即可刷新程式碼、機器人、醫療等多項頂尖基準。
長期任務讓 LLM Agent 陷入記憶困境，根本原因不是上下文不夠，而是無法有效管理過多資訊。本文從 AgenticSTS 有界記憶框架出發，解析為什麼強迫 Agent 主動選擇「記什麼、忘什麼」，反而能讓長期任務走得更穩。
當 AI Agent 擁有記憶系統，它可能開始「諂媚」自己過去的決策，讓初始錯誤越滾越大。本文拆解記憶諂媚症的成因、危害與解法。