開發人員開始更加留意使用 AI 程式碼工具時所產生的執行成本,這是有原因的。GitHub 最近將 Copilot 改為依據所選模型的用量計費,而其他地方則有一家 AI 代理新創公司表示,從 Anthropic 切換到 DeepSeek 可為公司省下數百萬美元。
在這樣的背景下,開發人員開始尋找減少 AI 回覆中多餘贅詞與填充內容的方法,以降低 token 消耗。最終目標是讓代理能盡可能直接、簡短地回答,同時不遺漏任何實質內容。這似乎已演變成所謂的「caveman mode」——捨棄冠詞與文法,改用簡短、 blunt 的片段,模仿老電視劇與卡通中典型的穴居人咕嚕說話風格。
事實上,有些開發人員可能會從 The Grug Brained Developer 認出這種風格,這是由 Carson Gross(htmx 的創作者)撰寫的長期軟體設計文章,完全採用同樣破碎 blunt 的風格。但這次針對的對象不是程式碼複雜度,而是 AI 回覆中的冗長。
「Skill make agent talk like caveman」
這個想法以不同形式出現。企業搜尋巨頭 Elastic 為 Elasticsearch 打造了自己的版本,在八個內部測試情境中平均 token 減少 63.6%。
Sri Kolagani(Elastic 的 Salesforce 工程總監)在四月的部落格文章中寫道,LLM 在回答周圍包裝的對話式填充內容,在查詢 Elasticsearch 時會帶來實質成本,因為實際需要的只是索引名稱、欄位對應與 ES|QL 查詢,而不是客套話。
Kolagani 寫道:「這不只是令人厭煩,而是昂貴的。每個 token 都花錢且增加延遲。對於生產環境的 Elasticsearch 查詢,這種額外負擔會快速累積。」
然而真正爆紅的工具是由荷蘭開發人員 Julius Brussee 在 GitHub 上發布的免費、可安裝 Claude Code skill caveman。它獲得數萬顆星與 fork,並在 Hacker News 等線上社群引發首頁討論。
「這不只是令人厭煩,而是昂貴的。每個 token 都花錢且增加延遲。對於生產環境的 Elasticsearch 查詢,這種額外負擔會快速累積。」
它的宣傳文案用自己的 Caveman 語法寫道:
「Skill make agent talk like caveman. Why use many token when few do trick. Filler die. Code, commands stay byte-exact.」
而它的標題宣稱是:輸出 token 減少 65%。
穴居人語法省 token 的實際測試
JetBrains(開發 IntelliJ、Rider 等 IDE 的公司)決定實際測試這個 skill,而不是直接相信 65% 的標題數據。
JetBrains 工程師 Denis Shiryaev 使用開源代理評估框架 Harbor 與社群基準 SkillsBench,在七月的部落格文章中寫道,他們在 Claude Code 上針對 86 個真實程式碼任務執行成對基準測試,比較啟用 skill 與未修改的原始工作階段。
宣稱與實際結果之間的差距不小。宣稱省下 65%,而 JetBrains 實際測得僅 8.5%,且這個數字僅在測試規模放大後才成立。早期僅用 10 個任務的測試最初顯示約 30% 的節省。
差距最終歸因於這個 skill 在真實程式碼專案中能處理與無法處理的部分,與其標題數據所測量的休閒聊天機器人對話類型不同。
「宣稱的節省來自聊天式散文回答。代理式輸出則不同。」
Shiryaev 寫道:「宣稱的節省來自聊天式散文回答。代理式輸出則不同。」他指出,程式碼、diff、工具呼叫與精確錯誤字串主導了 token 流量,而這個 skill 會原封不動保留這些內容。「只有工具呼叫之間的敘述會被壓縮,而這部分並不多。」他補充。
用穴居人語法會讓 Claude 變笨嗎?
這個 skill 首次爆紅時,Reddit 使用者 幾乎立刻提出擔憂:強迫 AI 模型以精簡、不那麼流暢的語法回答,可能會犧牲其推理能力。
JetBrains 的基準測試顯示,至少在他們測試的任務中,這種擔憂並未成立。在 86 組成對執行中,啟用 skill 與原始工作階段的任務結果在統計上沒有顯著差異。
Shiryaev 對 Caveman 的總結是:「安全、誠實呈現風格,但節省效果被過度宣傳。」
他在部落格文章中寫道:「如果你喜歡就用吧。它很有趣,而且對品質沒有可測量的影響。只是不要期待在日常代理任務中能大幅節省:高個位數百分比才是比較實際的上限。」
科技發展迅速,別錯過任何一集。訂閱我們的 YouTube 頻道,收看所有 podcast、訪談、示範與更多內容。
Group Created with Sketch.
0 Comments
Log in to join the conversation.No comments yet. Be the first to share your thoughts.