問問貓 › AI 工具總表 › GitHub Copilot
把 AI 的輸出砍短反而更貴:GitHub 官方拆解四個省錢改動,其中一個只是刪掉行號(2026-09 實查)
文章最後更新:2026-09-08
如果你正在想辦法讓 AI 編碼代理少花一點錢,GitHub 在 2026-09-02 公開的這篇工程紀錄值得看完,因為它從一個反直覺的結果開始:把工具輸出砍短,整個任務反而更貴。
四個改動、每個都有實測數字,而且有一個是失敗的。查核日 2026-09-08。
一、反直覺的那一條:局部指標陷阱
常見做法是「把每次工具回傳的內容壓短」以省 token。GitHub 用一個叫 RTK 的工具測了這件事,結論是:
我們在局部省了 token,卻在整體花得更多。
發生了什麼:壓縮之後被省略的內容有時候剛好是模型需要的,於是模型會重新打開原始輸出、或乾脆把指令再跑一次。多出來的回合、多帶的上下文,讓整個任務平均用掉更多 token、花更久時間。
可以直接拿走的原則:評估效率的單位是「一件事從提問到完成」,不是「一次工具呼叫」。你在自己的代理設定裡加的任何「精簡輸出」規則,都要用完整任務去量。
二、有效的第一招:先刪格式,再刪資訊
GitHub 最乾淨的一個優化是:檔案讀取工具不再替每一行加行號前綴。
原因很實際——早期的編輯工具靠行號定位,但現在的工具是靠比對前後文,根本不用行號。那個前綴留著,只是每讀一個檔就重複一次的無用格式。
實測結果:
- 離線基準:模型推理成本降約 5%,成功率維持在正常波動範圍內,編輯失敗沒有增加
- 線上實驗(Copilot CLI 使用者):每人每日平均推理成本降約 3%,追蹤的品質與滿意度指標沒有明顯退步
官方對這個改動的評語是「理想的改動」:沒有給模型新指令、沒有資訊需要救回、也沒有多一個判斷要做,檔案內容原封不動送到模型手上。
你能照做的版本:檢查你自己送進上下文的東西裡,有多少是每次都重複、但沒有人在用的格式——包裝用的標記、無人解析的表頭、重複的路徑前綴。先刪這些,比刪內容安全得多。
三、有效的第二招:壓縮提示詞——但這一招差點出事
Copilot 的 task 工具(用來啟動平行子代理)的指引,長年累積在工具描述、schema、代理定義與系統指令裡。GitHub 用「讓 Copilot 自己反覆改寫自己的提示詞」把它砍掉約一半。
然後線上實驗抓到一個離線評測沒抓到的退步:改寫過程把原本謹慎的「可以並行」指引寫成了硬性排程規則,導致本來該平行跑的獨立自訂代理變成一個接一個排隊跑。
GitHub 的處理方式值得抄:停掉實驗 → 先替使用者暴露出來的行為寫一個回歸測試 → 再改。 最後的修法是把明確的允許/禁止清單換成一句話:
Independent agents can run in parallel; consider side effects.(獨立的代理可以並行;注意副作用。)
更短、限制更少,把「要不要並行」的判斷交回給模型。
上線後的數字:每輪省下約 1,300 個 task 工具提示 token,約等於每次工作階段少 1.8% 提示 token、每活躍小時的正規化成本降約 2.9%,未偵測到品質退步。
官方留下的教訓一句話:提示詞的行為需要測試;沒有被測到的行為,會在提示詞變短時無聲消失。
四、有效的第三招:把已完成的背景工作直接送回去
代理常在背景跑長指令或子代理。改動前,完成通知不含結果,所以代理得再花一個回合去拿它其實已經拿到的東西——兩件事同時完成時,這種繞路還會重複。
改動後:把符合條件的完成通知打包,直接用既有的工具結果格式把結果送過去。 官方強調這裡沒有壓縮、沒有摘要、沒有隱藏任何內容。
效果:以 AI credits 衡量的平均 token 相關用量降約 2.3%。原本一個背景任務要「一個回合去要結果、一個回合去處理」,兩個任務就是四次模型呼叫;現在一次呼叫可以處理完兩個。
可以照做的原則:先找出「模型只是在等資料、沒有在思考」的回合。那些回合能由程式自己完成的,就不要讓模型跑。
五、最後一條:證據只在它被測的那個場景成立
GitHub 特別記了一個反例:一組更嚴格的檔案工具指令在 Copilot code review 上有正面結果,搬到 Copilot CLI 的線上實驗卻讓成本上升,所以沒有上線。
同一個改動在不同工作流上結果相反。別把別人(包括這篇)的節省比例當成你會拿到的數字。
六、五條可以帶走的原則(官方原文整理)
- 最佳化「完成的任務」,不是單次工具呼叫。
- 最佳化編排,不只是模型輸出——能由程式確定性完成的回合就不要讓模型跑。
- 依「輸出代表什麼」來壓縮:保留精確內容、優先無損轉換、並測量救援路徑被用到的頻率。
- 改寫提示詞會有意外後果,要驗證原本的行為還在。
- 證據是局部的,每個產品面都要重測。
官方最後一句話值得抄下來:這些改動沒有一個讓模型變聰明,它們只是拿掉了模型本來就不需要做的工作。
Copilot 的額度怎麼被扣,見 Copilot AI credits 計算方式;方案比較見 GitHub Copilot 工具頁。
本文依據 GitHub 官方部落格 How we make AI coding more cost efficient without sacrificing task quality(Erik Kristensen、Napalys Klicius,2026-09-02)於 2026-09-08 直讀整理。5%/3%/1,300 token/1.8%/2.9%/2.3% 等數字均為 GitHub 自行公布之離線基準與線上實驗結果,本站未獨立重跑;官方明示這些證據僅在其測試的工作流中成立。
阿莫和皮米怎麼看
學生:認證後 Pro 免費,沒理由不用。一般開發者:免費版 2,000 次補全先上手,每天寫就升 Pro US$10/月。但免費和學生方案只能 Auto 選模是事實,介意就付費。

