FreewingBiz Wing-W Symbol
FREEWINGBIZCharles AI Workspace
Agent Engineeringv1.0•作者:Charles•

多智能體(Multi-Agent)調度與 Token 成本精算指南:大腦與手腳分離架構、模型分流與 Context 快取實戰

為什麼單一旗艦模型跑完整條 Agent 迴圈,不僅帳單暴漲 10 倍,還會越跑越笨?本文拆解矽谷一線團隊的 Multi-Agent 降本增效核心:大腦與手腳分離模式、L1–L4 任務難度與模型分流矩陣、Prefix Caching 省下 75–90% Input 費用,以及嚴格的 150 字 Subagent 回傳契約,附完整 TypeScript 調度器實作與可直接複製的 Dispatcher Prompt 錦囊。

適用工具:Claude Opus / Sonnet / HaikuGemini 2.5 Pro / Flash / Flash-LiteOpenAI Responses APITypeScriptLangGraph
主題標籤:#Multi-Agent#Token成本優化#模型分流#Prefix Caching#Subagent#Context Rot#Agent架構#Prompt錦囊

導言:為什麼你的單一 Agent 越跑越笨,月底帳單還暴漲 10 倍?

許多開發者在剛接觸 AI Agent 時,習慣打造一個「全能單體巨獸(Monolithic Single-Agent)」:把專案規範、工具定義、程式碼檔案、瀏覽器日誌全部塞進同一個對話迴圈,並全程掛上最昂貴的旗艦推理模型(例如 Claude Opus 或 Gemini Pro)跑到底。

結果往往在第 15 輪工具呼叫後出現兩個災難:

  1. 帳單爆炸(Quadratic Token Burn):每多一輪 tool call,前面累積的所有歷史對話與數萬行終端機日誌都會被重複打包送進模型一次。一個原本只需 USD 0.08 的任務,在 25 輪迴圈後會燒掉 USD 1.80 以上。
  2. 脈絡腐爛(Context Rot):當 Context Window 塞滿上萬字的 stack trace、過期嘗試與無關 HTML 片段,模型注意力被嚴重稀釋,開始忘記最初的架構規範、反覆修改同一個錯誤,甚至把剛剛修好的功能改壞。

真正能穩定上線、具備商業經濟效益的企業級系統,靠的不是「更長的 Context Window」,而是「調度架構(Orchestration Architecture)」。這篇文章將帶你從底層精算 Token 成本,建立一套兼顧最高智商與極致成本的 Multi-Agent 生產管線。


🧠 核心現象解剖:單體迴圈的「二次方燒錢」與 Context Rot

在設計調度系統之前,必須先看懂為什麼 Monolithic Loop 在數學結構上註定虧錢。

假設系統提示詞與工具定義佔 8,000 tokens,每一輪 Agent 執行測試或讀取檔案平均產生 4,000 tokens 的中間輸出(例如 npm test 報錯或 API 回應),整個任務跑了 20 輪才完成。

單體迴圈總輸入量 (Input Tokens) 近似公式:
Total Input = 20 * 8,000 + (0 + 4,000 + 8,000 + ... + 76,000)
            = 160,000 + 760,000
            = 920,000 Input Tokens

如果全程使用旗艦模型且未設定快取,單次任務光是 Input 成本就逼近 3 美元;更致命的是,這 92 萬個 Token 裡,超過 80% 都是已經過時的試錯垃圾(Noise)。研究顯示,當無關雜訊佔比超過 40% 時,即便是頂尖模型,在多步驟指令遵循上的準確率也會從 94% 暴跌至 60% 以下——這就是業界俗稱的 Context Rot(脈絡腐爛)。

大腦與手腳分離架構:L1–L4 模型分流、Prefix 快取與契約回傳流

❌ 單體巨獸迴圈 (Monolithic Loop)

把最貴的大腦拿去當苦力搬磚:

  • 用旗艦推理模型讀取 50KB 報錯日誌、做簡單字串比對與格式巡檢。
  • 每輪對話把先前所有失敗嘗試重複傳送,Input 費用呈等差級數累積。
  • 髒資料污染決策層,導致第 10 輪後開始原地打轉或產生幻覺。
✅ 大腦與手腳分離 (Brain-Hand Separation)

總監只看重點簡報,苦力在沙盒內即用即棄:

  • Director Brain 維持極度精簡潔淨的全局視角,只負責任務拆解與驗收。
  • Subagent Worker 依難度分流至輕量低價模型,在獨立沙盒消化所有髒日誌。
  • 子代理完工後銷毀沙盒,僅回傳 150 字結構化摘要,徹底阻斷污染。

🏗️ 架構支柱一:「大腦與手腳分離」模式(Director Brain vs. Subagent Workers)

在工程實務上,我們把 Multi-Agent 系統切分為兩個職責截然不同的層級:

1. Director Brain(調度總監大腦)

  • 核心任務:理解用戶意圖、拆解有向無環圖(DAG)子任務、決定每個子任務的難度等級與預算上限(Budget Cap)、審核最終交付品質。
  • 不做的事:絕不親自讀取龐大原始檔案、絕不親自執行多輪試錯迴圈、絕不直接接收完整 Terminal Log。
  • Context 原則:永遠保持在總容量 15% 以下的潔淨狀態,只存放「架構藍圖 + 當前子任務狀態表 + 各子代理的精煉摘要」。

2. Specialized Subagent Workers(專職執行手腳)

  • 核心任務:只接單一明確的邊界任務(例如「掃描 /src/api 找出所有未驗證 Zod Schema 的端點」或「修復 auth.test.ts 的 3 個失敗測試」)。
  • 沙盒隔離(Ephemeral Context):每個 Subagent 啟動時擁有全新的空白 Context。它可以在沙盒裡跑 12 輪 grep、看 30KB 報錯、反覆重試,一旦任務完成或觸發停損,該 Context 立刻被垃圾回收(GC)。
  • 無狀態重入:由於所有進度都透過檔案系統或資料庫落地,即便某個 Subagent 失敗重啟,也不會污染主大腦的記憶體。
💡 實戰訣竅 · Pro Tip

判斷該不該切出 Subagent 的黃金準則:
只要某個步驟「需要讀取超過 2,000 tokens 的中間資料(如網頁 DOM、測試日誌、搜尋結果清單)才能得出一個簡短結論」,就應該外包給 Subagent 在隔離沙盒中完成,而不是在主對話視窗執行。


⚡ 架構支柱二:L1–L4 任務難度矩陣與模型分流(Model Tier Routing)

在生產環境中,一個複雜工作流裡只有不到 10% 的步驟真的需要旗艦模型的高階推理;另外 90% 的步驟屬於資料整理、制式改寫、單點實作或格式檢查。透過 L1–L4 分級路由矩陣,我們能讓每一分錢都花在刀口上:

難度等級 任務特徵與代表場景 建議模型層級 參考 Input / Output 單價(每百萬 Tokens) 典型工作量佔比
L1 機械與巡檢層 Regex 萃取、檔案清單分類、Markdown 語法檢查、Log 摘要壓縮、JSON 欄位驗證 Nano / Flash-Lite(如 Gemini Flash-Lite、GPT-5 Nano) ~USD 0.05 – 0.08 / USD 0.20 – 0.40 45%
L2 標準執行層 單一函式或元件撰寫、單元測試生成、標準翻譯與技術文案初稿、SQL 查詢生成 Flash / Haiku / Mini(如 Gemini Flash、Claude Haiku) ~USD 0.15 – 0.80 / USD 0.60 – 4.00 35%
L3 跨模組整合層 多檔案 Bug 追蹤、API 串接與狀態機調整、中等複雜度重構、Code Review Sonnet / Standard(如 Claude Sonnet) ~USD 3.00 / USD 15.00 15%
L4 架構與攻堅層 全局系統設計、多 Agent 調度決策、高風險資安審計、L3 連敗兩次後的救援 Pro / Opus / Reasoning(如 Claude Opus、Gemini Pro) ~USD 5.00 – 15.00 / USD 25.00 – 75.00 5%

進階策略:失敗升級熔斷機制(Escalation on Two Strikes)

實務上最強的路由策略不是靜態寫死,而是「樂觀降階 + 兩次失敗自動升級」:

  1. 預設將「寫一個新元件並通過單元測試」派發給 L2(Flash/Haiku) 執行。
  2. 若 L2 執行測試失敗 1 次,允許它根據報錯自我修正 1 次(Still L2)。
  3. 若第 2 次依然失敗(Two Strikes),Dispatcher 立刻中止 L2,將錯誤摘要與相關程式碼片段升級交棒給 L3(Sonnet)或 L4(Pro/Opus) 接手根因診斷。

這樣既能在 80% 一次過關的簡單任務上享受 1/20 的極低成本,又不會因為便宜模型能力不足而在死胡同裡無限重試燒錢。


💾 架構支柱三:Prefix Caching(Context 快取)砍掉 75–90% Input 費用

當你的 Multi-Agent 系統需要反覆攜帶龐大的「專案憲法(AGENTS.md)」、「工具定義(Tools JSON Schema)」或「公司產品知識庫」時,Prompt Caching(Prefix Caching) 是最立竿見影的財務槓桿。

各大供應商(Anthropic Claude、Google Gemini Context Caching、OpenAI Prompt Caching)的計費邏輯高度一致:只要請求開頭(Prefix)的 Token 序列與前一次請求完全逐字一致(Exact Byte-for-Byte Match),快取命中的 Input Tokens 費用會直接打 1 折至 2.5 折(省下 75–90%),同時首字延遲(TTFT)大幅下降。

為什麼很多人的 Prefix Cache 命中率是 0%?

90% 的開發者踩到的坑都是「把動態資料放進了 Prompt 的前半段」!一旦第 500 個 token 出現了變動的 timestamp 或 user_id,後面剩下的 20,000 個靜態規範 tokens 的快取就會全部失效(Cache Miss)。

請嚴格遵守以下 Prompt 記憶體分段佈局法(Static-First Memory Layout):

+-------------------------------------------------------------------+
| 區塊 A:極度穩定的全域基石 (Cache Hit 99%)                         |
| - System Role Prompt                                              |
| - 完整 Tool / Function JSON Schemas (照字母順序固定排序)            |
| - 專案規範憲法 (.cursorrules / AGENTS.md)                          |
+-------------------------------------------------------------------+
| 區塊 B:專案或會話級參考資料 (Cache Hit 85%+)                      |
| - 唯讀 API 文件 / 資料庫 Schema 定義 / 共用範例 (Few-shot)          |
| <--- [Cache Breakpoint 標記點放在此處] --->                        |
+-------------------------------------------------------------------+
| 區塊 C:每次請求都會變動的動態狀態 (Uncached, 越短越好)             |
| - 當前時間戳記 (Current Timestamp)                                 |
| - 使用者本次指令 / 當前子任務編號 / Subagent 150 字摘要             |
+-------------------------------------------------------------------+
⚠️ 關鍵警告 · Warning

避坑提醒:如果你的工具清單(Tools Array)是動態從資料庫載入且每次排序不同,或是在 System Prompt 第一行就插入 現在時間:2026-11-12 10:32:05,你的 Prefix Cache 將永遠無法命中!務必將所有時間戳記與動態變數推遲到最後一則 user message 的末尾。


📦 架構支柱四:Subagent 回傳契約(Return Contract)

即使模型分流做得再好,如果 Subagent 把 20KB 的原始執行結果直接 return 回給 Director Brain,主大腦的 Context 依然會在三個步驟內爆炸。

因此,我們必須在系統層強制規定 Subagent Return Contract:任何子代理回傳給主大腦的負載(Payload),嚴格限制在 150 字(約 200–300 tokens)以內的結構化摘要,原始產物一律寫入檔案系統或外部物件儲存,僅回傳路徑指標(Reference Pointer)。

反面教材 vs. 標準契約對比

// ❌ 災難級回傳:直接把 20KB 終端機日誌與檔案內容倒回主大腦 (消耗 ~6,500 tokens)
{
  "result": "Ran vitest... PASS src/a.test.ts... FAIL src/b.test.ts... [貼上 400 行 stack trace與整個檔案原始碼]..."
}

// ✅ 標準 Return Contract:精準指標 + 150 字以內根因摘要 (僅消耗 ~140 tokens)
{
  "task_id": "fix-auth-middleware",
  "status": "FAILED_NEEDS_ESCALATION",
  "model_used": "L2-flash",
  "attempts": 2,
  "files_modified": ["src/middleware/auth.ts"],
  "artifact_log_path": ".agent-logs/fix-auth-20261112-1042.log",
  "summary": "已補上 JWT exp 檢查,但整合測試 auth.spec.ts 第 48 行仍因 mockRedis.get 回傳 null 而失敗。疑似測試夾具未初始化 session key,建議升級 L3 檢查測試設定檔。"
}

主大腦收到這份不到 150 字的 JSON 後,不費吹灰之力就能決定下一步:把任務升級指派給 L3,並只把 src/middleware/auth.ts 與 auth.spec.ts 掛載給新的 L3 Subagent,徹底繞過無用的 20KB 日誌垃圾。


💻 實戰程式碼:TypeScript 階梯分流與預算守衛調度器

以下是一段可直接用於生產環境的 TypeScript 調度器核心範例,完整體現了 L1–L4 模型路由、Prefix 快取結構排列、兩次失敗升級(Two-Strikes Escalation)與嚴格 Token 預算斷路器(Circuit Breaker):

// orchestrator.ts
type TaskTier = "L1_QA" | "L2_WORKER" | "L3_INTEGRATION" | "L4_ARCHITECT";

interface SubagentTask {
  id: string;
  tier: TaskTier;
  objective: string;
  contextPaths: string[];
  maxBudgetUsd: number;
}

interface SubagentReturnContract {
  taskId: string;
  status: "PASS" | "FAIL" | "ESCALATE";
  summary: string; // 強制截斷 <= 300 chars (~150 words)
  filesTouched: string[];
  rawLogPath: string;
  costUsd: number;
}

const MODEL_ROUTER: Record<TaskTier, { model: string; inputPer1M: number; outputPer1M: number }> = {
  L1_QA:          { model: "gemini-2.5-flash-lite", inputPer1M: 0.075, outputPer1M: 0.30 },
  L2_WORKER:      { model: "gemini-2.5-flash",      inputPer1M: 0.15,  outputPer1M: 0.60 },
  L3_INTEGRATION: { model: "claude-sonnet-4-5",     inputPer1M: 3.00,  outputPer1M: 15.00 },
  L4_ARCHITECT:   { model: "claude-opus-4-1",       inputPer1M: 15.00, outputPer1M: 75.00 },
};

const NEXT_TIER: Partial<Record<TaskTier, TaskTier>> = {
  L1_QA: "L2_WORKER",
  L2_WORKER: "L3_INTEGRATION",
  L3_INTEGRATION: "L4_ARCHITECT",
};

export async function dispatchWithEscalation(
  task: SubagentTask,
  staticSystemPrefix: string, // 保持絕對固定以命中 Prefix Cache
  runModel: (params: {
    model: string;
    systemPrefix: string;
    dynamicUserPrompt: string;
  }) => Promise<{ contract: SubagentReturnContract; cachedTokens: number; inputTokens: number; outputTokens: number }>
): Promise<SubagentReturnContract> {
  let currentTier: TaskTier = task.tier;
  let totalSpentUsd = 0;

  for (let attempt = 1; attempt <= 3; attempt++) {
    const route = MODEL_ROUTER[currentTier];

    // 動態欄位永遠放在最後,確保 staticSystemPrefix 命中 90% 折扣快取
    const dynamicPrompt = [
      `TaskID: ${task.id} | Attempt: ${attempt} | Tier: ${currentTier}`,
      `Objective: ${task.objective}`,
      `TargetFiles: ${task.contextPaths.join(", ")}`,
      `Constraint: 回傳 summary 必須小於 150 字,禁止回傳完整原始 Log。`,
    ].join("\n");

    const res = await runModel({
      model: route.model,
      systemPrefix: staticSystemPrefix,
      dynamicUserPrompt: dynamicPrompt,
    });

    // 精算實際成本 (假設快取命中部分享 10% 計費)
    const uncachedInput = Math.max(0, res.inputTokens - res.cachedTokens);
    const stepCost =
      (uncachedInput / 1_000_000) * route.inputPer1M +
      (res.cachedTokens / 1_000_000) * (route.inputPer1M * 0.1) +
      (res.outputTokens / 1_000_000) * route.outputPer1M;

    totalSpentUsd += stepCost;

    // 預算斷路器:避免無限迴圈燒穿帳單
    if (totalSpentUsd > task.maxBudgetUsd) {
      throw new Error(`Budget circuit breaker tripped for ${task.id}: spent USD ${totalSpentUsd.toFixed(4)}`);
    }

    if (res.contract.status === "PASS") {
      return {
        ...res.contract,
        summary: res.contract.summary.slice(0, 300),
        costUsd: Number(totalSpentUsd.toFixed(5)),
      };
    }

    // 失敗超過 1 次即啟動模型升級 (Two-Strikes Escalation)
    const escalated = NEXT_TIER[currentTier];
    if (attempt >= 2 && escalated) {
      currentTier = escalated;
    }
  }

  return {
    taskId: task.id,
    status: "FAIL",
    summary: `任務 ${task.id} 歷經模型升級後仍失敗,已觸發人工介入。`,
    filesTouched: [],
    rawLogPath: `.agent-logs/${task.id}-final.log`,
    costUsd: Number(totalSpentUsd.toFixed(5)),
  };
}

🧰 實戰錦囊:可直接複製的 Multi-Agent 調度提示詞模板

你可以直接將以下兩組提示詞貼入你的主 Agent 系統提示詞或專案 AGENTS.md 中,立刻啟用「大腦手腳分離」與「Return Contract」紀律。

Prompt 01 · Director Brain 總監任務分派器(System Prompt) 複製即用
你是本系統的【調度總監大腦 (Director Brain)】。你的唯一職責是拆解架構、指派任務與驗收成果,嚴格遵守以下鐵則以防止 Context Rot 與 Token 浪費:
  1. 【大腦不動手原則】:

    • 嚴禁在主對話脈絡中直接讀取超過 300 行的原始檔案、搜尋結果或完整測試日誌。
    • 所有探索、搜尋、改碼、跑測試與格式巡檢工作,一律封裝為獨立子任務派發給 Subagent Worker。
  2. 【L1–L4 模型分流標記】: 你在派發每一個子任務時,必須明確標註難度等級與對應模型層級:

    • [L1-Lite]:檔案盤點、Log 壓縮、格式與語法巡檢。
    • [L2-Flash]:單一模組撰寫、單元測試生成、標準重構。
    • [L3-Sonnet]:跨模組除錯、API 狀態機整合。
    • [L4-Pro]:全局架構決策、資安審計、或 L2/L3 連敗兩次後的救援任務。
  3. 【兩次失敗即升級】: 若同一子任務在低階模型重試兩次仍未通過驗收,禁止繼續原地重試,必須立刻中止並將該任務升級至高一階模型重新派發。

Prompt 02 · Subagent Worker 隔離執行與 150 字契約模板 複製即用
你是被指派執行單一子任務的【專職子代理 (Specialized Subagent)】。你目前處於一次性隔離沙盒中,任務結束後你的對話記憶體將被銷毀。

本次指派任務:[填入單一具體目標] 授權讀取/修改路徑:[填入限定路徑清單] 單次預算上限:[例如:最多 6 輪工具呼叫]

執行完畢後,你【絕對禁止】將完整終端機日誌、原始程式碼或長篇思考過程回傳給總監大腦。你必須只輸出以下精簡 JSON 作為唯一回傳契約(summary 嚴格控制在 150 字以內):

{ "task_id": "[任務編號]", "status": "PASS | FAIL | ESCALATE", "files_touched": ["實際修改的檔案路徑"], "verification_command": "實際執行的驗收指令與結果", "raw_log_path": "若失敗,請將完整報錯寫入 .agent-logs/ 後只填寫路徑", "summary": "用不超過 150 字精準說明:做了什麼、驗證結果如何、若失敗的具體卡點為何。" }


🛠️ 生產環境疑難排解手冊(Troubleshooting Playbook)

在將 Multi-Agent 架構推向真實流量的過程中,最常出現以下 4 種隱形失血點,請按表逐項健檢:

異常徵兆 根本原因診斷 立即修復手段
帳單沒有下降,Cache Hit Rate 低於 20% System Prompt 或 Tool Definitions 中混入了動態時間戳、隨機 UUID,或每次載入工具的 JSON key 順序不一致。 強制將所有動態參數移至最後一則 user message;序列化 Tool Schema 時先執行鍵值字母排序(Deterministic Serialization)。
子代理不斷回傳「看起來成功但實際沒做完」 Return Contract 缺少客觀驗證欄位,導致 L1/L2 模型在沒跑測試的情況下口頭宣稱 PASS。 在契約中強制加入 verification_command 與程式化檢查腳本(例如由外部系統跑完 vitest 才允許切換為 PASS)。
任務在 L2 與 L3 之間來回派發、延遲過高 任務切分粒度過細(Micro-tasking),每跑一次 Subagent 都要重新暖機、建立檔案索引,造成額外 overhead。 將最小子任務粒度設定在「預估需要 3–8 輪工具呼叫」的模組級單元;低於 1 輪的單純問答直接交給 L1/L2 單次完成即可。
半夜排程跑出驚人帳單 某個子代理陷入「修改 A 破壞 B、修 B 又破壞 A」的無限互鎖迴圈,且沒有成本斷路器。 為每個 task_id 綁定硬性 maxBudgetUsd 與 maxAttempts = 3;觸發閾值直接熔斷並發送 Slack/Email 告警,交由人類審查。

🎯 總結:從「Token 暴發戶」進化為「精算架構師」

打造高品質 Multi-Agent 系統的秘訣,從來不是盲目追求單一模型的最大參數或百萬級 Context Window。

  1. 架構面:貫徹「大腦與手腳分離」,讓總監大腦永遠維持低負載與高清晰度。
  2. 經濟面:透過 L1–L4 模型階梯分流(讓 80% 苦力活交給 Flash / Flash-Lite)與 Static-First Prefix Caching(砍掉 75–90% 靜態重複輸入成本),實戰中總體 Token 花費通常能直接下降 80% 至 92%。
  3. 工程面:用嚴格的 150 字 Subagent Return Contract 取代隨興的文字對話,讓多代理協作真正成為可預期、可觀測、可規模化的軟體工程流水線。

延伸實戰教學推薦

查看全部 25 篇教學 →
Agent Engineering2026-11-09

Model Context Protocol (MCP) 實戰全攻略:從零打造讓 Claude 與 Cursor 自由調用本地資料庫的標準協議伺服器

深入解析 AI 時代的 USB-C 標準——Model Context Protocol (MCP)。從 Host / Client / Server 三層架構、Resources / Prompts / Tools 三大原語,到 stdio 與 Streamable HTTP 傳輸比較,手把手帶你用 TypeScript 與 @modelcontextprotocol/sdk 打造具備唯讀防注入與路徑邊界防護的本地資料庫 MCP Server。

閱讀完整教學 →
AI Engineering2026-11-08

Vibe Coding 進階心法(上):學會 Harness Engineering —— 把 AI 野馬套上韁繩的「鷹架施工法」

專為非工程師與一人創作者打造的進階架構實戰!解密頂級工程師如何用「Harness Engineering(束具與鷹架工程)」駕馭隨機的 AI Agent。從「水泥灌漿模板」與「野馬韁繩」的直覺隱喻出發,傳授規格防護罩(Spec-Driven Development)與專案家規防護繩(Rule Harness),並附贈 4 套可直接複製至專案的規格模板與 .cursorrules 實戰憲法!

閱讀完整教學 →
AI Engineering2026-11-08

Vibe Coding 進階心法(下):打造閉環自癒的「自動試車台」—— 不用看懂程式碼,讓 AI 自己改考卷修到好

專為非工程師與一人創作者打造的進階架構實戰完結篇!深入拆解 Harness Engineering 的核心武器「自動試車台(Evaluation & Verification Harness)」。藉由 F1 賽車室內測功機的直覺隱喻,傳授如何為專案建立「一鍵冒煙檢測」與「閉環自癒反饋系統(Self-Healing Closed Loop)」,讓 AI 在背景自主修復 Bug 直到全站綠燈,徹底告別手忙腳亂的人工肉眼測試!

閱讀完整教學 →