QCon AI Boston 2026 標誌著轉折點。我們過去幾年花費大量時間學習如何建構 AI 代理。現在的問題是，一旦代理上線，要如何安全且可靠地運行它們。幾乎每一場演講都回到同一個主題：代理正迫使團隊圍繞它們建立真正的生產基礎設施。

OpenAI 的 Martin Spier 在開幕主題演講中定下基調。他的演講聚焦於效能，但不是狹義的「讓推論更快」這種層面。在推論之前有一段安靜的時間，此時產品必須讓對話對模型來說是可用的：提供足夠的上下文來協助，同時進行足夠的修剪以保持快速。換句話說，即使模型已經很快，產品端仍有大量工作需要進行才能讓系統變快。

「基礎變得更重要。」
Martin Spier 的「Keeping ChatGPT Fast as AI Development Accelerates」

這成為觀察會議其餘內容的良好視角。圍繞代理的工作正變得不再那麼耀眼。它正成為決定系統是否能在真實使用者接觸下存活的乏味基礎設施工作。第一個重複出現的趨勢是，上下文與代理基礎設施正上升為獨立的平台層。團隊正從單一用途的應用程式轉向共享系統，用於處理上下文、工具存取、身分與狀態。這就是為什麼像是上下文工程、MCP 閘道以及語義工具目錄等概念，開始看起來像是核心基礎設施。而作為核心建置區塊，它們需要擁有者與合約。

「精準 + 安全性 + 成本」
Fabiane Nardon 的「Architecting the Data Layer for AI Agents: From Transactional Systems to MCP and Semantic Models」

「上下文工程不是功能，而是架構。把這件事做好，其他事情就會變得更容易」
Ricardo Ferreira 的「Beyond Prompting: Context Engineering for Production-Grade AI」

「擁有狀態。排序變更。證明動作」
Vinoth Govindarajan 的「The Agent Harness: Control Planes, Invariants, and Approval Boundaries for Production AI Agents」

第二個趨勢是信任——從提示層級的防護機制轉向可信賴的執行，也就是 harness。當代理獲得工具與檔案存取權限時，安全性就不能再依賴提示中的指令。Harness 是圍繞模型的系統。工具可以在使用者看不到的情況下執行，因此生產系統需要清楚的狀態擁有權、有序的寫入、核准邊界，以及真正的審計軌跡。問題不再是代理是否給出好的答案，而是系統能否證明採取了什麼動作、由哪個元件執行，以及在哪些限制與權限之下。

「最有效的組織會做兩件事：

  1. 徹底改善 AI 在 SDLC 各階段的使用
  2. 解決限制成果的瓶頸」

Lizzie Matusov 的「The Five Stages of AI Maturity in Engineering Organizations — Where and Why Teams Get Stuck」

「及早撰寫策略。圍繞客戶建構。擁有公司契合的介面」
Siddharth Kodwani 與 Swaroop Chitlur 的「Building GenAI Platform at DoorDash」

第三個趨勢是 AI 採用本身正成為工程營運模式。一旦使用普及，乏味的問題很快就會出現：誰來支付費用、誰可以呼叫哪些工具、故障會出現在哪裡，以及團隊如何從中學習。透過 API 公開模型，或是給工程師一個聊天機器人是不夠的。團隊需要鋪好的路徑、共享的政策介面、評估迴路、可觀測性、成本歸屬，以及讓正確行為比快速但有風險的行為更容易的回饋機制。

一個突出的主題是工程組織應該如何思考評估。單次測試可以捕捉明顯的失敗，但代理不總是在第一回合失敗。單回合測試與靜態基準測試，對於使用工具、維護狀態、帶有上下文，並且在不同回合中表現不同的系統來說，並不適合。因此測試必須更貼近產品的形態：對話、追蹤、模擬、生產回饋。若沒有這些，測試可能會顯示成功，而使用者卻遇到基準測試從未涵蓋的失敗。

綜合來看，QCon AI Boston 2026 顯示生產 AI 正從提示工程轉變為系統問題。困難的問題正轉向上下文、資料合約、LLM 與 MCP 閘道、狀態、評估、延遲、成本、可觀測性，以及最終的安全性與信任。圍繞模型的 harness 現在與模型本身同等重要。代理可能說話像同事，但它們像軟體一樣失敗，而要妥善運作它們，取決於平台工程與分散式系統的舊有經驗。

關於作者

Tatiana Fesenko