耗電量龐大的資料中心持續增加，迫使人工智慧產業必須創新尋找電力來源。其中一項最新構想是：在公用事業變電所旁邊建造微型資料中心，並以協同方式運作，根據電力供應情況彈性調度運算任務。

Nvidia 與合作夥伴即將在今年稍後展開一項試驗計畫，採取上述做法。他們將在美國五家公用事業公司範圍內，建造約 25 座小型資料中心，每座容量介於 5 至 20 百萬瓦（MW）之間。若某一變電所電力需求過載或發生停電，運算任務將轉移至另一座鄰近且有剩餘容量的變電所旁資料中心。

為打造此一機群，Nvidia 與資料中心建置商 InfraPartners、房地產服務商 Prologis 及非營利組織 EPRI（前身為電力研究機構）合作。

此計畫旨在展示資料中心如何更具彈性，並配合電力供應狀況。同時也能讓資料中心開發商更快取得電網電力——即使是小規模容量，電力如今也已成為稀缺資源。

EPRI 代理式 AI 計畫與分散式 AI 架構總監 Ben Sooter 表示：「我們開始評估各變電所可用的[未使用]電力，發現平均約有 5 MW 可用……最高可達 20 MW。」

他指出，這個規模對大多數資料中心業者來說太小，但若將多座此類小型設施集中運作，等同於一座較大的資料中心。此外，將運算任務從負載過重的變電所轉移至有餘裕的變電所，可使整體可用電力增加一倍。

Nvidia 能源資深總監 Marc Spieler 補充：「美國有 55,000 座變電所，若每座都有 5、10 或 20 MW 的備用容量，總量將非常可觀。」

將能源彈性納入資料中心設計

隨著資料中心持續擴建，從電網擠出每一兆瓦剩餘電力將變得日益重要。在美國——半數新資料中心正在此地興建——根據 EPRI 估計，到 2030 年，資料中心可能消耗發電量的 9% 至 17%，是目前用量的兩倍以上。訓練 AI 模型的設施已達到 吉瓦（GW）規模，用電量相當於美國一座中型城市。

電網業者正設法容納這些龐大新增負載，而資料中心開發商有時需等待長達十年才能取得電網連接許可。為此，開發商正採取前所未有的電力策略——這些做法在兩年前仍難以想像。

許多業者選擇 在現場自行興建燃氣發電廠。有些業者願意支付新建輸電線路及其他電網基礎設施的費用。少數業者甚至 投資新創公司，開發核融合與新一代核分裂反應爐，希望在十年後滿足電力需求。

然而，電網上實際可用的電力遠多於每日用量。根據杜克大學 Nicholas 能源、環境與永續發展研究所 2025 年的一份重要報告，美國電網業者平均僅使用發電容量的 53%。

這是因為美國電力系統的設計目的是因應尖峰需求——例如夏季最炎熱的日子等一年中用電量最高的時段。這些尖峰負載可能接近平溫日負載的兩倍，且通常一年不到 200 小時。其餘時間，許多發電廠處於閒置狀態。

若 AI 資料中心能設法在尖峰時段減少或移轉用電，或許就不需要採取興建現場發電設備這種極端措施。根據 Nicholas 研究所報告，若大型負載（如資料中心）僅在 0.25% 的時間內減少用電，美國電網即可額外提供 76 GW 電力，約占尖峰需求的 10%。

能源彈性也能讓資料中心更快與電網連接，因為無需等待新電廠建成。此外，將小型資料中心直接建在變電所旁，可減少對新電網基礎設施（如電線、電桿）以及升級變壓器與開關設備的需求。Nvidia 的 Spieler 指出，這些變電所已配有光纖線路，可提供高速網路，因此小型資料中心可直接連接現有線路。

推論運算的優勢

資料中心能提供的彈性程度，部分取決於工作負載。主要分為兩類：AI 訓練（例如開發大型語言模型或影像生成模型）以及推論（使用模型回應用戶聊天機器人問題或影像請求）。

訓練需要大量 GPU 緊密互聯的大型資料中心。例如，Meta 的 Llama 3.1 405B 模型在 16,000 個 GPU 上訓練約需兩個半月。訓練期間，每一步驟需同時調整所有模型權重，因此 GPU 必須透過高速連結（如 Nvidia 的 NVLink 與 InfiniBand 互聯）連接。將 AI 訓練工作負載分散到多座微型資料中心並不實際。不過，由於訓練需數月時間，可在尖峰需求期間短暫暫停，以減少用電。

推論則不需要大量 GPU 或複雜網路。模型只需接收單一用戶查詢，而非大量資料，即可產生回應。此過程不涉及反向傳播（backpropagation），因此無需在不同輸入資料區塊之間進行大規模協調。推論適合在小型資料中心執行。然而，時效性至關重要。當您要求影像生成器將您的臉貼在可愛貓咪身上時，您當然希望立即看到結果。因此，能源彈性並非短暫暫停運算，而是將工作負載動態轉移至其他有電力可用的地點。

模組化資料中心公司 Mod42 策略與營運資深副總裁 Valerie Crafton 表示：「推論是少數可以動態路由的工作負載之一。這意味著運算任務可以與實際可用的電力位置對齊。這正是推動許多小型資料中心在電力所在地興建的獨特因素。」

Nvidia 與 EPRI 持續展示各類資料中心彈性方案。他們將此一以變電所為基礎的策略稱為「分散式推論」。該計畫已於 今年二月宣布，目標在 2026 年底前開始興建試驗機群。Nvidia 與 EPRI 估計，運算工作負載只需約 0.1% 的時間轉移至其他變電所。

走向微型資料中心 的概念正加速發展。Sooter 表示：「我們目前處於運算浪潮中，每個人都正在興建極大型資料中心——5 吉瓦規模的巨型設施。」但他指出，「第二波運算浪潮即將到來」，將以處理推論的小型資料中心為主。他說，科技公司「正大力推動此趨勢，因為他們預期 2027 年推論運算需求將大幅成長」。

本文已於 2026 年 5 月 13 日更新，以更正 76 GW 數據的來源。

本文刊登於 2026 年 7 月印刷版，標題為「小型資料中心緊鄰電網變電所」。