香港電訊推出超低時延3.2Tbps AI數據中心互聯Superhighway 支持 AI 發展
香港電訊（股份代號：6823）今日宣布，計劃推出全港首創的超低時延3.2Tbps人工智能（AI）數據中心互聯（DCI）Superhighway，讓AI基礎設施供應商及不同機構能夠在多個數據中心之間以超高速存取算力資源，滿足新一代AI運算負載的需求，特別是連結不同數據中心的GPU作訓練或推論用途。
AI運算需求激增 跨數據中心互聯發展
AI運算負載持續增長，並可能超出單一設施的處理能力，各機構日益需要存取分佈於多個數據中心的算力資源。超低時延3.2Tbps AI DCI Superhighway讓AI基礎設施供應商能高效擴展其訓練及推理能力，同時支援大學及研究實驗室等機構無縫匯聚全港各區的算力，以進行複雜的科學模擬。
要在多個數據中心之間建立AI叢集，必須使用遠端直接記憶體存取（RDMA）及增強型以太網聚合遠端直接記憶體存取第二版（RoCEv2）等技術，前提是數據中心之間的網絡連接必須符合嚴格的時延及頻寬要求。這些技術允許分佈於不同伺服器的圖形處理器（GPU）共享記憶體及數據，對於分散式AI訓練及推理至關重要。
然而，將AI叢集擴展至地理位置分散的數據中心，相比在單一設施內建立叢集，面臨多項關鍵限制。其中，時延是最大的制約因素。AI訓練（例如使用NVIDIA集合通信庫（NCCL）進行同步梯度交換）要求GPU之間的時延控制在亞微秒至低單位數微秒範圍內。若數據中心之間的距離超過數公里，受限於光速傳播的物理極限，將無法實現這一目標。
此外，網絡必須「零丟包」，因為RDMA對封包丟失極為敏感。雖然RoCEv2可在標準IP/以太網上路由，但無法在傳統擁塞的互聯網管道上可靠運行分散式AI訓練。因此，必須採用專用、無擁塞的連接，並配備服務質量（QoS）、優先流量控制（PFC）及顯式擁塞通知（ECN）等機制。
空芯光纖突破傳統限制 實現超低時延互聯
傳統光纖難以滿足AI訓練對超低時延的要求，香港電訊因此採用空芯光纖（Hollow-Core Fiber，簡稱HCF）。HCF的核心特點是讓光在「空氣（或真空/惰性氣體）」中傳輸，而非傳統光纖的「實心玻璃（石英）」。這項技術被視為下一代網絡（尤其是AI智算數據中心及高頻金融交易）突破，直接打破了傳統玻璃光纖的物理極限。
憑藉HCF，即使AI數據中心位於將軍澳，亦可實現與落馬洲河套區之間的超低時延連接。模型訓練通常要求數據中心位於同一園區或透過極低時延的暗光纖連接，以維持高GPU利用率；而分散式推理則可容忍較高時延，容許跨較長距離部署。
3.2Tbps AI DCI Superhighway技術架構及優勢
香港電訊的3.2Tbps AI DCI Superhighway在800Gbps AI Superhighway的基礎上升級，支援多項行業標準作訓練及推論，包括：
- 遠端直接記憶體存取（RDMA）：實現GPU之間的高速數據共享；
- 聚合以太網RDMA第二版（RoCEv2）：在標準以太網上實現RDMA功能；
- 多路徑可靠連接（MRC）：提升網絡容錯能力及穩定性；
- 超以太網傳輸（Ultra-Ethernet Transport）：優化大規模AI叢集的數據傳輸效率。
網絡將於計劃中由落馬洲河套區延伸至將軍澳的空芯光纖運行，時延較傳統光纖低約三成。高頻寬結合超低時延，分佈於各數據中心數以千計的GPU可保持同步運作，數據傳輸延遲減少，有助降低運算時間及成本，大大降低每位元耗能（power-per-bit），提升 AI 能源效益。
3.2Tbps AI DCI Superhighway 可以支援NVIDIA集合通信庫（NCCL） 為多GPU集合通信優化的函式庫。當訓練大型AI模型時，單一GPU無法容納整個模型或數據集，模型必須分佈於數千個GPU上。NCCL負責管理這些GPU之間的數據同步，自動化複雜的通信模式。
NCCL被視為NVIDIA的在AI晶片業的最大武器之一，由設計NVIDIA GPU、NVLink及Mellanox Quantum InfiniBand交換器的同一團隊開發，能夠在硬件層面實現極致效率。對於AI晶片廠商而言，雖然可能在單晶片性價比上超越NVIDIA，但AI應用需要擴展至上萬個晶片。若缺乏類似NCCL等框架，隨著晶片數量增加，硬件會有80%時間，處於等待網絡的狀態，導致訓練和推論效能遞減。NCCL確保近乎線性擴展能力，所以是實現大規模AI訓練的關鍵技術，亦是NVIDIA的護城河，全球 AI 晶片廠商無法望其項背。
為香港AI發展奠定基礎
香港電訊商業客戶業務董事總經理吳家隆表示：「對香港電訊，網絡連接是香港AI未來的關鍵基礎。新一代光纖網絡能提供超低時延、高速且安全的數據互通，全面釋放AI的發展潛力。透過無縫連接並充分運用香港的算力資源，我們令模型訓練更為迅速、實現實時數據處理，並推動跨行業AI創新，鞏固香港作為領先創科樞紐的地位。同時為北部都會區奠定重要基礎，一方面將河套區與現有數據中心連接，另一方面為接入未來在區內投入服務的新運算資源作好準備。」
香港電訊網絡工程主管兼Fiber Link Global行政總裁鄺偉銓表示：「香港電訊致力推動香港創科發展，我們升級覆蓋香港主要數據中心集群的AI Superhighway，首階段將連通落馬洲至將軍澳，目標於2026年底前完成，並支援即將上馬的兆瓦級沙嶺數據園區，為香港創科生態系統的長遠發展構建網絡基礎。」
連接河套區及沙嶺數據園區
香港電訊的AI Superhighway將香港各主要數據中心集群與位於落馬洲河套區的新AI機樓互連。集團亦已擬將覆蓋範圍延伸至日後的沙嶺數據園區，支援其發展成為數據設施集群。
AI應用的普及，對高效能運算及低時延網絡的需求將持續上升。香港電訊此次推出的3.2Tbps AI DCI Superhighway，為本地AI生態系統提供重要基礎設施。
空芯光纖是一種新型光纖技術，其纖芯由空氣或惰性氣體填充，而非傳統的玻璃材質。由於光在空氣中的傳播速度接近真空光速（約為玻璃中的1.46倍），HCF能顯著降低信號時延，同時減少色散及非線性效應，適用於AI數據中心互聯、高頻交易及量子通信等對時延極為敏感的應用場景。
RDMA是一種允許計算機直接存取遠端系統記憶體的技術，無需經過CPU處理，從而顯著降低時延及CPU負載。RDMA廣泛應用於高性能運算（HPC）及AI訓練場景，常透過InfiniBand或RoCEv2協議實現。
NCCL是NVIDIA開發的一套函式庫，專為多GPU集合通信優化，支援All-Reduce、Broadcast等通信原語。NCCL能夠充分利用GPU硬件特性，實現近乎線性的擴展效能，是大規模AI訓練的關鍵工具。