[自主科技]
雲原生計算基金會(CNCF)和 Linux 基金會在香港首辦KubeCon China,人工智能(AI)成為焦點,本港科企參與開源,有望加快AI發展。
Linux基金會執行董事Jim Zemlin表示,開源技術解決AI安全挑戰,可發揮關鍵作用。開源社區建立共同開發工具標準,確保生成AI真實性,保護個人隱私打擊欺詐,消除模型內的偏見。Linux基金會屬下的LF AI & Data基金會創建模型開放框架(Model Openness Framework,簡寫為 MOF),提供開發指引和加強透明度。
CNCF託管開源項目達191個,包括Kubernetes、Prometheus和Envoy等關鍵項目,貢獻源碼的開發人員超過了24萬名,分佈190國,中國貢獻量排名第二,本港亦參與炙手可熱的Kubeedge項目。
開源科研來港合作
中國最早參與Kubernetes項目,CNCF創始成員上海道客(Daocloud)亦來港參展,公佈了與本港初創安眺科技(n-hop)展開合作。
Kubernetes簡稱為K8s,編排和協調容器應用開源框架,可自動化部署、擴充和管理容器。Kubernetes叢集可跨主機運行,協調和調節容器應用,自動擴充、負載平衡、發現服務和自行復原等,幾乎是雲源生的標凖。新一代雲源生應用以容器開發,也廣泛應用在AI訓練和推理上。
Kubernetes主要部署在數據中心內,亦衍生KubeEdge項目向邊緣伸展,也就是在邊緣位置部署Kubernetes,達到「邊雲協同」(Edge-cloud collaboration),通過網絡伸展Kubernetes能力,結合現場產生的數據,減低延遲,加快決策和執行,全球超過1600開發者正參與KubeEdge項目。
邊緣運算潛力無限
中國深度參與KubeEdge,開發不同應用場景;包括物聯網、製造、醫療、機器人、故障檢測、災難救援,結合「流動自組織網絡」(MANET), KubeEdge可部署在無人機上。KubeEdge通過Sedna項目,實現AI協同訓練推理,如聯合推理、增量學習、聯邦學習、終身學習(Lifelong learning)等。
但是部署KubeEdge仍有不少挑戰,包括了網絡穩定和可靠性;不少安裝KubeEdge的「主機」,其實都是移動中的「物件」,必須先解決通訊難題。
港產科技揚威國際
n-hop開發BATched Sparse Code (BATS),恰好可針對上述難題。BATS協定乃基於中大楊偉豪教授上世紀90年代共同發明的網絡編碼(Network Coding),可應用在流動網絡、智慧城市和數據中心。2022年楊偉豪獲IEEE頒發克勞德•香農獎(Claude E. Shannon Award),表揚在網絡編碼上貢獻。
BATS是全新數據編碼策略,可減少數據包在不穩定網絡上丟失、延遲和數據多次重傳等缺點。n-hop正開發用於網絡編碼加速晶片,包括數據處理單元(DPU)晶片,大幅改善網絡連接,較早前入選科技創新署的產學研1+(RAISe+)計畫。
n-hop行政總裁何偉中說,未來會在本港建立通訊實驗室,以測試BATS真實數據。KubeEdge前景廣闊,有望帶動多項產業,包括機械人、聯邦學習、無人機應用等。n-hop參與KubeEdge開發,不單對全球開源社區,對本港亦有深遠意義。
網絡技術推動落地
何偉中說:「例如無人機已應用在救援和設備檢測、本地亦開發機器人和無人駕駛,甚至中國推動的「東數西算」工程,以西部的可再生能源,發展數據中心承接東部算力需求,BATS協定和KubeEdge都有不少應用場景。」
n-hop將與深度參與開發Kubernetes的DaoCloud合作,推動KubeEdge商業化落地。DaoCloud是全球容器技術領導廠商,2013年已參與GitHub的Docker開發,再參與 Kubernetes平台並成CNCF成員,源碼貢獻排名全球第七;前六位為Google、Red Hat、VMware、Microsoft、IBM、Amazon,可見其研發實力。DaoCloud提供企業級 Kubernetes 商用平台,員工達500人,七成從事研發。
n-hop與DaoCloud在KubeCon上專題演講,探討「KubeEdge如何構建一個安全、可信、並適應邊緣網絡的通訊隧道」,以網絡編碼解決KubeEdge難題。
n-hop平台工程師Clement Richard解釋,n-hop基於網絡編碼BATS協議,可應用在KubeEdge提升通訊質素。DaoCloud則擁有多家企業客戶,並積極研究以KubeEdge部署AI,最近落戶科技園公司轄下九龍塘創新中心,DaoCloud可替代VMware平台,為企業轉移至雲原生平台,有望助本港加快採用開源技術。