新科技速遞
人工智能(AI) 應用愈來愈廣泛,不過一般人不易掌握,要部署在邊緣更加困難。雖然AI推理(Inference)可在雲端執行,但是不少推理功能,要馬上作出決定,瞬間就作出回應,必須在邊緣執行。
模型訓練可能是在雲端,推理則在邊緣執行,採用的硬件不同,部署邊緣模型,須作修改和優化,以針對特殊的硬件要求。
去年,AWS推出多種用於邊緣推理的專用設備,包括AWS Panorama和Amazon Monitron,以在邊緣執行視覺運算分析,另外Amazon Monitron專門則蒐集溫度和震動,供機器作預測性分析。
雲運算平台推出專門的硬件,以降低部署的門檻。Microsoft在剛舉行Ignite大會上,推出Azure Percept預覽版,簡單來說就是可直接在邊緣上部署AI,包括了部署和管理設備、開發AI模型及分析等。
Microsoft企業副總裁Roanne Sones指Percept設備是向客戶提供端到端系統,從硬件到AI分析,毋須太高技術要求亦可以運作。
Azure Percept包括了開發包及智能鏡頭Azure Percept Vision,並且包括了Azure Percept Studio指導用戶如何開發、訓練以及架設概念驗證的想法。
專用方案陸續出籠
例如上述系統設立的視覺運算,可應用在產品檢查,產品未出廠之前,AI鏡頭檢查是否有疪漏,Microsoft的AI邊緣產品包括Azure Percept Vision及Azure Percept Audio兩大功能,配合不同開發套裝出貨,並自動連接Azure雲端服務,裝置有內嵌硬件AI加速模組,毋須連接到網上,亦可自行獨立執行AI視覺和語音分析,並傳回答案。
邊緣運算對AI尤其重要,不少分析和決定,都要極短時間內執行傳回結果,不夠時間連接到雲端才執行,又或部署場所,根本上沒有穩定上網連接,自動駕駛就是幾乎完全靠邊緣AI運算。
Azure Percept包含了硬件和雲服務,可直接連至雲端的服務,自動使用Azure人工智能和物聯網功能,除了今次公佈的硬件,Microsoft正與多家晶片設計及設備生產商,包括NXP等展開合作,以推出專為Azure Percept平台設計的邊緣設備,直接可使用Azure物聯網各種保安功能。
Sones表示,Azure Percept產品只示範如何使用兩種最常見AI功能;包括視覺運算和語音處理,日後廠商會推出不同專用設備。
簡易設計邊緣方案
以往,企業要建立邊緣的AI,須找工程師設計硬件,再找數據科學家訓練AI模型,然後移植到邊緣設備。工程人員和數據科學,又往往不瞭解對方的要求,Azure Percept則打破雙方鴻溝,簡化開發邊緣的AI方案。
開發人員既不須開發設備經驗,又無須數據科學基礎知識,就可設計部署邊緣AI方案。
Azure Percept以工業標凖80/20 T-slot framing硬件包裝,易於在概念驗證嵌入設計,再以Azure Percept development kit連接設備到Azure AI Cognitive Services及機器學習模型,並且可以使用專門設備,針對邊緣推理的AI公開源碼模型。
除了預設的AI模型,設備一旦連接Azure,自動由Azure IoT Hub接管,自動啟動物聯網各項保安設定。
Azure Percept預設的各項AI模型針對物件辨識、貨架分析、場地保安、指令及控制中心等。Microsoft指客戶毋須編程經驗,就可修改、訓練、部署上述多種模型作特定用途。而所有數據在傳送、靜止、均到不同層面加密保護,並以零信任機制,不斷監察和驗證設備身份。