新科技速遞
雖然說,AWS不算是人工智能(的先行者,以AI基礎研究不及Microsoft和IBM,以容器、AI架框不及Google,不過將人工智能推向應用,則不能不說提及AWS產品線。
AWS簡化整個人工智能訓練工具SageMaker,以及林林總總的行業應用,數年內為AWS帶來大量的客戶,遍及各個領域。
AI從數據預備(Prepare),以至建立模型(Build),然後是訓練和微調(Train/tune),最後部署/管理(Deploy/Manage)。AI與傳統電腦運算的最大分別,以往編程以Rule based為主,AI則以機器學習,訓練模型作出決策。
AI模型訓練靠大量數據,其次數據必須先經轉化再標注(Labelling),極為耗用人手,然後是選擇合適算法(Algorithm),不斷微調可能的參數,部署模型並監控其推理(Inference)的凖確性。不少AI模型須快速回應,又往往部署在邊緣運算,模型又不斷要優化,必須工具作部署/管理,更新等。
AWS亞太區新興技術總監Olivier Klein表示,亞太區多家金融機構和初創均採用了AWS的機器學習方案,其中SageMaker支援各種AI框架;包括最多人採用開源Tensorflow、PyTorch、MXNet等,上述框架以Tensorflow及PyTorch佔去主要市場。SageMaker屬於托管式服務,可縮短建置、訓練及部署機器學習(ML)模型的時間和技術要求。
SageMaker也縮短學習曲線,不少初創和金融機構,都是透過AWS開始訓練機器學習,即使是Coinbase和Mastercard的Nudata security,也是透過AWS偵察欺詐行為。本港WeLab也是利用AWS運行核心銀行系統和反欺詐等。
數據凖備工具
每年AWS為SageMaker,去年加入自動標註數據的Ground Truth,可以預先處理數據,以方便為數據集作自動標註。今年加入Data Wrangler準備機器學習數據。準備數據是機器學習開始的必經階段,Wrangling通常是指將原始數據清洗和轉化成適當的格式,以便分析工具可以使用;但過程非常耗時和費力,Azure就推出Data Factory自動化核對和轉換數據格式。Data Wrangler有望解決數據凖備的痛點,除了機器學習,也有助分析,例如送往數據倉庫Redshift或Snowflake前的凖備,不過類似方案近年如雨後春筍,
SageMaker也推出偵察AI模型偏見的Clarify,以觀察模型內對於性別或種族等的偏見判斷。AI模型直接作出決定,有時像黑箱作業,必須找出數據內部所帶的偏見,以免作出對於某些群體不利的決定,並符合法規要求。
而Pipelines則管理工作流程和自動化為機器學習構持續整合和交付(CI /CD)服務,可以持續不斷優化模型。
工業視覺運算
AWS也發佈了完全毋須自行訓練,以機器學習管理生產和智能製造方案,方便部署,毋須經驗,進一步降低機器學習的使用門檻。
Monitron用於作機器維修作預測性分析,可為現時沒有智能設計的設備,加上溫度和震動等傳感器、機器上各種數據,以藍芽傳回附近的閘道裝置,再連接至AWS的雲端,以機器學習服務點對點監控,偵測可能需要保養的異常狀況,完全毋須建立任何模型,自動發送訊息到流動應用。
Lookout for Equipment則為已有設備傳感器的客戶提供使用,直接將傳感器上傳至AWS,以AWS 機器學習模型偵測異常設備行為,並進行預測性保養。
不少生產線或場所都希望在邊緣設備,加入視覺運算,AWS推出針對IP鏡頭的Panorama Appliance設備,以視覺運算偵察產品的質素,設備上有插入RJ-45的端口,只有接入具備IP鏡頭的交換器,Panorama自動尋找IP鏡頭,再利用設備上的GPU作分析,只要從雲端下載適當的分析模型都可運作,Panorama只是利用一般IP攝影機,就可以視覺運算改善品質控制和工作場所安全。Panorama類似是安防領域的Milestone,支援多種場景視覺分析,並可以從第三方下載模型,部分模型跟Milestone類似,如車牌辨認和零售分析,但Panorama不單可將推理結果,發現的異常情況以HDMI埠傳回顯示屏,也可變為MQTT訊息傳往其他系統。
AWS也推出Panorama 軟件開發套件(Software Development Kit ),以Panorama SDK自行開發開發視覺運算模型在上設備上推理,也可應用在具視覺運算功能的攝影機,例如安裝NVIDIA和Ambarella芯片的鏡頭,處理高辨識度的高品質短片以發現異常情況。國內不少品牌,類似海康威視和大華,已推出AI鏡頭和AI模型,也可在邊緣作運算。不過鏡頭內芯片受制於處理能力,上述兩家芯片視覺運算有不少性能,可更凖確識別內容;國內則以華為海思芯片為主,未來具備AI性能的鏡頭,可能成為主流。
Lookout for Vision則可傳送圖像和視頻串流到AWS雲端,以經訓練的視覺運算模型發現產品或流程中異常和缺陷,AWS只要約30個影像就可訓練出找出產品缺陷和不符合規格的模型,相當簡單。Lookout for Vision可針對不講求低時延,而準確度較高的分析。