【創科廣場】降低邊緣AI門檻 Azure Percept預覽版面世

人工智能（AI）應用愈來愈廣泛，不過一般人不易掌握，要部署在邊緣更加困難。雖然AI推理（Inference）可在雲端執行，但是不少推理功能，要馬上作出決定，瞬間就作出回應，必須在邊緣執行。

 

模型訓練可能是在雲端，推理則在邊緣執行，採用的硬件不同，部署邊緣模型，須作修改和優化，以針對特殊的硬件要求。

 

去年，AWS推出多種用於邊緣推理的專用設備，包括AWS Panorama和Amazon Monitron，以在邊緣執行視覺運算分析，另外Amazon Monitron專門則蒐集溫度和震動，供機器作預測性分析。

 

雲運算平台推出專門的硬件，以降低部署的門檻。Microsoft在剛舉行Ignite大會上，推出Azure Percept預覽版，簡單來說就是可直接在邊緣上部署AI，包括了部署和管理設備、開發AI模型及分析等。Percept設備是向客戶提供端到端系統，從硬件到AI分析，毋須太高技術要求亦可以運作。

 

Azure Percept包括了開發包及智能鏡頭Azure Percept Vision，並且包括了Azure Percept Studio指導用戶如何開發、訓練以及架設概念驗證的想法。

 

專用方案陸續出籠

 

例如上述系統設立的視覺運算，可應用在產品檢查，產品未出廠之前，AI鏡頭檢查是否有疪漏，Microsoft的AI邊緣產品包括Azure Percept Vision及Azure Percept Audio兩大功能，配合不同開發套裝出貨，並自動連接Azure雲端服務，裝置有內嵌硬件AI加速模組，毋須連接到網上，亦可自行獨立執行AI視覺和語音分析，並傳回答案。

 

邊緣運算對AI尤其重要，不少分析和決定，都要極短時間內執行傳回結果，不夠時間連接到雲端才執行，又或部署場所，根本上沒有穩定上網連接，自動駕駛就是幾乎完全靠邊緣AI運算。

 

Azure Percept包含了硬件和雲服務，可直接連至雲端的服務，自動使用Azure人工智能和物聯網功能，除了今次公布的硬件，Microsoft正與多家晶片設計及設備生產商，包括NXP等展開合作，以推出專為Azure Percept平台設計的邊緣設備，直接可使用Azure物聯網各種保安功能。

 

Sones表示，Azure Percept產品只示範如何使用兩種最常見AI功能；包括視覺運算和語音處理，日後廠商會推出不同專用設備。

 

簡易設計邊緣方案

 

以往，企業要建立邊緣的AI，須找工程師設計硬件，再找數據科學家訓練AI模型，然後移植到邊緣設備。工程人員和數據科學，又往往不了解對方的要求，Azure Percept則打破雙方鴻溝，簡化開發邊緣的AI方案。開發人員既不須開發設備經驗，又毋須數據科學基礎知識，就可設計部署邊緣AI方案。

 

Azure Percept以工業標準80/20T-slot framing硬件包裝，易於在概念驗證嵌入設計，再以Azure Percept development kit連接設備到Azure AI Cognitive Services及機器學習模型，並且可以使用專門設備，針對邊緣推理的AI公開源碼模型。

 

除了預設的AI模型，設備一旦連接Azure，自動由Azure IoT Hub接管，自動啟動物聯網各項保安設定。

 

Azure Percept預設的各項AI模型針對物件辨識、貨架分析、場地保安、指令及控制中心等。

 

Microsoft指客戶毋須編程經驗，就可修改、訓練、部署上述多種模型作特定用途。而所有數據在傳送、靜止、均到不同層面加密保護，並以零信任機制，不斷監察和驗證設備身分。