【創科廣場】交談式AI進入新時代 Google年度開發者大會捲土重來

2021-05-28 11:00

去年,因新冠疫情而停辦的年度開發者大會Google I/O,睽違2年後,終於網上舉行。會上Google行政總裁 Sundar Pichai 發表公布一系列產品。

Google影響力已無孔不入,從廣告、搜尋、地圖、Google相簿、購物。雖然說,相比於設計精巧的蘋果iOS作業系統,Google的Android顯得簡陋,蘋果的流動應用,卻仍不是Google對手,無論是利用那一個流動平台,不少人仍靠Google地圖,了解路面情況。

Google地圖也擁有最多數據,可以優化預測模型,一直遙遙領先,Google發現最短的路綫,未必是最佳的路綫,利用機器學習及所收集路面資訊,可讓駕駛者預早做好減速準備,甚至選用其他較不擠塞路綫。

Map終於關心行人

Google利用了兩組數據訓練機器學習;包括Google地圖手機偵測到路面可能發生擠塞,而必須突然減速情況,包括利用了Google地圖導航的車輛;如備有Android Auto汽車採集的路綫資訊,預測某段路可能發生突然塞車,減少需要突然煞車,以至辨識暢快的行車路綫,同時建議多一條最相近路綫,幫助行車順暢安全。

以往司機使用Google地圖尋路,愈來愈多行人,也靠地圖找目的地,Google提升了實景(Live View)功能,加強地圖的細節,即時從Google地圖瀏覽路面的實景,檢視周邊的商店及餐廳相關資訊,從實景直接找到方向和位置。

Google地圖全新的街道符號,可更清楚標示複雜十字路口,甚至紅綠燈和過馬路輔助綫,顯示出用家所在位置與目的地之間距離。去年推出的詳盡街道地圖,今年底會覆蓋多達50個城市,包括香港在內。

根據Google對全球城市面貌的認識,Google地圖能顯示大大小小的行人路、斑馬綫、安全島等設施準確位置,按比例呈現道路形狀,甚至是闊度,以方便行人,尤其輪椅或嬰兒車的用戶,策劃合適路綫,顯示區域的繁忙程度,區內熱點如某街道,是否比平日繁忙。

根據當前時段,亦可顯示地點的最相關資訊。例如一般平日上午,打開Google地圖,只顯示已開的咖啡店,不顯示晚飯熱點,以免摸了門釘。

此外,利用上傳照片至網絡,也可自行診檢不同病徵,Google Health已訓練出了偵測糖尿病視網膜病變的深度神經網絡,去年在泰國測試醫療 AI模型,以自行檢測糖尿病視網膜病變,今次則可利用手機鏡頭,協助分辨更多皮膚疾病。AI皮膚科輔助工具是Google網頁應用,期望今年稍後推出測試版。該AI模型根據 288 種已知皮膚狀況進行分析,只要拍下皮膚情況,Google可提供一系列相關症狀,同時就各相關症狀,顯示經皮膚科醫生檢視過資訊、常見問題的答案和類似情況的網絡照片。

Google Health設皮膚科

模型加入了年齡、性別、種族及皮膚類型等因素,Google利用約65,000張去識別化的圖像及經診斷的皮膚狀況病例數據、數百萬張有皮膚問題的圖像,以及數以千計的健康皮膚例子以便開發和調整此模型。

自然語言突破

Google I/O也公布了LaMDA自然語言(NLP)模型、採用Google變革自然處理技術的神經網絡架構Transformer來訓練,專門針對建立聊天機械人的交談式查詢而建。LaMDA可無所不談,不斷就話題作出流順對答。從LaMDA模型的流順度,可見交談式AI已進入了新時代。

大會上,Google以LaMDA化身為冥王星和紙飛機,與真人直接對話,LaMDA預計會成為支援Google Assistant的技術,交談式機器人如Google Assistant和Siri 之類,往往答非所問;以往靠預訓練的循環神經網絡(RNN)模型,從用戶輸入估計用意,應付的不同查詢要求,再從關鍵用語作出應對,但理解的準確度一直是大問題,不能應付複雜的交流。

以往處理自然語言訓練,主要以RNN架構,2017年Google研究人員Ashish Vaswani提出Transformer模型,以一個模型處理多種NLP訓練.。2018年底,基於Transformer架構已出現一大批預訓練的語言模型,包括BERT、Transformer-XL,GPT-2,重新整理不同NLP任務。當模型變得愈來愈大,樣本數愈來愈多的時候,Transformer顯得更有好處。

Transformer實際上是建基於Graph Neural Networks(GNN)。近年社交媒體興起,由18世紀瑞士數學家Leonhard Euler發明的Graph theory,也大放異彩,已經在社交媒體分析,甚至在Microsoft的Microsoft 365上應用。

GNN妙用無盡

Google的DeepMind在Graph theory有深刻研究,去年DeepMind的Petar Velickovic就在人工智能深度學習2020年度ICLR頂級學術會議上,介紹以Graph Theory作AI推理,Google利用他的AI理論應用,預測交通獲得成功。

所有AI神經網絡架構處理自然語言,都是建立輸入數據的代表(Representations),變成向量(Vector)或嵌入矩陣(Embedding Matrix)以訓練模型,將有用的統計或語義數據進行編碼計算成不同的模型。因為語言屬於序列的數據,傳統RNN對每個詞建立代表,學習人類語言對話,詞彙多是以前饋(Feedforward)或多次自回歸再前饋方式,從左到右(或從右至左,視乎語文)來回處理再變成輸出,結束時可得到每個詞,在整個句子中的隱藏特徵,就知道句子所含意思,究竟「Bank」是「銀行」還是「堤岸」,但如果兩個關連字,彼此相距太遠,RNN就要多重來回運算才知道,很不化算。

但是GNN則利用節點(Nodes)和邊緣(Edges)關係,通過代表建立的「圖形」(Graph)節點和邊緣,以「鄰域聚合(Principal Neighborhood Aggregation)實現計算句字,每個節點從其相鄰處收集語言的隱藏特徵,再通過遞迴聚合和轉換鄰域節點的代表的向量數值,也就是Attention,毋須關心彼此距離,消耗的算力遠比RNN少。

https︰//ai.googleblog.com/2017/08/transformer-novel-neural-network.html GNN在深度學習,特別是序列和非結構性數據,比傳統的RNN更高效。近年,香港中文大學、北京清華、騰訊AI Lab都有大量關於GNN研究,GNN論文也在多個頂級會議上急增,顯示未來成為研究熱點。

Google也推出新一代TPU v4 晶片、Google Workspace協作新模式和Google Health的新功能。而Android作業系統也出現大型設計改善,推出了12的Beta版本,由顏色、標記形狀、光暗到動態都煥然一新,功耗亦更低。

關鍵字

最新回應

關鍵字
You are currently at: 187235123.xyz
Skip This Ads
close ad
close ad