Google公布新的多模態AI架構Pathways

Google公布新的AI架構Pathways,強調可改善現有機器學習過於專注單一任務的問題,Pathways能同時處理多樣任務、快速學習新任務、具備完整理解力。(圖片來源/Google)

可改善現有機器學習過於專注單一任務的問題,能同時處理多樣任務、快速學習新任務、具備完整理解力的AI架構Pathways。

Google資深院士Jeff Dean指出,現今的機器學習模型大都是為單一新問題而從頭訓練起,訓練好也只用於一項任務,結果企業或科學家開發出數千種單一任務的模型。由於模型能力無法累積、概括化(generalize),每次機器學習過程要花更久時間,需要的資料也更多,但人腦學習的運作並非如此,因為人類會在舊技能基礎上學習新技能。

因此Google想訓練的是不但能處理多種不同任務的模型,而且還能利用及結合它在一項技能學習到的能力(學習從空照圖預測地面抬升的能力),來學習另一項新技能(例如預測洪水是否會流經某地形)。

Google想訓練的是,可概括化到數百萬種任務的單一AI模型架構,它有多種能力,需要時可以調用,又能整合這些能力來執行更複雜的新任務。Google稱之為Pathways。利用Pathways,Google將開發能因應新需求、新問題的次世代AI系統。

常見的貨櫃種類?

金誠貨櫃屋尺寸均依國際標準組織ISO (International Standardization Organization) 認定標準,並區分成鐵貨櫃、冷凍貨櫃和特殊貨櫃三種類型。

真空封口機該不該買?使用心得分享

各式封口機、包裝機械、客製化訂做、特殊改造

掌握產品行銷策略,帶你認識商品包裝設計基本要素

包裝設計是兼具美感和實用、設計和製作印刷的精緻工藝。包裝設計包含了結構規劃、視覺設計、材質選定及後續的生產加工

好的茗茶,更需要密封性高的茶葉罐,才能留住香氣!

鴻和興精密工業股份有限公司,是由在台灣專業生產茶葉罐、奶粉罐具有領先地位的光華金屬所投資組織成立的一家專業製造包裝材料之馬口鐵罐製造廠,秉持的專業、品質、服務、效率為各大客戶服務。

Dean解釋,今天的機器學習模型是一次處理資訊的單一模態(modality),無法同時處理一個以上。但Pathways使用多模態模型,可同時處理視覺、聽覺及語言理解。例如當系統不論聽到、看到「獵豹」這個字詞,或是看到這個動物的影像,都會引發同一種反應。Dean指出,這種多模態能力的模型能看得更全面,避免偏見或錯誤。

此外,除了這些資訊,Pathways還能處理更多類抽象資訊,例如幫助科學家從複雜的天氣系統中,找出許多難以發現的資料規律(pattern)。

Google 指出Pathways另一個優點是更有效率。Dean解釋,現有機器學習模型處理任務都太密集、太「勞師動眾」,即不論問題大小、簡單或複雜,都會啟動整個神經網路。但Pathways更像人腦的運作,處理簡單任務只會啟動零星資源,即啟用神經網路的一小部份路徑,而且它還會動態學習什麼任務、最適合使用哪些路徑,使得系統更有效率。

例如Google建立的2個最大的機器學習模型,包括GShard 和Switch Transformer因為已經具有「零星啟動」特性,因此和同樣大的密集模型系統相比,僅耗費1/10的能源。

https://www.ithome.com.tw/news/147581

專業客製化禮物、贈品設計,辦公用品常見【L夾】搖身一變大受好評!

採用PVC0.2白色軟皮料印製,4色印刷加上表層防刮油墨,另也可選表層上亮膜。

如何選購橡膠製品規格有哪些?

品質優益穩定,效率高成本低,並已獲得國內外大廠承認使用,品質合乎EIA國際標準, 此外也針對客戶端的需要代客Tape and Reel封裝服務。

客製專屬滑鼠墊、可愛造型L夾L型資料夾、透明證件套、手提袋,專業印刷設計廠商!

通過SGS環保認證,無毒無害 環保材質符合歐盟RoHs、REACH認證

臭氧機推薦

臭氧機、紫外線燈作水質淨化、殺菌設備,因臭氧機具強大氧化、殺菌、除臭能力,省電、無耗材費用,深受水處理業者採用