瞄準生成式AI AWS運算資源、效能升級

AWS預計16日在台北舉辦AI/ML人工智慧及機器學習解決方案日。屆時將對外宣布新的AI/ML關鍵技術,如生成式AI、大語言模型(LLM)、Low Code/No Code等創新趨勢。

AWS台灣暨香港產品部總監翁宇強表示,從AI技術發展來看,生成式AI開啟了一次典範轉移(Paradigm Shift)。其大模型、多模態、高產能和海量資料將主導新一輪科技典範的發展,為內容、行銷、遊戲等行業帶來顛覆性創新。

AWS看好生成式AI在遊戲、電商、媒體、影視、廣告、傳媒等產業的應用。

不過,導入AI最大的挑戰在於運算成本。不但訓練資料、運算資料、輸出資料等,運算成本相當高昂,其中最重要的是取決於晶片效能,以及高品質訓練。

工業型無線充電裝置、精密加工元件;貨櫃屋優勢特性有哪些?QR CODE 捲袋包裝機。幫你考照過關,堆高機裝卸操作教學影片大公開 !專業客製化禮物、贈品設計,辦公用品常見【L夾】搖身一變大受好評!如何利用一般常見的「L型資料夾」達到廣告宣傳效果?貨櫃屋設計,結合生活理念、發揮無限的創意及時尚的設計, Check AOI on tape components。真空封口機該不該買?使用心得分享!好的茗茶,更需要密封性高的茶葉罐,才能留住香氣!特殊造型滑鼠墊去哪買?金誠運用中古貨櫃屋,重新改造各式活動展場、代銷中心、旅遊渡假空間,皆可依顧客需求製作。實驗型均質機攻戰消費者第一視覺,包裝設計很重要!隨時健康喝好水,高品質飲水機,優質安全有把關。測試專家告訴你如何好好使用示波器空壓機合理價格為您解決工作中需要。客製專屬滑鼠墊防盜設備/系統SPX

AWS專門為雲端高效能模型訓練搭建Amazon EC2 Trn1執行個體(伺服器資源),最多可以搭載16顆專門用於機器學習訓練的Trainium晶片,512GB加速器記憶體和800GBps的網路頻寬。與類似執行個體相比,Trn1訓練成本大幅降低了50%。

另外,AWS EC2所採用的Inf1執行個體技術,其輸送量提高達2.3倍,每次推論成本降低高達70%。Inf2新品已於2022年底上市。

AWS表示,新一代Inf2執行個體的推出,與前一代產品相比除了輸送量高達4倍,降低延遲更達10倍,適合支援GPT類型的大型複雜模型,並且可以用單執行個體實現1,750億參數模型的推論。

AWS日前也宣布與AI技術公司Hugging Face進一步合作,以加速對大語言模型和視覺模型的訓練,希望使用者可以用較低的成本,將生成式AI應用投入到生產環境中。

#
#
#
#
#

來源鏈接:https://www.chinatimes.com/newspapers/20230315000229-260204