騰訊發布高性能計算集群 應對AI大模型訓練

2023年04月14日 12:39
東網電視
更多新聞短片
內媒報道,騰訊透過微信公眾號表示,旗下騰訊雲新發布面向大模型訓練的新一代HCC(High-Performance Computing Cluster)高性能計算集群,整體性能較過去提升3倍。它搭載NVIDIA H800 Tensor Core GPU,能夠提供高性能、高頻寬、低延遲的智算能力支撐。
騰訊稱,當前大熱的人工智能大模型訓練,離不開高性能的算力集群。
內媒指,一般運算由晶片來完成。不過遇到海量運算,單塊晶片無力支撐,就要將成千上萬台伺服器,通過網絡聯結,組成大型的算力集群。一個人工智能大模型通常要用數萬億個單詞訓練,參數量也飆升到上萬億,此時只有高性能的計算集群能支持。算力集群的「強」,由單機算力、網絡、存儲共同決定,就如一個牢固木桶,缺一不可。
騰訊稱,騰訊雲新一代集群通過對單機算力、網絡架構及存儲性能進行協同優化,能夠為大模型訓練提供高性能、高頻寬、低延遲的智算能力支持。