03/08 週日 彰化縣|14°C - 24°C天氣圖標

輝達新AI晶片高算力低能耗 集邦:明年成主流

2024-03-21 19:47:00 / 中央社 /
分享:
字級:
  • 大字
  • 中字
  • 小字

(中央社記者張建中新竹21日電)輝達(NVIDIA)在GTC大會推出Blackwell架構的AI晶片B100、B200及GB200等,不僅效能大幅提升,成本與能耗同步優化,市調機構集邦科技預期,B200等產品有望在2024年底陸續上市,並於2025年成為市場主流。

集邦科技指出,Blackwell AI伺服器架構平台是今年GTC大會亮點產品,以第2代Transformer引擎與第5代NVLink技術,可支援高達10兆參數模型的AI訓練與即時大型語言(LLM)推理。

據輝達表示,Blackwell架構繪圖處理器(GPU)配備2080億個電晶體,採用台積電客製化4奈米製程製造,透過每秒10TB的晶片到晶片互連連接成單個GPU,利用4位浮點AI推論能力支援加倍地運算。

輝達指出,最新版本的NVLink提供每個GPU每秒8TB的雙向吞吐量,確保在複雜的大型語言模型中,實現576個GPU間無縫高速溝通。

輝達表示,GB200 NVL72系統串聯72個Blackwell GPU和36個Grace中央處理器(CPU),相較於H100 Tensor Core GPU,GB200 NVL72可提供30倍的大型語言模型推論工作負載效能,並大幅降低成本和能源消耗。

集邦科技表示,輝達產品服務涉及面向多元,但發展核心仍以醫療、製造兩者為重。輝達針對醫療推出20餘項醫療專用生成式AI微服務,也更新BioNeMo模型以強化電腦輔助藥物開發。

在製造方面,輝達則是推出適用於人形機器人的GR00T專案基礎模型,以及透過Isaac平台將生成式AI導入製造和物流應用。

集邦科技指出,輝達產品應用聚焦醫療和製造,主要因為智慧化基礎高、轉型誘因強烈,數據雖然多且雜,但密閉空間相對好蒐集,加上模擬技術越趨成熟。集邦預期,隨著自駕車、電動車市場逐漸成熟,往智慧載體演化的汽車產業有望成為輝達下階段發展重點。(編輯:楊凱翔)1130321

地震晃到地裂? 緊鄰921金巴黎大樓 居民嚇:睡不好|華視新聞 20260307 @CtsTw #shorts
WBC國家隊慘敗日本 球迷憶王建民曾完美封鎖日|華視新聞 20260307 @CtsTw #shorts
喊話軍購! AIT秀川普照 「以實力求和平.唯一正途」|華視新聞 20260307 @CtsTw #shorts
莊陳仲敖封鎖捷克打線 投2.2局0失分飆出4K|華視新聞 20260307 @CtsTw #shorts
更新》闖關成功! 同婚專法送入院會「逕付二讀」
2019/03/05 10:30
婚姻平權
更新》闖關成功! 同婚專法送入院會「逕付二讀」
華視新聞雜誌
華視新聞雜誌
⏰播出時間:CH52 華視新聞資訊台 週六晚間8點,CH12 華視主頻 週五下午3點55分。