03/11 週三 彰化縣|18°C - 22°C天氣圖標

英特爾推新款AI加速器Gaudi 3 台積電5奈米生產

2024-04-10 11:35:00 / 中央社 /
分享:
字級:
  • 大字
  • 中字
  • 小字

(中央社記者張建中新竹10日電)英特爾(Intel)推出新款AI加速器Gaudi 3,採用台積電5奈米生產,預計今年第2季向代工廠提供通用基板和開放加速器模型的標準配置,第3季全面上市。

英特爾表示,Gaudi 3加速器是專為高效能、高效率的生成式AI運算所打造,每台加速器都有專屬的異質運算引擎,運算效率高,並擅於處理複雜的矩陣運算,是深度學習演算法的基礎運算。

英特爾指出,Gaudi 3搭載128 GB的HBMe2記憶體容量、3.7 TB的記憶體頻寬和96 MB的靜態隨機存取記憶體(SRAM),能夠提供處理大型生成式AI資料集所需的記憶體,且適用於大型語言和多模態模型,有助於提升工作負載效能和資料中心的成本效率。

Gaudi 3加速器整合24個200 GB的乙太網路連接埠,提供開放標準網路,實現高效擴充,以支援大型運算集,並克服專有網路架構的供應商限制。

英特爾表示,Gaudi 3加速器是採用台積電5奈米製程生產,在B16浮點格式的運算效能,為前一代採用7奈米Gaudi 2加速器的4倍;Gaudi 3的記憶體頻寬和網路頻寬也分別是Gaudi 2的1.5倍和2倍。

英特爾說,Gaudi 3的參數模型訓練時間、推論吞吐量和推論能源效率皆優於輝達(NVIDIA)的H100,推理速度也優於輝達的H200。(編輯:郭無患)1130410

伊朗戰事! 美軍7死140傷 白宮澄清:未護送油輪|華視新聞 20260311 @CtsTw #shorts
特斯拉「哨兵」偵測可疑頻立大功  4鏡頭即時錄影|華視新聞 20260311 @CtsTw #shorts
台灣英雄回來了! 球迷守候桃機迎接喊:Team Taiwan|華視新聞 20260311 @CtsTw #shorts
韓國瑜協商立委資格認定! 李貞秀低調避談|華視新聞 20260311 @CtsTw #shorts
74歲曾廷常收藏豐富政治史料 民進黨籌辦展覽
2024/03/13 15:05
選後新政局
74歲曾廷常收藏豐富政治史料 民進黨籌辦展覽
新聞高峰會
新聞高峰會
⏰播出時間:CH52 華視新聞資訊台 週日晚上20:00(首播)