AI晶片戰局擴大 台積電4奈米助攻輝達H200

Facebook

【新唐人北京時間2023年11月18日訊】歡迎回來,中華電信本週宣布,將與歐洲通訊衛星集團旗下的子公司OneWeb,簽署台灣低軌衛星獨家代理合約,預計明年,訊號就將覆蓋全台。

人工智慧系統模組更加龐大,美國大廠輝達(Nvidia),13日宣布升級旗艦AI晶片,端出H200,不僅是旗下首款採用高頻寬記憶體(HBM3e),加速生成式人工智慧和大型語言模型開發運算,與H100相比,容量幾乎翻倍,頻寬增加1.4倍。

NVIDIA副總裁 Ian Buck(2023.11.13):「更快更廣泛的HBM記憶體的整合,有助於提高運算要求較高的任務,包括生成式AI模型和HPC應用程式效能。H200還通過近乎1.8倍的方式,顯著擴展了記憶體容量,每個GPU達到總共141GB。此外HGX H200與HGX 100系統完全兼容,使我們的合作夥伴,能夠使用為H100設計的相同伺服器系統,來支援H200,無需重新設計。」

外電報導,包括亞馬遜的AWS、Alphabet的Google Cloud,以及甲骨文的雲端基礎礎設施(Cloud Infrastructure)等大廠,明年率先導入輝達H200,背後更得仰賴台灣供應鏈。

H200採用台積電4奈米製程,以及CoWoS先進封裝,輝達並增加CoWoS量能,也找上聯電、日月光支援。

Nvidia副總裁 Ian Buck(2023.11.13):「為了創建和訓練這些LLM的改進版本,需要具有大規模計算能力的超級計算機。測量今天的數據顯示,H200在相同的GPT-3上比A100高效18倍。這只是一個開始。」

AI晶片市場競爭激烈,不僅超微(AMD)在本季推出MI300晶片,英特爾所推出的Gaudi 2,聲稱其速度比H100更快,也讓輝達不敢大意,再次將H100升級,藉以維持領先地位。

新唐人亞太電視林嘉韋、沈唯同台灣台北整理報導

相關文章