輝達與聯發科合作GB10晶片。資料照
NVIDIA DGX Spark個人AI超級電腦,搭載聯發科與輝達合作設計的GB10 Grace Blackwell超級晶片,NVIDIA DGX Spark讓開發者能在本地端對大型AI模型進行原型設計(prototype)、微調(fine-tune)和推論(inference)。DGX Spark將於10月15日上市,預計將驅動各產業迎來新一波的AI發展。
輝達與聯發科合作的GB10晶片。陳俐妏攝
GB10 Grace Blackwell超級晶片中Grace CPU 採用 20 核心 Arm 架構,結合最新一代Blackwell GPU與128GB統一架構記憶體,GB10提供高達1 PFLOP AI算力,以大幅加速模型調校與即時推論。此配置讓開發者得以運行參數量高達200B的大型AI模型,或者使用內建的ConnectX-7網路介面卡將兩台DGX Spark系統串聯,以運行參數量高達405B的模型推論。
聯發科數據中心與運算事業群公司副總經理Vince Hu表示,DGX Spark將引領AI原型設計邁入新時代,同時有效解決在效能與功耗上的挑戰。GB10超級晶片結合聯發科技在資料中心領域的高效運算設計,以及針對消費性裝置打造的節能技術,專為 AI 工作負載量身設計。
GB10 的合作奠基於聯發科與 NVIDIA 在多個領域的深厚合作,將先進的 AI 技術帶到超大規模資料中心、物聯網應用、軟體定義汽車。聯發科平台整合運算、AI、通訊、系統軟體,透過創新且可靠的設計,打造業界領先的每瓦效能。