Google示意照。美聯社
Google預告將推出最強AI晶片TPU Ironwood,強打「專為最嚴苛的工作負載打造」,透過提供ASIC晶片差異化的解決方案,以及價格競爭優勢,積極從AI新創手中搶奪業務,市場解讀,Google磨刀將直接挑戰輝達,搶攻AI晶片市場的主導地位。
外電消息指出,Googe宣佈將在未來幾周內推出第七代張量處理單元Ironwood,「專為最苛刻的工作負載量身打造」,在訓練和推理方面的性能較第六代Trillium TPU提升了四倍。
單個POD (AI運算單元)可通過晶片間互聯網路連接多達9216顆Ironwood TPU,並訪問1.77 PB的共用高頻寬記憶體。從而避免大型資料密集型AI模型的資料瓶頸,讓客戶能夠運行和擴展現存最大、最資料密集型的模型
AI初創公司Anthropic已成為首批重要客戶。Google上月宣佈將允許Anthropic使用多達100萬單位的定制晶片來訓練和運行其Claude大語言模型。Anthropic計畫使用多達100萬顆新TPU來運行其Claude模型。
業界認為,儘管多數大型語言模型和AI工作負載依賴輝達的GPU,但Google的TPU作為定制ASIC晶片可在價格、性能和效率方面提供優勢,Google不僅與亞馬遜和Meta在AI軍備競賽中的持續布局,野心更直接劍指輝達了。