Google台灣董事總經理馬大康日前擔任台積電技術論壇演講嘉賓,暢談AI趨勢和Google自研晶片。業者提供
Google Pixel手機自第一代以來,定製版Tensor處理器都由三星生產,包括今年即將推出的Pixel 9手機,內建Tensor G4晶片仍將由三星製造。但根據外媒報導,三星一直無法解決Tensor G4過熱問題,將失去明年以後的訂單,Tensor G5將委由台積電製造。
Google自研晶片Tensor前兩代皆採用三星5奈米製程工藝,Tensor G3、G4則採用三星4奈米製程。媒體報導,2025年的G5將改採台積電3奈米製程。業界人士指出,台積電4奈米製程報價太高,將使得Pixel手機成本飆漲,這也是Google一直不找台積電代工的主因。
由於Pixel 10是明年才會上市的手機,消息仍待證實。
Google自研晶片Tensor前兩代採用三星5奈米製程工藝,Tensor G3則採用三星4奈米製程。業者提供
彭昱鈞:誰是代工夥伴不那麼重要!Google硬體副總裁彭昱鈞曾受訪表示,Tensor晶片的設計開發,一直都是由Google團隊主導,至於誰是代工合作夥伴並不是那麼重要!彭指出,Tensor晶片未來發展的方向,是如何讓晶片展現出更強大的AI運算能力,包括影像處理、訊號處理、聲音處理乃至於機器學習等等。
他進一步提到,台灣的半導體產業、生態系在全球處於相當重要的位置。「我們有各種不同的供應商、產業鏈,相當完整,這是一大優勢。」
Google硬體副總裁彭昱鈞指出,Tensor晶片未來發展的方向,是如何讓晶片展現出更強大的AI運算能力。戴嘉芬攝
不過,Google與台積電確實正在加強合作夥伴關係。日前,台積電舉辦技術論壇,往年皆由總裁魏哲家進行開場,今年罕見未出席論壇,改由亞洲業務處長萬睿洋致開場歡迎詞,台積電還邀請到Google台灣董事總經理馬大康擔任開幕演講嘉賓,分析最新AI趨勢。
台積電亞洲業務處長萬睿洋表示,台積電積極透過軟硬體緊密合作,締造雙贏的策略聯盟,以領先的半導體技術,釋放更強大的AI創新。談到持續合作創新,萬睿洋特別介紹馬大康來自美國Google加州總部,後來轉任Google台灣,負責帶領研發部門持續策略成長,並擴大發展全球策略夥伴關係。
馬大康加入Google十四年來,他帶領多項與全球軟硬體廠商,以及晶片大廠的策略合作,進行全方位雲+端的科技創新。他除了促成Chromebook在全球教育及消費者市場佔有率的大幅提昇,也吸引了全球科技人才加入Google及其合作夥伴的軟硬體共同開發行列。
在出任台灣董事總經理一職前,他曾於Google美國總部平台與產業鏈(Platform & Ecosystem,包括 Android、Chrome、ChromeOS)部門服務,是負責平台技術與雲端運算的專家。馬大康目前負責Google台灣的經營管理與發展規劃,同時領導多項產品的研發。
Google台灣董事總經理馬大康指出,Google第6代TPU「Trillium」是迄今為止效能最高、最節能的TPU。業者提供
馬大康:Google與高通、輝達都有合作馬大康在演講中表示,「Google Cloud不只是使用自研晶片來做半導體晶片設計,Google也跟高通進行合作,使用Google Cloud裡的神經架構搜尋在Snapdragon 8 Gen 1的晶片設計中,獲得了效能、功耗和面積的優勢。」而Snapdragon 8 Gen 1正是採用台積電4奈米製程。
不僅如此,他指出NVIDIA也跟Google合作,透過了NVIDIA硬體可以使用Google的平行處理的AI軟體 以及Data Science(資料科學領域)的軟體堆疊。
除了與高通、輝達合作外,馬大康提到Google內部也運用機器學習,和強化學習的技術來支持高品質的電路佈局,透過人工智慧來設計雲端的TPU和手機Tensor G3的晶片。
2013年,Google開始研發製造全球首款專為AI打造的加速器TPU v1,並於2017年推出首款「Cloud TPU」。如果沒有TPU自研晶片,包括即時語音搜尋、相片物件識別和互動式語言翻譯,以及最先進的Gemini、Imagen及Gemma基礎模型等服務都不會問世。
馬大康提到Google內部用於TPU晶片設計的AI平台,例如運用幾種AI工具,可以幫助獲取效能功耗面積的優勢,並利用HPC套件包括了GPU、TPU計算儲存等基礎設施,來支援各種大型語言模型的運行。
他也分享目前進展跟成果,Google TPU和光纖資料中心的設計適用於大規模的AI基礎設施,包括TPU在內,Google已累積了20年的經驗,採用3D封裝技術。
他提到,在今年Google I/O之前,Google v5e TPU是目前最高功效的TPU。「而且,Google不只有自己的TPU,還有自研光纖晶片,透過光纖的技術為AI訓練跟推理,提供了最佳的路徑。」此外,Google還有光纖的交換,透過光纖晶片以及智慧交換的技術來提供一流的AI運算的運算區塊。
Trillium是迄今效能最高、最節能的TPU馬大康進一步指出,「Google日前在I/O開發者大會把TPU做了大幅的提升。目前最新TPU是第6代的『Trillium』,它是迄今為止效能最高以及最節能的TPU。Trillium比上一代v5e的執行速度快了4.7倍,不只是速度,它還更省電,與v5e相比,Trillium的能源效率高出67%。」外傳Trillium晶片採用台積電3~4奈米製程。
新一代Trillium TPU可以更快速地訓練下一代基礎模型,並以較短的延遲時間與較低成本提供模型服務。在雲端應用,Google Cloud運用一流的TPU晶片,而目前AI手機上面的Tensor G3是一種Hybrid AI的體驗。
最後,馬大康表示,Google不只使用自己的模型,同時也使用合作夥伴和開源軟體的模型。目前已有130種AI的模型包括了T5、LAMA2等等,讓使用者和客戶選用。Google Cloud支援全套企業AI範例,包括用於半導體設計跟製造等,他強調Google全面以AI為優先進行。