輝達攜Vmware推新平台公眾雲上用生成式AI 股價創高後紅翻黑。資料照
繪圖晶片大廠輝達(NVIDIA)與Vmware再度擴大策略合作夥伴關係,推出VMware Private AI Foundation with NVIDIA,雲端基礎設施上讓數十萬家企業為生成式AI 時代做好準備,2024年初正式上市,戴爾科技集團、慧與科技公司和Lenovo將率先採用。但輝達在8月24日財報公布前,股價創高後由紅翻黑。
輝達與 VMWare 雙方深度合作已長達十年,也是推動產業 GPU 虛擬化技術的重要推手,雙方再度於生成式 AI 領域攜手,解決當前企業在導入 AI 會有三大挑戰,包括成本效益、安全風險與性能。
依據麥肯錫估計,生成式AI每年可能為全球經濟增加多達4.4兆美元的價值。今年VMware Explore 2023 大會上,輝達和VMware 重點聚焦企業內的開發人員用新的NVIDIA AI Workbench 來提取社群模型、遠端自訂以及在VMware 環境中部署生產級生成式AI。
雙方的合作基於 NVIDIA 的 L40S 與 H100 兩大系列的 GPU 與 NVIDIA ConnectX-7 、 Bluefield-3 網路平台等硬體,與 NVIDIA A100 Tensor Core GPU 相比,NVIDIA L40S GPU 的生成式人工智慧推理效能提高了 1.2 倍,訓練性能提高了 1.7 倍。
VMware Private AI Foundation with NVIDIA將使企業能夠自定義模型並運行生成式人工智慧應用程式,包括智慧聊天機器人、助理、搜尋和摘要生成等,提供個全面整合的解決方案,具備來自NVIDIA的生成式人工智慧軟體和加速運算,建立在VMware Cloud Foundation上,並針對人工智慧進行了最佳化。
VMware執行長Raghu Raghuram表示,生成式人工智慧和多雲環境是完美的結合。客戶資料無處不在,存在於資料中心、邊緣設備和雲端中。與輝達合作,將使企業能夠放心地在其資料附近運行生成式人工智慧工作負載,同時解決企業對資料隱私、安全和可控性的擔憂。
輝達創辦人暨執行長黃仁勳表示,世界各地的企業都在競相將生成式人工智慧與其業務整合。輝達與VMware的擴大合作將為金融服務、醫療保健、製造等領域數十萬客戶,提供他們所需的全端軟體和運算,以使用透過自有資料構建的自定義應用程式來釋放生成式人工智慧的潛力。