創鑫智慧。資料照
創鑫智慧(Neuchips)創辦人暨董事長林永隆博士今(18)日指出,透過國家實驗研究院國家高速網路與計算中心(簡稱國研院國網中心)的「TAIWAN AI RAP平台」,創鑫智慧第一代產品Viper加速卡可為企業帶來「開發效率大幅提升」、「彈性的算力支援」、「生態系整合」等三大優勢,加速AI數位轉型腳步,打造更優化的地端解決方案。
林永隆今天參加國研院國網中心舉辦的「TAIWAN AI RAP 用戶使用分享說明會」,並進行10分鐘專題分享,展示如何結合自主研發的AI 加速晶片與國網中心雲端平台,打造加速企業AI轉型的地端解決方案。
創鑫智慧作為台灣少數擁有自主研發AI加速晶片技術的公司,此次分享將聚焦於Viper加速卡如何與國研院國網中心TAIWAN AI RAP平台整合,與其他軟體開發服務商與終端用戶不同的是,創鑫智慧從硬體層面為AI應用與產業帶來轉型。
林永隆指出,Viper生成式AI加速卡已成功整合至國研院國網中心的混合雲環境,為企業客戶提供了更多元的 AI 運算選擇,目前已將這項技術應用於公司官網的線上客服系統,展現了AI取代人力的轉變,TAIWAN AI RAP平台對創鑫智慧這樣的硬體開發商而言,是非常彈性的好夥伴,平台開放的架構允許Viper生成式AI加速卡發揮最大效能,同時與不同的模型框架無縫對接。
創鑫智慧充分運用了TAIWAN AI RAP平台的靈活性,不僅將自家Viper加速卡整合至平台基礎設施,還透過平台統一的開發介面,大幅簡化了AI模型部署流程,藉由TAIWAN AI RAP平台提供的容器管理與模型服務功能,創鑫智慧能夠輕鬆管理不同規模的AI工作負載,並根據需求彈性調整運算資源。
更甚者,創鑫智慧更與夥伴廠商高登智慧攜手合作,利用Viper加速卡的特性,在TAIWAN AI RAP平台上開發了NL2SQL(自然語言轉SQL)資料庫問答解決方案,高登智慧技術長林志哲博士表示,此方案特別適合中小企業,讓非技術人員也能透過自然語言查詢複雜的資料庫資訊,大幅降低導入AI的門檻。
林永隆表示,搭配國研院國網中心的混合雲環境,創鑫智慧的解決方案可以根據客戶需求靈活調整,不論是軟體開發商或終端用戶,都能輕易地依照自己的需求選擇適當的模型與硬體做搭配與開發。