國內企業:需進一步增強軟件及系統能力
雖然ChatGPT還沒有進入盈利階段,但英偉達已經成為第一波吃到紅利的企業。為處于下行周期的半導體產業增添了一絲亮色。在北京時間2月23日凌晨的財報發布中,英偉達創始人兼首席執行官黃仁勛表示,從初創公司到大型企業,對于生成式AI的多功能性與能力的興趣越來越濃厚。英偉達將幫助客戶從生成式AI 和大型語言模型技術的突破中獲取優勢。
英偉達在AI芯片的先發優勢和占比優勢,固然有硬件性能的原因,但更關鍵的是軟件生態的加持。在21世紀初,GPU的并行計算能力引起了學術界和產業界的關注。但是,開發者想要調用英偉達GPU的計算能力進行圖形處理以外的任務,必須編寫大量的底層語言代碼,這對于習慣高級語言的程序員極其不便。2006年,英偉達推出CUDA平臺,支持開發者用熟悉的高級程序語言進行編程,靈活調用GPU的算力。自此,GPU的使用范圍不再局限于顯卡,而是擴展到所有適合并行計算的領域。GPU與CUDA組成的軟硬件系統,形成了英偉達的產品壁壘。
近年來,國內AI芯片企業在架構創新、算力性能、平臺方案等領域涌現出一系列成果,但仍然需要在軟件、系統和生態層面進一步向國際領先企業看齊。趙立東表示,針對大模型對于AI芯片的需求,芯片廠商一方面通過拆解大模型的系統級需求,快速迭代下一代芯片,從底層提升性能和支持效率。另一方面,要基于既有的芯片打造系統級方案,通過軟件升級解決大模型加速遇到的內存容量小、通信占比高等核心痛點問題。
“要對標國際領先的AI芯片廠商,需要在三個層面開發優化:一是芯片升級,在算力、內存、微架構等層面針對大模型計算做優化;二是軟件升級,從傳統的單卡以及單機多卡為主的支持能力拓展至萬卡級別大集群支持,有效提供面向大模型支持的分布式計算、混合并行、內存優化等整體軟件方案;三是系統方案,以AI芯片為核心,結合計算、存儲、網絡打造深度優化的系統級方案,面向大模型提供極致的性能和成本優勢。”