近日,澎峰科技對外公布了一項重要技術進展,該公司自主研發的PerfXLM+推理框架已成功實現對海光DCU的深度適配與優化,特別針對DeepSeek全系列模型進行了專項優化。
澎峰科技在其官方網站上展示了這一成果,并表示此次適配通過優化底層架構,充分發揮了海光DCU的強大算力。特別是在處理DeepSeek-R1-Distill系列等模型時,結合海光DCU的并行計算能力,PerfXLM+推理框架有效降低了資源消耗,顯著提升了推理效率。
在生態方面,海光DCU基于GPGPU通用加速計算架構設計,兼具出色的兼容性和生態開放性。這意味著DeepSeek模型可以直接在海光DCU上運行,無需進行復雜的底層適配工作。技術團隊可以更加專注于模型的精度驗證和性能優化,從而加快部署進程。PerfXLM+推理框架還通過模型量化、算子融合等核心技術,為企業提供了低成本、高穩定性的AI推理服務。
在應用場景方面,澎峰科技的PerfXLM+推理框架已經覆蓋了自然語言處理、多模態理解等核心領域。借助海光DCU集群,客戶可以快速迭代和彈性擴展模型,滿足各行業對實時推理的需求,推動AI技術的規?;瘧谩?/p>
此前中科曙光國家先進計算產業創新中心有限公司也宣布了海光信息技術團隊成功完成DeepSeek V3和R1模型與海光DCU的國產化適配,并正式上線。這一消息進一步證明了海光DCU在AI領域的應用潛力和澎峰科技在AI推理框架方面的技術實力。