近日,龍芯中科傳來令人振奮的消息,其搭載龍芯3號CPU的設(shè)備已成功啟動DeepSeek R1 7B模型,并實現(xiàn)了本地化部署。這一突破標(biāo)志著我國在本土即可完成高性能的運算任務(wù),無需依賴外部資源。
尤為引人注目的是,龍芯中科攜手太初元碁等產(chǎn)業(yè)伙伴,在極短的時間內(nèi)——僅2小時,便成功在太初T100加速卡上完成了DeepSeek-R1系列模型的適配工作。這一迅速的動作使得多款大模型服務(wù)得以迅速上線,為用戶提供了更為便捷和高效的使用體驗。
不僅如此,采用龍芯3A6000處理器的誠邁信創(chuàng)電腦和望龍電腦也已經(jīng)實現(xiàn)了DeepSeek的本地部署。這一舉措不僅擺脫了對云端服務(wù)器的依賴,還有效規(guī)避了因網(wǎng)絡(luò)波動或服務(wù)器過載可能導(dǎo)致的服務(wù)中斷風(fēng)險。對于文檔處理、數(shù)據(jù)分析、內(nèi)容創(chuàng)作等工作而言,這一改變意味著更高的工作效率和更為流暢的工作流程。
經(jīng)過嚴(yán)格的測試,適配后的平臺性能表現(xiàn)卓越,成本優(yōu)勢也十分明顯。無論是訓(xùn)練還是推理環(huán)節(jié),用戶都能感受到速度的提升、算力的增強以及成本的節(jié)約。這一突破無疑為龍芯中科及其合作伙伴在未來的市場競爭中增添了強有力的籌碼。
目前,龍芯中科正積極與太初元碁、寒武紀(jì)、天數(shù)智芯、算能科技、openEuler等一眾合作伙伴展開緊密合作,致力于構(gòu)建DeepSeek系列模型的多形態(tài)推理平臺。這一平臺的建立將為用戶提供更為多樣化、高效化的服務(wù)選擇,推動我國在人工智能領(lǐng)域的發(fā)展邁上新的臺階。