英偉達(dá)在近期舉辦的NVIDIA GTC 2025大會(huì)上,震撼發(fā)布了其DeepSeek-R1模型在推理性能上的全新世界紀(jì)錄。這款滿載6710億參數(shù)的模型,在配備八個(gè)NVIDIA Blackwell GPU的單個(gè)DGX系統(tǒng)上,展現(xiàn)了驚人的處理能力。
據(jù)英偉達(dá)官方介紹,DeepSeek-R1在每位用戶的每秒處理令牌數(shù)上,成功突破了250個(gè)的大關(guān)。更令人矚目的是,該系統(tǒng)的最大吞吐量達(dá)到了每秒超過30000個(gè)令牌,這一數(shù)字無疑在AI推理領(lǐng)域樹立了新的標(biāo)桿。
DeepSeek-R1的出色表現(xiàn),無疑得益于NVIDIA Blackwell GPU的強(qiáng)大算力支持。這款GPU以其卓越的并行處理能力和高效能設(shè)計(jì),為DeepSeek-R1提供了堅(jiān)實(shí)的硬件基礎(chǔ)。同時(shí),NVIDIA DGX系統(tǒng)的優(yōu)化架構(gòu),也進(jìn)一步提升了模型的運(yùn)行效率。
此次DeepSeek-R1所創(chuàng)造的推理性能世界紀(jì)錄,不僅彰顯了英偉達(dá)在AI技術(shù)領(lǐng)域的領(lǐng)先地位,也為未來的AI應(yīng)用提供了更加廣闊的可能性。隨著AI技術(shù)的不斷發(fā)展,我們有理由相信,將會(huì)有更多創(chuàng)新性的應(yīng)用涌現(xiàn)出來,為人類社會(huì)帶來更加智能、便捷的生活方式。