近期，AI基礎(chǔ)設(shè)施領(lǐng)域迎來了一股新的開源浪潮，由Deepseek引領(lǐng)，該公司連續(xù)發(fā)布了包括FlashMLA、DeepEP、DeepGEMM、DualPipe在內(nèi)的一系列代碼庫以及3FS系統(tǒng)，這些成果幾乎全面覆蓋了AI基礎(chǔ)設(shè)施底層的計算、網(wǎng)絡(luò)與存儲優(yōu)化，為同行提供了寶貴參考。

在這一背景下，國內(nèi)AI基礎(chǔ)設(shè)施領(lǐng)域的公司正積極探索針對大模型訓(xùn)練和推理優(yōu)化的新路徑，驛心科技便是其中的佼佼者。驛心科技由前曠視科技聯(lián)合創(chuàng)始人吳文昊于2023年9月創(chuàng)立，專注于從基礎(chǔ)架構(gòu)層面進行研發(fā)，旨在利用標準的GPU服務(wù)器本地存儲與通用以太網(wǎng)絡(luò)，提供與傳統(tǒng)基于RDMA的智能計算存儲網(wǎng)絡(luò)以及獨立部署的商業(yè)訓(xùn)練存儲相當?shù)哪芰Γ瑥亩蠓档湍Ｐ吐涞爻杀静⒓铀俨渴稹?/p>

驛心科技的核心優(yōu)勢在于，其解決方案完全基于標準企業(yè)服務(wù)器和標準網(wǎng)絡(luò)，無需任何定制硬件、網(wǎng)絡(luò)或軟件。這與以往AI基礎(chǔ)設(shè)施部署所需的傳統(tǒng)高性能文件存儲形成了鮮明對比，后者往往需要定制硬件服務(wù)器、特定網(wǎng)絡(luò)交換以及定制的操作系統(tǒng)內(nèi)核和客戶端。

在AI基礎(chǔ)設(shè)施領(lǐng)域，架構(gòu)重構(gòu)和供應(yīng)鏈重構(gòu)正帶來新的創(chuàng)業(yè)機遇。技術(shù)架構(gòu)方面，HPC、云和AI所需的基礎(chǔ)設(shè)施存在差異，AI以GPU為中心，而云大廠很難提供最優(yōu)化的底層基礎(chǔ)設(shè)施，因為它們還需兼顧云原生應(yīng)用的需求。盡管AI源自HPC，且都追求大規(guī)模部署，但兩者在計算范式上存在本質(zhì)差異，HPC追求確定性和高精度計算，而AI則追求概率和準確性。

同時，國內(nèi)芯片供應(yīng)鏈的重構(gòu)也在催生巨大的AI基礎(chǔ)設(shè)施機會，Deepseek的開源進一步推動了這一進程。然而，算力設(shè)備、能耗、機房空間和資金四大瓶頸限制了AI算力的發(fā)展。針對這些挑戰(zhàn)，驛心科技依托GPU服務(wù)器本地存儲與通用以太網(wǎng)絡(luò)，構(gòu)建了一套具有獨特優(yōu)勢的一體化解決方案。

驛心科技的解決方案包括AI集群一體化方案技術(shù)創(chuàng)新，其Tier-0存儲方案能有效利用GPU服務(wù)器內(nèi)部存儲，無需再構(gòu)建專屬的存儲集群和存儲網(wǎng)絡(luò)，從而大幅削減模型落地成本并加速部署進程。在AI存儲層面，驛心科技支持多云多數(shù)據(jù)中心的全局文件系統(tǒng)，提供統(tǒng)一的存儲管理，使AI數(shù)據(jù)訪問更高效，并支持智能數(shù)據(jù)分層和緩存機制，快速響應(yīng)AI工作負載對數(shù)據(jù)的需求。

驛心科技的創(chuàng)始人吳文昊擁有豐富的HPC、云計算和AI經(jīng)驗，他的經(jīng)歷有助于驛心精準洞察并解決AI訓(xùn)練與推理的主要痛點。驛心科技目前重點布局了三個領(lǐng)域：云和大模型客戶、AI研發(fā)類客戶以及傳統(tǒng)客戶。對于云和大模型客戶，驛心提供了專業(yè)的存儲解決方案以及輕量級客戶服務(wù)界面；對于AI研發(fā)類客戶，驛心提供了專業(yè)的AI基礎(chǔ)設(shè)施解決方案以及模型與數(shù)據(jù)能力；對于傳統(tǒng)客戶，驛心通過與OEM廠商的合作，提供了針對細分行業(yè)的存算一體機方案。

吳文昊指出，Deepseek的出現(xiàn)正體現(xiàn)了中國作為“AI工廠”的實力，盡管GPU的生產(chǎn)地可能不同，但打造AI工廠的最終供應(yīng)鏈仍將來自中國。驛心科技也針對國內(nèi)市場給出了更加垂直的一體化方案，與海外市場聯(lián)合提供的存儲方案相比，更加貼合國內(nèi)客戶的需求。

在模型優(yōu)化層面，驛心科技結(jié)合算力、網(wǎng)絡(luò)、分布式KV Cache等能力，提高了LLM集群的吞吐，并通過可靠的Tier-0/Tier-1存儲方案保證了模型與數(shù)據(jù)的可靠性，同時支持模型的后訓(xùn)練與推理加速。吳文昊認為，從存儲到網(wǎng)絡(luò)向GPU傳輸數(shù)據(jù)的能力在LLM時代至關(guān)重要，因此驛心的AI基礎(chǔ)設(shè)施能力主要聚焦在存儲與模型層面。

驛心科技的最新一輪融資即將完成，未來將在多模態(tài)和端側(cè)方面尋求更多突破。吳文昊表示，未來AI基礎(chǔ)設(shè)施特別是AI存儲將迎來巨大增長，因為多模態(tài)的數(shù)據(jù)量遠大于語言模型，同時端側(cè)AI也需要經(jīng)過多個周期的發(fā)展才能達到如今語言模型的水平，這當中蘊含著新的機遇。