在科技界的一則最新動(dòng)態(tài)中,知名科技博客Phoronix于3月23日披露,隨著Linux 6.15內(nèi)核版本的臨近,開(kāi)源社區(qū)中的EROFS(增強(qiáng)型只讀文件系統(tǒng))即將迎來(lái)一次重大革新。此次升級(jí)的核心亮點(diǎn)在于,EROFS將引入48位尋址支持,以滿足人工智能模型訓(xùn)練過(guò)程中對(duì)數(shù)據(jù)存儲(chǔ)容量的迫切需求。
一直以來(lái),EROFS受限于32位塊尋址機(jī)制,其最大容量被限定在16TiB(在4KiB塊大小下)。而48位尋址技術(shù)的加入,將徹底打破這一瓶頸,使得EROFS能夠輕松應(yīng)對(duì)AI訓(xùn)練中所需的大規(guī)模數(shù)據(jù)集存儲(chǔ)挑戰(zhàn),同時(shí)也為對(duì)象存儲(chǔ)客戶端提供了更為廣闊的存儲(chǔ)空間。
除了容量上的大幅提升,此次EROFS的更新還涉及到了核心磁盤結(jié)構(gòu)的全面擴(kuò)展,包括inode、設(shè)備槽以及inode塊的優(yōu)化。為了支持基本的時(shí)間戳功能,新版EROFS引入了32字節(jié)緊湊inode的mtime字段,這一改進(jìn)無(wú)疑將進(jìn)一步提升文件系統(tǒng)的實(shí)用性和靈活性。
在性能優(yōu)化方面,新版EROFS同樣不遺余力。針對(duì)Zstd壓縮算法,新版EROFS引入了字節(jié)導(dǎo)向的編碼擴(kuò)展,這一改進(jìn)使得壓縮器能夠保持其原有的高效壓縮方法,從而在提升壓縮效率的同時(shí),也確保了數(shù)據(jù)壓縮質(zhì)量。據(jù)測(cè)試數(shù)據(jù)顯示,在啟用48位尋址后,Zstd鏡像的構(gòu)建時(shí)間得到了顯著縮短,特別是在Intel Xeon Platinum 8163 CPU上,構(gòu)建時(shí)間從原先的3分52秒驟降至12秒,這一提升無(wú)疑將為AI訓(xùn)練等高性能應(yīng)用場(chǎng)景帶來(lái)極大的便利。
EROFS,這一由華為最初開(kāi)發(fā)并隨后由全球開(kāi)源社區(qū)共同維護(hù)的輕量級(jí)只讀文件系統(tǒng),自問(wèn)世以來(lái)便以其出色的存儲(chǔ)效率和性能表現(xiàn)贏得了業(yè)界的廣泛關(guān)注。此次重大升級(jí),不僅進(jìn)一步鞏固了EROFS在只讀文件系統(tǒng)領(lǐng)域的領(lǐng)先地位,更為AI、大數(shù)據(jù)等前沿科技領(lǐng)域的發(fā)展提供了強(qiáng)有力的支持。
隨著人工智能技術(shù)的不斷發(fā)展和普及,對(duì)于數(shù)據(jù)存儲(chǔ)和處理能力的需求也將持續(xù)增長(zhǎng)。EROFS此次的升級(jí),無(wú)疑為這一趨勢(shì)提供了強(qiáng)有力的技術(shù)支撐,我們有理由相信,在未來(lái)的科技發(fā)展中,EROFS將繼續(xù)發(fā)揮其獨(dú)特優(yōu)勢(shì),為更多領(lǐng)域的應(yīng)用場(chǎng)景提供高效、可靠的存儲(chǔ)解決方案。