国产98在线 | 传媒麻豆,久久―日本道色综合久久,久久久精品久久久久久久久久久,国产成人精品免费久久久久,五月综合色婷婷影院在线观看,久久久亚洲精品视频

  • 虎科技 - 領先的互聯網科技媒體

微軟Win11電腦本地運行DeepSeek-R1大模型,NPU能力引關注!

   時間:2025-01-30 20:12 來源:ITBEAR作者:朱天宇

在人工智能與邊緣計算的交匯點上,微軟近日邁出了重要一步,宣布推出專為NPU(神經處理單元)優化的DeepSeek-R1模型。這一創新之舉不僅標志著微軟對邊緣計算潛力的深刻洞察,也預示著搭載高通驍龍X芯片的Copilot+ PC將率先迎來一場技術革命,隨后英特爾酷睿Ultra 200V等平臺也將陸續加入這一行列。

微軟通過官方渠道宣布,DeepSeek-R1的首個版本——DeepSeek-R1-Distill-Qwen-1.5B,已正式入駐Azure AI Foundry和GitHub,供開發者下載使用。同時,微軟還透露,參數規模更大的7B和14B版本也即將面世,這將極大地助力開發者充分挖掘Copilot+ PC中NPU的強大性能。

DeepSeek-R1模型應用場景

微軟強調,Copilot+ PC上的NPU開創了一種全新的AI應用范式。在這一范式下,生成式AI不僅能夠在被調用時迅速響應,還能支持半連續運行的服務模式。這一特性使得開發者能夠利用AI推理引擎,構建出更加主動、持續的用戶體驗。

為了實現這一目標,微軟在Phi Silica項目的基礎上,積累了豐富的推理優化經驗和技術。這些經驗和技術被巧妙地融入到針對NPU優化的DeepSeek模型中,包括模型分割以實現性能與效率的最佳平衡、低比特率量化以及Transformer模型到NPU的映射等。微軟還借助Windows Copilot Runtime(WCR)和ONNX QDQ格式,在多樣化的Windows生態系統中實現了模型的廣泛部署。

DeepSeek模型優化對比

為了讓更多開發者能夠輕松體驗DeepSeek模型的魅力,微軟提供了便捷的下載途徑。只需在Visual Studio Code中安裝AI Toolkit擴展,開發者即可輕松獲取這一創新成果。同時,以ONNX QDQ格式優化的DeepSeek模型也將很快出現在AI Toolkit的模型目錄中,供開發者直接從Azure AI Foundry中拉取使用。

原始模型與NPU優化模型響應對比

微軟還通過實例展示了原始模型與NPU優化模型之間的差異。在相同的提示下,原始模型和NPU優化模型給出了略有不同的響應。這一對比不僅彰顯了NPU優化模型在推理能力上的提升,也進一步驗證了微軟在模型優化方面的深厚實力。

 
 
更多>同類內容
推薦圖文
推薦內容
點擊排行
 
智快科技微信賬號
ITBear微信賬號

微信掃一掃
加微信拉群
電動汽車群
科技數碼群

主站蜘蛛池模板: 久久综合五月天婷婷伊人 | 欧美日韩国产综合在线 | 在线精品国内外视频 | 欧美一区二 | 蜜桃成人精品 | 欧美洲精品亚洲精品中文字幕 | 亚洲综合国产一区二区三区 | 亚洲精品乱码久久久久久蜜桃 | 久久国产成人精品国产成人亚洲 | 国产精品免费看久久久 | 免费日韩视频 | 麻豆免费视频网站 | 永久免费看www色视频 | 中文字幕日韩精品有码视频 | 自偷自偷自亚洲永久 | 亚洲福利视频一区二区 | 成人亚洲国产 | 久久精品视屏 | 国产精品久久久久一区二区三区 | 亚洲综合色站 | 亚洲一区二区欧美 | 综合一区 | 亚洲第一页中文字幕 | 99精品国产成人一区二区在线 | 在线免费视频国产 | 亚洲第一页在线观看 | 综合玖玖| 中文字幕 亚洲精品 | 亚洲男人在线天堂 | 亚洲狠狠干| 久久精品视频国产 | 久久国产高清波多野结衣 | 一级视频在线观看 | 永久在线播放 | 婷婷四房综合激情五月在线 | 欧美 自拍偷拍 | 亚洲精品午夜视频 | 在线视频日韩欧美 | 自拍偷拍网 | 亚洲视频一区在线观看 | 欧洲欧美人成免费观看 |