国产98在线 | 传媒麻豆,久久―日本道色综合久久,久久久精品久久久久久久久久久,国产成人精品免费久久久久,五月综合色婷婷影院在线观看,久久久亚洲精品视频

  • 虎科技 - 領先的互聯網科技媒體

微軟DeepSeek-R1模型優化,Copilot+ PC本地化AI推理能力大提升

   時間:2025-01-30 13:26 來源:ITBEAR作者:趙云飛

在科技日新月異的今天,人工智能正以前所未有的速度向邊緣計算領域邁進,而Copilot+ PC在這一進程中占據了舉足輕重的地位。近日,隨著DeepSeek R1模型的橫空出世,微軟也敏銳地捕捉到了這一變革的先機。

微軟官方近日宣布,已正式推出針對NPU(神經網絡處理器)深度優化的DeepSeek-R1模型。該模型現已在Azure AI Foundry和GitHub平臺上架,首批將針對搭載高通驍龍X系列芯片的Copilot+ PC進行適配,隨后將逐步擴展到英特爾酷睿Ultra 200V等其他平臺。

據悉,DeepSeek-R1的首個版本——DeepSeek-R1-Distill-Qwen-1.5B,將率先在AI Toolkit中亮相。而7B和14B兩個更大規模的版本也將緊隨其后,助力開發者充分利用Copilot+ PC中強大的NPU性能。

微軟方面表示,Copilot+ PC上的NPU開啟了一種全新的工作模式。在這種模式下,生成式AI不僅能夠按需執行,還能夠支持半連續運行的服務。這一特性使得開發者能夠利用AI推理引擎,打造出更加主動、持續的用戶體驗。

微軟在Phi Silica項目上的研究成果,為DeepSeek模型的NPU優化提供了寶貴經驗。通過高效的推理技術,DeepSeek在首次生成token的時間和吞吐率方面均表現出色,同時對電池續航和PC資源消耗的影響降到了最低。DeepSeek還借鑒了多項關鍵技術,包括模型分離以實現性能與效率的最佳平衡、低比特率量化以及Transformer到NPU的映射等。同時,微軟還利用Windows Copilot Runtime(WCR)通過ONNX QDQ格式在Windows生態系統中實現了廣泛擴展。

對于想要體驗DeepSeek的用戶來說,只需下載AI Toolkit VS Code擴展即可。而經過ONNX QDQ格式優化的DeepSeek模型也將很快出現在AI Toolkit的模型目錄中,用戶可以直接從Azure AI Foundry中拉取。下載完成后,用戶只需打開Playground加載“deepseek_r1_1_5”模型,并給出提示詞,即可開始體驗DeepSeek的強大功能。

除了為Copilot+ PC優化的ONNX模型外,用戶還可以在Azure Foundry中嘗試云托管的源模型。只需點擊“DeepSeek R1”下的“Try in Playground”按鈕,即可輕松上手。

為了直觀展示原始模型與NPU優化模型之間的差異,微軟還提供了以下示例圖。從圖中可以看出,在相同提示下,原始模型與NPU優化模型的響應雖然大致相同,但在推理能力等方面仍存在微小但確實存在的差異。

 
 
更多>同類內容
推薦圖文
推薦內容
點擊排行
 
智快科技微信賬號
ITBear微信賬號

微信掃一掃
加微信拉群
電動汽車群
科技數碼群

主站蜘蛛池模板: 亚洲午夜在线 | 日本一区二区不卡视频 | 羞羞视频在线观看免费 | 国产精品亚洲专一区二区三区 | 精品国产综合成人亚洲区 | 久久精品中文 | 欧美精品福利在线视频 | 久久综合资源 | 羞羞网站在线看 | 欧美日韩综合精品一区二区三区 | 香蕉久热 | 亚洲国产综合自在线另类 | 黄色毛片视频 | 亚洲精品美女在线观看 | 国产乱码精品一区二区三 | 在线看污视频网站 | 久久综合五月天婷婷伊人 | 国产99r视频精品免费观看 | 狠狠色婷婷七月色综合 | 99综合在线| 亚洲精品在线免费看 | 不卡国产视频 | 国产精品成人四虎免费视频 | 羞羞视频免费观 | 精品国产一区二区三区久久影院 | 国产精品视频久 | 亚洲一区二区欧美 | 久久久国产精品网站 | 久久国产一久久高清 | 五月开心六月伊人色婷婷 | 亚洲欧洲日韩另类自拍 | 久久精品亚洲精品国产欧美 | 亚洲永久精品网站 | 国产成人一区二区三区在线视频 | 久久久999国产精品 久久精品免费观看 | 羞羞视频在线观看免费 | 伊人婷婷涩六月丁香七月 | 在线观看国产视频 | 修罗的游戏 | 久久国产视频精品 | 欧美成人一区二区三区不卡 |