国产98在线 | 传媒麻豆,久久―日本道色综合久久,久久久精品久久久久久久久久久,国产成人精品免费久久久久,五月综合色婷婷影院在线观看,久久久亚洲精品视频

  • 虎科技 - 領先的互聯網科技媒體

Cerebras AI芯片因DeepSeek服務需求激增,大語言模型推理成新熱點

   時間:2025-02-12 19:23 來源:ITBEAR作者:任飛揚

AI芯片巨頭Cerebras近期遭遇了一場前所未有的挑戰,其CEO Andrew Feldman在一次訪談中透露,公司正被大量運行DeepSeek-R1大語言模型的訂單淹沒。

Cerebras,這家以推出高性能AI晶圓級芯片著稱的公司,其單塊芯片便能提供驚人的125 PFLOPS峰值算力,并搭配高達1.2PB的內存容量,一直以來都是AI領域的佼佼者。然而,這次DeepSeek-R1的火爆需求,顯然超出了他們的預期。

DeepSeek-R1,這款被視作AI領域分水嶺的模型,其預訓練成本僅為GPTo1等主流模型的十分之一,但效果卻與之相近甚至更佳。Feldman表示,DeepSeek不僅在當前展現出了巨大影響力,更將推動更大規模AI系統的誕生。隨著成本的降低,AI市場的潛力正在被不斷挖掘。

在Cerebras的官方展示中,其晶圓級AI芯片在部署DeepSeek-R1 70B時,性能達到了1508 tokens/s,遠超GPU。然而,這款模型在推理過程中,卻需要消耗大量算力。由于采用了Chain-of-thought(CoT)方法增強推理能力,模型需要將多步問題分解為中間步驟,并在需要時執行額外計算。這種逐字推理的方式,對于整段提示詞的推理需要多次進行,從而導致了算力的巨大需求。

面對這一痛點,Cerebras提出了利用蒸餾技術將大模型的“知識”轉移到小模型中的解決方案。大模型被稱為教師模型,而較小的模型則被稱為學生模型。通過這種方式,客戶可以在保持模型精度的同時,降低推理過程中的算力需求。

Cerebras在官網上表示,DeepSeek R1在蒸餾到Llama 70B后,精度幾乎沒有下降。為了改善用戶體驗,Cerebras為客戶提供了一種標準做法:利用開源在Hugging Face上的DeepSeek模型參數作為教師模型,蒸餾出一個較小的學生模型用于實際部署。

Feldman強調,DeepSeek作為首個頂級的開源推理模型,是開源AI的重大勝利。通過蒸餾技術,開源模型只需公開模型參數,研究人員無需訪問源碼便能復制新AI模型的進步。他認為,DeepSeek的經濟性不僅震撼了整個AI行業,更將吸引更多投資流向尖端AI芯片和網絡技術。

盡管有些人擔心計算成本的下降會導致市場萎縮,但Feldman指出,過去50年的歷史表明,降低成本反而能夠擴大市場容量。無論是電腦還是智能手機,價格的降低都推動了產品的普及。因此,他相信DeepSeek和Cerebras的推動將進一步加速AI市場的增長。

自去年8月開始提供公共推理服務以來,Cerebras自稱是“世界上最快的人工智能推理服務提供商”。然而,面對高昂的405B模型成本,該公司目前主要提供的是蒸餾后的70B模型。Feldman表示,雖然有一部分客戶愿意為更高的準確性支付更高的成本,但大多數客戶更傾向于選擇價格實惠的模型。

 
 
更多>同類內容
推薦圖文
推薦內容
點擊排行
 
智快科技微信賬號
ITBear微信賬號

微信掃一掃
加微信拉群
電動汽車群
科技數碼群

主站蜘蛛池模板: 精品欧美一区二区三区精品久久 | 最近免费中文完整视频观看 | 羞羞视频在线观看 | 日本中文字幕一区二区高清在线 | 全免费a级毛片免费看视频免 | 在线视频网址免费播放 | 中文字幕久久网 | 波多野结衣高清在线播放 | 国产性一交一乱一伦一色一情 | 成人性色生活片免费网 | 久久精品片 | 亚洲国产精品一区二区第四页 | 亚洲国产天堂久久综合226 | 麻豆网站 mkv 下载 | 激情影院网站 | 色婷婷六月丁香七月婷婷 | 四虎精品久久 | 亚洲精品国产字幕久久不卡 | avtt天堂在线 | 日韩精品久久久久久久电影99爱 | 在线观看自拍 | 亚洲毛片免费看 | 亚洲免费视频网 | 亚洲精品综合久久中文字幕 | 亚洲国产精品免费观看 | 五月婷婷六月爱 | 深爱激情小说网 | 999精品久久久中文字幕蜜桃 | 羞羞视频网页 | 五月天丁香久久 | 综合在线视频精品专区 | 欧美精品免费看 | 国产精品久久一区二区三区 | 久久国产视频网站 | 久久精品视频网 | 在线婷婷 | 亚洲国产高清视频 | 久久99精品国产 | 成人精品视频一区二区在线 | 亚洲福利一区福利三区 | 亚洲人成电影在线播放 |