国产98在线 | 传媒麻豆,久久―日本道色综合久久,久久久精品久久久久久久久久久,国产成人精品免费久久久久,五月综合色婷婷影院在线观看,久久久亚洲精品视频

  • 虎科技 - 領先的互聯網科技媒體

后摩智能倪曉林WISE2024演講:NPU將如何重塑端邊AI設備新時代?

   時間:2024-12-02 16:16 來源:ITBEAR作者:趙云飛

近日,北京迎來了一場商業領域的盛事——36氪WISE2024商業之王大會。此次大會為期兩天,吸引了眾多業界精英和領軍人物,共同探討中國商業的新趨勢和潛力。作為已經舉辦了十二屆的商業盛會,WISE大會在時代變遷中持續見證著中國商業的堅韌與活力。

2024年,是一個充滿變化與挑戰的年份。與前十年相比,商業環境變得更加復雜,企業發展步伐放緩,更加注重穩健和理性。同時,這一年也是尋找新經濟動力的重要時期,產業變革對各個主體的適應能力提出了更高要求。今年,WISE大會以“Hard But Right Thing(正確的事)”為主題,引發了與會者對當前商業環境下何為正確路徑的深入思考和交流。

在大會的眾多精彩演講中,「后摩智能」副總裁倪曉林的分享尤為引人注目。他圍繞AI與NPU的發展,探討了邊端側AI算力需求的變化趨勢,為聽眾帶來了深刻見解。

倪曉林首先介紹了「后摩智能」作為一家基于存算一體的AI芯片公司的背景,并表示作為AI時代的參與者和見證者,深感榮幸。隨后,他詳細闡述了后摩智能對邊端側AI算力需求變化的看法。

他提到,隨著AI 2.0時代的到來,云端模型和端邊側模型都在迅速發展。云端模型不斷增大規模和參數,探索通用智能的邊界;而端邊側則出現了更適合本地部署的模型,如7B、13B、30B等,這些模型更適合應用于各行各業,解決實際問題。端邊側AI具有個性化、低時延、數據隱私保護等優勢,且每年全球新增智能設備數量高達數十億臺,市場前景廣闊。

然而,端邊側AI的發展也面臨著硬件方面的挑戰。倪曉林指出,端側硬件需要滿足“三高三低”的要求,即高算力、高帶寬、高精度、低功耗、低延時、低成本。CPU無法滿足全部需求,而GPU雖然能滿足部分要求,但其高成本和高功耗限制了端側設備的普及。因此,專為本地大模型設計的NPU更適合邊端側使用。

針對邊端設備對AI高帶寬、低功耗的需求,傳統的馮·諾伊曼架構已經難以應對。倪曉林表示,存儲墻和功耗墻是當前企業面臨的兩大難題。為了突破這兩大難題,后摩智能采用了存算一體的全新架構,實現了存儲單元和計算單元的高度集成,大幅降低了功耗,增加了帶寬。

后摩智能已經自研了兩代存算一體芯片架構,并針對LLM類大模型進行了專項設計。其自研的IPU架構提供了高并行的浮點和整型算力,配套的軟件工具鏈簡單易用,兼容通用編程語言。后摩智能還推出了后摩鴻途??H30和后摩漫界??M30兩款NPU芯片,充分展現了存算一體架構在算力和功耗方面的優勢。

為了方便AI設備方案商及生產商快速部署,后摩智能不僅提供芯片,還提供多種標準化產品形態,如力謀??LM30智能加速卡和力謀??SM30計算模組等。這些產品可以讓現有各類終端設備通過標準接口加裝NPU,實現本地AI大模型的流暢運行。

倪曉林表示,隨著AI技術的不斷發展,越來越多的設備將成為AI大模型使能設備,如AI PC、汽車AI座艙、AI TV等。這些設備將成為更懂用戶、更聰明、更高效的助理、秘書、司機等,為用戶提供各種服務。后摩智能希望通過其AI芯片助力各行業實現快速升級。

倪曉林還透露,后摩智能將在2025年推出基于新一代“天璇”架構的最新款芯片,性能將再次大幅提升。這款芯片有望進一步加速端邊設備部署大模型的進程。

在演講的最后,倪曉林表示,他相信未來十年將是AI大模型的時代,NPU將重塑所有端邊場景和設備。他期待與在座的AI企業和生態合作伙伴攜手合作,共同推動現有設備以及未來新型設備流暢運行AI大模型,共創AI新時代。

 
 
更多>同類內容
推薦圖文
推薦內容
點擊排行
 
智快科技微信賬號
ITBear微信賬號

微信掃一掃
加微信拉群
電動汽車群
科技數碼群

主站蜘蛛池模板: 五月天激情丁香 | 亚州国产 | 血恋在线看 | 精品久久一区二区 | 羞羞的网站 | 亚洲国产成人资源在线桃色 | 欧美日韩精品一区二区三区视频 | 久久国内 | 五月深爱网 | 国产精品黄页网站在线播放免费 | 亚洲影视一区二区 | 久久精品国产波多野结衣 | 夏娃的诱惑之吻 | 狠狠色丁香婷婷综合小时婷婷 | 国产在线公开视频 | 日韩欧美视频免费观看 | 中文字幕亚洲日本岛国片 | 丁香五香天堂网 | 欧美性一级交视频 | 国产在线精品成人一区二区三区 | 偷自拍第一页 | 久久成人精品视频 | 亚洲午夜剧场 | 午夜日韩精品 | 女男羞羞视频网站免费 | 国产成人精品免费 | 欧美精品福利 | 伊人久久五月天 | 人人狠狠综合久久亚洲 | 中文字幕99页 | 99国产情在线视频 | 亚洲情人| 中文字幕99页 | 亚洲天堂毛片 | 亚洲精品人成在线观看 | 日本高清一二三区 | 色视频在线观看 | 中文字幕精品在线观看 | 亚洲人人视频 | 羞羞网站在线观看 | 久久国产精品免费一区二区三区 |