據(jù)天眼查信息顯示,華為技術有限公司近期在人工智能領域取得重要進展。9月5日,該公司申請的一項名為"AI模型的運行方法、裝置、程序產品和存儲介質"的專利正式對外公布,這項創(chuàng)新技術有望顯著提升AI模型的運行效率。

該專利技術屬于機器學習技術領域,主要針對AI模型運行過程中存在的數(shù)據(jù)搬運延遲問題提出解決方案。根據(jù)專利摘要,華為研發(fā)的這套方法通過優(yōu)化數(shù)據(jù)處理流程,有效減少了嵌入向量在傳輸過程中產生的處理延時,從而提升整體運算效率。
具體而言,這項技術應用于配備處理器的主機系統(tǒng),該系統(tǒng)同時連接有計算卡。在處理AI模型時,系統(tǒng)會先識別相鄰兩組輸入數(shù)據(jù)中的差異部分——即在后續(xù)數(shù)據(jù)組中出現(xiàn)但未在前序數(shù)據(jù)組中出現(xiàn)的特定數(shù)據(jù)。隨后,系統(tǒng)會將這些差異數(shù)據(jù)對應的嵌入向量預先加載到處理器的內存中。
技術實施的關鍵在于雙重預取機制:首先將識別出的差異數(shù)據(jù)對應的嵌入向量預存至處理器內存,同時記錄這些向量的相關信息;然后在后續(xù)數(shù)據(jù)組由計算卡處理的過程中,系統(tǒng)會根據(jù)預先記錄的信息,將這些嵌入向量從處理器內存快速傳輸至計算卡的專用內存。這種分層預取的方式顯著優(yōu)化了數(shù)據(jù)處理流程。

行業(yè)專家指出,嵌入向量的傳輸效率直接影響AI模型的運算速度。華為這項專利通過創(chuàng)新的預取機制,減少了數(shù)據(jù)處理過程中的等待時間,特別適用于需要處理大規(guī)模數(shù)據(jù)集的深度學習場景。這種技術優(yōu)化對于提升實時AI應用的響應速度具有重要意義。
據(jù)天眼查信息顯示,華為近年來持續(xù)加大在人工智能領域的研發(fā)投入,已累計申請多項相關專利。此次公布的專利技術體現(xiàn)了該公司在AI硬件協(xié)同優(yōu)化方面的最新成果,有望為智能計算領域帶來新的技術突破。
舉報 0收藏 0打賞 0評論 0分享 0 更多>同類資訊
中國電信發(fā)布白皮書:光電協(xié)同賦能智算網(wǎng)絡,應對算力增長挑戰(zhàn)入算網(wǎng)絡依靠算網(wǎng)感知、彈性帶寬、無損傳輸、安全可靠等技術,保障數(shù)據(jù)高效安全接入;算內網(wǎng)絡通過光電混合互聯(lián)架構、超大端口光交換等技術,提升集群性能與可靠性;算間網(wǎng)絡借助IP層管控和光傳輸技術,打破地域限制,實現(xiàn)…09-05
{算力城域網(wǎng)白皮書(2025版):大模型驅動下的發(fā)展路徑與技術革新算力城域網(wǎng)是中國電信在新型城域網(wǎng)基礎上打造的算網(wǎng)一體新業(yè)態(tài),具備算力高效整合、無損輸送、服務即取即用等能力,已在上海、浙江等地現(xiàn)網(wǎng)驗證,算效、TTFT等指標劣化小于3%,通過“2+3+7”公共智算云池、省級城…09-05
陜西移動咸陽分公司:數(shù)智驅動通信升級,精準施策筑牢民生通信基石2025年上半年以來,咸陽移動在傳輸網(wǎng)隱患整改、前傳弱光處理及高鐵專項整治等方面成效顯著,充分展現(xiàn)了通信企業(yè)的責任與擔當。咸陽移動根據(jù)弱光的嚴重程度制定了優(yōu)先級,優(yōu)先完成了18處危險級弱光的處理,這些弱光點如…09-05
面向超萬卡智算集群:創(chuàng)新存儲技術如何破解大模型訓練存儲難題中國移動1.8萬卡國產化智算中心哈爾濱節(jié)點,算力規(guī)模6.9EFLOPS,該中心承載九天千億級參數(shù)基礎大模型的研發(fā)與訓練,結合模型訓練要求,項目共計建設融合存儲150PB,包括全閃存高性能存儲60PB和普通性…09-05?小米7000名應屆生齊聚,雷軍發(fā)文展望未來,共繪創(chuàng)新發(fā)展新藍圖?根據(jù)此前的報道,小米集團的目標是在未來10年內,將這些應屆生中的佼佼者培養(yǎng)成技術專家或總經(jīng)理。這一計劃不僅展現(xiàn)了小米對人才培養(yǎng)的重視,也反映了公司在創(chuàng)新與發(fā)展中的決心。未來,我們期待看到這些年輕人在小米這個…09-05
iPhone 17系列內存大升級:Pro版增至12GB,標準版保持不變如果蘋果不為iPhone 17標準版升級內存的話,也就意味著未來可能會因為內存不足,而無法升級某些AI功能。另外三款則配備A19Pro處理器,不過只有兩款Pro版使用的是6核心GPU的滿血版,iPhone …09-05A股午后資金回暖,新能源芯片齊拉升,AIETF(515070)持倉股大漲人工智能AIETF(515070)盤中大漲超4%,持倉股新易盛大漲超11%,均勝電子、中際旭創(chuàng)、協(xié)創(chuàng)數(shù)據(jù)等個股紛紛大漲。新賽道領域,AI產業(yè)鏈業(yè)績已強勁兌現(xiàn),機器人與創(chuàng)新藥面臨量產與困境反轉機遇,新消費需關注…09-05運機集團聯(lián)手科大訊飛等,共鑄數(shù)智化產業(yè)新標桿,賦能行業(yè)高質量發(fā)展三方將針對上述領域的技術進行深度合作,并打造示范項目,共同推進行業(yè)高質量發(fā)展。 展望未來,三方將以人工智能大模型、AI傳感儀器、工業(yè)智能機器人等為核心,持續(xù)深化關鍵技術共研、行業(yè)場景共創(chuàng)與成果轉化共享,攜手構…09-05
AI玩具新紀元:交互升級至情感伴侶,企業(yè)數(shù)量突破1347.7萬家大關09-05華納兄弟探索訴Midjourney:AI生成大量版權角色圖像遭指控侵權09-05Bret Taylor創(chuàng)辦AI公司Sierra獲3.5億融資,估值飆升百億09-05AI造型師上線!奢侈品租賃平臺Vivrelle攜手三大零售商打造個性化時尚體驗09-05DuckDuckGo訂閱服務升級:9.99美元月費解鎖AI聊天機器人頂級體驗09-05MIT報告:企業(yè)GenAI項目成功率僅5%,問題出在應用方式09-05Roblox啟用AI年齡驗證系統(tǒng),2025年底前全面保障未成年用戶安全09-05點擊查看更多 +全站最新
?盒馬鄰里自提10月4日停運,未來聚焦“鮮生+NB”業(yè)態(tài)有何新布局??
小紅書“種草直達”功能升級,一鍵跳轉三大電商平臺購物更便捷!
京東江蘇再落子!廣升信息技術公司成立,注冊資本達2億
?字節(jié)跳動全資控股!杭州智匯數(shù)谷科技公司攜百萬注冊資本正式成立?
?即時零售浪潮下盒馬鄰里謝幕?,“鮮生+超盒算NB”能否成新增長極??熱門內容
中國電信發(fā)布白皮書:光電協(xié)同賦能智算網(wǎng)絡,應對算力增長挑戰(zhàn)
{算力城域網(wǎng)白皮書(2025版):大模型驅動下的發(fā)展路徑與技術革新
陜西移動咸陽分公司:數(shù)智驅動通信升級,精準施策筑牢民生通信基石
面向超萬卡智算集群:創(chuàng)新存儲技術如何破解大模型訓練存儲難題
iPhone 17系列內存大升級:Pro版增至12GB,標準版保持不變
AI玩具新紀元:交互升級至情感伴侶,企業(yè)數(shù)量突破1347.7萬家大關
本文鏈接:http://m.www897cc.com/showinfo-45-27357-0.html華為再獲新突破:AI模型運行相關專利正式對外公布
聲明:本網(wǎng)頁內容旨在傳播知識,若有侵權等問題請及時與本網(wǎng)聯(lián)系,我們將在第一時間刪除處理。郵件:2376512515@qq.com