在2025 OCP全球峰會(huì)上,英特爾推出了一項(xiàng)突破性技術(shù)——將自身Gaudi3 AI加速器與英偉達(dá)B200 Tensor Core GPU集成于同一計(jì)算架構(gòu),構(gòu)建出高效異構(gòu)AI系統(tǒng)。這一創(chuàng)新打破了傳統(tǒng)單一廠商硬件方案的局限,為AI計(jì)算領(lǐng)域開(kāi)辟了新的技術(shù)路徑。
該系統(tǒng)的核心設(shè)計(jì)理念在于任務(wù)分工優(yōu)化:英偉達(dá)B200 GPU專(zhuān)注于AI模型的預(yù)填充階段,而計(jì)算密集型的解碼任務(wù)則由英特爾Gaudi3加速器承擔(dān)。這種分工策略充分發(fā)揮了不同硬件的架構(gòu)優(yōu)勢(shì),實(shí)現(xiàn)了計(jì)算資源的高效利用。
在Llama開(kāi)源大模型的實(shí)測(cè)中,這套異構(gòu)系統(tǒng)展現(xiàn)出顯著優(yōu)勢(shì)。與純B200構(gòu)成的同構(gòu)系統(tǒng)相比,其同TCO(總體擁有成本)下的性能提升最高達(dá)70%,意味著在相同成本投入下,系統(tǒng)算力產(chǎn)出接近翻倍。這一數(shù)據(jù)驗(yàn)證了異構(gòu)架構(gòu)在成本效益方面的突出表現(xiàn)。
技術(shù)細(xì)節(jié)方面,外媒SemiAnalysis披露該系統(tǒng)除搭載雙核心計(jì)算芯片外,還集成了英偉達(dá)ConnectX-7 400GbE網(wǎng)卡、BlueField-3 DPU以及博通Tomahawk5 51.2Tb/s交換芯片。這些高端網(wǎng)絡(luò)組件的加入,顯著擴(kuò)展了系統(tǒng)的擴(kuò)展域,確保多芯片協(xié)同工作時(shí)的數(shù)據(jù)傳輸效率。
行業(yè)分析師指出,這種跨廠商硬件的深度整合不僅需要技術(shù)層面的兼容性突破,更涉及生態(tài)系統(tǒng)的協(xié)同創(chuàng)新。該系統(tǒng)的成功實(shí)踐,為AI基礎(chǔ)設(shè)施的建設(shè)提供了新的技術(shù)范式參考。
本文鏈接:http://m.www897cc.com/showinfo-21-185320-0.html英特爾與英偉達(dá)“強(qiáng)強(qiáng)聯(lián)手”:Gaudi3攜手B200,異構(gòu)AI系統(tǒng)效能大躍升
聲明:本網(wǎng)頁(yè)內(nèi)容旨在傳播知識(shí),若有侵權(quán)等問(wèn)題請(qǐng)及時(shí)與本網(wǎng)聯(lián)系,我們將在第一時(shí)間刪除處理。郵件:2376512515@qq.com
上一篇: 智元機(jī)器人遠(yuǎn)征系列出貨近千臺(tái) 明年或達(dá)數(shù)千臺(tái)領(lǐng)跑全球