紅魔電競(jìng)平板評(píng)測(cè)：大屏幕硬實(shí)力
前言：三年的疫情因?yàn)橐暇W(wǎng)課的原因激活了平板市場(chǎng)，如今網(wǎng)課的時(shí)代已經(jīng)過去，大家的生活都恢復(fù)到了正軌，這也就意味著，真正考驗(yàn)平板電腦生存的環(huán)境來了。也就是面對(duì)著這種殘酷的
NVIDIA H100從2022年9月量產(chǎn)投入市場(chǎng)，至今供不應(yīng)求。李建梁攝（數(shù)據(jù)照）
2023年科技產(chǎn)業(yè)備受關(guān)注的人物與企業(yè)，莫非NVIDIA與其CEO黃仁勛莫屬。2月間，黃仁勛宣稱「AI的iPhone時(shí)刻」已經(jīng)到來，半年之后，外界用連續(xù)2季的財(cái)報(bào)業(yè)績檢視NVIDIA，NVIDIA也在抱回外界難以想像的獲利。
NVIDIA公布的2024會(huì)計(jì)年度第2季（2QFY24）財(cái)報(bào)數(shù)據(jù)，揭示營收年增101%、凈利年增422%、毛利率高達(dá)71.2%的炸裂式業(yè)績，各項(xiàng)指標(biāo)均遠(yuǎn)超預(yù)期，而H100系列芯片在AI熱潮推動(dòng)的大型語言模型訓(xùn)練（LLM）市場(chǎng)中一卡難求。
NVIDIA 2QFY24業(yè)績可用「噴井」形容
主要科技大廠2Q23法說提到AI的次數(shù)
AI算力需求呈現(xiàn)爆炸式成長，對(duì)云端業(yè)者而言，只能不斷采購AI服務(wù)器；然對(duì)于LLM開發(fā)廠商來說，NVIDIA的數(shù)據(jù)中心業(yè)務(wù)瘋狂吸金，而客戶卻還未實(shí)現(xiàn)獲利。眼前LLM大浪未至，錢卻都被NVIDIA賺走了。
在財(cái)報(bào)公布前，NVIDIA高端AI GPU不斷傳出漲價(jià)聲，Barrron's引述分析師報(bào)告，H100制造成本為3,320美元，而售價(jià)則高達(dá)2.5萬~3萬美元，利潤接近成本的10倍；毛利率超過70%，對(duì)芯片產(chǎn)品而言，有些不可思議。
對(duì)此黃仁勛強(qiáng)調(diào)，NVIDIA提供的是軟件生態(tài)系統(tǒng)和硬件平臺(tái)，具備軟件生態(tài)架構(gòu)的靈活性、多功能性，再加上廣大的安裝基礎(chǔ)及涵蓋范圍，程序碼數(shù)量和應(yīng)用程序組合的類型相當(dāng)瘋狂，簡單說，賣的是「準(zhǔn)系統(tǒng)」而非「單一芯片」，但NVIDIA花了20年才走到這一步。
外界分析，NVIDIA構(gòu)建的CUDA軟件生態(tài)，不僅讓旗下GPU受青睞，也是客戶無法輕易轉(zhuǎn)向超微（AMD）等競(jìng)爭(zhēng)對(duì)手的主因。原因在于，AI算力的配置絕非簡單的硬件堆疊，即便把重達(dá)30多公斤、多達(dá)3.5萬個(gè)零件組成的NVIDIAHGX平臺(tái)層層堆起來，也堆不出LLM必須的AI算力。
要把1,000張加速卡、100臺(tái)AI服務(wù)器放在一起，跑同一個(gè)LM訓(xùn)練或推論任務(wù)，還需要大量的配套軟件、通訊網(wǎng)絡(luò)，還不包括客戶的大量數(shù)據(jù)。這是一系列軟硬件聯(lián)合調(diào)用的復(fù)雜過程，黃仁勛把H100這類AI GPU稱為「技術(shù)奇跡」，并非沒有原因。
H100從2022年9月量產(chǎn)投入市場(chǎng)，至今供不應(yīng)求，甚至上一代的A100至今仍是搶手貨。NVIDIA聚焦于系統(tǒng)級(jí)服務(wù)器產(chǎn)品，最新款DGX產(chǎn)品GH200集結(jié)256塊H100和Grace CPU，預(yù)料會(huì)在2023年下半量產(chǎn)后將躍居業(yè)績新推手。
至于H100為何價(jià)格高昂？在硬件層面上，H100采用了四大先進(jìn)技術(shù)。第一是臺(tái)積電4納米制程（N4），要讓這一顆長26.8厘米、寬11.1厘米、含有800億個(gè)晶體管的H100發(fā)揮前所未有的效能，舉世當(dāng)今非臺(tái)積電代工莫屬。
第二是連接技術(shù)，每張H100包含3個(gè)NVLink連接，這是NVIDIA獨(dú)家的數(shù)據(jù)傳輸技術(shù)，第四代NVlink可提供每秒900GB的GPU對(duì)GPU互連帶寬，以便將更多H100互連使用，獲得倍增的效能。
第三是80GB的HBM2e高帶寬存儲(chǔ)器，目前僅SK海力士（SK Hynix）、三星電子（Samsung Electroics）可供應(yīng)，值得注意的是，NVIDIA剛剛宣布將最新的HBM3e植入最新GH200，是全球第一個(gè)支持HBM3e的GPU產(chǎn)品。
第四是臺(tái)積電的CoWoS封裝技術(shù)，臺(tái)積電正積極擴(kuò)建CoWoS產(chǎn)能，但供不應(yīng)求情況恐將持續(xù)到2024年。
這四大技術(shù)每一項(xiàng)均屬尖端領(lǐng)域，付出代價(jià)所費(fèi)不貲，如果說LLM推動(dòng)AI GPU加速運(yùn)算時(shí)代來臨，但讓NVIDIA站在當(dāng)前科技舞臺(tái)上獨(dú)舞的關(guān)鍵，卻是黃仁勛領(lǐng)導(dǎo)團(tuán)隊(duì)的長期押注與心血累積。
責(zé)任編輯：朱原弘
本文鏈接：http://m.www897cc.com/showinfo-27-6936-0.htmlAI淘金熱未至 鏟子先熱賣 NVIDIA H100為何身價(jià)不凡？
聲明：本網(wǎng)頁內(nèi)容旨在傳播知識(shí)，若有侵權(quán)等問題請(qǐng)及時(shí)與本網(wǎng)聯(lián)系，我們將在第一時(shí)間刪除處理。郵件：2376512515@qq.com
上一篇： 庫瀚信息：DSA黃金時(shí)代，RISC-V要在數(shù)據(jù)中心應(yīng)用中找準(zhǔn)定位
Copyright ? 2016-2023 天津谷騏科技有限公司 版權(quán)所有 sitemap.xml
違法及侵權(quán)請(qǐng)聯(lián)系：2376512515@qq.com 津ICP備18001702號(hào)
津公網(wǎng)安備 12010102000574號(hào)