NVIDIA在生成式AI訓(xùn)練基準(zhǔn)測(cè)試中技?jí)喝盒?/h1>

來(lái)源： 責(zé)編： 時(shí)間：2023-11-19 10:30:56 375觀看

導(dǎo)讀全球最具公信力的人工智能（AI）基準(zhǔn)測(cè)試MLPerf已進(jìn)入生成式AI（Generative AI）時(shí)代。NVIDIA憑借其強(qiáng)大的GPU系統(tǒng)在最新的生成式AI訓(xùn)練基準(zhǔn)測(cè)試中取得了領(lǐng)先的地位，而英特爾（Intel）和Google也在測(cè)試中展示了他們的實(shí)力。在2023

全球最具公信力的人工智能（AI）基準(zhǔn)測(cè)試MLPerf已進(jìn)入生成式AI（Generative AI）時(shí)代。NVIDIA憑借其強(qiáng)大的GPU系統(tǒng)在最新的生成式AI訓(xùn)練基準(zhǔn)測(cè)試中取得了領(lǐng)先的地位，而英特爾（Intel）和Google也在測(cè)試中展示了他們的實(shí)力。wDc28資訊網(wǎng)——每日最新資訊28at.com

wDc28資訊網(wǎng)——每日最新資訊28at.com

在2023年早些時(shí)候，MLPerf新增了大型語(yǔ)言模型（LLM）訓(xùn)練基準(zhǔn)測(cè)試，特別是針對(duì)GPT-3。而在11月，MLPerf又新增了文字轉(zhuǎn)影像生成器Stable Diffusion基準(zhǔn)測(cè)試。這些基準(zhǔn)測(cè)試都是針對(duì)生成式AI的，要求參與者在強(qiáng)大的計(jì)算系統(tǒng)上完成訓(xùn)練。wDc28資訊網(wǎng)——每日最新資訊28at.com

wDc28資訊網(wǎng)——每日最新資訊28at.com

在這個(gè)測(cè)試中，NVIDIA憑借其HGX H100系統(tǒng)取得了最佳的成績(jī)。HGX H100系統(tǒng)是一個(gè)超級(jí)電腦，搭載了1萬(wàn)顆GPU。名為Eos的NVIDIA系統(tǒng)僅用了不到4分鐘就完成了所有的GPT-3訓(xùn)練基準(zhǔn)測(cè)試。微軟（Microsoft）Azure用相同大小的系統(tǒng)測(cè)試，完成時(shí)間也只落后了幾秒鐘。wDc28資訊網(wǎng)——每日最新資訊28at.com

wDc28資訊網(wǎng)——每日最新資訊28at.com

英特爾也參與了這個(gè)基準(zhǔn)測(cè)試，他們使用了搭載Gaudi 2加速芯片的系統(tǒng)以及僅搭載第4代Xeon處理器的系統(tǒng)。英特爾啟用了Gaudi 2的8位元浮點(diǎn)（FP8）功能，這在部分GPT-3和其他Transformer神經(jīng)網(wǎng)絡(luò)中使用，其低精度不會(huì)影響精度。測(cè)試結(jié)果顯示，Gaudi 2系統(tǒng)的單芯片速度略低于NVIDIA系統(tǒng)約三分之一，但它是Google TPUv5e的3倍。wDc28資訊網(wǎng)——每日最新資訊28at.com

wDc28資訊網(wǎng)——每日最新資訊28at.com

英特爾Habana Labs營(yíng)運(yùn)長(zhǎng)Eitan Medina表示，他們預(yù)估FP8將帶來(lái)90%的增益，而實(shí)際測(cè)試中，384個(gè)加速器的叢集將訓(xùn)練時(shí)間縮短了103%。他還指出，Gaudi 2的價(jià)格明顯低于H100，因此在價(jià)格和效能的綜合指標(biāo)上具有優(yōu)勢(shì)。隨著Gaudi 3在2024年的推出，此優(yōu)勢(shì)將進(jìn)一步增強(qiáng)。wDc28資訊網(wǎng)——每日最新資訊28at.com

wDc28資訊網(wǎng)——每日最新資訊28at.com

除了這些大公司，也有一些僅搭載CPU的系統(tǒng)參與了基準(zhǔn)測(cè)試。這些系統(tǒng)在幾個(gè)基準(zhǔn)測(cè)試的訓(xùn)練時(shí)間介于幾分鐘到幾小時(shí)之間。除了MLPerf基準(zhǔn)測(cè)試外，英特爾還分享了一些數(shù)據(jù)，顯示包含AMX矩陣引擎的4節(jié)點(diǎn)Xeon系統(tǒng)能在不到5分鐘內(nèi)微調(diào)Stable Diffusion影像生成器。wDc28資訊網(wǎng)——每日最新資訊28at.com

wDc28資訊網(wǎng)——每日最新資訊28at.com

據(jù)報(bào)道，共有19家企業(yè)和機(jī)構(gòu)提交了超過(guò)200份測(cè)試結(jié)果，顯示了AI訓(xùn)練的快速發(fā)展。這些提交結(jié)果的平均效能較過(guò)去5個(gè)月增加了2.8倍，比MLPerf開(kāi)始測(cè)試5年來(lái)增加了49倍。wDc28資訊網(wǎng)——每日最新資訊28at.com

wDc28資訊網(wǎng)——每日最新資訊28at.com

這個(gè)基準(zhǔn)測(cè)試展示了各大公司在AI領(lǐng)域的實(shí)力和進(jìn)步。NVIDIA憑借其強(qiáng)大的GPU系統(tǒng)取得了領(lǐng)先的地位，而英特爾和Google也在測(cè)試中展示了他們的實(shí)力。隨著AI技術(shù)的不斷發(fā)展，我們有理由相信未來(lái)會(huì)有更多的突破和創(chuàng)新。wDc28資訊網(wǎng)——每日最新資訊28at.com

wDc28資訊網(wǎng)——每日最新資訊28at.com

本文鏈接：http://m.www897cc.com/showinfo-27-30041-0.htmlNVIDIA在生成式AI訓(xùn)練基準(zhǔn)測(cè)試中技?jí)喝盒?/p>

聲明：本網(wǎng)頁(yè)內(nèi)容旨在傳播知識(shí)，若有侵權(quán)等問(wèn)題請(qǐng)及時(shí)與本網(wǎng)聯(lián)系，我們將在第一時(shí)間刪除處理。郵件：2376512515@qq.com

上一篇： 蘋(píng)果Vision Pro在企業(yè)市場(chǎng)的應(yīng)用與優(yōu)勢(shì)

下一篇： 歐盟公布“守門(mén)人”名單，對(duì)大廠進(jìn)行更嚴(yán)格監(jiān)管

標(biāo)簽：

• 熱門(mén)焦點(diǎn)

• 鴻蒙OS 4.0公測(cè)機(jī)型公布：甚至連nova6都支持

  華為全新的HarmonyOS 4.0操作系統(tǒng)將于今天下午正式登場(chǎng)，官方在發(fā)布會(huì)之前也已經(jīng)正式給出了可升級(jí)的機(jī)型產(chǎn)品，這意味著這些機(jī)型會(huì)率先支持升級(jí)享用。這次的HarmonyOS 4.0支持

• 中興AX5400Pro+上手體驗(yàn)：再升級(jí) 雙2.5G網(wǎng)口+USB 3.0這次全都有

  2021年11月的時(shí)候，中興先后發(fā)布了兩款路由器產(chǎn)品，中興AX5400和中興AX5400 Pro，從產(chǎn)品命名上就不難看出這是隸屬于同一系列的，但在外觀設(shè)計(jì)上這兩款產(chǎn)品可以說(shuō)是完全沒(méi)一點(diǎn)關(guān)系

• 消息稱迪士尼要拍真人版《魔發(fā)奇緣》：女主可能也找黑人演員

  8月5日消息，迪士尼確實(shí)有點(diǎn)忙，忙著將不少動(dòng)畫(huà)改成真人版，繼《美人魚(yú)》后，真人版《白雪公主》、《魔發(fā)奇緣》也在路上了。據(jù)外媒消息稱，迪士尼將打造真人版

• 28個(gè)SpringBoot項(xiàng)目中常用注解，日常開(kāi)發(fā)、求職面試不再懵圈

  前言在使用SpringBoot開(kāi)發(fā)中或者在求職面試中都會(huì)使用到很多注解或者問(wèn)到注解相關(guān)的知識(shí)。本文主要對(duì)一些常用的注解進(jìn)行了總結(jié)，同時(shí)也會(huì)舉出具體例子，供大家學(xué)習(xí)和參考。注解

• 一文看懂為蘋(píng)果Vision Pro開(kāi)發(fā)應(yīng)用程序

  譯者 | 布加迪審校 | 重樓蘋(píng)果的Vision Pro是一款混合現(xiàn)實(shí)（MR）頭戴設(shè)備。Vision Pro結(jié)合了虛擬現(xiàn)實(shí)（VR）和增強(qiáng)現(xiàn)實(shí)（AR）的沉浸感。其高分辨率顯示屏、先進(jìn)的傳感器和強(qiáng)大的處理能力

• 三言兩語(yǔ)說(shuō)透柯里化和反柯里化

  JavaScript中的柯里化(Currying)和反柯里化(Uncurrying)是兩種很有用的技術(shù)，可以幫助我們寫(xiě)出更加優(yōu)雅、泛用的函數(shù)。本文將首先介紹柯里化和反柯里化的概念、實(shí)現(xiàn)原理和應(yīng)用

• 這款新興工具平臺(tái)，讓你的電腦效率翻倍

  隨著信息技術(shù)的發(fā)展,我們獲取信息的渠道越來(lái)越多,但是處理信息的效率卻成為一個(gè)瓶頸。于是各種工具應(yīng)運(yùn)而生,都在爭(zhēng)相解決我們的工作效率問(wèn)題。今天我要給大家介紹一款效率

• iQOO Neo8系列或定檔5月23日：首發(fā)天璣9200+ 安卓跑分王者

  去年10月，iQOO推出了iQOO Neo7系列機(jī)型，不僅搭載了天璣9000+，而且是同價(jià)位唯一一款天璣9000+直屏旗艦，一經(jīng)上市便受到了用戶的廣泛關(guān)注。在時(shí)隔半年后，

• 利用職權(quán)私自解除被封帳號(hào) Meta開(kāi)除20多名員工

  11月18日消息，據(jù)外媒援引知情人士表示，過(guò)去一年時(shí)間內(nèi)，F(xiàn)acebook母公司Meta解雇或處罰了20多名員工以及合同工，指控這些人通過(guò)內(nèi)部系統(tǒng)以不當(dāng)方式重置用戶帳號(hào)，其