盧偉冰長(zhǎng)文解析K60至尊版 對(duì)Redmi有著里程碑式的意義
在今天的Redmi后性能時(shí)代戰(zhàn)略發(fā)布會(huì)結(jié)束之后，Redmi總經(jīng)理盧偉冰又帶來了一篇長(zhǎng)文，詳解了為什么 Redmi 要開啟后性能時(shí)代？為什么選擇和 MediaTek、Pixelworks 深度合作？以及后性
快科技10月17日消息，近，EXO實(shí)驗(yàn)室展示了其新成果：將兩臺(tái)NVIDIA的DGX Spark迷你超算與蘋果的M3 Ultra Mac Studio相結(jié)合，成功打造出一個(gè)高效的AI協(xié)同網(wǎng)絡(luò)，實(shí)現(xiàn)了AI性能的大幅提升。
這得益于EXO實(shí)驗(yàn)室的主要項(xiàng)目EXO，其核心在于其能夠?qū)⒋笮驼Z(yǔ)言模型（LLM）的推理任務(wù)智能分配到不同的硬件設(shè)備上。
傳統(tǒng)上，推理任務(wù)通常依賴于單一的GPU或加速器，而EXO則能夠自動(dòng)將工作負(fù)載分散到用戶所擁有的各種設(shè)備上，無論是桌面電腦、筆記本、工作站、服務(wù)器、平板電腦甚至智能手機(jī)，都可以成為這個(gè)協(xié)同AI網(wǎng)絡(luò)的一部分。
在EXO的新演示中，兩臺(tái)NVIDIA DGX Spark與蘋果的Mac Studio被組合在一起，以充分利用了每臺(tái)機(jī)器的獨(dú)特優(yōu)勢(shì)。
DGX Spark擁有強(qiáng)大的計(jì)算能力，而Mac Studio則擁有超寬的內(nèi)存位寬和快速的數(shù)據(jù)傳輸能力著稱，EXO 1.0版本將這兩者融合為一個(gè)單一的推理管道，并且效果出奇地好。
在EXO使用Meta的Llama-3.1 8B模型進(jìn)行的基準(zhǔn)測(cè)試中，這種混合設(shè)置比單獨(dú)使用Mac Studio的速度快了2.8倍。
這還是在使用相對(duì)較小的8B模型和8K-token的情況下，如果使用更長(zhǎng)的提示或更大的模型，性能提升可能會(huì)更加顯著。
本文鏈接：http://m.www897cc.com/showinfo-24-184963-0.html蘋果×NVIDIA“夢(mèng)幻聯(lián)動(dòng)”！兩臺(tái)DGX Spark+Mac Studio合體：AI性能暴漲2.8倍
聲明：本網(wǎng)頁(yè)內(nèi)容旨在傳播知識(shí)，若有侵權(quán)等問題請(qǐng)及時(shí)與本網(wǎng)聯(lián)系，我們將在第一時(shí)間刪除處理。郵件：2376512515@qq.com
Copyright ? 2016-2023 天津谷騏科技有限公司 版權(quán)所有 sitemap.xml
違法及侵權(quán)請(qǐng)聯(lián)系：2376512515@qq.com 津ICP備18001702號(hào)
津公網(wǎng)安備 12010102000574號(hào)