一加Ace2 Pro官宣：普及16G內存 引領24G
一加官方今天繼續為本月發布的新機一加Ace2 Pro帶來預熱，公布了內存方面的信息。“淘汰 8GB ，12GB 起步，16GB 普及，24GB 引領，還有呢？#一加Ace2Pro#，2023 年 8 月，敬請期待。”同時
6 月 28 日至 29 日，「稀土開發者大會」在北京圓滿落幕，這場為期兩天的盛會以“代碼不止掘金不停”為主題，匯聚了業界精英的璀璨光芒。活動特邀 5 位重量級主論壇嘉賓、12 位卓越出品人以及超過 70 位技術先鋒，精心策劃了 10 大前沿主題分論壇，跨越地域界限，攜手引領技術潮流，深入剖析行業最新趨勢與未來發展方向。
作為本次大會的戰略合作伙伴，英特爾不僅在主論壇與分論壇上貢獻了精彩紛呈的內容，更在外部展區大放異彩，聚焦于大模型與 genAI 的賦能展示。不僅展現了其在推動 AI 技術革新方面的深厚實力，更為參會者搭建了一個近距離感受未來科技魅力的平臺。
開放生態賦能創新
英特爾公司副總裁、英特爾中國軟件與先進技術事業部總經理李映在稀土開發者大會主論壇上帶來了主題《開放生態，賦能創新：英特爾如何通過開源開放推動 GenAI產業生態繁榮》。會上，他強調英特爾公司通過技術趨勢引領和開源社區建設，推動社區繁榮，同時在硬件支持和創新項目培育方面發揮著重要作用。英特爾的技術合作釋放了硬件算力，OS 優化快速部署，顯著提升了性能，尤其是在 veLinux 操作系統上的應用性能。通過社區治理和創新項目，展示了硬件級安全方案和資源管理的重要性。英特爾還推動了 AI 創新應用在多媒體內容生成、教育等領域的發展。
展望 2024 年，英特爾計劃通過開放生態系統解鎖企業人工智能，推動異構計算 AI 加速框架，與 Linux Foundation 等合作伙伴共同構建開放、標準的多架構加速計算生態系統。英特爾中國將繼續加強全球開源社區合作，加速技術應用創新，推動產業落地，釋放底層算力，實現 AI 的無處不在。
圖：英特爾公司副總裁、英特爾中國軟件與先進技術事業部總經理李映
在「大模型部署與推理」的分論壇上，英特爾高級軟件工程師繆金成、英特爾 AI 框架軟件工程師王錫貴分別帶來了《使用英特爾優化工具加速 GenAI / LLM 應用》以及《英特爾基于 transformer 的工具集加速 LLM》的主題演講。
繆金成首先介紹了至強平臺憑借其強大的計算能力和可擴展性，在支撐復雜 LLM 運行方面的獨特優勢。具體而言，通過利用該平臺提供的 32 個物理核心以及xFT + vLLM 技術，實現了多路并發的卓越效果，顯著提升了模型處理速度與響應能力。他進一步分享了具體的部署經驗，包括如何選擇合適的硬件配置、優化軟件棧以充分利用硬件資源，以及利用部署工具簡化流程、加速部署周期。最終，通過實例展示，驗證了至強平臺在支持高并發、低延遲 LLM 服務方面的卓越表現。
圖：英特爾高級軟件工程師繆金成
王錫貴著重介紹了英特爾擴展工具包，這是一個為加速 Transformer 模型而設計的創新工具集。他詳細說明了該工具包如何支持模型量化，以減少內存占用同時保持計算精度。并分享了全面的安裝和配置指南，指導用戶如何在不同的操作系統和軟件版本上部署和優化模型。此外，他還列出了工具包支持的大型語言模型，并提供了詳盡的性能數據，展示了這些模型在不同硬件上的表現。
圖：英特爾 AI 框架軟件工程師王錫貴
在「GenAI 技術實踐」分論壇上，英特爾軟件工程師林立凡帶來了主題為《火山引擎 g3i 實例：基于第五代至強處理器的文生圖實踐》
林立凡在演講中總結了基于英特爾第五代至強處理器在文生圖技術上的實踐突破。他強調了火山 g3i 實例的架構優勢，特別是 Intel AMX 技術如何通過硬件加速提升深度學習性能。同時，他介紹了英特爾軟件棧的優化，包括針對 PyTorch、TensorFlow 等框架的調整及 AMX 性能優化。通過 Huggingface pipeline 的實戰案例，展示了這些優化如何在實際應用中提升圖像生成服務的效率。
圖：英特爾軟件工程師林立凡
在「大模型工具鏈的應用與實踐」分論壇上，英特爾 AI 框架軟件工程師王再勵帶來了主題為《助力 PyTorch 加速大語言模型》
在演講中他深入剖析了 Intel Extension for PyTorch，這一專為強化 PyTorch 在英特爾平臺上性能的定制優化工具集。王再勵簡明扼要地介紹了三大核心優化策略：算子級優化、自動混合精度加速及數據布局智能調整，這些策略協同作用，顯著加速了深度學習模型的訓練與推理過程。針對大型語言模型（LLM）的內存瓶頸，王再勵介紹了一系列創新優化方案，涵蓋 GEMM 計算加速、圖結構優化、權重量化技術、K-V 緩存策略優化及高效的分布式推理方法。他特別強調了 SmoothQuant 與權重量化技術的應用，這些技術能夠在保持模型精度的同時，大幅提升計算效率。
圖：英特爾 AI 框架軟件工程師王再勵
展區探秘科技觸手可及
走進英特爾展區，立刻領略到科技的前沿魅力。展區設計現代且富有科技感。展品展示了英特爾的發展歷程和最新技術成果，還通過豐富的互動體驗，讓參觀者近距離感受科技的魅力。無論是科技愛好者、專業人士還是普通觀眾，都能在這里找到感興趣的內容，全面了解英特爾如何通過科技創新引領未來。
本文鏈接：http://m.www897cc.com/showinfo-26-98711-0.html英特爾閃耀 2024 稀土開發者大會：共繪科技未來藍圖！
聲明：本網頁內容旨在傳播知識，若有侵權等問題請及時與本網聯系，我們將在第一時間刪除處理。郵件：2376512515@qq.com
Copyright ? 2016-2023 天津谷騏科技有限公司 版權所有 sitemap.xml
違法及侵權請聯系：2376512515@qq.com 津ICP備18001702號
津公網安備 12010102000574號