Raft算法：保障分布式系統共識的穩健之道
1. 什么是Raft算法？Raft 是英文”Reliable、Replicated、Redundant、And Fault-Tolerant”（“可靠、可復制、可冗余、可容錯”）的首字母縮寫。Raft算法是一種用于在分布式系統
由 NVIDIA AI 賦能的工具和技術為混合式 AI 工作流提供支持。
編者注: 本文屬于《解碼 AI》系列欄目，該系列的目的是讓技術更加簡單易懂，從而解密 AI, 同時向 RTX PC 用戶展示全新硬件、軟件、工具和加速特性。
生成式 AI 為 Windows 應用和游戲帶來了各種新功能。它為無腳本、動態的 NPC 提供動力，助力創作者生成新穎的藝術作品，并幫助游戲玩家將幀率提升高達 4 倍。但這些不過是冰山一角。
隨著生成式 AI 的功能和使用場景不斷增加，相關計算需求也水漲船高。
混合式 AI 將 NVIDIA RTX 的端側 AI 加速與云端的可擴展 GPU 相結合，可有效且高效地滿足 AI 工作負載的需求。
混合式 AI, 魚與熊掌兼得
隨著 AI 的普及，應用開發者正在尋找各種可行的部署方式: 在 RTX GPU 上本地運行的 AI 兼具高性能和低延遲，即使在離線情況下也可隨時使用。另一方面，在云端運行的 AI 能夠運行規模更大的模型并且可以跨多個 GPU 進行擴展，還可以同時為多個用戶提供服務。在許多情況下，一個應用程序會同時使用這兩種方式部署的服務。
混合式 AI 組合與協調本地 PC 和工作站的算力與云的擴展能力。它可以根據特定使用場景、成本和性能要求靈活優化 AI 工作負載，幫助開發者確保 AI 任務在其特定應用場景下最合適的設備上運行。
無論 AI 是在本地還是在云端運行，它都可以通過 NVIDIA GPU 和 NVIDIA 的 AI 技術棧 (包括 TensorRT 和 TensorRT-LLM) 進行加速。這意味著我們可以減少無謂的等待時間，并可為用戶提供更多的先進 AI 功能。
這一系列 NVIDIA 工具和技術可為創作者、游戲玩家和開發者的混合式 AI 工作流提供支持。
理想的云端應用由 RTX 實現
生成式 AI 已經證明它能夠為藝術家的創作提供靈感，加速設計，啟發構思。此類解決方案包括 iStock 推出的云端生成式 AI, 這是一項由 NVIDIA Edify 驅動的生成式攝影圖片服務，專為藝術家打造。另一方面，藝術家也為該生成式 AI 的模型訓練貢獻了各種授權內容，而做出貢獻的藝術家也會因此獲得報酬。
iStock 的生成式 AI 不僅可以用于圖像生成，還可以為藝術家提供豐富的工具，以便他們探索各種風格和變化，修改圖像的某個部分或擴展畫布。借助這些工具，藝術家可以快速完成多次概念設計，并將創意轉變為現實方案。
創意概念準備完成后，藝術家就可以將其轉移到本地設備上。RTX 助力的 PC 和工作站可在超過 125 款熱門創意應用中為藝術家提供 AI 加速，幫助他們最大化實現自己的創意愿景: 無論是使用本地 AI 工具在 Photoshop 中創建令人驚嘆的藝術作品，在 DaVinci Resolve 中使用視差效果為圖像制作動畫，還是使用光線追蹤加速在 Blender 中借助參考圖像構建 3D 場景，抑或是使用 Optix 進行 AI 降噪。
云端 ACE 讓 NPC 栩栩如生
混合式 AI 還通過 NVIDIA ACE 實現了交互式 PC 游戲的新高度，讓游戲開發者和數字創作者能夠將先進的生成式 AI 模型集成到 RTX AI PC 上的數字虛擬形象中。
NVIDIA ACE NIM 由 AI 神經網絡提供支持，讓開發人員和設計師創建能夠理解并響應人類玩家文本和語音的非玩家角色 (NPC)。NVIDIA ACE NIM 可利用 AI 模型 (包括語音轉文本模型) 來處理人類語音輸入，以便 NPC 實時生成回應。
https://images.nvidia.cn/cn/youtube-replicates/uryeFhnNzEs.mp4
在這些新技術的加持下，NPC 的回應將不再受限于預定義的腳本。ACE NIM 既可以在 RTX GPU 設備上本地運行，也可以部署在云端，基于各種計算選項實現動態、逼真的交互。
可靈活部署的混合式開發者工具
混合式 AI 還可以幫助開發者構建和調整新的 AI 模型。NVIDIA AI Workbench 可幫助開發者在 RTX GPU 上快速創建、測試和定制預訓練生成式 AI 模型和 LLM。數據科學家和開發者可通過 NVIDIA AI Workbench 簡化對 Hugging Face、GitHub 和 NVIDIA NGC 等熱門倉庫的訪問，并且能夠通過簡化的用戶界面輕松地復現、協作和遷移項目。
https://images.nvidia.cn/cn/youtube-replicates/ntMRzPzSvM4.mp4
當有額外的性能需求時，項目還可輕松擴展至數據中心 (無論是公有云還是 NVIDIA DGX Cloud), 之后部署到 PC 或工作站上的本地 RTX 系統進行推理和輕量定制。數據科學家和開發者可以利用預先構建的 Workbench 項目，使用檢索增強生成 (RAG) 與文檔交互，使用微調功能自定義 LLM, 通過流暢的 CPU 到 GPU 轉換加速數據科學工作負載等等。
混合式 RAG Workbench 項目提供可自定義的 RAG 應用，以便開發者自主運行和調整。他們可以在本地對文檔進行向量化，并在本地 RTX 系統或托管在 NVIDIA API Catalog 上的接入點運行推理，或使用 NVIDIA NIM 微服務。開發者可以調整混合式 RAG Workbench 項目，以便使用各種模型、接入點和容器。他們還可以通過該項目量化要在所選 GPU 上運行的模型。
NVIDIA GPU 可在 NVIDIA GeForce RTX PC 和 RTX 工作站本地以及云端為各種出色的 AI 解決方案提供支持。借助不斷發展的混合式 AI 工作流，創作者、游戲玩家和開發者可以充分發揮本地和云端的強大能力。
請訂閱《解碼 AI》時事通訊，我們每周都會將新鮮資訊直接投遞到您的收件箱。
###
本文鏈接：http://m.www897cc.com/showinfo-26-93512-0.html解碼 NVIDIA RTX AI PC 和工作站如何協同云計算來強效助力生成式 AI
聲明：本網頁內容旨在傳播知識，若有侵權等問題請及時與本網聯系，我們將在第一時間刪除處理。郵件：2376512515@qq.com
上一篇： VS Code 常用快捷鍵大全
Copyright ? 2016-2023 天津谷騏科技有限公司 版權所有 sitemap.xml
違法及侵權請聯系：2376512515@qq.com 津ICP備18001702號
津公網安備 12010102000574號