日韩成人免费在线_国产成人一二_精品国产免费人成电影在线观..._日本一区二区三区久久久久久久久不

當(dāng)前位置:首頁 > 科技  > 軟件

火山引擎 RTC 實時媒體處理平臺的技術(shù)實踐

來源: 責(zé)編: 時間:2024-07-19 07:53:57 245觀看
導(dǎo)讀1.背景介紹隨著實時音視頻(RTC)技術(shù)在娛樂、教育、會議、游戲等領(lǐng)域的廣泛應(yīng)用,用戶對音視頻通話的核心功能需求不斷提升,同時也衍生出許多擴展需求。這些擴展功能在業(yè)務(wù)場景扮演著越來越重要的作用,已經(jīng)成為許多業(yè)務(wù)場景

Sq128資訊網(wǎng)——每日最新資訊28at.com

1.背景介紹

隨著實時音視頻(RTC)技術(shù)在娛樂、教育、會議、游戲等領(lǐng)域的廣泛應(yīng)用,用戶對音視頻通話的核心功能需求不斷提升,同時也衍生出許多擴展需求。這些擴展功能在業(yè)務(wù)場景扮演著越來越重要的作用,已經(jīng)成為許多業(yè)務(wù)場景的核心路徑。例如:Sq128資訊網(wǎng)——每日最新資訊28at.com

  • 轉(zhuǎn)推直播 - 將直播間主播連麥的視頻合流轉(zhuǎn)推到 CDN 可以供更多人觀看;
  • 實時錄制 - 將在線課堂中老師的教學(xué)和互動內(nèi)容錄制下來供學(xué)生課后回看;
  • 實時字幕 - 在跨國視頻會議中可以幫助參會者打破語言的界限,使信息傳遞更加準(zhǔn)確順暢;
  • 輸入在線媒體流 - 將體育賽事直播視頻輸入到 RTC 房間,實現(xiàn)邊看邊聊;
  • 電話呼叫 - 將固話和手機用戶加入到 RTC 通話;
  • SIP互通 - 將傳統(tǒng)視頻會議設(shè)備加入 RTC 視頻會議;

這些擴展能力不僅能夠提升 RTC 的互動體驗,延伸 RTC 的通信邊界,還能夠促進業(yè)務(wù)創(chuàng)新,為業(yè)務(wù)創(chuàng)造新的收入來源。Sq128資訊網(wǎng)——每日最新資訊28at.com

2.技術(shù)挑戰(zhàn)

為了支持上述這些功能,我們設(shè)計并實現(xiàn)了 RTC 實時媒體處理平臺,這套系統(tǒng)高效支撐了內(nèi)外部業(yè)務(wù)的快速增長和功能迭代,但在系統(tǒng)落地和演進的過程中,我們也遇到了很多技術(shù)挑戰(zhàn),可以總結(jié)為三大類。Sq128資訊網(wǎng)——每日最新資訊28at.com

2.1 「架構(gòu)設(shè)計」

系統(tǒng)需要支持的業(yè)務(wù)場景多樣,不同業(yè)務(wù)場景的復(fù)雜度和規(guī)模也有差異,依賴和交互的模塊眾多,因此「如何設(shè)計出高內(nèi)聚低耦合的架構(gòu),保證系統(tǒng)的可維護性和可擴展性」,成為重點考慮的方向。其中系統(tǒng)設(shè)計的關(guān)鍵考量包括,如何對不同的業(yè)務(wù)場景施加統(tǒng)一的管理控制能力,如流量分發(fā)、業(yè)務(wù)配置、任務(wù)管理、資源調(diào)度、監(jiān)控診斷等;如何支持業(yè)務(wù)混部,實現(xiàn)業(yè)務(wù)錯峰復(fù)用,提升資源利用率并降低成本;如何提升并發(fā)性能,支持百萬級任務(wù)的實時調(diào)度和穩(wěn)定運行;如何建設(shè)系統(tǒng)的可觀測性,提升問題感知和診斷效率等。Sq128資訊網(wǎng)——每日最新資訊28at.com

2.2 「實時性和可靠性」

RTC 媒體處理類的任務(wù)對實時性和可靠性的要求非常高。例如,用戶啟用RTC通話錄制,系統(tǒng)必須能夠迅速響應(yīng)并立即啟動錄制任務(wù)。鑒于音視頻流的實時性,任何啟動延遲或失敗則導(dǎo)致不可逆的內(nèi)容缺失,如果是審核任務(wù)還會導(dǎo)致內(nèi)容漏審。同樣,旁路轉(zhuǎn)推任務(wù)的延遲可能導(dǎo)致直播切換時出現(xiàn)黑屏等體驗問題。Sq128資訊網(wǎng)——每日最新資訊28at.com

另外,RTC媒體處理類任務(wù)都是有狀態(tài)的服務(wù),并且持續(xù)時間比較長,任務(wù)執(zhí)行強依賴上下文信息的及時和準(zhǔn)確。例如,合流任務(wù)必須實時感知房間內(nèi)的音視頻流狀態(tài),并可靠地接受用戶指令以設(shè)置正確的視頻布局。任何狀態(tài)信息的丟失或指令的延遲都可能引起合流過程的異常。「只有確保系統(tǒng)的高可用性和低延時,任務(wù)才能快速且正確地執(zhí)行,從而為產(chǎn)品功能和用戶體驗提供基本保障。」Sq128資訊網(wǎng)——每日最新資訊28at.com

2.3 「原子能力的抽象和復(fù)用」

無論是轉(zhuǎn)推、錄制還是音視頻審核等功能,都采用到一些相同的技術(shù),例如都需要對音視頻數(shù)據(jù)進行處理,會涉及到編解碼、格式轉(zhuǎn)換、音視頻編輯、音畫質(zhì)增強等操作,另外也都涉及到 RTC 系統(tǒng)跟其他系統(tǒng)之間的通信,如訪問直播、CDN、云存儲、第三方服務(wù)等,跟這些服務(wù)的通信也會使用到一些相同的傳輸協(xié)議,如 RTMP,HTTP,WebSocket等。「如何將這些技術(shù)和能力提煉和抽象成具備通用性的原子能力,并且通過統(tǒng)一的接口和框架可以被高效的編排和組合」,成為提高技術(shù)復(fù)用和研發(fā)效率的關(guān)鍵問題。Sq128資訊網(wǎng)——每日最新資訊28at.com

下面針對上述三方面的技術(shù)挑戰(zhàn),我們逐一進行深入探討。Sq128資訊網(wǎng)——每日最新資訊28at.com

3.系統(tǒng)架構(gòu)

系統(tǒng)建模主要圍繞 「“任務(wù)”」 這個核心概念,平臺支持的功能都以任務(wù)的形式提供服務(wù),任務(wù)可以被看作是一個獨立的工作單元,它有明確的輸入、輸出和執(zhí)行流程。所有的用戶請求都會關(guān)聯(lián)到具體的任務(wù),系統(tǒng)按照任務(wù)粒度執(zhí)行業(yè)務(wù)邏輯和資源分配,日志事件和監(jiān)控診斷等也以任務(wù)維度做全鏈路關(guān)聯(lián)。Sq128資訊網(wǎng)——每日最新資訊28at.com

圖片Sq128資訊網(wǎng)——每日最新資訊28at.com

系統(tǒng)整體架構(gòu)如上圖所示,主要分為三個部分。Sq128資訊網(wǎng)——每日最新資訊28at.com

  1. 「接入層」 API 網(wǎng)關(guān)接受用戶請求,對請求進行身份驗證和授權(quán),支持對請求的并發(fā)控制,避免因惡意請求或突發(fā)的高流量導(dǎo)致系統(tǒng)異常。作為所有請求的統(tǒng)一入口,接入層承擔(dān)著關(guān)鍵的流量調(diào)度功能,可以根據(jù)系統(tǒng)的實際運行情況和業(yè)務(wù)需求,智能分配流量,確保資源的合理利用和業(yè)務(wù)的親和性。在下游故障時,可以自動熔斷,及時切斷問題鏈路,防止故障的進一步擴散。同時也支持人工切量,滿足日常運維和壓測管控等要求。
  2. 「任務(wù)管理和調(diào)度」基于微服務(wù)架構(gòu),作為控制面的主體,主要包括請求處理和資源調(diào)度。請求處理部分負責(zé)任務(wù)的啟停控制,管理任務(wù)的生命周期,同時監(jiān)控任務(wù)的執(zhí)行進度和狀態(tài),及時處理任務(wù)執(zhí)行過程中出現(xiàn)的異常,支持任務(wù)重啟、熱遷移、重新調(diào)度等異常處理策略。資源調(diào)度會綜合考慮任務(wù)屬性、業(yè)務(wù)配置以及資源負載等多方面因素,將任務(wù)精準(zhǔn)地分配給最合適的執(zhí)行器。調(diào)度模塊通過一系列的基礎(chǔ)調(diào)度算法,努力實現(xiàn)任務(wù)和資源的最優(yōu)匹配,這種匹配不僅僅是為了讓業(yè)務(wù)體驗達到最佳,同時也是為了實現(xiàn)資源效率的最大化。
  3. 「任務(wù)執(zhí)行」分布式部署的計算集群為任務(wù)執(zhí)行提供資源和環(huán)境。當(dāng)任務(wù)被成功分配到執(zhí)行器資源后,會啟動新的容器實例來執(zhí)行業(yè)務(wù)邏輯,每個任務(wù)的容器實例是相互隔離的,任務(wù)結(jié)束后容器資源會被銷毀和回收。

在容器內(nèi)部,業(yè)務(wù)邏輯的主要執(zhí)行者是一個 worker 程序,worker 的實現(xiàn)采用了單體架構(gòu),它具備很強的通用性,支持平臺上所有的任務(wù)類型,通過不同的控制參數(shù)運行不同類型的任務(wù)。worker 程序是基于 pipeline 的框架結(jié)構(gòu),其中與音視頻處理相關(guān)的原子能力通過插件來實現(xiàn),各任務(wù)類型通過創(chuàng)建 pipeline 和對插件進行合理編排實現(xiàn)各自的業(yè)務(wù)功能。worker 還集成了 RTC SDK,通過虛擬用戶加入 RTC 房間,實現(xiàn)與 RTC 網(wǎng)絡(luò)的互通,同時它也集成了其他的功能組件實現(xiàn)與其他服務(wù)之間的交互和協(xié)作。Sq128資訊網(wǎng)——每日最新資訊28at.com

4.高可用設(shè)計

RTC 業(yè)務(wù)的實時性屬性要求系統(tǒng)具備高可用設(shè)計和容災(zāi)能力。當(dāng)前系統(tǒng)從層級關(guān)系可以分為控制面和數(shù)據(jù)面,控制面負責(zé)任務(wù)管理和邏輯控制,數(shù)據(jù)面負責(zé)任務(wù)的具體執(zhí)行,接下來我們討論一下在高可用設(shè)計中遇到的典型問題和解決思路。Sq128資訊網(wǎng)——每日最新資訊28at.com

4.1 控制面

圖片Sq128資訊網(wǎng)——每日最新資訊28at.com

為了保證用戶接入的穩(wěn)定性和接入體驗,控制面服務(wù)做了全球多區(qū)域(Region)部署,區(qū)域內(nèi)做了多可用區(qū)(AZ)設(shè)計,同 AZ 內(nèi)的服務(wù)單元化部署,做到 AZ 內(nèi)部調(diào)用鏈閉環(huán)。各 AZ 之間也不是完全隔離的,任務(wù)元信息等數(shù)據(jù)仍然需要在 AZ 之間做實時同步來提供容災(zāi)能力。Sq128資訊網(wǎng)——每日最新資訊28at.com

具體實現(xiàn)路徑為,用戶請求通過公網(wǎng)動態(tài)加速網(wǎng)絡(luò)連接到 AZ,AZ 在接入層做一致性哈希將任務(wù)轉(zhuǎn)發(fā)到歸屬 AZ,確保同一個任務(wù)的請求在單一 AZ 完成。存儲層通過實時同步機制獲取其他 AZ 的任務(wù)信息,這樣每個 AZ 就擁有了全局的任務(wù)信息。在單個 AZ 不可用時,能夠保證其他 AZ 也能夠處理針對故障 AZ 的存量任務(wù)請求。Sq128資訊網(wǎng)——每日最新資訊28at.com

圖片Sq128資訊網(wǎng)——每日最新資訊28at.com

單可用區(qū)內(nèi)部的高可用主要關(guān)注任務(wù)元信息的管理和存儲。由于存儲層訪問是請求處理的關(guān)鍵環(huán)節(jié),其穩(wěn)定性至關(guān)重要,我們采用「存儲分層和存儲互備」來增強存儲的可靠性,這些措施也有助于實現(xiàn)高并發(fā)處理和降低響應(yīng)延遲。任務(wù)元信息的存儲會優(yōu)先使用 Redis,Redis 不可用時降級到 ByteNDB(公司自研的分布式數(shù)據(jù)庫,兼容MySQL,同時具有高并發(fā)高吞吐,獨立擴縮容,存儲容量不受單機限制等優(yōu)點),都不可用時會采用本地內(nèi)存做兜底。任務(wù)元信息會通過消息隊列實時同步到其他 AZ,并達成在 DB 層的最終一致性和持久化。面對系統(tǒng)每天千萬級的新增任務(wù)量,我們采用了分片存儲技術(shù)以解決單一數(shù)據(jù)庫實例的性能和存儲容量方面的限制。Sq128資訊網(wǎng)——每日最新資訊28at.com

4.2 數(shù)據(jù)面

數(shù)據(jù)面主要指具體的任務(wù)執(zhí)行邏輯。這部分的穩(wěn)定性主要從以下幾個方面考慮:Sq128資訊網(wǎng)——每日最新資訊28at.com

  1. 「任務(wù)運行環(huán)境隔離,避免互相影響。」 我們對所有任務(wù)類型做了容器化實現(xiàn),通過為每個任務(wù)提供獨立的運行環(huán)境來避免任務(wù)之間的互相干擾。容器化還提升了任務(wù)調(diào)度和代碼升級的便利,例如新代碼發(fā)布時,我們構(gòu)建出新版本的鏡像,通過將部分任務(wù)使用新鏡像,達到新代碼灰度發(fā)布的目的。
  2. 「提升任務(wù)運行環(huán)境的穩(wěn)定性。」 這里主要討論2個基礎(chǔ)依賴:磁盤和網(wǎng)絡(luò)。
  1. 隨著機器長時間運行,磁盤老化引起的性能下降或者 IO 卡死等問題不可避免,解決方法主要采用兩個手段,一是周期性做 IO 健康度檢測,提前暴露風(fēng)險,及時做替換和修復(fù)。二是代碼實現(xiàn)時降低對磁盤 IO 的依賴,例如錄制任務(wù)運行過程需要寫文件,在磁盤訪問遇到問題時,會切換到網(wǎng)絡(luò)存儲;程序運行中日志的打印也不能因為磁盤 IO 性能而影響主邏輯運行。
  2. 網(wǎng)絡(luò)問題主要考慮公網(wǎng)訪問的穩(wěn)定性。公網(wǎng)訪問時我們部署了正向代理和 NAT 作為互備方案。每個服務(wù)的機房出口連接了多家運營商的線路,確保即使單一運營商線路出現(xiàn)故障,也不會影響業(yè)務(wù)的正常運行。此外我們也觀測到,在訪問特定的公有云存儲區(qū)域時,通過選擇特定的代理線路可以顯著提升數(shù)據(jù)傳輸?shù)馁|(zhì)量,我們也為這些場景配置了相應(yīng)的訪問策略,以確保傳輸過程的高效和穩(wěn)定。
  1. 「任務(wù)運行遇到故障時能夠快速恢復(fù)。」 這里的恢復(fù)手段分兩個維度:容器內(nèi)部和容器間。

圖片Sq128資訊網(wǎng)——每日最新資訊28at.com

  1. 任務(wù)在容器內(nèi)運行時主要有 2 個部分,executor 和 worker,executor 承擔(dān)了本地代理的角色,負責(zé)接收控制面的任務(wù)指令,同時也會收集本地任務(wù)的運行狀態(tài)和數(shù)據(jù)指標(biāo)等并上報給控制面。worker 負責(zé)業(yè)務(wù)邏輯的執(zhí)行,包括推拉流、編解碼等計算。executor fork 出子進程運行 worker,在 worker 發(fā)生 crash 或者卡死等異常時會立即重啟 worker 進程,同時在監(jiān)控到 worker 資源消耗超出配額時,則判斷是否是業(yè)務(wù)正常使用還是發(fā)生了異常,來決策是否要觸發(fā)業(yè)務(wù)降級降低資源消耗,或者實時增加該任務(wù)的資源配額。Sq128資訊網(wǎng)——每日最新資訊28at.com

  2. 容器實例異常退出時,調(diào)度服務(wù)會創(chuàng)建一個新的實例來恢復(fù)和繼續(xù)當(dāng)前的任務(wù),我們稱這種場景為重新調(diào)度,新任務(wù)實例會避開之前的機器節(jié)點和集群,減少二次失敗風(fēng)險。在另外一些更嚴(yán)重的故障場景,如某個集群發(fā)生大面積故障時,我們支持對集群內(nèi)的存量任務(wù)做主動遷移,通過將任務(wù)遷移到正常的集群來實現(xiàn)業(yè)務(wù)的更快速止損和恢復(fù)。Sq128資訊網(wǎng)——每日最新資訊28at.com


  3. Sq128資訊網(wǎng)——每日最新資訊28at.com

    「提升故障感知和決策能力。」 高質(zhì)量的決策依賴高質(zhì)量的信息輸入,故障恢復(fù)策略的執(zhí)行依賴故障信息判斷的可靠性和準(zhǔn)確性。我們重點優(yōu)化了兩類問題。Sq128資訊網(wǎng)——每日最新資訊28at.com


    Sq128資訊網(wǎng)——每日最新資訊28at.com

圖片Sq128資訊網(wǎng)——每日最新資訊28at.com

  1. 「信息傳輸鏈路的可靠性」。控制面服務(wù)和計算集群獨立部署,并不強綁定在同一機房。控制面部署在中心機房,而計算集群分布在中心機房、匯聚機房和邊緣機房。控制面跟計算集群之間通過內(nèi)網(wǎng)專線、公網(wǎng)直連和公網(wǎng)加速等多種傳輸手段實現(xiàn)了多路徑傳輸,確保控制信令在專線故障和公網(wǎng)抖動等異常下仍然實時可達。Sq128資訊網(wǎng)——每日最新資訊28at.com

  2. 「故障信息的準(zhǔn)確性」。最典型的問題就是任務(wù)失聯(lián),即控制面接受不到任務(wù)實例的保活信息。失聯(lián)原因多種多樣,包括任務(wù)實例的網(wǎng)絡(luò)異常、任務(wù)機房的網(wǎng)絡(luò)問題,或是控制面實例自身的問題。在保活失敗時,我們不僅采用重連重試等基礎(chǔ)措施,還會觸發(fā)機房內(nèi)和機房間對故障任務(wù)的主動問詢,來進一步診斷失聯(lián)的具體原因。如果是任務(wù)實例問題則會觸發(fā)任務(wù)重調(diào)度,如果是集群故障可能會對整個集群做熔斷等。在做主動問詢時,需要特別關(guān)注請求風(fēng)暴問題,尤其是集群網(wǎng)絡(luò)故障可能會導(dǎo)致大量任務(wù)保活失敗,瞬間觸發(fā)大量的探測請求,對服務(wù)造成巨大沖擊,我們采用頻控和聚集性判斷等策略來減少冗余請求。Sq128資訊網(wǎng)——每日最新資訊28at.com


  3. Sq128資訊網(wǎng)——每日最新資訊28at.com

    「精細化的調(diào)度策略。」 系統(tǒng)中任務(wù)種類繁多,每種任務(wù)對時延、音畫質(zhì)量以及其承載的規(guī)模各不相同。因此,調(diào)度服務(wù)在為任務(wù)分配集群時,引入了評分機制,綜合考慮負載、成本、位置、業(yè)務(wù)偏好和 QoS 指標(biāo)等多種因素,這個評分旨在衡量任務(wù)與集群之間的匹配度,同時考慮了任務(wù)需求和集群能力,而不是單方面評價集群。例如某個地區(qū)的推流節(jié)點故障導(dǎo)致轉(zhuǎn)推任務(wù)在某個集群異常,但這個集群的錄制任務(wù)是正常的,這時候轉(zhuǎn)推任務(wù)跟這個集群的匹配分低,但錄制任務(wù)跟這個集群的匹配是正常的,錄制任務(wù)還是可以繼續(xù)往這個集群調(diào)度。通過此類精細化的策略可以減少粗粒度的調(diào)度對集群資源和負載的沖擊,降低系統(tǒng)風(fēng)險。Sq128資訊網(wǎng)——每日最新資訊28at.com


    Sq128資訊網(wǎng)——每日最新資訊28at.com

5.媒體處理框架

圖片Sq128資訊網(wǎng)——每日最新資訊28at.com

為了支持更多復(fù)雜的應(yīng)用場景,提升系統(tǒng)的靈活性和可擴展性,媒體處理框架以模塊化和插件化為核心原則,將處理流程做了通用的抽象,整體上可以分為輸入、處理和輸出三個部分。Sq128資訊網(wǎng)——每日最新資訊28at.com

  • 「輸入模塊」 負責(zé)媒體流的獲取。因為大多數(shù)功能都需要從 RTC 系統(tǒng)拉流,我們對 RTC 流的訂閱管理和數(shù)據(jù)回調(diào)進行了抽象和封裝,并適配多家主流 RTC 廠商接口,能夠非常方便的支持融合類的業(yè)務(wù)。同時,我們還實現(xiàn)了云端播放器功能,支持直播流和點播文件的輸入,并封裝文件讀取、時間戳同步、錯誤處理等復(fù)雜工作,進而對下游輸出可供直接渲染和播放的幀數(shù)據(jù)。
  • 「處理模塊」 通過將原子能力抽象成獨立的插件,屏蔽內(nèi)部實現(xiàn)細節(jié),以實現(xiàn)媒體處理能力的可組合、可復(fù)用、可替換。這里面的模塊既包括音視頻處理相關(guān)的,如編解碼,視頻編輯,畫質(zhì)增強等,也包括一些應(yīng)用能力的模塊化,如 ASR,TTS,GPT等,有的能力是本地計算完成的,有的是通過調(diào)用其他遠程服務(wù)實現(xiàn)的,各插件通過靈活組合和搭配,構(gòu)建適應(yīng)不同場景需求的媒體處理 pipeline。
  • 「輸出模塊」 完成處理結(jié)果的最終流向。涉及到的技術(shù)點主要是媒體封裝和傳輸,支持多種輸出形式。RTC 流的輸出仍然是通過 RTC SDK 發(fā)布到 RTC 系統(tǒng),直播流會基于客戶指定的協(xié)議和參數(shù)推流到發(fā)布點,點播支持多種存儲協(xié)議和廠商,還有的場景需要將處理結(jié)果回調(diào)給客戶的業(yè)務(wù)服務(wù)器,如媒體流的審核結(jié)果、AI 識別結(jié)果等。

當(dāng)前這套框架已經(jīng)實現(xiàn)了豐富的模塊和插件能力,這些插件可以通過框架層進行組合和串聯(lián),構(gòu)成一個媒體應(yīng)用,目前支持了 RTC 近十種業(yè)務(wù)。同時支持一些基礎(chǔ)功能進行二次組合,提供更高層的原子能力。如下圖所示,轉(zhuǎn)推直播與實時錄制的主要區(qū)別僅在于媒體流的最終去向,將轉(zhuǎn)推直播的輸出模塊替換為錄制存儲模塊,系統(tǒng)便可快速實現(xiàn)錄制功能。Sq128資訊網(wǎng)——每日最新資訊28at.com

圖片Sq128資訊網(wǎng)——每日最新資訊28at.com

6.應(yīng)用舉例

6.1 云端錄制

圖片Sq128資訊網(wǎng)——每日最新資訊28at.com

用戶向云端發(fā)起錄制請求后,錄制任務(wù)通過 RTC SDK 加入房間,拉取需要錄制的音視頻流,然后以單流或合流的方式對音視頻流做編碼封裝,最后錄制文件存儲到用戶指定的存儲平臺,用戶在請求中可以指定訂閱用戶的媒體流類型、設(shè)置合圖布局樣式、設(shè)置錄制結(jié)果通知,設(shè)置編碼參數(shù)等。Sq128資訊網(wǎng)——每日最新資訊28at.com

針對用戶非常關(guān)心的「錄制文件的可靠性問題」,我們采取多種手段保障在斷電斷網(wǎng)等異常情況下文件不丟失。Sq128資訊網(wǎng)——每日最新資訊28at.com

  • 首先,錄制過程中會實時分片,每隔數(shù)秒生成一個分片文件,并實時上傳到內(nèi)部的暫存空間,保證在任務(wù)實例主機異常時最多丟失一個分片時長的視頻片段。
  • 對于對數(shù)據(jù)丟失零容忍的用戶,我們支持實時雙錄,用戶發(fā)起一次請求,系統(tǒng)內(nèi)部會啟動兩個完全獨立的任務(wù),并且通過調(diào)度策略保證運行在不同的機房,當(dāng)其中一個任務(wù)異常時,另外一個任務(wù)作為熱備。
  • 如果訪問用戶指定的第三方存儲失敗或第三方存儲自身發(fā)生故障時,我們也會將錄制文件暫存到內(nèi)部的存儲系統(tǒng),保證文件不會丟失。

在錄制文件的音視頻質(zhì)量方面,我們利用公司在行業(yè)領(lǐng)先的編碼器能力,能夠做到同等畫質(zhì)下生成的錄制文件的體積更小,節(jié)省了錄制存儲,為用戶節(jié)省成本。Sq128資訊網(wǎng)——每日最新資訊28at.com

6.2 實時字幕

圖片Sq128資訊網(wǎng)——每日最新資訊28at.com

圖片Sq128資訊網(wǎng)——每日最新資訊28at.com

字幕任務(wù)啟動后,會訂閱房間里所有發(fā)布者的音頻流,接下來會經(jīng)過有效語音檢測、語音識別、內(nèi)容翻譯、內(nèi)容合規(guī)、字幕平滑等步驟,最終將語音識別的結(jié)果分發(fā)出去。系統(tǒng)支持火山引擎和第三方語音識別和內(nèi)容翻譯服務(wù)。同時,在字幕內(nèi)容分發(fā)上,有多種方式選擇:Sq128資訊網(wǎng)——每日最新資訊28at.com

  • 「RTS 點對點發(fā)送」 通過 RTC 支持的實時消息功能(RTS)將語音識別的結(jié)果發(fā)送給房間內(nèi)需要的用戶;
  • 「RTS 廣播」 通過 RTS 廣播方式將說話者的結(jié)果發(fā)送給房間內(nèi)的所有用戶;
  • 「視頻 SEI 發(fā)送」 語音識別結(jié)果通過 RTS 發(fā)送給說話者,說話者發(fā)布的視頻 SEI 中攜帶字幕內(nèi)容;
  • 「業(yè)務(wù)服務(wù)器分發(fā)」 字幕任務(wù)將語音識別結(jié)果回調(diào)給業(yè)務(wù)服務(wù)器,業(yè)務(wù)通過自己的業(yè)務(wù)邏輯做字幕分發(fā);

前三種是基于 RTC 系統(tǒng)的分發(fā)方式,無論是端到端延時還是分發(fā)規(guī)模都能夠滿足主要場景的業(yè)務(wù)需求,也是我們更推薦的方式。Sq128資訊網(wǎng)——每日最新資訊28at.com

字幕功能已經(jīng)被大規(guī)模應(yīng)用在互娛社交、在線教學(xué)、視頻會議等 RTC 業(yè)務(wù)場景,其在抖音語聊房上線后,各項業(yè)務(wù)指標(biāo)都表明能夠顯著提升用戶的互動沉浸感和在房間內(nèi)的停留時長,業(yè)務(wù)收益顯著。Sq128資訊網(wǎng)——每日最新資訊28at.com

6.3 SIP會議網(wǎng)關(guān)

圖片Sq128資訊網(wǎng)——每日最新資訊28at.com

圖片Sq128資訊網(wǎng)——每日最新資訊28at.com

在視頻會議場景,基于 RTC 技術(shù)的云服務(wù)視頻會議已經(jīng)成為主流,但企業(yè)對已經(jīng)購買的傳統(tǒng) SIP 終端利舊的需求也非常強烈,所以需要打通 RTC 終端和 SIP 會議硬件。與只有 RTC 終端參與通話的其他場景相比,SIP 會議網(wǎng)關(guān)在技術(shù)架構(gòu)上引入了 2 個額外的模塊:「SIP access」 用來接受 SIP 終端注冊和 SIP 通話的呼入呼出,「SIP gateway」 負責(zé) SIP 會話管理以及 SIP 和 RTC 之間的媒體協(xié)議轉(zhuǎn)換。SIP 會議網(wǎng)關(guān)服務(wù)支持以下能力:Sq128資訊網(wǎng)——每日最新資訊28at.com

  • 「容災(zāi)能力」:接入服務(wù)器和轉(zhuǎn)碼服務(wù)器都具有熱備功能,在服務(wù)器宕機時,系統(tǒng)能在 10 秒內(nèi)自動切換,用戶無需手動操作,視頻會議可以繼續(xù)進行;
  • 「布局樣式」:支持參會者姓名、頭像、靜音狀態(tài)等元素的繪制,支持演講者視圖、畫廊視圖、縮略視圖等多種布局,用戶可以在 SIP 終端通過 DTMF 按鍵實時切換布局;
  • 「弱網(wǎng)對抗」:支持帶寬自適應(yīng),在弱網(wǎng)環(huán)境下能動態(tài)調(diào)整視頻和輔流的分辨率和幀率,針對 Cisco、Polycom、華為等廠商的 SIP 設(shè)備在 QoS 策略上的私有實現(xiàn),我們也進行了適配,能夠提供更加流暢的會議體驗;

SIP 網(wǎng)關(guān)服務(wù)當(dāng)前已經(jīng)在應(yīng)用在飛書視頻會議,每天支撐數(shù)萬臺 SIP 設(shè)備的日常會議請求。Sq128資訊網(wǎng)——每日最新資訊28at.com

6.4 呼叫中心

暫時無法在飛書文檔外展示此內(nèi)容Sq128資訊網(wǎng)——每日最新資訊28at.com

圖片Sq128資訊網(wǎng)——每日最新資訊28at.com

圖片Sq128資訊網(wǎng)——每日最新資訊28at.com

我們對 SIP 網(wǎng)關(guān)服務(wù)進行了擴展,增加了 PSTN 呼叫功能,打通了 RTC 終端和電話終端,為呼叫中心等業(yè)務(wù)場景提供了云端呼叫能力。Sq128資訊網(wǎng)——每日最新資訊28at.com

  • 通過 SIP trunking 方式對接運營商的 PSTN 網(wǎng)關(guān),實現(xiàn)了跟 PSTN 電話網(wǎng)絡(luò)的信令互通,能夠向 PSTN 網(wǎng)絡(luò)發(fā)起電話外呼,也能夠從 PSTN 網(wǎng)絡(luò)接受呼入請求;
  • IVR 引擎,業(yè)務(wù)可以選擇基于按鍵的傳統(tǒng) IVR 和基于語音識別的智能 IVR,IVR 流支持放音收號、菜單交互、條件判斷等功能節(jié)點,可以基于不同的業(yè)務(wù)流程對 IVR 流靈活定義和編輯;
  • 音頻降噪,針對呼叫中心坐席人員工位密集,說話互相有干擾,背景聲嘈雜等特點,我們對音頻 AI 降噪算法做了專門的模型訓(xùn)練和優(yōu)化適配,提升了通話音質(zhì);

該功能已經(jīng)在飛書視頻會議和抖音客服等業(yè)務(wù)落地。抖音客服平臺采用了該方案后,將傳統(tǒng)的話機坐席替換成集成了 RTC 客戶端的軟件坐席,不僅提高了運營效率,還為用戶帶來了更好的通話體驗,用戶滿意度也顯著提升。Sq128資訊網(wǎng)——每日最新資訊28at.com

7.技術(shù)展望

作為定位于支撐更多 RTC 業(yè)務(wù)場景的應(yīng)用平臺,我們希望能夠針對 RTC 業(yè)務(wù)領(lǐng)域的特點,提供更多原子能力和場景化解決方案,支撐客戶更加便捷的接入和搭建自己的業(yè)務(wù),持續(xù)提升業(yè)務(wù)質(zhì)量,降低客戶使用成本。我們會在以下方面做更長期的投入。Sq128資訊網(wǎng)——每日最新資訊28at.com

  • 「原子能力更加豐富,框架更加靈活」:將基礎(chǔ)能力和組件按照單一職責(zé)做更合理的拆解,并且創(chuàng)建和引入更多的原子能力,這些能力可以來自公司內(nèi)部,也可以來自公司外第三方,可以是工程能力,也可以是算法能力。原子能力與業(yè)務(wù)邏輯的實現(xiàn)和迭代解耦,平臺提供框架底座,業(yè)務(wù)通過對原子能力做靈活組裝和調(diào)度,在平臺上以插件化的形式進行開發(fā)。
  • 「更好的業(yè)務(wù)性能,更低的資源成本:」 在并發(fā)性能、處理延遲和視頻畫質(zhì)等方向提升產(chǎn)品能力上限。優(yōu)化視頻編輯、視頻分析、視頻編碼、高清音質(zhì)等場景下的算法性能。引入更多異構(gòu)資源,包括不同類型的 CPU,GPU,F(xiàn)PGA,ARM等,根據(jù)不同任務(wù)的特點和需求最優(yōu)化資源分配。探索算網(wǎng)融合,將計算和網(wǎng)絡(luò)緊密結(jié)合,降低數(shù)據(jù)傳輸成本,減少數(shù)據(jù)傳輸延遲,提升業(yè)務(wù)體驗。
  • 「泛化平臺能力,推動業(yè)務(wù)創(chuàng)新和多元化」:將平臺構(gòu)建起的一整套應(yīng)用能力和解決方案泛化到其他相近的業(yè)務(wù)場景中,擴大業(yè)務(wù)的規(guī)模和多樣性。隨著生成式人工智能技術(shù)的突飛猛進,大模型已經(jīng)能夠與用戶直接進行音視頻互動,端到端的實時多模態(tài)交互已經(jīng)成為趨勢,RTC 的實時互動技術(shù)跟大模型的結(jié)合必將為各行各業(yè)帶來更多的可能性和創(chuàng)新機會,我們也希望抓住這個機遇為客戶帶來更多的業(yè)務(wù)價值。

本文鏈接:http://m.www897cc.com/showinfo-26-101701-0.html火山引擎 RTC 實時媒體處理平臺的技術(shù)實踐

聲明:本網(wǎng)頁內(nèi)容旨在傳播知識,若有侵權(quán)等問題請及時與本網(wǎng)聯(lián)系,我們將在第一時間刪除處理。郵件:2376512515@qq.com

上一篇: Python 十個高階函數(shù)

下一篇: 為什么StampedLock會導(dǎo)致CPU100%?

標(biāo)簽:
  • 熱門焦點
Top 日韩成人免费在线_国产成人一二_精品国产免费人成电影在线观..._日本一区二区三区久久久久久久久不
欧美日韩一区不卡| 欧美制服丝袜第一页| 亚洲国产天堂久久综合| 亚洲高清二区| 99精品视频一区| 亚洲欧美激情精品一区二区| 久久精精品视频| 欧美福利视频网站| 欧美日韩在线不卡一区| 国产日韩欧美高清免费| 依依成人综合视频| 99国产精品国产精品久久| 亚洲尤物视频在线| 久久青草欧美一区二区三区| 欧美国产日韩一区二区三区| 国产精品久久久久久久久久妞妞| 国产一区二区三区在线观看精品 | 国产欧美三级| 伊人久久亚洲影院| 一区二区av| 久久精品九九| 欧美日本一道本在线视频| 国产一区二区三区高清| 99re66热这里只有精品3直播| 欧美亚洲专区| 欧美成人中文字幕在线| 国产免费观看久久黄| 亚洲人成网站影音先锋播放| 亚洲专区一区| 欧美成ee人免费视频| 国产精品一区二区女厕厕| 亚洲国产乱码最新视频| 欧美与欧洲交xxxx免费观看 | 久久久国产91| 欧美三级电影精品| 在线观看国产日韩| 午夜伦理片一区| 欧美另类videos死尸| 狠狠久久五月精品中文字幕| 亚洲天堂网站在线观看视频| 欧美α欧美αv大片| 国产日韩欧美一区二区三区四区| 最近中文字幕mv在线一区二区三区四区 | 欧美一级二区| 欧美精品高清视频| 亚洲午夜精品在线| 牛夜精品久久久久久久99黑人 | 在线观看91精品国产麻豆| 亚洲一区二区三区精品在线观看 | 老司机67194精品线观看| 国产精品无码专区在线观看| 亚洲卡通欧美制服中文| 美日韩丰满少妇在线观看| 国产色综合久久| 亚洲伊人网站| 欧美日韩中文字幕精品| 亚洲精品久久久久久下一站 | 欧美在线免费| 国产精品免费区二区三区观看| 亚洲美女视频| 欧美高清视频在线| 影音先锋亚洲精品| 久久狠狠亚洲综合| 国产九区一区在线| 亚洲欧美精品在线观看| 国产精品第13页| 亚洲桃花岛网站| 欧美日韩在线视频首页| 亚洲国内精品| 女人色偷偷aa久久天堂| 在线播放豆国产99亚洲| 久久久久国产一区二区三区| 国产视频在线观看一区二区三区| 亚洲视频导航| 欧美日韩成人网| 日韩午夜三级在线| 欧美区日韩区| 日韩亚洲精品在线| 欧美日韩免费观看一区二区三区| 亚洲日本理论电影| 欧美高清一区二区| 亚洲精品视频一区| 欧美日韩国产一中文字不卡| 99精品国产在热久久婷婷| 欧美日本免费| 亚洲图片在线| 国产模特精品视频久久久久| 欧美一区二区私人影院日本| 国产一区 二区 三区一级| 久久久久国内| 亚洲激情视频在线播放| 欧美激情精品久久久久久大尺度| 亚洲理论在线| 欧美深夜福利| 午夜久久久久久久久久一区二区| 国产日韩欧美日韩大片| 久久久精品一区二区三区| 尤物网精品视频| 欧美高清视频| 亚洲天堂免费观看| 国产婷婷色一区二区三区在线| 久久福利影视| 一区二区三区在线视频免费观看 | 久久精品在线观看| 在线看视频不卡| 欧美另类视频| 亚洲午夜一区二区三区| 国产欧美精品在线观看| 久久久久久久久蜜桃| 亚洲激情在线观看视频免费| 欧美日本亚洲视频| 午夜精品久久久久久久白皮肤| 国产午夜精品久久久| 久久这里只有| 亚洲日本精品国产第一区| 欧美天天在线| 久久国产精彩视频| 亚洲激情在线视频| 国产精品久久久久久久久免费桃花 | 国产精品99久久久久久www| 国产精品日日摸夜夜添夜夜av | 欧美视频不卡| 久久不见久久见免费视频1| 亚洲国产精品电影在线观看| 国产精品第三页| 久久久久久久一区二区三区| 亚洲精品国产拍免费91在线| 国产精品久久久久免费a∨| 久久久午夜精品| 一本色道久久综合亚洲二区三区 | 国产精品家庭影院| 久久久精品视频成人| 国产欧美日韩免费| 欧美国产欧美亚洲国产日韩mv天天看完整 | 欧美日韩性生活视频| 午夜精品免费| 亚洲黄色成人| 国产精品一级二级三级| 男女精品网站| 亚洲欧美国产视频| 亚洲高清视频一区| 国产精品日韩欧美| 欧美+亚洲+精品+三区| 亚洲欧美日韩另类| 亚洲国产欧美日韩精品| 国产精品视频999| 欧美大片免费观看在线观看网站推荐| 亚洲欧美国产三级| 亚洲人成人77777线观看| 国产欧美日韩视频一区二区| 欧美精品粉嫩高潮一区二区 | 久久精品国产99精品国产亚洲性色 | 亚洲人精品午夜| 国产精品视频yy9299一区| 欧美刺激午夜性久久久久久久| 欧美亚洲在线| 一区二区三区日韩在线观看| 一区二区在线视频观看| 国产精品久久久久免费a∨大胸| 蜜臀91精品一区二区三区| 午夜在线一区二区| 99在线精品视频| 在线免费观看日本欧美| 国产伦精品一区二区三区| 欧美日韩另类视频| 男人的天堂成人在线| 欧美在线视频观看| 亚洲午夜女主播在线直播| 亚洲人成毛片在线播放| 国内精品视频在线观看| 国产精品丝袜久久久久久app| 欧美久久婷婷综合色| 久久综合网络一区二区| 欧美在线一二三四区| 亚洲在线观看视频网站| 99国产精品99久久久久久粉嫩 | 伊人久久亚洲热| 国产精自产拍久久久久久蜜| 欧美日韩国产综合视频在线观看| 久久视频一区二区| 欧美一级一区| 亚洲手机视频| 一本久久a久久精品亚洲| 亚洲欧洲另类国产综合| 亚洲第一天堂无码专区| 极品中文字幕一区| 国产欧美一区二区精品秋霞影院 | 欧美另类videos死尸| 欧美激情精品久久久久久黑人 | 国产欧美一区二区视频| 国产精品色婷婷| 国产精品国产三级欧美二区| 欧美三级免费| 欧美日韩在线电影| 欧美日韩一区二| 欧美一级理论性理论a| 亚洲一区不卡| 亚洲一区二区在线观看视频| 在线视频欧美一区| 亚洲私人影院在线观看| 99国产欧美久久久精品| 日韩一区二区福利| 一本色道久久88精品综合| 一区二区三区日韩在线观看|