大模型時(shí)代,騰訊用自己的方式,邁出了第一步。
6 月 19 日下午,騰訊云召開(kāi)發(fā)布會(huì)。首次正式公布行業(yè)大模型研發(fā)進(jìn)展,并發(fā)布面向 B 端客戶的騰訊云 MaaS(Model-as-a-service,模型即服務(wù))服務(wù)解決方案。
值得注意的是,騰訊云并沒(méi)有像此前的谷歌、微軟,或者國(guó)內(nèi)的百度、阿里等大廠一樣,公布一個(gè)基礎(chǔ)的通用大模型。騰訊云 MaaS 的技術(shù)底座是一系列的行業(yè)大模型,包括金融、政府、文旅、傳媒、教育等。基于這些基礎(chǔ)模型,騰訊云的客戶只要加入自己的場(chǎng)景數(shù)據(jù),就可以生成契合自身業(yè)務(wù)需要的「專(zhuān)屬模型」。
國(guó)內(nèi)通用大模型的研發(fā)進(jìn)程受算力緊張、起步較晚等因素制約,客觀來(lái)說(shuō)與 OpenAI 等全球領(lǐng)先的團(tuán)隊(duì)相比還有一定差距。但大模型在國(guó)內(nèi)落地的需求卻已刻不容緩,為了解決落地問(wèn)題,推出更有針對(duì)性的行業(yè)大模型,并利用數(shù)據(jù)精調(diào)來(lái)滿足業(yè)務(wù)需要,已經(jīng)成為國(guó)內(nèi)云服務(wù)商曲線解決當(dāng)下困境的一種選擇。
這背后的邏輯是:重要的是解決具體場(chǎng)景的需求,只要產(chǎn)品的效果夠好,用戶并不會(huì)關(guān)注技術(shù)底座到底是通用大模型還是行業(yè)大模型。
顯然,騰訊云做出了相當(dāng)務(wù)實(shí)的選擇。會(huì)上,高管們介紹了一系列騰訊云 MaaS 的應(yīng)用案例,其中既有針對(duì)騰訊企業(yè)端 SaaS 產(chǎn)品的智能化升級(jí),也有與央視等外部合作伙伴一起探索的應(yīng)用案例。
01
騰訊云 MaaS:
行業(yè)大模型精選店
騰訊云 MaaS 全景圖
會(huì)上,騰訊首次公布騰訊云 MaaS 服務(wù)解決方案。
騰訊集團(tuán)高級(jí)執(zhí)行副總裁、云與智慧產(chǎn)業(yè)事業(yè)群 CEO 湯道生介紹,騰訊云 MaaS 是基于 TI 平臺(tái)打造的行業(yè)精選模型商店,覆蓋金融、文旅、政務(wù)、傳媒、教育等 10 大行業(yè),提供超過(guò) 50 個(gè)解決方案。在這些能力模型的基礎(chǔ)上,客戶只需要加入自己獨(dú)有的場(chǎng)景數(shù)據(jù),就可以快速生成自己的「專(zhuān)屬模型」。
比如,騰訊云已經(jīng)和國(guó)內(nèi)某頭部在線旅游公司,基于「文旅大模型」打造了機(jī)器人客服,后者可以自動(dòng)判斷用戶意圖,并調(diào)用相應(yīng)的 API,高質(zhì)量完成用戶咨詢及服務(wù)。
如果一個(gè)用戶問(wèn),「節(jié)假日有哪些比較經(jīng)濟(jì)的旅游景點(diǎn)推薦?」基于通用大模型的客服機(jī)器人,只能給出一些簡(jiǎn)單的景點(diǎn)介紹和路線規(guī)劃。但是當(dāng)使用大量有針對(duì)性的行業(yè)數(shù)據(jù)來(lái)做模型精調(diào)之后,客服機(jī)器人的回答就變得更加細(xì)致,能夠規(guī)劃出每天的交通、景點(diǎn)安排,給出經(jīng)濟(jì)實(shí)惠的定制化推薦方案。
除了提供基礎(chǔ)的行業(yè)模型,數(shù)據(jù)方面,騰訊云同時(shí)推出了基于騰訊云 TI 平臺(tái)的行業(yè)大模型精調(diào)解決方案。
精調(diào)行業(yè)大模型是為了幫助模型開(kāi)發(fā)者與算法工程師,解決數(shù)據(jù)的處理問(wèn)題,高效率、高品質(zhì)、低成本地創(chuàng)建和使用大模型。此外通過(guò) TI 平臺(tái)以及模型的私有化部署、權(quán)限管控和數(shù)據(jù)加密等方式,騰訊云還希望幫助開(kāi)發(fā)者和企業(yè)客戶解決數(shù)據(jù)安全和隱私方面的擔(dān)憂。
比如騰訊云與中央電視臺(tái)打造的「央視人工智能開(kāi)放平臺(tái)」。開(kāi)發(fā)過(guò)程中也面臨數(shù)據(jù)量龐大、形態(tài)復(fù)雜的問(wèn)題,導(dǎo)致傳統(tǒng)的數(shù)據(jù)標(biāo)簽體系都無(wú)法達(dá)標(biāo)。
為此,雙方重新構(gòu)建了一套傳媒專(zhuān)屬的數(shù)據(jù)標(biāo)簽體系,同時(shí)也研發(fā)了創(chuàng)新的「標(biāo)簽權(quán)重引擎」,讓數(shù)據(jù)標(biāo)簽顆粒度更細(xì),并按照核心度排序。在這樣的數(shù)據(jù)標(biāo)簽體系支撐下,視頻編輯用自然語(yǔ)言就能實(shí)現(xiàn)跨模態(tài)檢索。比如,輸入「居民消費(fèi)力」,系統(tǒng)可自動(dòng)提供商場(chǎng)、超市相關(guān)素材,再搭配智能剪輯,就能快速生成視頻。
最后是關(guān)于大模型持續(xù)運(yùn)轉(zhuǎn)的燃料——算力。在大模型的訓(xùn)練和使用過(guò)程中,需要大量異構(gòu)算力的支持,對(duì)網(wǎng)絡(luò)速度與穩(wěn)定性要求也很高,加上 GPU 服務(wù)器比一般服務(wù)器穩(wěn)定性更低一些,服務(wù)器的運(yùn)維、問(wèn)題的排查更頻繁,整體運(yùn)維的難度與工作量會(huì)高很多。
對(duì)此,騰訊云打造了面向模型訓(xùn)練的新一代 HCC(High-Performance Computing Cluster)高性能計(jì)算集群,搭載最新次代 GPU,結(jié)合多層加速的高性能存儲(chǔ)系統(tǒng),加上高帶寬、低延遲的網(wǎng)絡(luò)傳輸,整體性能比過(guò)去提升了 3 倍。湯道生表示,HCC 獲得了很多客戶的高度認(rèn)可,幾家 AI 獨(dú)角獸都與騰訊云展開(kāi)了合作。
除了計(jì)算集群,騰訊云還公布了更適合 AI 運(yùn)算的「軟能力」——向量數(shù)據(jù)庫(kù),它能更高效地處理圖像、音頻和文本等非結(jié)構(gòu)化數(shù)據(jù),支持單索引 10 億級(jí)規(guī)模,比單機(jī)插件式檢索規(guī)模提升 10 倍,數(shù)據(jù)接入 AI 的效率,也比傳統(tǒng)方案提升 10 倍。
02
行業(yè)大模型加持,
騰訊三大 SaaS 產(chǎn)品升級(jí)
騰訊云的行業(yè)大模型解決方案發(fā)布較晚,但這段時(shí)間他們也沒(méi)有閑著。
會(huì)上,騰訊云介紹了一系列已經(jīng)落地到產(chǎn)品的大模型應(yīng)用案例,其中大部分都是對(duì)騰訊已有的 SaaS 產(chǎn)品進(jìn)行智能化升級(jí),包括騰訊會(huì)議、騰訊企點(diǎn)智能客服、AI 代碼助手。
整體來(lái)看,騰訊智能化升級(jí)的核心是智能助手,不論是騰訊會(huì)議的智能助手,騰訊企點(diǎn)的智能客服,還是輔助生成代碼的 AI 助手,本質(zhì)上都是針對(duì)不同場(chǎng)景下的 AI 助手。
這種思路與微軟有相似之處。微軟在今年 5 月的 Build 大會(huì)上宣布,將把基于通用大模型打造的智能助手 Copilot 融入到自己的各個(gè) ToB、ToC 產(chǎn)品服務(wù)體系,包括 Windows、GitHub、Bing 搜索、Azure 云等。
會(huì)議結(jié)束后,AI 助手對(duì)于會(huì)議的記錄提煉,也不只是簡(jiǎn)單的轉(zhuǎn)寫(xiě),而是會(huì)分段落、分層次地總結(jié)出整場(chǎng)會(huì)議的主要內(nèi)容。通過(guò)將會(huì)議時(shí)間線劃分為不同段落,AI 助手能夠更方便用戶依據(jù)「章節(jié)」「發(fā)言者」「話題」快速定位到相關(guān)內(nèi)容。此前,會(huì)后智能錄制已經(jīng)在 5 月份小批量開(kāi)放給會(huì)員和企業(yè)客戶試用,在此次大會(huì)上,騰訊也表示將正式向所有付費(fèi)用戶開(kāi)放智能錄制功能。
智能客服
在傳統(tǒng)的運(yùn)營(yíng)模式中,團(tuán)隊(duì)經(jīng)常面臨兩大困擾:一個(gè)是官網(wǎng)用戶的運(yùn)營(yíng)分析復(fù)雜瑣碎,另一個(gè)就是官網(wǎng)的客服成本居高不下。針對(duì)這兩點(diǎn),騰訊企點(diǎn)嘗試用企點(diǎn)智能分析和企點(diǎn)智能客服提供更加高效和精準(zhǔn)的全流程管理服務(wù)。會(huì)上,騰訊企點(diǎn)以「騰訊云官網(wǎng)」為例,介紹了騰訊企點(diǎn)的全新產(chǎn)品,以及行業(yè)大模型將如何幫助運(yùn)營(yíng)團(tuán)隊(duì)解決實(shí)際問(wèn)題。
首先,依托于騰訊云行業(yè)大模型以及騰訊在分析領(lǐng)域的積累,企點(diǎn)分析 AI 助手擁有五大核心能力,分別是:數(shù)據(jù)的理解,指標(biāo)的拆解,語(yǔ)言的查詢,AI 的推理,結(jié)論的提煉。
在五大能力的加持之下,銷(xiāo)售人員只要問(wèn)一句「哪個(gè)產(chǎn)品賣(mài)的最好」,就可以實(shí)現(xiàn)準(zhǔn)確的商業(yè)分析,不需要花費(fèi)大量的時(shí)間,學(xué)習(xí)復(fù)雜的軟件、制作看板。運(yùn)營(yíng)人員還可以將 AI 助手生成的分析結(jié)果保存至官網(wǎng)購(gòu)買(mǎi)專(zhuān)業(yè)分析看板中,后續(xù)運(yùn)營(yíng)人員就能夠在該面板中監(jiān)控官網(wǎng)的核心購(gòu)買(mǎi)數(shù)據(jù)。更便捷的是,AI 分析助手還提供了「一鍵報(bào)告生成」功能,通過(guò)此功能運(yùn)營(yíng)人員可以立刻獲得官網(wǎng)購(gòu)買(mǎi)頁(yè)專(zhuān)題分析的周報(bào)信息。
其次,在客戶感知力更強(qiáng)的客服領(lǐng)域,傳統(tǒng)的客服機(jī)器人往往會(huì)在幫助企業(yè)降本增效的同時(shí)損失部分用戶體驗(yàn),而新一代的騰訊企點(diǎn)智能客服,基于行業(yè)模型,結(jié)合客戶業(yè)務(wù)需求進(jìn)行訓(xùn)練與精調(diào),可以提供更精準(zhǔn)、更詳細(xì)的回答,甚至調(diào)用業(yè)務(wù)系統(tǒng)來(lái)提供實(shí)時(shí)數(shù)據(jù)。對(duì)比上一代智能客服的機(jī)械回答,用戶體驗(yàn)有很大的提升。
代碼助手
騰訊云 AI 代碼助手是此次大會(huì)上推出的又一款基于騰訊云行業(yè)模型的新產(chǎn)品。據(jù)介紹,借助騰訊云新一代 AI 代碼助手,程序員可以在溝通、編碼、排錯(cuò)、評(píng)審、調(diào)優(yōu)等環(huán)節(jié)提升生產(chǎn)力。
AI 代碼助手在全環(huán)節(jié)的功能包括:
在溝通環(huán)節(jié),可以通過(guò)上下文推理可以幫助程序開(kāi)發(fā)者加快理解代碼邏輯;
在編碼環(huán)節(jié),可以根據(jù)當(dāng)前代碼類(lèi)型對(duì)代碼進(jìn)行補(bǔ)全,并反向生成注釋和單元測(cè)試;
在排錯(cuò)環(huán)節(jié),可以定位錯(cuò)誤問(wèn)題并生成修改建議;
在評(píng)審環(huán)節(jié),針對(duì)開(kāi)發(fā)者提交的變更列表,可以幫助開(kāi)發(fā)者生成評(píng)審建議和提交信息;
在調(diào)優(yōu)環(huán)節(jié),可以通過(guò)自然語(yǔ)言指令快速修改代碼,實(shí)現(xiàn)效果調(diào)優(yōu)。
騰訊 AI 代碼助手支持 C/C + +、 JavaScript、Go、Python 等多種變現(xiàn)語(yǔ)言和常用開(kāi)放的框架,以及 VS Code 等主流 IDE。同時(shí)基于正負(fù)反饋,AI 代碼助手可以持續(xù)進(jìn)行訓(xùn)練調(diào)優(yōu),實(shí)現(xiàn)工具的持續(xù)改進(jìn)。目前,騰訊 AI 代碼助手已經(jīng)在騰訊內(nèi)部團(tuán)隊(duì)展開(kāi)試點(diǎn),數(shù)據(jù)發(fā)現(xiàn),AI 代碼助手對(duì)開(kāi)發(fā)者提高效率有接近 50% 的提升。
其他第三方應(yīng)用案例
除了騰訊自身的 B 端產(chǎn)品,騰訊云還在會(huì)上公布了一些與第三方合作的案例。
1、文旅:智能客服大模型應(yīng)用
在文旅領(lǐng)域,一家線上旅游 OTA 公司。其傳統(tǒng)智能客服需要人工進(jìn)行對(duì)話配置,知識(shí)維護(hù)量大、耗時(shí)長(zhǎng),且涉及訂單等復(fù)雜業(yè)務(wù)場(chǎng)景,在無(wú)配置的情況下,無(wú)法通過(guò)機(jī)器人閉環(huán)解決問(wèn)題。精調(diào)后的客戶專(zhuān)屬模型,無(wú)需配置對(duì)話流程,即可實(shí)現(xiàn)端到端解決業(yè)務(wù)問(wèn)題。提升任務(wù)完成率,降低整體成本。
2、金融:OCR 大模型及智能客服場(chǎng)景
在金融領(lǐng)域,騰訊與客戶探索了 OCR 大模型在銀行單據(jù)處理場(chǎng)景中的應(yīng)用。傳統(tǒng)的 OCR 深度學(xué)習(xí)模型不具備閱讀理解和推理能力、模型指標(biāo)上限低,不同場(chǎng)景下模型能力無(wú)法復(fù)制,定制成本高。騰訊云聯(lián)合一家頭部銀行,基于 OCR 大模型,上線了 4 類(lèi)票據(jù)的自動(dòng)化識(shí)別流程,信息錄入準(zhǔn)確率提升 50%。
3、政務(wù):政務(wù)咨詢場(chǎng)景
政務(wù)領(lǐng)域,騰訊云與福建大數(shù)據(jù)集團(tuán)合作,基于大語(yǔ)言模型能力打造了首個(gè)智慧政務(wù)平臺(tái)。其構(gòu)建的小閩助手是福建政務(wù)領(lǐng)域首個(gè)互動(dòng)式大模型應(yīng)用,可以為市民提供 7X24 智能咨詢服務(wù),譬如辦事指南、政策咨詢、數(shù)據(jù)查詢等。
4、教育:教育行業(yè)大模型
上海大學(xué)結(jié)合自身場(chǎng)景數(shù)據(jù),通過(guò)騰訊云 TI 平臺(tái)進(jìn)行精調(diào),構(gòu)建了專(zhuān)屬的教育行業(yè)大模型,計(jì)劃覆蓋包括在校生、畢業(yè)生全生命周期,提供咨詢和問(wèn)答內(nèi)容,首個(gè)場(chǎng)景聚焦招生專(zhuān)業(yè)咨詢和規(guī)章制度咨詢。其他使用場(chǎng)景還包括教學(xué)助手、大模型人才培養(yǎng)、招生助手、作業(yè)批改。
5、傳媒:媒資管理場(chǎng)景
央視多年積累了海量的音視頻、圖片、文稿等信息資源,但過(guò)去由于缺少智能的技術(shù)手段,人工編輯整理的投入成本大,但檢索效率低,難以滿足媒體采編存管播發(fā)全流程的時(shí)效性、高質(zhì)量需求。對(duì)此,基于行業(yè)大模型能力,騰訊云幫助央視加強(qiáng)智能標(biāo)簽的理解、泛化能力,同時(shí)提升媒資檢索能力,支持使用自然語(yǔ)言描述的方式精準(zhǔn)檢索視頻、圖片素材,跨越了模態(tài)屏障。
03
國(guó)內(nèi) MaaS 混戰(zhàn)開(kāi)啟,
騰訊云要怎么做?
隨著騰訊云正式宣布入局大模型,國(guó)內(nèi)云服務(wù)市場(chǎng)排名靠前的幾家,包括阿里云、華為云、騰訊云、百度云等都已加入這場(chǎng)大模型混戰(zhàn),國(guó)內(nèi) MaaS 的競(jìng)爭(zhēng)已經(jīng)拉開(kāi)序幕。
在海外市場(chǎng),大模型的到來(lái)在很短時(shí)間內(nèi)就對(duì)云服務(wù)市場(chǎng)的格局產(chǎn)生了沖擊,快速增長(zhǎng)的微軟云正在挑戰(zhàn)亞馬遜的霸主地位。而在國(guó)內(nèi)尚沒(méi)有明顯的大模型領(lǐng)先者,各家云廠商在入局后,需要找到自己在這場(chǎng)競(jìng)賽中的定位。
今天大模型落地痛點(diǎn),簡(jiǎn)單用一句話總結(jié),就是行業(yè)需要更好用的模型,能用更低的成本部署,得到更好的效果。而騰訊的優(yōu)勢(shì)主要是其過(guò)去積累的龐大的業(yè)務(wù)數(shù)據(jù)和算力基礎(chǔ)設(shè)施,今天騰訊云的解決方案,就是基于這些過(guò)去的積累,解決大模型應(yīng)用落地的痛點(diǎn)。
首先,騰訊旗下有多個(gè)不同的業(yè)務(wù)板塊,多年來(lái)在金融、傳媒、文旅、工業(yè)等不同領(lǐng)域積累了大量的數(shù)據(jù)和經(jīng)驗(yàn)。以此為養(yǎng)料,騰訊云才能構(gòu)建起一系列針對(duì)不同行業(yè)的行業(yè)大模型,同時(shí)針對(duì)一些特定的任務(wù)進(jìn)行優(yōu)化,比如對(duì)客服等場(chǎng)景中的「對(duì)話問(wèn)答」、「相似問(wèn)生成」等,從而確保使用時(shí)僅需少了數(shù)據(jù)就可以達(dá)到較好的精調(diào)效果。
此外,大模型訓(xùn)練的基礎(chǔ)是算力。騰訊云在大模型算力方面擁有領(lǐng)先優(yōu)勢(shì)。早在今年 4 月,騰訊云便發(fā)布了面向大模型訓(xùn)練的新一代 HCC 高性能計(jì)算集群,采用最新一代騰訊云星海自研服務(wù)器,結(jié)合多層加速的高性能存儲(chǔ)系統(tǒng),具備 3.2Tbps 業(yè)界最高互聯(lián)帶寬,算力性能提升 3 倍。
騰訊還有自己的升級(jí)框架加速能力太極 Angel,可以提供更優(yōu)的訓(xùn)練和推理加速能力。在傳統(tǒng) CV、NLP 算法模型的基礎(chǔ)上,新增了對(duì)大模型的訓(xùn)練和推理加速能力,通過(guò)異步調(diào)度優(yōu)化、顯存優(yōu)化、計(jì)算優(yōu)化等方式,相比行業(yè)常用方案性能提升超過(guò) 30%。
針對(duì)成本高、落地難的問(wèn)題,騰訊云 TI 平臺(tái)實(shí)現(xiàn)針對(duì)行業(yè)場(chǎng)景的低成本落地。在少量算力的基礎(chǔ)上,提升特定任務(wù)的效果,比如智能客服場(chǎng)景,訓(xùn)練性能可提升 10 倍,訓(xùn)練成本下降 90%。
除了針對(duì) B 端客戶的解決方案,騰訊云也在嘗試建立行業(yè)大模型的標(biāo)準(zhǔn)體系。騰訊云在會(huì)上公布,正在聯(lián)合中國(guó)信通院,共同構(gòu)建行業(yè)大模型的標(biāo)準(zhǔn)體系及能力架構(gòu),包括 1 套 ILMOps 方法論、60 多項(xiàng)能力建設(shè)指標(biāo)。這個(gè)標(biāo)準(zhǔn)體系覆蓋多個(gè)行業(yè),涵蓋模型行業(yè)能力、模型工程化性能、模型算力網(wǎng)絡(luò)、模型安全可靠等方面。
本文鏈接:http://m.www897cc.com/showinfo-26-695-0.html騰訊,終于入局大模型
聲明:本網(wǎng)頁(yè)內(nèi)容旨在傳播知識(shí),若有侵權(quán)等問(wèn)題請(qǐng)及時(shí)與本網(wǎng)聯(lián)系,我們將在第一時(shí)間刪除處理。郵件:2376512515@qq.com