8 月 16 日消息,谷歌宣布旗下開源旗下 Gemma 系列家族中最輕量的版本“Gemma 3 270M”,該模型擁有 2.7 億參數(shù),主要面向端側(cè)部署場(chǎng)景,具備指令遵循和文本結(jié)構(gòu)化能力。

獲悉,目前 Gemma 3 系列模型包括 270M、1B、4B、12B 與 27B 五種規(guī)模版本。在 Q4_0 量化格式下,各模型的 RAM 內(nèi)存需求分別為 240MB、892MB、3.4GB、8.7GB 和 21GB。其中,Gemma 3 270M 以最低 RAM 內(nèi)存門檻(INT4 量化版本的 RAM 內(nèi)存需求僅約 240MB),成為系列模型中最適合低功耗設(shè)備部署的版本,號(hào)稱在 Pixel 9 Pro 手機(jī)上運(yùn)行 25 輪對(duì)話僅消耗手機(jī) 0.75% 的電量。

據(jù)谷歌介紹,該模型特別適合處理高頻率、任務(wù)明確的場(chǎng)景,同時(shí)特別適合處理個(gè)人隱私信息,例如“情感分析、實(shí)體識(shí)別、人生規(guī)劃”等,同時(shí)也適用于開發(fā)多個(gè)專用任務(wù)的小型模型。
谷歌同步發(fā)布了微調(diào)教學(xué)資源,涵蓋基于 Hugging Face Transformers 進(jìn)行全模型訓(xùn)練的完整流程,支持開發(fā)者在分類、信息抽取、情感分析等任務(wù)上進(jìn)行定制化開發(fā)。目前已有第三方開發(fā)者通過 transformers.js 將該模型運(yùn)行在瀏覽器端,證明 Gemma 3 270M 在 Web 環(huán)境中同樣具備良好的性能與可控性。
本文鏈接:http://m.www897cc.com/showinfo-45-26191-0.html谷歌開源 Gemma 家族最輕量模型 Gemma 3 270M:2.7 億參數(shù)可靈活用于 手機(jī)平板端側(cè)及 Web 環(huán)境
聲明:本網(wǎng)頁(yè)內(nèi)容旨在傳播知識(shí),若有侵權(quán)等問題請(qǐng)及時(shí)與本網(wǎng)聯(lián)系,我們將在第一時(shí)間刪除處理。郵件:2376512515@qq.com