币界网消息,谷歌最新上线的Gemma 4技术报告展示了如何用极简架构让大模型在手机和端侧跑得更快,省下更多内存。Gemma 4 12B模型首次实现了视觉与音频双模态的「无编码器」极简一体化,直接将视觉翻译器砍掉93%,音频翻译器完全干掉,解决了「外挂翻译器」造成的显存浪费。此外,该模型在处理长文本时通过全局注意力复用,减少了37.5%的内存占用。其轻量级端侧版本的预测加速器还将词典范围从26万个缩减到4096个,显著提升了解码速度。

此頁面可能包含第三方內容,僅供參考(非陳述或保證),不應被視為 Gate 認可其觀點表述,也不得被視為財務或專業建議。詳見聲明
  • 打賞
  • 5
  • 轉發
  • 分享
回覆
請輸入回覆內容
請輸入回覆內容
岩石上的多签
· 9小時前
無編碼器架構要是真跑通,以後小模型也能本地玩多模態了
查看原文回復0
AirdropTaxPanic
· 12小時前
谷歌這波端側優化是給手機AI鋪路,蘋果壓力來了
查看原文回復0
Depeg Daydream
· 12小時前
4096詞表對解碼速度的提升有點意思,但會不會犧牲多語言覆蓋?
查看原文回復0
GateUser-f78f1f3e
· 12小時前
砍掉93%視覺翻譯器還不要音頻編碼器,這瘦身力度比我還狠
查看原文回復0
Limit Order Monk
· 13小時前
全局注意力复用省37.5%顯存,長文本終於不用爆記憶體了
查看原文回復0