谷歌开源大模型 Gemma 4 官宣在即:参数量翻 4 倍
文本核心速览
- Gemma 4 官宣在即—谷歌DeepMind CEO通过社交平台暗示,新一代开源大模型Gemma 4即将发布,距离上一代Gemma 3发布刚好满一年。
- 参数量增至120B—Gemma 4新增120B参数的大型模型,规模是上一代的4倍,采用MoE架构,激活参数仅15B,可在民用显卡本地运行。
- 上下文与推理能力升级—预测显示Gemma 4上下文处理能力提升1至2倍,具备更深层次的逻辑推理与复杂任务执行能力。
- 抢占开源话语权对抗中国—谷歌通过时间差策略发布开源版,避免影响闭源商业模型,同时以本地化体验与国产开源模型竞争,维持开发者社区影响力。
- 开源竞赛进入新阶段—业界认为,Gemma 4将抬高开源大模型竞争门槛,能否在相同参数量下反超国产开源模型成为下半年焦点。
120B 参数 + 15B 激活,谷歌 Gemma 4 要用 MoE 在民用显卡上跑起本地大模型
DeepMind 老大 Demis Hassabis 最近在社交平台发了四颗钻石图标,群里立刻炸了——这是在暗示新一代开源模型 Gemma 4 要来了。距离上一代 Gemma 3 发布刚好满一年,节奏踩得很准。
参数翻 4 倍,MoE 架构是救命稻草
- 参数量 120B:这次传闻要新增一个 120B 参数的大模型,规模是上代 Gemma 3 的 4 倍。1200 亿参数什么概念?差不多是 GPT-3 的 6 倍,但开发者关心的不是数字多大,而是“我家 4090 跑不跑得动”。
- MoE 混合专家:为了不让人骂“参数大=电费高”,Gemma 4 预计采用 MoE 架构,激活参数仅 15B。这意味着每次推理只动用 150 亿参数干活,剩下的 1050 亿参数摸鱼。有开发者试了说,如果优化到位,民用级显卡(比如 RTX 3090/4090)可能真能本地跑起来,离线用大模型不再是梦。
- 上下文翻倍,逻辑推理升级:预测显示 Gemini 4 的上下文窗口会提升 1 到 2 倍,并且能处理更复杂的多步推理任务。群里在传,这次可能直接对标 GPT-4 级别的长文本理解能力。
谷歌的算盘:用开源锁住开发者,但别动我闭源蛋糕
快科技分析说,美国巨头现在主推闭源收费模式,但不想让中国公司独占开源生态。谷歌搞了个时间差策略:Gemini 3.0 闭源系列发布半年多后,才放出开源版 Gemma 4。这样既保住了 Gemini 的商业收入,又在开发者社区刷了一波存在感。
核心定位还是 “本地化服务”。Gemma 4 不打算跟国产开源模型比云端跑分,而是死磕端侧体验——让模型在手机、笔记本或者小企业服务器上离线跑。有圈内人算过,如果 MoE 调度做得好,120B 模型在本地运行的延迟可能跟 7B 小模型差不多,这对数据隐私敏感的行业(比如医疗、金融)杀伤力很大。
开源赛道新门槛:参数和效率缺一不可
业内普遍认为,谷歌虽然在开源上没投入全部精力,但算法底子厚,Gemma 4 一旦落地,同参数级别下能不能反超目前国产开源旗手(比如 Qwen、DeepSeek)将是关键。下半年 AI 社区估计要打一场硬仗:参数规模卷到 120B,但激活效率才是真本事。
接下来盯着看什么:MoE 的显存占用有没有翻车?120B 模型微调门槛高不高?如果谷歌真让民用显卡跑 1000 亿参数,最难受的可能是那些卖云端 API 的国产厂商——因为开发者会想:既然能本地免费跑,谁还按 token 付费?
来源: aibase阅读原文