6月11日消息,谷歌DeepMind发布DiffusionGemma,Gemma开放权重模型家族的新成员。它不沿用主流聊天机器人的自回归路线,而是借鉴图像扩散模型的思路并行生成和修正文本,换来更快的本地推理速度。
DiffusionGemma总参数约260亿,采用混合专家架构(MoE),支持多模态输入、文本输出。谷歌称,在专用GPU的低延迟本地推理场景下,其文本生成速度最高可比传统自回归模型快约4倍:单张NVIDIA H100超过1,000 token/秒,GeForce RTX 5090上超过700 token/秒。
多数聊天机器人按顺序生成文本:前一个token出来后才能预测下一个,用户看到的是一行字慢慢往外跳。DiffusionGemma的做法更接近图像扩散模型——先用占位符铺出一段文本,再经多轮修正逐步得到最终结果,一次最多可并行处理256个token。硬件算力够用时,生成速度因此明显提高。
对本地AI使用者来说,这意味着:隐私敏感、网络不稳定或需要低延迟的场景,可以更多依赖本机显卡完成文本生成,不必把所有请求都发到云端。
DiffusionGemma不是一个极小模型,但混合专家架构让每次推理只激活约38亿参数。谷歌称这使它有机会在18GB显存级别的GPU上运行,门槛低于完整加载同等总参数的密集模型。
谷歌把DiffusionGemma放进Gemma开放权重体系,延续了用可本地部署模型争夺开发者生态的策略。
扩散文本模型不是第一次出现。它长期未成为主流路线,关键原因是自然语言比图像更依赖语法顺序、上下文连贯和事实约束。生成得快,不等于写得稳。
DiffusionGemma证明了扩散路线可以在开放权重文本模型上跑出明显速度优势。它能否在长文本、复杂问答和事实准确性上接近主流自回归模型,还需要更多独立评测给出答案。(易句)
新智元 2026-06-11 12:38:37
雷科技 2026-06-12 00:01:21
字节漫游指南 2026-06-12 01:26:16
顶峰相见剧场 2026-06-10 08:27:06
新智元 2026-06-09 14:22:18
量子位 2026-06-09 14:25:37
机器之心Pro 2026-04-29 17:20:04
界面新闻 2026-06-09 21:30:35
人间小惬意啊 2026-06-12 01:09:35
网易财经 2026-06-11 17:01:41
智东西 2026-06-11 22:01:56
机器之心Pro 2026-03-31 11:09:26
北青网-北京青年报 2026-06-11 13:19:02
丙子看剧 2026-06-09 16:35:55
靓仔影视君 2026-06-11 16:02:33
红星新闻 2026-06-11 11:28:53
机器之心Pro 2026-06-11 17:06:46
雨轩电影 2026-06-11 20:17:34
人间小惬意啊 2026-06-11 17:12:02
小幸运追影 2026-06-11 09:38:12
香蕉唠生活 2026-06-11 01:31:46
北京商报 2026-06-07 12:37:05
晚风也遗憾 2026-06-11 00:15:49
晚风寄温柔 2026-06-12 00:37:32
一隅安稳 2026-06-12 00:42:40
云朵偷喝奶茶 2026-06-12 00:49:20
量子位 2026-06-11 09:07:12
澎湃新闻 2026-06-11 12:16:30
新华社 2026-06-11 23:08:02
中国新闻周刊 2026-06-11 07:22:08
时光慢邮啊 2026-06-12 01:13:01
北青网-北京青年报 2026-06-11 12:27:30
未来已来风云变幻 2026-06-10 08:36:27
星视频 2026-06-11 15:03:06
中国能源网 2026-06-11 10:58:56
澎湃新闻 2026-06-11 11:52:30
澎湃新闻 2026-06-11 08:00:27
上海发布 2026-06-11 14:10:30
极目新闻 2026-06-11 18:42:13
大风新闻 2026-06-11 22:03:06