Google DiffusionGemma：用不到10%训练预算将Gemma 4改造成扩散模型
Google DeepMind推出DiffusionGemma，通过改造Gemma 4而非从零训练，以不到10%的预算实现每秒1500 token的生成速度。本文解析其技术原理、性能表现，并探讨对中文开发者的实际意义与国产模型对比。
一句话看懂
Google DeepMind将Gemma 4改造为扩散模型DiffusionGemma，训练成本不到原版的10%，并行生成256个token，速度达每秒1500 token，但推理质量仍不及自回归原版。
详细发生了什么
Google DeepMind发布了DiffusionGemma。这项工作的核心在于：不从头训练新模型，而是把现有的Gemma 4模型“改造”成文本扩散模型。据官方介绍，整个改造过程只用了原版模型不到10%的训练预算，大幅降低了资源门槛。
DiffusionGemma的生成方式与传统的自回归模型截然不同。自回归模型逐token生成，而DiffusionGemma一次性并行生成256个token，从而实现了约每秒1500 token的生成速度，显著提升了推理效率。
然而，速度的提升并非没有代价。在多项基准测试中，DiffusionGemma的质量仍落后于原版自回归模型，尤其是在推理任务上差距明显。这意味着，扩散模型在文本生成领域虽然潜力巨大，但在需要深度逻辑推理的场景下，当前版本尚不足以完全替代自回归模型。
这项研究的意义在于，它证明了扩散模型并非只能从零开始训练，而是可以通过对现有模型的改造快速实现，这为未来在资源受限环境下探索扩散模型提供了新思路。
中文圈视角
对于中文开发者来说，DiffusionGemma的发布有几个值得关注的看点。
首先，训练成本的降低意味着更多团队有机会尝试扩散模型。国内不少研究机构和企业受限于算力，难以负担从零训练大模型的费用。DiffusionGemma的“改造”思路提供了一条低成本路径，或许能激发更多中文社区在扩散模型上的实验。
其次，速度优势在中文场景下有实际应用价值。中文文本生成任务中，长文本生成（如文章、报告）对速度要求较高，DiffusionGemma的并行生成能力可能带来更流畅的体验。不过，目前模型主要针对英文优化，中文支持情况尚不明确，可能需要额外的适配工作。
对比国产模型，如DeepSeek、Kimi等，它们仍以自回归架构为主。DiffusionGemma的出现提醒中文厂商，扩散模型并非遥不可及，未来若能在推理质量上突破，可能会改变现有技术格局。
此外，合规方面，由于模型基于Gemma 4，其开源协议和数据处理方式需要国内用户仔细评估，尤其是在数据出境和内容安全方面。
几条值得记住的细节
- DiffusionGemma的训练预算仅为原版Gemma 4的不到10%。
- 模型并行生成256个token，速度约每秒1500 token。
- 在推理任务上，DiffusionGemma的质量明显落后于自回归原版。
- 该研究由Google DeepMind主导，基于Gemma 4模型改造。
- 目前模型主要面向英文，中文支持情况待确认。
一句话总结
DiffusionGemma展示了低成本改造扩散模型的可行性，但推理质量仍是短板，中文用户需关注其后续优化与本地化支持。