NVIDIA 发布 Nemotron 3.5 Lightning：为长期运行 AI 代理打造的高效执行模型
NVIDIA 推出开源 30B MoE 模型 Nemotron 3.5 Lightning，仅 3B 激活参数，专为长期运行 AI 代理的高频执行层设计，降低工具调用、结果验证等任务的成本与延迟。了解其性能、适用场景及对中文开发者的影响。
一句话看懂
NVIDIA 发布开源 30B MoE 模型 Nemotron 3.5 Lightning，仅 3B 激活参数，专为长期运行 AI 代理的高频执行层设计，兼顾速度与准确性。
详细发生了什么
NVIDIA 发布了 Nemotron 3.5 Lightning，一个面向长期运行 AI 代理的开源模型。这类代理（比如自动化工作流、多步骤任务处理）大部分时间花在工具调用、结果验证和子代理委派等高频执行任务上。如果每一步都动用前沿推理模型，成本和延迟都会明显上升。Nemotron 3.5 Lightning 正是冲着这个痛点来的：它是一个 30B 参数的 mixture-of-experts（MoE）模型，但每次推理只激活 3B 参数，在保持高性能的同时大幅降低计算开销。
这个模型针对执行层做了优化，能快速处理大量重复性任务，同时保证输出质量。NVIDIA 表示，它在多个基准测试中表现不错，尤其在工具调用和结果验证这类场景下，速度和准确性都优于同类模型。模型已经开源，开发者可以从 NVIDIA 官方渠道获取，并集成到现有的 agent harness 里。
中文圈视角
对中文开发者来说，Nemotron 3.5 Lightning 有几个值得关注的点。首先，模型开源意味着可以本地部署，但需要足够的 GPU 资源——30B MoE 模型即使激活参数少，完整模型还是要占不少显存。国内开发者可以通过 NVIDIA 官网或 Hugging Face 下载，但网络访问可能是个问题，得用镜像或代理。
其次，国内也有类似定位的模型，比如 DeepSeek 的 MoE 架构模型（像 DeepSeek-V3）也强调高效推理，但 Nemotron 3.5 Lightning 更专注 agent 执行层，跟通用模型形成差异化。对做长期运行 agent 的团队来说，这个模型可能是个不错的补充，尤其是要处理大量工具调用的场景。
最后，合规方面，模型开源但训练数据可能涉及海外内容，部署时得注意数据出境和内容安全要求。建议在本地环境跑，避免敏感数据上传。
几条值得记住的细节
- 模型规模：30B MoE，激活参数仅 3B，推理效率高。
- 适用场景：工具调用、结果验证、子代理委派等高频执行任务。
- 开源可用：可通过 NVIDIA 官方渠道获取，支持集成到现有 agent harness。
- 性能表现：在多个基准测试中，速度与准确性优于同类模型。
- 硬件需求：虽激活参数少，但完整模型仍需较高显存，建议使用 A100 或 H100 级 GPU。
一句话总结
Nemotron 3.5 Lightning 为长期运行 AI 代理提供了高效执行方案，中文开发者可关注其开源优势，但需权衡硬件与合规成本。