Mira Murati 团队发布 Inkling:975B 参数开源 MoE 多模态模型,Apache-2.0 许可
Thinking Machines Lab 发布首个开源权重模型 Inkling,975B 总参数、41B 活跃参数,MoE 架构,支持文本、图像、音频和视频,Apache-2.0 许可。模型定位为可微调的基础模型,非前沿模型,但性价比突出。
一句话看懂
Mira Murati 创立的 Thinking Machines Lab 发布首个开源权重模型 Inkling,975B 参数 MoE 多模态模型,Apache-2.0 许可,主打可微调与高效推理。
详细发生了什么
Mira Murati 的 Thinking Machines Lab 发布了第一个开源权重模型 Inkling。Inkling 是一个混合专家(MoE)Transformer,总参数 975B,活跃参数 41B,采用 Apache-2.0 许可。它是一个多模态模型,在 45 万亿 token 的文本、图像、音频和视频数据上训练而成。
他们还预告了 Inkling-Small,一个 276B(12B 活跃)参数的模型。不过这个模型还在测试中,权重会在“测试完成后”发布。
模型卡片比预期简短很多。训练数据文档更是只有寥寥数语,核心内容就是:训练数据包括公共领域内容以及可能受知识产权保护的内容,主要来自开放互联网和公开数据仓库,部分来自第三方。
Thinking Machines 自己承认,Inkling 不是前沿模型,而是一个适合微调的强大基础模型,配合他们自己的 Tinker 训练平台使用。官方表示:“Inkling 不是目前最强的整体模型,无论是开源还是闭源。相反,它的多模态能力、高效推理以及可在 Tinker 上微调的特性,使其成为一个优秀的开源基础模型。”
中文圈视角
对中文用户来说,Inkling 的 Apache-2.0 许可意味着可以自由商用、修改,不用担心版权问题。但模型权重下载可能需要访问海外平台(如 Hugging Face),国内用户可能需要梯子或等待镜像。
与国产开源模型(如 DeepSeek-V2、Qwen2.5)相比,Inkling 的 41B 活跃参数在推理效率上可能更有优势,但中文能力还没验证。DeepSeek 和 Qwen 在中文场景有专门优化,而 Inkling 的训练数据以英文为主,中文用户可能需要额外微调才能达到可用水平。
Tinker 训练平台目前似乎只面向海外用户,国内开发者可能需要寻找替代方案(如 LLaMA-Factory 或 ModelScope 的微调服务)。不过,Inkling 的 MoE 架构和高效推理特性,对于需要多模态处理(如图文理解、视频分析)的中文应用场景,是一个值得关注的开源选项。
几条值得记住的细节
- Inkling 总参数 975B,活跃参数 41B,采用 MoE 架构,训练数据 45 万亿 token。
- 许可协议为 Apache-2.0,可自由商用和修改。
- 支持文本、图像、音频、视频多模态输入。
- Inkling-Small(276B/12B 活跃)仍在测试中,权重待发布。
- 官方明确表示 Inkling 不是前沿模型,而是适合微调的基础模型。
一句话总结
Inkling 是一个高性价比的开源多模态基础模型,适合有微调需求的开发者,但中文能力需验证。