LLM 0.32 发布:支持推理轨迹、OpenAI Responses API 与服务端工具
LLM 0.32 发布,新增推理轨迹显示、服务端工具支持、OpenAI Responses API 集成及 GPT-5.6 模型家族。本文详解新功能,并探讨对中文开发者的实际影响与替代方案。
一句话看懂
LLM 0.32 发布,新增推理轨迹显示、服务端工具支持、OpenAI Responses API 集成及 GPT-5.6 模型家族,是项目启动以来最大的一次更新。
详细发生了什么
Simon Willison 发布了 LLM 0.32,这是自项目启动以来最重大的版本更新。新版本主要亮点包括:
- 推理轨迹显示:运行推理模型时,现在会将推理过程输出到标准错误(stderr),方便用户观察模型的”思考”过程,同时不影响标准输出(stdout)的管道使用。可通过
-R/--hide-reasoning参数关闭。 - 服务端工具支持:LLM 调用现在可以使用各提供商的服务端工具,例如 OpenAI 提供的 Code Interpreter 等,无需在本地定义工具。
- OpenAI Responses API 集成:新版本充分利用了 OpenAI Responses API 的特性,带来了更丰富的功能。
- 新模型支持:内置支持 GPT-5.6 模型家族,默认模型改为性价比高的 GPT-5.6 Luna。
- 日志重构:重新设计了基于内容寻址的 SQLite 日志,提升了日志的可靠性和查询效率。
此外,llm-anthropic、llm-gemini、llm-openrouter 插件也同步更新,各自带来了重要改进。
中文圈视角
对于中文开发者,LLM 0.32 的更新有几个值得关注的方面:
-
推理轨迹的可视化:国内开发者在使用 DeepSeek-R1 等推理模型时,常遇到输出冗长、难以调试的问题。LLM 0.32 将推理轨迹分离到 stderr,可以更清晰地观察模型思考过程,同时保持输出整洁,这对调试和集成非常有帮助。
-
服务端工具与国产模型的对比:OpenAI 的服务端工具(如 Code Interpreter)目前国内无法直接访问,但国产模型如 DeepSeek、Kimi 也提供了类似功能。LLM 0.32 对服务端工具的支持,意味着未来可能通过插件接入国产模型的服务端工具,但需要等待社区适配。
-
默认模型 GPT-5.6 Luna:对于国内用户,默认模型仍指向 OpenAI,需要代理或 API 中转。不过,LLM 本身支持多种模型,用户可以通过配置切换到国产模型,如 DeepSeek 或通义千问,以降低使用门槛。
-
日志重构的启示:内容寻址的 SQLite 日志设计,对国内开发者构建本地 AI 工具链有参考价值,尤其是在数据隐私和可追溯性方面。
几条值得记住的细节
- 推理轨迹默认输出到 stderr,可用
-R隐藏,便于管道处理。 - 默认模型改为 GPT-5.6 Luna,价格更低,性能不俗。
- 新增服务端工具支持,OpenAI 的 Code Interpreter 可直接调用。
- 日志系统重构为内容寻址 SQLite,提升可靠性和查询效率。
- 插件
llm-anthropic、llm-gemini、llm-openrouter同步更新。
一句话总结
LLM 0.32 让命令行调用大模型更强大、更透明,中文开发者可借此提升本地 AI 工作流效率。