AI 快讯
编译自 simon_willison #本地AI#Mac应用#MLX
Nativ:在Mac上本地运行AI模型的桌面应用,类似LM Studio但基于MLX
Nativ是一款macOS桌面应用,基于MLX框架让你在本地运行AI模型,提供聊天界面和API服务器。本文介绍其功能、与LM Studio的异同,并分析对中文用户的实用价值。
一句话看懂
Nativ 是一款 macOS 桌面应用,基于 MLX 框架让你在本地运行 AI 模型,提供聊天界面和 API 服务器,类似 LM Studio 但专为 Apple Silicon 优化。
详细发生了什么
Prince Canuma 是 MLX-VLM Python 库的作者,该库用于在 Mac 上通过 MLX 运行视觉语言模型。他的新项目 Nativ 将 MLX 封装成一个完整的 macOS 桌面应用,提供聊天界面和本地 API 服务器,方便用户访问和测试模型。
Nativ 会自动检测 Hugging Face 缓存目录中已有的 MLX 模型,无需重复下载。应用界面和功能与 LM Studio 类似,但底层使用 Apple 的 MLX 框架,针对 Apple Silicon 芯片做了优化,性能更佳。
目前 Nativ 处于早期发布阶段,开发者正在积极迭代。项目页面提供了下载链接和安装说明。
中文圈视角
对于中文用户,Nativ 提供了一个在 Mac 上本地运行 AI 模型的便捷方案,尤其适合以下场景:
- 隐私敏感场景:所有模型在本地运行,数据不出设备,适合处理敏感信息或离线使用。
- 开发者测试:内置 API 服务器可快速集成到本地开发环境,无需依赖云端服务。
- Apple Silicon 用户:MLX 框架充分利用 M 系列芯片的 GPU 和神经网络引擎,推理速度优于通用方案。
与国产同类产品对比:
- LM Studio:功能类似,但 LM Studio 支持更多后端(如 llama.cpp),而 Nativ 专为 MLX 优化,在 Mac 上可能更流畅。
- Ollama:命令行工具,Nativ 提供图形界面,对非技术用户更友好。
- ModelScope:国内模型托管平台,但需要联网下载模型,Nativ 可离线运行。
需要注意的是,Nativ 目前仅支持 macOS,且模型需为 MLX 格式。中文社区常用的 Qwen、ChatGLM 等模型已有 MLX 版本,但部分模型可能需要手动转换。
几条值得记住的细节
- Nativ 自动识别 Hugging Face 缓存中的 MLX 模型,无需手动导入。
- 提供聊天界面和本地 API 服务器,支持 HTTP 请求调用模型。
- 基于 MLX 框架,仅兼容 Apple Silicon Mac(M1 及以上)。
- 项目处于早期阶段,功能可能不完善,但开发者更新活跃。
- 下载地址:https://blaizzy.github.io/nativ/
一句话总结
如果你有一台 Mac(Apple Silicon),想本地运行 AI 模型又不想折腾命令行,Nativ 是一个值得尝试的桌面应用。