AI 快讯 编译自 nvidia_developer #AI Agent#Windows#NVIDIA#微软#本地AI

微软与NVIDIA联手:在Windows PC上构建个人AI Agent的新工具发布

微软和NVIDIA合作推出新工具,让开发者在Windows PC上轻松构建本地AI Agent,支持离线运行、增强安全性和性能优化。本文详解工具功能、对中文开发者的意义及与国产方案的对比。

编译发布 2026/06/02 原文发布 2026/06/02

一句话看懂

微软与NVIDIA联合发布Windows AI Agent开发工具,让开发者无需云端即可在PC上构建和运行个人AI助手,支持本地推理与隐私保护。

详细发生了什么

6月2日,NVIDIA开发者博客宣布与微软合作,推出面向Windows平台的AI Agent构建工具集。该工具整合了NVIDIA的TensorRT-LLM推理加速库、Windows AI API以及微软的Copilot Runtime,允许开发者在本地PC上创建能执行多步骤任务的AI Agent,例如自动整理文件、辅助编码或视频剪辑。

新工具的核心亮点包括:

  • 本地运行:所有推理在用户PC上完成,无需联网,数据不出设备。
  • 性能优化:利用NVIDIA RTX GPU的Tensor Core和TensorRT-LLM,实现低延迟推理。
  • 原生集成:通过Windows AI API调用系统功能(如文件系统、浏览器),Agent可像普通应用一样操作。
  • 安全沙箱:基于Windows安全机制,Agent运行在隔离环境中,防止恶意行为。

开发者可通过NVIDIA AI Workbench或Windows Dev Home获取工具,支持主流开源模型如Llama 3、Phi-3等。微软表示,该工具旨在降低Agent开发门槛,让更多个人开发者能打造专属AI助手。

中文圈视角

对中文开发者来说,这套工具最直接的价值是摆脱对云服务的依赖。国内用户使用OpenAI、Anthropic等API常面临网络延迟、数据出境合规等问题,而本地Agent完全在PC上运行,既规避了监管风险,也无需为token付费。

不过,硬件门槛较高:推荐配置为NVIDIA RTX 40系列及以上显卡,显存至少8GB。目前国产显卡(如华为昇腾、摩尔线程)尚未被官方支持,但理论上通过ONNX Runtime等中间件可适配。

与国内类似方案对比:

  • 百度千帆Agent:依赖云端,免费额度有限,且数据需经过百度服务器。
  • 阿里百炼:支持本地部署,但配置复杂,文档以英文为主。
  • 微软+NV方案:优势在于Windows原生集成和NVIDIA生态优化,但中文模型支持度待验证(Phi-3中文能力一般,Llama 3中文需额外微调)。

盲点:目前工具仅支持Windows 11 24H2及以上版本,国内大量用户仍在使用Windows 10,升级门槛可能影响普及。另外,Agent的“记忆”和长期任务管理能力尚未披露,与ChatGPT的Memory功能相比仍有差距。

几条值得记住的细节

  • 工具支持模型:Llama 3 8B、Phi-3 mini、Mistral 7B等,未来将扩展至更多开源模型。
  • 最低硬件要求:NVIDIA RTX 3060或同等性能GPU,8GB VRAM。
  • 开发环境:需安装Windows 11 24H2、NVIDIA驱动555.99+、CUDA 12.5。
  • 安全机制:Agent运行在AppContainer沙箱中,访问文件需用户授权。
  • 发布状态:Beta版已开放下载,正式版预计2026年Q3。

一句话总结

如果你有RTX显卡且想打造一个完全离线的个人AI助手,这套工具是目前Windows上最省心的选择。