自主AI系统进入物理世界，新加坡发布Agentic AI治理框架V1.5

一句话看懂

自主AI系统正进入物理世界，新加坡发布Agentic AI治理框架V1.5，为部署在仓库、配送和公共空间的AI代理设定安全准则。

详细发生了什么

自主AI系统正从纯软件环境扩展到仓库、配送网络和公共空间，这一趋势引发了对现有AI规则是否覆盖物理世界系统的讨论。目前多数AI治理框架聚焦在线危害和模型输出，如偏见、虚假信息和有害内容，而具身AI系统在物理环境中的故障可能影响基础设施、财产或人身安全。

新加坡资讯通信媒体发展局（IMDA）于5月20日发布了Agentic AI治理框架V1.5，为部署能自主规划、决策并执行多步骤任务的AI代理的组织提供指导。框架指出，代理可交互工具、外部系统及其他代理，包括更新数据库、写入文件、控制设备或执行交易。治理措施包括访问控制、监控和人工审批。

上周在新加坡举行的AI峰会上，围绕机器人和具身AI的讨论聚焦于运营安全问题，这些议题更常见于航空、工业系统和关键基础设施监管，而非传统软件法规。清华大学智能产业研究院创始院长张亚勤表示，具身AI放大了自主软件已有的风险，故障可能直接影响交通系统、无人机、物流网络和关键基础设施。

Grab正在新加坡榜鹅区试点自动驾驶车辆和配送机器人，其CTO Suthen Thomas Paradatheth表示，部署治理高度依赖模拟、测试和持续监控。IMDA框架建议分阶段部署、持续监控和部署后测试，因为代理与环境动态交互，并非所有风险都能在发布前预判。

中文圈视角

对中文圈用户而言，新加坡的Agentic AI治理框架具有直接参考价值。国内具身AI领域发展迅速，如银河通用（Galbot）已在零售、仓储和制药场景部署人形机器人，北京通过政府支持的测试平台和长期资金推动规模化商用。然而，国内目前缺乏针对物理世界AI系统的专项治理规则，现有法规多侧重数据安全和算法推荐。

该框架提出的“分阶段部署+持续监控”模式，与国内企业实践高度契合。银河通用首席战略官赵玉丽指出，半结构化工业环境因操作条件可控，可能成为早期商业化路径。但国内企业在部署时需注意：框架要求明确责任链，从模型提供商到部署者、工具提供商和最终用户，而国内产业链中责任划分尚不清晰。

此外，框架强调人工审批关键节点（如高影响、不可逆操作），这对国内企业意味着需要建立更精细的人机协作流程，而非完全自动化。对于使用海外AI代理服务的国内用户，需关注数据出境和内容安全合规问题。

几条值得记住的细节

IMDA框架V1.5于2026年5月20日发布，覆盖Agentic AI的四个治理领域：前期风险评估、人类问责、技术控制和最终用户责任。
框架建议对高影响、不可逆操作和异常行为设置人工审批，并指出自动化偏差和警报疲劳是监督风险。
Grab在榜鹅区试点自动驾驶车辆和配送机器人，强调通过模拟和封闭/开放课程测试确保可靠性。
清华大学张亚勤警告：数字域的任何风险在物理域都会被放大，并产生物理后果。
日本启动“AI Association”项目，计划收集10万小时机器人数据以支持机器人基础模型。

一句话总结

自主AI进入物理世界意味着治理规则必须从“软件合规”转向“物理安全”，国内企业可借鉴新加坡框架，在规模化部署前建立分阶段测试和持续监控机制。