AI 快讯 编译自 aws_ml_blog #AWS#Bedrock#模型选择#开源工具#AI 基础设施

亚马逊 Bedrock 开源模型分析器 Model Profiler:5 分钟部署,一站式比较 120+ 模型

AWS 发布开源工具 Model Profiler,聚合 Bedrock 上 120+ 基础模型的元数据、定价、配额和区域可用性,支持搜索、筛选和对比。本文详解其功能、架构与部署方式,并分析对中文开发者的实际价值。

编译发布 2026/07/01 原文发布 2026/07/01

一句话看懂

AWS 开源 Model Profiler,一个在 5 分钟内即可部署的 Web 工具,帮你一站式搜索、筛选和对比 Amazon Bedrock 上 120+ 基础模型的规格、定价与配额。

详细发生了什么

Amazon Bedrock 已集成超过 100 个基础模型,来自 Anthropic、OpenAI、Meta、Mistral AI、Cohere 和 Amazon 等厂商。但模型选择的信息分散在控制台、文档和 API 中,团队难以快速对比能力、定价、区域可用性和上下文窗口等关键指标。

Model Profiler 是一个开源 Web 应用,通过自动化的无服务器管道,每天从 7 个数据源(5 个 AWS API + 2 个公开 URL)抓取数据,生成统一的模型目录。核心功能包括:

  • Model Explorer:搜索和筛选 120+ 模型,支持按提供商、能力(视觉、代码生成、function calling 等)、模态、区域和状态过滤。
  • 侧边对比:并排比较模型的规格、定价、配额和区域可用性。
  • 定价与配额:展示按需、批量和预留层定价,以及 tokens-per-minute (TPM) 和 requests-per-minute (RPM) 限额。
  • 区域地图:可视化模型在 33 个区域的可用性。

部署方式有两种:本地模式(使用本地 AWS 凭证,无需云资源)和 AWS 部署(全托管无服务器架构,每日自动刷新数据)。整个管道在 8-12 分钟内完成,通过 Step Functions 编排 17 个 Lambda 函数,利用 S3 缓存将 API 调用从约 480 次降至 29 次(缓存命中率 97%)。

中文圈视角

对于中国开发者,这个工具的价值和限制都很明显:

用得上吗? 需要 AWS 账号和 Bedrock 访问权限。国内用户可以直接使用,但 Bedrock 部分模型可能受区域限制(如某些模型未在亚太区域上线)。工具本身是开源的,可以自行部署在本地或 AWS 中国区域(如果支持)。

国产平替? 国内类似平台如阿里云百炼、百度千帆、华为云 ModelArts 也提供模型市场,但缺乏如此统一的开源对比工具。Model Profiler 的设计思路值得借鉴——将分散的元数据聚合为可搜索的目录。国内厂商可以考虑类似方案,降低模型选型成本。

具体场景:对于使用 Bedrock 做 RAG、function calling 或批处理的中文团队,这个工具能快速定位符合上下文窗口和配额要求的模型,避免手动翻阅文档。但中文模型(如通义千问)在 Bedrock 上的覆盖有限,仍需关注国内平台。

盲点:工具目前不包含模型实际性能基准(如延迟、准确性),仅提供元数据。选型时仍需结合自己的测试数据。

几条值得记住的细节

  • 数据每天 6 AM UTC 自动刷新,可通过 CloudFormation 调整调度频率。
  • 管道采用自愈机制:当检测到数据缺口时,由 Bedrock 驱动的 agent 自动应用安全修复,变更会版本化备份。
  • 本地模式无需云基础设施,只需 AWS 凭证即可运行数据收集和前端。
  • 支持按消费选项筛选:In-Region(按需)、Cross-Region Inference(跨区域推理)、Batch(批量)和 Mantle(高性能推理)。
  • 上下文窗口数据来自 LiteLLM 模型数据库,生命周期状态来自 AWS 文档。

一句话总结

如果你在用 Amazon Bedrock,这个开源工具能帮你省下大量手动对比模型的时间,5 分钟部署即可获得清晰的选型视图。