Arize Phoenix
Arize Phoenix 是 Arize AI 与开源社区共同打造的开源 AI 可观测性平台,用于追踪、评估和改进 LLM 应用。它基于 OpenTelemetry 和 OpenInference 提供追踪、评估、提示词管理和实验功能。
访问 Arize-ai/phoenix项目简介
Phoenix 帮助您理解和改进 AI 应用,提供调试和迭代的工作流程。您可以从应用发送详细的日志信息(称为追踪)来查看运行期间的具体情况,使用评估测试对输出进行评分以识别失败和回归,利用真实生产示例迭代提示词,并通过在同一输入上比较变更的实验来优化应用。Phoenix 由 Arize AI 和开源社区共同构建,基于 OpenTelemetry,并由 OpenInference 插桩驱动。
核心功能
- 追踪:逐步查看 AI 应用单次运行期间发生的情况,捕获模型调用、检索、工具使用和自定义逻辑。
- 评估:使用基于 LLM 的评估器、基于代码的检查或人工标签对追踪和跨度进行评分,以持续跟踪性能并识别失败。
- 提示词工程:对提示词进行版本管理,跨数据集测试提示词变体,并重放调用以查看变更对输出的影响。
- 数据集与实验:将追踪分组为数据集,通过应用的不同版本重新运行,并比较评估结果以确认变更是否真正提升了性能。
- PXI(Phoenix Intelligence):内置在 Phoenix 中的 AI 工程代理,用于调试追踪、迭代提示词和浏览产品。
- 远程 MCP 服务器:将 Claude Code、Cursor 和其他 MCP 客户端直接连接到 Phoenix 实例的 /mcp 端点,以查询追踪、数据集、实验等。
适用场景
- 通过检查追踪来调试 LLM 应用,理解行为并确定时间消耗所在。
- 使用评估来衡量输出质量,持续跟踪性能并识别失败。
- 使用真实生产示例迭代提示词,并跨数据集比较提示词变体。
- 通过在同一输入上比较变更的实验来优化应用,确认改进。
快速开始
- 在一个终端中启动 Phoenix:`uvx arize-phoenix serve`(或 pip 安装后使用 `phoenix serve`)。它运行在 http://localhost:6006。使用编码代理添加追踪:在应用根目录运行 `npx -y @arizeai/phoenix-cli setup` 或 `npm i -g @arizeai/phoenix-cli && px setup`。或者,按照 Python 或 TypeScript 快速入门指南发送追踪、衡量性能、迭代提示词并使用实验进行优化。
部署与要求
- Phoenix 容器镜像可通过 Docker Hub 获取,并可使用 Docker 或通过 Helm chart 部署到 Kubernetes。部署选项包括 Docker Compose、Kubernetes/Helm,以及 Railway、Render、Google Cloud、Azure 和 AWS 等云平台。Google Cloud 按钮在 Cloud Shell 中从源码构建 Phoenix,而不是部署预构建的 Docker Hub 镜像。Azure 模板提供纯 HTTP 服务(Azure 容器实例不终止 TLS)——在生产使用前,请使用
采用前须知
- 许可证:Other。在使用、修改或分发项目前,请确认其具体条款。