Helicone
Helicone 是一个开源 LLM 可观测性与 AI 网关平台。它为可靠的 AI 应用提供路由与监控,让开发者只需一行代码即可监控、评估和实验。
访问 Helicone/helicone项目简介
Helicone 是面向 AI 工程师的 AI 网关与 LLM 可观测性平台。它路由、调试和分析 AI 应用,提供一行代码集成来记录来自各提供商和框架的请求。它支持监控、评估、实验、提示管理和自托管。
核心功能
- AI 网关:通过 OpenAI API 使用一个 API 密钥访问 100 多个 AI 模型,具备智能路由和自动回退。快速集成:一行代码即可记录来自 OpenAI、Anthropic、LangChain、Gemini、Vercel AI SDK 等的请求。可观测性:检查和调试代理、聊天机器人、文档处理管道等的追踪和会话。分析:跟踪成本、延迟、质量等,并一行代码导出到 PostHog 以获取自定义仪表板。提示管理:使用生产数据对提示进行版本控制,并通过 AI 网关部署提示而无需更改代码。Playground 和微调:在 UI
适用场景
- 调试和监控代理、聊天机器人和文档处理管道。跟踪 AI 应用的成本、延迟和质量。在 Playground 中测试和迭代提示、会话和追踪。使用生产数据对提示进行版本控制和部署。
快速开始
- 注册并获取 API 密钥,然后添加额度。将代码中的 baseURL 更新为 Helicone AI Gateway 并添加 API 密钥。使用支持的模型,例如 gpt-4o-mini、claude-sonnet-4 或 gemini-2.0-flash,或 Helicone 模型列表中的任何模型。在 Helicone 仪表板中查看日志,并通过一个 API 访问 100 多个模型。
部署与要求
- Helicone 可通过其托管服务使用,也可自托管。自托管时,使用 Docker Compose 设置;克隆仓库,进入 docker 目录,将 .env.example 复制为 .env,然后使用 compose 脚本启动服务。对于企业工作负载,可联系 enterprise@helicone.ai 获取生产就绪的 Helm chart。不建议手动部署;应使用 Docker 或 Helm。Helicone 由 Web、Worker、Jawn、Supabase、ClickHouse 和 Minio 服务组成。
采用前须知
- 许可证:Apache-2.0。在使用、修改或分发项目前,请确认其具体条款。