agentgateway

项目简介

agentgateway 是开源 HTTP 和 gRPC 网关，在单一数据平面中处理传统应用流量和 AI 原生协议。它为服务、LLM 提供商流量、MCP 工具和智能体间通信提供路由、安全、可观测性、治理与成本控制，减少拼接多个网关的需要。

核心功能

• 单一数据平面支持 HTTP、gRPC 和 TCP 服务、LLM 提供商、自托管推理、MCP 与 A2A 流量；LLM 网关提供 OpenAI 兼容 API、提供商路由与故障转移、令牌预算、语义缓存和提示词脱敏；MCP 网关支持服务器发现、工具调用签名与范围控制、版本管理和审计跟踪；A2A 路由覆盖 LangChain、CrewAI、ADK 等框架，并在每一跳提供身份与追踪；安全控制包括 JWT/OIDC、API 密钥、外部授权、请求授权、TLS/mTLS、CORS/CSRF 和速率限制；可观测性与成本管理支持

适用场景

• 将南北向和东西向服务流量与 AI、智能体流量汇聚到单一网关之后；通过预算、虚拟密钥、成本跟踪和提示词防护治理 LLM 提供商访问；管理 MCP 服务器发现、工具权限和智能体工具使用的审计跟踪；在 LangChain、CrewAI、ADK 和自定义运行时等框架之间路由智能体间调用。

快速开始

• 使用发布的安装脚本安装 agentgateway 二进制文件；按照独立部署或 Kubernetes 快速入门操作，站点描述耗时少于 5 分钟；使用 MCP 连接指南，以发现和认证方式将 agentgateway 连接到 MCP 服务器；从管理后台试用 LLM Playground，在上线前测试模型路由。

部署与要求

• 部署选项包括二进制文件、Docker 或 Kubernetes；提供独立部署和 Kubernetes 的文档与快速入门。

采用前须知

• 许可证：Apache-2.0。在使用、修改或分发项目前，请确认其具体条款。