跳过主要内容
广告OpenFree logo推广你的产品触达更多潜在用户,助力产品增长与收益提升。投放广告

模型网关与路由

统一 API、认证、路由、限流与重试。

Favicon of OmniRoute

OmniRoute

Free 等级项目星标数: 80.6K

一个端点接入众多提供商,支持自动回退。

模型网关与路由

OmniRoute 是免费开源的 AI 网关,通过一个兼容 OpenAI 的端点路由数百家提供商,支持自动回退、19 种路由策略、上下文压缩、MCP 与 A2A 服务,以及本地优先的自托管部署。

Favicon of Free Claude Code

Free Claude Code

Free 等级项目星标数: 63.6K

聚合 61 家供应商与 12 个编程助手

模型网关与路由

Free Claude Code 是开源模型网关与编程助手启动器,聚合 61 家供应商、每月超过 13 亿免费 token 和 12 个编程助手,覆盖终端、IDE、桌面、浏览器与手机,并支持模型自动回退。

Favicon of New API

New API

Free 等级项目星标数: 50.6K

面向模型、应用与智能体的统一 AI 网关

模型网关与路由

New API 是一个自托管的 AI 网关和模型枢纽,通过兼容 OpenAI、Claude 与 Gemini 的接口统一接入 30+ 家 AI 服务商,并在一个控制台中管理路由、访问、用量和成本。

Favicon of FreeLLMAPI

FreeLLMAPI

Free 等级项目星标数: 48K

通过一个 OpenAI 兼容 API 聚合免费 LLM 提供商额度

模型网关与路由

FreeLLMAPI 将免费 LLM 提供商额度与自定义 OpenAI 兼容端点聚合到一个 /v1 API,并提供智能路由、自动故障转移、加密密钥和自更新目录。

Favicon of Helicone

Helicone

Free 等级项目星标数: 6.2K

AI 网关与 LLM 可观测性平台

模型网关与路由

Helicone 是一个开源 LLM 可观测性与 AI 网关平台。它为可靠的 AI 应用提供路由与监控,让开发者只需一行代码即可监控、评估和实验。

Favicon of llm-d

llm-d

Free 等级项目星标数: 4.9K

Kubernetes 原生分布式 LLM 推理栈

模型网关与路由

llm-d 是一个开源、Kubernetes 原生的分布式 LLM 推理栈。它可在集群中运行 vLLM、SGLang 等模型服务器,将单节点推理引擎转化为可在现有硬件上生产级部署的推理服务。

广告
OpenFree logo推广你的产品

触达更多潜在用户,助力产品增长与收益提升。

投放广告