跳过主要内容
广告OpenFree logo推广你的产品触达更多潜在用户,助力产品增长与收益提升。投放广告

训练与 MLOps

模型的训练、评测、部署与运行。

Favicon of Unsloth

Unsloth

Free 等级项目星标数: 76.8K

开源框架,用于在本地运行和训练LLM

训练与微调

Unsloth是一个开源框架,用于运行和训练LLM。它提供本地UI来运行和训练LLM和扩散模型,支持GGUF、MLX、Qwen3.8、DeepSeek-V4、MiniMax-H3、Gemma 4、FLUX等。

Favicon of llmfit

llmfit

Free 等级项目星标数: 38.5K

一条命令找出适合你硬件的模型。

评测与基准

llmfit 会检测 CPU、内存、GPU、显存和加速器配置,并按适配度、速度、质量和上下文对数百个开源大模型及不同量化版本进行排序,帮助你判断哪些模型能在本机良好运行。

Favicon of Langfuse

Langfuse

Free 等级项目星标数: 35.1K

开源智能体评估与可观测性

评测与基准

开源平台,用于追踪、评估和改进AI智能体。利用生产数据理解行为,协作修复,以更低的成本和延迟交付更高质量。

Favicon of FlashMLA

FlashMLA

Free 等级项目星标数: 13.1K

面向 DeepSeek 推理的优化注意力算子

流水线、部署与计算

FlashMLA 是 DeepSeek 的高性能注意力算子库,支撑 DeepSeek-V4.1 在 NVIDIA GPU 与华为昇腾 NPU 上的推理。它提供面向 prefill 与 decoding 的 token 级稀疏注意力算子(支持 FP8 或 FP4 KV 缓存)、融合 Q-norm、Q-RoPE、注意力、O-RoPE 与 FP8 转换的融合算子,以及用于 prefill 和反向传播的稠密注意力算子。

Favicon of Arize Phoenix

Arize Phoenix

Free 等级项目星标数: 11.6K

AI 可观测性与评估

评测与基准

Arize Phoenix 是 Arize AI 与开源社区共同打造的开源 AI 可观测性平台,用于追踪、评估和改进 LLM 应用。它基于 OpenTelemetry 和 OpenInference 提供追踪、评估、提示词管理和实验功能。

Favicon of CUDA Rust

CUDA Rust

Free 等级项目星标数: 3.9K

NVIDIA 面向 Rust 的 CUDA 平台

流水线、部署与计算

CUDA Rust 是 NVIDIA 面向 Rust 的 CUDA 平台,提供用于 CUDA 驱动的宿主端运行时 crate,以及用惯用 Rust 编写 GPU 内核的设备端 crate 和工具,支持 SIMT 与 Tile 两种内核编程模型。

Favicon of Folkbench

Folkbench

Free 等级项目星标数: 2K

AI 中转站测评与排行榜

评测与基准

Folkbench 是 AI API 中转站测评与排行榜平台,持续公开可用率、响应耗时和价格,并提供开源桌面客户端 Folkbench Switch,用于把选定的 Base URL 与 API Key 写入 Claude Code、Codex 等工具配置。

Favicon of Overmind

Overmind

Free 等级项目星标数: 0.7K

面向专用智能体的训练平台

训练与微调

Overmind 是面向专用智能体的训练平台,可将智能体的生产数据转化为团队自有的专用模型,并在同一平台完成数据准备、训练、评估与部署,支持托管使用或自行部署。

Favicon of NVIDIA Kubernetes Engine

NVIDIA Kubernetes Engine

Free 等级项目星标数: 0.6K

面向 NVIDIA GPU 基础设施的托管 Kubernetes

流水线、部署与计算

NVIDIA Kubernetes Engine(NVKE)是面向 AI 工厂的开源软件,用于在自有 NVIDIA GPU 基础设施上运行托管 Kubernetes 服务。它通过 API 创建集群,负责节点配置、集群组建,以及节点池扩缩容、Kubernetes 升级、节点替换和证书续期。

Favicon of OpenOrange

OpenOrange

Free 等级项目星标数: 0.3K

随处运行 Cloudflare Workers。

流水线、部署与计算

OpenOrange 可在 AWS、Google Cloud、Azure、Rivet Cloud 或自有服务器上原样运行现有 Cloudflare Workers 与 Durable Objects,继续使用 Wrangler 配置和 orange CLI。

广告
OpenFree logo推广你的产品

触达更多潜在用户,助力产品增长与收益提升。

投放广告