触达更多潜在用户,助力产品增长与收益提升。
投放广告训练与 MLOps
模型的训练、评测、部署与运行。
Unsloth
Free 等级项目星标数: 76.8K开源框架,用于在本地运行和训练LLM
Unsloth是一个开源框架,用于运行和训练LLM。它提供本地UI来运行和训练LLM和扩散模型,支持GGUF、MLX、Qwen3.8、DeepSeek-V4、MiniMax-H3、Gemma 4、FLUX等。
llmfit
Free 等级项目星标数: 38.5K一条命令找出适合你硬件的模型。
llmfit 会检测 CPU、内存、GPU、显存和加速器配置,并按适配度、速度、质量和上下文对数百个开源大模型及不同量化版本进行排序,帮助你判断哪些模型能在本机良好运行。
FlashMLA
Free 等级项目星标数: 13.1K面向 DeepSeek 推理的优化注意力算子
FlashMLA 是 DeepSeek 的高性能注意力算子库,支撑 DeepSeek-V4.1 在 NVIDIA GPU 与华为昇腾 NPU 上的推理。它提供面向 prefill 与 decoding 的 token 级稀疏注意力算子(支持 FP8 或 FP4 KV 缓存)、融合 Q-norm、Q-RoPE、注意力、O-RoPE 与 FP8 转换的融合算子,以及用于 prefill 和反向传播的稠密注意力算子。
Arize Phoenix
Free 等级项目星标数: 11.6KAI 可观测性与评估
Arize Phoenix 是 Arize AI 与开源社区共同打造的开源 AI 可观测性平台,用于追踪、评估和改进 LLM 应用。它基于 OpenTelemetry 和 OpenInference 提供追踪、评估、提示词管理和实验功能。
CUDA Rust
Free 等级项目星标数: 3.9KNVIDIA 面向 Rust 的 CUDA 平台
CUDA Rust 是 NVIDIA 面向 Rust 的 CUDA 平台,提供用于 CUDA 驱动的宿主端运行时 crate,以及用惯用 Rust 编写 GPU 内核的设备端 crate 和工具,支持 SIMT 与 Tile 两种内核编程模型。
Folkbench
Free 等级项目星标数: 2KAI 中转站测评与排行榜
Folkbench 是 AI API 中转站测评与排行榜平台,持续公开可用率、响应耗时和价格,并提供开源桌面客户端 Folkbench Switch,用于把选定的 Base URL 与 API Key 写入 Claude Code、Codex 等工具配置。
Overmind
Free 等级项目星标数: 0.7K面向专用智能体的训练平台
Overmind 是面向专用智能体的训练平台,可将智能体的生产数据转化为团队自有的专用模型,并在同一平台完成数据准备、训练、评估与部署,支持托管使用或自行部署。
NVIDIA Kubernetes Engine
Free 等级项目星标数: 0.6K面向 NVIDIA GPU 基础设施的托管 Kubernetes
NVIDIA Kubernetes Engine(NVKE)是面向 AI 工厂的开源软件,用于在自有 NVIDIA GPU 基础设施上运行托管 Kubernetes 服务。它通过 API 创建集群,负责节点配置、集群组建,以及节点池扩缩容、Kubernetes 升级、节点替换和证书续期。
OpenOrange
Free 等级项目星标数: 0.3K随处运行 Cloudflare Workers。
OpenOrange 可在 AWS、Google Cloud、Azure、Rivet Cloud 或自有服务器上原样运行现有 Cloudflare Workers 与 Durable Objects,继续使用 Wrangler 配置和 orange CLI。

