模型与推理

Ollama 让您能够快速上手运行 Kimi、GLM、MiniMax、DeepSeek、gpt-oss、Qwen、Gemma 等开放模型。它提供 CLI、REST API 以及 Python 和 JavaScript 库，用于在本地运行和管理模型。

用 C/C++ 实现 LLM 推理，以最简设置和一流性能在本地和云端的各种硬件上运行。

DeepSeek-V3 是一款混合专家（MoE）语言模型，总参数量 671B，每个 token 激活 37B 参数。它支持 128K 上下文，提供 Base 与 Chat 两个版本，开放权重可用于本地部署，也可通过 API 使用。

Qwen3 是阿里云 Qwen 团队开发的大型语言模型系列，包含稠密与混合专家（MoE）模型，提供思考与非思考模式，支持多语言、长上下文、推理、编码与智能体能力，并推出 2507 更新版本。

Qwen3-VL 是 Qwen 团队（阿里巴巴云）开发的多模态大语言模型系列，提供密集和 MoE 架构，具备高级视觉推理、长上下文和扩展 OCR 能力。