跳过主要内容
广告OpenFree logo推广你的产品触达更多潜在用户,助力产品增长与收益提升。投放广告
Favicon of Qwen3

Qwen3

Free 等级项目

Qwen3 是阿里云 Qwen 团队开发的大型语言模型系列,包含稠密与混合专家(MoE)模型,提供思考与非思考模式,支持多语言、长上下文、推理、编码与智能体能力,并推出 2507 更新版本。

访问 QwenLM/Qwen3

项目简介

Qwen3 是阿里云 Qwen 团队开发的大型语言模型系列。该系列包含稠密与混合专家(MoE)模型,参数规模从 0.6B 到 235B-A22B,并推出 Qwen3-2507 的 Instruct 与 Thinking 变体,覆盖 235B-A22B、30B-A3B 和 4B 等尺寸。模型支持思考与非思考模式,适用于推理与对话,具备多语言、长上下文理解能力,并可在多种框架中部署或本地运行。

核心功能

  • 稠密与混合专家(MoE)模型,参数规模包括 0.6B、1.7B、4B、8B、14B、32B、30B-A3B 和 235B-A22B。
  • Qwen3-2507 提供 Instruct 与 Thinking 变体,覆盖 235B-A22B、30B-A3B 和 4B 尺寸。
  • 支持在思考模式(用于复杂逻辑推理、数学与编码)与非思考模式(用于高效通用对话)之间切换。
  • 支持 100 多种语言和方言,具备多语言指令遵循与翻译能力。
  • 支持 256K 令牌长上下文理解,Qwen3-2507 可扩展至 100 万令牌。
  • 具备智能体能力,可与外部工具精确集成并处理复杂智能体任务。

适用场景

  • 复杂逻辑推理、数学、科学和编码任务。
  • 高效通用对话、创意写作、角色扮演和多轮对话。
  • 覆盖 100 多种语言和方言的多语言指令遵循与翻译。
  • 需要与外部工具集成的工具使用和复杂智能体任务。

快速开始

  • 使用 Transformers 时需安装 transformers>=4.51.0,通过 AutoModelForCausalLM 和 AutoTokenizer 加载 Qwen3 检查点,应用聊天模板并生成文本。中国大陆用户推荐使用 ModelScope,它提供类似 Transformers 的 Python API 以及 modelscope download 命令行工具。其他本地运行选项包括 llama.cpp、Ollama、LMStudio、ExecuTorch、MNN、MLX LM 和 OpenVINO。

部署与要求

  • 使用 Transformers 需要 transformers>=4.51.0,建议使用最新版本。
  • 使用 SGLang 服务需要 sglang>=0.4.6.post1。
  • 使用 vLLM 服务建议 vllm>=0.9.0。
  • 使用 TensorRT-LLM 服务建议 tensorrt_llm>=0.20.0rc3。
  • 使用 llama.cpp 完整支持 Qwen3 建议 llama.cpp>=b5401。

采用前须知

  • 未检测到可识别的许可证;采用前请核实项目的使用、修改和分发权限。

评论

登录 后发表评论。

更多类似 Qwen3 的项目

Favicon of Edge0

Edge0

Free 等级项目星标数: 11K

面向端侧 AI 的设备原生基础模型

语言模型

Edge0 提供设备原生基础模型与开源流式 MoE 推理框架,可在笔记本上运行 145B、在手机上运行 35B 等大型稀疏模型,通过 SSD 流式加载权重,支持离线端侧处理与零令牌成本。

Favicon of kimi-k3-in-c

kimi-k3-in-c

Free 等级项目星标数: 10K

用 C99 在单 CPU、8 GB 内存上运行 2.78 万亿参数 Kimi K3

语言模型

通过从磁盘流式读取模型而非全部载入内存,kimi-k3-in-c 可在单 CPU、8.24 GB 峰值内存下运行 2.78 万亿参数的 Kimi K3。项目使用可移植 C99,不依赖 BLAS、框架或 GPU。

Favicon of nanochat

nanochat

Free 等级项目星标数: 60.1K

单张 GPU 节点上端到端训练 LLM 的极简实验框架

语言模型

nanochat 是一个极简、可修改的 LLM 训练实验框架,覆盖分词、预训练、微调、评估和推理,可在单张 GPU 节点上端到端运行,并被称为“100 美元能买到的最好的 ChatGPT”。