Strata

项目简介

Strata 是开源本地推理引擎和桌面应用，用于在消费级硬件上运行 125B 参数的 Qwen3.8-Flash-Next。它提供 Windows 和 Linux 一键安装、终端客户端、localhost 上的 OpenAI 与 Anthropic 兼容 API、可选图像输入，以及聊天和监控工具，聊天与文件保留在 PC 上。

核心功能

• 在 RAM 与显存合计至少 32 GB 的消费级 PC 上运行 125B 参数的 Qwen3.8-Flash-Next；提供 Windows 和 Linux 一键应用安装，另有 macOS 应用和一行终端安装器；在 localhost 上提供 OpenAI、Anthropic 和 OpenAI Responses 兼容 API，可连接编码代理和其他应用；支持可选图片输入，图像读取器根据显存大小在 CPU 或 GPU 上运行；桌面聊天包含模型、GPU、CPU 和 RAM

适用场景

• 在游戏 PC 本地运行大型 Qwen 模型，不依赖云 API；将编码代理及其他 OpenAI 或 Anthropic 兼容应用连接到本地模型端点；与可读图片的模型聊天，同时聊天和文件留在 PC；用桌面应用或终端监控本地推理速度、GPU、内存和请求。

快速开始

• 从发布页下载适用于你的系统和显卡的 Strata 应用安装包并运行；Windows 按用户安装，无需管理员权限。Linux 上用 chmod +x 使 AppImage 可执行并安装 FUSE 2；Mac 上打开 DMG 并将 Strata 拖到 Applications。也可运行 Linux 或 macOS 的一行安装脚本，或 Windows 的 PowerShell 安装器，然后运行 strata launch。按引导提示选择模型、上下文大小、图片支持和访问方式，然后下载引擎和模型。

部署与要求

• RAM 与显存合计至少 32 GB；64 GB RAM 可运行所有模型尺寸。约 80 GB 可用磁盘；SSD 会明显加快首次启动。需要 Windows 10 或 11、Linux 或 macOS，以及较新的显卡驱动。支持 NVIDIA RTX 20/30/40/50 系列 12 GB 及以上、AMD Radeon RX 6800 及更新型号、Intel Arc、macOS 15 及以上的 Apple Silicon Mac，以及 AMD Ryzen AI Max 统一内存系统。模型下载约 40-70 GB，中断后可续传。

采用前须知

• 许可证：MIT。在使用、修改或分发项目前，请确认其具体条款。