标记为“离线运行”的工具

用 C/C++ 实现 LLM 推理，以最简设置和一流性能在本地和云端的各种硬件上运行。

QMD 是一个本地优先的迷你 CLI 搜索工具，用于检索文档、知识库、会议记录等文本。它结合 BM25 全文搜索、向量语义搜索和 LLM 重排序，并通过 node-llama-cpp 与 GGUF 模型全程在设备端运行。

Tolaria 是一款免费开源的桌面应用，支持 macOS、Windows 和 Linux，用于管理 Markdown 知识库，具备本地文件存储、集成的 Git 版本控制以及 AI 支持。

GenOffice 是一款面向 macOS、Windows 和 Linux 的免费开源 AI 办公套件。可打开并保存 .docx、.xlsx 和 .pptx 文件，编辑 PDF、Markdown 和 HTML，内置 AI 智能体，可使用 Genspark 积分或自备 API 密钥。