Ollama JavaScript Library
Ollama 的官方 JavaScript 客户端,围绕 Ollama REST API 封装聊天、生成、流式响应、嵌入、模型管理与云模型访问,适用于 Node 和浏览器应用。
访问 ollama/ollama-js项目简介
Ollama JavaScript Library 是 Ollama 的官方 JavaScript 客户端,围绕 Ollama REST API 设计。它提供 chat、generate、pull、push、create、delete、copy、list、show、embed、webSearch、webFetch、ps、version、abort 和 systemone 等方法。它可在 Node 和浏览器中运行,并支持流式响应、云模型、自定义 host 与 headers,以及结构化输出。
核心功能
- 聊天与生成 API 接收模型名称和消息数组,并返回助手回复。将 stream 设为 true 时,流式响应返回 AsyncGenerator。它可在 Node 和浏览器中使用,浏览器场景通过 ollama/browser 模块导入。云模型支持在保持本地工作流的同时卸载到更大模型,也可使用 API key 直接访问 ollama.com API。它支持图像、工具名称、结构化 JSON 输出、思考级别、对数概率和 keep_alive 控制。它还包含
适用场景
- 将 JavaScript 应用与本地运行的 Ollama 模型集成。把模型输出以流式分块推送到 CLI 或 Web 客户端。通过同一个 JavaScript 客户端使用更大的云端模型而无需重写代码。构建通过 ollama/browser 调用 Ollama 的浏览器前端。
快速开始
- 使用 npm i ollama 安装包。从 ollama 导入 ollama,并用模型名称和消息数组调用 ollama.chat。浏览器场景从 ollama/browser 导入 ollama。使用云模型时,先运行 ollama signin 和 ollama pull gpt-oss:120b-cloud,然后像平常一样使用该模型。
采用前须知
- 许可证:MIT。在使用、修改或分发项目前,请确认其具体条款。