跳过主要内容
广告OpenFree logo推广你的产品触达更多潜在用户,助力产品增长与收益提升。投放广告

上下文管理

上下文压缩、选择、分层加载与连续性。

Favicon of Repomix

Repomix

Free 等级项目星标数: 29K

将代码库打包为 AI 友好格式

上下文管理

Repomix 可将整个代码库打包为一个 AI 友好文件,便于把完整仓库上下文共享给大型语言模型和其他 AI 工具,用于代码审查、重构、实现规划、文档生成和项目协助。

Favicon of LMCache

LMCache

Free 等级项目星标数: 12.3K

面向可扩展 LLM 推理的 KV 缓存管理层

上下文管理

LMCache 是面向 LLM 推理的开源 KV 缓存管理层,可在 GPU、CPU、本地存储和外部后端之间存储、压缩、搜索并复用 KV 缓存,减少重复预填充并降低首 token 延迟。

Favicon of billion-context

billion-context

Free 等级项目星标数: 1.7K

面向长时间编码会话的上下文压缩插件

上下文管理

billion-context 是一款上下文压缩插件,让智能体在小上下文窗口(10 万上下文即可)下工作,token 用量约为原来的五分之一,并能支撑持续数月、累计数十亿 token 的单次会话。

广告
OpenFree logo推广你的产品

触达更多潜在用户,助力产品增长与收益提升。

投放广告