触达更多潜在用户,助力产品增长与收益提升。
投放广告上下文管理
上下文压缩、选择、分层加载与连续性。
Repomix
Free 等级项目星标数: 29K将代码库打包为 AI 友好格式
上下文管理
Repomix 可将整个代码库打包为一个 AI 友好文件,便于把完整仓库上下文共享给大型语言模型和其他 AI 工具,用于代码审查、重构、实现规划、文档生成和项目协助。
LMCache
Free 等级项目星标数: 12.3K面向可扩展 LLM 推理的 KV 缓存管理层
上下文管理
LMCache 是面向 LLM 推理的开源 KV 缓存管理层,可在 GPU、CPU、本地存储和外部后端之间存储、压缩、搜索并复用 KV 缓存,减少重复预填充并降低首 token 延迟。
billion-context
Free 等级项目星标数: 1.7K面向长时间编码会话的上下文压缩插件
上下文管理
billion-context 是一款上下文压缩插件,让智能体在小上下文窗口(10 万上下文即可)下工作,token 用量约为原来的五分之一,并能支撑持续数月、累计数十亿 token 的单次会话。

