AILabox
校对于
2026-08-08
EN
◐
☰
AI 工具
术语库
套餐订阅
数据源
AI 术语库
/
上下文缓存
推理部署
推理性能、量化与成本优化
上下文缓存
复用相同前缀内容的计算结果以降低重复输入的成本。
上下文缓存按命中率大幅折扣缓存区 Token(如 DeepSeek 缓存命中价约为未命中的 1/10),对多轮对话、固定系统提示与长文档问答尤其划算。
相关术语
KV 缓存
Token(词元)
上下文窗口