←返回首页

话题 · Topic

#KV 缓存量化

共 2 条相关资讯

2026.08.10 · 周一开源

24GB 显存单卡跑通 1M 上下文：社区用户借 KVarN 量化刷新长上下文纪录

2026.07.01 · 周三工具

DeepSeek-V4-Flash MXFP4 推理显存异常：KV 缓存量化类型影响计算缓冲区约 3 倍