2026.09.24 · 周四开源
←返回首页话题 · Topic
#推测解码
共 32 条相关资讯
2026.09.01 · 周二工具
Compact Rollback MTP：让低显存也能跑 Qwen 27B 的 MTP 加速
2026.08.27 · 周四工具
ik_llama.cpp 本月更新：Dflash 2 推测解码与多模型支持
2026.08.23 · 周日工具
开源框架 ShardFlow：跨广域网双节点跑出 Qwen2.5-7B 28 TPS
2026.08.22 · 周六工具
Llama.cpp 出现 DSpark PC Tree 推测解码分叉
2026.08.21 · 周五模型发布
Liquid AI 发布 LFM2.5-DSpark 草案模型，推理最高提速 3.18 倍
2026.08.20 · 周四开源
DFlash2 推测解码加速 Qwen3 实测：推理速度最高提升约 3 倍
2026.08.19 · 周三工具
Qwen3.8-27B 双卡 3090 实测：DFlash2 推测解码跑出 218 tok/s
2026.08.19 · 周三工具
DFlash 2 发布：支持 Qwen 3.8 27B 与 Muse Glimmer 的推测解码方案
2026.08.19 · 周三工具
Qwen3.8-27B 在 RTX 3090 单卡推理优化至 124 tps
2026.08.18 · 周二开源
社区发布 Qwen3.8-27B 去审查版 GGUF，附带 FastMTP 加速
2026.08.18 · 周二工具
llama.cpp 引入自适应 MTP 模式：动态调整推测解码深度
2026.08.13 · 周四工具
Muse Glimmer 30B 在 Mac 上提速至 3.3 倍：社区推出推测解码工具 mlx-dspark
2026.08.11 · 周二工具
Muse Glimmer 30B 启用 DFlash 推测解码需打 6 个补丁，速度提升约 2.3 倍
2026.08.11 · 周二研究论文
Glimmer 搭配 Dflash 在 RTX 5090 上跑出 233 tps
2026.08.10 · 周一行业动态
推测解码为何在 2026 年走向成熟
2026.07.29 · 周三开源
llama.cpp 合并 PR：新增 GLM-5.2 推测解码支持
2026.07.28 · 周二开源
DeepSeek V4 Flash 在 128GB 锐龙 AI MAX+ 上跑到 32 tok/s
2026.07.28 · 周二工具
llama.cpp 合并 DSpark 推测解码 支持 DeepSeek 系列加速推理
2026.07.25 · 周六工具
llama.cpp 原生 MTP 推测解码实测：稠密提速明显，MoE 收益有限
2026.07.25 · 周六行业动态
推测解码：本地大模型的免费加速开关
2026.07.21 · 周二开源
Qwen3.6-27B 推测解码横评：DFlash 领先，EAGLE3 在 vLLM 报错
2026.07.14 · 周二开源
DFlash 推理加速方案：单卡 RTX 6000 实现 3.4 倍提速
2026.07.14 · 周二工具
Atomic Chat 推出 DFlash，本地 Qwen 模型推理提速 2.2 倍
2026.07.08 · 周三工具
DeepSeek V4 Flash 搭配 DSpark 在 H200 上的部署实测
2026.07.02 · 周四工具
社区开发者为 Ornith 35B 引入 MTP 推测解码，推理提速约 18%
2026.06.30 · 周二工具
Qwen3.6-27B 单卡 3090 推测解码横评：ik_llama 最快，mainline 最稳
2026.06.30 · 周二工具
社区发布 Qwen3.5/3.6 MTP 张量 GGUF 子集
2026.06.28 · 周日开源
DeepSeek 开源 DeepSpec：推测解码全栈工具与多模型权重发布
2026.06.28 · 周日开源
DFlash 推测解码支持合并进 llama.cpp
2026.06.28 · 周日研究论文
DeepSeek 发布 DSpark 论文：推理提速 60%–85%，同步开源训练框架
2026.06.28 · 周日研究论文