2026.09.25 · 周五工具
←返回首页话题 · Topic
#推理引擎
共 15 条相关资讯
2026.09.24 · 周四工具
是石科技 Meta-Infer 推理引擎：通过软优化让 PCIe 显卡吞吐提升近 7 倍
2026.09.24 · 周四工具
轻量 LLM 推理引擎 PicoLM 发布 v1.0-rc2，覆盖从 DOS 到 iPhone 1 的极端平台
2026.08.27 · 周四工具
Qwen 新架构获 TokenSpeed 首发支持
2026.08.24 · 周一工具
Qwen3-27B macOS 推理横评：MTPLX 综合最快，llama.cpp+MTP 紧随其后
2026.08.15 · 周六工具
NInfer：面向 RTX 5090 的 Qwen 单卡推理引擎
2026.08.15 · 周六工具
NInfer 首发支持 Qwen3.8-27B：单卡 RTX 5090 达 200 tok/s
2026.07.30 · 周四工具
Together AI 推出 program_id 推理引擎即插即用功能
2026.07.28 · 周二工具
社区推出 RTX 5090 专用推理引擎，单实例可达 720 token/s
2026.07.28 · 周二开源
Ling-3.0-flash 权重未发布，三大推理引擎适配现状盘点
2026.07.26 · 周日开源
TensorSharp 开源 LLM 推理引擎亮相，自称对 llama.cpp 不落下风
2026.07.20 · 周一工具
开发者推出 DGX Spark 专用推理运行时 Eider
2026.07.07 · 周二工具
mistral.rs v0.9.0 发布：CPU 解码速度较 llama.cpp 最高提升 1.8 倍
2026.06.30 · 周二工具
Fastllm 推理库更新：单卡 10GB 显存可跑 DeepSeek 满血模型
2026.06.28 · 周日开源