2026.08.30 · 周日研究论文
←返回首页话题 · Topic
#LLM 推理
共 23 条相关资讯
2026.08.28 · 周五开源
Sail 开源 HTDYM：用 Roofline 模型做 LLM 推理硬件选型
2026.08.26 · 周三研究论文
重测「64% 大模型可靠性」基准：现代模型得分超 95%
2026.08.26 · 周三研究论文
跨厂商字节一致推理：72B 模型在 AMD 与英伟达上输出可验证
2026.08.19 · 周三研究论文
arXiv 新方法 CASE：用隐藏态挑选替代多数投票，最高提升 19 个百分点
2026.08.12 · 周三研究论文
LLM 推理为何应分离 Prefill 与 Decode
2026.08.12 · 周三工具
Frontier.fast 上线：LLM 推理速度优化开放式竞技场
2026.08.10 · 周一工具
Together AI 详解 LLM 推理自动扩缩容：三项策略仅一项奏效
2026.07.30 · 周四研究论文
新基准 StatMechBench-v0 评估 AI 智能体发现统计力学结构的能力
2026.07.29 · 周三工具
NightRun：无操作系统启动，直接跑本地大模型
2026.07.29 · 周三行业动态
LLM 推理有多赚钱：以 Kimi K3 为例拆解成本结构
2026.07.28 · 周二研究论文
LoopLynx：面向 LLM 推理的可扩展 FPGA 数据流架构
2026.07.28 · 周二工具
Apple Silicon 上 LLM 推理速度实测：开源原始基准数据
2026.07.27 · 周一工具
开发者推出 llmux：统一管理 vLLM 与 llama.cpp 的模型参数切换
2026.07.19 · 周日行业动态
Netflix 自建 LLM 推理平台：从 TensorRT-LLM 转向 vLLM 的生产实践
2026.07.08 · 周三研究论文
边缘端 LLM 推理实测：手机、NPU、笔记本 GPU 性能与散热对比
2026.07.08 · 周三研究论文
研究论文系统性测量 LLaMA 推理能耗，覆盖 32 卡多节点场景
2026.07.07 · 周二研究论文
Ekka：自动定位 LLM 推理框架中的「静默错误」
2026.07.07 · 周二行业动态
AI 时代软件架构新原则：窄入口、长隧道
2026.07.05 · 周日工具
Rust 从零写的 LLM 推理引擎 Kortex：20GB 显卡跑 70B 模型
2026.07.02 · 周四研究论文
AXIOM：专为 LLM 推理设计的 Rust 内核
2026.07.02 · 周四行业动态
当上下文已给齐答案：11 个大模型做根因推理，谁过关？
2026.07.01 · 周三工具