2026.07.30 · 周四开源
←返回首页话题 · Topic
#本地部署
共 31 条相关资讯
2026.07.29 · 周三开源
Unsloth 开始发布 Kimi K3 的 GGUF 量化文件
2026.07.28 · 周二开源
开发者开源极简本地 AI 智能体框架 Agent Mini
2026.07.28 · 周二行业动态
在消费级硬件上跑大模型：分布式推理的三条路径
2026.07.28 · 周二工具
社区推出 RTX 5090 专用推理引擎，单实例可达 720 token/s
2026.07.26 · 周日工具
开发者开源桌面端 TTS 工具：支持多模型切换与音色克隆
2026.07.26 · 周日工具
llama.cpp 全面支持 MCP，本地模型可实现代理式对话
2026.07.26 · 周日工具
开发者展示浏览器端 LFM 2.5 230M 推理达 1440 tok/s
2026.07.23 · 周四工具
开发者推出 USB 便携式 AI 代理：13 个工具、5 个 GGUF 模型，离线可用
2026.07.23 · 周四工具
MindControl：基于 llama.cpp 分支的推理过程注入引导工具
2026.07.22 · 周三工具
Ami：本地运行的个人 AI 代理正式开源
2026.07.22 · 周三行业动态
Laguna-S-2.1 本地实测：速度领先，但事实幻觉严重
2026.07.21 · 周二研究论文
arXiv 研究：九款 3B 以下开源模型系统评测，小模型经微调可胜任本地化结构化任务
2026.07.20 · 周一工具
Reddit 用户讨论：本地守门 + 云端推理的隐私架构是否已有先例
2026.07.20 · 周一工具
Chalie：开源本地 AI 智能体，在你离场时继续思考
2026.07.10 · 周五行业动态
本地大模型工具 Ollama 完成融资，活跃开发者超 900 万
2026.07.08 · 周三开源
Unsloth 上传 DeepSeek-V4-Flash 多尺寸 GGUF 量化版本
2026.07.08 · 周三工具
Qwen3.6-27B KV 缓存量化实测：Q6 不量化 KV 接近 Q8 水平
2026.07.07 · 周二行业动态
本地部署 LLM 时 prefill 速度常被忽视？社区讨论其 ROI 价值
2026.07.06 · 周一开源
开发者开源 Athena：纯本地四进程 C++ 语音助手
2026.07.03 · 周五工具
开源本地 AI 助手 Zynkbot 进入 v0.9 公测，主打透明记忆与本地优先
2026.07.02 · 周四工具
Kimi K2.7 Code 混合推理基准：Mac 加 RTX PRO 6000 的 RPC 实测
2026.07.02 · 周四工具
开源本地 AI 代理平台 Plurality 正式发布
2026.07.01 · 周三开源
社区上线 DeepSeek V4 Flash 多比特 GGUF 量化版
2026.06.30 · 周二产品功能
Hugging Face 新增按硬件兼容性筛选模型功能
2026.06.30 · 周二工具
Zeus：一款可本地运行的 AI Agent 编排器开源发布
2026.06.30 · 周二工具
Fleet 上线：本地优先的 Docker 化 Hermes AI Agent 管理控制台
2026.06.29 · 周一研究论文
社区测试：去拒绝训练后 MoE 模型数学与代码反超原版
2026.06.29 · 周一行业动态
社区实测：低量化大模型能否击败高量化小模型？
2026.06.28 · 周日开源
4×3090 实测 Step-3.7-Flash：全驻留量化反超更高级别，MTP 与视觉互斥
2026.06.28 · 周日开源