千亿模型塞进笔记本？本周 GitHub 炸场

你有没有遇到过这种情况：看到一个 2.78 万亿参数的开源模型，想跑却发现显存连零头都不够？本周 GitHub 给出了一个硬核答案——而且不止一个。

本周 GitHub 最火的趋势是开源大模型推理基建与 AI Agent 工作流的全面爆发。7 天内新建仓库累计收获超 30,000 stars，三个方向尤其突出：Kimi K3 开源引发的端侧推理工具链热潮、实时语音 Agent 运行时密集涌现、以及企业级 AI 应用从概念验证走向实际业务。

Kimi-K3 🔥热门

⭐ 7,903 stars

MoonshotAI 本周开源了 Kimi-K3，定位为 Open Frontier Intelligence，是本周 stars 最高的新建仓库。它直接引爆了一个生态：至少三个独立项目围绕"如何在有限硬件上跑 K3"给出了工程方案。一个开源模型能在一周内催生出多条推理路径，说明它触到了开发者的真实痛点——万亿参数模型的本地化部署。适合关注前沿模型能力和端侧部署的 AI 工程师快速调研。

waste

⭐ 1,062 stars

waste 是本周最硬核的工程方案之一：用纯 C 写的推理引擎，零依赖，通过从 NVMe 直接流式加载激活权重，让 2.78 万亿参数的 Kimi K3 在超出可用 RAM 的设备上运行。与传统的量化压缩路线不同，它走的是存储带宽换内存容量的路子。适合系统级工程师和边缘计算场景评估，快速上手需要 C 编译环境和 NVMe SSD。

deltafin

⭐ 621 stars

deltafin 用 Rust 实现了在单设备上运行完整 Kimi K3，并提供 OpenAI 兼容的 API 服务器，可直接对接本地聊天和编程 Agent。与 waste 的 C 语言极致路线相比，deltafin 更工程友好——Rust 的安全性和 OpenAI API 兼容性大幅降低了接入门槛。适合想在本地跑 K3 并对接现有 Agent 工作流的开发者。

qm 🔥热门

⭐ 7,255 stars

qm 定位为 Multiplayer agent harness for work，用 TypeScript 构建。它解决的核心问题是：多个 AI Agent 如何在同一个工作环境中协作而非互相干扰。本周 stars 高达 7,255，说明多 Agent 协作编排已成为刚需。适合需要构建复杂 Agent 工作流的技术团队评估其编排能力。

qwen-audio-agent

⭐ 1,734 stars

qwen-audio-agent 是一个实时语音运行时，让 AI Agent 能持续对话、工作和响应。与 xikhar/persona（⭐ 793 stars）类似，都聚焦实时语音。但 qwen-audio-agent 更强调 Agent 的持续在线和工作执行，而非单纯对话。两者同周出现，说明实时语音 Agent 基建正从实验走向产品化。适合需要语音交互的 Agent 开发者选型对比。

crm

⭐ 1,827 stars

crm 是一个开源的 agentic-first CRM 系统。与传统 CRM 项目相比，它在架构层面就把 Agent 作为第一公民设计，而不是事后挂载 AI 插件。这反映了企业软件的范式转移：从人操作软件、AI 辅助，变成 Agent 操作软件、人监督。适合中小团队评估开源 AI CRM 方案。

skill-recorder

⭐ 812 stars

skill-recorder 是微软出品的一个桌面应用，能录制你的屏幕操作，利用 GitHub Copilot CLI 将其重构为"意图 + 有序步骤"，再生成可复用的 Skill 或 Automation，导出到 Microsoft Scout、Copilot Cowork 或 Copilot Studio。它解决的是自动化冷启动问题——不再需要手写 DSL，录一遍就能生成。适合正在探索企业自动化的团队评估可行性。

FDE-the-Guidance-Book-of-Forward-Deployed-Engineer

⭐ 1,564 stars

FDE 指南 基于范冰《增长黑客》原书框架，为前沿部署工程师（FDE）提供从零入门指南。它之所以火，是因为 FDE 正在成为 AI 公司的关键岗位——既要懂技术，又要懂客户场景和商业增长。适合想转型 FDE 的工程师和正在组建 FDE 团队的管理者阅读。

趋势判断：本周项目反映出三条主线：模型端的端侧推理突围（waste、deltafin）、交互端的实时语音基建成熟（qwen-audio-agent、persona）、应用端的 Agent-native 企业软件兴起（qm、crm、skill-recorder）。开发者关注重心已从模型能力本身，转向"怎么把大模型塞进真实硬件"和"怎么让 Agent 真正干活"。

来源与延伸阅读

• MoonshotAI/Kimi-K3
• sqliteai/waste
• gavamedia/deltafin
• yc-software/qm
• trycompai/crm
• microsoft/skill-recorder
• xdash/FDE-the-Guidance-Book-of-Forward-Deployed-Engineer

接下来值得继续跟踪

• Kimi K3 的实际推理性能数据：waste 和 deltafin 均未提供 benchmark，端侧跑万亿模型的延迟和吞吐量仍待验证。
• qwen-audio-agent 的实时延迟指标：语音 Agent 的核心体验在于响应延迟，目前仓库未公开具体数据。
• skill-recorder 是否会支持非微软生态导出：当前仅支持 Microsoft Scout / Copilot 体系，跨平台能力尚未明确。