万亿模型跑在8GB内存上？GitHub本周太疯

本周 GitHub 最火的趋势是——用最底层的技术跑最大的模型，用最Agent化的思路重构最传统的软件。

qm 🔥热门

⭐ 9,698 stars

qm 是一个面向工作的多智能体协同框架，定位是 "Multiplayer agent harness for work"。简单说，多个 AI Agent 可以在同一个工作流里并行协作，而不是你一句我一句地串行对话。

适合谁：正在搭建 Agent pipeline 的团队，尤其是需要多个角色（调研、编码、审查）协同完成一个任务的场景。如果你之前用 CrewAI 或 AutoGen 做多 Agent 编排，qm 提供的是一个更偏向 "工作场景" 的 harness 层，而不是通用框架。

快速上手：仓库 TypeScript 栈，clone 后按 README 跑起来即可。本周近万 star 说明社区对 "多 Agent 工作流" 的需求远未被现有框架满足。

decimen-optical-transfer

⭐ 4,254 stars

decimen-optical-transfer 是本周最神秘的项目——4254 stars 但没有描述、没有 README 信息。从仓库名推测与光学传输或数据搬运有关，但所有判断都缺乏事实支撑。

编辑判断：这种 "高 star 零描述" 的项目通常是某个技术社区的定向推送，或者仓库内容在创建后不久才补全。建议先 star 观望，等 README 更新后再决定是否投入时间。

trycompai/crm

⭐ 3,267 stars

crm 是一个开源的、Agent 优先的 CRM 系统。与传统 CRM（如 SuiteCRM、Monica）不同的是，它从架构层面把 Agent 作为一等公民——不是给 CRM 加个 AI 插件，而是围绕 Agent 能力重新设计客户管理流程。

适合谁：初创团队或小规模销售团队，想要一个可以自定义 Agent 工作流的开源 CRM，而不是付费给 Salesforce Einstein。如果你正在用 HubSpot 但觉得 AI 功能太重且不可定制，这个项目值得试。

快速上手：TypeScript 栈，标准 Node 项目结构。clone 后安装依赖即可启动。

FDE-the-Guidance-Book-of-Forward-Deployed-Engineer

⭐ 2,070 stars

FDE 指南 是一份前沿部署工程师（FDE）的入门指南，基于范冰《增长黑客》原书框架编写。这不是代码项目，而是一份系统性的职业成长路径文档。

适合谁：想从纯工程转向 "工程+商业+增长" 复合角色的开发者，尤其是 AI 公司里需要直面客户、快速迭代的 FDE 岗位。如果你在考虑从后端工程师转型到 AI 产品工程师，这份指南的框架比零散博客系统得多。

快速上手：直接阅读仓库文档，按章节推进即可。

sqliteai/waste

⭐ 1,539 stars

waste 是本周最硬核的推理引擎之一：用纯 C 实现，零依赖，可嵌入，通过 NVMe 直接流式加载激活权重，在超出可用 RAM 的情况下运行完整的 2.78 万亿参数 Kimi K3 模型。

核心思路是：模型参数不放内存，而是按需从 NVMe 流式读取激活权重。这打破了 "大模型必须塞进显存" 的常规假设。适合谁：边缘设备推理研究者、想在消费级硬件上跑万亿参数模型的极客。

快速上手：C 项目，零依赖。clone 后直接 make 编译。注意你需要一块速度够快的 NVMe SSD。

FareedKhan-dev/kimi-k3-in-c

⭐ 1,247 stars

kimi-k3-in-c 与上面的 waste 形成直接对比：同样是 2.78 万亿参数 Kimi K3，但目标是在单 CPU + 8.24 GB RAM 上跑推理。纯 C99 实现，无 BLAS、无框架、无 GPU。

与 waste 的 NVMe 流式方案不同，这个项目走的是极致压缩 + 纯 CPU 计算路线。两个项目放在一起看，你能清楚地看到万亿参数模型 "降配运行" 的两条技术路径：外部高速存储流式加载 vs 极致内存压缩。如果你只有一台普通笔记本想跑万亿模型，kimi-k3-in-c 是门槛最低的起点。

microsoft/skill-recorder

⭐ 1,409 stars

skill-recorder 是微软出品的一个桌面应用：录制你的屏幕操作过程，通过 GitHub Copilot CLI 将操作逆向为 "意图 + 有序步骤"，然后生成可复用的 Skill 或 Automation，可导入 Microsoft Scout、Copilot Cowork 或 Copilot Studio。

这个项目的本质是 "看一遍就会" 的 AI 技能学习器。与传统的 RPA（UIPath、Power Automate）相比，skill-recorder 不是录制固定脚本，而是理解操作意图后生成可泛化的技能。适合谁：经常重复操作的办公人员、需要为团队创建自动化流程的 IT 管理员。

快速上手：TypeScript 桌面应用，按 README 安装后启动录制即可。

gavamedia/deltafin

⭐ 658 stars

deltafin 用 Rust 实现了在单设备上运行完整 Kimi K3，并附带 OpenAI 兼容的 API 服务器，可用于本地聊天和编码 Agent。

与 waste（C/NVMe 流式）和 kimi-k3-in-c（C/纯 CPU）不同，deltafin 走的是 Rust + OpenAI 兼容 API 路线。如果你不只是想 "跑起来"，而是要把 Kimi K3 作为后端服务接入你的应用，deltafin 的 API server 设计直接可用。

快速上手：Rust 项目，cargo build 后启动 API server，用标准 OpenAI SDK 调用即可。

genspark-ai/genoffice

⭐ 656 stars

genoffice 是一个 AI 原生办公套件，支持 macOS 和 Windows，包含文字处理、电子表格、演示文稿和 PDF 功能。

与 OnlyOffice 或 LibreOffice 不同，genoffice 从设计之初就是 AI-native 的，而不是在传统套件上叠加 AI 功能。适合谁：想要一个本地 AI 办公套件、对数据隐私有要求的个人或团队。

快速上手：TypeScript 跨平台桌面应用，按 README 下载对应平台安装包。

本周三个最明显的趋势：第一，万亿参数模型的 "消费级硬件推理" 正在从理论走向工程实现，C、Rust 各显神通；第二，Agent 优先架构开始渗透到 CRM、办公套件等传统软件领域；第三，微软 skill-recorder 代表了一个新方向——把人类操作自动转化为 AI 可执行技能，模糊了 RPA 和 Agent 的边界。

来源与延伸阅读

• yc-software/qm
• sqliteai/waste
• FareedKhan-dev/kimi-k3-in-c
• microsoft/skill-recorder
• trycompai/crm
• gavamedia/deltafin
• genspark-ai/genoffice
• xdash/FDE-the-Guidance-Book-of-Forward-Deployed-Engineer

接下来值得继续跟踪

• waste 和 kimi-k3-in-c 的实际推理速度和生成质量尚未有独立验证，下次关注是否有第三方 benchmark。
• skill-recorder 目前绑定微软生态（Copilot Studio/Scout），观察是否会开放对其他 Agent 框架的支持。
• trycompai/crm 的 Agent 工作流具体实现方式（是否基于现有 Agent 框架）需进一步查看源码确认。
• decimen-optical-transfer 的 README 内容是否更新，以确认项目实际用途。