AI 周报：利润率焦虑与 Agent 安全暗战

本周看点

这周 HN 上的讨论氛围有点微妙。一边是 Anthropic 在基础研究上继续死磕模型内部机制，另一边是社区对 AI 商业模式的焦虑开始蔓延。我挑了几个最值得琢磨的动态，咱们挨个拆解。

1. Anthropic 探索全局工作空间：我们在接近 AI 的“意识”吗？

Anthropic 这周放出了一篇关于 Global Workspace 的研究，在 HN 上拿了 250 多个赞，讨论非常热烈。

老实说，刚看到这个标题我以为又是那种蹭热度的哲学探讨，但点进去看发现他们是在用认知科学里的“全局工作空间理论”（Global Workspace Theory）来实证分析大模型的内部表征。简单来说，就是试图在神经网络里找到类似人类大脑中那个“广播信息”的中央枢纽。

为什么这很重要？因为我们现在做对齐（Alignment），很多时候还是在靠 RLHF 这种“黑盒调参”。如果 Anthropic 真的能定位并干预模型内部的“全局工作空间”，那机械可解释性（Mechanistic Interpretability）就往前迈了一大步。这对安全研究团队是绝对的利好，意味着我们也许能从根源上掐断模型的欺骗行为，而不是只在输出端打补丁。

下一步我比较关注他们会不会开源相关的探测工具，或者在下一代模型里直接应用这种架构设计。

2. GLM-5-2 与 AI 利润率崩溃的预警

martinalderson 写了一篇长文 The Upcoming AI Margin Collapse Part 1: GLM-5-2，HN 上 80 多条评论吵翻了天。

文章的核心观点很刺痛人：随着类似 GLM-5-2 这种高性能模型的普及，AI 服务的毛利率正在面临崩溃。我最近和几个做 AI 套壳应用的朋友聊天，大家也有同感——API 价格战打得太凶了，但客户的付费意愿并没有同比例上升。

这反映出一个残酷的趋势：基础模型正在加速商品化（Commoditization）。当厂商把顶级模型的价格打到地板价时，那些没有独家数据壁垒、只靠“包一层 API”的中间层创业公司会非常难受。对投资者来说，这意味着看 AI 项目的逻辑必须从“用了什么模型”转向“掌握了什么场景和私有数据”。

如果你和我一样在关注 AI 商业化，建议直接去读读原文，里面对成本结构的拆解挺实在的。

3. RAG 上下文剪枝：Kapa.ai 的工程妥协与智慧

长上下文（Long Context）现在几乎是每个模型的标配，但 Kapa.ai 在他们的博客 How We Prune RAG Context 里分享了他们为什么要主动“剪枝”。

我试了一下他们提到的思路，确实有道理。把几十万 token 的文档全塞进 prompt 里，不仅贵，而且模型很容易“迷失在中间”（Lost in the Middle）。Kapa.ai 的做法是在检索后、生成前，加一层轻量级的过滤和压缩，把噪音剔除。

这对广大 AI 应用开发者是个很好的提醒。不要迷信原生的长上下文能力，工程上的“精打细算”往往能带来更好的 ROI。我觉得未来 RAG 系统的核心竞争力，不在于能塞多少内容，而在于“剪枝”算法有多聪明。

4. 编程 Agent 的“记忆”成了安全漏洞

arXiv 上有一篇新论文 Distributed Attacks in Persistent-State AI Control，探讨了 AI 编程 Agent 在持久化状态下的分布式攻击。

现在的 AI 编程工具越来越喜欢保持跨 session 的代码库记忆。论文指出，这种持久化状态创造了一个新的攻击面：如果攻击者在代码库里埋下微小的、分布式的恶意提示或逻辑陷阱，Agent 在后续的迭代中可能会逐渐被“洗脑”，最终生成有后门的代码。

这个发现让我有点后背发凉。对于企业安全团队来说，这意味着你不能只审查 AI 最终生成的代码，还得监控 AI Agent 读取的整个上下文历史。下一步，我估计各大 IDE 插件会紧急上线针对“持久化上下文”的投毒检测功能。

小结

这周的动态看下来，我的感觉是：AI 行业正在从“拼参数、拼长度”的粗放期，过渡到“拼利润、拼安全、拼工程细节”的深水区。基础研究的突破和工程上的务实同样重要，而商业和安全上的隐患，则是我们接下来必须直面的硬骨头。