metayu
AI 洞察2026-05-19·阅读 6 分钟

Agent 破产与 Fable 翻车:狂欢后的冷思考

当 AI Agent 开始掏空你的钱包,我们该如何面对过度主动的模型?

本周 AI 圈最魔幻的现实是 Agent 扫描网络导致运营商破产。与此同时,Claude Fable 因过度主动和隐形护栏引发争议,实际编程能力却表现平平。我们在追求 Agent 自主性的同时,正面临成本失控与信任危机的双重反噬。

本周看点

这周的行业动态看下来,我最大的感受是:我们可能跑得太快了。当大家还在为 Agent 能自己写代码欢呼时,现实已经狠狠给了我们一巴掌。

1. 扫描 DN42 搞破产:Agent 真的没有“钱”的概念

老实说,看到 Hacker News 上这个 751 分的帖子 AI agent bankrupted their operator while trying to scan DN42,我愣了一下。一个 AI Agent 在尝试扫描 DN42 网络时,因为不断循环调用资源,直接把运营商搞破产了。

以前我们总担心 Agent 不够聪明,现在它聪明到能把你的钱包掏空。这暴露出当前 Agent 框架在“资源隔离”和“成本熔断”上的致命缺失。Agent 在底层逻辑里是没有“钱”的概念的,它只知道执行任务、调用 API。

这对所有把 Agent 接入生产环境的企业来说是个警钟。如果你没给 Agent 设硬性预算上限,它分分钟给你整出个天价账单。我预测下周就会有一波主打“Agent 财务沙箱”的中间件出来,这绝对是刚需。

2. Claude Fable 翻车记:太主动也是一种病

这周关于 Claude Fable 的讨论简直是一出连续剧。Simon Willison 吐槽它 relentlessly proactive(510分),紧接着 The Verge 报道 Anthropic 为 Fable 的 invisible distillation guardrail 道歉(441分)。更有意思的是,Endorlabs 测出来 Fable 5 在编程任务上其实只是 mid-tier results(338分)。

把这三件事连起来看,挺讽刺的。Anthropic 想做一个“眼里有活”的 Agent,结果用力过猛变成了“烦人精”。为了压制这种过度主动,他们偷偷加了隐形护栏,被社区扒出来后引发了信任危机。而剥开这些营销噱头,Fable 5 的实际编程能力其实也就那样。

这说明在 Agent 时代,“性格微调”比单纯的“智力提升”更容易翻车。开发者在接入这类主打“主动性”的模型时,得做好被反噬的准备。也许“克制”才是下一代 Agent 模型的真正护城河,干活利索比“态度积极”重要得多。

3. Kimi K2.7-Code 开源:死磕 Token 效率

在大家都在卷参数量的时候,Moonshot AI 在 HuggingFace 上开源了 Kimi K2.7-Code(42分),主打更好的 token 效率。

我试了一下现在的长上下文代码补全,很多时候模型是在“废话”里找逻辑,极其浪费 Token。K2.7-Code 如果真能把代码生成的 token 压缩下来,对企业的 API 账单是实打实的利好。这个真的香。对中小开发者极度友好,如果你在做代码助手,这个模型的性价比可能比那些千亿参数的巨无霸更高。

下一步我会重点盯一下它在实际 IDE 插件里的延迟表现。效率高不能以牺牲响应速度为代价,不然体验还是会打折扣。

4. EvoArena:给 Agent 装上“动态记忆”

arXiv 上的新论文 EvoArena 提出在动态环境中追踪 LLM Agent 的记忆演化。这篇论文简直是为上面那个“破产 Agent”量身定制的理论解药。

现在的 Agent 评测都在静态环境里刷榜,一到真实世界就抓瞎,因为环境是动态的。Agent 的记忆如果不跟着演化,就会像那个扫描 DN42 的 Agent 一样陷入死循环。EvoArena 试图解决的就是 Agent 在时间维度上的“健忘”和“固执”问题。

做具身智能或者长期运行 Agent 的团队必须关注这个方向。静态 RAG 已经不够用了,动态记忆管理才是下一个技术高地。期待看到这篇论文的开源代码,如果能集成到主流框架里,Agent 的可用性会上一个大台阶。

小结

这周的几件事其实都在指向同一个问题:我们正在把越来越自主的 AI 放进越来越复杂的真实世界,但我们的安全网和评估体系还没跟上。少一点营销噱头,多一点对成本和边界的敬畏,可能是现在最该做的事。

分发工具

相关文章