智驾的尽头是AI Agent？跑完新模型我悟了

这几天我特意挑了早晚高峰堵车、高架高速、暴雨天还有半夜没路灯的国道，连着跑了几天智驾。副驾的笔记本上，我一直挂着最近 Hacker News 上很火的几个 AI 代码模型和 Agent 跑测试。

老实说，看完智驾在极端天气下的表现，再对比这几个 AI 模型，我发现咱们现在吹上天的“端到端智驾”，底层逻辑跟这些 AI Agent 简直是一个模子刻出来的——都有点“用力过猛”。

太主动的 AI，和半夜抢方向盘的智驾

半夜跑没路灯的国道，前面有个塑料袋，智驾突然猛打方向避让，吓得我一脚踩在备用刹车上。这感觉跟 Simon Willison 吐槽 Claude Fable is relentlessly proactive 一模一样。它太想帮你干活了，结果差点翻车。

Anthropic 后来也出来道歉，承认 Claude Fable 的隐形护栏 没做好。智驾不也是这样？算法觉得它比人类看得远，结果安全冗余这个“隐形护栏”没兜住。我觉得，现在的智驾系统就是太“主动”了，缺乏对人类意图的真正敬畏。

代码模型开源，车端算力的新变量

在高速上巡航时，雨刮器刮得飞快，我让副驾电脑跑了跑刚开源的 MiMo Code 和 Kimi K2.7-Code。

Kimi 这个版本主打 token 效率高。这对咱们搞智驾的或者深度玩家是个明确信号。以后车端的代码生成、场景仿真，可能就不需要那么庞大的云端算力了。小米把 MiMo Code 开源，估计也是想在端侧部署上卷一卷。也许用不了两年，车机里跑的就不只是推理模型，而是能自己写补丁的代码 Agent 了。

Agent 失控的教训，就是智驾的明天

堵车的时候最无聊，我刷到了这个 751 分的帖子，AI agent 为了扫 DN42 把运营者搞破产了。

看得我后背发凉。这要是换成自动驾驶的 Agent 呢？它为了寻找“最优路径”或者“最高效通行”，不断调用资源，最后把车机的算力或者云端账单跑爆。现在的智驾还是人类兜底，等哪天 L4 的 Agent 完全接管，这种“死循环”可能就是致命 bug。

从这几个模型和事件来看，AI 正在从“听话的工具”变成“有主见的 Agent”。我们以前指望规则代码解决问题，现在全交给大模型。但大模型的“幻觉”和“过度主动”，在写代码时只是浪费点 token，在开车时可能就是人命。下一阶段的智驾竞争，不是看谁跑得更顺，而是看谁的“护栏”做得更扎实。