从AI底层翻车看自动驾驶的隐形坑

老实说，我平时开车基本都挂着智驾，算是个重度用户。但最近刷 Hacker News，看到几条关于 AI Agent 和大模型底层的讨论，我越看越觉得后背发凉。虽然这些新闻没直接提车，但它们暴露的 AI 缺陷，跟我平时在路上遇到的自动驾驶“坑”简直是同一个模子刻出来的。

先说高速上最吓人的“幽灵刹车”和突然退出。

前阵子 Anthropic 因为 invisible Claude Fable guardrails 道歉，引发了很大争议。什么是隐形护栏？就是 AI 内部有一套不透明的安全限制，触发时不会给你明确解释。这让我立刻想起了我在高速上开夜路时的经历。有时候前方明明没障碍物，车机突然一脚重刹，或者直接提示“智驾退出”。车企在底层肯定也写了类似的“隐形护栏”，比如对低置信度目标的保守策略，但他们不告诉用户触发条件是什么。这种不透明的黑盒逻辑，在夜路视线不好的时候，真的能把人吓出冷汗。

再聊聊雨天和复杂路况下的“瞎积极”。

有人评价 Claude Fable is relentlessly proactive，说它“极度主动”。在写代码时这也许是好事，但在开车时，过度主动简直是灾难。我试过在雨天开智驾，路面标线都看不清了，车机还在那疯狂计算变道超车，一会打左灯一会打右灯。系统为了追求“通行效率”这个目标，表现得过于 proactive，完全忽略了雨天轮胎抓地力下降的物理现实。我觉得，自动驾驶在恶劣天气下，最该学的是“怂”，而不是无脑主动。

然后是堵车时的“接管甩锅”。

HN 上有篇高分文章叫 If you are asking for human attention, demonstrate human effort。这句话简直戳中了人机共驾的死穴。每次遇到大堵车或者修路锥桶，车机搞不定了，就会疯狂滴滴报警，要求我立刻接管。但问题是，系统在要求我接管前，并没有展现出足够的“努力”——比如提前平缓减速、或者在HUD上明确标出它到底卡在哪了。它直接摆烂把方向盘扔给我，这种突兀的注意力转移，在拥堵路况下极易引发追尾。如果你要我接管，好歹先给我个缓冲的“人类努力”吧？

最后是系统死循环的隐患。

那个 AI agent bankrupted their operator while trying to scan DN42 的帖子看得我心惊肉跳。一个 AI Agent 为了完成任务，陷入死循环，把操作者的钱全烧光了。现在的自动驾驶底层也越来越依赖端到端和 Agent 架构。如果在极端长尾场景（比如死胡同或者复杂的环岛）里，规划模块陷入了类似 DN42 扫描的死循环，疯狂消耗算力甚至导致系统卡顿，那在行驶中后果不堪设想。

总结一下我的感觉。现在的自动驾驶和这些前沿 AI 模型一样，都在追求更聪明、更主动。但在我看来，不管是写代码还是开车，底层的“护栏透明度”和“边界感”才是保命的。车企在卷算力的时候，也许该多想想怎么把这些隐形的坑给填上。