试驾半月谈：智驾的隐形护栏与算力黑洞
从高速夜路到雨天堵车，聊聊最近试驾智驾车遇到的那些反直觉体验。
最近深度体验了几款带最新大模型的智驾车，跑了高速、堵车和雨天夜路。发现AI太主动和后台隐形护栏让人心惊，而底层代码模型的开源正在悄悄改变车机的脑回路。
夜路高速上的神经质与隐形护栏
上周跑了一趟跨省长途，特意选了夜路高速来测测新车的智驾。老实说，体验挺割裂的。
在路况好的时候，它变道极其果断，甚至有点过于主动。这让我想起最近 Hacker News 上很火的那篇关于 Claude Fable is relentlessly proactive 的讨论。AI 一旦过度主动，在车上可不是闹着玩的，稍微判断失误就是大事故。
更让我心里没底的是，有段路它突然自己限制了最高车速，而且屏幕没给任何明确提示。这感觉太像 Anthropic apologizes for invisible Claude Fable guardrails 里说的那种隐形护栏了。车企是不是也在后台偷偷加了这种黑盒限制？系统为了安全强行接管，但剥夺了用户的知情权。我觉得这种不透明的做法，比偶尔的幽灵刹车更让人害怕。
雨天堵车：算力黑洞与没人喝彩的安全
回程碰上大雨，堵车走走停停。这种场景对感知和规划是地狱级考验。
我注意到车机在疯狂重算，屏幕上的渲染模型闪得飞快。这不禁让我想到那个搞笑又心酸的热帖：AI agent bankrupted their operator while trying to scan DN42。虽然车端算力是固定的，但如果端到端模型在复杂场景下没有做好算力裁剪，或者云端训练时 AI 跑飞了，这成本谁顶得住？
不过，在雨天跟车时，前车突然急刹，AEB 死死刹住了。下车后我一身冷汗，但副驾的朋友却说：还好刹住了，不然就撞了。
你看，这就是 Nobody ever gets credit for fixing problems that never happened 的现实版。系统成功避免了事故，但在用户眼里，这只是没撞上而已。预防了问题，却没人觉得这技术有多牛。做安全冗余的工程师，可能心里挺憋屈的。
车机 OTA 背后的开源大脑
最后说个趋势。最近这车 OTA 了一次，变道逻辑明显变柔和了，感觉像换了个脑子。
我查了下最近的开源动态，发现 MiMo Code is now released and open-source 和 Kimi K2.7-Code 这些代码和大模型都在发力。虽然我不确定车企具体用了哪家，但底层代码模型开源，绝对会加速智驾算法的迭代。以前车企自己憋大招，现在大家可能都在用开源模型做基座，然后微调自己的驾驶数据。
这种趋势下，智驾的性格可能会越来越像人，但也意味着，各家车的差异也许会越来越小。
相关文章
Agent基础设施与评估体系全面补位
本周信号清晰：AISPA暴露系统提示词黑箱风险，OSReward试图统一计算机使用Agent的跨平台评估标准，Change2Task解决了编码智能体训练数据自动化生成的瓶颈。配合MIT Sloan对AI金融建议的提问质量研究和VAD多模态蒸馏技术，整个行业正从能力展示转向基础设施补位阶段。
2026-08-01当 AI 学会自主操作，安全与信任谁来兜底？
本周动态指向一个清晰趋势：AI 系统正从被动应答转向主动操作。无论是审查提示词的 AISPA、评估电脑操作代理的 OSReward，还是反思 LLM 路由和推理正确性的实践，都表明行业正从'能不能用'转向'怎么安全可控地用'。Tailscale 披露的 Hugging Face 入侵事件则为 AI 供应链安全敲响了警钟。