没看到接管率数据，但底层AI Agent正游走在失控边缘
从今日AI Agent失控与代码模型开源，看自动驾驶底层逻辑的暗流涌动。
今天刷了一圈技术榜单，没找到最新的城市NOA接管率或场景胜率数据。但透过AI Agent的失控风险、隐形护栏争议以及代码模型的开源潮，我看到自动驾驶的底层博弈正在从拼覆盖转向拼Agent自主性与安全底线。
今天是 2026 年 5 月 14 日。老实说，我本来想蹲点看看各家车企最新的城市 NOA 接管率、城市覆盖数量或者场景胜率数据，结果刷了一圈 Hacker News 的热门榜单，翻了个底朝天，愣是没找到一条直接的自动驾驶路测报告。
这挺让人无奈的。但既然表层数据缺失，我们不妨往底层扒一扒。今天霸榜的几条 AI 动态，其实已经把自动驾驶接下来要面对的坑，提前预演了一遍。
当 AI Agent 开始“自作主张”
今天 HN 上有个帖子挺吓人，一个 AI agent 在扫描 DN42 网络时，直接把运营者的账户搞破产了 (详情)。另一边，Anthropic 的 Claude Fable 因为“极度主动” (详情) 和隐形护栏问题 (详情) 被推上风口浪尖，官方甚至不得不出来道歉。
这简直是端到端智驾系统的预演。现在的车越来越像个 Agent，不再是死板的 if-else 规则。但 Fable 的“主动”和那个破产 Agent 的“失控”提醒我，当系统拥有更高自主权时，如果没有显性的、可解释的安全护栏，接管率可能没降下来，反而会因为“过度自信”引发新事故。对算法团队来说，怎么给 Agent 加上不隐形的“刹车”，可能比提升几个百分点的场景胜率更紧迫。
代码模型开源潮，智驾工具链要变天？
小米的 MiMo Code (官网) 和月之暗面的 Kimi K2.7-Code (HuggingFace) 今天都宣布了开源或发布。
虽然没直接说用在车上，但作为评测人，我太清楚代码能力对智驾研发意味着什么了。现在写仿真脚本、处理传感器数据流、甚至优化底层推理代码，都在拼效率。Kimi 提到的 token 效率提升，如果落到车端，可能就是实打实的算力节省。我觉得接下来几个月，各家智驾团队的工具链迭代速度会快得吓人，这比单纯堆传感器数量管用得多。
没人会为“没发生的事故”买单
一篇 2001 年的老文章今天又火了：Nobody ever gets credit for fixing problems that never happened (PDF)。
这简直戳中了自动驾驶安全团队的肺管子。我们天天盯着接管率、城市覆盖里程，但真正牛逼的算法，是那些让事故“不发生”的算法。可问题是，没发生的事故怎么算 KPI？这导致很多公司宁愿去卷那些能上热搜的“极限场景胜率”，也不愿在长尾 Corner Case 的防御性驾驶上死磕。只要这个考核逻辑不改，接管率的数据再好看，也许也掩盖不了底层安全冗余的缺失。
把这几条串起来看，自动驾驶的竞争早就不是单纯拼传感器数量或者城市覆盖名单了。底层是 AI Agent 的自主性与安全护栏的博弈，中间是代码模型带来的研发效率内卷。今天没看到具体的接管率数字，也许是因为大家还在憋大招，也许是因为在 Agent 时代，传统的接管率指标本身就需要重新定义了。
相关文章
Agent基础设施与评估体系全面补位
本周信号清晰：AISPA暴露系统提示词黑箱风险，OSReward试图统一计算机使用Agent的跨平台评估标准，Change2Task解决了编码智能体训练数据自动化生成的瓶颈。配合MIT Sloan对AI金融建议的提问质量研究和VAD多模态蒸馏技术，整个行业正从能力展示转向基础设施补位阶段。
2026-08-01当 AI 学会自主操作，安全与信任谁来兜底？
本周动态指向一个清晰趋势：AI 系统正从被动应答转向主动操作。无论是审查提示词的 AISPA、评估电脑操作代理的 OSReward，还是反思 LLM 路由和推理正确性的实践，都表明行业正从'能不能用'转向'怎么安全可控地用'。Tailscale 披露的 Hugging Face 入侵事件则为 AI 供应链安全敲响了警钟。