Motional 与 MIT 推出可解释 AI 系统，实时说明自动驾驶决策

Techub News 消息，自动驾驶公司 Motional 与麻省理工学院研究人员合作开发出一套名为概念包装网络（CW-Net）的系统，允许自动驾驶汽车实时解释其决策逻辑，目标是解决自动驾驶 AI 的「黑箱」问题。

据介绍，这套系统可将神经网络内部计算转换为人类可读的概念，例如「接近静止车辆」或「靠近骑行者」，并直接显示在仪表盘上，让车辆决策过程具备可追溯性。

CW-Net 已在真实道路环境测试

研究团队已经在拉斯维加斯周边的公共道路和私人测试场，对该系统进行了实际部署测试。

测试期间，这套系统揭示了多项关键问题，包括实验性规划系统因训练数据问题而「幻觉」出前方存在静止车辆；同时也发现，车辆刹车的实际触发方是安全备份系统，而不是深度学习规划器。

Motional CEO 谈自动驾驶信任问题

Motional CEO Laura Major 表示，纯端到端的深度学习方案或许可以达到 80-95% 的准确率，但这仍不足以赢得城市和客户的信任。