2021年11月24日 | 信任问题，自动驾驶技术面临的挑战

舒服的小睡，预示着一个令人不安的问题。

在谷歌自动驾驶汽车项目进行的早期，该公司员工（你可以称他们为beta测试人员）被允许开着配备自动驾驶技术的汽车回家。

该项目的领导者们发现，同伴们如此迅速地过度信任了这项还处于萌芽阶段的技术——他们选择放松注意力，并盯着手机，而不是观察前方的道路。

“我们的发现相当可怕。”Waymo的前首席执行官约翰·克拉弗西克（John Krafcik）回忆起2017年的测试时说。“他们已经失去了观察周围环境的意识。”Waymo是该项目的商业化后续。

Waymo前首席执行官约翰·克拉弗西克▼

一个测试者在方向盘后面打瞌睡，这让谷歌官员感到不安，他们放弃了对这种涉及人机结合的自动驾驶技术的追求，转而采用一种不让人类参与驾驶的自动驾驶路线。

其他公司，比如特斯拉，仍然看好人机共存，而对于将自动化引入汽车的同时仍需要人类承担操作责任的担忧，几乎没有消除。

特斯拉在2014年推出了Autopilot驾驶员辅助系统的硬件，并在2015年通过OTA升级启用了这一功能。2021年，这家汽车制造商以同样的方式发布了其“完全自动驾驶”（Full Self-Driving）系统。

2021年10月下旬，该公司的市值超过了1万亿美元，这在很大程度上要归功于这些功能，这两个功能在该公司狂热的车主中激发了相当大的热情。特斯拉在财务上的成功，让行业专家（至少在某些方面）怀疑Waymo是否做出了错误的决定。

然而，从安全的角度来看，担忧仍在增加。

自动化自满

美国国家交通安全委员会（NTSB）调查了多起涉及Autopilot的致命事故，并创造了“自动化自满”（automation complacency）这个词，来描述人类驾驶员过于信任驾驶辅助系统（并非自动驾驶系统）的行为。

美国国家公路交通安全管理局（NHTSA）的联邦调查人员在2021年的大部分时间里对Autopilot和高级驾驶辅助系统进行了进一步调查。

2021年4月，该机构的撞车事故特别调查小组开始调查五年间发生的39起事故，这些事故造成了12人死亡，其中33起事故涉及特斯拉汽车。

最近，NHTSA开始对12起事故展开更严格的调查，在这些事故中，启动了Autopilot系统的特斯拉汽车撞上了停放的急救车辆。

2021年9月，特斯拉对其Autopilot软件进行了OTA升级，而现在监管机构想知道，这家汽车制造商为何进行了升级，却没有发起召回。

亚利桑那州立大学社会创新未来学院教授安德鲁·梅纳德（Andrew Maynard）表示，监管机构刚刚才开始考虑软件定义汽车的安全影响，这本身就是个问题。

“如果一家制造商说，‘我们推出了一种新型制动系统，我们不太确定它是否会起作用，但我们会把它放在一些汽车上，看看会发生什么，’没有人会认为这是可以接受的。”他说，“从监管角度来看，这是完全不可接受的。那么为什么软件可以这样做，而硬件却不行呢？”

注意力不集中

在驾驶辅助系统方面，这是几个没有明确答案的挑战之一，因为专家们认为驾驶辅助功能（而不是自动驾驶系统）至少在未来十年将成为主导技术，至少在传统车主购买和维护的车辆中是如此。

其他挑战同样是根本性的。人类很难监控大多数时候运行良好的自动化系统——这不仅是Waymo在十年前学到的教训，而且从航空到核能等各行各业都明白这一点。

麻省理工学院研究人员9月份发表的一项研究强调了这一点。

他们发现，当启用Autopilot时，特斯拉司机眼睛偏离道路的频率更高、时间更长。对其他汽车制造商驾驶辅助系统的进一步研究正在进行中。

如果系统引起了注意力不集中，它们会被认为是安全的吗？包括通用汽车在内的一些汽车制造商正在寻求和推广驾驶辅助技术，允许驾驶员将手从方向盘上移开。

卡内基梅隆大学专门研究嵌入式安全系统的教授菲尔·库普曼（Phil Koopman）说：“ADAS安全的问题在于，你是否正在构建一个非超人司机也能安全操作的系统？”

“我们告诉他们不要睡着，但我们知道事实并非如此。你不能忽视可预测的人类反应。”

随着驾驶辅助系统在汽车行业的普及，了解驾驶员的状态以及他们的反应准备，将比以往任何时候都更加重要。

监测司机

在多次调查与自动驾驶相关的致命事故后，NTSB发现特斯拉对驾驶员行为的监控能力不足。

该委员会的建议包括，汽车制造商、标准机构和NHTSA都应该开发更好的应用程序和规则，以监测人类驾驶员的状态。

2021年4月，行业组织汽车创新联盟概述了一套安全原则，以应对人们对驾驶员监控系统日益增长的需求。值得注意的是，特斯拉并不是这个行业组织的成员。

但这些自愿原则并没有与安装驾驶辅助系统的棘手问题发生冲突。他们只是说，例如，应该“评估”可预见的系统滥用。

NTSB的报告明确指出，特斯拉通过监测方向盘扭矩来监控驾驶员参与度的方法是不够的，该联盟只是表示，应该“考虑”基于摄像头的座舱系统——许多驾驶辅助系统的供应商都喜欢这种系统。

也许，与驾驶员监控技术的萌芽状态相比，这些原则的中庸性质是一个较小的问题。内视摄像头系统可以确保驾驶员的头部朝向前方的道路，更好的系统甚至可以透过太阳镜跟踪司机的眼神。

然而，在驾驶员注意力已经偏离，或者在他们需要纠误时，车载报警器才向发出鸣叫，不一定是最有效的。

“预测是预防的关键。”以色列初创公司Adam CogTec的联合创始人兼现任董事长埃雷兹·阿卢夫（Erez Aluf）说。该公司致力于开发一种技术，可以衡量司机的认知能力，并有助于提高人类的表现。

更好的决策

从这个意义上说，驾驶辅助系统不仅监控司机，还是一种驾驶员管理技术，试图促进人与机器之间的合作关系。“这不是一个或另一个，”阿卢夫说，“而是一加一。”

当汽车不仅了解司机是否在盯着前方的道路，还了解司机在驾驶工作中的参与程度，它就能更好地决定何时交出控制权或保持控制权。

信任是这种微妙合作的核心。德国亚琛工业大学的人类系统集成教授弗兰克·弗莱米施（Frank Flemisch）将其比喻为骑马者随着时间的推移，与他们的动物共同学习的一种直觉平衡。

但是，如果说机器驾驶员和人类驾驶员之间需要相互信任，那么在更广泛的层面上，驾驶员、大肆宣传自动化技术前景的汽车制造商、独立的第三方（如学术界和保险公司）以及监管机构之间，也需要这种信任。

建立这种信任，不仅仅要在事故发生时承担责任，还要确保每个利益相关者以透明和负责任的方式，开发和部署技术。

亚利桑那州立大学教授梅纳德说：“在一个更好的社会中，这个链条上的每个人，无论是特斯拉的首席执行官、制造产品的工程师，还是做决定的其他人，他们都有社会责任创新的心态。”

“在这种模式下，他们会不断问自己，‘这样做合适吗？’如果他们这么做了，我想事情就会不同了。”