2020年01月06日 | 进入2020年，当自动驾驶汽车发生事故时谁来担责？

对于希望培育自动驾驶汽车（AV）未来的监管机构来说，这可能是一个困扰他们的政治现实。而对于公众来说，这在心理上是站不住脚的，尤其是如果AV恰好伤害了他们身边的人。

但从技术角度来看，这种必然性恰恰是那些想要开发更安全AV的工程师们的出发点。

英特尔的高级总工程师兼Mobileye自动驾驶汽车标准的副总裁Jack Weast表示：“世界上最安全的人类司机是永远不开车的司机。”这是他在解释RSS含义的讲座中打的一个比方。

Strategy Analytics的全球汽车业务副总裁Ian Riches对此回应到：“Weast是正确的，唯一真正安全的车辆就是静止的车辆。”

因此，如果我们希望看到可以在公共道路上实际运行的商用AV，该怎么办呢？

在AV生态系统能够回答该问题之前，必须开启另一个悬而未决已久的话题：当robocar发生致命事故时，谁来负责？2020年将是行业最终不得不要面对这只“魔鬼”的一年。

一方面，AV技术供应商喜欢引用诸如世界卫生组织（WHO）报告中的“每年135万道路交通死亡人数”之类的数字，他们将其高度自动驾驶的技术营销成道路安全的最终解决方案。他们渴望描绘零事故的美好未来，因此使用统计数据来解释社会为何需要AV。

去年全球发生了135万起道路死亡事故（Source: WHO Global Status Report on Road Safety 2018）

另一方面，技术界中的大多数人都在回避AV发生故障时谁应来担责的问题。他们对法律问题感到无能为力，无法给出答案。因此，他们宁愿将责任归咎于监管机构和律师。

在这种背景下，Intel/Mobileye显得脱颖而出。正如Weast所说：“Intel/Mobileye不怕问一个棘手的问题。”在开发RSS时，他们的工程师花了大量时间来考虑“足够安全到底是多安全”这个最令人不舒服的话题，Weast在最近接受的采访中对此进行了描述。

他说：“我们都想说AV将减少交通事故，但将AV描述为零事故风险的表述存在局限性。事实是，事故是不可避免的。当然，我们的目标是使事故发生的几率尽可能降低。但你不能从零事故的位置开始进行AV开发，也不能认为一个事故就太多了。”

预定的规则集

当发生碰撞时，Mobileye写道：“可能需要几个月的调查时间。即使全部都是人类驾驶的场景中，也可能无法立即得知原因。由于涉及AV，因此公众关注度将很高。”

Demler引用了英伟达为回应RSS而发布的《The Safety Force Field》这篇论文，本文几乎全部集中在数学模型上。他说：“更难形式化的问题是构成‘安全’驾驶的因素。”

例如，RSS在AV周围制造了Weast所说的“安全泡沫”。Demler说：“后车与前车应该相距多远似乎很明显。但不可能对每种可能的驾驶场景进行建模并描述‘安全’的行动方案。”

Demler指出，“尽管AI越来越强大，但计算机仍然无法推理。”因此，AI驱动的AV只能遵循规则。

但人类司机明白规则是用来打破的。Demler说：“在某些情况下，要避免发生事故，可能需要采取规避策略，否则将被认为是不安全的。例如，即使你要切入与其他车辆相距‘不安全’距离的另一条车道，也要绕过障碍物迅速加速。”

上面公式计算的是后车和前车之间的安全纵向距离（Source: Intel/Mobileye）

Demler想知道我们是否真的有能力预见所有潜在的情况，并为每种情况教导机器人安全的行动方案。这可能是一个反问。

RSS作为“讨论的推动者”

2020年，我们有望看到更多由AI驱动的技术解决方案。我们已经看到了功能强大的监控摄像头（虽然有些人说有偏见）能够识别（或有时会误识别）人群中的个人。同时，像Facebook、Google和Amazon之类的技术平台公司已证明在诸如语音、同声传译/翻译以及修图等应用程序中广泛使用了AI驱动的技术。

AV与其他采用了AI的应用程序和产品的不同之处在于，AV带来意想不到的后果可能会导致人员伤亡。

人们通常认为技术进步是生活中不可避免的事实。有鉴于此，尽管存在一些不便的事实（其中包括将发生涉及AV的事故），但技术社群应紧跟进步的步伐，而不是让无法实现的“绝对完美”（Riches之前提到的）成为障碍。

Demler指出：“确实，许多工程师以‘不是技术问题，而是心理和社会问题’来合理化AV的事故。”

但是麻烦在于“有多少人说他们需要AV？”Demler问到。“好处被夸大了。我的观点是，就像巡航控制系统从模拟系统向数字ACC的演进一样，人们将逐渐接受自动驾驶功能，但这种向AV世界的飞跃实在太大了。唯一会发生的地方是拥有威权政府的国家。”

制定行业标准的努力

尽管政治和社会问题可能很难为科技界所掌握，更不用说缓解了，但业界对AV技术标准达成一致可能对建立监管者和消费者对robocar的信心大有帮助。

Riches指出，RSS只是大拼图中的一块小拼图。“要继续这个比喻，可以公平地说，我们还没有100％知道整幅拼图的图画到底是什么，仍然需要找到其中的一些拼图。”

英伟达产业安全副总裁Riccardo Mariani在最近的采访中，提出在2020年会出现AV安全里程碑的浪潮（参考：2020将掀起一波自动驾驶安全标准的浪潮）。它们包括几个专门针对AV安全而批准的IEEE工作组。IEEE P2846、IEEE P2851以及即将发布的UL 4600和两个现有的ISO标准：ISO 21448（预期功能的安全性的SOTIF）和ISO 26262（功能安全性）。

这并不是说这些标准涵盖了确保AV安全的所有需要开发的标准。

例如，正如英特尔在其关于RSS的文章中所述，“虽然RSS决策软件的设计不容许因AV驾驶决策而引起意外，但传感器系统的错误（即有关用于决策的驾驶环境的信息）或机械故障等仍然有可能引发事故。”

Koopman称RSS“重要且非常有用”，指出RSS在车辆运动控制方面提供了“足够安全”这个含义的一部分。他说，RSS会假设感知和相关功能正常运行。然后，根据设计，RSS将其“留给了感知部分的其他安全标准”。

Riches说：“就其他类型标准而言，关键可能是某种形式的达成共识的方法，用于实际确定怎样才算是足够安全。”他告诫说，RSS不能解决“多少事故每千公里”的数据才是社会可以忍受的。

他说：“比起科学领域，那些问题更多是政治领域应该来探讨的。RSS所做的是提供一个使讨论能够进行的框架。”

要为AV颁发驾驶执照吗？

Riches说：“最终，关键的‘标准’可能是某种形式的‘电子驾驶执照’，每个自动驾驶解决方案都必须先通过，然后才能被允许进入公众领域。我所了解的大多数人都同意，但他们也认为我们可能仍然不太了解问题，无法定义驾驶执照。”