自动驾驶汽车安全性遭质疑？未来AI绝不能忽视

　　自动驾驶是历史上最伟大的计算挑战之一，不能指望用传统算法解决问题，深度学习才是关键。

　　在2018年国际消费电子展上（CES ），英伟达（NVIDIA）首席执行官黄仁勋表示，自主驾驶涉及到同类产品中最大的计算挑战。该公司估计，无人驾驶汽车的计算需求比目前市面上最先进的汽车要高出50到100倍。

　　他说：“为了普及无人驾驶汽车，需要解决的挑战数量令人望而生畏。我们已经制造了PC、笔记本电脑、控制台和超级电脑，但自动驾驶代表着一种世界从未见过的复杂程度——它一直在监控多个传感器，而且由于生命处于危险之中，它的决策必须始终正确，这使得没有人知道如何编写应用软件。”

　　那么，行业如何弥合这种巨大的差距呢？许多人坚定地认为，解决自动驾驶汽车所面临的问题，人工智能（AI）必不可少。“一辆典型的现代汽车有多达100个电子控制单元（ECU），”英伟达汽车公司的高级总监Danny Shapiro解释道，“尽管这些设备在执行具有社会效益的重要功能，但它们运行的是设定算法，这意味着它们执行固定任务。使用固定算法的计算机视觉无法应对路上发生的多样情况。”

　　人工智能软件公司AImotive的欧洲销售主管Bence Varga也同意这一观点，他认为任何关于自动驾驶汽车的讨论都必须以乘员和道路使用者保护为核心。“从安全的角度来看，”他说，“传统的计算机视觉算法在决策树基础上有很大的局限性。解决方案开发过程中固有的收益在递减，因而制定算法变得越来越困难，这些算法涉及如何从不同的角度识别一辆汽车或者部分被遮挡的汽车等。”AImotive开发了aiDrive，这是一款利用人工智能实现自动驾驶功能的软件套件。

　　超人

　　变化的天气、多变的表面、道路封闭、不同的驾驶文化——道路上有大量的变量。但是，人类拥有相互联系的感官和决策能力，因而能够适应环境。因此，该行业已转向深度学习技术，drive.ai的联合创始人王弢解释到，这种技术涉及的概念最初由神经科学的发现启发而来。现代深度学习通常使用一种称为反向传播（back-propagation）的算法，该算法可以调整人工神经网络中的参数，从而将实际输出与期望输出的差异最小化，后者基于大量真实数据，这些数据从训练系统中获取。

　　王弢介绍到，将深度学习引入到汽车中，代表了汽车行业正在采用已经有一定经验的技术来推动下一步进展。“人工智能已经进入了汽车行业，”他表示。例如，自适应巡航控制系统本身就是人工智能的一种形式，尽管它的操作域有限。像ACC这样的功能为终端客户提供了额外的价值。随着电动汽车和拼车服务的兴起，汽车行业正经历着剧烈的转型，人工智能可以帮助该行业赶上新时代的步伐，并保持相关性。”

　　但是，对于那些想要进入这个市场并与汽车行业合作的供应商来说，有什么挑战呢？答案显而易见——符合汽车行业严格的安全标准。Shapiro表示，对于英伟达来说，自从公司首次将注意力转移到除了图形处理器之外的产品以来，这已经过了长达十年的时间。为了确保产品能够在各种温度范围和恶劣条件下运行，如振动，冲击，污垢和灰尘等，新的生产设备都在寻求改造。

　　目标是ISO26262认证，这是一个专注于安全关键系统的汽车专用标准。NVIDIA的可扩展Xavier处理器每秒可运行30万亿次运算，现在被自驱动开发商Aurora等公司开发平台所采用。像AImotive这样的公司要完成评分，工作还在继续。

　　其他问题包括人工智能决策系统发挥作用时推理的潜在“不透明性”，因为涉及的技术非常复杂。“目前，人工智能决策背后的推理是一些不透明的领域，”Varga说。“相关研究正在详细研究这个问题，新的答案将继续出现。为了确保安全，我们与合作伙伴一起进行所有系统的深入检查和基准测试。我们的神经网络接受来自世界各地的带注释的测试数据的训练，以确保它们在任何情况下都能得到正确的推广。”在这方面，模拟是关键，在进行测试之前，有数百万个场景进行了数字演练。

　　Drive.ai的王弢认为，这种担忧适用于任何新兴技术，并且接受只会伴随安全性证明。“深度学习并不完全是不透明的，”他表示，“因为有一种方法可以将神经网络的思维可视化，这对于帮助人们适应一项新技术来说，至关重要。”

　　不过，Varga说，对于原始设备制造商（OEMs）来说，理解人工智能很重要，同样，人工智能理解人类也很重要。他表示：“这意味着系统必须预测道路上的其他行为者会做什么，并相应地作出应对。我们正在创建的传感器设置，包括其他传感器支持的摄像头，不会有盲点。这一点，再加上人工智能的理解和概括其环境的能力，这将会产生一个超人司机，能够安全地与他人共享道路。”

　　天网？不大可能

　　当然，并不是所有关于人工智能的头条都是正面的。包括理论物理学家史蒂芬?霍金和特斯拉首席执行官埃隆·马斯克在内的知名人士已多次表示担忧。霍金在2015年表示：“人工智能的真正风险不是恶意，而是能力。一个超级聪明的人工智能会非常擅长实现它的目标，如果这些目标与我们的目标不一致，我们就有麻烦了。”随着汽车行业在人工智能发展中扮演越来越重要的角色，原始设备制造商应该如何密切关注新的、可能致命的安全隐患呢？

　　Varga说，好消息是世界末日的可能性不大。他认为，当前的人工智能尚未达到人们在讨论“奇点”时会涉及的通用人工智能阶段。他说：“我们的人工智能训练只是为了开车。它不能自行修改，也不能自行重新编程。就我们而言，自动驾驶汽车叛乱的想法纯粹是科幻小说。”

　　Shapiro对此表示赞同：“有些人对人工智能的看法似乎是基于终结者电影。”他补充道，AI系统在检测、跟踪和理解距离和速度方面已经超越了人类。“更重要的是，他们不会分心，”他说，“他们也不会经历路怒，不会感到愤怒，也不会喝醉。”人工智能非但没有带来风险，而且已经具备了巨大的安全效益。

　　他说，展望未来，NVIDIA有信心制定检查、平衡和工具来确保人工智能不会产生问题。他总结道：“我们可以测试和验证应用程序的工作原理和失败的地方。”然后，我们可以回溯、分析并调整。我们有很好的方法来分析和诊断神经网络，理解它们的表现，它们只会继续改进。”人工智能似乎会成为一个持续进行中的项目，它将会随着时间的推移而完善，因为它可能带来数十亿的潜在收益。