2021年03月05日 | 与恩智浦副总裁探讨边缘人工智能的种种

一些预测表明，到2025年，所有边缘设备中的90％将使用某种形式的机器学习或人工智能技术。

启用这种边缘智能有哪些问题？如何实现？恩智浦半导体高级副总裁兼边缘处理业务总经理Ron Martino日前在接受embedded-computing采访时，解读了这些关于边缘智能的话题。

恩智浦半导体高级副总裁兼边缘处理业务总经理Ron Martino

定义边缘计算

从本质上讲，边缘计算是一种更有效地处理用户侧信息的功能。我们可以为数据带来更快的见解，您可以介绍下恩智浦如何定义并解决边缘计算的么？

Martino：简单地说，边缘计算是分布式的本地计算和感知能力。它有效地解释，分析传感器数据并对其起作用，以执行一组有意义的功能。它不会尝试替代云，而是成为免费的计算资源。传统上，例如在语音协助中，大量数据被发送到云中，在云中使用更高的计算能力来增强体验。边缘计算正在变得更智能，智能边缘计算可在本地计算与中央或云计算之间实现平衡。随着这种情况的进一步发展，我们希望终端设备具有更多的智能，以使它们具有执行解释，分析并在本地做出决策的能力。

您能否举例说明如何使用边缘计算来提高生产率和安全性？

Martino：在生产效率方面：利用具有视觉和机器学习功能的边缘处理或可穿戴设备，工人可以诊断问题并更快地修复问题，无论是在家中还是在工厂。

智能边缘设备通过识别各种危险信号来增强安全性：识别警报，坠落或玻璃破碎，然后通过使用其他传感器信息和计算来确定问题。它是否使用了恩智浦的雷达感应设备，是否正在使用视觉功能，还是仅对设备中的音频输入进行分析。

如果我们要更环保和提高能源意识，则需要解决电源功耗问题。

我们也正在向“意识边缘”概念迈进，在这种概念中，设备会以人的行为做出更多反应。他们开始了解自己的环境，他们汇总输入并与其他设备进行交互以收集信息并了解情况的上下文，然后做出相应的决策。一个简单的实际示例就是具有本地能力的交通模式，该模式可以通过观察和感知汽车的数量以及提高驾驶效率的条件来解释人群和不同的拥堵点，并在本地优化，从而避免浪费时间。

如何实现边缘智能

从技术角度来看，构成智能边缘和感知边缘的部分是什么？

Martino：让我们从基础开始。您需要具有计算平台，并且它们需要扩展。他们需要提高能源效率。与过去不同，现在实际上是关于多个独立的异构计算子系统。基本上就是一个GPU，一个CPU，一个神经网络处理单元，一个视频处理单元和一个DSP。

您如何优化这些不同的硬件加速器和计算设备，并针对给定的最终应用进行优化？那就是恩智浦真正擅长将可扩展计算范围与所有其他元素结合在一起的地方。然后是针对语音应用程序，人机交互的优化硬件加速器或功能的集成，涉及视觉和语音，然后以一种真正超低功耗的方式进行操作，该方式可以适应即便使用这些大的片上存储器，也可以真正优化功耗使用，这在您查看某些工作负载时是必需的。

这将继续优化机器学习能力，对许多不同攻击面进行最高级别覆盖的安全集成，有效的连接性，有效的能源利用以及开放标准。它还可以利用恩智浦提供的技术（例如高精度距离测量），无论它是否使用我们的UWB技术精确定位人员或跟踪设备的物理位置。

最后，将所有这些都集成在无缝的用户体验中，因为如果使用起来不方便，而且使用起来不自然，那么就不会使用它。因此，获得无缝连接的舒适体验绝对至关重要。

用户如何建立这样的解决方案？

Martino：我们提供的一切，从处理器或微控制器的基本产品，一直到针对本地语音，视觉，检测和推理功能或这些功能组合的预先优化的参考平台。我们汇总了客户可以购买的参考平台，例如我们的RT系列设备。我们提供了可以购买的人脸识别产品，并且该产品是功能齐全且经过精心设计的系统，客户可以以此为出发点来修改专业化或品牌化的需求。

消费者和工业用例中的技术差异

业内大多数人都会同意，我们的家庭和工作中的智能设备和系统将越来越受欢迎。您会说，普通的旧物联网与工业市场之间有哪些技术区别？

Martino：连接标准，环境要求，寿命要求（可能需要15年以上）以及安全要求要比消费物联网世界中的工业领域更为广泛和苛刻。恩智浦正在投资的一个领域是时间敏感网络（TSN），并将Mac和交换机集成到一整套设备中，这些设备可以支持多台机器的菊花链式设置，工作并支持端点功能，并利用TSN主干网支持许多传统标准，从而实现更高数据速率和吞吐量的融合。

将此与消费物联网市场进行比较。对于诸如智能家居和可穿戴设备之类的应用，人们更加需要极端的能源效率，更多地使用语音HMI，无线连接以及更短的生命周期。在可穿戴方面，您希望获得出色的用户体验，但需要最长的电池寿命。优化这些边缘设备以执行其功能，然后关闭并保留电池寿命非常重要，而且必须以最有效的方式来实现真正丰富的用户体验。

互操作性挑战

在智能家居领域，通常很难从一家公司购买产品并使其与其他设备一起使用。恩智浦如何尝试改变这一智能家居无线互操作性挑战？

Martino：以智能家居设备为例，其标准和互操作性功能非常分散。我们有一个名为CHIP或“IP上的互联之家”的项目。NXP以及许多其他行业领导者一起努力，试图将其整合到整个行业通用的开放标准中，而不是统一到专有标准上。

该项目的重点是建立在恩智浦和其他公司围绕ZigBee和Thread以及ZigBee联盟所做的多年工作的基础上，然后利用上层能力，利用亚马逊，苹果和Google已开始构建的开放标准，我们将其称为CHIP，并在设备之间建立这种通用链接。

恩智浦的计划是在今年晚些时候通过CHIP标准的第一个版本将实际产品投放市场。

解决增加边缘智能的复杂性和成本

转向边缘的机器学习和AI。听起来听起来很复杂而且代价高昂，对吧？

Martino：对于许多人来说，当您谈论AI和ML时，这是一个非常复杂的抽象概念。据预测，到2025年，所有边缘设备中有90％将使用某种形式的机器学习或人工智能。我们确实相信情况确实如此，并且我们正在推出针对此问题进行了优化的产品。这是我们为优化所使用的硬件，处理器和微控制器以执行此功能而做的工作的结合。对于最终用户而言，更多的是部署对最终用例有意义的实用ML的复杂程度。

许多连接的设备将以某种形式使用越来越多的边缘智能（图片来源：NXP Semiconductors）

有许多公司希望收集数据并创建自己的模型。恩智浦的重点是，我们如何启用云不可知功能，从而在简单的用户界面或开发环境中提供灵活性？

Martino：这就是我们最近在与Au-Zone签署的合作伙伴计划，2021年，我们将推出一个增强的开发环境，您可以在其中选择所引入内容的类型。自己的数据，拥有的模型或选择通过喜欢的来源或云提供商获取的模型，然后进行整合，优化，然后将其部署到终端设备上。

机器学习如何增加最终解决方案的成本？

Martino：如果您有一个非常复杂，繁重的机器学习模型或功能，则将需要更高的计算能力，而计算能力越高，价格会越高。您可以选择将其部署到边缘处理器，也可以选择将其部署到云。当我们尝试针对特定用例调整这些用例或模型时，您可以变得非常高效，然后可以利用传统的技术扩展和摩尔定律来添加针对ML的硬件加速，而这不会占用较大面积的芯片。

它成为一个很小的成本增加器，但却是执行您想要的指定工作的最佳能力。例如，无论是检测人员还是识别本地人员，您现在都可以在微控制器上非常高效地完成此任务，并且通过非常高效的芯片实现了优化。然后，您也可以使用我们的某些处理器使其具有可扩展性，您可以在其中扩展到外部高性能神经网络处理器，或者以免费方式与云一起工作。同样，所有这些都需要付出一定的代价，这取决于任务的复杂性，但是对于可部署的复杂功能而言，这可能非常有效。

AI伦理与道德

机器学习模型和AI的偏见日益引起人们的关注。行业在帮助确保AI道德方面扮演什么角色？

Martino：它需要明确的操作透明性，无论是围绕“我想知道它是在听我还是在看着我”的简单概念，但是，如何确定结论然后采取行动也变得非常重要。安全标准，以确保系统安全并且就攻击面而言没有后门访问权限或其他敏感性或漏洞，这样，某些人可以访问AI系统，然后影响其做某些事情或做出某些可能会做出决定的决定对攻击系统的人有利。

从原则上讲，您如何实现没有预设偏差的AI系统？在恩智浦，我们推出了一项AI道德计划，突显了我们对这一道德发展的承诺。其中，我们谈论的是好的，我们谈论的是保存以人为本的AI，这实际上是在避免服从或被AI系统强迫，以及这种透明性表明对科学卓越性的高标准以及信任。

您认为实施边缘技术还面临哪些挑战？

Martino：这是一项持续的活动，有许多领域需要持续优化。能源效率，驱动和利用能量收集概念以及接近阈值操作的设备获得了持续投资。安全性以及对保护数据和继续前进的需求是一项持续不断的活动。

投资于特定于芯片的签名，不同类型的密码以及以受保护方式（例如同态加密）执行计算的方式，在加密环境中执行计算并且永远不要对其进行解密的方式。然后将吞吐量的连接性扩展到延迟要求以及功耗方面。在优化方面，我们将继续优化连接性，并以越来越有效的方式将其引入这些边缘设备。

最后，基于感知最终智能的整个概念，我们处于第三代开发和实施神经网络处理器或处理器中的子系统的时代。这正在推动效率和规模的提高，但是在这一领域，人们仍在继续进行研究，以使用加速器以及围绕尖峰神经网络以及量子AI的不同技术来推动更高水平的效率。显然，在短期内，我们将看到更多围绕传统加速器的持续发展，并将这些加速器集成到恩智浦正推出的可扩展处理器中。