2021年07月29日 | 如何选择边缘AI设备

边缘计算在当下是最受关注的技术趋势之一。随着这一趋势的热度高涨，也许您认为是时候投资智能边缘技术，并发展物联网网络了。但是，在您决定采购新兴边缘设备之前，让我们先讨论一下到底何为边缘计算、边缘计算的作用以及您的应用是否能够受益于边缘技术。边缘计算可以大幅提升物联网网络的灵活度、速度和智能化程度，然而边缘AI设备并不是应对智能网络应用所有挑战的灵丹妙药。在帮助您确定边缘技术是否适合您的应用之后，本文将探讨购买边缘AI设备时应注意的主要功能和注意事项。

何为边缘计算？

边缘计算将物联网带入了另一个阶段。在边缘处，原始数据能够实时转化为价值。通过在整个网络中重新分配数据处理工作，边缘计算使网络节点、端点和其他智能设备的重要性得以提升、管理得以完善。

边缘计算可以说是云计算的反面。云计算时，数据中心将集中处理从分布式网络流入的数据，并将运算结果传输回分布式网络，以触发操作或实现更改。然而，远距离传输大量数据需要考虑金钱和时间成本，以及功率消耗。

这正是边缘计算的用武之地：当功率、带宽和网络延迟问题至关重要时，边缘计算或是解决之道。应用集中式云计算时，数据在得到处理前可能需要传输数百公里，而边缘计算可以在抓取、创建或保存数据的同一网络边缘位置处理数据。这意味着边缘计算的处理延迟几乎可以忽略不计，对功耗和带宽的要求通常也会大幅降低。

当今边缘计算发展的主要推动力之一是半导体制造商，因为半导体的进步能够让芯片在不大幅增加功耗的情况下提高处理能力。位于边缘的处理器可以在不消耗更多功率的情况下，对所获取的数据进行更多处理。这样一来，更多的数据就可以留在边缘，而无需传输到核心。因此，边缘计算不仅可以降低系统总功耗，还能缩短响应时间并更好地保护数据隐私。

人工智能（AI）和机器学习（ML）等技术也受益于边缘计算：它们也需要在提高数据隐私安全性的同时降低数据获取成本，而这些都可以通过边缘处理来解决。传统上，AI和机器学习等技术需要海量资源才能运行，远非端点或智能设备通常可提供的量级。然而如今，硬件和软件的进步有可能把这些赋能技术嵌入到网络边缘更小型、资源更受限的设备中。

评估边缘AI

在选择能够执行边缘处理并运行AI算法或机器学习推理引擎的平台前，必须进行仔细评估。简单的传感器和执行器，甚至需要在物联网中应用的传感器和执行器，都可以通过较小的集成设备来实现。提高边缘执行处理量需要一个更强大的平台，并应用高度并行化的架构。这通常意味着需要使用图形处理器（GPU），但是如果平台过于强大，也会给网络边缘有限的资源带来负担。

此外，边缘设备从根本上来说是现实世界的一个接口，因此需要兼容一些如以太网、GPIO、CAN、串行和/或USB等常见接口技术，并支持如摄像头、键盘和显示器等外围设备。

与环境因素可控的数据中心相比，边缘环境可能截然不同：边缘设备可能会暴露在极端的温度、湿度、振动，甚至高原环境中。这些因素将影响设备选择及其包装或安装的方式。

还需考虑的另一重要方面是法规要求。任何使用射频（RF）进行通信的设备都会受到法规的管制，并且可能需要获得许可才能使用。某些平台能够“开箱即用”，但其他平台可能需要投入更多精力。平台一旦投入使用，就不太可能进行硬件升级，因此在设计平台时就应谨慎确定其处理能力、内存和存储，为将来的性能提升留出空间。

这其中就包括软件升级。与硬件不同，软件更新部署在设备不在现场的情况下也可实现。如今，这种无线更新（OTA）方式非常普遍，未来大多边缘设备都可能支持OTA更新。

要想选对解决方案，需要仔细评估以上所有要点，并符合应用的特定需求。设备是否需要处理视频数据或音频？它仅需要监测温度，还是也需要监测其他环境指标？它是否需要始终处于开启状态，还是会长时间休眠？它会被外部事件触发吗？上述大部分要求适用于部署在边缘的所有技术，但是随着客户对处理水平和产出的期望提高，需求清单也有必要随之扩展。

边缘计算的优势

从技术上讲，现在AI和机器学习可以被应用于边缘设备和智能节点中，这将带来重大的机遇。这意味着处理引擎不仅离数据源更近，而且可以利用所收集的数据，开展更多的工作。

边缘计算的优点着实不少。首先，它能够提高其使用数据的生产率或效率。其次，由于需要移动的数据较少，边缘计算能够简化网络架构。第三，它使设备与数据中心的邻近性变得不那么重要。如果数据中心位于城市中心并离执行任务的地点很近，那么最后一点似乎无足轻重，但是如果网络边缘位于如农场或水处理工厂等遥远的地点，边缘计算就会带来很大的不同。

数据在互联网上飞速移动。当得知自己的搜索结果可能绕了地球两圈才显示在屏幕上，多数人可能会感到惊讶，因为总耗时可能只有几分之一秒，这对我们来说只是弹指瞬间。但是，对组成互联、智能且通常是自主的传感器和执行器和其他智能设备而言，每秒钟都像一小时。

这种往返延迟是实时系统的制造商和开发者需要重视的问题。数据往返于数据中心的耗时并非无关紧要，也肯定不是瞬时的，而缩短延迟就是边缘计算的关键目标。边缘计算能够与5G等速度更快的网络整合。但需要注意的是，随着越来越多的设备上线，网络提速也将无法解决累积的网络延迟问题。

据预测，到2030年，可能有多达500亿互联设备在线。如果每一台设备都需要通往数据中心的宽带，网络将一直堵塞。如果每台设备的操作都需要等待数据从上一阶段到达才能进行，总延迟很快就会变得非常明显。因此，边缘计算是缓解网络堵塞的唯一实用解决方案。

然而，尽管大多数应用都需要边缘计算支持，但其优势仍很大程度上取决于应用本身。边缘计算定律将帮助工程团队确定边缘计算是否适合某些特定应用。

边缘计算的四大定律

毋庸置疑，第一定律是物理定律。射频能量的优点是它能以光速传播，就像光纤网络中的光子一样。但缺点是它们无法更快速地传输。因此，如果射频能量的往返时间仍然较长，边缘计算可能更好的选择。

Ping测试提供了一种简单的方法来测量数据包在两个网络端点之间传输所需的时间。在线游戏通常托管在多台服务器上，游戏玩家需要对服务器进行ping操作，直至找到延迟最小的服务器，以实现最快速的数据传输。由此可见，即使十分之一秒对于时间敏感型的数据也十分关键。

网络延迟不只取决于传输机制。数据传输的两端都有编码器和解码器，物理层需要将电子转换为正在使用的某一能量形式，然后再将其转换回去。即使处理器以GHz级的速度运行，这一过程也需要时间，且移动的数据量越大，所需时间越长。

第二定律是经济学定律。该定律相对更为灵活，但是随着对处理和存储资源的需求猛增，其可预测性也越来越差。利润本就微薄，如果在云中处理数据的成本突然上升，就可能造成亏损。

云服务的成本包括购买或租用服务器、机架或刀片。成本高低可能取决于CPU内核数、所需的RAM或永久存储量、以及服务级别。相较于缺乏保障的服务，可以保障正常运营时间所需的服务成本会更高。网络带宽基本上是免费的，但是如果需要带宽始终保持某一标准，则将需要为此服务付费，在评估成本时需要考虑这一点。

话虽如此，边缘数据处理的成本不会大幅波动。一旦支付了设备的初始成本，在边缘处理任何数量数据的额外成本几乎为零。

数据有价值是由于其携带的信息。这就与第三定律有关，即土地定律。现在，任何捕获信息的人可能都需要遵守捕获数据所在区域的数据隐私法。这意味着即使您是数据设备的合法所有者，可能也不被允许跨地理边界传输该数据。

相关规定包括欧盟数据保护指令、通用数据保护条例（GDPR）和亚太经济合作组织隐私框架。加拿大的《个人信息保护和电子文件法》符合欧盟的数据保护法，而美国的《安全港安排》也显示了类似的合规性。

然而，边缘处理可以解决这一问题。通过在边缘处理数据，数据就无需离开设备。便携式消费设备的数据隐私变得越来越重要。手机上的面部识别使用本地AI来处理相机图像，因此数据永远不会离开设备。同样，闭路电视（CCTV）和其他安全监视系统使用摄像头来监控公共空间，图像通常需要经过基于云的数据服务器进行传输与处理，这就带来了数据隐私问题。通过边缘计算，数据就可在摄像头端直接处理，更快速安全，并有可能消除或简化对数据隐私措施的需求。

最后，我们要考虑墨菲定律，即如果某些地方可能出错，那么它终将出错。当然，即使最精心设计的系统也总有可能出错。通过网络传输数据、在云端存储数据并在数据中心处理数据的整个过程中可能会出现许多故障，而边缘处理可以避免冗长过程中可能出现的故障。

提出有关边缘计算的正确问题

即使您的应用能够受益于边缘处理技术，仍然有一些问题需要加以考量。以下是一些最为相关的问题：

1.您的应用在哪种处理器架构上运行？将软件移植到不同的指令集上可能代价高昂并造成延迟，因此升级并不意味着要使用另一架构。

2.您需要哪种I/O？这可以是任何数量的有线和/或无线接口。日后添加会导致效率低下，因此需要尽早确定。

3.设备的运行环境如何？是极热、极冷还是两者兼而有之？火星任务是很好的“边缘处理”示例，其运行环境十分多变！

4.经过认证？答案几乎是肯定的，因此选择经过预认证的平台能够节省时间和成本。

5.设备需要多大的功率？就单位成本和安装而言，系统功能非常昂贵，因此了解到底多少算“足够”非常重要。

6.边缘设备是否受制于外形尺寸？与其他许多部署相比，这在边缘处理中更为重要，因此在设计周期的早期就应予以考虑。

7.服务时长有多久？设备将用于可能需要运行多年的工业应用，还是以月为单位衡量生命周期？

8.就处理能力而言，系统性能要求是怎样的？比如每秒的帧数？有哪些内存要求？应用使用什么语言？

9.有成本方面的考量吗？这是一个棘手的问题，因为答案是肯定的，但是了解成本限制会有助于您做出选择。

结论

边缘处理体现自物联网，但还不止于此。其驱动力来自于比实现上述互联设备更高的期望。在基本层面上，设备可能需要低功耗低成本，但是现在还需要提供更高级别的智能操作，并且不影响功耗和成本。

选对技术合作伙伴，就能轻松选择合适的平台。凌华科技拥有广泛的边缘处理解决方案组合，并与众多提供互补技术的公司合作。欢迎加入边缘计算开发生态系统，我们将更好地助力您为AI应用选择合适的边缘计算平台。

【关于凌华科技】

凌华科技引领边缘计算，是AI人工智能驱动世界的推动者。我们制造并开发用于嵌入式、分布式与智能计算的边缘硬件与软件解决方案，全球超过1600家客户信任凌华科技，选择我们作为其关键任务的重要伙伴，从重症监护室的医疗计算机到全球第一辆高速自动驾驶赛车，都有我们的足迹。

凌华科技是英特尔、NVIDIA、AWS和SAS的重要合作伙伴，并加入了英特尔顾问委员会、ROS 2技术指导委员会以及Autoware自动驾驶开源基金会。我们积极参与了开源技术、机器人、自主化、物联网、5G等超过24个标准规范的制定，以驱动智能制造、网络通信、智能医疗、能源、国防军工、智能交通与信息娱乐等领域的创新。

凌华科技拥有1800多名员工和200多家合作伙伴。25年以来，我们秉持并推动当今和未来技术的发展，创新科技，转动世界。