2021年03月22日 | TinyML使微控制器具有AI机器学习功能

TinyML证明了小芯片也可以发觉更多可能。这种新方法不是在大型，耗电的云端计算机上运行复杂的机器学习（ML）模型，而是在终端设备上运行优化的识别模型，而这些微控制器仅消耗不超过几毫瓦的功率。

在Arm和行业领导者Google，Qualcomm等人的支持下，这一新兴的细分市场tinyML有潜力改变我们物联网（IoT）处理数据的方式，其中数十亿个微型设备已用于提供更大的洞察力以及增强消费，医疗，汽车和工业等领域的效率。

为什么要在微控制器上使用TinyML？

诸如Arm Cortex-M系列之类的微控制器是ML的理想平台，因为它们已被广泛使用。它们可以快速，高效地执行实时计算，因此可靠性高，响应速度快，并且由于它们仅消耗很少的电量，因此可以部署在更换电池困难或不便的地方。也许更重要的是，它们足够便宜，几乎可以在任何地方使用。市场分析机构IDC报告称，2018年售出了281亿个微控制器，并预测到2023年年出货量将增长到382亿个。

微控制器上的ML成为我们用于分析和理解IoT生成数据的新技术。特别是，深度学习方法可用于处理信息并理解来自传感器的数据，传感器执行诸如检测声音，捕获图像和跟踪运动之类的事情。

以紧凑格式进行高级模式识别

通过研究机器学习中涉及的数学，数据科学家发现他们可以通过进行某些更改来降低复杂性，例如用简单的8位运算代替浮点计算。这些变化创建了机器学习模型，该模型可以更有效地工作，并且需要更少的处理和内存资源。

TinyML技术的飞速发展得益于新技术和开发人员的参与。仅在几年前，我们还庆祝我们能够运行语音识别模型的能力，该模型能够在受限的Arm Cortex-M3微控制器上仅使用15 KB（KB）的代码和22KB的数据就可以检测到某些单词，以便唤醒系统。

从那时起，Arm推出了新的机器学习（ML）处理器，称为Ethos-U55和Ethos-U65，这是一种microNPU，专门设计用于加速嵌入式和IoT设备中的ML推理。

与我们今天看到的令人印象深刻的示例相比，Ethos-U55与具有AI功能的Cortex-M55处理器相结合，将大大提高机器学习性能并提高能源效率。我们预计在未来12个月内会推出响应芯片。

TinyML使边缘设备更上一层楼

TinyML的潜在用例几乎是无限的。开发人员已经在与TinyML合作，探索各种新想法：响应信号灯改变信号以减少拥堵，工业机器可以预测何时需要维护，传感器可以监视农作物中是否存在有害昆虫，可以在库存不足时请求补货的货架，医疗监护仪可以在保持隐私的同时跟踪生命周期等等。

TinyML可以使端点设备更一致，更可靠，因为不再需要依赖繁忙的拥挤的昂贵的互联网连接云端，也不必进行复杂的数据传输。减少甚至消除与云的交互具有以下好处：减少能源消耗，显着减少处理数据的延迟，以及提高安全性。

当然，这些在微控制器上执行推理的TinyML模型无意取代当前在云端进行的复杂推理，这毫无价值。他们要做的是将特定功能从云降低到端点设备上。这样，开发人员可以在需要时保持云交互。

TinyML还为开发人员提供了一套功能强大的新工具来解决问题。ML使检测基于规则的系统难以识别的复杂事件成为可能，因此端点AI设备可以开始进行新任务。而且，由于ML使得可以用文字或手势来控制设备，而不是按钮或智能手机，因此可以在更具挑战性的操作环境中更坚固耐用地部署设备。

TinyML不断扩展的生态系统

行业参与者已经迅速认识到TinyML的价值，并迅速采取行动以创建一个广泛的生态系统。从热情的爱好者到经验丰富的专业人员，各个级别的开发人员，现在可都以访问易于入门的工具。所需要的只是一台笔记本电脑，一个开源软件库和一条USB线，用于将笔记本电脑连接到价格低至几美元的廉价开发板上。实际上，在2021年初，Raspberry Pi发布了他们的第一块微控制器板，这是市场上最便宜的开发板之一，仅售4美元。名为Raspberry PiPico的芯片是由RP2040 SoC供电，RP2040 SoC是一款功能强大的双Arm Cortex-M0 +处理器。 RP2040 MCU能够运行TensorFlow Lite Micro，我们预计在接下来的几个月中，该板将有各种各样的ML用例。

Arm是TinyML的强烈支持者，因为我们的微控制器架构对于IoT至关重要，并且因为我们看到了设备上推理的潜力。Arm与Google的合作使开发人员更容易在注重功耗的环境中部署端点机器学习。 Arm CMSIS-NN库与Google的TensorFlow Lite Micro（TFLu）框架相结合，使数据科学家和软件开发人员可以利用Arm的硬件优化功能，而无需成为嵌入式编程专家。最重要的是，Arm在Cortex-M硬件Keil MDK以及我们的物联网操作系统Mbed OS的优化工具上进行了大量投资，以帮助开发人员在部署ML应用程序时快速地从原型开发到生产。

没有许多早期贡献者，TinyML将是不可能的。Pete Warden，是tinyML的“奠基人”和Google TensorFlow Lite Micro的技术负责人。来自Arm生态系统的创新者Kwabena Agyeman，他开发了OpenMV，该项目致力于低成本，可扩展，基于Python的机器视觉模块的支持机器学习算法。另外一位Arm生态系统创新者，Daniel Situnayake，Edge Impulse的创始人，tinyML工程师和开发人员，该公司提供涵盖数据收集，模型训练和模型优化的完整TinyML管道。此外，Arm的合作伙伴（例如提供了NanoEdge AI的公司Cartesiam.ai，NanoEdge AI是一种工具，可根据在真实条件下观察到的传感器行为在端点上创建软件模型）将TinyML推向另一个高度。

Arm还是TinyML基金会的合作伙伴，TinyML基金会是一个开放的社区，负责协调，以帮助人们联系，分享想法并参与其中。有许多本地化的TinyML聚会，包括英国，以色列和西雅图，以及全球范围的tinyML峰会。