2020年06月03日 | Syntiant：疫情挡不住AI芯片的热潮

翻译自——EEtimes

尽管疫情导致许多企业倒闭，但对无晶圆厂半导体企业而言，情况基本与往常一样，只是提供了一些补贴。在与人工智能处理器公司Syntiant首席执行官Kurt Busch的谈话中，他透露，他们 正在全速进行客户合作，并测试其第二代硅芯片。

Busch表示：“这是一个非常有趣的时刻。当我们第一次开始居家办公时，我很担心……我以为目前的(客户)合作可能会放慢脚步，但他们肯定会继续下去，我不知道在没有面对面的情况下，新的合作是否会奏效，但事实证明，我们能够远程地与客户和合作伙伴达成新合作。”

Syntiant是一家超低功耗人工智能处理器初创公司，最近从晶圆厂收到了第二代硅芯片，但它能够带回样品并开始远程测试。根据Busch的说法，公司在1小时13分钟内就完成了新硅材料的安装和运行。

Syntiant的设备使用的是性价比较高的树莓派(Raspberry Pi) 电路板

，作为被测硅的网络接口，通过SPI和树莓派上的其他接口连接到芯片上。该装置中的传感器通过产生音频、视频、振动或其他条件远程触发，以测试芯片。目前，有几十个芯片正在以这种方式进行测试，工程师可以远程编写软件和调试。

“我们可以远程完成90%的结转工作。Busch:“除了有些你必须进行身体测量的工作，为保持社交距离我们只派一个人去。我们已经能够远程制造出相当复杂的硅片;在我们公司之前没有人这样做过，这对我们来说是全新的。”

神经决策处理器

Syntiant是最早为边缘应用(而不是使用多核DSP或ARM核)构建神经网络处理器的公司之一。它的第一代架构是基于内存或内存附近的计算、大规模并行操作和适度的精度(Syntiant的第一代芯片可以处理机器学习推断中常见的4位或8位计算)。

“我们构建的是一个数据流架构，其中乘法和累加与内存紧密耦合。所以在我们的设备内部几乎没有内存移动。所有的存储都在里面。”“我们建立了这个基本并行的架构，精度也不高，它是8位的，内存与乘法累加紧密耦合，以极大地减少内存消耗。”

在软件方面，编译器步骤是不允许的。大多数具有新颖架构的AI处理器公司都在构建能够将代码从TensorFlow或Keras传输到在其处理器上运行的东西的编译器，这可能是一个巨大的挑战。

Busch:“编译器的步骤，试图让你编译的代码与你在TensorFlow中看到的匹配。最近有一场编译器选美比赛正在进行，评选谁的编译器做得最好。”“我们完全忽略了这一点——你在TensorFlow中看到的就是硅，我们只是把重量直接装载到设备中。”

超低功率

2017年，Syntiant在人工智能领域还处于萌芽阶段，联合创始人为其硅架构申请了18项专利。2017年10月，英特尔牵头的a轮融资，以及微软牵头的b轮融资，共融资3000万美元。这足以让Syntiant在5个月内完成重新检测，并在8个月内取回样品。

最终一个极低功率的芯片大功告成。Busch表示，与基于Arm m4的设计相比，Syntiant的芯片在语音工作负载方面的能效提高了200倍，吞吐量提高了20倍。芯片消耗有功功率低于140µw。

Busch:“由于我们并不是按照传统工艺制作的，它的模具尺寸更小，所以在功率、性能和成本上这三个方面都有竞争力。但是天下没有免费的午餐。我们的芯片只做深度学习。它不会做任何其他事情。”

Syntiant于2019年9月获得首批生产订单，并被设计用于手机、智能音箱、耳塞和手表。其中90%以上的应用程序使用NDP10x进行语音识别，例如语音命令和尾迹词检测，而有些应用程序则进行更一般的声音检测(例如枪响或玻璃破碎)。Busch介绍，还有一些公司在使用音频领域之外的芯片，用于传感器应用，这些应用使用加速计、气体探测器、振动传感器或红外传感器进行人体检测。

Syntiant的第一代芯片，NDP100正在生产中。第二代硅芯片将于2020年第四季度问世

产品代码

Busch:“从目前的市场状况来看，很少有公司发布了生产机器学习模型。我们只有极少数客户自己做过，并获得了生产级代码。你可以在一小时内获得演示级代码。但是生产水平的机器学习，尤其是在嘈杂的环境下学习wake words，这是一种在市场上不太为人所知的技能。”

Syntiant因此提供了可生产的、经过训练的神经网络模型。他们还提供NDP10x的培训和开发工具包，但很少有客户建立了生产机器学习管道，很少有人能够利用它。相反， Syntiant已经投资于数据收集、清理和准备培训其内部模型。

声音增强

Syntiant的第一代产品直接面向电池供电的全天候语音控制应用。随着消费者越来越多地意识到他们在当前全球大流行期间接触的重要性，尤其是在电梯等公共空间，预计语音控制的需求将会增加。

一项全国性的调查显示，目前超过三分之二的美国人使用语音来控制他们的设备。这在年轻一代中更为明显(这个数字是81%)。Busch表示，对于更年轻的消费者来说，他们将在阅读之前使用家用设备的语音控制，对他们来说，语音将成为电视、笔记本电脑和智能手机的默认界面。

Busch预计，语音控制可以在不需要互联网连接的情况下，在边缘设备上实现，从而帮助向可能不识字的人群打开技术世界。

2.0版本即将诞生

Syntiant的第二代神经决策架构(neural decision architecture)花费了两年的学习时间，定于今年秋天发布。

Busch:“芯片本身，以及它的处理方式都是全新的。它基于或接近内存的计算原理，大规模并行，精度适中，所以它的设计仍然是从头开始进行神经处理……它仍然运行以前芯片的代码，但这极大地扩展了它的可用范围。”

Syntiant预计将在2020年第四季度发布第二代硅芯片。

延伸阅读——Syntiant低功耗AI芯片，让智能手表听见你的声音

总部位于加州欧文市的Syntiant公司，其定制AI芯片NDP100已经通过Amazon的Alexa认证，并能够为手表等小型电池供电设备提供语音唤醒的能力，该系列芯片可以识别多达63个文字或其他传感器模式，同时消耗功耗仅150mW，能耗表现比典型的微控制器提高了200倍。

通过使用NPD100芯片，以后智能手表也可以用语音唤醒

而该芯片产品通过Amazon严格的信噪比测试，也意味着蓝牙耳机和其他小型电池供电设备将能够收听唤醒关键字和其他命令，并让设备回复正常工作模式。

而根据官方新闻稿表示，目前已经有客户采用该芯片来设计小型智能移动产品。相信在过不久就可以在市面上看到相关产品的发布。

根据官方解释，NPD100系列芯片通过直接连接到数字麦克风或其他传感器，并触发连接到睡眠中系统的 “中断”线。在系统完全醒过来之前，会先向NDP100确定它听到的唤醒字或命令，确定之后就可以完全唤醒系统，并进行下一个动作。NPD100芯片中还保留了一个3秒的音频缓冲区，以防系统漏失唤醒程序期间，操作者所说的指令内容。

与大多数AI ASIC一样，该芯片仅执行深度学习的推理步骤。使用常见的TensorFlow软件库在云中进行培训。该公司指出，开发人员最大的优势之一就是芯片的使用不需经过对训练的网络和芯片上的内容之间进行任何额外编译或优化步骤。也就是说，只要将芯片放进系统中，用正确方式连结，就可以直接使用。

该公司也表示，更强大的芯片版本，以扩展到更多市场。它还在开发一种使用模拟计算和嵌入式闪存的版本，借此以更低的功耗进行AI计算。