2019年08月16日 | SSD与AI将会碰撞出高性能火花

AI时代的燃料—数据，正在呈井喷式爆发。

据统计，人类每天都会产生2.5 quintillion bytes（10的18次方）的数据，全世界数据总量的90%都是在过去两年内产生的。IDC预测，2025年全球产生的数据量将达到163ZB。可以说，数据存储和处理的效率决定了企业的AI竞争力和未来。虽然有研究者利用和内存作用相当类似的忆阻器来打造类神经网络处理机制，用以处理深度学习方面的工作，但相关技术毕竟还不成熟，多数还是处于实验室发展阶段。

创业公司InnoGrit推出了一组固态硬盘(ssd)控制器Tacoma，其中一个用于数据中心，该中心嵌入了一个神经网络加速器。InnoGrit表示已经拥有相对竞争对手的实力和性能优势。

随着NAND闪存价格出现触底迹象，这些芯片应运而生。OEM和数据中心预计将利用价格较低的优势，继续从笔记本电脑和服务器的硬盘存储转向需要性能、功率或尺寸优势的硬盘存储。

在数据中心，SSD的应用“正在快速发展，尤其是在去年价格下跌的情况下，” InnoGrit的董事长兼创始人吴子宁说。“当我们与数据中心的客户交谈时，他们所有的新设计都是基于Flash的。”

吴子宁是个华人，他在Marvell工作了17年之后，于2016年时创立InnoGrit，过去也曾在中国媒体中露面。当初他提过一个概念，就是过去存储负责的工作就是存储，而没有参与到计算工作，如果存储端本身就可以进行计算，那么就可以省去很多数据搬运的工作，大幅降低系统的带宽需求。

具体的概念，其实就是在把一批数据放进硬盘中时，若计算机需要在这堆数据中找出特定的内容，计算机自己就必须逐笔数据进行比对，找到符合需求的才捞出来显示或执行。而数据在这个过程中来来回回，就会产生很多的带宽消耗，如果，存储媒体本身就可以进行计算，那么计算机只要告诉存储媒体找出符合特定特征的数据，而其他的工作就交给具备计算功能的存储媒体来进行，由于搜索和比对都在本地端，不需要经过总线进行搬移比对，效率更高，对能耗也更节省。

在高端应用上，InnoGrit的Tacoma使用4个PCI Gen4接口来支持16个NAND通道，在低于5W峰值功率的情况下，提供高达150万个I/O/秒(IOPS)。它包括一个未命名的中层Arm核心，以及Nvidia的开源推理加速器NDLA来实现。

“有了这个组合，我们可以使用Nvidia提供的工具链进行智能处理，比如数据标签，或者客户可以安装他们自己的固件，”吴子宁说。由于数据中心的客户基本上目前开的新案子几乎都是基于闪存的设计，这也让他意识到，在存储设备中嵌入AI计算的思路将会具有庞大市场价值。

不过InnoGrit的概念其实已经被三星抢先一步，2018年秋天，三星发布了一款SSD，内置Xilinx Zynq FPGA，可以处理各种人工智能、数据库和视频应用程序。号称可以处理各种AI，数据库和视频应用的存内计算加速。另一方面，Phison电子和Marvell也都推出功能和InnoGrit类似的控制芯片组，不过与InnoGrit不同的是，这些公司的方案并没有强调内嵌AI计算能力。

Tacoma使用64+8位数据总线，以及DDR3/4和LPDDR3/4 DRAM，并提供AES-256、SHA3和ECC安全性。中间层Rainier控制器是该设计的一个迷你版本，支持8个NAND通道和32位和16位数据总线，用于低端服务器或高端笔记本电脑。

为了达成这个技术概念，吴子宁利用台积电的28nm，以及16/12nm FinFET制程打造了四组不同的控制器方案，支持的容量分别从2TB到最大32TB。此外，Rainier在峰值功率不足3W的情况下可提供多达100万个IOPS。Rainier和Tacoma都支持高达7GB/s的顺序读取和6.1GB/s的顺序写入。

吴表示，这款产品在几个指标上都领先于竞争对手。然而，在7月初，竞争对手台湾日升电子(Phison Electronics)宣布推出一款8通道SSD控制器，使用4条PCIe Gen 4链路。

而Marvell则宣布了三个SSD控制器，它们与InnoGrit的控制器大致相似。然而，它们都只支持4个NAND通道，而且它们没有指定任何硬件AI加速或峰值功率额定值。

在低端场景，InnoGrit的Shasta控制器是一个无DRAM的SoC，用于客户端系统的28-nm节点。它使用两个PCIe Gen3链路，在0.9 W峰值功率下提供高达250,000 IOPS。计划的升级将使用四个PCIe链路，在峰值功率高达1.35 W时将性能提高一倍。

所有芯片都支持现在的2D和3D NAND，达到QLC级别。这是一款低延迟芯片，他们还支持东芝的新型XL-Flash，但不支持竞争对手三星的Z-NAND。Tacoma控制器使用XL-Flash，读取延迟为10-μs。

这家风投支持的初创公司在中国大陆、台湾和美国都设有办事处，但他们声称与台湾SSD制造商InnoDisk没有关系。该公司已经完成了B轮融资，并包括将所有产品投入生产，但吴拒绝透露投资者的姓名，也拒绝透露已获得的融资金额。

 “有很多企业都在这个领域追逐，”Forward Insights的首席分析师Gregory Wong说道，他调查了大约40家控制器制造商，其中许多企业都是在中国。“它们应用于去年出货的2.15亿客户端和3000万服务器的SSD市场。” Wong估计，客户端控制器的售价仅为2美元，而服务器芯片价格可以扩展到15美元左右。“这是一个艰难的市场，”他指出，商家的目标是效仿Sandforce，是前LSI于2011年收购的一家初创企业。

Objective Analysis的首席分析师Jim Handy表示：“开发控制器的成本约为5000万美元，规模较小的固态硬盘公司负担不起这样的费用，但对于一家独立公司来说，生产可以向许多小企业销售的控制器非常有帮助。如果他们运气好的话，像英特尔，美光、西部数据/ SanDisk这样的大型SSD制造商会喜欢他们的控制器，并停止生产自己的控制器。” Wong表示NAND闪存的渠道价格已经上涨，预计OEM价格将在今年年底触底。

其实原本固态硬盘就具备相当庞大的算力，目的是为了要保护硬盘中的数据完整性，这些计算原本就是通过CPU和DSP来进行处理，如今额外增加神经网络计算能力其实也是相当合理的事情。而随着这类设计的逐渐普及，固态硬盘具备计算能力后可以创造出更多元的AI应用，虽然这类应用会先在服务器中进行尝试，但未来也有可能普及到一般计算环境的存储设备中，借以加速各种AI应用中的数据处理，并降低系统因子据传输所付出的额外功耗。