2021年06月06日 | 参加世界智能大会，Graphcore要传递哪些信息

今年已经是Graphcore连续第二年参加世界智能大会了。

在本次大会上，Graphcore联合创始人兼CEO Nigel Toon受邀通过视频发表了以“IPU驱动智能计算，开创智能新格局”为主题的演讲。Graphcore高级副总裁兼中国区总经理卢涛参加了第三届工业互联网之智能网联汽车产城人文协同发展论坛的高峰对话环节，并多次与合作伙伴及政府机构洽谈，接受媒体采访等。在大会同期举办的展会上，Graphcore展台被装饰成“网红打卡点”，并率先在公开场合首次展示了IPU-M2000机器智能刀片式计算单元，并且举办了多场次展台演讲。

这么紧密且丰富的活动安排，也透露出Graphcore对于AI，对于中国市场的重视及承诺。

AI产业的革命

Toon和他的老伙伴Simon Knowles 2011年将Icera卖给了NVIDIA，彼时智能手机的浪潮刚刚开启，黄仁勋希望借助整合Icera的基带技术，将NVIDIA触角伸向移动领域，但是最后很遗憾并没有成功。Toon与Knowles在2016年成立Graphcore之时，NVIDIA已经成为AI市场的领军企业之一，NVIDIA密集发布了全线AI GPU 芯片、系统、软件和服务，公司定位也转向成为“世界上伟大的AI公司之一”。

如今五年过去，NVIDIA在AI芯片界已然成为了绝对的霸主，但是也有着众多的挑战者，Graphcore就是其中之一，留给Graphcore等小公司的机会还有多少呢？Toon在主题演讲中表示：“五年前，当我与Knowles共同创立Graphcore时，我们看到世界正处于技术驱动转型的边缘，在医学、物理学和气候研究等领域，AI实现新突破的可能性巨大。而传统的处理器架构的能力已经达到了极限，新型的计算需要一种新型的处理器。于是，我们从芯片到系统，构建了这种新型的处理器。”

Graphcore的智能处理器（IPU）是为满足AI需求而专门设计的，具有1,472个真正独立的处理器内核，以及在硅片上具有近千兆字节的超高速存储。Graphcore的数据中心系统使客户能够轻松地纵向和横向扩展其IPU计算规模，从单个IPU到多达数以千计的IPU，具有百亿亿级计算能力的潜力。卢涛具体解释道，IPU和GPU相比，具有两个最大的差异，首先是处理器内核更多，更擅长做并行处理。其次，是内存架构不一样，片上有900MB的片内存储，而GPU大概只有几十MB。对于LSTM和RNN等需要频繁内存读写的计算来讲，IPU比GPU更具优势。

“随着AI模型的规模和复杂性逐步升级，最终决定了此种规模的系统是必不可少的。这就是为什么我们需要更高效的AI计算能力，也是为什么客户转向Graphcore的原因。但IPU不仅于此，IPU不仅只加速当今的AI工作负载，它还是一种高度灵活的处理器，旨在运行利用稀疏计算等技术的下一代模型。”Toon说道。

不止于IPU

在Graphcore推出第一代IPU时，采用了和第三方联合开发的形式，推出了以加速卡为主的产品。而第二代IPU则是直接以1U即插即用的刀片式计算单元方式呈现，集成了4颗MK2 IPU，可提供1 petaFLOPS AI计算。该产品具备易于扩展的灵活性和突出的易用性，可以根据工作负载需求，和戴尔、浪潮等服务器OEM厂商所提供的、经Graphcore认证的主机服务器以灵活的比例构成IPU-POD系统，如IPU-POD4、IPU-POD16和IPU-POD64等。

对此，卢涛表示，产业链涉及的环节越多，整个产品落地时间就会越长。为了缩短产品开发周期，采用标准1U结构可以更好地交付到用户手中。

Graphcore高级副总裁兼中国区总经理 卢涛

根据卢涛的介绍，Graphcore第一代产品比NVIDIA的V100晚了18个月发布，第二代产品只晚了两个月。“半导体在过去几十年很重要的一个产品和商业逻辑，就是要保持稳定且高效的迭代速度。”卢涛说道。

软件是AI的最大护城河

“如果一个做AI处理器的公司没有意识到软件的重要性，将会是一个很严重的问题。”卢涛说道。从软件层次化方面，Graphcore和NVIDIA比较类似。比如对应CUDA的有Poplar；对应cuDNN、cuBLAS是PopLibs；再往上面包括对于TensorFlow、PyTorch等都提供支持。

“软件是GPU最大的护城河，也是用户从GPU迁移到别的平台的最大阻力。我们最近也在做一些工作，希望能够尽量降低用户的移植工作量。在这一过程中，TensorFlow、PyTorch这些平台型的软件帮助很大。对于TensorFlow或者PyTorch的用户来说，他们对底层硬件的感知不是那么明显。很多AI算法科学家可能都不知道也不关心底层用的是GPU还是CPU。TensorFlow、PyTorch等一些类似的工具软件从某种意义上对于帮助我们缩短同GPU生态的距离很重要。”卢涛表示，开放、开源及拥抱社区是Graphcore当前软件方面的策略。

目前Graphcore在中国将近40人的团队中，有一半以上从事软件相关工作。据卢涛透露，公司已经于4月份决定，在未来12-18个月内，在中国打造一支超过两百人的软件团队，围绕框架、算法等工作。

Graphcore的中国团队在很短的时间内，就已经做出诸多成绩，无论是水平还是执行力都得到了公司层面的认可。目前中国团队的成绩包括，支持阿里巴巴的HALO，支持微软亚洲研究院的深度神经网络编译器NNFusion，并且加入了百度的飞桨硬件生态联盟，在该生态联盟中，Graphcore将同百度推广新的AI应用程序，并帮助建立行业标准。

卢涛总结道：“我们认为目前的瓶颈就是生态，建立生态是一个需要长期投入和努力的事情，我们现在还是一个比较新的公司，建立生态不是一蹴而就的，我们正在不停地加大这方面的投入。”

应用广泛落地

根据Graphcore的实测，对比NVIDIA的数据并不差，但Graphcore经过最近一轮融资后，尽管估值已经上升到接近30亿美元，相对NVIDIA 4000多亿美元的估值来说，相距甚远。

对此，卢涛也是深有感触。“当我们与客户接触后，客户首先会对我们的产品性能感到惊讶，但之后就会怀疑我们的产品是否具有普适性，从GPU移植过来是否简便。”

但也正是客户的不确定性，促使Graphcore不断加码产品的创新。目前Graphcore的产品已经得到了诸多商用，包括针对云计算领域的搜索引擎、信息流的推荐；针对智能零售；新药研发；蛋白质合成、折叠等等领域都有Graphcore的身影。

值得一提的是，目前Graphcore在自动驾驶领域的一些项目上“已经有了进展”。卢涛表示，自动驾驶技术很多传感器相关算法由于时延等原因，都需要在本地执行，目前Graphcore正在同潜在合作伙伴进行相应的技术评估和论证。结合Graphcore在低时延，高速处理，低功耗以及稀疏化矩阵处理等方面的优势，实现更好的点云图处理。

针对目前几大互联网厂商都在投身于芯片产业，卢涛也明确表示这并不会对Graphcore的业务带来冲击。“首先企业在做选择时还是要看产品和服务，其次，战略投资和业务实践可能还有一定距离。因此核心竞争力还是在产品本身。”

仰望星空与脚踏实地

如今，AI的应用已经非常场景化、具体化。从汽车到金融再到互联网，每个领域所涉及的应用完全不同。卢涛总结道：“我们既要仰望星空，但是更要脚踏实地。一般而言，我们会在某一个垂直领域找一两家头部合作企业，先把相关的行业Know-How建立起来，落实典型案例之后，再‘以点带面’地铺开。”

Graphcore的中文名字是“拟未”，对于名字的含义，卢涛解释道：“其含义就是共同定义并建立未来，我们希望构建一个先进的计算平台，帮助创新者实现下一个突破，我们一直做的就是面向未来的事情。”