历史上的今天
返回首页

历史上的今天

今天是:2024年12月09日(星期一)

正在发生

2020年12月09日 | Habana Gaudi®加速器让AWS变得更聪明

2020-12-09 来源:EEWORLD

在近日举行的AWS re:Invent 2020(亚马逊 re:Invent 2020)大会上,AWS首席执行官Andy Jassy宣布了采用最多8个Habana® Gaudi®加速器的EC2实例。对于机器学习工作负载,这些全新EC2实例的性价比相较目前基于GPU的EC2实例提升高达40%1。Gaudi加速器专为训练深度学习模型而设计,适用于自然语言处理、对象检测和机器学习训练、分类、推荐以及个性化等工作负载。

 

“我们为AWS选择Habana Gaudi处理器用于其即将推出的EC2训练实例感到自豪。Habana团队期待继续与AWS展开合作,为客户持续提供确保连续性及先进性的产品路线图。”

– David Dahan,英特尔公司旗下Habana Labs首席执行官

 

重要性:作为全球领先的云服务提供商,AWS被全球各地的开发者用于训练其人工智能模型。然而,机器学习模型复杂程度的增加推升了训练所需的时间和成本,特别是在越来越多的数据可用、且开发者寻求改进其模型的情况下。基于Gaudi的EC2实例旨在通过交付高成本效益及高性能,并同时原生支持TensorFlow和PyTorch等通用框架,来满足这些需求。借助Habana的SynapseAI软件套件,开发者将能够轻松地构建新的训练模型或将现有训练模型从GPU移植到Gaudi加速器。

 

image.png?imageView2/2/w/550


英特尔的人工智能和XPU愿景:英特尔在2019年收购了Habana,并借此推进其人工智能战略,加强其面向云和数据中心的人工智能加速器产品组合。这包含一系列支持商业、社会及科研领域最具前景的人工智能应用场景的产品和技术。这也体现了公司面向提供全面的跨CPU、GPU、FPGA等的XPU架构并以此帮助客户和整个生态系统释放数据潜能的转型。

 

英特尔数据平台事业部首席战略官Remi El-Ouazzane表示:“我们的产品组合反应了人工智能并非是能用一种解决方案来满足所有场景的计算挑战。云服务提供商目前已广泛采用了内置人工智能性能的英特尔®至强®处理器来应对人工智能推理工作负载。通过Habana,我们现在得以帮助他们降低人工智能模型的大规模训练成本,在高增长的市场机遇中提供极富竞争力的替代选择。”


Habana Gaudi处理器为亚马逊 EC2客户带来低成本的人工智能训练体验


此外,随着公司计划引入以Gaudi为特色的新EC2实例进行深度学习训练,AWS将进一步降低AI数据集的训练成本,并降低希望利用AI提供业务分析、改善效率和增强用户体验的客户的运营总成本。

 

8卡的Gaudi 解决方案可以在TensorFlow上每秒处理12000张图像训练ResNet-50模型。每个Gaudi处理器集成了32GB的HBM2内存,并集成了用于服务器内部处理器互联的RoCE功能。凭借AWS弹性架构适配器(EFA)的技术可以跨服务器扩展,从而允许AWS及其客户无缝地扩展使用多个基于Gaudi的系统以实现高效和可扩展的分布式训练。

 

Habana的SynapseAI软件套件专为在Habana Gaudi处理器上提供高性能的深度学习训练,SynapseAI与TensorFlow和Pythorch等流行的深度学习框架集成,对Gaudi进行了优化。开发人员将可以获取开放的Gaudi软件、参考模型和文档。参考模型将在Habana的GitHub知识库中公开发布,并将包括各种流行的模型,如图像分类、对象检测、自然语言处理和推荐系统。SynapseAI软件套件包括Habana的图形编译器和实时Tensor Processor Core (TPC)内核库、固件和驱动程序,以及用于定制内核开发的TPC SDK和SynapseAI Profiler等开发工具。

 

Habana将在目前Gaudi效能基础上,推出下一代TSMC 7nm 的Gaudi2®,让AI训练应用和服务广大客户、数据科学家和研究人员。


推荐阅读

史海拾趣

AnDAPT__Inc.公司的发展小趣事

AnDAPT Inc.是一家专注于可编程电源管理解决方案的创新型公司。以下是关于该公司发展的相关故事:

  1. 公司成立与初期阶段:AnDAPT Inc.成立于2014年,总部位于美国加利福尼亚州圣何塞。公司的创始人之一是Raghunandan "Raghu" Anandan,他在可编程电源管理领域拥有丰富的经验和专业知识。公司成立之初,致力于开发一种新型的可编程电源管理解决方案,以满足日益复杂和多样化的电子设备对电源管理的需求。

  2. 技术创新与产品开发:AnDAPT Inc.在其成立初期即开始着手开发基于可编程电源管理技术的解决方案。公司团队结合了数字信号处理(DSP)和模拟电路设计等领域的专业知识,不断推动技术创新和产品开发。他们的主要产品是基于可编程电源管理器件的芯片,能够根据应用需求动态调整电源管理参数,提供高效、灵活和智能的电源解决方案。

  3. 市场拓展与合作伙伴关系:随着公司技术的不断成熟和产品的不断推出,AnDAPT Inc.开始加大对市场的拓展力度。公司与电子设备制造商、系统集成商以及电源管理解决方案提供商建立了紧密的合作关系,共同推动可编程电源管理技术的应用和推广。通过与行业领先的合作伙伴进行合作,AnDAPT Inc.不断拓展产品的应用领域和市场份额。

  4. 技术认证与市场认可:AnDAPT Inc.的产品经过严格的技术认证和市场测试,在业界获得了良好的口碑和市场认可。公司的可编程电源管理解决方案被广泛应用于各种电子设备,包括消费类电子产品、工业自动化设备、汽车电子系统等。其技术创新和产品性能得到了行业专家和客户的一致好评。

  5. 持续发展与未来展望:作为一家专注于可编程电源管理技术的创新型公司,AnDAPT Inc.将继续致力于技术创新和产品开发。公司将不断推出新的产品和解决方案,满足客户不断变化的需求,并积极参与行业标准的制定和技术进步的推动。在未来,AnDAPT Inc.将继续保持敏锐的市场洞察力和技术领先地位,助力客户实现产品创新和市场竞争优势。

Ava Electronics Corp公司的发展小趣事

随着产品线的不断丰富和技术的不断进步,AVA电子开始将目光投向更广阔的市场。公司积极参加各类行业展会和论坛,与国内外客户建立了广泛的联系。同时,AVA电子还加大了品牌建设的力度,通过广告宣传、品牌推广等方式提高了品牌的知名度和美誉度。这些举措不仅有效提升了公司的市场份额,也为公司的长远发展奠定了坚实的基础。

High Voltage Semiconductor Inc公司的发展小趣事

面对日益激烈的市场竞争和不断变化的市场需求,美高测始终保持着对技术创新的执着追求。公司不断投入研发资源,探索新的测试技术和应用场景,如微电网、新能源汽车等领域的高压半导体测试。同时,美高测还积极构建开放式的创新生态体系,与众多合作伙伴共同推动行业的进步和发展。通过这些努力,美高测在高压半导体测试领域持续保持着领先地位,为电子行业的未来发展贡献着重要力量。

Compound Photonics公司的发展小趣事

在Micro LED领域,Compound Photonics同样展现出了强大的实力。公司曾与Plessey合作开发Micro LED产品,双方的合作一度被业界看好。然而,就在合作即将取得突破时,Meta公司突然出手收购了Plessey的产能,使得Compound Photonics失去了一个重要的合作伙伴。面对这一突如其来的竞争压力,Compound Photonics不得不重新调整战略,寻找新的合作伙伴。

Altera (Intel)公司的发展小趣事

在Micro LED领域,Compound Photonics同样展现出了强大的实力。公司曾与Plessey合作开发Micro LED产品,双方的合作一度被业界看好。然而,就在合作即将取得突破时,Meta公司突然出手收购了Plessey的产能,使得Compound Photonics失去了一个重要的合作伙伴。面对这一突如其来的竞争压力,Compound Photonics不得不重新调整战略,寻找新的合作伙伴。

台湾岱恩(DAIN)公司的发展小趣事

尽管在Micro LED领域遭遇了挫折,但Compound Photonics并没有因此沉沦。相反,公司凭借其在LCoS领域的深厚技术积累和良好的市场口碑,吸引了众多潜在合作伙伴的关注。其中,Snap公司表现出了强烈的收购意向。这一消息传出后,Compound Photonics的市场价值得到了进一步提升,公司的发展前景也变得更加广阔。

这五个故事展示了Compound Photonics公司在电子行业里发展起来的一些关键节点和重大事件。从收购Syntax-Brillian开启微显示领域之路,到微投显示模组项目失利后转向LCoS方向,再到成为业内知名LCoS方案商并与Lumus合作,以及与Plessey合作开发Micro LED产品遭遇Meta竞争,最后到Snap的收购意向,每一个故事都反映了公司在不同阶段的挑战与机遇。通过这些故事,我们可以看到Compound Photonics公司在电子行业里不断进取、创新发展的精神风貌。

问答坊 | AI 解惑

C8051Fxxx高速SOC单片机原理及应用

C8051Fxxx高速SOC单片机原理及应用…

查看全部问答>

再见了,可恶的漏气误报

在04年刚刚毕业时,有幸进入了TPMS行业,和几个同时兴致勃勃的干了起来,当时并不知道TPMS是个什么东西,也不会象现在这样对行业有什么研究,只知道把工作做好,拿到应得的工资,但也是拉开了大干一场的架势,毕竟刚毕业,对技术也是很有神秘感,特 ...…

查看全部问答>

一个MCU能否同时驱动两块LCD?

一个带LCD驱动的MCU. 我想用这个MCU驱动同样的LCD两块. 在电路中就是将两块同样的LCD并联在MCU的LCD驱动口. seg/com口上. 请问这样是否可以?…

查看全部问答>

我想学习linux下电源管理,有没有前人知道acpi方面的资料,能全面点的最好

我想学习linux下电源管理,有没有前人知道acpi方面的资料,能全面点的最好啊…

查看全部问答>

商业用嵌入式以太网协议栈有哪些????

好像lwip和ulP都是开源的据说不可靠,那么商业用嵌入式以太网协议栈有哪些????…

查看全部问答>

哪位高手用DSP做过RF24L01的收发 求助啊

本人新手 题目是基本上就是用DSP控制无线模块nRF24L01 再用DSP实现算法 报警之类的,问哪位高手曾经做过这个,一起交流一下。QQ:13792650…

查看全部问答>

stm32f107以太网PING大包死掉

如题:当ping 1000字节包的时候是正常的,当ping 10000字节包的时候,以太网死掉,此时ping 32字节的包也ping不通,我找到底层程序内的定义,最大包长为1500字节,但我能不能不改这个数,ping 10000字节包的时候ping不通过,但我通过ping通1500之内 ...…

查看全部问答>

求解:AMS1117-3.3v输出居然接近等于输入!

原理图如下: 修改: LED灯前的电阻换成10K  1K的会烧坏LED 测试结果: 输入:(平均)8.2V  实际在Vin端只有7.8V左右 也可能是表的误差  最低为7.1V 输出:5.85~6.16V    检验:1、芯片输出脚与输 ...…

查看全部问答>

求助:CCS5.2怎么通过点小锤子就能修改编译模式

最近在使用CCS5.2玩28069,发现CCS5.2的小锤子可以选RAM模式和Flash模式,在C2000 Launchpad的例程里找到了这样的用法,但是自己新建的工程怎么也弄不成,有没有弄过的说一下怎么配置的!…

查看全部问答>

2013年电赛全国奖评审--复测名单 --D题

本帖最后由 paulhyde 于 2014-9-15 03:06 编辑 2013年电赛全国奖评审--复测名单 --D题 [ 本帖最后由 lmx 于 2013-9-22 23:48 编辑 ]    …

查看全部问答>