历史上的今天
返回首页

历史上的今天

今天是:2025年07月30日(星期三)

正在发生

2021年07月30日 | 美光针对现代数据中心推出的最快内存 —— HBM2E

2021-07-30 来源:EEWORLD

作者:美光全球显存业务主管 Bill Randolph


image.png?imageView2/2/w/550

数据中心在不断发展,以解决快速高效地存储、移动和分析数据时所面临的挑战。在很大程度上,其不断发展是由如下所示的四种高性能应用趋势所推动的。


传统的游戏和专业视觉应用主要集中在个人电脑领域,采用快速 GDDR 内存。但随着人工智能(AI)训练和推理以及高性能计算的出现,数据中心越来越多地使用速度最快的内存,即高带宽内存(HBM)。这些领域的应用架构师需要找到尽可能高的带宽。


让我们花点时间思考一下原因。究其原因就是数据,海量的数据!


image.png?imageView2/2/w/550

数据正在不断加速增长。据IDC《2021年全球数据圈(Global Datasphere 2021)》报告,2018年全球数据总量为 36 泽字节,2020 年增长至 64 泽字节,2024 年将继续增长至 146 泽字节。


AI、深度学习、机器学习离不开海量数据。在实现智能方面,AI 是游戏规则的改变者,能够带来超越人类主导发现的新洞察。过去我们为计算基础设施编写程序,而如今我们可以利用海量数据来对它们进行训练,从而服务于智能农业、个性化教育和精准医疗等广泛领域。


美光提供 GDDR 和 HBM 等超带宽解决方案,赋能分析引擎,帮助训练下一波 AI 算法。例如,一个拥有超过 13 亿个参数的 AI 模型无法放入单个 GPU(即使是拥有 32GB 内存)中。因此,扩展内存容量可以让更大的模型/更多的参数留在离核心计算更近的地方。通过增加带宽和容量,减少内存和存储解决方案带来的延迟,我们正在加速实现洞察,帮助客户获得更大的竞争优势。


基于加速器的多组件异构方法


为了应对数据密集型工作负载和应用程序的增长以及不断演变的应用场景和新的业务机会,数据中心的基础设施正在重新被定义。数据中心传统上是以 CPU 为中心的,通过使用内存(如 DDR4)和存储(如 SSD)来处理数据。随着 AI 等现代应用场景和工作负载的出现,这种传统架构已经成为无法让 CPU 以所需的高性能速度运行的瓶颈。


为解决这种越来越大的性能差距问题,现在的方法是采用专用硬件来解放 CPU 的某些功能。这种基于加速器的新计算模式正逐渐成为异构数据中心发展的关键所在。现代数据中心的新架构部署了各种组件,分别侧重于提供特定功能或者处理不同类型和格式的数据,从而显著提高整个系统的速度和性能。


对于那些使用 DDR4(很快将是 DDR5)计算内存的传统 CPU,我们添加了用于加速的GPU,以及用于其他功能的 FPGA 和 ASIC。现代数据中心可以使用这些不同的计算功能,而且,使用不同类型的内存对于满足处理各种工作负载所需的高性能也是不可或缺的。


这就是 HBM 出现的原因——它使得性能更上层楼。Micron HBM2E 是最新一代的HBM,也是我们最快的 DRAM,让我们能够为客户带来更好的洞察力。


image.png?imageView2/2/w/550

HBM2E:超带宽解决方案中的明星


美光凭借不断发展的内存解决方案而引领市场,并通过满足新兴市场应用不断变化的需求,从而改变世界。


HBM2E 使用硅通孔(TSV)通道来构建垂直堆叠的 DRAM。(详细信息请参阅美光技术简报“集成并使用HBM2E内存”。)美光研发堆叠 DRAM 已有 20 年的历史,在此过程中获得了数千项专利。(美光研发主管 Akshay Singh 的文章“堆叠硅奇迹”中有更详细的阐述。)在未来的堆叠式 DRAM 创新研究中,我们计划开发新产品,以满足更多数据密集型工作负载的高性能和低功耗需求。


image.png?imageView2/2/w/550

美光用于 HBM2E 的垂直堆叠 DRAM,并通过硅通孔(TSV)通道连接各层


高带宽内存的架构被寄望于满足业界对于带宽、功耗和外形尺寸方面的需求。它现在是 AI 行业标准内存解决方案,广泛应用于数据中心。HBM2E 是 HBM 系列产品的第三项标准: HBM1、HBM2 和现在 HBM2E。HBM2E 提供了非常宽的多通道 I/O——即 1,024 位宽,并且拥有非常短的物理通道。关键是它在极小的尺寸上实现了极高的内存密度。


HBM2E 位于非常靠近 GPU 或者 CPU 的中介层上,通常被放置在同一个封装或者散热机箱中。HBM2E 具有极宽的 I/O 总线和更高的密度,为现代数据中心基于加速器的计算模式提供了所需的高性能和高能效。


关于数据中心加速器内存产品线和美光高性能内存的逐项比较,请参阅白皮书“超带宽解决方案的需求”中的表 1。HBM2E 更强的 I/O 性能、带宽和能效使其成为美光超带宽解决方案产品线的基石。


总结


随着高性能应用需求推动着下一代系统架构和异构数据中心的发展,美光 HBM2E 内存和超带宽解决方案提供了关键的内存和先进的系统性能,从而帮助将数据转化为洞察。如需更多资料,欢迎点击micron.com/hbm2e。


image.png?imageView2/2/w/550

Bill Randolph


Bill Randolph 现任美光全球显存业务总监,负责业务开发,职责包括发展美光合作伙伴业务,重点是用于游戏机和高端图形市场的美光高速内存解决方案产品线。


Bill 在美光任职 10 余年,曾在生态系统发展部和消费类/图形业务开发部担任过多种职务。他于 1990 年进入 DRAM 行业,之前曾在三菱和奇梦达从事过设计、开发中心管理和销售等工作。Bill 拥有美国佛罗里达州立大学的电气工程学士学位,以及乔治亚理工大学的电气工程硕士学位。

推荐阅读

史海拾趣

FSP [FSP TECHNOLOGY INC.]公司的发展小趣事

FSP TECHNOLOGY INC. 发展故事集

故事一:创立与初期发展

FSP Technology Inc.(全汉企业股份有限公司)成立于1993年,总部位于台湾。在创立之初,公司便专注于电源供应器的研发与生产,凭借其专业的技术团队和敏锐的市场洞察力,迅速在行业中崭露头角。当时,随着计算机技术的飞速发展,对稳定、高效的电源需求日益增长,FSP抓住了这一机遇,专注于提供高品质的电源产品,赢得了市场的初步认可。公司通过不断优化产品设计和提升生产效率,逐渐建立起一定的市场份额和品牌影响力。

故事二:技术创新与品牌拓展

进入21世纪后,FSP Technology加大了技术创新的投入,致力于研发更加高效、环保的电源解决方案。公司先后推出了多款符合国际能效标准的产品,如80 PLUS认证系列电源,这些产品凭借其出色的性能和稳定的品质,在市场上获得了广泛好评。同时,FSP也积极拓展国际市场,通过参加国际展会、建立海外销售网络等方式,将品牌和产品推向全球。这一时期,FSP的品牌知名度和市场占有率均实现了显著提升。

故事三:ODM/OEM业务的蓬勃发展

随着全球电子产业链的分工日益细化,FSP Technology积极调整业务结构,大力发展ODM/OEM业务。公司凭借强大的研发实力和灵活的生产能力,为众多国际知名品牌提供定制化的电源解决方案。这些合作不仅丰富了FSP的产品线,也进一步提升了公司的技术水平和市场竞争力。同时,通过与国际品牌的深度合作,FSP的品牌影响力也得到了进一步扩大。

故事四:绿色能源解决方案的推广

近年来,随着全球对环保和可持续发展的重视,FSP Technology积极响应时代号召,致力于推广绿色能源解决方案。公司结合自身的技术优势,开发了一系列高效、节能的电源产品,广泛应用于数据中心、通信基站、智能家居等领域。这些产品不仅降低了客户的运营成本,也为全球节能减排事业做出了积极贡献。FSP的绿色能源解决方案得到了市场的广泛认可,进一步巩固了其在行业中的领先地位。

故事五:持续研发与未来展望

面对日益激烈的市场竞争和不断变化的客户需求,FSP Technology始终保持对技术创新的热情与追求。公司不断加大研发投入,积极探索新的技术和应用领域,如边缘计算、5G通信、工业互联网等。同时,FSP也密切关注行业动态和市场趋势,灵活调整战略方向,确保在未来的发展中始终保持领先地位。展望未来,FSP将继续秉承“服务、专业、创新”的经营理念,为全球客户提供更加优质、高效的电源解决方案。

德芯半导体(Doeshare)公司的发展小趣事

德芯半导体自成立以来,就致力于半导体技术的研发与创新。公司拥有一支由电子学材料学博士、硕士和教授组成的专家团队,他们不断在半导体MEMS技术上取得突破。这些技术创新不仅推动了产品的发展,还使德芯半导体在智能家居、智能制造等领域的应用中取得了显著的成绩。公司通过与国内外先进企业的合作,采用OEM的合作方式,委托完成关键的工序工艺,确保了产品的高品质。

APM Hexseal公司的发展小趣事

APM Hexseal一直致力于技术的持续创新和突破。公司不仅开发了可重复使用的自密封紧固件和垫圈等创新产品,还不断提升其产品的性能和可靠性。这些创新不仅满足了电子行业对密封解决方案的更高要求,也为APM Hexseal在激烈的市场竞争中保持了领先地位。

这些故事只是APM Hexseal在电子行业中发展起来的冰山一角。然而,正是这些故事所展现的创新精神、卓越品质和市场洞察能力,使得APM Hexseal能够在电子行业中脱颖而出,成为一家备受尊敬的企业。

BITECH公司的发展小趣事

在军队取得初步成功后,APM Hexseal的产品开始进入工业和商业市场。其硅胶密封套系列可与世界各地使用的绝大多数开关、断路器、编码器、电位计和其他旋转设备配合使用,得到了广泛的认可和应用。无论是航空电子、仪器仪表、通讯还是建筑、船舶、医疗等行业,APM Hexseal的产品都发挥着重要的作用。

Compostar Technology Co Ltd公司的发展小趣事

品质是公司发展的基石。Compostar Technology Co Ltd始终坚持严格的品质管理,从原材料采购到生产过程的每一个环节都进行严格的把控。同时,公司还注重品牌建设,通过统一的品牌形象和宣传策略,不断提升品牌知名度和美誉度。这些举措使得公司在激烈的市场竞争中始终保持领先地位。

CST Master Electronic Co Ltd公司的发展小趣事

随着市场的不断发展,CST Master意识到只有不断创新才能在激烈的竞争中立足。公司投入大量资源用于研发,积极探索新技术、新工艺和新材料。经过多次试验和失败,团队终于取得了一项重要的技术突破,推出了一款具有行业领先水平的新产品,赢得了客户的广泛认可。

问答坊 | AI 解惑

利用滑动开关来提升汽车设计的灵活性

在现代汽车市场,大多数车门弹簧锁系统都采用快动微型开关来管理诸如自动锁车、门铃、顶灯之类的车身功能,并为CPU控制各种功能提供锁定或状态锁定信号。 这些开关正日益被结合到铸模电子元器件载具中,其中的冲模金属引线框具有一个注模塑料框(EC ...…

查看全部问答>

常用焊接的一些知识经验

一下内容是转载的,出处我记不清了 常见锡焊接的一些常识和经验    由于焊接和实际操作经验、习惯有很大关系,下面的一些描述都是我根据自己的操作习惯而作的一些泛泛之谈,希望给大家一些启发,关键还是要自己不断的动手练习,毕竟方法 ...…

查看全部问答>

急求1581资料以及应用论文

各位大虾好~ 因毕设用到1581PARK,对其不是很了解,希望有好心人可以给我其相关的详细资料,或是告诉我哪里可以找到? 如果能求到应用了 USB .1581的波形数据采集系统的论文更好,期待您的帮助~~! 谢过各位~…

查看全部问答>

运行正常,调试出错?

奇怪的现象, build成功后,在命令行下(CONSOLE程序)运行,没有问题,可是在vs2005中用F10(step over)调试,却遇到问题: 无法打开文件。 代码如下: int _tmain(int argc, TCHAR *argv[]) { ...         bMutex=Cr ...…

查看全部问答>

S3C2450,6410自动升级问题

如题,大家在做自动升级时是如何在显示屏上显示正在升级的信息的? 如升级Eboot,NK,在LCD上提示升级Eboot成功,升级NK成功? 有没有采用这个库的? E:\\WINCE500\\PLATFORM\\SMDK2450\\lib\\ARMV4I\\retail\\LcdDraw_lib.lib …

查看全部问答>

str755JLINK不能通信

在JLINK 中通信报错:Could not find supported CPU core on JTAG chainBad JTAG communication:Write to IR: Expected 0x1, got 0x7 (TAP C ...…

查看全部问答>

控制类要准备哪些模块小程序?

本帖最后由 paulhyde 于 2014-9-15 09:08 编辑 马上就要比赛了 在准备软件的小模块 大家都说说 都要准备些什么小模块程序呢(控制类的哦)  …

查看全部问答>

Red hat linux9 启动GCC

请教 Red hat linux9  环境下如何启动 GCC 呢?我的开始菜单里  没有GCC 但是我安装了LINUX自带的GCC工具了 不知道从哪个地方启动GCC  或者需要一些设置  才能启动GCC 呢?…

查看全部问答>

CLA——TI数字电源库

CLA——TI数字电源库…

查看全部问答>

需要传感器

需要500N拉压传感器,用来测量往复运动体的摩擦力,往复频率为50 hz,邮箱yttpyttp@126.com…

查看全部问答>