四年,AI性能提升17倍!英特尔至强6在最新MLPerf测试中成绩亮眼
2024-08-30 来源:EEWORLD
最新MLPerf基准测试展示了英特尔至强处理器在AI推理和通用AI工作负载上的优势。
最新发布:近日,MLCommons发布了其行业标准AI性能基准套件MLPerf推理v4.1的结果。英特尔提交了第五代英特尔® 至强® 可扩展处理器的六项MLPerf基准测试结果,并首次提交了英特尔® 至强® 6处理器性能核(P核)的结果。与第五代至强处理器相比,英特尔至强6性能核处理器实现了AI性能的几何平均值约1.9倍的提升。
“最新MLPerf结果表明,持续的投入和资源配置对于提高AI性能至关重要。纵观MLPerf的测试结果,过去四年,英特尔至强处理器的AI性能提升了高达17倍之多。步入今年下半年,随着至强6处理器具备广泛可应用性时,我们期待能与客户、合作伙伴一道持续加速其出货和市场应用。”
-Pallavi Mahajan,英特尔公司副总裁兼数据中心与人工智能软件总经理
重要意义:AI系统在跨多种场景的解决方案的顺利部署,都离不开CPU这一关键的硬件。英特尔至强处理器为AI推理提供了出色的解决方案,包括经典的机器学习和向量搜索嵌入。
在MLPerf推理v4.1中,英特尔提交了第五代英特尔至强处理器和至强6能效核处理器在ResNet50、RetinaNet、3DUNet、BERT、DLRM v2和GPT-J上的结果。与第五代英特尔至强相比,至强6在这六个基准测试中展现出平均约1.9倍的AI推理性能提升。英特尔仍是唯一向MLPerf提交CPU结果的服务器处理器供应商。
自四年前首次提交MLPerf结果以来,英特尔CPU的AI性能表现具备显著提升。与2021年发布的第三代英特尔® 至强® 可扩展处理器相比,至强6在自然语言处理(BERT)上的性能提升高达17倍,在计算机视觉(ResNet50)工作负载上的性能提升高达15倍。英特尔将持续推进AI在CPU路线图中的进展。例如,通过新的数据类型和效率提升,继续推进英特尔® 高级矩阵扩展 (AMX) 创新。
支持AI客户:最新的MLCommons基准测试突显了至强处理器正在为OEM厂商提供强大的CPU AI服务器解决方案。随着AI计算需求的增长,且诸多客户同时运行AI和企业工作负载,OEM厂商正在优先考虑通过提交MLPerf的方式,彰显其向客户提供的、搭载至强处理器的系统具备高性能且针对AI工作负载而优化。
英特尔在本轮MLPerf中支持了思科、戴尔科技、慧与、广达和超微五个OEM合作伙伴分别提交的测试结果。每个客户都提交了使用第五代至强可扩展处理器的MLPerf结果,展示了其系统对各种AI工作负载和部署的支持。
后续进展:英特尔将在9月的发布会上带来更多英特尔至强6性能核处理器的信息。
- 高通发布 Networking Pro A7 Elite 无线网络平台:Wi-Fi 7、33Gbps、40TOPS NPU
- 全新英特尔酷睿Ultra处理器为AI PC时代带来开创性卓越性能和非凡效率
- 5G标准必要专利小米中国第三!仅次于华为中兴
- 比科奇澎湃中国芯赋能首款全国产5G无线云网络和移动通信服务创新
- 英特尔AI技术创新应用闪耀巴黎奥运会
- 新的 MathWorks 支持从 MATLAB 和 Simulink 模型到高通 Hexagon 神经处理单元架构的自动化代码生成
- 消息称苹果首款自研 5G 芯片将有“短板”:不支持毫米波
- 高通推出全新骁龙X Plus 8核平台,将性能领先力扩展至更多Windows 11 AI+ PC用户
- 如何打造高性价比的数据中心?
- 意法半导体与高通达成无线物联网战略合作,首批产品预计明年 Q1 供货