历史上的今天
返回首页

历史上的今天

今天是:2025年04月12日(星期六)

2018年04月12日 | MathWorks 宣布 MATLAB 与 NVIDIA TensorRT 集成来加快人工智能应用

2018-04-12 来源:21IC中国电子网

MathWorks于2018年4月11日宣布 ,MATLAB 现在可通过 GPU Coder 实现与 NVIDIA TensorRT 集成。这可以帮助工程师和科学家们在 MATLAB 中开发新的人工智能和深度学习模型,且可确保性能和效率满足数据中心、嵌入式应用和汽车应用不断增长的需求。



MATLAB 提供了一个完整的工作流程来快速训练、验证和部署深度学习模型。工程师可以使用 GPU 资源,而无需额外编程操作,因此可以专注于应用本身而不是性能调优。


NVIDIA TensorRT 与 GPU Coder 的全新集成使得可以在 MATLAB 中开发深度学习模型,然后以高吞吐量低延迟的方式部署在 NVIDIA GPU 上运行。内部基准测试显示,MATLAB 生成的CUDA代码与 TensorRT 结合,在部署 Alexnet模型进行深度学习推理时,性能比 TensorFlow 高 5 倍;在部署 VGG-16 模型进行深度学习推理时,性能比 TensorFlow 高 1.25 倍。


“不断发展的图像、语音、传感器和物联网 (IoT) 技术促使团队以更好的性能和效率研究人工智能解决方案。此外,深度学习模型变得越来越复杂。所有这些都给工程师们带来了巨大的压力,” MathWorks 总监 David Rich 说。“现在,团队可以使用 MATLAB 训练深度学习模型,NVIDIA GPU 可以将实时推理部署到从云端到数据中心到嵌入式边界设备等各种环境中。”


* 所有基准测试均在一台使用 NVIDIA TITAN Xp GPU、64GB RAM 的 Linux 12 core Intel® Xeon® E5-1650 v3 电脑上运行,使用的软件包括带 GPU Coder 的 MATLAB R2018a、TensorRT 3.0.1、TensorFlow 1.6.0、CUDA 9.0 和 cuDNN 7。


对比 NVIDIA GPU 上的 TensorFlow,该集成使深度学习推理速度快 5 倍。

推荐阅读

史海拾趣

DAPAudio公司的发展小趣事

随着数字化和智能化的快速发展,音频处理行业也面临着巨大的变革。DAPAudio积极应对这一变革,不断推出适应市场需求的新产品和技术。通过与科技公司、高校和研究机构的合作,DAPAudio在人工智能、物联网等新兴领域取得了重要突破,为公司未来的发展奠定了坚实的基础。

Block USA Inc.公司的发展小趣事

Block USA Inc.最初以其线下支付业务Square在电子支付领域崭露头角。公司创始人杰克·多尔西洞察到小型商户在支付处理方面的需求,并推出了简单易用的磁条卡读卡器Square Reader。这一创新产品迅速受到市场欢迎,帮助无数小型企业和个体经营者实现了便捷、安全的电子支付。随着Square品牌的知名度不断提升,Block逐渐在支付领域建立了坚实的地位。

申风(everanalog)公司的发展小趣事

随着技术实力的不断提升和产品线的日益丰富,申风(everanalog)公司开始积极拓展市场。公司凭借优质的产品和服务,逐渐在国内市场上树立了良好的品牌形象。同时,公司也积极开展国际合作,与国际知名企业建立了战略合作关系,共同推动集成电路产业的发展。这些合作不仅为公司带来了更多的商业机会,也提升了公司在国际市场上的竞争力。

Acmelux Taiwan Inc公司的发展小趣事

在电子产品市场竞争激烈的今天,品质成为企业生存和发展的关键。Acmelux Taiwan Inc公司始终坚持品质至上的原则,从原材料采购、生产制造到产品测试,每一个环节都严格把关,确保产品的稳定性和可靠性。正是这种对品质的执着追求,使得Acmelux的产品在市场上赢得了良好的口碑,成为众多客户的首选品牌。

Accelink Technologies Co Ltd公司的发展小趣事

在追求经济效益的同时,Acmelux Taiwan Inc公司也积极履行社会责任,致力于实现可持续发展。公司不仅关注环保和节能减排,还积极参与公益事业,为社会做出贡献。通过实施绿色生产、推广环保产品等措施,Acmelux不仅降低了生产成本,还提升了企业的社会形象。同时,公司还注重与社会的和谐发展,通过捐资助学、扶贫济困等方式,回馈社会,实现了经济效益与社会效益的双赢。


这些故事都是基于一般企业发展规律和可能的实践而编写的,与Acmelux Taiwan Inc公司的实际情况可能存在差异。如果您需要更具体的信息,建议直接查阅该公司的官方网站、新闻报道或相关研究报告。

Flexxon Pte Ltd公司的发展小趣事

Flextronics(虚构为Flexxon Pte Ltd)自上世纪90年代末成立以来,便致力于成为全球供应链整合的领军者。公司最初从新加坡起步,迅速在全球范围内建立了多个生产基地和研发中心,以满足客户对电子产品快速响应和高质量生产的需求。通过高效的供应链管理,Flextronics不仅缩短了产品上市时间,还大幅降低了生产成本,赢得了包括惠普、戴尔、诺基亚等国际巨头的信任与合作。

问答坊 | AI 解惑

怎样在LABVIEW中调用WIN32动态链接库

怎样在LABVIEW中调用WIN32动态链接库…

查看全部问答>

迷茫中~~~

想当初,哎!还真不想用这句话开头,没办法啊!大二的时候开了高频电子线路,没有好好学。现在发现好多知识我都不会,想从头学习。可是总是看到三极管附近就看不下去啦!后面的根本不理解啊(我问了一些所谓的好学生,他们也是不会那部分)。我想听 ...…

查看全部问答>

vmware下redhat 9.0 登陆nfs成功(转)

真不容易,终于成功,总结一下 1、miniarm2440说明书第202页中的 /etc/exports ,内容中的 /opt/FriendARM/MINI2440/root_nfs *(rw,sync,no_root_sqush) ,将MINI2440应改为mini2440; 2、vmware连网要改为桥接方式,VM->settings->Hardware->Ne ...…

查看全部问答>

CCS3.3的工程中源文件为什么出现在documents目录下?

各位大牛:     CCS3.3的工程中源文件为什么出现在documents目录下?导致工程编译通不过…

查看全部问答>

请问STM32通用定时器中比较/捕获寄存器设置好了,从哪里输出?

                                 请问STM32通用定时器中比较/捕获寄存器设置好了,从哪里输出?在原理图上找不到输出口…

查看全部问答>

STM32晶振使用的一个问题

                                 STM32使用内部RC振荡器HSI,但是OSC_IN和OSC_OUT依然接在外部晶振上,对硬件电路和程序运行是否有影响?有没有理论 ...…

查看全部问答>

CXR714120-301GB

请问哪位朋友知道CXR714120-301GB用什么方式才能读写里面的资料?…

查看全部问答>

【项目外包】Windows Mobile 6.0 系统移植

Windows Mobile 6.0 系统移植 项目预算:¥ 10,000~20,000 开发周期: 35 天 项目分类: 嵌入式 竞标要求: 项目标签: C/C++ ...…

查看全部问答>

【开团贴】Android210平板开发板+7寸电容屏(搭载Android4.0)2012暑期促销

1、团长备案号:SJ2012001 2、团长承诺:我已经详细阅读过论坛自发团购规则,并愿意严格遵照此规则执行,愿意为大家提供货真价实、物美价廉的产品。3、【征询贴】https://bbs.eeworld.com.cn/thread-332990-1-1.html4、团品介绍: 深圳友坚恒天公司 ...…

查看全部问答>

看看高手用Altium Designer做的3D板

看看高手用Altium Designer做的3D板,, …

查看全部问答>