历史上的今天
今天是:2025年04月12日(星期六)
2018年04月12日 | MathWorks 宣布 MATLAB 与 NVIDIA TensorRT 集成来加快人工智能应用
2018-04-12 来源:21IC中国电子网
MathWorks于2018年4月11日宣布 ,MATLAB 现在可通过 GPU Coder 实现与 NVIDIA TensorRT 集成。这可以帮助工程师和科学家们在 MATLAB 中开发新的人工智能和深度学习模型,且可确保性能和效率满足数据中心、嵌入式应用和汽车应用不断增长的需求。
MATLAB 提供了一个完整的工作流程来快速训练、验证和部署深度学习模型。工程师可以使用 GPU 资源,而无需额外编程操作,因此可以专注于应用本身而不是性能调优。
NVIDIA TensorRT 与 GPU Coder 的全新集成使得可以在 MATLAB 中开发深度学习模型,然后以高吞吐量低延迟的方式部署在 NVIDIA GPU 上运行。内部基准测试显示,MATLAB 生成的CUDA代码与 TensorRT 结合,在部署 Alexnet模型进行深度学习推理时,性能比 TensorFlow 高 5 倍;在部署 VGG-16 模型进行深度学习推理时,性能比 TensorFlow 高 1.25 倍。
“不断发展的图像、语音、传感器和物联网 (IoT) 技术促使团队以更好的性能和效率研究人工智能解决方案。此外,深度学习模型变得越来越复杂。所有这些都给工程师们带来了巨大的压力,” MathWorks 总监 David Rich 说。“现在,团队可以使用 MATLAB 训练深度学习模型,NVIDIA GPU 可以将实时推理部署到从云端到数据中心到嵌入式边界设备等各种环境中。”
* 所有基准测试均在一台使用 NVIDIA TITAN Xp GPU、64GB RAM 的 Linux 12 core Intel® Xeon® E5-1650 v3 电脑上运行,使用的软件包括带 GPU Coder 的 MATLAB R2018a、TensorRT 3.0.1、TensorFlow 1.6.0、CUDA 9.0 和 cuDNN 7。
对比 NVIDIA GPU 上的 TensorFlow,该集成使深度学习推理速度快 5 倍。
史海拾趣
|
真不容易,终于成功,总结一下 1、miniarm2440说明书第202页中的 /etc/exports ,内容中的 /opt/FriendARM/MINI2440/root_nfs *(rw,sync,no_root_sqush) ,将MINI2440应改为mini2440; 2、vmware连网要改为桥接方式,VM->settings->Hardware->Ne ...… 查看全部问答> |
|
Windows Mobile 6.0 系统移植 项目预算:¥ 10,000~20,000 开发周期: 35 天 项目分类: 嵌入式 竞标要求: 项目标签: C/C++ ...… 查看全部问答> |
|
【开团贴】Android210平板开发板+7寸电容屏(搭载Android4.0)2012暑期促销 1、团长备案号:SJ2012001 2、团长承诺:我已经详细阅读过论坛自发团购规则,并愿意严格遵照此规则执行,愿意为大家提供货真价实、物美价廉的产品。3、【征询贴】https://bbs.eeworld.com.cn/thread-332990-1-1.html4、团品介绍: 深圳友坚恒天公司 ...… 查看全部问答> |




