历史上的今天
今天是：2025年04月24日（星期四）
2021年04月24日 | 阿里巴巴技术专家眼中MNN异构计算解决方案
2021-04-24 来源：爱集微
阿里巴巴淘系技术部端智能团队高级技术专家 姜霄棠在Khronos·芯原技术研讨会上介绍了MNN的异构计算解决方案
姜霄棠表示，MNN 是一个深度神经网络推理引擎，在端侧加载深度神经网络模型进行推理预测。目前，MNN 已经在阿里巴巴的手机淘宝、手机天猫、优酷等 20 多个 App 中使用，覆盖直播、短视频、搜索推荐、商品图像搜索、互动营销、权益发放、安全风控等场景。此外，IoT 等场景下也有若干应用。
MNN分为Converter和Interpreter两部分。
Converter由Frontends和Graph Optimize构成。前者负责支持不同的训练框架，MNN当前支持Tensorflow(Lite)、Caffe和ONNX(PyTorch/MXNet的模型可先转为ONNX模型再转到MNN)；后者通过算子融合、算子替代、布局调整等方式优化图。
Interpreter由Engine和Backends构成。前者负责模型的加载、计算图的调度；后者包含各计算设备下的内存分配、Op实现。在Engine和Backends中，MNN应用了多种优化方案，包括在卷积和反卷积中应用Winograd算法、在矩阵乘法中应用Strassen算法、低精度计算、Neon优化、手写汇编、多线程优化、内存复用、异构计算等。
对于后续规划，姜霄棠表示在几何计算部分将对Fusion Op分解，成本将更低。MNN部分将对前端和后端硬件提供更多的支持，此外，MNN与编译技术相结合未来会应用模型压缩算法。
史海拾趣
|
关于一个硬件中断映射到几个系统中断和几个硬件中断映射到一个系统中断上的问题 不怎么会写驱动 现在有如上问题. 1,是否可以将一个硬件中断映射到几个系统中断? 2,如果可以怎么实现. 3,我有一个外设使用4个外部中断，现在想共享一个中断，其他流做它用，该怎么处理？假设有A,B,C,D 我现在把硬件中断1，影射到A的系统中断，但 ...… 查看全部问答＞ |
|
【招聘成都】国内某大型通讯设备商成都研究所高薪寻求软件和硬件工程师（一年以上） 1） 软件工程师(高级工程师) 工作职责 1、从事网络设备的底层软件、主机软件、业务软件、网管软件等研发工作； 2、负责软件项目、模块的需求分析、设计、编码实现、验证； 3、参与相关质量活动，确保软件设计及实现工作按时保质完成。 职 ...… 查看全部问答＞ |
|
我想在内核模式 就是驱动吧 里面加载一个比如dll 或者exe 主要是想在驱动里面获取一些比如ntdll.dll 或者ntoskrnl.exe里面的信息。。想在驱动里面把这两个模块加载到内存里。 然后找想要的东西 什么方法？… 查看全部问答＞ |
|
MSP430 USB型仿真器V3固件降级工具，不好意思重新上传，原来的有问题 [ 本帖最后由 kingheimer 于 2012-4-26 17:19 编辑 ]… 查看全部问答＞ |