[MCU] 全志Tina_NPU开发部署说明

aleksib 2024-8-1 10:19 楼主

## 1 前言

### 1.1 读者对象

本文档（本指南）主要适用于以下人员：

• 技术支持工程师

• 软件开发工程师

• AI 应用案客户

## 2 正文

### 2.1 NPU 开发简介

• 支持int8/uint8/int16 量化精度，运算性能可达1TOPS.

• 相较于GPU 作为AI 运算单元的大型芯片方案，功耗不到GPU 所需要的1%.

• 可直接导入Caffe, TensorFlow, Onnx, TFLite，Keras, Darknet, pyTorch 等模型格式.

• 提供AI 开发工具：支持模型快速转换、支持开发板端侧转换API、支持TensorFlow, TFLite, Caffe, ONNX, Darknet, pyTorch 等模型.

• 提供AI 应用开发接口：提供NPU 跨平台API.

### 2.2 开发流程

NPU 开发完整的流程如下图所示：

![外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传](https://img-blog.csdnimg.cn/img_convert/01c702af57dfc0f192d8b0eb56f84ff3.png)

###2.3 模型训练

在模型训练阶段，用户根据需求和实际情况选择合适的框架（如Caffe、TensorFlow 等）进行训练得到符合需求的模型。也可直接使用已经训练好的模型, 对于基

于已有的算法模型部署来讲，可以不用经过模型训练阶段.

### 2.4 模型转换

此阶段为通过Acuity Toolkit 把模型训练中得到的模型转换为NPU 可用的模型NBG 文件。

### 2.5 程序开发

最后阶段为基于VIPLite API 开发程序实现业务逻辑。

### 2.6 acuity Toolkit

Allwinner 提供acuity toolkit 开发套件进行模型转换、推理运行和性能评估。

用户通过提供的python 接口可以便捷地完成以下功能：

1）模型转换：支持Caffe,TensorFlow Lite, Tensorflow, ONNXDarknet NBG 模型导入导出，后续能够在硬件平台上加载使用。

2）模型推理：能够在PC 上模拟运行模型并获取推理结果，也可以在指定硬件平台上运行模型并获取推理结果。

3）性能评估：能够在PC 上模拟运行并获取模型总耗时及每一层的耗时信息，也可以通过联机

调试的方式在指定硬件平台上运行模型，并获取模型在硬件上运行时的总时间和每一层的耗时信息。

此文档主要介绍模型转换和基于NPU 程序开发，不涉及模型训练的内容。

回复评论

暂无评论，赶紧抢沙发吧

最新活动

有奖直播报名中！抢占工业4.1先机，WT·世健科技日等你来！

2024 瑞萨电子MCU/MPU工业技术研讨会——深圳、上海站，火热报名中

罗姆有奖直播 | 重点解析双极型晶体管的实用选型方法和使用方法

STM32N6终于要发布了，ST首款带有NPU的MCU到底怎么样，欢迎小伙们来STM32全球线上峰会寻找答案！

免费下载 | 安森美电动汽车充电白皮书，看碳化硅如何缓解“里程焦虑”！

是德科技有奖直播 | 应对未来高速算力芯片的设计与测试挑战

随便看看

智能大厦安防系统的地位和安防设计原则

帮我来看看，

RS485芯片SN75LBC184烧毁

基于 Arduino 与 OneNET 云平台的简易智能家居系统设计

程控电源技术和应用指南（6）- 减小电源到被测件的噪声

【GD32L233C-START 评测】- 前期评测概括

R7F0C80212套件试用之开发环境搭建2---代码自动生成工具code generator

winXP下，如何设置gprs modem拨号？

如何设置ADC参考电压？

【Ufun学习第一部分】开箱和SWD调试

AD9中异性焊盘设计

求助

TOM的三重机遇 VoIP将在2008年开放

zigbee基于CC2430使终端设备依据特定的PAN ID入网

MSP430FR5720芯片下载程序有两种方式

整理的一些沁恒的EE的相关帖子，下载中心还有学堂视频

提问：老鼠为啥要嫁给蝙蝠？

安华高科技增量光学编码器系列新添20,000 cpr新品

怎么才能检讨控制板子的面积散热是否足够呢？

大家觉得这是错的吗？？指针程序,谭浩强书里的

京公网安备 11010802033920号

写回复