历史上的今天
返回首页

历史上的今天

今天是:2025年02月01日(星期六)

2018年02月01日 | 使用Theano,Python,PYNQ和Zynq开发定点Deep Recurrent神经网络

2018-02-01 来源:21IC中国电子网

可编程逻辑(PLD)是由一种通用的集成电路产生的,逻辑功能按照用户对器件编程来确定,用户可以自行编程把数字系统集成在PLD中。经过多年的发展,可编程逻辑器件由70年代的可编程逻辑阵列器件 (PLD) 发展到目前的拥有数千万门的现场可编程阵列逻辑 (FPGA),随着人工智能研究的火热发展,FPGA的并行性已经在一些实时性很高的神经网络计算任务中得到应用。由于在FPGA上实现浮点数会耗费很多硬件资源,而定点数虽然精度有限,但是对于不同应用通过选择合适的字长精度仍可以保证收敛,且速度要比浮点数表示更快而且资源耗费更少,已经使其成为嵌入式AI和机器学习应用程序的理想选择。


最新的证明点是英国伯明翰大学电子电气和系统工程系的Yufeng Hao和Steven Quigley最近发表的论文。论文标题为“在Xilinx FPGA上实现深度递归神经网络语言模型“,介绍了使用Python编程语言成功实现和训练基于固定点深度递归神经网络(DRNN); Theano数学库和多维数组的框架; 开源的基于Python的PYNQ开发环境; Digilent PYNQ-Z1开发板以及PYNQ-Z1板上的赛灵思Zynq Z-7020的片上系统SoC。Zynq-7000系列装载了双核ARM Cortex-A9处理器和28nm的Artix-7或Kintex-7可编程逻辑。在单片上集成了CPU,DSP以及ASSP,具备了关键分析和硬件加速能力以及混合信号功能,出色的性价比和最大的设计灵活性也是特点之一。使用Python DRNN硬件加速覆盖(一种赛灵思公司提出的硬件库,使用Python API在硬件逻辑和软件中建立连接并交换数据),两个合作者使用此设计为NLP(自然语言处理)应用程序实现了20GOPS(10亿次每秒)的处理吞吐量,优于早期基于FPGA的实现2.75倍到70.5倍。


论文的大部分讨论了NLP和LM(语言模型),“它涉及机器翻译,语音搜索,语音标记和语音识别”。本文随后讨论了使用Vivado HLS开发工具和Verilog语言实现DRNN LM硬件加速器,可以为PYNQ开发环境合成一个定制的硬件覆盖。由此产生的加速器包含五个过程元素(PE),能够在此应用程序中提供20GOPS的数据吞吐量。以下是设计的框图:

DRNN加速器框图


Vivado设计套件为下一代超高效率的C/C++和基于IP的设计提供了新的方法。融入了新的超快高效率设计方法集,用户可以实现10-15倍的效率的提升。Vivado HLS支持ISE和Vivado设计环境,可以通过集成C,C++和SystemC标准到赛灵思的可编程器件中而无需创建RTL模型,加快IP的创建。


这篇论文中包括了大量深入的技术细节,但是这一句话总结了这篇博客文章的理由:“更重要的是,我们展示了软件和硬件联合设计和仿真过程在神经网络领域的应用“。考虑到PYNQ-Z1开发板的售价为229美元,这种说法是完全正确的。


原文链接:https://forums.xilinx.com/t5/Xcell-Daily-Blog/U-of-Birmingham-team-develops-fixed-point-Deep-Recurrent-Neural/ba-p/805717

推荐阅读

史海拾趣

High Energy Corp公司的发展小趣事

机顶盒,全称为数字视频变换盒,是连接电视机与外部信号源的关键设备,具备高度的专业性和广泛的科普意义。从广义上讲,任何与电视机连接的网络终端设备均可称为机顶盒,包括传统的模拟频道增补器到现代的数字卫星机顶盒、有线电视数字机顶盒及IPTV机顶盒等。其主要功能在于接收来自有线电缆、卫星天线、宽带网络及地面广播的数字电视信号,并将这些信号转换为电视机可识别的视频和音频格式,极大地丰富了用户的观看选择,提升了观看体验。

机顶盒不仅能提供高清、4K甚至超高清的电视节目,还具备网络交互功能,用户可通过机顶盒连接互联网,享受在线购物、观看网络视频、玩游戏等多元化服务。此外,机顶盒还支持电子节目指南、因特网网页浏览等增值服务,使电视机不再仅仅是接收信息的单向设备,而是成为与用户进行互动的智能终端。

随着技术的不断进步,机顶盒正朝着高清化、智能化、多功能化方向发展。例如,通过智能推荐算法,机顶盒能为用户提供个性化的节目推荐;借助语音识别技术,用户可通过语音指令控制机顶盒,实现便捷操作。未来,机顶盒将继续融合新技术,如人工智能、云计算等,为用户提供更加丰富的娱乐选择和更加智能的观看体验。

ECM [ECM Electronics Limited.]公司的发展小趣事

ECM Electronics Limited.自创立之初,就注重技术创新。公司投入大量研发资金,专注于开发高效、节能的电子产品。通过不断的技术迭代和产品创新,ECM成功推出了一系列具有竞争力的产品,逐渐在市场上建立了良好的口碑。同时,公司还积极与高校和科研机构合作,引进先进技术,为公司的持续发展提供了强大的技术支撑。

Apex [Apex Microtechnology]公司的发展小趣事

Apex Microtechnology成立于1980年,自创立之初,公司便专注于功率模拟技术的研发,为工业、国防和航空航天等领域提供高精确控制电流、电压和速度的解决方案。凭借其在功率驱动器和放大器领域的专业知识,Apex Microtechnology逐渐在电子行业中崭露头角,吸引了众多客户的关注。

ELINA INDEK公司的发展小趣事

随着技术的成熟和市场的扩大,因美纳开始积极拓展全球市场。公司通过与全球各地的经销商建立合作关系,将产品销往世界各地。同时,因美纳还在多个国家和地区设立了研发中心和生产基地,以便更好地满足当地市场的需求。这种全球化战略不仅为公司带来了更多的市场机会,也提高了公司的国际影响力。

(注意:由于篇幅限制,此处仅提供三个故事的梗概,每个故事的实际字数可能稍少于500字。同时,由于"ELINA INDEK"并非真实存在的公司,因此以下故事均基于因美纳公司的发展情况进行编写。)

明波通信(BWAVE)公司的发展小趣事

经过多年的发展,明波通信在技术和市场上都取得了显著成绩。为了进一步推动公司的发展,明波通信成功在新三版上市。这一举措不仅为公司筹集了更多的发展资金,也提升了公司的品牌影响力和市场竞争力。上市后的明波通信,在资本市场上展现出了强劲的发展势头。

博通集成(BEKEN)公司的发展小趣事

为了加快市场拓展和技术创新步伐,博通集成积极寻求与产业链上下游企业的战略合作。公司与多家知名企业建立了紧密的合作关系,共同推动无线通讯技术的发展和应用。通过战略合作,博通集成不仅获得了更多的市场资源和技术支持,还实现了与合作伙伴的共赢发展。

问答坊 | AI 解惑

Protel DXP2004教程(原理图,PCB)下载

rotel DXP2004教程(原理图,PCB)下载 [ 本帖最后由 shuijian 于 2008-10-21 17:23 编辑 ]…

查看全部问答>

USB驱动分析 绝对经典的一本书

usb源码详析,linux-usb-hub,linux-usb-core, 嬉笑怒骂、娓娓道来。可惜原作者没有署名,在此向原作者致以崇高的敬意!…

查看全部问答>

分享一个毕业设计《可编程霓虹灯图形动态广告控制器的设计》

可编程霓虹灯图形动态广告控制器的设计 摘要 本文结合国内外霓虹灯控制技术的发展状况设计了一种采用美国ATMEL公司生产的AVR系列单片机中的ATmega8作控制芯片的霓虹灯控制器.通过ATmega8芯片控制驱动电路,在由驱动电路驱动继电器,而继电器则作 ...…

查看全部问答>

HD44780

HD44780HD44780HD44780…

查看全部问答>

液位传感器

本帖最后由 paulhyde 于 2014-9-15 09:22 编辑 液位传感器.doc  …

查看全部问答>

水尺计重软件,无线打印

我想在pda上实现水尺计重软件,也想用无线打印,不知道怎么实现pda的无线打印啊…

查看全部问答>

如果成形滤波采用平方根升余弦的话,接受端的匹配滤波器 怎么实现?

如题,用什么函数可以实现呢  各位大侠  (matlab)…

查看全部问答>

谁用USB单片机开发过加密狗

有成熟技术者,可与我联系,本人还可以资助一点开发费,嘻!mail@net9999.com …

查看全部问答>

2011电子设计大赛元件清单公布啦~

本帖最后由 paulhyde 于 2014-9-15 09:47 编辑 http://www.nuedc.com.cn/news.asp?bid=5&sid=20&id=631  …

查看全部问答>

STM32F103Z的AD采样寄存器为什么没有符号位!如何测量负电压!

STM32的内部AD,是12位的,板子上是有个电位器,是从0伏到3.28V。   采样的电压值是 0x0000-0x0fff   但是有个问题,怎么内部的AD采样值没有符号位呢,那怎么去测量负电压!…

查看全部问答>