历史上的今天
返回首页

历史上的今天

今天是:2025年02月01日(星期六)

2019年02月01日 | 一文读懂:深度学习中的热点问题

2019-02-01 来源:张康康

2012年多伦多大学的研究人员首次使用深度学习在ImageNet大规模视觉识别挑战赛中获胜,深度学习渐渐被人们所熟知。而对于AI行业的从业者来说,深度学习下的计算机视觉,是使计算机能够理解图像背景的一门重要学科,也是人工智能中最具挑战性的领域之一。目前,国内计算机视觉飞速发展,有了旷视科技face++、商汤科技、极链科技Video++等优质企业。那么,深度学习究竟是什么呢?本文将详细的解释当前深度学习下的两个热点问题。

深度学习这一想法本身并不新颖,早在1959年就被讨论过。当时受限于算法、硬件水平及数据量的限制,没有得到很好的发展。近60年,随着硬件水平的不断提升,数据量的爆炸式增长,深度学习再一次焕发出勃勃生机,并展现出优异的性能。

而计算机视觉领域中关键的深度学习,也成为了被关注的焦点。人工神经网络的概念是深度学习算法的主要组成部分,已经存在数十年,第一个神经网络可以追溯到20世纪50年代。由于数十年的研究以及数据和计算资源的可用性,深度学习的概念已经从实验室走出并进入实际领域。

那么深度学习和机器学习是一回事么?

深度学习是一个非常复杂的计算机科学领域,它涉及许多高级数学概念。但在过去几年中,学术界已经创建了大量的工具和库来抽象出潜在的复杂性,并使你能够无须解决过多的数学问题来开发深度学习模型。

深度学习和机器学习并不相同,深度学习是机器学习的一个子集。通常,机器学习适用于基于训练数据模型和行为规则的所有技术,ML技术已经投入生产使用了很长时间。在深度学习之前,科学家们必须在编写“功能”或模块方面投入大量精力,这些功能可以执行模型想要执行的任务的一小部分。例如,如果你想要创建一个可以检测物体的AI模型,你将编写一段程序来检测这个物体的特征,而且必须使这些程序足够强大,以便从不同角度和不同光照条件下检测这些特征,并告诉不同的物体之间的差异。经过以上这些操作后,你才可以在这些基础上进行基础学习。

深度学习是科学的吗?

尽管深度学习过程可以用数学符号描述,但这个过程本身是不科学的。深度学习就像一个黑匣子,我们无法理解这个系统是如何理解处理特征并完成相关任务的。

以卷积操作举例,正如TensorFlow手册中所说,卷积层发现相关性。许多草叶通常代表一个草坪,在TensorFlow中,系统会花费大量时间来发现这些相关性。一旦发现了某些相关性,这种关联会导致模型中某些权重的调整,从而使得特征提取正确。但从本质上来说,所有的相关性开始时对于模型来说都被遗忘了,必须在每次前向传播和梯度下降的过程中来重新发现。这种系统实际上是从错误中吸取教训,即模型输出与理想输出之间的误差。

前向和反向传播过程对图像理解有一定的意义,有些人在文本上使用了相同的算法。幸运的是,针对于文本任务而言,有更加高效的算法。首先,我们可以使用大脑突触或编程语言中的常规指针或对象引用显式地表示所发现的相关性,神经元与神经元之间有关联。

所以说,无论是深度学习算法,还是有机学习,都不能说是科学的。它们在缺乏证据并信任相关性的前提下得出结论,而不坚持可证明的因果关系。大多数深层神经网络编程很难得到理想结果并存在一定的误差,只能通过从实验结果中发现线索来改进模型。增加网络层数不总是有效的,对于大多数深度神经网络从业者而言,根据实验结果来调整改进网络就是他们的日常工作。没有先验模型,就没有先验估计。任何深层神经网络可靠性和正确性的最佳估计,都是经过大量的实验得到。

推荐阅读

史海拾趣

CEVA, Inc公司的发展小趣事

CEVA公司一直以来都是无线连接和智能传感技术的领先许可方。公司提供了包括数字信号处理器、人工智能处理器、无线平台以及一系列用于传感器融合、图像增强、计算机视觉、语音输入和人工智能的补充软件。这些技术和产品使得CEVA在多个终端市场,如移动、消费、汽车、机器人、工业和物联网等领域,都能够提供节能、智能和互联的设备解决方案。通过与全球半导体公司和原始设备制造商的紧密合作,CEVA成功地将这些技术应用于实际产品中,推动了相关市场的快速发展。

GAPTEC Electronic GmbH & Co. KG公司的发展小趣事

背景:随着市场需求的不断增长,Galaxy Microelectronics意识到需要不断迭代技术和扩大产能。

发展:2010年,公司成功研发出3D V-NAND技术,这一技术革命性地提高了存储密度和性能,降低了功耗。同时,公司开始在全球范围内建设新的生产基地,以满足日益增长的市场需求。通过技术迭代和产能扩张,Galaxy Microelectronics逐渐成为了全球闪存市场的领军企业之一。

Black Box Corporation公司的发展小趣事

Black Box意识到,在电子行业中,不同的行业细分市场有着不同的需求和特点。因此,公司决定采取深耕行业细分市场的策略,针对金融、教育、制造等不同行业提供定制化的解决方案。这一策略使Black Box能够更好地满足客户的实际需求,提高了客户满意度和忠诚度。

EXCELSEMI [ EXCEL SEMICONDUCTOR INC. ]公司的发展小趣事

EXCELSEMI公司深知技术创新对于企业发展的重要性。因此,公司始终保持对研发的重视和投入。公司不仅设立了专门的研发中心,还引进了一批高素质的研发人才。通过持续的研发投入和技术创新,EXCELSEMI在半导体领域取得了多项专利和技术成果,为公司的发展提供了源源不断的动力。

Hanghsing Enterprise Co Ltd公司的发展小趣事

EXCELSEMI公司自创立之初,就致力于半导体技术的研发与创新。在早期,公司研发团队成功攻克了高性能半导体材料的生产技术难题,这一技术突破为公司后续的产品开发奠定了坚实基础。随着技术的不断进步,EXCELSEMI在半导体芯片设计、制造和封装等领域都取得了显著成果,逐渐在市场中崭露头角。

Curtis Instruments Inc公司的发展小趣事

随着全球市场的不断变化和竞争的加剧,Curtis不断加强全球布局和战略合作。公司与多家国际知名企业建立了长期合作关系,共同开发新产品、拓展新市场。此外,Curtis还积极参与国际展览和交流活动,展示公司的最新技术和产品成果,提高品牌知名度和影响力。这些全球布局和战略合作有助于Curtis更好地应对市场挑战、把握发展机遇。

问答坊 | AI 解惑

明明白白-分辨率:看看你知道多少?

分辨率是和图像相关的一个重要概念,它是衡量图像细节表现力的技术参数。但分辨率的种类有很多,其含义也各不相同。正确理解分辨率在各种情况下的具体含义,弄清不同表示方法之间的相互关系,是至关重要的一步。下面对几种常见的图像输入/输出分辨 ...…

查看全部问答>

帮忙推荐一个伺服电机

现在要寻找一款伺服电机,要求电压DC24V以下,功率10W以下就可以,体积尽量小的。有没有人用过,请帮忙推荐一款。…

查看全部问答>

问题分析

操作系统是VXWORKS。 程序很大,所以暂时不支持WDB单步调试 问题在:重启硬件时,偶尔系统会变的很慢,而且一慢百慢(进入运用层也一直慢下去)!当然多数情况启动正常且启动之后也运转正常。 哪位高手能给小弟献出一个分析排查这种变慢的原因的 ...…

查看全部问答>

如何将DbgPrint输出到文件?

经常还没来得及看到输出的信息就蓝屏了,如何能在机器重起后看到蓝屏前输出的信息?…

查看全部问答>

怎么查看WinCE系统的CPU速度?

怎么查看WinCE系统的CPU速度?在控制面板里没找到呀…

查看全部问答>

想买个手机

小弟我想学习嵌入式软件开发, 想买个基于ARM+linux的, 大家能推荐一款这样的手机不? …

查看全部问答>

axd调试s3c2410中断跳转问题

你好,有个问题请教: 硬件:s3c2410 64Mflash 64Msdram(0x30000000~0x34000000) 软件:ads1.2 axd axd中调试,程序是DMA完成传输后发中断,问题是程序执行到这时arm920T响应中断,从0x00000018处handeIRQ,结果跳至0x2e0处进入死循环...... 然后手 ...…

查看全部问答>

谁有IMP813L的中文资料?谁知道在Protel99里如何选择元件库?

在Protel99里想找到IMP813L对应用的是那个元件库,但找了半天没找着谁知道呀? 还有谁有IMP813L的资料(中文最好)能给传一份吗?谢谢!我的EMIL:ycangmsw@163.com 在次感谢!…

查看全部问答>

用DSP的来签个名,看看有多少人在用,谢谢

感觉DSP版块人气很低样,发个帖子调查一下…

查看全部问答>