电子头条

热点丨诺贝尔物理学奖颁给了两位机器学习先驱,AI已成物理学前沿课题

2024-10-14
    阅读数:

·聚焦:人工智能、芯片等行业

欢迎各位客官关注、转发






前言
机器学习所展现的智能,实则是 [涌现]现象的一种体现。

这里的 [涌现],在广义上,描述的是多个微小个体在相互作用下,共同构成了一个整体,而这个整体所展现出的特性,是单独个体所无法具备的,即所谓的[量变导致质变]。

在物理学等学科领域,涌现现象已被深入研究和探讨,尤其是在凝聚态物理学中,它着重揭示了微观结构与宏观物理性质之间的紧密联系。


作者 | 方文三
图片来源 | 网 络


诺贝尔物理学奖颁给了两位机器学习先驱

10月8日,瑞典皇家科学院正式宣告,2024年度诺贝尔物理学奖已决定授予美国杰出科学家约翰·霍普菲尔德与英裔加拿大卓越科学家杰弗里·辛顿,以表彰他们运用物理学工具,奠定了当代先进机器学习技术的基石。

瑞典皇家科学院的官方解释指出,霍普菲尔德教授的贡献在于创造了一种新型的信息存储与重构结构;


而辛顿教授则发明了能够自主发现数据属性的方法,这一方法对现代大型人工神经网络的发展具有不可估量的价值。


因此,此次颁奖旨在表彰他们[在利用人工神经网络进行机器学习方面的基础性发现和发明]。


两位获奖者通过物理学工具,提出了驱动人工神经网络运行的创新方法,该方法利用大脑启发的分层结构来学习并理解抽象概念。


简而言之,霍普菲尔德与辛顿两位学者,均借助物理学的基本原理与技术手段,成功研发出依托网络架构处理信息的技术。


这一重大发现被诺贝尔奖委员会主席、瑞典卡尔斯塔德大学物理学家Ellen Moons在发布会上高度评价为[构成了机器学习的基石,能够显著提升人类决策的速度与可靠性]。


从逻辑层面分析,瑞典皇家科学院认为机器学习可作为探索物理世界的一种有力工具,其潜在应用广泛,而非简单地将机器学习等同于物理研究本身。


回顾历史,具有物理学背景的理论生物学家霍普菲尔德教授于1982年提出了一种新型网络模型。


该模型将虚拟神经元之间的连接比作物理力,通过低能状态存储模式,并能在接收到相似输入时再现这些模式。


这一结构被称为联想记忆,其工作机制与大脑通过相关信息回忆词汇或概念的方式相类似。


霍普菲尔德教授提出了一种联想存储器,该存储器能够存储和重建图像以及其他类型的数据模式,这一理论的基础正是源自于物理学中的自旋系统。


而辛顿教授则发明了玻尔兹曼机,这一模型的灵感来源于统计物理学。


玻尔兹曼机引入了一种用于模式识别的概率模型,其训练算法和动力学原理在一定程度上与简单的物理过程相似。



霍普菲尔德:创建[霍普菲尔德网络]模型


约翰・霍普菲尔德, 1933年出生于美国芝加哥,以其在多个领域的卓越贡献而闻名。

他拥有康奈尔大学物理学博士学位,既是一位杰出的生物物理学家、神经科学家,又是一位计算机科学家。


霍普菲尔德创建的[霍普菲尔德网络]具有重大的创新意义。这个网络能够存储和重构图像以及数据中的其他类型模式。


它就像是一个强大的记忆库,当给定一个不完整或稍微扭曲的网络模式时,能够有条不紊地处理节点并更新它们的值,从而降低网络的能量,逐步找到与输入的不完美图像最相似的保存图像。


这一过程仿佛是在大海中捞针,但[霍普菲尔德网络]却能高效地完成这个任务。


霍普菲尔德的工作不仅在实际应用中有很大价值,对神经网络动力学也有着深入的理解。


他利用描述自旋相互影响时材料如何发展的物理学原理,建立了一个具有节点和连接的模型网络。


这种将物理学原理应用于神经网络的方法,为后续的研究提供了新的思路和方向。


通过不断改进网络,使保存更多的图片成为可能,即使它们非常相似,也可以区分它们。


霍普菲尔德的贡献得到了广泛的认可,他曾获得2022年玻尔兹曼奖。


这个奖项是对他在扩展统计物理学边界、涵盖生命现象以及对神经网络动力学研究方面的高度肯定。


他的研究成果为机器学习和人工智能的发展奠定了坚实的基础,也为物理学与其他学科的交叉融合树立了榜样。



辛顿:玻尔兹曼机带来变个性突破


杰弗里・辛顿, 1947 年出生于英国伦敦,在人工智能领域有着举足轻重的地位。

他以霍普菲尔德网络为基础,开发出了[玻尔兹曼机],为机器学习的发展带来了革命性的突破。


玻尔兹曼机是一种可通过输入数据集学习概率分布的随机生成神经网络。


它不是从指令中学习,而是从给定的例子中学习。通过给机器输入案例来训练机器,玻尔兹曼机可对图像进行分类,或者为它所训练的模式类型创建新的案例。


每次更新一个节点的值,最终机器将进入一种状态,在这种状态下,节点的模式可以改变,但整个网络的属性保持不变。


根据玻尔兹曼方程,每个可能的模式都有一个特定的概率,这个概率由网络的能量决定。


当机器停止时,它创造了一个新的模式,这使得玻尔兹曼机成为了生成模型的早期例子。


辛顿的贡献不仅仅在于发明了玻尔兹曼机,还在于他在此基础上帮助启动了当前机器学习的爆炸性发展。


2006年,他和同事开发了一种预训练网络的方法,该网络由一系列分层的波尔兹曼机组成。这种预训练为网络中的连接提供了一个更好的起点,从而优化了识别图像元素的训练。


辛顿的成就得到了国际社会的高度认可。他曾获得 2018 年图灵奖,这是计算机领域的最高荣誉。



机器学习可以帮助科学家寻找隐含规律


机器学习在物理学的多个领域都发挥着重要作用,包括多体物理、粒子物理、天体物理等。

在多体物理领域,机器学习可以帮助科学家寻找隐含规律。


例如,通过分析大量的实验数据和模拟结果,机器学习算法可以自动发现多体系统中的关联性和规律,为理解复杂的多体物理现象提供新的视角。


在粒子物理中,机器学习能够挖掘有效信息。大型强子对撞机等实验产生了海量的粒子物理数据,传统的数据分析方式往往效率低下。


而机器学习技术可以快速从这些复杂的数据中提取有用的信息和模式,辅助发现新的粒子和相互作用,加速研究进程。


据统计,在某些粒子物理实验中,机器学习算法能够将数据分析的效率提高数倍甚至数十倍。


在天体物理方面,机器学习可以提升研究效率。天体观测数据通常非常庞大且复杂,机器学习可以在分析这些数据、探测引力波、预测宇宙演化等方面发挥重要作用。


例如,通过机器学习算法对天体观测数据进行分类、聚类和降维等操作,可以更好地理解和解释天体物理现象,为解开宇宙奥秘提供有力支持。



物理学与AI之间的桥梁已稳固搭建


尽管人类大脑拥有约 100万亿个神经元连接,而GPT等AI模型的连接数仅为万亿级别,但GPT却能凭借超过1700亿个参数,记忆并理解人类全部知识与文明,甚至进行高级别的抽象思考。

这表明,AI在利用有限连接处理海量知识方面,可能比人类更为高效,或已探索出更为优化的学习路径。


年初由Sora引发的[世界模型]争议,便是物理AI领域的一次重要里程碑。


尽管Sora的构想较为理想化,且OpenAI尚未公开其完全体形态,但科技巨头们对AI在物理学领域的研究并未止步。


例如,英伟达CEO黄仁勋在Computex 2024上预测,AI的下一波浪潮将是物理AI(实体AI)。


人工神经网络并非最 新研究方向,从上世纪 60年代起,科学家们就开始研究,且研究过程几经起伏。

不论是霍普菲尔德还是辛顿,他们的研究都经历了从热到冷再到热的过程。


尤其是辛顿,更为业内人士熟知的是他30年坐[冷板凳]的故事。


早在上世纪80年代,人工神经网络曾是热门研究方向,但由于当时计算机算力等问题,这个领域一度被认为难有突破,很快就不再为人们所关注。


但是,这两位学者却能持续地在神经网络方向耕耘。神经网络深度学习可说在他们的研究基础上得到了爆发式发展。


霍普菲尔德提出的[霍普菲尔德神经网络],以物理学中的自旋系统能量为喻,揭示了神经网络运作的奥秘;


而辛顿则更进一步,运用统计物理学工具提出[玻尔兹曼机]模型,其研究成果不仅奠定了计算机视觉系统与大语言模型的基础,更引领全球迎来了新一轮生成式AI革命的浪潮。



结尾:


随着技术的不断发展,机器学习与物理学的融合将更加紧密,为科学研究揭开更多的谜团和秘密。

然而,在此进程中,仍存若干悬而未决的问题,致使科学界对神经网络的研究一度陷入沮丧之境。


部分资料参考:自然系列:《[将超越人的智力水平]:机器学习先驱获2024年诺贝尔物理学奖》,APPSO:《诺贝尔奖快被AI包圆了,这10个冷知识带你重新认识AI教父》,乌鸦智能说:《AI[统治]诺贝尔奖背后,知识的贬值已经开始了》,镁客网:《AI拿下诺贝尔物理学,是为Sora的[世界模型]打广告?》,文汇教育:《实属[没有想到]!两位AI先驱摘获诺贝尔物理学奖》,新京报:《两名科学家分享2024诺贝尔物理学奖,其中一位是[AI教父]》,硅星人Pro:《最惊人又合理的诺贝尔物理学奖,颁给AI先驱Geoffrey 辛顿和John 霍普菲尔德》,钛媒体AGI:《2024诺贝尔物理学奖颁给两位[AI教父]》


本公众号所刊发稿件及图片来源于网络,仅用于交流使用,如有侵权请联系回复,我们收到信息后会在24小时内处理。




END


推荐阅读:

商务合作请加微信勾搭:

18948782064

请务必注明:

「姓名 + 公司 + 合作需求」


展开↓