复旦大学沈健团队:构建全新物理架构,寻找人工智能的另一条路
"想象一下,如果有一种物理架构与人脑的工作原理是相同的,那么我们是不是可以通过这种物理架构或者说用某种材料制备的器件来实现人脑的某些功能,最终通过不同的器件‘拼接’成一个类脑计算机呢?"这也是复旦大学微纳电子器件与量子计算机研究院院长、物理学系沈健正在进行的探索,而这类与传统计算机架构完全不同的类脑计算机,最大的特点就是低功耗、高效率,而这两者正是目前智能计算要进一步发展面临的最大瓶颈。
沈健团队提出基于物理过程的自主学习机制,探索了基于不同物理体系构成的物理神经网络及其无需外界干预便可进行"自我训练"的能力。目前,其团队在"面向低能耗智能计算的材料和器件"方面的研究已开始有成果陆续发布,其中"智能"磁性薄膜材料制备的器件就具备自主学习能力。通过将图像转化成电信号输入到该器件中,磁性材料中的磁畴在电信号刺激下自适应演化,于是该器件无需外部算法干预就自主实现了权重的计算和调整。通过将这一器件构筑成Hopfield网络,可以进行联想记忆任务,比如,给定部分或噪声图像时网络会自动恢复完整的原始图形模式,相关成果已物理学界的顶尖杂志接收。
物理学与人工智能的相辅相成
物理学与人工智能之间存在着深刻而密切的联系。从历史发展来看,物理学的基础理论为机器学习技术的发展做出了重要贡献。今年的诺贝尔物理学奖就是最典型的物理学推动人工智能发展的例证,是Science For AI的最佳例证。
自20世纪40年代第一台计算机诞生以来,信息技术的发展呈现明显的不连续、阶越性特征。这些突破性进展往往由关键物理材料和器件的创新所驱动,如硅基半导体材料实现了高密度高速信息处理,巨磁阻材料推动了海量信息存储并加速了大数据时代的到来。
另一方面,物理学也在人工智能技术的推动下快速进展,比如希格斯粒子的发现、引力波测量噪声的减少、系外行星的寻找、分子和材料性质的计算、蛋白质结构的预测以及高效太阳能电池的开发等都离不开人工智能。物理学与人工智能之间的协同发展,不仅体现了科学领域的交叉融合之美,更为未来科技创新开辟了广阔空间。
但是,当下的智能计算主要面向语音、文字、图像、视频等具有强关联性的模拟信息。传统的冯诺依曼架构的计算机在处理这类信息是效率低下,因为,现有计算机的硬件架构本身就不是为了智能计算而设计的,所以我们就不得不在软件和算法上不断地去突破。而这一问题在现代大型神经网络处理数百甚至上千亿权重时表现得尤为突出,导致对算力和能源的需求急剧攀升。巨量的能耗和算力,成为人工智能进一步发展的一个瓶颈问题。
从物理学角度突破人工智能进一步发展的瓶颈
沈健团队正在寻求的正是从基础物理研究的角度突破人工智能发展的瓶颈。大模型诞生后,一直有观点认为,人类正处于人工智能突破的前夜,但实际上能耗和算力已经成为人工智能技术进一步发展的瓶颈问题。
沈健团队成员青年研究员余伟超说,尽管目前的瓶颈多来自于算力,但从长远来看,能耗将成为更为根本的限制。尽管现有的人工智能实现方式在计算资源利用和架构设计上确实存在优化空间,但不同的神经网络架构和硬件加速技术(如专用AI芯片、神经形态计算)正在不断探索更高效的计算范式,以提高人工智能系统的能量效率和计算性能。
物理体系的特性为人工神经网络提供了重要的灵感,尤其是若能在物理体系中直接实现人工神经网络,即物理神经网络,必将显著提升人工智能的能力与效率。因此,利用物理体系构建人工智能有可能成为实现可持续强人工智能的重要途径。
目前国际上的研究主要集中于物理神经网络在推断任务中的应用,而网络的训练部分仍需依赖外部算法或计算实现,这与人脑的自我学习能力存在明显差异。基于物理体系的神经网络理论上可以通过内在的物理过程,实现无需外部干预的自主学习。
"人脑的可塑性是自主学习能力的重要基础。这种存算一体的的计算机架构与传统的冯诺依曼计算机架构完全不同。"沈健说,这就需要从更基础的层面设计物理架构,尤其是通过新材料和新器件的特性,如记忆性、相干性、非线性、涨落性、可塑性等,来构筑高能效的计算架构与范式。
从2018年开始,沈健团队就开始思考,是否有一些硬件或者是否有一些物理体系,天生就能处理人工智能的任务,通过这样的物理体系大幅度提升处理数据的密度。"确实有一些材料被称为‘smart material’,也就是智能材料,它们在外界‘刺激’下,具有自组织自适应的自我演化能力,同时自我演化的过程往往是纳秒级的。通过这样的材料,我们可以把这些硬件架构与创新的计算范式结合,从而找到一条智能计算的发展新路。"沈健告诉记者。目前团队已经发现了某些磁性薄膜体系具备类似的能力,不过他也坦承,这还仅仅是开始。
从关注成果本身到关注从0到1的实现
虽然这些成果还仅仅是起步,沈健说,S4AI(Science for AI)的发展也改变了他们团队的研究范式,过去像他这样的凝聚态物理学家更关注材料的物理性质,至于这个物理性质实现了会给现实带来改变其实并不真正关注,但如今,通过发现新的物理体系改变智能计算的范式,让他们"不得不"更开始渴望走通从0到1甚至到10的路。
目前,沈健团队正和复旦大学、清华大学、南京大学等全国顶尖高校的材料科学、集成电路领域的学者合作,推动低功耗智能计算器件的发展。据介绍,他们未来的研究方向包括探索新型物理系统,如光子学、自旋电子学、超导约瑟夫森结等平台,在多种材料体系中实现高效的网络架构;开发物理自学习能力,通过研究增量赫布学习、平衡传播等策略实现高效的物理自主学习;同时致力于新型量子材料的理论和实验研究,探索具备量子特性的材料以实现算力转化;此外,还将物理自主学习概念扩展到其他网络结构,并结合前端设备开展多模态传感器计算的应用研究。
沈健谈到,展望未来,也许我们的人工智能工具未必是一个"全能型选手",也许是某些方面的"特长生","总之,未来的人工智能工具的形态还很难预料,但是当我们通过全新的物理架构发展出诸多‘特长生’之后,也许最终也会实现‘全能型选手’的‘培养’,找到人工智能发展的另一种新的发展范式。"沈健说。
作者:
文:姜澎 图:受访者供图 编辑:顾军 责任编辑:樊丽萍
转载此文请注明出处。