Lie Group machine learning provides a new paradigm for solving "qualitative + quantitative" complex problems
-
-
自2022年12月OpenAI发布ChatGPT以来,以通用人工智能(artificial general intelligence,AGI)为代表的人工智能技术变革进入了加速发展的快车道。机器学习作为通用人工智能的核心技术,能否帮助人们解决“线性+ 非线性”“单参数+ 多参数”“离散+ 连续”“定性+ 定量”“局部+ 全局”等复杂问题。这已是考验机器学习的关键。机器学习该如何发展?正如北京大学数学科学学院鄂维南院士所说:“机器学习已开创应用数学新机遇。”因此,利用“数学方法+ 机器学习”模式进行交叉研究是研究机器学习的发展新方向。
李群(Lie group)是挪威数学家S.Lie在1870年左右创立的一类连续变换群。李群理论在最初的相当长一段时间内仅与一些微分方程的积分有联系,而与数学的其他分支关系不大。在19世纪的最后10年以及20世纪初,李群理论在不同方向,尤其是代数学和拓扑学方面得到了迅速发展,成为数学的一个重要分支。李群理论的第一个近代化的叙述是由前苏联数学家庞特里亚金于1938年给出的。20世纪50年代,李群理论的发展进入了一个新的阶段,主要标志是代数群论的创立。代数几何方法的应用使李群理论的经典结果得到新的阐述,从而揭示了它与函数论、数论等理论的深刻联系。1978年,前苏联数学家马尔古利斯研究的“关于李群的离散子群的塞尔伯格猜想”获数学界的最高奖- 菲尔兹奖。李群已在物理学、力学、化学等学科中有着重要应用。这就给我们一个启示,物理、化学的数据就是复杂数据,并具有“线性+ 非线性”“单参数+ 多参数”“离散+ 连续”“定性+ 定量”“局部+ 全局”等特征。数学家也证明了李群具有解决“线性+ 非线性”“单参数+ 多参数”“离散+ 连续”“定性+ 定量”“局部+ 全局”这些问题的优势。如果李群和机器学习交叉产生新的机器学习方法将是一件很有意义的工作。因此,2004年,我们团队开始研究并提出了李群机器学习(Lie group machine learning, LML) 概念。
经过多年努力,李群机器学习取得了一系列成果,包括李群机器学习模型、李群均值学习算法、李群半监督学习算法、李群覆盖学习算法、同调边缘学习算法、李群深层结构学习算法、Finsler几何学习算法、辛群学习算法、纤维丛学习算法、标架丛上的联络学习算法、张量学习算法、李群核学习算法、李群子空间轨道生成学习算法、量子群学习算法、范畴表示学习算法等。
在学术界,李群机器学习的研究也得到了越来越多的关注。许多国际一流的机器学习和计算机科学会议,如ICML、NIPS、CVPR等,都有关于李群机器学习的相关研究,并且获得了很高的评价。也有一些专门的国际会议和研讨会,如Lie Group and Representation Learning Workshop等,致力于推动李群机器学习的研究和交流。在工业界,李群机器学习也得到了越来越多的应用。例如,谷歌公司在其深度学习框架TensorFlow中就提供了一些李群机器学习的工具和库,方便开发者在深度学习中应用李群理论。在中国,李群机器学习已经成为国家重点研发计划的重要方向之一,并得到政府部门、企业和高等院校等各方面的支持。国内多家知名高校和科研机构也开展了相关研究,并取得了不少进展。在美国、欧洲、日本等地也有不少公司和研究团队专门从事李群机器学习领域的研究与应用。总体而言,由于具有较强的理论基础和实际应用价值,李群机器学习在全球范围内正在逐步得到广泛的认可和应用。