文章摘要
【关 键 词】 Symbolic Transformer、李雅普诺夫函数、动力系统、AI模型、数学难题
Meta和巴黎理工学院的研究团队提出了一种名为Symbolic Transformer的AI模型,旨在解决长期困扰数学界的难题——寻找全局李雅普诺夫函数,以判断动力系统的稳定性。这一问题自牛顿、拉格朗日到庞加莱等科学家以来一直未解,直到1892年俄国数学家Aleksandr Lyapunov提出了李雅普诺夫函数的概念,但未给出寻找方法。
研究团队将寻找李雅普诺夫函数的问题转化为序列到序列的翻译任务,使用Transformer模型进行训练。在8张V100 GPU上训练约100个GPU时后,模型在已解决的多项式系统上达到了84%的精度,远超人类专家和现有算法。对于新生成的多项式系统,模型成功找到李雅普诺夫函数的比例也远高于以往算法。
该研究的难点在于动力系统与李雅普诺夫函数配对数据的稀缺。为此,团队采用了正向和反向数据生成策略。正向数据生成是根据多项式系统生成对应的李雅普诺夫函数,而反向数据生成则是根据李雅普诺夫函数反向构造动力系统。通过这两种方法,团队生成了四个数据集,包括多项式和非多项式系统,以及满足特定条件的样本。
在不同数据集上训练的模型都取得了高准确性,特别是在后向数据训练集中添加少量前向生成数据示例,能显著提升模型的分布外测试性能。与现有算法相比,基于Transformer的模型在求解速度上也有显著优势。
研究的最终目标是发现新的李雅普诺夫函数。在随机生成的多项式系统中,模型发现了超过10%的李雅普诺夫函数,是传统方法的10倍。对于非多项式系统,模型也发现了超过12%的李雅普诺夫函数。这些结果表明,通过合成数据集训练的语言模型不仅能发现未知的李雅普诺夫函数,而且比传统算法求解器更有效。
巴黎师范教授Amaury Hayat表示,虽然Symbolic Transformer仍是一个黑盒系统,但其给出的李雅普诺夫函数是明确的符号表达式,可以经受数学证明的检验。这一成果不仅展示了AI在解决数学难题上的潜力,也为未来的动力系统稳定性研究提供了新的工具和方法。
原文和模型
【原文链接】 阅读原文 [ 1703字 | 7分钟 ]
【原文作者】 量子位
【摘要模型】 moonshot-v1-32k
【摘要评分】 ★★★★☆