本文經(jīng)授權轉自公眾號AI科技評論（ID：aitechtalk）熟悉《三體》的科幻愛(ài)好者們都知道，三體人所在行星圍繞著(zhù)三顆恒星運行。不僅行星軌道極其不穩定，連三顆恒星之間的相對位置也變化無(wú)窮。所以，三體人經(jīng)常要面臨滅絕性的氣候，不是嚴寒就是酷熱，搞得三體人總是不能安心地建立長(cháng)久的文明，時(shí)不時(shí)被打斷。要么暫時(shí)像水熊蟲(chóng)一樣脫水躲避災難，要么就得從頭再來(lái)。劉慈欣一貫擅長(cháng)寫(xiě)硬核科幻小說(shuō)，三體星系也有科學(xué)根據，也就是物理學(xué)中經(jīng)典的“三體問(wèn)題”。它是指三個(gè)質(zhì)量、初始位置和初始速度都是任意的可視為質(zhì)點(diǎn)的天體，在相互之間萬(wàn)有引力的作用下的運動(dòng)規律問(wèn)題。著(zhù)名數學(xué)家亨利·龐加萊最早發(fā)現了三體問(wèn)題中存在的混沌性質(zhì)。而現在，人們已經(jīng)確定，三體問(wèn)題不能精確求解，這一點(diǎn)在《三體》中也有提及。所以，人們已經(jīng)基本認命，滿(mǎn)足于對三體問(wèn)題的特殊情形進(jìn)行研究。比如，由太陽(yáng)、地球、月亮組成的星系（忽略其它行星），就構成了一個(gè)非常特殊的三體問(wèn)題。實(shí)際上，三體問(wèn)題不是完全的混沌，科學(xué)家在其中也找到了很多守恒量。而守恒量的確定是物理學(xué)研究中最常用、最漂亮也相當有效的方法，能對最終解提供很大的限制。但明知前方?jīng)]有最完美的風(fēng)景，科學(xué)家還會(huì )甘愿去探尋這些細枝末節嗎？這種麻煩事，不如就讓機器去做吧。這不，人工智能立馬回應：“交給我吧（包括你們的地球）。”就在近日，北京大學(xué)物理學(xué)專(zhuān)業(yè)16級校友 Ziming Liu與《生命3.0》的作者M(jìn)ax Tegmark在國際權威物理學(xué)期刊《Physical Review Letters》上發(fā)表了一篇學(xué)術(shù)論文，提出機器學(xué)習算法AI Poincar′e，以數據驅動(dòng)的方式，能夠從三體等動(dòng)力學(xué)系統軌跡中自動(dòng)發(fā)現守恒定律！論文地址：https://arxiv.org/pdf/2011.04698.pdf
這個(gè)算法以亨利·龐加萊(Jules Henri Poincaré）的名字命名，大約是因為龐加萊發(fā)現了三體問(wèn)題中的混沌體質(zhì)，而這一算法在5個(gè)哈密頓系統上進(jìn)行了測試，其中一個(gè)就是2D三體問(wèn)題（手動(dòng)狗頭）。據資料顯示，一作Ziming Liu本科就讀于北京大學(xué)物理學(xué)專(zhuān)業(yè)，2020年本科畢業(yè)后，進(jìn)入麻省理工學(xué)院攻讀物理學(xué)博士，博導正是Max Tegmark。而他的主要研究?jì)热?，正是物理學(xué)與人工智能的結合與交叉。論文發(fā)布不久，Max Tegmark便興致沖沖地在推特上分享了這份成果：Max Tegmark介紹，這篇論文展示了如何使用測量數據集維數的冷技巧，僅從觀(guān)測到的數據（而無(wú)需模型）就能自動(dòng)發(fā)現守恒定律。實(shí)驗結果表示，AI Poincar′e不僅自動(dòng)發(fā)現了守恒量的數量，而且發(fā)現了近似守恒定律的周期性軌道、相變和分解時(shí)間表（breakdown timescale）。由于該算法不需要任何領(lǐng)域知識，甚至不需要導致軌跡產(chǎn)生的物理模型，它甚至可以用于醫療等領(lǐng)域的原始實(shí)驗數據，而不僅僅是物理守恒定律的發(fā)現……說(shuō)不定，擺脫了人類(lèi)簡(jiǎn)單模型思維的AI，未來(lái)可以為三體問(wèn)題帶來(lái)新的insight。自誕生以來(lái)，機器學(xué)習已經(jīng)為物理學(xué)的進(jìn)步作出了許多貢獻，比如提高了數值模擬、實(shí)驗室實(shí)驗和天文觀(guān)測的速度或質(zhì)量。但實(shí)際上，機器學(xué)習還有一個(gè)更大的野心，就是設計出智能機器，幫助人類(lèi)獲得新的科學(xué)發(fā)現，比如得到物理對稱(chēng)性，或通過(guò)符號回歸獲得公式。
本著(zhù)這種精神，這篇論文希望能夠使用機器學(xué)習方法，從動(dòng)力學(xué)系統的軌跡中自動(dòng)發(fā)現守恒定律。從傳統來(lái)看，物理學(xué)家是通過(guò)模型驅動(dòng)的方式來(lái)得出守恒定律，例如，龐加萊（Poincar′e）通過(guò)模型驅動(dòng)，證明了3D引力三體問(wèn)題只有10個(gè)守恒量。與模型驅動(dòng)不同的是，這篇論文旨在以數據驅動(dòng)的方式發(fā)現守恒定律，在基本動(dòng)力學(xué)方程解視為未知的情況下，僅使用觀(guān)測到的軌跡數據作為輸入。作者介紹，根據他們的了解，Y.ichi Mototake[1]與S.J.Wetzel等人[2]分別發(fā)表于2019年與2020年的工作最接近他們的目標。但是，這兩篇工作采用正交方法，分別使用自動(dòng)編碼器與Siamese神經(jīng)網(wǎng)絡(luò )來(lái)檢測對稱(chēng)性，需要在杜絕完全自動(dòng)化的情況下進(jìn)行手工特征采集，并在相對簡(jiǎn)單的例子上進(jìn)行測試。其他將守恒定律與機器學(xué)習方法聯(lián)系起來(lái)的工作則主要是將物理歸納偏置（例如哈密頓算子或拉格朗日函數的存在）嵌入機器學(xué)習，而不是將機器學(xué)習應用于自動(dòng)發(fā)現守恒定律。這篇工作的目標（自動(dòng)發(fā)現守恒定律）也要歸功于機器學(xué)習在采樣流形（sampling manifold）上的最新突破，與動(dòng)力學(xué)系統緊密相關(guān)，如表格1所概括：將每個(gè)狀態(tài)視為相空間R^N中的一個(gè)點(diǎn)，所有狀態(tài)在一條軌跡上的拓撲閉合形成流形M?R^N。每個(gè)守恒定律分別從動(dòng)力學(xué)系統中消除一個(gè)自由度、從M中消除一個(gè)維度，因此守恒量的數量=N-M的維數。M的局部切線(xiàn)空間表示守恒定律下的所有局部位移，而垂直于切線(xiàn)空間的空間上是守恒量的梯度。表格1：流形與動(dòng)力學(xué)系統的聯(lián)系在這篇論文的“方法”部分，作者等人介紹了他們的觀(guān)點(diǎn)與AI Poincar′e算法。在“結果”部分，他們將AI Poincar′e應用于5個(gè)哈密頓系統，以測試該算法發(fā)現守恒量（以數字方式和符號方式）、周期軌道、相變和守恒分解時(shí)間表的能力。如圖1(a)所示，AI Poincar′e由三個(gè)模塊組成：1）預處理（白化和可選降維）；2）M的局部蒙特卡洛采樣；以及3）使用PCA解釋比率從這些樣本進(jìn)行線(xiàn)性維數估計。預白化會(huì )進(jìn)行仿射變換，以使S中的點(diǎn)具有零均值和協(xié)方差矩陣I（單位矩陣）。如果原始協(xié)方差矩陣的任一矩陣特征值消失，那么對應的特征向量e_i則會(huì )將線(xiàn)性守恒量定義為：H_i(x) = e_i · x，且研究人員在算法繼續之前會(huì )將這些維數刪除。在這篇工作中，蒙特卡洛采樣流行的模塊主要受益于機器學(xué)習文獻[3]中的神經(jīng)經(jīng)驗貝葉斯技巧。如圖1(b)所示，這個(gè)模塊包括兩個(gè)步驟。圖 1：AI Poincar′e算法：(a) 總體工作流程，(b) walk-pull蒙特卡洛模塊，(c) 典型的解釋比率圖，第2階段揭示了守恒量。研究團隊在5個(gè)經(jīng)過(guò)充分研究的哈密爾頓系統軌跡上測試了AI Poincar′e算法：1D諧波振蕩器，2D開(kāi)普勒問(wèn)題，雙擺，2D磁鏡和2D三體問(wèn)題，如表格2和圖2所示。在計算5個(gè)系統的軌跡時(shí)，作者使用定步長(cháng)4階龍格-庫塔（Runge-Kutta）法，N階= {10^3,10^5，10^6，10^5，2×10^5}、時(shí)間步長(cháng)= {10^?2，10^?2，10^ -3，10^-3，10^-3}，并使用圖2中列出的初始條件。他們還將拉格朗日函數P_θ作為前饋神經(jīng)網(wǎng)絡(luò )，前饋神經(jīng)網(wǎng)絡(luò )具有兩個(gè)隱藏層，每一隱藏層分別包含256個(gè)神經(jīng)元，并使用ADAM優(yōu)化器對每個(gè)L進(jìn)行訓練，學(xué)習速率為10^-3，步長(cháng)為5,000。一直重復walk pull的蒙特卡洛過(guò)程，從軌跡中d點(diǎn)（trajectory midpoint）跳了10^4次。表2：使用AI Feynman發(fā)現了13個(gè)守恒定律中的10個(gè)的公式圖 2：用于測試AI Poincar′e算法的5個(gè)哈密頓系統：諧波振蕩器，開(kāi)普勒問(wèn)題，雙擺，磁鏡和三體問(wèn)題。實(shí)驗所得到的解釋比率（圖2底部）在L = 0.1周?chē)@示了一致的谷值，表明了守恒量的數量。如果我們簡(jiǎn)單地將守恒定律發(fā)現的標準定義為比基線(xiàn)（0.1 / N，圖中的黑色虛線(xiàn)）低一個(gè)數量級的解釋比率，那么AI Poincar′e發(fā)現的守恒定律數量與表2中5個(gè)系統的ground truth是一致的。在三體問(wèn)題中，前四個(gè)守恒定律是線(xiàn)性的，因此在預處理步驟中就已經(jīng)被發(fā)現。這些結果對于改變walk pull過(guò)程的起點(diǎn)具有魯棒性，并且在維數估計方面優(yōu)于PCA、自動(dòng)編碼器和分形方法。根據表2（右列）顯示，AI Poincar′e不僅可以自動(dòng)發(fā)現存在守恒定律，而且在許多情況下，還可以發(fā)現守恒定律的符號公式。后者是通過(guò)將AI Feynman符號回歸算法應用于軌跡數據。由于一個(gè)守恒量的任意函數也都守恒，因此我們需要某種形式的“量規固定”（gauge fixing）來(lái)使符號回歸問(wèn)題得到適當擺正。在這里，我們僅要求兩個(gè)選定軌跡上的狀態(tài)具有守恒值1和2；例如，當梯度方向與拉動(dòng)函數（pull function）的梯度方向匹配時(shí)，這種方法可以得到極大的改進(jìn)。該研究團隊現在正準備探索如何使AI Poincar′e不僅能夠自動(dòng)發(fā)現上述的精確守恒律，而且還能自動(dòng)發(fā)現近似的守恒律，從而揭示物理學(xué)上一些有趣的相變。在這篇論文中，Ziming Liu與Max Tegmark提出了一個(gè)叫做AI Poincar′e的機器學(xué)習算法，可以使用未知動(dòng)力系統的軌跡數據來(lái)自動(dòng)發(fā)現守恒量。
通過(guò)對5個(gè)哈密頓系統的測試表明，AI Poincar′e不僅自動(dòng)發(fā)現了守恒量的數量，而且發(fā)現了近似守恒定律的周期性軌道、相變和分解時(shí)間表（breakdown timescale）。某種意義上，AI Poincar′e是通用的，因為它不需要任何領(lǐng)域知識，甚至不需要軌跡產(chǎn)生的物理模型。因此，作者認為，將AI Poincar′e應用于原始實(shí)驗數據（例如秀麗隱桿線(xiàn)蟲(chóng)中所測得的神經(jīng)元電壓）可能會(huì )很有趣。作者還認為，AI Poincar′e的另一個(gè)有前景的未來(lái)應用方向是：通過(guò)將學(xué)習到的幾何信息從AI Poincar′e遷移到AI Feynman，改進(jìn)對已發(fā)現守恒量的符號公式的發(fā)現，例如，通過(guò)要求符號梯度方向與我們所學(xué)習的拉動(dòng)函數的方向相匹配。1. Y. ichi Mototake, Interpretable conservation law estimation by deriving the symmetries of dynamics from trained deep neural networks, in Machine Learning and the Physical Sciences Workshop at the 33rd Conference on Neural Information Processing Systems (NeurIPS) (2019) arXiv:2001.00111 [physics.data-an].2. S. J. Wetzel, R. G. Melko, J. Scott, M. Panju, and V. Ganesh, Discovering symmetry invariants and conserved quantities by interpreting siamese neural networks, Phys. Rev. Research 2, 033499 (2020).3. S. Saremi and A. Hyv¨arinen, Neural empirical bayes, J. Mach. Learn. Res. 20, 181:1 (2019). 注：本文轉載自公眾號AI科技評論（aitechtalk）《人類(lèi)絕望，機器接盤(pán)：用AI自動(dòng)發(fā)現三體的守恒定律！北大校友與《生命3.0》作者共同杰作》。原文作者：陳彩嫻。雷克智能經(jīng)授權發(fā)布，未經(jīng)許可，禁止二次轉載！
本站僅提供存儲服務(wù)，所有內容均由用戶(hù)發(fā)布，如發(fā)現有害或侵權內容，請
點(diǎn)擊舉報。
