神譯局是36氪旗下編譯團隊，關(guān)注科技、商業(yè)、職場(chǎng)、生活等領(lǐng)域，重點(diǎn)介紹國外的新技術(shù)、新觀(guān)點(diǎn)、新風(fēng)向。

編者按：從我們把計算機叫做電腦就可以看出，我們一直都把這個(gè)東西類(lèi)比為大腦。深入了解大腦的運作機制有助于開(kāi)發(fā)出更好的計算機，而計算機反過(guò)來(lái)又可以幫助我們更好地了解自己的思想。在這方面，以色列的研究人員已經(jīng)取得了一定的進(jìn)展，他們發(fā)現，一個(gè)生物神經(jīng)元在計算的復雜度方面就已經(jīng)相當于1000個(gè)節點(diǎn)規模的深度神經(jīng)網(wǎng)絡(luò )。Jason Dorrier介紹了他們的研究成果。原文發(fā)表在singularityhub上，標題是：New Study Finds a Single Neuron Is a Surprisingly Complex Little Computer

劃重點(diǎn)：

研究發(fā)現，一個(gè)生物神經(jīng)元大概相當于 1000 個(gè)人工神經(jīng)元

生物神經(jīng)元的復雜性主要在樹(shù)突的一種化學(xué)受體，拿掉之后生物神經(jīng)元就變成一個(gè)簡(jiǎn)單的設備了

這些知識或許可以幫助工程師設計出更強大的神經(jīng)網(wǎng)絡(luò )和人工智能

不管是神經(jīng)科學(xué)還是計算機科學(xué)，把大腦跟計算機相提并論由來(lái)已久，且備受推崇。

原因不難看出。

我們的大腦可以一種輕松、神秘的優(yōu)雅去執行我們希望計算機處理的許多任務(wù)。因此，了解我們大腦的內部運作機制可以幫助我們開(kāi)發(fā)出更好的計算機；而這些計算機則可以幫助我們更好地了解自己的思想。此外，如果大腦跟計算機很像的話(huà)，知道它們完成特定工作需要多少計算就可以幫助我們預測機器什么時(shí)候能夠趕上人腦。

事實(shí)上，各個(gè)領(lǐng)域之間已經(jīng)進(jìn)行了富有成效的知識交流。

比方說(shuō)，深度學(xué)習就是一種十分強大的人工智能形式，較為寬松地模擬了大腦的那個(gè)龐大的分層神經(jīng)元網(wǎng)絡(luò )。

你可以把深度神經(jīng)網(wǎng)絡(luò )里面的每個(gè)“節點(diǎn)”都看作是人工的神經(jīng)元。就像神經(jīng)元一樣，這些節點(diǎn)從跟自己連接的其他節點(diǎn)那里接收信號，并執行數學(xué)運算，將輸入轉換為輸出。

根據所接收到的信號情況，一個(gè)節點(diǎn)可以選擇向所在網(wǎng)絡(luò )的所有節點(diǎn)發(fā)送自己的信號。通過(guò)這種方式，信號通過(guò)節點(diǎn)層層傳遞，逐步進(jìn)行調整并對算法進(jìn)行銳化。

大腦的機制跟這個(gè)類(lèi)似。但是前面的關(guān)鍵詞是寬松。

科學(xué)家們知道，生物神經(jīng)元要比深度學(xué)習算法里面用到的人工神經(jīng)元更加復雜，但究竟復雜到什么程度還是一個(gè)懸而未決的問(wèn)題。

不過(guò)，在最近發(fā)表在《神經(jīng)元》雜志上的一篇引人入勝的論文里，耶路撒冷希伯來(lái)大學(xué)的一群研究人員設法讓我們跟答案更接近了。雖然他們也估計到結果會(huì )表明生物的神經(jīng)元會(huì )更加復雜——但仍未能預料到會(huì )復雜得這么多。

在他們進(jìn)行研究里，研究小組發(fā)現需要一個(gè)五到八層的神經(jīng)網(wǎng)絡(luò )，或者接近1000 個(gè)人工神經(jīng)元的規模，才能模擬出一個(gè)大腦皮層生物神經(jīng)元的行為。

盡管研究人員警告說(shuō)，得出的研究結果是復雜性的上限——而不是精確測量——但他們也相信，這一發(fā)現可能有助于科學(xué)家進(jìn)一步了解究竟是什么讓生物神經(jīng)元如此復雜的。這些知識或許可以幫助工程師設計出更強大的神經(jīng)網(wǎng)絡(luò )和人工智能。

貝勒醫學(xué)院計算神經(jīng)科學(xué)家Andreas Tolias說(shuō)：“這一結果搭建了從生物神經(jīng)元到人工神經(jīng)元的橋梁?！?/p>

驚人的大腦

神經(jīng)元是構成我們大腦的細胞。神經(jīng)元有很多不同的類(lèi)型，但一般來(lái)說(shuō)，神經(jīng)元由三部分組成：細長(cháng)的分支結構——所謂的樹(shù)突、細胞體以及根狀軸突。

在一端，樹(shù)突通過(guò)所謂的突觸整合各接合點(diǎn)連接其他的神經(jīng)元網(wǎng)絡(luò )。在另一端，軸突跟不同的神經(jīng)元群形成了突觸。每個(gè)細胞都通過(guò)樹(shù)突接收電化學(xué)信號，對這些信號進(jìn)行過(guò)濾，然后有選擇地傳送自己的信號（或鋒電位）。

為了從計算上對生物神經(jīng)元與人工神經(jīng)元進(jìn)行比較，這支團隊提出了一個(gè)問(wèn)題：模擬一個(gè)生物神經(jīng)元的行為需要多大規模的人工神經(jīng)網(wǎng)絡(luò )？

為了回答這個(gè)問(wèn)題，他們首先建立了一個(gè)生物神經(jīng)元模型（這次研究模擬的是來(lái)自老鼠皮層的錐體神經(jīng)元）。這個(gè)模型利用了大約 10000 個(gè)微分方程來(lái)模擬神經(jīng)元，模擬它們是怎么以及什么時(shí)候把一系列的輸入信號轉換成它自己的鋒電位的。

然后，他們把輸入輸送給模擬神經(jīng)元，再記錄輸出，接著(zhù)用所有這些數據來(lái)訓練深度學(xué)習算法。他們的目標是什么？找出可以最準確地逼近這個(gè)模型的算法。

他們不斷增加算法的層數，直到在給定一組輸入的情況下預測模擬神經(jīng)元的輸出時(shí)準確率達到 99%。模擬的甜點(diǎn)是至少五層但不超過(guò)八層，或者可以這么說(shuō)，一個(gè)生物神經(jīng)元大概相當于 1000 個(gè)人工神經(jīng)元。深度學(xué)習算法要比原始模型簡(jiǎn)單得多——但仍然相當復雜。

這種復雜性是從何而來(lái)的呢？

事實(shí)證明，這主要是由于樹(shù)突里面的一種化學(xué)受體——NMDA 離子通道——以及在空間的分支。研究的主要作者大衛·貝尼亞格夫（David Beniaguev）曾在 2019 年發(fā)推說(shuō)“拿掉其中一個(gè)，神經(jīng)元就會(huì )變成一個(gè)很簡(jiǎn)單的設備?！?/p>

事實(shí)上，在去除這些特征后，這支團隊發(fā)現自己就可以把簡(jiǎn)化的生物模型跟單層深度學(xué)習算法進(jìn)行匹配了。

基準不是固定不變的

大家很容易會(huì )將該團隊的結果進(jìn)行外推，從而測算整個(gè)大腦的計算復雜性。但我們離實(shí)現這一步還差得很遠。

一方面，這支團隊有可能并沒(méi)有找到最有效的算法。

對于在一個(gè)先進(jìn)的深度學(xué)習算法基礎上進(jìn)行快速改進(jìn)的開(kāi)發(fā)者社區來(lái)說(shuō)，這種情況很常見(jiàn)。鑒于研究過(guò)程中進(jìn)行的密集迭代，該團隊對結果充滿(mǎn)信心，不過(guò)他們也向科學(xué)界公布了自己的模型、數據和算法，看看是不是有人還可以做得更好。

此外，建模的神經(jīng)元來(lái)自老鼠的大腦，而不是人類(lèi)的大腦，它只是其中的一種腦細胞。還有，這項研究其實(shí)是模型跟模型之間的比較——到目前為止，還沒(méi)有辦法跟大腦實(shí)際的神經(jīng)元進(jìn)行直接比較。真正的神經(jīng)元更復雜而不是更簡(jiǎn)單是完全有可能的。

盡管如此，該團隊相信自己的工作可以推動(dòng)神經(jīng)科學(xué)和人工智能向前發(fā)展。

在前一種情況下，該研究進(jìn)一步證明樹(shù)突是復雜生物，值得多加關(guān)注。而對于人工智能來(lái)說(shuō)，這可能會(huì )帶來(lái)全新的算法架構。

論文的合著(zhù)者Idan Segev建議，工程師應該嘗試用模擬生物神經(jīng)元的這個(gè)迷你的五層網(wǎng)絡(luò )來(lái)替代當今算法所采用的簡(jiǎn)單人工神經(jīng)元。Segev說(shuō)：“我們呼吁替換深度網(wǎng)絡(luò )技術(shù)，通過(guò)用一個(gè)表示神經(jīng)元的單元（本身就已經(jīng)夠深的了）替換當今深度網(wǎng)絡(luò )所用的每一個(gè)簡(jiǎn)單的單元，這樣能夠更接近大腦的工作方式?！?。

增加那么多的復雜性能不能帶來(lái)回報尚不確定。算法究竟需要捕捉多少大腦的細節才能獲得相似或更好的結果呢？這個(gè)問(wèn)題專(zhuān)家也有爭議。

但你很難對已經(jīng)歷了數百萬(wàn)年的進(jìn)化實(shí)驗提出質(zhì)疑。到目前為止，遵循大腦的藍圖這種做法是有回報的。如果說(shuō)這項工作是一個(gè)指征的話(huà)，未來(lái)的神經(jīng)網(wǎng)絡(luò )在規模和復雜性上可能都會(huì )令當今的神經(jīng)網(wǎng)絡(luò )相形見(jiàn)絀。

譯者：boxi。

本文來(lái)自翻譯, 如若轉載請注明出處。