編者按：滾石雜志近日刊出了有關(guān)人工智能的特別報告，報告分上下兩篇，目前已推出了上篇。作者 Jeff Goodell 訪(fǎng)談了從事人工智能（AI）研究的各方面專(zhuān)家，在上篇中總結人工智能取得的進(jìn)展以及它對人類(lèi)的意味；在下篇則重點(diǎn)探索 AI 對無(wú)人車(chē)以及未來(lái)戰爭的影響。我們編譯出來(lái)供大家參考，由于篇幅較長(cháng)，上篇會(huì )分上下兩部分刊出。此為上篇的上半部分。
我們即將創(chuàng )造出一種新的生命形式，這個(gè)事件不僅是進(jìn)化取得突破的標志，也有可能威脅到人類(lèi)這個(gè)物種的生存。
“歡迎光臨機器人幼兒園，” Pieter Abbeel 一邊說(shuō)著(zhù)，一邊打開(kāi) Robot Learning Lab 的大門(mén)。位于加州大學(xué)伯克利分校北邊一棟嶄新建筑 7 樓的這座實(shí)驗室實(shí)際上挺亂的：自行車(chē)就往墻邊靠著(zhù)，雜亂無(wú)章的小隔間里面呆著(zhù)十幾個(gè)研究生，白板上寫(xiě)著(zhù)一般人看不懂的公式。38 歲的 Abbeel 是個(gè)身形瘦長(cháng)的家伙，他下身穿一條牛仔褲，上面是一件寬松的 T 恤。2000年，他從比利時(shí)來(lái)到美國，在斯坦福攻讀計算機博士?，F在，在理解教會(huì )機器人智能思考所面臨的挑戰方面，他是全世界最重要的專(zhuān)家之一。但是首先，他得教會(huì )它們 “思考”?！斑@就是為什么我們把這兒叫做幼兒園，” 他開(kāi)玩笑道。他把我介紹給 Brett ，這個(gè) 6 英尺高的人形機器人是曾經(jīng)著(zhù)名現已破產(chǎn)的硅谷機器人制造商 Willow Garage 的產(chǎn)品。幾年前實(shí)驗室把 Brett 弄了過(guò)來(lái)用作實(shí)驗。Brett 的意思是 “用來(lái)干完沉悶任務(wù)的伯克利機器人（Berkeley robot for the elimination of tedious tasks）”，這個(gè)外表友善的創(chuàng )造物頭扁扁的，用攝像頭充當的眼睛隔得遠遠的，身材矮矮胖胖，跟人一樣它也有手有腳，握爪就是它的手，輪子就是它的腳?，F在 Brett 已經(jīng)下班，站在實(shí)驗室中央，它身旁是另一個(gè)還沒(méi)上電的神秘安詳的機器人。附近的地板上有一箱玩具，里面有木錘、塑料玩具飛機、還有一堆樂(lè )高積木，這是 Abbeel 和他的學(xué)生對 Brett 的教學(xué)道具。不過(guò) Brett 只是實(shí)驗室眾多機器人當中的一員而已。在另一個(gè)隔間，一張椅子背面的吊帶上懸著(zhù)一個(gè) 18 英寸高的機器人。在地下室下面還有一個(gè)工業(yè)機器人，它每天都要在一個(gè)相當于機器人沙盒的東西里面玩幾個(gè)小時(shí)，為的只是想看看它能教自己什么東西。街對面的另一間實(shí)驗室里，一個(gè)手術(shù)機器人正在學(xué)習如何縫合人的肉體，與此同時(shí)，一位研究生正在教無(wú)人機如何聰明地躲開(kāi)物體?！拔覀儾幌Ｍ麩o(wú)人機撞到東西從天上掉下來(lái)，” Abbeel 說(shuō)：“所以我們正在教它們學(xué)會(huì )看東西?！?br>
一直以來(lái)，可編程工業(yè)機器人執行的都是特定任務(wù)：移動(dòng)機械臂到左邊 6 英尺，抓起模塊，然后轉到右邊，把模塊插進(jìn) PC 印刷電路版。然后每小時(shí)重復這個(gè)動(dòng)作 300 次。這些機械動(dòng)作的機器在聰明程度上跟除草機無(wú)異。不過(guò)最近幾年，機器學(xué)習（能夠粗略模仿人類(lèi)大腦并且讓機器自學(xué)東西的算法）的突破讓機器識別語(yǔ)音和視覺(jué)模式的能力得到了顯著(zhù)提升。Abbeel 的目標是培養機器人具備一般智力—一種理解世界的辦法，從而讓機器人可以自主學(xué)習完成任務(wù)。他還有很長(cháng)一段路要走?！皺C器人甚至還沒(méi)有 2 歲小孩的學(xué)習能力，” 他說(shuō)。比方說(shuō) Brett 已經(jīng)學(xué)會(huì )了做一些簡(jiǎn)單任務(wù)，像打繩結或疊衣服。但是一些人類(lèi)很容易就能完成的事情，如認出桌上揉成一團的織物實(shí)際上是毛巾，對于機器人來(lái)說(shuō)卻特別困難，這部分是因為機器人缺乏常識，之前沒(méi)有過(guò)疊毛巾的經(jīng)驗記憶，最重要的是，沒(méi)有毛巾的概念。它看到的只是一團顏色。
為了規避這一問(wèn)題，在一盒兒童心理學(xué)磁帶的啟發(fā)下，Abbeel 創(chuàng )造了一種通過(guò)不斷調整方法來(lái)完成任務(wù)的自學(xué)法?，F在，當 Brett 整理衣物時(shí)，它也在做類(lèi)似的事情：它會(huì )用抓手拿起毛巾，試著(zhù)感覺(jué)一下它的形狀，試試看怎么去折疊它?？雌饋?lái)很原始是吧，的確是。但你再想想：機器人這可是在學(xué)疊毛巾啊。
這一切科學(xué)怪人式的東西看起來(lái)有點(diǎn)令人毛骨悚然。智能機器能夠執行的任務(wù)的復雜性正在以指數的速度增長(cháng)。這最終會(huì )帶我們去向何方？如果機器人自己能學(xué)會(huì )疊毛巾，是不是有朝一日也能做飯、做手術(shù)甚至發(fā)動(dòng)戰爭？人工智能也許能夠很好地幫助解決人類(lèi)面臨的最復雜問(wèn)題，如治療癌癥，治理氣候變化等，但在近期內它可能也會(huì )插手監視、侵犯隱私，不知疲倦地進(jìn)行電話(huà)營(yíng)銷(xiāo)。除此以外，還有一個(gè)更大的問(wèn)題正在顯現：有朝一日機器會(huì )不會(huì )替自己著(zhù)想？會(huì )不會(huì )對問(wèn)題進(jìn)行理性分析？甚至表現出情感？沒(méi)人知道答案。智能機器的崛起跟任何其他技術(shù)革命都不一樣，因為它最終危及的是人性的問(wèn)題—我們有可能創(chuàng )造即將創(chuàng )造出一種新的生命形式，這種生命形式不僅是進(jìn)化的突破，也可能會(huì )威脅到我們作為物種的生存。
人形機器人 Brett 可以自學(xué)造東西和對物體分類(lèi)。
無(wú)論結局怎樣，革命已經(jīng)開(kāi)始。去年夏天，伯克利的團隊把一套短期記憶系統植入了一個(gè)仿真機器人里面。參與該項目的計算機科學(xué)家 Sergey Levine 說(shuō)他們注意到了 “一件奇怪的事情”。為了測試機器人的記憶程序，他們向機器人發(fā)出一項指令，要求它把一顆釘放到一左一右兩個(gè)洞的其中之一。出于控制的考慮，他們再度在移除記憶程序的情況下又試驗了一次—令他們感到驚訝的是，機器人仍然知道把釘放進(jìn)正確的洞口。在沒(méi)有存儲的情況下它是如何記得釘子應該放到哪里的呢？“最終我們意識到，只要機器人接收了指令，它就會(huì )旋轉機械臂到正確的洞口?！?然后，在命令消失之后，它會(huì )看自己的身體扭向什么位置才確定釘子應該放在哪個(gè)洞里面。也就是說(shuō)，機器人自己實(shí)際上已經(jīng)找到了正確執行命令的辦法?！斑@非常令人吃驚，” Levine 說(shuō)：“也讓人不安?！?/b>
Abbeel 帶我去到他的辦公室，這是一間沒(méi)有窗戶(hù)的小隔間。在辦公室里，他跟我談到了 DeepMind（2014年 被 Google 以約 4 億美元收購的 AI 初創(chuàng )企業(yè)）最近取得的一項突破。幾年前，因為教會(huì )計算機玩太空入侵者之類(lèi)的雅達利視頻游戲并且玩得比人類(lèi)還溜，DeepMind 已經(jīng)震驚了大家一把。不過(guò)更令人震驚的是，DeepMind 是在沒(méi)有在程序中告訴計算機游戲規則的情況下做到的。。這不像深藍在國際象棋比賽中擊敗人類(lèi)那樣，游戲規則是在程序里面寫(xiě)好的。計算機只知道一點(diǎn)：目標是拿高分。計算機采用的是強化學(xué)習法來(lái)做到這一點(diǎn)，這就好比訓練狗，不管它用什么辦法，只要它做到了你就表?yè)P一聲 “好狗” 一樣，計算機就可以通過(guò)這種機制來(lái)探索游戲，在反饋中自己學(xué)會(huì )規則。在幾個(gè)小時(shí)之內，計算機就掌握了超人的技巧。這是 AI 的一項重大突破—計算機第一次自己 “學(xué)會(huì )” 了一項復雜技能。
Abbeel 的實(shí)驗室的研究人員對這項突破感到著(zhù)迷，他們決定用自己寫(xiě)的類(lèi)似強化學(xué)習算法來(lái)做實(shí)驗，試圖幫助機器人學(xué)習游泳、學(xué)習單腳跳以及走路?；蛘咄嬉曨l游戲怎樣？令他們驚訝的是，這個(gè)所謂的 TRPO（Trust Region Policy Optimization，信任區域策略?xún)?yōu)化）算法實(shí)現的結果幾乎跟 DeepMind 的算法一樣好。換句話(huà)說(shuō)，TRPO 展現出了用一般方法學(xué)習的能力?！拔覀儼l(fā)現 TRPO 不僅可以教機器人走路，” Abbeel 說(shuō)：“還可以在視頻游戲中擊敗人類(lèi)?！?/p>
Abbeel 調出了一個(gè)有關(guān)一個(gè)機器人模擬器的視頻。視頻開(kāi)頭可以看到一個(gè)機器人摔倒在黑白相間的地板上?！坝涀?，這個(gè)算法跟學(xué)視頻游戲的是一樣的，” 他說(shuō)。機器人被布置了 3 個(gè)目標：有多遠走多遠，不要踩到自己的腳，以及軀干要高于一定高度?！八恢雷呗肥鞘裁匆馑?，” Abbeel 說(shuō)：“也不知道自己有手有腳。它只知道自己的目標。然后想辦法實(shí)現目標?！?/p>
Abbeel 按下一個(gè)按鈕，模擬開(kāi)始工作。機器人笨重地摔到地上，不知道自己在干什么?！霸瓌t上，它應該能確定自己要走還是跳，” Abbeel 說(shuō)。但是算法是通過(guò)實(shí)時(shí) “了解” 到只要把自己的腿抬起來(lái)，它就能推動(dòng)自己向前走來(lái)確定的。這讓機器人可以分析自己上一次的表現，解碼出哪一種動(dòng)作的表現更好，然后在未來(lái)相應改變行為。很快機器人就開(kāi)始蹣跚而行，東倒西歪像喝醉酒一樣。它會(huì )突然往前撲倒，爬起來(lái)，走了幾步，然后又倒了。但是慢慢地它的表現開(kāi)始提高，學(xué)會(huì )了跌跌撞撞地朝著(zhù)目標跑過(guò)去了。你幾乎能感覺(jué)到它的信心在增加，抬腿的速度快得就像一名跑鋒（running back）一樣。機器人不知道自己在跑，因為程序沒(méi)有進(jìn)行設置。但現在它已經(jīng)在跑了。它自己學(xué)會(huì )了復雜的平衡和肢體控制這些物理學(xué)的知識。這已經(jīng)不僅僅是令人吃驚了，簡(jiǎn)直就是魔術(shù)。就好像是在短短 40 秒的時(shí)間內目睹一條魚(yú)變成了人一樣。
“機器人移動(dòng)和開(kāi)始走路的方式讓它看起來(lái)就像是活的一樣，” 我說(shuō)。
Abbeel 笑了：“差不多吧?！?/p>
盡管書(shū)本和電影里面有人工智能的各種渲染，但這個(gè)東西可不是懸浮在某處藍色液體箱的一個(gè)合成大腦。人工智能是算法—一個(gè)數學(xué)方程式，它告訴計算機執行什么功能（通俗點(diǎn)你可以把它理解為機器的食譜；更深入的話(huà)題可參見(jiàn)尋找生命的基礎算法 ）。21 世紀的算法就像是 19 世紀的煤礦：是我們的經(jīng)濟引擎，是現代生活的燃料。沒(méi)有算法，你的電話(huà)無(wú)法工作，也不會(huì )有 Facebook、Google、Amazon。算法規劃航班然后引導飛機飛行，算法幫醫生診斷疾病?！叭绻總€(gè)算法突然停止工作，我們所熟知的世界就要終結，” 機器學(xué)習的流行讀物《主算法》的作者 Pedro Domingos（參見(jiàn)有沒(méi)有主宰世界的主算法 ）寫(xiě)道。在 AI 的世界里，圣杯就是發(fā)現能夠讓機器理解世界的那個(gè)算法，這就好比是能夠讓物理學(xué)家解釋宇宙運作機制的標準模型，只不過(guò)前者是數字世界的。
在 DeepMind 倫敦辦公室的Google 的智能設計師Demis Hassabis ，他還一位是神經(jīng)科學(xué)家、計算機游戲設計師以及世界級的游戲玩家。
數學(xué)算法已經(jīng)有幾千年的歷史，是現代計算的基礎。輸入數據，計算機處理，然后算法吐出結果。但是現在科學(xué)家已經(jīng)開(kāi)發(fā)出能夠逆轉這個(gè)過(guò)程的算法，也就是讓計算機寫(xiě)自己的算法。比方說(shuō)你想讓直升機倒著(zhù)飛：你會(huì )寫(xiě)個(gè)算法告訴計算機有關(guān)直升機控制方面（輸入數據）的信息，然后你告訴它你想讓直升機怎么飛，飛行角度如何（結果），Bingo！計算機就會(huì )倒騰出自己的算法，然后告訴直升機怎么做。這個(gè)過(guò)程就叫機器學(xué)習，它是 AI 想法的核心：如果機器能夠教自己讓直升機倒著(zhù)飛的話(huà)，那它也應該會(huì )自學(xué)其他事情，比如如何在 Tinder 上找到愛(ài)人，或者在你對著(zhù) iPhone 說(shuō)話(huà)時(shí)認出你的聲音，或者將來(lái)設計出一個(gè)創(chuàng )造終結者的天網(wǎng)出來(lái)。DeepMind 聯(lián)合創(chuàng )始人 Demis Hassabis 已經(jīng)說(shuō)了：“人工智能是讓機器變聰明的科學(xué)?！?/p>
當然，實(shí)際上我們已經(jīng)被智能機器包圍了。你在用 Google Maps 的時(shí)候，算法給你畫(huà)了一條最快捷的路線(xiàn)，并且根據實(shí)時(shí)數據計算出交通延誤并對交通狀況作出預測性分析。當你對著(zhù) Google Voice 說(shuō)話(huà)時(shí)，它能認出你的聲音是基于神經(jīng)網(wǎng)絡(luò )這種機器學(xué)習算法，它讓計算機把你的話(huà)變成聲音片段，然后跟別的片段進(jìn)行比較，再理解你的問(wèn)題。Facebook 通過(guò)圖像識別程序掃描數十億圖片，將斬首視頻、JB 圖片等有害內容拒之門(mén)外。
智能機器正在加速，可它要去向何方呢？地球的生命從誕生到實(shí)現更高智能花了 30 億年的時(shí)間。相比之下，計算機大概只用 60年 就從一大塊硅片變成了能夠開(kāi)車(chē)穿越美國或者在人群中認出一張臉的機器。每過(guò)去一周，就會(huì )有新的突破被宣布出來(lái)：今年1月，DeepMind 披露自己已經(jīng)開(kāi)發(fā)出一種算法，這種算法擊敗了歐洲的圍棋冠軍（該算法叫做 AlphaGo，從 3月9號開(kāi)始，它將與韓國的頂尖圍棋選手李世石進(jìn)行一場(chǎng) 5 番棋大戰）。當然，它的快速演進(jìn)還在人類(lèi)的掌控當中，但你很難不去想我們是不是已經(jīng)到達智能機器演進(jìn)的某個(gè)拐點(diǎn)了。我們是不是即將目睹一個(gè)新物種的誕生？機器還要多久就會(huì )變得比人還要聰明呢？
Elon Musk警告人類(lèi)要注意 AI 的危險
Google 的未來(lái)學(xué)家 Ray Kurzweil 提出了后來(lái)風(fēng)行的 “奇點(diǎn)” 論，奇點(diǎn)說(shuō)的是硅基機器變得比碳基機器（人類(lèi)）更聰明的時(shí)刻，到那個(gè)時(shí)候，進(jìn)化的天平將會(huì )向前者傾斜?！拔磥?lái)我們會(huì )對云展開(kāi)大量思考，” 他在幾年前的一場(chǎng)技術(shù)會(huì )議上如此說(shuō)道。他甚至還預測了奇點(diǎn)到來(lái)的確切時(shí)間：2045年。在最近一場(chǎng)會(huì )議上的即席發(fā)言時(shí)，Tesla 和 SpaceX 的創(chuàng )始人 Elon Musk 把 AI 的發(fā)展稱(chēng)為是 “對惡魔的召喚”。盡管隨后他告訴我說(shuō)自己的說(shuō)法有點(diǎn)過(guò)頭，但他又說(shuō)：“智能機器的崛起向我們提出了一個(gè)嚴重的問(wèn)題，即我們需要考慮，作為人類(lèi)我們是誰(shuí)？我們希望建設一個(gè)怎樣的未來(lái)？” 正如他指出那樣，我們現在已經(jīng)嚴重依賴(lài)機器了：“我們已經(jīng)是賽博格（cyborg）了。不信你把手機關(guān)了看看—你就會(huì )知道幻肢綜合癥是什么樣子的?！?/p>
這并不是說(shuō)超智機器要變得超級邪惡才會(huì )構成威脅?！癆I 的真正風(fēng)險不在于它的惡意，而在于它的能力，” 物理學(xué)家霍金最近指出：“超智 AI 極其擅長(cháng)實(shí)現自己的目標，如果它的目標跟我們的不一致的話(huà)，我們就有麻煩了。你可能并不是邪惡的螞蟻仇恨者，不會(huì )出于惡意踩死螞蟻，但如果由你來(lái)負責一個(gè)水電綠色能源項目，然后需要淹沒(méi)一個(gè)蟻窩所在的區域時(shí)，對于螞蟻來(lái)說(shuō)情況就太糟糕了。我們不要讓人類(lèi)落到那些螞蟻的境地?！?/p>
盡管有了更智能的算法、有了能力更強的機器人，但超智機器的未來(lái)仍然更像是科幻而不是科學(xué)。Facebook AI Research 的負責人 Yann LeCun 說(shuō)，現在 “AI 的智能水平還遠不如一只老鼠?！?是的，IBM 經(jīng)年累月的編程和白花花的銀子砸出了Watson，2011年 這臺機器在智力競賽中擊敗了最聰明的人類(lèi)選手，現在，它是該公司 “認知計算” 行動(dòng)的基礎。一秒鐘它可以閱讀完 8 億頁(yè)的信息，消化掉維基百科的一整個(gè)語(yǔ)料庫，更不用說(shuō)幾十年的法律和醫學(xué)雜志。但是它不能教你如何騎自行車(chē)，因為它的智能是狹隘的—它對世界如何運作一無(wú)所知。西雅圖 Allen Institute for Artificial Intelligence 的 Aristo 是最復雜的 AI 程序之一，但是對于 “人呼吸空氣” 這樣的句子卻是一頭霧水。因為要想理解這個(gè)句子，你需要一些常識—但機器沒(méi)有常識。哪怕常識可以通過(guò)語(yǔ)言定義，程序也不知道呼吸空氣是否就是人活下來(lái)之所需；也不知道人是一分鐘呼吸一次還是一輩子只用呼吸一次。一些給人留下深刻印象的功能，如能讓用戶(hù)用不同語(yǔ)言實(shí)時(shí)對話(huà)的 Skype Translator（目前還是預覽版），也還有很長(cháng)的路要走。在跟意大利的一個(gè)人對話(huà)時(shí)，我對天氣的評論被翻譯成了對圣經(jīng)的解釋。
“Jeopardy!” 智力競賽冠軍 Ken Jennings 和 Brad Rutter 無(wú)助地看著(zhù) IBM 超級計算機 Watson 攻城拔寨
當然，這并不是說(shuō)智能機器的崛起只是一個(gè)虛幻，也不是說(shuō)天網(wǎng)不會(huì )在我們難以想象的數據點(diǎn)集合中突然出現。自動(dòng)武器，比如可以自行根據人臉識別技術(shù)等數據執行任務(wù)的無(wú)人機殺手（參見(jiàn)無(wú)人機百年史話(huà)）就是真正的威脅。但它們不是不會(huì )對人類(lèi)這個(gè)物種的生存造成威脅。朝鮮黑客突然之間創(chuàng )造出一種讓金三有能力對世界發(fā)動(dòng)終結者式攻擊的新算法的可能性也很低。在這種語(yǔ)境下，AI 不像 iPhone，寫(xiě)出一個(gè)新 app 你的活就干完了。這更像是自己來(lái)造互聯(lián)網(wǎng)—這只能慢慢完成，要通過(guò)日積月累的點(diǎn)滴進(jìn)展。百度首席科學(xué)家吳恩達最近告訴我說(shuō)：“擔心殺手機器人就像是在擔心火星出現人口過(guò)剩一樣—我們還有很多時(shí)間去解決麻煩?！?/p>
實(shí)際上，對殺手機器人夸大其詞的問(wèn)題在于它掩蓋了我們所面臨的智能機器崛起的真正風(fēng)險—工人因為被機器人替代而失業(yè)，戰爭中使用自動(dòng)武器的增加，還有這個(gè)簡(jiǎn)單的事實(shí)，我們越是依賴(lài)機器，有東西出問(wèn)題時(shí)我們的風(fēng)險就越高。我們生活在這樣一個(gè)世界的問(wèn)題在于人際關(guān)系的疏遠—我們跟機器的對話(huà)比跟人聊得更多（可以看看電影《her》），在于藝術(shù)變成了一種和諧的算法輸出（參見(jiàn)機器學(xué)習藝術(shù)，Facebook 的深度學(xué)習系統可造出以假亂真的圖像）。AI 時(shí)代還會(huì )對隱私造成影響深遠的挑戰，不僅僅有智能無(wú)人機在天上監視你，企業(yè)也會(huì )跟蹤你的一舉一動(dòng)好賣(mài)東西給你。正如倫理道德研究院的 CTO Marcelo Rinesi 總結那樣：“未來(lái)不是機器人一只腳永遠踩在人臉上（注：原句出自?shī)W威爾的《1984》：如果你要設想一幅未來(lái)的圖景，就想象一只腳踩在一張人臉上好了——永遠如此）。而是一個(gè)你看到的一切東西里面都有一個(gè)小小的電話(huà)推銷(xiāo)員的世界，一個(gè)知道有關(guān)你的一切，永遠不會(huì )停止賣(mài)東西給你的世界?！?
這還掩蓋了與機器深層次結盟所帶來(lái)的好處。大多數的研究人員，像 DeepMind 的 Demis Hassabis 就認為，如果我們賦予機器智能的話(huà)，它們就能夠幫助我們解決疾病和醫療保健這樣的大問(wèn)題，也能幫助科學(xué)家攻克氣候變化和物理學(xué)方面的大難題。微軟的 Eric Horvitz 對 AI 的展望甚至更加宏偉：“對于人類(lèi)來(lái)說(shuō)，一個(gè)大的問(wèn)題是我們的經(jīng)驗是不是可以計算的？如果是的話(huà)，對我們思維方式的更好理解，能不能告訴我們一些有關(guān)我們作為地球生命是什么樣的新發(fā)現？有了這些自我認知之后，我們又能夠做些什么呢？”
未完待續......
本文編譯自：rollingstone.com，如若轉載，請注明出處：http://36kr.com/p/5044169.html
“看完這篇還不夠？如果你也在創(chuàng )業(yè)，并且希望自己的項目被報道，請戳這里告訴我們！”
聯(lián)系客服
