《終結者》。人類(lèi)被機器摧毀是一個(gè)永恒的科幻主題。
特斯拉汽車(chē)（Tesla Motors）和Space X兩家公司的老板埃倫·穆斯克（Elon Musk）預測：超級智能計算機將很有可能消滅人類(lèi)。
科技創(chuàng )業(yè)者埃倫·穆斯克在8月3日所發(fā)的兩條推文中對人類(lèi)的滅亡發(fā)出警告，他在夏季閱讀的內容談到了來(lái)自人工智能的隱約浮現的威脅。
“我們需要對人工智能超級小心，”他在其中一條推文中說(shuō)，“人工智能可能比核武器還要危險?！?/p>
另一條推文則稱(chēng)：“希望我們不要在生物學(xué)上成為數字超級智能的啟動(dòng)加載程序。不幸的是，這種可能性越來(lái)越大?！?/p>
穆斯克此番令人驚異的“科技恐懼癥”評論，是在看過(guò)《超級智能：方法、危險、戰略》（Superintelligence: Paths, Dangers, Strategies）以及《我們最后的發(fā)明：人工智能及人類(lèi)時(shí)代的終結》（Our Final Invention: Artificial Intelligence and the End of the Human Era）兩本書(shū)之后有感而發(fā)。這兩本書(shū)的作者分別是牛津大學(xué)哲學(xué)教授尼克·博斯特倫（Nick Bostrom）以及詹姆斯·巴拉特（James Barrat）。
人類(lèi)未來(lái)研究院（Future of Humanity Institute）的創(chuàng )始人兼主任博斯特倫教授認為，第一個(gè)擁有超級智能的實(shí)體會(huì )消滅人類(lèi)?！艾F在我們人類(lèi)就像一群擺弄著(zhù)一顆危險炸彈的無(wú)知孩童?！彼麑?xiě)道。
巴拉特先生認為，即便超級智能是出于好意而被創(chuàng )造出來(lái)，但它仍有犯下種族滅絕罪行的傾向。
他寫(xiě)道：“如果沒(méi)有小心謹慎的制衡指令，一個(gè)有著(zhù)自我意識、不斷自我完善并追尋目標的系統將發(fā)展到在我們看來(lái)非?；闹嚨某潭?，以完成它的目標?！?/p>
人類(lèi)報應到來(lái)的第一步必將是使超級智能通過(guò)圖靈測試，英國代碼破譯者、計算機先驅阿蘭·圖靈（Alan Turing）說(shuō)道。
在該測試中，一臺計算機和一個(gè)人必須競相說(shuō)服一個(gè)看不到它們的觀(guān)察者，使其相信自己才是真正的人類(lèi)。只有至少在半數觀(guān)察者那里蒙混過(guò)關(guān)，該計算機才算通過(guò)了測試 。
目前，尚無(wú)一臺計算機接近于通過(guò)測試。
特斯拉和Space X兩家公司的老板埃倫·穆斯克
我們制造的機器將會(huì )叛變并殺死我們，或者至少統治我們，這類(lèi)恐懼是永恒的科幻主題，不僅限于奧利安電影公司（ Orion Pictures）出品、由阿諾·施瓦辛格主演的《終結者》（Terminator）系列影片。
為了制衡這種情況，上世紀50年代美國科幻小說(shuō)家艾薩克·阿西莫夫（Isaac Asimov）在他的機器人相關(guān)小說(shuō)中為機器人設定了行為準則，也就是機器人三定律（Three Laws of Robotics）。
法則一，也是最為重要的一條法則：機器人不得傷害人類(lèi)，也不得因不作為而使人類(lèi)受到傷害；
法則二：機器人必須服從人類(lèi)的命令，除非違背第一法則；
法則三：在不違背第一及第二法則的前提下，機器人必須保護自己。
去年去世的科幻作者伊恩·M.班克斯（Iain M Banks）在其《文明》（Culture）系列小說(shuō)中，頻繁刻畫(huà)了具有自我意識的計算機，其中有些具備超級智能，但它們全都受到道德感的約束。
執教于印第安納大學(xué)等學(xué)術(shù)機構的認知科學(xué)教授道格拉斯·郝夫斯臺特（Douglas Hofstadter）在其《哥德?tīng)?、艾舍爾、巴赫——集異璧之大?nbsp;》（G?del, Escher, Bach: an Eternal Golden Braid,1979年獲普利策獎）一書(shū)中稱(chēng)，為了獲得真正的智能，計算機必須以和人類(lèi)差不多的方式整合知識。
谷歌公司（Google）工程總監雷·庫茲威爾（Ray Kurzwell）認為，到2029年時(shí)，計算機將變得比人類(lèi)更智能，這樣的一個(gè)點(diǎn)被未來(lái)學(xué)家們稱(chēng)之為“奇點(diǎn)”。但他在《靈魂機器時(shí)代》（The Age of Spiritual Machines）中稱(chēng)，人工智能將屈從于人類(lèi)。
譯 徐笑音 校 陳岳林
聯(lián)系客服
