文：夏濱 | 壹心理專(zhuān)欄作者
這絕對不是一篇科普文章，只是和你閑扯 ?
阿爾法狗（AlphaGo）再虐李世石，2：0中盤(pán)再勝，我們已經(jīng)來(lái)不及計算李世石的心理陰影面積了......
小時(shí)候經(jīng)常會(huì )做些白日夢(mèng)，比如長(cháng)大后汽車(chē)會(huì )在天上飛不用地上跑，有很多自動(dòng)化的家電，動(dòng)動(dòng)手指就能控制，機器人滿(mǎn)大街都是，而且他們可以做人類(lèi)所有的事。（等下，所有的嗎？那要人類(lèi)干什么？）那個(gè)時(shí)候「建設四個(gè)現代化」就是最高指示呀，似乎四個(gè)現代化了一切都完成了。
時(shí)光荏苒，如今的科技進(jìn)步已經(jīng)接近進(jìn)化的節奏了，很多夢(mèng)想過(guò)的、沒(méi)夢(mèng)想過(guò)的，都飄到面前，而機器人這一項也逼近想像的極限。
圍棋被認為是世界上最復雜的棋盤(pán)游戲，也是唯一的一種人腦能戰勝電腦的棋類(lèi)?？墒乾F在恐怕我們人類(lèi)不太敢肯定確定以及一定地說(shuō)出這句肯定句了。
2016年3月9日，谷歌公司的AlphaGo與韓國圣手李世石的圍棋大賽第一戰，人腦以3目之差失去與人工智能第一回合，全球嘩然；3月10日，AlphaGo再次獲勝。
不僅讓人想起圍棋大師吳清源曾用一句話(huà)來(lái)抒發(fā)心情，“200歲后我要在宇宙下棋。”圍棋大師留下的一句感慨令人遐想：浩瀚宇宙中人類(lèi)未來(lái)將走向何方？
我想起2015年出過(guò)一部英國神劇『真實(shí)的人類(lèi)』（Humans），當時(shí)看的人目瞪口呆、膽戰心驚。故事其實(shí)并不復雜，講了在未來(lái)的某個(gè)時(shí)間，機器人的應用已經(jīng)非常廣泛，那是一個(gè)機器人Synth被繁忙都市人廣泛使用的世界，機器人僅僅作為簡(jiǎn)單的勞動(dòng)力出現，它不再是人類(lèi)的「延長(cháng)手臂」，它成為人類(lèi)生活中的伙伴，它們可以代替人的工作，它們可以代替人的性生活，它們甚至可以成為人的伴侶，那個(gè)時(shí)代呈現出人類(lèi)與機器人的界限愈發(fā)模糊，很多時(shí)間里人類(lèi)本身已經(jīng)分不清哪些是在和人一起、哪些是和機器一起，于是富有情感的人類(lèi)開(kāi)始恐慌，而缺乏情感的機器人卻在尋找怎樣擁有情感。那個(gè)世界充滿(mǎn)了扣人心弦的矛盾沖突、心理沖擊與道德拷問(wèn)。
01
機器人真的會(huì )撒謊嗎？
在本次人機世紀大戰中，圣手李世石的開(kāi)局搶占先機非常漂亮，而AlphaGo卻顯的很笨拙甚至可以說(shuō)是比較低級，中段在李世石看似已經(jīng)迎來(lái)最后勝利的時(shí)候，AlphaGo還下過(guò)非常低段位的棋招。于是，大家有些陷入迷思：機器人AlphaGo是故意的嗎？這是一種迷惑對手的戰術(shù)嗎？
捎一句，『真實(shí)的人類(lèi)』里的機器人已經(jīng)會(huì )掩飾思想和撒謊了，雖然還只是極少數的機器人。
1950年，圖靈發(fā)表了一篇劃時(shí)代的論文，文中預言了創(chuàng )造出具有真正智能的機器的可能性。由于注意到“智能”這一概念難以確切定義，他提出了著(zhù)名的圖靈測試：如果一臺機器能夠與人類(lèi)展開(kāi)對話(huà)（通過(guò)電傳設備）而不能被辨別出其機器身份，那么稱(chēng)這臺機器具有智能。圖靈測試是人工智能哲學(xué)方面第一個(gè)嚴肅的提案。
1952年，在一場(chǎng)BBC廣播中，圖靈談到了一個(gè)新的具體想法：讓計算機來(lái)冒充人。如果不足70%的人判對，也就是超過(guò)30%的裁判誤以為在和自己說(shuō)話(huà)的是人而非計算機，那就算作成功了。
這一幕在電影『機械姬』里被重現，而影片的最后也同樣顯示了人類(lèi)對于機器人進(jìn)化的恐懼，機械姬最后干掉了驕傲的人類(lèi)。
記得圖靈測試里有效的一項測試，就是不停地問(wèn)對方同一個(gè)問(wèn)題，比如：你是你媽生的嗎？問(wèn)很多很多遍，如果對方總是不緩不慢地回答你同一個(gè)答題，那么多半對面坐著(zhù)的是一個(gè)機器了。
02
機器人為什么要撒謊？
機器人真的會(huì )撒謊嗎？我覺(jué)得很有可能噢。
人工智能領(lǐng)域一直有一個(gè)很著(zhù)名的機器人阿西莫夫三定律，是1942年阿西莫夫在短篇小說(shuō)"Runaround"（《環(huán)舞》）中首次提出：
一 機器人不得傷害人類(lèi)，或因不作為使人類(lèi)受到傷害。
二 除非違背第一定律，機器人必須服從人類(lèi)的命令。
三 除非違背第一及第二定律，機器人必須保護自己。
但后來(lái)，阿西莫夫加入了一條新定律：第零定律。
零 機器人不得傷害人類(lèi)整體，或因不作為使人類(lèi)整體受到傷害。
阿西莫夫的科幻設定里，機器人三定律是植入到近乎所有機器人軟件底層里，不可修改不可忽視的規定，絕不僅僅是“建議”或者“規章”。
不過(guò)，這三條定律的缺陷、漏洞和模糊之處不可避免會(huì )導致一些奇怪的機器人行為。比方說(shuō)，這三條定律連何為“人”、何為“機器人”都沒(méi)有良好定義。而且，如果機器人獲取的信息不完整，它們完全可以無(wú)意中打破定律。更何況，你要怎么阻止一個(gè)智力超群的機器人自己把定律改掉呢？它只需要調整“人”的定義就可以了，根本都不用改變底層規則。
你要問(wèn)，那么它為什么要改呢？這個(gè)問(wèn)題其實(shí)和機器人為什么要撒謊一樣。
人為什么要撒謊？很簡(jiǎn)單，為了謀求利益呀，不管是物質(zhì)利益，精神利益，關(guān)系利益，還是心理平衡，都是有利益目標的，否則這種讓自己可能產(chǎn)生認知失調的事，誰(shuí)愿意干啊。
機器人會(huì )有利益訴求嗎？如果是超人工智能的，我覺(jué)得就有可能啊。其實(shí)，AlphaGo想要贏(yíng)得棋局就是一種利益訴求，只不過(guò)它是被人類(lèi)置入的?？墒沁@么一個(gè)高智能的機器，人類(lèi)舍得只置入這一個(gè)單一訴求嗎？更何況AlphaGo還有自己學(xué)習和進(jìn)化的能力，當它被置入越來(lái)越多的訴求，通過(guò)自我學(xué)習和進(jìn)化，你能預測它會(huì )發(fā)生什么樣的變化嗎？恐怕這種感覺(jué)就和上帝當年看著(zhù)突然直立行走的人類(lèi)是一樣的感覺(jué)吧。
03
人類(lèi)真的會(huì )敗在情緒嗎？
我突然想起來(lái)近幾年日本在進(jìn)行一個(gè)用機器人代替情感撫慰者的研究，他們模擬出各種情感反應語(yǔ)句和姿態(tài)，可是最難的是如何讓機器人捕捉人類(lèi)的情緒，并且做出帶有情緒的反應。最后他們還沒(méi)弄成。
OH~我松了口氣，心理咨詢(xún)師看樣子一時(shí)半會(huì )兒是不能被機器人代替了（我怎么這么小農思想呢你說(shuō)）。
作為一種人工智能系統AlphaGo擁有兩個(gè)大腦，落子選擇器 （Move Picker）和棋局評估器 （Position Evaluator）。這也基于兩個(gè)深度神經(jīng)網(wǎng)絡(luò )，policy network與value network。二者極大地降低了需要考慮的搜索空間的復雜度，前者降低搜索的廣度，后者降低搜索的深度，很像人腦在下圍棋時(shí)憑直覺(jué)快速鎖定策略的思維?！凹狭?000萬(wàn)種職業(yè)棋手的下法，數百萬(wàn)次深度學(xué)習與自我對戰，十分接近帶著(zhù)直覺(jué)和第六感的人類(lèi)大腦，能以57%的概率預測與其對陣人類(lèi)的水平?！?/p>
據比賽分析師認為，李世石在掌握了棋局大好形勢的情況下，就是情緒出現了波動(dòng)，失去了進(jìn)一步推進(jìn)勝局的優(yōu)勢，并被AlphaGo逆轉翻盤(pán)的。
關(guān)于人工智能，李開(kāi)復有過(guò)這樣的描述：
「雖然這些機器確實(shí)很“聰明”，而且又高效、勤奮、低廉，但是他們并不“人性化”，只是冷冰冰的機器和工具。比如說(shuō)，AlphaGo第一場(chǎng)就戰勝了李世石，但是它不會(huì )感覺(jué)高興，也不會(huì )理解我們對于它的討論。甚至，它說(shuō)不上這局棋是怎么贏(yíng)的。因為，它的思考雖然周密，但是它不懂“贏(yíng)了有什么感受？”，也不懂“為什么圍棋好玩”，更不懂“人為什么要下棋？”，甚至連“你今天怎么贏(yíng)的？”都說(shuō)不上。今天的機器完全無(wú)法理解人的情感、喜怒哀樂(lè )、七情六欲、信任尊重、價(jià)值觀(guān)等方面 。對于人文藝術(shù)、美和愛(ài)、幽默感，機器更是絲毫不懂?！?/p>
人類(lèi)有著(zhù)天然強大的情緒大腦，我們會(huì )將很多的情緒體驗“編譯”成特定代號存儲在我們的情緒大腦里，然后非常迅速地做出反應，比如恐懼、比如厭惡，這大大節省了我們大腦的處理資源?？上нz憾的地方就是，因為迅速所以它就不能那么精確，它會(huì )是一種相對模糊的代碼，所以我們瞅到井邊的麻繩會(huì )迅速逃開(kāi)。
在復雜運算方面，人類(lèi)已經(jīng)遠遠落在了機器后面，不過(guò)在情感連接、模糊互動(dòng)、甚至潛意識的聯(lián)動(dòng)上，機器似乎很難進(jìn)化到這個(gè)階段。情緒之所以常常會(huì )影響到我們的能力發(fā)揮，甚至會(huì )影響到圣手李世石的發(fā)揮，很大一部分是因為我們存儲的“編譯”情緒的內核往往是和負性情緒相關(guān)，人類(lèi)七種主要情緒“喜怒憂(yōu)思悲恐驚”大部分是相對負性的，這可能源于我們進(jìn)化的需要，保護自己的生存首先需要的是防守。
不過(guò)，這些負性情緒同樣也是力量的來(lái)源，比如憤怒產(chǎn)生攻擊的力量，憂(yōu)傷產(chǎn)生思考和防御的力量，恐懼產(chǎn)生逃跑的力量，這些力量往往會(huì )調動(dòng)人類(lèi)的潛能，遠遠超出自我的想像，而機器的力量是特定的，可計算的，在競爭中可計算的對手常常會(huì )處于劣勢，甚至被毀滅。從這個(gè)角度看，人類(lèi)情緒的不可預測性，也許恰恰是進(jìn)化出來(lái)的一種絕妙的競爭武器。
可以這么說(shuō)，現在的人工智能似乎只有一個(gè)超強左腦，它遠遠沒(méi)有一個(gè)變幻右腦加以輔助和調控，沒(méi)有右腦的參與，即使是撒謊，那也只能算是程序BUG。
人工智能機器真正可能給人類(lèi)帶來(lái)的危機，不是奴役或取代人類(lèi)，而是讓人類(lèi)喪失斗志，安于現狀，或者喪失勇氣，放任自流。因為機器可能無(wú)知無(wú)覺(jué)地調動(dòng)了我們人類(lèi)情緒大腦里不安的因素，并且發(fā)揮著(zhù)情緒大腦帶給我們負性意義。
那將是：人類(lèi)敗給了人類(lèi)自己。
[ 補記 ] 昨天和幾個(gè)同行朋友在網(wǎng)上閑聊到人工智能的發(fā)展和人類(lèi)的危機，不知道為什么，我突然卻有了一種樂(lè )觀(guān)的欣然。人類(lèi)之與機器的區別，是個(gè)體相交的基礎是關(guān)系，并不是分析；個(gè)體互動(dòng)的關(guān)鍵是情感互動(dòng)，并不是話(huà)術(shù)對答。如果說(shuō)有一天機器人把這些都學(xué)會(huì )了（如果真可以），那它就是一個(gè)人了，我們又何必懼怕，既然我們都是人只不過(guò)你數理化好一點(diǎn)罷了，Who怕Who？人搞人我們最在行了，我們人類(lèi)歷史上靠的是知識多少嗎，是運算速度嗎，如果只是靠硬件，是就沒(méi)毛爺爺什么事了。
不怕不怕，告訴你吧，我們人類(lèi)人工智能技術(shù)發(fā)展的目標其實(shí)是：把它丫的變成“人”，讓它們和我們一樣受盡人間疾苦。
真到那時(shí)，我在心理咨詢(xún)室里接診的第一個(gè)機器人來(lái)訪(fǎng)者，可能就是因為“為什么我終于能愛(ài)人類(lèi)的她了，她怎么甩了我呀？我好痛苦，腫么辦？”
原題：機器人會(huì )叛亂嗎 | 人機大戰的思考
夏濱
喜歡琢磨的心理咨詢(xún)師
生活文藝范兒，工作專(zhuān)業(yè)范兒。蝸居杭州專(zhuān)心做咨詢(xún)，認真做講師。
聯(lián)系客服
