本文來(lái)自微信公眾號：底層設計師（ID：Bottom-upDesigner），作者：胡泳（北京大學(xué)新聞與傳播學(xué)院教授），題圖來(lái)自：《監視資本主義：智能陷阱》

代碼：當今世界的神奇淵源

有關(guān)艾倫·圖靈（Alan Turing）的歷史劇情片《模仿游戲》（The Imitation Game）中，看到那臺名叫克里斯托弗的機器破解Enigma那一瞬，忍不住熱淚盈眶。有時(shí)候，被世界所遺棄的人，才能成就意想不到的大事。

影片最后在一段畫(huà)外音中結束：“他的機器從來(lái)沒(méi)有臻于完美，但它導致了一整套有關(guān)'圖靈機’的研究。今天我們把這樣的機器叫做'電腦’?！?/p>

從鐮刀到蒸汽機，人類(lèi)總是企圖利用技術(shù)控制我們周邊的世界。然而，要說(shuō)到對環(huán)境的塑造，恐怕沒(méi)有哪一種機器比電腦更有力。而令電腦如此強有力的東西是代碼。

代碼，簡(jiǎn)單地說(shuō)，是一套由單詞和數字組成的規則或者指令。把這些單詞或者數字按照合適的順序排列，就可以命令電腦為人類(lèi)做事情?？删幊痰拇a千變萬(wàn)化、極其靈活，無(wú)論是游戲還是太空飛船都能指揮自如。個(gè)體的天才創(chuàng )造力、被需要所驅使的發(fā)明以及人類(lèi)了不起的想象，共同造就了代碼。

從遠古時(shí)代，人類(lèi)就開(kāi)始把玩代碼。但里程碑是德國數學(xué)家萊布尼茨（Leibniz）用簡(jiǎn)單的0和1造就的“具有世界普遍性的、最完美的邏輯語(yǔ)言”。目前在德國圖林根，著(zhù)名的郭塔王宮圖書(shū)館（Schlossbibliothek zu Gotha）內仍保存一份萊氏的手稿，標題寫(xiě)著(zhù)：“1與0，一切數字的神奇淵源?！苯裉焖杏嬎愕幕A都來(lái)自二進(jìn)制。

在萊布尼茨發(fā)明二進(jìn)制一個(gè)世紀之后，法國織機工匠約瑟夫·雅卡爾（Joseph Jacquard）在他發(fā)明的自動(dòng)蒸汽動(dòng)力織布機上，考慮一種由一組卡片控制的裝置來(lái)機械地織出任何紋樣。該控制裝置由硬打孔卡和吊鉤組成。每個(gè)孔的位置對應一根經(jīng)線(xiàn)，根據打孔或不打孔決定提起或不提起經(jīng)線(xiàn)，并交織一次。不同的打孔卡會(huì )令織機織出不同的花紋，因而，卡片構成了對織機的指令——這和現代計算機程序的工作方式完全一致。

英國數學(xué)家查爾斯·巴貝奇（Charles Babbage）認為同樣的打孔卡可以用來(lái)輸入數字，以及有關(guān)如何處理這些數字的指令，因而創(chuàng )造了世界上第一臺通用的計算機器。

他的工作成就了世界上第一位程序員，她是位女性，而且是拜倫（Lord Byron）之女。埃達·洛夫雷斯（Ada Lovelace）是位數學(xué)家，也是穿孔機程序創(chuàng )始人。她建立了循環(huán)和子程序概念，為計算程序擬定“算法”，寫(xiě)作了第一份“程序設計流程圖”。在1843年發(fā)表的一篇論文里，埃達認為機器今后有可能編曲、制圖和實(shí)現各種更復雜的用途，這是十分大膽的預見(jiàn)。

19世紀末，美國的人口普查造成了一個(gè)管理上的噩夢(mèng)：不得不用8年時(shí)間手工輸入每個(gè)公民的資料。人口普查部門(mén)的一位職員赫曼·霍勒瑞斯（Herman Hollerith）想出了一個(gè)解決辦法：把每個(gè)人的資料以編碼方式輸入穿孔卡中，利用新的電力技術(shù)把一排排針壓入卡片，將形成的電路予以記錄。

霍勒瑞斯將自己的發(fā)明商業(yè)化，日后發(fā)展為赫赫有名的電腦公司IBM。如果說(shuō)圖靈生后享有“計算機科學(xué)之父”和“人工智能之父”的美譽(yù)，可以說(shuō)，霍勒瑞斯就是“大數據之父”。

1971年，英特爾公司發(fā)布世界上第一枚商用芯片；加州硅谷的家釀電腦俱樂(lè )部（Homebrew Computer Club）里那些狂熱的愛(ài)好者們很快圍繞芯片開(kāi)始開(kāi)發(fā)軟件和打造個(gè)人計算機。

史蒂夫·沃茲尼亞克（Steve Wozniak）開(kāi)發(fā)了第一代蘋(píng)果電腦，而同時(shí)代的比爾·蓋茨（Bill Gates）則開(kāi)創(chuàng )了軟件產(chǎn)業(yè)。

隨后，電腦在創(chuàng )意產(chǎn)業(yè)、金融產(chǎn)業(yè)、制造業(yè)和科研領(lǐng)域等一路攻城略地。直到1990年代，人們又把個(gè)人電腦聯(lián)結成網(wǎng)，電腦終于不僅僅被視為完成指定任務(wù)的工具，也成為分享和協(xié)作的利器。再往下的故事，搜索引擎、社交媒體、移動(dòng)互聯(lián)等，我們毋需多言了。

就像17世紀的農民、18~19世紀工業(yè)革命時(shí)期的工人、二戰以后崛起的辦公室白領(lǐng)一樣，程序員漸漸成為下一個(gè)大規模職業(yè)。

編程的終結與機器學(xué)習的興起

由于計算機的飛速發(fā)展，編程的要求和種類(lèi)也日趨多樣，由此產(chǎn)生了不同種類(lèi)的程序設計員，每一種都有更細致的分工和任務(wù)?，F今，程序設計員可以指某一領(lǐng)域的編程專(zhuān)家，也可以泛指軟件公司里編寫(xiě)一個(gè)復雜軟件系統里某一塊的一般程序員。

與此同時(shí)，程序自身也在變化。

在計算機發(fā)明之前，大多數實(shí)驗心理學(xué)家認為大腦是一個(gè)不可知的黑匣子。不錯，我們可以分析對象的行為——打鈴，狗就會(huì )分泌唾液，但是思想、記憶、情感？這些東西晦澀難懂，超出了科學(xué)的范圍。

因此，這些自稱(chēng)的行為主義者，將他們的工作局限于對刺激和反應、反饋和強化、鈴聲和唾液的研究。他們放棄了去嘗試了解大腦的內部運作，統治了這個(gè)領(lǐng)域四十年。

然后，在1950年代中期，一群叛逆的心理學(xué)家、語(yǔ)言學(xué)家、信息理論家和早期的人工智能研究者對大腦提出了不同的理解。他們認為，人不僅僅是條件反應的集合。

他們吸收信息，對其進(jìn)行處理，然后據其采取行動(dòng)。他們擁有一個(gè)用于寫(xiě)入、存儲和調動(dòng)記憶的系統。他們通過(guò)邏輯形式語(yǔ)法進(jìn)行操作。一言以蔽之，大腦根本不是黑匣子，而更像是一臺計算機。

所謂的認知革命起步甚微，但是隨著(zhù)計算機成為心理學(xué)實(shí)驗室的標準設備，上述想法獲得了更廣泛的接受。到1970年代后期，認知心理學(xué)已經(jīng)推翻了行為主義，隨著(zhù)新范式的出現，我們擁有了一種談?wù)撔闹巧畹娜抡Z(yǔ)言。

心理學(xué)家開(kāi)始將思想描述為程序，普通人談?wù)搶⑹聦?shí)存儲在他們的記憶庫中，而管理專(zhuān)家則對現代工作場(chǎng)所中的心智帶寬和處理能力的局限感到擔憂(yōu)。

這個(gè)故事不過(guò)是上一次心智革命的重復。隨著(zhù)數字革命席卷我們生活的各個(gè)方面，它也滲入了我們的語(yǔ)言，以及我們關(guān)于事物運作方式的更深的、更基礎的理論。技術(shù)總是這樣做的。

在啟蒙運動(dòng)中，牛頓（Isaac Newton）和笛卡爾（René Descartes）啟發(fā)了人們將宇宙視為一架精致的時(shí)鐘。在工業(yè)時(shí)代，宇宙成了帶有活塞的機器——就連弗洛伊德（Sigmund Freud）的心理動(dòng)力學(xué)思想也是從蒸汽機的熱力學(xué)中借來(lái)的。而到了今天，宇宙變成了一臺計算機。

仔細考慮這一點(diǎn)，會(huì )發(fā)現它是一個(gè)從根本上讓我們變得更強大的想法。因為，假如世界是一臺計算機，那么人就可以對世界進(jìn)行編碼。

代碼是合乎邏輯的。代碼是可以入侵的。代碼即命運。這些構成了數字時(shí)代生活的核心原則，也是自我實(shí)現的預言。

隨著(zhù)軟件吞噬了世界（風(fēng)險資本家馬克·安迪森語(yǔ)），我們已經(jīng)讓機器環(huán)繞我們自身，這些機器將我們的行為、思想和情感轉換為數據，匯聚的原材料可供大量使用代碼的工程師操縱。

我們已經(jīng)將生命本身看作是由一系列可以被發(fā)現、利用、優(yōu)化甚至重寫(xiě)的指令所控制的東西。

公司使用代碼來(lái)了解我們最親密的關(guān)系；Facebook的馬克·扎克伯格（Mark Zuckerberg）甚至暗示可能存在“一種基本的數學(xué)法則，它決定著(zhù)人與人之間的關(guān)系，而這些人與人的關(guān)系又支配著(zhù)我們所有人掛念誰(shuí)和關(guān)心什么”。

2013年，克雷格·文特（Craig Venter）宣布，在對人類(lèi)基因組進(jìn)行解碼的十年后，他開(kāi)始編寫(xiě)允許他創(chuàng )建合成生物的代碼。

文特說(shuō)：“越來(lái)越明顯，我們在這個(gè)星球上知道的所有活細胞都是由DNA軟件驅動(dòng)的生物機器。蛋白質(zhì)機器人執行著(zhù)經(jīng)過(guò)數十億年的進(jìn)化軟件的變化而發(fā)展出來(lái)的精確生化功能?！?/p>

甚至連勵志書(shū)都堅持說(shuō)你可以破解自己的源代碼，對愛(ài)情生活、睡眠常態(tài)和消費習慣進(jìn)行重新編碼。

在這個(gè)世界上，編寫(xiě)代碼的能力已不僅成為一種必不可少的技能，而且還成為一種授予內部人身份的語(yǔ)言。他們可以使用在更機械的時(shí)代被稱(chēng)為力量杠桿的東西。

未來(lái)學(xué)家馬克·古德曼（Marc Goodman）寫(xiě)道：“如果你控制了代碼，就可以控制整個(gè)世界。這就是等待我們的未來(lái)?！痹凇杜聿┥虡I(yè)周刊》上，保羅·福特（Paul Ford）說(shuō)得稍微謹慎一些：“就算程序員不控制世界，那他們也運行著(zhù)運行世界的東西?！?/p>

你不是編程精英，可能連手機設置也搞不好，那么，是不是就只有被統治的份了？切莫慌張。我們的機器現在開(kāi)始說(shuō)另一種語(yǔ)言，即使是最好的程序員也無(wú)法完全理解。

在過(guò)去幾年中，最大的科技公司都在積極推行一種被稱(chēng)為“機器學(xué)習”的計算方法。在傳統編程里，工程師編寫(xiě)明確的分步說(shuō)明供計算機遵循。

而到了機器學(xué)習階段，程序員無(wú)需使用指令對計算機進(jìn)行編碼，而是訓練計算機。比如，如果你想教一個(gè)神經(jīng)網(wǎng)絡(luò )來(lái)識別貓，不是告訴它尋找腮須、耳朵、毛皮和眼睛，而是向它展示成千上萬(wàn)張貓的照片，最終它就能解決問(wèn)題。萬(wàn)一它將狐貍錯誤地歸類(lèi)為貓了，怎么辦？要是過(guò)去，程序員就需要重寫(xiě)代碼。而現在，你堅持繼續訓練。

這種方法并非剛剛開(kāi)始，只是最近變得更加強大，這在一定程度上要歸功于深度神經(jīng)網(wǎng)絡(luò )的興起，大規模分布的計算系統模仿了大腦中神經(jīng)元的多層連接。

也許你還沒(méi)有意識到，機器學(xué)習已經(jīng)在為我們的在線(xiàn)活動(dòng)提供各種強大的支持。Facebook用它來(lái)確定新聞中出現哪些故事，Uber用它來(lái)實(shí)現拼車(chē)，而Google Photos用它來(lái)識別面孔。機器學(xué)習運行微軟的Skype翻譯器，可將語(yǔ)音實(shí)時(shí)轉換為不同的語(yǔ)言。自動(dòng)駕駛汽車(chē)利用機器學(xué)習來(lái)避免發(fā)生事故。甚至連Google的搜索引擎（多年來(lái)一直是人工編寫(xiě)規則的重鎮）也開(kāi)始依賴(lài)于這樣的深度神經(jīng)網(wǎng)絡(luò )。

2016年2月，該公司起用機器學(xué)習專(zhuān)家約翰·詹南德雷亞（John Giannandrea）出任搜索主管，并啟動(dòng)了一項重大計劃，對其工程師進(jìn)行新技術(shù)的再培訓。秋天，他告訴記者：“通過(guò)建立學(xué)習系統，我們不再需要編寫(xiě)這些規則了?！?/p>

然而這正是問(wèn)題：依靠機器學(xué)習，工程師永遠無(wú)法確切地知道計算機是如何完成任務(wù)的。神經(jīng)網(wǎng)絡(luò )的操作在很大程度上是不透明和難以理解的。

換句話(huà)說(shuō)——你猜對了——它是一只黑匣子（就像行為主義心理學(xué)家眼中的大腦）。隨著(zhù)這些黑匣子承擔著(zhù)越來(lái)越多的日常數字任務(wù)的責任，它們不僅將改變我們與技術(shù)的關(guān)系，還將改變我們對自己、我們的世界以及我們在其中的位置的看法。

從上帝到訓狗師

《連線(xiàn)》雜志網(wǎng)站總監杰森·坦茲（Jason Tanz）寫(xiě)道：“從舊的角度看，程序員就像上帝，制定著(zhù)著(zhù)控制計算機系統的法律。而現在，他們就像父母或馴狗師。正如任何父母或者狗的主人可以告訴你的那樣，他們由此就陷入了一種神秘得多的關(guān)系?！?/p>

不僅訓練的性質(zhì)是神秘的，連結果也是神秘的。

這意味著(zhù)編程的結束、AI的開(kāi)始。當工程師探究深度神經(jīng)網(wǎng)絡(luò )時(shí)，他們窺見(jiàn)的是數學(xué)的海洋：大量的多層微積分問(wèn)題，通過(guò)不斷推導數十億個(gè)數據點(diǎn)之間的關(guān)系，可以得出有關(guān)世界的猜測。

神經(jīng)網(wǎng)絡(luò )沒(méi)有符號或規則，只有數字。這讓很多人感到疏離。然而，不可解析的機器語(yǔ)言的含義不只是哲學(xué)上的。

在過(guò)去的二十年中，學(xué)習編碼一直是獲得可靠就業(yè)的最確定途徑之一。對于所有將孩子在課后趕到編程班的父母來(lái)說(shuō)，他們是在為孩子的未來(lái)打算。

現在，由擅長(cháng)深度學(xué)習的神經(jīng)網(wǎng)絡(luò )運行的世界將需要不同的勞動(dòng)力。由于機器使舊技能變得無(wú)關(guān)緊要，分析師早就開(kāi)始擔心AI對就業(yè)市場(chǎng)的影響，預計程序員用不了多久就會(huì )體會(huì )到睡不著(zhù)覺(jué)的感覺(jué)。由此，工程師的定義也將被改寫(xiě)。

當然，仍然必須有人訓練這些系統。但至少現在，這還是一項稀缺的技能。它既需要對數學(xué)的高度理解，也需要對教學(xué)的輸入輸出具備直覺(jué)。

谷歌的DeepMind AI團隊負責人德米斯·哈薩比斯（Demis Hassabis）說(shuō)：“它幾乎像一種藝術(shù)形式，即怎么把這些系統最大程度地動(dòng)用起來(lái)。世界上只有數百人可以做到這一點(diǎn)?！比欢褪沁@么少的一些人，已足以在短短幾年內改變技術(shù)行業(yè)。

無(wú)論這種轉變的專(zhuān)業(yè)意義如何，其文化后果將會(huì )更大。如果人工編寫(xiě)軟件的興起引發(fā)了我們對工程師的熱愛(ài)，并且人們最終可以將人類(lèi)經(jīng)驗簡(jiǎn)化為一系列可理解的指令，那么，機器學(xué)習將朝著(zhù)相反的方向發(fā)展。運行宇宙的代碼可能逃脫人類(lèi)的了解。

舉一個(gè)小小的例子：當Google在歐洲面臨一項反托拉斯調查、指控該公司對其搜索結果施加不當影響時(shí)，這樣的指控將很難被坐實(shí)，因為就連公司自己的工程師也無(wú)法確切說(shuō)明其搜索算法的工作方式。

將會(huì )產(chǎn)生一種不確定性的大爆炸。事實(shí)證明，哪怕簡(jiǎn)單的算法也可以促發(fā)不可預測的緊急行為，混沌理論正是這么認為的。

在過(guò)去幾年中，隨著(zhù)網(wǎng)絡(luò )越來(lái)越緊密地交織在一起，其功能也越來(lái)越復雜，代碼似乎變得日益像一股外來(lái)力量，機器中的幽靈漸趨難以捉摸和不可控制。

集發(fā)明家、創(chuàng )業(yè)家和科學(xué)家于一身的丹尼·希利斯（Danny Hillis）在《設計與科學(xué)雜志》上寫(xiě)道：“隨著(zhù)我們的技術(shù)和制度創(chuàng )新變得越來(lái)越復雜，我們與它們之間的關(guān)系也發(fā)生了變化?！薄拔覀儧](méi)有成為我們的創(chuàng )造物的主人，而是學(xué)會(huì )了與它們討價(jià)還價(jià)，哄騙和指導它們朝著(zhù)我們目標的總體方向發(fā)展。我們建立了自己的叢林，而這叢林擁屬于自身的生命?！睓C器學(xué)習的興起是這一旅程的最新、也許是最后的一步。

這一切都可能令人恐懼。畢竟，編碼至少是普通人可以想象的在訓練營(yíng)中習得的東西，而程序員至少是人類(lèi)?，F在，技術(shù)精英的規模甚至走向更小，而他們對自己的造物的命令已經(jīng)減弱，且變得間接。那些制造這些東西的公司已然發(fā)現它們的行為方式難以治理。

2015年夏天，當Google的照片識別引擎開(kāi)始將黑人的圖像標記為大猩猩時(shí)，公司趕忙道歉。一開(kāi)始它最直接的解決辦法是防止系統將任何東西標記為大猩猩。然后，公司表示，圍繞著(zhù)哪些標簽可能出問(wèn)題，它正在著(zhù)手研究長(cháng)期的修復辦法，希望能夠做到更好地識別深色皮膚的臉部。

三年以后，Google沒(méi)有取得任何進(jìn)展。它完全阻止了其圖像識別算法去識別大猩猩——為了不冒錯誤分類(lèi)的風(fēng)險，主動(dòng)限制了自己的服務(wù)。

《連線(xiàn)》雜志還發(fā)現，Google也限制其他種族類(lèi)別的AI識別。例如，搜索“黑人”或“黑人婦女”只會(huì )返回按性別分類(lèi)的黑白照片，而不按種族分類(lèi)。

另一起知名的事件是微軟的聊天機器人Tay。該機器人2016年3月23日推出，面向18至24歲的青少年。微軟希望能通過(guò)這款機器人更好地了解年輕人使用的隨意性和戲謔性的網(wǎng)絡(luò )交流語(yǔ)言。然而，發(fā)布僅24小時(shí)后，微軟似乎開(kāi)始編輯Tay發(fā)出的那些具有煽動(dòng)性的評論。

原因是，Tay上線(xiàn)僅幾個(gè)小時(shí)，推特用戶(hù)們便開(kāi)始對其算法中存在的缺陷加以利用，導致它在回答一些特定問(wèn)題時(shí)帶上了種族主義色彩，如使用種族侮辱用語(yǔ)，支持白人至上主義和種族滅絕政策等。

“人工智能聊天機器人Tay是一項機器學(xué)習計劃，專(zhuān)為與人類(lèi)交流而設計?！蔽④浀囊幻l(fā)言人說(shuō)?！霸谒鼘W(xué)習的過(guò)程中，它發(fā)表了一些不合適的言論，能夠反映出人們都和它進(jìn)行了怎樣的互動(dòng)。我們目前正在對Tay進(jìn)行一些調整?！?/p>

隨后，關(guān)注者質(zhì)疑為什么“她”的某些推文看上去正在被編輯，從而促成了一場(chǎng)#justicefortay運動(dòng)，要求軟件巨頭讓AI“為自己學(xué)習”。微軟關(guān)閉了Tay，一年以后推出Zo。Zo幾乎立刻就因為有意規避潛在的攻擊性話(huà)題而引入的算法偏見(jiàn)飽受批評。

例如，Zo拒絕談?wù)撝袞|、《古蘭經(jīng)》或《摩西五經(jīng)》，無(wú)論是正面的、負面的還是中立的，但可以討論基督教。

克洛伊·羅絲·斯圖爾特-烏林（Chloe Rose Stuart-Ulin）在Quartz的一篇文章中揭露了這些偏見(jiàn)，她說(shuō)：“Zo的政治正確走到了一個(gè)糟糕的極端；一旦觸發(fā)那些可能的誘因，她就會(huì )變成一個(gè)武斷的小混蛋?！弊髡哒f(shuō)，政治正確的機器人比種族主義的機器人更可憎。

2019年，Zo也被微軟關(guān)閉。像Google的圖片識別程序和微軟的聊天機器人所顯示的，試圖建立跨世界的算法，對硅谷的自我隔絕的文化而言，并非一出bug就尋求快速修復那樣簡(jiǎn)單。

一些科技領(lǐng)域的頂尖思考者和實(shí)踐者相信，這一切都預示著(zhù)我們將迎來(lái)一個(gè)人類(lèi)放棄對機器的權威的時(shí)代。史蒂芬·霍金（Stephen Hawking）寫(xiě)道：“人們可以想象，這樣的技術(shù)將智勝金融市場(chǎng)，比人類(lèi)研究者更具發(fā)明力，比人類(lèi)領(lǐng)導人還多操控術(shù)，并開(kāi)發(fā)出我們甚至無(wú)法理解的武器?！?/p>

埃隆·馬斯克（Elon Musk）和比爾·蓋茨等都對此表示贊同?；艚鸷推渌豢茖W(xué)家在《獨立報》上寫(xiě)道：“盡管人工智能的短期影響取決于誰(shuí)來(lái)控制，但長(cháng)期影響取決于是否可以完全控制它?！?/p>

本文來(lái)自微信公眾號：底層設計師（ID：Bottom-upDesigner），作者：胡泳（北京大學(xué)新聞與傳播學(xué)院教授）