智東西（公眾號：zhidxcom）
文 | Lina
請叫我“楊立昆”，謝謝！
這位自稱(chēng)“楊立昆”的歪果仁真名Yann LeCun，被業(yè)界稱(chēng)為“卷積神經(jīng)網(wǎng)絡(luò )之父”，同時(shí)是深度學(xué)習三巨頭之一（另外兩位分別是Geoffrey Hinton和Yoshua Bengio），現任Facebook人工智能研究院的院長(cháng)，兼任美國紐約大學(xué)教授。
3月23日，這位深度學(xué)習的大牛來(lái)到了北京，在清華經(jīng)管學(xué)院、清華x-lab、Facebook合作開(kāi)設的課程中進(jìn)行了一場(chǎng)主題為《深度學(xué)習與AI未來(lái)》的2小時(shí)英文演講，智東西也來(lái)到了現場(chǎng)。演講剛開(kāi)始時(shí)，Yann LeCun就在幻燈片上打出了自己新取的中文名——“楊立昆”，引來(lái)臺下一片了然的笑聲，Yann LeCun自己也忍不住笑了。在國內AI圈里，常有人講Yann LeCun戲稱(chēng)為“楊樂(lè )康”，有時(shí)則是調侃地直接將LeCun以拼音讀成“楊樂(lè )村”，不知此事是否傳到了這位風(fēng)趣可愛(ài)的技術(shù)大牛耳中。
智東西梳理了本次演講的要點(diǎn)與脈絡(luò )，并增補了相關(guān)背景知識，帶你詳細了解深度學(xué)習的發(fā)展現況、成果、困境、以及最前沿的突破性嘗試。此外，還有Yann LeCun親口向智東西回應關(guān)于Facebook削減AI預算的報道、以及十年前的2個(gè)賭約等科技小八卦。
Facebook人工智能研究院全稱(chēng)FAIR（Facebook Artificial Intelligence Research），主要研究AI相關(guān)的科學(xué)與技術(shù)，以及其在各個(gè)領(lǐng)域中的應用——如計算機視覺(jué)、對話(huà)系統、虛擬助手、語(yǔ)音識別、自然語(yǔ)言識別等；據聞是一個(gè)學(xué)術(shù)氛圍較濃的研究院，研究方向相對自由寬松，也沒(méi)有近期的產(chǎn)品壓力，可以著(zhù)眼長(cháng)遠做困難和本質(zhì)的研究問(wèn)題。
Yann LeCun不僅是FAIR的一把手，同時(shí)還是卷積神經(jīng)網(wǎng)絡(luò )（CNN, Convolutional Neural Nets）的發(fā)明人之一。卷積神經(jīng)網(wǎng)絡(luò )是深度學(xué)習的重要分支，是第一個(gè)真正多層結構學(xué)習算法——而深度學(xué)習中的“深度”，最簡(jiǎn)單理解就是“有很多層”。
“深度學(xué)習的深度，指的是超過(guò)一層的非線(xiàn)性特征轉換。(It’s deep if it has more than one stage of non-linear feature transformation)”
目前常見(jiàn)的深度學(xué)習模型包括牛津大學(xué)視覺(jué)幾何組VGG網(wǎng)絡(luò )、谷歌的GoogLeNet、Facebook的深度殘差網(wǎng)絡(luò )ResNet等。
隨著(zhù)近年來(lái)深度學(xué)習的不斷崛起，擅長(cháng)處理圖像（特別是大圖像）的卷積神經(jīng)網(wǎng)絡(luò )也被視為開(kāi)發(fā)可拓展自動(dòng)自然語(yǔ)言理解和圖像識別工具，甚至是語(yǔ)音識別和視覺(jué)搜索系統的基本構件，Facebook的AI實(shí)驗室也在YannLeCun及一眾大牛的帶動(dòng)下飛速前進(jìn)。
不過(guò)，3月初，據The Information報道（就是那個(gè)曾經(jīng)正面懟上Magic Leap的媒體），盡管Facebook一直在進(jìn)行Messenger聊天機器人相關(guān)內容的研發(fā)，結果卻不盡如人意。在沒(méi)有人力干預的情況下，Messenger能夠正確處理人類(lèi)請求的概率不到30%。因此，Facebook目前正在削減機器學(xué)習和人工智能方面的研發(fā)支出。
智東西也就這個(gè)問(wèn)題直接詢(xún)問(wèn)了Yann LeCun教授本人，作為Facebook AI研究院的院長(cháng)他堅定地一口否決?！安?，完全沒(méi)有這回事?！?/p>
作為Facebook人工智能研究院主任，Yann LeCun的演講中自然也少不了卷積神經(jīng)網(wǎng)絡(luò )及深度學(xué)習在Facebook中的落地應用。
最先提到的是DeepFace。DeepFace是FAIR開(kāi)發(fā)的一套人臉識別系統，主要應用卷積神經(jīng)網(wǎng)絡(luò )來(lái)提取人臉特征完成識別?，F在Facebook用戶(hù)每天上傳的圖片數量達到了8億張，擁有大量的數據供機器訓練與學(xué)習。
此外，Yann LeCun還提到了一項FAIR開(kāi)發(fā)的，用于檢測、分割、識別單張圖像中每個(gè)物體的技術(shù)，比如在一盤(pán)菜里檢測、分割、并識別出西蘭花來(lái)、又或是在一堆羊群里分割出每只羊，其核心流程為以下三步（去年8月都已開(kāi)源）：
1）使用DeepMask這個(gè)新型框架對物體進(jìn)行檢測與分割，生成初始對象掩膜（Mask，相當于一個(gè)覆蓋區域）；
2）使用SharpMask模型優(yōu)化這些對象掩膜；
3）使用MutiPathNet卷積網(wǎng)絡(luò )識別每個(gè)掩膜所框定的物體。
值得一提的是，MutiPathNet中使用了一種新型的對象實(shí)例分割（Instance Segmentation）框架：Mask R-CNN。這是FAIR研究員何凱明（Kaiming He）——同時(shí)也是深度殘差網(wǎng)絡(luò )ResNet的作者之一——最近公布的研究成果，它是Faster R-CNN的擴展形式，能夠有效地檢測圖像中的目標，同時(shí)還能為每個(gè)實(shí)例生成一個(gè)高質(zhì)量的分割掩膜（Segmentation Mask）。
此外，Yann LeCun還提到了如今AI發(fā)展過(guò)程中遇到的幾大困難：
1）機器需要學(xué)習/理解世界的運行規律（包括物理世界、數字世界、人……以獲得一定程度的常識）
2）機器需要學(xué)習大量背景知識（通過(guò)觀(guān)察和行動(dòng)）
3）機器需要理解世界的狀態(tài)（以做出精準的預測和計劃）
4）機器需要更新并記住對世界狀態(tài)的估測（關(guān)注重大事件，記住相關(guān)事件）
5）機器需要邏輯分析和規劃（預測哪些行為能讓世界達到目標狀態(tài)）
目前機器學(xué)習中最大挑戰之一就是如何讓機器擁有常識——即讓機器獲得填充空白的能力。比如“John背起包來(lái)，離開(kāi)了房間”，由于人類(lèi)具備常識，因此我們能夠知道John在這個(gè)過(guò)程中需要站起來(lái)，打開(kāi)房門(mén)，走出去——他不會(huì )是躺著(zhù)出去的，也不會(huì )從關(guān)著(zhù)的門(mén)出去，可機器并不知道這一點(diǎn)。又或者我們即使只看到了半張人臉也能認出那人是誰(shuí)，因為人類(lèi)常識里左右臉都是通常長(cháng)得差不多，但機器同樣不具備這種能力。
下文提到的無(wú)監督/預測學(xué)習可以讓機器獲得常識，現在我們常用的監督學(xué)習并做不到這一點(diǎn)。從本質(zhì)上來(lái)說(shuō)，在無(wú)監督學(xué)習方面，生物大腦遠好于我們的模型。
“是的、是的，我知道你們在想什么——那個(gè)蛋糕比喻又來(lái)了，”切到這張幻燈片時(shí)，Yann LeCun笑著(zhù)說(shuō)，“這已經(jīng)是我在人工智能領(lǐng)域的一個(gè)梗了?！?/p>
在大大小小的無(wú)數場(chǎng)演講中，Yann LeCun不止一次，甚至不止十次地打過(guò)這個(gè)比方：如果人工智能是一塊蛋糕，強化學(xué)習（Reinforcement Learning）就是蛋糕上的一粒櫻桃，而監督學(xué)習（Supervised Learning）是蛋糕外的一層糖霜，但無(wú)監督學(xué)習/預測學(xué)習（Unsupervised/Predictive Learning）才是蛋糕本身。目前我們只知道如何制作糖霜和櫻桃，卻不知道如何做蛋糕。
我們現在對深度神經(jīng)網(wǎng)絡(luò )的訓練，用的大部分還是監督學(xué)習的方式。你將一張圖片展現給系統并告訴它這是一輛車(chē)，它就會(huì )相應調整它的參數并在下一次說(shuō)出“車(chē)”。然后你再展現給它一張桌子，一個(gè)人。在幾百個(gè)例子、耗費幾天到幾周的計算時(shí)間之后，它就弄明白了?！斑@其實(shí)并不是一個(gè)非常復雜的概念?！?/p>
其次，對于一個(gè)AI系統來(lái)說(shuō)，預測+規劃=邏輯分析（Predicting + Planning = Reasoning）。如果想要讓機器能夠了解并且預測世界的規律，強化學(xué)習（Reinforcement Learning）需要建立一個(gè)世界模擬器（World Simulator），模擬真實(shí)世界的邏輯、原理、物理定律等。不過(guò)真實(shí)世界太過(guò)復雜，存在大量的表征學(xué)習參數，使得機器學(xué)習的計算量相當冗余，聽(tīng)起來(lái)似乎很誘人，但是在有限的時(shí)間內無(wú)法學(xué)習到成千上億的參數。
而無(wú)監督學(xué)習需要機器處理大量沒(méi)有標記的數據，就像給它一堆狗的照片，卻不告訴它這是一條狗。機器需要自己找到區分不同數據子集、集群、或者相似圖像的辦法，有點(diǎn)像嬰兒學(xué)習世界的方式。
無(wú)監督學(xué)習的一大困難之處在于：對不確定性的預測。比如當你將一支筆直立在桌面上時(shí)，松開(kāi)手的那一刻，你并不知道這只筆將會(huì )朝哪個(gè)方向倒下。如果系統回答這只筆會(huì )倒下，卻判斷錯誤了倒下的方向，我們需要告訴系統，雖然你不是完全正確，但你的本質(zhì)上是正確的，我們不會(huì )懲罰你。此時(shí)需要引入曲面的成本函數，只要系統回答在曲面之下的數據，都是正確的答案。
傳統神經(jīng)網(wǎng)絡(luò )需要一個(gè)人類(lèi)科學(xué)家精心設計的成本函數來(lái)指導學(xué)習，無(wú)監督學(xué)習為了解決這一問(wèn)題，利用生成式對抗網(wǎng)絡(luò )（Generator Adversarial Networks）對機器進(jìn)行對抗訓練（Adversarial Training）成了關(guān)鍵答案。
生成式對抗網(wǎng)絡(luò )（Generator Adversarial Networks）是一種面向無(wú)監督學(xué)習的神經(jīng)網(wǎng)絡(luò )：它帶有一個(gè)發(fā)生器（Generator），從隨機輸入中生成某類(lèi)假數據（比如，假的圖片）；假數據和來(lái)自世界的真數據會(huì )一起輸入一個(gè)判別器（Discriminator）中，等待判別器裁決。
兩者的關(guān)系就像一個(gè)騙子和一個(gè)測謊者。判別器這位測謊者要不斷優(yōu)化自己，盡可能地識別出發(fā)生器生成的“假圖像”，防止自己被騙；而生成器這個(gè)騙子為了瞞過(guò)判別器，也必須不斷進(jìn)步。在這種動(dòng)態(tài)的對抗中，生成器會(huì )得到訓練，最后開(kāi)始生成非常真實(shí)的圖片，這意味著(zhù)生成器掌握了圖像的特征，自己掌握成本函數——某種意義上，這就是無(wú)監督學(xué)習。
技術(shù)講完了，我們來(lái)聊聊行業(yè)。
在演講后的問(wèn)答環(huán)節中，Yann LeCun回答了幾個(gè)與人工智能行業(yè)應用的問(wèn)題。他認為，未來(lái)人工智能將會(huì )落地應用、快速改革的行業(yè)包括：自動(dòng)駕駛、語(yǔ)音交流（比如翻譯）、工業(yè)制造（隨著(zhù)機器人在工業(yè)制造中的普及，現在這種“全球工廠(chǎng)”的趨勢將會(huì )減退，工業(yè)制造越來(lái)越多地在本地完成，進(jìn)而導致城市的構架設計也發(fā)生變化）、還有醫療健康領(lǐng)域（比如癌癥檢測）。
此外，對于許多科幻小說(shuō)里提出的，最終能夠“推翻人類(lèi)”、“統治人類(lèi)”的“超級智能”，Yann LeCun認為我們真的大可不必太擔心。
人類(lèi)的占領(lǐng)、統治、斗爭等大部分行為，都是在一代代進(jìn)化的過(guò)程中，受到“希望獲得資源”這一目的所驅動(dòng)的。而如果我們想要機器做一件事情，則需要給它賦予這個(gè)能力，朝這個(gè)目的去打造機器。如今我們已經(jīng)做出了在特定領(lǐng)域比人類(lèi)更智能的機器，但人工智能并不會(huì )真正統治世界，因為我們并不會(huì )朝這個(gè)目的去做。
早在20世紀80年代末，Yann LeCun就作為貝爾實(shí)驗室的研究員，提出了卷積網(wǎng)絡(luò )技術(shù)，并展示如何使用它來(lái)大幅度提高手寫(xiě)識別能力。而在演講的中，他還提到了1995年里，來(lái)自貝爾實(shí)驗室的兩個(gè)有趣的賭約。
對賭雙方分別是：前貝爾實(shí)驗室負責人Larry Jackel，和支持向量機（Support Vector Machine）的創(chuàng )建者之一Vladimir Vapnik。
第一個(gè)賭約：Larry Jackel認為，最遲到2000年，我們就會(huì )有一個(gè)關(guān)于神經(jīng)網(wǎng)絡(luò )為什么有效的成熟理論解釋。
第二個(gè)賭約：Vladimir Vapnik則認為，到了2000年，大家不會(huì )再使用神經(jīng)網(wǎng)絡(luò )的結構。（畢竟人家是支持向量機的創(chuàng )建者之一，自然更加認可支持向量機）
而對賭結果呢？——兩個(gè)人都輸了。我們至今仍舊沒(méi)有一個(gè)成熟的解釋?zhuān)梢愿嬖V我們?yōu)槭裁瓷窠?jīng)網(wǎng)絡(luò )的使用效果這么好；與此同時(shí)，我們也仍在使用神經(jīng)網(wǎng)絡(luò )架構。
最后在2005年，他們吃了一場(chǎng)昂貴的賭約變現晚飯，由于兩人都是各輸一局，因此賬單對半。
作為Facebook人工智能實(shí)驗室主任、卷積神經(jīng)網(wǎng)絡(luò )之父、深度學(xué)習三巨頭之一，Yann LeCun的演講比文章內體現的內容要學(xué)術(shù)得多，除了上文的亮點(diǎn)梳理外，Yann LeCun教授的演講還涉及到深度學(xué)習從1957年至今的發(fā)展歷程、在神經(jīng)網(wǎng)絡(luò )結構中引入能量函數的無(wú)監督學(xué)習、基于能量的生成式對抗網(wǎng)絡(luò )（EBGAN）、深層卷積生成式對抗網(wǎng)絡(luò )（DCGAN）、視頻內容預測等。在智東西對話(huà)頁(yè)回復“FaceBook”，可以獲得YannLeCun本次清華演講的全部PPT，此處就不一一展開(kāi)了。
聯(lián)系客服
