撰文 | 林秋藝

ChatGPT已經(jīng)在科技圈火熱一月有余，但仍有很多大眾關(guān)心，ChatGPT于個(gè)人的職業(yè)、學(xué)業(yè)有何價(jià)值、自己該如何與ChatGPT時(shí)代相處。

也有很多人腦洞大開(kāi)提問(wèn)，ChatGPT能幫自己做副業(yè)嗎？能成為自己的良師益友、解決自己的精神內耗嗎？另外也有瞧不上ChatGPT的聲音。前一陣，ChatGPT連小學(xué)數學(xué)題都算不對的新聞也傳播了一番。一些家長(cháng)形成了先行印象，認為這哪里算得上AI。

對此，我們對話(huà)了中國計算機學(xué)會(huì )科學(xué)普及工作委員會(huì )主任助理、香港中文大學(xué)（深圳）大數據研究院副研究員崔原豪博士。他也是電影《流浪地球2》中人工智能領(lǐng)域科學(xué)顧問(wèn)。請他分享了ChatGPT的諸多硬核洞察。

崔原豪的核心觀(guān)點(diǎn)如下：

1、AI替代的不是人類(lèi)，而是不會(huì )使用AI的人類(lèi)。關(guān)注ChatGPT的原因在于，我們應該了解將來(lái)如何使用ChatGPT相關(guān)的AI產(chǎn)品去提升自己的工作效率，這是未來(lái)工作中的最優(yōu)選擇。當世界在進(jìn)步時(shí)，一成不變就將形成數字?zhù)櫆?，從而影響自身發(fā)展。

2、機器在計算能力上會(huì )高于人類(lèi)，但機器智能始終無(wú)法如人類(lèi)智能一樣思考。迄今為止，還沒(méi)有發(fā)現AI有超越人類(lèi)智能或者企圖反叛人類(lèi)的苗頭。評價(jià)機器是否智能只有通過(guò)圖靈測試，但真正完備的圖靈測試無(wú)法實(shí)現。

3、ChatGPT目前還無(wú)法分辨信息的真實(shí)性。下一步，需要在數據層面集中增加更多關(guān)于世界常識的標注數據；在它原有的記憶上更新，因為隨著(zhù)時(shí)間的進(jìn)程，某些事實(shí)和知識都會(huì )發(fā)生變化，它需要不斷更新。

以下為對話(huà)實(shí)錄：

Q1：您第一次接觸ChatGPT是什么時(shí)候？使用體驗如何？

A1：大概是在2個(gè)月前，第一次使用了ChatGPT。當時(shí)用它做了一篇英文論文的潤色，讓ChatGPT幫我推敲其中的語(yǔ)法，結果超乎我想象的好。

我告訴它：你現在是一個(gè)英語(yǔ)翻譯家，我希望你把我說(shuō)的話(huà)翻譯成優(yōu)雅且簡(jiǎn)練的英語(yǔ)句子，不要作過(guò)多解釋?zhuān)膊灰淖兯脑狻?/span>

這里每一個(gè)“要”或“不要”都是一個(gè)指示。在這幾條指示的要求下，它就會(huì )把你輸入的一段英語(yǔ)文本變得更加優(yōu)美簡(jiǎn)潔。

這比以前用的Grammarly（英語(yǔ)語(yǔ)法檢測）潤色出來(lái)的效果好很多。專(zhuān)業(yè)性上，ChatGPT會(huì )做很多專(zhuān)業(yè)術(shù)語(yǔ)的替換，這是之前的語(yǔ)法檢測工具很少能做到的；文法方面，被它替換后的詞匯和語(yǔ)法相較之前會(huì )更優(yōu)雅一些。

Q2：現在對ChatGPT的復用率如何？

A2：最近更多的是用它來(lái)做論文潤色、英語(yǔ)翻譯或其他語(yǔ)言翻譯，有時(shí)候也會(huì )逗它玩一會(huì )兒。

它的使用過(guò)程還是挺有趣的，像是工作助手，大幅度地減少了我的工作時(shí)間，提高了效率。

Q3：請教一個(gè)根源性的問(wèn)題，在人工智能中，大語(yǔ)言模型扮演著(zhù)怎樣的角色？

A3：要了解大模型的角色，我們首先要了解機器如何評價(jià)一段文本的好壞。

舉個(gè)例子，《流浪地球2》里有一句經(jīng)典臺詞“我相信人類(lèi)的勇氣，可以跨越時(shí)間，跨越每一個(gè)歷史、當下和未來(lái)?！?/span>

假如我把句子順序調整一下，“我相信勇氣的人類(lèi)，可以跨越時(shí)間、當下、未來(lái)，跨越每一個(gè)歷史?！贝蠹視?huì )覺(jué)得有一點(diǎn)奇怪，但還是能聽(tīng)出來(lái)我說(shuō)的是什么意思。

但當我把它整體打亂，變成“人類(lèi)勇氣未來(lái)，時(shí)間當下跨越每一個(gè)，可以我相信的歷史”，你就會(huì )覺(jué)得無(wú)法理解。

我們會(huì )覺(jué)得第一個(gè)句子非常合理，最后一個(gè)不合理的原因是，在我們人類(lèi)所有的語(yǔ)言里，最后一個(gè)句子出現的概率非常低。

從統計角度來(lái)看，在“人類(lèi)語(yǔ)言模型”里，第一句話(huà)發(fā)生的概率最大，第二句話(huà)次之，第三句話(huà)幾乎不可能發(fā)生。這就是文本合理性的量化。

機器就是在它的訓練集中，獲得文本合理性的量化指標。如果訓練集足夠泛化到含括所有的語(yǔ)言模型，那么機器就有資格評價(jià)這段文本是不是符合人類(lèi)語(yǔ)法。

當你讓它生成一段新的文本時(shí)，它會(huì )按照人類(lèi)最常用、最喜歡的方式生成，從語(yǔ)法結構上來(lái)看，你會(huì )覺(jué)得它說(shuō)得很有道理，但事實(shí)層面卻不一定對。

也就是說(shuō)，語(yǔ)言模型本身就是自然語(yǔ)言處理的一個(gè)領(lǐng)域基石。

語(yǔ)言模型的好壞，決定了整個(gè)下游任務(wù)處理的好壞，因為是它在評價(jià)語(yǔ)言是不是合理。如果剛開(kāi)始評價(jià)指標就錯了，那么后邊的所有東西都會(huì )變成錯的。所以語(yǔ)言模型是根本。

Q4：有聲音認為，ChatGPT是一個(gè)顛覆式的創(chuàng )新，它的顛覆性體現在哪？

A4：我個(gè)人覺(jué)得顛覆性其實(shí)體現在，它變成了一個(gè)可以直接面對用戶(hù)的產(chǎn)品。

以前大家做大模型的目的，第一是可以完成更多的自然語(yǔ)言處理任務(wù)，第二個(gè)是可以在每個(gè)細分的載源處理任務(wù)上可以去刷新，去達到更高的進(jìn)度。包括谷歌的大模型、微軟的大模型，還有智源研究院的大模型。

但是很少有人去站在用戶(hù)的角度去想：我們是不是可以去做一個(gè)大家都可以用得起來(lái)的人工智能產(chǎn)品。

以前所有的人工智能產(chǎn)品，比如小冰、小愛(ài)同學(xué)，或者是手機里邊的圖像處理、圖像增強的算法也都是內嵌在其他產(chǎn)品里邊的，并沒(méi)有真正打包成一個(gè)完全的人工智能的產(chǎn)品去賣(mài)給用戶(hù)。

現在ChatGPT就是每個(gè)人都可以用得起來(lái)一個(gè)產(chǎn)品，大家都可以接受他能做到什么程度，而且它還可以接入更多人工智能的算法，包括圖像和視頻領(lǐng)域的算法。

Q5：許多用戶(hù)實(shí)測之后發(fā)現，ChatGPT在與人溝通上雖然已經(jīng)相當地智能化，但有時(shí)“也會(huì )一本正經(jīng)的胡說(shuō)八道”，從技術(shù)角度上看，造成這一結果的原因是什么？

A5：主要原因是ChatGPT還不懂什么是“事實(shí)”。

ChatGPT的訓練過(guò)程第一步是預訓練。預訓練是采用無(wú)監督訓練的方法，也就是把網(wǎng)絡(luò )上的數據包括其他的東西，交給它來(lái)進(jìn)行自我訓練。

這造成的一個(gè)結果就是，它不知道這些東西哪一個(gè)是真的，哪一個(gè)是錯誤的。

因為預訓練模型是一個(gè)語(yǔ)言模型，它的主要目的是去了解人類(lèi)的語(yǔ)言習慣，包括單詞之間的構造關(guān)系，只要學(xué)足夠多的文字語(yǔ)料，這些語(yǔ)義信息都是可以被抽取出來(lái)的。

但是抽取出來(lái)的關(guān)于世界的常識，它自己是無(wú)法評判真實(shí)性的，需要人類(lèi)來(lái)進(jìn)行標注。

下一步，如果它要變得更能分辨事實(shí)的話(huà)，就需要再加入很多關(guān)于世界常識的標注數據，人類(lèi)需要對哪一些是真的世界常識去做標注。

另外一個(gè)，它需要做一個(gè)記憶上更新，因為有很多事實(shí)是沖突的，隨著(zhù)時(shí)間的進(jìn)程，某些事實(shí)和知識會(huì )發(fā)生變化，它需要不斷更新。

Q6：ChatGPT接下來(lái)應該在哪些方面做改進(jìn)，來(lái)變得更為智能？

A6：這個(gè)還是要從智能本身的定義來(lái)想，什么叫“智能”？

我一直覺(jué)得在這個(gè)領(lǐng)域里邊沒(méi)有一個(gè)普適的評價(jià)基準，去評價(jià)機器或者大語(yǔ)言模型本身的能力?，F在是根據每一個(gè)細分任務(wù)去評價(jià)它的準確度，但是準確度其實(shí)跟智能沒(méi)有太大關(guān)系。

要評價(jià)它是否智能就需要通過(guò)圖靈測試，但是真正完備的圖靈測試是實(shí)現不了的，因為它要求的是人與機器不斷交互，這是一個(gè)無(wú)限長(cháng)的過(guò)程，基本上無(wú)法實(shí)現。

如果是限定時(shí)間內，人和機器的交互，其實(shí)是有可能會(huì )被機器騙過(guò)去的。

比如，你和一個(gè)大語(yǔ)言模型聊5分鐘，如果話(huà)題比較窄，可能你就會(huì )覺(jué)得它已經(jīng)達到人類(lèi)的標準了。

但是如果你跟它聊得非常寬泛，把范圍擴展到它未曾接觸過(guò)的領(lǐng)域，或者你跟它聊大概一個(gè)月左右，你可能就會(huì )覺(jué)得它確實(shí)不是一個(gè)人。

所以，如果是從標準的測試層面來(lái)說(shuō)，現有的大語(yǔ)言模型應該都無(wú)法通過(guò)測試。

Q7：像人腦一樣去思考和創(chuàng )造，是否是科學(xué)界對ChatGPT定性的終極目標？

A7：大方向上是朝著(zhù)“人腦”這個(gè)方向努力的，但是在真正的研究過(guò)程中其實(shí)反而沒(méi)想這么多。

比如，在ChatGPT的研究過(guò)程中，最開(kāi)始的時(shí)候機器是需要人的提示的，你需要給它一個(gè)例子，它會(huì )按照這個(gè)例子把你想要的內容生成出來(lái)，但是現在已經(jīng)演變到你直接給它下命令，它就能生成的程度。

所以，實(shí)際上它確實(shí)是在朝著(zhù)一個(gè)既定的目標去研究的，但是這個(gè)既定目標可能并不一定是為了更智能，也可能是為了讓它變得更容易使用。

Q8：人類(lèi)隨年齡越長(cháng)越充滿(mǎn)智慧，ChatGPT也會(huì )隨著(zhù)年限增長(cháng)，變得更聰明嗎？

A8：我覺(jué)得這個(gè)不一定，因為知識是需要更新的。

人類(lèi)大腦有一個(gè)遺忘的功能，這非常重要，因為大腦的儲存容量是有限的，現在我們每天都會(huì )接收到很多的信息，從視覺(jué)、聽(tīng)覺(jué)、嗅覺(jué)，包括皮膚都可以接受到非常細微的刺激。

人類(lèi)的大腦有注意力機制和遺忘機制，我們會(huì )注意到我們感興趣的信息，也會(huì )遺忘掉很多細節信息。這兩個(gè)機制保證了人類(lèi)大腦不會(huì )被過(guò)多的信息沖垮。

對于大語(yǔ)言模型來(lái)說(shuō)，現在注意力機制已經(jīng)有了，但遺忘機制還沒(méi)有。

現在的大語(yǔ)言模型還只是一個(gè)“新生”的階段，它的訓練并不是像我們人類(lèi)在現實(shí)生活中實(shí)時(shí)訓練，而是在訓練之后使用一段時(shí)間，然后再更新、再訓練。

在使用過(guò)程中訓練是我們人類(lèi)獨有的能力，而大語(yǔ)言模型無(wú)法在使用過(guò)程中訓練，這也是未來(lái)大語(yǔ)言模型需要解決的問(wèn)題。

Q9：有聲音認為，國內模型開(kāi)發(fā)公司的研究進(jìn)度要比海外公司落后2年左右，這個(gè)觀(guān)點(diǎn)您認同嗎？差距主要在哪？

A9：我個(gè)人覺(jué)得大家都比Open AI要落后2年，不只是國內，國外其他公司也一樣。

因為Open AI選擇的這條路線(xiàn)，在ChatGPT發(fā)布之前，大家都覺(jué)得它只是一條路線(xiàn)而已，都不覺(jué)得它會(huì )是一條通往未來(lái)通用人工智能的標準路線(xiàn)。

ChatGPT出現之后，現在注冊用戶(hù)已經(jīng)超過(guò)1億了，這是以前從來(lái)沒(méi)有過(guò)的一個(gè)數字。這個(gè)現象讓大家覺(jué)得，朝這個(gè)方向做通用人工智能是完全有可能的，而且ChatGPT也展示了潛力。

Q10：現在入局的互聯(lián)網(wǎng)科技公司，您認為哪些或者有哪些積累的企業(yè)具備做出高質(zhì)量ChatGPT的實(shí)力？

A10：現在做自然語(yǔ)言處理的初創(chuàng )公司有很多。

像智源研究院、百度這樣的互聯(lián)網(wǎng)科技公司，阿里巴巴、京東這樣的傳統互聯(lián)網(wǎng)公司，都具備做出類(lèi)ChatGPT產(chǎn)品的能力。

還有知乎，大家覺(jué)得它會(huì )成為未來(lái)類(lèi)ChatGPT產(chǎn)品的基礎語(yǔ)料庫，這會(huì )給知乎帶來(lái)很多流量。

Q11：我們已知ChatGPT會(huì )對搜索引擎產(chǎn)生較大的顛覆作用，除此之外，還會(huì )顛覆哪些賽道？

A11：下一步應該就是圖像和視頻。據我所知，現在也有很多關(guān)于圖像和視頻的大模型，只不過(guò)它們并沒(méi)有像自然語(yǔ)言走得那么靠前。

基于ChatGPT 這個(gè)大模型本身會(huì )有很多衍生產(chǎn)品，未來(lái)它可能會(huì )成為一個(gè)基石，跟各行各業(yè)的需求結合起來(lái)。

Q12：ChatGPT的算力對芯片提出了巨大的挑戰，目前我國的芯片技術(shù)能否達到ChatGPT的算力需求？

A12：目前國內的芯片技術(shù)肯定是比國外要弱一些。雖然會(huì )比國外弱一點(diǎn)，但它不是決定因素。

我們說(shuō)，如果智商不夠，也可以靠數量來(lái)湊。ChatGPT的算力需求，國內的芯片還是可以達到的。

其實(shí)高端芯片的困境，不太會(huì )影響類(lèi)ChatGPT在我國的開(kāi)發(fā)，能做大模型創(chuàng )新的公司其實(shí)很少，也就是幾個(gè)主流的互聯(lián)網(wǎng)公司，像百度、華為都有自己的芯片體系，這對他們來(lái)說(shuō)應該不是大問(wèn)題。

但是芯片也等于是算力的價(jià)格，假如芯片便宜，那么在后續運行大模型時(shí)，它的成本就會(huì )比較低，現在可能看不太出來(lái)，以后就會(huì )成為一個(gè)重要的競爭力，因為未來(lái)每個(gè)公司都在做類(lèi)ChatGPT產(chǎn)品，那么成本就是一個(gè)重要的考量標準。

Q13：該如何認知類(lèi)ChatGPT產(chǎn)品之于我國互聯(lián)網(wǎng)產(chǎn)業(yè)的戰略意義？

A13：從自主可控的角度來(lái)講，國家會(huì )需要有屬于自己的大模型。

我國現在已經(jīng)有了大模型，雖然跟國外有差距，但是差距并不是特別大。

研發(fā)類(lèi)ChatGPT的產(chǎn)品，這是一個(gè)值得去戰略思考的，需要去做戰略?xún)?、戰略決策或者戰略指引的一個(gè)事情。

Q14：作為一個(gè)普通人，我為什么要關(guān)注ChatGPT？ChatGPT未來(lái)會(huì )取代我的工作嗎？

A14：AI替代的不是人類(lèi)，而是不會(huì )使用AI的人類(lèi)。

我們要關(guān)注ChatGPT的原因，在于需要了解以后應該怎么使用ChatGPT相關(guān)的AI產(chǎn)品去提升自己的工作效率，這是我們以后工作中的最優(yōu)選擇。

產(chǎn)業(yè)革命、工業(yè)革命之所以是革命，就是因為它對我們每個(gè)人的生活都產(chǎn)生了影響，比如以前的蒸汽機、電力、互聯(lián)網(wǎng)，現在沒(méi)有人不使用它們。

AI技術(shù)被我們認為是一個(gè)新的工業(yè)革命，原因也是一樣。

所有人的生活，都會(huì )因為AI產(chǎn)品本身或者是AI衍生的其他產(chǎn)品而產(chǎn)生改變。當所有人都在進(jìn)步，只有我們一成不變，形成數字?zhù)櫆?，那么受到影響的就?huì )是我們自己。

但同時(shí)，AI并不一定能替代人類(lèi)工作，現在我們也可以看到，它的精確度并不是很高，它還存在很多問(wèn)題，如事實(shí)性、時(shí)效性和理解程度。

所以應該做的不是焦慮、恐慌，而是跟上發(fā)展的浪潮，主動(dòng)了解ChatGPT，以便更好地使用。

Q15：用ChatGPT搞副業(yè)行得通嗎，比如幫寫(xiě)網(wǎng)文？

A15：不能說(shuō)完全不行，但要用它寫(xiě)出充滿(mǎn)可讀性的網(wǎng)文，需要比較精心的引導，目前還達不到給它一份大綱，它就能生成非常完美的一篇網(wǎng)文的程度。

現在的情況更多的是，我們給它大綱，然后它生成一篇充滿(mǎn)套路的文章。

也就是說(shuō)：華麗的詞藻，但是空洞的思想。

未來(lái)互聯(lián)網(wǎng)上的信息會(huì )更加膨脹，大家會(huì )更偏向看有質(zhì)量的東西，那么ChatGPT生成的充滿(mǎn)套路的文章肯定是行不通的。

Q16：人類(lèi)應該以怎樣的正確態(tài)度來(lái)面對ChatGPT？

A16：AI首先是一個(gè)工具。從這個(gè)角度上來(lái)看，我們應該考慮到，工具和技術(shù)本身沒(méi)有善惡，但它的使用角度可能會(huì )有問(wèn)題。

而且，人工智能這樣一個(gè)工具，嚴重地依賴(lài)它的數據，還有它的生成過(guò)程。所以我們希望人類(lèi)本著(zhù)負責任的態(tài)度去使用它，這樣大模型生成的內容也是相對負責任的。

另外一方面，就是我們日常擔憂(yōu)的AI問(wèn)題。

最近也有一些人在談?wù)?，ChatGPT這類(lèi)大語(yǔ)言模型，除了現在的仿造能力，將來(lái)會(huì )不會(huì )涌現其他新的能力，比如邏輯思維能力，這是今年熱度很高的一個(gè)問(wèn)題。

這也是我們目前正在研究的問(wèn)題，如果有一天它真的出現邏輯思維的能力，或者開(kāi)始出現類(lèi)似于小孩的心智，那么可能會(huì )變成一個(gè)比較嚴重的問(wèn)題。

但迄今為止，我們還沒(méi)有發(fā)現AI有超越人類(lèi)智能或者企圖反叛人類(lèi)的苗頭。

Q17：新技術(shù)的風(fēng)險一般伴隨著(zhù)法律和倫理上的討論。ChatGPT的風(fēng)險主要體現在哪些方面？

A17：這應該是對大模型的普遍擔憂(yōu)。

第一個(gè)就是，數據公平的問(wèn)題。有很多模型的訓練集本身就沒(méi)有公平，導致它產(chǎn)生的結果就是不公平的。

第二個(gè)是，它的答案可能是有害的。目前ChatGPT已經(jīng)對很多領(lǐng)域都已經(jīng)做出了限制，我們很少能看到有害的問(wèn)題和有害的答案。但是如果有新的模型，它們可能沒(méi)有做出限制，就很難避免。

第三個(gè)是，現在A(yíng)I界在強調的，我們要做負責任的AI。AI只是一種技術(shù)，但作為技術(shù)的生產(chǎn)商，需要讓這個(gè)技術(shù)對人類(lèi)負責任，它的每一個(gè)決定都不能隨意。