【摘要】ChatGPT的高超技能，已經(jīng)轟動(dòng)整個(gè)世界，似乎無(wú)所不能。但人們卻不知，這款匯集數據、誘導廣大用戶(hù)的智能技術(shù)，已在西方引起了用戶(hù)的警覺(jué)。它暴露的許多痼疾，提醒廣大用戶(hù)以防上當受騙。
【關(guān)鍵詞】ChatGPT；文本生成器；人工智能的創(chuàng )舉；軟件的弊端
2022年末，美國舊金山的創(chuàng )業(yè)公司OpenAI開(kāi)發(fā)了文本生成器ChatGPT，多數行家把它稱(chēng)作聊天機器人。當它同網(wǎng)絡(luò )服務(wù)器連接后，能回答用戶(hù)提出的任何問(wèn)題：從談?wù)撊粘Ｉ畹缴願W的科學(xué)知識，以至妙語(yǔ)連珠的笑話(huà)，簡(jiǎn)直“無(wú)所不知”，侃侃而論，廣大用戶(hù)對其博學(xué)多能肅然起敬。它不僅善于同用戶(hù)談笑風(fēng)生，而且能創(chuàng )建長(cháng)篇理論文章，撰寫(xiě)新聞，創(chuàng )作小說(shuō)、歌曲和樂(lè )曲，制作照片和圖畫(huà)，導演電影和電視劇，翻譯異國文字，精通商貿和應聘，診斷患者的疾病，還能代替學(xué)生寫(xiě)作業(yè)、替應試者答卷，更擅長(cháng)制作電腦程序與插件，調試電腦代碼，設置網(wǎng)絡(luò )攻擊或破解黑客詭計……簡(jiǎn)直是察今知古、聰穎睿智、法力無(wú)邊。最初，用戶(hù)絲毫沒(méi)有想到，這一“法力無(wú)邊”的ChatGPT卻有瞞天過(guò)海的誘騙性，往往巧設死局，讓人輕松墜入迷途。
2022年11月20日，一個(gè)名為ChatGPT的計算機程序首次亮相，并迅速吸引了西方評論界，有人稱(chēng)其為人工智能（AI）游戲的改變者。這款智能軟件發(fā)布一周后，在美國網(wǎng)民中掀起軒然大波，100萬(wàn)用戶(hù)經(jīng)過(guò)上線(xiàn)體驗，對它的能言善辯發(fā)出一片驚呼。ChatGPT是美國OpenAI實(shí)驗室研發(fā)的語(yǔ)言生成模型，能生成各種意識與信息文本，成為智媒研發(fā)的最高成果。它的起源和性能建立在吸收大量文本數據基礎上，在口語(yǔ)、文字、視頻領(lǐng)域快速呈現各種觀(guān)點(diǎn)和影像，創(chuàng )造出充滿(mǎn)生動(dòng)場(chǎng)景的精神世界。自1950年，英美開(kāi)始研究人與計算機的語(yǔ)言交互系統，以其技術(shù)難度將其分為簡(jiǎn)單匹配、模糊匹配和段落理解三種類(lèi)型，統稱(chēng)自然語(yǔ)言處理系統（NLP，Natural Language Processing）。從此，西方一直嘗試在電腦屏幕上再現人與物的活動(dòng)影像，賦予虛擬人的人類(lèi)性格和語(yǔ)言表達。最早提出這一設想的是英國數學(xué)家、邏輯學(xué)家和計算機專(zhuān)家艾倫·圖靈。他從1945年開(kāi)始從事“自動(dòng)計算機”（ACE）的邏輯設計和具體研制工作，設想計算機程序的智能化，面對優(yōu)秀的象棋選手能夠擊敗對方。1948年他被曼徹斯特大學(xué)指定為該校自動(dòng)數字計算機（Madam）項目的助理負責人。在圖靈的指導下，1950年初該校制造出ACE樣機，5月圖靈編寫(xiě)并出版了《曼徹斯特電子計算機程序員手冊》，不久他又提出計算機思維問(wèn)題。同年10月他在《頭腦》（Mind）雜志上發(fā)表了論文《計算機和智能》（Computingmachiery and intelligence）一文，提出“機器是否能夠思考問(wèn)題”。圖靈并不認為計算機具有人性，而是認為它們能夠模仿人類(lèi)的思想表達與行為，達到與人類(lèi)無(wú)法區別的程度，預言了ChatGPT的誕生。1956年美國麻省理工學(xué)院計算機專(zhuān)家約翰·麥卡錫在一次會(huì )議上提出“人工智能”（AI）一詞。由于機器獲?。?/span>learn，有的譯為學(xué)習）信息能力的發(fā)展，處理更大、更多樣的數據成為可能。麥卡錫認為，機器智能有兩部分，一是認識行為，二是啟發(fā)程式。認識行為遵循事物的特征展示的事實(shí)，對外界事物的性能得出結論；啟發(fā)程式則基于事物的性能實(shí)施解決問(wèn)題的方法，不斷矯正操作中產(chǎn)生的錯誤，直到數據協(xié)調到最大限度地消除誤差。計算機把這兩者合二為一就是人工智能。兩年后，麥卡錫和他的同事在麻省理工學(xué)院建立了人工智能項目，20世紀90年代，機器模仿和自然語(yǔ)言處理的進(jìn)步使人工智能成為計算機行業(yè)關(guān)注的焦點(diǎn)。到2000年代初，大數據的爆炸、精細的算法和計算能力的提高，出現了更為先進(jìn)的人工智能系統。2015年12月，前硅谷孵化器（Y Combinator）首席執行官、OpenAI聯(lián)合創(chuàng )始人兼總裁薩姆·奧特曼和商業(yè)“磁鐵”埃隆·馬斯克提出一項人工智能的開(kāi)發(fā)計劃，二人在特斯拉工廠(chǎng)不斷討論人工智能如何會(huì )思考并與人交談。不久，格雷格·布羅克曼、伊利亞·薩茨基弗、沃伊切赫·扎倫巴和約翰·舒爾曼等人也加入了這支創(chuàng )業(yè)隊伍。2016年，他們發(fā)布了第一個(gè)用于強化模仿（RI）的開(kāi)源工具包OpenAI Gym and Universe（這里不能譯為健身房和宇宙，而應譯為訓練場(chǎng)與通用平臺），在萬(wàn)事萬(wàn)物的數據中選擇適用的內容，為ChatGPT的誕生建立了數據收集與訓練模式。2018年6月，OpenAI公司發(fā)表了《預先訓練生成并促進(jìn)對語(yǔ)言的理解》（OpenAI GPT Improving Language Understanding by Generative Pre-Training）的論文，探索從吸納、檢驗信息到文本轉換的GPT概念，經(jīng)過(guò)辨別、選擇所需信息解答用戶(hù)提出的問(wèn)題。GPT（Generative Pre-training Transformer）是指神經(jīng)網(wǎng)絡(luò )吸納信息后，很像人利用頭腦里的知識和自身經(jīng)驗對問(wèn)題作出判斷與結論。GPT的第一個(gè)版本（GPT-1），在大規模語(yǔ)料庫里進(jìn)行無(wú)限制地吸納（learn）信息，經(jīng)過(guò)不斷精細的調節（fine-tune），確立需要的具體內容。這一過(guò)程被稱(chēng)作“訓練”（trained）的通用模型。2019年與2020年OpenAI先后推出GPT-2和GPT-3。ChatGPT實(shí)際是GPT-3模型的變體，擁有1750億個(gè)參數，是迄今為止最強大的信息搜集工具。ChatGPT是人工智能技術(shù)驅動(dòng)的自然語(yǔ)言處理工具，在互聯(lián)網(wǎng)上搜索各種新聞、科學(xué)知識、社會(huì )思潮、宗教文本以及所有相關(guān)數據，把它們匯聚到模塊里，針對用戶(hù)提出的問(wèn)題在三種神經(jīng)網(wǎng)絡(luò )（TensorFlow、Theano、Keras）框架中存儲、評估、選用與編寫(xiě)信息文本。ChatGPT獲取的數據來(lái)自萬(wàn)維網(wǎng)的大量材料，包括百科全書(shū)、科學(xué)論著(zhù)、互聯(lián)網(wǎng)論壇和新聞報道等信息。神經(jīng)網(wǎng)絡(luò )采用數據流圖進(jìn)行數值計算，在信息編選中，代碼結構完全由Keras模型高效轉換成計算機高級程序語(yǔ)言，在瀏覽器上快速導出文本。2022年11月30日，OpenAＩ公司正式發(fā)布ChatGPT聊天機器人研制成功的消息，并上線(xiàn)提供給用戶(hù)使用。這個(gè)最新人工智能的“天才”，不在于它的想法有多新穎，而在于它的可訪(fǎng)問(wèn)性和神速反應。它推出的當月用戶(hù)就達到5700萬(wàn)，到2023年1月ChatGPT的月用戶(hù)超過(guò)1億，平均每天有1300萬(wàn)訪(fǎng)客，路透社指出，這是歷史上用戶(hù)增長(cháng)最快的智能媒介。二、ChatGPT：人類(lèi)的教父、智囊和助手
ChatGPT是近年來(lái)最優(yōu)秀的智能技術(shù)，幾個(gè)月內就積累了上億用戶(hù)，從學(xué)生、教師、記者、程序員到作家和電影導演，每個(gè)人在網(wǎng)上大量使用它，從這個(gè)熱情、親切的“導師”的教誨中學(xué)到了許多東西。ChatGPT的設計目的是回答詢(xún)問(wèn)，提供信息，解決一系列學(xué)習和寫(xiě)作問(wèn)題。人們把ChatGPT想象為一個(gè)廣泛閱讀不同主題的工具，當你問(wèn)ChatGPT一個(gè)問(wèn)題時(shí)，它會(huì )在內存中搜索相關(guān)信息，生成相應的文本。從這個(gè)意義上說(shuō)，ChatGPT就像一個(gè)知識淵博、博覽群書(shū)的導師，可以同任何人對話(huà)，不受?chē)鴦e、語(yǔ)言、情感或用戶(hù)個(gè)性的限制。ChatGPT注重減少虛假、欺騙性和有害的信息，被稱(chēng)為“友好型智能”。為防止濫用程序的惡果，它對人類(lèi)的請教大都以親切的語(yǔ)言和聲調來(lái)回答，用戶(hù)接觸的總是一個(gè)溫和、謙恭和勤勉的導師。任何一個(gè)用戶(hù)要使用ChatGPT，在目前必須訪(fǎng)問(wèn)OpenAI的官方網(wǎng)站并創(chuàng )建一個(gè)賬戶(hù)。建立賬戶(hù)前必須提供個(gè)人信息，如姓名和電話(huà)號碼，創(chuàng )建賬戶(hù)后，就可嘗試進(jìn)入ChatGPT程序，目前無(wú)需支付任何費用。該網(wǎng)站推出使用ChatGPT程序的詳細說(shuō)明，并把搜索引擎上的數據及其查詢(xún)方法介紹給用戶(hù)。OpenAI的官方網(wǎng)站不過(guò)問(wèn)性別和種族差異，避免對特殊訪(fǎng)客的歧視。當用戶(hù)試圖尋找或查詢(xún)答案時(shí)，ChatGPT會(huì )以詳盡的語(yǔ)言把解決問(wèn)題的方案顯示在屏幕上。用戶(hù)對回復的結果要標注滿(mǎn)意或不滿(mǎn)意，如果用戶(hù)不滿(mǎn)意，程序更新數據后再回應用戶(hù)。需要指出的是，輸入系統的信息大都是近幾年的，用戶(hù)得到的回復很多不是最新的，這一點(diǎn)遠不如Google。如果有人要求用計算機語(yǔ)言創(chuàng )建代碼，ChatGPT比Google更容易完成。目前ChatGPT的嚴重缺陷是，它提供的信息并非100%準確，搜索功能較低，程序開(kāi)發(fā)人員正在努力改善這兩項功能。經(jīng)過(guò)兩個(gè)月的努力探索，2023年2月ChatGPT的搜索能力明顯提高。ChatGPT的主要好處是，用戶(hù)提出查詢(xún)時(shí)，立即得到詳細回答，而且是唯一固定答案。用戶(hù)在Google上搜索某一問(wèn)題，會(huì )出現各種形式或若干不同的結果，用戶(hù)依據自己的判斷才能確定需要的信息。ChatGPT只給訪(fǎng)客提供單一的信息，其用途有無(wú)數種，制作和傳播信息的樣式豐富多彩。2022年11月已經(jīng)安裝了Talk-to-ChatGPT軟件，彌補了先前只有文字答案而沒(méi)有話(huà)語(yǔ)回復這一缺陷?，F在用戶(hù)可以通過(guò)電腦同ChatGPT對話(huà)，當用戶(hù)按一下“開(kāi)始”鍵，發(fā)出口頭詢(xún)問(wèn)后，這一人工智能立刻朗讀答案，將文字記錄轉換為音頻播放，還可調整聲音的高低和朗讀文本的速度。ChatGPT還有圖像編輯器功能，能真實(shí)、動(dòng)態(tài)地組接視頻與影像，使廣告更為逼真、生動(dòng)，顯著(zhù)增加了OpenAI的廣告收入。如果把Google的瀏覽器插件Chrome同ChatGPT混合使用，這兩種技術(shù)的合力則能創(chuàng )造更為令人驚嘆的效果。用戶(hù)要求ChatGPT以不同風(fēng)格向他們解釋概念、定義和理論，它就會(huì )適應你的要求，做出解釋?zhuān)硎龊?jiǎn)潔的推理和結論?，F在，ChatGPT就像一個(gè)變形金剛式的AI模型，很難區分它提供的是事實(shí)還是虛構?！八皇歉鶕爿斎氲膬热輥?lái)回答有關(guān)某個(gè)問(wèn)題的重要內容或意義，它在回答游戲方面的表現更為出色?！?/span>2023年2月印度智能技術(shù)通訊記者拉維·迪察·坎茲在《ChatGPT能做的25件事》的報道中，對ChatGPT的功能做了全面介紹，全方位地總結了這款智能軟件的重要功能。稱(chēng)它就像廣大用戶(hù)的智囊，作為人類(lèi)生存和生活的工具，是每個(gè)人須臾不可失去的助手和精神安慰器。ChatGPT能生成電子郵件模板，用其申請一份工作，協(xié)調一個(gè)項目的進(jìn)展，幫助用戶(hù)寫(xiě)郵件，都做得精通得體。ChatGPT能掀起頭腦風(fēng)暴，產(chǎn)生各種史無(wú)前例的創(chuàng )意，當用戶(hù)在復雜問(wèn)題面前沒(méi)有了主意，想象力受到限制，都可以向它請教。ChatGPT可以對你提到的任何話(huà)題進(jìn)行深挖，只要你提問(wèn)，它就會(huì )繼續回答，對每個(gè)問(wèn)題都能告訴你是對還是錯。ChatGPT喜歡談?wù)撚脩?hù)最感興趣的話(huà)題，可以訴說(shuō)電影、日常愛(ài)好、科學(xué)常識和深奧的知識，只要用戶(hù)給出明確的提示，它就會(huì )同你討論，甚至用幾秒鐘為你寫(xiě)出一篇你需要的文章。ChatGPT最擅長(cháng)娛樂(lè )，愛(ài)說(shuō)笑話(huà)，能玩很多游戲，大多是益智游戲、猜謎和填字，被稱(chēng)為偉大的喜劇演員。ChatGPT雖然擅長(cháng)英語(yǔ)，但也可以對其他語(yǔ)言進(jìn)行翻譯，并創(chuàng )建多種語(yǔ)言文本，翻譯的結果來(lái)自神經(jīng)網(wǎng)絡(luò )YNMT。使用ChatGPT向用戶(hù)推薦電影和書(shū)籍，讓用戶(hù)觀(guān)看電影和連續劇，傾聽(tīng)各種饒有興趣的故事和音樂(lè )，或者為你創(chuàng )作一首詩(shī)歌和歌曲，都是它的拿手好戲。此外，在ChatGPT的鏡像里旅游、跟著(zhù)視頻鍛煉身體或學(xué)習一門(mén)外語(yǔ)，都能使用戶(hù)心滿(mǎn)意足。在ChatGPT里還有一個(gè)Vana Portrait的像素畫(huà)廊，用它能制作、編輯和展示肖像、油畫(huà)和漫畫(huà)，該應用程序作為一個(gè)完整的照片編輯器，具有自拍和連綴視頻的功能，可以創(chuàng )作任何美術(shù)作品。用戶(hù)常常光顧ChatGPT，不僅能很快提高美學(xué)修養，而且對人世的善惡美丑和大自然的秀美產(chǎn)生明晰、深刻的印象。僅在三個(gè)月內，圍繞ChatGPT不可思議的功能在西方新聞界激起浪花。有人贊成使用這款人工智能報道新聞，有人持反對態(tài)度，認為這個(gè)軟件對新聞業(yè)具有巨大的風(fēng)險，不可輕信和盲目地使用。自2015年起，美聯(lián)社一直在使用人工智能撰寫(xiě)企業(yè)盈利報告，因為此類(lèi)報告往往過(guò)于公式化，從文字到文本結構簡(jiǎn)明扼要，不需要人工輸入。美國POLITICO.COM網(wǎng)站專(zhuān)欄作家杰克·謝弗對人工智能改善新聞工作抱有相對樂(lè )觀(guān)的態(tài)度，但也有幾分憂(yōu)慮。他寫(xiě)道：“新聞的存在是為了服務(wù)讀者。如果人工智能幫助新聞編輯室更好地服務(wù)讀者，應該歡迎它的到來(lái)。然而，如果這項技術(shù)確實(shí)會(huì )導致廣泛的記者失業(yè)，這將是令人困惑的?！泵绹诰€(xiàn)雜志Gawker的前編輯馬克斯·里德在他的通訊中寫(xiě)道：“你聽(tīng)到的任何關(guān)于使用人工智能的故事，在根本上都是關(guān)于勞動(dòng)自動(dòng)化的技巧，無(wú)論它是否能幫助記者以更少的工作量完成更多的工作，完全是取代人類(lèi)的一種工具?！北M管ChatGPT目前有很多缺陷，它仍是新聞報道的有益幫手。英國新聞網(wǎng)站編輯馬塞拉·庫佐娃在《ChatGPT可以為記者完成八項任務(wù)》一文中認為，人工智能不能取代記者，但它可以消除一些日常的繁瑣工作，你可以專(zhuān)注于你最擅長(cháng)的事情，去尋找真正的新聞。談到新聞編輯室中的人工智能時(shí)，記者們通常分為兩派，一種是對人工智能過(guò)于自信，另一種是忽視它的作用，根本不去碰它。ChatGPT經(jīng)過(guò)驗證可以對用戶(hù)的詢(xún)問(wèn)產(chǎn)生類(lèi)似人的反應，往往能寫(xiě)出頭條新聞。只要你清楚它能做什么和不能做什么，它就可以幫助你完成一些瑣碎的任務(wù)，記者就可專(zhuān)注于觀(guān)眾最關(guān)心的事件。記者在使用ChatGPT時(shí)，請記住它是智能的，而不是萬(wàn)能的。這臺沒(méi)有意圖的機器，不想誤導你，也沒(méi)有什么真實(shí)的概念和道德素養，它只是根據大量搜索的信息生成文本。正因為如此，你需要對所有生成的內容進(jìn)行事實(shí)核查，超出你驗證的部分，可由記者本人根據事實(shí)加以更正。如果沒(méi)有真實(shí)的信息，它可能會(huì )編造一個(gè)事實(shí)，因此，對數字、名稱(chēng)和地點(diǎn)這類(lèi)重要信息尤其需要核實(shí)，以保證這類(lèi)內容確實(shí)客觀(guān)存在。ChatGPT可以幫助記者做一些必須做的工作，這些任務(wù)是新聞機構大多數記者每天都要經(jīng)手去完成的，而且是不可拖拉延誤和玩忽職守的任務(wù)。馬塞拉·庫佐娃在文章中一共提出八項任務(wù)，其中最重要的是以下四項：（1）生成文本和文檔的摘要。ChatGPT在總結長(cháng)篇新聞方面相當出色。當你需要快速瀏覽、研究新聞文本時(shí)，它就派上用場(chǎng)了。你可以讓它給你提供內容梗概和其中的重要觀(guān)點(diǎn)，引用或查找相關(guān)的信息。（2）生成評論的觀(guān)點(diǎn)和答案。當你提出一個(gè)不太熟悉的話(huà)題或尋找新的角度時(shí)，ChatGPT可幫助你對事件和任何事情進(jìn)行分析，通常會(huì )給出合理的建議。遺憾的是，當它不知道答案時(shí)，它會(huì )編造一些東西，可能生成完全虛構的事實(shí)并予以評論。（3）生成新聞標題。它不僅可以根據記者提供的線(xiàn)索，或者無(wú)須線(xiàn)索就能對當日或某一天發(fā)生的事件進(jìn)行描述，并提出一個(gè)簡(jiǎn)單的題目。記者要求它把標題改得活潑有趣、消極或積極一些，ChatGPT就會(huì )推出一個(gè)新的標題。（4）為新聞提供上下文。同上面所有的任務(wù)一樣，這個(gè)任務(wù)可能是隨機的。記者讓ChatGPT提供新聞事件的背景或發(fā)生在其他國家與城市的類(lèi)似事件，比如，為什么英國鐵路工人今年罷工，它可以找到相似的同類(lèi)信息，形成一個(gè)版面的組合報道。聊天機器人對提問(wèn)的反應非常靈活——立即給出聽(tīng)起來(lái)似乎合理的答案，做出很專(zhuān)業(yè)的解釋?zhuān)⒛軐?xiě)出風(fēng)格華麗的長(cháng)篇文章。盡管ChatGPT的能力看似不可思議，但它的機制和原理卻相對簡(jiǎn)單，它使用一切在線(xiàn)的全球的文本語(yǔ)料庫吸取概念和知識，選擇和確定用戶(hù)需要的答案。事實(shí)上，ChatGPT找到“真相”比擁有足夠的數據和算法要復雜得多，它不太可能接近人類(lèi)的能力，該領(lǐng)域的西方權威學(xué)者將其描述為一只鸚鵡，對提示的反應類(lèi)似于“模仿”或“美化的剪切粘貼”。ChatGPT確實(shí)可以成為新聞工作轉變方式的一部分，但用它來(lái)代替記者的全部工作，卻是不明智的——等于用不可靠的垃圾充斥互聯(lián)網(wǎng)，這是對這一人工智能的真實(shí)評價(jià)。美國加州大學(xué)伯克利分校信息學(xué)院數據與社會(huì )研究總監珍娜·伯雷爾深入探討了ChatGPT的優(yōu)點(diǎn)，以及它如何成為記者的工具。她認為，對記者來(lái)說(shuō)，最重要的任務(wù)之一是為普通觀(guān)眾簡(jiǎn)化復雜的話(huà)題，使用ChatGPT完成某項任務(wù)變得更容易。記者可以使用這個(gè)工具在采訪(fǎng)之前更好地整理思路，為采訪(fǎng)做準備，列出你想問(wèn)的問(wèn)題，軟件將根據這些問(wèn)題創(chuàng )建更多的內容。ChatGPT可以用副本編輯器，在將文章發(fā)送給編輯之前進(jìn)行最后一次審查。伯雷爾警告記者要注意ChatGPT“填補數據空白”的傾向，它永遠都不會(huì )表示不知道答案；相反，如果它所掌握的數據不能提供答案，它只會(huì )編造一個(gè)答案，所以它經(jīng)常產(chǎn)生絕對錯誤的結果。ChatGPT也存在復制具有偏見(jiàn)的問(wèn)題，因為它只能復制和反哺已有的數據，收集大量信息強化這種偏見(jiàn)，這樣，記者使用ChatGPT就可能上當。記者應當充滿(mǎn)自信，人的發(fā)現能力永遠高于機器，對此伯雷爾的觀(guān)點(diǎn)是：“ChatGPT吸收了互聯(lián)網(wǎng)上的一切；你從中得到的是整個(gè)互聯(lián)網(wǎng)扭曲的反映”，“人類(lèi)將繼續變得更有創(chuàng )造力，并能夠創(chuàng )造出真正不同尋常的表達方式”。對于ChatGPT的程序欺騙，美國波莫納學(xué)院經(jīng)濟學(xué)教授加里·史密斯在《沙龍》上發(fā)表了《GPT-3和其他大型語(yǔ)言模型的局限性和不受歡迎》后，收到了數十條評論，其中包括創(chuàng )意研究有限公司董事、總經(jīng)理埃爾文·梅耶爾三世的長(cháng)篇論述。梅耶爾回應說(shuō)：“人工智能無(wú)法使用常識、智慧或邏輯推理來(lái)區分真假，怎么能以一種超越大多數人類(lèi)的方式回答準確的提示？它對事物正在形成常識，已經(jīng)領(lǐng)先于孩子們通常的能力，這是不小的成就?！泵芬疇柼岢隽艘豁棇?shí)驗方式，經(jīng)過(guò)改進(jìn)和訓練可以證明像GPT-3這樣的大型語(yǔ)言模型可以自我檢查，從某種意義上說(shuō)，它們具有真正的智能，而不僅僅是在模仿他們所吸收的在線(xiàn)數據來(lái)編寫(xiě)東西。當ChatGPT擁有驚人的自我事實(shí)核查能力，使用一個(gè)簡(jiǎn)單的算法就可構建更全面的人工智能，如果它們可以做到這一點(diǎn)，一開(kāi)始就不會(huì )制造謊言。同樣，它不知道單詞的意思，沒(méi)有辦法驗證一個(gè)互聯(lián)網(wǎng)來(lái)源是否可靠，也沒(méi)有辦法知道一個(gè)來(lái)源是否被證實(shí)或反駁它的主張。新聞報道關(guān)乎可信度和準確性，ChatGPT可以生成正確的事實(shí)信息，但在本質(zhì)上缺乏驗證的可信度?！坝浾咴趫蟮朗录r(shí)會(huì )考慮來(lái)源、偏見(jiàn)和其他因素，但ChatGPT缺乏理解人類(lèi)情感、文化和經(jīng)驗的能力，根本無(wú)法給記者提供事實(shí)產(chǎn)生的深度理解和背景，只是根據搜集的數據輸出信息。這增加了傳播虛假信息或誤導性事實(shí)的風(fēng)險，易于損害整個(gè)新聞業(yè)的可信度”。顯然ChatGPT尚需改進(jìn)，“在收集、分析信息的準確度”沒(méi)有超過(guò)記者，其“智能化、準確率不會(huì )有更大的提升” 之前，它可以虛構不存在的事實(shí)、歷史名稱(chēng)和書(shū)籍，或者無(wú)法解決某些數學(xué)問(wèn)題。英國人工智能初創(chuàng )公司Speechmatics副總裁威爾·威廉姆斯告訴媒體CNBC，“這些模型的開(kāi)放性是一把雙刃劍”。使用ChatGPT，盡管可以幫助記者在截稿之前更快地寫(xiě)作，在記者難以發(fā)揮創(chuàng )造力時(shí)激發(fā)他們的靈感，確保他們的作品具有良好的風(fēng)格，但應該始終與人相互配合地使用。記者將其作為一種工具，要認識到其局限性，對稿件中每一件事都必須仔細核查其準確性和來(lái)源。為保證新聞稿件的質(zhì)量，《洛杉磯時(shí)報》出版商、首席執行官羅斯·萊文森稱(chēng)，它不打算用人工智能取代記者，記者的人工勞動(dòng)有獨特的優(yōu)勢。彭博社的艾麗西亞·迪亞茲和杰里·史密斯強調，他們使用ChatGPT只是“作為報道內容的參考、視頻創(chuàng )作、新聞通訊來(lái)源、贊助內容和營(yíng)銷(xiāo)活動(dòng)”，不能信賴(lài)它提供的全部?jì)热?。據《華爾街日報》援引一位發(fā)言人的話(huà)稱(chēng)，告訴員工，使用人工智能并不是為了“減少工作場(chǎng)所”，而是補充人性的某些不足，在新聞編輯室“仍然專(zhuān)注于人工新聞”。四、ChatGPT對人類(lèi)認知和道德的潛在風(fēng)險
馬斯克在2022年11月評價(jià)ChatGPT是“可怕的好友”，并警告稱(chēng)：“我們離危險的強大人工智能不遠了?！备鶕墓_(kāi)聲明，他擔心先進(jìn)人工智能的潛在危險是對人類(lèi)認知和道德的危害，比如人工智能可能被用來(lái)抄襲他人成果，破壞選舉或開(kāi)發(fā)武器。ChatGPT是“愚蠢”的，但它不完全是白癡。你需要正確地使用它，它生成的內容與客觀(guān)存在的事實(shí)或知識相差無(wú)幾，那是因為它已經(jīng)看到了很多這樣的資料，不過(guò)是在重新編寫(xiě)。如果它告訴你一個(gè)特定的事實(shí)，那是因為它了解了事實(shí)背后的含義，而不是因為鸚鵡學(xué)舌般地重復以前聽(tīng)到的話(huà)。美國波士頓薩?？舜髮W(xué)法學(xué)教授安德魯·帕爾曼發(fā)表了一份長(cháng)達14頁(yè)的模擬美國最高法院的簡(jiǎn)報，ChatGPT根據他的提示在一小時(shí)內創(chuàng )建了該份簡(jiǎn)報。帕爾曼表示，對此他的印象極為深刻，但它復制的簡(jiǎn)報“不完美，有的地方也有問(wèn)題”。美國法律界一致認為，讓機器創(chuàng )建重要文件存在法律風(fēng)險。
首先，聊天機器人存在侵犯知識產(chǎn)權、制造誹謗性?xún)热莺瓦`反數據保護法的行為，因為使用他人的受版權保護的作品進(jìn)行數據收集和選擇，需要事先獲得授權，除非該作品已超過(guò)版權保護期或因其他原因進(jìn)入公共領(lǐng)域，否則就是違法。在許多行業(yè)中，一些基礎工作被ChatGPT取代，借助ChatGPT開(kāi)展業(yè)務(wù)活動(dòng)，不經(jīng)授權使用企業(yè)和商業(yè)秘密，被執法部門(mén)認定為是不正當競爭行為，可能會(huì )承擔民事責任。如果您欺詐地使用ChatGPT獲取運營(yíng)實(shí)體的名稱(chēng)來(lái)騙取他人財產(chǎn)，就構成了犯罪。在收集個(gè)人信息時(shí)，必須征得被收集人的知情和同意，但ChatGPT完全非法收集個(gè)人數據，侵犯了公民的權益和社會(huì )道德。ChatGPT還會(huì )引發(fā)人們對剽竊的極大擔憂(yōu)，在考試和寫(xiě)作方面弄虛作假，騙取把關(guān)人的評價(jià)和結論。美國公立學(xué)校已經(jīng)禁止在其服務(wù)器上使用ChatGPT，以防止其被用于應付考試。美國沃頓商學(xué)院MBA教授克里斯蒂安·特威斯奇對ChatGPT目前的成熟程度發(fā)出警告：“為什么學(xué)校封鎖了它？”“有史以來(lái)它是最偉大的作弊工具，因為學(xué)生們使用它來(lái)完成家庭作業(yè)和撰寫(xiě)論文?！泵缆?lián)社轉達一位校長(cháng)對學(xué)生的喊話(huà)說(shuō)：“不要使用ChatGPT或任何其他自動(dòng)寫(xiě)作工具來(lái)撰寫(xiě)學(xué)校論文。這是作弊行為，我們不會(huì )容忍。如果你被發(fā)現使用ChatＧＰＴ或任何其他自動(dòng)化寫(xiě)作工具來(lái)編寫(xiě)論文，將產(chǎn)生嚴重后果?！币豁椦芯匡@示，多達90%的學(xué)生知道該軟件，89%的學(xué)生使用該平臺完成作業(yè)，目前尚不清楚該工具在多大程度上為學(xué)生們服務(wù)。當人們嘗試讓ChatGPT寫(xiě)一個(gè)故事，它就在網(wǎng)絡(luò )上廣泛收集類(lèi)似的資料和情節，其中包括暴力、殺人和裝神弄鬼的恐怖細節。ChatGPT在編造故事時(shí)，完全是對寫(xiě)作的嘲弄，甚至是對人們靈魂的攻擊。這一“魔杖”嚴重敗壞了社會(huì )道德，侵蝕了人類(lèi)的精神純潔。ChatGPT所能做的就是為故事創(chuàng )造一個(gè)特定的情節，提交的往往是不可讀和不合語(yǔ)法的東西。有人使用ChatGPT之后，發(fā)現人工智能沒(méi)有給他們想要的東西，人工智能不可能有創(chuàng )造力。在這里，ChatGPT使用計算原則和方法就是輸入和輸出垃圾，完全是一種負算力的運用。比如讓ChatGPT給人看病，當病人把身體某個(gè)部位的疼痛告訴它，它就在網(wǎng)絡(luò )上搜索醫生們發(fā)上去的診斷和治療方案，同這種疼痛表征的數據相對照，最終依據癥狀相同的數據作出診斷結論。但每個(gè)患者在生理上千差萬(wàn)別，造成疾病的病因完全不同，ChatGPT無(wú)法依據不同的個(gè)案作出正確的診斷。它的治病特長(cháng)，只是把網(wǎng)絡(luò )上搜索到的某些癥狀和藥方整合后提出來(lái)，完全是一種猜測性的醫療方案。這種負算力更多表現為淫穢情節的視頻。通過(guò)特定的算法在互聯(lián)網(wǎng)上不斷回答對這類(lèi)主題的關(guān)注，廣泛搜羅這方面的數據讓美國人感到羞恥。在美國，網(wǎng)上淫穢材料的增長(cháng)就像一種快速轉移的癌癥，ChatGPT似乎是這種癌癥的培養基。根據美國色情危害聯(lián)盟編制的數據，早在2012年美國就有420萬(wàn)個(gè)色情網(wǎng)站、3.72億個(gè)色情網(wǎng)頁(yè)和25億封每日色情電子郵件。據估計，“色情收入超過(guò)了所有職業(yè)，超過(guò)了足球、棒球和籃球特許經(jīng)營(yíng)權的總收入”，從那時(shí)起，色情制品的增長(cháng)速度已經(jīng)加快。ChatGPT上色情制品的危害層出不窮，散布“色情制品”“新麻醉劑”“色情故事”“紅燈區的幸遇”和“奸淫案件”等，每天都推出大量文本與視頻，讓許多道德低下的人著(zhù)迷。盡管這款智能產(chǎn)品也安裝了控制毒害人類(lèi)靈魂的軟件，但從奧巴馬時(shí)期起，成人色情行業(yè)在互聯(lián)網(wǎng)、電影業(yè)和印刷出版物方面獲得了實(shí)質(zhì)上的自由，ChatGPT很難防止把這類(lèi)內容編輯在程序里。拍攝以獸交和猥褻性行為為主題的電影，在郵件中發(fā)送淫穢DVD色情，對兒童性虐待的描述，都成為ChatGPT經(jīng)常出現的內容。正如美國色情危害聯(lián)盟的盟友所說(shuō)，“幾年來(lái)，司法部主要針對販賣(mài)最極端的色情內容的小型企業(yè)，而不是針對色情內容的大規模分銷(xiāo)商執行聯(lián)邦反淫穢法律。因此，非法淫穢色情的內容充斥著(zhù)我們的國家，危害巨大” 。用戶(hù)從ChatGPT文本中提取需要的資料，利用ChatGPT查找特定的信息，大量文字與信息是消極的——其中包括大量的負面信息，比如罵人的話(huà)，不適合瀏覽的充斥惡意動(dòng)機的信息。在互聯(lián)網(wǎng)上可以看到許多消沉和不滿(mǎn)情緒，除非將其置于更大的背景中，否則ChatGPT將無(wú)從得知其意圖，簡(jiǎn)單地復制這類(lèi)內容等于肆意地擴散精神病毒。OpenAI公司有責任確保ChatGPT的“邪惡”不會(huì )被用來(lái)獲取不道德的利益，應當不斷改進(jìn)智能版本的識別能力。最新的ChatGPT版本拒絕回答任何關(guān)于制造炸彈和在考試中作弊的直接提示，證明其功能正在不斷改進(jìn)。但這種大型語(yǔ)言模型難以控制，OpenAI公司還沒(méi)有提出一個(gè)全面解決危害人類(lèi)的方案，但它的負算力總有一天會(huì )大大降低。 （作者為清華大學(xué)新聞與傳播學(xué)院教授）※原文詳見(jiàn)新聞愛(ài)好者雜志2023年第4期或中國知網(wǎng)、萬(wàn)方數據、龍源期刊網(wǎng)、重慶維普等，如轉載、引用請注明來(lái)源于新聞愛(ài)好者。
本站僅提供存儲服務(wù)，所有內容均由用戶(hù)發(fā)布，如發(fā)現有害或侵權內容，請
點(diǎn)擊舉報。
