任何技術(shù)都應該要在可控、可監督的范圍內發(fā)展，而這無(wú)疑應該是全社會(huì )的共識。
文 | 晨 沐
屏幕上，身穿西服的日本首相“岸田文雄”出現了，他發(fā)表了一段三分多鐘的惡意言論。畫(huà)面的右上角顯示了日本民營(yíng)電視臺“日本電視臺”的新聞節目標志，同時(shí)標注了“LIVE”（直播）和“BREAKING NEWS”（突發(fā)新聞）的字樣，給人們一種“岸田文雄”正在直播發(fā)表緊急新聞的印象。
而這其實(shí)是日本一名25歲男子借助人工智能（AI）技術(shù)制作的假視頻。近日，該視頻網(wǎng)上瘋傳。日本電視臺回應稱(chēng)，不能容忍此類(lèi)濫用節目徽標的行為。
事實(shí)上，早在岸田文雄被AI造假之前，歐美國家政治人物的虛假視頻就屢禁不止。比如今年以來(lái)，一段美國總統拜登宣布開(kāi)始的AI視頻被政治活動(dòng)人士制作并傳播。
數據顯示，今年8—9月，各大文圖類(lèi)AI網(wǎng)站的訪(fǎng)問(wèn)量均呈現下降趨勢，但某款AI視頻語(yǔ)音翻譯工具平臺訪(fǎng)問(wèn)量卻上升了92%。
對此，有人出于好奇躍躍欲試；有人則干脆以此為招牌，做起了AI換聲視頻的生意，“單價(jià)3元/秒”“最少30秒”；但也有人提出擔憂(yōu)：“這會(huì )不會(huì )被用來(lái)模仿聲音詐騙？”
01
據環(huán)球網(wǎng)援引日本《讀賣(mài)新聞》4日報道，該虛假視頻不僅帶有日本電視臺的臺標和“突發(fā)新聞”字樣，還讓“岸田”西裝革履地發(fā)表講話(huà)，字幕配文“岸田首相，我確信你已經(jīng)完成了”，模仿線(xiàn)上發(fā)布會(huì )的樣式。
視頻制作者11月2日在社交平臺X上發(fā)布了該假視頻，截至3日播放量已超過(guò)230萬(wàn)次。而他本人在接受采訪(fǎng)時(shí)表示，借助AI，視頻制作全程只花了1小時(shí)。從去年開(kāi)始，他就制作并發(fā)布岸田以及日本前首相安倍晉三等人的AI視頻。他說(shuō)：“我這樣做的目的只是逗人們發(fā)笑，這是一種諷刺?！?/p>
該視頻引發(fā)了廣泛批評，日本電視臺表示“絕不容忍這種行為”，并將采取措施。據報道，由于歐美國家政治人物的虛假視頻被濫用來(lái)操縱輿論，日本國內要求采取反制措施的呼聲也可能會(huì )增加。此前，針對頻發(fā)的假視頻，日本總務(wù)省曾警告：“虛假和錯誤信息的傳播會(huì )造成社會(huì )分裂，進(jìn)而導致民主危機?！?/p>
02
在政治界外，娛樂(lè )圈近期則興起了“名人換聲”風(fēng)。
先是美國女歌星“霉霉”（泰勒?斯威夫特）一則說(shuō)中文的短視頻在各社交平臺火爆。有的播放量已經(jīng)達到了 600 多萬(wàn)。視頻中，霉霉操著(zhù)一口流利、地道的中文，神情自若，幾乎沒(méi)有早期譯制片女主角的那種腔調，口型也能對得上。
還沒(méi)有看過(guò)視頻的小伙伴們，可以先來(lái)一睹為快。
不僅是霉霉，蕾切爾?布羅斯納安、艾瑪?沃森、憨豆先生等明星都掌握了一口正宗的中文。
之后，多個(gè)中國“土味”明星開(kāi)口說(shuō)英語(yǔ)的視頻熱傳，包括但不限于趙本山小品、郭德綱相聲、范偉采訪(fǎng)，紛紛一口英倫腔……
雖然這些明星神情自若地說(shuō)著(zhù)與本人完全相反的語(yǔ)言，喜感拉滿(mǎn)。但用AI技術(shù)為視頻中的人物更換聲音、做“翻譯”，存在多種侵權行為。
從著(zhù)作權角度，首先網(wǎng)友替換的大部分視頻內容，例如相聲、小品等，都屬于我國《著(zhù)作權法》保護的“作品”。著(zhù)作權有一項是“翻譯權”，即未經(jīng)他人授權，不得翻譯他人作品。翻譯權之外，此類(lèi)視頻在未經(jīng)著(zhù)作權人授權的情況下，經(jīng)修改后發(fā)布在網(wǎng)絡(luò )上，造成大面積傳播甚至牟利，該行為也涉嫌侵犯作品的信息網(wǎng)絡(luò )傳播權。
而從被換聲音的公眾人物角度，根據《民法典》第一千零一十九條，任何組織或者個(gè)人不得以丑化、污損，或者利用信息技術(shù)手段偽造等方式侵害他人的肖像權。未經(jīng)肖像權人同意，不得制作、使用、公開(kāi)肖像權人的肖像，但是法律另有規定的除外。未經(jīng)肖像權人同意，肖像作品權利人不得以發(fā)表、復制、發(fā)行、出租、展覽等方式使用或者公開(kāi)肖像權人的肖像。
近年來(lái)，AI技術(shù)被廣泛應用于短視頻的二次創(chuàng )作，也因此出現大量“AI換臉”“AI換聲”等爭議，甚至引發(fā)“AI詐騙”。在筆者看來(lái)，任何一項技術(shù)都是一把雙刃劍，既能推動(dòng)社會(huì )進(jìn)步，也能挖掘出人性中隱藏的惡。它給社會(huì )帶來(lái)的積極影響也是顯而易見(jiàn)的，如提高人們的內容創(chuàng )作效率、孕育新的技術(shù)形態(tài)與價(jià)值模式、產(chǎn)生新的就業(yè)機會(huì )等等。
最重要的是，任何技術(shù)都應該要在可控、可監督的范圍內發(fā)展，而這無(wú)疑應該是全社會(huì )的共識。
聯(lián)系客服
