封面新聞記者 邊雪

一秒改變?nèi)菝?，作為川劇最為知名的表演特技之一，“變臉”也在AI的浪潮下，也開始實(shí)現(xiàn)技術(shù)迭代了。

在直播間、短視頻里，主播時而像迪麗熱巴、時而像易烊千璽，你能點(diǎn)出的明星名字，不論男女老幼，充當(dāng)明星帶貨的主播，都能通過以手遮臉后在屏幕之后幫你實(shí)現(xiàn)。

(資料圖)

視頻AI換臉技術(shù)，是指通過人工智能大數(shù)據(jù)技術(shù)，根據(jù)用戶需求，通過技術(shù)手段將視頻中某個人物的臉替換成另一個人的臉。當(dāng)前，AI換臉技術(shù)已經(jīng)廣泛應(yīng)用于短視頻、廣告、電影等領(lǐng)域，帶來了不少的創(chuàng)意效果。

明星遭AI換臉。圖源網(wǎng)絡(luò)

但是，這一技術(shù)也被一些不法分子用于違法犯罪活動，即AI換臉詐騙。當(dāng)“AI換臉+AI擬聲”，分辨難度如同讓你對著屏幕，看著“真假美猴王”分辨誰是真的孫大圣。

據(jù)“平安包頭”微信公眾號消息，近日，包頭市公安局電信網(wǎng)絡(luò)犯罪偵查局發(fā)布一起使用智能AI技術(shù)進(jìn)行電信詐騙的案件，福州市某科技公司法定代表人郭先生10分鐘內(nèi)被騙430萬元?，隨后話題#AI詐騙正在爆發(fā)#沖上微博熱搜。

已經(jīng)對公共利益構(gòu)成威脅的AI變臉，到底是怎么進(jìn)行詐騙的？

具體來說，不法分子會利用AI換臉技術(shù)制作虛假的視頻或圖片，以此進(jìn)行詐騙活動。比如，通過將某個政治人物或名人的臉替換到色情影片中，制作虛假事件，或者通過將受害者的臉替換到一些不雅或違法視頻中，以此進(jìn)行敲詐勒索。這些詐騙行為不僅侵犯了受害者的個人隱私和合法權(quán)益，還可能對其造成巨大的精神傷害和財產(chǎn)損失。

實(shí)際上，AI詐騙此前也在我國發(fā)生過多起案件。據(jù)封面新聞記者此前調(diào)查報道，浙江溫州公安曾發(fā)布消息，2021年拱宸橋派出所接到報警，受害人小陳稱他在與女網(wǎng)友視頻聊天后被對方敲詐勒索。經(jīng)警方調(diào)查，對方利用AI換臉技術(shù)，將小陳視頻中的面部合成到不雅視頻中，借此對其實(shí)施勒索。

2020年，上海某公司高管因?qū)Ψ绞褂肁I換臉與人工生成的語音技術(shù)制作公司領(lǐng)導(dǎo)的面孔，并要該高管轉(zhuǎn)賬，致使該高管被詐騙150萬元。

“用戶利用AI換臉技術(shù)偽裝，導(dǎo)致被偽裝人的肖像權(quán)等權(quán)利被侵權(quán)，或?qū)е缕渌说母星楹拓敭a(chǎn)大量受損時，平臺在未盡到合理審核義務(wù)、未有效規(guī)制該類行為發(fā)生的情況下，需要承擔(dān)一定的幫助侵權(quán)，甚至直接侵權(quán)法律責(zé)任?！碧┖吞┞蓭熓聞?wù)所律師劉青告訴封面新聞記者，但是，除非平臺故意為之或協(xié)助詐騙人進(jìn)行詐騙行為，否則很難認(rèn)定平臺構(gòu)成詐騙罪。

“用戶在使用AI技術(shù)介入的軟件或互聯(lián)網(wǎng)產(chǎn)品時，一方面應(yīng)當(dāng)注意勿惡意利用AI技術(shù)進(jìn)行不法行為，另一方面也應(yīng)注意識別、核對交流方的真實(shí)身份，切勿輕信表象，在需要轉(zhuǎn)賬或花銷采購時謹(jǐn)慎考慮?！眲⑶嘀赋?，若民眾遭遇詐騙應(yīng)當(dāng)?shù)谝粫r間報警尋求警方的幫助，注意保留相關(guān)材料以供警方盡快掌握案情、嚴(yán)懲犯罪分子。“此外，一旦發(fā)現(xiàn)自己的肖像被盜用或者‘被換臉’，我們應(yīng)當(dāng)?shù)谝粫r間保留證據(jù)，以便后續(xù)維權(quán)；同時還可以向網(wǎng)絡(luò)平臺運(yùn)營商提出投訴，要求強(qiáng)制下架侵權(quán)圖片或視頻；最后，也可以提起人格權(quán)訴訟，用法律武器維護(hù)自己的合法權(quán)益?！?/p>

5月24日，中國互聯(lián)網(wǎng)協(xié)會發(fā)布公告，面對利用AI技術(shù)的新型騙局，廣大公眾需提高警惕，加強(qiáng)防范。在AI時代，文字、聲音、圖像和視頻都有可能是深度合成的，在轉(zhuǎn)賬匯款、資金往來這樣的典型場景，要通過回?fù)軐Ψ绞謾C(jī)號等額外通信方式核實(shí)確認(rèn)，不要僅憑單一溝通渠道未經(jīng)核實(shí)就直接轉(zhuǎn)賬匯款，無論對方是誰。

在AI孫燕姿火爆全網(wǎng)之后，5月22日深夜，歌手孫燕姿在網(wǎng)站上發(fā)布了《我的AI》一文，首度回應(yīng)了自己對AI技術(shù)的看法。面對來勢洶洶的AI技術(shù)，孫燕姿形容自己就像一個吃著爆米花、坐在電影院最好的位子上的人?！霸谶@無邊無際的存在之海中，凡事皆有可能，凡事皆無所謂，我認(rèn)為思想純凈、做自己，已然足夠?！?/p>

但事實(shí)上，如果“AI”技術(shù)使用了明星的語音信息，可能會侵犯其隱私權(quán)。根據(jù)我國《民法典》第一千零三十四條規(guī)定，自然人的個人信息受法律保護(hù)。個人信息是以電子或者其他方式記錄的能夠單獨(dú)或者與其他信息結(jié)合識別特定自然人的各種信息。因此，未經(jīng)明星同意在其直播間使用“AI換臉”或“AI變聲”技術(shù)可能構(gòu)成對其隱私權(quán)的侵犯。

明星遭AI換臉。圖源網(wǎng)絡(luò)

網(wǎng)上出現(xiàn)了一些“換臉直播”的教程，聲稱通過相關(guān)軟件換上一張明星藝人的臉，可以更好地直播帶貨。對此，劉青告訴封面新聞記者，根據(jù)我國《民法典》第一千零二十四條規(guī)定，任何組織或者個人不得以侮辱、誹謗等方式侵害他人的名譽(yù)權(quán)。這種做法可能涉嫌侵犯藝人的肖像權(quán)和名譽(yù)權(quán)，用于商業(yè)行為還可能涉嫌虛假宣傳。

在封面新聞記者查詢民法典時，發(fā)現(xiàn)，AI換臉技術(shù)涉及肖像權(quán)、名譽(yù)權(quán)、隱私權(quán)等多種權(quán)利。據(jù)我國《民法典》第一千零一十九條規(guī)定，任何組織或者個人不得以丑化、污損，或者利用信息技術(shù)手段侵犯他人肖像權(quán)的方式，制作、使用、展示他人肖像。利用AI換臉技術(shù)制作虛假的肖像，侵犯了他人的肖像權(quán)，可能會引發(fā)侵權(quán)糾紛。

AI換臉直播的發(fā)展史可以追溯到2018年，當(dāng)時DeepFaceLab等工具的發(fā)布開啟了AI換臉技術(shù)的發(fā)展。隨著AI技術(shù)的不斷優(yōu)化和升級，AI換臉直播開始在各大直播平臺上應(yīng)用。

在2020年，美國的真力（Zoom）公司推出了AI面部替換功能，允許用戶在Zoom視頻會議中將自己的面部替換為他人面部。這項(xiàng)功能引起了廣泛的關(guān)注和討論，也推動了AI換臉技術(shù)的發(fā)展和應(yīng)用。

2021年，隨著AI換臉技術(shù)的不斷成熟和完善，AI換臉直播的應(yīng)用范圍也不斷擴(kuò)大。不少平臺和企業(yè)開始推出自己的AI換臉直播服務(wù)，例如抖音的“Faceu秀顏”和“Perfect”等。這些應(yīng)用不僅可以實(shí)現(xiàn)面部替換，還可以實(shí)現(xiàn)聲音、動作、表情等多種維度的替換和合成，使得AI換臉直播更加真實(shí)和生動。

然而，隨著AI換臉直播的普及和應(yīng)用，也出現(xiàn)了不少爭議和問題。有人認(rèn)為AI換臉直播可能會侵犯個人隱私和肖像權(quán)，也有人擔(dān)心AI換臉直播可能會被用于虛假宣傳和色情內(nèi)容等非法用途。因此，不少國家和地區(qū)開始出臺相關(guān)政策和法規(guī)，規(guī)范AI換臉直播的發(fā)展和應(yīng)用。

2021年，我國某知名電商平臺開始在直播中使用AI換臉技術(shù)，用戶可以通過該功能將自己的面部替換為明星或網(wǎng)紅的面部，從而實(shí)現(xiàn)更生動、更真實(shí)的展示效果。此外，該電商平臺還推出了自己的AI換臉直播服務(wù)，通過該服務(wù)，品牌方可以在直播中使用更為真實(shí)和生動的展示效果。

目前，AI換臉直播已經(jīng)成為我國直播行業(yè)的一種趨勢，越來越多的平臺和企業(yè)開始在直播中應(yīng)用AI換臉技術(shù)。同時，隨著技術(shù)的不斷發(fā)展和應(yīng)用，AI換臉直播在我國的應(yīng)用前景也將更加廣泛和多樣化，但仍受多種因素的影響。

某頭部直播平臺工作人員張蕾（化名）跟封面新聞記者透露，據(jù)她從業(yè)以來的經(jīng)驗(yàn)，AI技術(shù)的發(fā)展將推動AI換臉直播的進(jìn)步。隨著AI算法的不斷優(yōu)化和升級，AI換臉直播將會更加精確和真實(shí)，從而更好地滿足品牌方的需求?！笆袌鲂枨蠛拖M(fèi)者行為也將影響AI換臉直播的發(fā)展。如果市場需求不斷增加，那么AI換臉直播的發(fā)展將會受到更大的推動。同時，消費(fèi)者的行為和偏好也會影響AI換臉直播的發(fā)展方向，例如消費(fèi)者更傾向于觀看哪種類型的直播內(nèi)容?！?/p>

明星遭AI換臉進(jìn)行直播賣貨。圖源網(wǎng)絡(luò)

在封面新聞記者問到政策法規(guī)對AI換臉的影響時，張蕾直言政策和法規(guī)會在極大程度上影響AI換臉直播的未來發(fā)展。“如果政策法規(guī)對AI換臉直播的發(fā)展持積極態(tài)度，那么AI換臉直播的發(fā)展可能會更加迅速和廣泛，但一切都還是未知的?！?/p>

關(guān)鍵詞： 封面新聞