每經(jīng)編輯 盧祥勇    

近年來(lái)，“AI換臉”走紅網(wǎng)絡(luò)，一些“AI換臉”的App使用明星的圖片制作換臉視頻進(jìn)行推廣，其趣味性背后暗藏不少法律風(fēng)險(xiǎn)和侵權(quán)糾紛。

4月7日，浙江杭州蕭山區(qū)檢察院曝光的一個(gè)“女神群”，引發(fā)關(guān)注。名為“女神群”，群成員卻都是一群大老爺們。每天都不停地有人入群，但除了群主虞某外，很少有人發(fā)言。這個(gè)群里究竟有著怎樣的秘密？

“女神群”里的秘密

早在2020年，“AI換臉”剛剛在國(guó)外興起的時(shí)候，80后安徽小伙虞某就對(duì)它產(chǎn)生了興趣，自學(xué)掌握了這門(mén)技術(shù)。

后來(lái)隨著“AI換臉”技術(shù)的走紅，讓虞某嗅到了商機(jī)。他想到在網(wǎng)上推廣該項(xiàng)技術(shù)及相關(guān)的軟件，并從中獲利。

但一段時(shí)間過(guò)去，虞某卻始終沒(méi)有獲得什么關(guān)注度。偶然的一次機(jī)會(huì)，虞某看到有些人會(huì)在群里發(fā)布一些淫穢信息來(lái)吸引他人關(guān)注，就也動(dòng)起了歪腦筋。

虞某先是將原本建的“換臉軟件資源群”的群名更改為“女神試看群”，后又通過(guò)互聯(lián)網(wǎng)下載了部分淫穢視頻，截取片段后發(fā)布在該公開(kāi)群中，吸引、招攬觀看者加入。當(dāng)觀看者達(dá)到一定人數(shù)后，虞某會(huì)發(fā)布群消息稱，繳納198元-498元不等的“會(huì)費(fèi)”，進(jìn)入“內(nèi)部群”可以收看完整版。

除此之外，虞某表示，“內(nèi)部群”里發(fā)送的淫穢視頻有不少是由其本人使用“AI換臉技術(shù)”合成的，根據(jù)顧客的需要還可以使用不同的女明星的形象，進(jìn)行“私人定制”。其中，經(jīng)警方查實(shí)，幾位人氣女明星成了虞某“AI換臉”淫穢視頻的“重災(zāi)區(qū)”。

一面通過(guò)“吸粉引流”，收取會(huì)費(fèi)；一面又通過(guò)出售“換臉軟件”，頻頻獲利。虞某短短幾個(gè)月的時(shí)間里就收獲了數(shù)萬(wàn)元。截至案發(fā)，公安機(jī)關(guān)共在虞某所組建的公開(kāi)群內(nèi)查證淫穢視頻1200余部、圖片1600余張，經(jīng)鑒定，上述均系淫穢物品。

2023年3月28日，蕭山區(qū)檢察院依法以制作、傳播淫穢物品牟利罪對(duì)虞某提起公訴。案件目前正在法院審理中。

律師：無(wú)論盈利與否

未經(jīng)授權(quán)即涉嫌侵權(quán)

“AI換臉技術(shù)”頻頻被一些犯罪分子盯上，除了女明星外，部分不法分子還將“AI換臉技術(shù)”使用在普通人身上，由此制造一些所謂的遭泄露的“私密照片”，對(duì)當(dāng)事人實(shí)施敲詐勒索。

杭州蕭山檢察官提醒，即便只是用“AI換臉技術(shù)”來(lái)搞笑或者制作惡搞照片，也有可能涉及侵犯肖像權(quán)、名譽(yù)權(quán)，造成嚴(yán)重后果的，還可能構(gòu)成侮辱罪或者誹謗罪。這不是開(kāi)玩笑！希望大家依法使用該項(xiàng)技術(shù)，一旦遇到類似本案中利用AI技術(shù)實(shí)施犯罪行為的，應(yīng)第一時(shí)間固定證據(jù)，并及時(shí)向司法機(jī)關(guān)報(bào)案。

類似事件近日已出現(xiàn)多起。比如廣州一女子在地鐵上的照片被他人使用AI技術(shù)“一鍵脫衣”，虛假圖片在網(wǎng)絡(luò)廣泛傳播。此前，某男網(wǎng)紅使用“AI換臉”技術(shù)，替換掉電視劇中的男主角頭像，制作自己與女明星親吻的畫(huà)面，同樣引發(fā)爭(zhēng)議。

此前報(bào)道：男網(wǎng)紅AI換臉熱吻女星引爭(zhēng)議

南方日?qǐng)?bào)記者近日調(diào)查發(fā)現(xiàn)，互聯(lián)網(wǎng)上有人售賣人臉合成視頻制作教程和明星人臉“萬(wàn)能模型”，一套模型只需10元，購(gòu)買(mǎi)后可在軟件內(nèi)直接用于生成“換臉”視頻。

針對(duì)“‘換頭’親吻女明星”事件，南方日?qǐng)?bào)報(bào)道稱，廣東立幸律師事務(wù)所律師莫圣瑋認(rèn)為，男網(wǎng)紅利用技術(shù)手段制作自己與女明星“親吻”的畫(huà)面，可能侵犯了女明星的肖像權(quán)和名譽(yù)權(quán)。而其在未取得影視作品授權(quán)情況下對(duì)作品進(jìn)行二次創(chuàng)作，并發(fā)布用于營(yíng)利，還可能構(gòu)成對(duì)影視作品版權(quán)的侵權(quán)。

在女子被“一鍵脫衣”事件中，莫圣瑋認(rèn)為，造謠者除侵犯受害者民事權(quán)益，可能還涉嫌誹謗罪、侮辱罪，如果大量傳播照片并牟利的，則涉嫌傳播淫穢物品罪。

加強(qiáng)對(duì)“AI換臉”等深度合成技術(shù)的規(guī)范，有關(guān)部門(mén)一直在行動(dòng)。

今年1月，《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》實(shí)施，其中明確規(guī)定網(wǎng)信部門(mén)和電信主管部門(mén)、公安部門(mén)等監(jiān)管部門(mén)，需要加強(qiáng)監(jiān)督檢查、技術(shù)治理，對(duì)不當(dāng)使用AI合成技術(shù)的機(jī)構(gòu)和人員，按照有關(guān)法律、行政法規(guī)采取措施，進(jìn)行整改；造成嚴(yán)重后果的，依法從重處罰。

編輯|盧祥勇 杜恒峰

校對(duì)|王月龍

每日經(jīng)濟(jì)新聞綜合自蕭山檢察、杭州日?qǐng)?bào)、南方日?qǐng)?bào)