“AI換臉”合成、售賣“女神”淫穢視頻！這地檢察院出手

近年來，“AI換臉”走紅網絡，一些“AI換臉”的App使用明星的圖片製作換臉視頻進行推廣，其趣味性背後暗藏不少法律風險和侵權糾紛。

4月7日，浙江杭州蕭山區檢察院曝光的一個“女神群”，引發關注——

據了解，“AI換臉”技術的走紅，讓80後安徽小夥虞某嗅到了商機。他想到在網上推廣該項技術及相關的軟件，並從中獲利。

但一段時間過去，虞某卻始終沒有獲得什麽關注度。偶然的一次機會，虞某看到有些人會在群裏發布一些淫穢信息來吸引他人關注，就也動起了歪腦筋。

此前報道：男網紅AI換臉熱吻女星引爭議

虞某先是將原本建的“換臉軟件資源群”的群名更改為“女神試看群”，後又通過互聯網下載了部分淫穢視頻，截取片段後發布在該公開群中，吸引、招攬觀看者加入。當觀看者達到一定人數後，虞某會發布群消息稱，繳納198元-498元不等的“會費”，進入“內部群”可以收看完整版。

除此之外，虞某表示，“內部群”裏發送的淫穢視頻有不少是由其本人使用“AI換臉技術”合成的，根據顧客的需要還可以使用不同的女明星的形象，進行“私人定製”。也有不少人因為看了這些視頻後對換臉技術產生了興趣，向其谘詢如何購買換臉軟件。

一麵通過“吸粉引流”，收取會費；一麵又通過出售“換臉軟件”，頻頻獲利。虞某短短幾個月的時間裏就收獲了數萬元。截至案發，公安機關共在虞某所組建的公開群內查證淫穢視頻1200餘部、圖片1600餘張，經鑒定，上述均係淫穢物品。

2023年3月28日，蕭山區檢察院依法以製作、傳播淫穢物品牟利罪對虞某提起公訴。案件目前正在法院審理中。

AI時代如何保護我們的“臉”？

近日，多起AI換臉或AI換裝的爭議事件引起網友討論。

對此，蕭山檢察官提醒，“AI換臉技術”即便隻是用來搞笑或者製作惡搞照片，也有可能涉及侵犯肖像權、名譽權，造成嚴重後果的，還可能構成侮辱罪或者誹謗罪。希望大家依法使用該項技術，一旦遇到類似本案中利用“AI換臉技術”實施犯罪行為的，應第一時間固定證據，並及時向司法機關報案。

澎湃新聞也曾發文表示，互聯網技術提供了異常多元、新奇的產品體驗，用戶當然也有網絡玩梗的剛需，但安全風險問題也隨著互聯網介入生活程度的加深而不斷凸顯。當一項新技術橫空出世之際，背後的漏洞風險也應當審慎評估，相關的規定應該適時跟上，努力縮短從野蠻生長到規範發展的時間差。