韓國再現“N號房”醜聞：AI偽造色情圖片 韓國泛濫

韓國再現“N號房”醜聞，這次的關鍵詞是“深度偽造犯罪”。

所謂“深度偽造犯罪”，即使用人工智能技術生成逼真的虛假內容，該技術的泛濫使得此次韓國女性的受害者數量以及相關色情圖片視頻的傳播力度較之過去更上了一個台階，受害者不得不在包括中國微博在內的各國社交平台發聲，呼籲更多人關注。

深度偽造的技術原理是什麽？黑灰產從業者如何從中牟利？為什麽韓國最泛濫？應該如何加強監管？

AI深度偽造技術原理是什麽?

對抗網絡不斷重複直到內容足夠逼真

網絡尖刀安全團隊聯合創始人蔡勇在接受記者采訪時表示，AI深度偽造技術，也稱為深度偽像（Deepfake），是一種利用人工智能技術生成逼真的虛假內容，通常是指用於偽造人物的視頻、音頻、圖像等。其主要原理涉及兩個關鍵技術：生成對抗網絡（GANs）和深度學習。

“技術實現可以這麽理解：首先，我們需要一個生成器和一個判別器。生成器的任務是模仿已有的真實內容，例如人的臉部特征，其通過學習大量的真實樣本，比如照片或視頻片段來生成看起來非常逼真的虛假內容。而判別器的任務是辨別生成器創建的內容是否真實。通過不斷迭代訓練，生成器和判別器會不斷互相競爭、學習和提高。這種對抗性的過程不斷重複，直到生成器生成的內容足夠逼真，以至於人類很難分辨它們是虛假的。這就是為什麽AI深度偽造技術可以製作出逼真的虛假視頻、音頻或圖像的原因。”蔡勇說。

黑灰產打擊專家丁健琮則告訴貝殼財經記者，Deepfake的核心原理是通過一定的圖片識別算法將2D照片動態化，或將某張照片中的人臉植入到一段動態視頻中。現在聲紋偽造也逐步納入了deepfake的概念。

隨著近年來AI大模型技術的逐漸成熟，一些AI生圖大模型在追求更多真實度的同時“誤打誤撞”成為了AI換臉或AI脫衣的幫凶，如此前著名的大模型stable diffusion就被開發出了一鍵脫衣的功能，並一度泛濫。雖然後來該大模型修改了相關功能，讓這種行為有所收斂，但由於技術開源的特性，“潘多拉的盒子”已經打開，或許難以再度關閉。

黑灰產從業者如何牟利？

一個公開可進群組成員達1.5萬人通過繳費還可進入更私密群組

貝殼財經記者注意到，同此前的韓國“N號房”事件一樣，此次深度偽造圖像的傳播平台依然是國外社交平台“電報”（Telegram），該平台可以提供端到端加密消息傳遞，總部位於俄羅斯，因其私密的特性而擁有大量國際用戶，但也因此成為了不法行為的溫床。

貝殼財經記者調查發現，當前該平台上有不少以AI色情為賣點的群組（類似於群聊天，即韓國新聞中“房”的概念），在公開可進的群組中，一個通過AI技術偽造國內網紅色情圖片的群組成員人數達到了1.5萬人，通過繳費，還可以進入更加私密、尺度更大的群組，黑灰產從業者正是以此牟利。

除了端到端加密技術外，Telegram還賦予了包括“閱後即焚”“超級群組（動輒可達十多萬人，相比之下微信群的限製是500）”“群主設置不能複製轉發截圖”等功能，使得Telegram上的一個個群組成為了封閉式空間。此外，不少交易通過虛擬貨幣進行，令非法交易得以逃避監管。

今年3月，Telegram的創始人帕維爾·杜羅夫表示，“電報”已擁有9億用戶，且正接近盈利。照此發展速度，其下一步將直接與Facebook等社交媒體競爭。

丁健琮告訴記者，Telegram的創始人本就是絕對自由主義者或者可以稱之為無政府主義者，其設計Telegram的原始理念就是無監控和躲避監管，這就導致大量黑灰產和違法信息在其中聚集。

不過，貝殼財經記者注意到，Telegram裏也有一些約定俗成的“禁區”，至少在公開可見的大群裏，一些群成員會注意包括兒童色情、強迫性行為等在內的內容，曾有群成員抱怨自己發布了上述內容後群組遭到封禁。但基於Telegram平台本身的私密性特點，對於經過篩選、群成員忠誠度更高的各種“房”，仍然存在此類內容的可能性極高。

值得注意的是，8月24日，杜羅夫在法國巴黎近郊的布爾歇機場被捕，雖然後來在司法監控下獲得保釋，但不得離開法國。法國TF1電視台報道稱，帕維爾·杜羅夫可能麵臨恐怖主義、洗錢和販毒的指控。巴黎檢察官辦公室在一份聲明中指出，其涉嫌的違法行為包括參與出售兒童性虐待素材、販毒、欺詐，以及在法律要求時拒絕與調查人員分享信息或文件等。

有評論認為，杜羅夫的被捕有可能導致Telegram今後的內容得到整治。

2020年3月26日，Telegram性剝削共同對策委員會在首爾光化門世宗文化會館台階前舉行集會，要求從根本上解決Telegram性剝削事件。（圖片來源：韓民族日報官方網站）

為什麽是韓國？

法律執行力度或許不夠但性別歧視才是根源

實際上，飽受深度偽造困擾的女性並不隻在韓國。歐美女演員中，“黑寡婦”斯嘉麗約翰遜、“赫敏”艾瑪沃特森，以及小天後泰勒斯威夫特都是第一批遭到AI換臉的受害者，國內明星和網紅也有不少受害者。

去年5月，一粉絲數量超過50萬的國內網紅女博主發文吐槽，“好多人都經曆過圖片被盜放到外網上，拿去引流‘賣片’，以及把照片和其他色情圖片放在一起的低級造謠手段，明眼人一看就知道是假的，我平時不在意這些，隻是當私信突然變多發現‘節奏’起來時，才不得不辟謠。”

但是，為什麽韓國女性受到深度偽造的傷害比之其他國家更甚？根據8月26日，韓國女性民友會發布的報告，在某一個“電報”群組中，隻需上傳熟人照片，付費後5秒鍾內就能生成裸體合成圖，而該群組的參與人數高達22.7萬人。

相比其他國家AI偽造的受害者大多是明星網紅，韓國更有大量的普通人受害，有韓國女大學生受害者表示，自己有數十張裸體照片在電報群組中傳播，臉上寫著不堪入目的髒話，甚至還有人通過AI生成了自己的色情語音。

民友會在報告中質問，“（韓國）女性們生活在一個無法有效懲罰或預防針對女性犯罪和暴力的社會中，失去了日常生活的安全感，仿佛生活在一個沒有國家的狀態中。這樣的社會還有存在的必要？”

實際上，對於此類犯罪行為，韓國並非沒有相關的法律，“N號房”事件的發生就推動了韓國《Telegram“N號房”事件防治法》的出台，包括《關於性暴力犯罪處罰的特例法修訂案》《刑法修正案》《關於限製犯罪收益隱匿的規定及處罰的法律修訂案》等內容。

據韓聯社29日報道，韓國政府還計劃加強對利用“深度偽造”進行性犯罪行為的處罰力度，並推進與通訊軟件“電報”的運營公司構建合作熱線。韓國執政黨國民力量黨政策委員會主席金相勳在當天舉行的發布會上稱，黨政在國會開會討論“深度偽造”性犯罪的預防對策。雙方計劃推進立法，將散布虛假視頻等犯罪行為的最高刑罰從5年提高至7年。

但是，對於韓國女性而言，長久的性別歧視觀念或許才是導致此類事件一再發生的“根源”。《朝鮮日報》稱，因為“隻是覺得有趣”、“隻是在開玩笑”、“用熟人的照片P圖更真實”等原因，“深度偽造”在韓國10代群體之間像“遊戲”一樣盲目蔓延。

韓國女性民友會的負責人就呼籲人們進行反思。“韓國女性被品頭論足，被看作可以是‘被玩弄的對象’。這種對女性的性物化、蔑視和侮辱已經成為一種娛樂。韓國社會培養出的‘普通男性’的最低標準究竟在哪裏？”

如何防範、監管？

加大AI平台使用者審核 打擊為黑產提供支持的apk工具

在采訪中，不少專家都認為隨著AI技術的進步，想要阻止人們使用AI生成偽造視頻或圖片，並不現實，想要製止此類行為，需要從其他方向“下功夫”。

“近年來Deepfake愈演愈烈、難以監管的原因在於技術擴散。很多類似的黑產技術被不斷地工具化甚至SaaS服務化，使用者不需要懂得相關技術，隻需要通過某些途徑獲得包裝好的插件或者在網絡平台上付費就可以實現內容的輸入輸出。”丁健琮表示。

“必須明確的是，使用AI工具進行偽造，效率要比傳統偽造方式高得多，技術門檻卻又低得多。俗話說得好，造謠一張嘴，辟謠跑斷腿。當前，通過專業技術手段或專家鑒定可以識別AI深偽視頻和圖片，但成本也很高，隨著技術不斷進步，AI生成或合成的視頻最終無法被鑒定真偽，是必然的。”奇安信集團行業安全研究中心主任裴智勇告訴貝殼財經記者。

在他看來，雖然想要阻止人們使用AI生成偽造視頻或圖片不現實，但這並不意味著對偽造視頻或圖片毫無辦法。“國內對於網絡色情視頻和圖片都有非常成熟的治理方法，即便不能用技術鑒別一張圖片的真偽，但可以從平台一側阻止色情內容的傳播，定位色情內容的傳播源頭並實施打擊。”

丁健琮則建議，應該從源頭管控技術擴散，“正規的AI技術平台對於上傳和生成的內容應當有審核，使用者也需要實名注冊，國內法已經明確建立了此類規定。正規經營者應當嚴格落實國家法律法規要求。而對於為黑產提供支持的apk工具或者SaaS網站，要依賴嚴厲的打擊。可以參考國內反詐工作的思路，軟硬件生態聯合對相關的apk和網站進行封禁。”

裴智勇表示，從未來角度看，應當積極探索和推廣照片與視頻的防偽技術。例如，通過數字加密技術、數字水印技術等，可以給每一張圖片或每一段視頻打上一段不可偽造的驗證信息，一旦內容被修改，驗證信息就會被破壞，從而達到雖然不能鑒偽，但可以“保真”的效果。

“具體來說，比如，使用某品牌、某型號、某序列號的特定手機拍攝照片，照片文件上就會帶有一串肉眼看不見、但機器可識別的加密驗證碼。驗證係統一旦識別到這段驗證碼，就可以確定這張照片一定是用這部手機拍攝的，而使用任何其他設備，都無法生成這段驗證碼。一旦有人對這張照片進行修改，不論是AI修改，還是人工手動修改，驗證係統都能識別出其‘不是原圖’。這裏所說的方法並非什麽新技術，而是成熟密碼技術。需要的隻是推廣和深度普及。”裴智勇說。

“目前，國內外已經有一些專門用於識別deepfake生成結果的技術和專利，國內內容平台可以通過在內容巡檢功能中增加對deepfake類內容的識別技術，盡可能切斷傳播鏈。”丁健琮告訴貝殼財經記者。