Deepfake性犯罪激增：AI可能創造新一代的施虐者？

深度偽造（Deepfake）濫用正在成為針對婦女暴力的新前沿。近日，韓國多起涉案嫌疑人在未經女性知情或同意下，利用人工智能技術合成真實人臉與虛假身體，偽造色情影像，並在多個社交媒體群組廣泛傳播。據韓聯社報道顯示，近年來，韓國Deepfake性犯罪案件數量一直呈上升態勢，從2021年的156起增至2023年的180起，今年僅前七個月甚至已經累計報告297起。其中，案件受害者以年輕女性為主，主要包括學生、教師和士兵，且近三分之二的受害人都是青少年。

???????

此次激增的Deepfake性犯罪引發全球多國網民恐慌。但這並不是一次突然的爆發。

實際上，早在今年年初，美國知名歌手泰勒·斯威夫特（Taylor Swift）的深度偽造色情圖片就曾在社交媒體廣泛傳播，在平台方做出刪除處理前，該圖片已被累計瀏覽超4700萬次。遺憾的是，這次事件僅在粉絲群體內部引起震蕩。美國有線電視新聞網還曾在今年1月末專門刊發評論文章，稱“我們最大的錯誤就是，相信這種傷害隻發生在公眾人物身上”。而在更早些的2019年，網絡安全公司“深度追蹤”（Deeptrace）也曾發布過一項調研，結果顯示當時96%的在線深度偽造視頻都是非自願情色內容。“這不是一個小眾問題。”

此次引發關注的Deepfake案件，指向了網絡性犯罪已經到了一個全新的階段。當我們梳理圍繞Deepfake案件的相關討論時會發現，這種看似非身體的暴力之所以引發如此廣泛的擔憂，民眾真正擔心的是一種更廣泛的、充滿敵意的網絡環境滲入真實世界。

人工智能工具可能會導致新一代年輕人產生“我的願望就是人工智能的命令”的心態。“如果我們不小心，不僅會創造新一代的受害者，還會創造新一代的施虐者。”這些討論也再度提示我們，關於性別的偏見——這一世界上最古老的偏見並未遠去，如何實現兩性之間的真正平等仍然任重道遠。而技術一直隱含風險，它是工具卻從來不是答案。

撰文｜申璐

Deepfake案件回溯：

報複性的色情？

從某種程度來說，Deepfake（深度偽造）之於視頻，就像Photoshop之於圖片。兩者都直觀衝擊了真實和虛擬之間的界限。在深度偽造技術流行之前，人們對“廉價偽造”應該都不陌生。後者指的是對現成素材進行處理，且處理方式僅限於減慢或加快視頻中部分段落的播放速度，或者選擇性地剪輯拚貼內容。美國眾議院議長南希·佩羅西（Nancy Pelosi）就曾深受其害。相較而言，深度偽造的變形製作則可以將一張臉與另一張臉互換、或將一張臉上的表情換到另一張臉上，在這個基礎上再結合配音或者聲音克隆等方式，這項技術就能夠實現以極低的成本製作出完全虛構但極其逼真的視頻。早年間國外社交媒體曾流傳過美國總統尼克鬆針對登月災難的演講，即是深度偽造的結果。

在韓國深度偽造性犯罪引發廣泛關注之前，全球多家主流媒體對這項技術的報道大多集中在政治領域。人們擔心它可能會導致虛假信息的傳播、製造社會政治分歧進而極大地破壞民主。這些擔憂都不無道理，但媒體報道視角的篩選機製過濾了這項技術更為實際的影響。

英國《衛報》2018年刊發的關於深度偽造的報道，聚焦政治領域。

據歐洲一家科技谘詢公司Sensity近日發布的報告顯示，目前全網傳播的深度偽造視頻中與政治相關的內容占比不到5%，其中超過95%的內容涉及非自願的色情內容。該報告還發現，部分深度偽造網站的視頻觀看量超過1億次，這類網站的內容主要關於女明星和普通女性的身體。另外一項針對Telegram（通訊軟件）上生成的虛假裸照的調查則發現，超過68萬名女性的照片被從其社交媒體或私人對話中竊取。

在此之前，深度偽造引發集中討論是在今年年初。美國知名歌手泰勒·斯威夫特的深度偽造照片在社交媒體上迅速傳播，在平台方刪除照片前，該照片在全網已有約4700萬次瀏覽。據相關統計顯示，當時全網已有超過9500 個網站“專門製作非自願親密圖像”。在泰勒·斯威夫特成為最受關注的受害者之前，這項技術其實已經顛覆了很多人的生活。

《戀人：泰勒·斯威夫特巴黎演唱會》劇照。

作家勞拉·貝茨（Laura Bates，Men Who Hate Women）在書中透露，曾有男性給她發過相關圖片或視頻，影像中的她看上去好像在進行各種性行為。她說，人們很難理解這種做法的影響，即使人們知道這些都不是真的。“在別人極端厭女的幻想中看到自己超現實的形象，這讓人很震驚。”貝茨曾形容說：“那真的很有辱人格，非常丟臉。它會一直留在你心裏。”貝茨還補充說，那些內容可能會被數百萬人看到。

“這是控製女性的新方式。”貝茨認為，這一行為的目的是讓女性閉嘴。雖然男性也不能幸免於其他形式的人工智能生成圖像的侵害，但深度偽造色情作品絕大多數針對的仍然是女性。一項研究表明，與處於相同情況的女性受害者相比，男性受害者對所發生的事情感到的羞恥感更少，自責感也更少。且男性受害者在報案時表示，警方積極回應的比例高於女性。當女性舉報相關行為時得到的回應也更負麵，目前通行的社會觀念仍然認為女性應該做更多事情來避免虐待，也就是所謂的“受害者指責”。尤其是當泰勒·斯威夫特也遭到深度偽造攻擊時，這似乎在向所有女性釋放一個信息：不管你是誰，不管你有多強大，有多成功，當下所處的這個世界都仍然會找到一種方式來羞辱你。

過去六年間，深度偽造與人工智能專家亨利·阿傑德（Henry Ajder）曾深入觀察過這項技術使用者的特點，以及他們彼此互動的方式。“可以肯定的是，絕大多數人都是男性。我認為很多針對名人的人都是為了性滿足。他們經常會使用非常厭惡女性的語言——這可能是為了性滿足，但同時也伴隨著一些對女性非常可怕的看法。”阿傑德稱，這些圖像和視頻製作主要是作為“報複性色情”手段。“它也被用來針對女性政客，試圖讓她們保持沉默、恐嚇她們。它確實體現了女性已經麵臨的許多挑戰，但提供了一種全新的、非常有力的武器，使女性失去‘人性’並被物化。”

圖片：ic photo.

隨著人工智能技術的不斷發展，問題正在變得更加嚴重。美國有線電視新聞網刊發專題評論指出，這種攻擊並不僅指向公眾人物。試想這樣一個情境，一個被暗戀對象拒絕的男性可能會邀請其他人一起觀看暗戀女孩的深度偽造視頻。這一假設在近日曝出的多起韓國深度偽造性犯罪案件中被反複印證，大多案件涉及熟人作案，“一些受害者甚至就是加害者的母親、姐妹、表親或熟人”。另有韓國媒體發現，某個製作與傳播深度偽造色情內容的Telegram群組有大約22萬名成員，其傳播範圍之廣被認為是第二次“N號房事件”。

喬治華盛頓大學教授瑪麗·安妮·弗蘭克斯博士專門研究民權、科技和言論自由。她在該文章中提醒讀者：這類應用程序和人工智能工具可能會導致新一代年輕人產生“我的願望就是人工智能的命令”的心態。在這些網絡空間中，男性對女性身體的特權感往往完全不受約束。用戶們互相依賴，營造出一種錯覺——即他們是宇宙之王，他們無需聽命於任何人。他們甚至認為製作和傳播被算法武器化的報複性色情內容隻是一種個人愛好。“如果我們不小心，我們不僅會創造新一代的受害者，還會創造新一代的施虐者。”

網絡性犯罪的升級：

當仇恨與欲望並存

早在韓國曝出相關案件前，韓國女性的安全感就長期處於低位。有記者整理韓國檢察廳公布的統計數據，指出2018年韓國性犯罪發生數1370件，但從2022年已突破1萬件；在總體性犯罪型態的排名與比例中，網絡性犯罪也從2018年排行第5位、僅占4.5%，上升到2022年的第2位，占27.2%，僅次於性騷擾。越來越多女性拒絕進入傳統的父權製式家庭，響應歐美流行的#boysober（編者注：直譯為“男孩清醒”，指女性給自己設定期限，不跟男性約會，不跟男性發生性行為，讓自己處於脫離男性性緣關係的環境）熱潮。韓國互聯網上保守化潮流日益明顯，不少男性為“非自願獨身者”（Incel，Involuntary celibate），他們在日常生活中大多與女性沒有太多接觸，但會在虛擬世界匿名發表帶有侮辱性的言論。

深度偽造性犯罪的激增被認為與近些年持續流行的這波“非自願獨身”文化密切相關。該詞的流行還要追溯到2014年，美國一名自稱“非自願獨身者”的22歲青年，在加利福尼亞州拉維斯塔發動惡性事件，最終導致六人死亡，十四人受傷。他在隨後留下的一封長達137頁的宣言中表達了自己從未發生過性行為的憤怒與怨恨。這股情緒成為如今網絡厭女的源頭，部分言論將女性視為應該服從男性的性對象，認為女性低於男性，並隱含對性和女性身體的“驚人權力感”。

盡管近些年引發關注的這些性別案件大都以互聯網為媒介，但總體上並未脫離由來已久的厭女邏輯，甚至在人工智能等技術的加持下，日益顯現出對源頭的複興。愛爾蘭作家傑克·霍蘭（Jack Holland，《厭女簡史》）梳理曆史時發現，這一偏見延續千年難解，主要與女性和男性之間關係的複雜性有關。男性蔑視女性的內核在於男性對女性的恐懼，這種恐懼來源於他們認識到兩性間的差異，且認為這種差異存在潛在威脅。“對男性而言，女性是原初的‘他者’——‘非我’。人們常有一種傾向，將任何被歸類為他者的人變成替罪羊……但與此同時，女性還牽涉一個更複雜的問題——她是一種永不能被排除在外的‘他者’。”

這種相輔相成的二元觀念早在古希臘、羅馬時期就形塑了當時社會對男女關係的焦慮。柏拉圖和亞裏士多德先後讓性別偏見得到哲學和科學上的認可。以柏拉圖為例，他本人的性別觀念邏輯複雜且自相矛盾。柏拉圖一生未婚，他崇尚男人對男人的“純”愛，認為這要高於男人對女人的愛，後者更接近於獸欲。這為基督教的人類墮落神話提供了直接的哲學基礎，在這套推演下，正是因為作為女性的夏娃的幹預，才破壞了男性與上帝之間的和諧關係。其中真正的恐懼在於，他們不得不意識到“人根本不是自主自治的，而是有所依附的”。

當仇恨與欲望以這樣一種形式並存時，它扭曲了後來很多男性對女性的看法。在維多利亞時代，這一偏見曾以一種相當險惡的方式外化。當時流行的觀念將女性奉為“無性”的天使，同時貶黜女性的天性。不少維多利亞時代的男性對幼女十分狂熱，在傑克·霍蘭看來，這其實代表著男人無法與成年女性建立正常的兩性關係，於是這種深刻的性欲分離不可抑製地導向了另一個出口。此後大眾熟知的幾位性別偏見的堅實擁躉，如希特勒、叔本華、尼采等人，幾乎都是與社會疏離且在性關係方麵沒有安全感的男性，他們從未與女性建立成熟且穩固的親密關係，也從未擁有過安穩的家庭生活。

然而，這種根源於古希臘、羅馬的性別偏見近些年卻開始在網絡空間複興。在美國第五大網站Reddit上，最有影響力的男性論壇“紅藥丸”（The Red Pill）吸引了數十萬名男性成員入駐。這些男性將“發現世界對男性事實上何其不公的思想轉變過程”，描述為“吞下《黑客帝國》中通往真相的紅藥丸”。正如多娜·紮克伯格斷言：“在21世紀，關於古代希臘羅馬曆史遺產最有爭議而且最重要的討論，不在文學、戲劇、學術這些傳統領域中發生，而在互聯網上。”這些躲在“男性空間”匿名牌之後的男性，正在以多種方式使用、甚至濫用古典世界的思想資源，從中尋找證據支撐他們的邏輯。

電影《黑客帝國》（1999）劇照。

“柏拉圖是一個時代之子，這一時代依舊與我們同在。”英國哲學家卡爾·波普爾曾如此預言。當年，在饑荒、鎮壓、審查和公民流血事件的社會背景下，柏拉圖曾意欲在感官世界之外尋找一個更“高”的世界。千年之後，那些無法在真實世界與異性建立健康關係的男性，沿著相似的邏輯做出了極端的“選擇”。美國專注流行文化與政治的新聞網站《每日野獸》（The Daily Beast）發布評論稱，在人工智能生成工具流行之前，非自願獨身文化就已經存在，現在它們正在成為主流。“與其說是人們相信這些圖片是真實的，不如說就是純粹的怨恨。”

對此，在網上長大的年輕一代男性或許感觸更深。美國一份由加州大學歐文分校學生創辦的獨立刊物《蟻讀者》（The AntReader）發文認為，這波回潮的真正問題在於，年輕男性並沒有采取措施建立公平的社會——他們陷入了一種帶有偏見的思維方式，這種思維方式會給他們帶來一種社區感。這反過來又為女性創造了一種充滿敵意的網絡環境，最終可能導致（真實的）暴力犯罪。

尾聲：

技術是工具，卻不是答案

導向真實犯罪的可能性是深度偽造性犯罪引發如此大範圍恐慌的原因。維也納大學哲學係博士後凱斯·雷蒙·哈裏斯（Keith Raymond Harris）詳細分析了這類內容如何讓人們產生心理聯想。“當學生對同學進行深度偽造時，這可能會改變他們對對象的看法，並在現實生活中造成進一步的不尊重、騷擾甚至虐待。當這些對特定女性產生的心理聯想，導致對所有女性的聯想時，偏見就會進一步強化。”

女性遭受相關“報複性色情”的後續遭遇也值得關注。在 BBC 一檔名為“她說”（The She Word）節目中， 兩名津巴布韋女性講述了她們成為色情報複受害者的故事——一人被剝奪了家庭關係，因此無法完成學業；另一人則失去了工作。在印度，一名記者曾為一個八歲女孩伸張正義後，遭到了深度偽造色情誹謗。這些報道散見於多個國家。此外，還有不少女性受訪者稱，在成為這些網絡性暴力目標後，她們很難維持或找到工作。

圖片：ic photo.

目前的困境在於，技術發展的速度已經遠遠超過立法的速度。以韓國為例，現有法律對出於傳播目的製作深度偽造內容的人、以及試圖通過傳播這些內容來獲取經濟利益的人都有一定的懲治條例，但目前並沒有相關法律禁止購買、存儲或觀看深度偽造的內容。調查人員需要獲得法院批準才能用秘密身份進入深度偽造聊天室，而且，他們隻是在收到未成年人遭到性虐待的舉報後才能進行這類調查。這個過程也可能很慢。

“你在假期發現了一個聊天室，但等你得到法院批準後，它已經消失了，”韓國國家警察局網絡犯罪高級調查員鹹永玉在接受《紐約時報》采訪時表示。

杜倫大學法學教授、圖像濫用專家克萊爾·麥克格林（Clare McGlynn）這些年也在與同行持續呼籲修改圖像犯罪相關法律，“但我們基本上是在向虛空呐喊”。麥克格林解釋說，這些年，政府方麵一直認為虛假圖片和影像資料的危害不大，沒有真正與受害者交談。立法的邏輯更關注性行為是否真實發生，而不太在意受害者的感受。“這些網絡性犯罪行為沒有被認真對待，人們還是沒有意識到這種傷害可能是深遠且毀滅性的——它不會突然發生，你也許可以試著克服它，繼續生活，但它總有可能重新出現在網上。”

麥克格林還指出，現有法案的設定大都忽略了平台的責任。盡管平台方表示對相關深度偽造內容采取“零容忍”，但在一份深度偽造圖像或視頻被刪除前，已經有數千萬次瀏覽量時，這樣的立場就顯得有些“空洞”。

回到今年初泰勒·斯威夫特的遭遇。當時平台方以“優先考慮安全”為名，短暫屏蔽了全平台關於“Taylor Swift”的搜索結果，暫時讓她“隱形”。這一舉動被認為傳遞了一個危險的信號：“如果當今世上最有影響力的女性之一都必須要在網上消失，才能保證安全，那這對其他人而言意味著什麽？”

當互聯網技術迭代不斷將人類整體帶向一個更加互聯互通的未來時，從“紅藥丸”的出現到深度偽造性犯罪的激增，這似乎在凸顯另一種相悖的趨勢。正如“臉書”創辦人馬克·紮克伯格的妹妹多娜·紮克伯格所看到的另一麵：這可能逐漸加深對女性邊界的侵犯。兩性平等如何終結這一世界上最古老的偏見？顯然技術本身不會自然而然提供答案。