華裔妹子 Breeze Liu 今年28歲，2013年從中國移居到美國生活，大學畢業後在矽穀工作，是一名妥妥的高材生。Deepfake Porn Victim Breeze Liu Is Fighting Back with App #Technology #BigData #DigitalTransformation #MachineLearning #AIContent [Video] At 24, Breeze Liu discovered a man used artificial intelligence to make fake porn of her and then the video spread… https://t.co/oKcdkgpdbk
— Emilia Brooks (@EmiBrooksAIMS) May 18, 2024
2020年4 月的一個下午，一位朋友給Breeze打電話，說有人在網上發布了有關她的色X視頻。Breeze的第一反應是這肯定是朋友眼花了啊，自己從來沒有拍過這種視頻，更別提上傳了。
但很快，順著朋友給的鏈接，她在一個點擊量非常高的成人網站上看到了這段經過修改的視頻，其中的女主角就是她的臉，這段視頻在她不知情下錄製，並在經過了deepfake技術後製作成了色X視頻。
Deepfakes（深度偽造），一種AI生成圖像，通常使用真人的麵孔和身份，目前在網上激增。該術語由 Reddit 用戶於 2017 年創造，現已擴展到包括其他數字創作中。最近一項研究發現，98% 的Deepfake 視頻都是色X視頻，其中 99% 的目標是女性。
Breeze 當時大腦一片空白，抑製住了嘔吐的衝動，無比惡心。
“我很痛苦，”她說。“我感到非常羞辱，非常孤獨。”
A New Taipei court has ordered the makers of a series of deepfake pornographic videos to compensate 2 women whose likenesses they used. pic.twitter.com/ZdQ5njwnD9
— TaiwanPlus News (@taiwanplusnews) December 13, 2022
因為太過震驚，剛看完了視頻的她一度走到父母公寓樓的屋頂上，告訴自己她不再有任何活下去的理由。“我滿腦子想的就是，我還不如死了好。”
在發現視頻後的十天裏，她一下子瘦了12 磅，“我試圖過正常的生活，但內心深處，每一秒我都在尖叫，”她說。“我忍不住去想，每個在街上經過我身邊的人都看過這段視頻嗎？”
在冷靜下來後，她先是與一位她懷疑的始作俑者對峙。這個人是Breeze 兩年前從加州大學伯克利分校畢業前認識的一名學生。他當時跟她短暫約會又分手了，因此Breeze 懷疑他想用這種方法“羞辱她”。
後者承認了自己的惡劣舉動，並從那個成人網站上刪除了這段視頻，但隨後很快，他又在數百個其他網站上分享了類似的視頻。
她決定報警。
她撥通了加州伯克利警方的電話，並上報了製作該視頻的人的名字。
但令她震驚的是， 警方第一時間詢問她是否曾經賣淫或用裸體視頻換取金錢。在她報警後三個月，警方結束了調查，他們告訴她，他們無能為力。
此後，Breeze 最終發現了 800 多個包含她的深度偽造內容的鏈接，但聯係一個網站一個網站的刪除，費時費力不說，有時網站還會互相踢皮球，其中一些網站沒有做出任何回應，還有一些直接拒絕刪除，有一個甚至回複她：“這隻是一個愚蠢的男孩犯了一個小錯誤。”
警方不作為，網站不作為，但Breeze不打算就這麽算了。她知道，除了她，一定還有不少受害者被這種事情傷害，她希望能做點兒什麽讓這樣的噩夢不再發生。
“除非我改變整個係統，否則獲得正義對我來說是不可能的。”
Breeze一直在矽穀工作，她對這種技術非常熟悉。她開始了她的反擊。
2022年，Breeze 辭去了科技風險投資家的工作，用自己的積蓄創辦了位於舊金山的公司 Alecto AI，該公司采用麵部識別技術進行反向圖像搜索，幫助用戶根據自己的肖像定位深度造假視頻和其他內容，然後與主要平台合作將其刪除。
官網上Breeze勇敢分享了自己的遭遇
當 Alecto 發現未經授權的內容匹配時，它會與經過驗證的用戶和平台合作刪除該內容。該公司目前正處於試點階段的早期階段，因此隻能訪問有限的數據集。
“我無法控製國會或執法部門的行為，”Breeze 說。“但我們都應該能夠控製的一件事，就是我們自己的在線圖像的主控權。我正在建立的是第一道防線，讓受害者重新獲得力量。”
Breeze 介紹，有些做deepfake的公司通過廣告和訂閱來賺錢，然後還有另一類，那就是搜索引擎，比如穀歌和Bing。它們將流量引導到這些網站和這些應用程序上，它們通過接受來自那些deepfake公司的廣告來賺錢。因此，穀歌在很大程度上是這個肮髒的生態係統的一部分，受害者幾乎沒有追索權。
Breeze 聯係了穀歌和Bing。
穀歌承認還有改進的空間，但該公司的任何相關人員都不願意與她正式談論此事。穀歌確實給了她一份聲明，說，“我們理解這些內容可能會多麽令人痛苦，我們致力於在現有的保護措施基礎上為受影響的人提供幫助，”Bing 的發言人也說了類似的話，但實質性的做出了什麽舉動，未可知。
Breeze 表示，穀歌確實知道如何在需要時做正確的事情。如果你問穀歌，我該如何自殺？然後它不會給你一步一步的指示。相反，它會引導你撥打自殺幫助熱線。因此，穀歌可以在願意的時候承擔社會責任。
“但在這種情況下，它似乎對那些不遺餘力羞辱婦女和女孩並從中賺錢的公司完全漠不關心。令人驚訝的是，這是一種未經同意的性騷擾和侵犯，而且並不明顯違法。”
問題就在這兒了，技術的進步比法律快得多。
目前，美國還沒有針對深度偽造色X內容的製作和傳播的法律，而借助日益先進且易於使用的人工智能工具，深度偽造色X內容可以在幾分鍾內創建出來。
受害者可以通過民事賠償途徑起訴穀歌或deepfake的公司，但《通信規範法》第 230 條又保護科技公司免受這些民事訴訟，或者說它似乎保護了這些公司。
Breeze 認為，最好的補救辦法並不是刑法，而是修改第230條，以便公司可以被起訴，這樣公司就必須自我監管。
去年，當拜登總統簽署有關人工智能的行政命令時，Breeze 也受到了邀請。
像穀歌這樣的科技公司願意支持deepfake公司，這些公司的整個商業模式就是製作虛假的色X視頻，如果穀歌不向它們引導流量並讓它們盈利，這些公司就不會真正存在。
目前，Breeze 的項目正在等待另一輪融資。
“我花了很多時間想要蜷縮起來並躲起來，”她說道，“但現在不再是了。”
今年開始，越來越多的美國主流媒體開始報道Breeze 的故事，她的事跡逐漸傳播開來，也得到了很多網友的支持。
《New York Times》：
《人物雜誌》：
Breeze 說，“這不僅關乎我，這關乎每個人的未來。”
“我的目標是確保沒有孩子會經曆我所經曆的事情。不要讓我的昨天成為他們的明天。”
正因為曾經身處黑暗，所以努力成為了一道光，救贖自己也照亮別人。
給妹子點讚。