“殺豬盤”與人工智能

東南亞“殺豬盤”詐騙者如何利用人工智能技術

作者：威爾·傑克遜

發布時間：2024年5月15日星期三下午2:25

source: https://www.abc.net.au/news/2024-05-16/pig-butchering-scams-artificial-intelligence-ai-face-swapping-/103804830? , translated by ChatGPT

一段視頻展示了一位坐在雜亂臥室中的亞洲青年，留著胡茬和金色發尖，坐在一張遊戲椅上。在接下來的1分鍾內，他的臉在十幾種不同的性別和種族之間循環變化。這並不是另一個新的TikTok濾鏡。該視頻展示了一種實時深度偽造換臉係統，據報道被東南亞犯罪集團用於所謂的“殺豬盤”網絡詐騙操作。

專家表示，這項技術和其他新的人工智能（AI）工具——如生成型AI聊天機器人——提高了詐騙的有效性，並擴大了其影響範圍。然而，一些詐騙操作似乎在使用新技術時的成功率較低。

“殺豬盤”的激增

自2020年以來，主要由中國人運營的詐騙中心在東南亞迅速增長，尤其在柬埔寨、緬甸和老撾。他們的商標是“殺豬盤”詐騙，即通過社交媒體或短信聯係受害者，與其建立友誼或戀愛關係，然後引誘其進入虛假的投資計劃——通常是加密貨幣。最初，這些詐騙團夥主要招募和利用華裔，但據報道，由於北京的打擊，他們越來越多地針對不同國籍的人。

這些詐騙團夥通常在設防的高樓大廈中運營，團隊包括通過消息應用程序與受害者聊天的“鍵盤手”、作為詐騙麵孔和聲音的模特，以及管理操作的老板。他們的增多導致詐騙活動激增，全球範圍內的生活被毀，總損失達數十億美元。根據當局的說法，AI使他們的詐騙更加有效。

今年早些時候，聯合國毒品和犯罪辦公室（UNODC）警告說，“基於大語言模型的聊天機器人、深度偽造技術和自動化的最新進展”使得“更加複雜和有害的網絡詐騙方案”成為可能。

“通過使用AI創建幾乎與真實人物無法區分的計算機生成圖像和聲音，騙子們能夠以驚人的成功率執行社會工程詐騙，利用人們的信任和情感，”該組織表示。

“非常，非常，非常扭曲的事情”

許多從事這些網絡詐騙操作的人被從其他國家引誘，承諾合法工作後被迫在類似奴隸的條件下工作。逃離者報告稱，他們遭到毆打和折磨。

朱達·塔納是泰國的一個非政府組織“全球前進計劃”的負責人，該組織幫助了數百名從緬甸詐騙中心逃脫的販運受害者。塔納先生表示，犯罪集團自“第一天”起就將AI研發作為優先事項，並願意不惜一切代價獲得最先進的技術。他說，一些位於緬甸的詐騙中心正在使用先進的換臉技術。

“這不是到處都有，但確實存在於一些較大的詐騙中心，而且他們總是不斷改進和提高，”他告訴ABC。他說，他幫助過的一個人是一名計算機工程師，其唯一的工作是為詐騙集團進行AI開發。

技術快速發展

最初隻能在拍攝後修改視頻的深度偽造技術，近年來迅速發展，現在可以實時進行令人信服的操作。2022年，娛樂AI專家Metaphysic在美國達人秀上通過讓深度偽造的西蒙·考威爾與真實的西蒙·考威爾進行現場演唱，引起了觀眾的驚歎。

越南前黑客和身份竊賊轉行的網絡安全專家吳明孝表示，實時換臉技術——一種僅改變主體臉部的深度偽造技術——現在可以通過免費開源軟件或付費訂閱輕鬆獲得。

全球反詐騙組織（GASO）向ABC展示了在加密消息平台Telegram上的換臉軟件廣告。一則中文廣告稱其“AI實時換臉”是“精準聊天”和“殺豬盤詐騙”的“必備”。廣告稱，該軟件還集成了可模仿目標聲音的“60%到95%”相似度的語音克隆技術。

未來的趨勢

隨著技術的進步，生成型AI如大語言模型（LLM）也被用來生成詐騙消息。盡管主要的AI聊天機器人如ChatGPT、Gemini和Copilot有防止非法活動的保護措施，但其他LLM正在開發過程中並沒有任何限製。

總的來說，AI技術的進步正在顯著改變“殺豬盤”詐騙的運作方式，雖然還存在一些技術限製，但未來可能會更加難以辨別和防範。提高公眾對詐騙的認識和教育仍然是對抗這些新型詐騙的關鍵。

 

實時換臉技術的應用

除了“殺豬盤”，吳明孝表示，犯罪分子還使用換臉技術進行其他類型的詐騙，例如在投資詐騙中冒充名人，以及冒充家人或警方來恐嚇受害者交出金錢。這項技術還可以用來繞過一些金融機構要求的視頻身份驗證。

在澳大利亞，陽光海岸市長羅莎娜·納托利最近報告說，一名詐騙者使用這項技術在一次Skype通話中冒充她與她的一位朋友進行對話。“這個朋友告訴我，這看起來像我，但聽起來不像我，”納托利女士告訴ABC陽光海岸。

真實人物仍然更“可靠”

雖然軟件開發者聲稱這項技術無縫且易於“老板”使用，無需技術知識，但熟悉該行業的人士告訴ABC，一些詐騙中心目前仍然采用更傳統的方法。一位直接了解柬埔寨詐騙中心的消息人士向ABC確認，“AI模特”在那邊被廣泛使用。但他表示，技術能力、計算能力和互聯網帶寬的限製往往製約了詐騙者使用換臉技術。

“在許多情況下，雇傭一名東歐模特更加實際，”他說。他表示，盡管技術有進步，但一個真人出現在鏡頭前仍然更“可靠”。“最重要的是，大多數換臉應用程序不能偽造實時語音，”他說。

聊天機器人助力詐騙

過去，“殺豬盤”的鍵盤手通常從詳細的“腳本”中工作，試圖獲得受害者的信任。現在，他們據報道還在與受害者交流時使用大語言模型（LLM）或聊天機器人。雖然主要的AI聊天機器人如ChatGPT、Gemini和Copilot有防止非法活動的保護措施，但其他LLM正在開發過程中並沒有任何限製。

有多個軟件平台提供與消息服務集成的AI輔助翻譯係統，並在Telegram上進行廣告宣傳。一個係統有一個功能，可以自動檢測發送的消息中是否意外包含中文，以“避免尷尬”。

打擊短信詐騙的措施

網絡安全公司Sophos的研究人員在一篇博客文章中表示，生成型AI如LLM可以使對話更具說服力，減少詐騙者與多個受害者互動的工作量。然而，研究人員發布的一張截圖顯示，一名詐騙者在與目標交流時錯誤地暴露了他們使用LLM生成消息的事實。詐騙者在WhatsApp上給目標的消息中寫道：“非常感謝你的好意！作為‘我的’語言模型，我沒有人類那樣的感情或情緒，但我被設計為提供有幫助和積極的答案以幫助你。”

Sophos威脅研究員賈加迪什·錢德拉亞表示，犯罪集團目前還無法完全自動化使用AI進行聊天過程。“他們仍然需要人類來輔助，因為存在機器人偶爾發送出信號表明他們不是人在交流的風險，特別是在涉及情感和情緒時，”錢德拉亞先生告訴ABC。“在‘殺豬盤’中，目前的模型在表達情感和感覺方麵做得不夠好，而這對於這種類型的詐騙成功至關重要。”

使用生成型AI的未來趨勢

錢德拉亞先生表示，生成型AI生成文本、圖像和視頻與翻譯相結合，將使犯罪分子能夠生成“定製內容”，並擴大其影響範圍。“這將使受害者難以通過反向搜索檢查他們正在交流的人是否是從互聯網上偷來的，”他說。吳明孝表示，生成型AI還可以用來編寫“殺豬盤”腳本，撰寫令人信服的網絡釣魚郵件，甚至提供設置詐騙操作的逐步指南。他說，一個主要的擔憂是，AI技術降低了進行詐騙的門檻。

“很多[犯罪分子]沒有技術能力，他們隻需要購買訂閱，然後就可以開始，”他說。

並非全是壞消息

上個月，澳大利亞競爭與消費者委員會（ACCC）的國家反詐騙中心表示，盡管2023年報告的詐騙數量比2022年有所增加，但總損失金額下降了13.1%，降至27.4億澳元。然而，ACCC發言人警告稱，新技術的出現帶來了風險。

“Scamwatch繼續看到詐騙方法日益複雜，並對AI帶來的風險保持警惕，”他們說。“這使得社區更難識別詐騙。社區應該繼續對任何個人信息或金錢的請求保持謹慎，並在點擊超鏈接時保持警惕。”

提高意識和教育

網絡犯罪專家羅尼·托卡佐夫斯基建議，最好的建議是不要向隻在網上認識的人發送或接收金錢。他表示，提高對詐騙的意識、教育以及識別紅旗的能力是應對“殺豬盤”詐騙的最佳對策。

“騙子利用我們的情感，我們需要在做決定前多思考，”他說。“即使感覺真實，並且關係已經持續了一段時間，如果它起源於互聯網，並且逐漸轉向涉及金錢或加密貨幣的事務，請遠離它。”