這也可以？AI馬斯克，1分鍾騙走幾十萬

試想一下，當一位頂級企業家向你拋出橄欖枝，“親口”告訴你現在有一種無風險的方式快速致富，隻要填個表就能賺100萬美元，你會怎麽做？

如果這個人是馬斯克，並且還有BBC為其背書，告訴你這是“一場不為公眾所知的技術革命”呢？

警惕性較高的人可能會立刻嗅到電信詐騙的氣息，但對於不常接觸互聯網的人群，要識別出這樣的偽造視頻並不容易。

智東西8月16日消息，據《紐約時報》報道，去年年底，82歲的退休人員Beauchamp看到馬斯克宣傳一項激進的投資機會，並承諾無風險、快速回報。他聯係了視頻中的公司，在隨後幾周的一係列交易中花光了退休金，累計“投資”超過69萬美元。

接下來的事情可想而知，退休金和這家公司一起消失了。

隨著名為Deepfake（深度偽造）的AI技術愈發成熟，類似的視頻充斥在互聯網上。據知名谘詢機構德勤估算，深度偽造視頻每年將造成數百億美元的詐騙損失。

監測深度偽造視頻的機構Sensity近日做了一項調查，通過分析2000多段深度偽造視頻，發現馬斯克已經成為這類視頻中最常見的“發言人”。自去年年底以來，馬斯克出現在近1/4的深度偽造詐騙視頻中，其中針對加密貨幣的視頻他的出現率更是達到90%。

其他常見的偽造對象，還有著名的投資人巴菲特、亞馬遜創始人貝索斯等。

一、每年詐騙上百億美元，馬斯克出現率1/4

為了製造這些視頻，詐騙者首先會找到馬斯克等人的真實采訪視頻。比如開篇視頻的畫麵原本來自馬斯克在《華爾街日報》接受的一次采訪，談論的話題是如何利用AI等技術實現公司的高效管理。

詐騙者會利用唇形同步技術（Lip-synching），調整人物的口型，隨後使用語音克隆工具添加一個AI複製的語音。

▲唇形同步（圖源：《紐約時報》）

最後，部分視頻還會添加模仿BBC等專業新聞機構的虛假圖標，這對於普通互聯網用戶來說也許更有說服力。

▲新聞標識（圖源：《紐約時報》）

究竟有多少這樣的深度偽造視頻正在網絡上流傳，已經很難準確量化。在Facebook的廣告庫中搜索這些騙局的常用宣傳文案，會出現數十萬條廣告，其中有不少都是深度偽造視頻。

YouTube也充斥著這類視頻。如果在YouTube上搜索“埃隆比特幣會議”（Elon Bitcoin conference），你會得到數十個標注著現場直播的視頻，但實際上這些都是預先錄製的深度偽造視頻。

▲YouTube深度偽造視頻（圖源：YouTube）

這些“直播”的觀看人數動輒數十萬，但據YouTube證實，詐騙者可以使用“水軍”刷人數，人為地誇大這個數字。

今年5月，知名谘詢機構德勤發布關於生成式AI增加深度偽造欺詐風險的報告，其中提到2023年，金融科技領域的深度偽造事件增加了700%，並預測到2027年，AI將使美國的欺詐損失從2023年的123億美元增加到400億美元，複合年均增長率為32%。

▲生成式AI造成的欺詐損失增長預測（圖源：德勤）

深度偽造視頻的數量和影響力越來越大。據監測深度偽造視頻的機構Sensity調查，在2000多段深度偽造視頻中，馬斯克已經成為最常見的“發言人”，出現在近1/4的深度偽造詐騙視頻中，其中針對加密貨幣的視頻他的出現率更是達到90%。

Sensity聯合創始人Francesco Cavalli認為，這可能是有史以來最大的深度偽造騙局。

二、成本不超10美元，幾分鍾偽造大量視頻

實際上，製作這類視頻的成本並不高，隻需要不到10美元，就能在幾分鍾時間內製作出大量偽造視頻。

這些AI生成的視頻並不完美。馬斯克在一些視頻中聽起來像機器人，他的口型也並不總是保持一致。但這些視頻已經能騙過相當多的人，而且技術還一直在不斷改進。

Sensity調查顯示，這類詐騙者主要來自亞洲、東歐國家，使用免費和廉價的工具將視頻翻譯成多種語言，不斷將騙局傳播到更大範圍。

其中一種常見的套路是宣傳虛假的AI軟件。詐騙者通過讓“發言人”聲稱這些軟件可以產生驚人的投資回報，鼓勵目標首先交一小筆錢——一般是250美元左右，然後通過聲稱初始投資的價值正在增加等方式，慢慢引誘他們投資更多。

例如在段來自特斯拉股東大會的視頻中，馬斯克“展示”了一款由AI驅動的自動交易產品，該產品每天可以使特定投資翻倍，“隻需投資4500蘭特，您就能獲得每天8000蘭特的穩定利潤”。（注：蘭特是南非的貨幣單位）

這些AI詐騙者通常瞄準年齡較大的互聯網用戶，他們可能熟悉加密貨幣、AI等話題，以及馬斯克、巴菲特這些人，但不熟悉安全的投資方式。

“老年人是一個非常有錢且容易上當的群體。”加州大學戴維斯分校科技研究教授、加密貨幣市場專家Finn Brunton說，“即使沒有社交媒體平台，老年人也一直是詐騙的目標。”

而之所以瞄準馬斯克，則是因為馬斯克擁有獨特的全球“粉絲”群體。研究加密貨幣社區的專家稱，這些人通常由保守派、反建製派和加密貨幣愛好者組成，他們經常被新奇的賺錢途徑所吸引——這使他們成為騙局的完美目標。

加密貨幣社區研究員Molly White稱，這群人總是認為，財富的秘密對他們是隱藏的，而一旦他們“發現”了這一秘密，他們就會認為這是其所需的一切。

開頭提到的退休人員Beauchamp，在75歲之前是一家加拿大公司的銷售代表。他在去年剛開始使用Facebook，隨後看到了一則馬斯克在CNN上接受采訪的廣告。

雖然他堅稱自己在CNN官方上也看過這段視頻，但據CNN發言人稱，馬斯克已經很多年沒接受過他們的采訪了。

根據Beauchamp先生與視頻中提到的公司之間的電子郵件來往記錄，去年12月，他向這家名為Magna-FX的公司匯款27216美元。

Magna-FX讓他的投資看起來似乎在增值，甚至讓一名銷售代理使用軟件遠程控製了Beauchamp的電腦，假裝轉移資金用來投資。

為了提取增值的資金，Beauchamp被告知要支付3500美元的管理費和3500美元傭金。他把錢匯出去後，又被告知還需要支付2萬美元，才能提取其中大約20萬美元。他再次支付了這筆錢。

最後，Beauchamp用完了退休儲蓄，刷爆了信用卡，動用了信用額度，還從姐姐那裏借錢來投資和支付費用。但騙子仍一再要求他支付更多筆費用。Beauchamp這才聯係了警方。

遺憾的是，這個案件尚未取得任何進展。

三、平台監管麵臨挑戰，刪視頻治標不治本

虛假廣告之所以盛行，和平台的監管疏忽也脫不開關係。

一些被偽造視頻的人拿起了法律武器。澳大利亞億萬富翁Andrew Forrest對Facebook的母公司Meta提起民事訴訟，指控其在廣告業務運營方麵存在疏忽。他的深度偽造視頻被用在了Facebook廣告投放中，他認為這將引誘“無辜用戶進行不良投資”。

Meta回應道，公司正在訓練自動檢測係統，以捕捉其平台上的欺詐行為，但同時也稱這是一場“貓捉老鼠”的遊戲，詐騙者會不斷改變策略以逃避檢測。

YouTube也在采取一些措施來對應深度偽造視頻。今年3月，YouTube更新了政策，要求創作者披露他們是否使用了AI進行創作，並禁止欺詐和篡改視頻。

YouTube在一份聲明中提到，今年1-3月期間，公司刪除了超過1570萬個頻道和超過820萬個違反內容政策的視頻。但隻是刪除視頻仍是治標不治本的行為，平台需要重新審視自己的審核製度，從根源處解決問題。

結語：深度偽造視頻汙染互聯網

數字詐騙的曆史，就像互聯網一樣悠久。但隨著AI技術越來越成熟、AI工具的使用成本越來越低，利用該技術進行詐騙的時間和金錢成本也大幅壓縮。以馬斯克等名人為主角的新一波深度偽造視頻正在汙染互聯網。

隨著技術的不斷發展，深度偽造技術或許會變得更加難以分辨，這對平台、監管機構、法律都提出新的要求。