泥土的氣息
泥土也有生命氣息
Source:
4. https://www.creativebloq.com/features/deepfake-examples
2024年7月15日，馬來西亞通訊部長法米·法茲爾呼籲公眾警惕涉及利用人工智能（AI）技術製作假視頻和圖像或深偽的詐騙手段。他在通訊部的月度集會上表示，盡管AI的使用確實有助於國家的發展，但有些人正在濫用這項技術。
“拿督斯裏茜蒂·努哈麗莎幾天前在Instagram上的一個帖子中展示了一個WhatsApp視頻通話，看起來像是她在講話，其實是一個實時的深偽。
“AI可以用於善也可以用於惡。我們需要對收到的信息保持謹慎，確保任何收到的視頻是真實的還是通過AI應用程序生成的，”他說。
因此，法米還呼籲馬來西亞國家新聞社（Bernama）和馬來西亞廣播電視台（RTM）宣傳並教育公眾了解使用AI深偽技術進行詐騙的危險。
據報道，昨日（2024年7月14日)，馬來西亞的頭號歌手揭露了詐騙者利用AI技術模仿她的聲音和麵貌以牟利的最新手法。
與此同時，AI深偽詐騙也在全球範圍內蔓延，導致公司和個人蒙受巨額損失。據報道，三名加拿大男子在觀看了聲稱有知名人士支持的加密貨幣投資計劃視頻後損失了數十萬美元。
根據CTV News Toronto的報道，Mohammad Haque在社交媒體上看到了一段視頻，視頻中展示了總理賈斯廷·特魯多解釋加拿大人如何通過投資加密貨幣獲利。Haque決定從1,200加元（880美元）開始投資，但當他認為自己通過投資積累了424,775美元時，他發現自己的賬戶實際上是空的。他觀看的視頻原來是通過人工智能（AI）操控的深偽視頻。Haque在這場騙局中損失了226,000加元（165,610美元）。
Darrell Budnick也被類似的深偽視頻詐騙，損失了130,000加元（95,262美元）。他以為自己在投資中獲得了利潤，但後來發現無法提取資金。“現在我很慌張。我有心髒病，情況越來越糟。很痛苦，也很可怕。我以為自己是安全的，但現在我卻不再安全。”
Giovanni Pugliano在觀看了YouTube上的一段視頻後也上當受騙，該視頻中展示了埃隆·馬斯克說人們隻需幾百美元就可以開始投資加密貨幣並致富。該視頻是一個騙局，Pugliano損失了17,000加元（12,457美元）。“我最終投入了比預期更多的錢，突然間，我破產了。”
據加拿大反欺詐中心稱，2024年上半年，全國投資者因欺詐性投資騙局損失了1.48億加元（108.45百萬美元）。其中大多數騙局涉及加密貨幣。
此外，深偽技術也被用來欺騙公司員工，導致公司蒙受巨大財務損失。今年早些時候，一位香港金融工作人員被深偽技術欺騙，向騙子轉賬了2500萬美元。騙子通過視頻通話偽裝成他的首席財務官並下達了轉賬指令。這一案件是網絡安全專家警告的隨著生成式AI技術發展而增長的趨勢的一部分。專家表示，由於網絡安全領域難以跟上迅速發展的技術，問題預計會惡化，但公司現在可以采取更好的措施來應對。
在今年已知的最大案件之一中，一名香港金融工作人員被深偽技術欺騙，向騙子轉賬了超過2500萬美元，騙子在視頻通話中偽裝成同事，官方在二月份告訴當地媒體。上周，英國工程公司Arup向CNBC確認它是該案件涉及的公司，但由於調查仍在進行中，無法詳細說明此事。
此類威脅隨著Open AI的Chat GPT——於2022年推出——的普及而增長，該技術迅速將生成式AI推向主流，Netskope亞太區首席信息官兼首席安全官David Fairman表示。Fairman說：“這些服務的公眾可訪問性降低了網絡犯罪分子的入門門檻——他們不再需要具備特殊的技術技能。”他補充說，隨著AI技術的不斷發展，詐騙的數量和複雜性也在增加。
Arup的一位發言人告訴CNBC：“像全球許多其他企業一樣，我們的運營受到定期攻擊，包括發票欺詐、網絡釣魚騙局、WhatsApp語音欺騙和深偽。”據報道，該金融工作人員參加了與被認為是公司首席財務官和其他工作人員的視頻通話，後者要求他進行資金轉賬。然而，實際上會議中其餘的與會者都是數字重建的深偽。Arup確認在此次事件中使用了“假聲音和圖像”，並補充說“這些攻擊的數量和複雜性在最近幾個月內急劇上升。”
中國官方媒體報道，今年山西省也發生了一起類似案件，一名女性財務員工在與偽裝成其老板的深偽視頻通話後，被騙向騙子賬戶轉賬了186萬元人民幣（26.2萬美元）。
據報道，2019年，一家英國能源供應商的首席執行官據報道向一名騙子轉賬了22萬歐元（23.8萬美元），騙子在電話中模仿了其母公司負責人並要求向一個所謂的供應商轉賬。
去年八月，穀歌旗下的網絡安全公司Mandiant的研究人員記錄了多起不法分子使用AI和深偽技術進行網絡釣魚騙局、虛假信息傳播和其他非法活動的案例。當時，該公司表示，盡管技術在此類活動中的使用有限，但新生成式AI工具的日益普及將加速其被惡意行為者的應用。
Great Hill Partners的網絡安全專家兼駐公司高管Jason Hogg表示，高層管理人員的深偽可以用來傳播假新聞以操縱股價、詆毀公司品牌和銷售，傳播其他有害虛假信息。Hogg曾擔任FBI特工，他說：“這隻是表麵上的問題。”他指出，生成式AI可以基於社交媒體和其他媒體平台上公開可用的內容創建深偽。2022年，幣安首席通信官Patrick Hillmann在博客文章中稱，騙子根據他之前的新聞采訪和電視露麵製作了他的深偽，並用其騙取客戶和聯係人參加會議。
Netskope的Fairman表示，這種風險已經導致一些高管開始刪除或限製他們的在線存在，因為擔心這會被網絡犯罪分子利用。
深偽技術在企業界外已經變得非常普遍。從假色情圖片到推廣炊具的偽造視頻，泰勒·斯威夫特等名人也成為深偽技術的受害者。政治家的深偽也屢見不鮮。
與此同時，一些騙子利用個人家人和朋友的深偽嚐試騙取他們的錢財。Hogg表示，由於網絡犯罪預防需要深思熟慮的分析以開發係統、實踐和控製來防禦新技術，廣泛的問題將在一段時間內加速並變得更糟。然而，網絡安全專家告訴CNBC，公司可以通過改善員工教育、進行網絡安全測試和為所有交易要求代碼詞和多層批準來加強對AI威脅的防禦——這是可以防止Arup案件的方法。
附上一些deepfake video
打架的兩個老頭
