從日本性感議員到9秒騙走132萬,AI造假殺瘋了

文章來源: - 新聞取自各大新聞媒體,新聞內容並不代表本網立場!
(被閱讀 次)



不知道大家是不是和我一樣,碰到朋友發消息說借錢,在願意借的情況下,一般會讓對方發個語音或打個電話,甚至直接視頻確認對方身份,這樣才敢打錢過去。

但現在,這樣的操作很有可能會翻車。

事情是這樣的,今天早上我刷到了一個視頻,一位網友演示他買到的“神奇軟件”,能通過提前選定的視頻,讓對方看到任意的人。

一開始是一位露臉的美女,隨後又換成了穿著露臍裝的姑娘。

如果這兩位是你的好朋友,說的話也是熟悉的聲音,你會不會上當受騙?

9秒騙走132萬

這並不是聳人聽聞,財聯社5月25日消息,安徽安慶一位何先生,9秒被AI換臉騙走132萬。

當時,何先生接到熟人視頻電話,讓他幫忙轉一筆賬,才說了9秒鍾,對方便稱“在開會”迅速掛斷了電話,還稱“微信和電話不能說,加一下QQ”。

如果是微信聊天,那大家心裏肯定犯嘀咕,但在視頻聊天的情況下,何先生也沒想太多,便轉了錢過去:“因為打了視頻電話,又是熟人,我就沒多想,就轉賬了”。



發現被騙之後,何先生迅速報警,專案民警第一時間凍結相關賬戶,連夜趕赴北京市抓獲3名涉詐嫌疑人,追回何先生被騙的132萬元。

無獨有偶,在這件事發生前不久,央視也報道了一起金額高達430萬元的AI換臉詐騙,過程幾乎差不多。

福建福州的郭先生收到好友打來的微信視頻,兩人寒暄幾句後,好友說自己的朋友在外地投標,需要430萬元保證金,且需要公對公賬戶過賬,所以想要借用郭先生公司的賬戶走一下賬。

郭先生見視頻中的麵孔和聲音確實是“好友”,於是放鬆了警惕,僅在10分鍾之內就向對方轉賬430萬元。

但郭先生沒那麽幸運,在福建、包頭兩地警方、銀行的幫助下,其中300多萬元被攔截,目前仍有90多萬還在追查中。



AI詐騙手法

很明顯,郭先生與何先生,都陷入了一場利用AI技術實施的詐騙。

騙子是先盜取了他們好友的微信,並收集了好友大量的圖片、音視頻信息,用以訓練模型,最後通過AI實時渲染出的人物,來和他們微信視頻,騙走錢財。

值得注意的是,騙子不是漫無目的地廣撒網,而是別有用心地鎖定詐騙對象。

他們會分析詐騙對象在網絡平台發布的個人信息,根據所要實施的騙術利用AI技術對人群進行篩選,從而選出目標對象,製定詐騙計策。顯然,郭先生就是被精心挑選出來的詐騙對象。

最恐怖的是,這種操作的門檻並不高。

CCTV記者找到一位提供人臉識別軟件的賣家,人臉動作製作軟件和教程售價僅為1299元。記者嚐試後發現,AI製作出來的人臉,能通過90%的人臉檢測App。

如果你遇上了,能夠分辨出來嗎?

除了AI換臉,AI技術還被用於以下幾種詐騙方式。

第一種是聲音合成,騙子通過騷擾電話錄音等來提取某人聲音,獲取素材後進行聲音合成,從而可以用偽造的聲音騙過對方。

第二種是轉發微信語音,在盜取微信號後,騙子便向其好友“借錢”,為取得對方的信任,他們會轉發之前的語音,進而騙取錢款。盡管微信沒有語音轉發功能,但他們通過提取語音文件或安裝非官方版本(插件),可實現語音轉發。

此外,現在大家接到的騷擾電話、廣告電話、詐騙電話,大多數都不是真人,而是AI了。

去年警察打掉的一個“推薦股票”的犯罪團夥,就是用AI設定好聲音,然後無差別給人打電話。一天就能打數千個電話,這在以前得上百人的團隊才能做到。

絕大多數人一聽肯定就掛掉了,但隻要基數夠大,他們總能找到一些沒有防備的“優質客戶”,隨後通過人工介入一步步誘騙,幾年時間搞了1.8個億。



每次新技術出來,永遠是違法犯罪鑽空子的先用上。

在AI技術越來越強大的今天,AI詐騙已經連年輕人都防不勝防,更別提老人了。趕緊提醒下家裏的長輩,千萬不要踩到這個雷。

AI造假已無處不在

AI技術是一把雙刃劍,用好了,它能顛覆人類的生活。

早在幾年前,便有警方通過AI技術,找回了4名被拐長達10年的兒童,使用的僅僅是TA們一張兒時的照片。



也有公司使用AI技術,實現“一件穿衣”功能,讓大家在網上購物時,也能擁有到試衣的體驗。

而隨著ChatGPT的誕生,AI在已經能在方方麵麵,提高人類的工作和生產效率,或許在未來,人類每月隻用工作一個禮拜。

但同時,它也成為了騙子手中的利器,如今AI造假已無處不在。

AI一鍵脫衣,幾個月前一位廣州的小姐姐就中招了。她隻是在小紅書上,發了張自己坐地鐵出門的普通照片,沒想到卻被人用AI“一鍵脫衣”,並配上虛構的文字造黃謠。

在時間、地點都對得上的情況下,搭配AI強大的算法,這個偽造出的謠言讓不少人信以為真,還在那猜測事情的原因,對當事人造成了極大傷害。



還有用AI換上明星的臉,然後帶貨的。近日,有網友點開直播間,發現正在賣貨的竟是當紅女星,包括楊冪、迪麗熱巴、angelababy等等。

然而定睛一看,這些帶貨“明星”很快露出了馬腳——身穿中式服裝,隻是使用了AI實時換臉技術的普通主播。



前些天,外網還有位性感的日本女議員火了,被網友扒了下發現,也是AI製作出來的,欺騙了一大群宅男的感情。



科技是用來造福人類的,讓世界變得更美好才是科技發展的最終目的,如今的AI技術更應當如此。

加強對它的研究和監管,保護人們的隱私和尊嚴的權益,才能讓數字化的生活變得更加美好、安全。

pcboy888 發表評論於
這是人類利用AI造假,不是AI造假
rainstorm 發表評論於
很多人還嘲笑騙子手段老套千篇一律,其實這才是騙子的高明之處。
迅速濾掉非潛在客戶,直接狙擊最大可能。
人家基數大,一萬個裏一個上當就賺翻了了嗨嗨的來錢。
所以我一般非常文明,不罵他們。亮在那兩天,回一句。
0101011 發表評論於
這些詐騙還算小事,想想有一天某人冒充偉大領袖習主席對台灣宣戰....