美國:騙子疑用AI複製人聲 “女兒”致電母哭訴被綁架

美國:騙子疑用AI複製人聲 “女兒”致電母哭訴被綁架
0:00
0:00
文章來源: - 新聞取自各大新聞媒體,新聞內容並不代表本網立場!
(被閱讀 次)



美媒4月29日稱,美國亞利桑那州(Arizona)一名母親1月20日收到一個電話,電話的另一邊傳來女兒求救的聲音,接著有人聲稱已綁架她的女兒。她後來發現這是騙案,騙徒可能是用廉價的人工智能(AI)軟件服務複製女兒的聲音後再致電她。

報道指, 德史蒂法諾(Jennifer DeStefano)1月20日收到一個電話,接聽後另一邊傳來15歲女兒布裏安娜(Brianna)尖叫和啜泣的聲音。那把聲音大喊:“媽媽!我遇到麻煩了!”

其後一把男聲說:“聽著。我與你的女兒在一起。若你打電話給警察,若你打電話給任何人,我會喂她吃毒品。我會隨心所欲地對待她,然後把她送到墨西哥,你就再也見不到她。”綁匪要求她支付100萬美元(約780萬港元)贖金。

德史蒂法諾聽後非常慌張,因為電話中的女聲和語調聽起來就是女兒的聲音,而且女兒正為滑雪比賽進行練習,她認為女兒有可能真的在山上遇上綁匪。

她於是報警求助,又嚐試聯絡女兒。女兒布裏安娜其後疑惑地致電母親,表示自己一切安好,德史蒂法諾此時才知道自己遇上騙案。德史蒂法諾相信,騙徒可能是用科技複製女兒的聲音,再製作對話內容並致電她。

加州大學伯克利分校(University of California, Berkeley)電腦科學教授法裏德(Hany Farid)表示,在AI軟件的協助下,民眾隻需付低至每月5美元(約39港元)的費用,就能複製人聲,這令很多人都能使用這項服務。騙徒可能會利用這些廉價AI服務來複製人聲並騙取金錢。

美國聯邦調查局(FBI)鳳凰城(Phoenix)辦公室負責人梅奧(Dan Mayo)表示,當民眾收到有關親友被綁架的電話時,應盡量先冷靜下來,且在通話中可以多發問,她指,民眾對“被綁架親友”的了解一定比“綁匪”深,因此民眾應問“綁匪”關於“被綁架親友”沒公開透露過的資料,然後就能發現這是騙案。

0101011 發表評論於
詐騙集團掌握deepfake技術是遲早的事,不要在網上曬照片視頻。
相信事實 發表評論於
變聲器早就有了,還用不著什麽AI 。