隻要5美元 你的聲音就會被AI偷走 更可怕的在後麵…

文章來源: - 新聞取自各大新聞媒體,新聞內容並不代表本網立場!
(被閱讀 次)

人工智能技術的發展給騙子帶來新的詐騙花招,AI語言克隆便是其中之一,在這種詐騙中,騙子通常會用AI克隆你的家人或親友的聲音,向你發出求助,讓你信以為真,當你把錢匯出去時,才恍然發現原來是騙局。

根據CBS2NY報道,美國聯邦貿易委員會的數據顯示,過去四年,涉及商業冒名頂替者的詐騙不斷增加。去年,損失超過 7.52億美元。

CBS2NY進行了調查,發現克隆某人的聲音非常容易。



AI語音技術是一把雙刃劍,它可以幫助失去聲音的人發聲,也會被利用來行騙。圖為一名失去聲音的女孩輸入文字,AI用她的聲音說出。(美聯社圖)

由人工智能支持的網站允許任何人克隆親人的聲音,步驟簡單快捷。用 Google搜索,很快就可以找到一個人工智能網站,僅需支付五美元,就可以使用其語音克隆服務。

接下來隻需要某人一段 30秒的音頻片段,然後輸入你想說的話,AI便能克隆出這個人的語音。整個過程隻需二到四分鍾。

騙子可以從發布到社交媒體的視頻,或從語音郵件中提取你的聲音,或者他們可以給你打電話並錄音,讓你防不勝防。

AI語音克隆是如此逼真,甚至連經驗豐富的人也可能受騙上當。

據CBS2NY報道,加裏·希爾霍恩 (Gary Schildhorn)是一位律師,他本人也差點成為聲音克隆騙局的受害者。

某天他接到兒子的來電,說“爸爸,我遇到麻煩了,我出了事故。我想我鼻子骨折了。我撞到了一名孕婦。他們逮捕了我,我進了監獄。快幫幫我”

希爾霍恩說,他真的以為就是兒子,因為那就是他的聲音。“我知道那是我的兒子。我心裏毫無疑問。”

他趕緊開車去銀行提取 9000美元現金,同時向兒子的妻子通報了最新情況。然後他接到兒子通過 FaceTime打來的電話。兒子說,“爸爸,我很好。你被騙了。”

由於他沒有損失金錢,所以沒有法律追索權。

希爾霍恩聯係了執法部門,但被告知犯罪分子無法追蹤,因為騙子使用一次性手機來獲取加密貨幣。

AI騙局這麽厲害,怎麽防範呢?

國會眾議員伊維特·克拉克(Yvette D.Clarke)代表紐約第九選區,也是美國眾議院人工智能工作組的成員。她提出了一項立法,要求公司對人工智能生成的內容添加數字水印。

如果該法案通過,消費者將被警告他們正在聽假的語音,如果他們受到假語音內容的傷害,他們可以提起訴訟。

克拉克說:“對於普通人來說,辨別人工智能生成的內容和真實的內容將非常困難……采取防範措施的時間很緊迫。”

一家AI合成音頻的初創公司對製定法規表示支持:“非常支持引入監管,這將有助於確定數字內容的起源,包括水印。”

執法部門建議民眾,您應該創建一個密碼並與家人分享。在緊急情況下,代碼將幫助您驗證電話上的人是真還是假。

執法人員還表示,如果有人向你索要金錢或敏感信息,請暫停。

皇後區檢察官凱茲說:“尊重你的感覺,相信你的直覺,相信你的判斷並仔細檢查。”



看完騙子的手段隻想說,人類科技發展越來越迅猛,但彼此之間也越來越安全,如今我們已經回到了“家人分享秘密”的時代,以後還有什麽可以相信呢!