Facebook周五表示,該平台移除了與大紀元媒體集團(Epoch Media Group)有關的數百個帳號。該集團是與法輪功有關的保守派媒體《大紀元時報》(The Epoch Times)的母公司。
這些帳號(包括專頁、群組和Instagram流)借助人工智能生成偽造的個人資料照片,給研究人員帶來了新的挑戰。計算機科學家一直以來擔心,人工智能可能被用於發起大規模的虛假信息活動。現在他們表示,這一技術已在Facebook平台被加以利用,這種現象令人擔憂。
610個Facebook帳號、89個Facebook專頁、156個群組和72個Instagram帳號發布了有關美國的內容,包括特朗普總統彈劾案、保守派意識形態、政治候選人、貿易和宗教等政治新聞和議題。
“這是一個龐大的、肆無忌憚的虛假網絡,擁有不同層級的虛假帳號和自動操作,係統地發布了具有兩個意識形態重點的內容:支持唐納德·特朗普、反對中國政府,”大西洋理事會旗下的數字取證研究實驗室(Atlantic Council’s Digital Forensic Research Lab)主任格雷厄姆·布魯克(Graham Brookie)表示。
該實驗室和另一家研究虛假信息的公司格拉菲卡(Graphika)發布了一份聯合報告,分析了Facebook移除這些帳號的情況。
大紀元媒體集團在發給《紐約時報》的電子郵件中否認它與Facebook所針對的網絡有關,並表示Facebook在發布結論之前未與該公司聯係。
Facebook稱,該網絡背後的人使用人工智能來生成個人資料圖片。他們依靠一種被稱為生成對抗網絡(GAN)的人工智能。這些網絡可以通過一種被稱為機器學習的過程自學,以創建逼真的麵部圖像,即使它們不屬於某個真實的人。
Facebook表示,這些帳號通過混合使用虛假和真實的美國帳號,來管理平台上的專頁和群組,從而掩蓋他們的活動。Facebook說,這些不真實的活動圍繞著一家名為“美麗生活”(The Beauty of Life,簡稱The BL)的媒體展開。11月,事實檢查機構Snopes曾表示,The BL“在Facebook上建立了一個虛假帝國”。
Facebook安全政策負責人納撒尼爾·格萊謝爾(Nathaniel Gleicher)表示,Facebook從7月開始對The BL進行調查,並在今年秋天該網絡變得更加積極地發布信息時加快了努力。他說,Facebook正在繼續調查與The BL相關的“其他連接和網絡”。
Facebook表示,該網絡在Facebook和Instagram的廣告支出不到950萬美元。周五,Facebook表示,The BL將被該社交網絡封禁。
《大紀元時報》和The BL否認彼此有所關聯,但Facebook表示,已經發現該網絡與大紀元媒體集團以及在越南代表其工作的個人之間,存在協作進行發布不真實內容的行為。
大紀元媒體集團在電子郵件中表示,The BL由該公司一名前雇員創立,並雇用了部分前大紀元雇員。該公司表示:“但是,我們某些前員工在The BL工作並不能證明這兩個組織之間存在任何聯係。”
一位Facebook女發言人表示,直到上周五早間,The BL的高管仍是大紀元媒體集團專頁上的活躍管理員。
8月,在NBC報道稱《大紀元時報》掩蓋了它與宣傳特朗普總統和陰謀論內容的Facebook廣告之間的聯係後,Facebook封禁了《大紀元時報》廣告