美國聯邦通信委員會（FCC）於周四正式宣布，對一名政治顧問處以高達600萬美元的巨額罰款，該顧問因利用人工智能技術在新罕布什爾州撥打虛假機器人電話，模仿美國總統喬·拜登的聲音，企圖誤導選民在民主黨初選中放棄投票，這一行為嚴重違反了FCC的相關規定。
這起案件的主角是路易斯安那州的民主黨政治顧問史蒂文·克萊默。今年5月，克萊默因在新罕布什爾州策劃並執行了這一係列看似來自拜登本人的電話欺詐活動而被起訴。電話中，拜登的“聲音”竟然要求選民在即將到來的選舉中不要投票，這一荒謬行為立即引發了公眾和政界的廣泛譴責。值得注意的是，克萊默曾是拜登在競選中麵臨的主要挑戰者——眾議員迪恩·菲利普斯的幕僚成員，菲利普斯本人也對此類電話行為表示了強烈的譴責。
今年1月，克萊默在接受媒體采訪時透露，他僅花費了500美元就實施了這一計劃，旨在通過實際行動引起公眾對人工智能在競選活動中潛在危險性的高度關注。然而，這一“創意”不僅未能達到預期效果，反而讓他自己陷入了法律的漩渦。
FCC指出，這些電話是利用先進的AI技術生成的深度偽造錄音，其聲音高度逼真，幾乎可以亂真。然而，根據FCC的嚴格規定，傳輸任何不準確的呼叫者ID信息都是嚴格禁止的。FCC已明確要求克萊默在30天內繳納罰款，否則將麵臨司法部采取的進一步法律行動。
對於這一事件，FCC主席Jessica Rosenworcel發表了嚴厲的評論：“如今，利用人工智能克隆聲音、散布虛假聲音和圖像已變得既廉價又容易。這項技術若被非法利用，極有可能非法幹預選舉過程，破壞民主製度的基石。因此，我們必須時刻保持警惕，一旦發現此類欺詐行為，就要毫不猶豫地大聲疾呼，並動用一切可用工具加以阻止。”
此外，值得一提的是，這並非FCC近期首次對類似行為開出罰單。今年8月，另一家公司Lingo Telecom也因在新罕布什爾州傳輸虛假機器人電話而被FCC處以100萬美元的罰款。根據雙方達成的和解協議，Lingo將實施一係列嚴格的合規計劃，確保未來嚴格遵守FCC的來電顯示身份驗證規則。
此外，FCC還在積極推進其他相關監管措施。今年7月，該委員會投票決定要求廣播電台和電視政治廣告明確披露其內容是否由AI生成。這一提案目前仍在審議之中，預計將對未來政治競選活動的透明度產生深遠影響。