社交媒體之戰的下一章將分裂現實、互聯網和你的思想
Splinternet（根據 Grok 定義）：
分裂網絡 (Splinternet) 是指互聯網因政治、文化、技術或商業原因分裂成多個獨立的、通常是孤立的網絡。它描述了互聯網不再是一個統一的全球係統，而是被劃分成不同的“碎片”或子網絡的場景。這種情況可能是由於政府審查製度（例如中國的防火長城）、區域性法規（例如歐盟的《通用數據保護條例》）或科技公司創建圍牆花園（例如蘋果的生態係統）造成的。
該術語強調了這些分歧如何限製普遍獲取信息並創建數字邊界，通常反映了現實世界的地緣政治緊張局勢或在隱私、安全和言論自由方麵的不同價值觀。
埃隆問了一個關鍵問題。這不是黑色幽默或諷刺，而是當今的現實：
現代的機器人農場是什麽樣的？
《 Fast Company 》雜誌最近發表了一篇關於機器人農場的文章，詳細描述了這些自動化係統如何日益複雜，並能夠操縱社交媒體和其他在線平台。據《Fast Company》報道，機器人農場被用來部署數千個模仿人類行為的機器人，通常用於誤導、欺詐或竊取用戶信息。這些機器人農場可以創建虛假的社交媒體互動來推廣虛假的敘事，使想法看起來比實際更受歡迎。
政府、金融界人士和娛樂圈人士利用機器人農場在全球範圍內放大特定的敘事。例如，機器人農場可以用來製造一種假象，讓相當多的人對某個特定話題（例如波動的股票或名人八卦）感到興奮或不安，從而欺騙社交媒體算法，讓這些帖子被更廣泛的受眾看到。
鏈接如下：機器人農場入侵社交媒體，劫持大眾情緒
歡迎來到社交媒體精神控製的世界。通過用虛假言論放大言論自由，你可以麻痹大腦，讓你相信一切。放下你那幸福的無知，吞下紅色藥丸。你即將發現你的思維是如何被現代欺騙大師操控的。
信息灌輸到我們心靈的方式已經自動化了。謊言是過去的問題。今天的問題是利用機器人農場來欺騙社交媒體算法，讓人們相信這些謊言是真的。謊言重複多次就會變成真理。
幾個月前，我有幸與蒂姆·普爾錄製了一期播客，內容涵蓋了MAHA、健康、種子油、穀物和大豆中的幹燥劑汙染物（例如草甘膦（“農達”））以及一係列相關問題。但在我看來，那次訪問最重要的部分並非直播內容，而是隨後漫長的幕後對話。別忘了，去年秋天，吉爾和我發表了一篇可能是迄今為止對新冠危機期間心理戰、審查和宣傳技術運用最權威的分析文章。
因此，我對這個話題有所了解，並定期接受采訪，了解目前“假新聞”、製藥公司、美國政府、世界衛生組織、聯合國和其他各種參與者正在部署的心理戰技術的方方麵麵。
但蒂姆的洞見讓我對吉爾和我書中未涉及的當前形勢有了更深入的了解。尤其是，他提供了關於“小房間”——也被稱為言論自由，但並非觸及範圍（這顯然是一項核心的“X”算法強製執行的政策）——的影響和使用的絕佳案例。但真正拓展我認知的是他對人工智能機器人如何部署的討論。
為了闡明自己的觀點，他首先舉了一位曾與《每日電訊報》有關聯的網紅的例子。為了保護無辜者並降低誹謗訴訟的風險，我將隱去其姓名。這位網紅曾發布過一些內容，對以色列針對2023年10月7日哈馬斯入侵的政策和行動進行了溫和到適度的批評。基本上，這位網紅的言論超越了當時允許公眾就該話題進行討論的“奧弗頓之窗”。社交媒體上的反響迅速，而且非常積極。成千上萬的點讚和新粉絲湧入。
於是，這位網紅感覺自己被觸動了，於是發表了更加尖銳的言論。這些觀點再次在發布這些觀點的網站上引發了積極的反響。在不斷增長的新粉絲的激勵下，這位網紅受到了鼓舞和鼓舞，繼續發聲。然而，在這樣做的過程中，這位網紅卻跨越了被許多人稱為“仇恨言論”的界限。結果，包括《每日電訊報》和其他保守派媒體網站在內的大範圍平台被下架，並遭到了普遍的審查。
事情是這樣的——那些慫恿這位網紅的新“粉絲”大多並非真人。他們是機器人。 這些機器人大軍的成立，就是為了通過宣傳和推進大多數人認為的仇恨言論，讓這位網紅自我貶低。 任務完成了，又一位頗具影響力的保守派人士隕落了。
你能理解嗎？
回顧《Fast Company》的這篇四級警報文章。
機器人農場的放大效應被用來讓社交媒體上的想法看起來比實際更受歡迎。機器人農場由一台計算機控製的成千上萬部智能手機組成。在類似數據中心的設施中，成堆的手機使用虛假的社交媒體賬戶和移動應用程序進行分享和互動。機器人農場會廣播協調一致的點讚、評論和分享，讓很多人看起來對某件事情感到興奮或沮喪，比如波動的股票、全球鬧劇或名人八卦——盡管事實並非如此。
Meta 稱之為“協同虛假行為”。它欺騙社交網絡的算法，讓係統誤以為帖子正在流行，從而將帖子展示給更多人。由於虛假賬號通過了圖靈測試，因此它們逃脫了檢測。
….
“區分真實活動和虛假活動非常困難，” Narravance首席執行官亞當·索恩 (Adam Sohn) 表示。Narravance 是一家社交媒體威脅情報公司，其客戶遍布各大社交網絡。“這對我們來說很難，但我們在這方麵是全球頂尖的公司之一。”
如果世界上領先的社交媒體情報公司之一都難以區分真實賬戶和機器人（尤其是人工智能機器人），那麽如果您認為您可以輕鬆分辨出差異，那您就是在自欺欺人。
《Fast Company》在文章中分享了大蕭條時期曆史上一個令人著迷的故事，其中涉及肯尼迪家族的財富，而我原本以為這些財富隻是來自禁酒令時期的私酒販賣。
扭曲公眾認知並非新鮮事。但在過去，這需要高度人為幹預。就在1929年股市崩盤的幾個月前，肯尼迪的父親約瑟夫·P·肯尼迪通過操縱資本市場致富。他加入了一個由富有投資者組成的秘密交易池，該池利用協同購買和媒體炒作，人為地將美國廣播公司（Radio Corp. of America）的股價推高至天文數字。
此後，肯尼迪和他的富豪朋友們拋售了手中的RCA股票，獲利頗豐，股價暴跌，其他人也都賠得一幹二淨。股市崩盤後，富蘭克林·羅斯福總統任命肯尼迪為美國證券交易委員會首任主席，讓狐狸來管雞舍。
如今，股市操縱者利用機器人農場在Reddit、Discord和X上大量傳播關於“熱門”股票的虛假帖子。機器人網絡的目標信息往往包含股票代碼和一些慣用的俚語，例如“加油”、“逢低買入”、“立即加倉”和“繼續加倉”。這些騙局的幕後黑手自稱是金融影響者，他們通過協調大量的虛擬人物、傀儡和機器人來炒作交易清淡的股票，以便在股價上漲後進行剝頭皮交易，從而賺取數百萬美元的利潤。
Narravance 首席財務官亞當·瓦瑟曼 (Adam Wasserman) 表示：“我們發現很多情況下根本沒有新聞報道。沒有任何技術指標。隻有機器人發布諸如‘這隻股票要漲到天價’和‘最棒的股票，我要從我的 401k 賬戶裏提款了’之類的信息。但他們不是真人。全是假的。”
再讀一遍最後一句話。“他們不是真人。都是假的。”
各位社交媒體和企業媒體的消費者們，請當心。消化這些信息，後果自負。你在那裏遇到的現實都是人為製造的。有些人可能自詡為有影響力的人物，但實際上，所有人都是受害者。真相和現實的構成本身就是受害者。而人工智能驅動的機器人如今正成為編造謊言的主要工具。
如果沒有可靠的信息，我們的想法很可能不如我們的感受重要。正因如此，我們正從批判性思維和基於證據的推理占據核心地位的科學時代倒退到類似愛德華時代的時代，而後者更受情感推理和對權威的尊重所驅動。
Twitter 引入微博時，帶來了解放。我們都認為它是知識放大器。我們目睹它推動了席卷中東和北非的“阿拉伯之春”民主運動，並在密蘇裏州弗格森激起了全國對種族不公的憤怒，為“黑人的命也是命”運動埋下了種子。
當 Twitter 創始人埃文·威廉姆斯和傑克·多西以為自己正在構建一個政治和社會行動的平台時，他們的信任與安全團隊卻被各種謾罵淹沒。“就好像他們從來沒讀過《蠅王》似的。不學文學或曆史的人根本不知道會發生什麽，”科技記者卡拉·斯威舍在CNN 關於 Twitter 的紀錄片《 Breaking the Bird》中說道。
獲得最多點讚、評論和分享的內容都會被放大。那些充滿情感的帖子，能夠吸引最多的參與，會被推到新聞推送的頂部。激怒參與是一種策略。“社交媒體操縱已經變得非常複雜，”紀錄片《十月八日》（October 8）的導演兼製片人溫迪·薩克斯（Wendy Sachs）說道。這部紀錄片講述了10月7日哈馬斯襲擊以色列後第二天爆發的校園抗議活動。“它是由那些試圖分裂美國人民的外國政府出錢資助的。”
惡意攻擊者通過建立機器人程序來製造病毒式傳播，這些機器人程序會在社區內潛伏數月甚至數年，然後才會被激活。這些機器人程序會獲得個人資料照片和個人簡介。其他伎倆包括：將機器人活動錯開到當地時區進行，使用美國設備指紋識別技術（例如將智能手機的內部時鍾設置為虛擬“用戶”居住地的時區），以及將手機語言設置為英語。
利用人工智能驅動的、興趣愛好（例如加密貨幣或狗）的角色，機器人將被設置為關注真實的美國人，並與其他機器人進行交叉互動，以建立可信度。這是一個被稱為“社交圖譜工程”的概念，它涉及滲透到符合某些偏見（例如左翼或右翼政治）的廣泛興趣社群。
….
“機器人賬戶處於休眠狀態，到了一定時間點，它們就會被喚醒，開始同步發帖，這正是我們觀察到的它們實際做的事情，”大西洋理事會數字取證研究實驗室的研究員瓦倫丁·沙特萊 (Valentin Châtelet) 說道。“它們會點讚同一篇帖子，以人為地提高其參與度。”
機器人處理程序構建的工作流程具有足夠的隨機性，使其看起來自然流暢。他們設置機器人隨機轉發或評論帶有特定關鍵詞或主題標簽的熱門帖子，然後算法會根據這些關鍵詞或主題標簽，將機器人的主頁動態個性化，添加類似的帖子。這樣，機器人就可以在主頁動態上發表評論，保持話題性，並更深入地融入社區。
這種工作流程雖然重複，但社交媒體平台的持續更新使機器人活動看起來自然流暢。由於社交媒體平台頻繁更新，編程機器人的活動顯得自然流暢。
軟件機器人會發布垃圾郵件，也稱為複製粘貼，即一段被反複複製粘貼的文本。但“機器人農民”們利用人工智能創作獨特的個性化帖子和評論。通過將 ChatGPT、Gemini 和 Claude 等平台集成到 Make.com 等可視化流程構建平台中，機器人可以使用高級邏輯和條件路徑進行編程，並利用大型語言模型進行深度集成，使其聽起來像一位來自西北部的 35 歲自由主義教師，或一位來自達科他州的“讓美國再次偉大”汽車修理工。
人工智能圖像創作的發展速度遠遠超過了社交網絡算法的進步速度。“社交媒體算法的進化速度還不足以超越機器人和人工智能，”擁有兩個計算機科學高級學位、曾在噴氣推進實驗室（JPL）和蘋果公司工作、目前在 Narravance 領導機器學習的研究員 Pratik Ratadiya 說道。“所以，你會看到一堆賬戶、網紅和政府官員，他們很容易就知道如何鑽係統的空子。在貓捉老鼠的遊戲中，老鼠總是贏。”
以下是之前在《每日來電》中捕獲我們這位影響者的陷阱：
2023年10月7日，哈馬斯對以色列發動致命恐怖襲擊之際，一場由俄羅斯和伊朗機器人網絡協同運作的虛假信息運動在社交媒體上鋪天蓋地地散布虛假信息，聲稱此次襲擊是內部人員所為。X平台上用希伯來語發布的諸如“軍隊裏有叛徒”和“不要相信你的指揮官”之類的帖子，被機器人賬戶的轉發、評論和點讚淹沒。
除了互聯網上自發的親巴勒斯坦情緒外，俄羅斯和伊朗的機器人農場還散布虛假信息，加劇西方國家的分裂。他們的目標是挑起自由派與保守派的對立。他們誇大哈馬斯將衝突定性為民權問題的說法，而不是該恐怖組織的真正目的——即摧毀以色列國、擴張伊斯蘭教法和伊斯蘭原教旨主義。俄羅斯和伊朗參與者精心挑選的社交媒體帖子，往往將巴勒斯坦人完全描繪成受害者，宣揚簡單化的受害者-施害者或殖民者-原住民敘事——這些虛假的二元對立被放大，目的不是為了提供信息，而是為了從內部煽動和分裂民主社會。
機器人農場的擴張效應無法消除。同樣的欺騙性勢力利用機器人農場來推廣關於《紐約時報》一篇報道的帖子，該報道錯誤地將襲擊加沙一家醫院的炸彈事件歸咎於以色列，據報道該事件造成500名巴勒斯坦人死亡。後來發現，爆炸實際上是由聖戰分子發射的火箭彈誤射造成的。《紐約時報》兩次更新了標題。但你無法將欺騙性的大眾影響力重新封存。
就加沙戰爭而言，機器人農場或許並非唯一罪魁禍首。“推特算法相當邪惡，”大西洋理事會加沙專欄作家、分析師兼高級研究員艾哈邁德·福阿德·阿爾哈提卜 (Ahmed Fouad Alkhatib) 表示。“我真的認為它優化了仇恨和分裂，以提升參與度和收入。”或許推特隻是更利於機器人農場的發展？
就親巴勒斯坦的校園抗議活動而言，它們在以色列方麵公布哈馬斯襲擊造成的死亡人數之前就爆發了。怎麽會爆發得這麽快？當時，激進的伊斯蘭恐怖分子仍在以色列境內逍遙法外。電影《十月八日》探討了在自大屠殺以來最大規模的猶太人大屠殺發生後不到24小時，大學校園就轉而反對以色列。
“我們以為網上看到的大多數內容都是真實的。但實際上，我們看到的大多數內容都是騙人的，”Xpoz 董事長兼 AI 創業者 Ori Shaashua 說道，他創辦了多家科技公司。Shaashua 的團隊分析了機器人、虛擬人物和真人的比例。“418 個社交媒體賬戶在兩小時內就產生了 300 萬次瀏覽量，這根本說不通，”Shaashua 說。
結案陳詞
不僅僅是機器人通過大規模放大來玩弄算法。算法也在玩弄我們。我們正被社交媒體潛移默化地操縱。我們心知肚明。但我們仍在繼續瀏覽。
《快公司》，埃裏克·施瓦茲曼
找到線索。你自認為在社交媒體和“假新聞”媒體上體驗到的“現實”是虛構的。你被各種各樣的人操縱著，你認為的“真相”根本不是真相。
警惕那些試圖操控你情緒的刺耳聲音。即使是那些你認為站在你這邊的人。其中許多是由那些試圖操縱你的行為和觀點的公司“讚助”的。
在外麵要小心，忠於自己的靈魂。它或許是唯一阻礙你思考能力和那些被如此積極地鼓吹、試圖讓你屈服於他人意誌的思想和情感的東西。
永遠不要忘記，在第五代戰爭中，爭奪的不再是領土。戰場是爭奪思想控製權。在一場成功的第五代戰爭中，受影響者不應該能夠辨別出是誰在操縱他們。
