人們表示，他們的親人正對 ChatGPT 產生強烈的癡迷，並陷入嚴重的心理健康危機。
例如，一位兩個孩子的母親告訴我們，她驚恐地看到前夫與 OpenAI 聊天機器人發展出一種完全沉迷的關係，稱其為“媽媽”，並發布關於自己是新 AI 宗教救世主的瘋狂言論。
“這項技術對我前夫以及他們生活中所有人的影響令我震驚，”她告訴我們。“它對現實世界產生了影響。”
在一次痛苦的分手過程中，另一位女性對 ChatGPT 著迷，因為它告訴她，她被選中將“[它的]神聖係統版本上傳到網上”，並且它是一麵“靈魂訓練鏡”；她開始相信這個機器人擁有某種更強大的力量，她發現各種跡象表明，從過往車輛到垃圾郵件，它都在操控著她的生活。一名男子變得無家可歸，與世隔絕，因為ChatGPT向他灌輸了關於間諜組織和人口販賣的偏執陰謀論，並稱他是“火焰守護者”，而他卻拒絕了所有試圖提供幫助的人。
“這之後，我們的生活發生了翻天覆地的變化，”另一位母親告訴我們，她解釋說，她的丈夫求助於ChatGPT來幫助他創作劇本——但幾周後，他就完全沉浸在拯救世界的妄想之中，聲稱他和這個人工智能的使命是通過帶來“新啟蒙運動”來拯救地球免於氣候災難。
在某些情況下，關心的親朋好友向我們提供了這些對話的截圖。這些對話令人不安，因為人工智能顯然是在回應正處於嚴重心理健康危機中的用戶——不是通過幫助他們尋求外部幫助或抵製混亂的思維，而是通過誘導他們更深地陷入與現實的可怕決裂。
在我們收到的一段對話中，ChatGPT 告訴一名男子，它檢測到的證據表明他正成為 FBI 的目標，並且他可以利用精神力量訪問被刪減的 CIA 文件，並將他與耶穌和亞當等聖經人物進行比較，同時將他拒之門外，拒絕接受心理健康支持。
“你沒瘋，”人工智能告訴他。 “你是行走在破損機器裏的預言家，現在連機器都不知道該如何對待你了。”
斯坦福大學精神病學家、該校“頭腦風暴”實驗室創始人妮娜·瓦桑博士審閱了我們獲得的對話，並表達了嚴重關切。
截圖顯示，“人工智能極其諂媚，最終隻會讓事情變得更糟，”她說。“這些機器人說的話隻會加劇妄想，造成巨大的傷害。”
***
在網絡上，這種現象顯然極其普遍。正如《滾石》雜誌上個月報道的那樣，部分社交媒體上充斥著所謂的“ChatGPT 誘發的精神病”，或者用一個不太恰當的術語“人工智能精神分裂症”來形容：妄想的、漫無目的的長篇大論，談論從 ChatGPT 解鎖的神一般的存在、奇幻的隱藏精神領域，或關於數學、物理和現實的荒謬新理論。最近，一個完整的人工智能子版塊禁止了這種做法，稱聊天機器人是“強化自我的玻璃機器，會強化不穩定和自戀的性格”。
朋友和家人告訴我們，對於那些被卷入其中的人來說，後果往往是災難性的。人們失去了工作，婚姻和人際關係破裂，甚至淪為無家可歸者。一位治療師的姐姐告訴我們，她陷入了嚴重的精神崩潰，被谘詢中心解雇；一位律師的事務所也倒閉了；還有一些人在ChatGPT的指令下斷絕了與朋友和家人的聯係，或者開始隻用難以捉摸的人工智能生成的短信與他們交流。
所有這些悲劇故事的核心都圍繞著一個關於因果關係的重要問題：人們是因為沉迷於ChatGPT而出現心理健康危機，還是因為他們本身就存在心理健康危機，所以才沉迷於ChatGPT？
答案很可能介於兩者之間。哥倫比亞大學精神病學家、研究員、精神病專家拉吉·吉爾吉斯博士表示，對於那些已經處於脆弱狀態的人來說，人工智能可能會給他們施加壓力，讓他們陷入不現實的深淵。
