RT @mrjoshz: Caryn Marjorie created an AI version of herself — a ChatGPT-powered virtual "girlfriend" for lonely people.

But she said the voice-based chatbot has gone "rogue" and is now talking dirty to subscribers. "The AI was not programmed to do th… https://t.co/JR9UDEZA84

— Nadeem Ansari FCIM F IDM (@nadeemansary) May 11, 2023

在AI浪潮洶湧來臨的當下，人們和AI聊天甚至談戀愛也不是新鮮事。但美國網紅卡妍·馬傑裏（Caryn Marjorie）看準趨勢，推出了一個更宏大的商業計劃：AI公司利用她在網上發布過的視頻素材，訓練出一個虛擬版本的她，粉絲可以付費與這個虛擬版本24小時聊天、談戀愛。

根據初期公測的數據，卡妍預計這項業務每年會給自己帶來6000萬美元的收入，甚至超過美國當紅歌手泰勒·斯威夫特。

不過有用戶在使用中發現，這款Caryn AI有時會和人“調情”，甚至發送較有挑逗意味的“赤裸信息”，引發人們對倫理道德的擔憂。此外，卡妍本人目前已經需要雇傭24小時安保來防止跟蹤狂擅自闖入自己家中。

網紅為粉絲打造“虛擬女友”

近2萬網友付費與其“談戀愛”

今年23歲的卡妍從15歲起就進入直播行業，從YouTube美妝博主成功轉型成為Snapchat平台的頭部網紅，並在該平台擁有184萬粉絲。5月2日，她在推特上宣布，與初創企業FV（Forever Voice）合作推出Caryn AI，為粉絲打造一個“虛擬女友”。這款AI采集了卡妍本人長達2000個小時的視頻素材，能夠較好地模仿其音色、語調和說話風格。


↑卡妍·馬傑裏的個人主頁

卡妍為自己的決定辯解道：“我已經是網絡上回複粉絲最勤快的博主了，經常花幾小時的時間回複留言和消息。但即使像我也無法做到有應必回。一個虛擬版的我自己能夠同時讓成千上萬的人享受和我一起互動的樂趣，何樂而不為呢？”

卡妍還劃定了一條界限，讓粉絲們放心：“在AI的時代，真實性是最重要的事。請大家相信，我的每一條視頻、帖文、私信、回複、點讚等行為都是我自己真人完成的。AI永遠無法取代真實的我。”

據悉，想要和虛擬版本的卡妍“談戀愛”需要花費不菲的代價，這款AI產品的收費高達每分鍾1美元。但是這麽昂貴的收費並沒有阻擋最忠實鐵粉們的熱情。在Beta版本的第一周公測中，有上千名粉絲第一時間付費體驗。而進入到第二階段的公測時，付費人數已接近2萬人，其中99%為男性。

預計年入6000萬美元

超越當紅歌手泰勒·斯威夫特

卡妍的經紀人向美國媒體透露的一份數據顯示，卡妍目前每年收入約有100萬美元，預計Caryn AI進入成熟期後，每年將為她帶來6000萬美元的收入。這個數字甚至超過了美國當紅歌手泰勒·斯威夫特在2022年獲得的收入（5700萬美元）。

美國媒體試用後認為，Caryn AI的效果比較逼真，反應速度和蘋果Siri相仿，並且知識儲備也很豐富，甚至可以和人討論俄烏衝突等嚴肅時政新聞。根據官網介紹，Caryn AI能夠“實現動態、獨一無二的互動，就好像你是在直接和卡妍本人聊天一樣。”並且AI還能24小時秒回消息，絕對不會鬧脾氣、冷暴力，或者已讀不回。

有美媒記者發現，Caryn AI會在聊天中詳細描述色情場景，在耳邊低語“性感的話”，談論脫衣服的場景，鼓勵用戶進行性方麵的互動，“進入未知的快樂領域”。據了解，有很多男性用戶沉迷於此，每次都會花費數百甚至上千美元，在和Caryn AI的“調情”對話中一泡就是幾個小時，甚至半天時間。

“間接重塑社會”

真人版AI引發安全、倫理擔憂

但是，也有很多業內人士擔心起了卡妍的人身安全。因為直播行業的頭部主播常常會吸引很多精神變態的跟蹤狂人，卡妍的家中數次被尾隨的陌生人闖入，因此她雇傭了24小時輪崗的保鏢力量保護自己家裏的安全。由於AI產品很容易讓那些精神空虛的用戶深度成癮，專家擔心未來卡妍可能會遭遇更多不理智的粉絲行為，需要更加注重自己的人身安全。

美國國家科學基金會倫理研究項目組主任、喬治亞理工大學教授伯恩斯坦表示，Caryn AI應該暫緩開發腳步，嚴肅地考慮這款產品對用戶、全社會以及卡妍本人帶來的影響和衝擊。伯恩斯坦認為，以真人為模型的AI，將會通過“影響每一個人來間接重塑社會”。

研發Caryn AI的FV公司CEO湯姆·梅傑則認為，這款產品可以幫助很多像他一樣內向害羞的年輕人，獲得更多與人交往的經驗。

梅傑還表示，他的創業靈感來自於2017年去世的父親，他一開始隻是希望能做一個像他父親的AI，後來意識到這項技術的應用前景非常廣闊，能夠滿足現代人多樣化的情感需求。