ChatGPT即將為成人用戶開放驗證過的色情內容

ChatGPT即將為成人用戶開放驗證過的色情內容
0:00
0:00
文章來源: - 新聞取自各大新聞媒體,新聞內容並不代表本網立場!
(被閱讀 次)
OpenAI計劃在其熱門聊天機器人ChatGPT上開放更廣泛的內容,包括色情作品,這是其“將成人用戶視為成年人”(treat adult users like adults)原則的一部分,該公司營運長山姆·阿特曼(Sam Altman,山姆·奧爾特曼)表示。

阿特曼周二在社交媒體X上發文表示,即將推出的熱門聊天機器人版本將使其行為“更像人類”——“但僅限於你想要的情況,而不是因為我們在最大化使用量”。

這一舉措讓人聯想到伊隆·馬斯克 (Elon Musk) 的xAI最近為Grok推出兩個性暗示聊天機器人,可能有助OpenAI吸引更多付費用戶。

這也可能加劇對立法者的壓力,要求對聊天機器人伴侶實施更嚴格的限製。

迄今,OpenAI尚未回應BBC的置評請求。

但阿特曼表示,OpenAI先前對ChatGPT進行了“相當嚴格的限製,以確保我們謹慎處理心理健康問題”。

這些變更於今年8月在一篇部落格文章中宣布,但該文章現已從OpenAI網站上消失。

“我們意識到,這讓許多沒有心理健康問題的用戶覺得產品不夠實用或有趣,但鑒於問題的嚴重性,我們希望先做好這件事,”阿特曼本周二在貼文中解釋。

他又表示ChatGPT很快就能放寬這些限製,“因為我們已經能夠緩解嚴重的精神健康問題,並擁有新工具”。

阿特曼還補充道:“隨著我們更全麵地推出年齡驗證,並作為我們‘將成人用戶視為成人’原則的一部分,我們將在12月允許更多內容,例如為已驗證成人提供色情作品。”

這些變更是在今年稍早OpenAI被一名自殺美國青少年的父母起訴之後做出的。

馬特和瑪麗亞·萊恩(Matt and Maria Raine)夫婦——也是16歲亞當·萊恩(Adam Raine)的父母——對該公司提起訴訟。這是首例指控OpenAI過失致人死亡的法律訴訟。

該家族提供了亞當·萊恩(四月過世)與ChatGPT的聊天記錄,顯示他向機器人解釋自己有自殺念頭。

當時OpenAI向BBC表示,正在審查該訴狀。“我們對萊恩家族在此艱難時刻致以最深切的慰問”,該公司說。

兒童用戶安全疑慮

事實上,根據英國《網路安全法》(Online Safety Act),書麵色情作品無需年齡驗證。

然而,色情圖像(包括AI生成的)則要求用戶證明年滿18歲。

在美國,批評人士認為,OpenAI允許在其平台上發布色情內容的決定表明,聯邦和州一級需要加強監管。

“他們要如何確保兒童無法存取ChatGPT的成人專屬部分,並提供色情內容?”律師事務所“博伊斯·席勒·弗萊克斯納”(Boies Schiller Flexner)合夥人珍妮·金(Jenny Kim)表示。

金女士參與一宗針對Meta(臉書)的訴訟,該訴訟指控該公司Instagram的演算法損害青少年用戶的心理健康:“OpenAI和大多數科技巨頭一樣,隻是在把人們當成小白鼠,”她說。

四月,美國科技博客網站TechCrunch報導稱,OpenAI允許注冊為未成年人的帳戶生成圖像色情內容。

OpenAI當時表示,公司正在推出修複措施,以限製此類內容。

本月由非營利組織“民主與科技中心”(Centre for Democracy and Technology)公布的一項調查研究發現,有5分之1的學生稱他們或他們認識的人曾與AI發展“浪漫關係”。

星期一,加州州長加文·紐森 (Gavin Newsom) 否決了州議會通過的一項法案,該法案原本將禁止開發者向兒童提供AI聊天機器人伴侶,除非公司能保證軟體不會助長有害行為。

紐森在否決附帶訊息中表示,“青少年必須學會如何安全地與人工智慧係統互動”。

在全國層麵,美國聯邦貿易委員會(FTC)已啟動調查,探討AI聊天機器人如何與兒童互動。

上個月,美國參議院提出兩黨立法,允許聊天機器人用戶向開發者提起責任索賠。

為何開放色情內容?

阿特曼周二的宣布,正值懷疑者質疑AI科技公司市值快速上漲之際。

OpenAI的營收正在成長,但從未實現獲利。

《風險投資煉金術》作者、圖蘭大學商業教授羅博·拉爾卡(Rob Lalka)分析,原因主要是AI公司正陷入市場份額之戰。他向BBC解釋“沒有哪家公司像OpenAI的ChatGPT那樣擁有如此高的采用率”。

“他們需要繼續推動那條指數成長曲線,盡可能實現市場主導,”他補充道。