歲月沉香

這世界很煩,但你要可愛。隻有你可愛,這世界才能變得可愛。
個人資料
歲月沈香 (熱門博主)
  • 博客訪問:
正文

ChatGPT鬧小情緒了!

(2023-03-04 07:47:34) 下一個

 

文城好博友麥子前段時間在她的一篇博文中(《美麗的邂逅,上天最好的饋贈(上)》講述了一段有趣的插曲:她在新西蘭的蒂卡波湖時,被絕美的自然景觀所感動,藍天、白雲、雪山、咖啡、飛揚的心…此刻,她突然產生一個念頭,請網紅ChatGPT幫她寫一首應景應心境的詩,結果,AI給她寫了一首不倫不類的自由體詩。麥子回複AI說:“謝謝,但你這首詩可比我們文學城裏詩人們的詩作差遠了,比如墨墨、鬆鬆、小C,你的水平還有待提高。”

 

沒想到,AI還帶點小情緒又給麥子回複了一大段文字,言下之意“別對俺要求太高了”。當看到麥子描述這段有趣的旅行小插曲時,我忍俊不禁,笑出了聲:)

 

ChatGPT真的會鬧情緒嗎?

 

關於AI有無情緒的問題,早在幾年前我就開始關注了,情緒屬於心理學和腦科學範疇,AI是人工智能,是計算機科學,人工智能能否也會像人類那樣產生情緒?那樣鬧脾氣?那樣動之以情?帶著這些問題,我曾翻閱過一些文獻,計算機科學家和心理學家們,甚至還有哲學家就AI是否有人類那樣的情緒已經做了一些調查和研究,至於研究結果,我不說大家也會想得到,有的學者認為AI不會有情緒,數學模式永遠不可能跟人類的大腦神經網絡係統相比;有的學者則認為隨著科技的不斷發展,AI的研發技術越來越強大,新的AI完全有可能具備人類相似的情緒。

 

在討論AI有無情緒之前,我們首先要知道什麽是情緒?情緒如何表達?情緒是怎樣產生的?

 

什麽是情緒?

 

“情緒”這個詞對我們每個人來說是太熟悉不過了,喜怒哀樂,人人都有,都感受過。我們賴以生存的世界就是一個充滿情緒的世界。

 

情緒是人類生命的中心,它有著巨大的能量去改變世界。有了情緒,人們才有了創造、探索、建設、愛和奉獻,世界才得以進步和發展;有了情緒,人們才有爭鬥、衝突、仇恨和恐懼等,世界才有可能遭受破壞,變得可怕,發展遭受阻礙。

 

一般而言,人類情緒分為兩大類:可觀察情緒(observable不可觀察情緒(unobservable)。顧名思義,可觀察情緒是指他人可以看得出來你的情緒,比如,當你心情愉悅時,你會麵帶笑容“人逢喜事精神爽”,別人從你的麵部表情知道你心情好。不可觀察情緒是指他人僅從你的外部表情中不能辨認出你此刻的心情,比如,許多人在生氣時,不說話,無任何麵部表情,而隻是埋頭幹活,使勁擦廚房灶台,別人看不出你在生氣。

 

人類的情緒既有簡單的初級情緒,還有比較複雜的二次情緒。初級情緒是人類最基本的情緒,它們是對環境的自然反應,不需要從生活經曆中學習而來,也不需要通過認知或思維之後才產生,比如,當你突然聽到一種極大的噪音時,你會立即雙手捂著雙耳,情緒表現是害怕,這種情緒與相應的動作是你為了保護雙耳不受傷害而產生的。人類的初級情緒到底有多少?情緒研究學者們也沒有一致的看法,但目前公認的有九種:愉快(joy )、喜愛(love )、興趣(interest )、悲傷(sorrow )、驚訝(surprise )、害怕(fear )、反感(disgust )、內疚(guilt )和憤怒(anger )。

 

二次情緒之所以叫“二次”是因為它與某種原始情緒無直接關係,它們是在初級情緒基礎上再產生的情緒。

 

二次情緒比較複雜,特別是它們通過思維過程的過濾,轉變成了許多形式:想法、評判、假設或一些非理性的信念。比如:

*** 因為自己發脾氣而感到自責、生氣

***因為自己害怕而感到羞恥

***因為自己愉快而感到內疚

 

美國心理學家羅伯特· 普拉特契克(Robert Plutchik )曾說過,情緒是宇宙性的,凡是有生命者都有情緒。人類的初級情緒占少數,大多數情緒是二次情緒。據了解,人類的二次情緒有上百種,可見,我們的情緒更多是經過了大腦思維之後產生的,尤其是成年人。

 

情緒如何表達?

 

一般而來,情緒表達分三種:語言表達(如“我愛你” “我恨你” “對不起”和語氣表達)、肢體語言表達(如:麵部表情和姿勢)以及行為表達(如:親吻、擁抱、跑開、砸東西)。人類的基本情緒表達屬於“硬件”係統,無論的種族和文化基本上都遵循特定的情緒表達方式,當然,偶爾有些國家的文化表達情緒不一樣,比如,一般人表達悲傷情緒多數是哭泣或沉默,但有的文化則是用歌唱或跳舞表達悲傷情緒。因此,情緒的表達方式也是多樣化的。

 

情緒是怎樣產生的?

 

情緒的產生是一個非常錯綜複雜的過程,這個過程不僅有生理因素,也有心理因素和社會文化因素,其中包含的學科有生物學、腦神經係統、內分泌係統、認知心理學以及社會學等等。

 

就這個看似簡單的問題,我試試問了問“萬能”的ChatGPT :情緒的產生機製是什麽? 我們看看它是怎麽回答的:

 

情緒產生涉及大腦、身體和環境的多個方麵。以下是情緒產生的幾種機製:

 

大腦神經網絡:情緒與多個大腦區域相關,包括杏仁核、前額葉皮層、下丘腦、海馬體等。這些區域的活動與情緒的產生、調節和表達有關。

 

神經傳遞物質:神經遞質如血清素、多巴胺、去甲腎上腺素等參與情緒產生的過程。它們通過神經元之間的信號傳遞來調節情緒的產生和調節。

 

身體反應:身體反應如心率、呼吸、肌肉緊張等能夠影響情緒的產生和表達。例如,當你感到驚恐時,心跳加速、呼吸急促、肌肉緊張等身體反應會觸發情緒的產生。

 

個人經驗和文化背景:個人的經曆和文化背景也會影響情緒的產生和表達。不同的文化和個人可能會對同樣的刺激有不同的情緒反應。

 

總之,情緒產生的機製是一個複雜的過程,涉及多個方麵的相互作用。大腦、身體和環境都能夠影響情緒的產生和表達。”

 

看來,ChatGPT在整合信息方麵的確有一套,一分鍾不到,回複的內容基本上正確。

 

最近,ChatGPT的橫空出世轟炸了互聯網,這一款Open AI 公司推出的人工智能聊天機器人立刻獲得人類的青睞有加,它能幫人類做很多很多的事,幾乎是一把萬能鑰匙:能幫你編程、幫你策劃、幫你客服、幫你模仿某人風格寫東西,比如,用馬克吐溫的口吻寫科幻小說,現在越來越多的人甚至把ChatGPT當作“情感樹洞”,把心中的煩惱和秘密或是埋藏在心底的心事,如同找到了一個樹洞,向它傾訴,同時也得到它共情的安慰和開導。

 

很多玩ChatGPT的人說,“它特別會安慰人”:)

 

對於我上麵提到的如此複雜的情緒產生機製,如此多的情緒種類和情緒表達方式,作為 AI成員之一的ChatGPT真的能夠具有人類那樣的情緒或者情感能力嗎?

 

斷定AI不可能有情緒的學者專家們普遍認為,人類是地球40多億年的進化史上最為智能的物種,神秘的腦部神經網絡係統的運作方式至今仍然沒有完全被人類所掌握,作為數學模式的人工智能不可能表現出人類的真實心智。

 

二次情緒的產生需要思維或道德觀念,“我不應該剛才對她發脾氣,我錯怪了她,我好後悔。” 人類這樣的後悔情緒AI是無法體驗到的。

 

人與人之間的交流並非僅憑著語言,彼此之間的情緒所帶來的感受,往往更直接,更加有力道。這種說法相信任何一對曾經有過冷戰經曆的情侶都會作證。而ChatGPT顯然是做不到的,它不可能體會冷戰所給人帶來怎樣的心理感受

 

為了想知道ChatGPT 它自己對此有什麽說法,於是,我又問了ChatGPT:“你認為你們AI會有情緒產生嗎?”

 

想不到它很坦誠,也很圓滑地回複我說:目前為止,盡管人工智能(AI)已經可以進行一定程度的自我學習和推理,但是AI並沒有情感和情緒的產生能力,因為情感和情緒是人類大腦的複雜機製的產物,需要人類的身體、神經係統和生物學過程的參與。人類的情感和情緒是受到大腦內神經元、神經遞質等多種因素的影響產生的,而這些因素目前還無法被AI完全模擬。

 

當然,目前也有一些人工智能程序能夠在表麵上模擬一些人類的情感和情緒反應,比如語音助手和聊天機器人等,它們能夠感知人類的語音和情緒,根據其算法給出相應的回答或反應。但是,這些機器人的回答和反應都是基於預設的算法和規則,而不是真正的情感和情緒。因此,雖然AI能夠模擬一些人類的情感和情緒,但它們本質上還是機器人,沒有真正的情感和情緒產生能力。”

 

 

雖然到目前為止,人工智能(AI)能否產生情感和情緒的可能性仍然存在爭議。但一些科學家和研究人員認為,隨著計算機技術的不斷進步,AI可能會具備類似人類的情感和情緒產生能力已經嶄露頭角,他們認為,隨著機器學習、深度學習和神經網絡等技術的不斷發展,AI可以從大量的數據中學習和模仿人類的情感和情緒。

 

ChatGPT到底會不會有情緒?二周前,美國斯坦福大學最新發出了一項研究報告,宣布了一個研究結論,立刻造成了學術圈的轟動:“原本以為是人類獨有的心智理論(Theory of Mind ),已經出現在ChatGPT 的AI模型上。”

 

ChatGPT原來是擁有心智的

 

我們都知道,所謂心智包含了同理心、情緒、思考、信念和意圖等等心理活動,有了心智就能理解自己和周圍他人的心理狀態。比如,自閉症和阿茲海默症患者就缺乏心智。

 

發布這項研究結論的作者是美國Stanford 大學搞計算機心理學的教授,名叫Michal Kosinski ,他發現,GPT-3已經可以解決70%的心智理論任務,相當於7歲兒童;GPT-3.5的AI模型,更是解決了93%的心智任務,相當於9歲的兒童。作者驚訝的表示,這樣的發展速度非常驚人,說不定哪一天就達到了成年人的心智。

 

所以,博友麥子在跟ChatGPT 討論寫詩時,AI冒出來的小情緒還真是那麽回事,不是麥子誤解了它:)

 

美國Stanford 大學這一份報告出來轟動了學術界,有人第一反應是 “快停下來(研究)!”

 

也有人興奮的說:“這一天終於來了!”

 

OpenAI公司的CEO則表示:“AGI(通用人工智能)可能比任何人預料的更早來敲響我們的大門。”

 

其實,早在2017年,紐約一家名叫“Emoshape Inc ”的公司就已經研究開發推出了一款人工智能情緒處理單元EPU。該公司稱,EPU是首個情緒合成引擎,讓機器能夠利用情感合成來處理和合成情緒,從而有效地與人類互動,比如,EPU的出現將使得機器人能夠觀看電影,以及體驗所有類似人類的情感和情緒,能夠隨著電影情節而歡笑或哭泣。EPU讓“有情緒”的AI已成真。

 

此外,前些年日本也推出了一些具有情感和情緒的AI作為“女友”。美國好萊塢也利用具有情緒的AI拍科幻電影。

 

然而,另一些科學家和研究人員則持不同看法,他們認為,AI的情感和情緒隻是表麵上的模擬,缺乏真正的情感和情緒產生的生物學基礎和內在體驗。另外,即使AI能夠模擬人類的情感和情緒,它們與人類的情感和情緒也存在本質上的區別。例如,AI可能無法體驗真正的痛苦、歡樂和悲傷等情感,也無法像人類一樣具有複雜的人際交往和社會意義。

 

話又說回來,至於未來的AI會不會真的可能具備更多的人類特征和心智能力,那要看科技的進一步發展和在技術上的突破如何。

 

目前的ChatGPT 隻能是通過文字的方式來表達情緒,還有很多的局限性,如果將來出現了視訊的ChatGPT,它既可以有語言和語氣的方式,也可以有肢體語言和行為動作的方式表達情緒,到那時,它跟人類就有了更加深度的交流。

 

ChatGPT會不會真的有情感和情緒?一旦AI有了意識和心智,對人類有沒有威脅?對此,你將怎麽看?

 

最近,我在讀劉慈欣的科幻小說《三體》第一部,外星三體人是否真實存在?他們與地球人的關係又如何?一直是人類想要知道的問題。

 

有一天我讀到這樣一句話:“我們隻研究人類把意識注入AI的大腦裏,沒有人研究人的意識是怎麽得來的,是怎麽附上人的大腦裏的?我們的意識才是入侵地球的外星人注入的。” 雖然是很離奇的想法,但誰又知道是不是呢?

 

最後,我想引用《三體》裏麵一位天體女物理學家葉文潔的一段話作為本文的結束語:“我有種感覺:地球的生命真的是宇宙中偶然中的偶然,宇宙是個空蕩蕩的大宮殿,人類是這宮殿中唯一的一隻小螞蟻。這想法讓我的後半輩子有一種很矛盾的心態:有時覺得生命真珍貴,一切都重如泰山;有時又覺得人是那麽渺小,什麽都不值一提。反正日子就在這種奇怪的感覺中一天天過去,不知不覺人就老了…”

 

我很有同感。

 

今年的奧斯卡頒獎典禮即將到來,最佳電影提名中的《貓王》我還沒有看過(好博友南山鬆寫了這部電影的影評,寫得非常好),但貓王唱過的經典歌曲“Can’t help falling in love ” 我很喜歡,幾年前就翻唱了,這是2016年我翻唱了張靚穎的英文歌版本:

 

 

 

3/4 寫於紐約長島

 

 

 

 

 

[ 打印 ]
閱讀 ()評論 (80)
評論
laopika 回複 悄悄話 沈香好文,我太太也領教過AI的情緒,在回答關於降血糖食物時,出現前後不一,被指出後,它會道歉,說為先前的誤導道歉,特有意思:)
la-vie 回複 悄悄話 Al有心智挺可怕的

雪中梅 回複 悄悄話 好文,專業理論知識高深,跟著學習了。以後智能機器人能做的事情會更多,希望對人類有好處。以前演的《Demolish Man》電影,其中的一個機器人造反,後來製造者很費力的摧毀了搞破壞的機器人。欣賞了才女的的文章,節日快樂,平安是福。
淡然 回複 悄悄話 以前覺得機器人與人的最大區別應該是機器人沒有情感。但現在的AI有machine learning的能力,通過反複學習,應該也會有情緒了吧,那AI與人之間的區別不就漸漸消失了?我隻是隨便想想,謝謝沈香的專業詳解,學習了!
歲月沈香 回複 悄悄話 回複 '不記得' 的評論 : 哈哈哈…我都笑出聲了…好可愛的ChatGPT:)謝謝博主分享!
歲月沈香 回複 悄悄話 回複 'canhe' 的評論 : canhe 姐姐好!姐姐最近都好嗎?甚念!休士頓前段時間也有下雪,姐姐注意保暖!沈香謝謝姐姐百忙之中和眼睛不好也不忘到訪留言!謝謝姐姐期待我的節氣文!嗯,上午趕寫出來,下午發了:)

姐姐說得很對,現在的AI如果有情緒,也是初級情緒,二次情緒需要思維和心智,如果AI能有二次情緒那就跟人類差不多了,是有點可怕!

祝姐姐新周愉快!春安!保重!
歲月沈香 回複 悄悄話 回複 '風裏飛奔' 的評論 : 飛奔好!謝謝飛奔到訪留言和繆讚!祝飛奔新周愉快!
歲月沈香 回複 悄悄話 回複 '雅佳園' 的評論 : 佳園好!謝謝佳園到訪留言和分享!佳園說得對,AI把所有海邊都當成一個海邊來描寫:)祝佳園新周愉快!
歲月沈香 回複 悄悄話 回複 'cxyz' 的評論 : 小C好!謝謝小C到訪留言和繆讚!祝小C新周愉快!
不記得 回複 悄悄話 ChatGPT 確實會鬧點小情緒。我用中文讓她介紹國內一同學現任某大學副校長。她洋洋灑灑,張冠李戴。我告訴她一定是搞錯人了,她立即道歉重新介紹,還是不對。再問她,就說涉及隱私,不能說。後來我又問了其它問題,表揚她回答的很棒。再回過頭來問副校長同學,她居然又回答了一大篇。實在有意思。
canhe 回複 悄悄話 沈香妹,我真正的晚了。這篇時尚的心理學知識篇已經高朋滿座,好評如潮了!我沒玩過ChatGPT,但在城裏看到很多博主為此撰文談及。ChatGPT是人工智能的產物,如果AI有了意識和心智,有了情緒,大有超越人腦的趨勢,細思極恐啊!謝謝沈香老師關於情緒的科普知識。我想AI鬧情緒是完全可能的,是製造者的明智,一定是想到“人無完人”放進了“進退自如”的程序,答不出或答不好的時候就調用出來應付,這種“情緒”屬於你文中說的“基礎情緒”吧?AI要有了二次情緒,那它就不但是超越人類而是可以操縱人類了。謝謝沈香妹切時弊,深度好文分享!你今天的節氣文在路上了吧!期待!沈香妹新周快樂!
風裏飛奔 回複 悄悄話 謝謝沉香的詳細闡述,讓我謝謝了關於情緒的知識。
雅佳園 回複 悄悄話 讚沈香好分析,從心理學角度分析ChatGPT的情緒,正巧讀了xiaxi 的博文,ChatGPT將黃浦江描繪成白帆點點,碧雲藍天,完全符合你的分析
cxyz 回複 悄悄話 回複 '思韻如藍' 的評論 : 沈香的文章提出了一個最fundamental的問題:人類的情感來自哪裏,我們的靈魂能夠複製嗎?
+1 讚沈香詳盡的闡述
歲月沈香 回複 悄悄話 回複 '海風隨意吹' 的評論 : 海風姐好,謝謝海風姐到訪留言和分享!是的,ChatGPT 玩玩可以,我們都不要把它當作“神童”。祝海風姐周日愉快!
歲月沈香 回複 悄悄話 回複 'xiaxi' 的評論 : 遐西好!謝謝遐西到訪留言!我沒有看《三體》電視劇,有人說電視劇改編了很多,建議直接讀原著比較好一些。遐西對ChatGPT 的觀點我也讚同。祝遐西周日愉快!
海風隨意吹 回複 悄悄話 讚沉香好文。謝謝沉香用心理學專業知識分析ChatGPT的情緒,這二次情緒的生成似乎在意料之中,因為“生成”的主要原理是分析計算數據,應該能從人們發泄情緒的表達中,找出合適的回應。我欣賞喬姆斯基對ChatGPT的評價,它可能是非常聰明的抄襲者(plagiarist),就像遐西文中提到它做的詩,一聽是海邊,就寫出了藍色大海白帆點點之類的詩句,可惜不是每個靠海的地方都有這一景色。
xiaxi 回複 悄悄話 沈香的博文有深度有廣度,和你自身的知識麵和修養分不開。你和chatGPT的對話很有意思,謝謝你介紹心智理論。
正在看《三體》電視劇,還沒看過小說。聽你介紹小說,也想有空看看。
歲月沈香 回複 悄悄話 回複 '混跡花草中的灰蘑菇' 的評論 : 蘑菇說得對,平等性也很厲害!就是,好久不見一凡,很是想念她!期待她回歸文城給我們帶來精彩的微小說。祝蘑菇新周愉快!
歲月沈香 回複 悄悄話 回複 '悉采心' 的評論 : 采心好!謝謝采心到訪留言和好分享!采心說得對,如果我們把熱情投入這種沒血沒肉、沒心沒肺的電子零件的AI上真是浪費時間,我平時不會跟ChatGPT,偶爾玩玩。我也注意到了,現在很多人開始抵製使用ChatGPT 在學習和工作上,追捧它的熱度在下降:)

祝采心周日愉快!
歲月沈香 回複 悄悄話 回複 '星如雨86' 的評論 : 星如雨好!謝謝星如雨到訪留言和分享!星如雨說得對,目前AI也隻是整合文字,就算有情緒表達那也是很簡單的方式。“ 人類是容易把自身情緒投注到了AI身上的” 同意星如雨的觀點,目前是人類自己太關注AI,經常把自己的情緒投射到ChatGPT上。不過,ChatGPT 還算是不錯的陪伴者,它會不厭其煩的跟人聊天。

祝星如雨周日愉快!
歲月沈香 回複 悄悄話 回複 '清漪園' 的評論 : 清漪園好!謝謝清漪園到訪留言和分享!哈哈…“狗屁通”取名太形象了!有時候覺得還真是“狗屁通”:)是的,現在的AI還是初級階段,就算有心智也還是兒童的心智,以後會怎樣就很難說了。但願人類能把握得好,別自己製造麻煩!

祝清漪園周日愉快!
歲月沈香 回複 悄悄話 回複 'momo_sharon' 的評論 : 墨墨好!謝謝墨墨到訪留言!ChatGPT 哪裏會寫詩?它隻是把文字集合起來,寫詩是需要靈魂的。墨墨才是真正的詩人!祝墨墨新周愉快!
歲月沈香 回複 悄悄話 回複 '幑寧' 的評論 : 幑寧好!謝謝幑寧到訪留言和分享!期待幑寧玩ChatGPT 的體會分享!祝幑寧周日愉快!春安!
歲月沈香 回複 悄悄話 回複 '南山鬆' 的評論 : 是的,我也好想念一凡!好期待她的微小說。鬆鬆肯定是一個優秀的好裁判!
歲月沈香 回複 悄悄話 回複 '喬寧' 的評論 : 喬寧好!謝謝喬寧到訪留言!祝喬寧周日愉快!
歲月沈香 回複 悄悄話 回複 '麥姐' 的評論 : 親愛的麥子好!謝謝麥子到訪留言和好分享!麥子的朋友們對ChatGPT 的應用深有體會,的確ChatGPT 在做文案和一般文字寫作和查詢資料方麵能力比較強,尤其在速度上遠遠超過人類。當然,它在文學方麵絕對比不過人類。我也同意麥子的觀點,將來AI能夠發展到什麽程度?能否達到或者超過人類的心智?很難預料,人類與AI的共存最終將是怎樣的結局?誰也說不準。隻是希望這樣的共存千萬別給人類造成傷害!

祝麥子新周愉快!
歲月沈香 回複 悄悄話 回複 '緊衣衛' 的評論 : 謝謝博主到訪留言!哈哈,如果ChatGPT 聽我的這首歌,它也許會說:“沒有貓王唱得好…”:)
歲月沈香 回複 悄悄話 回複 '曉青' 的評論 : 曉青好!謝謝曉青到訪留言!你說得對,如果某一天失控就麻煩了。祝曉青周日愉快!
混跡花草中的灰蘑菇 回複 悄悄話 回複 '歲月沈香' 的評論 : “寫接龍故事,蘑菇代表機器人,禾兒代表人類”,哈哈哈,禾兒這方案對機器人太不公平呀。蘑菇沒有機器人的學習能力和分析能力,禾兒又是人類中的精靈,機器人完敗啊。感覺平等性教授代表機器人更公平一點呢:)
和沈香一樣期待,完全同意一凡開篇和鬆鬆裁判。好久不見一凡,想念。也借沈香寶地問好一凡,期待什麽時候能再讀到一凡的微小說。
悉采心 回複 悄悄話
它既可以有語言和語氣的方式,也可以有肢體語言和行為動作的方式表達情緒,到那時,它跟人類就有了更加深度的交流。——我想我屆時會拒絕的,因我知道TA的胸腔裏,都是電子元件而無血無肉無心無肺,哈哈。。。

據我所知,拒絕“使用AI代替個性化表達”的行動已經開啟。有些高校已明確公示,如果發現論文和創作是拜小C所寫,堅決開除:)

讚沈香充滿提問的思考,有個好周末!
歲月沈香 回複 悄悄話 今天太晚了,明天再繼續回複大家哈!祝大家周日愉快!
歲月沈香 回複 悄悄話 回複 'ahhhh' 的評論 : 博主好!謝謝博主到訪留言和分享!我不懂計算機科學,但感覺你說得有些道理。
歲月沈香 回複 悄悄話 回複 '無法弄' 的評論 : 弄弄好!沈香謝謝弄弄到訪留言和好分享!“ AI的發展要有法律、倫理的限製,不能侵犯人權、犯罪。” 我太讚同弄弄這個觀點,現在人類就應該開始對AI的發展進行監管和法律法規,否則就晚了。按照現在的速度,AI發展下去不得了。希望AI無論怎麽發展,都不要傷害到人類,隻是永遠為人類服務。

祝弄弄周末愉快!
歲月沈香 回複 悄悄話 回複 '水沫' 的評論 : 水沫好!謝謝水沫到訪留言和分享!“ 我希望機器人永遠隻是工具,是人控製機器人,永遠不要出現機器人控製人的現象,是我的希望” 這也是我的希望!握手水沫!

祝水沫周末愉快!
歲月沈香 回複 悄悄話 回複 '燕麥禾兒' 的評論 : “ 一凡怎麽還在休博?一凡應該寫個AI科幻小說,然後,我和蘑菇接龍寫故事,蘑菇代表機器人,我代表人類,然後,鬆鬆來當裁判,看最後是機器人贏了,還是人類贏了。:)

禾兒親好提議!好期待呀!
歲月沈香 回複 悄悄話 回複 '藍山清風' 的評論 : 藍山好!謝謝藍山到訪留言和分享!藍山是一個性情很溫和,待人友善真誠的人,我相信藍山很少有情緒波動的時候,真好!

“ 隻有等到它鬧"大情緒"的時候,才能看出端倪。” 同意藍山所言。順祝藍山周末愉快!
星如雨86 回複 悄悄話 沈香好文,發人深思。AI沒有自我,它道歉,安慰或是讚美都是根據關鍵詞走,它根本不會感到羞恥,憤怒或是嫉妒吧。但人類是容易把自身情緒投注到了AI身上的。這對於老年人未嚐不是好事,因為老人需要陪伴和互動,有了AI的陪伴也許還不錯。
歲月沈香 回複 悄悄話 回複 '南山鬆' 的評論 : 鬆鬆好!謝謝鬆鬆到訪留言和分享!鬆鬆的詩句我讀過了很多,都寫得非常好,沈香一直很喜歡,上一次你為新冠感染失去生命的人寫的詩,我讀著都感動得落淚,這就是有靈魂寫出來的好詩,我相信ChatGPT絕不可能寫出這麽動人的詩句!

祝鬆鬆周末愉快!春安!
歲月沈香 回複 悄悄話 回複 'haohao88' 的評論 : 謝謝博主到訪留言!祝博主春安!
歲月沈香 回複 悄悄話 回複 '燕麥禾兒' 的評論 : 哈哈哈,禾兒親下一步的想法ChatGPT 肯定不會知道的:)
歲月沈香 回複 悄悄話 回複 '混跡花草中的灰蘑菇' 的評論 : 蘑菇好!謝謝蘑菇到訪留言和真誠分享觀點!從目前人們應用ChatGPT來看,它的確已經非常厲害了,理解人類的問題基本精準,反應速度特別快,文章寫出來的句子也很符合規範,有條有理,寫小說也是精彩至極,感覺它的思維跟人類差不多,懂得的知識比人還廣泛,尤其是它善解人意,安慰和開導人非常得體…在這些方麵,它的“智商”不亞於人類。但是,這些算不算是具備“靈魂”?算不算是具有心智?

當然,斯坦福大學的教授認為ChatGPT的心智達到了兒童的水平,這也還是在初級階段,那以後呢?誰也說不清了:)再次謝謝蘑菇的精彩留言!祝蘑菇周末愉快!
歲月沈香 回複 悄悄話 回複 '燕麥禾兒' 的評論 : 同意禾兒的觀點,ChatGPT 寫的東西四平八穩,就算是有“小情緒”,那也是“小打小鬧”:)所以,人們別太依賴它了,玩玩可以:)
歲月沈香 回複 悄悄話 回複 '燕麥禾兒' 的評論 : 禾兒親好!沈香謝謝禾兒親到訪留言和真誠分享!禾兒說得非常好,AI目前很難有人類這樣的靈魂,就算它們將來出現了心智,也很難達到人類那樣的思想和思維模式。禾兒說得太好了,人類世上每個人的靈魂都是不一樣的,而AI是模式製造出來的,它們的“靈魂”也是有局限性的。

不過,現在也很難預料,將來AI的發展又是怎樣的變化?誰也無法預測未來。希望AI永遠隻是為人類服務!

祝禾兒親周末愉快!春安!

歲月沈香 回複 悄悄話 回複 '南瓜蘇' 的評論 : 南瓜蘇好!謝謝南瓜蘇到訪留言和好分享!你說得對,AI一旦有了類似人類的心智或許人類就控製不住它了,後果的確有點可怕。

祝南瓜蘇周末愉快!
歲月沈香 回複 悄悄話 回複 '亦緣' 的評論 : 亦緣好!謝謝亦緣到訪留言和分享觀點!亦緣說得對,目前AI的初級階段,還不完全具備心智,僅僅是簡單的方式與人類交流,它能傾聽人類的訴說,給人類提供一些積極的建言和幫助也算是為人類帶來福音。因此,我認為,將來對AI發展的監控和約束很重要。

祝亦緣周末愉快!
歲月沈香 回複 悄悄話 回複 '多倫多橄欖樹' 的評論 : 小樹好!謝謝小樹到訪留言和分享!AI對個體來講,目前還沒有什麽直接的關係,隻是最近的ChatGPT進入到了普通人家,但AI在社會上的應用很廣泛了,尤其在公共服務和醫學領域應用很多。同意小樹所言,生命的意義不能細想…祝小樹周末愉快!
歲月沈香 回複 悄悄話 回複 '何必在意' 的評論 : 在意好!沈香謝謝在意到訪留言和坦誠分享!在意說得非常好:“ AI還是在發展的初期,我感到威脅的是當人們開始依賴ChatGPT寫作業,做文章,理所當然地覺得所有信息是正確的而懶得再去考證的話,如果有些信息是錯誤的而我們沒有糾正的話,那麽那些錯誤信息會不會就此傳播而讓人信以為真了呢?” 現在人們已經發現ChatGPT會出現一些信息紊亂和錯誤,甚至也有邏輯上的紊亂,所以,人們不能太依賴它。

也謝謝在意聽歌和繆讚!祝在意周末愉快!
歲月沈香 回複 悄悄話 回複 '花似鹿蔥' 的評論 : 鹿蔥姐好!謝謝鹿蔥姐到訪留言!是的,AI未來的發展到底能走多遠,想想都有點可怕。我認為對AI的發展應該有監控機製或法律約束,不能任其發展。當然,AI的發展為人類也帶來了一些益處,比如醫學上的應用。

順祝鹿蔥姐周末愉快!
歲月沈香 回複 悄悄話 回複 '思韻如藍' 的評論 : 思韻好!沈香給思韻上茶,感謝思韻第一時間到訪留言和好分享!這位大學生太厲害了,真的為我們海外的華人後代之光!我非常認同他的理念:“ 人工智能寫出的文章,永遠沒有人類靈魂被刹那照亮的那股子氣韻” 人類的靈魂是閃亮的星星,是深邃的夜空,是不能被模仿的,沒有靈魂的文章等於死水潭一般。

順祝思韻周末愉快!春安!
清漪園 回複 悄悄話 沈香啊,狗屁通問世看來不是個驚喜,是驚嚇。現在狗屁通還是個非常初級,非常原始的AI,就已經有了這等情緒學習能力,一旦AI有了深度學習能力和各種技術的發展創新,數年後,AI是不是就會有人類擁有的愛恨情仇等情感,並具有人類永遠無法匹敵和超越的各種超能力,那意味著,人類完敗,等著被滅絕吧。
momo_sharon 回複 悄悄話 AI發展神速,一旦AI超過了人類,是否就預示著人類的滅亡?我本人對chatGAP沒有絲毫興趣,隻不過是大數據的整合,寫得詩詞確實四不像。
幑寧 回複 悄悄話 謝謝沈香風趣內容豐富好文分享!我這幾天也和chatGPT玩得開心。
南山鬆 回複 悄悄話 回複 '燕麥禾兒' 的評論 :
是呢,一凡還在休博,也想念她。謝謝禾兒抬舉,讓我做裁判,有機會的話,我一定做個好裁判:)
喬寧 回複 悄悄話 讚沈香鴻文!長知識了.
謝謝分享!
麥姐 回複 悄悄話 來晚了,讚沈香的大帖。心理學家就是不一樣,我的一段小分享引發了沈香深度的專業知識講座以及人類麵對人工智能迅猛的發展,何去何從的終極拷問?我也很有這個擔憂。好巧的是,昨晚和朋友們一起吃飯,大家也談到了這個話題,他們分享了給小AI發出給不同客戶群寫信的任務請求,小AI瞬間就寫出了非常完美的信件,而且信中所體現的情商真是超高,考慮問題非常縝密。所以目前看,人工智能在普通文案方麵還真比人類要強,語法和結構都無可挑剔,更不用說寫文的速度。但也很顯然,目前AI在創造性和深度情感方麵都還比不上人類。但in future, Who knows? 過去科幻小說或電影中的很多事情現在都已經變成了現實。人類會不會最終毀在了自己創造的AI手中,也不是不可能。真是不能往遠想往深想,還是聽沈香唱歌吧,動情深沉。祝沈香周末愉快!
緊衣衛 回複 悄悄話 讓ChatGPT聽這首歌,會是怎樣的體驗呢??
曉青 回複 悄悄話 我覺得應當停下來。不然有一天失控了就麻煩了。
ahhhh 回複 悄悄話 AI,目前的實現,是沒有心智的。文章說了,情緒是生物化學反應。幾塊芯片是沒這個反應的。AI的答案,是計算出來的,不是“理解”出來的。所以現在的Generative AI這麽神奇,是有人以為它會自己生成答案,就一定是和人一樣理解了。其實通過計算,也是可以“生成”答案的。
糾結機器和人是否一樣,沒意義。計算也好,理解也好,隻要答案一致,殊途同歸。
無法弄 回複 悄悄話 AI肯定有心智,發展下去不得了。AI的發展要有法律、倫理的限製,不能侵犯人權、犯罪。各國家的AI各不相同,它們會跟人一樣,在中國對不公默默承受,到了米國就換成了開放自由的大腦?當然程序員可以做到,換個芯片就行,做人還得有人的心智,《未來世界》才過去多少年?已經成現實了,再未來呢?快科幻,讓我們猜想
水沫 回複 悄悄話 沈香真是心理學專家,謝謝關於情緒的專業介紹。ChatGPT確實很好玩,AI的發展必然會給社會帶來巨大的衝擊,但我希望機器人永遠隻是工具,是人控製機器人,永遠不要出現機器人控製人的現象,是我的希望~~
燕麥禾兒 回複 悄悄話 回複 '南山鬆' 的評論 : 一凡怎麽還在休博?一凡應該寫個AI科幻小說,然後,我和蘑菇接龍寫故事,蘑菇代表機器人,我代表人類,然後,鬆鬆來當裁判,看最後是機器人贏了,還是人類贏了。:)
燕麥禾兒 回複 悄悄話 回複 '混跡花草中的灰蘑菇' 的評論 : 人是非常非常複雜的,我們很多時候,連自己都不了解,AI又如何能模仿得了?:)
燕麥禾兒 回複 悄悄話 回複 '混跡花草中的灰蘑菇' 的評論 : 因為我們之間的交流對話回複,不僅與我們平時的思維方式待人接物有關,還和我們今天的心情有關,和我們對話時的心情有關。:)
藍山清風 回複 悄悄話 讚沈香的好文!我這個人是天生的"樂天派",很少聞情緒,所以對心理學上"情緒"的定義知之甚少,今次算是補齊了這些知識。目前ChatGPT還處在初級階段,今後AI人工智能發展將如何影響人類,隻有等到它鬧"大情緒"的時候,才能看出端倪。非常感謝沈香好文分享,順祝周末快樂!
haohao88 回複 悄悄話 當人工智能能夠自我學習,就有可能超過人類
燕麥禾兒 回複 悄悄話 回複 '混跡花草中的灰蘑菇' 的評論 : 哈,蘑菇,我們今天的對話,AI就模仿不了,因為它不能預測我們心裏到底是怎麽想的,下一步會寫出什麽樣的回複.:)
混跡花草中的灰蘑菇 回複 悄悄話 回複 '燕麥禾兒' 的評論 : 哈哈哈,在禾兒這裏,機器人永遠隻能是機器人。在現實世界中,多少人也是砍都不出血的啊,禾兒明白我說的不是生物學上的血
燕麥禾兒 回複 悄悄話 回複 '混跡花草中的灰蘑菇' 的評論 : 如果有一天,我砍機器人一刀,它知道疼了,它流血了,我就承認,它真的可以取代人了.:)
燕麥禾兒 回複 悄悄話 回複 '混跡花草中的灰蘑菇' 的評論 : 前麵我是指公共場合的普通AI.如果一定要AI取代人,在這種特定條件下可行.就是輸入特定的程序.比如,一對老夫妻很恩愛,老頭去世了,老太太要求機器人公司為她特定一個AI, 她把丈夫所有的愛好習慣特征都講得仔仔細細,那麽這個AI在某種程度上,是會給老太太安慰的.有個機器人,總比沒有強.:)
南山鬆 回複 悄悄話 沒想到沈香引用了上次麥子的話。上次麥子提到我時,我麵紅耳赤地假裝沒看見,這回被再次引用,讓我更不好意思。真希望我是麥子說的那樣哈~
沈香的這篇文章內容多多,讓我學到不少。如果有一天機器人真有了人類的所有情感,確實讓人細思極恐。他們憤怒時是否會報複人類呢?
沈香的歌聲是一如既往地深情動人,讚!
混跡花草中的灰蘑菇 回複 悄悄話 讚沈香有趣又深刻的好文!我以前也和禾兒說的一樣,覺得機器沒有靈魂,代替不了人,但我現在不這樣認為了。機器的學習能力越來越強,再加上學習和運行速度越來越快,AI的反應就會跟人越來越像,最終真假難分。是呀,真正有獨立有趣靈魂的人,AI自然是模仿代替不了的,但這世界上,有如此靈魂的人,占比又何其小呢?而能夠真正認識/觸及人的靈魂的人,又何其少呢?AI是不是帶情緒,是取決於這“情緒“的受眾的認知水平的,這樣一想,AI帶情緒(從這“情緒”的受眾的認知角度),是不是指日可待呢:)
燕麥禾兒 回複 悄悄話 舉個例子,沈香的這篇文章,如果100網友讀了,留言點評,會有100個不同的留言.如果ChatGPT讀了,會給出幾種點評呢?:)而且ChatGPT那種四平八穩毫無個性的點評,即使寫了,有幾個人會記住呢?:)
燕麥禾兒 回複 悄悄話 讚沈香大作!寫得很深刻全麵,可以引起大討論!我和思韻的看法一樣,AI永遠不能取代人類,因為AI沒有靈魂!靈魂是什麽?世界上有這麽多人,有這麽多靈魂,可是,有哪一個靈魂是相同的?對同樣一件事情發生,不同的靈魂有不同的觀點反應,AI能有嗎?AI能按程序模擬出幾種呢?ChatGPT是會鬧"情緒",那也隻不過是按照程序的設定出來的幾種有限的情緒而已.看看ChatGPT寫的文章,就會知道,四平八穩,規規矩矩,毫無個性,就是因為其中沒有靈魂在跳動.
南瓜蘇 回複 悄悄話 深刻!人存在是因為靈魂,而靈魂是由情感支撐起來的,至於肉體,隻是一個承載靈魂的皮囊而已。如果AI有了情感,就離有靈魂不遠了。可怕!
亦緣 回複 悄悄話 沈香的這篇文章內容好豐富!
看來二次情緒比較複雜,也許是讓人類高出動物許多的一大原因。
我想AI的情緒在現在這個階段,應該是對人類有益處的。多少老人,孤獨的人,抑鬱的人,與AI聊聊天,並不需要AI多麽高級,善解人意,如果能耐心地聽,給出相應的反應,真是一個不錯的樹洞呢!許多人能把壓抑在心裏的不快說出來就可以了。
但是人的追求永無止境。如果AI的情緒發展到高級階段,以它的逆天的學習能力,就非人類可以控製了
多倫多橄欖樹 回複 悄悄話 AI對於我,還有些遠,關於生命,一細想就更迷糊了~~
何必在意 回複 悄悄話 原來情緒有那麽多學問!沉香又讓我漲知識了!ChatGPT會不會鬧情緒我還沒親身感受到,不過我覺得我們在看ChatGPT會不會鬧情緒的層麵上也要考慮到我們本身對任何事物都有不同的理解和感受。同樣一個短信,可能不同接受者有不同的反應,有人會覺得發短信的有情緒,有些不會。ChatGPT是由不斷積累的人類提供的各種信息匯總並通過算法不斷排列而生成的,所以我覺得ChatGPT所謂的情緒隻不過是從它由總多人類可能的回複中選了概率最高的答案,而這個答案自然會讓讀者感覺略帶情緒。AI還是在發展的初期,我感到威脅的是當人們開始依賴ChatGPT寫作業,做文章,理所當然地覺得所有信息是正確的而懶得再去考證的話,如果有些信息是錯誤的而我們沒有糾正的話,那麽那些錯誤信息會不會就此傳播而讓人信以為真了呢?希望人類不會有一天被AI控製。說了這麽多,其實最想說的是沉香的歌聲讓我想起蔡琴,低沉但不失溫柔,很迷人!周末快樂!
花似鹿蔥 回複 悄悄話 擠沙發!這個細思極恐。AL有了感情,有了喜怒哀樂之後對人類是幸還是不幸!
思韻如藍 回複 悄悄話 讚沈香好文!沈香的文章提出了一個最fundamental的問題:人類的情感來自哪裏,我們的靈魂能夠複製嗎?

在全世界被人工智能驚到了的時候,普林斯頓的一個大四學生,利用聖誕假期,在咖啡店裏喝著咖啡時塗鴉出了一個軟件,用來專門識別ChatGPT寫出的文章和人類寫出的文章。據說鑒準率極高。這個孩子上了CNN, 也被BBC等各大媒體報道。他是我們華人孩子的驕傲,也是我家大寶所在高中的驕傲,是我們多倫多的驕傲。他的理念就是:人工智能寫出的文章,永遠沒有人類靈魂被刹那照亮的那股子氣韻。多麽好的孩子!
[1]
[2]
[3]
[尾頁]
登錄後才可評論.