隻關心很久以前的事

中國和外國的曆史。可能是真發生過的事,也可能是故事。
個人資料
正文

細思恐極:跟人學,變小狗,小狗咬你三大口

(2024-10-08 18:07:06) 下一個

這是我在上幼兒園還是小學時候聽的兒歌,當時用來笑話小朋友跟人學,沒想到這許多年後,居然變成了這一波人工智能的寫照。

我們都知道,當下最熱門的人工智能的實現方式,是 Generative AI: 給計算機/神經網絡引擎灌輸大量人類已有的文本對話,古今中外,聖哲先賢,讓計算機隻專做一件事:鸚鵡學舌。

於是神奇的事情發生了:我們能想到的任何語境任何場合的任何問題,其他人在其他場合基本都已重複過無數次。計算機隻需要仿照此前類似語境的人的類似回答,重組一下答案,答案不但很靠譜,而且似乎充滿了智慧。

水平還超過百分之八九十的人類的平均值。

跟人學,變小狗,小狗反咬人三大口。

----

我剛來美國讀書的時候,談了個女朋友。有一天我開她的玩笑:“你知不知道孔子有一句名言,唯女子與小人難養也?“

她一點也不生氣,笑著跟我說,”哎呀巧了,夫子一句話把咱倆都說進去了。“

這是我完敗的一次鬥嘴。我對她佩服的五體投地,一直記到今天。雖然其實後來她告訴過我,她以前聽過這個應對。

我講這段故事,隻是想說明,完全的”原創“並沒有那麽重要。我們每個人其實都是在用以前聽到過,看到過,記住了的文字和語言,來重組回答新的情況。

非原創的”學舌“,百分百的可以給聽者‘智慧’,甚至‘天才’的印象。

讀書破萬卷,下筆如有神。AI 讀過而且牢記的,是老莊孔孟李杜白,是 Plato,Aristotle,Dostoyevsky。它說出來的話,想不高大上都很難。

----

我做的行業大概和自動駕駛有點兒關係,不是狹義的 Generative AI。但文生圖,圖生文,Occupancy Networks,等等等等,包括編代碼,寫文檔,業界 AI 忽然用的都是同一套路數。

灌進去海量的人類數據,AI 似乎就‘學會了’。雖然我們不知道它是怎麽學會的。

養過小孩的父母,肯定都知道一種感覺:"How in the world did he/she learn to do THAT?"

AI 最近就常給我這種感覺。

----

所以我覺得,AI 在很多場合全麵碾壓人類,將是已經或者必然的發生。

但讓我害怕的,是人腦也不過就是這樣。

我怕人類不過是在和AI一樣的 重組/Generate ‘新’的 content:所謂的創造力,靈感,情緒,甚至靈魂,都僅僅是恰好重組出很出色的結果。

也就是說,人類不一定是具有靈魂,「(神)照著自己的形像」創造出來的神的兒子,而不過是一個比大猩猩計算量快幾百幾千倍的高級大猩猩。

這才是最讓我害怕的事。

[ 打印 ]
閱讀 ()評論 (7)
評論
木有文化 回複 悄悄話 回複 '清漪園' 的評論 : 馬斯克倒是沒想逃離 AI,隻想有逃離地球的能力。xAI 最近發展神速啊。
木有文化 回複 悄悄話 回複 '羽衣甘藍' 的評論 : 一直有一種說法,笛卡爾是把西方哲學帶偏了的罪魁禍首。完全的唯物論(Single Universal Truth)和完全的唯心論(Nothing is Real)都是極端不可取的,但笛卡爾之後西方哲學就一直是沿著他的思路在走:極端的形而上,完全的個人視角。
木有文化 回複 悄悄話 回複 '556517' 的評論 : 是的,在AI上我們很多是知其然而不知其所以然。不知,也就無法完全控製。
清漪園 回複 悄悄話 不論我們是神的兒子,還是高級大猩猩,苟活地球上的人類已經看到自己的終結了。馬斯克急急忙忙地造飛船希望早日逃離,可是他逃得過AI的速度嗎?
羽衣甘藍 回複 悄悄話 我覺得自我是存在的,但我無法向你證明我的自我意識是存在的。笛卡爾的方法是錯的。
羽衣甘藍 回複 悄悄話 人把自己想像的太神聖了,搞出靈知,魂魄,自我什麽的。但其實人就是大自然的一部分,大腦工作原理和人工智能在原理上是一樣的。
笛卡爾說因為我在思考,所以我有自我意識,其實是不對的。人工智能也會思考,但人工智能就沒有自我意識,說明會思考的不一定有自我意識。所以自我意識是怎麽來的,還是要多研究一下。
556517 回複 悄悄話 最令人類恐懼的不是AI怎麽聰明,而是不知AI怎麽學會的。
登錄後才可評論.