個人資料
正文

ChatGPT是個瞎忽悠的老印?

(2023-02-13 15:57:23) 下一個

今天我們團隊的一個博後告訴我一個他覺得驚天動地的想法,要寫篇文章,搞一票大的。我聽了半信半疑,往ChatGPT裏麵敲了進去,發現人家早就有這方麵的工作了!ChatGPT可厲害了,不但寫出一篇總結,還引用了8篇文章。看樣子又是“nothing is new under the sun”,改變世界沒那麽容易。

如果本故事隻到這裏,那就太俗了。精彩的是:我的博後回家去把那些“文獻”一一搜索完畢,發現沒有一篇真的存在,全部是偽造的!我的個天哪,我們學校有個所有研究生第一天必須參加的學術道德(Research Integrity)的課,ChatGPT沒有上過,不知道做學問不能造假。。。

想起來以前審一個老印的項目申請(grant proposal),此人將自己的名字放到一些著名的flagship的大文章裏麵,然後將這些文章放到自己簡曆裏麵。那些文章作者數特別多,一般人也不查。但是我老人家也是那些文章的作者之一,不怎麽記得此人,仔細一查,發現是造假。這種低水平的造假,我都不好意思寫在review comments裏麵,隻好找了些別的原因給他拒了拉倒。不過比這水平高的造假也很多。最常用的就是引用一大些文獻,說這些文獻支持自己的觀點或者提供初步結果(preliminary data),但是實際上這些文獻並沒有說引用者提出的觀點,審稿人沒時間看就糊弄過去了。這麽幹的,印度人居多,偶爾也見到國人,歐裔的絕少。

所以嘛,ChatGPT其實也常常似是而非,我們人類的innovation還是有用武之地的。也千萬不要迷信AI,因為他們也有可能造假!事實上ChatGPT最牛的地方,還是寫文檔,比如申請裏麵的一些需要潤色的內容。有了AI,老印的忽悠被取代的速度,大大超過我們華人(和其他紮紮實實做事情的所有人)被取代的速度!

[ 打印 ]
閱讀 ()評論 (10)
評論
深度思考 回複 悄悄話 ChatGPT主要是language model,不含邏輯推理,所以不是真正意義上的AI。以後專門寫文章介紹。
wenxueOp 回複 悄悄話 巨硬公司裏的印裔比較得勢,不知道OpenAI公司狀況如何?
深度思考 回複 悄悄話 回複 '清漪園' 的評論 : 謝謝關注。答案是沒有辦法。其實現在很多學生的作業也是找槍手做的,懶得管而已。
武勝 回複 悄悄話 別要求那麽高讓人家寫學術論文麽,能通順對話、成文就好,有糊弄之處多多包含。人們對AI太期待。其實能被取代的工作還是機械性較強的那些。
清漪園 回複 悄悄話 教授是如何查出狗屁通ChatGPT的論文造假的?是不是連論文的title都是無中生有造出來的,所以也就無法Google出來了?據說,人類給狗屁通一些關鍵詞,它就能造出相應的一段文字,而這些文字是真正的“無中生有”的,查無實處,請教深度思考教授:今後教授/教師又怎麽能夠得知自己的學生在用AI造假呢?
北美小鎮 回複 悄悄話 這麽說吧,三哥那文章離譜到什麽程度?要是真的,基本可以顛覆現代物理體係了,居然還有人當真送審?
北美小鎮 回複 悄悄話 確實,論忽悠,ChatGPT跟三哥半斤八兩,可人家不用拿工資啊,語氣也比三哥誠懇多了。以後至少打客服電話,不用痛苦的猜測三哥到底在說啥了。三哥論文造假,那可理直氣壯了。我審文的時候一看就發現圖片和數值對不上,委婉說了一下。結果編輯是個棒槌,沒讀懂我的言外之意,還去問三哥,人家死不承認是造假。逼得我隻好直說這玩意不能接收。
michaelusa2 回複 悄悄話 same feeling, if you look carefully on the sentences from chatGPT, it has strong Indian tone (put lots of non-meaningful things together)
京晶 回複 悄悄話 好像真是如此,我猜想ChatGPT的開發團隊裏肯定有很多印度人,要不然它怎麽學會胡說八道不帶臉紅的呢?
想不開1 回複 悄悄話 說的好
登錄後才可評論.