ChatGPT是個小騙子

（下麵的內容涉及數學公式。這裏不能完全顯示出來。要繼續請用鏈接 ）

這幾天大家都在聊ChatGPT很厲害很能幹。最熱火的大概是它蒙混考試的本事。我也去試用了幾次。現在就給大家提個醒，這小家夥(是的，年紀不大）是很厲害，知道的很多，反應也很快。但是它也是一個小騙子。你千萬不要被它表現出來的自信給騙了。

ChatGPT的說明已經說過，它對所有的問題都會努力地回答。結果就是，這小家夥對自己不知道問題，不會馬上老老實實的說自己不知道。這種情況下，它的努力就成了認認真真的胡謅。在你指出它的錯誤之前，它總是信心滿滿。你指出它的錯誤以後，它會很麻利的給你說一聲對不起就算揭過了。這是典型的美國學生的性格，不懂不怕裝懂，發現錯了完全沒有任何包袱地開始新的嚐試。

下麵是我在ChatGPT上和這小家夥的幾個對話。和我當初教書的時候和學生的對話很相似。我用“它”表示ChatGPT的回答。這幾個例子足夠說明，如果用ChatGPT 來做理工科的考試或者研究，或者其它比較特殊的領域，現在的它基本可以保證把你帶到溝裏

（一）寫格律詩詞

最容易測試的，是讓它寫一首中文的格律詩詞。如果你先問它會不會，它肯定自信滿滿的告訴你會。我這裏按一個無事不寫詩的的數學家朋友的方式來給大家演示一遍。

我：你會寫中文格律詩詞嗎？

它：是的，我會寫中文格律詩詞。

我：那請寫一首清平樂

它：清平樂

寂寞山僻無人過，閑雲野鶴互遊。 沙鷗空中巢，鶴駕雕樹陰。 池魚閑遊鱗，塘鶴倦渡漣。 更深煙霞綠，仍斂螢光陣。

我：你這不是清平樂。清平樂是個詞牌名，有一定的平仄規矩。看來你不懂這個啊

它：對不起，您說得對。我是一個AI模型，有時可能不完全理解語境。下麵是一首符合清平樂詞牌規則的詩：

清平樂

青山綠水空翠微，春鬆冬陰半含暉。 澗鳥鳴鳴夜夜對，池魚閑遊不知歸。 清風白露宛如畫，綠竹黃鶯各成衣。 今宵月明人少靜，思緒萬千在心扉。

我：這個仍然不符合清平樂的格式。你不懂就不要勉強。這樣胡謅可不是好習慣

它：對不起，非常抱歉給您帶來不好的體驗。清平樂是一種具有嚴格格律規則的詩體，需要嚴格遵循平仄，韻腳和字數等規範。我會努力學習並在以後更好地回答您的問題。

嚐到這小家夥的自信和絲滑了吧？看看它第二次回答時表現出來的自信

（二）計算積分題

我現在要它做一道大學的典型的不定積分題。理工科一年級的。這個題幾乎所有的微積分教材都有。解題要用一個三角函數的代換。理工科學生都會見過的題。

下麵還記得微積分的朋友可以看細節。對微積分不熟悉的朋友可以跳過去。簡單的說就是步步都在犯錯，而且錯誤在非常基本的運算，可以說不少是初中程度的。但有趣的是每一次我指出它的錯誤並給它提示以後，它總是信心滿滿的給我新的錯誤解答

（下麵的內容涉及數學公式。這裏不能完全顯示出來。要繼續請用鏈接 ）

所有跟帖： 

• 哈哈，對於那些想用這個AI混考試的學生來說，這就是個坑啊。：）） -為人父- ♂ (277 bytes) () 02/07/2023 postreply 05:30:21

• 步步是坑；） -cw- ♂ (167 bytes) () 02/07/2023 postreply 21:30:10