正文

現在把ChatGPT獨立用於任何產業都是危險的

(2023-02-12 12:58:40) 下一個

ChatGPT火遍全網,也帶動全社會的高度熱情,隻要和它沾邊的股票都有一番炒作。這個炒作與微軟先後投入數十億美元幹係不淺,當然,這個炒作是否是微軟發起的還未可知。

我好奇做了一個小實驗,結果是:ChatGPT對一個有準確解的簡單問題在不同的時候會提出若幹不同的解答,其中有相當多的答案是錯誤的,表明它目前無法判斷解答的準確性。

結論:現在把ChatGPT獨立用於任何產業都是危險的。

我的試驗是讓ChatGPT求解 x^3 + 1 = 0. 我們從初高中的數學知識都知道這個方程有3個根:-1, 1/2+√3/2 i, 和 1/2-√3/2 i。

1. 第一次ChatGPT被方程x^3+1=0卡住了。

問:What are the roots of x to the power of 3 plus 1?

答:

The equation x^3 + 1 = 0 is a polynomial equation and can be solved using the cubic formula. The roots of this equation can be expressed analytically as follows:

x = (-1 + √[3(i)])^(1/3) , (-1 - √[3(i)])^(1/3)

where i is the imaginary unit, i.e., the square root of -1. These roots are complex numbers and cannot be expressed in terms of real numbers alone. The cubic formula provides a way to find the

卡這了。。。。

 

2. 同樣的問題,後麵幾次它換成了因式分解,但答案仍然是錯的

The roots of the equation x^3 + 1 can be found using various methods, but it is not possible to express them using real numbers only. The roots are complex numbers.

One possible method to find the roots is to factor the polynomial as (x + 1)(x^2 - x + 1), which can be further factored as (x + 1)(x - (1 + i√3))(x - (1 - i√3)).

So the roots of the equation x^3 + 1 are:

  • x = 1 + i√3
  • x = 1 - i√3
  • x = -1.

Note that the roots are complex conjugates of each other, meaning that if x is a root, then its complex conjugate (its "mirror image" across the real axis) is also a root.

3. 重複這個問題十幾次

它可能會給出比較籠統的解答思路,也可能用三角函數解得到正確答案。但是,有一半左右的情況是不正確的答案。這就是危險所在,因為人們或用戶多數時候不是考驗它,而是在向它尋找答案。它給出的答案貌似沒有語言問題,但錯誤的可能性太大了。

如果微軟用這個來做無人駕駛,我肯定不會買。

[ 打印 ]
閱讀 ()評論 (4)
評論
時不時來看看 回複 悄悄話 回複 '新中美' 的評論 : 它就是一個很好的文獻分類AI,但對這些文獻做總結還很不成熟。給出錯誤答案比說不知道的危害大太多。
時不時來看看 回複 悄悄話 回複 'Dalidali' 的評論 : 下棋是無法戰勝AI了,數學上,那是個邊界問題,有接近準確解的數值解,人的大腦無法達到那個計算量。但是,對於沒有邊界的開放問題的解,AI還有不小距離。比如讓它解哥德巴赫猜想,它最多能把計算機能達到的最大素數找到,而無法自己證明那個猜想。
新中美 回複 悄悄話 它的可怕之處在於有人信它,而且把它的答案當成唯一的正確
登錄後才可評論.