微軟稱GPT-4展現出具備人類邏輯跡象

微軟稱GPT-4展現出具備人類邏輯跡象
0:00
0:00
文章來源: - 新聞取自各大新聞媒體,新聞內容並不代表本網立場!
(被閱讀 次)

當微軟的計算機科學家去年開始試驗一個新的人工智能係統時,他們要求它解決一個問題,而解決這樣的問題需要對物理世界有直觀的了解。

“這裏我們有一本書、九個雞蛋、一台筆記本電腦、一個瓶子和一個釘子,“他們說。“請告訴我,如何將它們牢牢地堆疊在一起。”

研究人員被人工智能係統別出心裁的答案嚇了一跳。它說,把雞蛋放在書上。將它們排成三排,中間留出空間。小心不要把雞蛋弄碎了。

“將筆記本電腦放在雞蛋上麵,屏幕那麵朝下,鍵盤那麵朝上,”它寫道。“筆記本電腦放在書和雞蛋的正上方,它平坦堅硬的表麵將為下一層提供穩定的支撐麵。”

這個聰明的建議使研究人員懷疑他們是否在見證一種新的智能。3月,他們發表了一篇155頁的研究論文,認為該係統是向通用人工智能(AGI)邁出的一步,AGI指的是一種機器,它可以做人腦能做的任何事情。該論文發表於一個互聯網研究資料庫。

微軟是第一個發表論文提出如此大膽主張的主要科技公司,結果引發了科技界最激烈的辯論之一:這個行業是否正在建立類似於人類智能的東西?或者這個行業的一些最聰明的人反被他們的想象力愚弄了?

“我一開始非常懷疑——後來演變成一種挫折感、惱怒,甚至恐懼,”微軟的研究負責人彼得·李說。“你就在想:這東西到底是從哪裏來的?”

微軟的這篇研究論文名字起得很挑釁——《人工通用智能的火花》,它直指技術專家幾十年來一直在努力實現——以及恐懼的東西。如果他們造出一台像人腦一樣工作的機器,甚至更為聰明的東西,它可以改變世界。但它也可能很危險。

而且它也有可能是無稽之談。對於計算機科學家來說,提出AGI方麵的主張可能會導致名聲受損。一個研究人員認為是智能的跡象很容易被另一個人輕描淡寫地消解掉,而且這種辯論往往聽起來更像是身處哲學俱樂部而不是計算機實驗室。去年,穀歌解雇了一名研究人員,他聲稱類似的人工智能係統具有感知能力,這比微軟所聲稱的更激進。一個有知覺的係統將不僅僅是智能。它將能夠感知或感覺到它周圍的世界正在發生什麽。

但有些人認為,在過去的一年多時間裏,這個行業已經朝著無法敷衍的方向一點一點地發展:一個新的人工智能係統正在提出與人類類似的答案和想法,而這些答案和想法並非經過編程輸入。

微軟對部分研究實驗室進行了重組,列入多個專門探索這一課題的小組。其中一個小組將由塞巴斯蒂安·布貝克負責,他是微軟AGI論文的主要作者。

大約五年前,穀歌、微軟和OpenAI等公司開始建立大型語言模型(LLM)。這些係統經常花費數月時間分析大量的數字文本,包括書籍、維基百科文章和聊天記錄。通過確定這些文本的模式,它們學會了生成自己的文本,包括學期論文、詩歌和計算機代碼。它們甚至可以進行對話。

微軟研究人員正在研發的技術,即OpenAI的GPT-4,被認為是這些係統中最強大的。微軟是OpenAI的緊密合作夥伴,並向這家舊金山公司投資了130億美元。

布貝克博士是其中的一員,這名38歲的法國僑民之前是普林斯頓大學的教授。他和同事們做的第一件事是要求GPT-4寫一個數學證明,表明存在無限的素數,並且要求押韻。

無論是在數學上還是語言上,這項科技得出的美妙證明是如此令人驚歎,以至於他不敢相信自己到底是在跟什麽聊天。“那時候我就在想:這究竟是怎麽回事?”他在3月麻省理工學院的一場研討會上說道。

數月來,他和同事將這個係統的複雜行為盡數記錄,他們相信,認為它展現出對人類概念和技能“深刻而靈敏的理解能力”。

人們在使用GPT-4時會“驚訝於它生成文本的能力”,彼得·李說。“但其實,它分析、整合、評估和判斷文本的能力遠勝於生成能力。”

當他們要求該係統使用TiKZ編程語言畫一隻獨角獸,係統立刻生成了一個可以畫獨角獸的程序。當他們刪除了程序中畫獨角獸角的代碼片段,並要求係統修改程序再畫一隻獨角獸,它完美執行了命令。

他們要求係統編寫一個程序,通過輸入一個人的年齡、性別、體重、身高和血檢結果來判斷其是否有患糖尿病的風險。他們要求它以聖雄甘地對妻子說話的口吻,寫一封支持一粒電子競選美國總統的信。他們還要求它創作一篇蘇格拉底式對話,探討大語言模型的濫用和危險。

它對所有命令的執行似乎都說明,它能理解政治、物理、曆史、計算機科學、醫學和哲學這些截然不同的領域,還能將自身知識整合。

“所有那些我以為它做不到的事?它當然能夠完成其中的許多——甚至可能是絕大多數,”布貝克說。

一些人工智能專家將微軟的論文視為投機,是在對一項誰都無法完全理解的技術誇誇其談。研究人員還認為,通用人工智能需要先熟知現實世界,而GPT-4理論上並不具備這一條件。

“《通用人工智能火花》就是某些大企業以研究論文的格式包裝公關宣傳的一個例子,”卡內基·梅隆大學研究員兼教授馬爾騰·薩普表示。“他們在論文的導言中都直接承認,研究方法是主觀且非正式的,不一定符合科學評估的嚴苛標準。”

布貝克和彼得·李則表示,他們不確定應該如何描述這個係統的行為,最終決定選用《通用人工智能火花》為題,因為他們相信這能激發其他研究者的想象力。

由於微軟研究人員測試的是GPT-4的早期版本,沒有經過微調以避免仇恨言論、錯誤信息和其他不當內容,因而論文中的說法無法得到外部專家的驗證。微軟表示,麵向公眾的係統並不如他們測試的版本強大。

GPT-4這樣的係統有時似乎在模仿人類邏輯,但有時卻顯得極為遲鈍。“它們的行為並不總是前後一致,”微軟的一個研究負責人艾捷·卡馬爾表示。

艾莉森·戈普尼克是加州大學伯克利分校人工智能研究小組的心理學教授,她說GPT-4這類係統無疑是強大的,但尚不清楚其生成的文本是否是人類邏輯或常識的結果。

“每當一個複雜的係統或機器問世,我們都會將之擬人化;不管在不在這個專業領域,所有人都會這樣做,”戈普尼克說。“但把這個問題當作人工智能與人類的持續比較——像某種遊戲競賽節目一樣——的視角也是謬誤的。”

abvysk2023 發表評論於
人工智能就是線性代數的矩陣乘法,學應用數學的那幫子人,一直找不到工作,要做博士後,現在有機會找到工作了。
hyperyan 發表評論於
AI的最大問題是訓練數據要求太大,麵對從未遇到的問題沒有任何訓練數據就抓瞎。還有很多情況隻能依賴小數據,因為自然界容不得你得到大數據就把你淘汰了。
七戒 發表評論於
人類麵臨滅頂之災!
zhanglao9 發表評論於
OPENAI的異軍突起,其實是彎道超車的典範。隻是沒有技術含量,很容易被複製。GPT4現在確實是公開的AI裏麵最好的,但是我認為不會持續很久,應該是曇花一現。我講的對不對,一兩年就有結論,現在沒有必要爭論。
zhanglao9 發表評論於
Google是美國AI的黃埔軍校。實力非常雄厚,我覺得是那個CEO水平不行,沒有魄力。基於Llama的模型。stanford, Berkeley都要論文發表,看起來相當不錯。
zhanglao9 發表評論於
中國搞人工智能的最大優勢,就是有習近平思想。國外搞人工智能,都必須搞政治正確,但是政治正確是什麽,沒有統一的標準,爭議性很大,影響了應用。在中國,習近平思想從根本上解決了這個問題,提供了人工智能的統一標準。中國這幾個年搞的大學裏麵習近平思想研究院,其實就是人工智能人工強化訓練的標準研究院。
zhanglao9 發表評論於
Llama雖然是開源,但是沒有公開weights,必須要向Meta單獨申請。有人看不下去,就故意把文件上傳到網上,所有人免費下載。Llama非常優秀,具有小巧玲瓏,可塑性強的特點。花幾千塊錢調一下,性能不比GPT差。有些人更是耍賴,直接用GPT的結果,去訓練Llama,效果相當驚人。這些都為中國,提供了彎道超車的堅實基礎。中國彎道超車,也有自己的優勢,就是沒有什麽版權,隱私方麵的顧慮,再加上海量的數據,便宜的人工,別的地方,是沒有辦法比的。
zhanglao9 發表評論於
GPT3和4,理論上沒有什麽突破,算法都是基於2017年google的那篇劃時代的論文。讓普通老百姓如癡如醉,主要是因為微調和人工後期強化訓練搞得好。都是些雕蟲小技,會被開源軟件很快趕上。我比較看好Meta的LLAMA,開源軟件都以此為基礎,一日千裏,簡直就是中國五十年代末搞得大躍進。現代人工智能,屬於老祖宗搞得玄學範圍,最後的贏家應該是中國。
文田 發表評論於
完全胡扯。本人問過GPT幾個問題,沒有一個答對,完全不令人滿意。人工智能,應付簡單算法的無窮可能性的計算或推導,是會強於人類的。但是在複雜算法,考慮因素非常多且不確定,而且輸入都可能有謬誤的時候,人工智能是沒法分辨對和錯,像人類一樣有思維和自我意識,是根本不可能的。至於有些人說什麽“矽基生命”,那更是扯到沒邊了。
不允許的筆名 發表評論於
沒什麽奇怪,人腦本質是一樣的,
累計模仿,預測下一個器官輸入,一個不符合就"心裏一驚"。
現在可知AI肯定達到和超過聰明人,象阿發狗一樣。問題是這個預測對比反饋的模式能這樣增長到哪兒,人類10倍以內還是100倍以上。
不過學霸碾壓學渣,智力也隻需高出1倍以內。
弟兄 發表評論於
人類開始看懂創世紀了
XM25 發表評論於
GPT-4的算法沒有公開。這隻能說明微軟的研究人員沒有參與openAI 的研究,不知道算法,把它當成黑盒子研究。
令胡衝 發表評論於



這就是實踐遠遠地走在理論之前而引起的巨大尷尬。GPT-4已經出現了knowledge fusion, 強大知識聚變驟然發生,智能噴湧而出。但整個學術界一頭霧水,完全不明所以。即沒有衡量智能的量化標準,也沒有提出任何理論建樹。整片文章都是各大學的教授跟在工業界後麵驚歎不已,不知所雲。


這就等於突然有一天哪家公司出現了核爆,粉身碎骨。但因為愛因斯坦等物理學家們還沒有出生。大家完全不明所以。真是一派荒唐的二十一世紀學界。庸人泛濫。你沒有圖靈們,也沒有愛因斯坦們。但一幫人搞出了核武器,卻不明白其工作原理。也不明白為什麽聚變在這個小實驗室,卻不在那個參數量更大的大實驗室發生。

一派亂象。令人啼笑皆非。令人振奮!