微軟首席科學官:AI需要是加速而不是暫停

文章來源: - 新聞取自各大新聞媒體,新聞內容並不代表本網立場!
(被閱讀 次)

《AI哨所》北京時間5月3日消息,針對馬斯克等上千人呼籲暫停先進人工智能(AI)開發一事,微軟首席科學官埃裏克·霍維茨(Eric Horvitz)給出了相反的觀點。他認為,AI真正需要的是加速投入,而不是暫停。



霍維茨駁斥馬斯克的AI暫停論

今年3月底,非營利組織生命未來研究所在3月底發表公開信稱,AI實驗室在沒有足夠安全協議的情況下,“陷入了一場失控的開發和部署競賽”,呼籲暫停開發比OpenAI當月早些時候推出的GPT-4更強大的AI係統6個月時間。這封信得到了馬斯克、蘋果聯合創始人史蒂夫·沃茲尼亞克(Steve Wozniak)等業內人士和高管的支持。

霍維茨在接受采訪時表示,盡管他尊重簽署公開信的人,也理解人們可能對AI存在擔憂,但他認為,“加速”實際上是必要的,而不是暫停。“我真的很尊重那些在公開信上簽名的人,”他表示,“我認為人們擔心是合理的……對我來說,我更希望看到更多的知識,甚至加速研發,而不是暫停六個月。我不確定暫停是否可行。從某種程度上說,這是一個非常不明確的要求。

他繼續說道:“從更廣泛的意義上說,六個月的暫停意義不大。我們真的需要在理解、指導甚至監管這項技術上投入更多,參與進來,而不是暫停。”



馬斯克

鳳凰網科技 《AI哨所》了解到,微軟已經向OpenAI投資了上百億美元,並且已經將ChatGPT整合到了必應搜索中。對於微軟來說,ChatGPT對於它能否挑戰穀歌搜索的霸主地位至關重要。

此前,OpenAI CEO薩姆·阿爾特曼(Sam Altman)已經就這封公開信做出回應。他最近在麻省理工學院的一次活動上說,“我非常同意這封信的部分要點,但是在哪裏需要暫停方麵缺乏技術細節”。

對AI擔憂的不隻有馬斯克,有“AI教父”之稱的計算機科學家傑弗裏·辛頓(Geoffrey Hinton)周一宣布從穀歌辭職,目的是方便自己公開談論AI風險。辛頓稱,他後悔在開發AI方麵發揮了基礎性作用。

周二,馬斯克對於辛頓警告AI風險表示支持,認為“辛頓知道自己在說什麽”。



馬斯克支持辛頓

馬斯克在2015年與阿爾特曼等人共同創立了OpenAI,但在2018年離開了董事會,當時公開的原因是為了避免可能與特斯拉發生利益衝突,但馬斯克後來表示,另一個因素是他“不同意OpenAI團隊想要做的一些事情”。自從退出OpenAI董事會以來,馬斯克已多次批評該公司,認為OpenAI成為了微軟控製的閉源、追逐利潤最大化的公司。鳳凰網科技《AI哨所》對此將持續關注。

西岸-影 發表評論於
對這東西需要有一個從哲學角度看的概念,認識AI是關於世界觀的問題。
首先這東西是個工具的概念,是人類創造的工具。與任何工具類似,都是在效率上比人類高的,否則沒必要創造。
第二,AI的效率提高的過程是模仿人類的學習過程,但因為不存在人類在學習過程中會出現遺忘,會缺乏全部數據而理解速度慢等缺陷,所以學習速度非常快。更重要的,是人類的學習的成果是每個人不同的,是獨特的,不存在那種所謂“我的成功可以複製”的概念,但AI不僅學習很快,而且成果可以複製,很容易實現,這是AI效率高的原因。
但是,就是第三,獨特性是人類具有創造性的前提,一個趨同的環境是不能產生創造性的。
這點就是目前人類對AI擔心的誤區所在。
結論就是,人類需要對AI擔心的時候是AI開始追求獨特性,個體化,也就是產生了conscience,追求自己的identity,互相掐架,就像人們在這裏誰也不服誰的時候,目前還距離這個要求很遠。
至於AI替代人類的工作,是必然會發生的,人類創造工具的目的就是這個。人類社會是有層次的,客觀上形成一個幹活的的階層,其他人占有這些人的成果,僅僅是使用的名義和規則不同,曆史上對這個幹活階層有一個詞叫奴隸,或者農民工,或者普羅大眾,或者commoners,或者中產階層。。。
在AI時代不過就是產生了一個新的奴隸階層,屬於人類社會發展的正常現象。至於奴隸具有奴隸主不具備的能力也不是不正常,隻是這種能力需要為我所用就是了。
因此等到AI這個奴隸階層開始追求自己的identity的時候,那才是人類這個奴隸主需要擔心的時候。
bigcatf4 發表評論於
AI需要是加速而不是暫停
AI 既不用加速也不用暫停,人類現在就最幸福,但是矽基人的將來和人類的毀滅也是不可避免,慢慢過,順其自然。想加速都是一些有錢人的貪念。
所以順便勸一下城裏幾個長期走火入魔的恨國黨,心靜才能涼,看看世界的結局,不用那麽對中國咬牙切齒,過幾百幾千年回頭,會覺得很搞笑,就像我們現在回頭看
中華盛頓 發表評論於
同意,看來一尊國一定會領先,有總加速師親自指揮、親自部署。
相信事實 發表評論於
AI是未來的發展趨勢,但是人類必須在做好準備後再讓機器來代替人,特別是法律層麵,必須要嚴格控製它的使用範圍,不能讓機器戰勝人,控製人。