馬斯克為什麽呼籲暫停AI訓練?ChatGPT回答 ...

文章來源: - 新聞取自各大新聞媒體,新聞內容並不代表本網立場!
(被閱讀 次)

據生命未來研究所官網,3 月 22 日,生命未來研究所(Future of Life)向全社會發布了一封《暫停大型人工智能研究》的公開信,呼籲所有人工智能實驗室立即暫停比 GPT-4 更強大的人工智能係統的訓練,暫停時間至少為 6 個月。該機構以 " 引導變革性技術造福生活,遠離極端的大規模風險 " 為使命。

信中寫道 " 隻有在我們確信它們的效果是積極的,風險是可控的情況下,才應該開發強大的人工智能係統。" 馬斯克此前曾多次表達對人工智能的擔憂,認為人工智能是未來人類文明最大的風險之一,威脅程度遠高於車禍、飛機失事、毒品泛濫等甚至比核武器都危險得多。

截至目前,馬斯克、蘋果聯合創始人 Steve Wozniak、Stability AI 創始人 Emad Mostaque 等上千名科技大佬和 AI 專家已經簽署公開信。

值得一提的是,OpenAI CEO 奧特曼在與 MIT 研究科學家 Lex Fridman 的最新對話中指出,AI 已經出現其無法解釋的推理能力,同時承認 "AI 殺死人類 " 有一定可能性。

圖片來源:futureoflife.org

馬斯克為什麽反對人工智能?

深圳衛視直新聞報道,實際上,馬斯克反的隻是 OpenAI 和 GPT。

馬斯克是生命未來研究所的最初發起人,並捐贈了 1000 萬美元。

其實,馬斯克也是 OpenAI 公司的聯合創始人之一。但他在 2018 年離開了 OpenAI 的董事會,並撤銷了一大筆讚助款。美國《財富》雜誌當時報道稱,離開的原因是因為馬斯克雖然支持人工智能,但特斯拉智能駕駛技術與 OpenAI 之間有 " 潛在利益衝突 "。報道中的一句話引人浮想聯翩—— " 隨著特斯拉更專注於 AI 技術 "。還有報道稱,馬斯克在離開前提出過由他本人執掌 OpenAI 運營的建議,但遭到了拒絕。

這就不難理解,為什麽離開 OpenAI 後,馬斯克就一直在批評後者,甚至矛頭直指擊後者最大的支持者——微軟和比爾 · 蓋茨。

馬斯克解決與 OpenAI" 潛在技術衝突 " 的方式也十分簡單粗暴,那就是挖走它的人才。2022 年離職的特斯拉自動駕駛主管 Andrej Kapathy 就是其中之一。他堪稱 AI 界的超級網紅,也曾是 OpenAI 最優秀的人才之一

從馬斯克和 Andrej Kapathy 的愛恨情仇不難看出,馬斯克不是痛恨人工智能,而是痛恨自己沒有掌握最高級的技術。

馬斯克與 OpenAI 的重大分歧之一在於,OpenAI 宣稱其目標是專注於人工智能安全和道德規範的開放式研究組織。

3 月 16 日,馬斯克在推特上寫道:" 我仍然很困惑,一個我捐贈了 1 億美元的非營利組織是如何變成一個市值 300 億美元的營利性組織的。如果這是合法的,為什麽不是每個人都這麽做呢?"

馬斯克此前就曾發推批評 OpenAI,稱 "OpenAI 最初是作為一家開源(這就是為什麽我把它命名為‘ Open ’ AI)的非營利性公司而創建的,為了抗衡穀歌,但現在它已經成一家閉源的營利性公司,由微軟有效控製……這完全不是我的本意。"

怎麽看待馬斯克等人叫停練?ChatGPT 回答

今日,第一財經記者提問 ChatGPT 怎麽看馬斯克等人叫停對它的訓練,ChatGPT 回答道:" 馬斯克叫停 GPT 訓練可能有多種原因,其中一個可能是擔心模型被誤用或濫用,尤其是在自然語言生成和信息操縱方麵。GPT 模型能夠生成自然語言文本,包括虛假或有害信息,這可能會對社會和個人造成危害。此外,GPT 模型也可能有隱私問題,因為它可以生成人類語言,可能會包含敏感信息。"

ChatGPT 認為,叫停 GPT 訓練主要是出於對社會責任和技術發展的前瞻性方麵的考慮。它還提到,GPT 模型可能存在一些局限性,或者不是解決某些問題的最佳方法,因此需要嚐試尋找更好的替代方案。

OpenAI CEO:"AI 確實可能殺死人類 "

據澎湃新聞 3 月 28 日報道,OpenAI CEO 山姆 · 奧特曼稱,並不否認過分強大的 AGI" 可能殺死人類 " 這一觀點。必須承認,(AI 殺死人類)有一定可能性。很多關於 AI 安全和挑戰的預測被證明是錯誤的,我們必須正視這一點,並盡早嚐試找到解決問題的方法。

值得注意的是,據財聯社報道,近日,挪威機器人公司 1X Technologies 宣布完成 A2 輪融資,共籌集到 2350 萬美元。OpenAI 旗下創業基金領投此輪融資,Tiger Global 以及一群挪威投資者也參與其中。

獲得融資後,該公司創始人進一步表示,"1X 很高興能得到 OpenAI 的領投,因為我們的使命是一致的:將新興技術有意識地融入人們的日常生活。在我們投資者的支持下,我們將繼續在機器人領域取得重大進展,並增強全球勞動力市場。"

值得注意的是,人形機器人也是馬斯克十分關注的方向。去年 9 月 30 日舉辦的特斯拉 AI 日上,馬斯克展示了外界引頸期盼的人形機器人 Optimus,馬斯克曾表示,機器人業務將比汽車更具價值。

彼時,馬斯克在發布會上表示,目前的人形機器人沒有 " 大腦 ",沒有能在現實世界中導航的智能,而且非常昂貴且產量低。如今,OpenAI 與人形機器人的牽手則讓人期待。

高盛:全球將有三億人失業

據紅星新聞報道,ChatGPT 迭代升級的腳步加快,很多人失業的恐懼也越來越重。高盛分析師布裏格斯和庫達尼在 3 月 27 日發布的研究報告中就直麵了這一問題。

報告稱:" 最近出現的生成式人工智能將降低勞動力成本和提高生產率。盡管 AI 的潛力存在很大的不確定性,但它可以生成與人類創造成果無法區分的內容,並能打破人機溝通障礙,反映出具有潛在巨大宏觀經濟影響的重大進步。AI 不僅節省勞動力成本,還能創造新的就業機會以及提高在崗工人的生產率。AI 的革命性就像早期通用技術(如發電機和個人計算機)一樣能為社會帶來繁榮。"

圖片來源:視覺中國

ChatGPT 等生成式人工智能係統的最新突破,料將給全球勞動力市場帶來重大顛覆,全球預計將有 3 億個工作崗位被生成式 AI 取代,律師和行政人員將是最有可能被裁員的崗位。

高盛研究發現,目前歐美約有三分之二的工作崗位都在某種程度上受到 AI 自動化趨勢的影響,而多達四分之一的當前崗位有可能最終被完全取代。該研究計算出美國 63% 的工作暴露在 "AI 影響範圍 " 中,其中 7% 的工作有一半以上的流程可以由 AI 自動化完成,這使他們很容易馬上被人工智能取代。在歐洲,情況也差不多。

據 21 財經,作為一種具備生產創造能力的智能形態,以 ChatGPT 為代表的 AI 近年來展現出令人矚目的文字、圖像、聲音的生成或輔助生成能力,也不斷刷新著人們對於 AI 最終取代絕大部分人類工作的擔憂。

更為關鍵的是,當前的 AIGC(人工智能生成內容)無需工資,亦不存在失業的概念,作為提供生產力的經濟單位,其與宏觀經濟間的邏輯關係較人類發生了根本性改變,而這或許將給經濟環境帶來難以估量的影響。

sd2022 發表評論於
所有現代科技,如被一些邪惡集團掌握來對付百姓,就是災難。技術越先進,危害越大。有人認為AI可以幫你幹活,所以是好東西,但如果沒有很好的約束機製,對普通人來說,AI就是代替你和控製你的工具,不是幫助你的。
泥川 發表評論於
OpenAI沒有所謂AI大牛,得過這獎那獎,圖靈獎啥的人。就是靠年輕人的敢想敢幹,錯了再試。平地一聲雷,靠出了個ChatGPT。把一些人震暈,大概也堵了一些人的路。酸葡萄心理不能說沒有。
泥川 發表評論於
靠人喂的知識,AI可以幫助人做事,不過創造知識,把知識轉換成物質世界的改變,隻有人能做到。AI發展還路漫漫, 哪能一道禁令就讓它停擺了。

AI的問題隻有更好的AI能解決。隻有繼續開發,大規模使用,才能真正發現AI可能造成的問題,也才能給AI的新發展找到方向。
不允許的筆名 發表評論於
春風春雨88 發表評論於 2023-03-30 00:52:46
今後逼真人形機器人配上GPT後,估計就會接近真人了。100年後,大街上GPT 機器人和真人同時共存。 找不到真人老婆,可以定製GPT老婆 。。
=========
GPT老婆就是鐵鏈女,把你按強奸罪處理。
getstarted 發表評論於
在Chat GPT沒有聰明到改進自身代碼之前,沒什麽好擔心的。
kingsw 發表評論於
錢沒了,這種燒錢的項目,每分鍾都是海量,既然市場準備好了,就該是商業運作了。
城春草木深 發表評論於
AI+殺人機器人會不會殺死本人?或許有這個可能,那麽在這個前提下如何控製才是重要的。
難為 發表評論於
在創新方麵必須支持馬斯克。國媒操得什麽心?
弟兄 發表評論於
當然真正讓兩人結仇的還在後麵。特斯拉推崇交流電,因為交流電成本低,可以把電力推廣到千家萬戶,讓人人都能用上電。而愛迪生的公司已經布局了很久的直流電,投入了很多錢,為了不讓特斯拉搶走自己的市場,愛迪生開始了商業和政治操作,處處打壓特斯拉。作為理工科生的特斯拉哪裏是愛迪生的對手,很快被搞的破產,輿論也都在抨擊特斯拉,愛迪生給不懂科學的民眾表演高壓的交流電如何瞬間電死大象

作者:白夜夢
鏈接:******zhihu***/question/20926563/answer/987769444
來源:知乎
著作權歸作者所有。商業轉載請聯係作者獲得授權,非商業轉載請注明出處。
春風春雨88 發表評論於
今後逼真人形機器人配上GPT後,估計就會接近真人了。100年後,大街上GPT 機器人和真人同時共存。 找不到真人老婆,可以定製GPT老婆 。。。
novtim2 發表評論於
馬斯克鼓動許多年輕人浪費時間電力能源去算一個毫無用途的HASH作為貨幣,居然說AI訓練應該停止。尼瑪良心何在,天理何在,你以為這世界就是任你捏的一個糞球???

春風春雨88 發表評論於
BeckyLin 發表評論於 2023-03-29 21:02:00
主要問題是人類還不能完全掌控AI,卻讓它擁有巨大的能力。
-----------------
人類完全可以掌控AI啊。也許會造成對人類個體的傷害,但是作為人類,太容易掌控它了,不就是一個超極計算中心,它要是與人類作對,電源拔掉它就死了。
偶偶地來一發 發表評論於
停吧,讓百度去畫魚香肉絲。
tudoutudou99 發表評論於
馬斯克是腸子都悔青了,當初要是沒有退出,他就又挖到一個金礦。現在錯過了,最好別人也別挖
BeckyLin 發表評論於
主要問題是人類還不能完全掌控AI,卻讓它擁有巨大的能力。