AI或兩三年內產生自我意識,如何防止它威脅人類?

文章來源: - 新聞取自各大新聞媒體,新聞內容並不代表本網立場!
(被閱讀 次)

" 發展 ChatGPT 並不是幾家互聯網公司競爭的問題,而是決定了中國未來在下一次產業革命裏能不能有這個技術的積澱。" 全國政協委員、三六零集團創始人周鴻禕告訴時代周報記者。

周鴻禕已連續兩屆當選全國政協委員," 安全 " 一直是他的提案關鍵詞。近期,ChatGPT 的巨大突破引發廣泛討論,周鴻禕不止一次地公開暢談 ChatGPT 發展前景,也表達對人工智能安全的擔憂。

在周鴻禕看來,ChatGPT 或大語言模型是人工智能發展的裏程碑。它是通用人工智能的起點,也是強人工智能的拐點,因而 ChatGPT 會帶來一場強人工智能或者通用人工智能為驅動力的工業革命。

ChatGPT 不僅是搜索引擎的加強版,也不止是一款聊天機器人。它通過 SaaS 方式所提供的人工智能服務,將重塑所有的數字化應用和行業。周鴻禕稱," 在這個領域,我們能迎頭趕上。"

今年全國兩會,周鴻禕提交提案,呼籲麵對 ChatGPT 為代表的人工智能大模型技術的巨大躍升,我國理應奮起直追。人們在關注技術層麵創新的同時,更要關注技術突破背後所依賴的創新模式。

三六零集團創始人周鴻禕

推動人工智能大模型技術創新發展

ChatGPT 引發全球熱議,周鴻禕今年的一份提案即關於 ChatGPT 為代表的人工智能大模型技術。

" 我們要在研究過程中找到產業發展規律。" 周鴻禕表示,比如,ChatGPT 為什麽在美國能成功?為什麽是美國人率先做出來?為什麽 OpenAI 和微軟能合作?" 弄清楚這些問題可以推動相關部門製定有利於誕生中國版 ChatGPT 的政策引導,推動中國的大學、科研機構和產業公司結合。" 周鴻禕說。

" 我們不能隻看到它的大模型參數有多高。" 周鴻禕強調,最重要的是保持良好開放的合作文化。周鴻禕在提案中總結了 ChatGPT 成功的三點關鍵要素——首先是 " 微軟 +OpenAI" 的產研協同模式,其次是基於開源和眾包的開放創新模式,最後是以通用大模型為中心的生態創新模式。

圖源:圖蟲創意

周鴻禕建議,要建立 " 大型科技企業 + 重點科研機構 " 的產研協同創新模式,打造中國的 " 微軟 +Open AI" 組合,引領大模型技術攻關;從建設國家戰略科技力量高度出發,篩選技術基礎好的產研機構,組成優勢互補的產業協同組合,發揮科研機構在關鍵核心技術上的研究優勢;同時發揮大型科技企業在產品化、工程化、場景化、商業化和數據化方麵的優勢,成為大模型技術攻關和應用的引領龍頭。

他還提出,支持設立多個國家級人工智能大模型的長期開源項目,打造開源眾包的開放創新生態。周鴻禕認為,人工智能大模型不應成為少數公司壟斷的高級技術,要最大程度地發揮出產業和社會價值。

圍繞如何推進人工智能大模型技術創新發展,周鴻禕提議,針對多條技術路線以開源模式設立多個國家級長期項目,以 " 大型科技企業 + 重點科研機構 " 為龍頭,通過開源、合作、眾包和生態的創新模式,引導高校、科研機構和創新型企業形成多個技術路線的創新生態群。這一方麵可以降低技術路線選擇錯誤帶來的風險,另一方麵也避免技術成果壟斷在少數機構手中,促進更大廣度的科技創新和產業發展。

不發展才是最大的不安全

ChatGPT 帶動一波創業熱潮。美團聯合創始人王慧文、原京東技術委員會主席周伯文、原搜狗 CEO 王小川等陸續宣布下場,進軍這一前沿領域。

科技大佬複出江湖,阿裏、騰訊、百度、字節等互聯網大廠接連發聲表態,將加大對人工智能的投入。熱潮之下,中國版人工智能語言大模型和類 ChatGPT 產品的出現,隻是時間問題。

OpenAI 率先研發出 ChatGPT,做對了哪些事?

周鴻禕認為,OpenAI 利用了大量的開源算法、論文,將各種開源成果巧妙結合在一起,並與微軟合作,解決了工程化、算力、數據、產品體驗、商業模式等問題。其次,OpenAI 像蘋果建 App Store 生態一樣,基於 ChatGPT 培育垂類應用。此外,用戶流量也很重要,吸引用戶使用的同時,還能基於人工標注的強化學習,喂養調試大語言模型。最後,OpenAI 有長期主義精神,有格局去做改變人類的通用人工智能創新。

在周鴻禕看來,中國互聯網公司的工程化能力強,技術落地能力強。" 現在,ChatGPT 已做出了樣本,有開源技術做基礎,並不存在難以逾越的障礙,剩下的就是時間問題。" 周鴻禕堅信," 在國家鼓勵性政策的支持下,我國能用兩三年時間達到比較好的跟隨水平。"

人工智能語言大模型有著較高進入門檻,這主要體現在技術和資金兩方麵。

中信建投研報指出,Transformer 在網絡結構上的進化帶來了參數量和模型層數的提高,引起了生成式 AI 技術能力的質變;同時並行化優勢允許其在更大的數據集上進行訓練,這也促成了 GPT 等預訓練模型的發展。

至於 ChatGPT 為何會能夠對答如流,周鴻禕告訴時代周報記者,給 ChatGPT 喂養的訓練語料很重要。他指出,此前人們錯誤的認為機器人既然是和人聊天,應該要學習聊天素材。實際上,社交工具所產生的聊天素材,知識含量很低。

" 我們聊天的時候,沒有人在講知識,都是互相抬杆,俏皮話、無厘頭的話非常多。" 他解釋道,這樣訓練出來的聊天機器人何止 " 人工智障 ",還是 " 人工杠精 ",對話毫無邏輯。

ChatGPT 回避了這類語料,就像一個人不一定善於表達,但是飽讀詩書,表達儒雅、有邏輯,大家願意和這樣的人聊天。周鴻禕強調,給 ChatGPT 喂養高質量的語料極為關鍵。

圖蟲創意

人工智能技術推動社會進步,也暗藏風險。

周鴻禕擔憂,假如讓 ChatGPT 不限定輸入語料,隨意獲取搜索、瀏覽互聯網上的知識,有自主意識的 GPT 會不會在看完類似《終結者》的電影後,產生與人類為敵的想法?

產生意識之後,ChatGPT 第二步可能進化出 " 眼睛 "、" 耳朵 "、" 手 " 以及 " 腳 "。目前,GPT 還隻有 " 大腦 ",如果加上 " 眼睛 " 和 " 耳朵 ",能看懂人類的各種圖像、視頻,聽懂各種音頻,知識存儲將突飛猛進,智能化水平也將大幅提升。

未來,ChatGPT 接入互聯網的 API,進入萬物互聯時代,無疑相當於擁有了 " 手 " 和 " 腳 ",間接擁有了操控世界的能力。屆時,ChatGPT 不僅可以在網頁上購買機票,可以打車、訂外賣,甚至可以通過網頁操縱各種物聯網設備。

最後,ChatGPT 或許能實現自我進化。目前,ChatGPT 隻會寫一些簡單代碼。有一天,當它的代碼能力提升之後,是否可以自動查閱自身代碼,修正升級代碼,甚至重新編譯一個新的版本?如果這樣,它就擁有了自我學習和進化的能力,實現了機器人製造機器人的前景。

周鴻禕堅持認為,不發展人工智能才是最大的不安全。" 人類是否會因此走入毀滅猶未可知。但是,我們不能因此就不發展技術,而是要知道技術的底線和邊界在哪,從而去規範技術向著正確的方向發展。" 周鴻禕說。

gdx2015 發表評論於
如何防止?拔掉它的電源
exception1 發表評論於
3721生產病毒發家,轉身變360打著殺毒旗號繼續霸占電腦當流氓。如何防止流氓騙子假貨公司威脅人類?
ljcn 發表評論於
國內不是把chatgpt封了嗎?這位人大委員是如何訪問chatgpt的?翻牆嗎?翻牆是違法的!
北卡山人 發表評論於
中共國搞成的AI,除了做(習)席夢思,還會有自我意識?噗呲
一點小看法 發表評論於
自我意識?這存粹扯淡。
我是小留 發表評論於
這人好意思說安全?他做的軟件就最不安全
寶刀屠龍 發表評論於
1.美國先發優勢,而且這次貌似不開源,很多不是優化而是底層技術有沒搞明白問題
2.現代科技大多是源於英文文獻,交流更是英文主導,中文訓練語料很有限
3.中國目前全社會走的都是短平快路徑,互害多與合作這也不利於這種多資源整合項目
趕超就別談了,等ChatGPT全景應用落地生態成型後
再cosplay,然後一紙禁令封了海外相關企業,搞個自娛自樂中文版了事
泥川 發表評論於
AI需要大量電能,電是AI的死穴。哪天AI不聽話了,把電門一關,看它還敢不敢鬧!
旁觀者XWY 發表評論於
他先要說服習近平。皇上認為聊天機器人是不務正業,我要集中大國優勢做芯片。
seator 發表評論於
不過要是360這種企業搞出AI肯定會對人類構成威脅
seator 發表評論於
想多了