微信:共產主義的衰落孕育OpenAI CEO?

https://mp.weixin.qq.com/s/Kwyk2L62LeHoiG-q0gEeEw

 

我們與AI將走向何方

 CedricAI Cedric聊AI 2023-09-29 20:11 

今天,我將繼續為大家帶來a16z“AI Revolution”活動的深入解讀。今天探討的是OpenAI首席技術官Mira Murati的主題演講——“我們的未來之路”。作為OpenAI的首席技術官,Mira Murati監督了GPT-4和ChatGPT的開發和發布。在這裏,她向Martin Casado講述了ChatGPT發布背後的故事——以及它對AI和人機互動未來的啟示。

Image

Mira的背景

出生於阿爾巴尼亞,共產主義的衰落為她在數學和科學上埋下了興趣的種子。

從理論到實踐,她的職業路徑從理論數學轉向機械工程,最終在特斯拉參與Model X項目。

AI的吸引力引領她從自動駕駛技術轉向增強現實和虛擬現實領域,最終加入OpenAI尋求通用人工智能(AGI)的探索。

Image

數學、物理學和AI

數學和物理學的深度思考培養了Mira解決問題的能力,為她在AI領域的探索提供了基礎。

數學的理論空間和問題解決的規律,對解決AI領域的係統和工程問題具有重要意義。

數學和物理學背景為領域內的領袖提供了獨特的視角,幫助他們在計算機科學和AI領域做出貢獻。

自然語言界麵

ChatGPT的API展示了通過自然語言與AI模型的交互,為編程提供了新的可能。

Mira認為自然語言界麵使編程變得不那麽抽象,也使非專業人士更容易接近這項技術。

ChatGPT的發布,不僅展示了自然語言交互的可能性,還揭示了未來人機交互可能的發展方向,如通過自然語言與AI係統合作,重定義與數字信息的交互方式。

OpenAI的發展路線

ChatGPT的創造是從5年前的安全AI係統思考開始,其目標是使AI係統與人類價值觀一致並獲得人類反饋。

通過人類反饋的強化學習,使AI更有可能做出正確的事情,降低做出不期望行為的可能性。

通過GPT-3的API發布,將安全研究實用化,探索將AI安全係統集成到現實世界的可能性。

從WebGPT項目演變為ChatGPT,認識到對話的重要性,它允許用戶提問,糾正和表達不確定性。

在ChatGPT開發的同時,已經在培育GPT-4,將重心放在GPT-4的對齊和安全性上。

通過將ChatGPT交給研究人員,獲取實時反饋,使GPT-4更對齊,更安全,更穩健。

規模法則

目前沒有證據表明模型擴展將不會得到更好、更強大的模型,但是否能走向AGI仍有待探討。

隨著模型的進一步擴展,可能需要新的突破以從更大的模型中獲得更多好處。

AGI被定義為能夠自主完成大部分智力工作的計算機係統,但目前的技術還處於較低的實習生水平。

當前的挑戰在於提高係統的可靠性,確保係統能夠可靠地執行期望的任務。

即使新能力的可靠性不高,也需要關注這些新能力的發展,以便為未來的可能性做好準備。

一種模型來統治所有嗎?

通用模型的出現可能會類似於CPU的發展,整合不同功能,構成特定的經濟體。

不同的需求可能會催生多種模型,而非僅有一種統治所有的模型,使得設計空間碎片化。

用戶可能需要針對特定用例的模型,OpenAI提供的API能夠滿足從小型到前沿模型的不同需求。

通過平台,用戶可以帶來自己的數據,定製模型,同時也可以在模型之外的層麵定義產品。

接下來的5-10年

基礎模型將從僅僅處理文本,拓展到處理圖像和視頻等多種模態,以更全麵地理解世界。

通過引入人類反饋的強化學習,使模型更可靠地執行用戶的請求。

會加入瀏覽功能,使模型能夠獲取新鮮信息和引用信息,以解決幻覺問題。

在產品層麵,將模型集成為可與人協作的平台和代理集合,以便用戶可以在其上構建。

隨著模型變得更強大,超級對齊將是一個巨大的技術挑戰,需投入大量的工作以確保模型的意圖與人類一致。

Image

明天,我將繼續為大家帶來a16z“AI Revolution”活動的深入解讀。明天我們將探討的是Roblox聯合創始人兼首席執行官David Baszucki主題演講——“AI升級遊戲與虛擬世界”。敬請關注!

參考:

https://a16z.com/where-we-go-from-here/




更多我的博客文章>>>

所有跟帖: 

微信的東西也轉過來?太爛 -voiceofme- 給 voiceofme 發送悄悄話 voiceofme 的博客首頁 (0 bytes) () 11/18/2023 postreply 08:27:43

請您先登陸,再發跟帖!