https://mp.weixin.qq.com/s/Kwyk2L62LeHoiG-q0gEeEw
我們與AI將走向何方
今天，我將繼續為大家帶來a16z“AI Revolution”活動的深入解讀。今天探討的是OpenAI首席技術官Mira Murati的主題演講——“我們的未來之路”。作為OpenAI的首席技術官，Mira Murati監督了GPT-4和ChatGPT的開發和發布。在這裏，她向Martin Casado講述了ChatGPT發布背後的故事——以及它對AI和人機互動未來的啟示。
出生於阿爾巴尼亞，共產主義的衰落為她在數學和科學上埋下了興趣的種子。
從理論到實踐，她的職業路徑從理論數學轉向機械工程，最終在特斯拉參與Model X項目。
AI的吸引力引領她從自動駕駛技術轉向增強現實和虛擬現實領域，最終加入OpenAI尋求通用人工智能（AGI）的探索。
數學、物理學和AI
數學和物理學的深度思考培養了Mira解決問題的能力，為她在AI領域的探索提供了基礎。
數學的理論空間和問題解決的規律，對解決AI領域的係統和工程問題具有重要意義。
數學和物理學背景為領域內的領袖提供了獨特的視角，幫助他們在計算機科學和AI領域做出貢獻。
自然語言界麵
ChatGPT的API展示了通過自然語言與AI模型的交互，為編程提供了新的可能。
Mira認為自然語言界麵使編程變得不那麽抽象，也使非專業人士更容易接近這項技術。
ChatGPT的發布，不僅展示了自然語言交互的可能性，還揭示了未來人機交互可能的發展方向，如通過自然語言與AI係統合作，重定義與數字信息的交互方式。
OpenAI的發展路線
ChatGPT的創造是從5年前的安全AI係統思考開始，其目標是使AI係統與人類價值觀一致並獲得人類反饋。
通過人類反饋的強化學習，使AI更有可能做出正確的事情，降低做出不期望行為的可能性。
通過GPT-3的API發布，將安全研究實用化，探索將AI安全係統集成到現實世界的可能性。
從WebGPT項目演變為ChatGPT，認識到對話的重要性，它允許用戶提問，糾正和表達不確定性。
在ChatGPT開發的同時，已經在培育GPT-4，將重心放在GPT-4的對齊和安全性上。
通過將ChatGPT交給研究人員，獲取實時反饋，使GPT-4更對齊，更安全，更穩健。
規模法則
目前沒有證據表明模型擴展將不會得到更好、更強大的模型，但是否能走向AGI仍有待探討。
隨著模型的進一步擴展，可能需要新的突破以從更大的模型中獲得更多好處。
AGI被定義為能夠自主完成大部分智力工作的計算機係統，但目前的技術還處於較低的實習生水平。
當前的挑戰在於提高係統的可靠性，確保係統能夠可靠地執行期望的任務。
即使新能力的可靠性不高，也需要關注這些新能力的發展，以便為未來的可能性做好準備。
一種模型來統治所有嗎？
通用模型的出現可能會類似於CPU的發展，整合不同功能，構成特定的經濟體。
不同的需求可能會催生多種模型，而非僅有一種統治所有的模型，使得設計空間碎片化。
用戶可能需要針對特定用例的模型，OpenAI提供的API能夠滿足從小型到前沿模型的不同需求。
通過平台，用戶可以帶來自己的數據，定製模型，同時也可以在模型之外的層麵定義產品。
接下來的5-10年
基礎模型將從僅僅處理文本，拓展到處理圖像和視頻等多種模態，以更全麵地理解世界。
通過引入人類反饋的強化學習，使模型更可靠地執行用戶的請求。
會加入瀏覽功能，使模型能夠獲取新鮮信息和引用信息，以解決幻覺問題。
在產品層麵，將模型集成為可與人協作的平台和代理集合，以便用戶可以在其上構建。
隨著模型變得更強大，超級對齊將是一個巨大的技術挑戰，需投入大量的工作以確保模型的意圖與人類一致。
明天，我將繼續為大家帶來a16z“AI Revolution”活動的深入解讀。明天我們將探討的是Roblox聯合創始人兼首席執行官David Baszucki主題演講——“AI升級遊戲與虛擬世界”。敬請關注！
參考：
https://a16z.com/where-we-go-from-here/
更多我的博客文章>>>
